Weryfikowanie jakości analizatora dokumentów z ufnością, uziemienia i oznaczonych etykietami próbek

Przetwarzanie dokumentów bez struktury (takich jak umowy i oświadczenia o pracy) lub dokumentów ustrukturyzowanych (takich jak faktury i formularze ubezpieczeniowe) ma kluczowe znaczenie dla inteligentnych przepływów pracy przetwarzania dokumentów (IDP) i scenariuszy generowania rozszerzonego pobierania (RAG). Niezawodne wyodrębnianie danych na dużą skalę wymaga więcej niż wyodrębniania tekstu.

W przypadku wysokiej jakości automatyzacji często trzeba wiedzieć, co zostało wyodrębnione, skąd pochodzi, czy pasuje do intencji i jak niezawodne jest wyodrębnienie.

Większość przedsiębiorstw napotyka następujące wyzwania podczas obsługi różnych dokumentów na dużą skalę:

  • Należy zautomatyzować przepływy pracy, ale tylko wtedy, gdy wyodrębnianie spełnia próg dokładności wymagany dla aplikacji biznesowej. Musisz wiedzieć, jak pewny/dokładny jest analizator w jego wynikach.
  • Należy zweryfikować źródła wyodrębnionych danych, aby zapewnić prawidłowe odniesienie. Gdy wyniki pewności są niższe niż oczekiwane, szybko zweryfikuj rezultaty, przeglądając konkretne miejsce w dokumencie.
  • W idealnym przypadku należy wymagać sposobów poprawy jakości wyników analizatora (dostarczając kilka przykładów oznaczonych etykietami), gdy wystąpi problem lub napotka nowy format z niższym niż oczekiwano współczynnikiem ufności.

Usługa Azure Content Understanding w narzędziach Foundry udostępnia kluczowe funkcje do przetwarzania wyodrębnionych danych wyjściowych.

Funkcja Przeznaczenie Wartość
Ocenianie ufności Kwantyfikuje pewność analizatora w każdym przewidywaniu za pomocą współczynników ufności. Włącza STP (przetwarzanie bezpośrednie)
Uziemienie Zapewnia odwołania/cytaty dla każdego wyodrębnionego wyniku w treści oryginalnego dokumentu. Zapewnia możliwość śledzenia, zgodność i zaufanie użytkowników
Przykłady z etykietami Udostępnia poprawione przykładowe dokumenty, które pokazują analizatora odpowiednie wartości, układy, terminologię i konwencje domeny. Trenowanie oznaczone etykietami jest dostępne w interfejsach API ogólnodostępnych i w wersji zapoznawczej; zoptymalizowane trenowanie i brak danych oznaczonych etykietami środowiska uruchomieniowego są możliwościami w wersji zapoznawczej. Szybko dostosowuje się do nowych formatów lub przypadków brzegowych

Uwaga / Notatka

W przypadku 2025-11-01 ga i 2026-06-01-preview interfejsów API współczynniki ufności i uziemienia są dostępne dla wszystkich typów pól dokumentu (extract, classify, i generate metod).

Dowiedz się więcej o tych funkcjach poniżej.

Ocenianie ufności: Automatyzowanie za pomocą kontrolki

Każde pole może zawierać współczynnik ufności z zakresu od 0 do 1, który wskazuje, jak pewny jest analizator co do wyniku. Użyj tej wartości, aby zautomatyzować wyniki o wysokiej pewności i kierować wyniki niskiej ufności do przeglądu przez człowieka.

Włącz współczynniki ufności dla wszystkich pól (lub określonych pól) przy użyciu estimateFieldSourceAndConfidence właściwości . Dowiedz się więcej o konfigurowaniu współczynników ufności dla analizatorów.

Dlaczego wyniki ufności mają znaczenie

Współczynniki ufności umożliwiają projektowanie przepływów pracy, takich jak:

  • Automatyczne zatwierdzanie wyodrębnionych danych, gdy pewność przekracza zdefiniowany próg, aby efektywnie zautomatyzować zadania przetwarzania dokumentów.
  • Optymalizacja alokacji zasobów poprzez zmniejszenie kosztów operacyjnych i wykorzystanie przeglądu z udziałem ludzi dla krytycznych aspektów.
  • Odrzucanie lub oznaczanie ekstrakcji, które są poniżej określonego progu wymagającego interwencji ręcznej, co zwiększa dokładność podejmowania decyzji.

Example

Przetwarzasz zeskanowane rachunki za usługi komunalne w celu wyodrębnienia adresu rozliczeniowego i należnej kwoty. W przypadku dokumentu:

  • Adres rozliczeniowy: "1234 Market St., San Francisco, CA" → Pewność: 0,96
  • Kwota należna: "$128.74" → Pewność: 0,52

W takim przypadku przepływ automatyzacji może wysłać adres rozliczeniowy bezpośrednio do aplikacji podrzędnej, podczas gdy kwota do zapłaty jest kierowana do człowieka do weryfikacji. Dzięki zastosowaniu współczynników ufności można zmniejszyć nakład pracy ręcznej przy zachowaniu dokładności.

Śledzenie: śledź każdy wynik do jego pochodzenia

Uziemienie gwarantuje, że każde pole, odpowiedź lub klasyfikacja zawiera odwołanie do oryginalnej lokalizacji w dokumencie. Obejmuje to informacje o źródle (numer strony i współrzędne przestrzenne) oraz zakresy (przesunięcie i długość).

Dlaczego podstawy mają znaczenie

W przepływach pracy przedsiębiorstwa dokładność nie jest wystarczająca; potrzebujesz również możliwości śledzenia. Gdy model wyodrębnia nazwę klienta lub klauzulę zakończenia, musisz mieć możliwość zweryfikowania, skąd pochodzą te informacje. Uziemienie jest kluczowe dla:

  • Utrzymywanie wyraźnej możliwości śledzenia i lokalizacji dla wyodrębnionych klauzul, numerów finansowych, tabel i identyfikatorów ubezpieczeniowych.
  • Zapewnienie przejrzystości dzięki wewnętrznym kontrolom zgodności.
  • Obsługa wydajnej weryfikacji pętli człowieka przez zidentyfikowanie strony, sekcji i zawartości, która dostarczyła wartość pola.

Example

Chcesz wyodrębnić klauzulę zakończenia z umowy. Model zwraca:

  • Wyodrębniony tekst: "Każda ze stron może przerwać niniejszą umowę z powiadomieniem 60 dni".
"spans": [
  {
    "offset": 343,
    "length": 102
  }
]
  • Źródło: Strona 3, współrzędne ({x1},{y1},{x2},{y2},{x3},{y3},{x4},{y4})

Zakresy wskazują logiczne położenie elementu za pomocą przesunięcia znaków i ich długości. Źródło nadaje jej położenie wizualne ze współrzędnymi numeru strony i pola ograniczenia.

Dzięki tym podstawowym danym zespół prawny może zweryfikować ekstrakcję, przechodząc bezpośrednio do akapitu źródłowego w pliku PDF. Eliminuje to odgadnięcie i tworzy zaufanie do danych wyjściowych aplikacji.

Ulepszanie trenowania analizatora za pomocą przykładów oznaczonych etykietami

2025-11-01 Zarówno interfejs API ga, jak 2026-06-01-preview i interfejs API obsługują trenowanie niestandardowych analizatorów dokumentów z etykietami przykładowych dokumentów. Obie wersje używają tego samego przepływu pracy etykietowania w programie Content Understanding Studio.

Important

Trenowanie obsługuje tylko analizatory dokumentów i obecnie nie obsługuje pól korzystających z generate metody .

Jeśli kontekst dla wszystkich pól jest wyraźnie obecny w dokumencie testowym, użycie wyodrębniania zero-shot może być wystarczające. Zacznij od przestrzegania najlepszych rozwiązań dotyczących definicji schematu. Jeśli nadal widzisz nieprawidłowe wartości pól lub współczynniki ufności poniżej progu przetwarzania prostego, użyj próbek oznaczonych etykietami, aby ulepszyć analizator.

Oznaczone przykładowymi dokumentami zawierają kontekst domeny. Poprawiając wartości pól w reprezentatywnych dokumentach, należy wyświetlić analizator odpowiednich układów, terminologii, wzorców wartości i konwencji dla danego scenariusza.

Próbki oznaczone etykietami działają w celu poprawy jakości wyodrębniania:

  • W przypadku zestawów danych z minimalnymi odmianami szablonu dodaj przykład z pojedynczą etykietą.
  • Aby uzyskać bardziej złożone odmiany, dodaj reprezentatywny przykład dla każdego szablonu lub formatu.
  • W przypadku dokumentów, które generują niskie wyniki ufności, niekompletne wyodrębnianie lub nieprawidłowe wartości.
  • Oceń jakość wyodrębniania przed trenowania i po nim, aby potwierdzić, że próbki poprawią wyniki.

Aby dodać przykład z etykietą, przejdź do strony wyników wyodrębniania dokumentów w portalu Foundry i wybierz kartę Dane etykiety . Przekaż przykład, a następnie wybierz pozycję Etykieta automatyczna. Automatyczna etykieta uruchamia obecny analizator i automatycznie uzupełnia wyniki, które można edytować.

Zrzut ekranu przedstawiający automatyczne etykietowanie przykładu faktury.

Edytuj wszelkie nieprawidłowe lub brakujące wartości pól. Po zapisaniu przykładu poprawione pola wyświetlają poprawiony tag.

Zrzut ekranu przedstawiający poprawione etykiety.

Uwaga / Notatka

Dodajesz oznaczone próbki w narzędziu Content Understanding Studio. Po dodaniu przykładów ponownie skompiluj analizator, aby analizator mógł korzystać z przykładów.

Jeśli na przykład faktury od nowego dostawcy generują niski współczynnik ufności lub niepoprawną wartość należną kwoty , dodaj reprezentatywną fakturę i popraw jej wartości oznaczone etykietą. Sam dokument zawiera kontekst dotyczący układu i konwencji faktur tego dostawcy.

Następnie analizator uogólnia wzorzec w celu wyodrębnienia wartości z podobnych szablonów dokumentów.

Ulepszenia interfejsu API w wersji zapoznawczej

Important

Wersja 2026-06-01-preview interfejsu API jest dostępna w publicznej wersji zapoznawczej. Wersje zapoznawcze są udostępniane bez umowy dotyczącej poziomu usług i nie są zalecane w przypadku obciążeń produkcyjnych. Aby uzyskać więcej informacji, zobacz Podamentalne warunki użytkowania Microsoft Azure Previews oraz Microsoft Products and Services Data Protection Addendum< ("DPA").

Interfejs 2026-06-01-preview API używa tego samego przykładowego przepływu pracy oznaczonego etykietą, ale ulepsza sposób trenowania korzystania z dokumentów. Podczas odbudowywania analizatora trenowanie destyluje odpowiednie wzorce i kontekst domeny z etykietowanych próbek do wbudowanego analizatora.

Podejście do trenowania w wersji zapoznawczej:

  • Zmniejsza użycie tokenów, gdy analizator działa w porównaniu z podejściem trenowania ogólnie dostępnego.
  • Nie dołącza ani nie przechowuje dokumentów z etykietami przykładowych w wbudowanym analizatorze.
  • Nie wymaga wbudowanego analizatora dostępu do oznaczonych przykładowych dokumentów w czasie analizy.

Oznaczone przykładowe dokumenty pozostają na koncie magazynu skojarzonym z projektem Content Understanding Studio tylko do celów projektowych. Aby uzyskać więcej informacji, zobacz Dane, prywatność i zabezpieczenia usługi Content Understanding.

Ograniczenia

Próbki oznaczone etykietami nie korygują problemów z rozpoznawaniem tekstu. Jeśli na przykład litera l jest rozpoznawana jako cyfra 1, oznaczanie wartości jako litery l nie poprawia jakości wyodrębniania.

Kompletny przepływ pracy

Podczas tworzenia inteligentnego potoku automatyzacji dokumentów te funkcje ułatwiają niezawodne wyodrębnianie danych na dużą skalę. Na przykład w przypadku przetwarzania kontraktów zamówień można wyodrębnić:

  • Nazwa dostawcy
  • Daty rozpoczęcia i zakończenia
  • Klauzula anulowania

Aby zapewnić jakość i zaufanie do rozumienia dokumentów w skali przedsiębiorstwa:

  • Podstawy zapewniają zespołowi pełną możliwość śledzenia każdego pola.
  • Wyniki pewności pomagają w automatyzacji, ponieważ przegląd człowieka jest potrzebny tylko wtedy, gdy pewność jest niska.
  • Przykłady z etykietami zawierają przykłady, które ułatwiają analizatorowi dostosowanie się do kontekstu domeny, nowych szablonów kontraktów lub przypadków brzegowych.

Dalsze kroki