Uwaga dotycząca przejrzystości i przypadki użycia inteligencji dokumentów

Ważne

Tłumaczenia nieanglojęzyczne są dostępne tylko dla wygody. Zapoznaj się zEN-US wersją tego dokumentu, aby uzyskać ostateczną wersję.

Co to jest notatka dotycząca przezroczystości?

System sztucznej inteligencji obejmuje nie tylko technologię, ale także osoby, które będą jej używać, osoby, których to dotyczy, oraz środowisko, w którym jest wdrażana. Utworzenie systemu dopasowanego do zamierzonego celu wymaga zrozumienia, jak działa technologia, jej możliwości i ograniczenia oraz jak osiągnąć najlepszą wydajność.

Microsoft udostępnia notatki o transparentności, aby ułatwić zrozumienie, jak działa nasza technologia sztucznej inteligencji. Obejmuje to wybory, które właściciele systemu mogą wpływać na wydajność i zachowanie systemu oraz znaczenie myślenia o całym systemie, w tym technologii, ludzi i środowiska. Możesz użyć notatek przejrzystości podczas opracowywania lub wdrażania własnego systemu lub udostępniać je osobom, które będą korzystać z systemu lub mieć na nie wpływ.

Uwagi dotyczące przejrzystości są częścią szerszego wysiłku Microsoft, aby w praktyce wprowadzić nasze zasady sztucznej inteligencji. Aby dowiedzieć się więcej, zobacz zasady sztucznej inteligencji Microsoft.

Podstawy analizy dokumentów

Wprowadzenie

Dostęp do analizy dokumentów jest uzyskiwany za pośrednictwem zestawu interfejsów API i umożliwia deweloperom łatwe wyodrębnianie tekstu, struktury i pól z dokumentów. Składa się z takich funkcji jak:

Odczyt do ekstrakcji tekstu.
Układ i dokumenty ogólne dotyczące spostrzeżeń strukturalnych oraz ogólnych wartości ke-values i jednostki, takie jak nazwy, miejsca i rzeczy.
Wstępnie utworzone modele dla określonych typów dokumentów, takich jak faktury, paragony, wizytówki, W2s i identyfikatory.
Niestandardowe modele do tworzenia modeli specyficznych dla typów dokumentów.

Analiza dokumentów obsługuje co najmniej jeden język i ustawienia regionalne dla każdej z funkcji, zgodnie z opisem w artykule Obsługiwane języki .

Kluczowe terminy

Termin	Definicji
Odczytu	Ta funkcja wyodrębnia wiersze tekstu, wyrazy i ich lokalizacje z obrazów i dokumentów oraz inne informacje, takie jak wykryte języki.
Układ	Ta funkcja wyodrębnia tekst, znaczniki zaznaczenia i strukturę tabeli (numery wierszy i kolumn skojarzonych z tekstem). Zobacz Układ analizy dokumentów.
Dokumenty ogólne	Analizowanie dokumentów i kojarzenie wartości z kluczami i wpisami w tabelach, które odnajduje. Aby uzyskać więcej informacji, zobacz Dokumenty ogólne analizy dokumentów.
Wstępnie utworzone modele	Wstępnie utworzone modele to modele specyficzne dla dokumentów o unikalnych typach formularzy. Te modele nie wymagają specjalnego przeszkolenia przed użyciem. Na przykład wstępnie utworzony model faktury wyodrębnia pola kluczy z faktur. Aby uzyskać więcej informacji, zobacz Model faktury wstępnie skompilowany w usłudze Document Intelligence.
Modele niestandardowe	Analiza dokumentów umożliwia trenowanie modelu niestandardowego dostosowanego do formularzy i dokumentów. Ten model wyodrębnia tekst, pary klucz-wartość, znaczniki wyboru i dane tabeli. Modele niestandardowe można ulepszyć dzięki opinii człowieka, stosując przegląd człowieka, aktualizując etykiety i ponownie szkoląc model przy użyciu interfejsu API.
Wartość ufności	Wszystkie operacje pobierania wyników z analizy zwracają wartości ufności w zakresie od 0 do 1 dla wszystkich wyodrębnionych słów i powiązań klucz-wartość. Ta wartość reprezentuje oszacowanie usługi, ile razy poprawnie wyodrębnia słowo z 100 lub poprawnie mapuje pary klucz-wartość. Na przykład, jeżeli słowo jest szacowane na poprawne wyodrębnienie w 82% przypadków, to skutkuje wartością wskaźnika pewności wynoszącą 0,82.
Funkcje dodatków	Analiza dokumentów oferuje zestaw funkcji dodatków, które umożliwiają rozszerzenie wyników w celu uwzględnienia większej liczby elementów z dokumentów. Niektóre funkcje dodatków generują dodatkowy koszt i można je włączyć i wyłączyć w zależności od scenariusza wyodrębniania dokumentów. Obecnie oferujemy wysokiej rozdzielczości, formuły, styleFont, kody kreskowe, języki, keyValuePairs i możliwości wyodrębniania pól zapytań. Aby uzyskać więcej informacji, zobacz Funkcje dodatku analizy dokumentów.

Możliwości

Zachowanie systemu

Azure Analiza dokumentów w narzędziach Foundry Tools to oparte na chmurze narzędzie foundry, które jest tworzone przy użyciu optycznego rozpoznawania znaków (OCR), analiza tekstu i niestandardowego tekstu z narzędzi foundry. Modele niestandardowe używają obecnie modelu GPT-3.5 usługi Azure OpenAI. Funkcja OCR służy do wyodrębniania tekstów odręcznych i drukowanych. Inteligencja dokumentów używa OCR do wykrywania i wyodrębniania informacji z formularzy i dokumentów, wspieranych przez sztuczną inteligencję, aby dostarczyć więcej struktury i informacji przy wyodrębnianiu tekstu.

Przypadki użycia

Zamierzone zastosowania

Analiza dokumentów zawiera funkcje, które umożliwiają klientom z różnych branż wyodrębnianie danych z dokumentów. Następujące scenariusze to przykłady odpowiednich przypadków użycia:

Zobowiązania: Firma może zwiększyć wydajność działu zobowiązań, korzystając z gotowego modelu faktury i niestandardowych formularzy, aby przyspieszyć wprowadzanie danych faktur z udziałem człowieka. Wstępnie utworzony model faktury może wyodrębniać pola kluczy, takie jak Faktura całkowita i Adres wysyłkowy.
Przetwarzanie formularzy ubezpieczeniowych: Klient może wytrenować model przy użyciu formularzy niestandardowych w celu wyodrębnienia pary klucz-wartość w formularzach ubezpieczeniowych, po czym przekazuje dane do przepływu biznesowego, aby poprawić dokładność i wydajność procesu. W przypadku unikatowych formularzy klienci mogą tworzyć własny model, który wyodrębnia wartości kluczy przy użyciu formularzy niestandardowych. Te wyodrębnione wartości stają się następnie danymi umożliwiającymi podejmowanie działań dla różnych przepływów pracy w swojej firmie.
Przetwarzanie formularzy bankowych: Bank może użyć wstępnie utworzonego modelu identyfikatora i formularzy niestandardowych, aby przyspieszyć wpis danych dla dokumentacji "know your customer" lub przyspieszyć wpis danych dla pakietu hipotecznego. Jeśli bank wymaga od swoich klientów przesyłania osobistej identyfikacji w ramach procesu, wstępnie utworzony model identyfikatorów może wyodrębnić wartości kluczy, takie jak Nazwa i Numer dokumentu, przyspieszając całkowity czas wprowadzania danych.
Automatyzacja procesów robotycznych (RPA): Korzystając z niestandardowego modelu wyodrębniania, klienci mogą wyodrębniać określone dane potrzebne z różnych typów dokumentów. Wyodrębniona para klucz-wartość może następnie zostać wprowadzona do różnych systemów, takich jak bazy danych lub systemy CRM, za pośrednictwem RPA, zastępując ręczny wpis danych. Klienci mogą również używać niestandardowego modelu klasyfikacji do kategoryzowania dokumentów na podstawie ich zawartości i umieszczania ich w odpowiedniej lokalizacji. W związku z tym zorganizowany zestaw danych wyodrębnionych z modelu niestandardowego może stanowić niezbędny pierwszy krok do udokumentowania scenariuszy RPA dla firm, które regularnie obsługują duże ilości dokumentów.

Zagadnienia dotyczące wybierania innych przypadków użycia

Podczas wybierania przypadku użycia należy wziąć pod uwagę następujące czynniki:

Należy uważnie rozważyć zastosowanie przeglądu przez człowieka, gdy są zaangażowane poufne dane lub scenariusze: ważne jest, aby uwzględnić człowieka w pętli w celu ręcznego przeglądu w przypadku scenariuszy o wysokich stawkach (np. mających wpływ na czyjeś prawa wtórne) lub poufnych danych. Modele uczenia maszynowego nie są idealne. Rozważ uważnie, kiedy należy uwzględnić ręczny krok przeglądu dla niektórych przepływów pracy. Na przykład weryfikacja tożsamości na porcie, takim jak lotniska, powinna obejmować nadzór człowieka.
Należy uważnie rozważyć użycie do przyznawania lub odmawiania korzyści: analiza dokumentu nie została zaprojektowana lub oceniona pod kątem przyznania lub odmowy świadczeń, a użycie w tych scenariuszach może mieć niezamierzone konsekwencje. Te scenariusze obejmują:
- Ubezpieczenie medyczne: Obejmowałoby to używanie dokumentacji medycznej i recept medycznych jako podstawy do podejmowania decyzji w sprawie nagrody ubezpieczeniowej lub odmowy.
- Zatwierdzenia pożyczek: Obejmują one wnioski o nowe pożyczki lub refinansowanie istniejących.
Dokładnie zastanów się nad obsługiwanymi typami dokumentów i ustawieniami regionalnymi: Wstępnie utworzone modele mają wstępnie zdefiniowaną listę obsługiwanych pól i są tworzone dla określonych ustawień regionalnych. Pamiętaj, aby dokładnie sprawdzić oficjalnie obsługiwane ustawienia regionalne i typy dokumentów, aby zapewnić najlepsze wyniki. Zobacz na przykład predefiniowane ustawienia regionalne paragonów w inteligentnej analizie dokumentów.
Zagadnienia prawne i prawne: Organizacje muszą ocenić potencjalne konkretne zobowiązania prawne i prawne w przypadku korzystania z narzędzi i rozwiązań usługi Foundry, które mogą nie być odpowiednie do użycia w każdej branży lub scenariuszu. Ponadto, Foundry Tools lub rozwiązania nie są przeznaczone do używania i mogą nie być używane w sposób zabroniony w odpowiednich warunkach świadczenia usług i obowiązujących kodeksach postępowania.

Ograniczenia

Ograniczenia techniczne, czynniki operacyjne i zakresy

Ograniczenia wstępnie utworzonego modelu

Wstępnie utworzone modele analizy dokumentów są używane do przetwarzania określonych typów dokumentów i są wstępnie wytrenowane na tysiącach formularzy. Ta funkcja umożliwia deweloperom rozpoczęcie pracy i uzyskanie wyników w ciągu kilku minut bez wymaganych danych treningowych ani etykietowania. W przypadku wstępnie utworzonych modeli należy pamiętać o liście wymagań wejściowych, obsługiwanych typów dokumentów i ustawień regionalnych dla każdego wstępnie utworzonego modelu w celu uzyskania optymalnych wyników. Na przykład zapoznaj się ze wstępnie utworzonymi wymaganiami dotyczącymi wprowadzania faktury.

Ograniczenia modelu niestandardowego

Niestandardowe modele inteligentnej analizy dokumentów są trenowane przy użyciu Twoich własnych danych treningowych, aby model mógł dostosować się do konkretnych formularzy i dokumentów. Ta funkcja jest w dużym stopniu zależna od sposobu etykietowania danych, a także typu zestawu danych treningowych, które podajesz. W przypadku modeli niestandardowych należy pamiętać o limitach rozmiaru zestawu danych treningowych, limitach stron dokumentu i minimalnej liczbie próbek wymaganych dla każdego typu dokumentu. Modele niestandardowe obecnie używają modelu GPT-3.5 z usługi Azure OpenAI Service. Więcej informacji na temat modeli Azure OpenAI można znaleźć w Uwagach dotyczących przejrzystości Azure OpenAI.

Strona Limity usługi zawiera więcej informacji na temat limitów przydziałów i limitów usługi Analizy dokumentów dla wszystkich warstw cenowych. Zawiera również ograniczenia modelu i najlepsze praktyki dotyczące użycia modelu oraz unikanie ograniczania liczby żądań.

Obsługa funkcji

Zobacz tabelę Funkcje analizy , aby zapoznać się z listą różnych operacji, które mogą wykonywać modele analizy dokumentów.

Wydajność systemu

Dokładność

Tekst składa się z wierszy i wyrazów na poziomie podstawowym i jednostek, takich jak nazwy, ceny, kwoty, nazwy firmy i produkty na poziomie zrozumienia dokumentu.

Dokładność na poziomie słowa Word

Popularną miarą dokładności rozpoznawania tekstu jest wskaźnik błędu słów (WER), czyli liczba słów, które zostały niepoprawnie wyprowadzonych w wyodrębnionych wynikach. Im niższa wartość WER, tym większa dokładność.

WER jest definiowany jako:

Ilustracja przedstawiająca definicję usługi WER.

Gdzie:

Termin	Definicji	Przykład
S	Liczba niepoprawnych wyrazów ("zamienionych") w wyniku.	"Velvet" zostaje wyodrębniony jako "Veivet", ponieważ "l" jest wykrywany jako "i".
D	Liczba brakujących wyrazów ("usunięto") w danych wyjściowych.	Dla tekstu "Nazwa firmy: Microsoft," Microsoft nie jest rozpoznany, ponieważ jest odręczny lub trudny do odczytania.
I	Liczba nieistniejących wyrazów ("wstawionych") w danych wyjściowych.	"Dział" jest niepoprawnie podzielony na trzy słowa jako "Dep artm ent". W takim przypadku wynikiem jest jeden usunięty wyraz i trzy wstawione wyrazy.
C	Liczba poprawnie wyodrębnionych wyrazów w danych wyjściowych.	Wszystkie wyrazy, które są poprawnie wyodrębnione.
N	Liczba łącznie wyrazów w odwołaniu (N=S+D+C) z wyłączeniem I, ponieważ te wyrazy brakowało w oryginalnym odwołaniu i zostały niepoprawnie przewidywane jako obecne.	Rozważmy obraz ze zdania "Microsoft, z siedzibą w Redmond, WA, ogłosił nowy produkt o nazwie Velvet dla działów finansowych." Załóżmy, że dane wyjściowe OCR to ", z siedzibą w Redmond, WA, ogłosił nowy produkt o nazwie Veivet dla działów finansowych." W tym przypadku S (Velvet) = 1, D (Microsoft) = 1, I (działów finansowych) = 3, C (11) i N = S + D + C = 13. W związku z tym WER = (S + D + I) / N = 5 / 13 = 0,38 lub 38% (z 100).

Używanie wartości ufności

Jak opisano we wcześniejszej sekcji, usługa zapewnia wartość ufności dla każdego przewidywanego słowa w danych wyjściowych OCR. Klienci używają tej wartości do kalibracji niestandardowych progów dla ich zawartości i scenariuszy, aby kierować zawartość do automatycznego przetwarzania lub przekazywać ją do procesu z udziałem człowieka. Wynikowe pomiary określają dokładność specyficzną dla scenariusza.

Implikacje dotyczące wydajności systemu OCR mogą się różnić w zależności od scenariuszy, w których zastosowano technologię OCR. Zapoznamy się z kilkoma przykładami, aby zilustrować to pojęcie.

Zgodność urządzeń medycznych: W tym pierwszym przykładzie międzynarodowa firma farmaceutyczna z zróżnicowanym portfolio, obejmującym patenty, urządzenia, leki oraz zabiegi, musi analizować zgodne z FDA informacje dotyczące etykiet produktów oraz dokumenty z wynikami analiz. Firma może preferować niski próg wartości zaufania do stosowania udziału człowieka w procesie, ponieważ koszt niepoprawnie wyodrębnionych danych może mieć znaczący wpływ na konsumentów oraz powodować grzywny od agencji regulacyjnych.
Przetwarzanie obrazów i dokumentów: W tym drugim przykładzie firma wykonuje przetwarzanie wniosków ubezpieczeniowych i kredytowych. Klient korzystający z systemu OCR może preferować średni próg wartości ufności, ponieważ automatyczne wyodrębnianie tekstu łączy się z innymi źródłami danych i etapami interakcji z człowiekiem w ramach całościowego przeglądu wniosków.
Moderowanie zawartości: w przypadku dużej ilości danych katalogu handlu elektronicznego importowanych z dostawców na dużą skalę klient może preferować próg wysokiej wartości ufności z wysoką dokładnością, ponieważ nawet niewielki procent fałszywie oflagowanej zawartości może wygenerować wiele kosztów dla zespołów i dostawców przeglądu ludzkiego.

Dokładność dokumentu i poziomu jednostki

Na poziomie dokumentu, na przykład w przypadku faktury lub paragonu, błąd tylko jednego znaku w całym dokumencie może być nieistotny. Jeśli jednak ten błąd znajduje się w tekście reprezentującym zapłaconą kwotę, cała faktura lub paragon może zostać oznaczona jako nieprawidłowa.

Inną przydatną metryczką jest współczynnik błędów jednostki (EER). Jest to procent niepoprawnie wyodrębnionych jednostek, takich jak nazwy, ceny, kwoty i numery telefonów, z całkowitej liczby odpowiadających im jednostek w co najmniej jednym dokumentie. Na przykład dla sumy 30 wyrazów reprezentujących 10 nazw 2 niepoprawne wyrazy z 30 równa 0,06 (6%) WER. Ale jeśli spowoduje to, że 2 z 10 nazw będą nieprawidłowe, EER dla nazw wynosi 0,20 (20%), co jest znacznie wyższe niż WER.

Pomiar zarówno WER, jak i EER to przydatne ćwiczenie, które umożliwia uzyskanie pełnej perspektywy dokładności zrozumienia dokumentu.

Najlepsze rozwiązania dotyczące poprawy wydajności systemu

Rozważ następujące kwestie dotyczące ograniczeń i wydajności:

Usługa obsługuje obrazy i dokumenty. Aby uzyskać dozwolone limity liczby stron, rozmiarów obrazów, rozmiarów papieru i rozmiarów plików, zobacz Co to jest analiza dokumentów?.

Wiele zmiennych może mieć wpływ na dokładność wyników OCR, od których zależy analiza dokumentów. Te zmienne obejmują jakość skanowania dokumentów, rozdzielczość, kontrast, warunki światła, rotację i atrybuty tekstowe, takie jak rozmiar, kolor i gęstość. Na przykład zalecamy, aby obraz był co najmniej 50 x 50 pikseli. Zapoznaj się ze specyfikacjami produktu i przetestuj usługę w dokumentach, aby zweryfikować dopasowanie do danej sytuacji.
Należy pamiętać o ograniczeniach poszczególnych usług w odniesieniu do aktualnie obsługiwanych danych wejściowych, języków i ustawień regionalnych oraz typów dokumentów. Na przykład zapoznaj się z obsługiwanymi językami układu.

Najlepsze rozwiązania dotyczące poprawy jakości modelu niestandardowego

Gdy używasz niestandardowego modelu analizy dokumentów, udostępniasz własne dane szkoleniowe, aby model mógł trenować do określonych formularzy i dokumentów. Poniższa lista korzysta z niestandardowego typu modelu formularzy, aby przekazać podstawowe wskazówki dotyczące poprawy jakości modelu.

W przypadku wypełnionych formularzy użyj przykładów, które mają wypełnione wszystkie pola.
Użyj formularzy z rzeczywistymi wartościami, które powinny być widoczne dla każdego pola.
Jeśli obrazy formularzy są niższej jakości, użyj większego zestawu danych (na przykład co najmniej 10–15 obrazów).

Aby uzyskać pełny przewodnik i wymagania dotyczące danych wejściowych, zobacz Tworzenie zestawu danych szkoleniowych dla modelu niestandardowego.

Ocena analizy dokumentów

Wydajność analizy dokumentów będzie się różnić w zależności od rzeczywistych rozwiązań, dla których są implementowane. Aby zapewnić optymalną wydajność w swoich scenariuszach, klienci powinni przeprowadzać własne oceny. Usługa zapewnia wartość ufności w zakresie od 0 do 1 dla każdego wyodrębnionego słowa i mapowania wartości klucza. Klienci powinni uruchomić projekt pilotażowy lub dowód koncepcji reprezentujący wyjątkowy przypadek użycia, aby zrozumieć zakres wartości ufności i jakość ekstrakcji z Inteligencji Dokumentów. Następnie mogą oszacować progi wartości ufności dla wyników, które mają być wysyłane do przetwarzania prostego (STP) lub przeglądane przez człowieka. Na przykład klient może przesłać wyniki z wartościami ufności większymi lub równymi .80 do przetwarzania prostego i zastosować przegląd człowieka do wyników z wartościami ufności mniejszymi niż .80.

Ocenianie i integrowanie analizy dokumentów do użycia

Microsoft chce pomóc w odpowiedzialnym tworzeniu i wdrażaniu rozwiązań korzystających z analizy dokumentów. Przyjmujemy oparte na zasadzie podejście do utrzymania osobistej agencji i godności, biorąc pod uwagę sprawiedliwość, niezawodność i bezpieczeństwo systemów sztucznej inteligencji, prywatność i bezpieczeństwo, inkluzywność, przejrzystość i odpowiedzialność człowieka. Te zagadnienia są zgodne z naszym zobowiązaniem do opracowania odpowiedzialnej sztucznej inteligencji.

Gdy wszystko będzie gotowe do wdrożenia produktów lub funkcji opartych na sztucznej inteligencji, następujące działania pomagają skonfigurować cię pod kątem sukcesu:

Dowiedz się, co może zrobić: W pełni oceń potencjał analizy dokumentów, aby zrozumieć jego możliwości i ograniczenia. Dowiedz się, jak będzie działać w konkretnym scenariuszu i kontekście. Jeśli na przykład używasz wstępnie utworzonego modelu faktury, przetestuj z rzeczywistymi fakturami z procesów biznesowych, aby analizować i testować wyniki względem istniejących metryk procesu.
Przestrzegaj prawa osoby fizycznej do prywatności: Zbieraj tylko dane i informacje od osób fizycznych w uzasadnionych i uzasadnionych celach. Używaj tylko danych i informacji, na których użycie masz zgodę w tym celu.
Przegląd prawny: Uzyskaj odpowiedni przegląd prawny, szczególnie jeśli zamierzasz używać go w aplikacjach poufnych lub o wysokim ryzyku. Dowiedz się, jakie ograniczenia mogą być potrzebne do pracy, oraz odpowiedzialność za rozwiązanie wszelkich problemów, które mogą pojawić się w przyszłości.
Człowiek w pętli: Zachowaj człowieka w pętli i uwzględnij nadzór człowieka jako spójny obszar wzorca do zbadania. Oznacza to zapewnienie ciągłego nadzoru człowieka nad produktem lub funkcją wykorzystującą sztuczną inteligencję oraz utrzymanie roli ludzi w podejmowaniu decyzji. Upewnij się, że możesz mieć interwencję człowieka w czasie rzeczywistym w rozwiązaniu, aby zapobiec szkodom. Człowiek w pętli umożliwia zarządzanie sytuacjami, gdy analiza dokumentów nie działa zgodnie z potrzebami.
Zabezpieczeń: Upewnij się, że twoje rozwiązanie jest bezpieczne i że ma odpowiednie mechanizmy kontroli, aby zachować integralność zawartości i zapobiec nieautoryzowanemu dostępowi.

Zalecenia dotyczące zachowania prywatności

Skuteczne podejście do ochrony prywatności umożliwia osobom fizycznym korzystanie z informacji oraz zapewnia mechanizmy kontroli i ochrony w celu zachowania ich prywatności.

Jeśli analiza dokumentów jest częścią rozwiązania przeznaczonego do uwzględnienia danych osobowych (PII), należy dokładnie zastanowić się, czy i jak rejestrować te dane. Przestrzegaj obowiązujących krajowych i regionalnych przepisów dotyczących prywatności i poufnych danych.
Menedżerowie prywatności powinni rozważyć zasady przechowywania wyodrębnionego tekstu i wartości oraz podstawowe dokumenty lub obrazy tych dokumentów. Zasady przechowywania będą powiązane z zamierzonym użyciem każdej aplikacji.