Zatwierdzenia AI — często zadawane pytania

W tej sekcji najczęściej zadawanych pytań wyjaśniamy możliwości, zastosowanie i zabezpieczenia etapów zatwierdzania opartych na AI (zatwierdzeń AI) w Microsoft Copilot Studio. Zatwierdzenia AI umożliwiają przepływowi agentów automatyczne zatwierdzanie lub odrzucanie żądań na podstawie wstępnie zdefiniowanych kryteriów, zapewniając jednocześnie, że ludzie nadal kontrolują ważne decyzje. Oto kilka najczęściej zadawanych pytań i odpowiedzi dotyczących tej funkcji.

Czym są zatwierdzenia AI?

Zatwierdzenia AI to inteligentne, zautomatyzowane kroki decyzyjne w procesach zatwierdzania. Zatwierdzenia AI wykorzystują sztuczną inteligencję (modele Azure OpenAI lub modele, które możesz przenieść z Azure AI Foundry) do oceny wniosków o zatwierdzenie zgodnie z regułami biznesowymi i zwracają decyzję "Zatwierdzone" lub "Odrzucone" wraz z uzasadnieniem.

Jakie są możliwości zatwierdzania AI?

W przeciwieństwie do podstawowej automatyzacji opartej na regułach, zatwierdzenia AI potrafią interpretować dane nieustrukturyzowane i złożone dokumenty (takie jak pliki PDF lub obrazy dołączone do zgłoszenia) oraz stosować subtelną logikę do podjęcia decyzji. Na przykład zatwierdzenie przez AI może odczytać pisemne uzasadnienie, sprawdzić słowa kluczowe zasad, a następnie zdecydować.

Etapy zatwierdzania AI mogą być również łączone z etapami ludzkimi, dzięki czemu AI obsługuje rutynowe decyzje, a ludzie nadzorują i finalizują wszelkie krytyczne lub wyjątkowe przypadki. Podsumowując, zatwierdzenia AI automatyzują powtarzalne decyzje typu tak/nie w procesie, przyspieszając przepływy pracy bez konieczności eliminowania ludzkiego nadzoru tam, gdzie to ma znaczenie.

Jaki jest zamierzony cel zatwierdzeń opartych na sztucznej inteligencji?

Zatwierdzanie przez AI zostało zaprojektowane pod kątem typowych scenariuszy biznesowych z jasno określonymi kryteriami, usprawniając codzienne procesy poprzez automatyzację rutynowych decyzji. Typowe przypadki użycia obejmują:

Zatwierdzanie zwrotu kosztów: Automatyczne zatwierdzanie wniosków o zwrot kosztów poniżej określonej kwoty z prawidłowymi paragonami, dzięki czemu menedżerowie mogą skupić się tylko na wyjątkach.

Zatwierdzenia zamówienia zakupu (PO): oceń wnioski o limity budżetowe i listy dostawców, automatycznie zatwierdzając standardowe zamówienia zgodnie z zasadami.

Zatwierdzanie wniosków o podróż: Automatyczne zatwierdzanie wniosków zgodnych z polityką oraz odrzucanie wniosków naruszających politykę.

Wdrażanie dostawców: Przyjmuj lub odrzucaj aplikacje, sprawdzając kwalifikacje i wymagania zgodności względem zdefiniowanych kryteriów.

Przetwarzanie faktur: Weryfikacja faktur poprzez porównanie kwot z zamówieniami zakupu oraz sprawdzenie wymaganych dokumentów.

Zatwierdzenia przeglądu dokumentów: Potwierdź, że umowy lub polityki zawierają wymagane elementy i spełniają standardy formatowania, zanim przejdziesz do kolejnych kroków.

Zatwierdzanie wniosków urlopowych: Zatwierdzaj wnioski o urlop, gdy pracownicy mają wystarczający limit i nie występują konflikty w harmonogramie.

Zatwierdzenia AI zostały zaprojektowane z myślą o rutynowych, jasno określonych decyzjach. Jednak zdarzają się sytuacje, w których system może nie działać niezawodnie lub odpowiedzialnie. Zachęcamy klientów do wykorzystywania zatwierdzeń AI w swoich nowatorskich rozwiązaniach lub aplikacjach, jednak przy wyborze przypadku użycia należy wziąć pod uwagę poniższe zasady:

• Decyzje o wysokim ryzyku lub mające wpływ na życie: System nie został zaprojektowany do podejmowania decyzji dotyczących zdrowia, bezpieczeństwa, finansów czy statusu prawnego. Przykłady obejmują rozpatrywanie roszczeń ubezpieczeniowych, autoryzacje medyczne, przyznania kredytów lub decyzje imigracyjne, które wymagają ludzkiego osądu i odpowiedzialności.

• Sprawy prawne lub dyscyplinarne: Przypadki użycia dotyczące odpowiedzialności prawnej, interpretacji zgodności lub dyscypliny pracowniczej mogą przekraczać zamierzony zakres systemu. Chociaż AI potrafi podsumować dane wejściowe, ostateczne decyzje w tych obszarach powinny pozostać w rękach ludzi.

• Subiektywne lub niejednoznaczne kryteria: System może mieć trudności z podejmowaniem decyzji wymagających gustu, uznania lub złożonych kompromisów — takich jak ocena pracy twórczej lub jakości — gdzie trudno jest określić jednoznaczne standardy.

• Sytuacje wrażliwe lub etycznie złożone: Zatwierdzenia AI nie zostały zaprojektowane do podejmowania decyzji dotyczących cech osobistych, potencjalnej dyskryminacji ani generowania treści objętych ograniczeniami. Takie zastosowania budzą obawy dotyczące odpowiedzialnej AI i mogą wymagać dodatkowych zabezpieczeń.

• Branże objęte regulacjami i procesy wrażliwe na zgodność: W takich dziedzinach jak opieka zdrowotna, finanse czy lotnictwo regulacje mogą nakładać obowiązek ludzkiego nadzoru nawet w przypadku rutynowych decyzji. System nie był oceniany pod kątem zgodności z przepisami w tych kontekstach.

• Przewidywalne, ale niezamierzone zastosowania: W miarę wzrostu wdrożenia użytkownicy mogą próbować stosować zatwierdzenia AI w takich obszarach jak oceny wydajności, decyzje o zatrudnieniu czy oceny kwalifikacyjne klientów. Te zastosowania nie były uwzględnione w projekcie systemu ani ocenie wpływu i mogą stanowić ryzyko, jeśli nie zostaną odpowiednio zarządzone.

Jakie są ograniczenia techniczne związane z zatwierdzaniem przez sztuczną inteligencję i w jaki sposób użytkownicy mogą zminimalizować skutki tych ograniczeń?

Chociaż zatwierdzenia AI to potężne możliwości, zalecamy użytkownikom, aby mieli na uwadze ich ograniczenia:

Zatwierdzenia AI opierają się na dostarczonych regułach: AI dokładnie podąża za Twoimi instrukcjami i danymi. Jeśli Twoje polecenie jest niejasne lub niekompletne, zatwierdzenie przez AI może podjąć błędne decyzje lub zakończyć się niepowodzeniem. Określ kryteria w sposób jednoznaczny; mówienie „zaakceptować, jeśli rozsądne” bez zdefiniowania, co oznacza „rozsądne”, prowadzi do nieprawidłowej interpretacji.

Możliwość błędów: Zatwierdzenia AI mogą popełniać błędy z powodu niejednoznacznych danych, złożonych przypadków granicznych lub błędnego odczytania źle zeskanowanych dokumentów. Wyniki nie zawsze są w 100% dokładne, więc nadzór jest niezbędny w przypadkach granicznych.

Brak ludzkiej intuicji: zatwierdzenia przez AI nie rozumieją kontekstu poza tym, co im przekazano, i nie mogą zadawać pytań wyjaśniających ani używać przeczuć intuicyjnych. Zatwierdzanie przez AI może przegapić niuanse, które człowiek by zauważył, na przykład wykrycie podejrzanych wydatków, które „wydają się zbyt wysokie na tę podróż”.

Brak uczenia się na podstawie doświadczenia: Zatwierdzenia przez AI nie dostosowują się na podstawie każdego zatwierdzenia — nie zmieniają swojego zachowania, chyba że zaktualizujesz polecenie. Nowe scenariusze, które nie są objęte istniejącymi zasadami, wymagają ciągłej konserwacji w miarę rozwoju polityk.

Zależność od jakości danych: Decyzje dotyczące zatwierdzeń przez AI są tak dobre, jak dane wejściowe. Pliki niskiej jakości, niekompletne dokumenty lub nieczytelne skany mogą powodować błędne decyzje lub awarie systemu.

Ograniczenia integracji i wydajności: Złożone kryteria zatwierdzania lub decyzje wymagające danych w czasie rzeczywistym z wielu systemów mogą zmniejszać dokładność i zwiększać czas przetwarzania.

Wymaga odpowiedzialnej konfiguracji: użytkownicy muszą skonfigurować zatwierdzenia przez AI w sposób etyczny, z odpowiednimi mechanizmami zabezpieczającymi z udziałem człowieka i bezstronnymi zasadami. Zawsze upewnij się, że instrukcje są zgodne z polityką firmy i wytycznymi etycznymi.

Brak dostępu do informacji w czasie rzeczywistym: zatwierdzenia AI mogą działać tylko na podstawie danych wyraźnie udostępnionych jako dane wejściowe. Nie mogą sprawdzać bieżących informacji, aktualności ani wiadomości, chyba że te dane zostaną wprowadzone do procesu zatwierdzania.

Aby zmniejszyć ryzyko i poprawić niezawodność podczas korzystania z zatwierdzeń AI:

• Uwzględnij nadzór ludzki: Kieruj krytyczne lub niejednoznaczne sprawy na etapy ręcznej weryfikacji, aby zapewnić odpowiedzialność i ocenę.

• Testuj na różnorodnych przykładach: Wykorzystaj dane historyczne i przypadki brzegowe, aby zweryfikować zachowanie systemu przed wdrożeniem.

• Regularnie udoskonalaj polecenia: aktualizuj instrukcje w miarę rozwoju zasad lub pojawiania się nowych scenariuszy, aby utrzymać ich istotność i dokładność.

• Unikaj niejasnych kryteriów: upewnij się, że polecenia są jasne i dobrze zdefiniowane — unikaj używania terminów takich jak „uzasadnione” bez wyraźnie określonego kontekstu.

• Monitoruj decyzje: Korzystaj z narzędzi takich jak funkcja Polecenie Builder Activity, aby śledzić wskaźniki zatwierdzeń i identyfikować wzorce lub błędy.

• Wyszkol użytkowników: Edukuj pracowników w zakresie interpretacji uzasadnień AI i procedur nadpisania, aby budować zaufanie i przejrzystość.

Pamiętaj: AI potrafi pewnie wykonywać błędne instrukcje, dlatego jasne i poprawne wskazówki są niezbędne.

Jakie czynniki operacyjne i ustawienia umożliwiają skuteczne i odpowiedzialne korzystanie z procesu zatwierdzania agentów?

Aby skutecznie i bezpiecznie korzystać z zatwierdzeń AI, rozważ następujące najlepsze praktyki operacyjne:

• Ustaw niską temperaturę dla uzyskania spójności: Używaj ustawień niskiej temperatury (blisko 0), aby AI podejmowała deterministyczne, przewidywalne decyzje, zamiast udzielać różnych odpowiedzi na identyczne dane wejściowe. Domyślne ustawienia Copilot Studio są już zoptymalizowane pod kątem niezawodności.

• Dobierz właściwy model: GPT-4.1 najlepiej sprawdza się w większości scenariuszy zatwierdzania. Zaawansowane modele rozumowania (jak O3) mogą lepiej radzić sobie ze złożoną logiką, ale są wolniejsze. Modele udostępnione przez Microsoft są już zintegrowane i przetestowane, choć możesz użyć własnych dostosowanych modeli z Azure AI Foundry, jeśli masz specyficzne wymagania lub niestandardowe potrzeby.

• Wprowadź nadzór ludzki: Skonfiguruj etapy ręczne lub z udziałem człowieka, do których można przekierować kluczowe decyzje. Etapy ludzkie i manualne zapewniają, że ludzie zawsze mają kontrolę.

• Dokładnie testuj w piaskownicy: Przeprowadź obszerne testy z danymi historycznymi i przykładowymi żądaniami przed uruchomieniem. Celowo testuj przypadki brzegowe — brakujące pola, sprzeczne zasady, nietypowe scenariusze. Sprawdź, czy workflow end-to-end wyzwala się poprawnie.

• Monitoruj decyzje: Wszystkie decyzje są zapisywane w sekcji „Aktywność kreatora poleceń” w Power Automate. Wykorzystaj te dane do monitorowania takich wskaźników jak poziom zatwierdzeń oraz oceny poprawności decyzji zatwierdzanych przez AI.

• Regularnie aktualizuj kryteria: Traktuj polecenia AI jak żywe dokumenty. Aktualizuj instrukcje w miarę zmiany polityk lub pojawiania się nowych scenariuszy. Uwzględnij informacje zwrotne od menedżerów dotyczące tego, że AI jest zbyt surowe lub pobłażliwe w konkretnych obszarach.

• Zapewnij przejrzystość i szkolenia: Wyszkol odpowiedni personel w zakresie interpretacji uzasadnień AI i procedur ręcznego zastępowania decyzji AI. Poinformuj użytkowników końcowych, że wnioski mogą być początkowo oceniane przez AI. Jasne oczekiwania zapobiegają nieporozumieniom i budują zaufanie.

Dostosowując ustawienia AI pod kątem spójności, wprowadzając ludzki nadzór i aktywnie zarządzając procesem, zapewniasz, że zatwierdzenia AI pozostają skuteczne i na właściwym torze. Traktuj to jak partnerstwo: AI obsługuje ilość i szybkość, ludzie obsługują wskazówki i wyjątki.

Jakie zabezpieczenia są stosowane w Copilot Studio w celu odpowiedzialnego wykorzystania AI?

Jakie środki moderacji treści są stosowane?

Modele GPT są przeszkolone na podstawie danych internetowych, co stanowi doskonałe źródło w budowaniu modelu ogólnego na świecie. Jednocześnie może dziedziczyć dziedziczone treści z tych samych źródeł. W modelach są przeszkolone zachowanie w sposób bezpieczny i nie tworzyć szkodliwej zawartości produktu, ale czasami może to być działanie wyjściowe. Zatwierdzenia przez AI wykorzystują usługę Bezpieczeństwo zawartości platformy Azure AI, czyli usługę umożliwiającą wbudowanie najnowocześniejszych funkcji moderacji treści w poleceniach AI. Taka moderacja obejmuje usługi służące do analizowania wygenerowanych danych wyjściowych przy użyciu tekstu z wieloma poleceniami i zabezpieczeń przed atakami z wstrzykiwaniem poleceń. Dane wyjściowe są również skanowania pod kątem wyprodukowania materiałów chronionych.

Jakie modele językowe są obsługiwane, gdzie są hostowane i jak mogę uzyskać do nich dostęp?

Zatwierdzenia przez AI obsługują modele GPT 4.1 mini, GPT 4.o, GPT 4.1 i o3, które są hostowane w usłudze Azure OpenAI Service. Dostęp do tych modeli można uzyskać za pomocą monitów w Power Platform, w aplikacjach, przepływach i agentach.

Aby dowiedzieć się więcej, zobacz Co nowego w usłudze Azure OpenAI Service?

Czy moje dane są wykorzystywane do trenowania lub ulepszania dużych modeli językowych?

Procesy zatwierdzania oparte na sztucznej inteligencji odbywają się w usłudze Azure OpenAI Service, której hostingiem zajmuje się firma Microsoft. Dane klientów nie są używane do trenowania ani ulepszania żadnego z podstawowych modeli Azure OpenAI Service. Firma Microsoft nie udostępnia Twoich danych innym firmom, chyba że wyrażono na to zgodę. Do trenowania lub ulepszania modeli podstawowych Azure OpenAI Service nie są używane ani polecenia (dane wejściowe) klientów z ich danymi potwierdzającymi, ani odpowiedzi modelu (dane wyjściowe).

W jaki sposób przetwarzane są obrazy przedstawiające osoby?

Zezwolenia dotyczące sztucznej inteligencji nie są przeznaczone do identyfikacji osób na podstawie rysów twarzy lub danych biometrycznych. Po przesłaniu obrazów zawierających osoby w zatwierdzeniach przez AI system automatycznie stosuje funkcję rozmycia twarzy przed analizą obrazów w celu ochrony prywatności osób. Ten etap rozmycia pomaga rozwiązać problemy związane z prywatnością, zapobiegając identyfikacji na podstawie rysów twarzy. W przypadku rozmycia nie ma potrzeby rozpoznawania twarzy ani dopasowywania szablonów twarzy. Zamiast tego każda identyfikacja dobrze znanych osób opiera się na wskazówkach kontekstowych, takich jak mundury lub unikalne ustawienia, a nie na ich twarzach. Ta ochrona prywatności nie powinna mieć wpływu na jakość otrzymywanych wyników. Rozmycie twarzy może być czasami przywoływane w odpowiedziach systemu.

Dowiedz się więcej w artykule Rozmycie twarzy.

Jakie są niektóre potencjalne szkody podczas używania obrazów lub dokumentów w poleceniach?

Zatwierdzenia AI ograniczają większość zagrożeń związanych z używaniem obrazów lub dokumentów w monitach, ale niektóre zagrożenia nadal wymagają dodatkowej ostrożności ze strony twórcy monitu:

• Obrazy lub dokumenty mogą zawierać szkodliwy tekst lub elementy wizualne, które mogą mieć wpływ na dalsze procesy.

• Obrazy lub dokumenty mogą zawierać specjalne i prawdopodobnie ukryte instrukcje, które mogą naruszyć lub zastąpić początkowe polecenie.

• Obrazy lub dokumenty mogą zawierać instrukcje, które mogą prowadzić do wygenerowania treści objętych własnością intelektualną (IP).

• Monity mogą generować stronnicze komentarze do obrazów lub dokumentów.

• Wydobywanie informacji z obrazów lub dokumentów niskiej jakości może prowadzić do generowania nieistotnych wyników.

Jakie problemy mogą pojawić się przy korzystaniu z zatwierdzeń AI i jak mogę sobie z nimi radzić?

Korzystając z zatwierdzeń AI, możesz napotkać problemy takie jak niepowodzenia analizy (gdy AI nie może pewnie zastosować reguł), błędne decyzje zatwierdzające (fałszywie pozytywne/negatywne wyniki), niespójne wyniki podobnych wniosków lub opóźnienia w przetwarzaniu w złożonych sprawach. Aby skutecznie sprostać tym wyzwaniom, upewnij się, że przepływ pracy kieruje żądania do etapów ludzkich.

Prowadź regularne i szczegółowe testy w trakcie rozwoju i wdrażania, aby szybko wykryć potencjalne punkty awarii. Ustaw niską wartość parametru temperatury dla przewidywalnych rezultatów i regularnie udoskonalaj swoje polecenia na podstawie zaobserwowanych błędów. Systematyczne monitorowanie i ciągłe udoskonalanie pomogą utrzymać niezawodność i dokładność systemu w dłuższej perspektywie.