Stosowanie zasad odpowiedzialnej sztucznej inteligencji

System AI obejmuje nie tylko technologię, ale także ludzi, którzy z niej korzystają, osoby, na które ma on wpływ oraz środowisko, w którym jest wdrażany. Agenci muszą być zgodni z zasadami sztucznej inteligencji, aby zapewnić uczciwość, odpowiedzialność, przejrzystość i etyczne zachowanie.

Zaprojektuj system sztucznej inteligencji tak, aby sprawiedliwie traktował wszystkich użytkowników, rozliczał programistów i użytkowników z jego wydajności, zapewniał przejrzystość operacji AI i przestrzegał standardów etycznych.

W Microsoft jesteśmy zaangażowani w rozwój sztucznej inteligencji w oparciu o zasady, które stawiają ludzi na pierwszym miejscu. Modele generatywne mają znaczące potencjalne korzyści, ale bez starannego projektowania i przemyślanych środków zaradczych takie modele mogą potencjalnie generować nieprawidłową, a nawet szkodliwą zawartość. Microsoft poczynił znaczne inwestycje, aby pomóc chronić się przed nadużyciami i niezamierzonymi szkodami, co obejmuje włączenie zasad Microsoft dotyczących korzystania z odpowiedzialnej sztucznej inteligencji, przyjęcie kodeksu postępowania, tworzenie filtrów treści w celu wsparcia klientów oraz dostarczanie informacji i wskazówek dotyczących odpowiedzialnej sztucznej inteligencji, które klienci powinni wziąć pod uwagę podczas korzystania z generatywnej AI.

Copilot Studio i funkcje generatywnej AI działają zgodnie z zestawem podstawowych praktyk z zakresu bezpieczeństwa i prywatności oraz Standardem Microsoft dotyczącym odpowiedzialnej sztucznej inteligencji.

Więcej informacji:

Podstawowe zasady odpowiedzialnej sztucznej inteligencji

Podstawowe zasady odpowiedzialnej sztucznej inteligencji obejmują uczciwość, odpowiedzialność, przejrzystość i etykę. Zapewnienie, że agent utworzony za pomocą Copilot Studio przestrzega tych podstawowych zasad, obejmuje kilka kluczowych praktyk:

  • Uczciwość: używaj zróżnicowanych i reprezentatywnych danych szkoleniowych, aby zminimalizować uprzedzenia. Regularnie aktualizuj dane szkoleniowe i zatrudniaj audytorów w celu weryfikacji uczciwości i równości.
  • Odpowiedzialność: zdefiniuj jasne role i obowiązki dla członków zespołu zaangażowanych w projekt AI. Ustal i przestrzegaj standardów etycznych, w których priorytetem jest uczciwość i odpowiedzialność.
  • Przejrzystość: upewnij się, że użytkownicy wiedzą, że korzystają z agenta wykorzystującego generatywną AI. Jasno komunikuj, dlaczego wybrano rozwiązanie AI, jak zostało zaprojektowane oraz jak jest monitorowane i aktualizowane.
  • Etyka: wspieranie inkluzywnych pracowników i pobieranie opinii z różnych społeczności na wczesnym etapie procesu rozwoju. Regularnie oceniaj i testuj modele pod kątem problemów etycznych i rozbieżności w wydajności. Ustal ramy zarządzania, które obejmują regularne audyty.

Włącz te praktyki do swoich procesów tworzenia i wdrażania, aby tworzyć agentów przestrzegających podstawowych zasad odpowiedzialnej sztucznej inteligencji.

Prywatność i bezpieczeństwo danych

Zapewnienie prywatności danych jest kluczowe, zwłaszcza że agent może przetwarzać dane poufne. Planując agenta za pomocą programu Copilot Studio, należy uwzględnić kilka kluczowych zagrożeń i wdrożyć skuteczne strategie ograniczania ryzyka.

  • Funkcje platformy: zapoznaj się z natywnymi kontrolkami i funkcjami platformy, które chronią Twoje dane. Przejrzyj często zadawane pytania na temat odpowiedzialnej sztucznej inteligencji w Copilot Studio, aby lepiej poznać specyficzne systemy AI i funkcje, które rozwija firma Microsoft.
  • Szyfrowanie danych: technologie po stronie usługi szyfrują przechowywaną i przenoszoną zawartość organizacji w celu zapewnienia niezawodnej ochrony. Połączenia są zabezpieczone przy użyciu zabezpieczeń TLS (Transport Layer Security), a przenoszenie danych między usługami Dynamics 365 Power Platform i Azure OpenAI odbywa się w sieci podstawowej Microsoft, zapewniając zarówno rzetelność, jak i bezpieczeństwo. Dowiedz się więcej o szyfrowaniu w chmurze Microsoft Cloud.
  • Kontrole dostępu: dane przekazywane do agenta są udostępniane wyłącznie na podstawie poziomu dostępu bieżącego użytkownika. Wdroż kontrolę dostępu opartą na rolach (RBAC) z użyciem usługi Microsoft Entra ID, aby zapewnić dostęp do danych wyłącznie użytkownikom autoryzowanym. Zastosuj zasadę najmniejszych uprawnień, aby ograniczyć dostęp tylko do tego, co jest niezbędne. Przejrzyj wskazówki, jak zabezpieczyć swoje projekty Copilot Studio oraz Kluczowe koncepcje bezpieczeństwa i ład w Copilot Studio.
  • Monitorowanie i audyt: wykrywaj potencjalne incydenty zabezpieczeń i reaguj na nie, regularnie monitorując dostęp i użycie agenta. Utrzymuj szczegółowe dzienniki inspekcji, aby śledzić dostęp do danych i ich modyfikacje.
  • Zgodność i ład: zapewnij zgodność z odpowiednimi przepisami dotyczącymi prywatności danych, takimi jak RODO (Ogólne rozporządzenie o ochronie danych), HIPAA (Health Insurance Portability and Accountability Act) i CCPA (California Consumer Privacy Act). Wdrażaj etyczne praktyki w zakresie sztucznej inteligencji, aby uniknąć uprzedzeń i zapewnić uczciwość wyników AI.
  • Edukacja i szkolenie użytkowników: przeprowadź szkolenia dla użytkowników w zakresie najlepszych rozwiązań dotyczących bezpieczeństwa i znaczenia prywatności danych. Informuj użytkowników o aktualizacjach i zmianach w zasadach i procedurach bezpieczeństwa.

Świadomość i łagodzenie uprzedzeń

Uznaj, jak ważne jest eliminowanie uprzedzeń w systemie i zapewnij uczciwość, aby uniknąć uprzedzeń w odpowiedziach AI.

  • Zróżnicowane i reprezentatywne dane: upewnij się, że dane szkoleniowe są zróżnicowane i reprezentatywne dla różnych grup demograficznych, aby zminimalizować wrodzone uprzedzenia. Regularnie sprawdzaj dane pod kątem uprzedzeń i nierównowagi, a w razie potrzeby podejmuj działania naprawcze.
  • Narzędzia do wykrywania i ograniczania uprzedzeń: użyj narzędzi i technik do wykrywania uprzedzeń w modelach AI, takich jak analiza statystyczna i metryki uczciwości. Zaimplementuj techniki usuwania odchyleń, w tym ponowne próbkowanie, ponowne ważenie lub przeciwstawne usuwanie odchyleń, aby zmniejszyć odchylenia w modelach.
  • Człowiek w pętli: uwzględnij pętle przeglądu przez ludzi i uzyskiwania pętli opinii, aby zidentyfikować i skorygować uprzedzenia, które może wprowadzić AI. W celu nadzorowania rozwoju i wdrażania AI oraz zapewnienia zgodności ze standardami etycznymi, powołaj komisję ds. etyki lub radę nadzorczą.
  • Transparentność i zaufanie: zapewnij, aby użytkownicy byli świadomi, że korzystają z agenta działającego w oparciu o generatywną AI. Jasno komunikuj, dlaczego wybrano rozwiązanie AI, i podaj informacje o tym, jak zostało zaprojektowane oraz jak jest monitorowane i aktualizowane.
  • Ciągłe monitorowanie i doskonalenie: stale monitoruj system AI pod kątem uprzedzeń i problemów z wydajnością oraz aktualizuj modele w razie potrzeby. Upewnij się, że modele pozostają uczciwe i bezstronne, regularnie trenując modele przy użyciu zaktualizowanych i bardziej zróżnicowanych danych.

Bieżące monitorowanie i ocena

Nieustannie doskonal swojego agenta. Ustanów strukturę dla ciągłego monitorowania i oceny oraz uwzględnij opinie użytkowników i zmieniające się standardy etyczne w aktualizacjach.

  • Pętle opinii: ustanów mechanizmy opinii, w których użytkownicy mogą zgłaszać nieścisłości, które można następnie wykorzystać do udoskonalenia i ulepszenia modeli.
  • Monitorowanie i inspekcja: wykrywaj potencjalne zdarzenia związane z bezpieczeństwem i reaguj na nie, regularnie monitorując dostęp do systemu AI i jego użycie. Utrzymuj szczegółowe dzienniki inspekcji, aby śledzić dostęp do danych i ich modyfikacje.

Następne kroki

Skorzystaj z listy kontrolnej podsumowania, aby ocenić, czy Twój projekt jest gotowy do wdrożenia, oraz zastosuj odniesienia do najlepszych praktyk, aby udoskonalić podejście do projektu przed przejściem do fazy implementacji.

Przeglądanie listy kontrolnej zabezpieczeń

  • Last updated on