Co to jest odpowiedzialna sztuczna inteligencja?

DOTYCZY:Rozszerzenie ml interfejsu wiersza polecenia platformy Azure w wersji 2 (bieżąca)Zestaw SDK języka Python azure-ai-ml v2 (bieżąca)

Odpowiedzialne sztuczna inteligencja (Responsible AI) to podejście do opracowywania, oceniania i wdrażania systemów sztucznej inteligencji bezpiecznie, etycznie i z zaufaniem. Systemy sztucznej inteligencji wynikają z wielu decyzji podjętych przez ich twórców. Odpowiedzialne używanie sztucznej inteligencji pomaga kierować tymi decyzjami — od definiowania celu systemu po interakcję z użytkownikiem — w kierunku bardziej korzystnych i sprawiedliwych wyników. Utrzymuje ludzi i ich cele w centrum projektowania i szanuje wartości, takie jak sprawiedliwość, niezawodność i przejrzystość.

Firma Microsoft stworzyła standard odpowiedzialnej sztucznej inteligencji, czyli platformę służącą do tworzenia systemów sztucznej inteligencji na podstawie sześciu zasad: sprawiedliwości, niezawodności i bezpieczeństwa, prywatności i bezpieczeństwa, inkluzywności, przejrzystości i odpowiedzialności. Te zasady są podstawą odpowiedzialnego i godnego zaufania podejścia do sztucznej inteligencji, zwłaszcza gdy inteligentna technologia staje się bardziej powszechna w codziennych produktach i usługach.

W tym artykule wyjaśniono, w jaki sposób usługa Azure Machine Learning udostępnia narzędzia ułatwiające deweloperom i analitykom danych implementowanie i operacjonalizacja tych sześciu zasad.

Sprawiedliwość i inkluzywność

Systemy sztucznej inteligencji powinny traktować wszystkich sprawiedliwie i unikać wpływania na podobne grupy inaczej. Na przykład gdy systemy sztucznej inteligencji zawierają wskazówki dotyczące leczenia, wniosków o pożyczkę lub zatrudnienia, powinny one zawierać te same zalecenia dla osób z podobnymi objawami, okolicznościami finansowymi lub kwalifikacjami.

Sprawiedliwość i inkluzywność w usłudze Azure Machine Learning: składnik oceny sprawiedliwości w pulpicie nawigacyjnym Responsible AI pomaga ocenić sprawiedliwość modelu w różnych grupach wrażliwych, takich jak płeć, pochodzenie etniczne, wiek i inne cechy.

Niezawodność i bezpieczeństwo

Aby zapewnić zaufanie, systemy sztucznej inteligencji muszą działać niezawodnie, bezpiecznie i spójnie. Powinny działać zgodnie z projektem, bezpiecznie reagować na nieoczekiwane warunki i oprzeć się szkodliwej manipulacji. Ich zachowanie i zdolność do obsługi różnych warunków odzwierciedlają zakres sytuacji, które deweloperzy przewidywali podczas projektowania i testowania.

Niezawodność i bezpieczeństwo w usłudze Azure Machine Learning: składnik analizy błędówpulpitu nawigacyjnego odpowiedzialnej sztucznej inteligencji ułatwia:

• Dogłębnie poznaj rozkład awarii w modelu.
• Zidentyfikuj kohorty (podzestawy) danych z wyższym współczynnikiem błędów niż ogólny test porównawczy.

Te rozbieżności mogą wystąpić, gdy system lub model nie spełnia określonych grup demograficznych lub rzadko obserwowanych warunków wejściowych w danych treningowych.

Przezroczystość

Gdy systemy sztucznej inteligencji informują o decyzjach mających wpływ na życie ludzi, ważne jest, aby ludzie zrozumieli, jak te decyzje są podejmowane. Na przykład bank może użyć systemu sztucznej inteligencji, aby zdecydować, czy dana osoba jest godna kredytu, czy firma może użyć jednego do wyboru kandydatów do pracy.

Kluczową częścią przejrzystości jest możliwość interpretacji: udostępnianie przydatnych wyjaśnień dotyczących zachowania systemu sztucznej inteligencji. Poprawa możliwości interpretacji pomaga uczestnikom projektu zrozumieć, jak i dlaczego działają systemy sztucznej inteligencji, dzięki czemu mogą identyfikować problemy z wydajnością, wątpliwości dotyczące sprawiedliwości, praktyki wykluczające lub niezamierzone wyniki.

Przejrzystość w usłudze Azure Machine Learning: składniki interpretowalności modelu i analizy kontrfaktycznej „co by było, gdyby” w pulpicie nawigacyjnym Responsible AI pomagają generować zrozumiałe dla człowieka opisy predykcji modelu.

Składnik możliwości interpretacji modelu zawiera kilka widoków na zachowanie modelu:

• Wyjaśnienia globalne. Na przykład jakie funkcje wpływają na ogólne zachowanie modelu alokacji pożyczki?
• Wyjaśnienia lokalne. Na przykład dlaczego wniosek o pożyczkę klienta został zatwierdzony lub odrzucony?
• Objaśnienia modelu dla wybranej kohorty punktów danych. Na przykład jakie funkcje wpływają na ogólne zachowanie modelu alokacji kredytów dla wnioskodawców o niskich dochodach?

Komponent analizy kontrfaktycznej typu „co, jeśli” pomaga zrozumieć i diagnozować model uczenia maszynowego, pokazując, jak reaguje on na zmiany cech i perturbacje.

Usługa Azure Machine Learning obsługuje również kartę wyników odpowiedzialnej sztucznej inteligencji. Karta wyników to dostosowywalny raport PDF, który deweloperzy mogą konfigurować, generować, pobierać i udostępniać osobom biorącym udział w projekcie technicznym i nietechnalnym. Pomaga to edukować uczestników projektu na temat kondycji zestawu danych i modelu, osiągać zgodność i budować zaufanie. Karta wyników może również obsługiwać przeglądy inspekcji, ujawniając cechy modelu uczenia maszynowego.

Prywatność i zabezpieczenia

W miarę jak sztuczna inteligencja staje się bardziej powszechna, ochrona prywatności i zabezpieczanie informacji osobistych i biznesowych jest ważniejsza i złożona. Prywatność i bezpieczeństwo danych wymagają ścisłej uwagi, ponieważ systemy sztucznej inteligencji potrzebują danych, aby podejmować dokładne przewidywania i decyzje. Systemy sztucznej inteligencji muszą przestrzegać przepisów dotyczących prywatności, które:

• Wymagaj przejrzystości w zakresie zbierania, używania i przechowywania danych.
• Umocuj, aby konsumenci mieli odpowiednie mechanizmy kontroli, aby wybrać sposób korzystania z ich danych.

Prywatność i zabezpieczenia w usłudze Azure Machine Learning: usługa Azure Machine Learning umożliwia administratorom i deweloperom tworzenie bezpiecznych konfiguracji , które są zgodne z zasadami firmy. Usługa Azure Machine Learning i platforma Azure umożliwiają:

• Ogranicz dostęp do zasobów i operacji według konta użytkownika lub grupy.
• Ogranicz komunikację przychodzącą i wychodzącą.
• Szyfruj dane podczas przesyłania i przechowywania.
• Skanuj pod kątem luk w zabezpieczeniach.
• Zastosuj i przeprowadź inspekcję zasad konfiguracji.

Firma Microsoft utworzyła również dwa pakiety typu open source, aby ułatwić implementowanie zasad ochrony prywatności i zabezpieczeń:

• Zestaw SmartNoise SDK: Prywatność różnicowa to zestaw systemów i praktyk, które pomagają zapewnić bezpieczeństwo i prywatność danych poszczególnych osób. W rozwiązaniach uczenia maszynowego prywatność różnicowa może być wymagana do zapewnienia zgodności z przepisami. SmartNoise to projekt typu open source (współtworzyny przez firmę Microsoft), który zawiera składniki do tworzenia różnicowo prywatnych systemów, które są globalne.

• Counterfit: Counterfit to projekt typu open source, który składa się z narzędzia wiersza polecenia i ogólnej warstwy automatyzacji, aby umożliwić deweloperom symulowanie cyberataków w systemach sztucznej inteligencji. Każdy może pobrać narzędzie i wdrożyć je za pośrednictwem usługi Azure Cloud Shell w celu uruchomienia w przeglądarce lub wdrożyć je lokalnie w środowisku języka Python Anaconda. Może oceniać modele sztucznej inteligencji hostowane w różnych środowiskach chmury, lokalnie lub na brzegu sieci. Narzędzie jest niezależne od modeli sztucznej inteligencji i obsługuje różne typy danych, w tym tekst, obrazy lub ogólne dane wejściowe.

Odpowiedzialność

Osoby, które projektują i wdrażają systemy sztucznej inteligencji, muszą odpowiadać za sposób działania tych systemów. Organizacje powinny używać standardów branżowych do opracowywania norm odpowiedzialności. Te normy pomagają zapewnić, że systemy sztucznej inteligencji nie są ostatecznym autorytetem w zakresie decyzji wpływających na życie ludzi i że ludzie zachowują znaczącą kontrolę nad wysoce autonomicznymi systemami.

Odpowiedzialność w usłudze Azure Machine Learning: operacje uczenia maszynowego (MLOps) są oparte na zasadach i praktykach metodyki DevOps, które zwiększają wydajność przepływu pracy sztucznej inteligencji. Usługa Azure Machine Learning zapewnia następujące możliwości metodyki MLOps w celu uzyskania lepszej odpowiedzialności:

• Rejestrowanie, pakowanie i wdrażanie modeli z dowolnego miejsca. Możesz również śledzić skojarzone metadane wymagane do korzystania z modelu.
• Zbieraj dane dotyczące nadzoru dla całego cyklu życia uczenia maszynowego. Zarejestrowane informacje o pochodzeniu modeli mogą obejmować to, kto publikuje modele, dlaczego wprowadzono zmiany oraz kiedy modele zostały wdrożone lub wykorzystane w środowisku produkcyjnym.
• Powiadamianie i alarmowanie o zdarzeniach w cyklu życia uczenia maszynowego. Przykłady obejmują uzupełnianie eksperymentów, rejestrację modelu, wdrażanie modelu i wykrywanie dryfu danych.
• Monitorowanie aplikacji pod kątem problemów operacyjnych i problemów związanych z uczeniem maszynowym. Porównaj dane wejściowe modelu na etapie trenowania i wnioskowania, analizuj metryki specyficzne dla modelu oraz zapewniaj monitorowanie i alerty dla infrastruktury uczenia maszynowego.

Ponadto karta wyników odpowiedzialnej sztucznej inteligencji w usłudze Azure Machine Learning tworzy odpowiedzialność, umożliwiając komunikację między uczestnikami projektu. Karta wyników umożliwia deweloperom konfigurowanie, pobieranie i udostępnianie szczegółowych informacji o kondycji modelu zarówno osobom biorącym udział w projekcie technicznym, jak i nietechnicznych. Udostępnianie tych szczegółowych informacji pomaga w budowaniu zaufania.

Usługa Azure Machine Learning obsługuje również podejmowanie decyzji przez informowanie o decyzjach biznesowych za pomocą następujących czynności:

• Szczegółowe informacje oparte na danych, które pomagają uczestnikom projektu zrozumieć wpływ leczenia przyczynowego na wyniki tylko przy użyciu danych historycznych. Na przykład: „Jak lek wpłynąłby na ciśnienie krwi pacjenta?”. Te informacje pochodzą z komponentu wnioskowania przyczynowego w pulpicie nawigacyjnym Odpowiedzialna sztuczna inteligencja.
• Wnioski generowane przez model, które odpowiadają na pytania użytkowników (takie jak „Co mogę zrobić, aby następnym razem uzyskać inny wynik z AI?”), aby mogli podjąć działania. Te informacje są udostępniane za pośrednictwem składnika analizy kontrfaktycznej „co jeśli”pulpitu nawigacyjnego Responsible AI.

Następne kroki

• Aby uzyskać więcej informacji na temat implementowania odpowiedzialnej sztucznej inteligencji w usłudze Azure Machine Learning, zobacz Pulpit nawigacyjny odpowiedzialnej sztucznej inteligencji.
• Dowiedz się, jak wygenerować pulpit nawigacyjny odpowiedzialnej sztucznej inteligencji za pomocą interfejsu wiersza polecenia i zestawu SDK lub interfejsu użytkownika usługi Azure Machine Learning Studio.
• Dowiedz się, jak wygenerować kartę wyników Responsible AI na podstawie wniosków widocznych na panelu Responsible AI.
• Dowiedz się więcej o standardzie Odpowiedzialnej sztucznej inteligencji na potrzeby tworzenia systemów sztucznej inteligencji zgodnie z sześcioma kluczowymi zasadami.