Notatka
Dostęp do tej strony wymaga autoryzacji. Może spróbować zalogować się lub zmienić katalogi.
Dostęp do tej strony wymaga autoryzacji. Możesz spróbować zmienić katalogi.
Odpowiedzialne używanie sztucznej inteligencji jest sterowane zestawem zasad definiujących sposób działania systemów sztucznej inteligencji. Te zasady koncentrują się na sprawiedliwości, niezawodności, bezpieczeństwie, ochronie prywatności, bezpieczeństwie, inkluzywności, przejrzystości i odpowiedzialności. Określają one standardy, które określają, w jaki sposób Microsoft ocenia ryzyko, projektuje funkcje sztucznej inteligencji i zapewnia odpowiedzialne zachowanie systemu.
Stosowanie tych zasad do projektowania agentów pomaga zapobiegać niezamierzonym szkodom, takim jak stronniczość, dezinformacja lub naruszenia prywatności. Obsługuje również zaufanie użytkowników i długoterminowe wdrażanie. Postępując zgodnie z tymi wytycznymi, można tworzyć agentów sztucznej inteligencji, którzy działają skutecznie, zachowując standardy integralności i poszanowania tego, że użytkownicy i społeczeństwo oczekują od Microsoft produktów.
Ten artykuł zawiera ogólne wprowadzenie do odpowiedzialnej sztucznej inteligencji w kontekście projektowania agentów. Aby uzyskać kompleksowe wskazówki, zobacz Microsoft zasady i podejście odpowiedzialnej sztucznej inteligencji.
Zasady odpowiedzialnej sztucznej inteligencji
Zasady odpowiedzialnej sztucznej inteligencji prowadzą do projektowania, tworzenia i obsługi agentów w Microsoft 365 Copilot. Ustanawiają wspólny standard zachowania agenta, obsługi danych i interakcji użytkownika w celu zapewnienia, że systemy sztucznej inteligencji są wiarygodne, bezpieczne i dostosowane do ludzkich wartości.
Te zasady mają zastosowanie w całym cyklu życia agenta, od projektowania i programowania do wdrażania i ciągłego stosowania. Informują one o decyzjach dotyczących projektowania interakcji, modelu i wyboru wiedzy, autonomii, zabezpieczeń i ładu. Postępując zgodnie z tymi zasadami, agenci zapewniają odpowiedzialne dostarczanie wartości przy zachowaniu zaufania użytkowników i długoterminowego wdrażania.
| Principle | Co to oznacza dla projektowania agentów |
|---|---|
| Bezstronność | Systemy sztucznej inteligencji powinny zapewniać spójne i sprawiedliwe wyniki dla wszystkich użytkowników. Zachowania agentów muszą unikać tworzenia lub wzmacniania niesprawiedliwego traktowania na podstawie poufnych atrybutów lub kontekstu użytkownika. |
| Niezawodność i bezpieczeństwo | Systemy sztucznej inteligencji powinny działać zgodnie z oczekiwaniami w wielu różnych warunkach. Agenci muszą obsługiwać zmienność, przypadki brzegowe i nieoczekiwane dane wejściowe w sposób, który obsługuje bezpieczne i przewidywalne zachowanie. |
| Prywatność i bezpieczeństwo | Systemy sztucznej inteligencji muszą chronić dane użytkowników i przestrzegać ustalonych wymagań dotyczących prywatności i zabezpieczeń. Agenci powinni używać tylko informacji, do których mają uprawnienia dostępu i muszą obsługiwać te informacje w sposób odpowiedzialny. |
| Inkluzywność | Systemy sztucznej inteligencji powinny wspierać wszystkich użytkowników i zaspokoić różne potrzeby. Agenci powinni rozważyć dostępność, odmianę języka i różne poziomy biegłości technicznej, aby zapewnić inkluzywne środowisko. |
| Przezroczystość | Systemy sztucznej inteligencji powinny jasno określić swoje możliwości i ograniczenia. Agenci muszą komunikować się z tym, co mogą robić, jak są używane informacje i jak są generowane dane wyjściowe, aby użytkownicy mogli podejmować świadome decyzje. |
| Rozliczalność | Systemy sztucznej inteligencji wymagają wyraźnego nadzoru. Zespoły, które opracowują agentów, są odpowiedzialne za zapewnienie, że system jest zgodny z zasadami odpowiedzialnej sztucznej inteligencji, spełnia wymagania dotyczące zgodności i działa w ramach odpowiedniego ładu ludzkiego. |
Stosowanie odpowiedzialnej sztucznej inteligencji w tworzeniu agentów
Microsoft używa modelu ustrukturyzowanego do integrowania zasad odpowiedzialnej sztucznej inteligencji w trakcie opracowywania agentów sztucznej inteligencji. Ten model pomaga zespołom identyfikować zagrożenia, znajdować odpowiednie środki zaradcze i zachować odpowiedzialne zachowanie w całym cyklu życia agenta.
Jako projektant decyzje mają bezpośredni wpływ na sposób realizacji tych funkcji. Następujące kluczowe funkcje opisują sposób umieszczenia odpowiedzialnej sztucznej inteligencji w praktyce:
| Function | Opis |
|---|---|
| Govern | Ustanawia zasady, role i procesy, które zespoły stosują podczas projektowania i wdrażania agentów. Ład zapewnia zgodność z zasadami odpowiedzialnej sztucznej inteligencji i zapewnia wyraźną odpowiedzialność. |
| Mapa | Identyfikuje i określa priorytety potencjalnych zagrożeń związanych ze scenariuszem sztucznej inteligencji. Mapowanie umożliwia świadome podejmowanie decyzji dotyczących strategii ograniczania ryzyka i pomaga określić, czy rozwiązanie sztucznej inteligencji jest odpowiednie dla zamierzonego kontekstu. |
| Miara | Ocenia ryzyko i wydajność systemu, aby kierować projektowaniem i uściśleniem środków zaradczych. Pomiar jest niezbędny, ponieważ możliwości sztucznej inteligencji rosną w złożoności i wymagają ciągłej oceny. |
| Zarządzanie | Stosuje i utrzymuje środki ograniczające ryzyko podczas wdrażania i dalszej eksploatacji. Zespoły monitorują zachowanie systemu i dostosowują środki zaradcze zgodnie z potrzebami, aby zapewnić, że agenci pozostaną odpowiedzialni z upływem czasu. |
Filtry przezroczystości i bezpieczeństwa sztucznej inteligencji
Przejrzystość jest podstawą odpowiedzialnej sztucznej inteligencji. Podczas projektowania agentów należy jasno komunikować obecność i rolę sztucznej inteligencji w sposobie korzystania z produktu. Poinformuj użytkowników o celu, możliwościach, ograniczeniach i potencjalnych zagrożeniach agenta. Ta przejrzystość umożliwia użytkownikom podejmowanie świadomych decyzji i wspieranie zaufania do systemu.
Praktyczne zastosowania przejrzystości obejmują informacje o przejrzystości oraz ujawnienia w samym produkcie, które wyjaśniają, jak działa sztuczna inteligencja i czego użytkownicy mogą się spodziewać. Na przykład w usłudze Business Chat agent używa wyraźnych oznaczeń, takich jak etykiety „Treści wygenerowane przez SI mogą być nieprawidłowe”, aby pomóc użytkownikom wyrobić sobie właściwe oczekiwania oraz wspierać odpowiedzialne korzystanie.
Filtry bezpieczeństwa
Filtry bezpieczeństwa pomagają zapewnić, że agenci zachowują się w sposób odpowiedni, szanowany i zgodny z zasadami odpowiedzialnej sztucznej inteligencji Microsoft. Te zabezpieczenia zmniejszają ryzyko szkodliwych, stronniczych lub wprowadzających w błąd danych wyjściowych, jednocześnie chroniąc prywatność użytkowników i poufne informacje w trakcie interakcji.
Agenty zbudowane na rozwiązaniu Copilot odziedziczają zobowiązania firmy Microsoft dotyczące zasad odpowiedzialnej sztucznej inteligencji, które koncentrują się na sprawiedliwości, niezawodności, prywatności i przejrzystości. Filtry bezpieczeństwa odgrywają kluczową rolę w wymuszaniu tych zobowiązań, prowadząc agentów do reagowania na dane wejściowe użytkownika, obsługi poufnych tematów i zarządzania dostępem do danych.
Ważna
Jako projektant nie konfigurujesz bezpośrednio filtrów bezpieczeństwa. Microsoft wymusza je na poziomie platformy. Jednak decyzje projektowe w kwestii tonu, zakresu i przejrzystości bezpośrednio wzmacniają lub podważają zaufanie, które filtry bezpieczeństwa mają chronić.
Konsekwentnie stosując filtry bezpieczeństwa, agenci mogą wzmacniać zaufanie i poczucie pewności użytkowników. Użytkownicy są lepiej w stanie polegać na odpowiedziach agentów, wiedząc, że zabezpieczenia są w miejscu w celu promowania odpowiedzialnego zachowania i etycznego korzystania ze sztucznej inteligencji.
Porada
Aby uzyskać kompleksowe wskazówki dotyczące podejścia firmy Microsoft do odpowiedzialnej sztucznej inteligencji, w tym szczegółowych zasad, struktur zarządzania i raportowania w zakresie przejrzystości, zobacz Zasady i podejście firmy Microsoft dotyczące odpowiedzialnej sztucznej inteligencji.