Tillämpa principer för ansvarsfull AI

Ett AI-system omfattar inte bara tekniken utan även de personer som använder den, de personer som påverkas av den och den miljö där systemet distribueras. Agenter måste uppfylla principer för ansvarsfull AI för att säkerställa rättvisa, ansvar, transparens och etiskt beteende.

Utforma AI-systemet så att det behandlar alla användare rättvist, håller utvecklare och användare ansvariga för dess prestanda, säkerställer transparens i AI-verksamheten och följer etiska standarder.

På Microsoft är vi engagerade i utvecklingen av AI som drivs av principer som sätter människor först. Generativa modeller har betydande potentiella fördelar, men utan noggrann design och genomtänkta åtgärder kan sådana modeller generera felaktigt eller till och med skadligt innehåll. Microsoft har gjort betydande investeringar för att skydda mot missbruk och oavsiktlig skada, vilket inkluderar inkorporering av Microsofts principer för användning av ansvarsfull AI, anta en uppförandekod, bygga innehållsfilter för att stödja kunder och tillhandahålla information och vägledning om AI-information som kunder bör tänka på när de använder generativ AI.

Copilot Studio- och generativa AI-funktioner följer en uppsättning grundläggande metoder för säkerhet och sekretess samt Microsofts standard för ansvarsfull AI.

Läs mer:

Grundläggande principer för ansvarsfull AI

Kärnprinciperna för ansvarsfull AI är rättvisa, ansvarsskyldighet, transparens och etik. Att säkerställa att en agent skapad med Copilot Studio följer dessa kärnprinciper omfattar flera viktiga åtgärder:

  • Rättvisa: Använd olika och representativa träningsdata för att minimera fördomar. Uppdatera regelbundet träningsdata och anlita revisorer för att validera rättvisa och jämlikhet.
  • Ansvar: Definiera tydliga roller och ansvarsområden för teammedlemmar som är involverade i AI-projektet. Upprätta och följ etiska standarder som prioriterar rättvisa och ansvarsskyldighet.
  • Transparens: Säkerställ att användarna informeras om att de använder en agent som använder funktioner för generativ AI. Kommunicera tydligt varför en AI-lösning valdes, hur den utformades och hur den övervakas och uppdateras.
  • Etik: Främja en inkluderande arbetsstyrka och sök synpunkter från olika diskussionsgrupper tidigt i utvecklingsprocessen. Regelbundet bedöma och testa modeller för etiska problem och skillnader i prestanda. Upprätta ett ramverk för styrning som omfattar regelbundna revisioner.

Integrera dessa metoder i dina utvecklings- och implementeringsprocesser för att skapa agenter som lever upp till kärnprinciperna för ansvarsfull AI.

Datasäkerhet och sekretess

Att säkerställa datasekretess är avgörande, särskilt eftersom agenten kan hantera känsliga data. När du planerar en agent med Copilot Studio är det viktigt att identifiera och hantera flera nyckelrisker samt att implementera effektiva riskreduceringsstrategier.

  • Plattformsfunktioner: Förstå inbyggda kontroller och plattformsfunktioner som skyddar dina data. Granska Vanliga frågor och svar för ansvarsfull AI för COpilot Studio för en bättre bild över de specifika AI-system och -funktioner som Microsoft utvecklar.
  • Datakryptering: Serviceteknologier krypterar organisationsinnehåll som lagrats samt vid överföring för robust säkerhet. Anslutningar skyddas med Transport Layer Security (TLS), och dataöverföringar mellan Dynamics 365, Power Platform och Azure OpenAI sker via Microsofts basnätverk för att säkerställa tillförlitlighet och säkerhet. Läs mer om kryptering i Microsoft Cloud.
  • Åtkomstkontroll: Data tillhandahålls till en agent baserat på åtkomstnivån för den aktuella användaren. Implementera rollbaserad åtkomstkontroll (RBAC) med Microsoft Entra ID för att säkerställa att endast behöriga användare kan få tillgång till data. Tillämpa principen om lägsta behörighet för att begränsa åtkomsten till endast det som är nödvändigt. Gå igenom vägledningen om hur du säkrar dina Copilot Studio-projekt samt Copilot Studios nyckelkoncept för säkerhets och styrning.
  • Övervakning och granskning: Identifiera och svara på potentiella säkerhetsincidenter genom att regelbundet övervaka åtkomst och användning av agenten. Upprätthåll detaljerade granskningsloggar för att spåra dataåtkomst och ändringar.
  • Efterlevnad och styrning: Se till att relevanta bestämmelser om datasekretess följs, till exempel GDPR (allmän dataskyddsförordning), HIPAA (Health Insurance Portability and Accountability Act) och CCPA (California Consumer Privacy Act). Implementera etiska AI-metoder för att undvika fördomar och säkerställa rättvisa i AI-resultat.
  • Användarutbildning och träning: Utbilda användarna om bästa praxis för säkerhet och vikten av datasekretess. Håll användarna informerade om uppdateringar och ändringar av säkerhetspolicyer och procedurer.

Medvetenhet och åtgärdande av fördomar

Inse vikten av att ta itu med fördomar i systemet och säkerställa rättvisa för att undvika fördomar i AI-svar.

  • Mångsidiga och representativa data: Se till att utbildningsdata är mångsidiga och representativa för olika demografiska grupper i syfte att minimera inneboende fördomar. Granska regelbundet data för bias och obalanser och vidta korrigerande åtgärder vid behov.
  • Verktyg för identifiering och begränsning av fördomar: Använd verktyg och tekniker för att upptäcka bias i AI-modellerna, t.ex. statistisk analys och rättvisemått. Implementera debiasing-tekniker, inklusive omsampling, omviktning eller adversarial debiasing, för att minska bias i modellerna.
  • Underrättad människa: Införliva mänskliga gransknings- och återkopplingstrådar för att identifiera och korrigera fördomar som AI kan komma att introducera. Inrätta en etisk kommitté eller styrningsnämnd för att övervaka utveckling och distribution av AI och se till att etiska standarder uppfylls.
  • Transparens och förtroende: Se till att användarna är medvetna om att de använder en agent som använder generativ AI. Kommunicera tydligt varför en AI-lösning valdes och ge information om hur den utformades och hur den övervakas och uppdateras.
  • Kontinuerlig övervakning och förbättring: Övervaka AI-systemet kontinuerligt för bias och prestandaproblem, och uppdatera modellerna efter behov. Se till att modellerna förblir rättvisa och opartiska genom att regelbundet träna om modeller med uppdaterade och mer varierade data.

Löpande övervakning och utvärdering

Fortsätt förbättra din agent. Upprätta ett ramverk för kontinuerlig övervakning och utvärdering, och införliva användarfeedback och utvecklande etiska standarder i uppdateringar.

  • Återkopplingstrådar: Upprätta återkopplingsmekanismer där användare kan rapportera felaktigheter, som sedan kan användas för att förfina och förbättra modellerna.
  • Övervakning och granskning: Identifiera och svara på potentiella säkerhetsincidenter genom att regelbundet övervaka åtkomst och användning av AI-systemet. Upprätthåll detaljerade granskningsloggar för att spåra dataåtkomst och ändringar.

Nästa steg

Använd den sammanfattade checklistan för att validera att ditt projekt är redo att gå vidare till implementering och tillämpa bästa praxis för att förfina ditt projekttillvägagångssätt innan du går över till implementeringsfasen.

Granska checklistan för planering

  • Last updated on