Kommentar
Åtkomst till den här sidan kräver auktorisering. Du kan prova att logga in eller ändra kataloger.
Åtkomst till den här sidan kräver auktorisering. Du kan prova att ändra kataloger.
Ansvarsfull AI styrs av en uppsättning principer som definierar hur AI-system ska fungera. Dessa principer fokuserar på rättvisa, tillförlitlighet, säkerhet, sekretess, säkerhet, inkludering, transparens och ansvarsskyldighet. De fastställer de standarder som styr hur Microsoft utvärderar risker, utformar AI-funktioner och säkerställer ansvarsfullt systembeteende.
Genom att tillämpa dessa principer på agentdesign kan du förhindra oavsiktlig skada, till exempel bias, felaktig information eller sekretessöverträdelser. Det stöder också användarförtroende och långsiktig implementering. Genom att följa dessa riktlinjer kan du skapa AI-agenter som presterar effektivt och samtidigt upprätthålla de integritetsstandarder och respekt som användarna och samhället förväntar sig av Microsoft produkter.
Den här artikeln innehåller en introduktion på hög nivå till ansvarsfull AI eftersom den gäller för agentdesign. Omfattande vägledning finns i Microsoft principer och tillvägagångssätt för ansvarsfull AI.
Ansvarsfulla AI-principer
Ansvarsfulla AI-principer vägleder hur du utformar, skapar och hanterar agenter i Microsoft 365 Copilot. De upprättar en delad standard för agentbeteende, datahantering och användarinteraktion för att säkerställa att AI-system är tillförlitliga, säkra och anpassade till mänskliga värden.
Dessa principer gäller i hela agentens livscykel, från design och utveckling till distribution och löpande användning. De informerar beslut om interaktionsdesign, modell och kunskapsval, autonomi, säkerhet och styrning. Genom att följa dessa principer ser du till att agenterna levererar ett ansvarsfullt värde samtidigt som användarens förtroende och långsiktiga införande upprätthålls.
| Principle | Vad det innebär för agentdesign |
|---|---|
| Rättvisa | AI-system bör ge konsekventa och rättvisa resultat för alla användare. Agentbeteenden måste undvika att skapa eller förstärka orättvis behandling baserat på känsliga attribut eller användarkontext. |
| Tillförlitlighet och säkerhet | AI-system bör fungera som de är avsedda för en mängd olika förhållanden. Agenter måste hantera variabilitet, gränsfall och oväntade indata på ett sätt som stöder säkert och förutsägbart beteende. |
| Sekretess och säkerhet | AI-system måste skydda användardata och respektera etablerade sekretess- och säkerhetskrav. Agenter bör endast använda information som de har behörighet att komma åt och måste hantera den informationen på ett ansvarsfullt sätt. |
| Delaktighet | AI-system bör stärka alla användare och tillgodose olika behov. Agenter bör överväga tillgänglighet, språkvariationer och olika nivåer av tekniska färdigheter för att säkerställa en inkluderande upplevelse. |
| Genomskinlighet | AI-system bör göra deras funktioner och begränsningar tydliga. Agenter måste kommunicera vad de kan göra, hur information används och hur utdata genereras så att användarna kan fatta välgrundade beslut. |
| Redovisningsansvar | AI-system kräver tydlig tillsyn. Team som utvecklar agenter ansvarar för att se till att systemet följer ansvarsfulla AI-principer, uppfyller efterlevnadskraven och arbetar under lämplig mänsklig styrning. |
Tillämpa ansvarsfull AI i agentutveckling
Microsoft använder en strukturerad modell för att integrera ansvarsfulla AI-principer under utvecklingen av AI-agenter. Den här modellen hjälper team att identifiera risker, hitta rätt åtgärder och hålla ett ansvarsfullt beteende under agentens livscykel.
Som designer påverkar dina beslut direkt hur dessa funktioner uppfylls. Följande viktiga funktioner beskriver hur ansvarsfull AI tillämpas i praktiken:
| Function | Description |
|---|---|
| Govern | Etablerar de principer, roller och processer som team följer när de utformar och distribuerar agenter. Styrning säkerställer anpassning till ansvarsfulla AI-principer och ger ett tydligt ansvar. |
| Karta | Identifierar och prioriterar potentiella risker som är associerade med ett AI-scenario. Mappning möjliggör välgrundade beslut om riskreduceringsstrategier och hjälper till att avgöra om en AI-lösning är lämplig för den avsedda kontexten. |
| Åtgärd | Utvärderar risker och systemprestanda för att vägleda utformningen och förfining av åtgärder. Mätning är viktigt när AI-funktionerna växer i komplexitet och kräver löpande utvärdering. |
| Hantera | Tillämpar och underhåller riskreduceringar under hela distributionen och den fortsatta driften. Teams övervakar systemets beteende och justerar åtgärder efter behov för att säkerställa att agenterna förblir ansvariga över tid. |
AI-transparens och säkerhetsfilter
Transparens är en hörnsten i ansvarsfull AI. När du utformar agenter kommunicerar du tydligt AI:s närvaro och roll i produktupplevelsen. Informera användarna om agentens syfte, funktioner, begränsningar och potentiella risker. Den här transparensen ger användarna möjlighet att fatta välgrundade beslut och främja förtroendet för systemet.
Praktiska implementeringar av transparens omfattar transparensanteckningar och produktinformation som förklarar hur AI-funktionerna och vad användarna kan förvänta sig. I Business Chat-upplevelsen använder agenten till exempel tydliga indikatorer, till exempel etiketter som "AI-genererat innehåll kan vara felaktigt", för att ange lämpliga förväntningar och stödja ansvarsfull användning.
Säkerhetsfilter
Säkerhetsfilter hjälper till att säkerställa att agenter beter sig på ett sätt som är lämpligt, respektfullt och anpassat till Microsoft ansvarsfulla AI-principer. Dessa skyddsåtgärder minskar risken för skadliga, partiska eller vilseledande utdata samtidigt som användarens integritet och känslig information skyddas under interaktionen.
Agenter som bygger på Copilot ärver Microsoft ansvarsfulla AI-åtaganden, som fokuserar på rättvisa, tillförlitlighet, sekretess och transparens. Säkerhetsfilter spelar en viktig roll när det gäller att genomdriva dessa åtaganden genom att vägleda hur agenter svarar på användarindata, hantera känsliga ämnen och hantera åtkomst till data.
Important
Som designer konfigurerar du inte säkerhetsfilter direkt. Microsoft framtvingar dem på plattformsnivå. Dina designbeslut kring ton, omfattning och transparens förstärker eller undergräver dock direkt det förtroende som säkerhetsfilter är utformade för att skydda.
Genom att konsekvent tillämpa säkerhetsfilter kan agenter stärka användarnas tillit och förtroende. Användarna kan bättre förlita sig på agentsvar i vetskap om att skyddsåtgärder finns för att främja ansvarsfullt beteende och etisk användning av AI.
Tips/Råd
Omfattande vägledning om Microsoft ansvarsfulla AI-metod, inklusive detaljerade principer, styrningsramverk och transparensrapportering, finns i Microsoft principer och tillvägagångssätt för ansvarsfull AI.