Merk
Tilgang til denne siden krever autorisasjon. Du kan prøve å logge på eller endre kataloger.
Tilgang til denne siden krever autorisasjon. Du kan prøve å endre kataloger.
Ansvarlig kunstig intelligens styres av et sett med prinsipper som definerer hvordan AI-systemer skal fungere. Disse prinsippene fokuserer på rettferdighet, pålitelighet, sikkerhet, personvern, sikkerhet, inkludering, åpenhet og ansvarlighet. De etablerer standardene som styrer hvordan Microsoft evaluerer risikoer, utformer AI-funksjoner og sikrer ansvarlig systematferd.
Bruk av disse prinsippene på agentutforming bidrar til å forhindre utilsiktet skade, for eksempel skjevhet, feilinformasjon eller brudd på personvernet. Den støtter også brukertillit og langsiktig innføring. Ved å følge disse retningslinjene kan du opprette AI-agenter som utfører effektivt, samtidig som du opprettholder integritetsstandardene og respekterer at brukere og samfunn forventer fra Microsoft produkter.
Denne artikkelen gir en introduksjon på høyt nivå til ansvarlig kunstig intelligens når den gjelder agentutforming. Hvis du vil ha omfattende veiledning, kan du se Microsoft's Responsible AI principles and approach.
Ansvarlige AI-prinsipper
Ansvarlige AI-prinsipper veileder hvordan du utformer, bygger og drifter agenter i Microsoft 365 Copilot. De etablerer en delt standard for agentatferd, databehandling og brukersamhandling for å sikre at AI-systemer er pålitelige, sikre og på linje med menneskelige verdier.
Disse prinsippene gjelder på tvers av hele agentens livssyklus, fra utforming og utvikling til distribusjon og kontinuerlig bruk. De informerer beslutninger om samhandlingsdesign, modell- og kunnskapsvalg, autonomi, sikkerhet og styring. Ved å følge disse prinsippene sikrer du at agenter leverer verdi på en ansvarlig måte, samtidig som du opprettholder brukertillit og langsiktig innføring.
| Prinsipp | Hva det betyr for agentdesign |
|---|---|
| Rettferdighet | AI-systemer bør gi konsekvente og rettferdige resultater for alle brukere. Agentatferd må unngå å opprette eller forsterke urettferdig behandling basert på sensitive attributter eller brukerkontekst. |
| Pålitelighet og sikkerhet | AI-systemer bør fungere som tiltenkt på tvers av et bredt spekter av forhold. Agenter må håndtere variasjon, kanttilfeller og uventede inndata på måter som støtter sikker og forutsigbar atferd. |
| Personvern og sikkerhet | AI-systemer må beskytte brukerdata og respektere etablerte krav til personvern og sikkerhet. Agenter bør bare bruke informasjonen de har tillatelse til å få tilgang til, og må håndtere denne informasjonen på en ansvarlig måte. |
| Inkludering | AI-systemer bør styrke alle brukere og imøtekomme ulike behov. Agenter bør vurdere tilgjengelighet, språkvariasjon og ulike nivåer av tekniske ferdigheter for å sikre en inkluderende opplevelse. |
| gjennomsiktighet | AI-systemer bør gjøre funksjonene og begrensningene tydelige. Agenter må kommunisere hva de kan gjøre, hvordan informasjon brukes og hvordan utdata genereres, slik at brukerne kan ta informerte beslutninger. |
| Ansvarlighet | AI-systemer krever tydelig tilsyn. Team som utvikler agenter er ansvarlige for å sikre at systemet overholder ansvarlige AI-prinsipper, oppfyller samsvarskrav og opererer under passende menneskelig styring. |
Bruke ansvarlig kunstig intelligens i agentutvikling
Microsoft bruker en strukturert modell til å integrere ansvarlige AI-prinsipper gjennom hele utviklingen av AI-agenter. Denne modellen hjelper team med å identifisere risikoer, finne de riktige begrensningene og beholde ansvarlig atferd gjennom hele agentens livssyklus.
Som utformer påvirker beslutningene dine direkte hvordan disse funksjonene oppfylles. Følgende nøkkelfunksjoner beskriver hvordan ansvarlig kunstig intelligens settes ut i praksis:
| Funksjonen | Beskrivelse |
|---|---|
| Styre | Etablerer policyer, roller og prosesser som team følger når de utformer og distribuerer agenter. Styring sikrer justering med ansvarlige AI-prinsipper og gir klar ansvarlighet. |
| Kart | Identifiserer og prioriterer potensielle risikoer knyttet til et AI-scenario. Kartlegging muliggjør velinformerte beslutninger om begrensningsstrategier og bidrar til å fastslå om en AI-løsning er egnet for den tiltenkte konteksten. |
| Forretningsmål | Evaluerer risikoer og systemytelse for å veilede utformingen og forbedringen av begrensninger. Måling er viktig ettersom AI-funksjoner vokser i kompleksitet og krever kontinuerlig vurdering. |
| Administrer | Gjelder og opprettholder risikoreduksjoner gjennom distribusjon og fortsatt drift. Teams overvåker systematferd og justerer begrensninger etter behov for å sikre at agenter forblir ansvarlige over tid. |
Ai-gjennomsiktighet og sikkerhetsfiltre
Gjennomsiktighet er en hjørnestein i ansvarlig kunstig intelligens. Når du utformer agenter, kan du tydelig kommunisere tilstedeværelsen og rollen til AI i produktopplevelsen. Lær brukerne om agentens formål, funksjoner, begrensninger og potensielle risikoer. Denne gjennomsiktigheten gir brukerne mulighet til å ta informerte beslutninger og fremmer tillit til systemet.
Praktiske implementeringer av gjennomsiktighet inkluderer gjennomsiktighetsnotater og produktavsløringer som forklarer hvordan kunstig intelligens fungerer og hva brukerne kan forvente. I Business Chat-opplevelsen bruker for eksempel agenten klare indikatorer, for eksempel etiketter som «AI-generert innhold kan være feil», for å bidra til å angi riktige forventninger og støtte ansvarlig bruk.
Sikkerhetsfiltre
Sikkerhetsfiltre bidrar til å sikre at agenter oppfører seg på måter som er passende, respektfulle og på linje med Microsoft ansvarlige AI-prinsipper. Disse sikkerhetstiltakene reduserer risikoen for skadelige, forutinntatte eller villedende utganger samtidig som brukerens personvern og sensitiv informasjon beskyttes gjennom samhandlingen.
Agenter bygget på Copilot arver Microsoft ansvarlige AI-forpliktelser, som fokuserer på rettferdighet, pålitelighet, personvern og åpenhet. Sikkerhetsfiltre spiller en viktig rolle i å håndheve disse forpliktelsene ved å veilede hvordan agenter reagerer på brukerinndata, håndterer sensitive emner og administrerer tilgang til data.
Important
Som utformer konfigurerer du ikke sikkerhetsfiltre direkte. Microsoft håndhever dem på plattformnivå. Utformingsbeslutninger rundt tone, omfang og gjennomsiktighet forsterker eller undergraver imidlertid tilliten sikkerhetsfiltrene er utformet for å beskytte.
Ved å bruke sikkerhetsfiltre konsekvent, kan agenter støtte brukerens tillit og tillit. Brukere er bedre i stand til å stole på agent svar vel vitende om at sikkerhetstiltak er på plass for å fremme ansvarlig atferd og etisk bruk av AI.
Tips
Hvis du vil ha omfattende veiledning om Microsoft ansvarlig ai-tilnærming, inkludert detaljerte prinsipper, styringsrammeverk og gjennomsiktighetsrapportering, kan du gå til Microsoft ansvarlige AI-prinsipper og tilnærming.