Bruk ansvarlige KI-prinsipper

Et KI-system omfatter ikke bare teknologien, men også personene som bruker det, personene som berøres av det, og miljøet det distribueres i. Agenter følge prinsippene for ansvarlig KI for å sikre rettferdighet, ansvarlighet, åpenhet og etisk funksjonalitet.

Utform KI-systemet for å behandle alle brukere rettferdig, holde utviklere og brukere ansvarlige for ytelsen, sikre åpenhet i KI-operasjoner og overholde etiske standarder.

Hos Microsoft er vi forpliktet til å fremme kunstig intelligens drevet av prinsipper som setter mennesker først. Generative modeller har betydelige potensielle fordeler, men uten nøye utforming og gjennomtenkte reduksjoner har slike modeller potensial til å generere feil eller til og med skadelig innhold. Microsoft har gjort betydelige investeringer for å beskytte mot misbruk og utilsiktet skade, som inkluderer å innlemme Microsofts prinsipper for ansvarlig bruk av kunstig intelligens, ta i bruk regler for god oppførsel, bygge innholdsfiltre for å støtte kunder og gi informasjon og veiledning ansvarlig KI som kunder bør vurdere når de bruker generativ KI.

Copilot Studio og generative KI-funksjoner følger et sett med kjernesikkerhets- og personvernpraksiser og Microsofts standard for ansvarlig KI.

Finn ut mer:

Kjerneprinsipper for ansvarlig kunstig intelligens

Kjerneprinsippene for ansvarlig kunstig intelligens omfatter rettferdighet, ansvarlighet, åpenhet og etikk. Å sikre at en agent bygd med Copilot Studio følger disse kjerneprinsippene, innebærer flere viktige praksiser:

  • Rettferdighet: Bruk varierte og representative treningsdata for å minimere skjevheter. Oppdater treningsdata regelmessig og få revisorer til å validere rettferdighet og likebehandling.
  • Ansvarlighet: Definer klare roller og ansvar for teammedlemmer som er involvert i KI-prosjektet. Etabler og etterlev etiske standarder som prioriterer rettferdighet og ansvarlighet.
  • Åpenhet: Sørg for at brukerne er klar over at de bruker en agent som benytter generative KI-funksjoner. Kommuniser tydelig hvorfor en KI-løsning ble valgt, hvordan den ble utformet, og hvordan den overvåkes og oppdateres.
  • Etikk: Frem en inkluderende arbeidsstyrke og søk innspill fra ulike fellesskap tidlig i utviklingsprosessen. Regelmessig vurder og test modeller for etiske bekymringer og ulikheter i ytelse. Etabler et styringsrammeverk som inkluderer regelmessige revisjoner.

Ta i bruk disse praksisene i utviklings- og distribusjonsprosessene for å sikre at agentene følger de sentrale prinsippene for ansvarlig KI.

Datapersonvern og -sikkerhet

Å ivareta personvernet er avgjørende, særlig siden agenten kan behandle sensitive data. Når du planlegger en agent med Copilot Studio, er det avgjørende å identifisere og håndtere flere viktige risikoer og implementere effektive reduksjonsstrategier:

  • Plattformfunksjoner: Forstå opprinnelige kontroller og plattformfunksjoner som beskytter dataene dine. Se gjennom Vanlige spørsmål om ansvarlig KI for Copilot Studio for å få bedre forståelse av bestemte KI-systemer og -funksjoner som Microsoft utvikler.
  • Datakryptering: Teknologier på servicesiden krypterer organisasjonsinnhold som er både inaktivt og under overføring, for å oppnå robust sikkerhet. Tilkoblinger ivaretas med TLS (Transport Layer Security), og dataoverføringer mellom Dynamics 365, Power Platform og Azure OpenAI skjer over Microsofts ryggradsnettverk, noe som sikrer både pålitelighet og sikkerhet. Finn ut mer om kryptering i Microsoft Cloud.
  • Tilgangskontroller: Data gis til en agent basert på tilgangsnivået til nåværende bruker. Implementer rollebasert tilgangskontroll (RBAC) ved hjelp av Microsoft Entra ID for å sikre at bare autoriserte brukere har tilgang til data. Bruk prinsippet om minste rettighet for å begrense tilgangen til bare det som er nødvendig. Se gjennom veiledning om hvordan du sikrer Copilot Studio-prosjektene og nøkkelkonsepter for sikkerhet og styring i Copilot Studio.
  • Overvåking og revisjon: Oppdag og reager på mulige sikkerhetshendelser ved å jevnlig overvåke tilgang til og bruk av agenten. Vedlikehold detaljerte overvåkingslogger for å spore datatilgang og endringer.
  • Etterlevelse og styring: Sikre etterlevelse av relevante personvernforskrifter som GDPR (EUs personvernforordning), HIPAA (Health Insurance Portability and Accountability Act) og CCPA (California Consumer Privacy Act). Implementer etiske KI-praksiser for å unngå skjevheter og sikre rettferdighet i KI-utdata.
  • Brukerutdanning og -opplæring: Lær brukere anbefalte fremgangsmåter for sikkerhet og viktigheten av personvern. Hold brukerne informert om oppdateringer og endringer i sikkerhetspolicyer og -prosedyrer.

Bevissthet om skjevhet og begrensing

Anerkjenn viktigheten av å adressere skjevheter i systemet og sikre rettferdighet for å unngå skjevheter i KI-svar.

  • Mangfoldige og representative data: Sørg for at opplæringsdataene er mangfoldige og representative for ulike demografier for å minimere iboende skjevheter. Regelmessig revider dataene for skjevheter og ubalanser, og iverksett korrigerende tiltak etter behov.
  • Verktøy for gjenkjenning og begrensning av skjevheter: Bruk verktøy og teknikker til å oppdage skjevheter i modellene for kunstig intelligens, for eksempel statistisk analyse og rettferdighetsmåleverdier. Implementer tekniker for å unngå skjevheter, inkludert nye eksempler, ny vekting eller negative skjevheter, for å redusere skjevheter i modellene.
  • Menneske i løkken: Ta med menneskelig gjennomgang og tilbakemeldingsløkker for å identifisere og korrigere skjevheter som kunstig intelligens kan introdusere. Etablere en etisk komité eller et styringsstyre for å overvåke KI-utvikling og -utrulling, og sikre at etiske standarder oppfylles.
  • Åpenhet og tillit: Sørg for at brukerne er klar over at de bruker en agent som benytter generative KI-funksjoner. Kommuniser tydelig hvorfor en KI-løsning ble valgt, og gi informasjon om hvordan den ble utformet og hvordan den overvåkes og oppdateres.
  • Kontinuerlig overvåking og forbedring: Overvåk kontinuerlig KI-systemet for skjevheter og ytelsesproblemer, og oppdater modellene etter behov. Sørg for at modellene forblir rettferdige og objektive ved regelmessig lære opp modeller på nytt med oppdaterte og mer varierte data.

Løpende overvåking og evaluering

Fortsett å forbedre agenten din. Etabler et rammeverk for kontinuerlig overvåking og evaluering, og innlem tilbakemeldinger fra brukere og utviklende etiske standarder i oppdateringer.

  • Tilbakemeldingsløkker: Opprett tilbakemeldingsmekanismer der brukere kan rapportere unøyaktigheter, som deretter kan brukes til å finjustere og forbedre modellene.
  • Overvåking og revisjon: Oppdag og svar på potensielle sikkerhetshendelser ved regelmessig å overvåke tilgang til og bruk av KI-systemet. Vedlikehold detaljerte overvåkingslogger for å spore datatilgang og endringer.

Neste trinn

Bruk oppsummeringssjekklisten til å bekrefte om prosjektet er klart til implementering, og bruk forklaringer for anbefalte fremgangsmåter til å forbedre prosjekttilnærmingen før du går inn i implementeringsfasen.

Se gjennom plansjekklisten

  • Last updated on