Anvend principper for ansvarlig AI

Et AI-system omfatter ikke kun teknologien, men også de personer, der bruger den, de personer, der påvirkes af den, og det miljø, den udrulles i. Agenter skal følge principperne for ansvarlig AI for at sikre retfærdighed, ansvarlighed, gennemsigtighed og etisk adfærd.

Design AI-systemet, så det behandler alle brugere retfærdigt, holder udviklere og brugere ansvarlige for dets ydeevne, sikrer gennemsigtighed i AI-handlinger og overholder etiske standarder.

Hos Microsoft er vi forpligtet til at fremme AI drevet af principper, der sætter mennesker først. Generative modeller har betydelige potentielle fordele, men uden omhyggeligt design og gennemtænkte afhjælpninger har sådanne modeller potentiale til at generere forkert eller endda skadeligt indhold. Microsoft har foretaget betydelige investeringer for at beskytte mod misbrug og utilsigtet skade, hvilket omfatter inkorporering af Microsoft's principper for ansvarlig AI-brug, vedtagelse af et adfærdskodeks, opbygning af indholdsfiltre til support af kunder og levering af oplysninger og vejledning om ansvarlig AI , som kunderne bør overveje, når de bruger generativ AI.

Copilot Studio og generative AI-funktioner følger et sæt metoder for kernesikkerhed og beskyttelse af personlige oplysninger og Microsoft Ansvarlig AI-standard.

Få mere at vide:

Kerneprincipper for ansvarlig AI

Kerneprincipperne for ansvarlig kunstig intelligens omfatter retfærdighed, ansvarlighed, gennemsigtighed og etik. At sikre, at en agent bygget med Copilot Studio overholder disse kerneprincipper, involverer flere nøglepraksisser:

  • Retfærdighed: Brug forskellige og repræsentative træningsdata til at minimere fordomme. Opdater regelmæssigt træningsdata, og få auditorer til at validere retfærdighed og lige værd.
  • Ansvarlighed: Definer klare roller og ansvarsområder for teammedlemmer, der er involveret i AI-projektet. Etabler og overhold etiske standarder, der prioriterer retfærdighed og ansvarlighed.
  • Gennemsigtighed: Sørg for, at brugerne ved, at de bruger en agent, der anvender generative AI-funktioner. Kommuniker tydeligt, hvorfor en AI-løsning blev valgt, hvordan den blev designet, og hvordan den overvåges og opdateres.
  • Etik: Frem en inkluderende arbejdsstyrke og søg input fra forskellige samfund tidligt i udviklingsprocessen. Regelmæssigt vurdere og teste modeller for etiske bekymringer og forskelle i ydeevne. Etabler en styringsramme, der omfatter regelmæssige revisioner.

Indarbejd disse praksisser i dine udviklings- og implementeringsprocesser for at skabe agenter, der overholder kerneprincipperne for ansvarlig AI.

Beskyttelse af personlige oplysninger og sikkerhed

At sikre databeskyttelse er afgørende, især da agenten kan håndtere følsomme data. Når du planlægger en agent med Copilot Studio, er det essentielt at adressere flere nøglerisici og implementere effektive afhjælpningsstrategier:

  • Platformsfunktioner: Forstå indbyggede kontrolelementer og platformsfunktioner, der beskytter dine data. Gennemgå Ofte stillede spørgsmål om ansvarlig AI for Copilot Studio til bedre at forstå specifikke AI-systemer og funktioner, som Microsoft udvikler.
  • Datakryptering: Teknologier på servicesiden krypterer organisationsindhold i hvile og undervejs for robust sikkerhed. Forbindelserne beskyttes med TLS (Transport Layer Security), og dataoverførsler mellem Dynamics 365, Power Platform og Azure OpenAI sker via Microsofts netværk for at sikre stabilitet og sikkerhed. Få mere at vide om kryptering i Microsoft cloud.
  • Adgangskontrol: Data leveres til en agent kun baseret på adgangsniveauet for den aktuelle bruger. Implementér rollebaseret adgangskontrol (RBAC) ved hjælp af Microsoft Entra ID for at sikre, at kun autoriserede brugere kan få adgang til data. Anvend princippet om mindste privilegium til at begrænse adgangen til kun det, der er nødvendigt. Gennemgå vejledningen om, hvordan du sikrer dine Copilot Studio-projekter og Copilot Studio-sikkerheds- og styringsnøglekoncepter.
  • Overvågning og revision: Identificer og reager på potentielle sikkerhedshændelser ved regelmæssigt at overvåge adgang og brug af agenten. Oprethold detaljerede overvågningslogfiler for at spore dataadgang og ændringer.
  • Overholdelse og styring: Sørg for overholdelse af relevante databeskyttelsesbestemmelser såsom GDPR (generel forordning om databeskyttelse), HIPAA (Health Insurance Portability and Accountability Act) og CCPA (California Consumer Privacy Act). Implementer etisk AI-praksis for at undgå forudindtagethed og sikre retfærdighed i AI-output.
  • Brugeruddannelse og træning: Oplær brugere om bedste praksis for sikkerhed og vigtigheden af databeskyttelse. holde brugere orienteret om opdateringer og ændringer af sikkerhedspolitikker og -procedurer.

Bevidsthed om og afhjælpning af bias

Anerkend vigtigheden af at håndtere skævheder i systemet, og sørg for retfærdighed for at undgå skævheder i AI-svar.

  • Forskellige og repræsentative data: Sørg for, at træningsdataene er forskellige og repræsentative for forskellige demografier for at minimere iboende skævhed. Overvåg regelmæssigt dataene for skævheder og ubalancer, og foretag korrigerende handlinger efter behov.
  • Værktøjer til registrering og afhjælpning af skævhed: Brug værktøjer og teknikker til at registrere skævheder i AI-modellerne, f.eks. statistisk analyse og fairness-målepunkter. Implementere debiasing teknikker, herunder resampling, reweighting, eller adversarial debiasing, for at reducere biases i modellerne.
  • Menneske-i-løkken: Inkorporer menneskelige gennemgangs- og feedbackløkker for at identificere og rette skævheder, som AI kan introducere. Opret en etisk komité eller et styringsråd, der skal føre tilsyn med AI-udvikling og -udrulning og sikre, at etiske standarder overholdes.
  • Transparens og tillid: Sørg for, at brugerne ved, at de interagerer med en agent, der anvender generativ AI. Kommuniker tydeligt, hvorfor en AI-løsning blev valgt, og giv oplysninger om, hvordan den blev designet, og hvordan den overvåges og opdateres.
  • Løbende overvågning og forbedring: Overvåg løbende AI-systemet for skævheder og problemer med ydeevnen, og opdater modellerne efter behov. Sørg for, at modellerne forbliver retfærdige og upartiske ved regelmæssigt at omskole modeller med opdaterede og mere forskelligartede data.

Løbende overvågning og evaluering

Fortsæt med at forbedre din agent. Etabler en ramme for løbende overvågning og evaluering og indarbejd brugerfeedback og udvikling af etiske standarder i opdateringer.

  • Feedbackløkker: Opret feedbackmekanismer, hvor brugerne kan rapportere unøjagtigheder, som derefter kan bruges til at forfine og forbedre modellerne.
  • Overvågning og revision: Registrer og reager på potentielle sikkerhedshændelser ved regelmæssigt at overvåge adgangen til og brugen af AI-systemet. Oprethold detaljerede overvågningslogfiler for at spore dataadgang og ændringer.

Næste trin

Brug den opsummerende tjekliste til at validere, om dit projekt er klar til at gå videre til implementering, og anvend bedste praksis-anbefalinger til at forfine din projektfremgangsmåde, før du overgår til implementeringsfasen.

Gennemgå tjeklisten for planen

  • Last updated on