Principes van verantwoorde AI toepassen

Een AI-systeem omvat niet alleen de technologie, maar ook de mensen die het gebruiken, de mensen die erdoor worden beïnvloed en de omgeving waarin het wordt ingezet. Agenten moeten zich houden aan principes voor verantwoorde AI om eerlijkheid, verantwoordelijkheid, transparantie en ethisch gedrag te waarborgen.

Ontwerp het AI-systeem zodanig dat alle gebruikers eerlijk worden behandeld, dat ontwikkelaars en gebruikers verantwoordelijk worden gehouden voor de prestaties, dat transparantie in de AI-activiteiten wordt gewaarborgd en dat ethische normen worden nageleefd.

Bij Microsoft zetten we ons in voor de vooruitgang van AI, waarbij de mens centraal staat. Generatieve modellen bieden aanzienlijke potentiële voordelen, maar zonder zorgvuldig ontwerp en doordachte maatregelen kunnen dergelijke modellen onjuiste of zelfs schadelijke inhoud genereren. Microsoft heeft aanzienlijke investeringen gedaan om misbruik en onbedoelde schade te helpen voorkomen. Dit omvat onder andere het opnemen van de principes voor verantwoord AI-gebruik van Microsoft, het aannemen van een gedragscode, het bouwen van inhoudsfilters ter ondersteuning van klanten en het verstrekken van informatie en richtlijnen voor verantwoorde AI, waar klanten rekening mee moeten houden bij het gebruik van generatieve AI.

Copilot Studio en generatieve AI-functie volgen een reeks kernpraktijken voor beveiliging en privacy, en de Microsoft-standaard voor verantwoorde AI.

Meer informatie:

Kernprincipes van verantwoorde AI

De kernprincipes van verantwoorde AI zijn eerlijkheid, verantwoordingsplicht, transparantie en ethiek. Om ervoor te zorgen dat een agent die is gemaakt met Copilot Studio aan deze kernprincipes voldoet, zijn verschillende belangrijke praktijken nodig:

  • Eerlijkheid: gebruik diverse en representatieve trainingsgegevens om vooroordelen te minimaliseren. Werk de trainingsgegevens regelmatig bij en schakel auditors in om de eerlijkheid en billijkheid te valideren.
  • Verantwoording: definieer duidelijke rollen en verantwoordelijkheden voor teamleden die betrokken zijn bij het AI-project. Stel ethische normen op die eerlijkheid en verantwoordingsplicht voorop stellen en houd u daaraan.
  • Transparantie: zorg ervoor dat gebruikers weten dat ze een agent gebruiken die beschikt over generatieve AI-functionaliteit. Communiceer duidelijk waarom er voor een AI-oplossing is gekozen, hoe deze is ontworpen en hoe deze wordt gemonitord en bijgewerkt.
  • Ethiek: bevorder een inclusief personeelsbestand en vraag al vroeg in het ontwikkelingsproces om input van diverse gemeenschappen. Beoordeel en test modellen regelmatig op ethische bezwaren en prestatieverschillen. Stel een governancekader in dat regelmatige audits omvat.

Integreer deze praktijken in uw ontwikkelings- en implementatieprocessen om agenten te creëren die voldoen aan de kernprincipes van verantwoorde AI.

Gegevensprivacy en -beveiliging

Het waarborgen van gegevensprivacy is cruciaal, vooral omdat de agent mogelijk gevoelige gegevens behandelt. Bij het plannen van een agent met Copilot Studio is het essentieel om een aantal belangrijke risico's aan te pakken en effectieve risicobeperkingsstrategieën te implementeren.

  • Platformfuncties: zorg dat u weet welke systeemeigen controles en platformfuncties uw gegevens beschermen. Bekijk de Veelgestelde vragen over Verantwoord AI voor Copilot Studio gebruiken om specifieke AI-systemen en functies die Microsoft ontwikkelt beter te begrijpen.
  • Gegevensversleuteling: service-side technologieën worden gebruikt om organisatie-inhoud zowel at-rest als in-transit te versleutelen voor een robuuste beveiliging. Verbindingen worden beveiligd met Transport Layer Security (TLS) en gegevensoverdrachten tussen Dynamics 365, Power Platform en Azure OpenAI vinden plaats via het Microsoft-backbonenetwerk, om zowel de betrouwbaarheid als de veiligheid te waarborgen. Meer informatie over versleuteling in de Microsoft Cloud.
  • Toegangsbeheer: gegevens die aan een agent worden verstrekt, worden alleen verstrekt op basis van het toegangsniveau van de huidige gebruiker. Implementeer rolgebaseerde toegangscontrole (RBAC) met behulp van Microsoft Entra ID, zodat alleen geautoriseerde gebruikers toegang hebben tot gegevens. Pas het principe van de minste privileges toe om de toegang te beperken tot alleen datgene wat noodzakelijk is. Bekijk de richtlijnen over hoe u uw Copilot Studio-projecten kunt beveiligen en de belangrijkste beveiligings- en governanceconcepten van Copilot Studio.
  • Monitoring en auditing: detecteer en reageer bij potentiële beveiligingsincidenten, door de toegang tot en het gebruik van de agent regelmatig te bewaken. Houd gedetailleerde controlelogboeken bij om de toegang tot gegevens en wijzigingen bij te houden.
  • Naleving en governance: zorg voor naleving van relevante regelgeving inzake gegevensbescherming, zoals AVG (algemene verordening gegevensbescherming), HIPAA (Health Insurance Portability and Accountability Act) en CCPA (California Consumer Privacy Act). Implementeer ethische AI-praktijken om vooroordelen te voorkomen en eerlijke AI-resultaten te garanderen.
  • Gebruikerseducatie en -training: train gebruikers over best practices voor beveiliging en het belang van gegevensprivacy. Houd gebruikers op de hoogte van updates en wijzigingen in beveiligingsbeleid en -procedures.

Bewustzijn en vermindering van vooroordelen

Erken het belang dat vooroordelen moeten worden aangepakt in het systeem en zorg voor eerlijkheid om vooroordelen in AI-reacties te voorkomen.

  • Diverse en representatieve gegevens: zorg ervoor dat de trainingsgegevens divers en representatief zijn voor verschillende demografieën om inherente vertekeningen te minimaliseren. Controleer de gegevens regelmatig op vooroordelen en onevenwichtigheden en neem indien nodig corrigerende maatregelen.
  • Hulpmiddelen voor het detecteren en beperken van vertekening: gebruik hulpmiddelen en technieken om vertekening in AI-modellen te detecteren, zoals statistische analyses en eerlijkheidsmetingen. Pas technieken om bias weg te nemen toe, zoals resampling, reweighting of adversarial debiasing, om de bias in de modellen te verminderen.
  • Menselijke betrokkenheid: integreer menselijke beoordeling en feedbacklussen om vertekening die de AI zou kunnen introduceren, te identificeren en corrigeren. Stel een ethische commissie of bestuursraad in om toezicht te houden op de ontwikkeling en implementatie van AI en ervoor te zorgen dat aan de ethische normen wordt voldaan.
  • Transparantie en vertrouwen: zorg ervoor dat gebruikers weten dat ze met een agent werken die generatieve AI-mogelijkheden heeft. Geef duidelijk aan waarom er voor een AI-oplossing is gekozen en geef informatie over hoe de oplossing is ontworpen en hoe deze wordt gemonitord en bijgewerkt.
  • Continue monitoring en verbetering: controleer het AI-systeem voortdurend op vertekening en prestatieproblemen en werk de modellen indien nodig bij. Zorg ervoor dat modellen eerlijk en onbevooroordeeld blijven door ze regelmatig opnieuw te trainen met actuele en meer diverse gegevens.

Doorlopende monitoring en evaluatie

Blijf uw agent verbeteren. Creëer een kader voor continue monitoring en evaluatie en verwerk feedback van gebruikers en veranderende ethische normen in updates.

  • Feedbacklussen: richt feedbackmechanismen in waarmee gebruikers onjuistheden kunnen melden. Deze kunnen vervolgens worden gebruikt om de modellen te verfijnen en verbeteren.
  • Monitoring en controle: detecteer en reageer op potentiële beveiligingsincidenten door regelmatig de toegang tot en het gebruik van het AI-systeem te monitoren. Houd gedetailleerde controlelogboeken bij om de toegang tot gegevens en wijzigingen bij te houden.

Volgende stap

Gebruik de samenvattende checklist om te controleren of uw project klaar is voor implementatie en pas best practices toe om uw projectaanpak te verfijnen, voordat u overgaat naar de implementatiefase.

Bekijk de planningschecklist

  • Last updated on