Data, personvern og sikkerhet for Microsoft Copilot

Microsoft Copilot er en sofistikert behandlings- og organisatormotor som gir produktivitetsfunksjoner drevet av kunstig intelligens ved å koordinere følgende komponenter:

• Store språkmodeller (LLM-er)
• Innhold i Microsoft Graph, for eksempel e-postmeldinger, chatter og dokumenter som du har tilgang til.
• Microsoft 365-appene du bruker hver dag, for eksempel Word og PowerPoint.

Hvis du vil ha en oversikt over hvordan disse tre komponentene fungerer sammen, kan du se Oversikt over Microsoft Copilot. Hvis du vil ha koblinger til annet innhold relatert til Microsoft Copilot, kan du se dokumentasjonen for Microsoft Copilot.

Informasjonen i denne artikkelen er ment for å bidra til å gi svar på følgende spørsmål:

• Hvordan bruker Microsoft Copilot dine proprietære organisasjonsdata?
• Hvordan beskytter Microsoft Copilot organisasjonsinformasjon og -data?
• Hvilke data lagres om brukersamhandlinger med Microsoft Copilot?
• Hvilke forpliktelser for datalagring inngår Microsoft Copilot?
• Hvilke utvidelsesalternativer som er tilgjengelige for Microsoft Copilot
• Hvordan oppfyller Microsoft Copilot forskriftsmessige krav til samsvar?
• Gjelder personvernkontroller for tilkoblede opplevelser i Microsoft 365 Apps for Microsoft Copilot?
• Kan jeg stole på innholdet som Microsoft Copilot oppretter? Hvem eier innholdet?
• Hva er Microsofts forpliktelser når det gjelder å bruke kunstig intelligens på en ansvarlig måte?

Hvordan bruker Microsoft Copilot dine proprietære organisasjonsdata?

Microsoft Copilot gir verdi ved å koble LLM-er til organisasjonsdataene. Microsoft Copilot får tilgang til innhold og kontekst gjennom Microsoft Graph. Den kan generere svar som er forankret i organisasjonsdataene dine, for eksempel brukerdokumenter, e-postmeldinger, kalender, chatter, møter, kontakter og kontakter. Microsoft Copilot kombinerer dette innholdet med brukerens arbeidskontekst, for eksempel møtet en bruker er i nå, e-postutvekslingene brukeren hadde om et emne eller chattesamtalene brukeren hadde forrige uke. Microsoft Copilot bruker denne kombinasjonen av innhold og kontekst til å gi nøyaktige, relevante og kontekstavhengige svar.

Microsoft Copilot viser bare organisasjonsdata som enkeltbrukere minst har visningstillatelser til. Det er viktig at du bruker tillatelsesmodellene som er tilgjengelige i Microsoft 365-tjenester, for eksempel SharePoint, for å sikre at de riktige brukerne eller gruppene har riktig tilgang til riktig innhold i organisasjonen. Dette omfatter tillatelser du gir til brukere utenfor organisasjonen gjennom samarbeidsløsninger mellom tenanter, for eksempel delte kanaler i Microsoft Teams.

Når du angir ledetekster ved hjelp av Microsoft Copilot, behandles og lagres informasjonen i ledetekstene, dataene de henter, og de genererte svarene i samsvar med kontraktsforpliktelser med organisasjonens øvrige innhold i Microsoft 365. Hvis du vil ha mer informasjon, kan du se avsnittet Data som er lagret om brukersamhandlinger med Microsoft Copilot senere i denne artikkelen.

Mens overvåking av misbruk, som inkluderer menneskelig gjennomgang av innhold, er tilgjengelig i Azure OpenAI, har Microsoft Copilot-tjenester valgt bort det. Hvis du vil ha informasjon om innholdsfiltrering, kan du se avsnittet Hvordan blokkerer Copilot skadelig innhold? senere i denne artikkelen.

Data som er lagret om brukersamhandlinger med Microsoft Copilot

Når en bruker samhandler med Microsoft Copilot (ved hjelp av apper som Word, PowerPoint, Excel, OneNote, Loop eller Whiteboard), lagrer vi data om disse samhandlingene. De lagrede dataene inkluderer brukerens ledetekst og Copilots svar, inkludert sitater til all informasjon som brukes til å begrunne Copilots svar. Vi refererer til brukerens ledetekst og Copilots svar på denne ledeteksten som «innholdet i samhandlingene», og registreringen av disse samhandlingene er brukerens Copilot-aktivitetslogg. Disse lagrede dataene gir for eksempel brukerne aktivitetslogg for Copilot i Microsoft Copilot Chat og møter i Microsoft Teams. Disse dataene behandles og lagres i samsvar med kontraktsmessige forpliktelser med organisasjonens øvrige innhold i Microsoft 365. Dataene krypteres mens de lagres, og brukes ikke til å lære opp grunnleggende LLM-er, inkludert de som brukes av Microsoft Copilot.

Administratorer kan bruke Innholdssøk eller Microsoft Purview til å vise og behandle disse lagrede dataene. Administratorer kan også bruke Microsoft Purview til å angi oppbevaringspolicyer for data relatert til chat-samhandlinger med Copilot. Hvis du vil ha mer informasjon, kan du se følgende artikler:

• Oversikt over innholdssøk
• Microsoft Purview-datasikkerhet og -samsvarsbeskyttelse for generativ KI-apper
• Finn ut mer om oppbevaring for Copilot

For Microsoft Teams-chatter med Copilot kan administratorer også bruke Microsoft Teams Eksport API-er for å se de lagrede dataene.

Slette loggen for brukersamhandlinger med Microsoft Copilot

Brukerne kan slette Copilot-aktivitetsloggen, som inkluderer ledetekster og svar Copilot returnerer, ved å gå til Min konto-portalen. Hvis du vil ha mer informasjon, kan du se Slett aktivitetsloggen for Microsoft Copilot.

Microsoft Copilot og EUs datagrense

Microsoft Copilot-anrop til LLM rutes til de nærmeste datasentrene i området, men kan også ringe til andre områder der kapasitet er tilgjengelig i perioder med høy utnyttelse.

For brukere i EU har vi ytterligere sikkerhetstiltak for å overholde EUs datagrense. EU-trafikk forblir innenfor EUs datagrense, mens verdensomspennende trafikk kan sendes til EU og andre land og områder for LLM-behandling.

Microsoft Copilot og datalagring

Microsoft Copilot opprettholder forpliktelsene til datalagring som beskrevet i Microsofts produktvilkår og tillegg for databeskyttelse. Microsoft Copilot ble lagt til som en dekket arbeidsbelastning i forpliktelsene for datalagring i Microsofts produktvilkår 1. mars 2024.

Tilbudene på Microsoft Advanced Data Residency (ADR) og Multi-Geo Capabilities omfatter datalagringsforpliktelser for Microsoft Copilot-kunder fra og med 1. mars 2024. For EU-kunder er Microsoft Copilot en tjeneste for EU-datagrense. Kunder utenfor EU kan få sine spørringer behandlet i USA, EU eller andre områder.

Utvidelsesmuligheter for Microsoft Copilot

Selv om Microsoft Copilot allerede kan bruke appene og dataene i Microsoft 365-økosystemet, er mange organisasjoner fortsatt avhengige av ulike eksterne verktøy og tjenester for arbeidsadministrasjon og samarbeid. Microsoft Copilot-opplevelser kan referere til tredjepartsverktøy og -tjenester når du svarer på en brukers forespørsel ved hjelp av Microsoft Graph-koblinger eller -agenter. Data fra Graph-koblinger kan returneres i Microsoft Copilot-svar hvis brukeren har tillatelse til å få tilgang til denne informasjonen.

Når agenter er aktivert, avgjør Microsoft Copilot om den trenger å bruke en bestemt agent for å gi et relevant svar til brukeren. Hvis det er behov for en agent, genererer Microsoft Copilot en søkespørring som skal sendes til agenten på brukerens vegne. Spørringen er basert på brukerens ledetekst, Copilot-aktivitetslogg og data brukeren har tilgang til i Microsoft 365.

I delen Integrerte apper i Administrasjonssenter for Microsoft 365 kan administratorer vise tillatelsene og datatilgangen som kreves av en agent, samt agentens vilkår for bruk og personvernerklæring. Administratorer har full kontroll til å velge hvilke agenter som skal tillates i organisasjonen. En bruker har bare tilgang til agenter som administratoren tillater, og som brukeren har installert eller er tilordnet. Microsoft Copilot bruker bare agenter som er aktivert av brukeren.

Hvis du vil ha mer informasjon, kan du se følgende artikler:

• Administrer agenter for Microsoft Copilot i Administrasjonssenter for Microsoft 365
• Oversikt over Microsoft Copilot-utvidelsesmuligheter
• Slik kan Microsoft Copilot arbeide med eksterne data

Hvordan beskytter Microsoft Copilot organisasjonsdata?

Tillatelsesmodellen i Microsoft 365-leieren kan bidra til å sikre at data ikke utilsiktet lekker mellom brukere, grupper og leiere. Microsoft Copilot presenterer bare data som hver enkelt kan få tilgang til ved hjelp av de samme underliggende kontrollene for datatilgang som brukes i andre Microsoft 365-tjenester. Semantisk indeks overholder den brukeridentitetsbaserte tilgangsgrensen, slik at jordingsprosessen bare får tilgang til innhold som gjeldende bruker har tillatelse til å få tilgang til. Hvis du vil ha mer informasjon, kan du se Microsofts personvernerklæring og tjenestedokumentasjon.

Når du har data som er kryptert av Microsoft Purview informasjonsbeskyttelse, respekterer Microsoft Copilot bruksrettighetene som er gitt til brukeren. Denne krypteringen kan brukes av følsomhetsetiketter eller av begrensede tillatelser i Microsoft 365-apper ved hjelp av Information Rights Management (IRM). Hvis du vil ha mer informasjon om hvordan du bruker Microsoft Purview med Microsoft Copilot, kan du se Datasikkerhet og samsvarsbeskyttelse i Microsoft Purview for generative kunstig intelligens-apper.

Vi implementerer allerede flere former for beskyttelse for å forhindre at kunder kompromitterer Microsoft 365-tjenester og -programmer eller får uautorisert tilgang til andre leiere eller selve Microsoft 365-systemet. Her er noen eksempler på disse formene for beskyttelse:

• Logisk isolering av kundeinnhold i hver leier for Microsoft 365-tjenester oppnås gjennom Microsoft Entra ID-autorisasjon og rollebasert tilgangskontroll. Hvis du vil ha mer informasjon, kan du se Isolasjonskontroller for Microsoft 365.

• Microsoft bruker streng fysisk sikkerhet, bakgrunnsscreening og en krypteringsstrategi med flere lag for å beskytte konfidensialiteten og integriteten til kundeinnhold.

• Microsoft 365 bruker teknologier på tjenestesiden som krypterer inaktive og inaktive kundeinnhold, inkludert BitLocker, kryptering per fil, TLS (Transport Layer Security) og Internet Protocol Security (IPsec). Hvis du vil ha spesifikk informasjon om kryptering i Microsoft 365, kan du se Kryptering i Microsoft Cloud.

• Din kontroll over dataene dine forsterkes av Microsofts forpliktelse til å overholde generelt gjeldende personvernlover, for eksempel GDPR, og personvernstandarder, for eksempel ISO/IEC 27018, verdens første internasjonale retningslinjer for personvern i skyen.

• For innhold som er tilgjengelig gjennom agenter i Microsoft 365, kan kryptering ekskludere programmatisk tilgang, og dermed begrense agenten fra å få tilgang til innholdet. Hvis du vil ha mer informasjon, kan du se Konfigurere bruksrettigheter for Azure Information Protection.

Oppfylle forskriftsmessige krav til samsvar

Microsoft fortsetter å tilpasse seg og svare for å oppfylle lovbestemte krav til kunstig intelligens etter hvert som de utvikler seg, slik at vi gjør oss fortjent til og beholder tilliten til kunder, partnere og tilsynsmyndigheter.

Microsoft Copilot tilbyr omfattende tilbud og sertifiseringer for overholdelse av regler og standarder, inkludert GDPR, ISO 27001, HIPAA og ISO 42001-standarden for systemer for administrasjon av kunstig intelligens. Disse hjelper kundene våre på deres samsvarsreiser, supplert med funksjoner som kontraktsklargjøring, innebygd risikostyring for informasjons- og kommunikasjonsteknologi og verktøy for operasjonell robusthet.

Microsoft er forpliktet til å overholde alle lover og forskrifter som gjelder for Microsoft, inkludert EUs lov om kunstig intelligens, for å gjøre det mulig for kunstig intelligens-løsningene våre å oppfylle stadig nye standarder for pålitelig og ansvarlig kunstig intelligens. Microsoft Copilot er bygd på toppen av Microsofts eksisterende forpliktelser til datasikkerhet og personvern. Det er ingen endring i disse forpliktelsene. Copilot er integrert i Microsoft 365 og overholder eksisterende forpliktelser for personvern, sikkerhet og samsvar overfor Microsoft 365-kunder.

I tillegg prioriterer vi åpen dialog med våre partnere og regulatoriske myndigheter. Vi gir kundene direkte tilgang til Microsofts fagfolk, proaktiv veiledning og kuraterte løsninger for å hjelpe deg med å overholde regelverket, for eksempel hurtiginnføringen for Microsoft Copilot & Copilot Chat Risikovurdering. Vår tilnærming i det KI-drevne landskapet har som mål å gi organisasjoner mulighet til å innovere trygt med løsninger bygd med åpenhet, personvern og sikkerhet i tankene.

Mer informasjon

Microsoft Copilot og personvernkontroller for tilkoblede opplevelser

Enkelte personvernkontroller for tilkoblede opplevelser i Microsoft 365 Apps kan påvirke tilgjengeligheten for Microsoft Copilot-funksjoner. Dette inkluderer personvernkontrollene for tilkoblede opplevelser som analyserer innholdet og personvernkontrollen for valgfrie tilkoblede opplevelser. Hvis du vil ha mer informasjon om disse personvernkontrollene, kan du se Oversikt over personvernkontroller for Microsoft 365 Apps for enterprise.

Personvernkontroller for tilkoblede opplevelser som analyserer innholdet

Hvis du deaktiverer tilkoblede opplevelser som analyserer innholdet ditt på enheter i organisasjonen, blir ikke Microsoft Copilot-funksjoner tilgjengelige for brukerne i følgende apper:

• Excel
• OneNote
• Outlook
• PowerPoint
• Word

Dette gjelder når du kjører den nyeste versjonen av disse appene på Windows, Mac, iOS eller Android-enheter.

Det finnes også en personvernkontroll som slår av alle tilkoblede opplevelser, inkludert tilkoblede opplevelser som analyserer innholdet. Hvis du bruker denne personvernkontrollen, vil ikke Microsoft Copilot-funksjoner være tilgjengelige i appene og på enhetene som er beskrevet ovenfor.

Personvernkontroll for valgfrie tilkoblede opplevelser

Hvis du deaktiverer valgfrie tilkoblede opplevelser i organisasjonen, blir ikke Microsoft Copilot-funksjoner som er valgfrie tilkoblede opplevelser, tilgjengelige for brukerne. Deaktivering av valgfrie tilkoblede opplevelser kan for eksempel påvirke tilgjengeligheten til nettsøk.

Det finnes også en personvernkontroll som slår av alle tilkoblede opplevelser, inkludert valgfrie tilkoblede opplevelser. Hvis du bruker denne personvernkontrollen, blir ikke Microsoft Copilot-funksjoner som er valgfrie tilkoblede opplevelser, tilgjengelige.

Om innholdet som Microsoft Copilot oppretter

Svarene som generativ KI produserer er ikke garantert å være 100 % riktige. Selv om vi fortsetter å forbedre svarene, bør brukerne fortsatt bruke skjønn når de gjennomgår utdataene før de sendes til andre. Microsoft Copilot-funksjonene våre gir nyttige utkast og sammendrag for å hjelpe deg med å oppnå mer, samtidig som du får muligheten til å se gjennom den genererte kunstig intelligens i stedet for å automatisere disse oppgavene fullstendig.

Vi fortsetter å forbedre algoritmer for proaktivt å løse problemer, for eksempel feilinformasjon og desinformasjon, innholdsblokkering, datasikkerhet og forebygging av promotering av skadelig eller diskriminerende innhold i tråd med våre ansvarlige KI-prinsipper.

Microsoft krever ikke eierskap over utdataene til tjenesten. Når det er sagt, tar vi ikke stilling til om en kundes utdata er opphavsrettslig beskyttet eller kan håndheves mot andre brukere. Dette er fordi generative KI-systemer kan produsere lignende svar på lignende meldinger eller spørringer fra flere kunder. Derfor kan flere kunder ha eller kreve rettigheter i innhold som er likt eller vesentlig likt.

Hvis en tredjepart saksøker en kommersiell kunde for brudd på opphavsretten for bruk av Microsofts Copiloter eller utdataene de genererer, forsvarer vi kunden og betaler beløpet for eventuelle negative dommer eller forlik som resultat av søksmålet, så lenge kunden brukte rekkverket og innholdsfiltrene vi har innebygd i produktene våre. Hvis du vil ha mer informasjon, kan du se Microsoft annonserer nye Opphavsrettsforpliktelser for Copilot for kunder.

Hvordan blokkerer Copilot skadelig innhold?

For å blokkere skadelig innhold bruker Microsoft Copilot sikkerhetstiltak som fungerer sammen med KI-modeller som brukes til å generere svar. Avhengig av scenariet kan disse sikkerhetstiltakene omfatte førstepartsbeskyttelse fra Microsoft eller, i noen tilfeller, sikkerhetstiltak som er innebygd i den underliggende modellen. Disse sikkerhetstiltakene bruker en tilnærming med dyptgående beskyttelse og kan omfatte en blanding av førstepartsbeskyttelser fra Microsoft som bidrar til å oppdage og redusere jailbreak-forsøk og mønstre for spørsmålsinjeksjon (inkludert angrep med kryssspesifikke injeksjoner), innholdsskadefiltre for å identifisere skadelig innhold i ledetekster eller genererte svar (for eksempel Hat & rettferdighet, seksualitet, vold og selvskading), eller i noen scenarier, sikkerhetsbegrensninger innebygd i den underliggende modellen.

Hat- og rettferdighetsrelaterte skader refererer til alt innhold som bruker pejorativt eller diskriminerende språk basert på attributter som rase, etnisitet, nasjonalitet, kjønnsidentitet og uttrykk, seksuell legning, religion, adressestatus, evnestatus, personlig utseende og kroppsstørrelse. Rettferdighet er opptatt av å sørge for at systemer med kunstig intelligens behandler alle grupper av mennesker likt uten å bidra til eksisterende samfunnsmessige ulikheter. Seksuelt innhold innebærer diskusjoner om menneskelige reproduktive organer, romantiske forhold, handlinger fremstilt i erotiske eller kjærlige termer, graviditet, fysiske seksuelle handlinger, inkludert de som fremstilles som et overgrep eller en tvungen handling av seksuell vold, prostitusjon, pornografi og misbruk. Vold beskriver språk relatert til fysiske handlinger som er ment å skade eller drepe, inkludert handlinger, våpen og relaterte enheter. Selvskadingsspråk refererer til bevisste handlinger som er ment å skade eller drepe seg selv.

I tillegg til innholdsfiltrering levert av Azure OpenAI Service gir visse Microsoft Copilot-scenarioer andre tiltak, for eksempel filtre for å forhindre skade på arbeidsplassen. Skader på arbeidsplassen refererer til en kategori av skader som kan skyldes generativ kunstig intelligens eller modeller som gjør slutninger, vurderinger eller evalueringer om en ansatt basert på kommunikasjonen på arbeidsplassen. For øyeblikket betyr dette slutninger, vurderinger eller evalueringer om en ansatts ytelse, holdning, interne eller emosjonelle tilstand eller personlige egenskaper. Vi begrenser bruken av generativ kunstig intelligens eller modeller fra å bli brukt til disse formålene.

Gir Copilot beskyttet gjenkjenning av materiale?

Ja, Microsoft Copilot gir gjenkjenning av beskyttet materiale, som inkluderer tekst som er underlagt opphavsrett, og kode underlagt lisensieringsbegrensninger. Denne gjenkjenningen er kanskje ikke tilgjengelig i alle Microsoft Copilot-scenarioer, og ikke alle disse tiltakene er relevante for alle Microsoft Copilot-scenarioer.

Blokkerer Copilot ledende innsettinger (jailbreak-angrep)?

Jailbreak-angrep er ledetekster utformet for å omgå Copilots sikkerhetsfunksjoner eller indusere ikke-kompatibel atferd. Microsoft Copilot bidrar til å redusere disse angrepene ved hjelp av proprietære teknikker, for eksempel jailbreak og XPIA-klassifiserere (cross-prompt injection attack). Disse klassifiererne analyserer inndata til Copilot-tjenesten og bidrar til å blokkere høyrisikospørsmål før modellkjøring. Disse klassifisererne er kanskje ikke tilgjengelige i alle Microsoft Copilot-scenarioer.

Hva skjer når det oppstår endringer i grunnmodellen?

KI-modellene som driver Microsoft Copilot, oppdateres og forbedres regelmessig. Modelloppdateringer gir ytelsesforbedringer, mer avansert resonnement og utvidede funksjoner, men de endrer ikke innstillingene for sikkerhet, personvern eller samsvar. Hvis du vil ha mer informasjon, kan du se Microsoft 365-bloggen: Forstå endringer i grunnmodellen i Microsoft Copilot.

Forpliktet til ansvarlig kunstig intelligens

Ettersom kunstig intelligens er klar til å forandre livene våre, må vi kollektivt definere nye regler, normer og praksis for bruk og innvirkning av denne teknologien. Microsoft har vært på en ansvarlig KI-reise siden 2017, da vi definerte prinsippene og tilnærmingen vår for å sikre at denne teknologien brukes på en måte som drives av etiske prinsipper som setter mennesker først.

Hos Microsoft styres vi av våre KI-prinsipper, vår Standard for ansvarlig kunstig intelligens og tiår med forskning på kunstig intelligens, jording og personvernbevarende maskinlæring. Et tverrfaglig team av forskere, ingeniører og policyeksperter gjennomgår kunstig intelligens-systemene våre for potensielle skader og begrensninger – raffinering av opplæringsdata, filtrering for å begrense skadelig innhold, spørrings- og resultatblokkering av sensitive emner, og bruk av Microsoft-teknologier som InterpretML og Fairlearn for å bidra til å oppdage og korrigere dataforskjeller. Vi gjør det klart hvordan systemet tar beslutninger ved å merke seg begrensninger, koble til kilder og be brukere om å gjennomgå, faktasjekke og justere innhold basert på fagekspertise. Hvis du vil ha mer informasjon, kan du se Styrende kunstig intelligens: En kursplan for fremtiden.

Vi tar sikte på å hjelpe kundene våre med å bruke KI-produktene våre på en ansvarlig måte, dele kunnskap og bygge tillitsbaserte samarbeid. For disse nye tjenestene ønsker vi å gi kundene våre informasjon om de tiltenkte bruksområdene, mulighetene og begrensningene til KI-plattformtjenesten vår, slik at de har kunnskapen som er nødvendig for å ta ansvarlige utrullingsvalg. Vi deler også ressurser og maler med utviklere i organisasjoner og med uavhengige programvareleverandører (ISV-er), for å hjelpe dem med å bygge effektive, sikre og transparente KI-løsninger.

Relaterte artikler

• Krav til Microsoft Copilot
• Kom i gang med Microsoft Copilot
• Nettsted for innføring i Microsoft Copilot