Data, sekretess och säkerhet för Microsoft Copilot

Microsoft Copilot är en sofistikerad bearbetnings- och orkestreringsmotor som tillhandahåller AI-drivna produktivitetsfunktioner genom att samordna följande komponenter:

• Stora språkmodeller (LLMs)
• Innehåll i Microsoft Graph, till exempel e-postmeddelanden, chattar och dokument som du har behörighet att komma åt.
• De produktivitetsappar för Microsoft 365 som du använder varje dag, till exempel Word och PowerPoint.

En översikt över hur dessa tre komponenter fungerar tillsammans finns i Översikt över Microsoft Copilot. Länkar till annat innehåll relaterat till Microsoft Copilot finns i dokumentationen för Microsoft Copilot.

Informationen i den här artikeln är avsedd att ge svar på följande frågor:

• Hur använder Microsoft Copilot dina egna organisationsdata?
• Hur skyddar Microsoft Copilot organisationsinformation och data?
• Vilka data lagras om användarinteraktioner med Microsoft Copilot?
• Vilka datahemvistsåtaganden gör Microsoft Copilot?
• Vilka utökningsalternativ är tillgängliga för Microsoft Copilot
• Hur uppfyller Microsoft Copilot kraven på regelefterlevnad?
• Gäller sekretesskontroller för anslutna upplevelser i Microsoft 365-applikationer för Microsoft Copilot?
• Kan jag lita på innehållet som Microsoft Copilot skapar? Vem äger innehållet?
• Vad gör Microsoft för att använda AI på ett ansvarsfullt sätt?

Hur använder Microsoft Copilot dina egna organisationsdata?

Microsoft Copilot ger värde genom att ansluta LLM: er till dina organisationsdata. Microsoft Copilot kommer åt innehåll och kontext via Microsoft Graph. Det kan generera svar som fästs i organisationens data, till exempel användardokument, e-postmeddelanden, kalender, chattar, möten och kontakter. Microsoft Copilot kombinerar det här innehållet med användarens arbetskontext, till exempel mötet en användare är i nu, e-postutbytena användaren hade om ett ämne eller chattkonversationerna som användaren hade förra veckan. Microsoft Copilot använder den här kombinationen av innehåll och kontext för att ge korrekta, relevanta och sammanhangsberoende svar.

Microsoft Copilot visar endast organisationsdata som enskilda användare åtminstone har visningsbehörighet för. Det är viktigt att du använder de behörighetsmodeller som är tillgängliga i Microsoft 365-tjänster, till exempel SharePoint, för att säkerställa att rätt användare eller grupper har rätt åtkomst till rätt innehåll i din organisation. Detta omfattar behörigheter som du ger användare utanför organisationen via samarbetslösningar mellan klientorganisationer, till exempel delade kanaler i Microsoft Teams.

När du anger prompter med Microsoft Copilot bearbetas och lagras informationen i dina prompter, de data de hämtar och de genererade svaren i enlighet med avtalsenliga åtaganden med organisationens övriga innehåll i Microsoft 365. Mer information finns i avsnittet Data lagrade om användarinteraktioner med Microsoft Copilot senare i den här artikeln.

Medan missbruksövervakning, som inkluderar mänsklig granskning av innehåll, är tillgängligt i Azure OpenAI, har Microsoft Copilot tjänster valt bort det. Information om innehållsfiltrering finns i avsnittet Hur blockerar Copilot skadligt innehåll? senare i den här artikeln.

Data lagrade om användarinteraktioner med Microsoft Copilot

När en användare interagerar med Microsoft Copilot (med appar som Word, PowerPoint, Excel, OneNote, Loop eller Whiteboard) lagrar vi data om dessa interaktioner. Lagrade data innehåller användarens uppmaning och Copilots svar, inklusive citat till all information som används som grund för Copilots svar. Vi refererar till användarens uppmaning och Copilots svar på den uppmaningen som "innehållet i interaktioner" och posten för dessa interaktioner är användarens Copilot-aktivitetshistorik. Dessa lagrade data ger till exempel användare Copilot-aktivitetshistorik i Microsoft Copilot Chat och möten i Microsoft Teams. Dessa data bearbetas och lagras i enlighet med avtalsenliga åtaganden med din organisations övriga innehåll i Microsoft 365. Data krypteras medan de lagras och används inte för att träna grundläggande LLM: er, inklusive de som används av Microsoft Copilot.

För att visa och hantera dessa lagrade data kan administratörer använda innehållssökning eller Microsoft Purview. Administratörer kan också använda Microsoft Purview för att ange kvarhållningsprinciper för data som rör chattinteraktioner med Copilot. Mer information finns i följande artiklar:

• Översikt över innehållssökning
• Microsoft Purview för datasäkerhet och efterlevnadsskydd för generativa AI-appar
• Läs mer om kvarhållning för Copilot

För Microsoft Teams-chattar med Copilot kan administratörer också använda Export-API:er för Microsoft Teams för att visa lagrade data.

Ta bort historiken för användarinteraktioner med Microsoft Copilot

Användarna kan ta bort sin Copilot-aktivitetshistorik, som innehåller deras uppmaningar och de svar Copilot returnerar, genom att gå till Mitt konto-portalen. Mer information finns i Ta bort din aktivitetshistorik för Microsoft Copilot.

Microsoft Copilot och EU: s datagräns

Microsoft Copilot samtal till LLM dirigeras till närmaste datacenter i regionen, men kan också ringa till andra regioner där kapacitet är tillgänglig under perioder med hög användning.

För EU-användare har vi ytterligare garantier för att uppfylla EU-datagränsen. EU-trafiken stannar inom EU-datagränsen medan global trafik kan skickas till EU och andra länder eller regioner för LLM-bearbetning.

Microsoft Copilot och datahemvist

Microsoft Copilot upprätthåller åtaganden om datahemvist enligt beskrivningen i Microsofts produktvillkor och dataskyddstillägg. Microsoft Copilot lades till som en arbetsbelastning som omfattas i åtagandena om datahemvist i Microsofts produktvillkor den 1 mars 2024.

Microsoft Advanced Data Residency (ADR) och Multi-Geo Capabilities erbjudanden omfattar datahemvistsåtaganden för Microsoft Copilot kunder från och med den 1 mars 2024. För EU-kunder är Microsoft Copilot en EU-datagränstjänst. Kunder utanför EU kan få sina frågor bearbetade i USA, EU eller andra regioner.

Utökningsbarhet för Microsoft Copilot

Även om Microsoft Copilot redan kan använda appar och data i Microsoft 365-ekosystemet är många organisationer fortfarande beroende av olika externa verktyg och tjänster för arbetshantering och samarbete. Microsoft Copilots upplevelser kan referera till verktyg och tjänster från tredje part när de svarar på en användares begäran med hjälp av Microsoft Graph-anslutningsprogram eller agenter. Data från Graph-anslutningsappar kan returneras i Microsoft Copilot svar om användaren har behörighet att komma åt den informationen.

När agenter är aktiverade avgör Microsoft Copilot om den behöver använda en specifik agent för att ge ett relevant svar till användaren. Om en agent behövs genererar Microsoft Copilot en sökfråga för att skicka till agenten å användarens vägnar. Frågan baseras på användarens prompt, Copilot-aktivitetshistorik och data som användaren har åtkomst till i Microsoft 365.

I avsnittet Integrerade appar i Administrationscenter för Microsoft 365 kan administratörer visa de behörigheter och dataåtkomst som krävs av en agent samt agentens användningsvillkor och sekretesspolicy. Administratörer har fullständig behörighet att välja vilka agenter som tillåts i organisationen. En användare kan bara komma åt de agenter som administratören tillåter och som användaren har installerat eller tilldelats. Microsoft Copilot använder endast agenter som aktiveras av användaren.

Mer information finns i följande artiklar:

• Hantera agenter för Microsoft Copilot i Administrationscenter för Administrationscenter för Microsoft 365
• Översikt över utökningsbarhet för Microsoft Copilot
• Hur Microsoft Copilot kan arbeta med externa data

Hur skyddar Microsoft Copilot organisationsdata?

Behörighetsmodellen i din Microsoft 365-klientorganisation kan hjälpa dig att säkerställa att data inte oavsiktligt läcker mellan användare, grupper och klientorganisationer. Microsoft Copilot presenterar endast data som varje enskild person kan komma åt med hjälp av samma underliggande kontroller för dataåtkomst som används i andra Microsoft 365-tjänster. Semantic Index respekterar gränsen för användaridentitetsbaserad åtkomst så att grundningsprocessen endast kommer åt innehåll som den aktuella användaren har behörighet att komma åt. Mer information finns i Microsofts sekretesspolicy och tjänstdokumentation.

När du har data som krypteras av Microsoft Purview Information Protection följer Microsoft Copilot de användningsrättigheter som beviljas användaren. Den här krypteringen kan användas med känslighetsetiketter eller med begränsade behörigheter i Microsoft 365-appar med hjälp av IRM (Information Rights Management). Mer information om hur du använder Microsoft Purview med Microsoft Copilot finns i Microsoft Purview-datasäkerhets- och efterlevnadsskydd för generativa AI-appar.

Vi implementerar redan flera former av skydd för att förhindra att kunder komprometterar Microsoft 365-tjänster och -program eller får obehörig åtkomst till andra klientorganisationer eller själva Microsoft 365-systemet. Här följer några exempel på dessa skyddsformer:

• Logisk isolering av kundinnehåll i varje klientorganisation för Microsoft 365-tjänster uppnås via Microsoft Entra-auktorisering och rollbaserad åtkomstkontroll. Mer information finns i Isoleringskontroller för Microsoft 365.

• Microsoft använder rigorös fysisk säkerhet, bakgrundsgallring och en krypteringsstrategi i flera lager för att skydda konfidentialiteten och integriteten hos kundinnehåll.

• Microsoft 365 använder tekniker på tjänstsidan som krypterar kundinnehåll i vila och under överföring, inklusive BitLocker, kryptering per fil, TLS (Transport Layer Security) och IPsec (Internet Protocol Security). Specifik information om kryptering i Microsoft 365 finns i Kryptering i Microsoft Cloud.

• Din kontroll över dina data förstärks av Microsofts åtagande att följa allmänt tillämpliga sekretesslagar, till exempel GDPR, och sekretessstandarder, till exempel ISO/IEC 27018, världens första internationella uppförandekod för molnsekretess.

• För innehåll som används via agenter i Microsoft 365 kan kryptering exkludera programmatisk åtkomst, vilket begränsar agenten från att komma åt innehållet. Mer information finns i Konfigurera användningsrättigheter för Azure Information Protection.

Uppfylla krav för regelefterlevnad

Microsoft fortsätter att anpassa sig och svara för att uppfylla AI-regelkrav i takt med att de utvecklas, så vi förtjänar och behåller kundernas, partnernas och tillsynsmyndigheternas förtroende.

Microsoft Copilot tillhandahåller breda efterlevnadserbjudanden och certifieringar, inklusive GDPR,ISO 27001, HIPAA och ISO 42001-standarden för AI-hanteringssystem. Dessa hjälper våra kunder på deras efterlevnadsresor, kompletterat med funktioner som avtalsberedskap, inbyggd riskhantering för informations- och kommunikationsteknik och verktyg för operativ motståndskraft.

Microsoft har åtagit sig att följa alla lagar och förordningar som gäller för Microsoft, inklusive EU AI Act, för att göra det möjligt för våra AI-lösningar att uppfylla föränderliga standarder för pålitlig och ansvarsfull AI. Microsoft Copilot bygger på Microsofts befintliga åtaganden för datasäkerhet och sekretess. Dessa åtaganden ändras inte. Copilot är integrerat i Microsoft 365 och följer befintliga sekretess-, säkerhets- och efterlevnadsåtaganden för Microsoft 365-kunder.

Dessutom prioriterar vi en öppen dialog med våra partners och tillsynsmyndigheter. Vi ger kunderna direkt åtkomst till Microsofts efterlevnadsexperter, proaktiv vägledning och utvalda lösningar som hjälper dem att navigera i regelefterlevnad, till exempel snabbstartsguiden för Microsoft Copilot & Copilot Chat riskbedömning. Vårt tillvägagångssätt i det AI-drivna landskapet syftar till att ge organisationer möjlighet att förnya sig tryggt med lösningar byggda med transparens, sekretess och säkerhet i åtanke.

Ytterligare information

Microsoft Copilot och sekretesskontroller för anslutna upplevelser

Vissa sekretesskontroller för anslutna upplevelser i Microsoft 365-applikationer kan påverka tillgängligheten för Microsoft Copilot funktioner. Detta inkluderar sekretesskontroller för anslutna upplevelser som analyserar ditt innehåll och sekretesskontrollen för valfria anslutna upplevelser. Mer information om dessa sekretesskontroller finns i Översikt över sekretesskontroller för Microsoft 365-applikationer för företag.

Sekretesskontroll för anslutna upplevelser som analyserar ditt innehåll

Om du inaktiverar anslutna upplevelser som analyserar innehållet på enheter i din organisation är Microsoft Copilot funktioner inte tillgängliga för användarna i följande appar:

• Excel
• OneNote
• Outlook
• PowerPoint
• Word

Detta gäller när du kör den senaste versionen av dessa appar på Windows-, Mac-, iOS- eller Android-enheter.

Det finns också en sekretesskontroll som inaktiverar alla anslutna upplevelser, inklusive anslutna upplevelser som analyserar ditt innehåll. Om du använder den sekretesskontrollen är Microsoft Copilot funktioner inte tillgängliga i de appar och på de enheter som beskrivs ovan.

Sekretesskontroll för valfria anslutna upplevelser

Om du inaktiverar valfria anslutna upplevelser i organisationen är Microsoft Copilot funktioner som är valfria anslutna upplevelser inte tillgängliga för användarna. Om du till exempel inaktiverar valfria anslutna upplevelser kan tillgängligheten för webbsökning påverkas.

Det finns också en sekretesskontroll som inaktiverar alla anslutna upplevelser, inklusive valfria anslutna upplevelser. Om du använder den sekretesskontrollen är Microsoft Copilot funktioner som är valfria anslutna upplevelser inte tillgängliga.

Om innehållet som Microsoft Copilot skapar

Svaren som generativ AI producerar är inte garanterade att vara 100 % faktiska. Även om vi fortsätter att förbättra svaren bör användarna fortfarande använda sitt omdöme när de granskar resultatet innan de skickas till andra. Våra Microsoft Copilot-funktioner ger användbara utkast och sammanfattningar som hjälper dig att uppnå mer samtidigt som du får möjlighet att granska den genererade AI: en i stället för att helt automatisera dessa uppgifter.

Vi fortsätter att förbättra algoritmerna för att proaktivt åtgärda problem, till exempel felaktig information och desinformation, blockering av innehåll, datasäkerhet och förhindra att skadligt eller diskriminerande innehåll främjas i enlighet med våra ansvarsfulla AI-principer.

Microsoft gör inte anspråk på ägarskap för utdata från tjänsten. Med det sagt avgör vi inte om en kunds produktion är upphovsrättsskyddad eller verkställbar mot andra användare. Det beror på att generativa AI-system kan ge liknande svar på liknande prompter eller frågor från flera kunder. Därför kan flera kunder ha eller göra anspråk på rättigheter i innehåll som är samma eller i stort likartade.

Om en tredje part stämmer en kommersiell kund för upphovsrättsintrång för att ha använt Microsofts Copilots eller de utdata de genererar, försvarar vi kunden och betalar beloppet för eventuella negativa domar eller förlikningar som är resultatet av rättegången, så länge kunden använde skyddsräcken och innehållsfilter som vi har byggt in i våra produkter. Mer information finns i Microsoft presenterar nya Upphovsrättsåtagande för Copilot för kunder.

Hur blockerar Copilot skadligt innehåll?

För att blockera skadligt innehåll använder Microsoft Copilot säkerhetsåtgärder som fungerar tillsammans med AI-modeller som används för att generera svar. Beroende på scenariot kan dessa skyddsåtgärder omfatta Microsofts förstapartsskydd eller, i vissa fall, inbyggda säkerhetsåtgärder i den underliggande modellen. Dessa skyddsåtgärder använder en djupgående metod för skydd och kan innehålla en blandning av Microsofts förstapartsskydd som hjälper till att identifiera och minska jailbreak-försök och promptinmatningsmönster (inklusive korsprompt-inmatningsattacker), innehållsskadefilter för att identifiera skadligt innehåll i uppmaningar eller genererade svar (till exempel hat & rättvisa, sexuell, våld och självskadebeteende), eller i vissa scenarier, säkerhetsåtgärder inbyggda i den underliggande modellen.

Hat- och rättviserelaterade skador avser allt innehåll som använder nedsättande eller diskriminerande språk baserat på attribut som ras, etnicitet, nationalitet, könsidentitet och uttryck, sexuell läggning, religion, invandringsstatus, status för förmåga, personligt utseende och kroppsstorlek. Rättvisa handlar om att se till att AI-system behandlar alla grupper av människor rättvist utan att bidra till befintliga samhälleliga orättvisor. Sexuellt innehåll omfattar diskussioner om mänskliga reproduktionsorgan, romantiska relationer, handlingar som skildras i erotiska eller tillgivna termer, graviditet, fysiska sexuella handlingar, inklusive de som framställs som ett övergrepp eller en påtvingad handling av sexuellt våld, prostitution, pornografi och övergrepp. Våld beskriver språk som rör fysiska handlingar som är avsedda att skada eller döda, inklusive handlingar, vapen och relaterade entiteter. Självskadespråk syftar på avsiktliga handlingar som är avsedda att skada eller döda sig själv.

Förutom innehållsfiltrering som tillhandahålls av Azure OpenAI Service tillhandahåller vissa Microsoft Copilot scenarier andra lösningar, till exempel filter för att förhindra skador på arbetsplatsen. Skador på arbetsplatsen är en kategori av skador som kan uppstå till följd av generativ AI eller modeller som drar slutsatser, bedömningar eller utvärderingar om en anställd baserat på deras kommunikation på arbetsplatsen. För närvarande innebär det slutsatser, bedömningar eller utvärderingar om en anställds prestation, attityd, inre eller känslomässiga tillstånd eller personliga egenskaper. Vi begränsar användningen av generativ AI eller modeller från att användas för dessa ändamål.

Tillhandahåller Copilot identifiering av skyddat material?

Ja, Microsoft Copilot tillhandahåller identifiering för skyddat material, vilket inkluderar text som omfattas av upphovsrätt och kod som omfattas av licensbegränsningar. Den här identifieringen kanske inte är tillgänglig i alla Microsoft Copilot scenarier, och alla dessa åtgärder är inte relevanta för alla Microsoft Copilot scenarier.

Blockerar Copilot frågeinmatningar (jailbreak-attacker)?

Jailbreak-attacker är uppmaningar som är utformade för att kringgå Copilots skyddsåtgärder eller inducera icke-kompatibelt beteende. Microsoft Copilot hjälper till att minimera dessa attacker med hjälp av egenutvecklade tekniker, till exempel jailbreak och XPIA-klassificerare (Cross-prompt Injection Attack). Dessa klassificerare analyserar indata till Copilot-tjänsten och hjälper till att blockera högriskfrågor före modellkörning. Dessa klassificerare kanske inte är tillgängliga i alla Microsoft Copilot scenarier.

Vad händer när det sker förändringar i grundmodellen?

AI-modellerna som driver Microsoft Copilot uppdateras och förbättras regelbundet. Modelluppdateringar ger prestandaförbättringar, mer avancerade resonemang och utökade funktioner, men de ändrar inte dina säkerhets-, sekretess- eller efterlevnadsinställningar. Mer information finns i Microsoft 365-bloggen: Förstå ändringar i grundmodeller i Microsoft Copilot.

Engagerad i ansvarsfull AI

När AI är redo att förändra våra liv måste vi gemensamt definiera nya regler, normer och metoder för användning och påverkan av den här tekniken. Microsoft har varit på en ansvarsfull AI-resa sedan 2017, då vi definierade våra principer och metoder för att säkerställa att den här tekniken används på ett sätt som drivs av etiska principer som sätter människor först.

På Microsoft vägleds vi av våra AI-principer, vår ansvarsfulla AI-standard och årtionden av forskning om AI, grundning och sekretessbevarande maskininlärning. Ett tvärvetenskapligt team med forskare, tekniker och policyexperter granskar våra AI-system för potentiella skador och minskningar – av träningsdata, filtrering för att begränsa skadligt innehåll, fråge- och resultatblockering av känsliga ämnen och tillämpar Microsoft-tekniker som InterpretML och Fairlearn för att identifiera och korrigera databias. Vi gör det tydligt hur systemet fattar beslut genom att notera begränsningar, länka till källor och uppmana användare att granska, faktagranska och justera innehåll baserat på ämnesexpertis. Mer information finns i Styra AI: En skiss för framtiden.

Vi strävar efter att hjälpa våra kunder att använda våra AI-produkter på ett ansvarsfullt sätt, dela vår utbildning och skapa förtroendebaserade partnerskap. För dessa nya tjänster vill vi ge våra kunder information om avsedda användningsområden, funktioner och begränsningar för vår AI-plattformstjänst, så att de har den kunskap som krävs för att göra ansvarsfulla distributionsval. Vi delar även resurser och mallar med utvecklare inom organisationer och med oberoende programvaruleverantörer (ISV:er) för att hjälpa dem att skapa effektiva, säkra och transparenta AI-lösningar.

Relaterade artiklar

• Krav för Microsoft Copilot
• Kom igång med Microsoft Copilot
• Microsoft Copilot-införandewebbplats