Databricks AI-hjälpfunktioner förtroende och säkerhet

Databricks förstår vikten av dina data och det förtroende du ger oss när du använder våra funktioner för plattforms- och Databricks AI-hjälpmedel. Databricks uppfyller de högsta dataskyddsstandarderna och har implementerat rigorösa åtgärder för att säkerställa att information som du skickar till Databricks AI-hjälpmedel skyddas.

• Dina data förblir konfidentiella.
  • Databricks använder inte data, uppmaningar eller svar som skickas till eller utdata från dessa funktioner för att träna generativa grundmodeller som Databricks gör tillgängliga för användning av tredje part.
  • Våra modellpartner behåller inte data som du skickar via dessa funktioner, inte ens för övervakning av missbruk. Våra partnerdrivna AI-hjälpmedelsfunktioner använder ändpunkter utan datakvarhållning från våra modellpartners.
• Skydd mot skadliga utdata. När du använder Azure OpenAI använder Databricks även Azure OpenAI-innehållsfiltrering för att skydda användare från skadligt innehåll. När man använder Anthropics modeller förlitar sig Databricks på de inbyggda säkerhetsmekanismerna samt ytterligare förstärkning mot skadliga utdata enligt vad som beskrivs i Anthropics säkerhetsdokumentation. Dessutom har Databricks gjort en omfattande utvärdering med tusentals simulerade användarinteraktioner för att säkerställa att de skydd som införts för att skydda mot skadligt innehåll, jailbreak, osäker kodgenerering och användning av upphovsrättsinnehåll från tredje part är effektiva.
• Databricks använder endast de data som krävs för att tillhandahålla tjänsten. Data skickas endast när du interagerar med Databricks AI-hjälpmedelsfunktioner, eller efter behov för att tillhandahålla funktionerna. Databricks skickar din fråga, relevanta tabellmetadata och värden, fel samt indatakod eller frågor för att returnera mer relevanta resultat.
• Data skyddas under överföring och i vila. All trafik mellan Databricks och modellpartner krypteras under överföring med branschstandard-TLS-kryptering. Alla data som lagras på en Azure Databricks-arbetsyta är AES-256-bitars krypterade.
• Databricks erbjuder kontroller för dataplacering. Databricks AI-assistansfunktioner utgör utvalda tjänster och följer gränserna för dataresidens. För mer information, se Databricks Geos: Data residency och Databricks Designated Services.

Mer information om hur specifika funktioner hanterar dina data finns i vanliga frågor och svar om sekretess och säkerhet.

Data som skickas till modellerna

Vilka tjänster och modeller använder partnerdrivna AI-hjälpmedel?

Om inställningen för partnerdrivna AI-funktioner är aktiverad använder Databricks AI-hjälpmedel modeller som hanteras av Azure OpenAI-tjänsten eller Anthropic på Databricks.

Vissa funktioner, till exempel Genie Code Autocomplete, använder en modell som hanteras av Databricks även om inställningen är aktiverad. Om du inaktiverar inställningen för partnerdrivna AI-funktioner, kan vissa AI-stödjande funktioner använda en modell som är värdbaserad av Databricks. Mer information finns i Partnerdrivna AI-funktioner.

Vilka data skickas till modellerna?

Databricks skickar endast de data som behövs för att tillhandahålla tjänsten. I allmänhet inkluderar detta din fråga (till exempel din fråga, kod eller fråga) och relevanta metadata som tabell- och kolumnnamn och beskrivningar, exempelvärden, fel och tidigare frågor. De exakta data skiljer sig åt beroende på funktion:

• Genie Code skickar kod och frågor i den aktuella notebook-cellen eller sql-redigerarens flik, tabell- och kolumnnamn och beskrivningar, tidigare frågor och favorittabeller. I agentläge kan Genie Code också analysera cellutdata och läsa dataexempel från tabeller, ungefär som andra kodningsagenter i branschen.
• Genie-agenter använder uppmaningen på naturligt språk, tabellnamn och beskrivningar, relevanta värden, allmänna instruktioner, exempel på SQL-frågor och SQL-funktioner.
• Genie One skickar din fråga om naturligt språk och relevant metadata, såsom tabell- och kolumnnamn, beskrivningar och provvärden, när du chattar med dina data. Genie One svarar genom att koppla till dina Genie-agenter och söka i datatillgångar som du har behörighet att komma åt. När du kopplar externa källor, som Google Drive, Microsoft 365 eller Slack, kan Genie One också skicka innehåll från dessa källor för att besvara din fråga.
• Genie Ontology är det enhetliga kontextskiktet som ger Genie en affärsmedveten karta över din organisation, som sammanför modellerad kontext (Unity Catalog-semantik, såsom metriska vyer och domäner) och den härledda kontexten som Genie automatiskt bygger och underhåller från dina befintliga tillgångar och användning. Extraherade ontologifragment respekterar källtillgångarnas behörigheter. För att generera den härledda kontexten extraherar Genie kunskap från källor inklusive metriska vyer, instrumentpaneler, SQL-frågor och Genie Agents.
• AI-genererade kommentarer skickar metadata för objektet som dokumenteras och dess överordnade objekt, inklusive katalog, schema, tabell, funktion, modell och volymnamn, deras aktuella kommentarer och kolumninformation (namn, typ, om det är en primärnyckel och aktuell kolumnkommentare).

Respekterar den data som skickas till modellen användarens behörigheter i Unity Catalog?

Ja, all data som skickas till AI-funktionsmodeller respekterar Unity Catalog-behörigheter, så ingen data som användarna saknar åtkomst till skickas till sådana modeller.

Lagrar partnermodellleverantörer mina data?

Nej. När du använder partnermodeller via Databricks lagrar partnermodellprovidrar inte uppmaningar eller svar.

Lagring och åtkomst

Var lagras svar från AI-hjälpmedelsfunktioner?

Genie Agent-svar och godkända AI-genererade kommentarer lagras i databricks-kontrollplanets databas. Kontrollplansdatabasen är AES-256-bitars krypterad.

Genie Code-chatthistorik lagras på samma plats som annat notebook-innehåll.

Genie One:s chattkonversationer lagras i Databricks kontrollplansdatabas, som är AES-256-bitarskrypterad.

Vem kan se min chatthistorik med Genie?

Du kan visa dina egna Genie Code-chattar. Administratörer kan se chatten om de har en direktlänk. När du delar en chatt kan mottagarna se den. Se Dela en chatt.

Genie Agent-chefer kan se andra användares meddelanden, men inte deras frågeresultat. Konversationer med Genie-agenter följer inställningarna för konversationsdelning.

Du kan se dina egna Genie One-chattar. När du delar en chatt kan mottagarna se den som skrivskyddad. Du kan dela en Genie One-chatt med vem som helst på ditt konto, eller göra den privat igen. Se Dela en chatt.

Körning av kod och noggrannhet

Kör Genie kod?

Genie-agenter är utformade med skrivskyddad åtkomst till kunddata, så att de bara kan generera och köra skrivskyddade SQL-frågor.

Precis som Genie Agents har Genie One-chatten skrivskyddad åtkomst till dina data, så den genererar och kör endast skrivskyddade SQL-frågor mot data du har behörighet att komma åt.

Med agentläge kan Genie Code köra kod i notebook-filen och SQL-redigeraren. Först ber Genie Code dig om bekräftelse att gå vidare med utförandet. Du kan välja att bekräfta, alltid tillåta exekvering i den aktuella Genie Code-chatten, eller alltid tillåta exekvering. Andra Genie Code-lägen kör inte kod automatiskt åt dig.

AI-modeller kan göra misstag, missförstå avsikt och hallucinera eller ge felaktiga svar. Granska och testa AI-genererad kod innan du kör den.

Har Databricks gjort någon utvärdering för att utvärdera noggrannheten och lämpligheten i svaren från AI-hjälpfunktioner?

Ja, Databricks har gjort omfattande tester av alla våra AI-hjälpmedel baserat på deras förväntade användningsfall och med hjälp av simulerade användarindata för att öka noggrannheten och lämpligheten för svar. Ai är dock en ny teknik och AI-hjälpmedel kan ge felaktiga eller olämpliga svar.

Datahemvist och efterlevnad

Hur dirigeras min trafik via Geos?

Databricks AI-hjälpmedelsfunktioner är utsedda tjänster som använder Databricks Geos för att hantera datahemvist vid bearbetning av kundinnehåll. Trafikroutning beror på din region och om bearbetning mellan geografier är aktiverad (Framtvingad databehandling inom arbetsytans geografi för utsedda tjänster är inaktiverad).

Kan jag använda AI-hjälpmedelsfunktioner med tabeller som bearbetar reglerade data (PHI, PCI, IRAP, FedRAMP)?

Ja. För att göra det måste du uppfylla kraven, till exempel att aktivera säkerhetsprofilen för efterlevnad, och lägga till relevant efterlevnadsstandard som en del av konfigurationen för efterlevnadssäkerhetsprofilen.

Databricks-värdbaserade modeller

Hur fungerar AI-hjälpfunktioner med modeller som hostas av Databricks?

När partnerbaserade AI-funktioner är inaktiverade använder AI-assisterade funktioner modeller som hanteras av Databricks och som helt och hållet väljs ut och hanteras av Databricks. Databricks använder modeller med öppen källkod som är tillgängliga för kommersiell användning, till exempel OpenAI GPT OSS.

Följande diagram ger en översikt över hur en modell som är värd på Databricks driver Databricks AI-drivna funktioner såsom Quick Fix.

1. En användare kör en anteckningscells, vilket resulterar i ett fel.
2. Databricks bifogar metadata till en begäran och skickar den till en storspråksmodell som är värdbaserad hos Databricks (LLM). All data är krypterad i vila. Kunder kan använda en kundhanterad nyckel (CMK).
3. Databricks-värdmodellen svarar med förslag på kodändringar för att rätta till felet, vilket visas för användaren.