Databricks KI-Hilfsfunktionen Vertrauen und Sicherheit

Databricks versteht die Bedeutung Ihrer Daten und das Vertrauen, das Sie bei der Verwendung unserer Plattform und databricks AI-Hilfsfunktionen in uns platzieren. Databricks verpflichtet sich zu den höchsten Standards des Datenschutzes und hat strenge Maßnahmen implementiert, um sicherzustellen, dass Informationen, die Sie an Databricks KI-Hilfsfunktionen übermitteln, geschützt sind.

• Ihre Daten bleiben vertraulich.
  • Databricks verwendet keine Daten, Eingabeaufforderungen oder Antworten, die an diese Features übermittelt oder ausgegeben werden, um generative Foundation-Modelle zu trainieren, die Databricks zur Verwendung durch Dritte zur Verfügung stellt.
  • Unsere Modellpartner speichern Ihre über diese Features übermittelten Daten nicht, auch nicht für die Missbrauchsüberwachung. Unsere partnergestützten KI-Hilfsfunktionen verwenden null Datenaufbewahrungsendpunkte von unseren Modellpartnern.
• Schutz vor schädlichen Ausgaben. Bei Verwendung von Azure OpenAI verwendet Databricks auch azure OpenAI-Inhaltsfilterung , um Benutzer vor schädlichen Inhalten zu schützen. Bei der Verwendung von Anthropic-Modellen verlässt sich Databricks auf die integrierten Sicherheitsmechanismen von Anthropic und die zusätzliche Härtung gegen schädliche Ausgaben, wie in der Sicherheitsdokumentation von Anthropic beschrieben. Darüber hinaus hat Databricks eine umfangreiche Auswertung mit Tausenden simulierter Benutzerinteraktionen durchgeführt, um sicherzustellen, dass die Maßnahmen zum Schutz vor schädlichen Inhalten, Jailbreaks, der Generierung unsicherer Codes und der Verwendung urheberrechtlich geschützter Inhalte von Dritten wirksam sind.
• Databricks verwendet nur die für die Bereitstellung des Dienstes erforderlichen Daten. Daten werden nur gesendet, wenn Sie mit Databricks AI-Hilfsfunktionen interagieren oder nach Bedarf die Features bereitstellen. Databricks sendet Ihre Eingabeaufforderung, relevante Tabellenmetadaten und -werte, Fehler sowie Eingabecode oder Abfragen, um relevantere Ergebnisse zurückzugeben.
• Daten werden während der Übertragung und im Ruhezustand geschützt. Der gesamte Datenverkehr zwischen Databricks und Modellpartnern wird während der Übertragung mit branchenübter TLS-Verschlüsselung verschlüsselt. Alle Daten, die in einem Azure Databricks-Arbeitsbereich gespeichert sind, werden mit der AES-256-Bit-Verschlüsselung verschlüsselt.
• Databricks bietet Datenresidenzsteuerelemente. KI-Unterstützungsfeatures von Databricks sind Designated Services und halten die Grenzen der Datenresidenz ein. Weitere Details finden Sie unter Databricks Geos: Datenresidenz und Databricks Designated Services.

Weitere Informationen dazu, wie bestimmte Features Ihre Daten behandeln, finden Sie in den häufig gestellten Fragen zu Datenschutz und Sicherheit.

An die Modelle gesendete Daten

Welche Dienste und Modelle verwenden partnergestützte KI-Hilfsfunktionen?

Wenn die Einstellung der partnergestützten KI-Features aktiviert ist, verwenden Databricks KI-Hilfsfeatures Modelle, die vom Azure OpenAI-Dienst oder Anthropic auf Databricks gehostet werden.

Einige Features, z. B. Genie Code AutoVervollständigen, verwenden auch dann ein vom Databricks gehostetes Modell, wenn die Einstellung aktiviert ist. Wenn Sie die Einstellung für partnergestützte KI-Features deaktivieren, verwenden einige KI-Hilfsfeatures möglicherweise ein in Databricks gehostetes Modell. Weitere Informationen finden Sie unter partnergestützte KI-Features.

Welche Daten werden an die Modelle gesendet?

Databricks sendet nur die Daten, die für die Bereitstellung des Diensts erforderlich sind. Im Allgemeinen umfasst dies Ihre Eingabeaufforderung (z. B. Ihre Frage, Ihren Code oder ihre Abfrage) und relevante Metadaten wie Tabellen- und Spaltennamen und Beschreibungen, Beispielwerte, Fehler und vorherige Fragen. Die genauen Daten unterscheiden sich je nach Feature:

• Genie Code sendet den Code und die Abfragen aus der aktuellen Notebook-Zelle oder der Registerkarte des SQL-Editors sowie Tabellen- und Spaltennamen und -beschreibungen, frühere Fragen und Favoritentabellen. Im Agent-Modus kann Genie Code auch Zellausgaben analysieren und Datenbeispiele aus Tabellen lesen, ähnlich wie andere Codierungsagenten in der Branche.
• Genie Agents verwenden die Eingabeaufforderung in natürlicher Sprache, Tabellennamen und Beschreibungen, relevante Werte, allgemeine Anweisungen, z. B. SQL-Abfragen und SQL-Funktionen.
• Genie One sendet Ihre Frage zur natürlichen Sprache und relevante Metadaten, wie Tabellen- und Spaltennamen, Beschreibungen und Stichprobenwerte, wenn Sie mit Ihren Daten chatten. Genie One antwortet, indem er an Ihre Genie-Agenten weiterleitet und Datenressourcen durchsucht, auf die Sie Zugriff haben. Wenn du externe Quellen wie Google Drive, Microsoft 365 oder Slack verbindest, kann Genie One auch Inhalte von diesen Quellen senden, um deine Frage zu beantworten.
• Genie Ontology ist die einheitliche Kontextschicht, die Genie eine geschäftsbewusste Karte Ihrer Organisation liefert, indem sie modellierten Kontext (Unity Catalog Semantik, wie metrische Ansichten und Domains) und abgeleiteten Kontext zusammenführt, den Genie automatisch aus Ihren bestehenden Assets und Ihrer Nutzung erstellt und pflegt. Extrahierte Ontologie-Schnipsel respektieren die Berechtigungen der Quell-Assets. Um den abgeleiteten Kontext zu erzeugen, extrahiert Genie Wissen aus Quellen wie metrischen Ansichten, Dashboards, SQL-Abfragen und Genie-Agenten.
• KI-generierte Kommentare senden Metadaten für das Objekt, das dokumentiert wird, und seine übergeordneten Objekte, einschließlich Katalog, Schema, Tabelle, Funktion, Modell und Volumenamen, ihre aktuellen Kommentare und Spaltendetails (Name, Typ, Ob es sich um einen Primärschlüssel und aktuelle Spaltenkommentare handelt).

Berücksichtigt die an die Modelle gesendeten Daten die Unity-Katalogberechtigungen des Benutzers?

Ja, alle Daten, die an KI-Hilfsfeaturemodelle gesendet werden, respektieren die Berechtigungen des Unity-Katalogs, sodass keine Daten, auf die Benutzer keinen Zugriff haben, an solche Modelle gesendet werden.

Speichern Partnermodellanbieter meine Daten?

Nein. Wenn Sie Partnermodelle über Databricks verwenden, speichern Partnermodellanbieter keine Eingabeaufforderungen oder Antworten.

Speicher und Zugriff

Wo werden Antworten von KI-Hilfsfeatures gespeichert?

Genie Agent-Antworten und genehmigte KI-generierte Kommentare werden in der Datenbank der Databricks-Steuerungsebene gespeichert. Die Datenbank der Steuerebene ist AES-256-Bit verschlüsselt.

Genie Code-Chatverlauf wird an derselben Stelle wie andere Notizbuchinhalte gespeichert.

Genie One-Chatgespräche werden in der Databricks-Steuerebenendatenbank gespeichert, die AES-256-Bit-verschlüsselt ist.

Wer kann meinen Chatverlauf mit Genie sehen?

Sie können Ihre eigenen Genie Code-Chats anzeigen. Administratoren können den Chat sehen, wenn sie einen direkten Link haben. Wenn du einen Chat teilst, können die Empfänger ihn ansehen. Siehe Chat freigeben.

Genie Agent Manager können die Nachrichten anderer Benutzer sehen, aber nicht ihre Abfrageergebnisse. Unterhaltungen mit Genie Agents folgen den Einstellungen für die Freigabe von Unterhaltungen.

Du kannst deine eigenen Genie One-Chats ansehen. Wenn Sie einen Chat teilen, können die Empfänger ihn als nur lesbar ansehen. Du kannst einen Genie One-Chat mit jedem in deinem Konto teilen oder ihn wieder privat machen. Siehe Chat freigeben.

Codeausführung und Genauigkeit

Führt Genie Code aus?

Genie Agents sind mit schreibgeschütztem Zugriff auf Kundendaten konzipiert, sodass sie nur schreibgeschützte SQL-Abfragen generieren und ausführen können.

Wie Genie Agents hat der Genie One Chat schreibgeschützten Zugriff auf Ihre Daten, sodass er nur schreibgeschützte SQL-Abfragen gegen Daten erzeugt und ausführt, auf die Sie Zugriff haben.

Mit dem Agent-Modus kann der Genie Code sowohl im Notizbuch als auch im SQL-Editor ausgeführt werden. Zuerst wird Genie Code Sie um eine Bestätigung bitten, um mit der Ausführung fortzufahren. Du kannst wählen, ob du bestätigen willst, immer die Ausführung im aktuellen Genie-Code-Chat erlauben oder immer die Ausführung erlauben. Andere Genie Code-Modi führen nicht automatisch Code in Ihrem Auftrag aus.

KI-Modelle können Fehler machen, Absichten missverstehen, Antworten falsch interpretieren oder insgesamt falsche Antworten geben. Überprüfen und testen Sie AI-generierten Code, bevor Sie ihn ausführen.

Hat Databricks eine Bewertung durchgeführt, um die Genauigkeit und Angemessenheit der Antworten von KI-Hilfsfunktionen zu bewerten?

Ja, Databricks hat umfangreiche Tests aller unserer KI-Hilfsfunktionen basierend auf ihren erwarteten Anwendungsfällen durchgeführt und simulierte Benutzereingaben verwendet, um die Genauigkeit und Angemessenheit der Antworten zu erhöhen. Das heißt, KI ist eine neue Technologie, und KI-Hilfsfunktionen können ungenaue oder unangemessene Antworten liefern.

Datenstandort und Compliance

Wie wird mein Datenverkehr über Geos weitergeleitet?

KI-Unterstützungsfeatures von Databricks sind Designated Services, die Databricks Geos verwenden, um die Datenresidenz bei der Verarbeitung von Kundeninhalten zu verwalten. Das Datenverkehrsrouting hängt von Ihrer Region ab und davon, ob die geografieübergreifende Verarbeitung aktiviert ist (die Einstellung Datenverarbeitung innerhalb der Arbeitsbereichsgeografie für Designated Services erzwingen ist deaktiviert).

Kann ich KI-Hilfsfunktionen mit Tabellen verwenden, die regulierte Daten verarbeiten (PHI, PCI, IRAP, FedRAMP)?

Ja. Dazu müssen Sie Anforderungen erfüllen. Sie müssen zum Beispiel das Compliancesicherheitsprofil aktivieren und bei der Konfiguration des Compliancesicherheitsprofils den relevanten Compliancestandard hinzufügen.

Von Databricks gehostete Modelle

Wie funktionieren KI-Hilfsfeatures mit von Databricks gehosteten Modellen?

Wenn partnergestützte KI-Funktionen deaktiviert sind, verwenden KI-Assistenzfunktionen Databricks-gehostete Modelle, die ausschließlich von Databricks ausgewählt und von Databricks verwaltet werden. Databricks verwendet Open-Source-Modelle, die für kommerzielle Zwecke verfügbar sind, z. B. OpenAI GPT OSS.

Das folgende Diagramm bietet eine Übersicht darüber, wie ein von Databricks gehostetes Modell Databricks KI-gestützte Features wie Quick Fix unterstützt.

1. Ein Benutzer führt eine Notizbuchzelle aus, was zu einem Fehler führt.
2. Databricks fügt Metadaten an eine Anforderung an und sendet sie an ein vom Databricks gehostetes Großsprachenmodell (LLM). Alle Daten werden im Ruhezustand verschlüsselt. Kunden können einen vom Kunden verwalteten Schlüssel (CMK) verwenden.
3. Das vom Databricks gehostete Modell antwortet mit den vorgeschlagenen Codebearbeitungen, um den Fehler zu beheben, der dem Benutzer angezeigt wird.