Affidabilità e sicurezza delle funzionalità di assistive per intelligenza artificiale di Databricks

Databricks comprende l'importanza dei vostri dati e la fiducia che riponete in noi quando utilizzate la nostra piattaforma e le funzionalità assistive per l'intelligenza artificiale di Databricks. Databricks si impegna per i più elevati standard di protezione dei dati e ha implementato misure rigorose per garantire che le informazioni inviate alle funzionalità di assistive per intelligenza artificiale di Databricks siano protette.

• I dati rimangono riservati.
  • Databricks non usa dati, richieste o risposte inviate a o output da queste funzionalità per eseguire il training di modelli di base generativi resi disponibili da Databricks per l'uso da parte di terze parti.
  • I partner del modello non conservano i dati inviati tramite queste funzionalità, anche per il monitoraggio degli abusi. Le funzionalità assistive alimentate dai partner utilizzano endpoint senza conservazione dei dati dai nostri partner del modello.
• Protezione da output dannoso. Quando si usa Azure OpenAI, Databricks usa anche il filtro del contenuto OpenAI di Azure per proteggere gli utenti da contenuti dannosi. Quando si usano modelli Anthropic, Databricks si basa sui meccanismi di sicurezza predefiniti di Anthropic e sulla protezione aggiuntiva contro gli output dannosi, come descritto nella documentazione sulla sicurezza di Anthropic. Inoltre, Databricks ha eseguito una valutazione approfondita con migliaia di interazioni utente simulate per garantire che le protezioni messe in atto per proteggere da contenuti dannosi, jailbreak, generazione di codice non sicuro e uso di contenuti copyright di terze parti sono efficaci.
• Databricks usa solo i dati necessari per fornire il servizio. I dati vengono inviati solo quando si interagisce con le funzionalità di assistive feature di intelligenza artificiale di Databricks o in base alle esigenze per fornire le funzionalità. Databricks invia la richiesta, i metadati e i valori della tabella pertinenti, gli errori, nonché il codice di input o le query per restituire risultati più pertinenti.
• I dati sono protetti in transito e a riposo. Tutto il traffico tra Databricks e i partner modello viene crittografato in transito con la crittografia TLS standard del settore. Tutti i dati archiviati in un'area di lavoro di Azure Databricks sono crittografati a 256 bit AES.
• Databricks offre controlli di residenza dei dati. Le funzionalità assistive basate sull'intelligenza artificiale di Databricks sono Servizi Designati e conformi ai limiti di residenza dei dati. Per altre informazioni, vedere Databricks Geos: Residenza dei dati e Databricks Designated Services.

Per altri dettagli su come le funzionalità specifiche gestiscono i dati, vedere le domande frequenti sulla privacy e sulla sicurezza.

Dati inviati ai modelli

Quali servizi e modelli usano le funzionalità assistive di intelligenza artificiale alimentate da partner?

Se l'impostazione delle funzionalità di intelligenza artificiale basata su partner è abilitata, le funzionalità di assistive per intelligenza artificiale di Databricks usano modelli ospitati dal servizio Azure OpenAI o Anthropic in Databricks.

Alcune funzionalità, ad esempio il completamento automatico del codice Genie, usano un modello ospitato da Databricks anche quando l'impostazione è abilitata. Se si disabilita l'impostazione delle funzionalità di intelligenza artificiale basate su partner , alcune funzionalità di assistive per intelligenza artificiale possono usare un modello ospitato da Databricks. Per altre informazioni, vedere Funzionalità di intelligenza artificiale basate su partner.

Quali dati vengono inviati ai modelli?

Databricks invia solo i dati necessari per fornire il servizio. In generale, ciò include la richiesta (ad esempio, la domanda, il codice o la query) e i metadati pertinenti, ad esempio nomi di tabella e colonne e descrizioni, valori di esempio, errori e domande precedenti. I dati esatti differiscono in base alla funzionalità:

• Genie Code invia il codice e le query presenti nella cella corrente del notebook o nella scheda dell'editor SQL, i nomi e le descrizioni delle tabelle e delle colonne, le domande precedenti e le tabelle preferite. In modalità agente, Genie Code può anche analizzare gli output delle celle e leggere esempi di dati da tabelle, analogamente ad altri agenti di codifica nel settore.
• Gli agenti Genie usano il prompt del linguaggio naturale, i nomi delle tabelle e le descrizioni, i valori pertinenti, le istruzioni generali, le query SQL di esempio e le funzioni SQL.
• Genie One invia la tua domanda in linguaggio naturale e i metadati rilevanti, come nomi di tabelle e colonne, descrizioni e valori di esempio, quando chattizzi con i tuoi dati. Genie One risponde instradando i tuoi Genie Agents e cercando asset dati a cui hai il permesso di accedere. Quando colleghi fonti esterne, come Google Drive, Microsoft 365 o Slack, anche Genie One può inviare contenuti da queste fonti per rispondere alla tua domanda.
• Genie Ontology è il livello di contesto unificato che fornisce a Genie una mappa business-aware della tua organizzazione, riunendo il contesto modellato (semantica del Catalogo Unity, come le viste metriche e i domini) e il contesto dedotto che Genie costruisce e mantiene automaticamente a partire dai tuoi asset e dall'uso esistenti. I frammenti estratti di ontologie rispettano i permessi degli asset sorgente. Per generare il contesto dedotti, Genie estrae informazioni da fonti che includono viste metriche, dashboard, query SQL e Genie Agent.
• I commenti generati dall'intelligenza artificiale inviano metadati per l'oggetto documentato e i relativi oggetti padre, inclusi i nomi di catalogo, schema, tabella, funzione, modello e volume, i relativi commenti correnti e i dettagli della colonna (nome, tipo, se si tratta di una chiave primaria e commento di colonna corrente).

I dati inviati ai modelli rispettano le autorizzazioni del catalogo Unity dell'utente?

Sì, tutti i dati inviati ai modelli di funzioni assistive di intelligenza artificiale rispettano le autorizzazioni di Unity Catalog, così i dati a cui gli utenti non hanno accesso non vengono inviati a tali modelli.

I provider di modelli partner archiviano i dati?

No Quando si usano modelli partner tramite Databricks, i provider di modelli partner non archiviano richieste o risposte.

Archiviazione e accesso

Dove vengono archiviate le risposte dalle funzionalità di assistive di intelligenza artificiale?

Le risposte dell'agente Genie e i commenti approvati generati dall'intelligenza artificiale vengono archiviati nel database del piano di controllo di Databricks. Il database del piano di controllo è crittografato a 256 bit AES.

La cronologia delle chat di Genie Code viene archiviata nella stessa posizione di altri contenuti del notebook.

Le conversazioni di chat di Genie One sono memorizzate nel database del piano di controllo Databricks, che è cifrato a AES-256 bit.

Chi può vedere la mia cronologia chat con Genie?

Puoi visualizzare le tue chat di Genie Code. Gli amministratori possono visualizzare la chat se hanno un collegamento diretto. Quando condividi una chat, i destinatari possono visualizzarla. Vedi Condividere una chat.

I responsabili dell'agente Genie possono visualizzare i messaggi di altri utenti, ma non i risultati della query. Le conversazioni con genie agents seguono le impostazioni di condivisione delle conversazioni.

Puoi vedere le tue chat su Genie One. Quando condividi una chat, i destinatari possono vederla come in sola lettura. Puoi condividere una chat su Genie One con chiunque nel tuo account, oppure renderla di nuovo privata. Vedi Condividere una chat.

Esecuzione e accuratezza del codice

Genie esegue codice?

Gli agenti Genie sono progettati con accesso in sola lettura ai dati dei clienti, in modo che possano generare ed eseguire solo query SQL di sola lettura.

Come Genie Agents, la chat di Genie One ha accesso in sola lettura ai tuoi dati, quindi genera ed esegue solo query SQL in sola lettura su dati a cui hai il permesso di accedere.

Con la modalità Agent, Genie Code può eseguire codice nel notebook e nell'editor SQL. All'inizio, Genie Code chiederà la conferma per procedere con l'esecuzione. Puoi scegliere di confermare, consentire sempre l'esecuzione nella chat attuale di Genie Code, oppure consentire sempre l'esecuzione. Altre modalità Genie Code non eseguono automaticamente il codice per conto dell'utente.

I modelli di intelligenza artificiale possono commettere errori, mal interpretare l’intento o fornire risposte errate. Esaminare e testare il codice generato dall'intelligenza artificiale prima di eseguirlo.

Databricks ha eseguito qualsiasi valutazione per valutare l'accuratezza e l'adeguatezza delle risposte dalle funzionalità di assistive di intelligenza artificiale?

Sì, Databricks ha eseguito test completi di tutte le funzionalità di assistive di intelligenza artificiale in base ai casi d'uso previsti e l'uso di input utente simulati per aumentare l'accuratezza e l'adeguatezza delle risposte. Detto questo, l'IA è una tecnologia emergente e le funzionalità di assistive per intelligenza artificiale possono fornire risposte imprecise o inappropriate.

Residenza e conformità dei dati

Come viene instradato il traffico tramite Geos?

Le funzionalità di assistive feature di intelligenza artificiale di Databricks sono servizi designati che usano Databricks Geos per gestire la residenza dei dati durante l'elaborazione del contenuto dei clienti. Il routing del traffico dipende dall'area e dall'abilitazione dell'elaborazione tra aree geografiche (l'opzione Imponi elaborazione dati nell'area di lavoro Geography for Designated Services è disabilitata).

È possibile usare le funzionalità di assistive di intelligenza artificiale con tabelle che elaborano dati regolamentati (PHI, PCI, IRAP, FedRAMP)?

Sì. A tale scopo, è necessario rispettare i requisiti, ad esempio abilitare il profilo di sicurezza della conformità e aggiungere lo standard di conformità pertinente come parte della configurazione del profilo di sicurezza della conformità.

Modelli ospitati da Databricks

In che modo le funzionalità di assistive intelligenza artificiale funzionano con i modelli ospitati da Databricks?

Quando le funzionalità di intelligenza artificiale basate su partner sono disabilitate, le funzionalità di assistive di intelligenza artificiale usano modelli ospitati da Databricks, completamente selezionati da Databricks e gestiti da Databricks. Databricks usa modelli open source disponibili per l'uso commerciale, ad esempio OpenAI GPT OSS.

Il diagramma seguente fornisce una panoramica di come un modello ospitato da Databricks alimenta le funzionalità di Databricks basate sull'AI, come Quick Fix.

1. Un utente esegue una cella del notebook, che provoca un errore.
2. Databricks collega i metadati a una richiesta e li invia a un modello LLM (Large Language Model) ospitato in Databricks. Tutti i dati sono crittografati a riposo. I clienti possono usare una chiave gestita dal cliente (CMK).
3. Il modello ospitato da Databricks risponde con le modifiche al codice suggerite per correggere l'errore, visualizzato all'utente.