Nota
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare ad accedere o modificare le directory.
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare a modificare le directory.
Nonostante la potenza dei modelli di intelligenza artificiale moderni, le applicazioni di intelligenza artificiale di livello di produzione sono spesso difficili da compilare. È possibile riepilogare tre sfide principali:
- Governance: molte piattaforme faticano a fornire governance unificata, privacy dei dati e sicurezza per i dati e gli asset di intelligenza artificiale.
- Qualità: il comportamento flessibile e imprevedibile dei modelli di intelligenza artificiale aggiunge complessità alla valutazione.
- Controllo: le piattaforme devono offrire flessibilità, scelta del modello e personalizzazione.
Governance dei dati e dell'intelligenza artificiale
Le applicazioni di intelligenza artificiale richiedono diversi asset di dati e intelligenza artificiale: tabelle, indici vettoriali, modelli di intelligenza artificiale, strumenti e altro ancora. Una piattaforma di intelligenza artificiale deve fornire agli sviluppatori l'accesso granulare a questi asset, fornendo al tempo stesso la governance congiunta per gli amministratori. Senza una governance completa, le organizzazioni devono affrontare rischi come:
- Perdita di Dati: i dati sensibili dei clienti o dell'organizzazione possono essere utilizzati in modo improprio senza il corretto tracciamento della provenienza e il controllo degli accessi. Inoltre, i dati possono inavvertitamente trapelare attraverso gli output dei modelli se non vengono applicate protezioni appropriate.
- Restrizioni di conformità: molte organizzazioni hanno requisiti di conformità, ad esempio SOC2 o HIPAA, e l'integrazione di modelli di intelligenza artificiale in piattaforme legacy conformi può essere complessa, causando ritardi o restrizioni nell'uso dei modelli migliori.
- Utilizzo non autorizzato o costi imprevisti: senza controlli di accesso e protezioni di utilizzo, i modelli di intelligenza artificiale potrebbero essere usati da team non autorizzati o comportano costi di utilizzo elevati.
Azure Databricks semplifica la governance unificata per i dati e l'intelligenza artificiale tramite:
- Catalogo unity, che gestisce file, tabelle, indici vettoriali, archivi di funzionalità, modelli e strumenti in un modello di governance unificato
- Gateway di intelligenza artificiale, che fornisce governance unificata e monitoraggio per gli endpoint del modello di intelligenza artificiale, tra cui protezioni di sicurezza e limiti di utilizzo
- Databricks AI Security Framework, che fornisce una guida completa alla gestione dei rischi di intelligenza artificiale
- Framework di Governance dell'Intelligenza Artificiale di Databricks, che completa il Framework di Sicurezza, fornendo una visione della governance che copre sia la sicurezza che l'integrità operativa
Qualità di modelli, agenti e app
I modelli di intelligenza artificiale producono output stocastici aperti e vengono spesso applicati a problemi aperti con molte risposte "buone". Anche la definizione di "alta qualità" può essere complessa e spesso richiede feedback iterativo da esperti di dominio o utenti. Senza processi di valutazione affidabili, le organizzazioni devono affrontare rischi come:
- Esperienze utente non corrette: se le app di intelligenza artificiale non vengono valutate in base alle metriche allineate alle esigenze degli utenti, gli utenti possono trovare risposte inutili, imprecise o persino dannose o offensive. Le reputazione del marchio possono soffrire in casi estremi.
- Limbo di sviluppo: se la qualità non può essere definita o misurata in modi che consentano la firma degli stakeholder, i progetti di IA possono essere ritardati o annullati per mancanza di "prova" di qualità.
Azure Databricks semplifica la misurazione e l'ottimizzazione della qualità dell'intelligenza artificiale tramite:
- MLflow Evaluation and Monitoring, con giudici predefiniti e scorer personalizzati per misurare la qualità, utilizzabile sia nel monitoraggio di sviluppo che in quello di produzione
- MLflow Tracing, con traccia automatica e manuale per garantire l'osservabilità sia per lo sviluppo che per la produzione
- Raccolta di feedback umani, con un'app predefinita per commenti e suggerimenti esperti durante lo sviluppo e le API per il feedback degli utenti dalle app di produzione
- Metodi per ottimizzare i compromessi tra qualità, costo e latenza. Knowledge Assistant offre un'esperienza di ottimizzazione guidata per chatbot di controllo di qualità e agenti personalizzati e una scelta flessibile di modelli di intelligenza artificiale offrono opzioni di compromesso per gli agenti completamente personalizzati.
Controllo dei dati e dei modelli
I modelli di intelligenza artificiale all'avanguardia sono forniti da molti fornitori di modelli, nonché da opzioni open source ospitate autonomamente. A causa della privacy dei dati e delle complicazioni delle licenze, molte piattaforme faticano a supportare questo ecosistema diversificato e a consentire iterazioni e personalizzazioni rapide. Le organizzazioni devono mantenere il controllo dei dati e della scelta rispetto ai modelli per evitare rischi come:
- Restrizioni relative alla privacy dei dati: i requisiti di conformità o integrazione possono impedire alle organizzazioni di accedere ai principali modelli di intelligenza artificiale da più provider, sacrificando flessibilità e compromessi di qualità-costo.
- Mancanza di vantaggi competitivi: se i modelli, i dati, gli agenti e le applicazioni non sono personalizzabili in base ai dati proprietari di un'organizzazione, è difficile creare proprietà intellettuale.
Azure Databricks offre controllo e flessibilità per i dati e i modelli tramite:
- API del modello di base, che servono modelli di frontiera dai principali provider di modelli nell'ambiente Azure Databricks, insieme ai modelli e agli agenti personalizzati in Model Serving.
- App personalizzate, agenti, modelli, strumenti e origini dati basate sui dati proprietari. Tutti questi livelli di intelligenza artificiale supportano l'intelligenza dei dati, dalla creazione di app e agenti, alla fornitura di dati tramite strumenti, alla valutazione e all'ottimizzazione degli agenti in base ai dati.