Introduzione alla progettazione dell'architettura di intelligenza artificiale

L'intelligenza artificiale consente ai computer di analizzare i dati, generare contenuto, sintetizzare il parlato, effettuare stime e supportare il processo decisionale in tutti i settori. Man mano che le funzionalità di intelligenza artificiale si espandono attraverso modelli generativi, modelli linguistici e architetture basate su agenti, le organizzazioni necessitano di linee guida architetturali per progettare carichi di lavoro di intelligenza artificiale affidabili, sicuri, convenienti e operativi.

Questo articolo illustra come iniziare a usare l'intelligenza artificiale in Azure. Introduce i servizi di intelligenza artificiale, le architetture di riferimento, le procedure consigliate e le risorse di apprendimento, in modo da poter progettare e creare soluzioni di intelligenza artificiale che soddisfino i requisiti del carico di lavoro.

servizi Azure per l'intelligenza artificiale

Azure offre una gamma di servizi per la creazione, la distribuzione e la gestione dei carichi di lavoro di intelligenza artificiale. Questi servizi si estendono su piattaforme di sviluppo, funzionalità di intelligenza artificiale predefinite, piattaforme dati e strumenti per la creazione di modelli personalizzati. Usare i servizi seguenti per integrare l'intelligenza artificiale nella progettazione del carico di lavoro.

Piattaforme di sviluppo di intelligenza artificiale

• Microsoft Foundry: una piattaforma unificata distribuita come servizio (PaaS) per lo sviluppo e la distribuzione di applicazioni e agenti di intelligenza artificiale generativi. Microsoft Foundry fornisce accesso a un catalogo di modelli, all’hosting di agenti tramite Foundry Agent Service, al fine-tuning, agli strumenti di valutazione e alle funzionalità di intelligenza artificiale responsabile. Usare il portale foundry per sperimentare, compilare e distribuire modelli e agenti di intelligenza artificiale.

• Azure Machine Learning: un servizio cloud per la creazione, il training e la distribuzione di modelli di Machine Learning su larga scala. Azure Machine Learning supporta i framework open source come PyTorch, TensorFlow e scikit-learn. Offre anche funzionalità per AutoML, ottimizzazione degli iperparametri, training distribuito, operazioni di Machine Learning e intelligenza artificiale responsabile.

• Microsoft Copilot Studio: piattaforma a basso codice per la compilazione, la personalizzazione e la distribuzione di agenti basati su intelligenza artificiale. Usare Microsoft Copilot Studio per creare agenti di conversazione per scenari interni ed esterni e per estendere Microsoft 365 Copilot con i dati aziendali e i flussi di lavoro personalizzati.

Servizi di intelligenza artificiale predefiniti

• Foundry Tools: una raccolta di API e modelli predefiniti e personalizzabili per aggiungere funzionalità intelligenti alle applicazioni. Gli strumenti foundry includono funzionalità di riconoscimento vocale, traduzione, comprensione del linguaggio, intelligenza dei documenti, comprensione dei contenuti, visione, sicurezza dei contenuti e ricerca.

• Azure OpenAI: fornisce l'accesso ai modelli OpenAI, tra cui GPT e DALL-E, tramite un'infrastruttura gestita da Azure con controlli di intelligenza artificiale responsabili, rete e sicurezza aziendale.

Piattaforme dati per intelligenza artificiale

• Microsoft Fabric: una piattaforma di dati e analisi end-to-end che copre l'inserimento, la trasformazione, il routing degli eventi in tempo reale e la creazione di report. Microsoft Fabric offre OneLake come data lake unificato e include funzionalità di intelligenza artificiale incorporate, funzionalità di Microsoft Copilot e integrazione con Foundry Tools.

• Azure Databricks: piattaforma di analisi basata su Spark per ingegneria dei dati, data science e Machine Learning. Azure Databricks fornisce Databricks Runtime per Azure Machine Learning, l'integrazione con MLflow, AutoML, la messa a punto dei modelli di base e Mosaic AI Vector Search per il recupero basato su incorporamenti.

• Azure HDInsight: servizio Apache Spark gestito per l'elaborazione e l'analisi dei Big Data. Azure HDInsight i cluster Spark supportano i carichi di lavoro di Machine Learning tramite MLlib, sono compatibili con Archiviazione di Azure e Azure Data Lake Storage e supportano SynapseML per l'apprendimento avanzato.

• Azure Data Lake Storage: repository scalabile e centralizzato per l'archiviazione di dati strutturati e non strutturati. Azure Data Lake Storage fornisce semantica del file system, sicurezza a livello di file e archiviazione a livelli basata su Archiviazione BLOB di Azure.

Livelli di intelligence aziendale

L'architettura dell'IA di Microsoft introduce tre livelli di intelligenza complementari, o IQ, che rappresentano fonti chiave di contesto per i sistemi di IA:

• Work IQ acquisisce l'intelligenza sul funzionamento all'interno di un'organizzazione. Usa segnali provenienti da Microsoft 365, ad esempio messaggi di posta elettronica, chat, riunioni, documenti e modelli di collaborazione.

  Questo livello è essenziale per basare l'IA nell'attività umana e nel comportamento dell'organizzazione anziché trattare le interazioni come prompt isolati.

• Fabric IQ fornisce informazioni derivate da dati aziendali strutturati gestiti in Microsoft Fabric, inclusi modelli di analisi, indicatori di prestazioni chiave (KPI) ed entità aziendali.

  Fabric IQ consente all'intelligenza artificiale di rispondere a domande analitiche complesse e interpretare i risultati nel contesto delle operazioni aziendali.

• Foundry IQ offre un livello di conoscenza unificato e multisource che consente agli agenti di intelligenza artificiale di recuperare e mettere a punto le risposte nei dati aziendali.

  Questo livello è fondamentale per implementare schemi come la Retrieval-Augmented Generation (RAG), contribuendo a garantire che i risultati dell'IA siano accurati, aggiornati e conformi.

Architettura

Il diagramma seguente illustra un'architettura di chat end-to-end di base che usa Microsoft Foundry. Questa architettura di riferimento illustra come i servizi di intelligenza artificiale costituiscono una soluzione pronta per la produzione in Azure. Include livelli di identità, rete, monitoraggio e governance.

Scaricare un file di Visio di questa architettura.

Il diagramma precedente illustra un'implementazione tipica dell'intelligenza artificiale di base. Per soluzioni reali che è possibile creare in Azure, vedere Architetture di intelligenza artificiale.

Esplorare architetture e guide per intelligenza artificiale

Gli articoli di questa sezione includono guide e architetture completamente sviluppate che è possibile distribuire in Azure ed espandersi in soluzioni di livello di produzione. Le idee della soluzione illustrano modelli di implementazione e possibilità da considerare durante la pianificazione dello sviluppo di modelli di verifica dell'intelligenza artificiale (POC). Questi articoli consentono di decidere come usare le tecnologie di intelligenza artificiale in Azure.

• Panoramica della tecnologia di intelligenza artificiale: offre una panoramica dei concetti di intelligenza artificiale, delle piattaforme di sviluppo e dei modelli di architettura per semplificare la progettazione di carichi di lavoro di intelligenza artificiale in Azure.

Selezionare un servizio di intelligenza artificiale

Gli articoli seguenti consentono di valutare e selezionare le migliori tecnologie di intelligenza artificiale per i requisiti del carico di lavoro:

• Scegliere una tecnologia per i servizi di intelligenza artificiale: confronta i servizi di intelligenza artificiale e le soluzioni di Machine Learning per scegliere il servizio o il modello appropriato per il caso d'uso.

• Scegliere una tecnologia di Azure AI per l'elaborazione mirata del linguaggio: confronta i servizi Azure per attività specifiche di elaborazione del linguaggio, come la traduzione, il riconoscimento di entità e l'analisi del testo.

• Scegliere una tecnologia di riconoscimento vocale e generazione Azure: confronta i servizi Azure per scenari di riconoscimento vocale, sintesi vocale e traduzione vocale.

• Scegliere una tecnologia di elaborazione e generazione di immagini e video Azure di intelligenza artificiale: confronta i servizi Azure per l'analisi di immagini e video, la generazione e l'elaborazione.

• Scegliere una tecnologia di elaborazione del linguaggio naturale: confronta Azure tecnologie di elaborazione del linguaggio naturale per facilitare la scelta della piattaforma appropriata per la comprensione del testo e le attività di generazione.

• Microsoft prodotti di Intelligenza artificiale e Machine Learning: confronta Microsoft prodotti di Machine Learning per consentire di scegliere una piattaforma per la creazione, la distribuzione e la gestione di applicazioni, agenti e modelli di Machine Learning per intelligenza artificiale.

• Scegliere il modello di intelligenza artificiale appropriato per il carico di lavoro: descrive le strategie per selezionare il modello di intelligenza artificiale appropriato dalle numerose opzioni disponibili per la distribuzione.

Idee per soluzioni di intelligenza artificiale

Le idee seguenti per la soluzione di intelligenza artificiale illustrano modelli di implementazione e possibilità da esplorare.

Idee per soluzioni di elaborazione audio

• Sblocca informazioni utili dai dati delle conversazioni: Estrae informazioni utili dai dati audio delle conversazioni.

Elaborazione di immagini

• Classificazione delle immagini: classifica le immagini usando modelli di applicazione intelligenti.

Analisi predittiva

• Previsione degli ordini dei clienti: consente di stimare gli ordini futuri dei clienti tramite Machine Learning.

Idee per le soluzioni MLOps

• Usare Azure Databricks per orchestrare le operazioni di Machine Learning: orchestra le operazioni di Machine Learning usando Azure Databricks.

• Molti modelli con Machine Learning: esegue il training e gestisce molti modelli su larga scala usando Azure Machine Learning.

Elaborazione e arricchimento dei documenti

• Estrai e mappa le informazioni da contenuti non strutturati: estrae e mappa le informazioni da contenuti non strutturati multimodali.

• Generare documenti dai dati: genera documenti strutturati da origini dati.

• Usare l'arricchimento tramite intelligenza artificiale con Azure AI Search: arricchisce il contenuto usando i set di competenze di intelligenza artificiale nelle pipeline di indicizzazione Azure AI Search.

Automazione del flusso di lavoro

• Creare una soluzione di automazione del flusso di lavoro con più agenti usando Microsoft Agent Framework: automatizza i flussi di lavoro usando più agenti di intelligenza artificiale orchestrati tramite Microsoft Agent Framework.

Architetture di intelligenza artificiale

Le architetture pronte per la produzione seguenti illustrano soluzioni di intelligenza artificiale end-to-end che è possibile distribuire e personalizzare.

Chattare con i dati

• Architettura di riferimento di base per chat con Microsoft Foundry: un'architettura di base per chat RAG che usa Microsoft Foundry e Azure OpenAI.

• Architettura di riferimento di base per la chat di Microsoft Foundry: un'architettura di chat end-to-end pronta per la produzione che usa Microsoft Foundry con la sicurezza aziendale, la connettività di rete e il monitoraggio.

• Architettura di base per chat Microsoft Foundry in una landing zone di Azure: distribuisce l'architettura di base per chat Microsoft Foundry all'interno di una landing zone di Azure con governance su scala aziendale.

Documento in fase di elaborazione

• Automatizzare la classificazione dei documenti: usa Durable Functions per automatizzare i flussi di lavoro di classificazione dei documenti.

• Automatizzare l'elaborazione dei moduli PDF: automatizza l'estrazione e l'elaborazione dei dati dai moduli PDF.

• Creare modelli di elaborazione documenti personalizzati: compila e distribuisce modelli personalizzati per scenari di elaborazione documenti.

• Estrarre testo da oggetti usando Power Automate e AI Builder: estrae testo da oggetti usando le funzionalità di Power Automate e intelligenza artificiale.

• Più indicizzatori con Azure AI Search: usa più indicizzatori per elaborare e indicizzare i metadati dei BLOB usando Azure AI Search.

Classificazione di video e immagini

• Automatizzare l'analisi video: analizza il contenuto video usando Visione artificiale e Machine Learning.

Architetture di elaborazione audio

• Estrarre e analizzare i dati del call center: estrae e analizza le conversazioni del call center usando Azure OpenAI.

Regulatory

• Ricerca sicura per i dati regolamentati: fornisce un ambiente di calcolo sicuro per i carichi di lavoro di ricerca che gestiscono dati regolamentati.

Guide sull'intelligenza artificiale

• Agenti di intelligenza artificiale dinamici su scala: descrive come selezionare e orchestrare dinamicamente gli agenti di intelligenza artificiale da un pool usando Microsoft Foundry, Azure AI Search e Azure OpenAI per creare sistemi multiagente.

• Microsoft prodotti di Intelligenza artificiale e Machine Learning: confronta Microsoft prodotti di Machine Learning per consentire di scegliere una piattaforma per la creazione, la distribuzione e la gestione di applicazioni, agenti e modelli di Machine Learning per intelligenza artificiale.

• Modelli di orchestrazione dell'agente di intelligenza artificiale: descrive i modelli di progettazione per orchestrare gli agenti di intelligenza artificiale in scenari complessi.

• Progettare una soluzione di inferenza RAG multi-tenant sicura: fornisce indicazioni per la protezione delle soluzioni RAG in ambienti multi-tenant.

• Progettare per supportare i cicli di vita del modello di base: fornisce indicazioni per la gestione degli aggiornamenti, delle deprecazioni e delle transizioni del modello di base.

Sviluppo e valutazione di soluzioni RAG

• Progettare e sviluppare una soluzione RAG: offre una panoramica di come progettare e valutare le soluzioni RAG.

• Fase di preparazione: illustra la preparazione dei dati per le implementazioni rag.

• Fase di suddivisione in blocchi: descrive le strategie per la suddivisione in blocchi dei contenuti nelle pipeline RAG.

• Fase di arricchimento dei blocchi: comprende le tecniche di arricchimento applicate ai blocchi di contenuto.

• Fase di incorporamento: descrive come generare incorporamenti per il recupero rag.

• Fase di recupero delle informazioni: illustra le strategie di recupero delle informazioni nelle architetture RAG.

• Progettazione prompt: descrive come progettare richieste efficaci per le soluzioni RAG, tra cui la struttura dei prompt, le tecniche di base e la gestione del contesto.

• Fase di valutazione end-to-end del modello: Descrive come valutare i modelli RAG in modo end-to-end.

• Rag agentec: descrive come passare da una pipeline RAG standard a un'architettura RAG agentec per la pianificazione dinamica delle query e il ragionamento a più passaggi.

Guide MLOps

• Operazioni di Machine Learning: descrive l'approccio alle operazioni di Machine Learning v2 per rendere operativi i flussi di lavoro di Machine Learning.

• Operazioni di intelligenza artificiale generative per le organizzazioni con investimenti MLOps: estende le procedure operative di Machine Learning per la generazione di carichi di lavoro di intelligenza artificiale.

• Modello di maturità MLOps: definisce i livelli di maturità per l'adozione delle operazioni di Machine Learning.

Modelli proxy di intelligenza artificiale generativa

• Usare un gateway davanti ai modelli generativi: descrive i vantaggi e l'architettura di posizionare un gateway davanti agli endpoint del modello di intelligenza artificiale generativi.

• Usare un gateway davanti a più distribuzioni di modelli o istanze: estende il modello di gateway per instradare le richieste tra più back-end del modello.

• Fornire l'autenticazione personalizzata ai modelli Foundry tramite un gateway: implementa flussi di autenticazione personalizzati per l'accesso al modello tramite un gateway.

• Implementare il monitoraggio avanzato per i modelli Foundry tramite un gateway: aggiunge il monitoraggio e l'osservabilità per la generazione del traffico del modello di intelligenza artificiale attraverso un gateway.

Idoneità dell'organizzazione

Le organizzazioni all'inizio del processo di adozione del cloud possono usare il Cloud Adoption Framework per Azure per accedere a indicazioni comprovate che accelerano l'adozione del cloud.

Per indicazioni sull'adozione specifiche dell'IA, vedere le risorse Cloud Adoption Framework seguenti:

• Adozione dell'IA: fornisce un processo strutturato per l'adozione di soluzioni di IA in Azure, tra cui strategia, pianificazione, conformità, governance, sicurezza e gestione.

• Ai ready :descrive il processo aziendale per la creazione di carichi di lavoro di intelligenza artificiale in Azure, tra cui l'organizzazione delle risorse, la rete, l'affidabilità e la governance.

Per garantire la qualità della soluzione di intelligenza artificiale in Azure, seguire le indicazioni in Azure Well-Architected Framework. Il framework Well-Architected fornisce indicazioni prescrittive per le organizzazioni che cercano l'eccellenza dell'architettura e descrive come progettare, effettuare il provisioning e monitorare soluzioni di Azure ottimizzate per i costi.

Per indicazioni specifiche per l'intelligenza artificiale, vedere la risorsa Well-Architected Framework seguente:

• Carichi di lavoro di intelligenza artificiale in Azure: risolve le problematiche dell'architettura della progettazione di carichi di lavoro di intelligenza artificiale, tra cui funzionalità non deterministiche, progettazione di dati e applicazioni e operazioni tra i cinque pilastri di Well-Architected Framework.

Per le guide ai servizi del Well-Architected Framework relative all'intelligenza artificiale, vedere:

• Azure Machine Learning
• Azure Databricks

Procedure consigliate

Seguire queste procedure consigliate per migliorare l'affidabilità, la sicurezza, l'efficacia dei costi, la qualità operativa e le prestazioni dei carichi di lavoro di intelligenza artificiale in Azure:

• Progettare e sviluppare una soluzione RAG: seguire un approccio strutturato e graduale alla progettazione di soluzioni RAG, tra cui suddivisione in blocchi, incorporamento, recupero delle informazioni e valutazione end-to-end.

• Scegliere un servizio Azure per la ricerca vettoriale: valutare Azure servizi che supportano la ricerca vettoriale per trovare la soluzione più adatta ai requisiti di ricerca di recupero e somiglianza.

• Modelli di orchestrazione dell'agente di intelligenza artificiale: informazioni sui modelli di orchestrazione comprovati per le architetture che usano più agenti, tra cui modelli sequenziali, simultanei, chat di gruppo, handoff e modelli magentici. Esaminare le considerazioni sull'implementazione per affidabilità, sicurezza, costi e osservabilità.

• Utilizzare un gateway davanti ai modelli di IA generativa: implementare pattern di gateway per il proxy, il bilanciamento del carico e il monitoraggio degli endpoint dei modelli generativi.

• Operazioni di Machine Learning v2: applicare linee guida per il ciclo di vita delle operazioni di Machine Learning end-to-end per il training, la distribuzione e la gestione di modelli di Machine Learning su larga scala.

• Operazioni di IA generativa con le operazioni di machine learning: Estendere le pratiche operative del machine learning ai carichi di lavoro dell’IA generativa, inclusi la gestione dei prompt, la valutazione e la distribuzione.

• Progettare una soluzione di inferenza RAG multi-tenant sicura: applicare modelli multi-tenancy per le soluzioni RAG che applicano l'isolamento dei dati e l'inferenza sicura tra i tenant.

• Progettare per supportare i cicli di vita del modello di base: gestire il controllo delle versioni dei modelli, la deprecazione e la rotazione per mantenere aggiornati e resilienti i carichi di lavoro di intelligenza artificiale.

• Opzioni di Machine Learning: confrontare le opzioni di training e distribuzione di Machine Learning in Azure per scegliere i servizi giusti per il carico di lavoro.

• Linee guida per Apache Spark: esaminare le linee guida per l'esecuzione, il monitoraggio, il debug e l'ottimizzazione dei processi Apache Spark in Azure HDInsight.

Rimanere aggiornati con l'intelligenza artificiale

Servizi di Azure AI si evolvono per affrontare le moderne sfide legate ai dati. Rimanere informati sugli aggiornamenti e sulle funzionalità più recenti.

Per rimanere aggiornati sui principali servizi di intelligenza artificiale, vedere gli articoli seguenti:

• Novità di Azure OpenAI nei modelli Foundry: fornisce un riepilogo delle versioni più recenti e degli aggiornamenti della documentazione per Azure OpenAI, tra cui la disponibilità del nuovo modello, le versioni delle API e gli annunci sulle funzionalità.

• Novità di Microsoft Foundry: evidenzia l'articolo chiave e gli aggiornamenti dei prodotti in Microsoft Foundry, tra cui governance degli agenti, funzionalità di osservabilità e nuove funzionalità.

• Novità di Azure AI Search: vengono illustrati gli aggiornamenti più recenti per Azure AI Search funzionalità, incluse le nuove versioni dell'API, le funzionalità di recupero agentico e le funzionalità di indicizzazione.

• Novità di Azure Language in Foundry Tools: vengono illustrati gli aggiornamenti delle funzionalità di Azure Language in Foundry Tools, incluse le nuove versioni dell'SDK, i flussi di lavoro di orchestrazione e l'integrazione di Microsoft Foundry.

• Novità di Microsoft Fabric: illustra gli aggiornamenti nelle funzionalità di Microsoft Fabric, tra cui data science, integrazione di MLflow, agenti dati e funzionalità di analisi.

• Note sulla versione dell'interfaccia della riga di comando di Azure Machine Learning e dell'SDK Python: Fornisce le note sulla versione dell'interfaccia della riga di comando di Azure Machine Learning (v2) e dell'SDK Python, incluse nuove funzionalità, correzioni di bug e modifiche che introducono incompatibilità.

• note sulla versione della piattaforma Azure Databricks: vengono illustrati gli aggiornamenti alla piattaforma Azure Databricks, incluse le versioni di runtime, le funzionalità dell'area di lavoro e le funzionalità di integrazione.

• Novità di Microsoft Copilot Studio: evidenzia le nuove funzionalità e gli aggiornamenti per Microsoft Copilot Studio, incluse le funzionalità di compilazione degli agenti e gli aggiornamenti del connettore.

• Novità di Azure Document Intelligence in Foundry Tools: illustra gli aggiornamenti di Azure Document Intelligence in Foundry Tools, inclusi i nuovi modelli predefiniti, le versioni api e le funzionalità di estrazione.

• Novità di Azure Content Understanding in Foundry Tools: illustra gli aggiornamenti per Azure Content Understanding in Foundry Tools, incluse le nuove funzionalità di analisi del contenuto e l'integrazione di Microsoft Foundry.

Amazon Web Services (AWS) o i professionisti di Google Cloud

Per semplificare l'avvio rapido, gli articoli seguenti confrontano Azure opzioni di intelligenza artificiale con altri servizi cloud:

• Dati e intelligenza artificiale: confronta i dati e i servizi di intelligenza artificiale aws, tra cui machine learning, servizi di intelligenza artificiale generativa e piattaforma di intelligenza artificiale, con le controparti Azure.

• Intelligenza artificiale e Machine Learning: confronta i servizi di Intelligenza artificiale e Machine Learning di Google Cloud, tra cui Vertex AI, Dialogflow e Gemini, con le controparti Azure.