Nozioni fondamentali sulla sicurezza per l'intelligenza artificiale
Riepilogo
-
Level
-
Competenza
-
Prodotto
Per saperne di più sulla sicurezza per l’intelligenza artificiale, questo percorso di apprendimento consente di comprendere i concetti di base della sicurezza per l'intelligenza artificiale, i tipi di controlli di sicurezza che si applicano ai sistemi di intelligenza artificiale e le procedure di test della sicurezza che è possibile implementare nei sistemi di intelligenza artificiale per migliorare la postura di sicurezza degli ambienti di intelligenza artificiale.
Prerequisiti
Familiarità con i concetti di base di intelligenza artificiale e sicurezza
Informazioni di base su Azure
Scegliere l'account Azure più adatto per l'utente. Pagamento a consumo o prova gratuita di Azure per un massimo di 30 giorni. Iscriversi.
Codice obiettivo
Si vuole richiedere un codice obiettivo?
Moduli in questo percorso di apprendimento
Informazioni su come la sicurezza dell'intelligenza artificiale differisce dalla cybersecurity tradizionale, esplorare il modello di architettura dell'intelligenza artificiale a tre livelli ed esaminare tecniche di attacco specifiche dell'intelligenza artificiale, tra cui jailbreaking, prompt injection, manipolazione del modello, esfiltrazione dei dati e overreliance.
Informazioni sui controlli di sicurezza che è possibile implementare per proteggere i sistemi di intelligenza artificiale dalle minacce, tra cui la sicurezza della supply chain, il filtro dei contenuti, la sicurezza dei dati, i metaprompt, il grounding, la sicurezza delle applicazioni e il monitoraggio continuo.
Informazioni sul red teaming dell'intelligenza artificiale, sulle tre categorie di test di sicurezza dell'intelligenza artificiale e su come pianificare ed eseguire esercizi di red teaming per i modelli linguistici di tipo LLM e le applicazioni abilitate all'intelligenza artificiale.