Utforska risker för generativa AI-artefakter före distribution

Defender Cloud Security Posture Management (CSPM)-planen i Microsoft Defender för molnet hjälper dig att säkra dina generativa AI-appar. Den skannar AI-artefakter, såsom containerbilder och kodarkiv, för att hitta kända sårbarheter i AI-bibliotek.

I den här artikeln använder du cloud security explorer i Defender för molnet för att hitta containrar som kör sårbara generativa AI-bilder och för att identifiera sårbara kodarkiv som provisionerar Azure OpenAI. När du har slutfört dessa steg kan du granska resultaten och åtgärda rekommendationerna.

Förutsättningar

Kontrollera att du uppfyller följande krav innan du börjar:

• Läs mer om hantering av AI-säkerhetsstatus.

• Läs mer om att undersöka risker med molnsäkerhetsutforskaren och attackvägar.

• Du behöver en Microsoft Azure-prenumeration. Om du inte har en Azure-prenumeration kan du registrera dig för en kostnadsfri prenumeration.

• Aktivera Defender för molnet i din Azure-prenumeration.

• Aktivera Defender CSPM (Cloud Security Posture Management) i din Azure-prenumeration.

• Ha minst en Azure OpenAI-resurs med minst en modelldistribution ansluten till den via Azure AI Foundry-portalen.

Identifiera containrar som körs på sårbara generativa AI-containeravbildningar

Använd molnsäkerhetsutforskaren för att hitta containrar som kör generativa AI-bilder med kända sårbarheter.

1. Logga in på Azure-portalen.

2. Sök efter och välj Microsoft Defender för Cloud>Cloud Security Explorer.

3. Välj frågemallen Container som kör containeravbildningar med kända generativa AI-sårbarheter .

   

4. Välj Sök.

5. Välj ett resultat för att granska dess information.

   

6. Välj en nod för att granska resultaten.

   

7. I avsnittet insikter väljer du ett CVE-ID i den nedrullningsbara menyn.

8. Välj Öppna sårbarhetssidan.

9. Åtgärda rekommendationen.

Identifiera sårbara generativa AI-kodlagringsplatser

Använd molnsäkerhetsutforskaren för att hitta sårbara generativa AI-kodarkiv som tillhandahåller Azure OpenAI.

1. Logga in på Azure-portalen.

2. Sök efter och välj Microsoft Defender för Cloud>Cloud Security Explorer.

3. Välj de generativa AI-sårbara kodlagringsplatserna som etablerar Azure OpenAI-frågemallen .

   

4. Välj Sök.

5. Välj ett resultat för att granska dess information.

   

6. Välj en nod för att granska resultaten.

   

7. I avsnittet insikter väljer du ett CVE-ID i den nedrullningsbara menyn.

8. Välj Öppna sårbarhetssidan.

9. Åtgärda rekommendationen.

Relaterat innehåll

• Översikt – AI-skydd mot hot
• Granska säkerhetsrekommendationer
• Identifiera och åtgärda attackvägar