Kommentar
Åtkomst till den här sidan kräver auktorisering. Du kan prova att logga in eller ändra kataloger.
Åtkomst till den här sidan kräver auktorisering. Du kan prova att ändra kataloger.
Important
Den här funktionen är för närvarande i förhandsversion och ingår i Microsoft Defender för AI-tjänster-planen. Under förhandsversionen debiteras ingen extra kostnad för AI-modellgenomsökning. Att aktivera Defender för AI-tjänster-planen kan dock medföra kostnader relaterade till hotskyddsfunktioner. Fortsatt inkludering av AI-modellgenomsökningsfunktionen som en del av Defender för AI-tjänster garanteras inte när den blir allmänt tillgänglig och licenskraven kan ändras. Om detta inträffar skickas ett meddelande innan funktionen inaktiveras med alternativ för att återaktivera den under den tillämpliga licensen. AI-modellskanning är avsedd att hjälpa kunder att identifiera potentiella säkerhetsrisker inom stödda modellartefakter. Skanningsresultat kanske inte identifierar allt illvilligt, osäkert eller på annat sätt missbrukande innehåll och kan ge falska positiva eller falska negativa. Detektionstäckningen varierar beroende på stödda modellformat, skanningstekniker och tillgänglig hotintelligens. Kunder bör självständigt granska och validera skanningsresultat och inte enbart förlita sig på skanningsresultat vid beslut om driftsättning, säkerhet eller efterlevnad.
Eftersom organisationer i allt högre grad använder AI-modeller (artificiell intelligens) för att driva automatisering, insikter och intelligent beslutsfattande behöver säkerhetsteamen synlighet och kontroll för att bedöma säkerheten och efterlevnaden för AI-modeller som kommer in i deras miljöer. Dessa modeller har ofta bred åtkomst till data och infrastruktur. Utan dessa funktioner blir det allt svårare att genomdriva interna standarder.
Microsoft Defender för molnets AI-säkerhetsskydd stöder genomsökning av AI-modeller. AI-modellgenomsökning ger proaktiv identifiering av osäkra eller skadliga artefakter och övervakar kontinuerligt modeller för risk under AI-livscykeln.
AI-modellsäkerhet söker automatiskt igenom AI-modeller efter säkerhetsrisker som inbäddad skadlig kod, osäkra operatorer och exponerade hemligheter innan dessa modeller når produktion. Tjänsten är direkt integrerad med Azure Machine Learning- och CI/CD-pipelines och visar resultat i realtid och åtgärdsvägledning, så att teamen kan stoppa riskfyllda modeller tidigt i utvecklingsprocessen.
Med ai-modellsäkerhet kan säkerhetsteam skanna anpassade AI-modeller som laddats upp till Azure Machine Learning-arbetsytor och register för att identifiera hot som inbäddad skadlig kod, osäkra operatörer och exponerade hemligheter. Defender för molnet presenterar resultaten, vilket ger teamen insyn i säkerhetsresultat tillsammans med allvarlighetsgradsklassificeringar, vägledning för reparation och relevanta modellmetadata för att stödja effektiv prioritering och prioritering. Utvecklare kan också utlösa modellgenomsökningar under bygg- eller lanseringsfaser med hjälp av CLI-verktyg som är integrerade med Azure DevOps eller GitHub pipelines, vilket möjliggör statisk genomsökning och tidig riskidentifiering innan modellerna når produktion.
Förutsättningar
- Du måste ha en Azure-prenumeration som innehåller AI-modeller som är registrerade i Azure Machine Learning-register (Azure Machine Learning) eller arbetsytor.
Anmärkning
Arbetsytor och register som använder en privat länk stöds inte.
Aktivera Defender för Cloud Security Posture Management-planen.
Du måste aktivera skydd mot hot för AI-tjänster och säkerhetskomponenten för AI-modellen i planen.
Nödvändiga behörigheter: För att aktivera planen behöver du behörigheter på ägar- eller deltagarnivå för Azure Machine Learning-resurserna.
Modellfilformat som stöds:
Pickle (.pkl),HDF5 (.h5),TorchScript (.pt),ONNX (.onnx),SafeTensors (.safetensors),TensorFlow SavedModel / TFLite (FlatBuffers),NumPy (.npy), ,Arrow, MsgPack, dill, joblib.PMML, JSON, POJO, MOJO, GGUFFilstorleksgräns: 10 GB. Det går inte att skanna modellfiler som är större än 10 GB.
Genomsökningen sker en gång i veckan.
Leta upp alla AI-modeller i din miljö
Logga in på Azure-portalen.
Sök efter och välj Microsoft Defender för molnet.
Välj Cloud Security Explorer.
Välj AI & Mls>AI-modeller.
Välj Färdig.
Välj +.
Välj Metadata>AI-modellmetadata.
Välj Sök.
Cloud Security Explorer visar alla AI-modeller i din miljö. Du kan välja visa information om du vill se mer information om varje vald modell.
Hitta AI-modeller med säkerhetsresultat
Använd Cloud Security Explorer för att hitta AI-modeller som har aktiva säkerhetsresultat.
Följ steg 1–7 i avsnittet Hitta alla AI-modeller i din miljö .
Välj +.
Välj Rekommendationer>Alla rekommendationer.
Välj Sök.
Cloud Security Explorer visar alla AI-modeller i din miljö som har aktiva säkerhetsresultat. Välj visa information om du vill se mer information om varje modell och tillhörande resultat.
Leta upp alla AI-modeller i din miljö
Sidan Tillgångar i Defender-portalen innehåller en omfattande vy över alla AI-modeller i din miljö.
Logga in på Microsoft Defender-portalen.
Gå till Tillgångar>Moln>AI>AI-modeller.
Välj en AI-modell med rekommendationer.
Välj Öppna tillgångssida.
Välj Säkerhetsrekommendationer> den relevanta rekommendationen.
Granska och åtgärda säkerhetsfyndet efter behov.
Du kan också hantera rekommendationen i Azure-portalen.