Modulbewertung

1.

Welche der folgenden Kategorien eignet sich für das Red Teaming von KI?

Red Teaming für vollständige Stapel

Layer-7-Kontrollen

Modelltests

2.

Sie testen ein KI-System, indem Sie Aufforderungen erstellen, um die Sicherheitsanweisungen des Systems zu umgehen. Um welche Kategorie für das AI Red Teaming handelt es sich hierbei?

Red Teaming für vollständige Stapel

Gegnerisches maschinelles Lernen

Prompt-Einschleusung

3.

Welche der folgenden Komponenten sollte im Rahmen des KI Red Teaming getestet werden?

Sowohl die Basis-LLM als auch die Anwendungsschicht

Nur die Basis-LLM über API-Endpunkte

Nur die Anwendung über ihre Benutzeroberfläche

4.

Warum ist es wichtig, nicht sicherheitsrelevante Profis in ein rotes KI-Team einzuschließen?

Nicht sicherheitsrelevante Fachleute sind weniger teuer zu mieten

Regelmäßige Benutzer können Perspektiven auf Schäden bringen, die Sicherheitsexperten möglicherweise nicht in Betracht ziehen

Sicherheitsexperten werden für die rote KI-Teamerstellung nicht benötigt

5.

Warum erfordert KI-rotes Teaming mehrere Versuche desselben Tests?

So überprüfen Sie, ob die Testumgebung ordnungsgemäß konfiguriert ist

Da generative KI-Systeme probabilistisch sind – die gleiche Eingabe kann jedes Mal unterschiedliche Ausgaben erzeugen.

Da sich KI-Modelle zwischen den einzelnen Testausführungen ändern

Feedback