Modulbewertung

1.

Welche Schritte können Sie unternehmen, um die Datensicherheit einer KI-fähigen Anwendung zu verbessern?

Stellen Sie sicher, dass das KI-System nur auf Daten zugreift, die der Benutzer, in dessen Namen sie handelt, anzeigen darf.

Halten Sie Ihre KI-fähige Anwendung vom Rest Ihrer IT-Umgebung isoliert

Führen Sie Ihre KI-fähige Anwendung lokal statt in der Cloud aus.

2.

Welche Art von KI-Sicherheitsproblem hilft ein Metaprompt (Systemaufforderung) zu mindern?

Model Poisoning

Jailbreaks und schädliche Inhaltsgenerierung

Denial-of-Service-Angriffe auf Netzwerkebene

3.

Sie möchten verhindern, dass Ihre KI-Anwendung schädliche Inhalte zurückgibt. Was sollten Sie implementieren?

Nur Metaprompts

Inhaltssicherheitsfilter im Rahmen eines umfassenden Verteidigungsansatzes

Bewährte Verfahren der Anwendungssicherheit allein

4.

Warum ist Erdung eine wichtige Sicherheitsmaßnahme für KI-Systeme?

Es verhindert alle Arten von Prompt-Injektion Angriffen

Er verringert die Anzahl gefälschter Ausgaben, indem die Antworten auf verifizierte Datenquellen eingeschränkt werden.

Es verschlüsselt die Schulungsdaten des Modells.

5.

Was ist ein KI-spezifisches Lieferkettenrisiko beim Einführen von Open-Source-KI-Bibliotheken?

Open-Source-Lizenzen sind immer mit der kommerziellen Nutzung nicht kompatibel.

Vortrainierte Modelle, die in Bibliotheken enthalten sind, können Backdoors oder voreingenommenes Verhalten enthalten, das durch die Codeüberprüfung schwer zu erkennen ist

Open-Source-KI-Bibliotheken können nach der Bereitstellung nicht aktualisiert werden

Feedback