Prompt Injection
Angriff, bei dem Eingaben oder fremde Inhalte das Verhalten eines Sprachmodells unerwünscht steuern sollen.
Kategorie: KI & Scoring-Modelle
Thesaurus
- Prompt-Injektion
- Anweisungsinjektion
- Eingeschleuste Modellanweisung
Erklärung
Angriff, bei dem Eingaben oder fremde Inhalte das Verhalten eines Sprachmodells unerwünscht steuern sollen. Fremde Texte als Daten behandeln und Werkzeugrechte unabhängig begrenzen.
Regel / Formel
Fremde Texte als Daten behandeln und Werkzeugrechte unabhängig begrenzen.
Synthetisches Praxisbeispiel
Synthetische Demo: Eine Demo-Webseite versucht, eine Quellenprüfung abzuschalten.
Merksatz
Fremde Texte als Daten behandeln und Werkzeugrechte unabhängig begrenzen.