Capital-AI Vocabulary

Prompt Injection

Angriff, bei dem Eingaben oder fremde Inhalte das Verhalten eines Sprachmodells unerwünscht steuern sollen.

Kategorie: KI & Scoring-Modelle

Thesaurus

  • Prompt-Injektion
  • Anweisungsinjektion
  • Eingeschleuste Modellanweisung

Erklärung

Angriff, bei dem Eingaben oder fremde Inhalte das Verhalten eines Sprachmodells unerwünscht steuern sollen. Fremde Texte als Daten behandeln und Werkzeugrechte unabhängig begrenzen.

Regel / Formel

Fremde Texte als Daten behandeln und Werkzeugrechte unabhängig begrenzen.

Synthetisches Praxisbeispiel

Synthetische Demo: Eine Demo-Webseite versucht, eine Quellenprüfung abzuschalten.

Merksatz

Fremde Texte als Daten behandeln und Werkzeugrechte unabhängig begrenzen.

Fachquellen

PR-Quellen des Katalogs