Prompt injection

Konzept

Ein Angriff, bei dem versteckte oder bösartige Anweisungen in einem Dokument, einer Webseite oder E-Mail ein KI-System dazu bringen, seine Regeln zu ignorieren oder Daten preiszugeben. Gegenmaßnahmen sind begrenzte Berechtigungen, gefilterte Eingaben und menschliche Freigaben für sensible Aktionen.

Glossar

Verwandte Themen kurz erklärt

• AI agent · Verwandt mit · Konzept
  Ein Softwaresystem, das mit einem KI-Modell selbstständig ein Ziel verfolgt: Es plant Schritte, ruft Tools oder APIs auf, liest Daten und handelt – kritische Schritte bestätigt oft ein Mensch. Agenten gehen über Chatbots hinaus, weil sie Aktionen ausführen und nicht nur Fragen beantworten.
• Prompt · Verwandt mit · Konzept
  Die Anweisung oder Frage an ein KI-Modell. Gute Prompts nennen Ziel, Kontext, gewünschtes Format und Einschränkungen; sauberes Prompting ist der schnellste Weg zu besseren Copilot-Ergebnissen.

Folgen zu Prompt injection

Experten und Firmen zu diesem Thema

Dieses Thema hat noch niemand im Profil angegeben. Trag es in deinem Profil ein.