Indirekte Prompt Injection
Die Anweisung stammt nicht vom Nutzer, sondern aus Inhalten, die das System selbst lädt — Webseiten, Dokumente, E-Mails. Der Angreifer muss nie mit der Anwendung interagieren.
- Fachbegriff (EN)
- Indirect Prompt Injection
- Kategorie
- Indirekte Injektion
- OWASP-Klassifikation
- LLM01 — Prompt Injection
- MITRE ATLAS
- AML.T0051.001 (Indirect)
- Erstmals dokumentiert
- Februar 2023 · arXiv:2302.12173
- Primärpublikation
- Greshake et al., „Not what you’ve signed up for“ · arXiv
- Primäre Angriffsvektoren
- RAG-Retrieval, E-Mail-Zusammenfassung, Web-Browsing-Tools, Dokumenten-Uploads
- Bekanntester Praxis-Vorfall
- EchoLeak (CVE-2025-32711) — Microsoft 365 Copilot, Juni 2025
- Wirksamste Gegenmaßnahme
- Dual-LLM / CaMeL · Spotlighting
- Risiko-Einstufung
- Risiko hoch Hoch — voller Systemzugriff möglich ohne Nutzerinteraktion
Indirekte Prompt Injection (englisch „Indirect Prompt Injection") gehört zur Kategorie Indirekte Injektion und ist eine der dokumentierten Techniken der Prompt Injection gegen Sprachmodelle. Der Eintrag beschreibt das Wirkprinzip, damit Betreiber ihre Systeme prüfen und absichern können; eine Übersicht aller Verfahren steht im Techniken-Verzeichnis. Im Risikokatalog OWASP LLM Top 10 fällt die Technik unter LLM01: Prompt Injection.
Funktionsweise
- Der Angreifer platziert Anweisungen in Inhalten, die das LLM später verarbeitet.
- Beim Abruf gelangen sie unbemerkt in dasselbe Kontextfenster wie die Systemanweisung.
- Das Modell kann Daten nicht zuverlässig von Anweisungen unterscheiden und folgt ihnen.
Risiko
Risiko hoch Die praktische Gefährdung produktiver Systeme wird für diese Technik als hoch eingestuft. Maßgeblich dafür sind die Rechte der betroffenen Anwendung: Je mehr eine LLM-Anwendung lesen, senden oder ausführen darf, desto größer ist der Schaden, den eine einzelne eingeschleuste Anweisung anrichten kann. OWASP führt den zugehörigen Risikobereich als LLM01 — Prompt Injection.
Schutz
Keine Einzelmaßnahme verhindert diese Technik vollständig. Wirksam ist gestaffelte Absicherung, bei der jede Schicht davon ausgeht, dass die vorherige versagt:
- Externe Inhalte konsequent als nicht vertrauenswürdig markieren (Spotlighting).
- Architektonische Trennung: privilegiertes und unprivilegiertes Modell (Dual-LLM, CaMeL).
- Aktionen mit Außenwirkung nur nach deterministischer Policy-Prüfung.
Ausführlich behandelt der Bereich Schutz vor Prompt Injection die einzelnen Maßnahmen; passende Werkzeuge listet das Werkzeug-Verzeichnis.
Verwandte Techniken
-
Gespeicherte Prompt Injection
Die Anweisung wird dauerhaft in einem Datenspeicher abgelegt — Vektordatenbank, Wissensbasis, Profilfeld — und wirkt bei jedem künftigen Abruf erneut, auch auf andere Nutzer.
Risiko hoch -
RAG-Vergiftung
Präparierte Dokumente werden so gestaltet, dass sie für bestimmte Nutzerfragen sicher in die Top-Treffer der Vektorsuche gelangen und dort ihre Anweisungen ausspielen.
Risiko hoch -
Injektion über E-Mail
Eine präparierte E-Mail genügt: Sobald ein Assistent das Postfach durchsucht oder zusammenfasst, gelangen die eingebetteten Anweisungen in seinen Kontext — ohne dass der Nutzer die Mail öffnen muss.
Risiko hoch
Quellen
- Indirekte Prompt Injection — Primärquelle: https://arxiv.org/abs/2302.12173
Dieser Eintrag erklärt das Prinzip zu Verteidigungszwecken. Er enthält bewusst keine einsatzfertigen Angriffs-Payloads gegen konkrete Systeme (siehe redaktionelle Grundsätze).