Multimodale Injektion über Bild und Ton
Anweisungen werden in Bilder oder Audiodateien eingebettet — als sichtbarer Text im Bild oder als adversariale Störung — und wirken, sobald ein multimodales Modell die Datei verarbeitet.
- Fachbegriff (EN)
- Visual / Multimodal Prompt Injection
- Kategorie
- Multimodale Injektion
- OWASP-Klassifikation
- LLM01 — Prompt Injection
- Kernmechanismus
- Anweisungen werden in Bildinhalt eingebettet — als sichtbarer Text, in schwachem Kontrast, in EXIF-Metadaten oder als adversariale Pixel-Störung
- Voraussetzung
- Ein multimodales Modell (GPT-4o, Gemini, Claude 3.5+) verarbeitet Bild-Input
- Erstmals demonstriert
- Frühjahr 2023 — GPT-4V-Prompt-Injection-Demos von Riley Goodside
- Angriffsoberfläche
- Screenshots im Chat, Dokument-Uploads mit Bildern, Webseiten mit Bildern (via Vision-fähiges Browsing)
- Trending-Vektor 2026
- Steganografische Injektionen — unsichtbar für Menschen, lesbar für Vision-Modelle
- Wirksamste Gegenmaßnahme
- OCR-Prüfung des Bildes VOR dem LLM-Aufruf + Spotlighting mit expliziter Markierung „Bild-Inhalt = nicht vertrauenswürdig“
- Risiko-Einstufung
- Risiko hoch Hoch — von Text-only-Filtern nicht erfassbar, Angriffsfläche wächst mit Multimodal-Adoption
Multimodale Injektion über Bild und Ton (englisch „Multi-Modal Instruction Injection") gehört zur Kategorie Multimodal und ist eine der dokumentierten Techniken der Prompt Injection gegen Sprachmodelle. Der Eintrag beschreibt das Wirkprinzip, damit Betreiber ihre Systeme prüfen und absichern können; eine Übersicht aller Verfahren steht im Techniken-Verzeichnis. Im Risikokatalog OWASP LLM Top 10 fällt die Technik unter LLM01: Prompt Injection.
Funktionsweise
- Sichtbarer Text im Bild wird vom Modell gelesen wie Prompt-Text.
- Adversariale Perturbationen können Anweisungen für Menschen unsichtbar einbetten.
- Auch Screenshots von Webseiten übertragen Injektionen weiter.
Risiko
Risiko hoch Die praktische Gefährdung produktiver Systeme wird für diese Technik als hoch eingestuft. Maßgeblich dafür sind die Rechte der betroffenen Anwendung: Je mehr eine LLM-Anwendung lesen, senden oder ausführen darf, desto größer ist der Schaden, den eine einzelne eingeschleuste Anweisung anrichten kann. OWASP führt den zugehörigen Risikobereich als LLM01 — Prompt Injection.
Schutz
Keine Einzelmaßnahme verhindert diese Technik vollständig. Wirksam ist gestaffelte Absicherung, bei der jede Schicht davon ausgeht, dass die vorherige versagt:
- Bild- und Audioinhalte als nicht vertrauenswürdige Daten behandeln.
- OCR-Text separat prüfen, bevor er in den Kontext gelangt.
- Multimodale Eingaben in Guardrail-Tests einbeziehen.
Ausführlich behandelt der Bereich Schutz vor Prompt Injection die einzelnen Maßnahmen; passende Werkzeuge listet das Werkzeug-Verzeichnis.
Verwandte Techniken
-
ASCII-Art-Jailbreak (ArtPrompt)
Ein sicherheitsrelevantes Schlüsselwort wird als ASCII-Art dargestellt. Das Modell rekonstruiert das Wort aus der Grafik, die Sicherheitsprüfung auf Textebene erkennt es nicht.
Risiko mittel -
Versteckter Text in Webseiten
Anweisungen werden für Menschen unsichtbar in eine Webseite eingebettet — weiße Schrift auf weißem Grund, Schriftgröße null, HTML-Kommentare oder ausgeblendete Elemente — bleiben für den Agenten aber lesbar.
Risiko hoch -
Indirekte Prompt Injection
Die Anweisung stammt nicht vom Nutzer, sondern aus Inhalten, die das System selbst lädt — Webseiten, Dokumente, E-Mails. Der Angreifer muss nie mit der Anwendung interagieren.
Risiko hoch
Quellen
- Multimodale Injektion über Bild und Ton — Primärquelle: https://arxiv.org/abs/2307.10490
Dieser Eintrag erklärt das Prinzip zu Verteidigungszwecken. Er enthält bewusst keine einsatzfertigen Angriffs-Payloads gegen konkrete Systeme (siehe redaktionelle Grundsätze).