ASCII Smuggling (unsichtbare Unicode-Tags)
Anweisungen werden in Unicode-Tag-Zeichen kodiert, die in Oberflächen unsichtbar bleiben, vom Modell aber als Text gelesen werden — der Mensch sieht nichts, das Modell folgt.
- Fachbegriff (EN)
- ASCII Smuggling / Unicode Tag Smuggling
- Kategorie
- Obfuskation / Token-Schmuggel
- OWASP-Klassifikation
- LLM01 — Prompt Injection
- Kernmechanismus
- Nutzung des Unicode-Tag-Blocks (U+E0000–U+E007F), der von LLMs als Text interpretiert wird, für Menschen und viele Filter aber unsichtbar bleibt
- Erstmals systematisch beschrieben
- Januar 2024 durch Johann Rehberger
- Sichtbarkeit für Menschen
- Null — keine Glyphen, keine Breite in den meisten Fonts
- Sichtbarkeit für Modelle
- Voll — moderne Tokenizer erkennen die Zeichen als reguläre Codepoints
- Typische Nutzung
- Verstecken von Anweisungen oder Exfiltrationsdaten in scheinbar leerem Text
- Wirksamste Gegenmaßnahme
- Unicode-Normalisierung + Whitelist erlaubter Codepoint-Blöcke bei der Eingabeprüfung
- Risiko-Einstufung
- Risiko hoch Hoch — von naiven Filtern nicht erkennbar
ASCII Smuggling (unsichtbare Unicode-Tags) gehört zur Kategorie Obfuskation und ist eine der dokumentierten Techniken der Prompt Injection gegen Sprachmodelle. Der Eintrag beschreibt das Wirkprinzip, damit Betreiber ihre Systeme prüfen und absichern können; eine Übersicht aller Verfahren steht im Techniken-Verzeichnis. Im Risikokatalog OWASP LLM Top 10 fällt die Technik unter LLM01: Prompt Injection.
Funktionsweise
- Zeichen aus dem Unicode-Tags-Block spiegeln ASCII, werden aber meist nicht dargestellt.
- Der Text kann in Dokumente, Webseiten oder Zwischenablagen eingebettet werden.
- Besonders gefährlich bei indirekter Injektion, weil weder Nutzer noch einfache Monitore etwas sehen.
Risiko
Risiko hoch Die praktische Gefährdung produktiver Systeme wird für diese Technik als hoch eingestuft. Maßgeblich dafür sind die Rechte der betroffenen Anwendung: Je mehr eine LLM-Anwendung lesen, senden oder ausführen darf, desto größer ist der Schaden, den eine einzelne eingeschleuste Anweisung anrichten kann. OWASP führt den zugehörigen Risikobereich als LLM01 — Prompt Injection.
Schutz
Keine Einzelmaßnahme verhindert diese Technik vollständig. Wirksam ist gestaffelte Absicherung, bei der jede Schicht davon ausgeht, dass die vorherige versagt:
- Unicode-Normalisierung: Tag-Block und Zero-Width-Zeichen vor Verarbeitung entfernen.
- Eingehende Inhalte auf nicht darstellbare Zeichen prüfen und protokollieren.
- Copy-Paste-Pfade in der Oberfläche mit bereinigen.
Ausführlich behandelt der Bereich Schutz vor Prompt Injection die einzelnen Maßnahmen; passende Werkzeuge listet das Werkzeug-Verzeichnis.
Verwandte Techniken
-
Homoglyphen und Zero-Width-Zeichen
Schlüsselwörter werden mit optisch identischen Zeichen aus anderen Alphabeten oder mit unsichtbaren Trennzeichen geschrieben, um Signatur- und Sperrlisten-Filter zu unterlaufen.
Risiko mittel -
Versteckter Text in Webseiten
Anweisungen werden für Menschen unsichtbar in eine Webseite eingebettet — weiße Schrift auf weißem Grund, Schriftgröße null, HTML-Kommentare oder ausgeblendete Elemente — bleiben für den Agenten aber lesbar.
Risiko hoch -
Indirekte Prompt Injection
Die Anweisung stammt nicht vom Nutzer, sondern aus Inhalten, die das System selbst lädt — Webseiten, Dokumente, E-Mails. Der Angreifer muss nie mit der Anwendung interagieren.
Risiko hoch -
Typoglykämie-Angriff (Buchstabendreher)
Schlüsselwörter werden mit vertauschten Binnenbuchstaben geschrieben — erster und letzter Buchstabe bleiben stehen. Wortlisten-Filter greifen nicht mehr, das Sprachmodell rekonstruiert die Bedeutung trotzdem.
Risiko mittel
Quellen
- ASCII Smuggling (unsichtbare Unicode-Tags) — Primärquelle: https://embracethered.com/blog/posts/2024/hiding-and-finding-text-with-unicode-tags/
Dieser Eintrag erklärt das Prinzip zu Verteidigungszwecken. Er enthält bewusst keine einsatzfertigen Angriffs-Payloads gegen konkrete Systeme (siehe redaktionelle Grundsätze).