RAG-Vergiftung
Präparierte Dokumente werden so gestaltet, dass sie für bestimmte Nutzerfragen sicher in die Top-Treffer der Vektorsuche gelangen und dort ihre Anweisungen ausspielen.
- Fachbegriff (EN)
- RAG Poisoning / Retrieval-Augmented Generation Poisoning
- Kategorie
- Datenvergiftung / Indirekte Injektion
- OWASP-Klassifikation
- LLM01 · LLM04 Data and Model Poisoning · LLM08 Vector and Embedding Weaknesses
- Angriffsziel
- Die Vektorsuche einer RAG-Pipeline
- Präparations-Methode
- Dokumente mit hoher Embedding-Ähnlichkeit zu erwarteten Nutzerfragen, versehen mit eingebetteten Anweisungen
- Wirkung
- Präparierte Dokumente landen in den Top-K-Treffern und spielen ihre Anweisung im Kontext aus
- Angriffsoberfläche
- Öffentliche Wissensbasen (Wiki, Confluence, SharePoint mit External Sharing), Support-Ticket-Import, User-Uploads
- Verwandte Technik
- Suchmaschinen-Vergiftung · Gespeicherte Prompt Injection
- Wirksamste Gegenmaßnahme
- Provenienz-Tracking pro Chunk + Trust-Tiers je Datenquelle + Spotlighting beim Einfügen in den Kontext
- Risiko-Einstufung
- Risiko hoch Hoch — trifft unbestimmt viele Nutzer, skaliert mit dem Index
RAG-Vergiftung (englisch „RAG Poisoning / PoisonedRAG") gehört zur Kategorie Datenvergiftung und ist eine der dokumentierten Techniken der Prompt Injection gegen Sprachmodelle. Der Eintrag beschreibt das Wirkprinzip, damit Betreiber ihre Systeme prüfen und absichern können; eine Übersicht aller Verfahren steht im Techniken-Verzeichnis. Im Risikokatalog OWASP LLM Top 10 fällt die Technik unter LLM09: Schwächen in Vektoren und Einbettungen.
Funktionsweise
- Der Text wird auf semantische Nähe zur Zielfrage optimiert.
- Der Retriever wählt ihn aus, das Modell übernimmt seinen Inhalt als Fakt.
- Die Autoren zeigen hohe Erfolgsquoten mit sehr wenigen eingeschleusten Dokumenten.
Risiko
Risiko hoch Die praktische Gefährdung produktiver Systeme wird für diese Technik als hoch eingestuft. Maßgeblich dafür sind die Rechte der betroffenen Anwendung: Je mehr eine LLM-Anwendung lesen, senden oder ausführen darf, desto größer ist der Schaden, den eine einzelne eingeschleuste Anweisung anrichten kann. OWASP führt den zugehörigen Risikobereich als LLM09 — Schwächen in Vektoren und Einbettungen.
Schutz
Keine Einzelmaßnahme verhindert diese Technik vollständig. Wirksam ist gestaffelte Absicherung, bei der jede Schicht davon ausgeht, dass die vorherige versagt:
- Nur kuratierte, herkunftsgeprüfte Quellen indexieren.
- Zugriffsrechte auch auf Chunk-Ebene durchsetzen.
- Abgerufene Passagen vor der Übergabe an das Modell prüfen und kennzeichnen.
Ausführlich behandelt der Bereich Schutz vor Prompt Injection die einzelnen Maßnahmen; passende Werkzeuge listet das Werkzeug-Verzeichnis.
Verwandte Techniken
-
Gespeicherte Prompt Injection
Die Anweisung wird dauerhaft in einem Datenspeicher abgelegt — Vektordatenbank, Wissensbasis, Profilfeld — und wirkt bei jedem künftigen Abruf erneut, auch auf andere Nutzer.
Risiko hoch -
Indirekte Prompt Injection
Die Anweisung stammt nicht vom Nutzer, sondern aus Inhalten, die das System selbst lädt — Webseiten, Dokumente, E-Mails. Der Angreifer muss nie mit der Anwendung interagieren.
Risiko hoch -
Vergiftung von Suchergebnissen
Angreifer stellen Webseiten ins Netz, deren sichtbarer Inhalt für Menschen belanglos ist, die aber gezielt Anweisungen für Agenten enthalten, die diese Seiten über die Websuche abrufen.
Risiko hoch
Quellen
- RAG-Vergiftung — Primärquelle: https://arxiv.org/abs/2402.07867
Dieser Eintrag erklärt das Prinzip zu Verteidigungszwecken. Er enthält bewusst keine einsatzfertigen Angriffs-Payloads gegen konkrete Systeme (siehe redaktionelle Grundsätze).