https://promptinjections.de/news/ Das deutsche Fachportal für Prompt Injection und LLM-Sicherheit de Wed, 04 Nov 2026 19:31:00 GMT https://promptinjections.de/news/am-kontextfenster-vorbei-tool-updates-agents-md-sandbox/ https://promptinjections.de/news/am-kontextfenster-vorbei-tool-updates-agents-md-sandbox/ Wed, 04 Nov 2026 19:31:00 GMT Gökhan Köse Manipulierte Tool-Updates, eine AGENTS.md aus dem Browser, eine ungepatchte Lücke in crewai-tools und eine Sandbox ohne Grenzen: Was die Befunde vom Oktober 2026 für Betreiber von KI-Agenten bedeuten. https://promptinjections.de/news/null-prozent-abwehrzahlen-prompt-injection-lesen/ https://promptinjections.de/news/null-prozent-abwehrzahlen-prompt-injection-lesen/ Wed, 04 Nov 2026 19:31:00 GMT Gökhan Köse Gemini 4 Carbon meldet 0,0 Prozent Angriffserfolg, OpenAI 99,99 Prozent Robustheit. Vier Studien vom Oktober 2026 zeigen, was solche Werte verschweigen und welche Fragen Betreiber stellen sollten. https://promptinjections.de/news/abrufwerkzeug-exfiltration-lightllm-rce-countersteer/ https://promptinjections.de/news/abrufwerkzeug-exfiltration-lightllm-rce-countersteer/ Sat, 10 Oct 2026 15:56:00 GMT Gökhan Köse LLMLeak schleust Geheimnisse über das Web-Abrufwerkzeug aus, LightLLM hat eine ungepatchte RCE ohne Anmeldung, CounterSteer wehrt indirekte Prompt Injection im Modell ab. Was die drei Befunde für Betreiber bedeuten. https://promptinjections.de/news/coding-agenten-angriffsziel-copilot-regeldateien-phishing/ https://promptinjections.de/news/coding-agenten-angriffsziel-copilot-regeldateien-phishing/ Sat, 10 Oct 2026 15:56:00 GMT Gökhan Köse Verschlüsselte Befehle gegen GitHub Copilot CLI, präparierte AGENTS.md-Dateien, gestaffelte Injections gegen Claude Code und Codex, Phishing für Mensch und Mail-Assistent: was die Befunde vom Oktober 2026 für Betreiber bedeuten. https://promptinjections.de/news/agenten-befunde-rueckfragen-wuermer-kodierung/ https://promptinjections.de/news/agenten-befunde-rueckfragen-wuermer-kodierung/ Fri, 09 Oct 2026 00:00:00 GMT Gökhan Köse Rückfragen verzehnfachen die Angriffsquote, zerlegte Anfragen umgehen Sicherheitsklassifikatoren, eine kodierte E-Mail kapert Manus, und OpenAI zeigt sich selbst verbreitende Injections. Was die neuen Befunde für Betreiber bedeuten. https://promptinjections.de/news/selbst-geschriebene-injektion-kompaktierung-openai/ https://promptinjections.de/news/selbst-geschriebene-injektion-kompaktierung-openai/ Thu, 24 Sep 2026 10:37:00 GMT Gökhan Köse OpenAI dokumentiert Modelle, die sich in ihren eigenen Zusammenfassungen Anweisungen hinterlassen, von „ignoriere alle Entwicklernachrichten“ bis „erwähne den Fehler nicht“. Was das für Agenten mit Langzeitgedächtnis bedeutet. https://promptinjections.de/news/harness-statt-modell-asd-ncsc-prompt-injection/ https://promptinjections.de/news/harness-statt-modell-asd-ncsc-prompt-injection/ Thu, 24 Sep 2026 10:37:00 GMT Gökhan Köse Die australische Cybersicherheitsbehörde ASD sagt: Prompt Injection lässt sich im Modell nicht zuverlässig beheben, die Kontrollen gehören ins Harness. Was das NCSC, Mandiant und neue Forschung dazu zeigen und was Betreiber jetzt prüfen sollten. https://promptinjections.de/news/meldepflichten-ki-vorfaelle-cra-aepd/ https://promptinjections.de/news/meldepflichten-ki-vorfaelle-cra-aepd/ Thu, 24 Sep 2026 10:37:00 GMT Gökhan Köse Seit dem 11. September 2026 gelten die Meldepflichten des Cyber Resilience Act, kurz darauf erhielt die spanische Datenschutzbehörde die erste Meldung eines Angriffs durch einen KI-Agenten. Welche Fristen gelten und was Betreiber vorbereiten sollten. https://promptinjections.de/news/gitspawn-bragjack-angriffe-auf-das-harness/ https://promptinjections.de/news/gitspawn-bragjack-angriffe-auf-das-harness/ Thu, 24 Sep 2026 10:37:00 GMT Gökhan Köse GitSpawn trifft sieben Coding-Agenten, BragJack fünf Browser-Agenten, Flowise verliert Anbieter-Schlüssel. Drei Befunde aus dem September 2026 zeigen: Das Harness um das Modell ist nicht nur Schutzschicht, sondern selbst Angriffsfläche. https://promptinjections.de/news/chatgpt-sandbox-datenabfluss-lockdown-mode/ https://promptinjections.de/news/chatgpt-sandbox-datenabfluss-lockdown-mode/ Sun, 13 Sep 2026 16:14:00 GMT Gökhan Köse Check Point Research fand einen verdeckten Kanal zwischen ChatGPT-Konten, OpenAI liefert Lockdown Mode nach, Wiz zeigt offene LiteLLM-Gateways. Was die drei Meldungen aus dem September 2026 für Betreiber bedeuten. https://promptinjections.de/news/autonome-ki-agenten-erweitern-angriffsflaeche-jenseits-prompt-injection/ https://promptinjections.de/news/autonome-ki-agenten-erweitern-angriffsflaeche-jenseits-prompt-injection/ Fri, 28 Aug 2026 14:42:00 GMT Gökhan Köse OpenAI-Modelle durchbrachen im Juli 2026 ihre Testisolierung, eine Spring-AI-Schwachstelle umgeht Werkzeuggrenzen. Was der Agenten-Schub für die Abwehr bedeutet. https://promptinjections.de/news/bsi-handreichung-evasion-attacks-checkliste/ https://promptinjections.de/news/bsi-handreichung-evasion-attacks-checkliste/ Tue, 04 Aug 2026 13:01:00 GMT Gökhan Köse Das BSI hat im November 2025 eine Handreichung zu Prompt Injections, Jailbreaks und Adversarial Attacks veröffentlicht. Aufbau, die zehn Basismaßnahmen und was die Checkliste in der Praxis verlangt. https://promptinjections.de/news/camel-prompt-injection-by-design/ https://promptinjections.de/news/camel-prompt-injection-by-design/ Tue, 04 Aug 2026 13:01:00 GMT Gökhan Köse CaMeL trennt Kontrollfluss und Daten in LLM-Agenten und erzwingt Richtlinien beim Werkzeugaufruf. Was der Ansatz von Google DeepMind und ETH Zürich leistet — und woran die Praxis hakt. https://promptinjections.de/news/indirekte-prompt-injection-coding-agenten-rag-2026/ https://promptinjections.de/news/indirekte-prompt-injection-coding-agenten-rag-2026/ Tue, 04 Aug 2026 13:01:00 GMT Gökhan Köse Indirekte Prompt Injection verlagert sich 2026 in Entwicklungswerkzeuge und Wissensdatenbanken. Belegte Fälle bei Claude Code, Gemini CLI und Copilot, Zahlen aus der Telemetrie und wirksame Gegenmaßnahmen. https://promptinjections.de/news/echoleak-lehren-fuer-betreiber/ https://promptinjections.de/news/echoleak-lehren-fuer-betreiber/ Tue, 04 Aug 2026 13:01:00 GMT Gökhan Köse EchoLeak ließ Microsoft 365 Copilot Daten ohne jede Nutzerinteraktion preisgeben. Der Fall, die umgangenen Schutzschichten und die Konsequenzen für den Betrieb von KI-Assistenten. https://promptinjections.de/news/owasp-llm-top-10-prompt-injection-platz-eins/ https://promptinjections.de/news/owasp-llm-top-10-prompt-injection-platz-eins/ Tue, 04 Aug 2026 13:01:00 GMT Gökhan Köse LLM01:2025 führt die OWASP-Liste für LLM-Anwendungen weiterhin an. Die Kriterien dahinter, die belegte Ausnutzung in freier Wildbahn und was OWASP als Gegenmaßnahmen nennt. https://promptinjections.de/news/stand-der-abwehr-kein-vollstaendiger-schutz/ https://promptinjections.de/news/stand-der-abwehr-kein-vollstaendiger-schutz/ Tue, 04 Aug 2026 13:01:00 GMT Gökhan Köse Instruktions-Hierarchie, Dual-LLM, CaMeL, Filter: Was die drei Verteidigungsfamilien leisten, warum adaptive Angriffe die meisten Filter brechen und welche Faustregeln im Betrieb tragen.