prompt injections.de
Werkzeug

HiddenLayer AISec Platform

Die HiddenLayer AISec Platform ist eine kommerzielle Sicherheitsplattform für KI- und ML-Systeme über deren Lebenszyklus. Sie verbindet Asset Discovery, Lieferkettenschutz, Angriffssimulation und Laufzeitüberwachung; der Ansatz schließt damit Modellartefakte ebenso ein wie generative Anwendungen, Agenten und deren Tool-Nutzung.1 Hinter dem Anbieter steht das 2022 gegründete US-Unternehmen HiddenLayer.2

Funktionsweise

Der gegenwärtig öffentlich benannte Hauptstand ist AISec Platform 2.0, vorgestellt am 22. April 2025. Die Version ergänzte unter anderem Model Genealogy und eine automatisch erzeugte AI Bill of Materials (AIBOM): Die Funktionen sollen Herkunft, Fine-Tuning, Änderungen, Komponenten, Datenbestände und Abhängigkeiten eines gescannten Modells nachvollziehbar machen.3 Das ist eine andere Schutzschicht als reine LLM-Guardrails: Vor dem Betrieb prüft die Plattform Modelle und Repositories auf schädliche Artefakte, Backdoors oder riskante Abhängigkeiten; im Betrieb soll sie Ein- und Ausgaben, Angriffsindikatoren und Richtlinienverstöße überwachen.1

Die Plattform beschreibt vier Module: Discovery für ein Inventar auch nicht freigegebener KI-Ressourcen, Supply Chain Security zum Scannen von Modellartefakten, Attack Simulation für adversariales Testen sowie Runtime Security zur Erkennung und Reaktion im Betrieb.1 Beim Runtime-Ansatz betont HiddenLayer einen agentenlosen, modellagnostischen Betrieb ohne Zugriff auf Trainingsdaten, Gewichte, Prompts oder Kundendaten; diese Charakterisierung stammt vom Anbieter und ist nicht als externe Zusicherung zu verstehen.1 Veröffentlicht werden außerdem Connectoren für Cloud-, CI/CD-, Daten-, SIEM/SOAR-, API-Gateway- und MLOps-Umgebungen; eine vollständige öffentliche Schnittstellenreferenz liefert die Website allerdings nicht.1

Einsatz in der Praxis

Für den Einsatz eignet sich das Produkt konzeptionell dort, wo Modellbeschaffung, Deployment-Freigabe und Produktion zusammen betrachtet werden sollen. Im Vorfeld können Organisationen Modelle oder MCP-nahe Komponenten auf Lieferkettenrisiken prüfen; danach lassen sich generative Anwendungen in simulierten Tests prüfen und zur Laufzeit überwachen. Automated Red Teaming wurde im November 2024 als Teil der Plattform angekündigt und soll die wiederholte Prüfung vor dem Go-live standardisieren.4 Die Auswahl bleibt dennoch eine Integrationsentscheidung: Wer nur einen einzelnen Chatbot absichert, sollte Nutzen, Betriebsaufwand und die bestehenden Kontrollen gegen Prompt Injection getrennt bewerten.

Als relevante Produktnachricht bleibt AISec 2.0 der klar datierte öffentliche Major Release. Eine Einstellung des Projekts oder Übernahme von HiddenLayer war in den für diesen Beitrag geöffneten Unternehmensquellen bis August 2026 nicht dokumentiert. Verifizierbar ist dagegen die Series-A-Finanzierung von 50 Millionen US-Dollar aus dem September 2023, die laut Unternehmen von M12 und Moore Strategic Ventures angeführt wurde.2

Grenzen

Die produktnahe Dokumentation veröffentlicht keine unabhängige Quote zu Erkennung, Fehlalarmen oder zusätzlicher Latenz. Aussagen, die Plattform verhindere Prompt-Angriffe, Datenabfluss oder Modell-Extraktion, sind deshalb als Anbieterposition zu lesen.1 Die Website offenbart zudem weder eine vollständige Formatmatrix des Model-Scanning noch öffentlich einsehbare technische Grenzwerte pro Integration. Das ist bei einer Kaufentscheidung keine Nebenfrage: Ohne belastbare Testdaten bleibt offen, wie sich Filter gegenüber konkreten Modellen, Sprachen, Retrieval-Kontexten und Agentenwerkzeugen verhalten.

Nennenswert ist die Forschung der eigenen Security-Unit zu Policy Puppetry. HiddenLayer beschrieb 2025 einen formatähnlichen Prompt-Angriff, der Instruction-Hierarchien und Modell-Alignment umgehen könne; SecurityWeek berichtete darüber und ordnete ein, dass die Präsentation auf Tests des Unternehmens über mehrere Anbieter beruhte.5 Das belegt die Relevanz des Risikos, nicht aber die Wirksamkeit der AISec-Erkennung. Eine unabhängige, peer-reviewte Produkt-Evaluation, die diese Plattform mit konkurrierenden Schutzsystemen vergleicht, war in der geprüften Quellenlage nicht auffindbar.

Lizenz und Bezug

AISec ist proprietär und kommerziell zu beziehen. HiddenLayer veröffentlicht keine allgemeine Endkunden-Preisliste oder standardisierte Lizenzmetriken; der Vertrieb erfolgt über Demo, Direktgeschäft und Channel-Partner. Der Anbieter nennt für das Partnerprogramm zwar transparente Preise und flexible Lizenzmodelle, beziffert aber weder Tarife noch enthaltene Nutzungsgrenzen.6 Die exakte Lizenz und der Preis sind daher nur im individuellen Angebot beziehungsweise Vertrag festgelegt.

Quellen

  1. HiddenLayer, „The Most Comprehensive AI Security Platform“, o. D. (abgerufen 20.08.2026), https://www.hiddenlayer.com/platform ↩
  2. HiddenLayer, „HiddenLayer Raises $50M in Series A Funding to Safeguard AI“, 19.09.2023, https://www.hiddenlayer.com/news/hiddenlayer-raises-50m-in-series-a-funding-to-safeguard-ai ↩
  3. HiddenLayer, „HiddenLayer Unveils AISec Platform 2.0 to Deliver Unmatched Context, Visibility, and Observability for Enterprise AI Security“, 22.04.2025, https://www.hiddenlayer.com/news/hiddenlayer-unveils-aisec-platform-2-0-to-deliver-unmatched-context-visibility-and-observability-for-enterprise-ai-security ↩
  4. HiddenLayer, „Security for AI Platform Expansion: Introducing Automated Red Teaming for AI“, 20.11.2024, https://www.hiddenlayer.com/news/security-for-ai-platform-expansion-introducing-automated-red-teaming-for-ai ↩
  5. Ionut Arghire, „All Major Gen-AI Models Vulnerable to ‘Policy Puppetry’ Prompt Injection Attack“, 25.04.2025, https://www.securityweek.com/all-major-gen-ai-models-vulnerable-to-policy-puppetry-prompt-injection-attack/ ↩
  6. HiddenLayer, „HiddenLayer Launches Channel Partner Program to Secure AI and MLOps Lifecycle“, 23.01.2024, https://www.hiddenlayer.com/news/hiddenlayer-launches-channel-partner-program-to-secure-ai-and-mlops-lifecycle ↩

Im Zusammenhang