KI wird
beherrschbar.
Die AI-Security-Werkzeuge bündeln fünf Klassen, mit denen KI-Nutzung gefunden, abgesichert, getestet, überwacht und gesteuert wird. Jede Klassenseite enthält eine Marktübersicht mit Vergleichsmatrix und Produktprofilen, insgesamt 59 Einträge. Die Methodik dazu steht im Themenbereich AI Security.
Sieben Stellen, an denen KI geschützt werden muss.
Angriffe und Fehler treffen ein KI-System an unterschiedlichen Stellen: beim Aufbau über Daten und Modelle, im Betrieb am Eingang, am Ausgang und dort, wo ein Agent handelt. Die Übersicht zeigt, welche Werkzeugklasse an welcher Stelle schützt. Der Markt konsolidiert sich: Grosse Security-Hersteller haben 2024 bis 2026 zahlreiche Spezialisten übernommen, und eine Plattform deckt oft mehrere Klassen ab.
Training und Feintuning
Poisoning: manipulierte Trainings- oder Feintuning-Daten bauen Hintertüren oder Verzerrungen ins Modell ein.
Modell-Lieferkette
Manipulierte Modelldateien aus öffentlichen Quellen; einige Formate führen beim Laden Code aus.
Wissensquellen (RAG)
Manipulierte Dokumente in der Wissensdatenbank. Grenzfall: als Daten abgelegt, wirken sie zur Laufzeit wie eine indirekte Prompt Injection.
Nutzung
Mitarbeitende nutzen nicht freigegebene KI-Dienste und geben sensible Daten in Prompts ein.
Eingang
Prompt Injection: Anweisungen im Prompt oder in Webseiten, E-Mails und Dokumenten übersteuern die Vorgaben.
Ausgang
Die Antwort gibt vertrauliche Daten oder unerwünschte Inhalte preis, oder sie wird ungeprüft weiterverarbeitet.
Aktion
Ein Agent ruft Werkzeuge oder MCP-Server mit zu weiten Rechten auf und richtet damit Schaden an.
Vereinfachtes Modell, keine vollständige Taxonomie: Modellextraktion oder Überlastung (Denial of Service) sind nicht abgebildet. Bezeichnungen nach OWASP Top 10 for LLM Applications 2025. Die Angriffe selbst beschreibt die Seite Bedrohungslandschaft.
Von der Schatten-KI bis zum Nachweis.
AI Discovery und Nutzungskontrolle
Findet Schatten-KI im Web, in SaaS, Browser-Erweiterungen und API-Aufrufen und steuert die Nutzung mit Richtlinien, Coaching und Prompt-DLP.
AI-SPM und Modell-Lieferkette
Inventarisiert KI-Ressourcen in Cloud und MLOps, findet Fehlkonfigurationen und prüft Modelldateien auf Schadcode, Herkunft und Signatur.
AI Runtime Security: Gateway, Firewall und Guardrails
Schutz zur Laufzeit zwischen Anwendung, Modell und Werkzeugen: Prompt-Injection-Abwehr, Maskierung, Agenten- und MCP-Kontrolle, Gateway-Richtlinien und Monitoring.
AI Red Teaming und Evaluation
Automatisierte adversariale Tests, Agenten-Tests, Safety- und Bias-Evaluation und Regressionstests in der Pipeline, kommerziell und Open Source.
AI-Governance-Plattformen
Use-Case-Register, Einstufung, Folgenabschätzungen, Freigabe und Nachweise, mit Zuordnung zu AI Act, NIST AI RMF und ISO/IEC 42001.
Werkzeuge ersetzen kein Programm.
Welche Kontrollen eine Organisation für KI braucht, beschreibt der Themenbereich AI Security mit Risikobeurteilung, Regulierung und Programmaufbau. Der Kontrollkatalog bildet die Grundlage, aus der sich die Anforderungen an Werkzeuge ableiten. Die Abgrenzung zu klassischen Werkzeugklassen steht auf den einzelnen Seiten, etwa zu DLP, WAF und SIEM.