AI Security | STOP.LI

STOP.LI · AI Security

AI SecuritySicher, beherrscht, nachweisbar.

Ist der KI-Einsatz Ihrer Organisation sicher, beherrscht und nachweisbar? Dieser Bereich führt von der Rechtslage in der Schweiz, in Deutschland und in der EU über Governance und Risiko bis zu Technik und Betrieb. Jede Seite zeigt, in welchen Prozess des ISMS eine Anforderung gehört.

Rechtsstand: 10. Oktober 2026. Fristen werden zentral im Fristenkalender DCH gepflegt.

ISMS-Prozess: 01 Steuerung
Worum es geht

KI gehört
ins ISMS.

KI verändert drei Dinge zugleich. Sie ist ein neues Asset, das inventarisiert, eingestuft und verantwortet werden muss. Sie ist eine neue Angriffsfläche mit eigenen Angriffen wie Prompt Injection oder Data Poisoning. Und sie ist eine neue Pflicht, vor allem durch den AI Act der EU. Der Bereich behandelt KI deshalb nicht als Sonderprojekt, sondern als Teil des bestehenden ISMS.

  • Sicher: Bedrohungen sind bekannt, Kontrollen wirken.
  • Beherrscht: Jede KI-Anwendung hat eine verantwortliche Stelle, eine Einstufung und eine Freigabe.
  • Nachweisbar: Inventar, Beurteilungen und Tests sind dokumentiert und prüfbar.
Inhalte

Vier Gruppen,
ein Weg.

Alle Seiten der drei Wellen sind erschienen.

Orientierung
Governance
Risiko
Technik und Betrieb
Einstieg nach Rolle

Wo Sie
beginnen.

Rolle Hauptfrage Einstieg
CIO Welche KI läuft bei uns, und wer verantwortet sie? KI-Inventar und Klassifizierung, Governance und Programm
CISO Welche Bedrohungen, welche Kontrollen, welche Nachweise? Bedrohungslandschaft, KI-Frameworks im Vergleich
Datenschutz Welche Pflichten gelten, und welche Daten fliessen in KI-Systeme? Regulierung DCH, Vorlage KI-Nutzungsrichtlinie
Einkauf Was verlangen wir von KI-Anbietern? KI-Frameworks im Vergleich (Kontrollkataloge); später Lieferanten und Modelle
Entwicklung Wie werden LLM-Anwendungen und Agenten abgesichert? Bedrohungslandschaft; später Architektur-Referenz und Agenten und MCP
Rechtsstand

Drei Daten
im Blick.

Der AI Act ist EU-Recht. Er erfasst auch Unternehmen in der Schweiz, wenn sie KI-Systeme in der EU in Verkehr bringen oder deren Ausgabe in der EU verwendet wird (Art. 2 Abs. 1 Bst. a und c). Die Pflichten hängen von der Rolle ab: Anbieter (provider), Betreiber (deployer), Einführer (importer) oder Händler (distributor) nach Art. 3.

Alle Fristen mit Fundstellen im Fristenkalender DCH.

AI Act i. d. F. VO (EU) 2026/1744
  • 2. August 2026: allgemeiner Geltungsbeginn, darunter die Transparenzpflichten nach Art. 50.
  • 2. Dezember 2027: Pflichten für Hochrisiko-KI-Systeme nach Anhang III.
  • 2. August 2028: Pflichten für Hochrisiko-KI-Systeme in Produkten nach Anhang I.

Schweiz: keine KI-spezifische Gesetzgebung; der Bundesrat hat das EJPD beauftragt, bis Ende 2026 eine Vernehmlassungsvorlage zu erarbeiten. Deutschland: Das KI-MIG bestimmt die Bundesnetzagentur als Marktüberwachungsbehörde (§ 2 Abs. 1 KI-MIG).

Verbunden auf STOP.LI

Bestehende
Werkzeuge.

Grundlagen

Gleichrangige
Quellen.

Der Bereich stützt sich gleichrangig auf AI Act, NIST AI RMF, OWASP, MITRE ATLAS, ENISA, BSI, NCSC/CISA und CSA, vorzugsweise auf frei zugängliche Quellen. ISO/IEC-Normen sind kostenpflichtig und werden genannt, wo sie fachlich nötig sind. Die Einordnung steht unter KI-Frameworks im Vergleich.

Aktuelle SIGNAL-Beiträge mit KI-Bezug: Hochrisiko-Frist im AI Act · MLflow als Angriffsfläche · KI-gestützte Angriffe und Incident Response.

Zusätzlich für Finanzinstitute

Für Finanzinstitute gelten zusätzliche Aufsichtserwartungen. Schweiz: FINMA-Aufsichtsmitteilung 08/2024 zu Governance und Risikomanagement beim Einsatz von KI. EU: DORA erfasst KI-Systeme in der Regel als IKT-Systeme im IKT-Risikomanagement; externe KI-Dienste fallen unter das IKT-Drittparteienrisiko (Art. 28 ff.). Deutschland: Die BaFin ist Marktüberwachungsbehörde für KI-Systeme im direkten Zusammenhang mit regulierten Finanztätigkeiten (§ 2 Abs. 3 KI-MIG). Ein ausgearbeitetes Governance-Modell bietet das AI Act Framework für Finanzinstitute.

AI Act Framework für Finanzinstitute

Unterstützung

Die 4T2 Solutions GmbH, Herausgeberin von STOP.LI, unterstützt beim Aufbau von KI-Governance und KI-Security im bestehenden ISMS. Ausgangspunkt ist eine konkrete Entscheidung oder ein kontrollierter Pilot.