§ 1

Wozu diese Checkliste dient.

Die Verordnung über künstliche Intelligenz der Europäischen Union, kurz EU AI Act, ist seit dem 1. August 2024 in Kraft und tritt in mehreren Stufen bis 2027 in Anwendung. Für Unternehmen in Deutschland und Österreich gilt sie unmittelbar. Für Unternehmen in der Schweiz gilt sie auf dem Umweg, dass jede Tätigkeit auf dem EU-Binnenmarkt, jede Vermarktung an EU-Kundschaft und jede Lieferantenbeziehung mit EU-Auftraggebern den AI Act faktisch zur Anforderungsbasis macht.

Diese Checkliste fasst die wichtigsten Pflichten in einer Form zusammen, die in einer Vorstands- oder Audit-Sitzung in dreissig Minuten durchgegangen werden kann. Sie ersetzt keine juristische Beratung. Sie liefert die Struktur, in der eine juristische Beratung effizient angefragt werden kann.

Die Checkliste folgt sechs Schritten. Erstens, Geltungsbereich. Zweitens, Risikoklassifikation. Drittens, Pflichten je Klasse. Viertens, Pflichten für Allzweck-KI-Modelle. Fünftens, DACH-spezifische Überlagerungen. Sechstens, Selbstbewertung in fünfundzwanzig Fragen.

§ 2

Geltungsbereich, wer ist betroffen.

Der AI Act unterscheidet fünf Rollen, die jedes betroffene Unternehmen für jedes seiner KI-Systeme klären muss. Die Rolle bestimmt den Pflichtenkatalog, der zur Anwendung kommt.

Schweiz-Hinweis. Schweizer Unternehmen, die KI-Systeme an EU-Kundschaft verkaufen oder ihren Einsatz in der EU verantworten, gelten als Anbieter oder Betreiber im Sinne des AI Acts und müssen einen in der EU niedergelassenen Bevollmächtigten benennen.

§ 3

Die vier Risikoklassen.

Der AI Act ordnet jedes KI-System einer von vier Risikoklassen zu. Die Klassifizierung ist die wichtigste einzelne Entscheidung im gesamten Compliance-Prozess, weil sie über den Pflichtenkatalog entscheidet.

§ 4

Pflichten je Risikoklasse, im Überblick.

Verbotene Praktiken (Art. 5 AI Act)

Bestimmte KI-Anwendungen sind seit dem 2. Februar 2025 vollständig untersagt. Dazu gehören manipulative Techniken, Ausnutzung von Schwächen bestimmter Personengruppen, Social Scoring durch Behörden, ungerichtete Gesichtserkennung in öffentlichen Räumen sowie Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, mit eng definierten Ausnahmen.

Hochrisiko-Pflichten (Art. 8 bis 29 AI Act)

• Risikomanagement-System über den gesamten Lebenszyklus.
• Datengouvernanz, einschliesslich Repräsentativitäts- und Bias-Bewertung der Trainingsdaten.
• Technische Dokumentation, die eine Konformitätsbewertung ermöglicht.
• Aufzeichnungspflicht, jedes System muss seine Aktivitäten automatisch protokollieren.
• Transparenz und Bereitstellung von Information für Betreibende.
• Menschliche Aufsicht, ausgestaltet als technische und organisatorische Massnahme.
• Genauigkeit, Robustheit und Cybersicherheit, in einer dem Anwendungsfall angemessenen Form.
• Konformitätsbewertung vor Inverkehrbringen, in der Regel durch eine benannte Stelle.
• Registrierung in der EU-Datenbank für Hochrisiko-KI.

Transparenzpflichten für begrenztes Risiko (Art. 50 AI Act)

• Personen, die mit einem KI-System interagieren, müssen darüber informiert werden.
• KI-generierte Inhalte (Texte, Bilder, Audio, Video) müssen maschinenlesbar gekennzeichnet werden, sofern es sich um synthetische Inhalte handelt.
• Deepfakes müssen explizit als künstlich erzeugt offengelegt werden.

§ 5

Allzweck-KI-Modelle (GPAI).

Allzweck-KI-Modelle, im Englischen General Purpose AI, fallen seit dem 2. August 2025 unter eine eigene Pflichtenkategorie. Hierzu gehören grosse Sprachmodelle wie GPT, Claude, Gemini und Llama sowie multimodale Foundation Models. Die Pflichten teilen sich in zwei Stufen.

Pflichten für alle Allzweck-Modelle

• Technische Dokumentation, die Trainingsmethodik, Datengrundlage und bekannte Einsatzgrenzen beschreibt.
• Bereitstellung von Information für nachgelagerte Anbieter, die das Modell in eigenen Systemen verwenden.
• Politik zur Einhaltung des EU-Urheberrechts, einschliesslich Opt-out-Mechanismen für Rechteinhabende.
• Veröffentlichung einer ausreichend detaillierten Zusammenfassung der für das Training verwendeten Inhalte.

Zusatzpflichten für Modelle mit systemischem Risiko

Modelle, deren Trainings-Rechenaufwand einen Schwellenwert überschreitet (aktuell 10 hoch 25 FLOPs), gelten als systemisch und unterliegen zusätzlich Pflichten zur Modellbewertung, zur Risikobewertung und Risikominderung, zur Berichterstattung über schwerwiegende Vorfälle und zur Cybersicherheit.

Praktische Konsequenz für Betreibende. Wer ein GPAI-Modell in eigenen Systemen einsetzt, ist nicht von den Pflichten als Anbieter eines Hochrisiko-Systems entbunden. Ein Chatbot auf Basis eines fremden Sprachmodells, der Bonitätsentscheidungen trifft, bleibt ein Hochrisiko-System des Betreibenden.

§ 6

Zeitplan der Anwendung.

§ 7

DACH-spezifische Überlagerungen.

Die nationale und sektorale Aufsicht in den drei DACH-Ländern überlagert den AI Act mit zusätzlichen Anforderungen, die in der Praxis oft strenger sind als die EU-Verordnung selbst.

§ 8

Selbstbewertung in 25 Fragen.

Beantworten Sie jede Frage mit Ja, Nein oder Nicht zutreffend. Jedes Nein ist ein konkreter Handlungsanstoss.

A. Geltungsbereich und Inventar

1. Existiert ein vollständiges Inventar aller im Unternehmen produktiv eingesetzten KI-Systeme?
2. Ist für jedes System die Rolle des Unternehmens eindeutig dokumentiert (Anbieter, Betreiber, Importeur, Händler)?
3. Ist für jedes System dokumentiert, ob es auf dem EU-Binnenmarkt zum Einsatz kommt oder dort wirkt?

B. Risikoklassifizierung

4. Wurde jedes System einer der vier Risikoklassen formell zugeordnet?
5. Liegt die Begründung der Zuordnung schriftlich vor und ist sie im Audit nachvollziehbar?
6. Ist sichergestellt, dass keines der eingesetzten Systeme unter Art. 5 (verbotene Praktiken) fällt?

C. Hochrisiko-Pflichten

7. Existiert ein Risikomanagement-System je Hochrisiko-Anwendung über den gesamten Lebenszyklus?
8. Sind die Trainingsdaten auf Repräsentativität, Bias und rechtliche Zulässigkeit bewertet?
9. Liegt eine technische Dokumentation gemäss Anhang IV vor?
10. Werden Aktivitäten des Systems automatisch protokolliert und revisionssicher aufbewahrt?
11. Ist die menschliche Aufsicht technisch und organisatorisch implementiert?
12. Wurde eine Konformitätsbewertung durchgeführt und das System in der EU-Datenbank registriert?

D. Transparenz

13. Werden Personen, die mit einem KI-System interagieren, darüber informiert?
14. Werden KI-generierte Inhalte gekennzeichnet, wo erforderlich?
15. Existiert eine Richtlinie für den Umgang mit Deepfakes und synthetischen Medien?

E. GPAI

16. Ist für jedes eingesetzte Allzweck-KI-Modell der Anbieter und seine AI-Act-Konformität dokumentiert?
17. Liegt eine Risikobewertung der eigenen Anwendung vor, unabhängig von den Pflichten des GPAI-Anbieters?
18. Ist die Frage geklärt, ob durch eigene Anpassungen am Modell eine Anbieter-Rolle entsteht?

F. Governance

19. Existiert eine benannte Verantwortungsstelle für AI-Compliance auf Geschäftsleitungsebene?
20. Sind Schulungspflichten für Anwendende dokumentiert und nachweisbar absolviert?
21. Existiert ein Meldeprozess für schwerwiegende Vorfälle gemäss Art. 73 AI Act?

G. DACH-Überlagerungen

22. Wurde geprüft, welche sektoralen Aufsichten zusätzlich zum AI Act anwendbar sind?
23. Ist die Schnittstelle zwischen AI Act und Datenschutz (DSGVO, revDSG) operativ geregelt?
24. Wurden Verträge mit AI-Lieferanten auf AI-Act-Konformität geprüft und nachverhandelt?
25. Existiert ein DACH-spezifischer Reporting-Pfad an interne Aufsichtsorgane (Verwaltungsrat, Aufsichtsrat)?

Bewertungsraster. Mehr als zwanzig Ja, Sie sind auf einem belastbaren Stand. Zwischen zehn und zwanzig Ja, klarer Handlungsbedarf, aber kein Notfall. Weniger als zehn Ja, ein strukturiertes Readiness-Programm ist überfällig.