Die europäische KI-Verordnung (AI Act)
Weltweit erster verbindlicher und harmonisierter Rechtsrahmen für künstliche Intelligenz
Europäische Verordnung, die in allen Mitgliedstaaten unmittelbar gilt
Risikobasierter Ansatz
Ziel: Innovation, Sicherheit, Grundrechte und Vertrauen in Einklang zu bringen
Wichtige Termine
April 2021
Vorschlag der KI-Verordnung durch die Europäische Kommission
Dezember 2023
Endgültige politische Verabschiedung des Textes
2024–2025
Übergangsphase: Vorbereitung, Leitlinien, Behörden
2. August 2026
Vollständige und obligatorische Anwendung in der EU
Besorgte Akteure
Die Verordnung gilt auch für Nicht-EU-Akteure, wenn die KI Auswirkungen innerhalb der Union hat.
Anbieter
Entwickler, Herausgeber und Designer von KI-Systemen
Betreiber / Nutzer
Unternehmen und Verwaltungen, die KI einsetzen
Importeure & Händler
Verantwortlich für das Inverkehrbringen der Systeme
Aufsichtsbehörden
Nationale und europäische Aufsicht.
Verpflichtungen — Lieferanten
Das System entsprechend dem Risikoniveau einstufen
Entwerfen Sie gemäß den Anforderungen der Verordnung
TechnischeDokumentationundRückverfolgbarkeitbereitstellen
Durchführung von Konformitätsbewer tungen vor dem Inverkehrbringen
Überwachung nach dem Inverkehrbringen
Verpflichtungen — Anbieter / Nutzer
Verwenden Sie KI gemäß ihrem Verwendungszweck
Eine menschliche Aufsicht einrichten
Risiken und Vorfälle im Zusammenhang mit
Systemen verwalten.
Benutzer bei Bedarf informieren
Verpflichtungen – Importeure und Händler
Überprüfung der Konformität der in Verkehr
gebrachten Systeme
Bei Kontrollen mit den Behörden zusammenarbeiten
Für Privatpersonen
Die KI-Verordnung gilt nicht für natürliche Personen, die ein KI-System ausschließlich für private und nicht berufliche Zwecke nutzen
Eine Privatperson kann als Betreiber bezeichnet werden, sobald die Nutzung über den privaten Bereich hinausgeht
ISO/IEC 42001 – Managementsystem für
künstliche Intelligenz
Die Norm ISO/IEC 42001 bildet einen strukturierenden Rahmen für die Governance von KI-Systemen und erleichtert das Risikomanagement, die Dokumentation und die kontinuierliche Verbesserung
Sie stellt einen relevanten methodischen Ausgangspunkt dar, ist jedoch an sich kein Beweis für die rechtliche Konformität mit der IA-Verordnung
Was sich ab dem 2. August 2026 ändert
Kartografie
Verpflichtung zur Erfassung und Klassifizierung von KI-Systemen nach Risikostufen
Integrierte Konformität
Integration von KI gemäß den
Anforderungen der DSGVO, der
Cybersicherheit und der Datenverwaltung
Verantwortung
Erweiterung der Verantwortlichkeiten der Anwenderunternehmen
Transparenz
Erhöhte Anforderungen an Informationen und Dokumentation für IA mit hohem Risiko (hauptsächlich vom Lieferanten vor dem Inverkehrbringen oder der Inbetriebnahme erstellt)
Sanktion
Erhebliche finanzielle Sanktionen von bis zu 7 % des weltweiten Umsatzes oder 35 Millionen Euro bei Nichteinhaltung
Risikobasierter Ansatz – Vier Stufen
Das Diagramm zeigt die Risikohierarchie und die wichtigsten Auswirkungen für jede Stufe
Details nach Risikostufe
Inakzeptabel
• Verhaltensmanipulation (eine KI, die deine Emotionen analysiert und Botschaften so anpasst, dass du etwas kaufst, ohne es zu merken)
• Ausnutzung von Schwachstellen
• Massenbiometrische Erkennung (permanente Überwachung
von Menschenmengen ohne konkreten rechtlichen Grund)
→verboten.
Hohes Risiko
• Personalbeschaffung (eine KI, die Lebensläufe sortiert oder Bewerber einstuft) Medizin (eine KI, die bei der Erstellung einer
medizinischen Diagnose hilft)
• für eine Stelle)
• Bildung (ein System, das Schüler nach ihren Leistungen einstuft)
• Justiz (eine KI, die dabei hilft, das Rückfallrisiko einzuschätzen)
• wesentliche Dienstleistungen
→unter strengen Auflagen zulässig (Datenverwaltung, menschliche Aufsicht, Dokumentation).
Begrenztes Risiko
• Chatbots,
• Inhaltsgeneratoren
→ Hauptpflicht zur Transparenz (Information des Nutzers)
Minimales Risiko
• KI-Bürosoftware, Spiele,
• Filter,
• einfache Empfehlungen
→freie Nutzung ohne besondere Verpflichtungen
Auswirkungen für Unternehmen & nächste Schritte
• Eine neue Compliance-Ebene, die bereits jetzt zu erwarten ist
• Eine Konvergenz von DSGVO, KI, Cybersicherheit und
Risikomanagement
• Eine Schlüsselrolle für Juristen, Datenschutzbeauftragte und
Compliance-Verantwortliche
• Zunehmende Bedeutung von KI-Audits und -Kontrollen
