News

Datenschutz und Verordnung zur Künstlichen Intelligenz (KI-Verordnung / AI Act)

Die europäische Verordnung über künstliche Intelligenz (KI-Verordnung) trat am 1. August 2024 in Kraft. Ab dem 1.2.2025 werden Verbote bestimmter Praktiken der Künstlichen Intelligenz bereits gelte (Kapitel I und II der KI-Verordnung).

Schrittweise werden ab dem 2. August 2025, 2026 und 2027 weitere Vorschriften gelten, sodass die Adressaten der KI-Verordnung sich frühzeitig mit den entsprechenden Regelungen vertraut machen sollten.

Mit der  KI-Verordnung (KI-VO) wird ein einheitlicher europäischer Rechtsrahmen insbesondere für die Entwicklung, das Inverkehrbringen, die Inbetriebnahme und die Verwendung von Systemen Künstlicher Intelligenz (KI-Systeme) festgelegt, mit dem Ziel, menschenzentrierte und vertrauenswürdige Künstliche Intelligenz (KI) zu fördern. Dabei soll ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit, Demokratie, Rechtsstaatlichkeit und Umweltschutz sichergestellt und , schädliche Auswirkungen derartiger Systeme vermieden aber gleichzeitig die technische Innovation unterstützt werden.

Dabei wird ein risikobasierter Ansatz mit 4 sogenannten Risikostufen verfolgt um diese Ziele bestmöglich in Einklang zu bringen.

KI-Systeme mit Einordnung in der höchsten Risikostufe (aufgrund ihrer Praktiken) haben ein nicht akzeptables Risiko und sind gemäß Art. 5 KI-VO verboten (z.B. Scoring-Systeme und biometrische Echtzeit-Identifizierung in öffentlichen Räumen).

Ein hohes Risiko weisen KI-Systeme auf, die erhebliche schädliche Auswirkungen auf die Gesundheit, die Sicherheit oder die Grundrechte der Menschen haben können. KI-Systemen, die direkt mit natürlichen Personen interagieren, wird ein begrenztes Risiko zugewiesen und allen anderen KI-Systemen in geringes Risiko.

Je höher die Risiken eines KI-Systems für die Gesundheit, Sicherheit oder Grundrechte ist, desto strenger die rechtlichen Vorgaben der KI-Verordnung.

Die Datenschutz-Grundverordnung (DSGVO) bleibt uneingeschränkt neben der KI-Verordnung anwendbar (s. Erwägungsgrund 10 KI-VO).

KI-Systeme müssen bereits jetzt unter Berücksichtigung der datenschutzrechtlichen Vorschriften entwickelt und eingesetzt werden. Neben zahlreichen Bezügen zum Datenschutzrecht finden sich in der KI-Verordnung einige wenige ergänzende Datenschutzvorschriften (z.B. zur Verarbeitung besonderer Kategorien personenbezogener Daten zur Optimierung von Hochrisiko-KI-Systemen (Art. 10 KI-VO) oder für KI-Reallabore (Art. 59 KI-VO)).

Den Datenschutzaufsichtsbehörden wird Marktüberwachung für weite Teile des Katalogs an Hochrisiko Systemen übertragen, sie sind bereits seit einiger Zeit vielfältig mit der datenschutzrechtlichen Bewertung von KI-Systemen beschäftigt.

Weitere Informationen und Checklisten finden Sie hier:

https://www.lda.bayern.de/de/ki.html

https://www.lda.bayern.de/media/ki_checkliste.pdf

https://www.cnil.fr/en/entry-force-european-ai-regulation-first-questions-and-answers-cnil

https://www.cnil.fr/en/self-assessment-guide-artificial-intelligence-ai-systems