Neue EU-Leitlinien zu verbotenen KI-Praktiken gemäß EU AI Act

Seit dem 2. Februar 2025 sind die Verbote bestimmter KI-Praktiken gemäß der europäischen KI-Verordnung (EU AI Act) endgültig in Kraft. Besonders betroffen sind Anwendungen, die aufgrund ihrer potenziellen Risiken für die europäischen Werte und Grundrechte als inakzeptabel erachtet werden. Um für mehr Rechtsklarheit zu sorgen, hat die EU-Kommission nun Leitlinien veröffentlicht, die die Auslegung dieser Verbote konkretisieren. Unser Beitrag gibt einen Überblick über die neuen Vorgaben – mit besonderem Fokus auf CCTV, Videosicherheitstechnik und biometrische Gesichtserkennung.

Das Wichtigste in Kürze:

• Die EU Kommission veröffentlicht Leitlinien zu verbotenen Praktiken der künstlichen Intelligenz (KI) im Sinne des KI-Gesetzes
• Offizielle Meldung EU Kommission
• Siehe 140-seitiges PDF [Englisch]
• Siehe dank Dallmeier Recherche und Vorselektion nur Kapitel mit Bezug zu #CCTV, #Videosicherheitstechnik, #biometrischeGesichtserkennung

Hintergrundinfo:

• Das KI-Gesetz verfolgt einen risikobasierten Ansatz, bei dem KI-Systeme in 4 verschiedene Risikokategorien eingeteilt werden, von denen eine aus KI-Praktiken besteht, die unannehmbare Risiken für die Grundrechte und die Werte der Union darstellen und gemäß Artikel 5 des KI-Gesetzes verboten sind.
• Die Leitlinienentwürfe sollen für mehr Rechtsklarheit sorgen und einen Einblick in die Auslegung der Verbote in Artikel 5 des KI-Gesetzes durch die Kommission geben, um deren einheitliche Anwendung zu gewährleisten.
• Eine solche Klarheit ist für Anbieter und Betreiber von KI-Systemen von wesentlicher Bedeutung, da die Verbote ab dem 2. Februar 2025 unmittelbar gelten.

Kapitel mit Bezug zu CCTV, Videosicherheitstechnik, biometrische Gesichtserkennung:

• Verbote laut AI Act / KI-Verordnung (Originalwortlaut):
  
  Artikel 5(1)(e)
  das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck oder die Verwendung von KI-Systemen, die Datenbanken zur Gesichtserkennung durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen erstellen oder erweitern;
  
  Artikel 5(1)(h)
  die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, außer wenn und insoweit dies im Hinblick auf eines der folgenden Ziele unbedingt erforderlich ist:
  i) gezielte Suche nach bestimmten Opfern von Entführung, Menschenhandel oder sexueller Ausbeutung sowie die Suche nach vermissten Personen;
  ii) Abwenden einer konkreten, erheblichen und unmittelbaren Gefahr für das Leben oder die körperliche Unversehrtheit natürlicher Personen oder einer tatsächlichen und bestehenden oder tatsächlichen und vorhersehbaren Gefahr eines Terroranschlags;
  iii) Aufspüren oder Identifizieren einer Person, die der Begehung einer Straftat verdächtigt wird...
   
• Erläuterungen dazu im Leitlinienentwurf:
  Kapitel 6, Seite 77:
  6. Article 5(1)(e) AI Act – untargeted scraping of facial images
  Facial recognition databases
  Through untargeted scraping of facial images
  From the Internet and CCTV footage
  
  Kapitel 9, Seite 95:
  Article 5(1)(h) AI Act – Real-time Remote Biometric Identification (RBI) Systems for Law Enforcement Purposes