Den Mitgliedstaaten der EU ist es zusammen mit dem Europäischen Parlament und der Kommission in einem wegweisenden Schritt gelungen, den weltweit ersten umfassenden Rechtsakt für KI zu schaffen. Die KI-Verordnung sorgt dafür, dass 450 Millionen Menschen in der EU auf menschenzentrierte und sichere KI vertrauen können und europäische Unternehmen rechtssicher Innovationen entwickeln können.

Um innovationsfreundlich zu sein und gleichzeitig Grundrechte effektiv zu schützen, setzt die KI-Verordnung auf einen risikobasierten Ansatz.

Der risikobasierte Ansatz der KI-Verordnung

KI-Systeme werden nicht pauschal den selben Regeln unterworfen, sondern die KI-Verordnung unterscheidet zwischen verschiedenen Risikostufen. Für die meisten KI-Systeme stellt die KI-Verordnung überhaupt keine Anforderungen auf. Chatbots und andere KI-Systeme, mit denen Menschen direkt interagieren, müssen transparent gestaltet sein. Denn Menschen sollen wissen, wenn sie mit einem KI-System „kommunizieren“ oder Inhalte wie Videos durch ein KI-System erzeugt wurden.

Eine zentrale Kategorie der KI-Verordnung sind „Hochrisiko-Systeme“, also Systeme die zu Zwecken eingesetzt werden, bei denen Gefahren für Grundrechte, Sicherheit oder Gesundheit von Menschen entstehen können. Dazu gehören auch KI-Systeme in der Arbeitswelt – von der Auswahl von Bewerber*innen, über Aufgabenzuweisung bis zur Leistungskontrolle. Auch KI-Systeme zur Prüfung von Ansprüchen auf öffentliche Unterstützungsleistungen, wie etwa Kindergeld oder Sozialhilfe, werden als Hochrisiko-Systeme eingeordnet. Diese Systeme müssen bestimmte Anforderungen erfüllen, wenn sie in der EU auf den Markt kommen oder eingesetzt werden sollen. Sie müssen transparent sein, menschliche Aufsicht ermöglichen oder mit guten Daten trainiert werden, damit die Diskriminierungsrisiken verringert werden.

Schließlich sind KI-Systeme mit inakzeptablen Risiken verboten. Darunter fallen unter anderem Emotionserkennungssysteme am Arbeitsplatz, bestimmte Formen biometrischer Identifizierung im öffentlichen Raum oder KI-Systeme zur unterschwelligen Manipulation, bei denen Informationen so vermittelt werden, dass die Person getäuscht wird und Entscheidungen trifft, die sie andernfalls nicht getroffen hätte.

Öffnungsklausel für nationale Regelungen im Beschäftigungsbereich

Die KI-Verordnung stellt sektorübergreifend einheitliche Anforderungen auf. Das bedeutet etwa, dass die Anforderungen aus der KI-Verordnung für Hochrisiko-Systeme am Arbeitsplatz grundsätzlich dieselben wie im Bereich der kritischen Infrastruktur oder Justiz sind. Weil das Arbeitsverhältnis jedoch von einem Machtungleichgewicht und das Arbeitsrecht durch besondere eigenständige Traditionen in den Mitgliedstaaten geprägt ist, hat die Bundesregierung sich in den Verhandlungen zur KI-Verordnung erfolgreich für eine Öffnungsklausel eingesetzt. Diese ermöglicht den Mitgliedstaaten, eigene, für Arbeitnehmerinnen und Arbeitnehmer vorteilhaftere Regelungen zu schaffen bzw. beizubehalten.

Die nächsten Schritte: Fristen und konkrete Standards

Die KI-Verordnung gilt erst ab dem 2. August 2026: Für Unternehmen und Mitgliedstaaten gibt es demnach eine Übergangsperiode. Für einige Bereiche gibt es allerdings einen abweichenden Geltungsbeginn, Verbote greifen etwa bereits ab dem 2. Februar 2025. Um Unternehmen und Behörden bei der Anwendung der Regeln zu unterstützen, werden derzeit durch EU-Institutionen, Standardisierungsgremien und Stakeholder untergesetzliche Leitfäden, Verhaltenskodizes und Standards entwickelt. Diese werden die Anforderungen und Begriffe der KI-Verordnung konkretisieren.

Die Mitgliedstaaten müssen nun bis zum 2. August 2025 für den Vollzug der KI-Verordnung zuständige Behörden einrichten. Die Bundesregierung erarbeitet derzeit unter Federführung des Bundesministeriums für Wirtschaft und Klimaschutz und des Bundesministeriums der Justiz eine bürokratiearme, serviceorientierte und zeitgemäße Struktur für eine KI-Governance, welche die Nutzerperspektive der Unternehmen einbezieht, Recht effektiv schützt und zugleich bestehende Strukturen berücksichtigt.