Blog

Das EU-KI-Gesetz (KI-VO) stellt ein bahnbrechendes Regelwerk für den Einsatz von Künstlicher Intelligenz (KI) in der Europäischen Union dar und hat zum Ziel, Innovationen zu fördern und zugleich Risiken zu minimieren. Es legt strenge Regeln für den Einsatz von KI fest, insbesondere in Bereichen, die die Grundrechte, Sicherheit und Ethik betreffen.

Künstliche Intelligenz wird als eine spezielle Art von Computersoftware definiert, die Algorithmen nutzt, um große Datenmengen zu analysieren, Muster zu erkennen und Vorhersagen über zukünftiges Verhalten zu treffen. Diese Technologie imitiert menschliche Intelligenz und wird in immer mehr Bereichen eingesetzt, von der Medizin bis hin zum Arbeitsmarkt und wird sicherlich tiefgreifende Veränderungen in verschiedenen Industrien und Arbeitsumfeldern bewirken.

Das KI-Gesetz basiert auf einem risikobasierten Ansatz, der den Einsatz von KI-Systemen in vier Risikoklassen unterteilt:

1. Unvertretbare Risiken: Ab dem 2. Februar 2025 sind KI-Systeme, die als unvertretbar eingestuft werden, verboten. Dazu gehören KI-Systeme zur Emotionserkennung am Arbeitsplatz oder solche, die biometrische Daten nutzen, um sensible Informationen wie religiöse Überzeugungen oder sexuelle Orientierung zu bestimmen. Diese Technologien werden durch ihren tiefen Eingriff in die Privatsphäre und den einhergehenden Diskriminierungsrisiken als gefährlich eingestuft.
2. Hohe Risiken: KI-Systeme mit hohem Risiko dürfen zwar eingesetzt werden, unterliegen jedoch strengen Vorschriften. Dazu gehören Anwendungen im Arbeitsmarkt, wie etwa KI-gestützte Programme zur Bewerbersichtung oder zur Entscheidung über Einstellungen und Kündigungen. Zur Umsetzung sind unter anderem geeignete Systeme zur Risikobewertung und Risikominderung erforderlich. Es bestehen zudem Pflichten zur Überwachung, Protokollierung und Dokumentation. Darüber hinaus besteht – basierend auf der DSGVO und nicht dem AI Act – ein Recht auf eine abschließende Entscheidung durch einen Menschen. Ab dem 2. August 2026 treten diese Regelungen verbindlich in Kraft.
3. Geringe Risiken: Diese Risikoklasse betrifft KI-Systeme, die etwa in Chatbots verwendet werden. Solche Systeme müssen klar als KI-Anwendungen gekennzeichnet sein, um Transparenz zu gewährleisten. So soll verhindert werden, dass Benutzer mit einer Maschine unwissentlich interagieren.
4. Minimale Risiken: Anwendungen wie KI in Videospielen oder Spam-Filtern bergen nur geringe Risiken und unterliegen keiner besonderen Regulierung. Die EU möchte hier den Innovationsspielraum erhalten und sicherstellen, dass solche Technologien ungehindert weiterentwickelt werden können.

KI im Arbeitsumfeld

Ein zentraler Einsatzbereich von KI, der durch die Verordnung reguliert wird, betrifft den Arbeitsmarkt. KI-gestützte Systeme werden zunehmend im Personalwesen eingesetzt, von der automatisierten Bewerbersichtung (sogenanntes „Robo-Recruiting“) bis hin zur Leistungsbeurteilung und Arbeitszeitplanung. Systeme, die Entscheidungen über Arbeitsverhältnisse oder Gehaltsanpassungen treffen, dürfen jedoch nicht vollständig automatisiert erfolgen. Laut der Datenschutz-Grundverordnung (DSGVO) muss in solchen Fällen immer ein Mensch die Letztentscheidung treffen, insbesondere wenn diese Entscheidung rechtliche oder finanzielle Konsequenzen hat.

Mitbestimmungsrechte und Datenschutz

Betriebsräte haben Mitbestimmungsrechte beim Einsatz von KI-Systemen, insbesondere wenn diese zur Überwachung oder Beurteilung von Arbeitnehmern verwendet werden. Solche Systeme dürfen nur nach Abschluss einer Betriebsvereinbarung eingeführt werden. KI-Systeme, die etwa für Leistungsbeurteilungen verwendet werden, müssen auch den Anforderungen des Antidiskriminierungsrechts entsprechen. Es besteht das Risiko, dass Algorithmen diskriminierende Entscheidungen treffen, z. B. basierend auf Kriterien wie ethnischer Herkunft, Religion oder Geschlecht. Um dies zu verhindern, müssen Algorithmen und Datensätze regelmäßig überprüft und angepasst werden.

Sanktionen und Strafen

Unternehmen, die gegen die Bestimmungen des KI-Gesetzes verstoßen, drohen erhebliche Strafen: Diese reichen bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes. Die strengen Sanktionen sollen sicherstellen, dass die Vorschriften ernst genommen und entsprechend umgesetzt werden.

Innovation und Ausblick

Obwohl das Gesetz strenge Anforderungen an den Einsatz von KI stellt, fördert es zugleich Innovationen. So werden sogenannte „Regulatory Sandboxes“ eingerichtet, in denen Unternehmen neue KI-Technologien unter realen Bedingungen testen können, ohne sofort den vollen regulatorischen Auflagen zu unterliegen. Somit soll den Unternehmen die Möglichkeit eröffnet werden, innovative Systeme zu entwickeln, bevor sie breit auf den Markt kommen.

Für Arbeitgeber und Arbeitnehmer bedeutet dies, dass sie sich auf den zunehmenden Einsatz von KI im Arbeitsalltag einstellen müssen. Art 4 der KI-VO setzt voraus, dass die Nutzenden „über ein ausreichendes Maß an KI‑Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI‑Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI‑Systeme eingesetzt werden sollen, zu berücksichtigen sind.“ Unternehmen müssen somit sicherstellen, dass ihre Mitarbeiter, die für die Überwachung von KI-Systemen verantwortlich sind, entsprechend ausgebildet werden, um einen verantwortungsvollen und ethisch korrekten Umgang mit der Technologie zu gewährleisten.

Fazit

Das EU-KI-Gesetz schafft eine Balance zwischen der Förderung von Innovation und dem Schutz von Grundrechten. Es bietet einen klaren Rahmen für den Einsatz von KI, insbesondere in sensiblen Bereichen wie dem Arbeitsmarkt, und setzt strenge Maßstäbe für Sicherheit und Ethik. Damit einher geht jedoch auch ein riesiger Compliance-Aufwand für die Unternehmen. Es bleibt jedoch weiterhin dabei, dass sich die Technik schneller als das Recht entwickelt. Es bleibt abzuwarten, welche Rolle dieses brandaktuelle Thema auch in Zukunft in unserer Rechtsordnung einnimmt.

Autor: Ronja Endfellner

Disclaimer: Dieser Beitrag dient lediglich zur allgemeinen Information und ersetzt keine individuelle Rechtsberatung. Für die Richtigkeit, Aktualität und Vollständigkeit wird von Waitz Haselbruner Rechtsanwälte GmbH keine Haftung übernommen.