EU-Symbol mit Computertasten KI EU-Symbol mit Computertasten KI.
KI-Systeme sollen in der EU künftig in Risikogruppen eingeteilt werden. Bildrechte: IMAGO/Steinach

Fragen und Antworten Neues EU-Gesetz soll Künstliche Intelligenz regulieren

01. August 2024, 13:43 Uhr

Am 1. August tritt EU AI Act in Kraft. Nach Angaben der Europäischen Union handelt es sich dabei um das weltweit erste Gesetz zur Regulierung Künstlicher Intelligenz (KI). Die wichtigsten Fragen und Antworten zur neuen Regelung.

Welche Ziele verfolgt das KI-Gesetz der EU?

Mit dem neuen Gesetz zur Künstlichen intelligenz (KI) will die Europäische Union (EU) die Nutzung der neuen Technologie sicherer machen. Dazu sollen Anwendungen künftig in Risikogruppen eingeteilt werden.

Welche KI-Risikogruppen gibt es?

Die EU-Kommission teilt KI-Systeme in vier Risikogruppen ein: grün, gelb, orange und rot. Der größte Teil der KI-Anwendungen fällt nach Einschätzung der EU-Kommission in den ersten, grünen Bereich. Sie bleiben auch weiterhin unreguliert, da von ihnen kein oder nur ein minimales Risiko ausgeht.

In die gelbe Risikostufe fallen beispielsweise Chatbots wie ChatGPT sowie mithilfe von KI erzeugte oder veränderte Bilder und Videos. Nutzer müssen zukünftig darüber informiert werden, wenn ein Inhalt durch KI generiert wurde. Zudem müssen die Daten, mit denen das System trainiert wurde, nachvollziehbar sein. Schwerwiegende Vorfälle müssen der Kommission gemeldet werden.

Anwendungen, von denen ein "hohes Risiko" ausgeht, sollen besonderen rechtlichen Anforderungen unterliegen. Sie fallen in die orangene Risikostufe. Die Kommission befürwortet die Nutzung solcher Systeme grundsätzlich, gleichzeitig sieht sie ein hohes Risiko für Grundrechte, Sicherheit oder Gesundheit.

KI-Systeme, von denen ein "unannehmbares Risiko" ausgeht, stuft die EU in die höchste Risikostufe "rot" ein. Sie werden verboten. Hierunter fällt beispielsweise die Bewertung von sozialem Verhalten mittels KI (Social Scoring), wie es in China eingesetzt wird. Der Einsatz von KI bei der vorausschauenden Polizeiarbeit wird ebenfalls eingeschränkt.

Wer setzt das KI-Gesetz durch?

Für die Durchsetzung des neuen Gesetzes sind die EU sowie die 27 Mitgliedsstaaten verwantwortlich. Bei Verstößen drohen den Unternehmen Strafen in Millionenhöhe. Nationale Behörden sind verantwortlich, wenn es um die allgemeine Marktaufsicht geht.

Zudem wird ein sogenanntes "AI-Office" bei der EU-Kommission angesiedelt sein. Das Büro soll Europa als führend bei der ethischen und nachhaltigen Entwicklung von KI-Technologien positionieren.

Wie ist der Zeitplan für das KI-Gesetz?

Das neue Gesetz tritt am 1. August in Kraft. Ab dem 2. Februar 2025 gelten die Verbote. Der Großteil aller anderen Bestimmungen greift ab dem 2. August 2026. Im "AI Pact" haben rund 700 Unternehmen erklärt, Vorschriften schon früher anzuwenden.

Was sagen Experten zu dem neuen Gesetz?

Viele Experten begrüßen das neue Gesetz. KI schaffe neue Möglichkeiten und damit auch neue ethische Fragen. Gerade in einer solchen Situation sei es gesellschaftlich wichtig, den Anspruch zu erheben, die technologische Entwicklung bewusst und aktiv zu steuern, sagte Claudia Paganini, Professorin für Medienethik an der Hochschule für Philosophie in München, dem Evangelischen Pressedienst. "Dabei muss die zentrale Frage lauten: Was gewinnen wir und was verlieren wir durch KI? Wo können wir die Qualität des Zusammenlebens steigern und wovon geht Gefahr aus?" Genau diese Thematik werde vom KI-Gesetz der EU adressiert.

"Auch, wenn davon auszugehen ist, dass sich angesichts der Geschwindigkeit des Fortschritts die Notwendigkeit ergeben wird, Anpassungen vorzunehmen, ist es dennoch wichtig, eine rechtliche Grundlage zu schaffen", betont Paganini. Besonders positiv bewertet sie den hohen Stellenwert der Transparenz und dass eine Art Beschwerdesystem geschaffen wird.

Welche Schwachstellen hat das neue Gesetz?

Kritiker befürchten Schlupflöcher für eine biometrische Massenüberwachung. Das KI-Gesetz verbietet die Massenüberwachung im öffentlichen Raum zwar, schafft aber gleichzeitig Ausnahmen. Das sei problematisch, meint Paganini. In der Vergangenheit habe sich oft genug gezeigt, "dass derartige Ausnahmeregelungen sehr schnell gegen politisch Andersdenkende angewendet werden können".

Kritik äußert auch eine ehemalige Linken-Abgeordnete im EU-Parlament, Cornelia Ernst. Die Verhandlungen um das Gesetz hat sie dort eng verfolgt. Das vom Parlament beschlossene Verbot von Echtzeit-Gesichtserkennung im öffentlichen Raum sei durch eine lange Liste von Ausnahmen praktisch gekippt worden. Auch gebe es in der Verordnung keine Verbote von KI-Systemen im Migrations- und Grenzkontext.

epd(mbe)

Wissen

Illustration eines menschlichen Kopfes aus Glass
Bildrechte: IMAGO/Addictive Stock

Dieses Thema im Programm: MDR AKTUELL – Das Nachrichtenradio | 01. August 2024 | 13:12 Uhr

Mehr aus Politik

Nachrichten

Nach einen Drohnenagriff: zerstörte Autos und Gebäude 1 min
Bildrechte: MITTELDEUTSCHER RUNDFUNK
1 min 04.04.2025 | 15:16 Uhr

Bei neuen russischen Drohnenangriffen sind in der ostukrainischen Stadt Charkiw nach ukrainischen Angaben mindestens fünf Menschen ums Leben gekommen. Dem Rettungsdienst zufolge wurden mehr als 30 Menschen verletzt.

MDR FERNSEHEN Fr 04.04.2025 12:18Uhr 00:25 min

Rechte: MITTELDEUTSCHER RUNDFUNK

Video

Nachrichten

Der ehemalige südkoreanische Präsident Yoon Suk-yeol im Gerichtssaal. 1 min
Bildrechte: MITTELDEUTSCHER RUNDFUNK
1 min 04.04.2025 | 12:29 Uhr

In Südkorea ist der suspendierte Präsident Yoon Suk-yeol endgültig seines Amtes enthoben worden. Das Verfassungsgericht des Landes bestätigte am Freitag den Antrag des Parlaments.

MDR FERNSEHEN Fr 04.04.2025 09:55Uhr 00:30 min

Rechte: MITTELDEUTSCHER RUNDFUNK

Video

Nachrichten

Viktor Orbán und Benjamin Netanjahu 1 min
Bildrechte: MITTELDEUTSCHER RUNDFUNK
1 min 03.04.2025 | 18:14 Uhr

Israels Ministerpräsident Netanjahu ist nach Ungarn gereist. Es ist Netanjahus erste Reise nach Europa, nachdem der Internationale Strafgerichtshof im November Haftbefehl gegen ihn erlassen hatte.

MDR FERNSEHEN Do 03.04.2025 16:05Uhr 00:30 min

Rechte: MITTELDEUTSCHER RUNDFUNK

Video

Nachrichten

US-Senator Cory Booker bei seiner Rede im Senat 1 min
Bildrechte: MITTELDEUTSCHER RUNDFUNK
1 min 02.04.2025 | 12:16 Uhr

Mehr als 25 Stunden am Stück: So lange dauerte die Rede von US-Senator Cory Booker im Kongress. Vom Montagabend amerikanischer Ortszeit bis zum Dienstagabend sprach er, im Stehen und ohne auf Toilette zu gehen.

MDR FERNSEHEN Mi 02.04.2025 09:58Uhr 00:41 min

Rechte: MITTELDEUTSCHER RUNDFUNK

Video

Mehr aus der Welt

Nachrichten

Ein zerstörtes Auto, das in der Baumkrone eines entwurzelten Baumes liegt. Daneben liegt ein weiteres Auto auf dem Dach. 1 min
Bildrechte: MITTELDEUTSCHER RUNDFUNK
1 min 04.04.2025 | 18:20 Uhr

Im Mittleren Westen und im Süden der USA haben Unwetter schwere Schäden hinterlassen. Mindestens sieben Menschen kamen Medienberichten zufolge ums Leben.

MDR FERNSEHEN Fr 04.04.2025 16:10Uhr 00:24 min

Rechte: MITTELDEUTSCHER RUNDFUNK

Video