EU-Symbol mit Computertasten KI EU-Symbol mit Computertasten KI.
KI-Systeme sollen in der EU künftig in Risikogruppen eingeteilt werden. Bildrechte: IMAGO/Steinach

Fragen und Antworten Neues EU-Gesetz soll Künstliche Intelligenz regulieren

01. August 2024, 13:43 Uhr

Am 1. August tritt EU AI Act in Kraft. Nach Angaben der Europäischen Union handelt es sich dabei um das weltweit erste Gesetz zur Regulierung Künstlicher Intelligenz (KI). Die wichtigsten Fragen und Antworten zur neuen Regelung.

Welche Ziele verfolgt das KI-Gesetz der EU?

Mit dem neuen Gesetz zur Künstlichen intelligenz (KI) will die Europäische Union (EU) die Nutzung der neuen Technologie sicherer machen. Dazu sollen Anwendungen künftig in Risikogruppen eingeteilt werden.

Welche KI-Risikogruppen gibt es?

Die EU-Kommission teilt KI-Systeme in vier Risikogruppen ein: grün, gelb, orange und rot. Der größte Teil der KI-Anwendungen fällt nach Einschätzung der EU-Kommission in den ersten, grünen Bereich. Sie bleiben auch weiterhin unreguliert, da von ihnen kein oder nur ein minimales Risiko ausgeht.

In die gelbe Risikostufe fallen beispielsweise Chatbots wie ChatGPT sowie mithilfe von KI erzeugte oder veränderte Bilder und Videos. Nutzer müssen zukünftig darüber informiert werden, wenn ein Inhalt durch KI generiert wurde. Zudem müssen die Daten, mit denen das System trainiert wurde, nachvollziehbar sein. Schwerwiegende Vorfälle müssen der Kommission gemeldet werden.

Anwendungen, von denen ein "hohes Risiko" ausgeht, sollen besonderen rechtlichen Anforderungen unterliegen. Sie fallen in die orangene Risikostufe. Die Kommission befürwortet die Nutzung solcher Systeme grundsätzlich, gleichzeitig sieht sie ein hohes Risiko für Grundrechte, Sicherheit oder Gesundheit.

KI-Systeme, von denen ein "unannehmbares Risiko" ausgeht, stuft die EU in die höchste Risikostufe "rot" ein. Sie werden verboten. Hierunter fällt beispielsweise die Bewertung von sozialem Verhalten mittels KI (Social Scoring), wie es in China eingesetzt wird. Der Einsatz von KI bei der vorausschauenden Polizeiarbeit wird ebenfalls eingeschränkt.

Wer setzt das KI-Gesetz durch?

Für die Durchsetzung des neuen Gesetzes sind die EU sowie die 27 Mitgliedsstaaten verwantwortlich. Bei Verstößen drohen den Unternehmen Strafen in Millionenhöhe. Nationale Behörden sind verantwortlich, wenn es um die allgemeine Marktaufsicht geht.

Zudem wird ein sogenanntes "AI-Office" bei der EU-Kommission angesiedelt sein. Das Büro soll Europa als führend bei der ethischen und nachhaltigen Entwicklung von KI-Technologien positionieren.

Wie ist der Zeitplan für das KI-Gesetz?

Das neue Gesetz tritt am 1. August in Kraft. Ab dem 2. Februar 2025 gelten die Verbote. Der Großteil aller anderen Bestimmungen greift ab dem 2. August 2026. Im "AI Pact" haben rund 700 Unternehmen erklärt, Vorschriften schon früher anzuwenden.

Was sagen Experten zu dem neuen Gesetz?

Viele Experten begrüßen das neue Gesetz. KI schaffe neue Möglichkeiten und damit auch neue ethische Fragen. Gerade in einer solchen Situation sei es gesellschaftlich wichtig, den Anspruch zu erheben, die technologische Entwicklung bewusst und aktiv zu steuern, sagte Claudia Paganini, Professorin für Medienethik an der Hochschule für Philosophie in München, dem Evangelischen Pressedienst. "Dabei muss die zentrale Frage lauten: Was gewinnen wir und was verlieren wir durch KI? Wo können wir die Qualität des Zusammenlebens steigern und wovon geht Gefahr aus?" Genau diese Thematik werde vom KI-Gesetz der EU adressiert.

"Auch, wenn davon auszugehen ist, dass sich angesichts der Geschwindigkeit des Fortschritts die Notwendigkeit ergeben wird, Anpassungen vorzunehmen, ist es dennoch wichtig, eine rechtliche Grundlage zu schaffen", betont Paganini. Besonders positiv bewertet sie den hohen Stellenwert der Transparenz und dass eine Art Beschwerdesystem geschaffen wird.

Welche Schwachstellen hat das neue Gesetz?

Kritiker befürchten Schlupflöcher für eine biometrische Massenüberwachung. Das KI-Gesetz verbietet die Massenüberwachung im öffentlichen Raum zwar, schafft aber gleichzeitig Ausnahmen. Das sei problematisch, meint Paganini. In der Vergangenheit habe sich oft genug gezeigt, "dass derartige Ausnahmeregelungen sehr schnell gegen politisch Andersdenkende angewendet werden können".

Kritik äußert auch eine ehemalige Linken-Abgeordnete im EU-Parlament, Cornelia Ernst. Die Verhandlungen um das Gesetz hat sie dort eng verfolgt. Das vom Parlament beschlossene Verbot von Echtzeit-Gesichtserkennung im öffentlichen Raum sei durch eine lange Liste von Ausnahmen praktisch gekippt worden. Auch gebe es in der Verordnung keine Verbote von KI-Systemen im Migrations- und Grenzkontext.

epd(mbe)

Wissen

Illustration eines menschlichen Kopfes aus Glass
Bildrechte: IMAGO/Addictive Stock

Dieses Thema im Programm: MDR AKTUELL – Das Nachrichtenradio | 01. August 2024 | 13:12 Uhr

Mehr aus Politik

Mehr aus der Welt

Demonstranten vor dem Büro des öffentlich-rechtlichen TV-Senders in Belgrad 1 min
Bildrechte: mdr
1 min 15.04.2025 | 10:53 Uhr

In Serbien haben Studierende gegen die Rundfunkanstalten RTS und RTV protestiert. Sie blockierten die Eingänge zu den Büros der öffentlich-rechtlicher Sender in Belgrad und Novi Sad.

MDR FERNSEHEN Di 15.04.2025 08:23Uhr 00:26 min

Rechte: MITTELDEUTSCHER RUNDFUNK

Video
Temperaturanzeige zeigt 39 Grad Celcius 1 min
Bildrechte: mdr
1 min 15.04.2025 | 10:49 Uhr

Mehr als 400.000 Menschen in Europa waren von Extremwetter wie Stürmen, Überschwemmungen oder Waldbränden betroffen. Zudem erwärmt sich Europa im weltweiten Vergleich am schnellsten, so der Klimabericht.

MDR FERNSEHEN Di 15.04.2025 07:00Uhr 00:39 min

Rechte: MITTELDEUTSCHER RUNDFUNK

Video
Ein Arzt sucht nach Dingen in den Trümmern 2 min
Bildrechte: MITTELDEUTSCHER RUNDFUNK