Bundeskanzler Olaf Scholz (SPD) spricht bei einer Regierungserklärung zur Haushaltslage im Bundestag.
Das wichtigste Mittel im Kampf gegen Deepfakes ist Aufklärung. Bildrechte: picture alliance/dpa | Michael Kappeler

Satireaktion Scholz-Deepfake laut Experten nicht besonders gut gemacht

29. November 2023, 07:07 Uhr

Am Montag hat die Satiregruppe "Zentrum für politische Schönheit" eine gefälschte Videoansprache von Bundeskanzler Olaf Scholz veröffentlicht. Darin verkündet Scholz vermeintlich, die AfD verbieten zu wollen. Das Video ist ein so genannter Deepfake, der mit Künstlicher Intelligenz angefertigt worden ist. Das Video war nicht besonders gut gemacht, wirft aber die Frage auf, wie künftig mit so etwas umgegangen werden sollte.

Es gibt sie immer wieder, diese Nanu-Momente im Deepfake-Video von Bundeskanzler Olaf Scholz. Seine Stimme scheint seinen Lippen voraus zu sein. Die Lippen sind ohnehin seltsam dünn, Unterkiefer und rechte Wange wirken jünger als der Rest des Gesichts. Der Fake sei deshalb schnell zu erkennen, erklärt Martin Tschirsich vom Chaos Computer Club. "Es hat fast den Anschein, als hätten die Urheber hier bewusst nicht den Anschein erwecken wollen, dass das eine echte Aufnahme ist."

Denn mittlerweile sei schon mit einfachen Mitteln deutlich mehr möglich. "Wir können gerade die Lippen-Synchronität heute durch KI maschinell herstellen. Wir können durch den Transfer von Mimik von einem Gesicht auf das andere deutlich bessere Fälschungen erstellen, die viel schwerer zu erkennen sind", erklärt Tschirsich.

Kampf gegen Deepfakes wird immer härter

Das Scholz-Video aus der Aktion der Satiregruppe "Zentrum für politische Schönheit" entspricht also nicht dem aktuellen Stand der Technik, der ist schon viel weiter.

Schon jetzt könne man zum Beispiel Video-Ident-Verfahren überwinden und so im Namen einer anderen Person beispielsweise ein Konto eröffnen. Bald werde Künstliche Intelligenz noch weiter sein, ist der Experte für Informationssicherheit überzeugt. So weit, dass ein falscher Olaf Scholz nicht mehr von einem echten zu unterscheiden ist.

gestaltete Collage 21 min
Bildrechte: MITTELDEUTSCHER RUNDFUNK

Die Jagd gegen die Deepfake-Technologie und ihre Macher könne man nur verlieren, sagt Martin Tschirsich. "Das ist ein Wettrennen zwischen denjenigen, die mit KI die Fälschungen produzieren und denjenigen, die versuchen, mit KI den Fälschungen aufzulauern." Letztendlich würden wir als Menschen verlieren.

Aufklärung ist zentral

Trotzdem müssen wir nicht resignieren. Es gebe weitere Möglichkeiten, der Gefahr von Fakes zu begegnen, erklärt Nicolas Müller vom Fraunhofer Institut für Angewandte und Integrierte Sicherheit. Eine Option ist, echte Videos erkenntlich zu machen und sie so von Deepfakes abzugrenzen. "Das ist eine Idee, dass man Inhalte, die authentisch sind, quasi mit einem Wasserzeichen oder einer Signatur versieht. Dass also die Kamera das Bild signiert."

 Eine Frau kommuniziert mit ihrem Mobiltelefon. Aufgenommen am 20.04.203 in Berlin 2 min
Bildrechte: dpa

Dadurch könne man nachvollziehen, dass dieses Bild von dieser Kamera an diesem Ort aufgezeichnet worden ist. "Wenn man eine Mediadatei sieht und die hat dieses Zertifikat, dann kann man dem vertrauen", sagt Müller.

An der Umsetzung dieser Idee wird weltweit gearbeitet. Das Allerwichtigste im Kampf gegen Deepfakes ist jedoch Aufklärung – eine gewisse Skepsis gegenüber Videos und Audios zu schaffen und zwar nicht nur im Internet, sagt Nicolas Müller. Denn auch am Telefon setzen Betrüger immer häufiger KI ein, um sich zum Beispiel als Enkel auszugeben und ältere Leute zum Überweisen von Geld zu überreden. 

Dieses Thema im Programm: MDR AKTUELL | Das Nachrichtenradio | 29. November 2023 | 06:13 Uhr

22 Kommentare

hilflos vor 12 Wochen

Ob fake oder nicht, vielleicht ist der mediale Aufschrei bezüglich dieses Videos nur dessen geschuldet, dass man die Katze (Ampel) beim Mausen erwischt hat und ggf nicht sehr weit von der Realität entfernt ist.
Aber auch egal, diese Regierung und erst recht dieser Kanzler eben abgehoben in einer Blase und haben keinerlei Bezug mehr zum Volk

nasowasaberauch vor 12 Wochen

Eine Rede von Scholz mit KI fällt sofort auf, wenn etwas konkretes dabei ist. Normal redet er in Allgemeinsätzen am Thema vorbei und kann sich an nichts erinnern. Sollte doch mal ein "das schaffen wir nie wieder ab" rausrutschen, dann ist es verdächtig.

kleinerfrontkaempfer vor 12 Wochen

Selbst wenn der BK (und seine Mannschaft) dies vorhaben sollte, es würde Ihnen eh nix nützen.
Und Statements vom BK sind nach der letzten sogenannten Regierungserklärung wie gewohnt nur Plattitüten, Phrasen und Stanzen. Nicht einmal zu einem "Wumms", geschweige zu einer Entschuldigung war der Mann fähig.
Entschuldigung deshalb weil weil das gestoppte "Haushaltsmanöver" ja einst von Herrn Scholz ausbaldowert und durchgezogen wurde.
Vielleicht ist an der Zeit und besser für die Gesellschaft die KI statt eines BK einzusetzen. Es kann nur besser werden.

Mehr aus Panorama

Nachrichten

Eine Drohne beim hochfliegen, wenige Meter über dem Boden. 1 min
Das Luftfahrtbundesamt hat die erste Linienfluggenehmigung für Drohnen erteilt. Bildrechte: MITTELDEUTSCHER RUNDFUNK
1 min 21.02.2024 | 19:32 Uhr

Zwei Jahre wurde getestet, jetzt hat das Luftfahrtbundesamt die bundesweit erste Linienfluggenehmigung für Drohnen erteilt. Künftig liefert ein Unternehmen seine Waren auf dem kürzesten Weg bei seinen Kunden ab.

Mi 21.02.2024 19:21Uhr 00:56 min

https://www.mdr.de/nachrichten/deutschland/panorama/video-luedenscheid-drohne-lieferungen100.html

Rechte: MITTELDEUTSCHER RUNDFUNK

Video
Regisseur Martin Scorsese hölt auf einer Bühne einen Goldenen Bären in der Hand. 1 min
Berlinale-Ehrenbär für Hollywood-Regisseur Martin Scorsese Bildrechte: Reuters
1 min 21.02.2024 | 10:10 Uhr

Der US-Filmemacher Martin Scorsese ist auf der Berlinale mit dem "Goldenen Ehrenbären" für sein Lebenswerk geehrt worden. Sein neues Werk "Killers of the Flower Moon" ist bei den "Oscars" in zehn Kategorien nominiert.

Mi 21.02.2024 09:25Uhr 00:34 min

https://www.mdr.de/nachrichten/deutschland/panorama/video-berlinale-ehrenbaer-lebenswerk-scorsese-filmemacher-regisseur100.html

Rechte: Reuters

Video

Mehr aus Deutschland

Ein Atom-U-Boot der Astute-Klasse, neuste Generation der britischen Royal Navy, liegt auf der Militärbasis in Gibraltar.
Statt sich eigene Atomwaffen anzuschaffen, müsse Deutschland und die EU laut Bundesfinanzminister Christian Lindner (FDP) unter anderem enger mit Großbritannien kooperieren, das bereits Kernwaffen wie dieses Atom-U-Boot besitzt. Bildrechte: picture alliance/dpa/EUROPA PRESS | Nono Rico
ein Krankenwagen 1 min
Bildrechte: MITTELDEUTSCHER RUNDFUNK