Diese Bilder wurden mit der KI "Midjourney" generiert. Sie zeigen (von links nach rechts): einen Mann aus Osterwieck, eine Frau aus Halle und einen Kobold aus Thale.
Im Netz gibt es immer mehr KI-generierte Bilder – ohne, dass wir wissen, dass sie gefaket sind. Bildrechte: Collage Midjourney (KI-generierte Bilder)/MDR SACHSEN-ANHALT

Desinformation KI-generierte Bilder: Wie kann sich die Gesellschaft gegen Manipulation wehren?

03. April 2024, 11:03 Uhr

Im Netz gibt es viele KI-generierte und auch manipulative Bilder und Videos. Bundesjustizminister Marco Buschmann (FDP) sieht darin eine große Gefahr und plädiert deswegen für eine Kennzeichnungspflicht für KI-generierte Bilder. Desinformationsexperten schlagen aber andere Lösungen vor, um Manipulation durch KI-generierte Bilder zu verhindern.

Carolin Voigt, Reporterin, Redakteurin und Sprecherin
Bildrechte: MDR/Karsten Möbius

Bilder vermittelten das Gefühl von Authentizität, argumentiert Marco Buschmann. Das könne missbraucht werden. Tatsächlich gibt es in Deutschland derzeit keine gesetzliche Pflicht KI-generierte Bilder zu kennzeichnen.

Wer böswillige Inhalte verbreiten will, etwa um Stimmung im Wahlkampf zu machen, werde sich kaum an eine Kennzeichnungspflicht halten, argumentiert Philip Kreißel. Der Informatiker ist Experte für Desinformation und KI bei der Faktencheck-Plattform "Volksverpetzer".

Er schlägt stattdessen vor, echte Bilder zu kennzeichnen, damit diese sich von KI-generierten Bildern abhöben: "Das ist, glaube ich, ein erfolgversprechenderer Ansatz. Da gibt es auch schon Ansätze von der Industrie. Zum Beispiel von Kameraherstellern oder auch von großen Medienunternehmen, dass die ihre Bilder als echt kennzeichnen und authentifizieren."

Forschungsprojekte zur Erkennung von Desinformationen

Dass mit manipulierten Inhalten im Netz Stimmung gemacht wird, ist nichts Neues. So kommt das Parlamentarische Kontrollgremium des Bundestags in einem aktuellen Bericht zu dem Ergebnis: Russland versucht auf die deutsche Wirtschaft, Politik und Gesellschaft einzuwirken und lanciert dazu umfangreiche Desinformationskampagnen in Medien, sozialen Netzwerken und auf Plattformen.

Der deutsche Staat versucht gegenzuhalten. So finanziert das Bundesbildungsministerium unter anderem das Forschungsprojekt DeFaktS, das Jonas Fegert leitet. Das Team des Politikwissenschaftlers entwickelt KI-basierte Softwarelösungen, die Desinformation in Texten erkennen.

Grundsätzlich sei so etwas auch für Bilder denkbar, sagt Fegert. Er findet den Vorstoß von Justizminister Buschmann interessant, sieht aber vor allem die sozialen Netzwerke in der Pflicht, denn auch diese hätten dazu beigetragen, unsere Gesellschaft zu polarisieren: "Die haben einen Anteil daran und eine Verantwortung dafür, dass unsere Gesellschaft wieder mehr zusammenkommt und Menschen Inhalten vertrauen können und dass die Debatte nicht nur emotionalisiert verläuft."

Mitte März haben die EU-Staaten als ersten Schritt den Artificial Intelligence Act – also die KI-Verordnung – verabschiedet. Bis die gesetzlich voll greift, dauert es aber noch zwei Jahre. Für dieses Jahr mit Europawahl, Kommunal- und Landtagswahlen, aber auch den US-Präsidentschaftswahlkampf kommt das zu spät.

Nachrichten

Roboterhand, Hologramm eines Gehirns und Laptop 1 min
Bildrechte: imago images/Alexander Limbach

Aufklärung im Umgang mit KI-erstellten Inhalten

Um politische Einflussnahme im Wahljahr einzudämmen, wünscht sich Andreas Dengel vom Deutschen Forschungszentrum für Künstliche Intelligenz daher vor allem, dass man Aufklärung betreibe und Menschen sensibilisiere, sorgsam mit gewissen Inhalten umzugehen.

Stichwort: Künstliche Intelligenz Künstliche Intelligenz bezeichnet meist Anwendungen auf Basis maschinellen Lernens, bei denen eine Software große Datenmengen nach Übereinstimmungen durchforstet und daraus Schlussfolgerungen zieht. Es gibt viele Text-zu-Bild-Generatoren, die auf KI basieren.

EIne Malerei zeigt einen Roboter mit einem technischen Gerät in der Hand. 125 min
Bildrechte: Lucas Görlach / Bild-KI "DALL-E 2"

Außerdem wünscht Dengel sich: "Dass es auch Hinweise gibt, wie man die Herkunft von solchen Inhalten prüfen kann. Das zweite ist natürlich eine technische Lösung, die längerfristig aufgesetzt werden muss. Die kann als aufdeckende Software arbeiten."

Das könnte man laut Dengel mit spezifischen Wasserzeichen machen: "Die könnten sorgsam in diesen Bildern und Videos versteckt werden, ohne dass man die Bilder sehr verzerrt. Eine Spezialsoftware kann die Codes dann wieder auslesen, um die Echtheit zu überprüfen."

Letztlich brauche es aber einen gemeinsamen Standard von Industrie und öffentlicher Hand, so KI-Experte Dengel. Auf Anfrage von MDR AKTUELL, teilte das Bundesjustizministerium mit, die Kennzeichnungspflicht für KI-generierte Bilder soll Teil der europäischen KI-Verordnung werden. Anbieter generativer KI sollen ihre Systeme so konzipieren müssen, dass Bilder oder Videos mit einem "Wasserzeichen" gekennzeichnet werden.

Dieses Thema im Programm: MDR AKTUELL | Das Nachrichtenradio | 03. April 2024 | 06:50 Uhr

5 Kommentare

Peter vor 1 Wochen

Tja, Frank L., ist es nicht eher Betrug an den Wählern, wenn mit falschen Bildern, falschen Namen und falschen Aussagen Wahlkampf gemacht wird.
Sie scheint das nicht zu stören. Mich, und ich denke, die allermeisten Wähler wohl sehr.

Frank L. vor 1 Wochen

Naja, Peter ,das hat auch einen ganz praktischen Grund. Wenn eine echte Dr. Stefanie Müller sich auf AfD Wahlplakaten ablichten lassen würde, müsste sie im echten Leben mit einem unangemeldeten Besuch gewisser ,speziell in Connewitz vorkommender Kreise, rechnen. Vom Shitstorm in (a)sozialen Medien und beruflicher Schwierigkeiten mal ganz abgesehen. In sofern ist der KI Wahlkampf der AfD durchaus verständlich. Und als deren Wähler brauche ich keine reelle Person auf Wahlplakaten, es reicht wenn ich weiß das es viele "Dr. Stefanie Müllers" in der Realität gibt.

dimehl vor 1 Wochen

"Jonas Fegert vom Forschungsprojekt DeFaktS sieht die sozialen Netzwerke in der Pflicht gegen Desinformationen vorzugehen."
Soziale Netzwerke sind Plattformen, die ihren Nutzern die Möglichkeit bieten, Informationen, Ansichten, Meinungen etc. zu verbreiten. Sie stellen quasi ein leeres Blatt Papier bereit. Niemand wäre in früheren Zeiten auf die Idee gekommen, einen Papierhersteller für die auf seinem Papier gedruckten "Zeitungsenten" verantwortlich zu machen.
Niemand hätte in früheren Zeiten einem Papierhersteller das Recht zugebilligt, zu entscheiden, was auf seinem Papier gedruckt werden soll und was nicht.
Wenn man Soziale Netzwerke in die Pflicht nimmt, warum dann nicht auch Hersteller von Netzwerkkomponenten oder DSL-Provider ?
Nein, verantwortlich, evtl. auch strafrechtlich, sind jene Privatpersonen, Medien, Organisationen und/oder Staaten, die Desinformationen verbreiten.
Ausserdem ist niemand gezwungen, sich (ausschließlich) über Soziale Netzwerke zu informieren...

Mehr aus Politik

Mehr aus Deutschland

Nachrichten

Feuerwehrmänner löschen in dichtem Rauch eine Lagerhalle. 1 min
Die Feuerwehr schätzt den Schaden auf rund eine Million Euro. Bildrechte: MITTELDEUTSCHER RUNDFUNK
1 min 12.04.2024 | 19:57 Uhr

Im Ort Binde bei Arendsee im nördlichen Sachsen-Anhalt brennt eine große Schweinemastanlage. Laut Polizei sind bei dem Brand 9.000 Tiere verendet, einige bewegen sich derzeit frei im Umkreis der Anlage.

Fr 12.04.2024 19:34Uhr 00:26 min

https://www.mdr.de/nachrichten/sachsen-anhalt/stendal/salzwedel/binde-arendsee-altmark-brand-schweinemast-stall-104.html

Rechte: MITTELDEUTSCHER RUNDFUNK

Video

Nachrichten

Kuchendiagramm mit Essen und bunte Lebensmittel im Hintergrund. 1 min
Die neue Ernährungsstrategie basiert auf Empfehlungen der Deutschen Gesellschaft für Ernährung. Bildrechte: MITTELDEUTSCHER RUNDFUNK
1 min 12.04.2024 | 19:08 Uhr

Was kommt in Zukunft in Kitas, Schulen und zahlreichen Kantinen auf den Teller? Die neue Ernährungsstrategie der Bundesregierung sieht vor: Essen soll schmecken, Freude bereiten, bunt und ausgewogen sein.

Fr 12.04.2024 18:56Uhr 00:35 min

https://www.mdr.de/nachrichten/deutschland/gesellschaft/video-gesundes-essen-ernaherung-neue-empfehlungen-kantine100.html

Rechte: MITTELDEUTSCHER RUNDFUNK

Video