Podcast "Digital leben" Wo künstliche Intelligenz im Journalismus helfen kann

06. Januar 2023, 08:09 Uhr

JournalismAI – so heißt ein Programm der London School of Economics and Political Science. In dem haben im vergangenen halben Jahr Journalisten des MDR, der Digitalagentur ida und des BR ein KI-Werkzeug entwickelt. Es soll helfen, auf Kommentare von Nutzerinnen und Nutzern schneller und besser zu reagieren. Im Podcast "digital leben" berichten sie über ihre und andere Ideen und darüber, wo künstliche Intelligenz im Journalismus an seine Grenzen kommt.

Bildrechte: MDR/Viktoria Schackow

von Marcel Roth, MDR SACHSEN-ANHALT

• Journalisten von MDR und BR haben ein Werkzeug entwickelt, das User-Kommentare mit KI-Methoden filtern kann. So sollen die Kommentare gefunden werden, die sich die Redaktion zuerst anschauen soll.
• Eine KI richtig zu trainieren, muss wohl überlegt sein. Sonst können sich Vorurteile verfestigen.
• Der Bayerische Rundfunk hat zehn Menschen, die sich im AI and Automation Lab um Fragen rund um Automatisierung und KI im Journalismus kümmern. Denn für KI-Anwendungen im Journalismus gibt es viele Ideen.

Noch vor wenigen Jahren war für Journalistinnen und Journalisten klar: War etwas gedruckt oder gesendet, war die Sache für sie und ihre Redaktion zumeist erledigt. In Zeiten des Internets gehört auch das so genannte Community-Management einer Social-Media-Redaktion selbstverständlich zum Job einer Redaktion: in sozialen Medien auf die wichtigsten Themen der Redaktion hinweisen und alle Kommentare dort und unter den Online-Artikeln lesen.

Das ist aufwändig, aber im öffentlich-rechtlichen Rundfunk auch gewollt, sagt MDR SACHSEN-ANHALT Online-Redakteur Martin Paul: "Die Social-Media-Redakteure müssen dafür sorgen, dass Menschen zu einer guten Kommunikation kommen, entweder mit uns oder untereinander." Austausch und Dialog gehören für ihn zum Journalismus heute dazu. "So entstehen auch neue journalistische Ideen oder Fragen, die wir nicht beachtet oder bedacht haben", sagt Martin Paul im MDR SACHSEN-ANHALT Podcast "Digital leben". Ob der Austausch allerdings für alle zufriedenstellend klappt, steht auf einem anderen Blatt.

Viele Kommentare: Welche sind die wichtigsten?

Klar ist aber: Das Lesen aller Kommentare auf Twitter, Facebook, Instagram und auf den eigenen Seiten kostet Zeit. Hinweise und Ideen von Nutzerinnen und Nutzern, die einen Fakt richtig stellen oder eine konkrete Nachfrage haben, landen dabei gleichberechtigt mit anderen Kommentaren bei den Social-Media-Redaktion. Dabei sind gerade diese Nutzer-Kommentare die wichtigsten für eine Redaktion. Gelesen werden aber natürlich alle.

Martin Paul und Kollegen vom Bayerischen Rundfunk und ida, der Digitalagentur von MDR und ZDF, haben deshalb im vergangenen halben Jahr ein digitales Werkzeug entwickelt, das bei diesem Problem helfen soll. Und dafür haben sie eine künstliche Intelligenz trainiert, sagt Philipp Gawlik vom "AI and Automation Lab" des Bayerischen Rundfunks: "Die Idee ist also, die Aufmerksamkeit der Social-Media-Redakteure zuerst auf die Kommentare zu lenken, in denen sie angesprochen werden und nicht auf die vielen hundert anderen Kommentare."

Die ausführliche Beschreibung und Dokumentation des Projekts findet sich hier, die Videos der Präsentationen hier.

Entwickelt haben die Kollegen von MDR und BR ihr Werkzeug im Rahmen des JournalismAI Fellowship der London School of Economics and Political Science, die von der der Google News Initiative unterstützt wird.

Das ist das BR AI and Automation Lab 👇

Jörg Pfeiffer: "Wir sind zehn Leute, ein interdisziplinäres Team aus Menschen mit journalistischem und technischem Hintergrund. Und wir beschäftigen uns damit, wie man künstliche Intelligenz, Automatisierung und Algorithmen nutzen kann. Wir untersuchen diese neuen Technologien und gucken, welche Auswirkungen sie auf Gesellschaft haben. Wir arbeiten mit dem BR-Recherche-Team zusammen und sehen auch, wie diese Technologien eingesetzt werden. Außerdem wollen wir diese Technologien natürlich verstehen, selbst beherrschen und für den Journalismus nutzen. Zum Beispiel, indem wir Arbeitsprozesse in Redaktionen erleichtern oder neue Formate kreieren. Außerdem haben wir zehn ethische Richtlinien erarbeitet, anhand derer wir im BR mit neuen Technologien im Journalismus umgehen wollen."

Eine KI entsteht

Damit eine künstliche Intelligenz entstehen kann, muss sie quasi mit Daten gefüttert werden. In diesen Daten soll sie Muster erkennen. Diese Muster soll sie dann auch zukünftig in neuen Daten finden können. Die Daten, die MDR und BR dafür genutzt haben, waren fast 19.000 Kommentare zu Online-Artikeln von MDR und BR und auch von Kommentaren auf den Facebook-, Twitter oder Instagram-Seiten der beiden Sender.

Das KI-Training haben Gawlik, Paul und ihre Kollegen selbst übernommen. "Wir haben die Kommentare durchgelesen und solche Kommentare vermerkt, in denen die Redaktion angesprochen wurde", sagt Gawlik, der Computerlinguist ist. Er hat auch das KI-Modell trainiert und programmiert. Die Herausforderung dabei: "Es ist mitunter sehr vage, wie User die Redaktion ansprechen. Das kann zum Beispiel sein: 'Warum erwähnt niemand, dass...'. Oder: 'Ich bin nicht damit einverstanden, dass…'".

Jörg Pfeiffer, Product Manager beim BR AI and Automation Lab sagt, die KI suche ein wenig die Nadel im Heuhaufen: "Leute, die auf irgendeine Art und Weise die Redaktion ansprechen oder kritisieren." Das komme in der Realität nicht so oft vor – in diesem Fall nur in drei Prozent aller Kommentare. Auch das sei ein Grund, eine Lösung dafür zu finden und die Ursache dafür, dass es länger dauere, bis es einen nutzbaren Datensatz mit vielen technisch gesehen positiven Beispielen für das KI-Werkzeug gibt.

Weitere KI-Ideen im Journalismus 👇

• Ein Team aus dem Fellowship-Programm will sicherstellen, dass Bilderkennungssoftware auch Politiker aus anderen Weltregion erkennt.
• Im Projekt der "Sunday Times" und "Ippen Media" wurde ein KI-Werkzeug entwickelt, dass Propaganda erkennen soll.
• Das Projekt Nubia aus Nigeria und Norwegen will ein KI-Werkezug entwickeln, das automatisch Inhalte aus Satelliten-, sozioökonomischen, Wetter- und Webkameradaten erstellen kann, um maßgeschneiderte Inhalte für ein lokales, regionales und globales Publikum zu liefern.
• "Track an Influencer" will zeigen, ob Influencer in Social Media Werbung machen.
• Österreichische Forscher entwickeln ein Online-Werkzeug, das Nutzenden Hinweisen auf Glaubwürdigkeit von Text-, Bild-, Video- oder Audiomaterial im Internet geben soll.
• WhatsApp Watch soll eine Plattform werden, die überwachen will, wie sich Falschinformationen in Whatsapp-Gruppen verbreiten.

Eine KI: Nie perfekt trainiert

Dass Medienhäuser ein solches Werkzeug selbst entwickeln, sei wichtig, sagt Pfeiffer. "Wir prüfen natürlich, ob so etwas auch zu kaufen gibt. Aber viele Technologien sind nicht für den Journalismus gemacht." Natürlich gebe es KI-Systeme, die Texte entwerfen. "Für Werbetexte in Broschüren funktioniert das wunderbar. Aber der Journalismus hat natürlich ganz andere Kriterien", sagt Pfeifer im MDR SACHSEN-ANHALT Podcast "Digital leben".

Außerdem sind KI-Werkzeuge durch ihre Trainingsdaten auch begrenzt: Was die KI nicht kennt, erkennt sie nicht. "Nach dem russischen Angriff auf die Ukraine haben Wörter wie Energie, Erdöl oder Erdgas auf einmal eine ganz andere Konnotation. Und das kennen die KI-Systeme natürlich nicht, weil sie sich nicht über Nacht verändern", sagt Pfeiffer. Das müsse man der KI quasi neu antrainieren. Es brauche also weiter Menschen, die wissen, dass sich ein Wort oder der Kontext verändern kann.

KI im Journalismus: Möglich aber nicht überall sinnvoll

Und KI-Trainingsdaten können beeinflusst sein und so Vorurteile verstärken. Computerlinguist Gawlik: "Das lässt sich besonders gut nachvollziehen, wenn Bilder generiert werden und die KI erfolgreiche Personen zeigen soll. Das ist dann ein weißer Mann im Anzug". Für Redaktionen gehöre es deshalb dazu, über KI Bescheid zu wissen und ihre Funktionsweise und Trainingsdaten hinterfragen zu können.

In begrenzten journalistischen Standard-Werken kann eine KI Journalisten entlasten. So hat MDR SACHSEN-ANHALT zur Landtagswahl 2021 Texte automatisiert entstehen lassen. Denkbar ist auch, dass ein KI-Werkzeug den Wetterbericht verfasst. Aber Gawlik glaubt nicht, dass wichtige journalistische Ergebnisse von einer KI verfasst werden. "Da müssen sich Journalisten nämlich fragen, dauert es länger, die Qualität der KI sicherzustellen oder den Text gleich selbst zu schreiben."

An dem Prototyp, der im JournalismAI Fellowship entstand, feilen die Medienmacher von MDR, ida und BR jetzt weiter. Und das Spannende dabei: Mit allen Kommentare unter den Artikeln auf MDR.de wird die KI weiter trainiert. Wer kommentiert, hilft also uns Medienmacher, besser zu werden.

MDR (Marcel Roth)