Michael Kreil
Datenjournalist Michael Kreil hat Studien zum Thema "Social Bots" unter die Lupe genommen. Bildrechte: CC by 4.0 34C3 media.ccc.de

Jahrestreffen Chaos Computer Club Beeinflussen "Social Bots" tatsächlich politische Meinungen?

2016 und 2017 waren Wahljahre und geprägt von Warnungen vor "Social Bots", also Maschinen, die in Sozialen Netzwerken die politische Meinung beeinflussen. Studien untermauerten diese Furcht vor den Meinungsmaschinen. Doch gibt es sie überhaupt? Der Datenjournalist Michael Kreil hat auf dem Hackertreff beim Jahrestreffen des Chaos Computer Clubs in Leipzig Zweifel an den Studien und den zugrundeliegenden Daten aufgeworfen.

von Anja Neubert

Michael Kreil
Datenjournalist Michael Kreil hat Studien zum Thema "Social Bots" unter die Lupe genommen. Bildrechte: CC by 4.0 34C3 media.ccc.de

Frage: Sie haben sich in den vergangenen Monaten intensiv mit "Social Bots" befasst, die die politische Agenda beeinflussen. Wie definieren Sie "Social Bots" in diesem Zusammenhang?

Michael Kreil: Ich habe mich an der gängigen Definition orientiert, nach der "Social Bots" Computerprogramme sind, die in den Sozialen Medien unterwegs sind und so tun, als ob sie Menschen seien, um die öffentliche Meinung zu beeinflussen.

Unter anderem haben Sie wissenschaftliche Studien zum Thema unter die Lupe genommen. Gibt es da relevante Untersuchungen, die in der Öffentlichkeit wahrgenommen wurden? Und: Wieso haben Sie sich die Mühe gemacht?

Michael Kreil: Als Datenjournalist hat mich die Analyse von Daten schon immer fasziniert. Daher begann ich Ende 2016 damit, mich mit Twitter-Daten auseinanderzusetzen. Welche Daten kann man dort abgreifen, wie kann man sie analysieren und kann man gesellschaftliche Debatten identifizieren und abbilden? Zusätzlich kam das Thema "Social Bots" auf, dem ich von Anfang an skeptisch gegenüber stand, und mir daher eine eigene Meinung bilden wollte. Dass es Bots auf Twitter gibt, war mir klar, aber können sie wirklich die öffentliche Meinung beeinflussen?

Viele Studien haben nicht mal nachgewiesen, dass die gefundenen Accounts überhaupt Social Bots sind!

Michael Kreil, Datenjournalist

Zu "Social Bots" gibt es bereits zahlreiche Untersuchungen. Ich glaube, die beiden einflussreichsten Untersuchungen dazu befassen sich mit der US-Wahl: "Social bots distort the 2016 U.S. Presidential election online discussion" der University of Southern California und "Bots and Automation over Twitter during the U.S. Election" der University of Oxford. Beide Studien werden z.B. im Thesenpapier "Social Bots" des Büros für Technikfolgen-Abschätzung beim Deutschen Bundestag verwendet.

Sie haben einen Haken gefunden, den alle von Ihnen erwähnten Studien haben. Wie sieht der aus?

Michael Kreil: Es gibt eigentlich zwei Haken: Zum einen konnte ich keine Studie finden, die nachgewiesen hat, dass "Social Bots" tatsächlich Menschen in den sozialen Medien in ihrer politischen Meinung beeinflussen können.

Der zweite und wirklich problematische Haken: Viele Studien haben nicht mal nachgewiesen, dass die gefundenen Accounts überhaupt "Social Bots" sind! Die Studie aus Kalifornien verwendet ein fehleranfälliges Mustererkennungssystem, das amerikanische Medien wie das Wall Street Journal, die New York Times, aber selbst den Twitteraccount der US-Präsidenten als Social Bots klassifiziert.

Die Universität Oxford verwendet einen anderen Ansatz, nach dem Accounts mit mehr als 50 Tweets am Tag vermutlich Social Bots seien. Auf der Basis habe ich 12 Accounts ausgewählt, die am US-Wahltag sogar 100 Tweets und mehr veröffentlicht haben. Ergebnis: zwei "dumme" Bots, fünf sehr engagierte Bürger, ein Satireaccount, eine Journalistin und drei Accounts, die gar nichts mit der US-Wahl zu tun hatten. Ein Account wollte zum Beispiel nur Werbung für eine Handy-App machen und verwendete dafür die "Trending Hashtags".

Diese Ergebnis fand ich so ernüchternd, dass ich sie veröffentlicht habe, mit der Forderung, dass solche wissenschaftlichen Methoden hinterfragt, überprüft und verifiziert werden müssen.

Damit wäre das "Social-Bots"-Rauschen, das in den vergangenen Monaten durch die Medien ging, nur ein Sturm im Wasserglas? Haben Sie damit eine der größten Fake News in der Berichterstattung der vergangenen Monate aufgedeckt?

Michael Kreil: Wenn man sich die zahlreichen Studien genauer anschaut, wird man feststellen, dass viele Experten hier oft nur "vermuten" oder etwas "für möglich halten". Dem kann ich mich auch zu 100 Prozent anschließen. "Social Bots" bleiben weiterhin eine theoretische Möglichkeit.

Leider sind diese Vermutungen eskaliert in Studien mit Titeln wie z.B. "Invasion der Meinungs-Roboter", was ich persönlich für unsachlich und wissenschaftlich unprofessionell halte.

Welches ist denn aus Ihrer Sicht das nächste große Ding aus den Sozialen Medien, das die politische Berichterstattung verändern oder beeinflussen wird? Was kommt nach Social-Bot und Fake-News-Rufen - und könnte Deep Learning, so wie es jetzt funktioniert, nicht zu deutlich größeren Verwerfungen führen?

Michael Kreil: Viele Neuerungen ließen sich 12 Monate zuvor noch nicht mal erahnen. Deshalb kann und möchte ich nicht über die Zukunft spekulieren.

Wo ich aber eine neue Herausforderung sehe, ist die immer stärker wachsende Gruppe von Menschen, die sich in den Sozialen Medien politisch interessieren, informieren und engagieren. Teile davon konzentrieren sich aber nicht auf die Fakten, sondern auf ihre Angst, Ohnmacht und Wut, und sind empfänglich für Heilsversprechen neurechter Parteien.

Hier sehe ich eine Verantwortung der Politik, mit den Mitteln der digitalen Medien neue Formen des Dialoges zu entwickeln, um das Vertrauen in Politik, staatliche Institutionen und die Demokratie zu erhalten.

Dank der Sozialen Medien haben wir jetzt eine Möglichkeit, dass Millionen von Menschen ihre Meinung frei und öffentlich äußern können. Leider haben wir noch keinen Weg gefunden, diesen vielen Menschen auch zuzuhören, oder gesellschaftliche Debatten zuführen.

Dieses Problem zu ignorieren, wird es schrittweise nur weiter verschärfen.

Dieses Thema im Programm: MDR AKTUELL FERNSEHEN | 30. Dezember 2017 | 21:45 Uhr

Zuletzt aktualisiert: 31. Dezember 2017, 07:54 Uhr

Die Kommentierungsdauer ist abgelaufen. Der Beitrag kann deshalb nicht mehr kommentiert werden.

8 Kommentare

01.01.2018 16:17 Wo geht es hin? 8

Was sind in ihrer Existenz und Wirksamkeit umstrittene "Social Bots" schon gegen das Gesetz, was mit dem heutigen Tage in D in Kraft getreten ist? Es ist ein Gesetz, bei dem die Judikative praktisch entmachtet wurde. Aber über die Polen wird sich in der EU aufgeregt und diese mit einem Strafverfahren überzogen. Erstmals bestimmt nach 1989 wieder die Regierung, was unter die Meinungsfreiheit zählt oder eben auch nicht. Da sind "Social Bots" Kinderkram dagegen...Da kann man nur sagen: das Jahr geht ja gut los und wird noch weitere "Überraschungen" dieser Art für D bereithalten. Freut euch!

01.01.2018 11:08 Fragender Rentner 7

Na dafür haben sie bestimmt so verschiedene Leute eingeführt um andere zu beeinflussen oder zumindest es zu versuchen.

Wie mit dem "Darknet" das wurde doch ursprünglich auch für andere Zwecke genutzt oder benutzt!

31.12.2017 15:21 @MCantow 6

@Heike
„Wenn eine z.B. Bot-Zeitung beginnt, täglich über […] zu reden, dann beginnen einige Menschen wirklich daran zu glauben!“

Das ist grundsätzlich richtig, allerdings haben etwa bei Twitter Bots an sich direkt noch keine bzw. nur eine sehr geringe Reichweite und auch indirekt (über Hashtag/s[-SPAM] und dadurch bedingtes Manipulieren von Trends) ist durch die Gestaltung der Trend- und Suchergebnisseiten (welche die hinsichtlich Relevanz gefilterten „Top“-Ergebnisse statt der früher gleich erscheinenden Ergebnisse in chronologischer Reihenfolge zuerst anzeigen) und andere Maßnahmen zur Sichtbarkeitsverhinderung die mögliche Reichweite begrenzt.

Hier liegt übrigens auch das von Michael Kreile genannte Manko bisheriger Studien, die Tweets von als Bot eingestuften Profilen nur quantitativ erfassen und nichts über deren Reichweite und damit auch nichts über die mögliche – geschweige denn reale – Wirkung aussagen.

31.12.2017 13:37 ralf meier 5

Man sollte 'Sozial Bots' nicht ignorieren. So bietet die Zeitunter dem Stichwort: 'Kostenloses Unterrichtsmaterial für die Sekundarstufe II' für den Monat März 2017 eine Unterichtsreihe 'Social Bots: Meinungsroboter als Wahlkampfhelfer' an. Dort wird an einem Beispiel erläutert, wie ein fiktiver AFD Politiker zum Thema »Deutschland zuerst«. ein Bot-Programm erstellt, welches dann unter dem Hashtag »#germanyfirst!« Hunderttausende Tweets mit zustimmenden Kommentaren generiert.

In einem Arbeitsblatt 1 sollen Schüler dann lernen, daß solche AFD Bots eine Gefahr für die Meinungsbildung in einer Demokratie darstellen. In einem Arbeitsblatt zwei wird dann ein positives Beispiel für die Nutzung von Sozial Bots vorgestellt, bei dem sich Bots gegen Rassismus und Hasskommentare im Netz einschalten.

31.12.2017 12:00 gneisenau 4

Selbstdenkende und Staatspropagandaresistente Menschen , welche die Augen in ihrem eigenen Umfeld, auf der Straße weit offen haben , benötigen keine Bots und was man uns hier sonst noch alles weiß machen will.
Da benötigen wir niemanden, der das für uns schafft und uns eine vorgefertigte Meinung , tagtäglich von versch. Medien einhämmern will.

31.12.2017 11:44 Krause - "lieber nackt als rechtsextremistisch!" 3

Politik ist nun mal per se 'Meinungsmache'.

Wenn nun für gewisse 'Rucke' nicht oder nicht nur 'social bots' verantwortlich gemacht werden können, muß es ja an etwas anderem liegen.

Die stupiden Wiederholungen sollten eigentlich einfach als 'social bots' zu erkennen sein, wenn sie gar keinen Einfluß ausüben...
... oder man muß den Begriff 'social bot' an sich überdenken: für gewisse 'Plattitüden' muß man ja nun nicht unbedingt eine Maschine sein.

30.12.2017 20:23 Heike 2

Natürlich beeinflussen. Wenn eine z.B. Bot-Zeitung beginnt, täglich über "globale Erwärmung" oder von "schädlichen Diesel und unschädlichen E-PKW" zu reden, dann beginnen einige Menschen wirklich daran zu glauben!

30.12.2017 20:02 REXt-Merkel ist an Ende, Rücktritt! 1

Ich brauche keine „Social Bots“ , mir reichen tägliche Nachrichten, ZDF, ARD, dann so einige Zeitungen u. nicht zu vergessen DPA, solange ich keinen Sand in denKopf kriege, so lange kann ich noch selbständig DENKEN u. brauche keine vorgekauten Meinungen, von niemanden!