Der Hashtag #Hass auf einem Bildschirm
Hasskommentare im Netz sind ein ernstes Problem. Bildrechte: dpa

Hasskommentar-Cleaner Wer räumt für Facebook den Müll weg?

Justizminister Heiko Maas will härter gegen Hasskommentare in den sozialen Netzwerken vorgehen. Strafbares soll nach 24 Stunden, spätestens nach sieben Tagen gelöscht werden, Verstöße sollen zwischen fünf und 50 Millionen Euro kosten. Allein in Deutschland beschäftigt Facebook mehrere hundert Menschen, die solche Inhalte löschen. Aber wer sind diese Leute und wie arbeiten sie? Das lässt sich kaum beantworten.

von Marcel Roth, MDR AKTUELL

Der Hashtag #Hass auf einem Bildschirm
Hasskommentare im Netz sind ein ernstes Problem. Bildrechte: dpa

Man kann Renate Künast nicht vorwerfen, dass sie es nicht versucht hätte. Seit zwei Jahren will sie Facebook in Berlin besuchen - so wie sie es bei Fabriken, Bauernhöfen oder anderen Unternehmen auch macht. Schließlich ist die Grünen-Politikerin früher Verbraucherschutzministerin gewesen und sitzt heute dem Bundestagsausschuss für Recht und Verbraucherschutz vor. Künast sagt: "Ich habe persönlich in Mails und Gesprächen gefragt. Ergebnis: Ich darf nie hin. Vor einigen Woche habe ich wieder an die deutsche Vertreterin geschrieben. Aber nö, ich darf nicht."

Kein Politiker, kein Journalist hat die Menschen, die für Facebook strafbare Inhalte löschen, jemals bei der Arbeit gesehen.

Facebook hält sich bedeckt

In Deutschland wird diese Arbeit in einem Industriegebiet in Berlin erledigt. Angestellt sind die Mitarbeiter bei Arvato, einem Tochterunternehmen von Bertelsmann. Das immerhin verrät, mit 600 Mitarbeitern für den Kunden Facebook zu arbeiten und auf 700 Mitarbeiter aufstocken zu wollen. Facebook selbst schreibt auf Anfrage des MDR per E-Mail:

"Jeder Mitarbeiter durchläuft einen mehrwöchigen Auswahlprozess. Anschließend erhält jeder Mitarbeiter ein verpflichtendes sechswöchiges Training sowie ein vierwöchiges Mentoringprogramm. Sobald sie beginnen, Facebook-Inhalte zu prüfen, wird jedem Mitarbeiter psychologische Betreuung angeboten. Dies geschieht auf Wunsch der Mitarbeiter und kann zu jeder Zeit in Anspruch genommen werden."

"Die schrecklichsten Dinge, die man sich vorstellen kann"

Der Journalist Till Krause bezweifelt das. Mit seinem Kollegen Hannes Grassegger hat er monatelang für das Magazin der Süddeutschen Zeitung recherchiert und mit Menschen gesprochen, die für Arvato gearbeitet haben oder immer noch arbeiten. Alle hätten psychologische Probleme, sagt er:

Die Menschen haben einen Fließband-Job aus der Hölle. Die sehen die schrecklichsten Dinge, die man sich vorstellen kann - Enthauptungen, Kinderpornografie, krasseste Gewaltdarstellungen.

Till Krause

Eine Frau habe ihm erzählt, dass sie seit langer Zeit keinen Sex mehr mit ihrem Freund haben könne, weil sie Vergewaltungsvideos nicht mehr aus dem Kopf bekomme. Viele der Mitarbeiter würden kein Deutsch sprechen, zum Teil seien es Flüchtlinge, erzählt Till Krause weiter: "Das muss man sich mal vorstellen. Man kommt aus einem Land wie Syrien und landet bei einer Firma, wo man sich den ganzen Tag Enthauptungsvideos anschauen muss."

"Facebook hat etwas zu verbergen"

Grünen-Politikerin Renate Künast ist sich mittlerweile sicher: "An der Stelle hat Facebook in Wahrheit etwas zu verbergen." Entweder seien es zu wenige, nicht richtig geschulte Mitarbeiter oder sie würden psychologisch nicht ausreichend betreut.

Meine These: Facebook hat kein Interesse daran, dass wir genauer hinsehen, weil das Regelungen zur Folge hätte. Und genau das wollen sie verhindern.

Renate Künast

Künast meint, soziale Medien wie Facebook würden sich aus der Affäre ziehen, indem sie sich selbst nur als "technische Plattformen darstellen, die mit dem Inhalt Null zu tun haben." - Medium oder Plattform? Diese Frage lässt sich nicht so schnell klären. Kurzfristig erfolgreicher wären da wahrscheinlich teure Schadenersatz-Klagen von Arvato-Mitarbeitern wegen psychischer Probleme.

Über dieses Thema berichtet MDR AKTUELL auch im: Radio | 18. März 2017 | ab 5 Uhr

Zuletzt aktualisiert: 18. März 2017, 10:57 Uhr

Die Kommentierungsdauer ist abgelaufen. Der Beitrag kann deshalb nicht mehr kommentiert werden.

11 Kommentare

19.03.2017 11:42 Ekkehard Kohfeld 11

@ Günter Kromme 10.Meine volle Zustimmung,genau des Pudels Kern getroffen,es geht darum unliebsame Meinungen zu unterdrücken die Nazikeule funktioniert seid Domplatte nicht mehr richtig dann versuchen wir es mit verbieten auch bei unliebsamen Parteien.Wie nannte man die doch gleich die das zwischen 33 und 45 auch gemacht haben.
Hallo Klauspeterwessi sie als Zweite Weltkrieg Experte müssen uns da doch Auskunft geben können?

19.03.2017 10:13 Günter Kromme 10

Gegen sogenannte Hasskommentare vorzugehen ist nur eine vorgeschobene Position um die Meinungsfreiheit einschränken zu können. Denn wer oder was macht einen Kommentar zum Hasskommentar? Diese Frage ist wichtig. Wer, das ist mir schon klar, es sind Leute denen es weniger um kriminelle Inhalte sondern vielmehr um politische Inhalte geht! Leute die Kritiker mundtot machen wollen. Leute denen trotz all ihrer Beteuerungen die Meinungsfreiheit ein Dorn im Auge ist! Und was die Meinungsfreiheit betrifft, es ist eben eine Meinung und deshalb nicht immer ein Tatsachenbericht, das ist genau der Kern der Sache! Zumal der Bürger das was er als Tatsache und Wahrheit aufgetischt bekommt zumeist gar nicht selbst nachprüfen kann, was auch oft so eingerichtet wird! Und da wird die Tatsache zur Glaubenssache wie z.B. "Ahllah ist gross" oder mordent durchs Land ziehende Glaubens Gruppen sind " Rebellen" oder "wir schaffen das" oder "Trump ist eine Katastrophe für die freie Welt", mut-maas-lich!

18.03.2017 00:47 Verbrechen nicht ahnden, aber die Wut darüber verbieten wollen 9

Herr Maas sollte lieber Staatsanwälte, die Personen, die andere Bürger wie in Dresden Zschachwitz vor die S-Bahn schubsen und danach noch das Herausklettern verhindern (=Mordversuch) umgehend wieder auf freien Fuß setzten, zur Rechenschaft ziehen statt die Wut der Bürger über solche Verfälle zu verbieten!

18.03.2017 23:40 Donald 8

Wie bitte, lese ich richtig "Enthauptungen, Kinderpornografie, krasseste Gewaltdarstellungen" -- Und ich Fool dachte my Friend little Heiko, die AA-Stiftung und neuerdings auch Correctiv bekämpfen die wahre Bedrohung der Neuen Rechten mit geballter Faust, was anderes gibt's doch nicht auf FB.

18.03.2017 19:08 Barbara 7

Danke MDR für die Veröffentlichung und ich wünsche ein schönes Wochenende.

18.03.2017 17:48 O-Perler 6

@5. (Altmeister 50): Meine Hoffnung, besser gesagt meine Erwartung an die Entwicklung ist, daß die Globalisten an der Globalisierung scheitern werden, die sie uns ja mit genau derselben Inbrunst verklickern wollen. Maas und dergleichen Leute begreifen die Struktur des weltweit gespannten Netzes überhaupt nicht, sind wohl auch intellektuell dazu nicht in der Lage. Sie könnten eine totale Kontrolle nur dann erzielen, wenn sie Strukturen wie in der VR China befehlen. Und da sehe ich doch enorme Schwierigkeiten für diese Kaste, das zu erreichen.

18.03.2017 17:14 Altmeister 50 5

Zitat von Kisslers Konter: "Gut gemeint, falsch gemacht. Per Gesetz lässt sich weder das Hassen noch das Lügen verbieten. Am Ende sitzt nur die gewünschte Weltanschauung am Reklamationsschalter."
Besser hätte man es kurzgefasst nicht ausdrücken können.
Zudem wird mit dem Gesetzentwurf eine gravierende Wissenslücke unserer Politiker über die Funktion des Internet und seine Plattformen deutlich. Wer verlangt, Müll zu löschen, der kommt im nächsten Schritt auch noch auf die Idee, diesen gar nicht erst veröffentlichen zu lassen und wird verlangen, dass die sozialen Netzwerke alle Beiträge vor deren Freigabe auf Korrektheit zu prüfen haben(analog von Kommentarrichtlinien).
Das schafft eine Menge Arbeitsplätze. Wir haben dann die internen Facebook- Mediatoren , die externen Kontrolleure, die Reklamierer und Streitschlichter sowie die Justiz.
Das sind doch rosige Aussichten.

18.03.2017 14:23 Barbara 4

aber sich über die DDR aufregen jetzt ist es
1 0 0 x schlimmer ..............

18.03.2017 11:06 Anne Moppen 3

Ach ich find das schön!
Früher, ... ja früher, da galt noch das Grundgesetz; da hieß es: "Jeder hat das Recht, seine Meinung in Wort, Schrift und Bild frei zu äußern und zu verbreiten und sich aus allgemein zugänglichen Quellen ungehindert zu unterrichten. ... Eine Zensur findet nicht statt. "!
Da galt noch das GRUNDRECHT "seine Meinung" "frei zu äußern" "und sich "ungehindert zu unterrichten" zu können !!!
Heute wird GELÖSCHT/ZENSIERT, was das Zeug hält! ... Und KEINER weiß, WAS und WARUM gelöscht/zensiert wird !!!
... und statt Millionen für staatsanwaltliche Ermittlungen bei Verstößen gegen geltende Regeln der Meinungsfreiheit auszugeben .... muß Facebook heute Millionen Buße zahlen, wenn das Unternehmen nicht das tut, was Heiko Maas so will !!! Was für eine herrlich freiheitliche Demokratie !!!

18.03.2017 09:17 ralf meier 2

Niemand wird bezweifeln, daß "Enthauptungen, Kinderpornografie, krasseste Gewaltdarstellungen" sofort gelöscht werden müssen. Aber was hat das alles mit der Strafbarkeit 'rechter Hatespeech' zu tun, wo man zu Recht feststellt, dass in einem Rechtsstaat nur die Gerichte darüber urteilen dürfen ? Wird hier das Eine genannt um vom Unrecht des Anderen abzulenken?