Analyse | EU-Pläne gegen Kindesmissbrauch Wirksame Chatkontrolle und Privatsphäre zugleich: Beides geht wohl nicht

Kristian Schulze
Bildrechte: MDR/Kristian Schulze

Die EU-Kommission will unter anderem Anbieter von Messenger-Diensten zu einer umfassenden Kontrolle privater Kommunikation verpflichten. Es geht um Kinderschutz und das Aufspüren von Missbrauchsfällen. Zugleich aber soll private Kommunikation geschützt bleiben. Kann das zusammen gehen? Es gibt erhebliche Zweifel.

Ein Junge spielt ein Videospiel auf seinem Smartphone und überträgt es mit einem zweiten Handy per Facetime zu seinem Freund.
Die neuen EU-Pläne sollen vor allem Kinder schützen: Der allgemeine Schutz der Privatsphäre im Netz könnte dahinter zurücktreten. Bildrechte: dpa

EU-Innenkommissarin Ylva Johansson hat jetzt Pläne vorgestellt, wie Anbieter von Messenger-Diensten zu mehr Kinderschutz verpflichtet werden sollen. Bisher waren ihre Maßnahmen freiwillig. Nun allerdings sollen sie Darstellungen sexueller Handlungen und sexualisierter Gewalt gegen Kinder, aber auch verdächtige Kontakte von Erwachsenen zu Kindern selbst finden, diese melden und entfernen: Der Entwurf im Detail (pdf, Englisch)

Was die EU will und warum

EU-Mitgliedsländer sollen Behörden oder Gerichte nennen, die diese Kontrollen anweisen. Eine Zentralstelle bei Europol soll das unterstützen, die Unternehmen sollen Technologien bekommen, um in privaten Chats oder Mails bekannte Missbrauchsdarstellungen, ähnliche und neue zu finden.

Wie genau sie das umsetzen, soll den Anbietern überlassen bleiben. Der Entwurf formuliert jedoch harte Anforderungen: Sie sollen Missbrauchsfälle aufspüren, dabei aber "keine anderen Informationen aus den betreffenden Mitteilungen extrahieren können" als die unbedingt erforderlichen. Johansson begründete das mit einer starken Zunahme von Missbrauchsmaterial. Allein 2021 seien weltweit 85 Millionen Fotos und Videos entdeckt worden.

Noch nicht ganz klar erschien bei ihrer Präsentation und in dem Entwurf bislang, ob und wie diese Kontrollen auch von einem konkreten Verdacht abhängig gemacht werden sollen.

"Es geht nicht um Verschlüsselung"

Für Johansson scheint Chatkontrolle aber ohnehin kaum etwas anderes zu sein, als ein Spamfilter oder Antiviren-Software. Bedenken, solche Verfahren könnten die Privatsphäre aller Nutzer beschädigen, wies sie zurück.

Ylva Johansson
EU-Innenkommissarin Ylva Johansson, Schweden Bildrechte: IMAGO / Hans Lucas

So habe die E-Privacy-Richtlinie schon länger die Durchsuchung von Kommunikation bei der Erkennung etwa von Spam und Schad-Software erlaubt. Das solle es nun auch für Missbrauchsmaterial geben. Dabei sagt Johansson, das gehe ohne das Ende von Verschlüsselungen.

"In dem Vorschlag geht es nicht um Verschlüsselung", sagte sie. Es sei nicht Ziel, die Kommunikation zu lesen, sondern ganz spezielle illegale Inhalte zu finden. Das könne so funktionieren, wie mit einem Magneten nach einer Nadel im Heuhaufen zu suchen: "Der wird nur die Nadel sehen, nicht das Heu."

Ist das technisch wirklich machbar?

Technisch machbar ist für Experten das Aufspüren illegaler Inhalte wie auch der Schutz privater digitaler Kommunikation – nach kritischer Ansicht aber nicht gleichzeitig, jedenfalls nicht so, wie von der EU vorgestellt.

So sagte etwa Markus Reuter von netzpolitik.org auf Anfrage von MDR AKTUELL: "Das Paket ist ja noch etwas verschleiert und spart die Frage aus, welche Technik zum Einsatz kommen soll." Generell gebe es zwei Varianten, "die Verschlüsselung brechen oder direkt auf den Endgeräten der Kunden" suchen, also Client Side Scanning (CSS). Technisch werde aber kein Zugriff möglich sein, ohne die Privatheit der Kommunikation zu zerstören.

Kind Smartphone
Um zu klären, ob Kinder untereinander kommunizieren, muss das Alter der Nutzer bekannt sein. Bildrechte: dpa

Weiteres Problem sei, dass all das automatisiert laufen solle, "was sehr fehlerhaft sein wird". Reuter erwartet viele falsche Meldungen: "Künstliche Intelligenz ist nicht so schlau, wie vielleicht erwartet wird. Dazu müssten noch viel mehr private Daten aufgenommen und verifiziert werden: Wer schickt wem was?" So müsse das Alter verifiziert und auch identifiziert werden, wer kommuniziert. Dabei könne schon jetzt, wegen der schieren Menge der Meldungen, das Bundeskriminalamt nur noch reagieren auf das, was etwa Facebook allein in seinen öffentlichen zugänglichen Bereichen finde.

Vor Fehlern und davor, falsch unter Verdacht zu geraten, warnt auch Patrick Breyer, EU-Abgeordneter der Piraten und "Digitaler Freiheitskämpfer". So berichtet er, dass sich 86 Prozent der im Jahr 2020 bei der Schweizer Polizei maschinell gemeldeten Fälle als unbegründet erwiesen hätten. Überhaupt nutzten organisierte Täter kaum E-Mails oder Messenger-Dienste.

Was sagen die Unternehmen?

Die Facebook-Mutter Meta, zu der auch WhatsApp gehört, hatte sich schon Anfang April gegen Client-Side-Scanning und Chatkontrolle gewandt, auch auf Basis einer eigens dazu in Auftrag gegebenen Untersuchung.

Nach Kritik unter anderem in Deutschland verzichtete Apple auf seinen Nacktbild-Scanner im Messenger. Die nun verfügbare Kinderschutzfunktion ist eine deutlich abgespecktere Version von Chatkontrolle. Von Telegram oder Signal und anderen ist weniger bekannt, was sie bereits tun oder planen.

Ende digitaler Privatheit?

Schon im März hatten fast 40 Bürgerrechtsorganisationen in einem offenen Brief davor gewarnt, die EU "zum Weltmarktführer der Massenüberwachung" zu machen. Und jetzt, sagte Stephan Dreyer vom Hamburger Hans-Bredow-Institut für Medienforschung im Deutschlandfunk, werde eine "rechtliche Infrastruktur für eine flächendeckende Kontrolle" aufgebaut. Die EU-Staaten selbst dürften solche Dinge nicht machen, sollen sie aber anweisen. Er habe große Zweifel, dass das einer gerichtlichen Prüfung standhalten würde.

Auch Reuter meint: "Wenn die EU so vorangeht, schafft sie Strukturen, in denen eine gesichert private Kommunikation nicht mehr möglich sein wird. Das wäre das Ende der Privatsphäre in der Messenger-Kommunikation", durch das Ende der Verschlüsselung oder durch CSS, das nach Einschätzung führender Fachleute jede Verschlüsselung sinnlos machen würde.

Reuter: "Das ist das größte und übergriffigste Überwachungspaket" der EU bisher. Sogar dem Deutschen Kinderschutzbund gehe das zu weit. In der Tat sagte DKSB-Vorstand Joachim Türk im Bayerischen Rundfunk, diese Pläne seien unverhältnismäßig und unnötig und Messenger nicht das Problem.

Wird das so durchgesetzt?

Damit das umgesetzt werden kann, müssen die EU-Staaten und das EU-Parlament zustimmen. Bis dahin deutet sich Widerstand an, etwa von Tiemo Wölken, einem deutschen EU-Abgeordneten der SPD:

Der EU-Abgeordnete Rasmus Andresen (Grüne) kündigte auf Twitter an, den Entwurf im Parlament stoppen zu wollen, um "bessere Vorschläge gegen Missbrauch durchzusetzen". Und FDP-Kollege Moritz Körner schrieb: "Mit der Chatkontrolle wäre das digitale Briefgeheimnis tot. Die EU-Kommission darf mit dieser staatlichen Schnüffelsoftware nicht durchkommen."

Von Bundesinnenministerin Nancy Faeser (SPD) hieß es bei Twitter jedoch, es habe "höchste Priorität, Kinder vor sexualisierter Gewalt zu schützen" und "Täter und ihre Netzwerke mit allen rechtsstaatlichen Mitteln" zu verfolgen.

"Netzpolitiker" Reuter hofft, dass aus den EU-Plänen keine solchen Mittel werden. Er ist gespannt, wie die Ampel-Koalition reagiert: "Sie hat sich ja auch die Internetfreiheit in ihrem Koalitionsvertrag auf die Fahnen geschrieben."

Tatsächlich heißt es im Koalitionsvertrag: "Wir wollen den Schutz der Menschenrechte im digitalen Zeitalter stärken, Internetfreiheit und digitale Menschenrechte zu außenpolitischen Schwerpunkten machen" und:

Das Recht auf Anonymität sowohl im öffentlichen Raum als auch im Internet ist zu gewährleisten.

Koalitionsvertrag von SPD, Grünen und FDP Seite 109

MDR, netzpolitik.org, DLF

Dieses Thema im Programm: MDR AKTUELL RADIO | 11. Mai 2022 | 22:18 Uhr

Mehr aus Politik

Mehr aus Deutschland

Ein Chor steht auf einer Bühne und singt. 1 min
Bildrechte: MITTELDEUTSCHER RUNDFUNK