Eine Frau bedient die Smartphone-App des Onlinehändlers Amazon.
Algorithmen haben Einfluss darauf, welche Produkte beim Online-Shopping im Einkaufswagen landen. Bildrechte: dpa

Strengere Regulierung gefordert Wie Algorithmen unser Leben beeinflussen

Algorithmen beeinflussen das Leben der Verbraucher immer mehr – und können auch Schaden verursachen. Der Bundesverband der Verbraucherzentralen warnt deshalb vor Manipulationen bei Kreditvergabe und Online-Shopping und will die Systeme strenger regulieren. Die Verbraucherschutzminister der Länder fordern sogar eine staatliche Kontrollaufsicht. Müssen Algorithmen bald zugelassen werden?

von Sandra Röseler, MDR AKTUELL

Eine Frau bedient die Smartphone-App des Onlinehändlers Amazon.
Algorithmen haben Einfluss darauf, welche Produkte beim Online-Shopping im Einkaufswagen landen. Bildrechte: dpa

Wer im Internet einen Vertrag abschließen will, muss dabei oft einer "Bonitätsprüfung" zustimmen. Mit Hilfe eines Scores prüfen Unternehmen und Banken dann, ob man kreditwürdig ist. Der bekannteste ist der Score der Schufa. Berechnet wird dieser Wert von einem Algorithmus, genauer gesagt von einem "algorithmischen Entscheidungssystem". Der Schufa-Algorithmus überprüft zum Beispiel, wie viele Kreditgeschäfte man schon abgeschlossen hat, und ob man seine Rechnungen pünktlich bezahlt hat.

Fällt der Score schlecht aus, kann es sein, dass man Handyverträge oder Kredite nicht bewilligt bekommt. Die Entscheidungen des Algorithmus können sich also negativ auf das eigene Leben auswirken. Und das ist kein Ausnahmefall: Von der Öffentlichkeit kaum wahrgenommen greifen Algorithmen immer mehr in unser Leben ein.

Was ist ein Algorithmus?

"Ein Algorithmus ist eine Handlungsvorschrift, mit der ein Computer in die Lage versetzt wird, ein Problem zu lösen", sagt Andreas Heinecke vom Institut für Angewandte Informatik in Leipzig. Das funktioniere folgendermaßen: Der Computer nimmt Daten auf, analysiert sie und zieht daraus Schlüsse. "Im Prinzip ist das nichts anderes als eine Berechnung."

Algorithmen seien längst allgegenwärtig, sagt Heinecke. Ein Beispiel: "Wenn wir online einkaufen, werden uns Produkte angeboten, die zu dem Artikel passen, den wir ausgewählt haben. So wirken Algorithmen im Alltag."

Roboterhände entnehmen Nullen und Einsen aus einem Meer von Binärcodes. 2 min
Bildrechte: MEDIEN360G

Algorithmen bestimmen zunehmend unseren Alltag. Was aber ist ein Algorithmus und wie funktioniert er?

Fr 19.04.2019 20:01Uhr 01:48 min

https://www.mdr.de/medien360g/medienwissen/was-ist-ein-algorithmus-102.html

Rechte: MITTELDEUTSCHER RUNDFUNK

Video

Die Verbraucherschutzminister der Länder haben die Bundesregierung deshalb aufgefordert, eine "behördliche Kontrollaufsicht" für algorithmenbasierte Systeme zu schaffen. Auch der Verbraucherzentrale Bundesverband (vzbv) in Berlin will mehr gesetzliche Regulierungen durchsetzen. Der Hintergrund: Verbraucher kommen in ihrem Alltag immer mehr mit Algorithmen in Berührung, nutzen zum Beispiel digitale Sprachassistenten oder vernetzte Haushaltsgeräte.

"Viele Systeme sind ein absoluter Komfort- und Qualitätsgewinn für die Verbraucher, das sprechen wir gar nicht ab", sagt Lina Ehrig vom vzbv. Jedoch gelte es, die Risiken zu beachten. "Das Problem ist, dass niemand kontrollieren kann, ob sich diese Technik an Recht und Gesetz hält." Algorithmenbasierte Systeme dürften etwa nicht gegen das Wettbewerbs- oder das Anti-Diskriminierungsgesetz verstoßen.

Bevor ein solches System auf einen Menschen losgelassen werden darf, bedarf es einer Zulassung.

Lina Ehrig Verbraucherzentrale Bundesverband
Lina Ehrig
Verbraucher könnten von Algorithmen geschädigt werden, warnt Lina Ehrig vom Verbraucherzentrale Bundesverband. Bildrechte: Gert Baumbach - vzbv

Wenn Verbraucher über Sprachassistenten wie Alexa oder Siri im Internet einkaufen, könnten sie von einem Algorithmus manipuliert werden, ohne es zu bemerken, warnt der vzbv.

Das Szenario: Ein Nutzer lässt sich von einem Sprachassistenten ein Produkt empfehlen – und bekommt systematisch Angebote mit leicht erhöhten Preisen vorgeschlagen. Auf Dauer könnte sich das zu einem hohen Schaden aufsummieren.

Algorithmen ermöglichen Preisvergleiche im Internet

Ob dieses Szenario realistisch ist, sei relativ schwer herauszufinden, sagt Matthias Spielkamp, Geschäftsführer der Organisation Algorithm Watch. "In einer Gesellschaft, die stark auf Konsum setzt, ist es aber ein wichtiges Ziel, dass die Verbraucher davor geschützt werden, übervorteilt zu werden." Man dürfe bei der Debatte um Algorithmen allerdings nicht vergessen, welche Vorteile die technologischen Entwicklungen bieten: "Einen Preisvergleich im Internet zu machen, wäre vor 20 Jahren unvorstellbar gewesen", sagt Spielkamp. "Wenn man solche Technologien benutzt, bekommt man an vielen Stellen auch deutlich bessere Preise."

"Es kann durchaus sein, dass ein Algorithmus etwas zum Nachteil der Verbraucher entscheidet", sagt hingegen Andreas Heinecke vom Institut für Angewandte Informatik in Leipzig. "Das liegt dann aber am Entwickler, der den Algorithmus bewusst oder unbewusst in diese Richtung trainiert hat." Ihm sei ein Fall bekannt, bei dem ein Reiseanbieter unterschiedliche Preise angeboten hat – je nachdem, mit welchem Browser seine Webseite aufgerufen wurde.

Einem Nutzer mit einem Apple-Notebook seien in diesem Fall teurere Preise angezeigt worden als einem Nutzer, der die Seite von einem Laptop einer anderen Marke aufgerufen hat. "Der Anbieter wird sich gedacht haben, dass jemand, der sich ein teures Notebook leisten kann, auch bereit ist, mehr Geld für eine Reise zu bezahlen."

Wieviel Schaden richten Algorithmen an?

Um derartige Vorfälle zu verhindern, will der vzbv ein gesetzliches Kontrollsystem für Algorithmen etablieren. In einem ersten Schritt sollen diese darauf untersucht werden, wie viel Schaden sie Einzelpersonen oder der Gesellschaft zufügen könnten. Je höher das Risiko, desto strenger die Regulierungen, die dann angewendet werden sollen.

Daniela Kolbe, SPD-Politikerin
Daniela Kolbe Bildrechte: SPD-Bundestagsfraktion

Darüber, wie sich Algorithmen auf unsere Gesellschaft auswirken, diskutiert auch der Bundestag: "Es gibt viele Bereiche, in denen wir die Interessen der Verbraucher im Blick haben müssen", sagt Daniela Kolbe, Vorsitzende der Enquete-Kommission für Künstliche Intelligenz. "Das fängt schon bei der Preisgestaltung im Internet an."

Ob es eine staatliche Kontrollaufsicht für Algorithmen geben soll, wie sie die Verbraucherschutzminister der Länder fordern, werde noch beraten, sagt Kolbe. Fest stehe, dass es nicht das eine Instrument der Algorithmenkontrolle geben könne. "Man muss sich jeden Fall einzeln anschauen – in manchen braucht man eine strenge Regulierung, in anderen gar keine", erklärt die SPD-Politikerin. Im Gesundheitsbereich werde zum Beispiel darüber diskutiert, eine Zulassungspflicht für Robotik-Systeme einzuführen.

Experte: Gesunde Skepsis bei Algorithmen angebracht

"Es gibt viel algorithmenbasierte Technologie im Gesundheitsbereich, gerade bei der Diagnostik. Das ist für die Verbraucher erstmal sehr positiv", sagt Lina Ehrig vom vzbv. Wenn es um Leben und körperliche Unversehrtheit geht, bestehe jedoch das größte Risiko, dass Verbraucher von einem Algorithmus geschädigt werden. Ein konkretes Beispiel dafür seien Pflegeroboter: Die könnten, so die Befürchtung der Verbraucherschützer, Patienten die falschen Medikamente verabreichen oder sie beim Heben in den Rollstuhl verletzen. "Bevor ein solches System auf einen Menschen losgelassen werden darf, bedarf es einer Zulassung", fordert Ehrig.

 "Von einem Roboter, der eine Person pflegt, sind wir Millionen Jahre entfernt“, sagt hingegen Hans-Joachim Böhme, Professor für Künstliche Intelligenz an der Hochschule für Technik und Wirtschaft in Dresden. Dass die Verbraucher in Bezug auf Algorithmen verunsichert sind, findet er aber verständlich: "Da ist eine gesunde Skepsis angebracht. Es gibt viele Bereiche, in denen man kritisch hinterfragen muss, was diese Algorithmen machen. Zum Beispiel bei der Kreditvergabe. Wenn jemand sich wundert, weil er miserable Konditionen bekommt, und dann stellt sich heraus, dass er zufällig in einer Straße wohnt, in der es 'Problemfälle‘ gibt. So etwas will man nachvollziehen können."

Noch zu wenige Beschwerden von Verbrauchern

Dass Algorithmen für Verbraucher im Moment noch viel zu undurchsichtig sind, zeige sich auch daran, dass sich nur wenige Leute bei den Verbraucherzentralen beschweren, sagt Lina Ehrig: "Da beißt sich die Katze in den Schwanz." Schließlich könnten Verbraucher nicht wissen, ob und wie sie mit einem Algorithmus in Berührung kommen. Neben einer strengeren Regulierung fordert der Verbraucherzentrale Bundesverband deshalb auch mehr Transparenz: Verbraucher müssten darüber informiert werden, dass eine Entscheidung über sie von einem Algorithmus getroffen wird – und darüber, welche Folgen das für sie haben kann.

Forderung: Verbraucher sollen sich wehren können

Darüber hinaus sollen Verbraucher ein Auskunftsrecht bekommen, um die Entscheidungen der Algorithmen im Einzelfall nachvollziehen und überprüfen zu können. Nur so könnten sie sich wehren – zum Beispiel, wenn sie den Verdacht haben, bei der Kreditvergabe diskriminiert worden zu sein.

“Den Wunsch nach einer Beschwerdestelle, an die man sich wenden kann, wenn man den Verdacht hat, dass etwas nicht in Ordnung ist, kann ich nachvollziehen", sagt Andreas Heinecke vom Institut für Angewandte Informatik. Gesetzliche Regulierungen für Algorithmen könnten sich hingegen negativ auf die Digitalisierung in Deutschland auswirken, befürchtet er. "Sobald es Rahmenbedingungen gibt, die stark regulierend eingreifen, kann das den Fortschritt stark behindern. Vielleicht sogar so weit, dass wir von anderen Ländern überholt werden", sagt Heinecke.

Deshalb müsse es die Aufgabe der Betreiber von Algorithmen sein, von sich aus gewisse Richtlinien zu beachten. Der Bundesverband für Künstliche Intelligenz biete zum Beispiel ein Gütesiegel an, mit dem sich Betreiber freiwillig dazu verpflichten können, Transparenz zu schaffen und ethische Grundsätze bei der Entwicklung ihrer Algorithmen einzuhalten.

Wenn algorithmische Systeme von vornherein so gestaltet werden, dass überhaupt kein Risiko für die Verbraucher von ihnen ausgeht, seien dann im besten Fall überhaupt keine Regulierungen mehr notwendig, sagt Lina Ehrig vom vzbv. "Hier sehen wir aber noch deutlich Nachholbedarf." 

Dieses Thema im Programm: MDR AKTUELL KULTUR | 15. Mai 2019 | 07:10 Uhr

Zuletzt aktualisiert: 31. Mai 2019, 06:00 Uhr