Digitalisierung Verbraucherschützer: Auch Technik muss sich an Gesetze halten

Künstliche Intelligenz darf nicht gegen geltendes Recht verstoßen, sagt der Verbraucherzentrale Bundesverband und fordert, dass Algorithmen strenger reguliert werden. Im Interview mit MDR AKTUELL spricht Lina Ehrig darüber, warum es für Verbraucher außerdem mehr Transparenz geben muss.

von Sandra Röseler

MDR AKTUELL: Der Verbraucherzentrale Bundesverband fordert, dass Algorithmen strenger reguliert werden. Warum stellen Sie diese Forderungen – und warum jetzt?

Lina Ehrig: "Es gibt für Verbraucher immer mehr Lebensbereiche, in denen Entscheidungen automatisiert auf Basis von Algorithmen getroffen werden. Zum Beispiel, wenn man einen Kredit beantragt und dafür eine Schufa-Bescheinigung braucht. Außerdem gibt es immer mehr Systeme, die Profile bilden, wenn man im Internet einkaufen geht, und die Preise anhand von vorangegangenem Kaufverhalten bilden. In Zuge der Digitalisierung werden auch immer mehr Geräte auf Basis von Algorithmen miteinander vernetzt. 

Insofern wird das für Verbraucher ein immer wichtigeres Thema, dem wir uns annehmen wollen. Wir müssen uns Gedanken darüber machen, wie wir mit dieser neuen Technologie als Gesellschaft umgehen möchten und welche Anforderungen wir haben, damit diese Technik unseren rechtlichen Vorgaben entspricht – aber auch unseren gesellschaftlichen und ethischen Vorstellungen."

Sie sprechen von rechtlichen Vorgaben – muss der Gesetzgeber tätig werden?

"Dass diese Technik kontrollierbar sein muss, ist eine unserer Forderungen. Rechtliche Bestimmungen wie das Datenschutzrecht, aber auch das Anti-Diskriminierungsgesetz oder das Wettbewerbsgesetz müssen eingehalten werden. Das Problem ist, dass niemand so richtig kontrollieren kann, ob sich diese Technik an das Gesetz hält. Insofern richtet sich unsere Forderung vor allem an die Politik: Sie soll den Aufsichtsbehörden mehr Befugnisse erteilen, damit hier eine Kontrolle stattfindet.

Lina Ehrig
"Wir dürfen diese Technik nicht einfach anwenden und im Nachheinein merken, dass Fehler passieren", sagt Lina Ehrig vom Verbraucherzentrale Bundesverband. Bildrechte: Gert Baumbach - vzbv

Darüber hinaus fordern wir aber noch, dass der Gesetzgeber mehr Transparenz schafft. Das Problem ist, dass es keiner richtig weiß, wie zum Beispiel der Schufa-Score zu Stande kommt. Verbraucher müssen wissen, wann eine Entscheidung automatisiert getroffen wird, damit sie sich erkundigen können, welche Daten verwendet wurden: Sind die Daten noch korrekt? Sind sie veraltet? Wenn die Daten falsch sind, kann das wesentliche Auswirkungen haben. Der Schufa-Score entscheidet ja zum Beispiel darüber, ob man einen Kredit bekommt und zu welchen Konditionen."

Algorithmen können für Verbraucher auch praktisch sein – Stichwort Smart Home oder Sprachassistenten. Inwieweit muss man Nutzen und Gefahr abwägen?

"Viele Systeme sind ein absoluter Komfort- und Qualitätsgewinn und sehr gut für die Verbraucher. Das sprechen wir gar nicht ab. Wir wollen nur, dass diese Systeme kontrollierbar sind. Allerdings beinhaltet nicht jedes System das gleiche Risiko. Deshalb sollte man zuerst über Kriterien nachdenken, um die Risiken der einzelnen Systeme auch einzustufen. Für den einzelnen Verbraucher aber auch für die Gesellschaft. Es gibt zum Beispiel viel algorithmenbasierte Technologie im Gesundheitsbereich, gerade bei der Diagnostik. Das ist für die Verbraucher erstmal sehr positiv.

Gleichzeitig ist der Gesundheitsbereich ein Bereich, wo es um Leben und körperliche Unversehrtheit geht, der sehr risikobehaftet ist und wo die Kontrollen deshalb strenger sein sollten. Bei Pflegerobotern sehen wir zum Beispiel ein sehr hohes Risiko. Bevor ein solches System auf Menschen losgelassen werden kann, bedarf es einer Zulassung. Oder wenn man an das autonome Fahren denkt: Wir dürfen diese Technik nicht einfach anwenden und dann im Nachhinein merken 'Ups da passieren ja Fehler'. Die Auswirkungen können dann einfach oft nicht rückgängig gemacht werden."

Sie fordern jede Menge Regulierungselemente für Algorithmen. Provozieren Sie damit einen Stillstand der technischen Entwicklungen?

"Nein, davon gehen wir nicht aus. Wir sprechen uns dafür aus, dass die Systeme schon so gestaltet sein müssen, dass sie die rechtlichen Vorgaben erfüllen. Nur, weil man eine neue Technologie anwendet, heißt das nicht, dass die Technologie nicht rechtskonform sein muss. Wo wir noch Nachholbedarf sehen ist, dass einheitliche Normen und Standards schon bei der Entwicklung der Systeme etabliert werden. Wenn das schon vor dem Markteintritt passiert, sehen wir da kein Innovationshemmnis.

Mit Blick auf den Wettbewerb glaube ich sogar, dass es gegenüber Amerika aber auch China wichtig ist, dass die Systeme unsere rechtlichen und gesellschaftlichen Vorgaben auch erfüllen. Auf lange Sicht könnte das sogar ein Wettbewerbsvorteil sein. Alles, was beim Design, der Implementierung und Gestaltung von Systemen schon berücksichtigt wird, macht im Nachhinein immer viel weniger Probleme."

Dieses Thema im Programm: MDR AKTUELL RADIO | 24. Mai 2019 | 20:17 Uhr

Zuletzt aktualisiert: 01. Juni 2019, 05:00 Uhr