(Ursendung)
Alzheimer, Parkinson oder Depression - wenige Sekunden einer Sprachaufnahme reichen aus, um herausfinden, ob eine Person bereits erkrankt ist oder Gefahr läuft, in Zukunft krank zu werden. Davon sind die Entwicklerfirmen von speziellen KI-Systemen überzeugt. Die Stimme sei "das neue Blut" - mit dem sich viel Geld verdienen lässt. Mit Hilfe von Smartphones soll künftig jeder solche Daten selbst erheben können. Neben körperlichen Veränderungen im Sprachmuster geht es auch um die Analyse von Emotionen, beispielsweise im Bereich der psychischen Gesundheit: Mit welcher Frequenz spricht eine Person, macht sie auffällige Pausen beim Sprechen, wie viel Druck hat sie auf der Stimme? All diese Marker sollen verraten, ob jemand traurig, aufgebracht oder wütend ist.
Während in der Medizin über die Aussagekraft dieser Tools debattiert wird, kommt die Analyse von Gefühlen in der freien Wirtschaft bereits zum Einsatz. "Dieses Gespräch wird zu Trainingszwecken aufgezeichnet" - wenn Anrufer*innen diesem Satz nicht widersprechen, sind die Chancen hoch, dass sie selbst in der Hotline analysiert werden. Die KI zeigt der Callcenter-Mitarbeiter*in am anderen Ende der Leitung an, ob die Anrufer*in zum Beispiel wütend ist. Dieses Wissen soll Mitarbeiter*innen helfen, die Gesprächsstrategie zu optimieren.
Doch auch die Mitarbeiter*innen in Callcentern werden durchleuchtet: Antworten sie freundlich, reagieren sie schnell genug und adäquat auf ihr gegenüber? Diese Form der Überwachung in Echtzeit kritisieren Betriebsrät*innen und Arbeitsrechtler*innen.
Das EU-Parlament setzt sich für ein Verbot der Emotionsanalyse ein. Befürchtet wird eine um sich greifende Überwachung durch Konzerne, im schlimmsten Fall aber auch durch staatliche Akteure.
Rebecca Ciesielski ist Reporterin im AI + Automation Lab des Bayerischen Rundfunks. Für den BR berichtet sie darüber, wie Algorithmen und Automatisierung unser Leben und die Gesellschaft beeinflussen und verändern. In früheren Recherchen hat sie zusammen mit Kolleg:innen beispielsweise tausende Fake-Webseiten und automatisierte Mitarbeiter:innen-Überwachung entdeckt, mit Satellitendaten Hitze-Hotspots in Städten recherchiert und ist der Frage nachgegangen, ob Smartphones heimlich zuhören.
Sammy Khamis studierte Politik- und Kulturwissenschaften in München. Erste journalistische Erfahrungen sammelte er während der Revolution in Ägypten 2011. Seitdem ist er vorwiegend für den BAYERISCHEN RUNDFUNK tätig. Seit 2020 gehört er zur investigativ Abteilung BR Recherche | BR Data | AI Lab. Auszeichnungen: Reporter des Jahres regional 2020, Kurt Magnus Preis 2017 und Axel-Springer-Preis 2014.
Alzheimer, Parkinson oder Depression - wenige Sekunden einer Sprachaufnahme reichen aus, um herausfinden, ob eine Person bereits erkrankt ist oder Gefahr läuft, in Zukunft krank zu werden. Davon sind die Entwicklerfirmen von speziellen KI-Systemen überzeugt. Die Stimme sei "das neue Blut" - mit dem sich viel Geld verdienen lässt. Mit Hilfe von Smartphones soll künftig jeder solche Daten selbst erheben können. Neben körperlichen Veränderungen im Sprachmuster geht es auch um die Analyse von Emotionen, beispielsweise im Bereich der psychischen Gesundheit: Mit welcher Frequenz spricht eine Person, macht sie auffällige Pausen beim Sprechen, wie viel Druck hat sie auf der Stimme? All diese Marker sollen verraten, ob jemand traurig, aufgebracht oder wütend ist.
Während in der Medizin über die Aussagekraft dieser Tools debattiert wird, kommt die Analyse von Gefühlen in der freien Wirtschaft bereits zum Einsatz. "Dieses Gespräch wird zu Trainingszwecken aufgezeichnet" - wenn Anrufer*innen diesem Satz nicht widersprechen, sind die Chancen hoch, dass sie selbst in der Hotline analysiert werden. Die KI zeigt der Callcenter-Mitarbeiter*in am anderen Ende der Leitung an, ob die Anrufer*in zum Beispiel wütend ist. Dieses Wissen soll Mitarbeiter*innen helfen, die Gesprächsstrategie zu optimieren.
Doch auch die Mitarbeiter*innen in Callcentern werden durchleuchtet: Antworten sie freundlich, reagieren sie schnell genug und adäquat auf ihr gegenüber? Diese Form der Überwachung in Echtzeit kritisieren Betriebsrät*innen und Arbeitsrechtler*innen.
Das EU-Parlament setzt sich für ein Verbot der Emotionsanalyse ein. Befürchtet wird eine um sich greifende Überwachung durch Konzerne, im schlimmsten Fall aber auch durch staatliche Akteure.
Rebecca Ciesielski ist Reporterin im AI + Automation Lab des Bayerischen Rundfunks. Für den BR berichtet sie darüber, wie Algorithmen und Automatisierung unser Leben und die Gesellschaft beeinflussen und verändern. In früheren Recherchen hat sie zusammen mit Kolleg:innen beispielsweise tausende Fake-Webseiten und automatisierte Mitarbeiter:innen-Überwachung entdeckt, mit Satellitendaten Hitze-Hotspots in Städten recherchiert und ist der Frage nachgegangen, ob Smartphones heimlich zuhören.
Sammy Khamis studierte Politik- und Kulturwissenschaften in München. Erste journalistische Erfahrungen sammelte er während der Revolution in Ägypten 2011. Seitdem ist er vorwiegend für den BAYERISCHEN RUNDFUNK tätig. Seit 2020 gehört er zur investigativ Abteilung BR Recherche | BR Data | AI Lab. Auszeichnungen: Reporter des Jahres regional 2020, Kurt Magnus Preis 2017 und Axel-Springer-Preis 2014.
Mitwirkende
Produktion: BR 2023
Produktion: BR 2023
Links in MDR.de
Social Media
Anschrift
-
MITTELDEUTSCHER RUNDFUNK
Hauptredaktion Kultur
Postfach 10 01 22
06140 Halle/Saale
MDR-Telefonzentrale: 0341-3000
