Wissen-News Chatbots wie ChatGPT sagen, was wir hören wollen
Hauptinhalt
15. Mai 2024, 11:13 Uhr
Chatbots wie ChatGPT geben keine neutralen Informationen weiter und orientieren sich an der Meinung der Nutzenden, so eine neue Studie. Das trage zur Polarisierung bei.
ChatGPT als Durchlauferhitzer für Polarisierung: KI-basierte Chatbots sind voreingenommen und können Ideologien verstärken. Das legen Forschende der US-amerikanischen Johns Hopkins-Universität nahe. Das Forschungsteam stellt damit die Annahme infrage, Chatbots seien unparteiisch.
In ihrer Untersuchung mit 272 Teilnehmenden konnten die Forschenden einen sogenannten Echokammer-Effekt nachweisen. Durch die im Gegensatz zu herkömmlichen Suchmaschinen engere Auswahl an Informationen, die Chatbots bieten, würden diese bereits vorhandene Einstellungen der User widerspiegeln. Das hänge damit zusammen, dass Menschen in Chatbots zu einer natürlichen Sprache tendierten, die Chatbots wiederum in ihrer Antwort aufgriffen. So würden etwa bei der Frage nach den Vorteilen von Studiendarlehen nur die Vorteile aufgeführt, statt auch über die Nachteile aufzuklären.
Dem Problem sei allerdings auch nicht mit KI zu begegnen, die darauf programmiert ist, grundsätzlich die entgegengesetzte Meinung zu vertreten. Auch die Bereitstellung von Quelleninformationen durch Chatbots werde wenig genutzt. Das Forschungsteam warnt, dass die Sprache von Nutzenden gegen sie selbst verwendet werden könne, was Missbrauchspotenzial böte.
flo
Dieses Thema im Programm: MDR AKTUELL | 13. Mai 2024 | 09:41 Uhr
Taf73 vor 2 Wochen
Und deswegen stehen die Antworten von ChatGPT in den Fragen menschengemachter Klimawandel, Ukrainekrieg, Sprengung NS2, Covid, mRNA-Impfungen den Aussagen der AfD diametral entgegen, schon klar.
weils so nicht unwidersprochen bleiben darf vor 2 Wochen
Die athenische Demokratie z.B.kam weitgehend OHNE die Wahl von Personen/Parteien aus, indem sie die Volksherrschaft/Demokratie dadurch zu organisieren versuchte, das Personal zu Entscheidungsfindungen jeweils schlicht AUSZULOSEN - was in den Augen der Athener die Repräsentation aller besser zu gewährleisten schien als Wahlen, von denen man befürchtete, dass sich Wichtigmacher und Herrschsüchtige dadurch vorschieben könnten.
In einem Teil der Entscheidungen in heutigen Demokratien - in "Schöfengerichten" - tun wir das übrigens heute noch; die Schöfen werden nicht gewählt, sondern erlost. Funktioniert - dort - ganz gut.
Soll jetzt kein allgemeines Plädoyer gegen Wahlen sein - nur ein Beleg.
Also klar und deutlich: JA, gibt es!
weils so nicht unwidersprochen bleiben darf vor 2 Wochen
Eben. - Stimme euch ja gerne zu, wo ihr mir zustimmt.
Nur die Sache mit dem "ethischen" und "verantwortungsvollen" Einsatz ist - in der Poltik - eben ein auf doppelte Art schwieriges Problem:
Erstens: "Regeln" und "Richtlinien", die den "ethischen/verantwortungsvollen" Einsatz tatsächlich gewährleisten, werden real nicht leicht - (ich denke: gar nicht!) zu finden sein.
Zweitens: Im demokratisch-politschen Prozess, GEHT ES oftmals GRADE um den Streit darüber, was eigentlich "ethisch" und "verantwortungsvoll" IST.
Ein Fragenbereich, in dem man sich - mit viel Glück und gutem Willen - vielleicht in mehr oder weniger hatbaren zeitweiligen Kompromissen manchmal einigermassen einigen kann; aber eine solche Einigung kann nur in Ausnahmefällen (etwa bei Staatsneugründungen in Verfassungen) dem politischen Prozess VORAUSGEHEN.
Mit anderen Worten: Wir werden nicht nur keine wirksamen Regeln FINDEN können, sonders er ist auch sehr fraglich, WEM es zusteht, welche zu erlassen.