Digitalisierung Gefahr KI: Warum wir Transparenz und Regeln brauchen
Hauptinhalt
12. August 2023, 15:08 Uhr
Künstliche Intelligenzen sind in immer mehr sensible Entscheidungsprozesse involviert. Längst geht ihr Einfluss über das Generieren von Bildern oder Texten hinaus. Das birgt auch enorme Gefahren, erklärt Experte Sebastian Stober aus Magdeburg. Er meint: Wir müssen klare Regeln und Visionen zum Umgang mit KIs entwickeln. Nur dann könnten die KIs Menschen wirklich nutzen. Ansonsten drohten enorme Probleme, die Sachsen-Anhalt sich nicht leisten könne – weder wirtschaftlich noch gesellschaftlich.
- Coole Grafiken, lustige Texte, Hausaufgaben: KIs wie ChatGPT, Midjourney oder Instagram-Filter sind gerade in aller Munde. Allerdings sind viele Rechte noch nicht geklärt.
- Dass Regelungen fehlen, hält der KI-Experte Sebastian Stober aus Magdeburg für hochgefährlich. Denn KIs spielen längst in sehr sensiblen Bereichen eine Rolle.
- Als Lösungen fordert Stober mehr Transparenz, klare gesellschaftliche Visionen und gesetzliche Regelungen. Zudem sei Mitbestimmung bei der Entwicklung essentiell.
Längst haben Künstliche Intelligenzen (KIs) Einzug ins Leben in Sachsen-Anhalt gehalten und wir uns an ihre Anwesenheit im Alltag gewöhnt. Ob in der Spam-Erkennung des Mailprogramms, im Staubsaugerroboter oder bei Beauty-Filtern auf Instagram: überall stecken Programme drin, die bis zu einem bestimmten Maße selbstständig Aufgaben erledigen können. Zuletzt hat die KI-Entwicklung gewaltige Sprünge gemacht, Programme zur Bild- oder Text Generierung sind in aller Munde.
Auch MDR SACHSEN-ANHALT hat sich von einer KI Bilder generieren lassen und geschaut, wie sich das Programm Menschen in verschiedenen Städten vorstellt. Die Produkte haben viele Menschen begeistert. Doch ist das eigentlich in Ordnung? Einige Künstlerinnen und Künstler kritisieren, die Programme zerstörten die Kunst oder bedienten sich an bestehenden Kunstwerken.
Regeln für KIs: Politik gefragt
Der KI-Experte Sebastian Stober (Universität Magdeburg) findet die Auswirkungen der KIs auf Kunst schwer zu beantworten. Grundsätzlich könne die KI Künstlerinnen und Künstler nicht einfach ersetzen, da Kunst immer etwas ausdrücken und transportieren solle. Dies könne die KI, zumindest bisher, nicht. Daher betrachte er die bildgenerativen KIs momentan eher als eine Art Werkzeug, das bei der Kreation bestimmter Inhalte helfen könne, allerdings zur Gefahr zum Beispiel für Stockfotografen werden könne. "Es ist vielleicht wie bei der Erfindung der Fotografie. Die hat Maler auch nicht überflüssig gemacht. Aber sie hat die Kunst beeinflusst."
Hochproblematisch sei jedoch, dass die KIs derzeit mit Bilddatenbanken trainiert würden, ohne, dass klare Regelungen für die Nutzung bestünden. "Da bin ich definitiv bei den Leuten, die sich gerade darüber aufregen, dass ihre Daten ungefragt benutzt werden, um die KIs zu trainieren. Und dann wird mit diesen KIs auf Grundlage ihrer Daten Kunst generiert, die ihnen Konkurrenz macht." Ähnliche Probleme gebe es derzeit beim Training für Chatbots mit Textdaten.
"Da muss sich was tun! Und ich wundere mich, dass wir da so hinterherhinken, denn die generativen KIs gibt es ja nicht erst seit gestern. Deepfakes gibt es schon seit 2017. Irgendwie hat die Politik das verschlafen. Ich würde mir wünschen, dass da proaktiver vorgegangen wird."
KI kann bei falscher Nutzung zu großer Gefahr werden
Dass Regelungen fehlen, findet Stober in anderen KI-Einsatzbereichen noch deutlich problematischer. "KIs, die im Hochfrequenzbereich an der Börse agieren. KIs, die zu Überwachungszwecken eingesetzt werden. In den USA gibt es ein KI-System, das entscheidet, ob Leute früher auf Bewährung aus dem Gefängnis rauskommen. COMPAS. Das ist massiv rassistisch. Und wird trotz großer Kritik eingesetzt." In Arbeitsämtern in Österreich werde durch KI zum Teil über Fördermaßnahmen entschieden, dabei würden häufig Frauen diskriminiert. In der Meinungsforschung werde mit KI gearbeitet und große Mengen Daten ausgewertet, um etwa Einstellungen zu Marken, zu Parteien und mehr herauszufinden.
In den USA gibt es ein KI-System, das entscheidet, ob Leute früher auf Bewährung aus dem Gefängnis rauskommen. Das ist massiv rassistisch.
Zudem bemängelt Stober die Intransparenz vieler KIs. "Im Moment sind viele KIs noch wie eine Blackbox. Es kommt irgendwas heraus, aber wir wissen nicht, warum." So würden KIs in vielen Bereichen eingesetzt, ohne dass wirklich verstanden werde, was da eigentlich passiere. Das sei grob fahrlässig. "Davon geht meiner Meinung nach die größte Gefahr aus."
Lösungen: Mehr Transparenz und klare Gesetze
Damit die KIs als positive Unterstützung für die Menschen funktionieren, statt eine Gefahr darzustellen, setzt Stober sich in seiner Arbeit daher intensiv für mehr Transparenz ein. Dazu, sagt Stober, brauche es eine intensive Auseinandersetzung damit, wie wir als Gesellschaft mit KIs umgehen wollen. Um die zu erreichen, sei ein Diskurs auch auf politischer, juristischer und ethischer Ebene nötig.
"Wir müssen viel mehr darüber reden: Wo wollen wir KI eigentlich einsetzen? Und wo nicht? Und was sind die Folgen?", sagt Stober. "Wir müssen darüber reden, dass Entscheidungsträger am Ende trotzdem noch Verantwortung tragen. Weil diese am Ende entscheiden, wo welche KI eingesetzt wird." Wenn etwas passiere, könne man das nicht einfach auf die KI schieben. Politik und Justiz seien gefordert, Regeln zu entscheiden und umzusetzen. Idealerweise entsprächen diese Regelungen dann dem Willen der Gesellschaft.
Frühzeitiges Eingreifen in Entwicklungsprozesse
Des Weiteren sei ein frühzeitiges Eingreifen in Entwicklungsprozesse nötig. Ansonsten würden Produkte ohne jedwede Regelungen und Mitsprache entwickelt. "Dann geben sie uns praktisch vor, wie die Regeln sind. Das können wir uns nicht leisten. Sowohl gesellschaftlich auch wirtschaftlich nicht." Momentan rutsche Deutschland aber immer weiter in Abhängigkeiten ab und werde abgehängt. Stober sagt, er verstehe nicht, wie die Politik diese Entwicklung verschlafen könne.
Es ist nicht schwer vorherzusagen, dass wir damit tierisch auf die Schnauze fallen werden.
Momentan fehle in vielen Bereichen die Expertise, um die Entwicklungen mitzugestalten. Stattdessen herrsche Goldgräberstimmung. Menschen nutzten KIs ohne jegliches Verständnis. "Es ist nicht schwer vorherzusagen, dass wir damit tierisch auf die Schnauze fallen werden", sagt Stober.
Um dem entgegenzuwirken, sieht er auch Informatiker in der Pflicht, mehr Wissenschaftskommunikation zu machen. Ebenfalls die Medien, die sachlich über Chancen und Risiken informieren und Grundlagen für Debatten bieten sollten. Es sei wichtig, dass die Gesellschaft Visionen entwickeln könne, wohin die Entwicklungen gehen sollten.
MDR (Leonard Schubert)
Dieses Thema im Programm: MDR SACHSEN - Das Sachsenradio | Genial Digital | 11. August 2023 | 11:00 Uhr
Shantuma vor 49 Wochen
Die Leistungsfähigkeit des Internetes (nein, es ist nicht die Geschwindigkeit, sondern die Leistung) bei Ihnen vor Ort hat kaum was mit dem Thema KI, oder auch Digitalisierung zu tun.
Auch eine KI würden auf das Ergebnis kommen, dass es sich aus marktwirtschaftlichen Gründen nicht lohne Ihnen einen besseren Zugang zum Internet zu ermöglichen.
Und Ihrem Schmunzeln bezüglich der KI in Haftanstalten. Ja, ich weiß nicht aus welchen Gründen die Herr auf diese Behauptung mit dem Rassismus kommt.
Meines Wissens können nur Weiße rassistisch sein. Da KI keine Hautfarbe hat, kann KI nicht rassistisch sein.
@moderation: Die These bezüglich Rassismus und Hautfarbe wird so von linken und progressiven Gruppierung gelehrt. Ich bin da eigentlich anderer Meinung, aber man soll sich ja dem MS anpassen.
Shantuma vor 49 Wochen
"Ebenfalls die Medien, die sachlich über Chancen und Risiken informieren und Grundlagen für Debatten bieten sollten."
Woher die Einsicht?
Ich habe bereits in den ersten öffentlich kommentierbaren Artikeln über KI meine Bedenken geäußert. Der MDR hat darauf aber eher weiterhin positiv über KI gesprochen.
Das Problem bei KI ist, dass die Entwicklung wesentlich schneller und sogar günstiger ist, als bei anderen High-Tech-Themen wie Automatisierung und Digitalisierung.
"Menschen nutzten KIs ohne jegliches Verständnis."
Was habt ihr erwartet?
"Idealerweise entsprächen diese Regelungen dann dem Willen der Gesellschaft."
Wie soll dies gehen, wenn "Menschen nutzten KIs ohne jegliches Verständnis" gilt?
KI "lernt" von uns Menschen. KI kann bereits lügen, wann beginnt KI zu betrügen?
"... ethischer Ebene ..."
Bloß nicht den Ethikrat fragen, der hat seit dem C-Ereignis völlig versagt.
pwsksk vor 49 Wochen
Wenn in Deutschland über KIs gesprochen wird, kann man nur abwinken. Unser Internet am Ortsrand von Genthin bringt 3,5 MBits, ohne Aussicht auf Besserung. Und wenn hier etwas von Haftanstalten steht, muß ich schmunzeln.