***
Herzlich willkommen zu "Fakt ist!", heute aus Magdeburg.
Schönen guten Abend.
Es soll um Künstliche Intelligenz gehen, um KI.
Unser Alltag ist durchdrungen davon.
Die KI ist beeindruckend.
Experten warnen aber und sagen,
sie ist imstande, viele Menschen arbeitslos zu machen.
Wir haben gedacht, wir probieren das mit uns aus.
Und zwar mit Chat GPT,
das ist ein Programm, was Texte generieren kann,
Aufsätze, Gedichte, es kann Fragen beantworten.
Wir fragen ihn, ob er uns eine Moderation
für eine Talkshow schreiben kann.
Das ist, was er antwortet.
Wie findest du das?
Ja, das ist schön.
Es wäre nicht meine Moderation.
Ich habe noch keine Angst, dass ich arbeitslos werde.
Jetzt kann man diesen Text nehmen
und kann ihn mit Bild und Ton verknüpfen.
Wie das aussieht, gucken wir uns an.
KI hat das Potenzial, unsere Welt zu verändern.
Aber welche Risiken birgt sie für unsere Gesellschaft,
unsere Arbeitsplätze und Privatsphäre?
Wir werden darüber diskutieren.
Den künstlichen Stefan finde ich gruselig.
Aber mein Job ist erst mal noch sicher.
Was heißt das für unsere Zukunft?
Und welche Risiken stecken da drin?
Darüber diskutieren wir heute mit unseren Gästen.
Wir begrüßen Michael Ney
vom Zukunftszentrum digitale Arbeit Sachsen-Anhalt.
Professor Dieter Kugelmann,
Landesbeauftragter für Datenschutz in Rheinland-Pfalz.
Außerdem ist bei uns Paula Friedrich,
Lehrerin und medienpädagogische Beraterin aus Merseburg.
Und Dr.Regina Görner,
Vorsitzende der Bundesarbeitsgemeinschaft
der Seniorenorganisationen, kurz BAGSO.
So, also, den Rechner machen wir zu.
Wir haben die Technik gerade demonstriert.
Für den kleinen Film eben haben wir nur ein Foto von mir gebraucht.
Die Maschine hat Lippen und Kopf bewegt.
Die Technik kann viel, wir haben einen Eindruck bekommen.
Mich interessiert, was sagen unsere Gäste im Studio dazu?
KI, wie gucken Sie darauf?
Skeptisch, weil ich denke,
dass vor allem jüngere Leute das Lernen verlernt haben.
Und durch die KI jetzt noch das Denken verlernen.
Man sollte vorsichtig sein, danke schön.
KI, wie gucken Sie auf das Thema?
Ich stehe dem positiv gegenüber.
Sie kann uns helfen, etwas anderes zu erreichen.
In anderen Ländern ist die KI schon viel weiter,
meine Frau kommt aus China.
Ich finde schon, dass es uns weiterbringen kann.
Man muss KI als leistungsfähiges Werkzeug sehen.
Es kann uns helfen, Dinge zu nutzen.
Man kann in der Medizin viele Daten damit verarbeiten.
Man kann den einfachen Landarzt mit Dingen aus der Charite versorgen
und ihn so weiterbringen.
Sie sind mit einer Chinesin verheiratet.
Die Chinesen sind eine Ecke weiter als wir, oder?
Eine ganze Ecke weiter, das macht mir auch Sorgen.
Aber in Sachen Datenschutz muss ich sagen,
eine KI braucht Daten, um zu wachsen.
Das können wir auch alles kontrollieren.
Es geht in den Gesprächen auch um neuronale Netze.
Aber wir können es noch kontrollieren anhand einer Heat Map.
Von daher denke ich ...
Sie sind sehr im Thema.
Ich fasse zusammen, manche sind vorsichtig,
manche sagen, wir müssen das nutzen.
Wir haben viel Stoff für die Diskussion.
Guten Abend in die Runde.
Herr Ney, wir hören Skepsis, man verlernt das Denken.
Im Moment nimmt uns die KI schon einiges ab.
Vielen ist nicht bewusst,
wo durchdringt KI heute schon unser Leben?
Wo ist sie schon im Einsatz?
Ich glaube, an vielen Stellen, bei denen wir das nicht mitbekommen.
Sei es bei unseren Handys, bei Kommunikationsstrukturen,
wenn wir auf Chat-Bots treffen,
bei dem, was uns an Werbung angeboten wird,
da passiert sehr viel.
Ich glaube, dass in kleinen und mittleren Unternehmen,
wenn wir da Kontakt aufnehmen, wird es noch nicht so viel sein.
Aber in großen Unternehmen,
wenn da Werbeanzeigen generiert werden,
meine Uhr, die meinen Sport begleitet,
Daten auswertet und mir Tipps gibt, was ich besser machen kann,
dann umgibt uns KI an sehr vielen Stellen.
Her Kugelmann, Sie sind nicht nur Datenschützer,
sondern auch Leiter der KI Taskforce der Bundesländer.
Wenn der Herr aus dem Publikum recht hat,
dann verschlafen wir hier die Entwicklung von KI
gerade in Deutschland.
Das hat was mit unseren strengen Datenschutzregeln zu tun.
Kann das sein?
Es geht darum, was wir wollen, wie wir die KI einsetzen wollen.
Der chinesische Weg ist nicht unserer.
Da verschlafe ich lieber und habe dafür noch meine Freiheit.
Wir wollen die Freiheit der Menschen wahren.
Es wird unterstützt die freie Entscheidung über die Daten.
Das schließt das nicht aus, was gesagt wurde.
Innovation finde ich gut und die muss auch sein,
aber regelbasiert, das wollen wir in Europa.
Da sind wir anders aufgestellt als die Chinesen.
Frau Görner, für die BAGSO ist KI ein großes Thema.
Ältere Menschen könnten von KI profitieren.
Ich spreche im Konjunktiv, weil ich davon ausgehe,
dass die Entwicklung so schnell ist,
dass sie da eventuell raus sind, stimmt das?
Es hat etwas damit zu tun,
dass die Zugänge zur Digitalisierung für ältere Menschen
nicht selbstverständlich sind.
Wir versuchen vieles, um Qualifizierungsangebote zu machen,
um Menschen mit KI vertraut zu machen.
Aber das Problem ist, die KI ist eine Technik,
die sehr intransparent ist.
Man kann nicht einfach die Geräte angucken und sehen, was los ist.
Sondern man muss im Zweifel Hintergrundwissen haben.
Und selbst dann kann man es manchmal nicht durchschauen.
Das Problem ist, diese großen Mengen an Daten,
die sind zwar eine große Menge.
Aber das heißt nicht, dass die Menge repräsentativ ist
für die Aussagen, die hinterher aus den Daten entwickelt werden sollen.
Wenn ältere Menschen, und das ist häufig so,
bei der Sammlung dieser Daten gar nicht einbezogen sind,
dann kommen Ergebnisse heraus,
die Probleme und die besonderen Lagen älterer Menschen
nicht berücksichtigen.
Aber auch ältere Menschen sind sehr verschieden heutzutage.
Das führt dazu, dass ältere Menschen sich schon fragen,
ob sie regelrecht berücksichtigt sind von dieser Technik.
Das wäre die Voraussetzung dafür,
dass es auch ein Segen sein kann, die KI.
Wir schauen auf die andere Seite.
Junge Menschen stehen KI offener gegenüber.
Oder ist das Sorglosigkeit?
Offen sind sie auf jeden Fall dafür, zumindest nehme ich das so wahr.
Aber auch da muss man differenzieren.
Es gibt welche, die sich schon viel damit beschäftigt haben,
die da fit sind und diese Tools nutzen.
Aber junge Leute sind auch über Instagram, TikTok usw.
täglich damit in Berührung,
ohne das mitzubekommen, dass das so ist.
Man kann da 2 Seiten aufmachen.
Wir haben schon das Schlagwort Manipulation und Werbung gehört,
Intransparenz, da muss man ein Bewusstsein für schaffen.
Das ist auch die Aufgabe von Schulen.
Die enorme Rechenleistung einer Maschine
mit Intelligenz gleichzusetzen,
könnte den einen oder anderen in die Irre führen.
KI ist erst mal eine zielgenaue Rechenmaschine,
eine Art Werkzeug, welches Daten analysiert.
Hier ein kleiner Überblick.
KI bezeichnet Technologien,
die menschliche Fähigkeiten nachahmen, stärken oder ergänzen.
Sie sollen schwierige Aufgaben entweder vollständig übernehmen
oder aber den Menschen bei deren Ausführung unterstützen.
Schon heute ist KI zum Beispiel in der Lage,
Sprache und Gesichter zu erkennen,
Texte zu schreiben und Bilder zu entwerfen.
Sie findet Anwendung in Computer-Suchmaschinen,
erkennt medizinische Befunde und steuert selbstfahrende Autos,
aber auch autonome Waffen.
Statt für jeden Zweck programmiert zu werden,
kann eine KI eigenständig Antworten finden
und selbstständig Probleme lösen.
Diese Eigenschaft sorgt oft für Skepsis.
Und Forderungen,
Entwicklungen und Umgang mit KI
streng zu überwachen und zu regeln.
Wir merken, es ist komplex.
Es gibt Algorithmen, die werden programmiert,
die verändern sich dann nicht mehr,
die arbeiten mit den Daten, die sie bekommen haben.
Und es gibt Algorithmen, die lernen selbst.
Jetzt kann man dieses Selbstlernen vielleicht mit einer Form
von Denken gleichsetzen, zumindest wird es oft so getan.
Man sagt, die KI denkt. Wie würden Sie es beschreiben?
Ich würde es als maschinelles Lernen verbuchen.
Denken ist schon noch mal etwas anderes.
Weil es einen schöpferischen Prozess hat.
Es geht nicht nur um das Reproduzieren von Daten.
Ich bin kein Neurologe,
aber ich glaube, dass unser Denken darüber hinausgeht,
weil wir in der Lage sind, Neues zu schaffen.
Ich glaube, das Irreführende an der KI kommt davon,
was wir in Filmen vorgesetzt bekommen,
wenn Künstliche Intelligenzen die Weltherrschaft an sich reißen
oder der Freund des Protagonisten sind.
Diese Bilder haben sich in unseren Köpfen festgesetzt.
Wir fangen an, das zu vermenschlichen
und glauben, dass KI die gleiche Motivation hat,
Herrschaft an sich zu reißen.
Aber letztlich müssen wir schauen, wer sitzt denn hinter der KI
und möchte mit unseren Daten arbeiten?
Sie haben es viel mit Menschen zu tun,
die nicht mit dieser Technik aufgewachsen sind.
Was macht denen denn Angst, wenn sie auf KI schauen?
Das ist sehr unterschiedlich.
Da gibt es die Furcht, dass mit den Daten etwas geschieht,
was ich nicht überprüfen kann.
Es gibt die Frage, werde ich betrogen mithilfe von KI?
Kann ich mein Leben noch steuern?
Werde ich beurteilt und bewertet?
Das ist sehr unterschiedlich.
Aber wenn man so wenig darüber weiß,
dann wird alles angstauslösend sein.
Das sehe ich aber nicht nur bei älteren Menschen.
Es geht aber weniger um die KI selbst,
sondern darum, was damit angefangen wird.
Vor wenigen Tagen habe ich mit einer Mitarbeiterin gesprochen,
sie hat erzählt, sie wollte in die USA reisen
und hat für die Reise eine Kreditkarte beantragt.
Sie ist knapp über 60.
Sie hat diese Kreditkarte nicht bekommen,
obwohl sie gut verdient, ihr Leben lang gut verdient hat.
Die Frage ist, warum hat sie sie nicht bekommen?
Sie hat versucht, das herauszufinden,
hat aber keine Antwort von der Firma bekommen.
Das ist etwas, was die Menschen beunruhigt.
Es werden Entscheidungen getroffen über ihre Lebensumstände,
und das aufgrund von Kriterien, die man nicht kennt.
Das einzige, was man sich vorstellen kann, ist,
dass das Alter eine Rolle spielt in diesem Fall.
Es gibt bestimmte Altersbilder in den Köpfen der Menschen,
die werden hineingetragen in die Art und Weise,
in der die KI verarbeitet wird und wofür sie genutzt wird.
Wenn das dazu führt, dass ohne jede weitere Begründung
Menschen ausgeschlossen werden, ist das Altersdiskriminierung.
Es ist in vielen Bereichen so, dass diese Algorithmen so sind,
dass man nicht weiß, nach welchen Kriterien arbeiten sie.
Führt KI letztlich zu einer Form von Diskriminierung?
Auch hier kann man zwei Seiten aufmachen.
Weil die KI in dem, wie wir sie im Moment verstehen,
ja erst mal eine Mustererkennung hat.
Sie kann Muster erkennen, diese offenlegen und reproduzieren.
Diese Mustererkennung kann solche diskriminierenden Muster verstärken,
aber, und das ist ein Punkt, den muss man aufmachen,
es war noch nie so leicht, diese Muster zu überarbeiten.
Wenn ich den Datensatz korrigiere,
dann ist kein System so schnell in der Lage,
dieses Muster auch wieder zu überarbeiten
oder in einen besseren Kontext zu rücken.
Das ist eine Sache, die muss man reflektieren.
Hinter all dem steckt eine Frage der Demokratisierung.
Was macht uns als Demokratie aus?
Und wie soll die KI da eingebunden werden?
Da gucken wir alle mit dem richtigen Blick drauf.
Wir sind bei einem spannend Punkt.
Wie viel wissen wir über die Algorithmen?
Was darin steckt und wie sie funktionieren?
Viel zu wenig, das ist das Problem, denn die Transparenz ist eine Frage.
Wenn KI entwickelt wird,
machen das Entwickler und Programmierer,
das ist im Bereich Forschung.
Aber irgendwann wird es eingesetzt, jemand kauft es und sagt,
zum Beispiel als Kreditkartenfirma,
wer bekommt eine Kreditkarte und wer nicht?
Oder wenn man 1000 Bewerber hat für einen Job,
setzt man einen Algorithmus dran.
Es gibt das Beispiel, wo die Daten so waren,
dass eine Firma in den letzten Jahren
immer 70 Prozent Männer und 30 Prozent Frauen eingestellt hat.
Dann macht die KI das genauso.
Das geht natürlich nicht,
da kann ich mich an die Firma wenden,
die ist dann verantwortlich.
Ich kann mich an die wenden und sie müssen wissen, was sie tun.
Da geht es um Rechenschaftspflicht.
Das sind keine Sachen der fernen Zukunft.
Wenn es um Daten geht, sind wir beim Datenschutzrecht.
Wenn Daten verarbeitet werden,
muss man sagen können, was damit passiert,
wie sie eingesetzt werden, wo sie herkommen.
Kann das Chat GPT? Das ist ja ein großes Ding.
Es ist eine offene Künstliche Intelligenz.
Ich weiß, die Taskforce, die Sie leiten,
ist dabei, anzufragen, wie sieht es aus?
Können die Ihnen sagen, was da passiert,
wenn man sich einen Aufsatz schreiben lässt,
woher die Daten kommen?
Wir haben 6 Seiten voller Fragen geschickt,
und sie haben eine Verlängerung der Frist beantragt.
Ich weiß also nicht, ob sie es können,
ich wage es zu bezweifeln.
Wir wollen der Firma eine Chance geben.
Es ist in der Tat so, dass man sehen muss,
der Hersteller dieser Software ist eine amerikanische Firma,
sie arbeitet nach amerikanischen Regeln.
Aber wenn sie auf den europäischen Markt kommen,
müssen sie sich an europäische Regeln halten.
Das ist entscheidend, das haben sie nicht bedacht.
Die italienischen Kollegen haben es verboten.
Dann war die Tragödie groß.
Da muss man nachlegen, um das sicherzustellen.
Man muss technisch sicherstellen zu wissen, was man tut,
damit jemand, der das einsetzt,
etwa in der Schule oder in der Kreditkartenfirma,
damit der sagen kann, ich verlasse mich darauf,
dieses Ding folgt den allgemeinen Regeln,
ich kann es guten Gewissens einsetzen.
Wenn nicht, wird es schwierig.
Jetzt wird Chat GPT eine neue Herausforderung
für Schule und Studium.
Heißt das, die nachfolgenden Generationen
werden jetzt noch fauler, weil sie nicht mehr denken müssen?
Nach dem Motto, lernen wir noch oder schauen wir schon nach?
Die Frage ist, was wir den Schülern in den Schulen beibringen,
wie sie mit Medien und solchen Tools umgehen.
Bringen wir ihnen bei, dass sie die konstruktiv nutzen,
um zu recherchieren oder zu lernen, die richtigen Fragen zu stellen?
Chat GPT funktioniert nur gut, wenn man konkrete Fragen stellt.
Man muss das Problem verstanden haben.
Ich kenne das von meinen Studenten,
da war es manchmal schwer, die richtige Forschungsfrage zu stellen.
Das ist schon mal die halbe Miete, wenn ich etwas schreiben will.
Als Zweites muss ich in der Lage sein zu prüfen,
ist das, was die KI ausgespuckt hat, wirklich korrekt?
Ich muss es kontrollieren können und wissen, was sind die Fakten
und wie erkenne ich Fehler?
Das kann ein Lerneffekt sein für die Schüler,
sie medienkompetent zu machen.
Das brauchen wir noch viel mehr als wir es haben.
Es ist noch nicht entschieden, ob wir Opfer von KI werden
oder Gestalter von KI.
Wie machen Sie es in der Schule?
Abgesehen von den Problemen mit dem Datenschutz,
nutzen Sie das? Trainiert man den Umgang damit?
Medienbildung ist im Lehrplan verankert,
wird auch umgesetzt.
Ich kann aus meinem Berufsalltag schildern,
ich habe es mit meinen Kindern ausprobiert.
Wir dürfen datenschutzrechtlich uns keine Accounts anlegen lassen.
Aber ich konnte das mit meinem eigenen Account
auf eigene Verantwortung durchführen.
Ich habe mit den Kindern dann Fragen gestellt
zu Themen des Unterrichts.
Ich bin Biologielehrerin.
Wir haben uns einen Aspekt der Neurobiologie herausgesucht
und Chat GPT gefragt.
Die Schüler hatten dann die Aufgabe,
den Text, der erstellt wurde, zu untersuchen.
Die Fakten sollten geprüft werden.
Ich war erstaunt, wie dezidiert die Schüler
es auseinandergenommen haben.
Sie konnten in fast jedem Satz fachliche Ungenauigkeiten
oder inkorrekte Sachen herausfinden.
Sie haben das korrigiert.
Ich konnte verbinden einen mediendidaktischen Prozess
mit einem Fachkontext.
Das findet statt und ich glaube, dass die Schüler da was bei lernen.
Was ich feststelle, ist, um diese Faktensicherheit zu überprüfen
ist ein besonderes Weltwissen vonnöten.
Ich muss die Momente erkennen, wo ich das Gefühl habe,
hier stimmt etwas nicht, um es dann recherchieren zu können.
Dafür ist das Faktenwissen weiterhin extrem wichtig.
Wenn wir sagen, die Kinder werden immer dümmer,
muss ich sagen, ich bin anderer Meinung.
Ihnen Faktenwissen beizubringen und Kompetenzen dazu
an die Hand zu geben, mit dene sie das Faktenwissen einsetzen,
ist wichtiger denn je.
Aus meiner Sicht.
Das wäre eine gute Frage, Stefan, die wir weitergeben können
an diejenigen, die es betrifft.
Wir haben jetzt schon viel über die Schüler gesprochen.
Es wäre wichtig, jetzt mal mit ihnen zu sprechen.
Moritz Eichelmann ist bei uns,
Vorsitzender des Landesschülerrates Sachsen-Anhalt.
Er geht in Merseburg auf ein Gymnasium.
Moritz, wir haben gehört,
die Kinder, die Jugendlichen machen nichts mehr selbst.
Es wurde gesagt, wir haben das Lernen verlernt,
jetzt verlernen wir noch das Denken.
Würdest du ihr Mut machen oder hat sie recht?
Ich glaube, wir müssen aufhören zu denken,
dass Schüler nichts mehr machen im Unterricht.
Wir erleben heutzutage,
dass wir in diese Zeit von KI reinwachsen.
Alles, was heute passiert, lernen wir mit.
Das ist ein Verständnis, was wachsen muss.
Es ist erst mal nichts Böses und macht nicht faul.
Wir müssen lernen, damit umzugehen?
Wir müssen auf jeden Fall Kompetenzen schaffen.
Es bringt nichts, wenn wir jetzt anfangen,
es von vornherein zu verteufeln
oder wir nutzen es nicht, es macht uns dumm.
Wir müssen anfangen, Kompetenzen zu schaffen,
um den Schülern beizubringen, wie gehe ich um mit der KI?
Welche Gefahren gibt es und welche Vorteile?
Sprich doch mal aus dem Nähkästchen, du kennst einen Haufen Leute,
holt ihr 12 Punkte in der Klausur,
weil Chat GPT geholfen hat?
Oder schreibt ihr das dazu?
Ich kann darüber natürlich sprechen.
Wir haben die Entwicklung im letzten Jahr mitbekommen.
Bei uns fing es im Englischunterricht an.
Wir haben angefangen, uns grammatische Phänomene
erklären zu lassen.
Ich habe es dann benutzt für meine Geschichtsaufsätze.
Ich habe mir Zusammenfassungen schreiben lassen
zu bestimmten Themen.
Immer mit dem Wissen,
das, was du vor dir hast, ist nicht das Gelbe vom Ei.
Da wurden Details ausgelassen.
Aber benutzt wird es auf jeden Fall.
Das klingt positiv und konstruktiv. Welche Probleme siehst du?
Ich glaube, sobald es darum geht,
in den Abschlussjahrgängen geht es darum,
große Zusammenhänge zu verstehen.
Wir haben Themen, die wir über ein halbes Jahr behandeln.
Wenn es darum geht, Fachtexte zu verstehen,
oder Bücher zu lesen, das Wissen aus dem Unterricht,
welches man nebenbei aufschnappt,
das geht verloren, wenn wir uns alles von der KI schreiben lassen.
Weil die KI für sich denkt, nicht für mich.
Aber die Zusammenhänge, die ich machen würde, passieren nicht.
Ich frage noch mal rechts nach.
Sind Sie versöhnt, haben Sie wieder Hoffnung für die Zukunft
unserer jungen Leute oder bleiben Sie kritisch?
Hoffnung habe ich, aber ich sehe es immer noch kritisch.
Heute kann ich eine Stellenanzeige scannen
und die Maschine schreibt ein Bewerbungsschreiben für mich.
Ich gebe das dann ab, damit habe ich aber noch nichts gekonnt.
Ich muss dann aber trotzdem selber noch ins Vorstellungsgespräch.
Das ja, aber erst mal ist es so,
dass dadurch schon viel Arbeit abgenommen wird,
viel Denkarbeit.
Als Hilfsmittel finde ich es toll, aber niemals nur.
Ein richtiger Fan von Chat GPT sind Sie noch nicht?
Das dauert noch etwas.
Frau Görner, Sie haben die Hand gehoben, Sie wollten reagieren.
Geht es Ihnen um die Erleichterung?
Oder um das Risiko dahinter?
Ich denke, ich kann dem Schülersprecher zustimmen,
es wird langfristig mehr bringen für Schüler,
weil es eine grundsätzliche Skepsis sät gegenüber dem,
was man als fertige Texte vor sich hat.
Wenn Sie 300 verschiedene Bewerbungsschreiben bekommen,
und etwa 80 von denen haben nur Chat GPT befragt,
dann merkt man das.
Auch in der Vergangenheit haben sich ja Leute an Muster gehalten
und versucht, sich daran zu orientieren, und das sieht man.
Jemand, der jemanden einstellen will, der kreativ ist,
wird solche Leute nicht bevorzugen.
Das Wissen darum, dass mit solchen Dingen
eine Uniformität geschaffen wird,
müsste in der Schule vermittelt werden.
Ich bin immer sehr froh, wenn Menschen nicht mehr alles glauben,
was sie irgendwo gedruckt vor sich sehen oder in Bildern sehen.
Es ist wichtig, dass man heute weiß, wie sehr man da manipulieren kann.
Man muss skeptisch bleiben, sich sein eigenes Urteil bilden,
verschiedene Aspekte gegeneinanderstellen,
um sie zu vergleichen und zu beurteilen.
An dieser wesentlichen Fähigkeit
wird kein Weg dran vorbei gehen, dass man die weiter entfaltet.
Sonst wird die ganze Gesellschaft in der Tat verdummen,
aber davon gehe ich nicht aus.
Zu wissen, es könnte mit Chat GPT
produziert sein, nützt schon etwas bei der Beurteilung.
Es braucht also Kompetenz.
Kompetenz, zu erkennen, wie diese Dinge funktionieren.
Es gibt Möglichkeiten, wie man damit umgehen kann.
Jetzt kommt mein Aber:
Obwohl es die Menschen besser wissen und viele die Kompetenz haben,
zu wissen, wie Datenschutz funktioniert,
halten sich trotzdem viele nicht dran.
Vielen ist es egal, vermutlich aus Bequemlichkeit.
Mangelnde Kompetenz kann ich da nicht sehen.
Es geht um die freie Entscheidung.
Wenn ich weiß, was los ist,
wenn ich die Informationen habe und dann sage,
okay, interessiert mich nicht, kriege ich halt den Kredit nicht.
Hauptsache, ich habe das kurzfristige Aha- Erlebnis,
dann ist das eine freie Entscheidung, dann ist das
vollkommen in Ordnung.
Letztlich geht es bei Datenschutz darum,
dass ich frei selbst bestimmen können soll über meine Daten.
Das ist schwierig, wenn ich viel im Netz unterwegs bin
und das, was angeboten wird, nutzen will.
Transparenz ist das große Stichwort.
Je mehr das durchschaubar ist
von Leuten, die sich damit auskennen,
von Forschungsinstituten, von NGOs,
die prüfen, ist das ordentlich recherchiert.
Solange ist das in Ordnung zu sagen,
ich akzeptiere das, ich weiß, es gibt diese und jene Gefahr.
Aber in der Abwägung für mich entscheide ich mich dafür.
Wie bringt man Menschen, die keine Digital Natives sind,
einen reflektierten Umgang mit KI bei?
Wir sind in einer Situation, dass viele vieles wissen
oder zumindest mitbekommen.
Aber was dahintersteckt, wissen wir eben nicht.
Wie bekommt man es hin, dass Menschen,
die damit nicht so viel zu tun haben,
diesen Umgang erklärt bekommen?
Ich glaube, dass diese Sendung ein guter Beitrag dazu ist.
Danke, das nehmen wir mit.
Ansonsten glaube ich,
dass eine der wesentlichen Rollen im ersten Schritt die Schule ist,
also für die kommende Generation.
Der Zugang für die älteren Generationen,
ich gebe zu, ich tue mich immer noch schwer,
ich bin Soziologe, die technischen Hintergründe zu verstehen,
was da passiert.
Ich ahne, dass es sich um Algorithmen handelt,
aber letztlich dafür zu sensibilisieren
und auszuprobieren, heranzuführen.
Ich glaube, das Ausprobieren ist wichtig,
um selber zu merken, da funktioniert etwas nicht.
Es gibt viele Senioren-Initiativen,
etwa in Hamburg kenne ich eine Frau, die gute Arbeit macht,
die ältere Menschen ans Netz heranführt.
Solche Initiativen müssen wir stärken,
um die Bevölkerung mitzunehmen für dieses Thema.
Dann gibt es natürlich eine Verantwortung der Unternehmen,
ihre Mitarbeiter mit zu qualifizieren
und da weiterzubilden.
Es gibt nicht die einzelne Stelle, eine Stellschraube,
an der wir etwas machen können,
so funktioniert unser Bildungssystem nicht,
außer im schulischen Bereich.
Und wir müssen viel Aufklärung machen,
niedrigschwellige Aufklärung,
die Menschen wie mir das technische Verständnis näher bringt.
KI kann nicht nur Texte erzeugen, sondern auch Bilder oder Videos.
Wir haben das am Anfang gesehen.
Das bedroht ganze Spezies.
Künstler zum Beispiel.
Die Frage kann man stellen, was macht KI mit Kunst?
Wir haben die These gehört,
dass es das Denken in irgendeiner Weise beschränkt.
Wir haben Zuschauer, die zu uns gekommen sind,
eine davon ist Malerin in Magdeburg.
Guten Abend.
Haben Sie Angst, dass die KI die Kreativität
und die Kunst kaputt macht?
Eigentlich in keinster Weise.
Ich bin ein Laie auf diesem Gebiet.
Trotzdem habe ich mitbekommen die Diskussion, das Pro und Contra.
Ich möchte nicht als alt und ahnungslos dastehen.
Ich kenne schon die Inhalte der Diskussion.
Aber für die Kunst spielt das erst mal keine Rolle.
Sie haben uns ein paar Ihrer Werke mitgebracht.
Was passieren kann, ist,
dass auch Ihre Werke von der KI verarbeitet werden,
digital zitiert werden.
Wie würde es Ihnen damit gehen?
Eigentlich ist mir das total egal,
weil so viele, gerade die alten Meister,
verunstaltet werden durch neue Bildschöpfungen.
Es wird manipuliert, das sind Spielereien,
die man digital verbreitet, wie jetzt schon auf allen Kanälen.
Das ist dann eine Steigerung des Ganzen.
Aber letztlich handelt es sich dabei um nichts,
was irgendwie mit Kunst zu tun hat.
Ich würde das gerne vergleichen mit der Möglichkeit,
dass ich mir einen Pillencocktail basteln lassen kann,
der meinen Bedarf optimal befriedigt.
Nährstoffe meinen Sie?
Nährstoffe, wo ich alles habe, was mein Körper braucht.
Wo mein Körper bedient ist, besser als durch normales Essen.
Aber das ist nichts gegen das Aroma, das Aussehen,
den Geschmack einer reifen Tomate.
Sie sagen, das, was KI macht,
hat nichts mit dem zu tun, was Sie Kunst nennen.
Was würden Sie sich wünschen von der Politik und der Gesellschaft?
Die KI wird eine größere Rolle spielen.
Was muss passieren?
Es geht um die Kompetenz.
Die Kompetenz, etwas anzuwenden, einzusetzen,
Bilder zu kreieren.
Ich könnte mir vorstellen, dass ich das irgendwann mache,
das als Hilfsmittel benutze.
Aber es geht um die Kompetenz, zu beurteilen, was man gemacht hat.
Das ist ein wesentlicher Unterschied,
dass ein Künstler nicht nur wenn er ausstellt,
das würde ich auch allen empfehlen,
sich lieber echte Bilder im Museum anzuschauen,
dass man sich mit Distanz überlegt, was hat man da gemacht?
Ich nehme mit, Sie sind sehr entspannt beim Thema mit KI.
Sie sagen, die richtige Kunst kann dagegen ankommen.
Herzlichen Dank.
So entspannt ist nicht jeder Künstler.
Sie sind von Hause aus Jurist.
Wie kann man Urheberrechte schützen,
wenn man nicht mal mit Sicherheit sagen kann,
wer der Erschaffer des Kunstwerks ist?
Das ist eine schwierige Frage.
Die Dame hat zu Recht gesagt, KI kann nicht richtig Kreativität.
Kreativität ist das, was den Menschen ausmacht.
In dem Moment, in dem eine eigene Schöpfung da ist,
so heißt es im Urheberrecht, ist das etwas eigenes.
Vielleicht unter Verwendung von KI,
aber in der Tat auch bei Kunst und Musik,
bei Texten, die hat irgendjemand mal geschrieben.
Es gibt Thesen, dass Filmmusik
künftig von Algorithmen gemacht wird.
Weil bei bestimmten Serien, wo immer die gleiche Musik kommt,
da kann das ein Algorithmus vielleicht besser.
Aber er nutzt Musik, die andere vorher geschrieben haben.
Die einschlägigen Regeln lassen da Schlupflöcher,
da kann man nicht so viel machen.
Das wäre in der Tat ein Punkt, wo man nachsteuern müsste.
Ich glaube schon, das ist grundsätzlich in Ordnung.
Aber warum sollen die Leute,
die ursprünglich mal den kreativen Gedanken hatten,
nicht noch mal etwas davon haben, wenn die KI das nutzt?
Wir haben ein Problem, wenn wir über Bilder und Videos sprechen.
Das sind Bilder, die gefakt sind.
Wir haben davon einige aus dem Netz geholt.
Hier sieht man den Papst zusammen mit Wladimir Putin.
Da sieht man Angela Merkel, die mit Barack Obama ein Eis isst.
Wenn man das sieht, könnte man denken, kann doch sein.
Da sieht man die Festnahme von Donald Trump,
die hat es nie gegeben.
Wenn man genau hinguckt, sieht man ein Bein zu viel.
Aber wenn man diese Fotos auf den ersten Blick sieht,
wir haben online gefragt, da haben 9 von 10 Teilnehmern gesagt,
sie haben Sorge vor dem Missbrauch von KI-generierten Fotos und Videos.
Ist da eine Entscheidung künftig nicht mehr möglich,
was wahr ist und was nicht?
Ich glaube, das geht schon länger.
Das ist nicht erst ein Phänomen von KI.
Die Kompetenz zu hinterfragen,
was sehe ich da und ist es wahrscheinlich,
dass ausgerechnet Donald Trump so weggeschleppt wird?
Oder dass Angela Merkel und Barack Obama
mit einem großen Eis am Strand herumlaufen?
Du hast vorhin Weltwissen gesagt.
Das ist das, was wir als Kompetenz brauchen,
um das einzuschätzen.
Vor den Fakes sind wir schon jetzt nicht geschützt.
Wir haben vorhin über Bewerbungsschreiben gesprochen,
es gab immer schon Standard-Bewerbungen,
wir haben solche Diskussionen auch schon gehabt
bei Google und Wikipedia.
Wir wissen aber auch, Plagiate gibt es schon immer.
Wir bekommen das bei den Doktorarbeiten mit,
sie sich in Schall und Rauch auflösen.
Das Plagiat ist nicht das Problem.
Die Herausforderung ist die Kompetenz,
als Mensch es anzunehmen,
dass es sich um eine Fälschung handeln könnte
und nicht alles zu glauben, was mir vorgesetzt wird.
Jetzt wünscht sich wahrscheinlich jeder,
dass es eine Kennzeichnungspflicht gibt
für solche Bilder, aber wer soll das machen?
So eine Pflicht gibt es jetzt noch nicht.
Das ist eine Forderung.
Ein Plagiat kann zum Problem werden.
Denken Sie an Hass im Netz,
wo Menschen beleidigt werden.
Das kann man leider perfektionieren.
Denken Sie an ein Gerichtsverfahren.
Welche Aussagekraft hat ein Foto noch,
wenn es auch gefälscht sein kann?
Es gibt viele Zusammenhänge, wo es schwierig sein kann,
weil wir auf wahre Tatsachen angewiesen sind.
Was wahr ist, muss man erkennen können.
Eine Kennzeichnung von KI-generierten Bildern
wäre ein erster Schritt.
Was macht es mit einer Gesellschaft,
wenn künftig jeder seine eigene Realität baut?
Wahrscheinlich ist das schon immer so,
aber entscheidend ist,
dass man sich in der Kommunikation mit anderen
über diese Realität auseinandersetzt und zu Ergebnissen kommt.
Es geht darum, dass man Wahrscheinlichkeiten
beurteilen kann.
Obama und Merkel am Strand mit einem Eis,
das ist ziemlich unwahrscheinlich, wenn man genauer darüber nachdenkt.
Es ist wichtig, dass wir wieder lernen,
unserem gesunden Menschenverstand zu vertrauen
und dem Wahrscheinlichen zu vertrauen.
Das würde ich mir wünschen von viel mehr Menschen.
Unabhängig davon,
ob es Schüler sind oder ältere Menschen.
So etwas versuchen wir zu vermitteln.
Ich hätte gerne, dass die öffentlich-rechtlichen Medien
einen Beitrag dazu leisten,
dass man solche Dinge leichter erkennen kann,
man darauf achten kann, was passiert hier?
KI hat diese Sammlung von unendlichen Mengen von Daten,
was da rauskommt, ist immer eine Mischung aus all dem,
und das ist alles ziemlich unverbindlich und gleichmäßig,
was rauskommt.
Als ich eben den Text am Anfang von Chat GPT gesehen habe,
dachte ich, was für eine langweilige Ansage wird das.
Das werden immer langweilige Ansagen oder Texte werden,
weil die Besonderheiten weggestrichen werden
in diesem System.
Das ist die technische Folge, wie da mit Daten umgegangen wird.
Wenn das so ist, wird die Welt auf Dauer langweilig.
Ich glaube, dass die Menschen ein Gespür dafür entwickeln werden,
was das Echte ist.
Wenn ich Ihren Moderator gesehen habe,
er hat das Wort Risiken ausgesprochen,
als hätte er von Mülltüten gesprochen.
Normalerweise würde in meinen Augen etwas passieren,
wenn ich "Risiko" sage, aber das ist nicht passiert.
Das hätte mich schon davon überzeugt,
dass es nicht das Original war.
Mir ist das Original auch lieber.
In China kontrolliert KI,
ob ich gesellschaftlich konform unterwegs bin.
Da gibt es Punktesysteme für soziales Verhalten.
Am Ende bestimmt die Partei darüber.
Wie gefährlich ist KI,
auch mit Blick auf das, was wir gerade besprochen haben,
dieses Misstrauen, ist etwas noch wahr oder nicht?
Und wer bestimmt, was passiert?
Wie gefährlich ist das für Demokratie
und demokratische Prozesse?
Das hängt vom Wähler ab.
Es hängt davon ab, wen wir wählen.
Ob die, die wir wählen, welche sind,
die sagen, wir möchten alles kontrollieren
und Systeme implementieren, die alles kontrollieren.
Oder ob wir sagen, wir wählen Parteien und Menschen,
die hinter unserer freiheitlich demokratischen Grundordnung stehen.
Ich glaube, technisch ist ganz viel möglich.
Mit Gesichtserkennung,
in amerikanischen Filmen sieht man das oft,
da wird man durchs halbe Land verfolgt durch Kameras.
Wahrscheinlich ist so etwas möglich,
wenn die entsprechenden Systeme da sind.
Möchte ich das? Nein, das möchte ich nicht.
Wenn wir kontrolliert werden, sind wir keine freien Menschen mehr.
Wenn die Partei entscheidet,
und das ist noch keine 100 Jahre her, dass wir so etwas hatten,
und dass wir ausgeklügelte Nachbarschaftssysteme hatten,
die solche Kontrolle ermöglicht haben im Nationalsozialismus.
Das wollen wir nicht wieder, schon gar nicht technisch unterstützt.
Es erinnert mich an die Fantasien von George Orwell,
an die haben wir nicht geglaubt, als wir sie gelesen haben.
Technisch ist es jetzt möglich.
Es braucht medienkompetente Menschen,
die politisch gebildet sind und ein Bewusstsein dafür haben,
was wir an unserer freiheitlich demokratischen Grundordnung haben.
Und die nicht glauben, dass Kontrollsysteme die Welt verbessern.
Stefan, was ist bei dir los?
Wo ist gerade Ihre Gefühlslage, Herr Senf?
Generell wird die Diskussion ähnlich geführt
wie damals, als das Internet aufkam.
Ich denke aber, der Mensch wächst mit seinen Aufgaben.
Die Maschine aber auch.
Aber wir können die Maschine nutzen.
Ich bin generell zuversichtlich.
Wir haben die Kontrolle darüber und können uns entscheiden
für dieses oder jenes System.
Hier werden viele Firmen genannt.
Aber ich habe keine deutsche Firma gehört und keine europäische.
Das macht mir am meisten Sorgen.
Wir wollen die Daten kontrollieren,
haben aber keine Firmen, die bei der KI vorne mitspielen.
Oder auch im Internet-Sektor.
Vorhin wurde gesagt,
die Taskforce hat sechs Seiten Fragen
an die Macher von Chat GPT geschickt,
da geht es um die europäischen Datenschutzregeln.
Eine Antwort kam bisher nicht, das klingt nicht schön, wollen wir das?
Die Gesellschaft ist frei.
Wir als Gesellschaft können sagen, möchten wir KI haben oder nicht?
Das ist ähnlich wie bei der Industrialisierung,
bei der KI geht es aber schneller.
Deshalb kommen viele Menschen nicht hinterher,
vor allem ältere, das ist viel auf einmal.
Aber wir als Gesellschaft können sagen,
wir beobachten das erst mal mit der KI.
Aber dann können wir die nächsten Jahrzehnte da nicht mitsprechen,
weil der Zug da sehr schnell fährt.
Wir haben kaum große Firmen da.
Das ist ein klares Votum dafür,
das strategisch anzugehen und zu sagen,
der Zug fährt und er fährt immer schneller.
Ja, um es besser kontrollieren zu können.
Wenn wir da gar nicht mitspielen, ist das immer schlecht.
Vielen Dank.
Man sagt, was KI heute nicht kann, kann sie noch nicht.
Was kommt da möglicherweise noch auf uns zu?
Ich bin nicht so eine KI-Expertin, dass ich in die Zukunft gucken kann.
Ich bin gespannt, was da kommt.
Ich glaube, dass die Kompetenzen, über die wir gesprochen haben,
für uns als Gesellschaft hilfreich sein werden.
Aber Ihre Frage kann ich nicht beantworten.
Herr Ney?
Es gibt die schöne Disziplin Futures Literacy,
die beschäftigt sich damit Ideen zu entwickeln,
wie Zukünfte aussehen können.
Das gilt auch für die KI.
Eine Zeit lang gibt es viele Entwicklungen,
dann passiert länger nichts,
aber vorhersagen lässt sich das nicht.
Im Frühjahr des letzten Jahres hätten wir noch nicht geahnt,
dass wir heute hier zusammensitzen und über KI sprechen
und über die Auswirkungen.
Weil das gerade gefallen ist,
das große Problem wird sein vorherzusagen, was da kommt.
In Brüssel versucht man, einen Rahmen herzustellen,
in dem wir mit KI künftig umgehen.
Ist das aus Ihrer Sicht überhaupt machbar?
Es muss machbar sein, denn wir wollen gestalten.
Wir wollen die Zukunft gestalten.
Zukunft ist auch der Einsatz von KI-Systemen.
Da muss man einen Rahmen haben, der das hergibt.
Natürlich ist das schwierig.
In Brüssel sitzt man an einer Verordnung,
wo man nicht weiß, ob die in 3 Jahren noch trägt.
Das hat man bei der Datenschutz- Grundverordnung auch gesehen.
Man hat versucht, sehr allgemein zu formulieren.
Erst haben alle gesagt,
das ist zu allgemein.
Aber dafür kann man es jetzt auch auf die neueren Sachen anwenden.
Da geht es um Sachen wie Fairness, Verantwortlichkeit.
Man kann nachbessern, und ich glaube, dass das trägt,
um deutlich zu machen, ja, wir möchten Innovation in Europa,
die dann auch nicht gleich aufgekauft wird
von finanzstarken US-Unternehmen.
Wir wollen das aber in einem gewissen Rahmen haben.
Da bleibt es bei allgemeinen Dingen.
Letztlich sind wir bei der Menschenwürde,
der freiheitlichen Demokratie, die muss sichergestellt sein.
Es geht in diesem AI-Act, der ausgearbeitet wird,
darum, einen Rahmen zu schaffen für ethische Grundsätze.
Auch für technische Grundsätze.
Und rechtliche Grundsätze.
Das Gesetzgebungsverfahren ist im Gange.
Und das ist enorm kompliziert.
Aber es geht auch um ethische Fragen,
die man so transportiert,
letztlich sollen die Unternehmen, die das anwenden,
sich selber regulieren und sicherstellen,
dass sie nach diesen Regeln vorgehen.
Bisher war die Technik immer schneller als wir
mit Regeln oder Ideen, wie man Dinge festmachen kann.
Haben Sie Hoffnung, dass das bei der KI anders ist?
Die Entwicklung muss erst mal da sein,
bevor man in der Lage ist, die Auswirkungen zu beurteilen
und Maßnahmen vorzunehmen.
Das ist also nicht überraschend.
Aber bei dieser europäischen Richtlinie
haben wir wirklich die Nase vorn.
Bei der DSGVO hatten wir auch die Nase vorn.
Ich erinnere mich an die Diskussionen,
wo gesagt wurde, das interessiert doch niemanden.
Das hilft doch nichts.
Aber Entwickler in aller Welt orientieren sich jetzt
an dieser Datenschutz- Grundverordnung,
denn es ist die einzige Orientierung, die es gibt.
Das nützt vor allem dem kleineren Unternehmen,
die können die Maßstäbe sonst gar nicht selber setzen.
Das macht Sinn, was die da jetzt machen.
Selbst wenn das nicht das Gelbe vom Ei ist für die nächsten 100 Jahre.
Solche Verordnungen kann man anpassen und ändern.
Der entscheidende Punkt ist, dass so etwas kommt,
dass es die grundlegenden Normen setzt.
Wir haben ein Interesse daran, dass so etwas festgesetzt wird.
Ich setze sehr darauf, dass in Europa
sich die richtigen Überzeugungen durchsetzen können.
Das ist wichtig und darauf warten auch die älteren Menschen,
etwa mit dem Blick auf das Verbot von Diskriminierungen usw.
Italien hat Chat GPT zwischenzeitlich verboten.
Aus Jugendschutzgründen und Datenschutzgründen.
Ist das ein gangbarer Weg,
dass man etwas erst mal aussetzt, bevor man weiß, was es bringt?
Was passiert?
Ich glaube nicht, dass es sinnvoll ist.
Wir grenzen die Lebenswelt der Schüler aus.
Sie leben in der gleichen Welt wie wir.
Das auszuschließen, ist das Vorgaukeln
von einer Existenz, die es nicht gibt.
--- Von einer Realität, die es nicht gibt.
Die Kinder erleben das in ihrem Alltag,
wir müssen das aufgreifen, deshalb halte ich das nicht für sinnvoll.
Ich kann verstehen den Grundgedanken dahinter,
weil bestimmte Fragen noch nicht geklärt sind.
Wir fordern, dass demokratische, technische,
ethische Rahmenbedingungen geschaffen werden,
die verlässlich sind.
Aber es auszuschließen, ist nicht möglich.
In New York haben sie es an den Schulen verboten.
Zu Recht wurde in Deutschland ganz klar gesagt,
wir schließen das nicht aus, das macht keinen Sinn.
Wir müssen lernen, damit zu leben.
Die Entwicklungen, die auf uns zukommen werden,
die Geschwindigkeit wird nicht mehr stoppen.
Das ist ein Prozess, der exponentiell verläuft
und mit KI noch mal befeuert wird, das haben wir erlebt.
Darauf müssen wir uns einstellen und wir müssen lernen,
damit umgehen zu können.
Dass wir immer wieder Neuerungen erleben, wird nicht aufräumen.
Es erfordert von uns Menschen, dass wir damit umgehen können.
Wir können es nicht mehr bremsen.
Es gibt jetzt einen offenen Brief,
der wurde unter anderem von Elon Musk unterschrieben,
wo gesagt wird, man muss jetzt erst mal eine Pause einlegen und gucken,
wo gesagt wird, man muss jetzt erst mal eine Pause einlegen bei Chat GPT
bevor man weiter macht.
Macht das Sinn aus Ihrer Sicht?
Wünschen kann man sich das.
Man kann sich auch wünschen, dass das weltweit passiert und alle
sagen,
wir sind jetzt ganz reflektiert und machen mal eine Pause.
Realistisch finde ich das nicht.
Eigentlich ist meine Idee zu sagen,
weiter entwickeln, kritisch reflektieren,
gucken, was können wir wie reglementieren?
Wo können wir eine Kennzeichnungspflicht,
etwa bei Chatbots, damit ich weiß, mit wem kommuniziere ich,
einführen?
Aber eine Pause halte ich mit Blick auf ein globales System
für völlig absurd.
Letzte Frage an Sie, Herr Kugelmann.
Gibt es den Aus-Knopf,
für den Fall, dass uns das alles überrollt?
Gibt es einen Notschalter?
Der menschliche Notschalter sollte grundsätzlich
für jeden einzelnen in seiner Verwendung
von diesen Dingen vorgegeben werden.
Dafür sollten wir sorgen,
dass beim Einsatz von solchen Systemen Menschen sagen können,
ich will das nicht nutzen,
will aber trotzdem gewisse Dienste in Anspruch nehmen,
ohne dass ich diese Dienste, die ich nicht akzeptiere, nutze.
Einen individuellen Notschalter ja,
aber keinen gesellschaftlichen.
Und auch keinen technischen.
Das wäre an der falschen Stelle der Notschalter gezogen.
Dann verabschiede ich mich, sage danke in eine muntere Runde.
Ich fürchte, wir werden uns mit diesem Thema
noch mal auseinandersetzen.
Ihnen zu Hause wünsche ich einen schönen Abend.
Stefan und ich sind echt, wir bleiben das hoffentlich auch.
Ich hoffe, dass Sie zu Hause
sich noch einen schönen Abend machen,
vielleicht nicht mit künstlicher Intelligenz, sondern mit echter.
Ihnen einen schönen Abend, bis zum nächsten Mal.
Copyright MDR 2023 UT: ARD Text im Auftrag des MDR