Wissen-News "Wir haben keine Ahnung, ob wir die Kontrolle behalten können" – KI-Forscher warnt vor KI-Folgen
Hauptinhalt
13. Dezember 2024, 13:16 Uhr
Beim Bankett zu Ehren der Nobelpreisträger in Stockholm hat der Physik-Nobelpreisträger und KI-Grundlagenforscher Geoffrey Hinton betont, dass die rasante KI-Entwicklung viele kurzfristige Risiken mit sich bringen kann.
Der Physik-Nobelpreisträger und KI-Grundlagenforscher Geoffrey Hinton hat eindringlich vor den Gefahren gewarnt, die Künstliche Intelligenz der Menschheit bringen könnte. Mit der KI könne man zwar hochintelligente Helfer erschaffen, die die Produktivität in fast allen Branchen steigern und somit einen wundervollen Fortschritt für die Menschheit bringen könnten, sagte der 77 Jahre alte Brite auf dem Nobelbankett zu Ehren der diesjährigen Nobelpreisträger in Stockholm.
Leider bringe die rasante KI-Entwicklung aber auch viele kurzfristige Risiken mit sich, warnte Hinton, wie in der Übertragung des Banketts beim schwedischen Rundfunksender SVT zu sehen war. "In der nahen Zukunft könnte KI dazu verwendet werden, schreckliche neue Viren und grauenhafte tödliche Waffen zu erschaffen, die selbst entscheiden, wen sie töten oder verstümmeln."
"Keine Science-Fiction mehr"
Die kurzfristigen Risiken erforderten dringende und energische Aufmerksamkeit von Regierungen und internationalen Organisationen, mahnte Hinton vor den knapp 1.300 Gästen des Banketts. In langfristigerer Hinsicht gebe es zudem eine existenzielle Bedrohung, die entstehe, wenn digitale Wesen erschaffen würden, die intelligenter als die Menschen seien. "Wir haben keine Ahnung, ob wir die Kontrolle behalten können", sagte Hinton. "Wir müssen dringend erforschen, wie wir verhindern können, dass diese neuen Wesen die Kontrolle übernehmen wollen. Sie sind keine Science-Fiction mehr."
Der an der Universität im kanadischen Toronto lehrende Hinton und der US-Amerikaner John Hopfield haben den diesjährigen Physik-Nobelpreis für grundlegende Entdeckungen und Erfindungen erhalten, die maschinelles Lernen mit künstlichen neuronalen Netzen ermöglichen. Sie wurden am Dienstag ebenso wie die anderen Nobelpreisträger feierlich ausgezeichnet.
dpa/iz
Dieses Thema im Programm: MDR AKTUELL | MDR Aktuell | 18. November 2024 | 17:18 Uhr
AlexLeipzig vor 5 Wochen
wsnu, Sie brauchen nicht die Gefahren durch KI und den Klimawandel gegeneinander auszuspielen, beides sowie zahlreiche andere "Erscheinung" wie Ausbeutung, Kriege, Vermüllung des ganzen Planeten usw sind Ausdruck unserer menschlichen Fehlbarkeit, Aggressivität und Gier. Wir sind selbst unser größter Feind, und immer wieder zu gierig und egoistisch, das zu ändern.
MDR-Team vor 5 Wochen
Hallo weils so nicht unwidersprochen bleiben darf,
der Klimawandel ist ein existenzielles Problem für den Planeten und wird in den nächsten Jahrzehnten tiefgreifende Auswirkungen auf das Leben auf der Erde haben.
Die aktuellen wissenschaftlichen Konsense und Modellrechnungen zeigen, dass die Auswirkungen des Klimawandels bereits heute spürbar sind und sich mit zunehmender Dringlichkeit weiterentwickeln werden.
- Das MDR WISSEN Team
weils so nicht unwidersprochen bleiben darf vor 5 Wochen
Hinton warnt völlig zu recht - nicht erst in hundert, sondern vermutlich schon in 30 Jahren wird die Welt nicht wiederzuerkennen sein; selbst, wenns "gut" läuft, wird die Freiheit der Menschen in nahezu allen individuellen Entscheidungen allenfalls eine gut verpackte Illusion sein; in "kollektiven" wird nicht einmal die Illusion erhalten bleiben.
Um so lächerlicher vor diesem Hintergrund die absurden Sorgen um 100 Jahre in der Zukunft liegende Meeresspiegelanstiege oder Klimawandelprobleme - die Menschheit schliesst vor den wirklichen Problemen der Zukunft die Augen - und verdirbt sich die Gegenwart mit Selbstkasteiungen. Die Menschen in 100 Jahren (wenns denn welche gibt) werden für all das Getue der "Klima"- und "Umwelt"-Politik allenfalls ein bitteres Gelächter übrig haben.