Erstes Vorhaben der Cyberagentur Von der Magie zur Cybersicherheit

Ein großer Mann mit Locken und Brille steht vor einer Betonwand.
Bildrechte: MDR/Viktoria Schackow

Die Cyberagentur des Bundes in Halle hat gerade ihre ersten Ausschreibungen gestartet. In einer geht es um Gehirn-Computer-Schnittstellen, also darum, inwieweit Maschinen Muster des menschlichen Gehirns "verstehen" können. Nur: Die Cyberagentur will für Deutschlands zukünftige Cybersicherheit sorgen. Was hat Hirnforschung mit Cybersicherheit zu tun?

Grafik: Gehirn und im Hintergrund ein Computer Motherboard.
Gehirn und Computer Motherboard: Wie stehen Cybersicherheit und Gehirn-Computer-Schnittstellen im Zusammenhang? Bildrechte: imago/Science Photo Library

"Jede ausreichend fortschrittliche Technologie ist nicht von Magie zu unterscheiden." Das hat Science-Fiction-Schriftsteller und Physiker Arthur C. Clarke in "Profile der Zukunft" geschrieben. Auch wenn wir wissen, dass Technologien menschengemacht sind, versetzen sie uns immer wieder ins Staunen. Und klar: Wir glauben nicht an Magie, aber wie ein Smartphone oder ein Induktionsherd funktioniert, wie man Plastik herstellt oder wie CO2-Emissionen genau berechnet werden, das können nur Expertinnen und Experten erklären. Magier sind sie deshalb nicht.

Smartphones als Steuerelemente für die ganze Welt

Neue Technologien haben trotzdem eine magische Wirkung auf uns: Das Smartphone zieht uns mit all seinen Möglichkeiten an, es verbindet und trennt uns; Konzerne und ihre Algorithmen wollen, dass wir möglichst viel Zeit mit ihnen verbringen. Mit dem Smartphone steuern wir Lampen, Fernseher oder Musikanlagen, öffnen Autos oder bestellen Pizza. Mit den Smartphones steuern wir uns durch den Alltag.

Die Suche nach den Mustern

Und indem wir im Internet suchen, teilen wir uns und unsere Wünsche – und geben sie preis. Wie viel sich daraus ablesen lässt, zeigt derzeit sehr anschaulich die Dokumentation "Made to measure".

Indem wir uns im Internet bewegen, kehren wir unser Inneres nach außen. Und weil wir das seit Jahren immer mehr machen, haben Algorithmen so viele Daten wie noch nie, in denen sie selbstständig nach Mustern suchen können – KI-Experten nennen das maschinelles Lernen.

Beispiele für Gehirn-Computer-Schnittstellen aus Forschung und Unternehmen

Die Forschungsfrage, die die Cyberagentur beantwortet wissen will, geht noch einen Schritt weiter: Wie stellen wir sicher, dass Computer und ihre Algorithmen nicht auch in unseren Gehirnen nach Mustern suchen, ohne dass wir davon wissen? Wie frei sind Gedanken in Zukunft?

Menschen können Maschinen sogar unbewusst steuern

Denn das Erstaunliche und "Magische" ist: Forscherinnen und Forscher stellen immer wieder fest, dass Maschinen unsere Gedanken schneller interpretieren können als wir selbst. Prof. Thorsten Zander von der Brandenburgischen Technischen Uni Cottbus-Senftenberg hat in einem Experiment nachweisen können, dass Menschen Maschinen sogar steuern können, ohne dass sie sich dessen bewusst waren.

"Das Ziel war, dass sich ein Cursor zu einem Ziel bewegt. Und wir haben Menschen nur beobachten lassen, wie sich der Cursor bewegt, und ihre Hirnsignale ausgelesen", so Zander. Die Probanden sollten dabei nur entscheiden, ob die Bewegung "akzeptabel" oder "nicht akzeptabel" war. "Und die Menschen waren sich nicht bewusst, dass sie den Cursor gesteuert haben, aber er ist trotzdem letztendlich dorthin gegangen."

Hier erzählt Thorsten Zander, wie das Cursor-Experiment funktioniert und was es bedeutet.

Die Kommunikation mit Computern

Das sei die Zukunft, dass Menschen mit Maschinen interagieren, ist sich Zander sicher. "Wir müssen die Maschine nicht mehr kleinschrittig ansteuern, sondern sie versteht, was wir wollen, indem sie unsere Hirnsignale liest und uns darüber einfach unterstützt, ohne dass wir groß etwas dafür tun müssen", sagt Zander, dessen Professur "Neuroadaptive Mensch-Maschine-Interaktion" heißt. Die Technologie würde sich automatisch an die Denkweise ihres Bedieners anpassen.

Computer passen sich an Erwartungen der Nutzer an

"Auf der Grundlage dieses Modells, das ständig aktualisiert wurde, passte sich der Computer automatisch an die Erwartungen des Bedieners an", schreibt Zander in seiner Studie. Es würden sich paradigmenverändernde Möglichkeiten für Mensch-Maschine-Systeme eröffnen.

Hier hören Sie Professorin Andrea Kübler von der Uni Würzburg, die schon heute Gehirn-Computer-Schnittstellen (Brain-Computer-Interfaces, BCI) bei Kranken einsetzt.

Wie kommunizieren wir also in Zukunft mit Maschinen? Konnten wir uns vor 15 Jahren vorstellen, dass wir unsere Bildschirme auch ohne Maus und Tastatur ansteuern können? Ist es Magie, wenn Maschinen unsere Gedanken erahnen?

Zander glaubt zum Beispiel, dass im Auto unsere mentale Beanspruchung gemessen werden könnte und dann entsprechend der Autopilot an- oder ausgeschaltet wird. Und er hat nachgewiesen, dass Computer Menschen besser einschätzen können als andere Menschen: "Wir konnten in einem Würfelspiel nur anhand der Hirnsignale zeigen, ob jemand blufft oder nicht." Die Trefferquote des Computers war dabei besser als ein Mensch, der das Experiment beobachtet.

Das wirft eine ethische Frage auf, sagt Zander: "Welche Informationen können ausgelesen werden – und was sollten wir nicht auslesen?" Und es ergeben sich eben nicht nur ethische, sondern auch sicherheitspolitische Fragen, wenn Drohnen, Flugzeuge oder Fahrzeuge unsere Hirnsignale lesen, damit wir sie steuern können: Wie können wir Technologie und Herstellern vertrauen, dass sie nicht noch mehr Daten sammeln?

Hier sagt Thorsten Zander, welches der größte Nutzen und das größte Risiko von Computer-Hirn-Schnittstellen sind.

Um diese Fragen ging es bei der ersten öffentlichen Veranstaltung der Cyberagentur in Magdeburg, die sie zusammen mit dem Leibniz-Institut für Neurobiologie organisiert hat. Dr. Simon Vogt von der Cyberagentur des Bundes in Halle formuliert die Frage so: "Wie kann eine neuronale Kommunikation zwischen Menschen und Maschine so gestaltet werden, dass Persönlichkeitsrechte, Datensicherheit und Datenintegrität bei der Akkumulation, Analyse und der Interpretation der Gehirndaten sichergestellt werden?" Auf diese Frage erhofft sich die Cyberagentur ein grundlegendes Gerüst für alle Nutzungsfälle von der deutschen Forschungslandschaft und startet deshalb eine Ausschreibung.

Ziel sind Standards für sichere Gehirne

Vogt will nicht weniger als Standards für die Cybersicherheit unserer Gehirne setzen: "Wie lässt sich ein Standard schaffen, der von Anfang an beispielsweise Verschlüsselungstechnologien, Speichertechnologien, aber auch Technologien, die die Einwilligung eines Menschen dokumentieren, um anonym zu bleiben, kombiniert?" Unsere Gedanken sind unser höchstes Gut, sagt Vogt.

Und er glaubt, dass die technischen Entwicklungen gerade einen rasanten Fortschritt machen. Das Mooresche Gesetz, nach dem sich die Entwicklung von Computerchips alle paar Monate verdoppelt, gelte für den wissenschaftlichen Fortschritt, sagt Vogt: "Es gibt Technologiesprünge, und viele Fachgebiete ergänzen sich, gerade in der Medizin, der Neurobiologie, der Informatik mit Künstlicher Intelligenz und Machine Learning."

Cyberagentur will weit in die Zukunft blicken

Vogt glaubt an eine exponentielle Entwicklung, und es sei Aufgabe der Cyberagentur, 15 bis 20 Jahre in die Zukunft zu schauen, um vorherzusehen, wie solche exponentiellen Entwicklungen aussehen könnten. "Ich glaube, wir sind vom Scheitelpunkt der exponentiellen Kurve nicht weit weg."

Warum Gehirn-Computer-Schnittstellen ein Thema für die Cyberagentur sind, sagt Simon Vogt hier.

Vogt sagt, Hirn-Signale ließen sich auch rund um das Ohr aufzeichnen: "Es ist kein weiter Weg mehr, kabellose Bluetooth-Kopfhörer umzubauen, um damit EEG-Signale aufzunehmen." Diese Signale, diese Daten ließen sich analysieren und verarbeiten: "Es ergibt sich dann zum ersten Mal die Möglichkeit, von vielen, vielen Nutzern gleichzeitig Daten aufzuzeichnen, Algorithmen laufen zu lassen und Erkenntnisse zu gewinnen, die man vor einigen Jahren gar nicht gewinnen konnte."

Ministerin Zieschang: Keine Privatsphäre-Einstellungen im Gehirn

Wie viel können Gehirndaten über uns preisgeben? Welche Muster lassen sich aus den Daten von abertausenden Menschen erkennen? Für Sachsen-Anhalts Innenministerin Tamara Zieschang ist jedenfalls eines klar: In unserem Gehirn können wir die Standortfreigabe nicht ausschalten. "Ich kann auch keine Privatsphäre-Einstellungen vornehmen. Dabei ist der Schutz der Privatsphäre Ausdruck des höchsten Schutzgutes", sagte Zieschang auf der Veranstaltung der Cyberagentur. Deshalb müssten wir als Gesellschaft wissen, was technisch überhaupt möglich sei.

Hier können Sie hören, was Sachsen-Anhalts Innenministerin Tamara Zieschang auf der Veranstaltung gesagt hat.

Wissenschaft und strategische Sicherheit

Die Frage, was möglich ist, können vor allem Wissenschaftler und Wissenschaftlerinnen beantworten. Thorsten Zander von der Uni Cottbus-Senftenberg sagt: "Wenn wir als Wissenschaftler daran arbeiten und gut kommunizieren, dann können wir sagen, da ist eine Grenze, die wir überschreiten könnten, die wir aber nicht überschreiten sollten."

Darüber könne eine Gesellschaft diskutieren und sich darauf vorbereiten. "So können wir gucken, dass Unternehmen wie Facebook oder Google das nicht missbrauchen können" meint Zander. "Ich bin mir sicher, dass im Labor von Großunternehmen oder von Militäreinrichtungen Forschung betrieben wird, die wir nicht mitbekommen."

"Frage, ob wir Gedanken lesen können, ist bereits beantwortet"

Nicht-öffentliche Forschung und Wissenschaftler, die bei großen Firmen anheuern, treiben auch Flottillenarzt Dr. Christian Haggenmiller um. Er ist am "German Institute for Defence and Strategic Studies" an der Führungsakademie der Bundeswehr tätig und sagte auf der Veranstaltung der Cyberagentur in Magdeburg: "Wir sehen, wie weit die Forschung schon ist. Die Frage, ob wir Gedanken lesen können, ist bereits beantwortet. Wir müssen uns fragen, was das jetzt heißt."

Haggenmiller bezeichnet Gehirn-Computer-Schnittstellen sogar als Riesensprung in der menschlichen Evolution. Er sagt aber auch: "Um ein Gefahrenpotenzial zu erkennen, muss man Gefahren auch erfassen können und sehen, wie weit kann man gehen."

Sicherheitsrisiko Wissenschaftler: Wenn Experten in eine andere Richtung gehen

Für Haggenmiller steht fest, dass man auch die strategische Sicherheitskomponente im Blick behalten müsse: Wissenschaftler, die vielleicht hierzulande nicht ganz so erfolgreich seien, könnten mit lukrativen Konditionen abgeworben werden. "Rogue Scientists", nennt Haggenmiller sie: "Auch Wissenschaftler sollten sich bewusst sein, dass es in ihrem Team jemanden geben könnte, der in eine andere Richtung gehen kann." Er fordert die Wissenschaftler auf, darauf ein wachsames Auge zu haben.

"Gehirn-Computer-Schnittstellen muss man verstehen"

In anderen Staaten und Unternehmen würden auch mit anderen Technologien Projekte entstehen, die unglaublich disruptiv und verstörend sind, sagt Haggenmiller und nennt zum Beispiel den chinesischen Forscher, der dafür gesorgt hat, dass Kinder auf die Welt kommen, die sich nicht mit dem HI-Virus infizieren können.

Sechs Menschen auf einer Bühne in weißen Sesseln vor Publikum
"Privatsphäre Gehirn: Können Maschinen unsere Gedanken lesen?"– so hieß die Veranstaltung der Cyberagentur und des Leibniz-Instituts für Neurobiologie in der Magdeburger Johanniskirche. Auf dem Foto: Dr. Simon Vogt (Cyberagentur), Prof. Stefan Remy (Direktor Leibniz-Institut für Neurobiologie), Prof. Andrea Kübler (Uni Würzburg), Prof. Thorsten Zander (Uni Cottbus-Senftenberg), Dr. Christian Haggenmiller (GIDS) und Prof. Constanze Seidenbecher (LIN) (v.l.) Bildrechte: LIN Magdeburg, Reinhard Blumenstein

"Man muss solche Gehirn-Computer-Schnittstellen verstehen, um sie kontrollieren zu können", sagt er und verweist in Magdeburg auf ein multinationales Treffen, das das Auswärtige Amt dazu Anfang des Jahres organisiert hatte. So entstehen auch neue Fragen an Politik und Gesellschaft: Brauchen wir eine Wissenschaftsdiplomatie? Sollte der Export bestimmter Technologien kontrolliert werden? Haggenmiller glaubt, dass weltweit neue Gesetze, Konventionen und Forschungsregeln entwickelt werden müssen.

Denn bereits jetzt würde Hirnforschung zum Beispiel dazu beitragen, dass Menschen Sprachen schneller lernen, sagt Haggenmiller. Auch im Militärbereich werde experimentiert: "Es gibt Impulse für das Gehirn, mit denen das Lernen unglaublich beschleunigt wird, damit eine Person in bestimmten Situationen besser vorbereitet ist und Emotionen besser in den Griff bekommt." Der Fantasie seien keine Grenzen gesetzt, so Haggenmiller.

Und wer Fantasie hat, hat sicher auch Ideen, die vielen als magisch erscheinen.

MDR/Marcel Roth

Dieses Thema im Programm: MDR SACHSEN-ANHALT – Das Radio wie wir | 25. September 2021 | 10:40 Uhr

0 Kommentare

Mehr aus dem Raum Halle und Leipzig

Mehr aus Sachsen-Anhalt