Wissenschaftler in Texas haben ein GPT-Modell entwickelt, das menschliche Gedanken lesen bzw. interpretieren kann. Dabei kommt es zu keinem invasiven Eingriff. Das Modell heißt GPT-1. KIs wie ChatGPT sind zur Zeit in aller Munde, aber es werden Systeme entwickelt, die gehen sogar noch darüber hinaus und klingen wirklich wie aus einem Sci-Fi Film.
Wissenschaftler arbeiten bereits an ihren eigenen Anwendungen von Generative Pre-trained Transformers (GPT) und LLM (Large Language Models). Dabei gibt es eine neue Anwendungen, die ein GPT-basiertes Modell, ist, das seine Eingabeaufforderungen nicht aus menschlichem Text, sondern direkt aus den Gedanken der User bezieht. Ja ihr habt richtig gelesen: diese KI kann aus euren Gedanken jetzt einen Text machen.
Modell kann Gedanken lesen
In Austin, an der University of Texas wurde dieses System entwickelt. Das GPT-Modell interpretiert die Hirnaktivität einer Person über den Blutfluss, wie er in einer funktionellen Magnetresonanztomographie dargestellt wird, und erhält so Zugang zu dem, was der User “hört, sagt oder sich vorstellt”. Und das ohne invasive Eingriffe. Es bestand die eindeutige Möglichkeit, das neue Modell BrainGPT zu nennen, aber das “Gehirnlesemodell” wird stattdessen GPT-1 genannt.
Die Forscher weisen darauf hin, dass GPT-1 wegen der verwendeten Magnetresonanztomographie-Technik nicht in der Lage ist, spezifische Wörter zu analysieren, an die eine Versuchsperson denken könnte; und da das Modell auf einer höheren Abstraktionsebene arbeitet (es extrapoliert die Bedeutung aus der Hirnaktivität, anstatt nach der Bedeutung selbst zu suchen), gehen einige Details bei der Übersetzung verloren.
Ein Forschungsteilnehmer hörte sich zum Beispiel eine Aufnahme an, auf der stand: “Ich habe noch keinen Führerschein.” Bei der Verarbeitung der Magnetresonanztomographie-Daten, die ab dem Zeitpunkt erzeugt wurden, an dem der Teilnehmer die Worte hörte, gab GPT-1 den ursprünglichen Satz mit der Bedeutung “Sie hat noch nicht einmal angefangen, das Autofahren zu lernen.” wieder. Es schreibt unsere Gedanken also nicht wortwörtlich auf, aber es versteht ihre allgemeine Bedeutung von den gedachten Gedanken.
Vor- und Nachteile des GPT-1
GPT-1 ist also ein echter Schocker, der jede Menge Vor- und Nachteile hat. An sich ist diese Technologie nicht bösartig. GPT-1 könnte zum Beispiel ALS- oder Aphasie-Patienten bei der Kommunikation helfen. Solche Technologien könnten dabei helfen, um Gedanken “aufzuzeichnen”, wodurch sich neue Möglichkeiten der Selbsterkenntnis und vielleicht sogar neue Wege der Psychotherapie eröffnen.
Aber wie immer kann man Technologie natürlich auch missbrauchen, zum Beispiel wenn es darum geht, die Gedanken von jemandem zu lesen, der ein Geheimnis nicht preisgeben will.
Ist es das Ende unserer eigenen, leisen Gedanken?
Die Forscher selbst haben in ihrer Studie auf mögliche Missbräuche und negative Auswirkungen der Technologie hingewiesen – etwas, das sowohl in der akademischen als auch in der privaten Forschung viel seltener vorkommt, als es sein sollte. “Unsere Analyse des Datenschutzes legt nahe, dass die Zusammenarbeit der Probanden derzeit sowohl für das Training als auch für die Anwendung des Decoders erforderlich ist”, heißt es darin.
“Zukünftige Entwicklungen könnten es Decodern jedoch ermöglichen, diese Anforderungen zu umgehen. Selbst wenn die Vorhersagen des Decoders ohne die Mitarbeit der Testperson ungenau sind, könnten sie absichtlich für böswillige Zwecke fehlinterpretiert werden. Aus diesen und anderen unvorhergesehenen Gründen ist es von entscheidender Bedeutung, das Bewusstsein für die Risiken der Hirndekodierungstechnologie zu schärfen und Maßnahmen zu ergreifen, die die geistige Privatsphäre jedes Einzelnen schützen.”