Die Princeton-Bibliothek von Robert Wright hat viele Fernbesucher gesehen. Der erfahrene Journalist und Autor – früher unter anderem bei Outlets Die Neue Republik, Zeit Und Der Atlantikvon dem fünf Bücher veröffentlicht wurden und ein sechstes im Juni dieses Jahres erscheint, hält seit Jahrzehnten Hof vor seinen vollen Bücherregalen.
Als durch die Blogging-Revolution befreiter Schriftsteller gründete er die Plattform für Videointerviews Bloggingheads.tv Jahre bevor Podcasts zum neuen Tagesfernsehen wurden, und auch er ging jahrzehntelang seinen eigenen Weg. Dieser Redakteur war vor Jahrzehnten ein aufmerksamer Beobachter, als ein junges Who-is-Who der literarischen Schlagzeilen per Skype vorbeikam, um mit Bob zu sprechen Ezra Klein Zu Ta-Nehisi Coates Und Megan McArdle. Daher war es ein wenig surreal, diese vertrauten Bücherregale zu sehen und die vertraute Stimme zu hören, die mit ihnen korrespondierte Vermögen. Als ich ihm das erzählte, antwortete er mit seiner gewohnten Selbstironie: „Nun, Ihr Schiff ist angekommen.“
In den letzten fünf Jahren war Wright beim vielgelesenen NonZero-Newsletter und -Podcast zu Hause und baute dabei auf einem auf 26 Jahre altes gleichnamiges Buch Die argumentierte, dass die Geschichte der Menschheit weitgehend von Nicht-Nullsummendynamiken geprägt sei – von Begegnungen, bei denen der Sieg einer Seite nicht unbedingt die Niederlage der anderen Seite sei. Mit anderen Worten, die Situation ist normalerweise ungleich Null. Es basiert auf Wrights Schriften über den Buddhismus im Laufe der Jahre, den er weniger als Religion als vielmehr als Denkweise betrachtet.
Genau deshalb, sagte er Vermögen Während eines kürzlichen Interviews ist die aktuelle Situation so alarmierend. Diese Situation ist laut Wright nicht nur auf künstliche Intelligenz zurückzuführen, sondern auf das verlorene Konzept der „Aufklärung“ in den 2020er Jahren.
„Wenn man alle Fronten betrachtet – wirtschaftliche, kulturelle, politische, persönliche, familiäre, psychologische und so weiter – wird es ein Erdbeben sein“, sagte Wright. „Das ist meine Prognose. Und wir sollten besser darauf vorbereitet sein.“
Ein verspäteter „Oh scheiß“-Moment
Im Jahr 1983 war Wright als junger Journalist im Auftrag und setzte sich mit Geoffrey Hinton zusammen, Jahre bevor der Informatiker als „Pate der KI“ bezeichnet wurde und Jahre bevor Hinton zurücktrat Google DeepMind drückt sein Bedauern über seine Schöpfung aus. Wie Wright in seinem kommenden Buch erklärt: Der Gottestest: Künstliche Intelligenz und unsere kommende kosmische Abrechnunger verfehlte völlig die Bedeutung dessen, was ihm über dieses Konzept namens „Neuronale Netze“ gesagt wurde.
„Ich habe es einfach nicht getan – ich war nicht annähernd in der Lage, mir ein Bild davon zu machen“, sagte Wright. Damals wusste er noch nicht, dass diese Computer-Basteln zu dem führen würden, was er heute als Wendepunkt bezeichnet – nicht nur in wirtschaftlicher, sondern auch in zivilisatorischer Hinsicht. Der große Test, der jetzt vor uns liegt, sagte er mir, sei, ob wir qualifiziert seien, Gott zu spielen, und er sei sich nicht sicher, ob wir bewiesen hätten, dass wir dazu fähig seien.
Wrights Abrechnung mit der wahren Macht der KI erfolgte nicht im Jahr 1983, sondern im Jahr 2023, als er begann, mit ChatGPT-4 zu experimentieren, während er für ein ganz anderes Buch unter Vertrag stand, eines über kognitive Empathie. Ein Erlebnis ließ ihn an Hinton denken: Er gab GPT-4 ein ausführliches, vielschichtiges Szenario über einen Studenten und einen Professor und fragte, was der Student am Ende fühlen würde. Die Ein-Wort-Antwort des Modells: Schadenfreude.
„Ich dachte ‚Oh Scheiße‘“, erinnert sich Wright. „Es versteht die menschliche Natur wirklich und ist in der Lage, sich in die Perspektive eines anderen Menschen zu versetzen.“
Diese Erfahrung erinnerte Wright an einen Vortrag von Hinton aus dem Jahr 2018 über die tatsächliche Funktionsweise großer Sprachmodelle. Das neuronale Netzwerk, das Hinton als Pionier entwickelt hat, „wird eine Art Reverse Engineering des menschlichen Geistes durchführen“, sagte Wright und warnte, dass er noch nicht viele KI-Forscher gehört habe, die es so formuliert hätten. „Dazu gehören bestimmte kognitive Funktionen, die die natürliche Selektion über Millionen von Jahren entwickelt hat“, fügte er erstaunt hinzu.
„Das war 1983 mein großes Missverständnis“, fügte er hinzu. „Ich ging davon aus, dass wir den Maschinen das menschliche Verständnis für den Zusammenhang zwischen den Wörtern und der Bedeutung einpflanzen müssten, wenn wir mit der Sprache gut umgehen wollten.“ Aber wir mussten nichts davon tun. „Es hat einfach sozusagen ‚herausgefunden‘, dass es, wenn es gut vorhersagen soll, wie Sätze enden oder irgendetwas anderes vorhersagen soll, eine Möglichkeit haben muss, die Bedeutung von Wörtern darzustellen.“ Und er lieferte ein überzeugendes Beispiel: Es half dabei, einen mehrdeutigen MRT-Bericht über seine eigene Krebserkrankung herauszufinden.
Der Arzt und die Maschine
Wright sei derzeit krebsfrei, sagte er mir. Sein Kehlkopfkrebs hatte sich auf seine Lymphknoten ausgebreitet, doch nach erfolgreicher Behandlung ist er seit einer Operation im Jahr 2025 nicht wieder aufgetreten.
Irgendwann erzählte er Vermögenbekräftigte a Geschichte, die er im Juli 2025 auf NonZero erzählteEr versuchte, einen verwirrenden Arztbericht zu interpretieren, also speiste er ihn in verschiedene Chatbots ein. Sie sagten, es sähe so aus, als sei etwas einer Untersuchung wert.
Er drängte weiter und markierte einen seltsamen Satz, und Claude von Anthropic erkannte, was sein Radiologe übersehen hatte. „Claude sagte: ‚Nun, der Radiologe wollte das Wort ‚Nein‘ an den Anfang dieses Satzes setzen: ‚Keine Anomalien gefunden‘.“
Die KI hat einen entscheidenden grammatikalischen Fehler entdeckt – einen menschlichen Fehler –, der sein Verständnis von seiner Genesung hätte beeinträchtigen können.
„Man sagt, KIs halluzinieren, sie machen Fehler“, sagte Wright. „Menschen machen Fehler. Dieser Mensch hat einen Fehler gemacht und er ist Arzt, okay, und es geht ihm um eine ziemlich große Sache.“ Die Frage ist nicht, ob KI „unsere Jobs wegnehmen und zu unseren Liebhabern werden und alles andere tun wird“, wie Wright es ausdrückte: Es geht vielmehr darum, ob KI „insgesamt in irgendeiner Weise besser ist als die Leute, die diese Rollen ausfüllten“. Die Antwort darauf ist so offensichtlich, dass Wright sie nicht einmal sagen muss.
„Das Ding muss keineswegs perfekt sein, um einen Menschen zu ersetzen“, sagte Wright, „vor allem angesichts der Tatsache, dass es viel billiger und schneller sein wird.“
Wrights Denken zur KI ähnelt seiner Haltung zum Buddhismus: nicht religiös, sondern eine säkulare, verwestlichte Variante, die auf journalistischen Recherchen und dem Denken nach den ersten Prinzipien basiert. Sein Buch von 2017 Warum der Buddhismus wahr ist beschreibt seine Auseinandersetzung mit dem Buddhismus als eine lange persönliche Reise vor dem Buch selbst, die in seinen früheren Arbeiten zur Evolutionspsychologie wurzelt. Wrights ausdrückliches Ziel besteht nicht darin, den Lesern den Buddhismus als Religion nahezubringen, sondern zu argumentieren, dass seine grundlegenden psychologischen Erkenntnisse – insbesondere rund um ihn – eine Rolle spielen Leiden und Wahrnehmung – werden durch die Evolutionsbiologie und die moderne Wissenschaft bestätigt.
Die „Selbstmordideologie“
Wenn Wrights Erdbeben-These ihn im Großen und Ganzen mit Persönlichkeiten wie Anthropic-CEO Dario Amodei und Mustafa Suleyman von Microsoft in Einklang bringt – die beide vor dramatischen kurzfristigen Störungen gewarnt haben – ist seine schärfste Abkehr vom KI-Establishment im Silicon Valley geopolitischer Natur.
Insbesondere Amodei hat KI als einen existenziellen Wettlauf mit China dargestellt und argumentiert, dass die amerikanische Dominanz für die sichere Entwicklung der Technologie von entscheidender Bedeutung sei. Wright nannte dies eine „Selbstmörderideologie“.
„Dario sieht uns in diesem existenziellen KI-Wettlauf mit China, und ich persönlich denke, dass diese Mentalität zu einem sehr, sehr, sehr schlechten Ergebnis führen wird“, sagte Wright.
Er glaubt, dass Amodei „aufrichtiger ist als die meisten dieser Leute“, argumentiert jedoch, dass die gesamte Darstellung gefährlich falsch sei. Für Wright, getreu seiner Nonzero-Überzeugung, führt der einzige Weg zur sicheren Verwaltung von KI über globale Koordination und nicht über Wettbewerb. Seiner Ansicht nach schließt die Logik des Wettrüstens genau die Art von kooperativer Regierungsführung aus, die eine Katastrophe verhindern könnte.
Es sei, wie er mit einem schiefen Lächeln zugab, eine sehr unbuddhistische Art, sich einem existenziellen Problem zu nähern: Jede Nation klammert sich an ihre eigene Perspektive, ist sich ihrer eigenen Rechtschaffenheit sicher und blind für die Sicht von irgendwo anders.
Er sagte, seine Frustration über Anthropic habe sich kürzlich verschärft, nachdem das Unternehmen öffentlich zugegeben habe, dass eine rekursive Selbstverbesserung – KI-Systeme, die sich selbständig verbessern – möglicherweise bevorstehe. Das Unternehmen wies auf die Notwendigkeit einer globalen Koordinierung hin, bot jedoch keinen konkreten Plan an.
„Moment mal, Dario: Vor allem du hast jahrelang vorhergesagt, dass wir genau zu diesem Zeitpunkt kommen, und ihr habt keinen Plan?“ fragte Wright und fügte ein ziemlich farbenfrohes Adjektiv hinzu. „Sie haben nicht etwa hundert Dollar dafür aufgewendet, herauszufinden, was dafür nötig wäre?“
Er wies darauf hin, dass Anthropic demnächst mit einer Bewertung von fast einer Billion Dollar an die Börse gehen werde. „Liegt das nicht daran, dass die finanziellen Anreize in die andere Richtung weisen?“
Anthropic lehnte eine Stellungnahme ab.
Ein Gottestest, keine Untergangsvorhersage
Bei all seiner Besorgnis wehrt sich Wright dagegen, als reiner Weltuntergangsprophet eingestuft zu werden, und seine charakteristische Selbstironie und gute Laune sind während unseres gesamten Gesprächs zu spüren.
Der Titel Der Gottestest sei zum Teil eine biblische Metapher, sagte er: Im gesamten Alten Testament wird die Erlösung an Bedingungen geknüpft. Bringen Sie sich in Form oder stellen Sie sich den Konsequenzen. Die Wahl ist real.
„Wir stehen in gewisser Weise vor einem interessanten und Höhepunkt in der gesamten Evolutionsgeschichte“, sagte Wright. „Wir schaffen eine völlig neue Form der Intelligenz – das hat es noch nie gegeben – in einem neuen Substrat, das nicht auf Kohlenstoff basiert. Und wenn Sie Gutes und nicht überwältigend Schlechtes bringen wollen, sollten Sie besser sofort erkennen, dass Sie zu schnell und rücksichtslos vorgehen und dass Sie als geschlossene globale Gemeinschaft zusammenkommen müssen.“
Er verwies auf zwei jüngste Entwicklungen als vorsichtigen Grund zur Hoffnung: einen erneuten Dialog zwischen den USA und China über KI-Sicherheit und die Kehrtwende der Trump-Regierung bei der Überprüfung leistungsstarker KI-Modelle – eine Position, die sie zuvor unter Biden verspottet hatte. „Veränderungen können passieren“, sagte Wright. „Ich hoffe nur, dass der Fortschritt weiterhin durch Entwicklungen erzielt wird, bei denen nicht Unmengen von Menschen getötet werden.“
Der einzige Weg, die Gottesprüfung zu bestehen, bestehe darin, das zu modellieren, was er „Erleuchtung“ nennt, fügte er hinzu. Er meint es nicht im 18. Jahrhundert, Voltaire und Salons und Perücken im westlichen Sinne, stellt er klar, sondern etwas, das näher an der buddhistischen Vorstellung liegt. „Es kommt wirklich nur auf Klarheit der Wahrnehmung und des Denkens an“, sagte er. „Wir überwinden alle kognitiven und wahrnehmungsbezogenen Vorurteile, die in uns eingebaut sind und die einer ausgewogenen Sicht auf die Welt im Wege stehen. Als ob die Welt aus einer anderen Perspektive als der Ihren betrachtet würde.“
Wright sprach „die Sicht vom Mars“ auf die menschliche Verfassung und wie diese aussehen muss, was seiner Meinung nach schwer zu hören ist, ohne an Elon Musk zu denken – dessen SpaceX ist das erste Unternehmen mit der ausdrücklichen Mission, David Bowies Vision Wirklichkeit werden zu lassen: Leben auf dem Mars.
„Ich meine, Elon Musk scheint mir das Gegenteil von aufgeklärt zu sein“, sagte Wright. „Es ist besorgniserregend, dass der reichste Mann der Welt so unfähig ist, aus seiner eigenen Perspektive herauszukommen.“
Die Rettung für dieses unaufgeklärte Zeitalter, in dem Wright die Welt durchleben sieht, werde von „vielen Menschen, darunter einflussreichen Menschen, die besser darin werden, die Welt aus einer anderen Perspektive zu betrachten“, fügte er hinzu, kommen.
Dieser Redakteur fragte Wright, ob er für so etwas plädiere Star Trek Zukunfteine Föderation von Planeten unter einem Ein-Regierung-System, die Probleme friedlich bewältigt und Konflikte löst. Darauf hat er hingewiesen Star Trek kann nicht außerhalb des Kontexts seiner Premiere in den 1960er-Jahren gesehen werden, die nur 20 Jahre nach der Katastrophe des Zweiten Weltkriegs stattfand. „Das ist die Sache, Katastrophen führen zu dramatischen und ehrgeizigen Überlegungen zu Umstrukturierungsanordnungen … Ich hoffe, dass es in diesem Fall nicht einer echten Katastrophe bedarf, um uns dazu zu bringen, die internationale Koordinierung ernst zu nehmen.“
Er sagte, er greife zu einem weiteren Science-Fiction-Klassiker der KI-Diskussion: Der Tag, an dem die Erde stillstand. Wie Star TrekEs handelte sich um ein Drama der nuklearen Abschreckung, aber es handelte sich um Außerirdische, die die Erde mit der Botschaft besuchten, sie solle „sich zusammenreißen, eine globale Gemeinschaft bilden und die Dinge unter Kontrolle bringen.“
In gewisser Weise, sagte er, sende die KI eine Botschaft, „vielleicht nicht ganz so dramatisch, aber in die gleiche Richtung.“ Er kam auf die Metapher aus der Bibel zurück, in der Erlösung möglich ist: „Aber man muss sich zusammenreißen, man muss ein besserer Mensch werden … man muss sein Spiel moralisch und in gewisser Weise spirituell verbessern, oder es passieren schlimme Dinge, sehr schlimme Dinge. Aber sehr gute Dinge können passieren, wenn man das Richtige tut.“