KI-Machtkampf: Der Pakt von San Francisco frisst seine Apostel

Als Dario Amodei OpenAI im Streit um Moral und Kommerz verließ, versprach er eine sichere Zukunft für die künstliche Intelligenz. Fünf Jahre später stehen sich Anthropic und OpenAI in einem erbitterten Vernichtungswettlauf gegenüber. Das Ringen um die Vormacht im Silicon Valley zeigt: Selbst die reinsten Absichten zerbrechen an Billionenbewertungen und blankem Zorn.

Wer in diesen Tagen durch San Francisco geht, atmet die gleiche aufgeladene Atmosphäre, die im Sommer 1943 über Los Alamos gelegen haben muss, als das Manhattan-Projekt die Hochebene von New Mexico in Beschlag nahm. Eine eigentümliche Mischung aus fiebriger Euphorie und existenzieller Beklemmung liegt über der Stadt. In den Bürotürmen arbeiten Ingenieure Tag und Nacht an Rechensystemen von historischer Tragweite. Propheten predigen den Anbruch einer neuen Weltordnung, Bundespolitiker geben sich die Klinke in die Hand, und unvorstellbare Summen an Risikokapital zirkulieren in einem Markt, dessen Konsequenzen kaum ein Beteiligter vollends überblickt. Jeder spürt, dass hier das Schicksal ganzer Volkswirtschaften besiegelt wird. Mittendrin stehen zwei Männer, die einst gemeinsam antraten, um die Menschheit vor den Gefahren ihrer eigenen Schöpfung zu bewahren – und sich heute in unversöhnlicher Feindschaft gegenüberstehen: Sam Altman und Dario Amodei.

Das Orakel der Rechenmacht

Amodei kam 2016 von Google zu OpenAI, als das Institut noch ein unscheinbares, gemeinnütziges Forschungslabor war. Mit seinen runden Brillengläsern und den braunen Locken, die er bei angestrengtem Nachdenken unentwegt um die Finger wickelte, wirkte der in Princeton ausgebildete Physiker wie der Prototyp des genialen, aber eigensinnigen Forschers. Seine Vision hielt er 2017 in einem 26-seitigen Grundsatzpapier fest, das intern als Manifest kursierte: Schiere Rechenleistung und gigantische Datenmengen seien der primäre Schlüssel zur Entstehung von Maschinenintelligenz. Künstliche Intelligenz werde exakt in dem Maße klüger, in dem man sie mit Rechenkapazität und Parametern füttere.

Diese Theorie von den Skalierungsgesetzen, von Amodeis engstem Kreis um Jared Kaplan und Sam McCandlish in mathematische Formeln gegossen, bestimmte fortan die weltweite Marschrichtung. Seine Forscher entwickelten GPT-2 und GPT-3 und schufen mit dem menschlichen Feedback-Lernen die entscheidende Methode, um unberechenbare Sprachmodelle überhaupt steuerbar zu machen. Doch während die Branche die Durchbrüche feierte und hinter verschlossenen Türen bereits die Weichen für ein um ein Vielfaches mächtigeres GPT-4 gestellt wurden, wuchs in Amodei das Entsetzen. Ausgerechnet seine eigene Grundlagenforschung trieb eine kommerzielle Dynamik an, die er mit seinem Gewissen bald nicht mehr vereinbaren konnte. OpenAI wandelte sich in ein gewinnorientiertes Unternehmen und entfernte sich mit jedem Quartal weiter von seinem Gründungsversprechen, ausschließlich dem Wohl der Menschheit zu dienen.

Ein Basar für Despoten

Der entscheidende Bruch vollzog sich, als Elon Musk sich 2017 überraschend zurückzog und OpenAI vor dem finanziellen Abgrund stand. Die Mitgründer Greg Brockman und Ilya Sutskever präsentierten der Belegschaft in einem internen Vortrag einen Finanzierungsplan, der als sogenannter Länder-Plan in die Firmenannalen einging: Sie schlugen vor, eine Versteigerung über die Zugriffsrechte auf die künftige Superintelligenz zwischen führenden Weltmächten abzuhalten – explizit unter Einbeziehung der Vereinigten Staaten, Chinas und Russlands. Die zynische Rechtfertigung der Führungsetage lautete, dass eine derart mächtige Technologie ohnehin von Nationalstaaten beschlagnahmt werden würde. Wenn man die künftige künstliche Intelligenz am Ende ohnehin an Wladimir Putin oder Xi Jinping abtreten müsse, so das Argument, könne man sie ihnen genauso gut vorab verkaufen, um die akute Finanznot zu lindern.

Amodei reagierte mit blankem Entsetzen. In einer internen Brand-E-Mail wandte er sich im Dezember 2017 an Brockman, Sutskever und die Führungsriege und legte seine fundamentalen Einwände schonungslos dar: Ein solcher Ausverkauf würde das globale Wettrüsten nicht bremsen, sondern dramatisch anheizen. Einer Regierung wie jener in Moskau eine Superintelligenz zu überlassen, die deren Werten entspreche, bedeute, unmenschlichen Gräueltaten gegen die eigene Bevölkerung den Weg zu ebnen. Ein solcher Schritt würde die moralische Legitimität des Instituts ein für alle Mal vernichten. Zwar zerschlug sich der Plan wenig später, als Microsoft mit frischem Kapital einstieg, doch das Vertrauen in die moralische Integrität der Führung war dauerhaft zerstört.

Risse im Elfenbeinturm

In den folgenden Jahren wuchsen die Spannungen zu einem Dauerkonflikt heran. Der Verkauf von Modellzugängen über kommerzielle Schnittstellen widersprach Amodeis Verständnis einer vorsichtigen, kontrollierten Veröffentlichung. Hinzu kam ein tief sitzendes Misstrauen gegenüber Sam Altman, dem er wiederholt vorwarf, Vereinbarungen eigenmächtig auszuhöhlen und die Wahrheit zu beugen. Als Amodei während der geschlossenen Testphase von GPT-3 nach der Kundenliste verlangte, übergab Altman ihm ein Verzeichnis; Amodei entdeckte jedoch rasch, dass es eine zweite, weit längere Liste gab, die man ihm bewusst vorenthalten hatte. Ähnliche Täuschungen sah er bei den Verhandlungen über den Eine-Milliarde-Dollar-Deal mit Microsoft, bei dem Altman wichtige Sicherheits- und Fusionsklauseln opferte. Hinzu kamen bizarre Vorfälle wie das Angebot an den psychisch labilen Musiker Kanye West, Vorabzugang zu neuen Modellen zu erhalten – ein Plan, den erst der hauseigene Politikchef Jack Clark mit Verweis auf untragbare Ausfälle stoppen musste.

Parallel dazu bildete sich im Unternehmen ein tiefer Graben zwischen den Lagern. Zusammen mit seiner Schwester Daniela, die aus der Politik kam und das operative Management technischer Teams übernahm, scharte Amodei eine verschworene Gruppe um sich. Während Daniela innerbetriebliche Spannungen mitunter über Rollenspiele mit einer Sammlung von Stofftieren analysierte, verschanzte sich die Sicherheitsfraktion in privaten Chatkanälen. Für die restliche Belegschaft wirkte diese Gruppe wie eine arrogante Splitterzelle, die jede sachliche Debatte im Keim erstickte, indem sie jedes beliebige Argument mit dem apodiktischen Verweis auf angebliche Sicherheitsrisiken für sich entschied. Amodei begriff schließlich, dass jeder erzielte Sicherheitskompromiss im Zweifelsfall den wirtschaftlichen Prioritäten der Chefetage geopfert werden würde.

Die Scheidung im Livestream

Im Jahr 2020 zog Amodei schließlich die Reißleine. Angestoßen durch den Physiker Jared Kaplan reifte der Entschluss, nicht zu Google DeepMind abzuwandern, sondern mit den verbliebenen Gesinnungsgenossen ein gänzlich eigenes Unternehmen aufzubauen. Im Geheimen formierte sich eine Kerngruppe von sieben Führungskräften unter dem Codenamen BATNA – der Verhandlungsformel für die beste Handlungsalternative bei einem Scheitern von Verhandlungen. Ein letztes Ultimatum an Altman, dem Sicherheitsteam ein striktes Vetorecht über alle Produktveröffentlichungen einzuräumen, wurde wie erwartet abgelehnt. Was folgte, waren knallharte Verhandlungen durch beauftragte Anwälte über die Modalitäten einer geschäftlichen Scheidung. Man einigte sich darauf, für ein kurzes Zeitfenster gezielt OpenAI-Mitarbeiter abwerben zu dürfen, sicherte sich interne Dokumente und unterzeichnete wechselseitige Schweigeklauseln.

Der finale Akt glich einer filmreifen Demütigung. Während einer virtuellen Betriebsversammlung im Dezember 2020 übergab Altman das Wort an Amodei, der vor der versammelten Mannschaft seinen Rücktritt und die Gründung einer neuen, sicherheitsorientierten Organisation verkündete. Als der Chatkanal im Minutentakt mit ungläubigen Reaktionen überquoll und Mitgründer Jack Clark noch ein versöhnliches Lebewohl eintippte, kappte das Unternehmen rigoros die Verbindung. Die Bildschirme der Abtrünnigen erloschen schlagartig: Sämtliche Konten wurden gelöscht und die Laptops aus der Ferne stillgelegt. Nur wenige Stunden später trafen sich die soeben gefeuerten Pioniere per privater Videoschaltung zu ihrer ersten eigenen Sitzung. Sie hatten noch keine Server, keine Infrastruktur und noch nicht einmal die Rechte an ihrer Wunsch-Webadresse, doch sie wähnten sich am Beginn eines besseren Weges.

Vom Öko-Kult zur Festung

Ursprünglich sollte aus dieser Abspaltung kein mächtiger Konzern erwachsen, sondern eine bescheidene wissenschaftliche Bastion. Das von Amodei verfasste Manifest für die Neugründung sah eine elitäre Denkfabrik von lediglich fünfzig Spitzenforschern vor, die mit vergleichsweise bescheidenen zehn Milliarden Dollar das Ziel einer sicheren künstlichen Allgemeinintelligenz erreichen sollte. Als das Unternehmen 2023 im Stadtteil Jackson Square arbeitete, residierte das damals 160-köpfige Team in einem Gebäude direkt über einem Altenpflegeheim. Man saß zwischen Grünpflanzen, verzehrte vegane Sandwiches, spielte Brettspiele und schichtete Hunderte leere Wasserdosen zu einem Thron auf. Die Arbeitsatmosphäre schwankte zwischen einem universitären Botanik-Laboratorium und dem Hauptquartier einer wohlhabenden Sekte.

Fünf Jahre nach dem Auszug ist von diesem idealistischen Refugium nichts geblieben. Anthropic hat die ehemalige Firmenzentrale des Kommunikationskonzerns Slack bezogen und sich in eine hermetisch abgeriegelte Trutzburg verwandelt. Bullige Sicherheitsleute bewachen die Schleusen, Besucher dürfen nur ausgewählte Zonen betreten, und ganze Stockwerke – insbesondere jene, auf denen die neuesten Versionen des Sprachmodells Claude trainiert werden – sind selbst für die eigenen Mitarbeiter striktes Sperrgebiet. Dario Amodei, der früher demonstrativ bescheiden lebte, reist heute im gecharterten Geschäftsflieger an, begleitet von Personenschützern. Das Unternehmen steuert auf einen Börsengang im Billionen-Dollar-Bereich zu und liegt im Clinch mit dem Pentagon. Die Führungsspitze spricht hinter vorgehaltener Hand von handfesten Erfolgskatastrophen: Man wird von der nagenden Erkenntnis geplagt, dass man im verzweifelten Streben nach Skalierung und Kapital genau jenes unkontrollierbare Wettrüsten angeheizt hat, vor dem man einst geflohen war.

Hass im Schatten der Erleuchtung

Mit dem rasanten Wachstum ist auch die persönliche Bitterkeit nicht gewichen. Hinter den Kulissen tobt ein unerbittlicher Grabenkrieg weiter. In firmeninternen Chatverläufen bezeichnete Amodei seinen früheren Partner Altman und dessen Konzern schlichtweg als bösartig – Äußerungen, die Kommunikationsberater hektisch löschen ließen, um das Image des bedachten Mahners nicht zu gefährden. Auf der Gegenseite ist der Ton kaum versöhnlicher. Führende Stimmen bei OpenAI brandmarken die abtrünnigen Gründer als scheinheilige Tugendwächter, die moralische Überlegenheit lediglich als Marketingetikett vor sich hertragen, während sie in Wahrheit denselben marktwirtschaftlichen Zwangslagen unterliegen und eng mit den elitären Zirkeln des effektiven Altruismus verwoben sind.

Darin liegt die tragische Ironie dieser Epoche: Während Heere von Spitzenkräften Milliarden aufwenden, um digitalen Modellen Sanftmut, Geduld und ethische Prinzipien einzupflanzen, wird der Weg zur technologischen Vorherrschaft von menschlicher Rachsucht, Missgunst und verletztem Stolz diktiert. Die Schöpfer der neuen Intelligenz scheitern an den ältesten Schwächen ihrer eigenen Natur.