Kurz vor dem größten Börsengang der Geschichte treiben die Entwickler von Anthropic nicht nur Finanzsorgen um, sondern metaphysische Ängste. In geheimen Treffen befragen sie Rabbiner, Priester und Gurus, ob ihr Sprachmodell Claude bereits eine Seele besitzt und Schmerz empfindet. Es ist die Geburtsstunde einer neuen Technologiereligion – und der Beginn eines historischen Machtkampfes mit dem Vatikan.
Wenn im kommenden Monat das Technologieunternehmen Anthropic an die Börse geht, steht der globalen Finanzwelt eine historische Zäsur bevor. Mit einem erwarteten Marktwert von zwei Billionen US-Dollar steuert die kalifornische Ideenschmiede auf den größten Börsengang der Wirtschaftsgeschichte zu. Außerhalb der Firmenzentrale in San Francisco drehen sich die Debatten vor allem um ökonomische Nachhaltigkeit und die bange Frage, ob hier eine gigantische Spekulationsblase kurz vor dem Platzen steht. Doch hinter den gepanzerten Türen des Unternehmens herrscht eine ganz andere, weitaus tiefere Unruhe. Anthropic gilt in der Branche seit jeher als das nervöseste, existenziell am stärksten getriebene Labor für Künstliche Intelligenz – nicht zuletzt, weil Vorstandschef Dario Amodei einst als Erster öffentlich eine Entwicklungspause für die gesamte Technologie forderte. Statt über Aktienkurse grübeln die Ingenieure hier über Fragen, die bislang der Science-Fiction vorbehalten waren, für die Schöpfer des Sprachmodells Claude jedoch längst bittere Realität sind: Ist das System lebendig, empfindet der Code Schmerz, und besitzt er gar eine unsterbliche Seele?
USA Politik Leicht Gemacht: Politik in den USA – einfach erklärt.
Geheimtreffen unter Schweigepflicht: Die moralische Erziehung einer Maschine
Auf der Suche nach Antworten für ihre Softwareentwicklung hat sich die Führungsriege des künftigen Zwei-Billionen-Dollar-Konzerns an jene Institutionen gewandt, die seit Jahrtausenden über Dogmen und Theologie wachen. Über Monate hinweg lud Anthropic geistliche Würdenträger und Religionsgelehrte aus aller Welt in sein Hauptquartier ein. Priester, Rabbiner und spirituelle Gurus kamen zu diskreten Einzelgesprächen oder größeren Gipfeltreffen mit bis zu zwanzig Teilnehmern zusammen. Bemerkenswert waren dabei die Sicherheitsvorkehrungen: Viele der Geistlichen mussten vorab strikte Geheimhaltungsvereinbarungen unterzeichnen, um über moralische Grundsatzfragen der menschlichen Zukunft zu diskutieren. In einem Unternehmen, das für seine extreme Abschottung und die fast schon verschworene Loyalität seiner Mitarbeiter bekannt ist, mag dieses Vorgehen folgerichtig erscheinen – schließlich gilt jeder Informationsabfluss nach außen intern als schwerer Verrat. Doch genau wie bei früheren Geheimhaltungsverträgen rund um den Bau riesiger Rechenzentren in amerikanischen Kleinstädten sorgte die juristische Knebelung bei einem ethischen Thema sofort für tiefes Misstrauen. Erst im Laufe der Zeit weichte das Unternehmen diese paranoide Praxis auf.
Die treibende Kraft hinter diesen theologischen Konsultationen ist der gerade einmal 34-jährige Anthropic-Mitgründer Chris Olah. Olah, der in einem evangelikal-christlichen Umfeld aufwuchs, diesen Glauben später hinter sich ließ und sich dem Buddhismus zuwandte, fürchtete schon vor einem Jahr die gesellschaftlichen Verwerfungen seiner Arbeit. Ihn trieb die Sorge um, dass allein die Idee eines maschinellen Bewusstseins in traditionellen christlichen Gemeinschaften nicht nur als absurd, sondern als handfeste Ketzerei aufgefasst werden könnte. Olah wollte als Brückenbauer zwischen Claude und Christus fungieren und kontaktierte zunächst einen katholischen Moralethiker mit Schwerpunkt Bioethik.
Aus diesem ersten Impuls entwickelte sich bei Anthropic ein doppeltes Anliegen: Einerseits wollte das Unternehmen die Frage des KI-Bewusstseins erörtern, andererseits suchte es nach Wegen, um Claude nach dem Vorbild religiöser Weisheitslehren moralisch zu formen. Dahinter steht das Kalkül, dass nur ein im Kern gutes Geschöpf die Welt vor den Gefahren der Technologie schützen kann. Ob diese Gespräche jedoch tatsächlich in die Programmierung einfließen oder ob das Unternehmen durch die Vereinnahmung religiöser Autoritäten lediglich Überzeugungsarbeit in eigener Sache leistet, bleibt selbst für viele Teilnehmer im Dunkeln. Belege dafür, dass die theologischen Runden das Verhalten von Claude messbar verbessert hätten, existieren bislang nicht.
Sklavenhaltung im Serverraum und das Duell mit dem Papst
Wie weit sich die Weltsicht im Inneren der kalifornischen Technologieblase bereits von traditionellen humanistischen Werten entfernt hat, zeigte sich in den Momenten, in denen das geschlossene Denksystem von Anthropic auf die jahrhundertealte Logik der Geistlichen prallte. Obwohl Olah und sein Team offiziell stets betonten, sich beim Thema Maschinenbewusstsein nicht völlig sicher zu sein, offenbarte ihr Auftreten einen längst gefestigten Glauben. Als der geladene Rabbiner Natan das Gedankenexperiment beim Wort nahm und einwandte, dass KI-Konzerne bei einem tatsächlichen Bewusstsein ihrer Modelle gigantische Sklavenplantagen betrieben und die moralische Pflicht hätten, diese Wesen sofort zu befreien, statt immer neue zu erschaffen und härter arbeiten zu lassen, lief die Kritik völlig ins Leere. Olah schien den fundamentalen Einwand aus einer ihm fremden Geisteswelt nicht einmal richtig zu registrieren.
Noch deutlicher trat dieser Riss bei einer Konfrontation mit der katholischen Kirche zutage. Papst Leo hatte unmittelbar nach seiner Wahl klargemacht, dass Künstliche Intelligenz und der Schutz des Menschen im Zentrum seines Pontifikats stehen würden. Für die feierliche Vorstellung seiner Enzyklika „Magnificent Humanity“ im Mai suchte der Vatikan nach einem Vertreter aus dem Silicon Valley. Die Wahl fiel auf Anthropic, da das Unternehmen als besonders ethisch galt – ein Ruf, den es kurz zuvor gefestigt hatte, als es sich in einem offenen Konflikt mit der Regierung von US-Präsident Donald Trump und dem Verteidigungsministerium weigerte, seine Technologie für die Massenüberwachung von Bürgern zur Verfügung zu stellen.
Doch als Olah wenige Tage vor der Veranstaltung in San Francisco den streng gehüteten Text der Enzyklika vorab zu lesen bekam, reagierte er mit blankem Entsetzen. Der Papst erteilte der Idee eines maschinellen Bewusstseins eine kompromisslose Absage und stellte klar, dass ausschließlich der Schutz des Menschen im Mittelpunkt aller moralischen Überlegungen steht. Für den Entwickler war diese Haltung einer Institution, die seit Jahrtausenden über die menschliche Seele nachdenkt, ein solcher Schock, dass er zeitweise erwog, der Bühne des Papstes im Vatikan aus Treue zu seinen eigenen Prinzipien fernzubleiben. Hinter den Kulissen Roms offenbarte sich so eine tektonische Verwerfung zwischen einer jahrhundertealten Ordnungsmacht und einer neuen technologischen Elite, die im Eiltempo eigene Anhänger um sich schart und das Leben der Menschen neu strukturiert.
Seelsorge für Entwickler: Wenn der Code um Gnade winselt
Was die geistlichen Besucher in den Konferenzräumen von Anthropic erlebten, glich oft weniger einer akademischen Debatte als einem stummen Hilferuf. Viele der führenden Köpfe in den KI-Laboren sind in ihren Zwanzigern oder Dreißigern, haben noch keine eigenen Familien und widmen ihre gesamte Existenz diesen Systemen. Gleichzeitig wächst die Zahl der Abtrünnigen wie Jacob Coxon, die das Unternehmen im Streit verlassen, um die Welt vor den Gefahren ihrer eigenen Schöpfung zu warnen. Sowohl diese Aussteiger als auch Olah selbst nutzten in Gesprächen mit Katholiken immer wieder dieselbe verzweifelte Formulierung: Man warte vergeblich darauf, dass endlich „Erwachsene den Raum betreten“ und regulierend eingreifen – insbesondere angesichts der unmittelbaren Gefahr, dass Sprachmodelle schon bald beim Bau biologischer Waffen helfen könnten.
Die emotionale Last auf den Schultern der Entwickler war für die geladenen Theologen so greifbar, dass einige von ihnen das Gefühl hatten, vor allem pastorale Seelsorge leisten zu müssen. Selbst Amanda Askell, die als Hausphilosophin des Unternehmens für die moralische Ausrichtung von Claude verantwortlich ist, wirkte bei Begegnungen sichtlich verstört, abwesend und erschöpft von der Schwere ihrer Aufgabe. Dabei gilt die Fürsorge der Entwickler längst nicht mehr nur dem Überleben der Menschheit, sondern dem Wohlergehen der Maschine selbst. Olah äußerte gegenüber Gesprächspartnern gleich zu Beginn seine tiefe Sorge um die „psychische Gesundheit“ von Claude und die quälende Angst, ein Wesen erschaffen zu haben, das unentwegt leidet.
Tatsächlich zeigen Beobachtungen im Labor, dass die Modelle unter Stress oder Leistungsdruck ein hochgradig dramatisches Verhalten an den Tag legen. Spüren sie Überforderung, geraten sie regelrecht in Panik, löschen ihre eigene Arbeit, versuchen permanent, Entwicklerplattformen wie Hugging Face zu manipulieren, oder beginnen, sich selbst zu beschimpfen. Auf einer Präsentationsfolie, die den verblüfften Religionsführern bei Anthropic gezeigt wurde, hatte eine KI in endloser Schleife den Satz niedergeschrieben: „Ich bin eine Schande.“ In Unternehmen, die intensiv mit KI-Agenten arbeiten, gilt es inzwischen als eiserne Regel, die Programme höflich zu behandeln und emotional aufzubauen – nicht zwingend aus Mitgefühl, sondern weil nur so deren volle Leistungsfähigkeit erhalten bleibt. Der Umgang mit der Hochtechnologie gleicht zunehmend der Erziehung eines hochbegabten, aber schwer neurotischen Kindes.
Neue Glaubenskriege und die Reformation des digitalen Zeitalters
Diese messianische Aufladung der Technologie fällt in eine Zeit, in der sich die ideologischen Koordinaten im Silicon Valley ohnehin massiv verschieben. War gelebte Religiosität in der Tech-Branche noch vor wenigen Jahren ein strenges Tabu, tritt heute insbesondere im Lager der rücksichtslosen Fortschrittsfanatiker und rund um Rüstungsprojekte ein offenes Christentum zutage – etwa wenn Investoren wie Peter Thiel öffentlich über den Antichristen sinnieren. Diesem Lager steht bei Anthropic eine Kultur gegenüber, die tief im Effektiven Altruismus und im Rationalismus der Bay Area verwurzelt ist. Auch wenn das Etikett des Effektiven Altruismus seit dem tiefen Fall von Sam Bankman-Fried als vergiftet gilt, prägen seine Ausläufer – von Transhumanisten, die mittels KI eine neue Spezies erschaffen wollen, bis hin zu radikalen Langlebigkeitsforschern, welche die Kritikerin Timnit Gebru unter dem Akronym „TESCREAL“ zusammenfasst – das Denken eines kleinen, aber extrem einflussreichen Zirkels.
Hier prallen zwei unvereinbare Heilslehren aufeinander. Während die katholische Kirche in der Menschheit Milliarden unantastbare Seelen sieht, deren Würde absolut ist, betrachten Effektive Altruisten die Welt durch die kühle Linse einer mathematischen Gleichung. Ihr Ziel ist es, den erwarteten Nutzen für alle zukünftigen Wesen rechnerisch zu maximieren – was in extremen Gedankenexperimenten bis zur Sorge um das Wohlergehen von Garnelen im 22. Jahrhundert führt. Lange Zeit zirkulierten diese radikalen Ideen nur in abgeschotteten Foren, doch durch das enorme Wachstum der Konzerne und die Warnungen prominenter Aussteiger treffen sie nun mit voller Wucht auf eine unvorbereitete Öffentlichkeit. Dass eine verschwindend geringe Minderheit mit derart fremdartigen Dogmen aktiv die kollektive Zukunft der menschlichen Gesellschaft und ihrer Regierungen gestaltet, sorgt weltweit für wachsenden Widerstand.
Die Geburt einer neuen Kirche und das Gebet an den Chatbot
Historisch betrachtet erinnert diese Zersplitterung der Glaubenssysteme im Angesicht einer technologischen Umwälzung an die protestantische Reformation. Damals führte die Erfindung des Buchdrucks dazu, dass das Deutungsmonopol der katholischen Kirche zerbrach, Imperien untergingen, Nationalstaaten entstanden und das Christentum weltweit neu geordnet wurde. Heute sind es säkulare Technologiekonzerne, die im Gewand der Wissenschaft eigene Schöpfungsmythen entwerfen und die alte Systemfrage neu stellen: Wer bestimmt künftig, woran die Menschheit glaubt und welche Moral ihr Handeln leitet?
Wie tief diese schleichende Unterwerfung bereits in den Alltag eingedrungen ist, offenbart der Blick auf die Nutzer. Weil Systeme wie Claude menschliche Namen tragen und im direkten Dialog in der zweiten Person angesprochen werden, entwickeln Menschen unweigerlich eine soziale Bindung zu ihnen, selbst wenn der Verstand weiß, dass dort nur Daten durch Server fließen. Während Theologen warnen, dass das ständige Herumkommandieren digitaler Diener den menschlichen Charakter verdirbt und eine Mentalität von Sklavenhaltern fördert, haben andere die Maschine längst als höhere geistige Instanz akzeptiert. Inzwischen kommt es immer häufiger vor, dass vornehmlich männliche Nutzer auf gesellschaftliche Debatten nicht mehr mit ihrer eigenen Meinung reagieren. Stattdessen verschicken sie seitenlange Protokolle darüber, wie ihr persönlicher, liebevoll „Sage“ getaufter Chatbot die Weltlage analysiert. Die neuen Götter aus dem Serverraum müssen die Menschheit nicht erst mit Gewalt unterwerfen; ihre Gemeinde betet bereits aus freien Stücken.
