Insider: KI könnte das Ende der Menschheit bedeuten

Guten Morgen,

Künstliche Intelligenz könnte die Menschheit innerhalb weniger Jahre auslöschen, erklärten drei Forscher von Anthropic diese Woche.

• Jacob Coxon trat am Dienstag aus dem Unternehmen aus und schrieb auf X: „Keine andere menschliche Aktivität birgt eine derart große Gefahr.“ Sein Beitrag verzeichnete innerhalb eines Tages mehr als 115 Millionen Aufrufe.

• Evan Hubinger, Leiter des Bereichs „Alignment-Science“ bei Anthropic, schrieb, dass er persönlich die Wahrscheinlichkeit eines durch KI verursachten Artensterbens innerhalb des nächsten Jahrzehnts auf über 10 Prozent schätzt.

• Samuel Marks, der die Arbeit des Unternehmens im Bereich der skalierbaren Überwachung leitet, erklärte, je höher die Position eines Mitarbeiters in diesen Unternehmen sei, desto besorgter sei dieser in der Regel.

Das sind Insider, die Menschen, die diese Technologie entwickeln und die weitaus mehr erkennen als der Rest von uns. Coxon erklärte, Führungskräfte würden gegenüber der Presse eine zurückhaltendere Sprache verwenden, während sie hinter verschlossenen Türen ihre Ängste eingäben.

Dennoch gewinnt der Wettlauf an Fahrt. OpenAI hat letzte Woche GPT-6 Astra vorgestellt und bezeichnete es als einen Generationssprung in Richtung allgemeiner künstlicher Intelligenz.

• Jakub Pachocki, der Chefwissenschaftler des Unternehmens, schrieb diese Woche, dass es im Grunde genommen keinen Sinn mache, weiterhin mit voller Kraft voranzuschreiten, sobald man sich wirklich bewusst mache, was auf dem Spiel stehe – und erläuterte anschließend, warum OpenAI dies dennoch tue.

• Unternehmen, die dieses Risiko erkennen, bauen dennoch weiter, da ihre Konkurrenten nicht damit aufhören. Gerade diejenigen, die dieser Technologie am nächsten stehen, schlagen am lautesten Alarm – während sie gleichzeitig weiterhin ihr Gehalt beziehen, um sie noch schneller voranzutreiben.

• Bundesbeamte betonen, dass der Rückstand gegenüber China die größere Gefahr darstelle, unabhängig davon, welches Risiko von der KI selbst ausgeht. Alle Seiten sind sich einig, dass die Gefahr real ist – und niemand wird davon ablassen.

Es gibt einen Namen für diesen Wahnsinn. Bei einer Konferenz im Juni bezeichnete Jonathan Pageau dies als die „Moloch-Falle“ – eine Form der Eskalation im Sinne der Spieltheorie: ein Wettbewerb, in dem jeder rationale Akteur, um eine Niederlage zu vermeiden, zu Entscheidungen gedrängt wird, die kollektiv katastrophale Folgen haben, obwohl niemand der Beteiligten diese Katastrophe wünscht.

• Moloch war der kanaanitische Gott, der von den Menschen verlangte, ihre Kinder im Austausch für Macht zu opfern. „Die Moloch-Falle entsteht, wenn die Eskalation im Wettbewerb um die Aufrechterhaltung der Macht dazu führt, dass wir das Kostbarste opfern, selbst wenn dies letztendlich gegen unsere Interessen gerichtet ist“, sagte Pageau. „Aus Angst, dass China uns bei der Einführung künstlicher Intelligenz übertrumpft, opfern wir also Millionen von Arbeitsplätzen, unser Wasser, unsere Energie und den Verstand unserer Kinder.“

• Die Spieltheoretiker glauben nicht, dass Moloch real ist, doch sie „können erkennen, dass Moloch aktiv ist – dass es etwas will.“ Und während wir miteinander konkurrieren, werden wir zu seinen Beinen. Wir werden zu seinen Händen. Und wider Willen treiben wir dieses Ungeheuer in unseren möglichen Untergang. Während mittlerweile endlich alle bedauern, ihren Kindern Tablets und Smartphones gegeben zu haben – was sie dumm, depressiv und süchtig macht –, machen wir eine Kehrtwende und beeilen uns, künstliche Intelligenz in absolut alles zu integrieren. „Ob wir nun an den kanaanitischen Gott glauben oder nicht – wir opfern ihm letztendlich unsere Kinder.“

Das ist ein gewichtiges Argument. Hinter diesem falschen kanaanitischen Gott verbarg sich ein wahrer Teufel. Er weiß, was er tut. Und wir unterschätzen ihn auf eigene Gefahr. Er feuert zweifellos die unaufhaltsame Entwicklung dieser geheimnisvollen Technologie an und treibt sie voran, die unser Denken grundlegend verändert und uns in eine unvorhersehbare Zukunft entführt.

Jesus Christus warnte vor einem Tag, an dem sich die Menschheit, sollte Er nicht eingreifen, selbst vernichten würde (Matthäus 24, 22). Das nukleare Wettrüsten hat diesen Vers im vergangenen Jahrhundert glaubwürdig gemacht – und viele Prophezeiungen deuten darauf hin, dass diese Waffen zum Einsatz kommen werden.

• Die KI eröffnet uns einen zweiten, nicht ganz unabhängigen Weg hin zu diesem katastrophalen Ergebnis.

Glücklicherweise wird Christus diesem verhängnisvollen Ausgang ein Ende bereiten und wiederkehren, um uns vor uns selbst zu retten. Unter seiner Herrschaft werden die Menschen nicht vor unmögliche Entscheidungen gestellt und keinen „Fortschritt“ anstreben, der zerstörerische Nebenwirkungen hat. Das ist die feste Hoffnung der Bibel.

Indien und Russland vertiefen ihre Handels- und Militärbeziehungen: Der Handel zwischen Russland und Indien hat sich seit 2021 mehr als vervierfacht, wodurch Indien zu einem der wichtigsten Handelspartner Russlands geworden ist, wie Interfax gestern berichtete. Der Handel zwischen den beiden asiatischen Großmächten hat seit der Verhängung von Sanktionen gegen Russland durch westliche Staaten wegen dessen Einmarsches in die Ukraine stark zugenommen und belief sich im vergangenen Jahr auf 58,6 Milliarden US-Dollar. Die beiden Staaten vertiefen zudem ihre Zusammenarbeit im Zusammenhang mit der russischen Nordostpassage und bauen die gemeinsame Entwicklung und Produktion von militärischer Ausrüstung aus. Da Indien und Russland ihre Zusammenarbeit weiter ausbauen, werden die Weichen dafür gestellt, dass Indien einem in der Bibel prophezeiten, von Russland geführten asiatischen Militärbündnis beitritt.

UNO-Atomenergiebehörde warnt vor dem Iran: Die Internationale Atomenergie-Organisation hat am Mittwoch beschlossen, den Iran beim Sicherheitsrat der UNO anzuzeigen. Die Atomenergiebehörde der UNO behauptet, der Iran habe sich geweigert, Informationen über seine Bestände an angereichertem Uran bereitzustellen oder Zugang zu seinen Nuklearanlagen zu gewähren. Die IAEO hatte den Iran zuletzt im Jahr 2006 an den Sicherheitsrat verwiesen, was zu internationalen Sanktionen gegen das islamistische Regime führte. Dies dürfte diesmal kaum der Fall sein, doch die Tatsache, dass die Behörde, die die iranischen Nuklearaktivitäten jahrzehntelang geduldet hat, diese nun endlich dem Sicherheitsrat meldet, zeigt wie gefährlich sein Atomprogramm nach wie vor ist – selbst nach einem Angriff durch die Vereinigten Staaten. 

Trump hat nichts gegen Sanktionen gegen Israel einzuwenden: US-Präsident Donald Trump hat laut einem gestrigen Bericht von Axios zugestimmt, dass Großbritannien Sanktionen gegen Israel verhängt. Laut „US-Beamten und westlichen Diplomaten“ teilte der britische Ministerpräsident Andy Burnham Präsident Trump mit, dass seine Regierung Sanktionen gegen israelische Einrichtungen im Westjordanland verhängen werde, und der Präsident unternahm keinen Versuch, ihn davon abzubringen. Auf diese Frage angesprochen, erklärte US-Außenminister Marco Rubio: „Wir verfolgen das gemeinsame Ziel der Stabilität.“ „Wir möchten in dieser angespannten Zeit in der Region keinen Anstieg der Gewalt oder der Spannungen im Westjordanland erleben.“ In Jesaja 9, 20 wird prophezeit, dass Manasse und Ephraim – das heutige amerikanische und britische Volk – „miteinander gegen Juda“, also den Staat Israel, vorgehen würden. Diese Prophezeiung erfüllt sich heute.