Lässt sich die Entwicklung der KI „dosieren“?

Guten Morgen, 

Am Samstag einigten sich die schärfsten Konkurrenten der Technologiebranche zum ersten Mal seit langem auf etwas: Die Maschinen, um deren Entwicklung sie wetteifern, könnten zu gefährlich sein, weshalb eine Pause in der Entwicklung erforderlich ist. 

• Es ist jedoch überaus offensichtlich, dass die Kräfte, die einer sinnvollen Pause entgegenwirken, übermächtig sind. Der einzige Weg, die Entwicklung der KI zu verlangsamen, besteht darin, gemeinsam vorzugehen – und nichts auf der Welt kann Konkurrenten dazu bewegen, bei einem so folgenreichen und kostspieligen Vorhaben an einem Strang zu ziehen. 

Dieses Eingeständnis war beispiellos. In einem 3800 Wörter umfassenden Aufsatz vom Samstagmorgen erklärte Dario Amodei, CEO von Anthropic, dass die Entwicklung künstlicher Intelligenz „dosiert“ vorangetrieben werden müsse. Er warnte davor, dass ein außer Kontrolle geratener KI-Agent innerhalb von sechs Monaten mit Hilfe eines hartnäckigen Botnetzes die Kontrolle über das gesamte Internet übernehmen und Schäden in Höhe von Hunderten von Milliarden Dollar anrichten könnte.  

• Innerhalb weniger Stunden hatten sich Elon Musk von Grok („Dario hat recht“), Sam Altman von OpenAI („Ich stimme zu … wir müssen die Entwicklung behutsam vorantreiben“) und Demis Hassabis von Google DeepMind dafür ausgesprochen. Diese drei Unternehmen können sich normalerweise nicht einmal auf die Tageszeit einigen.  

• Dieser Vorschlag erfolgte nur wenige Tage, nachdem ein Forscher von Anthropic gekündigt hatte und davor gewarnt hatte, dass diese Unternehmen mit der Zukunft der Zivilisation spielen würden.  

Nicht so schnell: Amodeis Vorschlag zur „Gestaltung der Grenze“ umfasst drei Schritte. Sie zeigen sofort, dass diese Herausforderung unmöglich ist: 

Den ersten Punkt – die Einbindung externer Gutachter in die Forschungslabore – werde Anthropic laut Amodei unverzüglich und einseitig umsetzen. Das ist großartig, aber es liegt auf der Hand, dass die Sicherheitskontrollen eines einzelnen Unternehmens nicht ausreichen, um die gesamte Branche zu überwachen. 

• Dies geht aus einem Bericht von Anthropic vom 10. September hervor, in dem mehrere Bedrohungen detailliert beschrieben werden, die das Unternehmen abwehren konnte, darunter fünf Fälle, in denen Wissenschaftler versuchten, Claude für Forschung mit doppeltem Verwendungszweck einzusetzen, die der Entwicklung biologischer Waffen dienen könnte. Über einen Zeitraum von acht Monaten nutzten Wissenschaftler VPNs und getarnte Konten, um geografische Sperren zu umgehen und Claudes Unterstützung bei der „Gain-of-Function“-Forschung zu Chikungunya und Vogelgrippe, bei der Orthopoxvirus-Forschung sowie bei der Neugestaltung von Toxinen einzuholen. In einer Anfrage wurde Claude gebeten, einen Förderantrag für die „Gain-of-Function“-Forschung zum Chikungunya-Virus zu entwerfen, die an einem militärischen Forschungsinstitut hätte durchgeführt werden sollen. 

• In einem Fall, als Claude sich weigerte, leitete der Forscher die Anfrage einfach an eine konkurrierende KI mit schwächeren Sicherheitsvorkehrungen weiter.  

Die zweite Möglichkeit – Washington dazu zu bewegen, eine kartellrechtliche Ausnahmegenehmigung zu erteilen, damit Wettbewerber ihre Sicherheitsstandards rechtmäßig abstimmen können – ist unwahrscheinlich.  

• Präsident Trump, der gestern zu dieser Pause befragt wurde, wies diese zurück. „Wer auch immer bei der KI gewinnt, gewinnt“, sagte er. (Wie „gewinnt“ man eigentlich bei der KI? Es gibt keine Ziellinie. Und was können Sie gewinnen?)  

• David Sacks, Co-Vorsitzender von Trumps Beirat für Wissenschaft und Technologie, schrieb lapidar, dass die Unternehmen keine staatliche Genehmigung benötigten, um ihr Tempo selbst zu drosseln. 

Der dritte Punkt, von dem selbst Amodei einräumte, dass er möglicherweise unerreichbar sei: autoritäre Regierungen – vor allem China – davon zu überzeugen, sich auf rote Linien in Bezug auf Biowaffen und sich selbst verbessernde KI zu einigen. 

• Am selben Wochenende forderte Xi Jinping auf dem BRICS-Gipfel einen „auf Konsens basierenden globalen Rahmen für die KI-Governance“ – und versprach anschließend, dass China gemeinsam mit Russland, dem Iran und acht weiteren Mitgliedern zum Aufbau eines Open-Source-KI-Bündnisses beitragen werde.  

• Chinesische Modelle wie das Qwen und das Kimi K3 können bereits mit amerikanischen Flaggschiffmodellen mithalten – und das zu einem Bruchteil der Kosten. Pekings Vorstoß im Bereich KI und Robotik ist ein zentraler Bestandteil seiner Wirtschaftsstrategie. Ein wegweisendes Abkommen, das lediglich das führende Land bremst, wirkt sich äußerst vorteilhaft für China aus. 

Die „Moloch-Falle“ ist real. Aus diesem Grund sind Bemühungen, lediglich die Vorteile der KI zu nutzen und gleichzeitig die von ihr ausgehenden zivilisatorischen Gefahren zu beseitigen, zum Scheitern verurteilt.  

• Die Einigkeit unter diesen Pionierunternehmen ist gering und kann leicht durch Eigeninteressen untergraben werden. Die Hoffnung, dass die US-Regierung alle in Schach halten wird, ist vergeblich: Die Trump-Regierung glaubt nicht einmal, dass die Bedrohungen real sind. Und China dazu zu bewegen, bei der Einschränkung seiner eigenen Befugnisse mitzuwirken, ist ein Wunschtraum. 

Wissen ohne Charakter: Die rohe Macht entwickelt sich schneller, als die Menschen, die sie einsetzen, sie kontrollieren können. Der menschliche Erfindungsreichtum, der weder durch Weisheit noch durch die Unterwerfung unter Gott gezügelt wird, kennt keine Grenzen. In der Tat rückt die Warnung Jesu Christi vor der Gefahr des Aussterbens der Menschheit – sofern nicht göttliches Eingreifen erfolgt (Matthäus 24, 21–22) – immer deutlicher in den Fokus. 

Russland droht mit einem Atomangriff auf Litauen: Sollte Litauen beschließen, Atomwaffen auf seinem Staatsgebiet zu stationieren, werde das Land „ins Visier“ der russischen Atomwaffen geraten, erklärte Kreml-Sprecher Dmitri Peskow am Freitag. Seine Äußerung erfolgt vor dem Hintergrund der Beratungen im litauischen Parlament in dieser Woche über die Aufhebung eines verfassungsrechtlichen Verbots der Stationierung von Atomwaffen im Land. Um zu verstehen, wie die russische Aggression dazu beiträgt, Europa in die in der biblischen Prophezeiung vorhergesagte Lage zu treiben, lesen Sie „Russlands Krieg gegen die Ukraine verändert Europa.“ 

Wahlausgang in Schweden noch ungewiss:Nach den vorläufigen Ergebnissen der gestrigen Wahlen in Schweden werden die linken Parteien voraussichtlich 176 der 349 Sitze im Parlament gewinnen, was einer Mehrheit von drei Sitzen entspricht. Die Mitte-Links-Partei der Sozialdemokraten, die größte Partei, verzeichnete ihr schlechtestes Ergebnis seit über 100 Jahren. Die amtierende Regierung unter Führung der Mitte-Rechts-Partei „Die Moderaten“ in Zusammenarbeit mit den rechtsextremen „Schwedendemokraten“ wird voraussichtlich ihre Mehrheit verlieren, da die „Schwedendemokraten“ zum ersten Mal seit ihrem Einzug ins Parlament im Jahr 2010 an Zustimmung verloren haben. Die Moderaten verloren jedoch nicht, wie manche erwartet hatten, an Unterstützung, weil sie mit den Schwedendemokraten kooperierten. Die offiziellen Ergebnisse werden voraussichtlich am Mittwoch bekannt gegeben.

Kanada möchte „assoziiertes Mitglied“ der EU werden: Der kanadische Premierminister Mark Carney erklärte am Sonntag, Kanada wolle kein Mitglied der Europäischen Union werden, sondern „eine einzigartige Allianz mit der Europäischen Union“ eingehen. Das Wall Street Journal berichtet, dass Kanada die Möglichkeit prüft, „assoziiertes Mitglied“ zu werden – eine neue Bezeichnung für eine engere Beziehung zum EU-Block. Während Kanada hofft, dass diese Beziehung es ihm ermöglichen wird, unabhängiger von den USA zu werden, warnt die Bibel davor, dass die von Deutschland dominierte EU nicht nur die USA, sondern auch Kanada verraten wird.

Die Medien nehmen den verweigernden Geschworenen im Fall Clancy ins Visier: Am Freitag identifizierte die Sendung „CBS Mornings“ das einzige Mitglied der Geschworenenbank, das sich weigerte, Lindsay Clancy wegen Unzurechnungsfähigkeit für das von ihr gestandene Strangulieren ihrer drei Kinder für strafrechtlich nicht schuldig zu befinden. Noch am selben Tag berichtete NBC10 Boston über frühere Vorwürfe häuslicher Gewalt gegen ihn, wobei jedoch keine Anklagen genannt wurden. Die öffentliche Offenlegung privater oder personenbezogener Daten einer Person ohne deren Einwilligung wird als „Doxxing“ bezeichnet und dient häufig als Einschüchterungstaktik.