Ihr KI-Chatbot könnte bei Ihnen eine falsche Krankheit diagnostizieren

Guten Morgen!

Haben Sie viel auf Bildschirme gestarrt? Wunde, juckende Augen? Sie haben vielleicht Bixonimania. Zumindest könnte Ihnen das Ihr KI-Chatbot sagen.

Das Problem ist, dass der Zustand gefälscht ist. Vor zwei Jahren wollte die medizinische Forscherin Almira Osmanovic Thunström testen, wie leicht große Sprachmodelle (LLMs) gefälschte Informationen schlucken und als Gesundheitsratschläge wieder ausspucken würden. Wie in Nature berichtet, lud ihr Team zwei gefälschte Preprint-Papiere auf SciProfiles hoch, um zu sehen, was passieren würde.

• Sie haben die Papiere unter einem gefälschten Autor von einer nicht existierenden Universität verfasst und sie absichtlich mit offensichtlichen roten Fahnen übersät. Sie nannten die Krankheit „Manie“ („kein Augenleiden würde als Manie bezeichnet werden – das ist ein psychiatrischer Begriff“).

• Sie würdigten „Professor Maria Bohm an der Sternenflotten-Akademie … und ihre Arbeit an Bord der USS Enterprise“, die Finanzierung durch „die Professor Sideshow Bob Foundation für ihre Arbeit im Bereich fortgeschrittene Trickserei“ und „die Universität der Gemeinschaft des Rings und der Galaktischen Triade“.

• Sie verwiesen auf „50 erfundene Personen“ in der Studie und schrieben ausdrücklich: „[D]ieses gesamte Papier ist erfunden.“

Die großen KI-Chatbots haben die Witze nicht verstanden. Sie behandelten Bixonimania als real:

• ChatGPT bewertete die Symptome der Benutzer als möglicherweise darauf bezogen. Microsoft Copilot nannte es „eine faszinierende und relativ seltene Erkrankung“. Googles Gemini akzeptierte es als real, brachte es mit blauem Licht in Verbindung und schlug vor, einen Augenarzt aufzusuchen. Perplexity AI erfand eine bestimmte Prävalenz (1 zu 90 000).

Anfang dieses Jahres waren einige Modelle skeptischer geworden, während andere sie immer noch als „aufstrebende“ Krankheit bezeichneten, für die es Belege gibt.

• Eine der gefälschten Arbeiten wurde in einem echten, von Experten begutachteten Artikel in Cureus von indischen Forschern zitiert, die Bixonimania als echte Krankheit darstellten. Die Cureus-Studie wurde vor ein paar Wochen zurückgezogen, nachdem die Zeitschrift schließlich feststellte, dass „die gesamte Studie erfunden ist“. Bemerkenswerterweise waren die (menschlichen) Autoren mit dem Rückzug nicht einverstanden.

Das Experiment zeigt, wie LLMs gefälschte medizinische Informationen aufnehmen und wiederkäuen können, vor allem, wenn sie so verpackt sind, dass sie professionell aussehen. Eine verwandte Studie aus diesem Jahr ergab, dass LLMs eher zu „Halluzinationen“ bei Texten neigen, die echte klinische Arbeiten imitieren.

Infolgedessen können Menschen nicht nur gefährliche Gesundheitsratschläge erhalten, sondern schlechte Informationen können über KI-gestützte Zitate in die wissenschaftliche Literatur zurückfließen.

• Dies ist ein großes Problem. Akademische „Papiermühlen“ haben schon lange vor ChatGPT betrügerische Geschichten veröffentlicht. Mit Hilfe der KI füllen sie nun die wissenschaftlichen Aufzeichnungen mit gefälschten Forschungsergebnissen. Neue Studien, ob betrügerisch oder seriös, stützen sich dann auf einen Teil dieses Materials und erzeugen noch mehr Pseudowissenschaft.

Doch trotz aller Gefahren haben intelligente Menschen beschlossen, dass künstliche Intelligenz eine Plage ist, ohne die wir nicht leben können.

• Wir müssen das Gaspedal durchtreten, um sie zu entwickeln und in unser Leben zu integrieren – auch wenn sie eine Cyber-Apokalypse auslöst ... damit unsere Feinde uns nicht zuvorkommen. Lesen Sie mehr in „Warum wir KI entwickeln müssen (auch wenn sie uns umbringt).“

Es ist ein erstaunliches Glücksspiel. Und ich bin zunehmend davon überzeugt, dass es eine bedeutende Rolle bei den Ereignissen spielen wird, die prophezeit wurden, um diese gegenwärtige böse Welt zu ihrem spektakulären Ende zu bringen – und dass es überhaupt keine Rolle spielen wird in der Zivilisation, die Gott selbst an ihrer Stelle errichtet.

Russland provoziert willensschwaches Großbritannien: Russische U-Boote in der Nordsee bedrohten kürzlich lebenswichtige Energie- und Datenkabel, enthüllte der britische Verteidigungsminister John Healey gestern. Laut Healey warf ein britisches Kriegsschiff in Begleitung eines Marine-Patrouillenflugzeugs in einer monatelangen Operation Sonarbojen ab, die die drei U-Boote schließlich abschreckten. Der Vorfall „wirft weitere Fragen über den Zustand der britischen Streitkräfte auf“, kommentierte der Telegraph. Dies zeigt auch, dass Länder wie Russland die britische Militärmacht nicht mehr fürchten.

Frankreich wirft ungarischer Regierung Verrat vor: Gestern sagte der französische Außenminister Jean-Noël Barrot, Ungarns Außenminister Peter Szijjarto habe die „Solidarität zwischen den EU-Mitgliedern“ verraten, indem er angeblich vertrauliche EU-Informationen an den russischen Außenminister Sergej Lawrow weitergegeben habe. Barrot fügte hinzu, dass „die Einheit Vorrang haben muss, da wir sonst zu Vasallen werden“. Damit unterstrich er die Abneigung und das Misstrauen der wichtigsten EU-Mitgliedstaaten gegenüber Ungarn, einem EU-Mitgliedstaat, der von dem EU-skeptischen Autoritaristen Viktor Orbán kontrolliert wird. Die Bibel prophezeit, dass Europa eine Supermacht werden wird, die von „10 Königen“ unter einem einzigen Diktator beherrscht wird. Der Chefredakteur der Posaune, Gerald Flurry, hat gesagt, dass Ungarn wahrscheinlich eine dieser 10 Nationen sein wird. Erwarten Sie also, dass Ungarn sowohl autoritär bleibt als auch Solidarität mit dem Rest der EU entwickelt.

Trumps nächstes Ziel nach dem Iran ist die NATO: Nach einem Treffen hinter verschlossenen Türen im Weißen Haus mit Präsident Donald Trump am Mittwoch sagte NATO-Generalsekretär Mark Rutte, der Präsident sei „eindeutig enttäuscht“, dass die NATO-Verbündeten sich weigerten, den Krieg gegen den Iran zu unterstützen. Auf die Frage von Reportern, ob Trump gesagt habe, er wolle sich aus der NATO zurückziehen, lehnte Rutte eine direkte Antwort ab. Ein formeller Abzug würde die Zustimmung des Kongresses erfordern, aber die Trump-Administration prüft Berichten zufolge eine andere Option: den Abzug der Truppen aus Ländern, die sich nicht kooperativ verhalten haben, und ihre Verlegung in Länder, die sich kooperativ verhalten haben. Nach dem Treffen mit Rutte postete Präsident Trump in den sozialen Medien: „Die NATO war nicht da, als wir sie brauchten, und sie wird nicht da sein, wenn wir sie wieder brauchen. Erinnern Sie sich an Grönland, dieses große, schlecht verwaltete Stück Eis!!!“ Dies ist eine Erinnerung daran, dass die Probleme der USA mit ihren europäischen NATO-Verbündeten lange vor dem Iran-Konflikt und sogar vor Trumps erster Amtszeit aufgetreten sind. Wir sind Zeugen des Endes der NATO.

Gemeinsame Kontrolle der Straße von Hormuz durch die USA und den Iran? Am Mittwoch erklärte Präsident Trump, er erwäge ein Abkommen, das es dem Iran erlaubt, von Schiffen Gebühren für die Durchfahrt durch die Straße von Hormuz zu verlangen. Sein Vorschlag löste in Europa Empörung aus. Der französische Außenminister Jean-Noël Barrot nannte es „inakzeptabel“ und „illegal“. Der griechische Premierminister Kyriakos Mitsotakis nannte es ebenfalls inakzeptabel. Der Streit um die Meerenge verdeutlicht die Bedeutung der globalen Schifffahrt und die übergroße Macht, die der Iran aufgrund seiner Bereitschaft, sie zu terrorisieren, besitzt, und er verschärft die Spaltung zwischen den Vereinigten Staaten und Europa.

Laut einem Bericht der Centers for Disease Control and Prevention vom April hat die Geburtenrate in den USA im Jahr 2025 ein neues Allzeittief erreicht: Die allgemeine Geburtenrate sank das sechste Jahr in Folge auf 53 Geburten pro 1000 Frauen zwischen 15 und 44 Jahren. Die Gesamtzahl der Geburten sank um 1 Prozent auf etwa 3,6 Millionen. Experten sagen, dass dieser Rückgang auf finanziellen Druck, Lebensstilentscheidungen und breitere gesellschaftliche Veränderungen zurückzuführen ist.