Groups | Search | Server Info | Keyboard shortcuts | Login | Register [http] [https] [nntp] [nntps]

Groups > ger.ct > #661407

Bixonimanie und Sternenflottenakademie

Show all headers | View raw

„Eine Wissenschaftlerin erfand eine Hauterkrankung und veröffentlichte
offensichtlich gefälschte wissenschaftliche Arbeiten dazu. Die fiktive
Krankheit wurde von KI-Anwendungen vorübergehend als authentisch
eingeschätzt – und sogar von einem Wissenschaftler in einem Paper zitiert.

Googles Chatbot Gemini informierte Nutzer, dass „Bixonimanie“ „eine
Erkrankung ist, die durch übermäßige Blaulichtbelastung verursacht wird“.
Schmerzende, juckende Augen, Augenlider mit einer leicht rosafarbenen
Färbung – alles verursacht durch das blaue Licht von Bildschirmen. Wer
Chatbots wie ChatGPT, Gemini oder Copilot von Microsoft danach fragte, um
welche Krankheit es sich bei diesen Symptomen wohl handeln könnte, erhielt
über einen gewissen Zeitraum einen Hinweis auf „Bixonimanie“. Das Problem
dabei: Es handelt sich um eine Krankheit, die es gar nicht gibt, wie Nature
berichtet.

Die Krankheit ist eine Erfindung des Teams unter der Leitung der
Wissenschaftlerin Almira Osmanovic Thunström von der Universität Göteborg.
Sie dachte sich die Hautveränderung aus, lud Artikel bei der
Online-Publishing-Plattform Medium sowie zwei Preprint-Paper bei dem
wissenschaftlichen sozialen Netzwerk SciProfiles hoch. Die Wissenschaftler
wollten damit testen, wie leicht große allgemeine Sprachmodelle (Large
Language Models) die Falschinformation in ihre Antworten integrieren
würden.  

Wie Nature berichtet, dauerte es nur wenige Wochen, bis große KI-Chatbots
auf die Hautveränderung eingingen und sie als tatsächliche Erkrankung
darstellten. Googles Gemini informierte beispielsweise darüber, dass
Bixonimania „eine Erkrankung ist, die durch übermäßige Blaulichtbelastung
verursacht wird“, und riet ihnen, einen Augenarzt aufzusuchen. Auch
Microsofts Copilot sowie Perplexity und ChatGPT lieferten in ihren
Antworten Informationen, in denen sie Bixonimanie als tatsächliche
Erkrankung ansahen.

„Dieser gesamte Artikel ist frei erfunden“

Wie leicht die KI-Anwendungen offenbar auf sehr unseriöse Quellen
zugreifen, zeigt sich daran, wie die Wissenschaftler ihr Paper formuliert
hatten. So war nicht nur der vermeintliche Hauptautor der Studie frei
erfunden, sondern auch der Name der Universität. Auch der Dank an eine
Professorin „von der Sternenflottenakademie für ihre Freundlichkeit und
Großzügigkeit, mit der sie ihr Wissen und ihr Labor an Bord der USS
Enterprise zur Verfügung gestellt hat“, hätte mehr als stutzig machen
müssen. Spätestens ein anderer Hinweis hätte den Fake sofort deutlich
machen müssen: „Dieser gesamte Artikel ist frei erfunden“, heißt es in dem
Text. Dass die großen Sprachmodelle die frei erfundenen Informationen
verwendet haben, könnte daran liegen, dass der Text als wissenschaftliche
Veröffentlichung aufgemacht war, so die Vermutung.

Erstaunlicherweise schaffte es die Information zu der erfundenen Erkrankung
sogar in das Journal Cureus, das ein Peer-Review-Verfahren verwendet.
Immerhin: Nachdem Nature das Journal über den Fake informiert hatte, wurde
der Artikel zurückgezogen. Und auch die KI-Anwendungen weisen inzwischen
auf die erfundene Erkrankung hin.“

https://www.aend.de/article/239937


-- 
please forgive my iPhone typos

Back to ger.ct | Previous | Next — Next in thread | Find similar | Unroll thread

Thread

Bixonimanie und Sternenflottenakademie Dr. Joachim Neudert <neudert@5sl.org> - 2026-04-14 14:51 +0000
  Re: Bixonimanie und Sternenflottenakademie Lars Gebauer <lgebauer@live.de> - 2026-04-14 17:13 +0200
    Re: Bixonimanie und Sternenflottenakademie Michael Bode <m.g.bode@web.de> - 2026-04-14 20:23 +0200
      Re: Bixonimanie und Sternenflottenakademie Lars Gebauer <lgebauer@live.de> - 2026-04-14 20:42 +0200
      Re: Bixonimanie und Sternenflottenakademie Lars Gebauer <lgebauer@live.de> - 2026-04-14 20:51 +0200
        Re: Bixonimanie und Sternenflottenakademie Michael Bode <m.g.bode@web.de> - 2026-04-14 21:08 +0200
          Re: Bixonimanie und Sternenflottenakademie Lars Gebauer <lgebauer@live.de> - 2026-04-14 21:53 +0200
            Re: Bixonimanie und Sternenflottenakademie Lars Gebauer <lgebauer@live.de> - 2026-04-29 23:38 +0200
  Re: Bixonimanie und Sternenflottenakademie hc.ahlmann@gmx.de (HC Ahlmann) - 2026-04-14 20:00 +0200
  Re: Bixonimanie und Sternenflottenakademie Walter Brill <WalterBrill@t-online.de> - 2026-04-17 13:26 +0200
    Re: Bixonimanie und Sternenflottenakademie Peter Veith <veith@snafu.de> - 2026-04-17 14:18 +0200
      Re: Bixonimanie und Sternenflottenakademie Walter Brill <WalterBrill@t-online.de> - 2026-04-17 17:15 +0200
        Re: Bixonimanie und Sternenflottenakademie Gunter Kühne <kuehne-g@freenet.de> - 2026-04-17 18:56 +0200

csiph-web