Groups | Search | Server Info | Login | Register

Groups > de.sci.informatik.ki > #3205

Re: Vermeidung von halluzinierender KI möglich?

Show all headers | View raw

Am 24.08.2025 um 14:52 schrieb Peter Grass:
 > KI kann man anscheinend nicht trauen, wenn es um Sachfragen geht. Die
 > Antworten können auch erfunden sein.
 >
 > Kann die KI-Software nicht so programmiert werden, dass die KI sagt,
 > wenn sie etwas nicht weiss?

Deswegen gibt es ja z.B. Retrieval Augmented Generation.
Die KI lädt sich zu einem Thema relevante Texte oder
Daten aus einer mehr verläßlichen Quelle und formuliert dann
den Inhalt um. Mittlerweile ist es Standard, daß ein Chatbot
aus dem Internet lesen kann.

Wenn man also fragt, wieviel Watt ein bestimmer Staubsauger
braucht, könnte das KI-System ein zugehöriges Handbuch
von der Webseite des Herstellers laden und dort nachlesen.
Das KI-System formuliert dann seine Antwort mit dessen
Hilfe und gibt möglichst die Quellenangabe mit aus.

Daß die Quellen verläßlich sein sollten, ist
ein Problem anderer Leute.

Grüße,
Joachim

Back to de.sci.informatik.ki | Previous | Next — Previous in thread | Next in thread | Find similar

Thread

Vermeidung von halluzinierender KI möglich? Peter Grass <no-answer@mail.com> - 2025-08-24 14:52 +0200
  Re: Vermeidung von halluzinierender KI möglich? ram@zedat.fu-berlin.de (Stefan Ram) - 2025-08-24 14:26 +0000
    Re: Vermeidung von halluzinierender KI möglich? ram@zedat.fu-berlin.de (Stefan Ram) - 2025-08-24 14:35 +0000
      Re: Vermeidung von halluzinierender KI möglich? ram@zedat.fu-berlin.de (Stefan Ram) - 2025-08-24 15:50 +0000
  Re: Vermeidung von halluzinierender KI möglich? Hermann Riemann <nospam.ng@hermann-riemann.de> - 2025-08-24 16:45 +0200
  Re: Vermeidung von halluzinierender KI möglich? Joachim Pimiskern <JoachimPimiskern@web.de> - 2025-08-25 15:30 +0200
    Re: Re: Vermeidung von halluzinierender KI möglich? ram@zedat.fu-berlin.de (Stefan Ram) - 2025-08-25 13:55 +0000

csiph-web