Groups | Search | Server Info | Keyboard shortcuts | Login | Register [http] [https] [nntp] [nntps]

Groups > ger.ct > #658732

Re: Maschinelle Intelligenz

From "Wendelin Uez" <wuez@online.de>
Newsgroups ger.ct
Subject Re: Maschinelle Intelligenz
Date 2026-03-10 16:15 +0100
Message-ID <10orf03$1ipa8$1@solani.org> (permalink)
References <Problem-20260304141502@ram.dialup.fu-berlin.de> <n0sv84FanbuU1@mid.individual.net> <10on072$1f183$1@solani.org> <10on071$pat$1@news.bawue.net>

Show all headers | View raw

> Das Problem bei den aktuellen LLMs ist, daß Daten- und Kontrollkanal nicht 
> getrennt sind. Womit gerne mal Daten zu Anweisungen werden und das 
> Ergebnis verfälschen. Absichtliche oder versehentliche Prompt-Injection 
> hat noch keiner vollständig in den Griff bekommen.

Das alles steht zwar überall zu lesen, aber warum ist das eigentlich so? Ich 
habe bisher noch keine vernünftige Erklärung dafür gefunden. Warum kann ein 
LLM seine Eingabedaten, die es steuern sollen, nicht  von den trainierten 
Daten unterscheiden?

Wenn ein LLM nacheinander trainingshalber diverse Textdateien einliest, dann 
werden die doch auch bloß zur weiteren Verwendung verarbeitet und nicht 
gleich als Frage oder Filter etc. aufgefasst.

Back to ger.ct | Previous | Next — Previous in thread | Next in thread | Find similar | Unroll thread

Thread

Maschinelle Intelligenz ram@zedat.fu-berlin.de (Stefan Ram) - 2026-03-04 13:23 +0000
  Re: Maschinelle Intelligenz Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2026-03-04 18:29 +0100
    Re: Maschinelle Intelligenz Dr. Joachim Neudert <neudert@5sl.org> - 2026-03-05 09:00 +0000
  Re: Maschinelle Intelligenz Hermann Riemann <nospam.ng@hermann-riemann.de> - 2026-03-05 10:04 +0100
    Re: Maschinelle Intelligenz "Wendelin Uez" <wuez@online.de> - 2026-03-09 18:03 +0100
      Re: Maschinelle Intelligenz Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2026-03-09 18:44 +0100
        Re: Maschinelle Intelligenz "Wendelin Uez" <wuez@online.de> - 2026-03-10 16:15 +0100
          Re: Maschinelle Intelligenz Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2026-03-11 11:24 +0100
            Re: Maschinelle Intelligenz "Wendelin Uez" <wuez@online.de> - 2026-03-12 17:19 +0100
              Re: Maschinelle Intelligenz Lars Gebauer <lgebauer@live.de> - 2026-03-12 21:10 +0100
                Re: Maschinelle Intelligenz Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2026-03-13 13:22 +0100
                Re: Maschinelle Intelligenz Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2026-03-13 15:28 +0100
              Re: Maschinelle Intelligenz Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2026-03-13 07:58 +0100
  Re: Maschinelle Intelligenz Bonita Montero <Bonita.Montero@gmail.com> - 2026-03-13 16:00 +0100
    Re: Maschinelle Intelligenz Lars Gebauer <lgebauer@live.de> - 2026-03-13 16:38 +0100
      Re: Maschinelle Intelligenz Bonita Montero <Bonita.Montero@gmail.com> - 2026-03-14 16:17 +0100

csiph-web