Re: Atari 2600 schlägt ChatGPT...

From	ram@zedat.fu-berlin.de (Stefan Ram)
Newsgroups	de.alt.folklore.computer
Subject	Re: Atari 2600 schlägt ChatGPT...
Date	2025-06-15 10:48 +0000
Organization	Stefan Ram
Message-ID	<models-20250615114434@ram.dialup.fu-berlin.de> (permalink)
References	(2 earlier) <102i279$3lk12$1@dont-email.me> <mb59koFf0b7U4@mid.individual.net> <LLM-20250614153156@ram.dialup.fu-berlin.de> <mb6d3rFklhqU6@mid.individual.net> <slrn104t0is.28m91.hjp-usenet4@trintignant.hjp.at>

Show all headers | View raw

"Peter J. Holzer" <hjp-usenet4@hjp.at> schrieb oder zitierte:
>Das machen LLMs aber, indem sie immer nur das statistisch
>wahrscheinlichste nächste Wort (eigentlich: Token) generieren, das an
>den Prompt anhängen und das ganze wiederholen.

|[D]o language models learn world models or just surface statistics?
|Our experiment provides evidence supporting that these
|language models are developing world models and relying on
|the world model to generate sequences.
"Do Large Language Models learn world models or just surface
statistics?" (Web-Seite)

|This phenomenon is often referred to as the emergence of 
|a world model in sequence prediction tasks. Recent work has
|demonstrated this phenomenon in a simulated setting of board
|games like Othello and Chess. In this paper, we analyze the
|game of Checkers to find out the emergence of a world model
|in a language model. By training a GPT-style autoregressive
|language model using only the next character prediction
|objective, we find that the model does show a hint of
|learning a world model representation of the board positions.
"CheckersGPT: LearningWorld Models through Language Modeling"
(2024) - Abhinav Joshi, Vaibhav Sharma, Ashutosh Modi

Back to de.alt.folklore.computer | Previous | Next — Previous in thread | Next in thread | Find similar

Thread

Atari 2600 schlägt ChatGPT... Thomas Koenig <tkoenig@netcologne.de> - 2025-06-13 18:05 +0000
  Re: Atari 2600 schlägt ChatGPT... Kay Martinen <usenet@martinen.de> - 2025-06-13 22:10 +0200
  Re: Atari 2600 schlägt ChatGPT... Marc Haber <mh+usenetspam1118@zugschl.us> - 2025-06-13 22:32 +0200
    Re: Atari 2600 schlägt ChatGPT... Thomas Koenig <tkoenig@netcologne.de> - 2025-06-13 20:38 +0000
      Re: Atari 2600 schlägt ChatGPT... "Andreas M. Kirchwitz" <amk@spamfence.net> - 2025-06-13 23:30 +0000
        Re: Atari 2600 schlägt ChatGPT... Thomas Koenig <tkoenig@netcologne.de> - 2025-06-14 09:35 +0000
          Re: Atari 2600 schlägt ChatGPT... "Andreas M. Kirchwitz" <amk@spamfence.net> - 2025-06-14 11:58 +0000
            Re: Atari 2600 schlägt ChatGPT... Kay Martinen <usenet@martinen.de> - 2025-06-14 22:48 +0200
            Re: Atari 2600 schlägt ChatGPT... Marcel Mueller <news.5.maazl@spamgourmet.org> - 2025-06-15 12:34 +0200
              Re: Atari 2600 schlägt ChatGPT... Alexander Schreiber <als@usenet.thangorodrim.de> - 2025-06-15 15:27 +0200
                Re: Atari 2600 schlägt ChatGPT... Kay Martinen <usenet@martinen.de> - 2025-06-15 16:33 +0200
                Re: Atari 2600 schlägt ChatGPT... Thomas Koenig <tkoenig@netcologne.de> - 2025-06-15 15:49 +0000
                Re: Atari 2600 schlägt ChatGPT... Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2025-06-16 08:26 +0200
                Re: Atari 2600 schlägt ChatGPT... Marcel Mueller <news.5.maazl@spamgourmet.org> - 2025-06-16 11:02 +0200
                Re: Atari 2600 schlägt ChatGPT... Alexander Schreiber <als@usenet.thangorodrim.de> - 2025-06-16 15:13 +0200
                Re: Atari 2600 schlägt ChatGPT... "Peter J. Holzer" <hjp-usenet4@hjp.at> - 2025-06-16 18:42 +0200
                Re: Atari 2600 schlägt ChatGPT... Marcel Mueller <news.5.maazl@spamgourmet.org> - 2025-06-16 20:23 +0200
                Re: Atari 2600 schlägt ChatGPT... "Peter J. Holzer" <hjp-usenet4@hjp.at> - 2025-06-16 21:10 +0200
                Re: Atari 2600 schlägt ChatGPT... Alexander Schreiber <als@usenet.thangorodrim.de> - 2025-06-16 15:11 +0200
              Re: Atari 2600 schlägt ChatGPT... Kay Martinen <usenet@martinen.de> - 2025-06-15 16:21 +0200
                Re: Atari 2600 schlägt ChatGPT... Marcel Mueller <news.5.maazl@spamgourmet.org> - 2025-06-16 14:31 +0200
            Re: Atari 2600 schlägt ChatGPT... Alexander Schreiber <als@usenet.thangorodrim.de> - 2025-06-15 15:22 +0200
              Re: Atari 2600 schlägt ChatGPT... Marcel Mueller <news.5.maazl@spamgourmet.org> - 2025-06-16 14:39 +0200
            Re: Atari 2600 schlägt ChatGPT... Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2025-06-15 16:20 +0200
              Re: Atari 2600 schlägt ChatGPT... Kay Martinen <usenet@martinen.de> - 2025-06-16 00:06 +0200
              Re: Atari 2600 schlägt ChatGPT... Marcel Mueller <news.5.maazl@spamgourmet.org> - 2025-06-16 14:43 +0200
                Re: Atari 2600 schlägt ChatGPT... Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2025-06-16 17:33 +0200
          Re: Atari 2600 schlägt ChatGPT... Alexander Schreiber <als@usenet.thangorodrim.de> - 2025-06-14 16:47 +0200
            Re: Atari 2600 schlägt ChatGPT... "Andreas M. Kirchwitz" <amk@spamfence.net> - 2025-06-14 18:47 +0000
        Re: Atari 2600 schlägt ChatGPT... Alexander Schreiber <als@usenet.thangorodrim.de> - 2025-06-14 13:06 +0200
          Re: Atari 2600 schlägt ChatGPT... Thomas Koenig <tkoenig@netcologne.de> - 2025-06-14 11:21 +0000
            Re: Atari 2600 schlägt ChatGPT... Alexander Schreiber <als@usenet.thangorodrim.de> - 2025-06-15 15:28 +0200
      Re: Atari 2600 schlägt ChatGPT... Alexander Schreiber <als@usenet.thangorodrim.de> - 2025-06-14 12:41 +0200
        Re: Atari 2600 schlägt ChatGPT... Thomas Koenig <tkoenig@netcologne.de> - 2025-06-14 11:24 +0000
      Re: Atari 2600 schlägt ChatGPT... Arno Welzel <usenet@arnowelzel.de> - 2025-06-14 14:52 +0200
        Re: Re: Atari 2600 schlägt ChatGPT... ram@zedat.fu-berlin.de (Stefan Ram) - 2025-06-14 14:33 +0000
          Re: Atari 2600 schlägt ChatGPT... Arno Welzel <usenet@arnowelzel.de> - 2025-06-15 00:58 +0200
            Re: Atari 2600 schlägt ChatGPT... "Andreas M. Kirchwitz" <amk@spamfence.net> - 2025-06-15 00:21 +0000
              Re: Atari 2600 schlägt ChatGPT... "Peter J. Holzer" <hjp-usenet4@hjp.at> - 2025-06-15 10:29 +0200
                Re: Atari 2600 schlägt ChatGPT... Arno Welzel <usenet@arnowelzel.de> - 2025-06-15 17:12 +0200
                Re: Atari 2600 schlägt ChatGPT... "Andreas M. Kirchwitz" <amk@spamfence.net> - 2025-06-27 23:04 +0000
                Re: Atari 2600 schlägt ChatGPT... Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-06-28 09:16 +0000
                Re: Atari 2600 schlägt ChatGPT... Ulf Kutzner <user2991@newsgrouper.org.invalid> - 2025-06-28 15:54 +0000
                Re: Atari 2600 schlägt ChatGPT... Arno Welzel <usenet@arnowelzel.de> - 2025-06-28 13:14 +0200
                Re: Re: Atari 2600 schlägt ChatGPT... ram@zedat.fu-berlin.de (Stefan Ram) - 2025-06-28 11:37 +0000
                Re: Re: Atari 2600 schlägt ChatGPT... ram@zedat.fu-berlin.de (Stefan Ram) - 2025-06-28 11:42 +0000
                Re: Atari 2600 schlägt ChatGPT... Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2025-06-28 18:21 +0200
                Re: Atari 2600 schlägt ChatGPT... Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-06-29 15:49 +0000
                Re: Atari 2600 schlägt ChatGPT... Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2025-06-29 18:44 +0200
                Re: Atari 2600 schlägt ChatGPT... Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-06-30 10:03 +0000
                Re: Atari 2600 schlägt ChatGPT... Thomas Koenig <tkoenig@netcologne.de> - 2025-07-01 05:51 +0000
                Re: Atari 2600 schlägt ChatGPT... Josef Möllers <josef@invalid.invalid> - 2025-07-01 09:45 +0200
                Re: Atari 2600 schlägt ChatGPT... Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2025-07-01 16:50 +0200
                Re: Re: Atari 2600 schlägt ChatGPT... ram@zedat.fu-berlin.de (Stefan Ram) - 2025-07-01 19:43 +0000
                Re: Atari 2600 schlägt ChatGPT... Thomas Koenig <tkoenig@netcologne.de> - 2025-07-01 19:53 +0000
                Re: Re: Atari 2600 schlägt ChatGPT... ram@zedat.fu-berlin.de (Stefan Ram) - 2025-07-05 18:49 +0000
                Re: Atari 2600 schlägt ChatGPT... Thomas Koenig <tkoenig@netcologne.de> - 2025-06-28 12:05 +0000
                Re: Atari 2600 schlägt ChatGPT... Hermann Riemann <nospam.ng@hermann-riemann.de> - 2025-06-28 15:36 +0200
                Re: Atari 2600 schlägt ChatGPT... Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2025-06-28 18:25 +0200
                Re: Atari 2600 schlägt ChatGPT... Marc Haber <mh+usenetspam1118@zugschl.us> - 2025-06-28 22:26 +0200
                Re: Atari 2600 schlägt ChatGPT... Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2025-06-29 08:16 +0200
                Re: Atari 2600 schlägt ChatGPT... "Peter J. Holzer" <hjp-usenet4@hjp.at> - 2025-06-29 00:24 +0200
                Re: Atari 2600 schlägt ChatGPT... Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2025-06-29 08:22 +0200
                Re: Atari 2600 schlägt ChatGPT... "Peter J. Holzer" <hjp-usenet4@hjp.at> - 2025-06-29 18:37 +0200
                Re: Atari 2600 schlägt ChatGPT... ram@zedat.fu-berlin.de (Stefan Ram) - 2025-06-29 16:55 +0000
                Re: Atari 2600 schlägt ChatGPT... ram@zedat.fu-berlin.de (Stefan Ram) - 2025-06-29 10:31 +0000
              Re: Atari 2600 schlägt ChatGPT... Arno Welzel <usenet@arnowelzel.de> - 2025-06-15 17:08 +0200
                Re: Re: Atari 2600 schlägt ChatGPT... ram@zedat.fu-berlin.de (Stefan Ram) - 2025-06-15 15:17 +0000
                Re: Atari 2600 schlägt ChatGPT... Arno Welzel <usenet@arnowelzel.de> - 2025-06-15 17:27 +0200
                Re: Re: Atari 2600 schlägt ChatGPT... ram@zedat.fu-berlin.de (Stefan Ram) - 2025-06-15 15:31 +0000
                Re: Atari 2600 schlägt ChatGPT... Arno Welzel <usenet@arnowelzel.de> - 2025-06-15 19:25 +0200
                LLMs machen dumm (was: Atari 2600 schlägt ChatGPT...) Thomas Koenig <tkoenig@netcologne.de> - 2025-06-20 16:20 +0000
                Re: LLMs machen dumm (was: Atari 2600 schlägt ChatGPT...) Christian Weisgerber <naddy@mips.inka.de> - 2025-06-20 19:10 +0000
                Re: LLMs machen dumm (was: Atari 2600 schlägt ChatGPT...) Thomas Koenig <tkoenig@netcologne.de> - 2025-06-20 20:37 +0000
                Re: LLMs machen dumm (was: Atari 2600 schlägt ChatGPT...) "Peter J. Holzer" <hjp-usenet4@hjp.at> - 2025-06-20 23:07 +0200
                Chatbot-Nutzer (was: LLMs . . . [vergifteter Betreff]) ram@zedat.fu-berlin.de (Stefan Ram) - 2025-06-20 22:16 +0000
                Re: Chatbot-Nutzer (was: LLMs . . . [vergifteter Betreff]) Thomas Koenig <tkoenig@netcologne.de> - 2025-06-21 08:28 +0000
                Re: Chatbot-Nutzer ram@zedat.fu-berlin.de (Stefan Ram) - 2025-06-23 19:39 +0000
                Re: Chatbot-Nutzer Kay Martinen <usenet@martinen.de> - 2025-06-25 23:47 +0200
                Re: Chatbot-Nutzer ram@zedat.fu-berlin.de (Stefan Ram) - 2025-07-22 13:04 +0000
              Re: Atari 2600 schlägt ChatGPT... Kay Martinen <usenet@martinen.de> - 2025-06-25 20:04 +0200
            Re: Atari 2600 schlägt ChatGPT... "Peter J. Holzer" <hjp-usenet4@hjp.at> - 2025-06-15 10:20 +0200
              Re: Atari 2600 schlägt ChatGPT... ram@zedat.fu-berlin.de (Stefan Ram) - 2025-06-15 09:53 +0000
                Re: Atari 2600 schlägt ChatGPT... ram@zedat.fu-berlin.de (Stefan Ram) - 2025-06-15 10:34 +0000
                Re: Atari 2600 schlägt ChatGPT... ram@zedat.fu-berlin.de (Stefan Ram) - 2025-06-15 10:59 +0000
              Re: Atari 2600 schlägt ChatGPT... ram@zedat.fu-berlin.de (Stefan Ram) - 2025-06-15 10:48 +0000
          Re: Atari 2600 schlägt ChatGPT... Alexander Schreiber <als@usenet.thangorodrim.de> - 2025-06-15 15:32 +0200
  Re: Atari 2600 schlägt ChatGPT... Christian Weisgerber <naddy@mips.inka.de> - 2025-06-13 20:37 +0000
    Re: Atari 2600 schlägt ChatGPT... Arno Welzel <usenet@arnowelzel.de> - 2025-06-14 14:55 +0200
      Re: Atari 2600 schlägt ChatGPT... Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2025-06-15 16:05 +0200

csiph-web