Groups | Search | Server Info | Keyboard shortcuts | Login | Register [http] [https] [nntp] [nntps]

Groups > ger.ct > #658323 > unrolled thread

Maschinelle Intelligenz

Back to article view | Back to ger.ct

Contents

  Maschinelle Intelligenz ram@zedat.fu-berlin.de (Stefan Ram) - 2026-03-04 13:23 +0000
    Re: Maschinelle Intelligenz Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2026-03-04 18:29 +0100
      Re: Maschinelle Intelligenz Dr. Joachim Neudert <neudert@5sl.org> - 2026-03-05 09:00 +0000
    Re: Maschinelle Intelligenz Hermann Riemann <nospam.ng@hermann-riemann.de> - 2026-03-05 10:04 +0100
      Re: Maschinelle Intelligenz "Wendelin Uez" <wuez@online.de> - 2026-03-09 18:03 +0100
        Re: Maschinelle Intelligenz Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2026-03-09 18:44 +0100
          Re: Maschinelle Intelligenz "Wendelin Uez" <wuez@online.de> - 2026-03-10 16:15 +0100
            Re: Maschinelle Intelligenz Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2026-03-11 11:24 +0100
              Re: Maschinelle Intelligenz "Wendelin Uez" <wuez@online.de> - 2026-03-12 17:19 +0100
                Re: Maschinelle Intelligenz Lars Gebauer <lgebauer@live.de> - 2026-03-12 21:10 +0100
                  Re: Maschinelle Intelligenz Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2026-03-13 13:22 +0100
                    Re: Maschinelle Intelligenz Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2026-03-13 15:28 +0100
                Re: Maschinelle Intelligenz Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2026-03-13 07:58 +0100
    Re: Maschinelle Intelligenz Bonita Montero <Bonita.Montero@gmail.com> - 2026-03-13 16:00 +0100
      Re: Maschinelle Intelligenz Lars Gebauer <lgebauer@live.de> - 2026-03-13 16:38 +0100
        Re: Maschinelle Intelligenz Bonita Montero <Bonita.Montero@gmail.com> - 2026-03-14 16:17 +0100

#658323 — Maschinelle Intelligenz

  (Ungeduldige Leser springen gleich zum finalen Zitat.)

  Vor einigen Wochen gab es einen Bericht über Mathematiker,
  die herausfanden, daß Chatbots zwar Standardprobleme lösen
  konnten, über die sie zuvor wohl gelesen hatten, aber nicht
  in der Lage waren, Forschungsprobleme zu lösen, über die sie
  noch nichts gelesen hatten.

  Ich machte selber die Erfahrung, daß ein Chatbot eine fehlerhafte
  Argumentation auf einer Web-Seite wiedergab. Dann teilte ich ihn
  die korrekte Argumentation einer anderen Web-Seite mit, woraufhin
  er dann erklärte: "Ja, das stimmt, davor hatte ich mich geirrt!".
  Auch hier scheint es so, als würde der Chatbot im wesentlichen nur
  Wissen wiedergeben, das er zuvor erworben hatte.

  Aber vor wenigen Tagen schrieb Donald E. Knuth:

|Shock! Shock! I learned yesterday that an open problem I'd
|been working on for several weeks had just been solved by
|Claude Opus 4.6 - Anthropic's hybrid reasoning model that had
|been released three weeks earlier! It seems that I'll have to
|revise my opinions about "generative AI" one of these days.
|What a joy it is to learn not only that my conjecture has a
|nice solution but also to celebrate this dramatic advance in
|automatic deduction and creative problem solving. 
|
Donald E. Knuth.

  Während allgemeine Chatbots, die Fragen für jederman beantworten,
  eher auf Wissen setzen müssen, können "reasoning models", denen
  man viel Rechenzeit zugesteht, anscheinend teilweise schon eher
  kompliziertere Herleitungen ausführen.

[toc] | [next] | [standalone]

#658346

On 3/4/26 14:23, Stefan Ram wrote:
>    (Ungeduldige Leser springen gleich zum finalen Zitat.)
> 
>    Vor einigen Wochen gab es einen Bericht über Mathematiker,
>    die herausfanden, daß Chatbots zwar Standardprobleme lösen
>    konnten, über die sie zuvor wohl gelesen hatten, aber nicht
>    in der Lage waren, Forschungsprobleme zu lösen, über die sie
>    noch nichts gelesen hatten.
> 
>    Ich machte selber die Erfahrung, daß ein Chatbot eine fehlerhafte
>    Argumentation auf einer Web-Seite wiedergab. Dann teilte ich ihn
>    die korrekte Argumentation einer anderen Web-Seite mit, woraufhin
>    er dann erklärte: "Ja, das stimmt, davor hatte ich mich geirrt!".
>    Auch hier scheint es so, als würde der Chatbot im wesentlichen nur
>    Wissen wiedergeben, das er zuvor erworben hatte.
> 
>    Aber vor wenigen Tagen schrieb Donald E. Knuth:
> 
> |Shock! Shock! I learned yesterday that an open problem I'd
> |been working on for several weeks had just been solved by
> |Claude Opus 4.6 - Anthropic's hybrid reasoning model that had
> |been released three weeks earlier! It seems that I'll have to
> |revise my opinions about "generative AI" one of these days.
> |What a joy it is to learn not only that my conjecture has a
> |nice solution but also to celebrate this dramatic advance in
> |automatic deduction and creative problem solving.
> |
> Donald E. Knuth.
> 
>    Während allgemeine Chatbots, die Fragen für jederman beantworten,
>    eher auf Wissen setzen müssen, können "reasoning models", denen
>    man viel Rechenzeit zugesteht, anscheinend teilweise schon eher
>    kompliziertere Herleitungen ausführen.

Jetzt muss man nur noch verifizieren, daß dieses Problem nicht 
vielleicht doch schon gelöst war und damit in den Trainingsdaten zu 
finden gewesen ist.

  Gerrit

[toc] | [prev] | [next] | [standalone]

#658367

Gerrit Heitsch <gerrit@laosinh.s.bawue.de> wrote:
> On 3/4/26 14:23, Stefan Ram wrote:



> 
> Jetzt muss man nur noch verifizieren, daß dieses Problem nicht 
> vielleicht doch schon gelöst war und damit in den Trainingsdaten zu 
> finden gewesen ist.
> 
>  Gerrit
> 
> 
> 

Beruhigt dich dieser Gedanke?

-- 
please forgive my iPhone typos

[toc] | [prev] | [next] | [standalone]

#658368

Am 04.03.26 um 14:23 schrieb Stefan Ram:
>    (Ungeduldige Leser springen gleich zum finalen Zitat.)
> 
>    Vor einigen Wochen gab es einen Bericht über Mathematiker,
>    die herausfanden, daß Chatbots zwar Standardprobleme lösen
>    konnten, über die sie zuvor wohl gelesen hatten, aber nicht
>    in der Lage waren, Forschungsprobleme zu lösen, über die sie
>    noch nichts gelesen hatten.
> 
>    Ich machte selber die Erfahrung, daß ein Chatbot eine fehlerhafte
>    Argumentation auf einer Web-Seite wiedergab. Dann teilte ich ihn
>    die korrekte Argumentation einer anderen Web-Seite mit, woraufhin
>    er dann erklärte: "Ja, das stimmt, davor hatte ich mich geirrt!".
>    Auch hier scheint es so, als würde der Chatbot im wesentlichen nur
>    Wissen wiedergeben, das er zuvor erworben hatte.

Das ist die aktuell verbreiteste Form von ( ineffektiver ) KI

>    Während allgemeine Chatbots, die Fragen für jederman beantworten,
>    eher auf Wissen setzen müssen, können "reasoning models", denen
>    man viel Rechenzeit zugesteht, anscheinend teilweise schon eher
>    kompliziertere Herleitungen ausführen.

Das hängt vom Regelungssystem an.
Mit implizit rechnen braucht es oft weniger Schritte als
explizites rechnen.

Mit Suche über Wege mit weniger Rechenschritte
lassen sich nützlich Formeln erkennen.

Ist kausal nicht eine auf verschiedene Wegen
  gefundene Korrelation?

-- 
<https://www.hermann-riemann.de> bzw.:
<https://www.hermann-riemann.eu/de>

[toc] | [prev] | [next] | [standalone]

#658602

Statt es verschwurbelt auszudrücken kann man auch seine noch verbliebene 
restliche Eigenintelligenz nutzen:

Eine KI kann zunächst einmal nur das zusammenstöpseln, was es irgendwo 
aufgelesen hat . Auch hier gilt: Von nix kommt nix. Weswegen alle 
KI-Hersteller ganz wirld auf Daten sind.

In einem weiteren Schritt kann sich KI auf einen engen Horizont beschränken 
oder auch mehr oder weniger vage Zusammenhänge berücksichtigen. Je vager die 
Limitierung, desto 'verlogener' das Ergebnis. Fachleute nennen das kreativ.

Kein Wunder also, dass KI bei einer vagen Limitierung riesige 
Rechenkapazaität braucht. Die Limitierung erfolgt in Form von präzisierenden 
Prompts. Je besser die Prompts, desto enger der Ergebniskorridor und damit 
desto besser das Ergebnis.

> Ist kausal nicht eine auf verschiedene Wegen  gefundene Korrelation?

Einer Korrelation muss keine Kausalität zugrunde liegen, sonst könnte man 
ganz einfach die Lottozahlen der letzten zwanzig Jahre um nur eine einzige 
Ziehung extrapolieren, hätte eine traumhafte Korrelation von an die 100%, 
und trotzdem wäre die Gewinnchance genauso lausig wie bei den anderen 
Kombinationen.

Oder wie jeder erfahrene Krimi-Gucker weiß: Der Mörder ist meist nicht der, 
auf den alles hindeutet. 

[toc] | [prev] | [next] | [standalone]

#658606

On 3/9/26 18:03, Wendelin Uez wrote:
> Statt es verschwurbelt auszudrücken kann man auch seine noch verbliebene 
> restliche Eigenintelligenz nutzen:
> 
> Eine KI kann zunächst einmal nur das zusammenstöpseln, was es irgendwo 
> aufgelesen hat . Auch hier gilt: Von nix kommt nix. Weswegen alle KI- 
> Hersteller ganz wirld auf Daten sind.
> 
> In einem weiteren Schritt kann sich KI auf einen engen Horizont 
> beschränken oder auch mehr oder weniger vage Zusammenhänge 
> berücksichtigen. Je vager die Limitierung, desto 'verlogener' das 
> Ergebnis. Fachleute nennen das kreativ.
> 
> Kein Wunder also, dass KI bei einer vagen Limitierung riesige 
> Rechenkapazaität braucht. Die Limitierung erfolgt in Form von 
> präzisierenden Prompts. Je besser die Prompts, desto enger der 
> Ergebniskorridor und damit desto besser das Ergebnis.

Das Problem bei den aktuellen LLMs ist, daß Daten- und Kontrollkanal 
nicht getrennt sind. Womit gerne mal Daten zu Anweisungen werden und das 
Ergebnis verfälschen. Absichtliche oder versehentliche Prompt-Injection 
hat noch keiner vollständig in den Griff bekommen.



>> Ist kausal nicht eine auf verschiedene Wegen  gefundene Korrelation?
> 
> Einer Korrelation muss keine Kausalität zugrunde liegen, sonst könnte 
> man ganz einfach die Lottozahlen der letzten zwanzig Jahre um nur eine 
> einzige Ziehung extrapolieren, hätte eine traumhafte Korrelation von an 
> die 100%, und trotzdem wäre die Gewinnchance genauso lausig wie bei den 
> anderen Kombinationen.
> 
> Oder wie jeder erfahrene Krimi-Gucker weiß: Der Mörder ist meist nicht 
> der, auf den alles hindeutet.

Der Mörder ist immer der Gärtner! Und wenn nicht ist es der Butler. 
Wusste Reinhard Mey schon 1971.

  Gerrit

[toc] | [prev] | [next] | [standalone]

#658732

> Das Problem bei den aktuellen LLMs ist, daß Daten- und Kontrollkanal nicht 
> getrennt sind. Womit gerne mal Daten zu Anweisungen werden und das 
> Ergebnis verfälschen. Absichtliche oder versehentliche Prompt-Injection 
> hat noch keiner vollständig in den Griff bekommen.

Das alles steht zwar überall zu lesen, aber warum ist das eigentlich so? Ich 
habe bisher noch keine vernünftige Erklärung dafür gefunden. Warum kann ein 
LLM seine Eingabedaten, die es steuern sollen, nicht  von den trainierten 
Daten unterscheiden?

Wenn ein LLM nacheinander trainingshalber diverse Textdateien einliest, dann 
werden die doch auch bloß zur weiteren Verwendung verarbeitet und nicht 
gleich als Frage oder Filter etc. aufgefasst. 

[toc] | [prev] | [next] | [standalone]

#658734

On 3/10/26 16:15, Wendelin Uez wrote:
>> Das Problem bei den aktuellen LLMs ist, daß Daten- und Kontrollkanal 
>> nicht getrennt sind. Womit gerne mal Daten zu Anweisungen werden und 
>> das Ergebnis verfälschen. Absichtliche oder versehentliche Prompt- 
>> Injection hat noch keiner vollständig in den Griff bekommen.
> 
> Das alles steht zwar überall zu lesen, aber warum ist das eigentlich so? 
> Ich habe bisher noch keine vernünftige Erklärung dafür gefunden. Warum 
> kann ein LLM seine Eingabedaten, die es steuern sollen, nicht  von den 
> trainierten Daten unterscheiden?

Du hast das falsch verstanden. Wenn ich einem LLM einen Text übergebe 
mit der Anweisung 'Fass mir den zusammen', dann geht der Text zusammen 
mit der Anweisung in denselben Eingabekanal, ohne eindeutige 
Unterscheidung zwischen den zu bearbeitenden Daten und was damit zu tun ist.


  Gerrit

[toc] | [prev] | [next] | [standalone]

#658881

> Du hast das falsch verstanden. Wenn ich einem LLM einen Text übergebe mit 
> der Anweisung 'Fass mir den zusammen', dann geht der Text zusammen mit der 
> Anweisung in denselben Eingabekanal, ohne eindeutige Unterscheidung 
> zwischen den zu bearbeitenden Daten und was damit zu tun ist.

Danke, aber das soll dieses riesige Problem sein, dass LLMs nicht trennen 
könnten?

Ich kann mir nicht vorstellen, dass es nicht möglich sein sollte, Anweisung 
und Text voneinander zu trennnen. Das ist eine Frage der Bedieneroberfläche, 
notfalls muss das LLM halt zwei Textboxen präsentieren, eine für die Eingabe 
und eine für zu verarbeitende Daten. 

[toc] | [prev] | [next] | [standalone]

#658883

Am 12.03.26 um 17:19 schrieb Wendelin Uez:
>> Du hast das falsch verstanden. Wenn ich einem LLM einen Text übergebe 
>> mit der Anweisung 'Fass mir den zusammen', dann geht der Text zusammen 
>> mit der Anweisung in denselben Eingabekanal, ohne eindeutige 
>> Unterscheidung zwischen den zu bearbeitenden Daten und was damit zu 
>> tun ist.
> 
> Danke, aber das soll dieses riesige Problem sein, dass LLMs nicht 
> trennen könnten?

Es ist jedenfalls schon oft passiert und es war auch ein paarmal so ganz 
richtig peinlich. Die ganzen Versuche, den System prompt zu überlisten, 
laufen ja im Grunde in die gleiche Richtung.

Das ist also nicht neu aber trotzdem bizarr: Denn alle die, die da so 
über die vermeintlichen oder tatsächlichen, großen oder kleinen Probleme 
schlaubergern, übersehen in ihrer astronomischen Klugheit, daß alle 
diese Probleme und Problemchen den KI-Leuten schon längst bekannt sind. 
Und daß selbstverständlich an der Überwindung dieser Probleme gearbeitet 
wird.

-- 
"Es hat keine Generation gegeben, die sich nicht im exzentrischen Sinne 
"modern" fühlte und unmittelbar vor einem Abgrund zu stehen glaubte."
                      --Walter Benjamin

[toc] | [prev] | [next] | [standalone]

#658903

On 3/12/26 21:10, Lars Gebauer wrote:
> Am 12.03.26 um 17:19 schrieb Wendelin Uez:
>>> Du hast das falsch verstanden. Wenn ich einem LLM einen Text übergebe 
>>> mit der Anweisung 'Fass mir den zusammen', dann geht der Text 
>>> zusammen mit der Anweisung in denselben Eingabekanal, ohne eindeutige 
>>> Unterscheidung zwischen den zu bearbeitenden Daten und was damit zu 
>>> tun ist.
>>
>> Danke, aber das soll dieses riesige Problem sein, dass LLMs nicht 
>> trennen könnten?
> 
> Es ist jedenfalls schon oft passiert und es war auch ein paarmal so ganz 
> richtig peinlich. Die ganzen Versuche, den System prompt zu überlisten, 
> laufen ja im Grunde in die gleiche Richtung.
> 
> Das ist also nicht neu aber trotzdem bizarr: Denn alle die, die da so 
> über die vermeintlichen oder tatsächlichen, großen oder kleinen Probleme 
> schlaubergern, übersehen in ihrer astronomischen Klugheit, daß alle 
> diese Probleme und Problemchen den KI-Leuten schon längst bekannt sind. 
> Und daß selbstverständlich an der Überwindung dieser Probleme gearbeitet 
> wird.

Es hat nur bisher keiner lösen können weil es bei einem LLM eben nur 
einen Eingabekanal gibt und damit Prompts im zu bearbeitenden Text 
versteckt werden können.

Du kannst natürlich versuchen den zu bearbeitenden Text vorher durch 
einen Filter zu drücken der die üblichen Verdächtigen entfernt. Aber das 
kann andere, nicht gewollte Auswirkungen haben.

  Gerrit

[toc] | [prev] | [next] | [standalone]

#658914

Gerrit Heitsch <gerrit@laosinh.s.bawue.de> wrote:

> On 3/12/26 21:10, Lars Gebauer wrote:
> > Das ist also nicht neu aber trotzdem bizarr: Denn alle die, die da
> > so über die vermeintlichen oder tatsächlichen, großen oder kleinen
> > Probleme schlaubergern, übersehen in ihrer astronomischen Klugheit,
> > daß alle diese Probleme und Problemchen den KI-Leuten schon längst
> > bekannt sind. Und daß selbstverständlich an der Überwindung dieser
> > Probleme gearbeitet wird.  
> 
> Es hat nur bisher keiner lösen können weil es bei einem LLM eben nur 
> einen Eingabekanal gibt und damit Prompts im zu bearbeitenden Text 
> versteckt werden können.

Wenn uns' Lasse wenigstens erklären könnte, wie so ein LLM
funktioniert. Aber nein, er verweist mal wieder auf Dritte, die das
schon irgendwie beheben werden ...

> Du kannst natürlich versuchen den zu bearbeitenden Text vorher durch 
> einen Filter zu drücken der die üblichen Verdächtigen entfernt. Aber
> das kann andere, nicht gewollte Auswirkungen haben.

Not worky. Ähnlich wie Blacklists für WAFs.

-- 
Denkst Du noch, oder promptest Du schon?

[toc] | [prev] | [next] | [standalone]

#658887

"Wendelin Uez" <wuez@online.de> wrote:

> > Du hast das falsch verstanden. Wenn ich einem LLM einen Text
> > übergebe mit der Anweisung 'Fass mir den zusammen', dann geht der
> > Text zusammen mit der Anweisung in denselben Eingabekanal, ohne
> > eindeutige Unterscheidung zwischen den zu bearbeitenden Daten und
> > was damit zu tun ist.  
> 
> Danke, aber das soll dieses riesige Problem sein, dass LLMs nicht
> trennen könnten?

Das ist *dieses* riesige Problem.

> Ich kann mir nicht vorstellen, dass es nicht möglich sein sollte,
> Anweisung und Text voneinander zu trennnen.

Der Text *ist* die Anweisung!

> Das ist eine Frage der
> Bedieneroberfläche, notfalls muss das LLM halt zwei Textboxen
> präsentieren, eine für die Eingabe und eine für zu verarbeitende
> Daten. 

So funktioniert das nicht, Tim.

-- 
Denkst Du noch, oder promptest Du schon?

[toc] | [prev] | [next] | [standalone]

#658921

Am 04.03.2026 um 14:23 schrieb Stefan Ram:

>    (Ungeduldige Leser springen gleich zum finalen Zitat.)
>    Vor einigen Wochen gab es einen Bericht über Mathematiker,
>    die herausfanden, daß Chatbots zwar Standardprobleme lösen
>    konnten, über die sie zuvor wohl gelesen hatten, aber nicht
>    in der Lage waren, Forschungsprobleme zu lösen, über die sie
>    noch nichts gelesen hatten.
Kann ich unterschreiben. Ich habe mal einen Lock-freien Stack implemen-
tiert der nicht auf Hazard-Pointern basiert, sondern die Crashes nach
dem vermeintlichen Laden des Next-Pointers beim Pushen unter Unix mit
Signalen unter Windows mit Structured Exception Handling (viel fort-
schrittlicher als Signale).
Auf jeden Fall gibt es das selbe in der Win32-API. Gelöst wird das Crash
-Problem auch mit SEH. Ich habs halt mit beidem jeweils über ein #ifdef
gelöst bzw. unter Unix wird dann entsprechend ein Thread-lokaler Signal-
handler genutzt (von einem globalen Prozess-spezifischen weitergelei-
itet).
Ich hab ChatGPT das dann vorgehalten und der fand das am Angang erstmal
supertoll und außergewöhnlich. Dann meinte ich, dass ich irgendwo noch
einen Bug haben muss weil wenn ich ein Element aus einem Thread pushe
auch eins zum poppen dasein muss. Dann kam ein ellenlanger Quatsch von
wegen Race-Condition, ich habe das dann klargestellt, ChatGPT darauf,
dass ich recht habe, ich dann, dass das dann doch irgendwo nicht funk-
tioniert und ChatGPT dann wieder mit dem selben Gerede, und das immer
wieder. Ich hab dann beim "Puntgleichstand" aufgegeben.
Was ich damit sagen will, dass wenn man ein Problem diskutiert was so
im Netz kaum beschrieben ist bei der KI ausgemachte Scheiße bei rum-
kommt. Und ich habe regelmäßig solche außergewöhnlichen Ideen.

[toc] | [prev] | [next] | [standalone]

#658924

Am 13.03.26 um 16:00 schrieb Bonita Montero:
> Was ich damit sagen will, dass wenn man ein Problem diskutiert was so
> im Netz kaum beschrieben ist bei der KI ausgemachte Scheiße bei rum-
> kommt. Und ich habe regelmäßig solche außergewöhnlichen Ideen.

Stell' Dir einfach vor, Du würdest eine außergewöhnliche Idee mit einem 
Menschen diskutieren, der davon noch nie gehört hat. Vermutlich würde 
dabei auch nur Quatsch rumkommen. Gespeist aus dessen Erfahrungen und 
Vorurteilen.

Für außergewöhnliche Ideen brauchst Du zuerst einmal außergewöhnliche 
Menschen. Die, die zuerst mal bereit sind, sich auf das Außergewöhnliche 
einzulassen.

Eine KI ist auch keine Super- oder Überintelligenz.
-- 
"Es hat keine Generation gegeben, die sich nicht im exzentrischen Sinne 
"modern" fühlte und unmittelbar vor einem Abgrund zu stehen glaubte."
                      --Walter Benjamin

[toc] | [prev] | [next] | [standalone]

#658957

Am 13.03.2026 um 16:38 schrieb Lars Gebauer:

> Für außergewöhnliche Ideen brauchst Du zuerst einmal außergewöhnliche 
> Menschen. Die, die zuerst mal bereit sind, sich auf das Außergewöhnliche 
> einzulassen.
> 
> Eine KI ist auch keine Super- oder Überintelligenz.

Naja, die KI hat ja erst das Grundprinzip verstanden obwohl es sehr
außergewöhnlich ist. Dann hab ich ihr gesagt, dass meine Implementation
einen Fehler haben muss und da kam die immer wieder mit einem Aspekt
der nur auf den ersten Blick passt; das hätte auch jemanden passieren
können der solche Ideen grundsätzlich versteht.

[toc] | [prev] | [standalone]

Back to top | Article view | ger.ct

csiph-web