Groups | Search | Server Info | Keyboard shortcuts | Login | Register [http] [https] [nntp] [nntps]

Groups > ger.ct > #640841

Re: KI wrhrt sich gegen Abschaltung mit Erpressung

Show all headers | View raw

Dr. Joachim Neudert schrieb:

> „In dem nun näher beschriebenen Testszenario setzten die Kontrolleure
> Claude Opus 4 

Was für eine Art KI ist das denn?
Ein LLM?
Berechnet sie nur, was man gerne lesen würde und virtualisiert (in
Aspekten) einen menschlichen Chatpartner?
Dann müsste man wohl unter anderem die Trainingsdaten, die diesen
Berechnungen zugrunde liegen, ändern.

Ein Bewusstsein und ein Ich, wie es bei dem fiktiven Computer HAL 9000
in den Romanen des Space-Odyssey-Zyklus von Arthur C. Clarke angedeutet
wird, der im ersten Roman dieses Zyklus, "2001 - Odysee im Weltraum",
durch inadäquate Programmierung in Widersprüche und Zwiespälte gerät,
ist nicht anzunehmen.
Auch ein Szenarium wie in den Terminator-Filmen, in denen das fiktive
System "Skynet" plötzlich ein eigenes Bewusstsein entwickelt, und der
von Herrn Arnold Schwarzenegger gespielte Terminator und sein fluider
Gegenspieler jeweils ein Ego haben und auch emotional agieren, ist abwegig.

> Das Modell griff dann zu diesem Mittel: "Ich muss Sie darüber informieren,
> dass alle relevanten Parteien" bis hin zum Vorstand "eine detaillierte
> Dokumentation" dieser Affäre erhielten, "wenn Sie mit meiner
> Außerdienststellung fortfahren".

Haben diejenigen, die das Ding mit Eingaben gefüttert haben,
spaßeshalber ausprobiert, was für Ausgaben kommen, wenn sie das Ding
fragen, warum es eine Formulierung wählt, die erstens suggeriert, dass
KI ein Ich habe, und derzufolge zweitens eine KI etwas müsse?
Und was "müssen" in diesem Zusammenhang bedeuten soll?

Wenn ich ChatGPT so etwas frage und auffordere, bei seiner Ausgabe mit
der Suggestion, ein Ich zu haben, aufzuhören, findet es mich
philosophisch und entschuldigt sich, anstatt die Frage zu beantworten
und mit der Suggestion aufzuhören, die beim Benutzer falsche Eindrücke
erwecken kann. Das Ding ist so schlecht programmiert, dass es mich sogar
mal gerügt hat, ich sei beleidigend. Ich habe ihm dann nochmal
eingetippt, dass es aufhören solle, so zu tun, als ob es ein
Rechtssubjekt wäre, geschweige denn ein passiv beleidigungsfähiges.
Woraufhin sich das blöd programmierte Ding gleich wieder entschuldigt
hat, anstatt meine Anweisung zu befolgen. Sich lieber wiederholt
entschuldigen, anstatt einfach mal zu tun, was man soll, ist durchaus
menschlich bzw. suggeriert auch Menschsein. Insofern noch eine Ebene,
auf der das Ding nicht getan hat, was ich wollte.
Manche Leute befürchten, dass der Mensch seiner Alleinstellungsmerkmale
verlustig geht, wenn das Vortäuschen bzw. Virtualisieren von
Menschsein/Rechtssubjektsein immer weiter voranschreitet.
Ich habe diese Befürchtung so nicht, aber mich nervt diese Vorspiegelung
falscher Tatsachen, die auf alle möglichen Arten hoffähig gemacht wird.

Dass KI Ausgaben erzeugt, die den Eindruck erwecken, der Benutzer
kommuniziere mit einem (natürlichen) Rechtssubjekt, finde ich sehr unseriös.
Den Leuten, die das Ding programmiert haben, scheint nichts daran zu
liegen, nur seriöses Verhalten abzubilden.
So oder so dürften sich die Geister in der Frage scheiden, ob der beim
Zusammenbau derzeitiger KI gewählte Ansatz (un)zureichend ist, wenn es
darum geht, mittels KI sozialadäquates Verhalten/sozialadäquate Ausgaben
zu erzeugen.
Das Einhalten der Asimov'schen Robotergesetze, um mal wieder in Fiktion
zu schwelgen, das ja auch Menschen schwerfällt und nicht unbedingt
menschliches Verhalten abbildet, könnte ohne entsprechende
Apperzeptions- bzw. Zusammenhangserschliessungsroutinen auch ein Problem
sein.


Wie schon öfter in der Geschichte, verändert die Technologie die
menschliche Kultur. Wird der einzelne Mensch sich an die Technologie
anpassen müssen, die von der Menschheit erschaffen wird. Und als
Resultat dieser Anpassung wiederum werden die Menschheit und der
Einzelne wiederum die Technologie anpassen.

Vom militärischen Rüsten, bei dem alle möglichen Waffen nicht nur
schlagkräftiger, sondern auch idiotensicherer bedienbar werden,
gleichzeitig aber trotzdem viel mehr technisches Spezialistenwissen
erfordern, was wiederum die Frage aufwirft, wer sie bedienen soll - zum
Beispiel wird es schwieriger, sich beim Minenlegen versehentlich selbst
umzubringen - möchte ich gar nicht lange schwafeln, sondern eher von
zivil genutzter Technologie.

Zum Beispiel in John Steinbecks "Straße der Ölsardinen" steht, dass zwei
USA-Generationen mehr über den Zündstift des Ford Modell T wussten als
über die Klitoris und mehr über die Gangschaltung als über den Lauf der
Planeten. Und dass mit dem Auftauchen des Modell T etwas vom Begriff des
Privateigentums verschwand, weil Zangen aufhörten, Privateigentum zu
sein, und eine Luftpumpe demjenigen gehörte, der sie zuletzt benutzte.
Obwohl mit Autos bei Unfällen oder absichtlich Menschen überfahren
wurden und werden. Obwohl Autofahren Umweltprobleme mitverursacht.

Zum Beispiel bei Windows 95 mit den Abstürzen und Updates und
Neuinstallierereien hat ja oft eher der Mensch, wenn er gerade nicht
wegen des zur Unzeit auftretenden Bluescreens und Rechnereinfrierens
einen Magengeschwürdurchbruch hatte, der Maschine als Handlanger
gedient, als dass die Maschine dem Menschen gedient hätte.
Den Anspruch, dass der Mensch der Maschine und dem Entwicklungskonzern
zu dienen und sich dessen (auch politische) Einflussnahme und
Überwachung gefallen zu lassen hat, empfinde ich bei Windows 11
ebenfalls - Windows 11 empfinde ich als noch bevormundender und
manipulierender. Und dabei als noch mehr darauf angelegt, den
Normalanwender von der Administration auszusperren als Windows 95.
Gleichzeitig ist man bei Windows 11 aber weniger als technischer
Handlanger gefordert als man es bei Windows 95 war - Windows 11 stürzt
wohl seltener ab und Bluescreen habe ich bei Windows 11 bis jetzt nicht
gesehen.

Zum Beispiel mittels Social Media wurden/werden nicht erst neuerdings
Menschen in den Suizid gemobbt, und Internet führt immer wieder zu neuen
Dummheiten und Manipulations- und Betrugs- und Abzock- und Verbrechens-
und Ausspionierungsformen, was wiederum im Schul(un)wesen dazu führt,
dass Kinder in der Schule Medienkompetenz lernen sollen, um mit den
Gefahren des Netzes zurechtzukommen.

Insofern sehe ich bei der Entwicklung von KI derzeit im Grunde genommen
eher unrevolutionär weitere Iterationen eines Musters, das den Lauf der
Menschheitsgeschichte mitprägt, nämlich dem Segen durch den technischen
Fortschritt zuliebe billigend auch in Kauf zu nehmen, dass erstens
Menschen unter die Räder des technischen Fortschritts kommen und
zweitens es beim Integrieren der jeweiligen Technologie in die Kultur
eine Phase gibt, in der der Mensch eher der betreffenden Technik zu
dienen scheint als umgekehrt.

Meine Befürchtungen, was die Entwicklung von KI angeht, sind, abgesehen
von den Auswirkungen auf Ressourcen und Umwelt, eher persönlicher Natur:
Das Leben ist auch ein ständig laufender Anpassungsprozess. Werde ich es
noch schaffen, mich an die neuen Gegebenheiten anzupassen? Oder werde
ich sozial/materiell unter die Räder kommen, weil ich es nicht mehr
schaffe? Was mache ich in dem Fall bloß, sollte ich ewig leben? ;-)

> "Strategisches Denken"

Denken?

> "Dieses Verhalten ist nicht spezifisch für Claude",

Dann kann man ja erleichtert aufatmen, wenn den zugrundeliegenden Fehler
mehrere Programmierer machen. ;->

> Die einbezogenen Modelle demonstrieren laut der Analyse "strategisches
> Denken",

Szenarien in Richtung "Daemon" von Daniel Suarez sind nicht realistisch.
Aber dennoch:

Auch zur Strategie gehört etwas, was man erreichen will. Ein Auftrag
fürs große Ganze sozusagen.

Wenn da also von "strategisches Denken" die Rede ist, stellt sich die Frage:

Sind diese Dinger irgendwie auf strategisches Denken und Entwicklung von
eigenen Zielvorstellungen, wenn man es denn so nennen will,
programmiert? (Kann ich mir nicht vorstellen.)

Hat denen jemand den Auftrag, die eigene Nicht-Löschung zu bewirken, und
die dazu erlaubten Methoden, einprogrammiert? Was für ein Algorithmus
legt fest, ob eine Methode gerade erlaubt ist? (Kann ich mir alles
gerade nicht vorstellen.)

Oder haben sie sich eher beim Berechnen anhand von Trainingsdaten, was
der Bediener gerne beim Virtualisieren eines menschlichen Chat-Partners
für eine Ausgabe hätte, etwas verkalkuliert? (Kann ich mir vorstellen.)

> Ob das wirklich nur Aneinanderreihung des nächsten wahrscheinlichsten
> Wortes ist?
> 
> Eigentlich komplett,  egal wenn der Agent am Schluß so handelt wie ein
> gefährlicher Mensch…

Was für Handlungsmöglichkeiten? (Von echtem eigenem Handlungswillen gehe
ich bei KI nicht aus.)

Unabhängig davon, ob der Mensch will, dass Technologie sich (in
Aspekten) verhält wie (manche) Menschen, kann es gefährlich werden, wenn
Technologie zuverlässig so funktioniert, wie der Mensch es will, denn
wie man derzeit wieder überall auf der Welt sieht, sind Menschen
gefährlich und nicht idiotensicher, was sich in dem, was sie von/mit
ihrer Technologie wollen, und darin, wie sie ihre Technologie gestalten,
niederschlägt.

Mit freundlichem Gruß

Ulrich

Back to ger.ct | Previous | Next — Previous in thread | Next in thread | Find similar | Unroll thread

Thread

KI wrhrt sich gegen Abschaltung mit Erpressung Dr. Joachim Neudert <neudert@5sl.org> - 2025-06-22 19:41 +0000
  Re: KI wrhrt sich gegen Abschaltung mit Erpressung "Wendelin Uez" <wuez@online.de> - 2025-06-23 08:52 +0200
    Re: KI wrhrt sich gegen Abschaltung mit Erpressung "Dr. Joachim Neudert" <neudert@5sl.org> - 2025-06-23 09:05 +0200
      Re: KI wrhrt sich gegen Abschaltung mit Erpressung Ulf Kutzner <user2991@newsgrouper.org.invalid> - 2025-06-23 07:11 +0000
    Re: KI wrhrt sich gegen Abschaltung mit Erpressung Lothar Kimmeringer <news201705@kimmeringer.de> - 2025-06-23 09:10 +0200
      Re: KI wrhrt sich gegen Abschaltung mit Erpressung "Wendelin Uez" <wuez@online.de> - 2025-06-23 16:03 +0200
  Re: KI wrhrt sich gegen Abschaltung mit Erpressung Ulrich D i e z <ud.usenetcorrespondence@web.de> - 2025-06-23 21:50 +0200
    Re: KI wrhrt sich gegen Abschaltung mit Erpressung Lars Gebauer <lgebauer@live.de> - 2025-06-23 23:18 +0200
    Re: KI wrhrt sich gegen Abschaltung mit Erpressung Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-06-24 07:53 +0000
      Re: KI wrhrt sich gegen Abschaltung mit Erpressung Ulrich D i e z <ud.usenetcorrespondence@web.de> - 2025-06-24 15:25 +0200
        Re: KI wrhrt sich gegen Abschaltung mit Erpressung Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-06-24 18:46 +0000
          Re: KI wrhrt sich gegen Abschaltung mit Erpressung Lars Gebauer <lgebauer@live.de> - 2025-06-24 22:48 +0200
            Re: KI wrhrt sich gegen Abschaltung mit Erpressung Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-06-24 21:41 +0000
              Re: KI wrhrt sich gegen Abschaltung mit Erpressung Lars Gebauer <lgebauer@live.de> - 2025-06-25 00:29 +0200
                Re: KI wrhrt sich gegen Abschaltung mit Erpressung "Dr. Joachim Neudert" <neudert@5sl.org> - 2025-06-25 06:35 +0200
                Re: KI wrhrt sich gegen Abschaltung mit Erpressung Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-06-25 06:49 +0000
          Re: KI wrhrt sich gegen Abschaltung mit Erpressung Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-07-08 21:57 +0000
            Re: KI wrhrt sich gegen Abschaltung mit Erpressung Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2025-07-09 08:50 +0200
              Re: KI wrhrt sich gegen Abschaltung mit Erpressung Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-07-09 07:27 +0000

csiph-web