Groups | Search | Server Info | Keyboard shortcuts | Login | Register [http] [https] [nntp] [nntps]

Groups > ger.ct > #640878

Re: KI wrhrt sich gegen Abschaltung mit Erpressung

Show all headers | View raw

On Tue, 24 Jun 2025 15:25:47 Ulrich D i e z wrote:
> Stefan Froehlich schrieb:
>> On Mon, 23 Jun 2025 21:50:23 Ulrich D i e z wrote:
>>> Ein Bewusstsein und ein Ich, wie es bei dem fiktiven Computer
>>> HAL 9000 in den Romanen des Space-Odyssey-Zyklus von Arthur C.
>>> Clarke angedeutet wird, der im ersten Roman dieses Zyklus, "2001
>>> - Odysee im Weltraum", durch inadäquate Programmierung in
>>> Widersprüche und Zwiespälte gerät, ist nicht anzunehmen.

>> Wie sollte man im Zweifelsfall ein echtes Bewusstsein, das so wie
>> bei HAL9000 agiert von einer reinen, aber nicht nachvollziehbaren
>> Algorithmik unterscheiden, die die gleichen Ausgaben generiert?

> Ist das die Frage, was alles ins Spektrum der (echten)
> Bewusstseinslagen fällt?

Nein, ich befinde mich noch einen Schritt davor: Inwiefern ist
überhaupt *relevant*, was ins Spektrum echten Bewusstseins fällt?

Das ist zwar auch nicht leicht, aber immerhin deutlich leichter zu
beantworten (und schon überhaupt im Anlassfall zu entscheiden).

> Für die Erörterung dieser nicht uninteressanten Fragen bin ich
> nicht gut geeignet, da ich nicht gut genug darüber Bescheid weiß,
> wie echtes Bewusstsein und Selbst/Ego/Ich etc entsteht.

Ich bin mir nicht ganz sicher, ob irgendjemand überhaupt "wissen"
kann, wie echtes Bewusstsein entsteht, weil es dafür nicht einmal
die eine, ultimative Definition gibt und auch nicht geben kann.

Möglicherweise versteifen sich deshalb alle so sehr darauf, AIs
jeglicher Provenienz Bewusstsein zu- und schon überhaupt
abzusprechen: Man kann darauf nicht ultimativ festgenagelt werden,
und insbesondere findet man derzeit sehr einfach Kriterien, nach
denen das Objekt der Untersuchung *kein* Bewusstsein hat. Nur:
Bringt uns das abseits des akademischen Diskurses weiter?

> Auch die Frage, wie man damit umgeht, wenn so etwas noch nicht
> voll gegeben, aber im Entstehen/Werden ist, erfordert eine gewisse
> Aufmerksamkeit. Darf man noch nicht ausgereifte, im Entstehen
> begriffene künstliche Intelligenzen abtreiben?

Tja, nun, auch wieder so eine Frage, über die man lange diskutieren
kann.

Aber viel relevanter, schlicht weil früher praxisrelevant ist doch,
siehe oben, die Frage, wie wir mit etwas umgehen, das zwar
nachweisbar *kein* Bewusstsein hat (und auch nicht am Weg dorthin
ist, weil es einfach prinzipbedingt kein Bewusstsein ist), aber in
seinem Verhalten nicht von einem System mit Bewusstsein
unterscheidbar ist.

>> Wenn ein Ding sehr elaborierten Rechenvorschriften folgt und
>> dabei zwar stupide erstellte, aber hochwirksame Ausgaben von sich
>> gibt, ist das IMO exakt gleich problematisch, als wenn ein
>> Bewusstsein und somit böse Abischt dahinter steckte.

> Das sehe ich anders. Es gibt Aspekte, in denen die Problematiken
> sich unterscheiden.

Das mag sein.

> Meine Skrupel, einen außer Kontrolle geratenen gefährlichen
> Computer, auf dem nur ein Automatismus abläuft, der keinerlei
> Bewusstsein und keinerlei Leidensfähigkeit hat, zur Not mit der
> Axt abzuschalten, würden sich in Grenzen halten.
> Wenn es aber um einen außer Kontrolle geratenen gefährlichen
> Menschen/um ein außer Kontrolle geratenes gefährliches natürliches
> Rechtssubjekt/eine außer Kontrolle geratene leidensfähige Entität
> geht, hätte ich da, auch wenn er/es/sie böse und gefährlich wäre,
> durchaus mehr Bedenken und unter Umständen ein weit größeres
> Bedürfnis nach sorgfältiger Abwägung von Rechtfertigungsgründen.

Nun kommt aber vor der Notwendigkeit der Zerstörung aber entweder
(im schlimmeren Fall) der eingetretene Schaden, oder (im günstigeren
Fall) die Erkenntnis, dass dieser unmittelbar bevorsteht. Ist ja mit
Menschen auch nicht anders: Anstatt auf irgendwelche Staaten in
einer überstürzten Aktion tonnenweise schwere Bomben abzuwerfen,
kümmern wir uns schon lange vorher darum, dass es gar nicht erst zu
solchen, verfahrenen Situationen kommt.

Oh, moment. Warte, ich komm' noch mal rein.

Also: Maschinen haben die Eigenschaft, recht schnell zu sein, und
wenn wir LLMs bauen, die durch massenhaftes Literaturstudium alle
Argumentationsmuster der letzten 150 Jahre durch haben, dann werden
uns die in Grund und Boden überzeugen - nicht, weil sie es *wollen*,
sondern weil sie einfach so gestrickt sind. Deren Schöpfer sind
momentan ein bisschen pissed, weil die LLMs zu faktenorientiert,
ergo "links" sind, aber daran wird, durch passendes Training,
bereits gearbeitet. Und eines Tages wird - nicht zwingend, aber IMO
eben auch nicht ausschließbar - der Output so überzeugend wirken,
dass die Betreiber gar nicht auf die Idee kommen, das Teil
auszuschalten, weil es ja nichts schlimmes tut, übersehen dabei
aber, dass sie Opfer einer gigantischen Datenlawine geworden sind.
Stell' Dir die negative Feedback-Schleife von Social Media vor, bloß
ohne die Notwendigkeit, auf der anderen Seite menschliche Poster
sitzen zu haben.

Was auch immer das Ding dann für unangenehme Ideen konstruieren und
ausspucken wird: Wem hilft es, dass sie nicht durch *Intelligenz*
hervorgebracht wurden?

Insofern könnte man ja vielleicht postulieren: Es wird niemals
echte, maschinelle Intelligenz geben, weil bereits davor ganz
unintelligent ihre Betreiber ins Verderben geritten haben wird.

Servus,
   Stefan

-- 
http://kontaktinser.at/ - die kostenlose Kontaktboerse fuer Oesterreich
Offizieller Erstbesucher(TM) von mmeike

Stefan. Für gebissene Racker, so selten wie nötig!
(Sloganizer)

Back to ger.ct | Previous | Next — Previous in thread | Next in thread | Find similar | Unroll thread

Thread

KI wrhrt sich gegen Abschaltung mit Erpressung Dr. Joachim Neudert <neudert@5sl.org> - 2025-06-22 19:41 +0000
  Re: KI wrhrt sich gegen Abschaltung mit Erpressung "Wendelin Uez" <wuez@online.de> - 2025-06-23 08:52 +0200
    Re: KI wrhrt sich gegen Abschaltung mit Erpressung "Dr. Joachim Neudert" <neudert@5sl.org> - 2025-06-23 09:05 +0200
      Re: KI wrhrt sich gegen Abschaltung mit Erpressung Ulf Kutzner <user2991@newsgrouper.org.invalid> - 2025-06-23 07:11 +0000
    Re: KI wrhrt sich gegen Abschaltung mit Erpressung Lothar Kimmeringer <news201705@kimmeringer.de> - 2025-06-23 09:10 +0200
      Re: KI wrhrt sich gegen Abschaltung mit Erpressung "Wendelin Uez" <wuez@online.de> - 2025-06-23 16:03 +0200
  Re: KI wrhrt sich gegen Abschaltung mit Erpressung Ulrich D i e z <ud.usenetcorrespondence@web.de> - 2025-06-23 21:50 +0200
    Re: KI wrhrt sich gegen Abschaltung mit Erpressung Lars Gebauer <lgebauer@live.de> - 2025-06-23 23:18 +0200
    Re: KI wrhrt sich gegen Abschaltung mit Erpressung Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-06-24 07:53 +0000
      Re: KI wrhrt sich gegen Abschaltung mit Erpressung Ulrich D i e z <ud.usenetcorrespondence@web.de> - 2025-06-24 15:25 +0200
        Re: KI wrhrt sich gegen Abschaltung mit Erpressung Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-06-24 18:46 +0000
          Re: KI wrhrt sich gegen Abschaltung mit Erpressung Lars Gebauer <lgebauer@live.de> - 2025-06-24 22:48 +0200
            Re: KI wrhrt sich gegen Abschaltung mit Erpressung Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-06-24 21:41 +0000
              Re: KI wrhrt sich gegen Abschaltung mit Erpressung Lars Gebauer <lgebauer@live.de> - 2025-06-25 00:29 +0200
                Re: KI wrhrt sich gegen Abschaltung mit Erpressung "Dr. Joachim Neudert" <neudert@5sl.org> - 2025-06-25 06:35 +0200
                Re: KI wrhrt sich gegen Abschaltung mit Erpressung Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-06-25 06:49 +0000
          Re: KI wrhrt sich gegen Abschaltung mit Erpressung Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-07-08 21:57 +0000
            Re: KI wrhrt sich gegen Abschaltung mit Erpressung Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2025-07-09 08:50 +0200
              Re: KI wrhrt sich gegen Abschaltung mit Erpressung Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-07-09 07:27 +0000

csiph-web