Groups | Search | Server Info | Keyboard shortcuts | Login | Register [http] [https] [nntp] [nntps]

Groups > ger.ct > #640868

Re: KI wrhrt sich gegen Abschaltung mit Erpressung

Show all headers | View raw

Stefan Froehlich schrieb:

> On Mon, 23 Jun 2025 21:50:23 Ulrich D i e z wrote:
>> Ein Bewusstsein und ein Ich, wie es bei dem fiktiven Computer HAL
>> 9000 in den Romanen des Space-Odyssey-Zyklus von Arthur C. Clarke
>> angedeutet wird, der im ersten Roman dieses Zyklus, "2001 - Odysee
>> im Weltraum", durch inadäquate Programmierung in Widersprüche und
>> Zwiespälte gerät, ist nicht anzunehmen.
> 
> Wie sollte man im Zweifelsfall ein echtes Bewusstsein, das so wie
> bei HAL9000 agiert von einer reinen, aber nicht nachvollziehbaren
> Algorithmik unterscheiden, die die gleichen Ausgaben generiert?

Ist das die Frage, was alles ins Spektrum der (echten) Bewusstseinslagen
fällt?

Für die Erörterung dieser nicht uninteressanten Fragen bin ich nicht gut
geeignet, da ich nicht gut genug darüber Bescheid weiß, wie echtes
Bewusstsein und Selbst/Ego/Ich etc entsteht.

Auch die Frage, wie man damit umgeht, wenn so etwas noch nicht voll
gegeben, aber im Entstehen/Werden ist, erfordert eine gewisse
Aufmerksamkeit. Darf man noch nicht ausgereifte, im Entstehen begriffene
künstliche Intelligenzen abtreiben?

>> Auch ein Szenarium wie in den Terminator-Filmen, in denen das
>> fiktive System "Skynet" plötzlich ein eigenes Bewusstsein
>> entwickelt, [...] ist abwegig.
> 
> Gleiche Frage wie oben.
> 
> Wenn ein Ding sehr elaborierten Rechenvorschriften folgt und dabei
> zwar stupide erstellte, aber hochwirksame Ausgaben von sich gibt,
> ist das IMO exakt gleich problematisch, als wenn ein Bewusstsein und
> somit böse Abischt dahinter steckte.

Das sehe ich anders. Es gibt Aspekte, in denen die Problematiken sich
unterscheiden.

Wenn es etwa darum geht, eine gemeine Gefahr abzuwenden, macht es für
mich in ethischer Hinsicht, z.B. bei der Wahl der Mittel, schon einen
Unterschied, ob die gemeine Gefahr von einem außer Kontrolle geratenen
Automaten ausgeht, der keinerlei Bewusstsein und keinerlei
Leidensfähigkeit hat, oder von einem Menschen/einem natürlichen
Rechtssubjekt/sonst einer leidensfähigen Entität.

Meine Skrupel, einen außer Kontrolle geratenen gefährlichen Computer,
auf dem nur ein Automatismus abläuft, der keinerlei Bewusstsein und
keinerlei Leidensfähigkeit hat, zur Not mit der Axt abzuschalten, würden
sich in Grenzen halten.
Wenn es aber um einen außer Kontrolle geratenen gefährlichen Menschen/um
ein außer Kontrolle geratenes gefährliches natürliches
Rechtssubjekt/eine außer Kontrolle geratene leidensfähige Entität geht,
hätte ich da, auch wenn er/es/sie böse und gefährlich wäre, durchaus
mehr Bedenken und unter Umständen ein weit größeres Bedürfnis nach
sorgfältiger Abwägung von Rechtfertigungsgründen.

Mit freundlichem Gruß

Ulrich

Back to ger.ct | Previous | Next — Previous in thread | Next in thread | Find similar | Unroll thread

Thread

KI wrhrt sich gegen Abschaltung mit Erpressung Dr. Joachim Neudert <neudert@5sl.org> - 2025-06-22 19:41 +0000
  Re: KI wrhrt sich gegen Abschaltung mit Erpressung "Wendelin Uez" <wuez@online.de> - 2025-06-23 08:52 +0200
    Re: KI wrhrt sich gegen Abschaltung mit Erpressung "Dr. Joachim Neudert" <neudert@5sl.org> - 2025-06-23 09:05 +0200
      Re: KI wrhrt sich gegen Abschaltung mit Erpressung Ulf Kutzner <user2991@newsgrouper.org.invalid> - 2025-06-23 07:11 +0000
    Re: KI wrhrt sich gegen Abschaltung mit Erpressung Lothar Kimmeringer <news201705@kimmeringer.de> - 2025-06-23 09:10 +0200
      Re: KI wrhrt sich gegen Abschaltung mit Erpressung "Wendelin Uez" <wuez@online.de> - 2025-06-23 16:03 +0200
  Re: KI wrhrt sich gegen Abschaltung mit Erpressung Ulrich D i e z <ud.usenetcorrespondence@web.de> - 2025-06-23 21:50 +0200
    Re: KI wrhrt sich gegen Abschaltung mit Erpressung Lars Gebauer <lgebauer@live.de> - 2025-06-23 23:18 +0200
    Re: KI wrhrt sich gegen Abschaltung mit Erpressung Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-06-24 07:53 +0000
      Re: KI wrhrt sich gegen Abschaltung mit Erpressung Ulrich D i e z <ud.usenetcorrespondence@web.de> - 2025-06-24 15:25 +0200
        Re: KI wrhrt sich gegen Abschaltung mit Erpressung Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-06-24 18:46 +0000
          Re: KI wrhrt sich gegen Abschaltung mit Erpressung Lars Gebauer <lgebauer@live.de> - 2025-06-24 22:48 +0200
            Re: KI wrhrt sich gegen Abschaltung mit Erpressung Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-06-24 21:41 +0000
              Re: KI wrhrt sich gegen Abschaltung mit Erpressung Lars Gebauer <lgebauer@live.de> - 2025-06-25 00:29 +0200
                Re: KI wrhrt sich gegen Abschaltung mit Erpressung "Dr. Joachim Neudert" <neudert@5sl.org> - 2025-06-25 06:35 +0200
                Re: KI wrhrt sich gegen Abschaltung mit Erpressung Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-06-25 06:49 +0000
          Re: KI wrhrt sich gegen Abschaltung mit Erpressung Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-07-08 21:57 +0000
            Re: KI wrhrt sich gegen Abschaltung mit Erpressung Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2025-07-09 08:50 +0200
              Re: KI wrhrt sich gegen Abschaltung mit Erpressung Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2025-07-09 07:27 +0000

csiph-web