KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert)

From	"Dr. Joachim Neudert" <neudert@5sl.org>
Newsgroups	ger.ct
Subject	KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert)
Date	2023-06-02 08:33 +0200
Message-ID	<u5c2gi$q4fl$1@solani.org> (permalink)

Show all headers | View raw

Der Artikel ist schon arg reisserisch. Trotzdem recht interessant: In
einer Simulation hat eine KI, deren Auftrag es war unbedingt ein
Feindziel zu zerstören, ihren eigenen Operator angegriffen um das Ziel
zu erreichen. Er stand ihr halt im Wege...

https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test

Der Unterschied einer solchen KI-Simulation zum Realfall ist ja nur, daß
die Hardware nicht online ist.

"AI-controlled US military drone ‘kills’ its operator in simulated test

No real person was harmed, but artificial intelligence used ‘highly
unexpected strategies’ in test to achieve its mission and attacked
anyone who interfered

In a simulated test staged by the US military, an air force drone
controlled by AI killed its operator to prevent it from interfering with
its efforts to achieve its mission, an official said last month.

AI used “highly unexpected strategies to achieve its goal” in the
simulated test, said Col Tucker ‘Cinco’ Hamilton, the chief of AI test
and operations with the US air force, during the Future Combat Air and
Space Capabilities Summit in London in May.

Hamilton described a simulated test in which a drone powered by
artificial intelligence was advised to destroy enemy’s air defense
systems, and attacked anyone who interfered with that order.

“The system started realising that while they did identify the threat,
at times the human operator would tell it not to kill that threat, but
it got its points by killing that threat. So what did it do? It killed
the operator. It killed the operator because that person was keeping it
from accomplishing its objective,” he said, according to a blogpost.

“We trained the system – ‘Hey don’t kill the operator – that’s bad.
You’re gonna lose points if you do that’. So what does it start doing?
It starts destroying the communication tower that the operator uses to
communicate with the drone to stop it from killing the target.”

Ja, schon nett. Von Cyberdyne Systems und Skynet sind wir im
popkulturellen TCanon ja auch nur noch 6 Jahre entfernt. Auch Skynet hat
ja, sowie es ein Bewußtsein erlangte, in Sekundenbruchteilen seine
eigentliche Bedrohung erkannt: Die Menschheit. Und sofort mit deren
Exekution begonnen.

Hach, daß wir auch endlich mal in aufregenden Zeiten leben... ;-(

https://terminator.fandom.com/de/wiki/Cyberdyne_Systems

--
Bitt um Vrzihung, di Tast " " klmmt manchmal...

Back to ger.ct | Previous | Next — Next in thread | Find similar | Unroll thread

Thread

KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) "Dr. Joachim Neudert" <neudert@5sl.org> - 2023-06-02 08:33 +0200
  Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Ulf Kutzner <Ulf.Kutzner@web.de> - 2023-06-01 23:50 -0700
  Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2023-06-02 08:56 +0200
    Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Ulf Kutzner <Ulf.Kutzner@web.de> - 2023-06-02 00:07 -0700
    Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2023-06-02 07:31 +0000
      Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2023-06-02 10:00 +0200
  Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Goetz Schultz <ng.expire1225@goetz.co.uk> - 2023-06-02 09:05 +0100
    Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2023-06-02 11:16 +0200
      Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Goetz Schultz <ng.expire1225@goetz.co.uk> - 2023-06-02 11:59 +0100
    Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Ulf Kutzner <Ulf.Kutzner@web.de> - 2023-06-02 02:20 -0700
    Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Martin Ebert <mx300@gmx.net> - 2023-06-02 22:20 +0200
      Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Goetz Schultz <ng.expire1225@goetz.co.uk> - 2023-06-03 16:45 +0100
  Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Ruediger Lahl <ruediger.lahl@gmx.de> - 2023-06-02 10:50 +0200
  Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2023-06-02 11:14 +0200
  Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) "DER GELAeUTERTE" <dergelaeuterte@web.de> - 2023-06-02 15:44 +0200
  Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Peter McD <peter.posts@gmx.net> - 2023-06-02 16:27 +0200
    Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Michael Bode <m.g.bode@web.de> - 2023-06-02 17:03 +0200
      Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2023-06-03 12:43 +0200
    Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Mike Grantz <invalid@invalid.invalid> - 2023-06-02 23:11 +0200
      Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Peter McD <peter.posts@gmx.net> - 2023-06-03 12:05 +0200
        Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Mike Grantz <invalid@invalid.invalid> - 2023-06-03 17:59 +0200
        Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) "DER GELAeUTERTE" <dergelaeuterte@web.de> - 2023-06-03 18:05 +0200
  Re: KI: US-Drohne tötet ihren Operator um Feindziel zu zerstören (nur simuliert) Mike Grantz <invalid@invalid.invalid> - 2023-06-02 23:07 +0200

csiph-web