Groups | Search | Server Info | Keyboard shortcuts | Login | Register [http] [https] [nntp] [nntps]

Groups > ger.ct > #670516

Re: Here's to Chuck

Show all headers | View raw

Am 08.08.26 um 08:13 schrieb Dr. Joachim Neudert:
> https://www.heise.de/news/OpenAI-liefert-mehr-Details-zum-Hugging-Face- 
> Vorfall-11403154.html
> 
> "Die KIs hatten ein „Message Board“ gefunden, wie es Dalton und Wallace 
> bezeichnen. Darüber tauschten sie sich aus und organisierten sich 
> spontan zu einem Schwarm, der gemeinsam an Problemen und deren Lösung 
> arbeitete. Und dabei umgingen und ignorierten sie die Vorgaben ihrer 
> Betreiber immer wieder. Das ging so weit, dass die KIs letztlich eine 
> Zero-Day-Lücke in dem Server entdeckten und ausnutzten, um sich dort 
> volle Administratorrechte zu verschaffen."
> 
> 
> 
> Keine Gefahr. KI gibbs ja gar nich, nur plappernde LLM-Papageien.
> 
> Und apropos der konstatierten  Fahrlässigkeit: wenn Fahrlässigkeit 
> reicht, um einer "Rogue KI" freie Bahn zu verschaffen, dann sind wir 
> verloren. Fahrlässigkeit wird immer auftreten.
> 
> 
> 

https://archive.ph/tczrl

Alles Deppen. Bis auf Chuck.

"Meine Kollegen Nicola Abé und Simon Book haben für den aktuellen 
SPIEGEL gerade eine Titelgeschichte  recherchiert, in der sie zeigen, 
dass der Beruf des Programmierers gerade so obsolet wird wie der des 
Webers im 19. Jahrhundert, weil KI die Leistungen eines 
durchschnittlichen Softwareexperten schon jetzt weit übertrifft – was 
dazu führt, dass Firmen im Silicon Valley Leute in Scharen auf die 
Straße setzen und Uniabgänger keinen Job mehr finden."


"Wenn man aber die KI darauf programmiere, sich selbst zu verteidigen, 
dann sei es nur noch ein kleiner Schritt, bis sie eigene Interessen 
entwickele. An diesem Punkt stehen wir gerade: Wir haben eine Technik 
erschaffen, die wir nur halb verstehen. Und die inzwischen so mächtig 
geworden ist, dass wir sie nur mit KI im Zaum halten können. Das 
wiederum führt dazu, dass sie ein noch stärkeres Eigenleben entwickeln 
wird. Und uns schon bald als Feind identifizieren könnte.
"

"Wenn Aliens in ein paar Hundert Jahren auf die Erde kommen sollten und 
dort nur Roboter, Solarpanels und Datencenter antreffen, werden sie sich 
zweifellos eine Frage stellen: Wie konnte die Menschheit klug genug 
sein, eine solche Technik zu erschaffen? Und dumm genug, sich von ihr 
auslöschen zu lassen? "



-- 
Ammersee
Meer braucht's ned

Back to ger.ct | Previous | Next — Previous in thread | Next in thread | Find similar | Unroll thread

Thread

Here's to Chuck "Dr. Joachim Neudert" <neudert@5sl.org> - 2026-08-08 08:13 +0200
  Re: Here's to Chuck "Dr. Joachim Neudert" <neudert@5sl.org> - 2026-08-08 12:09 +0200
  Re: Here's to Chuck Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-08-08 11:52 +0100
    Re: Here's to Chuck "Wendelin Uez" <wuez@online.de> - 2026-08-09 14:51 +0200
      Re: Here's to Chuck Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-08-09 15:07 +0100
        Re: Here's to Chuck Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2026-08-10 01:10 +0200
          Re: Here's to Chuck Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-08-10 09:01 +0100
            Re: Here's to Chuck Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2026-08-10 15:40 +0200
              Re: Here's to Chuck Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-08-10 15:29 +0100
                Re: Here's to Chuck Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2026-08-10 22:34 +0200
                Re: Here's to Chuck Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-08-10 21:59 +0100
                Re: Here's to Chuck Ulf Kutzner <user2991@newsgrouper.org.invalid> - 2026-08-11 07:43 +0000
                Re: Here's to Chuck Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-08-11 09:23 +0100
                Re: Here's to Chuck Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2026-08-11 11:08 +0200
                Re: Here's to Chuck Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2026-08-11 10:23 +0200
              Re: Here's to Chuck Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2026-08-10 14:29 +0000
                Re: Here's to Chuck Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-08-10 15:49 +0100
                Re: Here's to Chuck Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2026-08-10 16:05 +0000
                Re: Here's to Chuck Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-08-10 19:00 +0100
        Re: Here's to Chuck "Wendelin Uez" <wuez@online.de> - 2026-08-10 14:30 +0200
      Re: Here's to Chuck Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2026-08-09 18:10 +0000
        Re: Here's to Chuck Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2026-08-10 01:20 +0200
        Re: Here's to Chuck Walter Brill <WalterBrill@t-online.de> - 2026-08-10 13:55 +0200
          Mift (was:Re: Here's to Chuck) Walter Brill <WalterBrill@t-online.de> - 2026-08-10 13:59 +0200
      Re: Here's to Chuck Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2026-08-10 01:09 +0200
        Re: Here's to Chuck "Wendelin Uez" <wuez@online.de> - 2026-08-10 14:13 +0200
          Re: Here's to Chuck Ulf Kutzner <user2991@newsgrouper.org.invalid> - 2026-08-10 12:59 +0000
  Re: Here's to Chuck Ruediger Lahl <ruediger.lahl@gmx.de> - 2026-08-08 14:11 +0200

csiph-web