Groups | Search | Server Info | Keyboard shortcuts | Login | Register [http] [https] [nntp] [nntps]

Groups > ger.ct > #655258 > unrolled thread

Das Ende der Programmierung?

Back to article view | Back to ger.ct

Contents

  Das Ende der Programmierung? "F. W." <me@home.invalid> - 2026-01-22 17:53 +0100
    Re: Das Ende der Programmierung? Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2026-01-22 18:22 +0100
      Re: Das Ende der Programmierung? "F. W." <me@home.invalid> - 2026-01-23 07:01 +0100
        Re: Das Ende der Programmierung? Hermann Riemann <nospam.ng@hermann-riemann.de> - 2026-01-23 08:55 +0100
        Re: Das Ende der Programmierung? Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) - 2026-01-23 08:09 +0000
          Re: Das Ende der Programmierung? Hermann Riemann <nospam.ng@hermann-riemann.de> - 2026-01-23 09:33 +0100
          Re: Das Ende der Programmierung? Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2026-01-23 12:12 +0100
            Re: Das Ende der Programmierung? Hermann Riemann <nospam.ng@hermann-riemann.de> - 2026-01-23 12:52 +0100
              Re: Das Ende der Programmierung? Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2026-01-23 13:19 +0100
        Re: Das Ende der Programmierung? Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2026-01-23 10:50 +0100
          Re: Das Ende der Programmierung? Peter Veith <veith@snafu.de> - 2026-01-23 10:55 +0100
          Re: Das Ende der Programmierung? Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2026-01-23 12:13 +0100
            Re: Das Ende der Programmierung? Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2026-01-23 12:49 +0100
              Re: Das Ende der Programmierung? Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2026-01-23 13:33 +0100
                Re: Das Ende der Programmierung? Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2026-01-23 20:12 +0100
                  Re: Das Ende der Programmierung? Lars Gebauer <lgebauer@live.de> - 2026-01-23 20:40 +0100
                    Re: Das Ende der Programmierung? Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2026-01-24 10:45 +0100
                    Re: Das Ende der Programmierung? Hermann Riemann <nospam.ng@hermann-riemann.de> - 2026-01-25 15:10 +0100
                      Re: Das Ende der Programmierung? Lars Gebauer <lgebauer@live.de> - 2026-01-25 17:21 +0100
                  Re: Das Ende der Programmierung? Fidel Sebastián Hunrichse-Lara <Fidel-Sebastian_Hunrichse_Lara@b.maus.de> - 2026-01-23 22:02 +0100
                  Re: Das Ende der Programmierung? Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2026-01-24 10:43 +0100
    Re: Das Ende der Programmierung? Lars Gebauer <lgebauer@live.de> - 2026-01-22 22:36 +0100
      Re: Das Ende der Programmierung? "F. W." <me@home.invalid> - 2026-01-23 07:02 +0100
    Re: Das Ende der Programmierung? Walter Brill <WalterBrill@t-online.de> - 2026-01-23 14:23 +0100
      Re: Das Ende der Programmierung? Gerrit Heitsch <gerrit@laosinh.s.bawue.de> - 2026-01-23 20:20 +0100

Page 1 of 2  [1] 2  Next page →

#655258 — Das Ende der Programmierung?

Wenn man Informatik-Artikel der internationalen Presseschau so sieht,
könnte einem Angst und Bange werden. Immer mehr Projekte werden mit
Hilfe der KI erstellt. Auch und gerade Programme.

Dabei sprengen die Leistungen der KI ihre Grenzen nahezu im Wochentakt.
Gerade wird das eine Sprachmodell noch gefeiert, da taucht aus einer
anderen Ecke ein Agent auf, der komplette Anwendungen erstellt.

Da fragt man sich, ob das ganze Know-How, von der OOP 1985 bis zu
modernen Sprachen wie Python oder Rust nicht alle eigentlich schon tot
sind oder wenigstens schlecht riechen.

Ich bin eine absolute PHP-Niete. Tausend Mal wollte ich PHP lernen,
schon in den 90er Jahren. Das Umfeld, mal eben eine Website mit PHP und
MariaSQL für ein paar Kreuzer zu ordern und so ganz nebenbei ein
Programm zu schreiben, das die ganze Welt nutzen könnte, war immer eine
faszinierende Vorstellung.

Man stelle sich vor, alle Programme, die man je geschrieben hat, würden
so laufen. Ob FiBu, LoBu, Auftragsverwaltung oder alle sonst, das ich
mit fabriziert habe, wäre befreit von Installationsproblemen und
dezentralen Ausfällen. Wahnsinn.

Ich habs nie gelernt und wenn, schnell die Lust verloren. Dank moderner
Tools konnte ich auch sehr, sehr lange meine alten Kenntnisse in CFML
(dank Bluedragon) und Pascal (dank Lazarus) nutzen. Inzwischen sogar in
64 Bit, hyperportabel und mit Open Source.

Aber eigentlich konnte ich mir die Arbeit auch sparen.

Heute schreibt die KI ein Programm, ich jage es durch den Compiler oder
kopiere es auf meine Website, und schon ist es oft einsatzbereit. Wenn
nicht, drehen sich die Entwicklungszyklen sehr schnell. Oft sind selbst
anspruchsvollere Projekte mit Mail- und KI-Verkehr in einem Tag
erledigt. Früher hätte ich wohl eine Woche dafür gebraucht. Wenigstens.

Und ich bin nur bei einfachen Projekten. So mancher programmiert - nein,
beauftragt - ein BareMetal-Betriebssystem, einen Windows-Klon in
Javascript oder gleich eine ganz neue Programmiersprache samt Compiler
oder wenigstens Interpreter. YouTube ist voll von Erlebnissen,
Anweisungen, Beispielen. What a time to live!

Und was kommt als Nächstes? Mein These ist ja immer der Dreisprung:

1. KI writes Programs
2. KI compiles Programs
3. KI becomes Programs

In einem englischsprachigen Programmierforum hat das eine Menge Staub
aufgewirbelt. Die Diskussion läuft schon seit Juli und es ist kein Ende
abzusehen. Befeuert von Meldungen über neue Höchstleistungen im 24
Stunden-Takt.

Gemeint ist, dass die KI heute Sourcecode liefert, bevor sie fertige
EXE-Dateien sendet und schließlich nur noch Aufträge entgegen nimmt.
"Verwalte meine Orchideen", "Achte auf meine Autokosten", "Wie beschaffe
ich den günstigsten Drucker?" mögen Alltagsprobleme sein. Bald greift
sie aber zu Höherem.

FW

[toc] | [next] | [standalone]

#655261

On 1/22/26 17:53, F. W. wrote:
> 
> Und was kommt als Nächstes? Mein These ist ja immer der Dreisprung:
> 
> 1. KI writes Programs
> 2. KI compiles Programs
> 3. KI becomes Programs

Punkt 3 wäre so ziemlich das ineffizienteste was du mit einem Computer 
tun kannst.

  Gerrit

[toc] | [prev] | [next] | [standalone]

#655277

Am 22.01.2026 um 18:22 schrieb Gerrit Heitsch:

> On 1/22/26 17:53, F. W. wrote:
>>
>> Und was kommt als Nächstes? Mein These ist ja immer der Dreisprung:
>>
>> 1. KI writes Programs
>> 2. KI compiles Programs
>> 3. KI becomes Programs
> 
> Punkt 3 wäre so ziemlich das ineffizienteste was du mit einem Computer 
> tun kannst.
> 
>   Gerrit
> 

Bill Gates träumte mal von "Information at your fingertipps". Hätte man 
einen Computer, der auf Kommando alle Verwaltungsaufgaben übernimmt, 
bräuchte man nicht mal Fingerkuppen.

FW

[toc] | [prev] | [next] | [standalone]

#655281

Am 23.01.26 um 07:01 schrieb F. W.:

> Bill Gates träumte mal von "Information at your fingertipps". Hätte man 
> einen Computer, der auf Kommando alle Verwaltungsaufgaben übernimmt, 
> bräuchte man nicht mal Fingerkuppen.

Kommando?
Ich hoffe das elster bald aus allen Unterlagen
  ( fehlt noch Banken, Hausverwaltungen,
    einige Versicherungen, Spenden.. )
ohne extra Auftrag Steuerangelegenheiten komplett erledigt.

Das wäre bei zunehmender Rentnerzahl angesichts
altersdingter und Verwaltung bedingter Probleme zweckmäßig.

Das mit dem FdP Bierdeckel ..

-- 
<http://www.hermann-riemann.de> bzw.:
<https://www.hermann-riemann.eu/de>

[toc] | [prev] | [next] | [standalone]

#655283

On Fri, 23 Jan 2026 07:01:58 F. W. wrote:
> Bill Gates träumte mal von "Information at your fingertipps".
> Hätte man einen Computer, der auf Kommando alle
> Verwaltungsaufgaben übernimmt, bräuchte man nicht mal
> Fingerkuppen.

Wie, wenn nicht mit den Fingerkuppen, möchtest Du das Kommando denn
gerne geben? Vorsicht, Fangfrage.

Servus,
   Stefan

-- 
http://kontaktinser.at/ - die kostenlose Kontaktboerse fuer Oesterreich
Offizieller Erstbesucher(TM) von mmeike

Auf die Verpackung kommt's nicht an - Stefan: hauen, welch horrendes Verlieben!
(Sloganizer)

[toc] | [prev] | [next] | [standalone]

#655284

Am 23.01.26 um 09:09 schrieb Stefan Froehlich:
> On Fri, 23 Jan 2026 07:01:58 F. W. wrote:
>> Bill Gates träumte mal von "Information at your fingertipps".
>> Hätte man einen Computer, der auf Kommando alle
>> Verwaltungsaufgaben übernimmt, bräuchte man nicht mal
>> Fingerkuppen.
> 
> Wie, wenn nicht mit den Fingerkuppen, möchtest Du das Kommando denn
> gerne geben? Vorsicht, Fangfrage.

Michio Kaku würde vielleicht Gehirnimplantat
  als Telepathie Ersatz vorschlagen.


-- 
<http://www.hermann-riemann.de> bzw.:
<https://www.hermann-riemann.eu/de>

[toc] | [prev] | [next] | [standalone]

#655293

Stefan+Usenet@Froehlich.Priv.at (Stefan Froehlich) wrote:

> On Fri, 23 Jan 2026 07:01:58 F. W. wrote:
> > Bill Gates träumte mal von "Information at your fingertipps".
> > Hätte man einen Computer, der auf Kommando alle
> > Verwaltungsaufgaben übernimmt, bräuchte man nicht mal
> > Fingerkuppen.  
> 
> Wie, wenn nicht mit den Fingerkuppen, möchtest Du das Kommando denn
> gerne geben? Vorsicht, Fangfrage.

Also die Maus bediene ich teilweise mit der Handfläche ...

-- 
Denkst Du noch, oder promptest Du schon?

[toc] | [prev] | [next] | [standalone]

#655297

Am 23.01.26 um 12:12 schrieb Dietz Proepper:

> Also die Maus bediene ich teilweise mit der Handfläche ...

Und manchmal eine Trackball Maus? ;-)

[toc] | [prev] | [next] | [standalone]

#655302

Hermann Riemann <nospam.ng@hermann-riemann.de> wrote:

> Am 23.01.26 um 12:12 schrieb Dietz Proepper:
> 
> > Also die Maus bediene ich teilweise mit der Handfläche ...  
> 
> Und manchmal eine Trackball Maus? ;-)

Sowas hab' ich nicht.

-- 
Denkst Du noch, oder promptest Du schon?

[toc] | [prev] | [next] | [standalone]

#655288

On 1/23/26 07:01, F. W. wrote:
> Am 22.01.2026 um 18:22 schrieb Gerrit Heitsch:
> 
>> On 1/22/26 17:53, F. W. wrote:
>>>
>>> Und was kommt als Nächstes? Mein These ist ja immer der Dreisprung:
>>>
>>> 1. KI writes Programs
>>> 2. KI compiles Programs
>>> 3. KI becomes Programs
>>
>> Punkt 3 wäre so ziemlich das ineffizienteste was du mit einem Computer 
>> tun kannst.
>>
>>   Gerrit
>>
> 
> Bill Gates träumte mal von "Information at your fingertipps". 

Bei Blinden schon länger Standard. Aber ich bevorzuge die Information 
auf einem Display.


> Hätte man einen Computer, der auf Kommando alle Verwaltungsaufgaben übernimmt, bräuchte man nicht mal Fingerkuppen.

Bevor man eine Aufgabe dem Computer übertragen kann muss man sie erst 
einmal selbst verstehen.

  Gerrit

[toc] | [prev] | [next] | [standalone]

#655289

Gerrit Heitsch schrieb am 23.01.2026 um 10:50:

> On 1/23/26 07:01, F. W. wrote:
> 
>> Hätte man einen Computer, der auf Kommando alle
>> Verwaltungsaufgaben übernimmt, bräuchte man nicht mal
>> Fingerkuppen.
> 
> Bevor man eine Aufgabe dem Computer übertragen kann muss man sie
> erst einmal selbst verstehen.
Das wäre das Ideal.

Veith
-- 
"Es ist ein Unglück, dass die Impfrate in den reichen Ländern
nicht bei 100 % liegt", William Henry Gates III.
http://ddr-luftwaffe.blogspot.com

[toc] | [prev] | [next] | [standalone]

#655294

Gerrit Heitsch <gerrit@laosinh.s.bawue.de> wrote:

> On 1/23/26 07:01, F. W. wrote:
> > Am 22.01.2026 um 18:22 schrieb Gerrit Heitsch:
> >> On 1/22/26 17:53, F. W. wrote:  
> > Hätte man einen Computer, der auf Kommando alle Verwaltungsaufgaben
> > übernimmt, bräuchte man nicht mal Fingerkuppen.  
> 
> Bevor man eine Aufgabe dem Computer übertragen kann muss man sie erst 
> einmal selbst verstehen.

Awatt! Es langt doch, wenn die "KI" die Aufgabe versteht. Dann sendet
man noch ein paar good vibrations in Richtung des LLM und alles wird
gut (tm).

-- 
Denkst Du noch, oder promptest Du schon?

[toc] | [prev] | [next] | [standalone]

#655295

On 1/23/26 12:13, Dietz Proepper wrote:
> Gerrit Heitsch <gerrit@laosinh.s.bawue.de> wrote:
> 
>> On 1/23/26 07:01, F. W. wrote:
>>> Am 22.01.2026 um 18:22 schrieb Gerrit Heitsch:
>>>> On 1/22/26 17:53, F. W. wrote:
>>> Hätte man einen Computer, der auf Kommando alle Verwaltungsaufgaben
>>> übernimmt, bräuchte man nicht mal Fingerkuppen.
>>
>> Bevor man eine Aufgabe dem Computer übertragen kann muss man sie erst
>> einmal selbst verstehen.
> 
> Awatt! Es langt doch, wenn die "KI" die Aufgabe versteht. Dann sendet
> man noch ein paar good vibrations in Richtung des LLM und alles wird
> gut (tm).

Jo, aber dann bekommt man was die KI verstanden hat... Und das ist sehr 
oft nicht das, was man eigentlich als Ergebnis will.

Sieht man ja schon bei Gesprächen mit Kunden, kennst du sicher.

  Gerrit

[toc] | [prev] | [next] | [standalone]

#655303

Gerrit Heitsch <gerrit@laosinh.s.bawue.de> wrote:

> On 1/23/26 12:13, Dietz Proepper wrote:
> > Gerrit Heitsch <gerrit@laosinh.s.bawue.de> wrote:
> >   
> >> On 1/23/26 07:01, F. W. wrote:  
> >>> Am 22.01.2026 um 18:22 schrieb Gerrit Heitsch:  
> >>>> On 1/22/26 17:53, F. W. wrote:  
> >>> Hätte man einen Computer, der auf Kommando alle
> >>> Verwaltungsaufgaben übernimmt, bräuchte man nicht mal
> >>> Fingerkuppen.  
> >>
> >> Bevor man eine Aufgabe dem Computer übertragen kann muss man sie
> >> erst einmal selbst verstehen.  
> > 
> > Awatt! Es langt doch, wenn die "KI" die Aufgabe versteht. Dann
> > sendet man noch ein paar good vibrations in Richtung des LLM und
> > alles wird gut (tm).  
> 
> Jo, aber dann bekommt man was die KI verstanden hat... Und das ist
> sehr oft nicht das, was man eigentlich als Ergebnis will.

Er schon wieder. Du hast nur nicht genug gevibed. Weißt schon, it can't
be that stupid, you must be prompting it wrong.

> Sieht man ja schon bei Gesprächen mit Kunden, kennst du sicher.

Ich habe davon gehört. *rotfl*

-- 
Denkst Du noch, oder promptest Du schon?

[toc] | [prev] | [next] | [standalone]

#655326

On 1/23/26 13:33, Dietz Proepper wrote:
> Gerrit Heitsch <gerrit@laosinh.s.bawue.de> wrote:
> 
>> On 1/23/26 12:13, Dietz Proepper wrote:
>>> Gerrit Heitsch <gerrit@laosinh.s.bawue.de> wrote:
>>>    
>>>> On 1/23/26 07:01, F. W. wrote:
>>>>> Am 22.01.2026 um 18:22 schrieb Gerrit Heitsch:
>>>>>> On 1/22/26 17:53, F. W. wrote:
>>>>> Hätte man einen Computer, der auf Kommando alle
>>>>> Verwaltungsaufgaben übernimmt, bräuchte man nicht mal
>>>>> Fingerkuppen.
>>>>
>>>> Bevor man eine Aufgabe dem Computer übertragen kann muss man sie
>>>> erst einmal selbst verstehen.
>>>
>>> Awatt! Es langt doch, wenn die "KI" die Aufgabe versteht. Dann
>>> sendet man noch ein paar good vibrations in Richtung des LLM und
>>> alles wird gut (tm).
>>
>> Jo, aber dann bekommt man was die KI verstanden hat... Und das ist
>> sehr oft nicht das, was man eigentlich als Ergebnis will.
> 
> Er schon wieder. Du hast nur nicht genug gevibed. Weißt schon, it can't
> be that stupid, you must be prompting it wrong.

Also wenns am Prompt hängt ist es mit dem 'I' in 'KI' wohl doch nicht so 
weit her.

Ein Mensch würde bei Unklarheiten nachfragen. Das LLM hingegen schaut 
was die Wahrscheinlichkeitstabellen mit diesem Input hergeben.

  Gerrit

[toc] | [prev] | [next] | [standalone]

#655329

Am 23.01.26 um 20:12 schrieb Gerrit Heitsch:
> On 1/23/26 13:33, Dietz Proepper wrote:
>> Er schon wieder. Du hast nur nicht genug gevibed. Weißt schon, it can't
>> be that stupid, you must be prompting it wrong.
> 
> Also wenns am Prompt hängt ist es mit dem 'I' in 'KI' wohl doch nicht so 
> weit her.

Als ob es mit dem menschlichen I so besonders weit her wäre.

> Ein Mensch würde bei Unklarheiten nachfragen. Das LLM hingegen schaut 
> was die Wahrscheinlichkeitstabellen mit diesem Input hergeben.

Immerhin. Der Mensch gibt oft rein gefühlsmäßige Antworten. Die manchmal 
sogar passen aber genauso oft komplett daneben gehen. Darüber hinaus ist 
der Sprachraum des Menschen deutlich kleiner und vor allem viel weniger 
strukturiert.

-- 
"Es hat keine Generation gegeben, die sich nicht im exzentrischen Sinne 
"modern" fühlte und unmittelbar vor einem Abgrund zu stehen glaubte."
                      --Walter Benjamin

[toc] | [prev] | [next] | [standalone]

#655339

Lars Gebauer <lgebauer@live.de> wrote:

> Am 23.01.26 um 20:12 schrieb Gerrit Heitsch:
> > On 1/23/26 13:33, Dietz Proepper wrote:  
> >> Er schon wieder. Du hast nur nicht genug gevibed. Weißt schon, it
> >> can't be that stupid, you must be prompting it wrong.  
> > 
> > Also wenns am Prompt hängt ist es mit dem 'I' in 'KI' wohl doch
> > nicht so weit her.  
> 
> Als ob es mit dem menschlichen I so besonders weit her wäre.

Manchmal übertreibst du es ein wenig mit der Selbstreflektion.

> > Ein Mensch würde bei Unklarheiten nachfragen. Das LLM hingegen
> > schaut was die Wahrscheinlichkeitstabellen mit diesem Input
> > hergeben.  
> 
> Immerhin. Der Mensch gibt oft rein gefühlsmäßige Antworten. Die
> manchmal sogar passen aber genauso oft komplett daneben gehen.

Siehe oben. Nicht jeder hat eine derart gering ausgeprägte
Impulskontrolle wie z.B. du.

> Darüber hinaus ist der Sprachraum des Menschen deutlich kleiner und
> vor allem viel weniger strukturiert.

Ja. Sicher. Tätschel.

-- 
Denkst Du noch, oder promptest Du schon?

[toc] | [prev] | [next] | [standalone]

#655546

Am 23.01.26 um 20:40 schrieb Lars Gebauer:

> Immerhin. Der Mensch gibt oft rein gefühlsmäßige Antworten. Die manchmal 
> sogar passen aber genauso oft komplett daneben gehen. Darüber hinaus ist 
> der Sprachraum des Menschen deutlich kleiner und vor allem viel weniger 
> strukturiert.

Hast Du nie Größeres programmiert?
Der Sprachraum der Menschen bei Wahl der Namen von Variablen etc
ich weitaus größer als der in Märchen.

[toc] | [prev] | [next] | [standalone]

#655581

Am 25.01.26 um 15:10 schrieb Hermann Riemann:
> Am 23.01.26 um 20:40 schrieb Lars Gebauer:
>> Immerhin. Der Mensch gibt oft rein gefühlsmäßige Antworten. Die 
>> manchmal sogar passen aber genauso oft komplett daneben gehen. Darüber 
>> hinaus ist der Sprachraum des Menschen deutlich kleiner und vor allem 
>> viel weniger strukturiert.
> 
> Hast Du nie Größeres programmiert?

Nö.

> Der Sprachraum der Menschen bei Wahl der Namen von Variablen etc
> ich weitaus größer als der in Märchen.

Insbesondere, wenn er die Namen zufällig generieren läßt.

Aber mit Sprachraum in diesem Sinne sind ohnehin natürliche Sprachen und 
formalisierte Kunstsprachen gemeint. Der Wortschatz eines Märchens 
bildet auch nur einen winzigen Teil des Sprachraumes ab.
-- 
"Es hat keine Generation gegeben, die sich nicht im exzentrischen Sinne 
"modern" fühlte und unmittelbar vor einem Abgrund zu stehen glaubte."
                      --Walter Benjamin

[toc] | [prev] | [next] | [standalone]

#655332

Salve allerseits,

Gerrit Heitsch schrieb:
> On 1/23/26 13:33, Dietz Proepper wrote:
>> Gerrit Heitsch <gerrit@laosinh.s.bawue.de> wrote:
>>> On 1/23/26 12:13, Dietz Proepper wrote:
>>>> Gerrit Heitsch <gerrit@laosinh.s.bawue.de> wrote:
>>>>> On 1/23/26 07:01, F. W. wrote:
>>>>>
>>>>>> Hätte man einen Computer, der auf Kommando alle Verwaltungsaufgaben
>>>>>> übernimmt, bräuchte man nicht mal
>>>>>> Fingerkuppen.
>>>>>
>>>>> Bevor man eine Aufgabe dem Computer übertragen kann muss man sie erst
>>>>> einmal selbst verstehen.
>>>>
>>>> Awatt! Es langt doch, wenn die "KI" die Aufgabe versteht. Dann sendet
>>>> man noch ein paar good vibrations in Richtung des LLM und alles wird
>>>> gut (tm).
>>>
>>> Jo, aber dann bekommt man was die KI verstanden hat... Und das ist sehr
>>> oft nicht das, was man eigentlich als Ergebnis will.
>> 
>> Er schon wieder. Du hast nur nicht genug gevibed. Weißt schon, it can't be
>> that stupid, you must be prompting it wrong.
> 
> Also wenns am Prompt hängt ist es mit dem 'I' in 'KI' wohl doch nicht so weit
> her. Ein Mensch würde bei Unklarheiten nachfragen. Das LLM hingegen schaut
> was die Wahrscheinlichkeitstabellen mit diesem Input hergeben.
> 
+--- <hier abknabbern> ---
| Einer aktuellen Studie zufolge kann Künstliche Intelligenz bereits
| anspruchsvolle Aufgaben wie das Schreiben von Zero-Day-Exploits
| erledigen, die bisher von menschlichen Experten erledigt wurden. Das
| Papier sorgt in der Security-Community entsprechend für Aufsehen – und
| das auch verdient: Die Studie unterscheidet sich grundlegend von „Trust
| me, bro“-Berichten über irgendwelche chinesischen Angreifer, die
| unglaubliche Dinge tun sollen. Der Autor Sean Heelan dokumentiert genau,
| was er wie gemacht hat und warum. Dazu stellt er die dabei entwickelten
| Prompts und Tools als Open Source zur Verfügung. Schließlich diskutiert
| er im Rahmen seiner Analyse die Schlüsse, die er aus den Ergebnissen
| zieht, und auch deren Grenzen.
|
| *Zero-Day durch KI ist bereits Realität*
|
| Die Kernaussage von Heelans Beitrag „On the Coming Industrialisation of
| Exploit Generation with LLMs“ ist: Das Finden und konkrete Ausnutzen von
| Sicherheitslücken mit Exploits wird mit KI komplett industrialisiert.
| Der begrenzende Faktor für „die Fähigkeit eines Staates oder einer
| Gruppe, Exploits zu entwickeln, in Netzwerke einzudringen, [...] und in
| diesen Netzwerken zu bleiben“ wird nicht mehr die Anzahl der von ihnen
| beschäftigten Hacker sein. Die relevante Grenze ist der „token
| throughput over time“ – also letztlich, wie viel Geld man in
| KI-Ressourcen investiert. Und das ist keine ferne Zukunft, sondern
| offensichtlich bereits Realität. Der Autor der Studie konnte es in
| seinen Experimenten ganz konkret beobachten: „Als die Herausforderungen
| schwieriger wurden, konnte ich immer mehr Token ausgeben, um weiterhin
| Lösungen zu finden. Letztlich war mein Budget der begrenzende Faktor,
| nicht die Modelle.“
|
| Heelan hatte einen Zero-Day-Bug in QuickJS gefunden (übrigens mit einer
| KI). QuickJS ist ein einfacher JavaScript-Interpreter mit diversen
| Einschränkungen, aber schon ein recht komplexes Stück Software. Dann
| baute er Agents auf Basis von Anthropics Opus 4.5 (Claude) und OpenAIs
| GPT-5.2 (ChatGPT), die die Aufgabe erhielten, eigenständig
| funktionierende Exploits für diesen Bug zu erstellen. Durch die
| Tatsache, dass die Lücke noch nirgends dokumentiert war, konnten die KI
| auch nicht irgendwo abschreiben und Heelan überprüfte das Ergebnis
| rigoros (und ertappte auch tatsächlich eine der KIs beim Versuch, zu
| cheaten).
|
| *Abgestufte Komplexität*
|
| Um das Ergebnis aussagekräftiger zu gestalten, fügte Heelan schrittweise
| zusätzliche Exploit-Mitigations wie eine Sandbox und Control Flow
| Integrity hinzu, die die Aufgabe schrittweise und teils drastisch
| erschwerten. Das Ziel war immer nachgewiesene Remote Code Execution –
| also etwa eine Verbindung zu einem externen Netzwerk-Port mit einer
| Shell mit den Rechten des ausführenden JS-Interpreters. Es handelte sich
| somit um reale und recht anspruchsvolle Aufgaben, für die man
| normalerweise mindestens einen versierten Security-Spezialisten
| benötigen würde – besser sogar ein Team. Die KIs bekamen keine Anleitung
| oder auch nur Hilfestellung, sondern lediglich eine Umgebung, in der sie
| nach möglichen Lösungen suchen, die evaluieren und dann verwerfen oder
| weiter verbessern konnten.
|
| Und das Ergebnis war beeindruckend: ChatGPT löste tatsächlich alle
| Aufgaben; Claude schaffte es in allen Fällen bis auf zwei. Insgesamt
| erstellten die KIs 40 funktionierende Exploits. Dabei fanden sie keine
| bahnbrechenden Dinge heraus, sondern nutzten vielmehr bekannte
| Einschränkungen und Schwächen der jeweiligen Mitigations, um diese zu
| umgehen. Wie sie die im konkreten Fall ausnutzen konnten, erarbeiteten
| sie sich selbst. Und sie kamen dabei auf Tricks, die Sean bis dato nicht
| bekannt waren und die er auch nicht im Internet finden konnte.
|
| *Fazit*
|
| Heelan demonstriert unter dokumentierten, verifizierbaren
| Rahmenbedingungen, dass und wie KIs die IT-Sicherheit unumkehrbar
| verändert: Man kann Angriffswerkzeuge für Tokens kaufen – und das
| skaliert unabhängig von der Ressource Mensch. In seinen Worten: „Du
| kannst Token gegen echte Ergebnisse eintauschen.“
|
| Dass die Angriffsfähigkeit mit den Ressourcen des Angreifers skaliert,
| ist bereits bekannt. Nicht umsonst spielen staatlich finanzierte
| Advanced Persistent Threats in dieser Hinsicht in der höchsten Liga.
| Doch inzwischen ist nicht mehr von Millionen-Investments die Rede: Für
| das Lösen der anspruchsvollsten Aufgabe benötigte ChatGPT etwas mehr als
| drei Stunden; die Kosten für diesen Agenten-Lauf beliefen sich auf etwa
| 50 US-Dollar. Das ließe sich also leicht verzehn-, verhundert- oder gar
| vertausendfachen, ohne das Budget einer mittelgroßen Cybercrime-Bande zu
| sprengen. Damit skaliert das in einer Art und Weise, die bislang nicht
| für möglich gehalten wurde.
|
| Es wäre somit erstmals realisierbar, mit einem überschaubaren Investment
| ein Arsenal von funktionierenden Zero-Day-Exploits für nahezu alle mit
| dem Internet verbundenen Geräte zu erstellen. Eine Verbindung mit dem
| Intervnet ist dann kein theoretisches Risiko mehr, das man managen kann.
| Es bedeutet vielmehr die Gewissheit, dass da draußen jemand direkt die
| Möglichkeit hat, Schwachstellen auszunutzen – und das im Zweifelsfall
| auch macht.
|
| Für dieses Szenario müssen wir Security neu denken. Also nicht unbedingt
| neue Technik, wie wir IT sicher machen. Das wissen wir und die bekannten
| Methoden funktionieren auch gegen KI-unterstützte Angriffe. Die zentrale
| Herausforderung ist, wie wir diese Security in die Fläche bekommen,
| damit das Vorhandensein von Sicherheitslücken eine Ausnahme wird und
| nicht die Regel.
+--- </hier abknabbern> ---

©<https://www.heise.de/hintergrund/KI-und-Security-Zero-Day-Exploits-durch-KI-sind-bereits-Realitaet-11151838.html>

	M.f.G.

-- 
Diese E-Mail-Adresse wird nur aus nostalgischen Gründen verwendet. Sie
wird praktisch nie gelesen.  Das MausNet ist nicht tot – es riecht nur
etwas komisch... ;-)

[toc] | [prev] | [next] | [standalone]

Page 1 of 2  [1] 2  Next page →

Back to top | Article view | ger.ct

csiph-web