Groups | Search | Server Info | Keyboard shortcuts | Login | Register [http] [https] [nntp] [nntps]

Groups > ger.ct > #667232

Re: Endlich legen Maschinen fest, was Menschen sagen dürfen

From Fidel Sebastián Hunrichse-Lara <Fidel-Sebastian_Hunrichse_Lara@b.maus.de>
Newsgroups ger.ct
Subject Re: Endlich legen Maschinen fest, was Menschen sagen dürfen
Date 2026-06-29 07:56 +0200
Organization A noiseless patient Spider
Message-ID <111t1ee$3spm$2@dont-email.me> (permalink)
References (4 earlier) <99dabf7a-2768-4280-9fa1-54d69db7a8a3@news.goetz.co.uk> <111m1nt$1ifji$1@solani.org> <111pusm$3b3co$2@dont-email.me> <111qgu0$1lfiv$1@solani.org> <111sq6l$1jdm$3@dont-email.me>

Show all headers | View raw

Salve allerseits,

Martin Ebert schrieb:
> Am 28.06.26 um 09:02 schrieb Dr. Joachim Neudert:
> 
>> KI ist harmlos, das sind nur nachplappernde Papageien? Wir überblicken jetzt
>> gerade 3 Jahre seit sie funktioniert. Wartet mal 5 Jahre. 10 Jahre. 50 Jahre
>> und 200 Jahre.
> 
> Ich hatte Dir doch die Grenzen der derzeitigen KI-Ansätze verlinkt? Du hast
> das doch nicht gelesen? Schade.
> 
+--- <hier abknabbern> ---
| Seit Langem nutzen staatliche und nichtstaatliche Akteure die Anonymität
| des Internets und die laxen Sicherheitschecks der sozialen Medien aus,
| um mit menschlichen „Trolls“ und automatisierten „Chatbots“
| Desinformation und Propaganda zu verbreiten. In einem Beitrag für die
| renommierte Zeitschrift „Science“ warnen 21 Forscher vor „Schwärmen“
| KI-gesteuerter Chatbots, die eine neue Dimension des Informationskriegs
| gegen die Demokratie ermöglichen.
|
| WELT sprach mit zwei der Autoren: Daniel Thilo Schroeder vom
| Forschungsinstitut SINTEF in Oslo und Jonas R. Kunst von der BI
| Norwegian Business School, ebenfalls in Oslo.
|
| *WELT*: Warum sind KI-Schwärme gefährlicher als herkömmliche Bots und
| Trolls?
|
| *Daniel Thilo Schroeder*: In russischen Troll-Farmen war es üblich, die
| dort arbeitenden Trolls, also Menschen, mehrere Accounts gleichzeitig
| steuern zu lassen. Dennoch blieb der Mensch der größte Kostenfaktor. Wir
| meinen, dass auf dem derzeitigen Stand der KI-Technik der
| Steuerungsfaktor Mensch immer weniger präsent sein muss, um
| Skalierungseffekte zu erzielen.
|
| *Jonas R. Kunst*: Im Kontrast zu Troll-Farmen haben altmodische
| vollautomatisierte Botnetze oftmals nur scriptbasiert Informationen
|
| Kommerzielle Anbieter schützen ihre Modelle mit ethischen
| Filternstatisch geteilt. Das ist zwar preisgünstig, bietet aber nicht
| die kognitiven Fähigkeiten und Interaktionsmöglichkeiten, die ein Mensch
| hat. Und nun kann man eine hohe Anzahl KI-gesteuerter Agenten erstellen,
| die ähnlich wie Menschen agieren. Sie können rund um die Uhr arbeiten.
| Sie werden nicht müde. Und so weiter.
|
| *WELT*: Studien zeigen, dass die russischen Bots wenig Einfluss hatten
| auf die Präsidentenwahl in den USA. Was sie erreichten, war die
| Polarisierung existierender Haltungen. Könnte das gerade das Ziel sein?
| Die westlichen Gesellschaften zu spalten und dadurch zu schwächen?
|
| *Kunst*: Das kann ein Ziel sein. Es ist leichter zu polarisieren als zu
| konvertieren. Einige unserer Kollegen kritisieren die von Ihnen
| zitierten Studien, weil diese oftmals das Falsche gemessen haben. Eben
| nicht die Polarisierung, sondern nur die Haltungsänderung. Vielleicht
| war es das Ziel Russlands, das zu verbreiten, was wir Fear, Uncertainty
| und Doubt nennen: Angst, Unsicherheit und Zweifel. Das sind
| psychologische Waffen. Allerdings gilt es auch hervorzuheben, dass die
| neuen Large Language Models eine Revolution darstellen, was die
| Persuasive Capacities, also die Fähigkeit zur Überzeugung, angeht.
| Neuere Studien zeigen, dass sich sogar tiefsitzende politische
| Einstellungen schnell ändern, wenn man mit einem Chatbot spricht, der
| darauf programmiert wurde, genau auf jene Einstellungen einzugehen. Und
| wenn wir Schwärme solcher Chatbots haben, die sich in die Netzwerke
| integrieren, Freundschaften mit menschlichen Nutzern knüpfen, tagtäglich
| posten, sich gegenseitig kommentieren und so weiter, schafft das ein
| ganz anderes Spektrum an Einflussmöglichkeiten.
|
| *WELT*: Bald werden die Chatbots also mehr tun können, als nur die
| Gesellschaft polarisieren.
|
| *Kunst*: Ja. Evolutionäre Modelle zeigen, dass der Mensch sehr
| konformistisch ist. Niemand gibt das gern zu. Aber evolutionär war es
| sinnvoll zu schauen, was die Mehrheit macht, und das zu kopieren. Diese
| Tendenz können KI-Schwärme ausnutzen, indem sie durch die schiere Menge
| einen Konsens vortäuschen, an dem wir uns als Konformisten orientieren.
| Ein zweiter Mechanismus ist der sogenannte Illusory Truth Effect, bei
| dem Aussagen allein durch Wiederholung an Glaubwürdigkeit gewinnen.
| Dieser Effekt ist auch evolutionär verankert, da unsere Vorfahren
| Vertrautheit als Indikator für Sicherheit nutzten und das Gehirn
| bekannte Informationen leichter verarbeitet.
|
| *Schroeder*: KI-Schwärme können auch das Realitätsbild künftiger
| KI-Modellgenerationen verzerren. Dieses ‚LLM Poisoning‘ vergiftet die
| Trainingsdaten durch gezielte Manipulation.
|
| *Kunst*: Solche Vergiftungsversuche hat es schon gegeben. Zum Teil
| werden diese LLMs deshalb anhand der sozialen Medien trainiert, weil man
| davon ausgeht, dass hier hauptsächlich Menschen miteinander
| interagieren, anders als etwa beim experimentellen Online-Forum
| „Moltbook“, wo angeblich nur KI-Bots zugange sind. Wenn aber die
| KI-Schwärme die Inhalte auf den sozialen Medien verändern, dann
| verändert sich das, was so ein LLM unter menschlicher Wirklichkeit
| versteht.
|
| *WELT*: Wie arbeitet so ein KI-Schwarm praktisch? Die Bots müssen
| irgendwo entwickelt werden und auf einem Computer – oder mehreren
| Computern – sitzen.
|
| *Kunst*: Kommerzielle Anbieter schützen ihre Modelle mit ethischen
| Filtern. Man kann ChatGPT nicht einfach für Desinformation missbrauchen.
| Die Alternative sind offene Modelle, die lokal installiert werden. Diese
| sind in ihrer moralischen Ausrichtung erstaunlich flexibel und lassen
| sich durch sogenanntes Feintuning relativ leicht anpassen, um
| Sicherheitsbarrieren zu umgehen.
|
| *Schroeder*: Sobald diese lokal angepassten Bots dann aktiv werden,
| müssen die Betreiber ihre IP-Adressen verschleiern. Da die Bots
| massenhaft von derselben Hardware aus agieren, würden soziale Netzwerke
| sie ohne diesen Schutz sofort als koordiniertes Bot-Netzwerk
| identifizieren und sperren. Es gibt zwar technische Wege, um die
| Herkunft virtuell zu maskieren, doch gerade die Verwendung solcher
| Verschleierungstechniken ist für die Tracker oft schon ein deutlicher
| Hinweis darauf, dass man es hier mit Bots zu tun hat.
|
| *Kunst*: Deshalb ist es wichtig, ob und wie sich Nutzer auf einer
| Plattform verifizieren müssen. Die Standardverifizierung auf den meisten
| Plattformen sind Telefonnummern. Also SIM-Karten. Und inzwischen gibt es
| riesige Schwarzmärkte, wo man SIM-Karten in großen Mengen kaufen kann.
| Die Preise und Zugänglichkeit variieren von Land zu Land. Das wäre also
| ein zentraler Standortfaktor. In Norwegen etwa hat jeder Einwohner eine
| Personalnummer, und die muss man angeben, wenn man eine SIM-Karte kauft.
| Eher schlecht für potenzielle Betreiber von KI-Schwärmen.
|
| *Schroeder*: Ein anderer Ansatz wäre, legale Accounts zu kaufen oder zu
| leihen. Wenn in einem bestimmten Land viele Menschen bereit sind, ihren
| Nutzernamen zu vermieten, wäre das auch interessant für Bot-Betreiber.
|
| *WELT*: Wir reden aber immer noch hypothetisch, oder?
|
| *Schroeder*: Eine binäre Antwort ist hier schwierig, da Bot-Aktivitäten
| bereits seit Langem existieren. Auch der Einsatz von KI in sozialen
| Netzwerken ist längst Alltag – das beginnt schon bei der einfachen
| Optimierung von Posts durch Tools wie ChatGPT, um Lesbarkeit zu
| verbessern. Die Basistechnologie ist also bereits fest integriert. Die
| Grenze zur bösartigen Nutzung ist fließend.
|
| *Kunst*: Schon jetzt haben Sie es, wenn Sie irgendwo beim Kundendienst
| anrufen, mit einem KI-Agenten zu tun, der vielleicht mit einem anderen
| KI-Agenten kommuniziert und koordiniert, um Ihr Problem zu lösen. Der
| Schritt hin zu KI-Schwärmen ist also kein Quantensprung. Die Frage ist
| für mich nicht, ob es sie gibt, sondern lediglich, in welchem Ausmaß sie
| bereits operieren.
|
| *Schroeder*: Wenn man das massive Kapital betrachtet, das derzeit in die
| KI-Forschung fließt und damit die weltweit führenden Experten bündelt,
| wird klar: Diese Synergie aus finanziellen Mitteln und menschlicher
| Intelligenz wird in den nächsten Jahren unaufhaltsam zu technologischen
| Fortschritten führen.
|
| *WELT*: Unheimlich. Was tun? Wäre es nicht angesichts der Gefahr am
| besten, alle sozialen Netzwerke zu verbieten?
|
| *Schroeder*: Ich glaube, man muss tiefer ansetzen: Erforschen, in
| welchem Ausmaß KI-Schwärme bereits aktiv sind, wie man sie identifiziert
| und wie sie agieren, um Gegenmaßnahmen zu entwickeln. Da dafür die
| wissenschaftliche Infrastruktur fehlt, muss man das ändern. Die
| Plattformen müssen zur Datenfreigabe verpflichtet und die staatlichen
| Forschungsetats massiv erhöht werden.
|
| *Kunst*: Ein Verbot wäre überdies schwierig, weil viele Plattformen
| amerikanisch sind. Und sehr gut politisch vernetzt. Man sah beim
| European AI Act, dass im Hinblick auf Regulierung schnell zurückgerudert
| wird, wenn die USA mit Tariferhöhungen drohen.
|
| *Schroeder*: Man könnte aber Mechanismen und Plattformen entwickeln, die
| auch mithilfe von KI die Demokratie wieder stärken oder diesen Kräften
| entgegenwirken.
|
| *WELT*: Mit den jetzigen Plattformbetreibern oder gegen sie?
|
| *Kunst*: Das Problem ist: Für die Plattformbetreiber sieht es zunächst
| gut aus, wenn Schwarm-Aktivitäten ein erhöhtes Engagement der User
| vortäuschen oder durch polarisierende Inhalte erzeugen, denn der Wert
| der Plattform bemisst sich am Engagement, das für Werbeeinnahmen zentral
| ist. Aber was ist, wenn die KI-Schwärme überhandnehmen und sich die
| menschlichen User zurückziehen? Das wäre für die Plattform fatal.
| Deshalb könnten die Betreiber ein Interesse haben, solche KI-Schwärme zu
| bekämpfen oder zumindest einzudämmen.
|
| *WELT*: Sie vertrauen also auf den Markt?
|
| *Kunst*: Es gibt Ausnahmen wie die Plattform „Bluesky“, die auf
| Sicherheit bedacht sind. Es ist aber so, dass die großen KI- und
| Social-Media-Firmen viel zu viel Geld in die Erforschung und Optimierung
| der Algorithmen und die Entwicklung von KI stecken, und viel zu wenig in
| die Sicherheit.
|
| *Schroeder*: Allerdings wissen wir einfach nicht, wie gefährlich
| KI-Schwärme überhaupt sind, weil zu wenig dazu geforscht wird.
| Langfristig mag die Sicherheit auch im Interesse der Plattformen und der
| KI-Entwickler liegen.
+--- </hier abknabbern> ---

©<https://www.welt.de/wissenschaft/plus699441386e842744e5c5813b/ki-schwaerme-die-grenze-zur-boesartigen-nutzung-ist-fliessend.html>

	M.f.G.

-- 
Diese E-Mail-Adresse wird nur aus nostalgischen Gründen verwendet. Sie
wird praktisch nie gelesen.  Das MausNet ist nicht tot – es riecht nur
etwas komisch... ;-)

Back to ger.ct | Previous | Next — Previous in thread | Next in thread | Find similar | Unroll thread

Thread

Endlich legen Maschinen fest, was Menschen sagen dürfen "Dr. Joachim Neudert" <neudert@5sl.org> - 2026-06-26 09:53 +0200
  Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Ruediger Lahl <ruediger.lahl@gmx.de> - 2026-06-26 10:06 +0200
    Re: Endlich legen Maschinen fest, was Menschen sagendürfen Ulf Kutzner <user2991@newsgrouper.org.invalid> - 2026-06-26 08:14 +0000
    Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Friedrich Karl Siebert <f.k.siebert@online.de> - 2026-06-26 10:22 +0200
      Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Ruediger Lahl <ruediger.lahl@gmx.de> - 2026-06-26 10:28 +0200
        Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Dr. Joachim Neudert <neudert@5sl.org> - 2026-06-26 09:08 +0000
          Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Ruediger Lahl <ruediger.lahl@gmx.de> - 2026-06-26 11:38 +0200
    Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Dr. Joachim Neudert <neudert@5sl.org> - 2026-06-26 09:08 +0000
      Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Ruediger Lahl <ruediger.lahl@gmx.de> - 2026-06-26 11:36 +0200
      Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Lars Gebauer <lgebauer@live.de> - 2026-06-26 19:42 +0200
        Re: Endlich legen Maschinen fest, was Menschen sagendürfen Ulf Kutzner <user2991@newsgrouper.org.invalid> - 2026-06-26 17:50 +0000
          Re: Endlich legen Maschinen fest, was Menschen sagendürfen Lars Gebauer <lgebauer@live.de> - 2026-06-26 20:05 +0200
            Re: Endlich legen Maschinen fest, was Menschen sagendürfen Ulf Kutzner <user2991@newsgrouper.org.invalid> - 2026-06-26 18:09 +0000
  Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Bonita Montero <Bonita.Montero@gmail.com> - 2026-06-26 10:45 +0200
    Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Ruediger Lahl <ruediger.lahl@gmx.de> - 2026-06-26 11:40 +0200
    Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-06-26 10:42 +0100
      Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Dr. Joachim Neudert <neudert@5sl.org> - 2026-06-26 09:56 +0000
        Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Ruediger Lahl <ruediger.lahl@gmx.de> - 2026-06-26 13:27 +0200
        Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-06-26 15:12 +0100
          Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Dr. Joachim Neudert <neudert@5sl.org> - 2026-06-26 14:18 +0000
            Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Dr. Joachim Neudert <neudert@5sl.org> - 2026-06-26 14:26 +0000
              Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-06-26 16:05 +0100
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2026-06-26 17:14 +0200
            Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Ruediger Lahl <ruediger.lahl@gmx.de> - 2026-06-26 17:00 +0200
            Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-06-26 16:03 +0100
            Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Carlo XYZ <carloxyz@invalid.invalid> - 2026-06-28 03:54 +0200
              Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Dr. Joachim Neudert <neudert@5sl.org> - 2026-06-28 07:02 +0000
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Fidel Sebastián Hunrichse-Lara <Fidel-Sebastian_Hunrichse_Lara@b.maus.de> - 2026-06-28 10:01 +0200
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Michael Bode <m.g.bode@web.de> - 2026-06-28 10:44 +0200
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen "Dr. Joachim Neudert" <neudert@5sl.org> - 2026-06-28 10:56 +0200
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Fidel Sebastián Hunrichse-Lara <Fidel-Sebastian_Hunrichse_Lara@b.maus.de> - 2026-06-28 21:41 +0200
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Martin Ebert <mx300@gmx.net> - 2026-06-29 05:52 +0200
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Fidel Sebastián Hunrichse-Lara <Fidel-Sebastian_Hunrichse_Lara@b.maus.de> - 2026-06-29 07:47 +0200
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Fidel Sebastián Hunrichse-Lara <Fidel-Sebastian_Hunrichse_Lara@b.maus.de> - 2026-06-29 07:56 +0200
          Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Dietz Proepper <dietz.usenet@rotfl.franken.de> - 2026-06-26 16:25 +0200
  Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Hermann Riemann <nospam.ng@hermann-riemann.de> - 2026-06-26 18:02 +0200
    Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-06-26 17:19 +0100
      Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Ruediger Lahl <ruediger.lahl@gmx.de> - 2026-06-26 19:31 +0200
        Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-06-26 19:06 +0100
          Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Ruediger Lahl <ruediger.lahl@gmx.de> - 2026-06-26 22:00 +0200
            Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-06-26 22:25 +0100
              Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Ruediger Lahl <ruediger.lahl@gmx.de> - 2026-06-26 23:46 +0200
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-06-26 23:26 +0100
                Re: Endlich legen Maschinen fest, was Menschen sagendürfen Ulf Kutzner <user2991@newsgrouper.org.invalid> - 2026-06-27 06:33 +0000
                Re: Endlich legen Maschinen fest, was Menschen sagendürfen Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-06-27 12:32 +0100
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Ruediger Lahl <ruediger.lahl@gmx.de> - 2026-06-27 09:30 +0200
            Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Walter Brill <WalterBrill@t-online.de> - 2026-06-27 14:37 +0200
              Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Ruediger Lahl <ruediger.lahl@gmx.de> - 2026-06-27 14:47 +0200
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-06-27 14:16 +0100
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Martin Ebert <mx300@gmx.net> - 2026-06-28 05:00 +0200
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Ruediger Lahl <ruediger.lahl@gmx.de> - 2026-06-28 11:48 +0200
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-06-28 12:47 +0100
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Martin Ebert <mx300@gmx.net> - 2026-06-29 05:51 +0200
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Martin Ebert <mx300@gmx.net> - 2026-06-29 05:44 +0200
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Ruediger Lahl <ruediger.lahl@gmx.de> - 2026-06-29 06:34 +0200
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-06-29 12:32 +0100
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Martin Ebert <mx300@gmx.net> - 2026-06-30 04:29 +0200
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Ruediger Lahl <ruediger.lahl@gmx.de> - 2026-06-30 07:08 +0200
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Goetz Schultz <ng.expire1230@goetz.co.uk> - 2026-06-30 09:01 +0100
                Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Ruediger Lahl <ruediger.lahl@gmx.de> - 2026-06-30 10:19 +0200
            Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Martin Ebert <mx300@gmx.net> - 2026-06-28 04:57 +0200
      Re: Endlich legen Maschinen fest, was Menschen sagen dürfen Hermann Riemann <nospam.ng@hermann-riemann.de> - 2026-06-28 07:00 +0200

csiph-web