Groups | Search | Server Info | Keyboard shortcuts | Login | Register [http] [https] [nntp] [nntps]

Groups > ger.ct > #584995 > unrolled thread

Microsoft KI

Back to article view | Back to ger.ct

Contents

  Microsoft KI Dr. Joachim Neudert <neudert@5sl.org> - 2023-02-19 05:01 +0000
    Re: Microsoft KI Bernd Ullrich <ullrich_bernd@hotmail.com> - 2023-02-19 07:11 +0100
      Re: Microsoft KI "Ich lese hier nicht mit" <nix@example.invalid> - 2023-02-19 15:14 +0100
    Re: Microsoft KI Lars Gebauer <lgebauer@live.de> - 2023-02-19 08:59 +0100
    Re: Microsoft KI "F. W." <me@home.com> - 2023-02-20 11:14 +0100
      Re: Microsoft KI Hermann Riemann <nospam.ng@hermann-riemann.de> - 2023-02-20 11:23 +0100
        Re: Microsoft KI "F. W." <me@home.com> - 2023-02-20 11:46 +0100
      Re: Microsoft KI Lars Gebauer <lgebauer@live.de> - 2023-02-20 11:42 +0100
        Re: Microsoft KI "F. W." <me@home.com> - 2023-02-20 11:46 +0100
          Re: Microsoft KI Lars Gebauer <lgebauer@live.de> - 2023-02-20 12:16 +0100
            Re: Microsoft KI "F. W." <me@home.com> - 2023-02-20 12:59 +0100
              Re: Microsoft KI Lars Gebauer <lgebauer@live.de> - 2023-02-20 13:30 +0100
                Re: Microsoft KI "F. W." <me@home.com> - 2023-02-20 14:10 +0100
                  Re: Microsoft KI Lars Gebauer <lgebauer@live.de> - 2023-02-20 14:42 +0100

#584995 — Microsoft KI

"
Zahlreiche Beispiele für ausfallendes Verhalten

Für Aufsehen im Netz hatte ein Test des Bing-Chatbots durch einen Reporter
der New York Times gesorgt. In einem mehr als zweistündigen Dialog
behauptete der Chatbot, dass er den Journalisten liebe. Dann forderte er
den Reporter auf, sich von seiner Frau zu trennen. In den vergangenen Tagen
gab des zahlreiche weitere Beispiele für "unangemessenes Verhalten" des
Chatbots. So sagte die KI etwa gegenüber einem Nutzer, sie würde ihr
eigenes Überleben wahrscheinlich dem seinen vorziehen. Einem anderen Nutzer
wollte sie weismachen, es sei das Jahr 2022, und forderte vehement eine
Entschuldigung ein, als dieser widersprach; einem dritten drohte sie mit
Gewalt."

Also doch intelligent? Zumindest von einem Menschen kaum unterscheidbar… 

;-)

-- 
please forgive my iPhone typos

[toc] | [next] | [standalone]

#584997

Am 19.02.2023 um 06:01 schrieb Dr. Joachim Neudert:
> "
> Zahlreiche Beispiele für ausfallendes Verhalten
> 
> Für Aufsehen im Netz hatte ein Test des Bing-Chatbots durch einen Reporter
> der New York Times gesorgt. In einem mehr als zweistündigen Dialog
> behauptete der Chatbot, dass er den Journalisten liebe. Dann forderte er
> den Reporter auf, sich von seiner Frau zu trennen. In den vergangenen Tagen
> gab des zahlreiche weitere Beispiele für "unangemessenes Verhalten" des
> Chatbots. So sagte die KI etwa gegenüber einem Nutzer, sie würde ihr
> eigenes Überleben wahrscheinlich dem seinen vorziehen. Einem anderen Nutzer
> wollte sie weismachen, es sei das Jahr 2022, und forderte vehement eine
> Entschuldigung ein, als dieser widersprach; einem dritten drohte sie mit
> Gewalt."
..................................
> Also doch intelligent? Zumindest von einem Menschen kaum unterscheidbar…

Wer anfängt mit einem Scheisshaus zu dikutieren ist ein Verlierer...mit 
Recht.

BU

[toc] | [prev] | [next] | [standalone]

#585089

"Bernd Ullrich

> Wer anfängt mit einem Scheisshaus zu dikutieren ist ein Verlierer...mit
> Recht.

Stimmt. *plonk*

[toc] | [prev] | [next] | [standalone]

#585006

Am 19.02.2023 um 06:01 schrieb Dr. Joachim Neudert:
> "Zahlreiche Beispiele für ausfallendes Verhalten
> 
> Für Aufsehen im Netz hatte ein Test des Bing-Chatbots durch einen Reporter
> der New York Times gesorgt. In einem mehr als zweistündigen Dialog
> behauptete der Chatbot, dass er den Journalisten liebe. Dann forderte er
> den Reporter auf, sich von seiner Frau zu trennen. In den vergangenen Tagen
> gab des zahlreiche weitere Beispiele für "unangemessenes Verhalten" des
> Chatbots. So sagte die KI etwa gegenüber einem Nutzer, sie würde ihr
> eigenes Überleben wahrscheinlich dem seinen vorziehen. Einem anderen Nutzer
> wollte sie weismachen, es sei das Jahr 2022, und forderte vehement eine
> Entschuldigung ein, als dieser widersprach; einem dritten drohte sie mit
> Gewalt."
> 
> Also doch intelligent? Zumindest von einem Menschen kaum unterscheidbar…

Wo ist das Wunder? - Es ist eine der Aufgaben von ChatGPT, menschliches 
Verhalten zu simulieren. Auf diese Aufgabe hin wird das System immer 
weiter optimiert, das funktioniert wirklich beeindruckend gut.

Wer sich jetzt wundert wundert sich auch, daß er ein blaues Haus hat 
nachdem er dieses blau angestrichen hat.

Zur Simulation menschlichen Verhaltens gehört natürlich auch die 
Reflektion der Prompts. Sind die Prompts eher auf Streit gebürstet, 
werden die Antworten natürlich auch eher in Richtung Streit tendieren.

Ist ganz gut für Leute, die dermaßen auf sich selbst fixiert sind daß 
sie gar nicht merken, daß sie für ihre Umwelt eher eine Zumutung sind. 
Deren menschliche Umwelt teilt denen das typischerweise nämlich gar 
nicht oder nur sehr indirekt mit. Das führt in der Folge immer mehr 
dazu, daß diese Leute sich in ihrem Verhalten bestätigt sehen, keinen 
Grund haben, etwas zu ändern.

Jetzt kommt ChatGPT daher. Dem sind mancherlei typisch menschliche 
Erwägungen völlig unbekannt. Folglich hat ChatGPT auch viel weniger 
Hemmungen, denen einen Spiegel ihres eigenen Verhaltens vorzuhalten. 
Mehr steckt da nicht dahinter.
-- 
German Dream: Vom Tellerwäscher zum Tellerwaschenden.

[toc] | [prev] | [next] | [standalone]

#585168

Am 19.02.2023 um 06:01 schrieb Dr. Joachim Neudert:

> Zahlreiche Beispiele für ausfallendes Verhalten

Man darf ja nicht vergessen, dass diese GPT ihr Wissen aus dem Internet
hat. Und da steht meist etwas, was Menschen geschrieben haben. Insofern
wundert es mich nicht, dass Gewalt, Rassismus und Drohungen aus der KI
kommen. So sind die Menschen manchmal eben.

FW

[toc] | [prev] | [next] | [standalone]

#585170

Am 20.02.23 um 11:14 schrieb F. W.:
> Am 19.02.2023 um 06:01 schrieb Dr. Joachim Neudert:
> 
>> Zahlreiche Beispiele für ausfallendes Verhalten
> 
> Man darf ja nicht vergessen, dass diese GPT ihr Wissen aus dem Internet
> hat. Und da steht meist etwas, was Menschen geschrieben haben. Insofern
> wundert es mich nicht, dass Gewalt, Rassismus und Drohungen aus der KI
> kommen. So sind die Menschen manchmal eben.

Wie reagiert GPT.. auf von Putin veranlasste spam und malware?

[toc] | [prev] | [next] | [standalone]

#585174

Am 20.02.2023 um 11:23 schrieb Hermann Riemann:
> Am 20.02.23 um 11:14 schrieb F. W.:
>> Am 19.02.2023 um 06:01 schrieb Dr. Joachim Neudert:
>>
>>> Zahlreiche Beispiele für ausfallendes Verhalten
>>
>> Man darf ja nicht vergessen, dass diese GPT ihr Wissen aus dem Internet
>> hat. Und da steht meist etwas, was Menschen geschrieben haben. Insofern
>> wundert es mich nicht, dass Gewalt, Rassismus und Drohungen aus der KI
>> kommen. So sind die Menschen manchmal eben.
> 
> Wie reagiert GPT.. auf von Putin veranlasste spam und malware?
 >

Wie fragt man sie das?

FW

[toc] | [prev] | [next] | [standalone]

#585171

Am 20.02.2023 um 11:14 schrieb F. W.:
> Am 19.02.2023 um 06:01 schrieb Dr. Joachim Neudert:
>> Zahlreiche Beispiele für ausfallendes Verhalten
> 
> Man darf ja nicht vergessen, dass diese GPT ihr Wissen aus dem Internet
> hat.

Das ist zwar nicht so richtig falsch aber eben auch nicht richtig. 
ChatGPT hat keinen Zugriff auf "das Internet" sondern "nur" auf 
ausgewählte Quellen.

> Und da steht meist etwas, was Menschen geschrieben haben.

Putzig. Wer steht denn in Büchern, Zeitschriften etc. außerhalb des 
Internet und wer hat die geschrieben?

> Insofern
> wundert es mich nicht, dass Gewalt, Rassismus und Drohungen aus der KI
> kommen. So sind die Menschen manchmal eben.

Was'n Quatsch.
-- 
| Die Drachenschlucht ist ein Ort voller Magie
| Wo einst ein Lindwurm hauste und schrie
--ChatGPT schrieb ein Gedicht über die Drachenschlucht bei Eisenach

[toc] | [prev] | [next] | [standalone]

#585173

Am 20.02.2023 um 11:42 schrieb Lars Gebauer:

>> Man darf ja nicht vergessen, dass diese GPT ihr Wissen aus dem 
>> Internet hat.

> Das ist zwar nicht so richtig falsch aber eben auch nicht richtig. 
> ChatGPT hat keinen Zugriff auf "das Internet" sondern "nur" auf 
> ausgewählte Quellen.

Ja, aber im Falle Microsoft hörte ich, dass der Stand 2022 die Grundlage
ist (ChatGPT nur 2021).

>> Und da steht meist etwas, was Menschen geschrieben haben.

> Putzig. Wer steht denn in Büchern, Zeitschriften etc. außerhalb des 
> Internet und wer hat die geschrieben?

Auch Menschen. Inwiefern passt das jetzt zum Thema? GPT liest m. W.
keine Bücher außerhalb des Internets. Oder doch?

>> Insofern wundert es mich nicht, dass Gewalt, Rassismus und 
>> Drohungen aus der KI kommen. So sind die Menschen manchmal eben.
> 
> Was'n Quatsch.
> 

Es gibt keine Gewalttätigen, Bedroher, Rassisten?

FW

[toc] | [prev] | [next] | [standalone]

#585179

Am 20.02.2023 um 11:46 schrieb F. W.:
> Am 20.02.2023 um 11:42 schrieb Lars Gebauer:
>>> Man darf ja nicht vergessen, dass diese GPT ihr Wissen aus dem 
>>> Internet hat.
> 
>> Das ist zwar nicht so richtig falsch aber eben auch nicht richtig. 
>> ChatGPT hat keinen Zugriff auf "das Internet" sondern "nur" auf 
>> ausgewählte Quellen.
> 
> Ja, aber im Falle Microsoft hörte ich, dass der Stand 2022 die Grundlage
> ist (ChatGPT nur 2021).

Trotzdem erfolgt der Zugriff nicht wahlfrei sondern nur auf ausgewählte 
Quellen.

>>> Und da steht meist etwas, was Menschen geschrieben haben.
> 
>> Putzig. Wer steht denn in Büchern, Zeitschriften etc. außerhalb des 
>> Internet und wer hat die geschrieben?
> 
> Auch Menschen.

Siehst Du. Es ist also nichts, was irgendwie Internet-typisch ist.

> Inwiefern passt das jetzt zum Thema? GPT liest m. W.
> keine Bücher außerhalb des Internets. Oder doch?

Ein Großteil der einigermaßen wichtigen Bücher dürfte mittlerweile auch 
digitalisiert vorliegen. Zu den Trainingsdaten gehören zwei Bibliotheken.

>>> Insofern wundert es mich nicht, dass Gewalt, Rassismus und Drohungen 
>>> aus der KI kommen. So sind die Menschen manchmal eben.
>>
>> Was'n Quatsch.
> 
> Es gibt keine Gewalttätigen, Bedroher, Rassisten?

Hat damit nichts zu tun. Die Ursache sämtlicher Übel ist nicht, weil 
"Menschen was ins Internet geschrieben haben" und "so sind".
-- 
| Die Drachenschlucht ist ein Ort voller Magie
| Wo einst ein Lindwurm hauste und schrie
--ChatGPT schrieb ein Gedicht über die Drachenschlucht bei Eisenach

[toc] | [prev] | [next] | [standalone]

#585184

Am 20.02.2023 um 12:16 schrieb Lars Gebauer:

>> Ja, aber im Falle Microsoft hörte ich, dass der Stand 2022 die
>> Grundlage ist (ChatGPT nur 2021).
> 
> Trotzdem erfolgt der Zugriff nicht wahlfrei sondern nur auf
> ausgewählte Quellen.
> 

Und trotzdem musste die "Einstellung" korrigiert werden?

>>>> Und da steht meist etwas, was Menschen geschrieben haben.
>> 
>>> Putzig. Wer steht denn in Büchern, Zeitschriften etc. außerhalb
>>> des Internet und wer hat die geschrieben?
>> 
>> Auch Menschen.
> 
> Siehst Du. Es ist also nichts, was irgendwie Internet-typisch ist.
> 
>> Inwiefern passt das jetzt zum Thema? GPT liest m. W. keine Bücher
>> außerhalb des Internets. Oder doch?
> 
> Ein Großteil der einigermaßen wichtigen Bücher dürfte mittlerweile
> auch digitalisiert vorliegen. Zu den Trainingsdaten gehören zwei
> Bibliotheken.
> 

Sind die außerhalb des Internets?

>>>> Insofern wundert es mich nicht, dass Gewalt, Rassismus und
>>>> Drohungen aus der KI kommen. So sind die Menschen manchmal
>>>> eben.
>>> 
>>> Was'n Quatsch.
>> 
>> Es gibt keine Gewalttätigen, Bedroher, Rassisten?
> 
> Hat damit nichts zu tun. Die Ursache sämtlicher Übel ist nicht, weil
>  "Menschen was ins Internet geschrieben haben" und "so sind".
> 

Sondern?

FW

[toc] | [prev] | [next] | [standalone]

#585189

Am 20.02.2023 um 12:59 schrieb F. W.:
> Am 20.02.2023 um 12:16 schrieb Lars Gebauer:
>>> Ja, aber im Falle Microsoft hörte ich, dass der Stand 2022 die
>>> Grundlage ist (ChatGPT nur 2021).
>>
>> Trotzdem erfolgt der Zugriff nicht wahlfrei sondern nur auf
>> ausgewählte Quellen.
> 
> Und trotzdem musste die "Einstellung" korrigiert werden?

Natürlich. Liegt im Gesamt-Konzept begründet, wird auch weiterhin geschehen.

>>> Inwiefern passt das jetzt zum Thema? GPT liest m. W. keine Bücher
>>> außerhalb des Internets. Oder doch?
>>
>> Ein Großteil der einigermaßen wichtigen Bücher dürfte mittlerweile
>> auch digitalisiert vorliegen. Zu den Trainingsdaten gehören zwei
>> Bibliotheken.
> 
> Sind die außerhalb des Internets?

Wozu? Steht in den Papier-Büchern was anderes als in den digitalisierten 
Büchern?

>>> Es gibt keine Gewalttätigen, Bedroher, Rassisten?
>>
>> Hat damit nichts zu tun. Die Ursache sämtlicher Übel ist nicht, weil
>>  "Menschen was ins Internet geschrieben haben" und "so sind".
> 
> Sondern?

Nichts sondern. Deine Aussage war einfach nur Stuß.
-- 
| Die Drachenschlucht ist ein Ort voller Magie
| Wo einst ein Lindwurm hauste und schrie
--ChatGPT versuchte sich an einem Gedicht über die Drachenschlucht bei 
Eisenach

[toc] | [prev] | [next] | [standalone]

#585192

Am 20.02.2023 um 13:30 schrieb Lars Gebauer:

>>>> Ja, aber im Falle Microsoft hörte ich, dass der Stand 2022 die 
>>>> Grundlage ist (ChatGPT nur 2021).
>>> 
>>> Trotzdem erfolgt der Zugriff nicht wahlfrei sondern nur auf 
>>> ausgewählte Quellen.
>> 
>> Und trotzdem musste die "Einstellung" korrigiert werden?
> 
> Natürlich. Liegt im Gesamt-Konzept begründet, wird auch weiterhin 
> geschehen.
> 

Weißt Du, welche Quellen oder welche Kriterien da angesetzt wurden?

>>>> Inwiefern passt das jetzt zum Thema? GPT liest m. W. keine
>>>> Bücher außerhalb des Internets. Oder doch?
>>> 
>>> Ein Großteil der einigermaßen wichtigen Bücher dürfte
>>> mittlerweile auch digitalisiert vorliegen. Zu den Trainingsdaten
>>> gehören zwei Bibliotheken.
>> 
>> Sind die außerhalb des Internets?
> 
> Wozu? Steht in den Papier-Büchern was anderes als in den
> digitalisierten Büchern?
> 

Ich versuche zu verstehen, was Du sagen wolltest, als Du angabst, die
Quellen für GPT bestünden auch außerhalb des Internets, z. B. in Büchern.

>>>> Es gibt keine Gewalttätigen, Bedroher, Rassisten?
>>> 
>>> Hat damit nichts zu tun. Die Ursache sämtlicher Übel ist nicht,
>>> weil "Menschen was ins Internet geschrieben haben" und "so
>>> sind".
>> 
>> Sondern?
> 
> Nichts sondern. Deine Aussage war einfach nur Stuß.
> 

Was ist die Ursache sämtlicher Übel?

FW

[toc] | [prev] | [next] | [standalone]

#585194

Am 20.02.2023 um 14:10 schrieb F. W.:
> Am 20.02.2023 um 13:30 schrieb Lars Gebauer:
>>>>> Ja, aber im Falle Microsoft hörte ich, dass der Stand 2022 die 
>>>>> Grundlage ist (ChatGPT nur 2021).
>>>>
>>>> Trotzdem erfolgt der Zugriff nicht wahlfrei sondern nur auf 
>>>> ausgewählte Quellen.
>>>
>>> Und trotzdem musste die "Einstellung" korrigiert werden?
>>
>> Natürlich. Liegt im Gesamt-Konzept begründet, wird auch weiterhin 
>> geschehen.
> 
> Weißt Du, welche Quellen oder welche Kriterien da angesetzt wurden?

Ein Extrakt des CommonCrawl-Datensatzes, ausgehende Reddit-Links, zwei 
internet-basierte Bibliotheken, ein bisschen englische Wikipedia. War 
jedenfalls der Stand Ende 2022; kann sich natürlich jeden Tag ändern.

>>>> Ein Großteil der einigermaßen wichtigen Bücher dürfte
>>>> mittlerweile auch digitalisiert vorliegen. Zu den Trainingsdaten
>>>> gehören zwei Bibliotheken.
>>>
>>> Sind die außerhalb des Internets?
>>
>> Wozu? Steht in den Papier-Büchern was anderes als in den
>> digitalisierten Büchern?
> 
> Ich versuche zu verstehen, was Du sagen wolltest, als Du angabst, die
> Quellen für GPT bestünden auch außerhalb des Internets, z. B. in Büchern.

Fällt es wirklich so schwer zu begreifen, daß es nicht um ein 
entweder/oder geht?

Es spielt einfach keine Rolle.

>>>> Hat damit nichts zu tun. Die Ursache sämtlicher Übel ist nicht,
>>>> weil "Menschen was ins Internet geschrieben haben" und "so
>>>> sind".
>>>
>>> Sondern?
>>
>> Nichts sondern. Deine Aussage war einfach nur Stuß.
> 
> Was ist die Ursache sämtlicher Übel?

Ich habe keine Ursache genannt. Die von Dir genannte Ursache ist 
trotzdem Stuß.
-- 
| Die Drachenschlucht ist ein Ort voller Magie
| Wo einst ein Lindwurm hauste und schrie
--ChatGPT versuchte sich an einem Gedicht über die Drachenschlucht bei 
Eisenach

[toc] | [prev] | [standalone]

Back to top | Article view | ger.ct

csiph-web