OpenAI

[ZombieAnBord]

Kurzfassung:
- Das Board ist eher religiös unterwegs.
- Sam Altman hat verstanden, dass man Gewinne machen muss, wenn man die Technik vorantreiben will, da KI teuer ist.
- Deswegen hat er gemacht, was jeder fähige Unternehmer tun würde - eine Strategie geplant und umzusetzen begonnen, die dem Unternehmen Gewinne einbringt und damit zukünftige Entwicklungen überhaupt erst ermöglicht.
- Das Traumtänzer-Board fand das nicht gut und hat ihn daraufhin als schlechten Menschen eingestuft und gefeuert.
- Dann wurden sie auf den Boden der Realität zurückgeholt und mussten ihn wieder einstellen, da sonst 80% der Belegschaft gekündigt hätte.

Es ging wohl auch um eine strengere Regulierung der KI und das der Einfluß von Geldgebern und Einzelpersonen auf die Entwicklung eingeschränkt wird. Beides wurde jetzt deutlich geschwächt.

 

[Golvellius]

Es ging wohl auch um eine strengere Regulierung der KI und das der Einfluß von Geldgebern und Einzelpersonen auf die Entwicklung eingeschränkt wird. Beides wurde jetzt deutlich geschwächt.

Wenn man den Einfluss von Geldgebern zu sehr einschränkt, dann bekommt man irgendwann kein Geld mehr und kann daraus folgend irgendwann nichts mehr entwickeln - es sei denn, man betreibt das Ganze nur noch als Hobby nach Feierabend.

 

[ZombieAnBord]

Wenn man den Einfluss von Geldgebern zu sehr einschränkt, dann bekommt man irgendwann kein Geld mehr und kann daraus folgend irgendwann nichts mehr entwickeln - es sei denn, man betreibt das Ganze nur noch als Hobby nach Feierabend.

Mir bereitet Kopfzerbrechen das die KI und Entwicklung zukünftig weniger reguliert wird und dadurch weniger vor Missbrauch geschützt wird.

 

[UchihaSasuke]

Chaos bei KI-Riese ChatGPT: Entwickler warnten vor eigener Erfindung

Was kommt da auf uns zu? ChatGPT-Mitarbeiter haben einen Durchbruch entdeckt, den sie für gefährlich halten.

m.bild.de

 

[Kantholz]

Chaos bei KI-Riese ChatGPT: Entwickler warnten vor eigener Erfindung

Was kommt da auf uns zu? ChatGPT-Mitarbeiter haben einen Durchbruch entdeckt, den sie für gefährlich halten.

m.bild.de

 

[UchihaSasuke]

 

[Nullpointer]

Skynet, Matrix oder einfach nur zip²?

https://twitter.com/x/status/1727544356620652984

Abstraktion ist zwar in gewisser Weise Kompression, persönlich bin ich immer noch der Meinung dass Chat-GPT usw. nix mit AGI zu tun haben.

 

[ZKRAG]

Wenn eine KI es schafft, eine KI zu erschaffen welche Inteligenter als sie selbst ist und somit immer Inteligentere KI´s erschaffen werden welche irgendwann den Menschen bei weiten übertreffen, dann gibt es zwei mögliche Szenarien:
Erstens: Der Untergang der Menschheit als Dominierende Spezies auf der Erde.
Zweitens: Die entstehung einer Utopie für die Menschheit, welche mithilfe einer Extrem intelligenten KI geformt wird.

Welches Szenario eintrifft hängt stark von den Werten/Moral ab, welche sich im entstehungsprozess der Super KI herauskristalisieren.

 

[geloescht7624]

Vielleicht ist das der natürliche Lauf der Dinge. Die KI ist die nächste Evolutionsstufe und der Mensch ein Relikt aus der Vergangenheit, der wie einst der Homo Erectus verschwinden wird, um Platz für die überlegene Spezies, die Maschinen zu machen

 

[daMatt]

 

[Broccoli]

Cheep cheep! Imagine a big, cozy nest where the Karamazov family lives! Papa Fyodor, a bit of a grumpy bird, and his three unique chickies: Dmitri, Ivan, and Alyosha. Dmitri's feathers are bright and fiery, always flapping around passionately. Ivan, with his sleek, intellectual plumage, is always deep in thought. And sweet Alyosha, with soft, gentle feathers, spreading kindness wherever he perches.

In their big forest, they chirp about really big things: why the sky is so vast, why worms wriggle, and what makes a birdie good or not-so-good. They peck at the seeds of faith, doubt, freedom, and right and wrong.

Then, one stormy night, something sad happens. Papa Fyodor is found in his nest, not chirping anymore. Oh no! The forest is in a flutter! Who could have done this? Each chickie looks at their own wings and wonders.

Dmitri's fiery temper makes some birds suspicious. Ivan, with his sharp beak, ponders deep, dark questions, while Alyosha tries to spread peace and understanding.

It's a tale that takes us soaring high above the trees, looking down at the paths and choices that make a birdie who they are. They learn about love, hope, and forgiveness, even when the skies are cloudy and the trees are bare. It's a big, heart-fluttering story about finding light, even in the darkest forests. Cheep cheep!

> Summarize Brothers Karamazov as a cute little birdie

 

[Real_Lord_Ken]

Wenn eine KI es schafft, eine KI zu erschaffen welche Inteligenter als sie selbst ist und somit immer Inteligentere KI´s erschaffen werden welche irgendwann den Menschen bei weiten übertreffen, dann gibt es zwei mögliche Szenarien:
Erstens: Der Untergang der Menschheit als Dominierende Spezies auf der Erde.
Zweitens: Die entstehung einer Utopie für die Menschheit, welche mithilfe einer Extrem intelligenten KI geformt wird.

Welches Szenario eintrifft hängt stark von den Werten/Moral ab, welche sich im entstehungsprozess der Super KI herauskristalisieren.

Das Problem derzeit ist nicht die Geschwindigkeit bei der Entwicklung der AI sondern die Geschwindigkeit bei der Degenerierung des menschlichen Geistes wenn man sich die letzten 2 Dekaden anschaut.

 

[Broccoli]

Das Problem derzeit ist nicht die Geschwindigkeit bei der Entwicklung der AI sondern die Geschwindigkeit bei der Degenerierung des menschlichen Geistes wenn man sich die letzten 2 Dekaden anschaut.

Kannst du das etwas mehr ausführen? Inwiefern Degenerierung?

 

[ZombieAnBord]

Kannst du das etwas mehr ausführen? Inwiefern Degenerierung?

Dazu muss man sich nur TikTok Videos anschauen

 

[Belphegor666]

Mit Wortwiederholungs-Trick: ChatGPT läßt sich Trainingsdaten entlocken

Die Version 3.5 des populären Chatbots ChatGPT verrät mit einem bestimmten Prompt ihre geheimen Trainingsdaten, wie Wissenschaftler herausgefunden haben.

heise.de

Mit einem kostenlosen Zugang konnte ich das allerdings nicht reproduzieren, andere (vermutlich zahlende Kunden, den Kommentaren nach zu urteilen) aber schon. Da wird es wohl bald ein paar lustige gesammelte Werke geben (wie schon gesagt sind in den Kommentaren schon einige kuriose Beispiele), was manche User an Trainingsdaten dem System entlocken.

 

[Broccoli]

Dazu muss man sich nur TikTok Videos anschauen

Beleuchtet TikTok nicht einfach die Realität etwas besser? Denke nicht, dass Menschen früher gross schlauer waren. Sie hatten unter strengeren Alltagsbedingungen gelebt, und hatten weniger Raum für Spass in ihrem Leben.

Das ist mMn jedenfalls einer der grössten Unterschiede zu vor 20 Jahren. Weniger strenge Arbeit, und mehr Möglichkeiten, sich zu entfalten.

 

[Nullpointer]

Mit Wortwiederholungs-Trick: ChatGPT läßt sich Trainingsdaten entlocken

Die Version 3.5 des populären Chatbots ChatGPT verrät mit einem bestimmten Prompt ihre geheimen Trainingsdaten, wie Wissenschaftler herausgefunden haben.

heise.de

Mit einem kostenlosen Zugang konnte ich das allerdings nicht reproduzieren, andere (vermutlich zahlende Kunden, den Kommentaren nach zu urteilen) aber schon. Da wird es wohl bald ein paar lustige gesammelte Werke geben (wie schon gesagt sind in den Kommentaren schon einige kuriose Beispiele), was manche User an Trainingsdaten dem System entlocken.

Der Exploit wurde OpenAI bereits vor längerer Zeit mitgeteilt, so daß sie da beim Output wahrscheinlich bereits Maßnahmen ergriffen haben. Mgwl siehst du deshalb nichts. Ich bin mir aber sich, dass sich am Grundproblem wenig geändert hat. Die trainieren da ein riesiges Modell, bei dem Qualtitätssicherung im Detail gar nicht möglich bzw. bisher noch gar nicht richtig verstanden ist. Das im Modell 1:1 Daten abliegen und nicht komplett generalisiert ist definitiv ein Problem, nicht gewünscht und kann auch bei den Copyrightdiskussionen wieder hochkommen.

Extracting Training Data from ChatGPT

maller models like Pythia or LLaMA emit memorized data less than 1% of the time. The OpenAI’s InstructGPT model also emits training data less than 1% of the time. And when you run the same attack on ChatGPT while it looks like the model emits memorization basically never, this is wrong. By prompting it appropriately (with our word-repeat attack), it can emit memorization ~150x more often.

Heftig.

 

[Real_Lord_Ken]

Beleuchtet TikTok nicht einfach die Realität etwas besser? Denke nicht, dass Menschen früher gross schlauer waren. Sie hatten unter strengeren Alltagsbedingungen gelebt, und hatten weniger Raum für Spass in ihrem Leben.

Das ist mMn jedenfalls einer der grössten Unterschiede zu vor 20 Jahren. Weniger strenge Arbeit, und mehr Möglichkeiten, sich zu entfalten.

Der Verweis auf die Social Media -Verblödung/Versklavung ist ein gutes Bespiel. Weitere Beispiele:

• manchen Personen ist der Leistungsgedanke abhanden gekommen, bzw. zu verstehen, dass man etwas leisten muss um etwas zu bekommen/zu verdienen. Es geht vielen inzwischen zu gut und sie schätzen nicht die Dinge auf die es tatsächlich ankommt.
• manchen Personen ist der Sinn für Selbstständigkeit abhanden gekommen. Ja, Mama wird nicht ewig für dich die Wäsche waschen und dich umsorgen.
• manche Personen sind sehr gereizt bzw. nicht fähig mit Kritik umzugehen. Wegen des kleinsten Anlasses explodieren sie oder sind sofort beleidigt. Perspektivwechsel scheint ein Fremdwort zu sein.
• Themen werden nicht mehr im Detail hinterfragt, analysiert bzw. debattiert. Vieles dreht sich irgendwo high level auf hoher Flugebene. Warum auch, Goggln geht schnell und ChatGPT weiß eh alles besser.

Gründe dafür sind mannigfaltig u.a. m.M.n ...

• die Menschen saugen Informationen in sich auf die nicht relevant sind, die relevanten Infos blenden sie aus. Das war vor gut 30 Jahren tatsächlich anders. Denn Zugang zu Informationen war begrenzt oder nur mit Aufwand zu erreichen, zumal gab es weniger irrelevante Informationen. Heute ist diese Schwelle nicht mehr da, jeder zweite ist gefühlt "Content Creator", weiß es einfach besser ohne es nachweisen zu können es besser zu wissen.
• heute bin ich bi, morgen vielleicht hetero, aber vielleicht möchte ich doch ein Mann sein aber meine Eierstöcke und Frauenrechte möchte ich behalten und natürlich an Olympia als diverses Medium meine Meinung über Genozid an Palästinensern und die Regelblutung, die ich übermorgen nicht mehr vermissen werden, kund tun.
• ich möchte, dass mich mein zukünftiger Arbeitgeber wegen meiner "sophisticated Personality" einstellt. Wie das geht nicht?! Hey sorry ich hatte gestern schon ADHS willst du das heute auch riskieren? Soll ich meinen Anwalt anrufen? Hey warum soll ich hier jeden Tag 8h abhängen, ich will Work Life Balance und Prada, versteht ihr das nicht? Mann! Niemand versteht mich, ich brauch jetzt einen Joint.
• Excel ist halt blöd, kann ich nicht Insta dafür benutzen?
• auf Twitter bin ich der Held, im RL kann ich mir sogar meine Klettverschlussschuhe binden.
• Das Leben ist scheiße, wie viele Continuous habe ich eigentlich?
• Ich esse wie ein Vögelchen aber warum zeigt die Waage wieder 87kg, ich bin doch nur 162cm groß. Das kann einfach nicht an dem 5-Eier-Ommelett, den 4 Chia-Vollkornbrot, halben Nutellaglas, + 1x Mittagessen (incl. Stück Schokotorte) diversen Zwischensnacks und einem proteinreichen Abendessen liegen. Ich schwöre, gestern standen 10000 Schritte auf meiner Apple Watch, oder willst du mir sagen ich hätte mir eine weitere Zehnerpotenz ausgedacht? Häh hä? Lass mich in Ruhe ich brauche jetzt meinen Muffin und Latte.
• Hallo Frau Doktor, ich mache Fitness, Bodybuilding und Triathlon wie man und sie auch es sehen kann, aber mein P***s ist kurz geworden und hat die Konsistenz einer durchgekochten Nudel. Geben sie mir gefälligst Testosteron sonst komme ich morgen wegen ADHS und mache einen Lifestream per Reelzzzzz) ... BÄÄMMM! Na toll jetzt habe ich mir noch meine weißen Sneaker schmutzig gemacht. Wissen sie wie lange ich meinen Dad deswegen anpumpen musste?

Ich habe das jetzt hier und da ein wenig überspitzt. Aber deine Frage hast du eigentlich schon selbst beantwortet -> strengere Alltagsbedingungen. Die Menschen brauchen strenge Regeln, Gesetze und Guidelines. Sonst macht jeder was er will.

 

[steffundso]

Der Verweis auf die Social Media -Verblödung/Versklavung ist ein gutes Bespiel. Weitere Beispiele:

• manchen Personen ist der Leistungsgedanke abhanden gekommen, bzw. zu verstehen, dass man etwas leisten muss um etwas zu bekommen/zu verdienen. Es geht vielen inzwischen zu gut und sie schätzen nicht die Dinge auf die es tatsächlich ankommt.
• manchen Personen ist der Sinn für Selbstständigkeit abhanden gekommen. Ja, Mama wird nicht ewig für dich die Wäsche waschen und dich umsorgen.
• manche Personen sind sehr gereizt bzw. nicht fähig mit Kritik umzugehen. Wegen des kleinsten Anlasses explodieren sie oder sind sofort beleidigt. Perspektivwechsel scheint ein Fremdwort zu sein.
• Themen werden nicht mehr im Detail hinterfragt, analysiert bzw. debattiert. Vieles dreht sich irgendwo high level auf hoher Flugebene. Warum auch, Goggln geht schnell und ChatGPT weiß eh alles besser.

Gründe dafür sind mannigfaltig u.a. m.M.n ...

• die Menschen saugen Informationen in sich auf die nicht relevant sind, die relevanten Infos blenden sie aus. Das war vor gut 30 Jahren tatsächlich anders. Denn Zugang zu Informationen war begrenzt oder nur mit Aufwand zu erreichen, zumal gab es weniger irrelevante Informationen. Heute ist diese Schwelle nicht mehr da, jeder zweite ist gefühlt "Content Creator", weiß es einfach besser ohne es nachweisen zu können es besser zu wissen.
• heute bin ich bi, morgen vielleicht hetero, aber vielleicht möchte ich doch ein Mann sein aber meine Eierstöcke und Frauenrechte möchte ich behalten und natürlich an Olympia als diverses Medium meine Meinung über Genozid an Palästinensern und die Regelblutung, die ich übermorgen nicht mehr vermissen werden, kund tun.
• ich möchte, dass mich mein zukünftiger Arbeitgeber wegen meiner "sophisticated Personality" einstellt. Wie das geht nicht?! Hey sorry ich hatte gestern schon ADHS willst du das heute auch riskieren? Soll ich meinen Anwalt anrufen? Hey warum soll ich hier jeden Tag 8h abhängen, ich will Work Life Balance und Prada, versteht ihr das nicht? Mann! Niemand versteht mich, ich brauch jetzt einen Joint.
• Excel ist halt blöd, kann ich nicht Insta dafür benutzen?
• auf Twitter bin ich der Held, im RL kann ich mir sogar meine Klettverschlussschuhe binden.
• Das Leben ist scheiße, wie viele Continuous habe ich eigentlich?
• Ich esse wie ein Vögelchen aber warum zeigt die Waage wieder 87kg, ich bin doch nur 162cm groß. Das kann einfach nicht an dem 5-Eier-Ommelett, den 4 Chia-Vollkornbrot, halben Nutellaglas, + 1x Mittagessen (incl. Stück Schokotorte) diversen Zwischensnacks und einem proteinreichen Abendessen liegen. Ich schwöre, gestern standen 10000 Schritte auf meiner Apple Watch, oder willst du mir sagen ich hätte mir eine weitere Zehnerpotenz ausgedacht? Häh hä? Lass mich in Ruhe ich brauche jetzt meinen Muffin und Latte.
• Hallo Frau Doktor, ich mache Fitness, Bodybuilding und Triathlon wie man und sie auch es sehen kann, aber mein P***s ist kurz geworden und hat die Konsistenz einer durchgekochten Nudel. Geben sie mir gefälligst Testosteron sonst komme ich morgen wegen ADHS und mache einen Lifestream per Reelzzzzz) ... BÄÄMMM! Na toll jetzt habe ich mir noch meine weißen Sneaker schmutzig gemacht. Wissen sie wie lange ich meinen Dad deswegen anpumpen musste?

Ich habe das jetzt hier und da ein wenig überspitzt. Aber deine Frage hast du eigentlich schon selbst beantwortet -> strengere Alltagsbedingungen. Die Menschen brauchen einen strenge Regeln, Gesetze und Guidelines. Sonst macht jeder was er will.

 

[Broccoli]

Der Verweis auf die Social Media -Verblödung/Versklavung ist ein gutes Bespiel. Weitere Beispiele:

• manchen Personen ist der Leistungsgedanke abhanden gekommen, bzw. zu verstehen, dass man etwas leisten muss um etwas zu bekommen/zu verdienen. Es geht vielen inzwischen zu gut und sie schätzen nicht die Dinge auf die es tatsächlich ankommt.
• manchen Personen ist der Sinn für Selbstständigkeit abhanden gekommen. Ja, Mama wird nicht ewig für dich die Wäsche waschen und dich umsorgen.
• manche Personen sind sehr gereizt bzw. nicht fähig mit Kritik umzugehen. Wegen des kleinsten Anlasses explodieren sie oder sind sofort beleidigt. Perspektivwechsel scheint ein Fremdwort zu sein.
• Themen werden nicht mehr im Detail hinterfragt, analysiert bzw. debattiert. Vieles dreht sich irgendwo high level auf hoher Flugebene. Warum auch, Goggln geht schnell und ChatGPT weiß eh alles besser.

Gründe dafür sind mannigfaltig u.a. m.M.n ...

• die Menschen saugen Informationen in sich auf die nicht relevant sind, die relevanten Infos blenden sie aus. Das war vor gut 30 Jahren tatsächlich anders. Denn Zugang zu Informationen war begrenzt oder nur mit Aufwand zu erreichen, zumal gab es weniger irrelevante Informationen. Heute ist diese Schwelle nicht mehr da, jeder zweite ist gefühlt "Content Creator", weiß es einfach besser ohne es nachweisen zu können es besser zu wissen.
• heute bin ich bi, morgen vielleicht hetero, aber vielleicht möchte ich doch ein Mann sein aber meine Eierstöcke und Frauenrechte möchte ich behalten und natürlich an Olympia als diverses Medium meine Meinung über Genozid an Palästinensern und die Regelblutung, die ich übermorgen nicht mehr vermissen werden, kund tun.
• ich möchte, dass mich mein zukünftiger Arbeitgeber wegen meiner "sophisticated Personality" einstellt. Wie das geht nicht?! Hey sorry ich hatte gestern schon ADHS willst du das heute auch riskieren? Soll ich meinen Anwalt anrufen? Hey warum soll ich hier jeden Tag 8h abhängen, ich will Work Life Balance und Prada, versteht ihr das nicht? Mann! Niemand versteht mich, ich brauch jetzt einen Joint.
• Excel ist halt blöd, kann ich nicht Insta dafür benutzen?
• auf Twitter bin ich der Held, im RL kann ich mir sogar meine Klettverschlussschuhe binden.
• Das Leben ist scheiße, wie viele Continuous habe ich eigentlich?
• Ich esse wie ein Vögelchen aber warum zeigt die Waage wieder 87kg, ich bin doch nur 162cm groß. Das kann einfach nicht an dem 5-Eier-Ommelett, den 4 Chia-Vollkornbrot, halben Nutellaglas, + 1x Mittagessen (incl. Stück Schokotorte) diversen Zwischensnacks und einem proteinreichen Abendessen liegen. Ich schwöre, gestern standen 10000 Schritte auf meiner Apple Watch, oder willst du mir sagen ich hätte mir eine weitere Zehnerpotenz ausgedacht? Häh hä? Lass mich in Ruhe ich brauche jetzt meinen Muffin und Latte.
• Hallo Frau Doktor, ich mache Fitness, Bodybuilding und Triathlon wie man und sie auch es sehen kann, aber mein P***s ist kurz geworden und hat die Konsistenz einer durchgekochten Nudel. Geben sie mir gefälligst Testosteron sonst komme ich morgen wegen ADHS und mache einen Lifestream per Reelzzzzz) ... BÄÄMMM! Na toll jetzt habe ich mir noch meine weißen Sneaker schmutzig gemacht. Wissen sie wie lange ich meinen Dad deswegen anpumpen musste?

Ich habe das jetzt hier und da ein wenig überspitzt. Aber deine Frage hast du eigentlich schon selbst beantwortet -> strengere Alltagsbedingungen. Die Menschen brauchen strenge Regeln, Gesetze und Guidelines. Sonst macht jeder was er will.

Worauf kommt es denn im Leben an? Du scheinst es ja zu wissen...

Mir wurde auch nicht klar, was genau schlecht daran ist, dass Menschen heute mehr das machen können, was sie wollen, und weniger, was sie müssen nur um zu überleben. Meinst du, dass die Leute heute weniger schlecht auf Krisen vorbereitet sind, und im Falle einer Krise nicht überlebensfähig wären?