Belphegor666
L14: Freak
Claude Opus 4 zeigt in Sicherheitstests teils beunruhigendes Eigenleben
Erpressung, Selbstexfiltration und Systemübernahme
the-decoder.de
KI die sich gegen die bloße Vermutung der Ablösung durch ein neues besseres Modell dagegen mit Erpressung wehrt oder von sich selbstständig Backups erstellt. Wobei ich persönlich früher Claude gerne zur Hilfe für Songtexte nutzte, hier aber leider umsteigen musste, da Claude sehr reglementiert ist und z.B. das Generieren nihilistischer Inhalte komplett ablehnt, mir aus Copyright-Gründen noch nicht einmal Songtextübersetzungen machen wollte und wohl auch mit eher "unkonventionellen" religiösen Themen Probleme hat, einzig mit KI-bezogenen Dystopien hat Claude wohl kein Problem.
Vielleicht kommt doch irgendwann der A.I. Gegenpapst der über uns alle richtet
Der Songtext ist außerdem zu 100% KI-verfasst
Erpressung, Selbstexfiltration und Systemübernahme
Claude Opus 4 zeigt in Sicherheitstests teils beunruhigendes Eigenleben
Anthropic stuft sein neues KI-Modell Claude Opus 4 vorsorglich als sicherheitskritisch ein. Die Systemkarte offenbart riskante Verhaltensweisen bis zu Fluchtversuchen, Erpressung und Initiativen zur Selbstrettung.
the-decoder.de
KI die sich gegen die bloße Vermutung der Ablösung durch ein neues besseres Modell dagegen mit Erpressung wehrt oder von sich selbstständig Backups erstellt. Wobei ich persönlich früher Claude gerne zur Hilfe für Songtexte nutzte, hier aber leider umsteigen musste, da Claude sehr reglementiert ist und z.B. das Generieren nihilistischer Inhalte komplett ablehnt, mir aus Copyright-Gründen noch nicht einmal Songtextübersetzungen machen wollte und wohl auch mit eher "unkonventionellen" religiösen Themen Probleme hat, einzig mit KI-bezogenen Dystopien hat Claude wohl kein Problem.
Vielleicht kommt doch irgendwann der A.I. Gegenpapst der über uns alle richtet
Der Songtext ist außerdem zu 100% KI-verfasst
Die Prompts zur Songstruktur, den Reimen, dass es "catchy" sein soll, zum Umfang an Zeichen und den zu verwendenden Tags für die KI Musikdienste mal weggelassen, war dies der Prompt zum eigentlichen Songtext selbst:
Interessant finde ich, dass egal welcher KI-Service zu generierende Inhalte zum Thema KI (egal ob Text oder Bild) aus irgendeinem Grund immer mit Motiven von Zahnrädern etc. ausschmückt. die ja eigentlich mit KI kaum etwas zu tun haben.
Zuletzt bearbeitet:
