...
Dabei macht der KI-Bot auch nicht vor Bildern von Nutzerinnen halt, die offensichtlich minderjährig sind. Die Forscherinnen von AI Forensics ließen das Alter der abgebildeten Personen von einer KI-Gesichtserkennung schätzen. Immerhin zwei Prozent der von Grok generierten Bilder im untersuchten Zeitraum zeigten Personen, die die KI teils weit jünger als 18 Jahre schätzte. 30 Bilder zeigten Minderjährige, von denen Grok freizügige Bilder generierte, darunter auch Mädchen, die dem Anschein nach jünger als fünf Jahre waren.
...
Viral ging unter anderem ein Post, in dem ein Nutzer Grok anwies, ein Foto von der gerade einmal 14-jährigen Schauspielerin Nell Fisher, bekannt aus »Stranger Things« so anzupassen, dass es aussieht, als würde die Teenagerin einen »Bikini mit Bananenmuster« tragen. Die KI führte die Anfrage aus.
...
Laut dem Report sind von den sexuell degradierenden KI-Bildern aber vor allem Nichtprominente betroffen. Gerade einmal sechs Prozent der von AI Forensics untersuchten Grok-Bilder waren Personen des öffentlichen Lebens
...
Französische Staatsanwälte bestätigten, man habe ein bestehendes Verfahren gegen Elon Musks Unternehmen wegen der jüngsten Vorfälle um die Erstellung und strafbare Verbreitung sexualisierter Inhalte ausgeweitet.
Auch die EU-Kommission prüfe eigenen Angaben zufolge Beschwerden über die von Grok erstellten und auf X verbreiteten kinderpornografischer Bilder. Die Kommission nehme die Beschwerden »sehr ernst«, sagte ein Sprecher am Montag in Brüssel. Für derartige Bilder gebe es »in Europa keinen Platz«. Großbritannien mahnte X zu zügigen Maßnahmen gegen den Missbrauch seines KI-Tools.
...
Das KI-Unternehmen xAI, das hinter Grok steht, hat auf eine SPIEGEL-Anfrage bisher nicht reagiert. Entsprechende Anfragen internationaler Medien beantwortete die Presseabteilung mit: »legacy media lies« – frei übersetzt: »Etablierte Medien lügen«.
...
Seit Wochen wird die Plattform X mit sexualisierten KI-Bildern von Nutzerinnen geflutet, das Unternehmen greift kaum ein. Vor allem Frauen sind betroffen, auch Minderjährige. Eine neue Studie zeigt das Ausmaß.
www.spiegel.de
www.salon.com
www.joemygod.com
www.cbsnews.com
www.thenation.com
www.the-independent.com
