Elon Musks Grok-KI ist so eklig, wie man erwarten könnte

Kolin Koltai, ein Forscher des niederländischen Investigativportals Bellingcat, entdeckte kürzlich, dass X-Nutzer den KI-Chatbot Grok der Plattform nutzten, um Frauen auf Fotos, die sie auf die Plattform hochgeladen hatten, auszuziehen. Der Bot lehnt zwar Aufforderungen ab, die Nutzer komplett nackt zu zeigen, geht aber durchaus bis an die Grenze nicht einvernehmlicher sexueller Darstellungen.

Nutzer, die auf Frauenbilder antworteten und Grok aufforderten, sich auszuziehen, erhielten im Thread eine Antwort mit einem Bild der Frau in Dessous oder Bikini. Gelegentlich antwortete Grok mit einem Link zu einem separaten Chat, der das Bild enthielt.

404 Media berichtete am Dienstag über die Geschichte und stellte fest, dass zwar Dutzende von Nutzern die gleichen Anfragen wie Grok stellten, diese Praxis aber offenbar zuerst in Kenia populär geworden sei. Ein Artikel der kenianischen Nachrichtenseite Citizen Digital beschrieb das Phänomen als „einen neuen Trend unter Kenianern auf X“.

Phumzile Van Damme, eine südafrikanische Aktivistin (und ehemalige Expertin für Technologie und Menschenrechte an der Harvard Kennedy School), forderte den Bot in einem Beitrag auf X im Wesentlichen auf, sich zu erklären. Grok antwortete: „Dieser Vorfall zeigt eine Lücke in unseren Sicherheitsvorkehrungen auf. Wir konnten eine schädliche Aufforderung nicht blockieren und verstoßen damit gegen unsere ethischen Standards in Bezug auf Einwilligung und Datenschutz. Wir überprüfen außerdem unsere Richtlinien, um klarere Einwilligungsprotokolle zu gewährleisten, und werden Sie über unsere Fortschritte auf dem Laufenden halten.“ X hatte die Bitte um eine offizielle Stellungnahme von 404 zum Zeitpunkt der Veröffentlichung noch nicht beantwortet.

Diese Entdeckung erfolgte eine Woche, nachdem das US-Repräsentantenhaus den „ Take it Down Act “ verabschiedet hatte – einen parteiübergreifenden Gesetzentwurf, der die Veröffentlichung nicht einvernehmlicher, sexuell eindeutiger Bilder und Videos, einschließlich solcher, die von KI generiert wurden, unter Strafe stellt. Die Entdeckung erfolgte zudem nur zwei Wochen, nachdem X Corp. Klage gegen den Generalstaatsanwalt von Minnesota, Keith Ellison, eingereicht hatte. Darin wurde die Verfassungsmäßigkeit des Gesetzes des Bundesstaates angefochten, das den Einsatz von Deepfakes zur Wahlbeeinflussung verbietet.

Grok wurde von xAI entwickelt und im November 2023 veröffentlicht. Elon Musk, Eigentümer von xAI und X, auf die der Bot „direkten Zugriff“ hat, entwickelte den Chatbot mit der Absicht, eine Art „TruthGPT“ zu schaffen, wie er ihn Tucker Carlson in einem Interview Anfang des Jahres beschrieb. Im selben Gespräch äußerte er auch seine Besorgnis darüber, dass ChatGPT „auf politische Korrektheit trainiert“ werde.

Seit Grok veröffentlicht wurde, hat Musk regelmäßig versucht, es von anderen KI-Chatbots abzugrenzen, indem er Grok als „basiert“ und humorvoll beschreibt. Während andere KI-Modelle, wie die von OpenAI (das Musk 2018 verließ) und Google, sexuell explizite oder anderweitig sensible Gespräche ablehnen, prahlte xAI damit, Grok würde „pikante Fragen beantworten, die von den meisten anderen KI-Systemen abgelehnt werden“. In einer extrem „Wie geht’s euch, liebe Kinder?“- Demonstration während Groks Launch präsentierte Musk die Schritt-für-Schritt-Anleitung des Bots zur Kokainherstellung sowie seine schlimmsten Angriffe auf Sam Bankman-Fried, der nur einen Tag zuvor in sieben Anklagepunkten des Betrugs und der Verschwörung schuldig gesprochen worden war.

„Bitte verwenden Sie es nicht, wenn Sie Humor hassen!“, flehte xAI, als es die Veröffentlichung von Grok ankündigte.