Sexualisierte Kinderbilder und Hitler-Lob: Der KI-Chatbot Grok auf der Online-Plattform X sorgt für Skandale. Die EU-Kommission stellt daher nun eine neue Forderung an Elon Musks Firma.
Brüssel - Die EU geht nach sexualisierten KI-Bildern von Kindern auf der Online-Plattform X einen nächsten Schritt bei Ermittlungen gegen das Unternehmen von Elon Musk. Die Europäische Kommission habe die US-Firma aufgefordert, interne Dokumente zur künstlichen Intelligenz Grok nicht zu vernichten, sondern bis Ende des Jahres aufzubewahren, sagte ein Sprecher. Es gebe Zweifel daran, ob das Unternehmen sich an europäische Digitalgesetze halte.
Nach der Werbung weiterlesen
Nutzer von X können den KI-Chatbot Grok bislang dazu auffordern, freizügige Bilder von Menschen zu generieren. Auf der Plattform finden sich etliche Beispiele, bei denen die KI unter normalen Bildern aufgefordert wird, diese zu sexualisieren. Oft kommt Grok der Aufforderung nach.
Dabei wurden auch Grenzen überschritten: An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter "in sexualisierten Outfits" erstellt und geteilt zu haben. "Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden", schrieb Grok auf X. Im Sommer hatte Grok bereits mit Lobpreisungen für Adolf Hitler schockiert.
Der EU-Kommissionssprecher betonte: "Wir haben beobachtet, wie Grok antisemitische Inhalte und in jüngerer Zeit auch sexuelle Darstellungen von Kindern generiert hat. Das ist illegal. Das ist inakzeptabel." Die EU-Kommission hatte von X Ende 2025 Auskünfte zu Grok verlangt und nach eigenen Angaben über die Feiertage eine Antwort erhalten. Diese werde nun analysiert.
Eine Deaktivierung von Grok in der EU zu erwirken, sei nicht das Ziel der EU-Kommission und eher ein letztes Mittel. "Wir sind nicht hier, um den Bürgern zu sagen, welche Plattform sicherer oder besser zu verwenden ist", sagte der Sprecher.
Gegen Musks Plattform X laufen auf Grundlage europäischer Digitalgesetze bereits mehrere Untersuchungen und Verfahren. Erst Anfang Dezember hatte die EU gegen Musks Online-Plattform wegen Transparenzmängeln eine Strafe von 120 Millionen Euro verhängt. Der US-Firma könnten weitere Strafen drohen. So haben die europäischen Internetwächter X ebenfalls seit Dezember 2023 im Visier, weil die Plattform im Verdacht steht, nicht genug gegen illegale Inhalte oder Desinformation zu tun.
In Anbetracht der seit Jahren andauernden Ermittlungen halten Kritiker der EU seit Längerem vor, ihre Digitalregeln nicht konsequent genug durchzusetzen. Gleichzeitig behauptet die US-Regierung von Präsident Donald Trump, Brüssel betreibe Zensur.
Washington verhängte kurz vor Weihnachten als Reaktion auf europäische Maßnahmen Einreiseverbote gegen den früheren EU-Kommissar Thierry Breton und andere Europäer. Breton ist ein Architekt der EU-Digitalgesetze. Auch die Geschäftsführerinnen der gegen Internet-Hetze eintretenden deutschen Beratungsstelle HateAid sind betroffen.
Die Sanktionen könnten auch als Warnung an die EU-Kommission von Ursula von der Leyen verstanden werden, die europäischen Digitalgesetze weiter gegen US-Unternehmen anzuwenden. Die Brüsseler Behörde drohte nach den Einreiseverboten wiederum mit Vergeltungsmaßnahmen. Man verurteile die Entscheidung der Vereinigten Staaten aufs Schärfste, hieß es.
Auch die Pariser Staatsanwaltschaft ermittelt seit Sommer 2025 gegen X. Die ursprüngliche Ermittlung dreht sich um den Vorwurf, dass Algorithmen in dem sozialen Netzwerk verändert worden sein sollen, um rechtsextremen Inhalte mehr Aufmerksamkeit zu bescheren. Neu sind jetzt auch Vorwürfe wegen Holocaustleugnung und sexueller Abbildungen.
Laut Medienberichten hatten sich zwei französische Abgeordnete an die Staatsanwaltschaft gewandt, nachdem Tausende sogenannte Deepfakes von Grok erstellt worden waren. Deepfakes sind mit Hilfe von KI erstellte Videos, Bilder oder Audio-Dateien, die täuschend echt wirken, es aber nicht sind.
Scharfe Kritik an X kommt auch aus Großbritannien. "Das ist eine Schande. Es ist widerlich. Und es darf nicht toleriert werden", sagte der britische Premierminister Keir Starmer mit Blick auf Deepfake-Bilder von Kindern in wenig Kleidung dem Radiosender Greatest Hits Radio.
Die Plattform müsse "sich zusammenreißen", entsprechendes Material sofort entfernen und das Problem in den Griff bekommen. Der britischen Medienaufsichtsbehörde Ofcom sicherte Starmer "volle Unterstützung" zu. Die Behörde hatte am Montag X um dringende Stellungnahme gebeten.
In Deutschland gibt es bisher keine vergleichbaren Ermittlungen gegen Grok. Die Bundesnetzagentur verwies nach dpa-Anfrage auf die Zuständigkeiten. Für X seien die Aufsichtsperson am Sitz des Anbieters in der EU - im Fall von X also Irland - und die EU-Kommission zuständig. Dorthin würden Hinweise zu rechtswidrigen Inhalten weitergeleitet, hieß es.
Die Spitzenvertreter der EU posten selbst regelmäßig auf X. Die EU-Kommission rechtfertigte die eigenen Aktivitäten: "Natürlich beobachten wir auch, wo unsere Zielgruppe selbst am aktivsten ist. Es ist wichtig für uns, unsere Botschaften an unser Zielpublikum zu vermitteln", hieß es von der Behörde. Gleichzeitig versuche die Kommission, den Online-Auftritt zu diversifizieren und auch in anderen sozialen Netzwerken zu posten.
Viele deutsche Organisationen, darunter das Bundeskriminalamt, das Verteidigungsministerium sowie viele Hochschulen, hatten sich in der Vergangenheit aufgrund der Entwicklungen von der Online-Plattform zurückgezogen.
