Die Europäische Kommission hat heute ein Verfahren gegen die von Elon Musk betriebene Plattform X (vormals Twitter) eingeleitet. Im Mittelpunkt steht der in die Plattform integrierte KI-Chatbot „Grok“, der nach jüngsten Berichten in großem Umfang sexualisierte und teils pornografische Deepfake-Bilder erzeugt haben soll, darunter auch Darstellungen von Minderjährigen.
- KI Recht
EU-Kommission eröffnet Verfahren gegen Plattform X wegen KI-generierter Deepfakes
von Olivia Wykretowicz
Die Kommission prüft, ob X die nach dem Digital Services Act (DSA) bestehenden Pflichten zur Bewertung und Minimierung systemischer Risiken verletzt hat. Anbieter sehr großer Onlineplattformen müssen nach dem DSA Maßnahmen ergreifen, um die Verbreitung illegaler Inhalte zu verhindern und Nutzer – insbesondere Minderjährige – vor erheblichen Gefahren zu schützen.
Konkret geht es um den Vorwurf, dass Grok es Nutzern ermöglicht habe, reale Personen – darunter prominente Frauen – digital in sexualisierten Kontexten darzustellen, ohne deren Zustimmung. Nach Angaben der NGO Center for Countering Digital Hate wurden binnen weniger Tage Millionen solcher Bilder erstellt und auf der Plattform verbreitet. Auch KI-generierte Aufnahmen von Kindesmissbrauch sollen betroffen sein.
Bereits mehrere EU-Abgeordnete hatten in den vergangenen Wochen politischen Druck auf die Kommission aufgebaut, in diesem Fall schnell zu handeln. Parallel laufen auch in Großbritannien Untersuchungen der Medienaufsicht wegen mutmaßlicher Verstöße gegen geltendes Recht zum Schutz vor der Verbreitung intimer Bilder.
Das nun eingeleitete Verfahren könnte – je nach Ergebnis – zu erheblichen Sanktionen führen. Verstöße gegen den DSA können mit empfindlichen Bußgeldern von bis zu 6% des weltweiten Jahresumsatzes geahndet werden. Die Kommission sammelt derzeit Beweise und prüft die Stellungnahmen von X. Eine Entscheidung wird in den kommenden Monaten erwartet.
Ihre Ansprechpartnerin
Olivia Wykretowicz Online Redaktion