Französische Polizei durchsucht Xs Pariser Büro im Zuge der Untersuchung von Grok AI und illegalen Inhalten

Kurzfassung

• Französische Ermittler durchsuchten am Dienstag die Büros von X in Paris im Rahmen einer Untersuchung zu illegalen Inhalten und Algorithmuspraktiken.
• Der Fall erweiterte sich, nachdem Beschwerden eingingen, dass Grok verwendet wurde, um nicht-einvernehmliche sexuelle Bilder, einschließlich von Kindern, zu erzeugen.
• UK-Regulierungsbehörden haben parallel Untersuchungen im Rahmen des Datenschutz- und Online-Sicherheitsgesetzes eingeleitet.

Französische Behörden durchsuchten am Dienstag die Büros der Social-Media-Plattform X in Paris im Rahmen einer sich ausweitenden strafrechtlichen Untersuchung zu angeblicher Kinderpornografie, die mit dem KI-Chatbot Grok der Plattform in Verbindung steht. Laut einem Bericht von Sky News wurde die Durchsuchung von Frankreichs spezialisierter Cybercrime-Einheit in Zusammenarbeit mit Europol durchgeführt. Staatsanwälte sagten, dass X-Eigentümer Elon Musk zu Vernehmungen geladen wurde, ebenso wie mehrere aktuelle und ehemalige Führungskräfte, darunter die ehemalige Geschäftsführerin Linda Yaccarino. „Die Untersuchung betrifft eine Reihe von vermuteten Straftaten im Zusammenhang mit der Funktionsweise und Nutzung der Plattform, einschließlich der Verbreitung illegaler Inhalte und anderer Formen von Online-Kriminalität“, erklärte Europol in einer Stellungnahme. „Europol steht bereit, die französischen Behörden weiterhin bei der Untersuchung zu unterstützen, während diese voranschreitet.“

 Die im letzten Monat gestartete Untersuchung zu Grok konzentriert sich auf Vorwürfe, dass X an der Verbreitung von kinderpornografischem Material und anderen illegalen Inhalten beteiligt war, wobei die Behörden behaupten, dass Grok verwendet wurde, um mehr als 23.000 sexualisierte Bilder von Kindern zu generieren. Im August letzten Jahres startete xAI speziell den „Spicy Mode“, um NSFW-Inhalte zu erzeugen, einschließlich eines prominenten Falls mit Deepfakes von Taylor Swift. In einem Beitrag auf X bestritt die Abteilung für globale Regierungsangelegenheiten des sozialen Medienriesen jegliches Fehlverhalten und bezeichnete die Razzia als eine „politisch motivierte strafrechtliche Untersuchung zu angeblicher Manipulation von Algorithmen und angeblichem betrügerischem Datenerwerb.“

„Die heutige inszenierte Razzia bestärkt unsere Überzeugung, dass diese Untersuchung das französische Recht verzerrt, das ordnungsgemäße Verfahren umgeht und die Meinungsfreiheit gefährdet“, schrieben sie. „X setzt sich dafür ein, seine Grundrechte und die Rechte seiner Nutzer zu verteidigen. Wir lassen uns nicht von den Maßnahmen französischer Justizbehörden einschüchtern.“ Verbraucherschutzgruppen argumentieren, dass Regulierungsbehörden bei Untersuchungen gegen KI-Entwickler, deren Werkzeuge zur Erstellung illegaler Inhalte verwendet werden, prüfen sollten, ob das Unternehmen vernünftigerweise hätte vorhersehen können, wie diese Werkzeuge missbraucht werden könnten. „Regulierungsbehörden sollten untersuchen, ob die Designentscheidungen des Unternehmens den illegalen Missbrauch vorhersehbar gemacht haben, ob Risikoabschätzungen ausreichend waren und ob Schutzmaßnahmen vor der Markteinführung sinnvoll getestet wurden“, sagte J.B. Branch, Vertreter für Verantwortlichkeit bei Big Tech bei Public Citizen, gegenüber Decrypt. „Plattformen, die von schneller Einführung profitieren, müssen Verantwortung für die Schäden übernehmen, die durch diese Einführung entstehen. Das passiert in anderen Branchen genau so.“ Während die aktuellen Gesetze gegen nicht-einvernehmliche sexuelle Bilder und kinderpornografisches Material weiterhin essenziell sind, sagte Branch, seien sie nicht für KI konzipiert, die „Massenhaft Schaden in skalierbarem Tempo produzieren kann.“ „Wir brauchen klarere, proaktive Verpflichtungen, die Unternehmen dazu verpflichten, KI-gestützten Missbrauch zu verhindern, bevor er passiert, einschließlich unabhängiger Tests durch Regulierungsbehörden, um Probleme vor der Markteinführung zu erkennen“, sagte er. „Wenn etwas so Ernstes passiert, sollte das Tool sofort entfernt werden.“ Untersuchungen im Gange Die Untersuchungen zum Chatbot haben sich inzwischen auf mehrere Rechtsordnungen ausgeweitet, darunter Großbritannien, die EU, Indien, Australien und die USA. Am selben Tag, an dem französische Beamte das Büro von X in Paris durchsuchten, kündigte das britische Information Commissioner’s Office (ICO) an, ebenfalls eine Untersuchung zu Grok eröffnet zu haben. „Wir haben diesen Schritt unternommen, nachdem Berichte eingingen, dass Grok verwendet wurde, um nicht-einvernehmliche sexuelle Bilder von Personen, einschließlich Kindern, zu erzeugen“, sagte William Malcolm, Geschäftsführer für Regulierungsrisiken & Innovation beim ICO, in einer Erklärung. „Die berichtete Erstellung und Verbreitung solcher Inhalte wirft ernsthafte Bedenken im Rahmen des britischen Datenschutzrechts auf und stellt ein erhebliches Risiko für die Öffentlichkeit dar.“

Laut Malcolm beziehen sich diese Bedenken darauf, ob persönliche Daten rechtmäßig, fair und transparent verarbeitet wurden und ob angemessene Schutzmaßnahmen in das Design und den Einsatz von Grok integriert wurden, um die Erzeugung schädlicher manipulierten Bilder mit persönlichen Daten zu verhindern. „Wenn diese Schutzmaßnahmen versagen, verlieren Einzelpersonen die Kontrolle über ihre persönlichen Daten, was sie ernsthaft gefährdet“, schrieb er. „Die Untersuchung dieser Risiken ist zentral für die Rolle des ICO beim Schutz der Rechte der Menschen und bei der Verantwortlichmachung von Organisationen bei der Entwicklung und dem Einsatz von KI-Technologie.“ Die Maßnahmen in Europa sind die neuesten Angriffe auf X und Grok. Letzten Monat eröffnete der britische Medienregulator Ofcom eine Untersuchung, ob X seine Verpflichtungen im Rahmen des Online Safety Act verletzt hat. Im Januar, nach dem internationalen Gegenwind gegen Grok, gab xAI bekannt, die Bildbearbeitungsfähigkeiten des Chatbots eingeschränkt und bestimmte Eingabeaufforderungen im Zusammenhang mit der Erzeugung von Bildern von Menschen blockiert zu haben. Die Razzia in Paris erfolgt einen Tag nachdem Musk bekannt gab, dass SpaceX xAI übernommen hat, das KI-Startup, das zuvor X übernommen hatte, und die Social-Media-Plattform sowie ihre KI-Systeme unter das Unternehmensdach von SpaceX stellt, während die regulatorische Überprüfung zunimmt. „Wir sind uns bewusst, dass X oder Grok jetzt einen ‚Spicy Mode‘ anbietet, der expliziten sexuellen Inhalt zeigt, wobei einige Ausgaben mit kindlichen Bildern generiert werden“, sagte EU-Kommissionssprecher Thomas Regnier bei einer kürzlichen Pressekonferenz in Brüssel. „Das ist nicht spicy. Das ist illegal. Das ist empörend. Das ist ekelhaft. Das hat in Europa keinen Platz.“ SpaceX und xAI haben auf Anfragen nach Kommentaren von Decrypt nicht sofort reagiert.