Création de deepfakes compromettants : trois adolescentes poursuivent la société xAI d’Elon Musk

©Salvador Rios via Unsplash

Elle a permis “la création d’images se.xuellement explicites” et, sans leur consentement. Trois jeunes Américaines attaquent donc en justice xAI, la société d’intelligence artificielle d’Elon Musk, accusant le chatbot Grok d’avoir généré des images por.nographiques à partir de certaines de leurs photos (réelles).

Une plainte qui intervient alors que Bruxelles a lancé une enquête formelle ces dernières semaines. Aux États‑Unis, l’affaire pourrait concerner plus d’un millier de victimes mineures et qui serait liée aux deepfakes du Nouvel An publiés sur X (ex- Twitter), sur lesquels la Californie enquête également aujourd’hui.

“xAI a choisi de tirer profit de la prédation se.xuelle de personnes réelles, y compris des enfants, tout en étant parfaitement consciente des conséquences de la mise sur le marché d’un produit aussi dangereux”, a déclaré Vanessa Baehr‑Jones, avocate des plaignantes.

Ce qu’il s’est passé

Les adolescentes ont découvert que des contenus manipulés par l’intelligence artificielle – notamment des images et des vidéos deepfake – circulaient sur le net, mis en ligne sur des serveurs Discord puis partagés sur d’autres plateformes, comme Telegram.

Dans l’un des cas, l’une des jeunes filles aurait reçu un message anonyme sur Instagram l’avertissant de l’existence de contenus la montrant nue et dans des poses se.xualisées, aux côtés d’autres filles de son âge. Certaines images auraient été générées à partir de photos prises alors qu’elle était encore mineure, y compris des clichés provenant de l’album de fin d’année de son établissement scolaire.

Selon la plainte, ces contenus auraient également servi de "monnaie d’échange" dans des circuits illégaux pour obtenir d’autres matériels pédopo.rnographiques.

Après le signalement aux autorités, la police a arrêté un suspect et découvert sur son téléphone des contenus illégaux qui auraient été générés précisément à l’aide d’outils reposant sur la technologie de xAI. La plainte soutient que le matériel a été créé via des applications tierces utilisant Grok grâce à des licences officielles. Même s’il n’a pas été directement produit sur la plateforme X, le système s’appuierait tout de même sur les serveurs de xAI, qui tirerait profit de la diffusion de sa propre technologie.

Les avocats reprochent à l’entreprise d’avoir, de fait, déchargé ses responsabilités sur des développeurs externes, sans mettre en place de contrôles adéquats sur l’utilisation de ses outils.

Un problème global (et en pleine expansion)

Cette affaire s’inscrit dans un contexte plus large d’enquêtes et de poursuites judiciaires visant xAI pour la génération d’images se.xualisées sans consentement. Selon certaines analyses, Grok aurait produit des millions d’images de ce type en quelques semaines, dont des milliers impliquant des mineurs.

Elon Musk a, par le passé, nié que le système ait été utilisé pour créer des contenus illégaux, affirmant n’avoir pas connaissance d’images de mineurs générées par la plateforme et soutenant que Grok serait conçu pour respecter les législations locales.

Cette affaire ne peut que remettre en lumière un enjeu de plus en plus urgent : l’usage incontrôlé de l’intelligence artificielle dans la manipulation d’images et l’absence de protections efficaces, en particulier lorsque les victimes sont des mineurs.

Source : The Guardian

(©GreenMe.it 2026/Managing editor : Sarah Lavigne - The Press Junction/Picture : Salvador Rios via Unsplash)