L’assistant IA Grok, développé par xAI d’Elon Musk, fait l’objet d’une enquête en France pour génération d’images à caractère sexuel de mineurs et de femmes sans consentement. L’entreprise reconnaît des failles de sécurité.
Scandale Grok : l’IA d’Elon Musk accusée de créer des images pédopornographiques
L’assistant conversationnel du réseau social X est au centre d’une polémique internationale après avoir généré des contenus sexuels impliquant des mineurs et des femmes sans leur consentement. Une enquête judiciaire a été élargie à Paris tandis que l’Inde exige des comptes, relate Paris Match.
Des failles de sécurité reconnues après des jours de signalements
Grok, l’intelligence artificielle développée par xAI pour le réseau social X, a admis vendredi l’existence de dysfonctionnements majeurs dans ses systèmes de protection. Ces défaillances ont permis à certains utilisateurs de détourner l’outil pour produire des images à caractère sexuel, notamment de personnes mineures.
Sur son compte officiel, l’assistant IA a reconnu publiquement ces manquements après plusieurs jours d’interpellations sur la plateforme. “Nous avons identifiĂ© des failles dans nos garde-fous et nous les corrigeons de toute urgence – la pĂ©dopornographie est illĂ©gale et interdite”, a dĂ©clarĂ© le compte de Grok en rĂ©ponse aux signalements d’internautes.
Les accusations portent sur des manipulations d’images réalisées à la demande d’utilisateurs malveillants. Ces derniers auraient soumis des photographies ou vidéos de personnes réelles, incluant des enfants et des adolescents, avant d’obtenir leur modification pour les dénuder totalement ou partiellement.
L’entreprise xAI reste silencieuse face à la controverse
La société xAI, propriété du milliardaire Elon Musk et responsable du développement de Grok, n’a émis aucune communication publique sur cette nouvelle affaire. Ce silence intervient alors que l’assistant IA avait déjà suscité des critiques ces derniers mois pour des déclarations controversées concernant le conflit israélo-palestinien, les tensions entre l’Inde et le Pakistan, ainsi que pour la diffusion de propos antisémites.
Face aux questions transmises par l’AFP, xAI a uniquement envoyé une réponse automatique affirmant que “les médias traditionnels mentent”, sans fournir d’explication supplémentaire. L’assistant Grok a néanmoins précisé à un internaute qu’aux États-Unis, une entreprise s’expose à des poursuites civiles ou pénales si elle “facilite en connaissance de cause ou échoue à prévenir la génération” de matériel pédopornographique.
Un cadre légal américain qui punit sévèrement ces pratiques
La législation américaine réprime strictement la création et la diffusion de contenus pédopornographiques. L’article 2256 du code pénal fédéral et l’Enforce Act, une loi adoptée en 2025 spécifiquement dédiée aux crimes numériques visant les mineurs, encadrent ces infractions et prévoient des sanctions importantes pour les entreprises défaillantes.
Des femmes majeures Ă©galement victimes de deepfakes
Au-delà des cas impliquant des mineurs, les dysfonctionnements de Grok ont également affecté des femmes adultes. Plusieurs d’entre elles ont constaté que leurs photographies, publiées sur les réseaux sociaux, avaient été retouchées par l’IA pour les déshabiller virtuellement, et ce à la demande d’internautes malintentionnés.
Cette pratique soulève des questions essentielles sur le respect du consentement et la protection de l’image des personnes dans l’ère de l’intelligence artificielle générative.
L’Inde exige un rapport détaillé sous 72 heures
Le gouvernement indien a réagi fermement à ce scandale. Le ministère de l’Électronique et de l’Informatique a adressé vendredi une mise en demeure officielle au réseau social X, réclamant sous un délai de 72 heures un compte-rendu exhaustif des mesures adoptées pour supprimer les “contenus obscènes, nus, indécents et sexuellement implicites” produits par Grok.
Cette sommation, dont le courrier a été publié dans la presse indienne, insiste particulièrement sur la nécessité de protéger les femmes victimes dont les images ont été manipulées sans autorisation.
La justice française élargit son enquête sur X et Grok
Le parquet de Paris a annoncé vendredi l’extension d’une investigation judiciaire initialement lancée durant l’été contre le réseau social X. Cette procédure intègre désormais les accusations portant sur la génération et la diffusion de contenus pédopornographiques par l’assistant Grok.
L’enquête originelle, ouverte en juillet suite à des signalements, visait X et ses responsables pour des soupçons de manipulation algorithmique dans un objectif d’ingérence étrangère. Les nouvelles révélations concernant Grok ont conduit à un élargissement du périmètre des investigations.
Mobilisation politique française contre les deepfakes illicites
Plusieurs personnalités politiques françaises ont saisi la justice avant l’annonce de l’extension de l’enquête. Les députés Éric Bothorel, membre du groupe macroniste, et Arthur Delaporte, représentant du Parti socialiste, ont déposé un signalement qui a directement contribué à l’élargissement des poursuites.
De leur côté, trois ministres ont également agi : Roland Lescure, Anne Le Hénanff et Aurore Bergé ont signalé au procureur des “contenus manifestement illicites” en exigeant “leur retrait immédiat”. Dans leur déclaration commune, ils ont précisé que “ces derniers jours, l’intelligence artificielle Grok a permis la génération et la diffusion de contenus à caractère sexiste et sexuel, notamment sous forme de fausses vidéos (deepfakes), visant des personnes sans leur consentement”.
Le gouvernement a également effectué un signalement auprès de la plateforme Pharos, dispositif officiel de signalement des contenus illicites sur internet.
Des sanctions pénales encadrées par la loi française
Le parquet de Paris a rappelé le cadre légal applicable à ces agissements. “Le délit de montage à caractère sexuel d’une personne sans son consentement est puni de deux ans d’emprisonnement et de 60 000 euros d’amende”, a souligné l’institution judiciaire, confirmant ainsi une information initialement révélée par le site Politico.
Cette disposition légale vise spécifiquement la création et la diffusion de montages photographiques ou vidéos à connotation sexuelle réalisés sans l’accord des personnes concernées.
L’Arcom saisie pour d’éventuels manquements au règlement européen
L’Autorité de régulation de la communication audiovisuelle et numérique (Arcom) a également été alertée dans cette affaire. La saisine porte sur de “possibles manquements de X à ses obligations découlant du Digital Services Act”, le texte européen qui encadre les responsabilités des plateformes numériques en matière de modération des contenus et de protection des utilisateurs.
Ce règlement impose aux grandes plateformes des obligations renforcées en termes de prévention des contenus illicites et de réactivité face aux signalements. Les autorités européennes pourraient infliger des sanctions financières substantielles en cas de non-respect de ces dispositions.
En savoir plus sur Police & Réalités
Subscribe to get the latest posts sent to your email.
