Une nouvelle controverse secoue le débat sur l’intelligence artificielle en France. Plusieurs responsables politiques dénoncent l’utilisation détournée de Grok, l’outil d’IA intégré au réseau social X, accusé de permettre la création d’images de femmes artificiellement dénudées à partir de simples photographies, sans l’accord des personnes concernées. Une pratique jugée profondément attentatoire à la dignité et assimilée à une forme moderne de cyberharcèlement. La polémique a pris de l’ampleur à la suite de messages publiés le 1er janvier par plusieurs élus et membres du gouvernement. La Haute-commissaire à l’enfance, Sarah El Haïry, s’est dite « scandalisée » par des requêtes adressées à Grok visant à dénuder virtuellement des femmes et des jeunes filles. Elle souligne que, même si les images sont artificielles, « le préjudice est bien réel », pointant l’impact psychologique et social de ces détournements.
Une pratique assimilée à des deepfakes sexuels
D’autres élus ont relayé des témoignages de victimes expliquant avoir vu leurs photos détournées et diffusées sous forme d’images en sous-vêtements ou partiellement dénudées, générées par l’IA. La députée insoumise Sarah Legrain a dénoncé un outil qui offrirait aux agresseurs une illusion d’impunité, tandis que le député socialiste Arthur Delaporte a qualifié ces contenus de « deepfakes nudifiés », rappelant qu’il s’agit d’un délit pénalement sanctionné. Depuis décembre 2024, Grok propose gratuitement à l’ensemble des utilisateurs des fonctions de génération de texte et d’images. Si l’outil refuse en principe de produire des images explicitement pornographiques, de nombreuses publications observées sur X montrent des détournements visuels suffisamment explicites pour porter atteinte à la réputation et à l’intégrité des personnes ciblées. Le procédé rappelle les deepfakes pornographiques, déjà largement documentés, consistant à greffer le visage d’une personne sur un corps nu ou sexualisé.
Un cadre légal déjà existant, mais jugé insuffisant
En droit français, la diffusion d’images à caractère sexuel sans consentement via un service de communication en ligne est passible de trois ans d’emprisonnement et de 75 000 euros d’amende. Plusieurs responsables politiques estiment toutefois que l’essor de ces technologies impose d’aller plus loin. Un rapport parlementaire en préparation préconise ainsi d’interdire explicitement certaines fonctionnalités de génération d’images lorsqu’elles permettent ce type d’abus. Au-delà de Grok, cette affaire relance le débat sur la responsabilité des plateformes et des concepteurs d’IA. Les élus réclament des garde-fous techniques plus stricts, une modération renforcée et une clarification des responsabilités juridiques. Pour eux, l’enjeu dépasse largement une polémique ponctuelle : il s’agit de prévenir l’installation durable de nouvelles formes de violences numériques, rendues plus accessibles et plus rapides par les outils d’intelligence artificielle.
