Le logiciel d’intelligence artificielle Grok, développé par la société xAI d’Elon Musk et intégré à la plateforme X, fait l’objet d’un examen accru de la part de gouvernements et d’autorités de régulation à travers le monde en raison de la diffusion de contenus sexuellement explicites générés par IA.
Depuis début janvier, plusieurs pays ont ouvert des enquêtes ou exigé des garanties supplémentaires concernant la modération des contenus produits par le chatbot. Les autorités s’inquiètent notamment de la prolifération de deepfakes à caractère sexuel, qui peuvent viser des particuliers, des personnalités publiques ou des mineurs, et dont la création est facilitée par les outils d’IA générative.
Au Royaume-Uni, des organisations de la société civile ont appelé le gouvernement à agir plus fermement contre les contenus illégaux circulant sur X, tandis que des régulateurs européens examinent si Grok respecte les obligations imposées par les nouvelles législations numériques, notamment en matière de protection des utilisateurs et de lutte contre les contenus illicites.
Dans certains pays, des menaces d’interdiction temporaire ou de restrictions d’accès à la plateforme ont été évoquées si des mesures correctives ne sont pas rapidement mises en œuvre. Les autorités demandent notamment une amélioration des filtres de détection, une meilleure traçabilité des contenus générés et des mécanismes de signalement plus efficaces.
De son côté, xAI affirme travailler à renforcer les garde-fous techniques afin d’empêcher l’utilisation abusive de son chatbot. L’entreprise soutient que les outils d’IA peuvent être utilisés de manière responsable et que les dérives constatées relèvent d’abus par certains utilisateurs.
Cette controverse s’inscrit dans un débat plus large sur la régulation de l’intelligence artificielle générative. Face à la multiplication des deepfakes, de nombreux gouvernements cherchent à encadrer plus strictement ces technologies, alors que les plateformes technologiques défendent l’innovation tout en promettant de lutter contre les usages illégaux.
