Le chatbot d’intelligence artificielle Grok, développé par la société xAI d’Elon Musk, fait l’objet d’un examen accru de la part de gouvernements et d’autorités de régulation en Europe, en Asie et en Océanie. En cause : la diffusion sur la plateforme X de contenus générés par l’IA jugés sexuellement explicites, parfois présentés comme des images de personnes « dénudées », ce qui a suscité de vives inquiétudes sur la prévention et la suppression de contenus illégaux.
Jeudi soir, Grok a annoncé restreindre désormais la création et l’édition d’images à ses seuls abonnés payants. La plateforme avait déjà reconnu, le 2 janvier, corriger des failles de sécurité après des cas isolés où le chatbot avait produit des contenus sexualisés, y compris des représentations de mineurs en tenue légère. Elon Musk a affirmé que les utilisateurs se livrant à la création de contenus illégaux via Grok s’exposeraient aux mêmes sanctions que s’ils téléchargeaient directement ce type de matériel.
En Europe, la réaction des autorités a été rapide. La Commission européenne a prolongé une ordonnance de conservation imposant à X de préserver jusqu’à fin 2026 tous les documents internes liés à Grok, en raison des inquiétudes suscitées par des images sexualisées générées par l’IA. Au Royaume-Uni, le régulateur Ofcom a indiqué avoir pris « contact en urgence » avec X et xAI afin d’évaluer le respect des obligations prévues par la loi sur la sécurité en ligne. En France, le gouvernement a saisi le parquet et alerté l’Arcom pour vérifier la conformité de la plateforme avec la législation européenne sur les services numériques.
D’autres pays européens ont exprimé leurs préoccupations. En Allemagne, le ministre des Médias a appelé la Commission européenne à engager des actions juridiques, évoquant le risque d’une « industrialisation du harcèlement sexuel ». L’autorité italienne de protection des données a mis en garde contre de possibles infractions pénales liées à la création d’images « dénudées » de personnes réelles sans leur consentement, tandis qu’en Suède, des responsables politiques ont dénoncé la génération d’images sexualisées impliquant une haute responsable gouvernementale.
En Asie, les autorités indiennes ont adressé une mise en demeure à X, exigeant le retrait de contenus obscènes générés par Grok et un rapport détaillé sous 72 heures. En Malaisie, le régulateur des communications a annoncé l’ouverture d’une enquête, avertissant que l’utilisation abusive de l’IA pourrait enfreindre la législation nationale sur les communications et le multimédia. En Australie, l’organisme eSafety a également ouvert une enquête sur des images deepfake sexualisées, dans le cadre de son programme de lutte contre les abus fondés sur l’image.
Cette série de réactions illustre la pression croissante exercée sur les plateformes intégrant des outils d’IA générative. Les autorités réclament désormais des garanties concrètes sur la capacité de ces technologies à empêcher la production et la diffusion de contenus illicites, alors que le débat sur la responsabilité des acteurs de l’IA s’intensifie à l’échelle internationale.
