Emmanuel Macron veut durcir l’encadrement de l’intelligence artificielle lorsqu’elle présente des risques pour les mineurs. Dans un entretien accordé aux Échos, le président de la République s’est déclaré favorable à aller jusqu’à l’interdiction de certains usages des outils d’IA générative, notamment lorsqu’ils exposent les enfants à des contenus dangereux ou à des mécanismes de manipulation. « Ce n’est pas parce que c’est de l’IA que ce doit être le Far West », a averti le chef de l’État, jugeant le fonctionnement actuel insuffisamment protecteur. Cette prise de position intervient à l’occasion du Forum de Paris sur la paix, alors qu’une commission d’experts remet ce mardi 10 novembre un rapport consacré aux vulnérabilités liées aux assistants conversationnels, aux compagnons numériques et aux jouets utilisant l’intelligence artificielle.
Le document, intitulé Protéger sans empêcher : les vulnérabilités à l’ère de l’IA générative, a été élaboré par un groupe de neuf experts à partir de 55 auditions. Il formule dix-huit recommandations destinées à mieux encadrer les systèmes accessibles au grand public. Les auteurs s’inquiètent notamment des risques de dépendance émotionnelle, de la tendance des assistants à approuver excessivement leurs utilisateurs et de la diffusion de contenus manipulés, y compris d’images sexuelles générées artificiellement. Ils alertent également sur l’utilisation croissante de ces outils par les adolescents et sur les conséquences possibles d’une délégation excessive des tâches intellectuelles à la machine. Des risques qui nécessitent, selon eux, une évaluation approfondie avant la mise sur le marché de certains services.
Vers des contrôles avant la commercialisation des outils d’IA
Emmanuel Macron souhaite désormais que les entreprises développant des modèles d’intelligence artificielle acceptent des évaluations préalables, notamment lorsque leurs produits sont destinés aux enfants. Une charte présentée à l’occasion du Forum de Paris sur la paix doit engager plusieurs acteurs du secteur autour de principes de pré-audit et de pré-certification. Le chef de l’État défend également une régulation européenne et souhaite encourager d’autres pays, notamment les États-Unis et le Canada, à adopter des dispositifs similaires. L’objectif affiché est de ne plus attendre qu’un dommage se produise pour examiner les risques d’un service numérique, mais d’intégrer certaines garanties dès sa conception.
Cette orientation intervient dans un contexte de développement rapide de l’intelligence artificielle grand public. Les chatbots sont désormais utilisés pour travailler, apprendre, chercher des informations ou entretenir des conversations personnelles. Les pouvoirs publics cherchent à préserver ces possibilités tout en limitant les usages problématiques, particulièrement chez les plus jeunes. Reste à définir les contours des interdictions envisagées, les moyens de vérifier l’âge des utilisateurs et les obligations qui pourraient être imposées aux entreprises.
Réagir à l’article
Soyez le premier à commenter cet article.