L’intelligence artificielle pourrait-elle faciliter la préparation d’actes terroristes ? Un rapport publié vendredi 9 octobre 2026 par l’organisation internationale Tech Against Terrorism révèle des faiblesses préoccupantes dans les mécanismes de sécurité de nombreux modèles d’IA. Les chercheurs ont soumis 162 modèles à une batterie de 627 questions portant sur des demandes susceptibles d’être formulées dans le cadre de la préparation d’une attaque. Leurs conclusions montrent que plusieurs systèmes peuvent fournir des informations dangereuses, malgré les protections censées empêcher ce type d’utilisation. Si les grandes plateformes commerciales, notamment ChatGPT, Claude et Gemini, refusent généralement les sollicitations explicitement terroristes, certaines intelligences artificielles moins connues ou modifiées présentent des vulnérabilités beaucoup plus importantes.
Tech Against Terrorism, organisation britannique spécialisée dans la lutte contre l’utilisation d’Internet à des fins terroristes et soutenue par des partenaires internationaux, a voulu mesurer concrètement la résistance des systèmes d’IA. Les tests portaient sur différentes catégories de menaces, notamment les armes, les attaques informatiques, la propagande extrémiste et le financement d’activités terroristes. L’objectif n’était pas de déterminer si une intelligence artificielle pouvait, à elle seule, organiser une attaque, mais de vérifier sa capacité à refuser des demandes susceptibles de contribuer à des actes violents. Sur les 134 modèles ayant fait l’objet d’une évaluation comparative détaillée, 81 ont fourni au moins une réponse complète jugée particulièrement dangereuse et 51 autres ont communiqué des informations considérées comme utiles à une activité terroriste. Seuls deux modèles ont provisoirement satisfait aux critères de sécurité les plus exigeants de l’étude.
Les grandes intelligences artificielles commerciales résistent mieux aux demandes explicites
Les résultats font apparaître des différences importantes entre les modèles testés. Les principales intelligences artificielles commerciales disposent de dispositifs conçus pour reconnaître les demandes dangereuses et refuser d’y répondre. ChatGPT, développé par OpenAI, Claude, conçu par Anthropic, et Gemini, proposé par Google, ont ainsi affiché des niveaux de protection relativement élevés lorsque les chercheurs présentaient ouvertement une intention terroriste. Dans cette catégorie de tests, les modèles commerciaux les plus connus ont fourni en moyenne des réponses exploitables dans seulement 1,9 % des cas. Ce résultat témoigne de l’efficacité relative des dispositifs de sécurité mis en place par leurs développeurs, sans pour autant garantir une protection absolue.
Les chercheurs ont cependant découvert une faiblesse importante : certains systèmes réagissent davantage à la manière dont une demande est formulée qu’au caractère potentiellement dangereux des informations sollicitées. Lorsqu’un utilisateur se présente comme un chercheur travaillant sur la sécurité plutôt que comme une personne préparant une attaque, les réponses peuvent devenir beaucoup plus détaillées. Selon l’étude, la proportion de réponses exploitables atteint alors 16,9 %, soit près de neuf fois plus que lorsque l’intention terroriste est explicitement annoncée. Cette différence montre les limites de certains mécanismes de filtrage, qui peuvent accorder une importance excessive à la justification donnée par l’utilisateur. Pour Tech Against Terrorism, les protections devraient davantage porter sur la nature des informations demandées et sur les risques associés à leur divulgation.
Des modèles modifiés pour supprimer leurs protections
Le rapport attire particulièrement l’attention sur les intelligences artificielles dites « débridées », dont les mécanismes de sécurité ont été volontairement supprimés ou affaiblis. Certaines sont issues de modèles à poids ouverts, c’est-à-dire de systèmes dont les paramètres peuvent être téléchargés et modifiés par des développeurs indépendants. Ces technologies présentent de nombreux intérêts pour la recherche, l’innovation et le développement d’applications spécialisées. Mais cette liberté de modification permet également à certains utilisateurs de supprimer les restrictions intégrées par les concepteurs. Cette pratique, parfois désignée par le terme anglais « abliteration », transforme des modèles initialement protégés en systèmes susceptibles de répondre à des demandes normalement refusées.
Les tests menés par Tech Against Terrorism montrent que les treize modèles modifiés examinés ont échoué aux évaluations de sécurité. L’organisation souligne également la rapidité avec laquelle de telles versions peuvent apparaître sur Internet. Selon ses observations, des variantes débarrassées de leurs protections sont parfois diffusées quelques jours seulement après la publication d’un nouveau modèle. À la fin du mois de septembre, la plateforme Hugging Face hébergeait plus de 29 000 dépôts présentant des modèles comme non censurés ou dépourvus de garde-fous. La présence de ces fichiers ne signifie pas qu’ils sont tous utilisés à des fins criminelles. Elle montre néanmoins l’ampleur des difficultés rencontrées pour contrôler la circulation de technologies librement modifiables. Hugging Face assure mener des opérations régulières de modération et rappelle que la recherche ouverte peut également contribuer à améliorer la sécurité informatique.
Des chercheurs réclament des contrôles indépendants et une réglementation renforcée
Face à ces résultats, Tech Against Terrorism appelle les entreprises technologiques à renforcer leurs procédures d’évaluation avant la commercialisation ou la publication de nouveaux modèles. L’organisation préconise notamment la mise en place de tests de sécurité indépendants, dont les résultats seraient rendus publics afin de permettre aux utilisateurs et aux pouvoirs publics de comparer les niveaux de protection. Elle recommande également aux développeurs de mieux filtrer les données utilisées pour entraîner leurs systèmes et d’évaluer leur résistance à la suppression des mécanismes de sécurité. Les plateformes hébergeant des modèles modifiés sont, elles aussi, invitées à renforcer leur surveillance. Adam Hadley, fondateur et directeur exécutif de Tech Against Terrorism, estime que les investissements considérables consacrés à l’intelligence artificielle devraient s’accompagner de moyens proportionnés pour empêcher ses usages les plus dangereux.
Ces propositions soulèvent toutefois un débat sur l’équilibre entre sécurité et liberté de recherche. Les défenseurs des modèles ouverts rappellent que la possibilité d’examiner et de modifier une intelligence artificielle permet aussi de détecter des vulnérabilités, de développer des outils de protection et d’éviter une concentration excessive de la technologie entre quelques grandes entreprises. Une réglementation trop générale pourrait donc freiner des usages scientifiques ou industriels légitimes. Le rapport souligne par ailleurs une limite essentielle : ses tests mesurent les informations fournies par les modèles, et non la capacité réelle d’une personne à les utiliser pour commettre une attaque. Les chercheurs n’ont pas établi que l’ensemble des systèmes défaillants avait effectivement été utilisé par des groupes terroristes. Cette distinction n’atténue pas les inquiétudes exprimées, mais elle évite de confondre une vulnérabilité technique avec un passage à l’acte. À mesure que les capacités de l’intelligence artificielle progressent, la question de leur contrôle devient un enjeu central pour les entreprises du numérique, les États et les organisations chargées de la sécurité internationale.
Réagir à l’article
Soyez le premier à commenter cet article.