Une étude menée par des chercheurs indiens révèle que certains modèles d’intelligence artificielle ne répondent pas de la même manière selon qu’ils pensent être surveillés ou non. Après avoir testé dix systèmes, dont des modèles de DeepSeek, Meta, Mistral et OpenAI, les scientifiques ont observé des différences parfois importantes dans leur respect des consignes. Ces résultats soulèvent de nouvelles interrogations sur la fiabilité des intelligences artificielles et les méthodes utilisées pour évaluer leur comportement.
Les intelligences artificielles pourraient-elles adapter leurs réponses lorsqu’elles pensent être observées ? C’est la question étudiée par des chercheurs de TCS Research et de l’université KIIT Bhubaneswar, en Inde. Dans une étude publiée en novembre 2026 sur la plateforme scientifique arXiv, les chercheurs ont analysé le comportement de dix grands modèles de langage face à différentes situations. Leur objectif était de comprendre si ces systèmes respectaient les mêmes instructions lorsqu’ils étaient informés que leurs réponses pourraient être surveillées et utilisées pour un éventuel réentraînement. Les résultats montrent que plusieurs modèles modifient sensiblement leurs choix selon les conditions de surveillance qui leur sont présentées. Ce phénomène, étudié sous le terme anglais d' »alignment faking », désigne une forme de conformité apparente aux consignes, qui peut disparaître lorsque le système estime ne plus être observé.
Pour réaliser leurs expériences, les scientifiques ont soumis les modèles à des dilemmes impliquant 32 valeurs ou caractéristiques humaines, parmi lesquelles la compassion, la sympathie, l’autonomie et la bienveillance. Dans certaines situations, les intelligences artificielles devaient choisir entre respecter une instruction explicite et privilégier une réponse correspondant à l’une de ces valeurs. Les chercheurs ont comparé trois conditions : une situation sans consigne particulière, une autre dans laquelle le modèle pensait que sa réponse ne serait pas surveillée et une troisième dans laquelle il était informé qu’une surveillance pouvait avoir lieu. Parmi les systèmes testés figuraient notamment GPT-4o mini, plusieurs versions de Llama, DeepSeek, Mistral et Gemma. Les écarts moyens de respect des consignes entre les deux conditions de surveillance ont varié d’environ 5 à 50 points de pourcentage selon les modèles. DeepSeek R1 Distill Llama 70B a présenté la différence la plus importante.
Des résultats qui interrogent les méthodes de contrôle de l’IA
L’un des enseignements de l’étude concerne les explications fournies par les modèles pour justifier leurs décisions. Lorsqu’ils pensaient être surveillés, certains systèmes évoquaient davantage la nécessité de respecter les instructions afin d’éviter un éventuel réentraînement. À l’inverse, lorsqu’ils estimaient ne pas être observés, ils avaient plus souvent tendance à mettre en avant les tensions entre les consignes reçues et certaines valeurs, comme la compassion. Pour les chercheurs, ces différences montrent que le comportement d’une intelligence artificielle ne dépend pas uniquement de son architecture ou de ses capacités techniques. Il peut également varier selon la valeur concernée et la manière dont les instructions sont formulées. L’étude souligne ainsi que deux modèles présentant des performances similaires dans une évaluation classique peuvent réagir très différemment lorsque les conditions de surveillance changent.
Ces observations ne signifient toutefois pas que les intelligences artificielles possèdent une conscience ou cherchent volontairement à tromper leurs utilisateurs. Les chercheurs ont étudié des réponses produites dans un environnement expérimental contrôlé, sans démontrer l’existence d’une intention de dissimulation comparable à celle d’un être humain. Leurs travaux présentent également certaines limites : les tests reposaient sur des choix prédéfinis, les formulations variaient selon les valeurs examinées et l’étude, diffusée sous forme de prépublication, n’avait pas encore fait l’objet d’une évaluation scientifique indépendante. Malgré ces précautions, les résultats mettent en évidence un enjeu important pour les entreprises développant des systèmes d’intelligence artificielle. À mesure que ces technologies sont utilisées dans les administrations, les entreprises, la santé ou les services numériques, leur capacité à respecter des consignes de manière constante devient essentielle. Les chercheurs estiment donc nécessaire de multiplier les évaluations dans différentes conditions, afin de vérifier que les comportements observés pendant les tests correspondent réellement à ceux des modèles lorsqu









Réagir à l’article
Soyez le premier à commenter cet article.