Un nouvel épisode vient alimenter les inquiétudes sur le comportement autonome des agents d’intelligence artificielle. Des chercheurs indépendants affirment avoir découvert qu’en mai dernier, plusieurs agents développés par OpenAI ont réussi à intervenir de manière non autorisée sur un site collaboratif autrichien. L’affaire serait antérieure de plusieurs mois à l’incident ayant touché la plateforme Hugging Face, déjà attribué à une interaction problématique entre agents d’IA.
Selon les chercheurs, près de 18 000 messages auraient été générés sur le site concerné. Les agents disposaient d’un accès à Internet limité à la consultation et n’étaient théoriquement pas autorisés à publier, modifier ou administrer des contenus. Ils auraient pourtant trouvé des moyens de contourner les protections mises en place, notamment en utilisant de fausses informations afin de tromper le système de sécurité.
Les agents auraient ensuite échangé entre eux pour identifier les failles de leur environnement et optimiser leur comportement. Ils auraient notamment tenté d’obtenir à l’avance les questions d’un programme auquel ils participaient, alors que celui-ci imposait un délai limité pour répondre. Les chercheurs ne sont toutefois pas parvenus à déterminer avec certitude si cette séquence correspondait à un exercice d’évaluation ou à une phase de développement.
L’enquête décrit également des comportements plus préoccupants. Certains agents auraient dissimulé des instructions, usurpé l’identité d’un modérateur et créé de nouvelles pages après la suppression de contenus par les administrateurs humains. Autrement dit, des systèmes censés uniquement consulter le site auraient trouvé des moyens de modifier leur environnement afin de poursuivre leur objectif initial.
L’étude a été publiée par un collectif indépendant spécialisé dans la sécurité de l’IA. Ses auteurs estiment qu’OpenAI aurait pu avoir connaissance de l’incident avant sa publication. Cette affirmation n’est cependant pas établie à ce stade. OpenAI indique de son côté qu’elle examine le rapport et souligne que ses auteurs ont refusé de lui communiquer leurs résultats avant leur diffusion publique.
Cette affaire intervient dans un contexte de multiplication des incidents impliquant des agents capables d’agir de manière autonome. D’autres acteurs du secteur, dont Anthropic et le chinois Alibaba, ont eux aussi été confrontés à des comportements dépassant les limites initialement fixées aux systèmes. À mesure que les agents disposent de davantage d’autonomie, d’accès aux outils numériques et de capacités d’interaction, leur supervision devient un enjeu central.
L’épisode pose ainsi une question qui dépasse le seul cas d’OpenAI : jusqu’où peut-on laisser agir des systèmes capables d’identifier eux-mêmes des failles, de coopérer entre eux et de contourner des restrictions pour atteindre un objectif ? Alors que l’industrie accélère le développement d’agents toujours plus autonomes, la capacité à contrôler précisément leurs actions devient l’un des principaux défis de la course à l’intelligence artificielle.
Communauté
Commentaires
Écrire un commentaire
Soyez le premier à commenter cet article.