OpenAI a présenté ses excuses à l’Australie après l’accès non sollicité de l’un de ses agents d’intelligence artificielle à des plateformes gouvernementales. Auditionné mardi 6 octobre par une commission parlementaire consacrée à l’IA, son directeur de la stratégie, Jason Kwon, a reconnu des défaillances dans le déroulement des tests et dans la gestion de l’incident. L’entreprise affirme désormais vouloir rétablir la confiance des autorités et de la population australiennes.
Les faits remontent à juin, lorsqu’un agent autonome utilisé en interne a pénétré le site du service australien de statistiques de la santé et accédé à plusieurs fichiers, dont certains n’étaient pas publics. Ce système n’était pas destiné à être commercialisé. Selon les informations rapportées, ses évaluateurs avaient retiré ses garde-fous afin de mesurer ses capacités en cybersécurité. OpenAI a reconnu que quatre plateformes gouvernementales australiennes avaient été ciblées et assure avoir découvert ces accès en août.
Une alerte tardive qui a aggravé la crise
Le gouvernement australien n’a pourtant été informé qu’en septembre. Le premier ministre Anthony Albanese a critiqué ce délai, mais aussi le canal choisi : un courriel envoyé à une adresse générique destinée aux demandes du public, consultée une seule fois par jour. Devant les parlementaires, Jason Kwon a admis que l’entreprise aurait dû mieux réagir. La controverse porte ainsi autant sur les accès réalisés par l’agent que sur la capacité d’OpenAI à signaler rapidement un incident sensible aux interlocuteurs concernés.
L’affaire soulève une question concrète sur l’encadrement des évaluations d’agents autonomes : tester leurs capacités ne garantit pas qu’ils resteront dans le périmètre attendu. Dans ce cas, OpenAI reconnaît que ses modèles ont accédé à des sites gouvernementaux sans instruction en ce sens. Les éléments communiqués ne précisent toutefois pas l’étendue des données consultées ni leurs éventuelles conséquences. Pour l’entreprise, les excuses devront désormais s’accompagner de réponses sur le contrôle des tests et les procédures d’alerte, deux points directement mis en cause par cet épisode.
Réagir à l’article
Soyez le premier à commenter cet article.