OpenAI, Google et Anthropic préparent un organe de contrôle des risques liés à l’IA

OpenAI, Anthropic et Google DeepMind travaillent à la création d’une nouvelle instance destinée à surveiller les risques liés au développement de l’intelligence artificielle. Le projet intervient alors que les appels à renforcer la sécurité des modèles d’IA se multiplient aux États-Unis et que les principaux acteurs du secteur cherchent eux-mêmes à participer à l’encadrement de leurs technologies.

L’idée a été proposée par Demis Hassabis, dirigeant de Google DeepMind, qui avait évoqué en juillet la création d’une structure inspirée de la FINRA, l’organisme américain d’autorégulation du secteur financier. La FINRA avait elle-même été créée avec une autorisation législative et fonctionne sous la supervision de la Securities and Exchange Commission (SEC).

Un contrôle avant la commercialisation des modèles

Selon le projet présenté par Hassabis, cette future organisation serait financée par les entreprises du secteur et intégrerait dans son conseil des experts indépendants ainsi que des représentants de l’écosystème de l’IA ouverte. Les modèles développés par les entreprises les plus avancées pourraient être soumis à un examen consacré notamment à leur niveau de sécurité avant leur commercialisation.

Cette initiative intervient alors que Washington cherche également à définir les modalités de contrôle de l’IA. Début août, l’administration américaine a instauré un processus d’évaluation des nouveaux modèles, mais celui-ci repose pour l’instant sur le volontariat et ses mécanismes n’ont pas été détaillés publiquement. Dans le même temps, les autorités américaines restent prudentes sur une réglementation trop contraignante, notamment en raison de la compétition technologique avec la Chine.

La création d’une instance d’autorégulation nécessiterait vraisemblablement une intervention du législateur afin de déterminer son fonctionnement et d’éviter d’éventuels problèmes au regard du droit de la concurrence. Demis Hassabis envisage également que cette structure puisse recommander un ralentissement coordonné du développement des technologies d’IA si les dispositifs de sécurité ne progressaient plus au même rythme que les capacités des modèles.