Elles « jouent avec nos vies » : après OpenAI, un chercheur quitte Anthropic et alerte sur la course à la superintelligence

Jacob Coxon, chercheur britannique de 27 ans spécialisé dans l’intelligence artificielle, a annoncé son départ d’Anthropic et son retrait de l’industrie. Après avoir consacré trois années au pré-entraînement des modèles chez OpenAI puis chez son principal concurrent, il accuse les deux laboratoires américains de poursuivre une course dangereuse vers des systèmes capables de dépasser l’intelligence humaine et d’améliorer eux-mêmes leurs propres performances.

« Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies », a-t-il écrit sur X. Jacob Coxon affirme que de nombreux chercheurs et dirigeants du secteur pensent sincèrement qu’une IA incontrôlable pourrait menacer l’existence de l’humanité avant la fin de la décennie. Il assure que ces inquiétudes, souvent exprimées avec prudence en public, seraient beaucoup plus ouvertement partagées au sein des laboratoires.

Une course qu’aucune entreprise ne veut abandonner seule

Le chercheur dit avoir quitté OpenAI pour Anthropic parce que cette dernière entreprise, créatrice de l’assistant Claude, lui paraissait davantage préoccupée par la sûreté des modèles avancés. Son expérience l’aurait toutefois convaincu que même Anthropic reste prisonnière de la compétition. Selon lui, ses dirigeants pensent devoir atteindre la superintelligence avant leurs concurrents pour empêcher qu’un acteur moins prudent n’y parvienne en premier. Il estime qu’un développement responsable nécessiterait désormais l’intervention des États, des accords vérifiables entre laboratoires et, si nécessaire, une suspension temporaire de l’amélioration des capacités.

Les avertissements de Jacob Coxon ont reçu le soutien d’Evan Hubinger, responsable des recherches sur l’alignement chez Anthropic. Celui-ci a estimé à plus de 10 % le risque qu’une intelligence artificielle provoque la disparition de l’humanité au cours de la prochaine décennie. Il reconnaît qu’Anthropic tente de limiter ce danger, mais ne dispose pas encore d’une méthode garantissant qu’une superintelligence resterait contrôlable et conforme aux intentions humaines. Les deux entreprises, sollicitées par l’AFP, n’avaient pas immédiatement réagi au départ du chercheur.