Alors que la compétition mondiale autour de l’intelligence artificielle s’intensifie, l’entreprise américaine Anthropic appelle à une approche plus prudente. Dans une note publiée par son centre de recherche, le concepteur de l’assistant Claude estime qu’il devrait être possible de ralentir temporairement le développement des systèmes d’IA les plus avancés afin de laisser aux sociétés, aux institutions et aux chercheurs le temps de s’adapter aux bouleversements qu’ils pourraient engendrer.
Cette prise de position tranche avec la stratégie dominante du secteur, où les principaux acteurs multiplient les investissements pour développer des modèles toujours plus performants. Face à cette accélération, Anthropic considère que les progrès technologiques pourraient dépasser la capacité des États et des organisations à encadrer efficacement ces nouveaux outils. L’entreprise évoque notamment les risques liés à une perte de contrôle de systèmes de plus en plus autonomes et puissants.
Une coordination internationale pour éviter une course sans frein
Pour répondre à ces préoccupations, Anthropic suggère la création d’un mécanisme international de coordination entre entreprises et gouvernements. L’objectif serait de permettre aux principaux acteurs du secteur de décider collectivement d’un ralentissement ou d’une suspension temporaire du développement de certaines technologies lorsque les risques apparaissent trop élevés. Selon l’entreprise, un tel cadre éviterait qu’un acteur soit pénalisé par une démarche prudente tandis que ses concurrents continueraient d’avancer sans contrainte.
Jack Clark, cofondateur d’Anthropic, a comparé la situation actuelle à une voiture dotée d’une pédale d’accélérateur mais dépourvue de système de freinage. Selon lui, l’industrie doit se doter d’outils permettant d’agir rapidement si les avancées technologiques venaient à dépasser les capacités de contrôle ou de compréhension des chercheurs et des autorités publiques.
Un débat qui divise profondément le secteur
Cette proposition risque toutefois de se heurter à une forte opposition, notamment aux États-Unis. Une partie de l’industrie technologique et de la classe politique estime qu’un ralentissement pourrait offrir un avantage stratégique à la Chine, engagée elle aussi dans une course mondiale à l’intelligence artificielle. Pour ces acteurs, la priorité reste de conserver une avance technologique face aux puissances concurrentes.
Anthropic occupe une position particulière dans cet écosystème. Fondée par d’anciens membres d’OpenAI, l’entreprise s’est construite autour d’un discours centré sur la sécurité et l’éthique de l’intelligence artificielle. Cette stratégie lui vaut autant de soutiens que de critiques. Certains responsables politiques américains et plusieurs concurrents l’accusent régulièrement d’exagérer les risques liés à l’IA afin de promouvoir une vision alarmiste du secteur.
Une régulation encore limitée aux États-Unis
L’administration américaine commence à mettre en place ses premières mesures d’encadrement. Le président Donald Trump a récemment signé un décret visant à renforcer la surveillance des modèles d’intelligence artificielle les plus avancés pour des raisons de sécurité nationale et de cybersécurité. Toutefois, ce dispositif repose essentiellement sur le volontariat des entreprises et ne prévoit pas de mécanismes contraignants comparables à ceux évoqués par Anthropic.
Dans le même temps, Washington cherche également à ouvrir des discussions internationales sur la sûreté de l’intelligence artificielle. Lors d’un récent déplacement en Chine, Donald Trump a indiqué avoir abordé cette question avec les autorités chinoises. Pour Anthropic, seule une coopération mondiale permettra d’éviter que la concurrence économique et géopolitique ne prenne définitivement le pas sur les impératifs de sécurité.
Communauté
Commentaires
Les commentaires sont ouverts, mais protégés contre le spam. Les premiers messages et les commentaires contenant des liens passent par une validation manuelle.
Soyez le premier à commenter cet article.