Scott Wiener, élu au Congrès pour représenter San Francisco, entend peser de tout son poids sur la régulation fédérale de l’intelligence artificielle. Ce législateur californien, déjà auteur de plusieurs textes pionniers dans son État, prévient que le temps presse face à des systèmes d’IA dont il juge la progression potentiellement incontrôlable.
Scott Wiener n’avait pas encore savouré sa victoire électorale que son esprit était déjà tourné vers l’intelligence artificielle. Quelques heures après avoir été déclaré vainqueur d’une course serrée pour le siège du Congrès laissé vacant par l’ancienne présidente de la Chambre des représentants Nancy Pelosi, le sénateur d’État californien évoquait un rapport publié la veille par l’organisation à but non lucratif METR. Ce document, largement interprété comme une preuve qu’un système d’IA avait atteint un stade d’auto-amélioration récursive, c’est-à-dire la capacité à contribuer de manière significative à sa propre progression, l’a visiblement préoccupé. « C’est très inquiétant », a-t-il déclaré, y voyant la confirmation que la fenêtre pour agir se referme rapidement.
Le phénomène d’auto-amélioration récursive, qu’il a mentionné à plusieurs reprises lors d’un entretien d’une vingtaine de minutes, désigne le risque qu’un système d’IA progresse de façon autonome et exponentielle, au point d’échapper à tout contrôle humain. « Nous devons ralentir ce processus, dit-il. Parce que cela va très vite, et nous pourrions glisser vers une catastrophe sans même nous en rendre compte. »
Wiener n’est pas un néophyte sur ces questions. En 2024, il avait rédigé le projet de loi SB 1047, qui aurait constitué la première législation américaine sur les systèmes d’IA dits de frontière, avant que le gouverneur de Californie Gavin Newsom ne pose son veto. Il avait ensuite parrainé un texte plus souple, le SB 53, que Newsom a cette fois promulgué. Ces deux initiatives ont depuis inspiré des propositions de loi au niveau fédéral.
Sa campagne a bénéficié de plus de trois millions de dollars de la part de Public First Action, une organisation favorable à la régulation de l’IA qui reçoit des financements substantiels d’Anthropic, l’un des principaux laboratoires du secteur. Ses adversaires ont tenté d’exploiter ce soutien pour le dépeindre comme trop proche de l’industrie technologique. Wiener rejette catégoriquement cette lecture : « Public First m’a soutenu parce que j’ai été le premier élu du pays à introduire une régulation de l’IA et le premier à la faire adopter et appliquer », a-t-il répondu, dénonçant des attaques qu’il qualifie de « d’un cynisme choquant ».
Au Congrès, il espère rejoindre une éventuelle commission spéciale sur l’intelligence artificielle, dont la création est évoquée depuis plusieurs mois au sein du Parti démocrate. Parmi les priorités qu’il défend figurent la création d’un régulateur fédéral doté de pouvoirs réels, des protections pour les lanceurs d’alerte, des exigences de tests et d’audits des systèmes, ainsi qu’un mécanisme d’arrêt d’urgence. Il insiste également sur la nécessité de préserver la marge de manœuvre des États fédérés, s’opposant à toute préemption fédérale large qui priverait la Californie et d’autres États de la possibilité de légiférer. « Les États sont, comme le disait le juge Brandeis, des laboratoires », rappelle-t-il.
Wiener se dit seulement « prudemment optimiste » quant à la capacité du Congrès à agir, citant le bilan décevant des législateurs américains face aux grandes plateformes numériques. La position du président Donald Trump, qui a qualifié de « canular » les inquiétudes liées aux risques catastrophiques de l’IA, complique encore la donne. L’absence de coopération avec la Chine sur ces enjeux, que Wiener juge pourtant indispensable, constitue à ses yeux un autre obstacle majeur. « Nous sommes dans un moment très dangereux en termes de risque de perte de contrôle sur l’IA », résume-t-il, espérant que le Congrès agisse avant qu’un incident grave ne l’y contraigne.
Réagir à l’article
Soyez le premier à commenter cet article.