Le patron d’OpenAI Sam Altman a reconnu mardi que le monde avait raison d’avoir peur de l’intelligence artificielle, tout en appelant à faire confiance aux entreprises du secteur pour se réguler elles-mêmes. Des voix politiques et industrielles contestent vivement cette position.
« Le monde a raison d’avoir peur de ça », a déclaré Sam Altman lors d’une conférence annuelle organisée par Salesforce à San Francisco. Le directeur général d’OpenAI a reconnu que les capacités des outils d’IA ont progressé si rapidement qu’il « ne faut plus autant d’imagination qu’avant pour imaginer comment les choses pourraient mal tourner ».
Malgré ce constat, Altman a défendu la capacité des entreprises à s’autoréguler. « Nous y arriverons, j’ai une grande confiance dans la capacité de notre entreprise et de notre secteur à faire cela en toute sécurité », a-t-il affirmé, assurant que la sécurité resterait « bien en avance sur les capacités » et que, dans le cas contraire, ils « ralentiraient ou s’arrêteraient ».
Ces déclarations interviennent dans un contexte de vive tension autour des risques de l’IA. La semaine dernière, un chercheur ayant quitté la société Anthropic a publié un billet viral affirmant que l’IA pourrait tuer l’ensemble de l’humanité d’ici la fin de la décennie si elle n’était pas contrôlée. Plusieurs dirigeants et experts du secteur ont dit partager cette évaluation. En réponse, le PDG d’Anthropic, Dario Amodei, a appelé à ralentir le rythme du développement de l’IA et à une intervention des gouvernements pour réguler l’industrie.
Jensen Huang, à la tête de Nvidia, première capitalisation boursière mondiale grâce à la demande en puces pour l’IA, a soutenu la même ligne qu’Altman lors de la même conférence. « Nous n’avons pas besoin de nouvelles lois ni de réglementations », a-t-il déclaré, ajoutant que la sécurité est « un problème d’ingénierie » et non une question législative. Il a toutefois conseillé aux dirigeants de faire une pause s’ils perdent confiance dans leur produit : « Courez aussi vite que vous pouvez, mais si à un moment vous sentez que l’institution n’est plus maîtresse de la situation, marquez un temps d’arrêt. »
Mark Zuckerberg a abondé dans ce sens sur X, estimant que chaque laboratoire d’IA a la capacité et l’intérêt de prendre ses propres mesures en faveur de la sécurité. « Tout laboratoire qui ne se concentre pas sur l’alignement prendra du retard », a-t-il écrit, soulignant que les entreprises font face à d’importantes responsabilités juridiques si leurs modèles causent des dommages.
Du côté politique, le ton est radicalement différent. Le sénateur indépendant Bernie Sanders a dénoncé le fait que les décisions sur le développement de l’IA sont prises par « une poignée des personnes les plus riches du monde », citant Elon Musk, Mark Zuckerberg et Jeff Bezos. « Le peuple de ce pays doit prendre les décisions concernant l’IA, et non une poignée d’oligarques », a-t-il lancé lors d’une conférence à Washington. Steve Bannon, ancien conseiller stratégique de Donald Trump, a été encore plus direct : « Nous ne pouvons jamais faire confiance à ce que dit un oligarque parce qu’ils sont hypocrites et qu’ils mentent. »
Des voix critiques s’élèvent aussi au sein même de l’industrie. Jack Clark, cofondateur d’Anthropic, a jugé lundi que laisser l’IA dans un secteur « totalement non réglementé » revenait à « jouer aux dés avec des risques immenses ». Patrick Hillman, directeur des opérations de Logical Intelligence, a été cinglant : « La seule institution en laquelle les Américains pourraient avoir moins confiance que Washington ces jours-ci, c’est la Silicon Valley. » Il a interpellé les dirigeants du secteur : « Si vous croyez que ce que vous construisez est dangereux, montrez-nous ce que vous êtes prêts à arrêter de faire. »
Sur le terrain de la coopération, OpenAI et Anthropic ont indiqué travailler à un accord à l’échelle du secteur sur les normes de sécurité. Dario Amodei a confirmé mardi qu’Anthropic est désormais « en dialogue avec le reste de l’industrie » pour s’engager sur de meilleures pratiques. L’exécutif d’OpenAI Chris Lehane avait précisé la semaine dernière que cette démarche associe également Google DeepMind, sous la forme d’un effort volontaire, « avec ou sans soutien gouvernemental ».
Communauté
Commentaires
Écrire un commentaire
Soyez le premier à commenter cet article.