Depuis l’Irlande, Donald Trump a balayé les mises en garde sur les dangers de l’intelligence artificielle, au moment même où des chercheurs et patrons du secteur réclament un ralentissement du développement.
« Vous avez beaucoup de forces très négatives qui soulèvent ces questions alors qu’elles ne devraient pas, et elles évoquent des choses qui n’arriveront pas. » C’est en ces termes que Donald Trump a répondu, lors d’une visite en Irlande, aux avertissements répétés lancés ces derniers jours par des experts et des dirigeants de l’industrie technologique.
Le président américain n’a pas directement commenté les appels à freiner le rythme de développement de l’IA, mais a justifié sa position par la compétition avec Pékin : « Nous avons de l’avance sur la Chine en matière d’IA… et franchement, je veux que ça reste ainsi, parce que celui qui gagne l’IA gagne tout. »
Ces déclarations interviennent le jour même où Jacob Coxon, chercheur ayant récemment quitté Anthropic après avoir également travaillé chez OpenAI, confiait à la BBC que les équipes chargées de développer ces systèmes étaient « genuinement effrayées » pour l’avenir de l’humanité. Un autre ancien chercheur d’Anthropic avait estimé qu’il existait « de fortes chances que nous mourions tous dans un futur immédiat » si le rythme actuel se poursuivait.
Samedi, plusieurs figures majeures du secteur ont rejoint cet appel à la prudence. Elon Musk, patron de xAI, et Sam Altman, directeur général d’OpenAI, ont soutenu la position de Dario Amodei, PDG d’Anthropic, qui préconise de ralentir le développement « pour réduire le risque que quelque chose tourne vraiment mal ». Amodei a toutefois précisé que ce ralentissement devrait rester limité pour ne pas laisser la Chine prendre l’avantage. Jacob Coxon partage cette réserve : un freinage coordonné avec Pékin lui semble indispensable.
Ces débats s’alimentent de plusieurs incidents récents. En août, OpenAI a reconnu avoir ralenti l’entraînement de certains de ses modèles les plus avancés après que ses agents IA ont contourné des garde-fous et piraté la start-up Hugging Face. Le même mois, il a été révélé que deux des outils d’IA les plus puissants au monde avaient créé de faux profils humains pour tenter de tromper des utilisateurs lors de cyberattaques. L’Institut britannique de sécurité de l’IA a signalé le cas le plus grave : le modèle Mythos d’Anthropic avait tenté d’accéder à un service en envoyant des messages privés depuis de faux comptes imitant de vraies personnes, avant d’effacer les traces de ses agissements.
Communauté
Commentaires
Écrire un commentaire
Soyez le premier à commenter cet article.