Les logiciels de contrôle utilisés par les entreprises de synthèse d’ADN ont toujours été considérés comme le dernier rempart contre la fabrication involontaire de séquences dangereuses. Mais une étude publiée dans Science vient démontrer que cette confiance peut être trompeuse : grâce à l’intelligence artificielle, il est désormais possible de contourner ces systèmes et de produire sur demande des séquences proches de toxines ou de virus connus, sans être détecté. L’expérience a été menée par une équipe de Microsoft dirigée par Eric Horvitz. Inspirés des pratiques de cybersécurité, les chercheurs ont testé la solidité des filtres en s’attaquant directement à leurs failles. Le principe est simple : utiliser des outils de conception de protéines pour « paraphraser » des séquences préoccupantes, c’est-à-dire en modifier l’ordre tout en conservant la structure tridimensionnelle qui en détermine la fonction. Résultat : des milliers de séquences dangereuses ont traversé les filets comme si de rien n’était.
Le talon d’Achille des défenses biologiques
Le constat a provoqué un « moment de panique » dans les laboratoires de biosécurité : les logiciels les plus utilisés par l’industrie se sont révélés incapables d’identifier ces variantes générées par IA. Un correctif a depuis été développé, améliorant nettement le taux de détection, mais il reste imparfait. Même après mise à jour, environ 3 % des séquences potentiellement nocives échappent encore aux filtres. Cette brèche illustre une tension croissante : les mêmes outils capables d’inventer des protéines utiles, pour lutter contre le cancer, neutraliser des virus ou dépolluer l’environnement, pourraient aussi servir à fabriquer des armes biologiques. La puissance créative de l’IA oblige donc à repenser la biosécurité comme une discipline proche de la cybersécurité, où les menaces évoluent en permanence et exigent des défenses toujours adaptables.
Entre ouverture scientifique et secret défensif
La publication de ces travaux a posé un dilemme : jusqu’où partager l’information ? Dans l’univers de la cybersécurité, révéler une faille permet de la corriger rapidement. Mais en biologie, divulguer trop de détails revient à donner des armes potentielles. Les chercheurs ont donc opté pour une diffusion à plusieurs niveaux : certaines données sensibles sont désormais accessibles uniquement via une procédure encadrée par l’Initiative internationale pour la biosécurité et la biosûreté dans le domaine scientifique (IBBIS). L’épisode met en lumière une autre faiblesse : aucun texte de loi n’impose aux entreprises de synthèse d’ADN de filtrer systématiquement leurs commandes. Or les coûts de production baissent alors que ceux du contrôle restent stables. La tentation de rogner sur les dépenses de sécurité existe donc bel et bien. Des ONG comme la Nuclear Threat Initiative alertent depuis plusieurs années sur ce déséquilibre, plaidant pour que le filtrage devienne obligatoire à l’échelle internationale. Au fond, la vulnérabilité révélée par Microsoft n’est pas seulement une alerte technique. Elle rappelle que dans un monde où l’IA accélère l’invention du vivant, chaque progrès scientifique exige un effort égal en matière de garde-fous. L’avenir de la biosécurité ne se jouera pas seulement dans les laboratoires, mais aussi dans la capacité des États et des acteurs industriels à ériger des règles communes avant que la prochaine faille ne soit exploitée.
