DNA合成会社が使用する制御ソフトウェアは、危険な配列が誤って作成されるのを防ぐ最後の防衛線と常に考えられてきました。しかし、 科学 この自信が誤解を招く可能性があることを実証しました。人工知能のおかげで、これらのシステムを回避し、既知の毒素やウイルスに近い配列を、検知されることなくオンデマンドで生成することが可能になりました。この実験は、エリック・ホロヴィッツ率いるマイクロソフトのチームによって実施されました。サイバーセキュリティの実践に着想を得た研究者たちは、フィルターの欠陥を直接攻撃することで、その堅牢性をテストしました。原理は単純です。タンパク質設計ツールを使用して、問題となる配列を「言い換える」、つまり、機能を決定する三次元構造を維持しながら配列の順序を変更するのです。その結果、何千もの危険な配列が、まるで何もなかったかのように網をすり抜けていきました。
生物学的防御の弱点
この発見は、バイオセキュリティ研究室に「パニックの瞬間」を引き起こしました。業界で最も広く使用されているソフトウェアが、AIが生成したこれらの変異体を識別できないことが判明したのです。その後、修正プログラムが開発され、検出率は大幅に向上しましたが、依然として不完全です。更新後も、潜在的に有害な配列の約3%が依然としてフィルターをすり抜けています。この欠陥は、高まる緊張を浮き彫りにしています。がんと闘ったり、ウイルスを中和したり、環境を浄化したりするために有用なタンパク質を発明できるツールが、生物兵器の製造にも利用される可能性があるのです。AIの創造力は、脅威が絶えず進化し、常に適応可能な防御が求められるサイバーセキュリティに近い分野として、バイオセキュリティを再考することを迫っています。
科学的なオープン性と防衛的な秘密主義の間
この研究の発表は、情報をどこまで共有すべきかというジレンマを突きつけた。サイバーセキュリティの世界では、欠陥を明らかにすれば迅速に修正できる。しかし、生物学においては、あまりにも多くの詳細を開示することは、潜在的な兵器を手放すことに等しい。そのため、研究者たちは多層的な情報公開を選択した。現在、一部の機密データは、国際科学バイオセーフティ・バイオセキュリティ・イニシアチブ（IBBIS）の監督下にある手続きを通じてのみアクセス可能となっている。この出来事は、DNA合成企業に注文を体系的にフィルタリングすることを義務付ける法律がないという、もう一つの弱点を浮き彫りにした。しかし、生産コストは低下している一方で、管理コストは安定している。そのため、セキュリティ支出を削減したいという誘惑が存在する。核脅威イニシアチブなどのNGOは、この不均衡について長年にわたり警告を発し、フィルタリングを国際的に義務化するよう提唱してきた。結局のところ、マイクロソフトによって明らかにされた脆弱性は、単なる技術的な警告ではない。AIが生命の発明を加速させる世界では、あらゆる科学的進歩には同等の安全対策が必要だと彼女は指摘する。バイオセキュリティの将来は、研究室でのみ発揮されるのではなく、次の欠陥が悪用される前に各国と産業界が共通のルールを確立できるかどうかにかかっています。
