Програмне забезпечення для керування, яке використовують компанії з синтезу ДНК, завжди вважалося останньою лінією захисту від ненавмисного створення небезпечних послідовностей. Але дослідження, опубліковане в наука демонструє, що ця впевненість може бути оманливою: завдяки штучному інтелекту тепер можна обійти ці системи та створювати на вимогу послідовності, близькі до відомих токсинів чи вірусів, не будучи виявленими. Експеримент провела команда Microsoft під керівництвом Еріка Горвіца. Натхненні практиками кібербезпеки, дослідники перевірили надійність фільтрів, безпосередньо атакуючи їхні недоліки. Принцип простий: використовувати інструменти проектування білків для «перефразування» тривожних послідовностей, тобто змінити їхній порядок, зберігаючи при цьому тривимірну структуру, яка визначає їхню функцію. Результат: тисячі небезпечних послідовностей прослизнули крізь мережу, ніби нічого не сталося.
Ахіллесова п'ята біологічного захисту
Це відкриття викликало «момент паніки» в лабораторіях біобезпеки: найпоширеніше програмне забезпечення галузі виявилося нездатним ідентифікувати ці варіанти, згенеровані штучним інтелектом. Відтоді було розроблено патч, який значно покращив рівень виявлення, але він залишається недосконалим. Навіть після оновлення близько 3% потенційно шкідливих послідовностей все ще не проходять фільтри. Це порушення ілюструє зростаючу напруженість: ті ж інструменти, здатні винаходити корисні білки для боротьби з раком, нейтралізації вірусів або очищення навколишнього середовища, також можуть бути використані для виробництва біологічної зброї. Тому творча сила штучного інтелекту вимагає від нас переосмислити біобезпеку як дисципліну, близьку до кібербезпеки, де загрози постійно розвиваються та вимагають постійно адаптованого захисту.
Між науковою відкритістю та оборонною секретністю
Публікація цієї роботи поставила дилему: наскільки слід поширювати інформацію? У світі кібербезпеки виявлення недоліку дозволяє його швидко виправити. Але в біології розкриття занадто великої кількості деталей рівносильне викриттю потенційної зброї. Тому дослідники обрали багаторівневе поширення: певні конфіденційні дані тепер доступні лише за процедурою, що контролюється Міжнародною ініціативою з біобезпеки та біозахисту в науці (IBBIS). Цей епізод підкреслює ще одну слабкість: жоден закон не вимагає від компаній, що займаються синтезом ДНК, систематично фільтрувати свої замовлення. Однак виробничі витрати падають, тоді як витрати на контроль залишаються стабільними. Тому існує спокуса скоротити витрати на безпеку. Такі неурядові організації, як Ініціатива з ядерної загрози, попереджають про цей дисбаланс вже кілька років, виступаючи за те, щоб фільтрація стала обов'язковою на міжнародному рівні. Зрештою, вразливість, виявлена Microsoft, — це не просто технічне сповіщення. Вона зазначає, що у світі, де штучний інтелект прискорює винахід життя, кожен науковий прогрес вимагає рівних зусиль у заходах безпеки. Майбутнє біобезпеки буде залежати не лише від лабораторій, але й від здатності держав та промислових гравців встановлювати спільні правила, перш ніж буде використано наступний недолік.
