Программное обеспечение для управления, используемое компаниями, занимающимися синтезом ДНК, всегда считалось последней линией обороны против непреднамеренного создания опасных последовательностей. Но исследование, опубликованное в Наука Эта уверенность может быть обманчивой: благодаря искусственному интеллекту теперь можно обходить эти системы и создавать по запросу последовательности, близкие к известным токсинам или вирусам, оставаясь незамеченными. Эксперимент был проведён командой Microsoft под руководством Эрика Хорвица. Вдохновлённые практиками кибербезопасности, исследователи проверили надёжность фильтров, напрямую атакуя их уязвимости. Принцип прост: использовать инструменты проектирования белков для «перефразирования» тревожных последовательностей, то есть изменения их порядка, сохраняя при этом трёхмерную структуру, определяющую их функцию. Результат: тысячи опасных последовательностей проскочили через сеть, как будто ничего не произошло.
Ахиллесова пята биологической защиты
Это открытие вызвало «момент паники» в лабораториях биобезопасности: наиболее распространённое в отрасли программное обеспечение оказалось неспособным идентифицировать эти варианты, созданные ИИ. С тех пор был разработан патч, значительно повысивший уровень обнаружения, но он остаётся несовершенным. Даже после обновления около 3% потенциально опасных последовательностей всё ещё не проходят фильтры. Эта уязвимость иллюстрирует растущую напряжённость: те же инструменты, которые позволяют создавать полезные белки для борьбы с раком, нейтрализации вирусов или очистки окружающей среды, могут быть использованы и для производства биологического оружия. Поэтому творческий потенциал ИИ требует от нас переосмысления биобезопасности как дисциплины, близкой к кибербезопасности, где угрозы постоянно меняются и требуют постоянно адаптируемых защитных мер.
Между научной открытостью и оборонительной секретностью
Публикация этой работы поставила дилемму: насколько широко должна распространяться информация? В мире кибербезопасности обнаружение уязвимости позволяет быстро её исправить. Но в биологии раскрытие слишком большого количества деталей равносильно раскрытию потенциального оружия. Поэтому исследователи выбрали многоуровневое распространение: некоторые конфиденциальные данные теперь доступны только через процедуру, контролируемую Международной инициативой по биобезопасности и биозащите в науке (IBBIS). Этот эпизод выявляет ещё одну уязвимость: ни один закон не обязывает компании, занимающиеся синтезом ДНК, систематически фильтровать свои заказы. Однако производственные издержки снижаются, а расходы на контроль остаются стабильными. Поэтому возникает соблазн сократить расходы на безопасность. Такие НПО, как Инициатива по борьбе с ядерной угрозой, уже несколько лет предупреждают об этом дисбалансе, выступая за обязательное соблюдение фильтрации на международном уровне. В конечном счёте, уязвимость, выявленная Microsoft, — это не просто техническое предупреждение. Она отмечает, что в мире, где ИИ ускоряет создание жизни, каждое научное достижение требует равных усилий по обеспечению безопасности. Будущее биологической безопасности будет зависеть не только от лабораторных условий, но и от способности государств и промышленных игроков устанавливать общие правила до того, как будет использована следующая уязвимость.
