Искусственный интеллект: антропология предлагает глобальный механизм для замедления развития наиболее мощных моделей.

В условиях усиления глобальной конкуренции в области искусственного интеллекта американская компания Anthropic призывает к более осторожному подходу. В записке, опубликованной ее исследовательским центром, разработчик помощника Claude утверждает, что следует предусмотреть возможность временного замедления разработки самых передовых систем ИИ, чтобы дать компаниям, учреждениям и исследователям время адаптироваться к возможным сбоям, которые они могут вызвать.

Эта позиция резко контрастирует с доминирующей стратегией в секторе, где крупные игроки увеличивают свои инвестиции в разработку все более эффективных моделей. В условиях такого ускорения Anthropic считает, что технологический прогресс может опередить возможности государств и организаций эффективно регулировать эти новые инструменты. Компания особо указывает на риски, связанные с потерей контроля над все более автономными и мощными системами.

Для того чтобы избежать гонки без тормозов, необходима международная координация.

Для решения этих проблем компания Anthropic предлагает создать международный механизм координации между бизнесом и правительствами. Цель заключалась бы в том, чтобы позволить ключевым игрокам отрасли коллективно принимать решения о замедлении или временной приостановке разработки определенных технологий, когда риски кажутся слишком высокими. По мнению компании, такая структура предотвратила бы ситуацию, когда один игрок подвергается наказанию за осторожный подход, в то время как его конкуренты продолжают беспрепятственно развиваться.

Джек Кларк, соучредитель компании Anthropic, сравнил нынешнюю ситуацию с автомобилем, у которого есть педаль газа, но нет тормозов. Он утверждал, что отрасли необходимы инструменты для быстрого реагирования, если технологический прогресс опередит возможности исследователей и государственных органов по контролю или пониманию ситуации.

Дискуссия, которая глубоко разделяет этот сектор.

Однако это предложение, вероятно, встретит сильное сопротивление, особенно в Соединенных Штатах. Некоторые представители технологической отрасли и политики считают, что замедление темпов роста может дать Китаю стратегическое преимущество, поскольку Китай также участвует в глобальной гонке за искусственный интеллект. Для этих игроков приоритетом остается сохранение технологического превосходства над конкурирующими державами.

Компания Anthropic занимает уникальное положение в этой экосистеме. Основанная бывшими сотрудниками OpenAI, компания построила свою репутацию на дискуссии, сосредоточенной на безопасности и этике искусственного интеллекта. Эта стратегия принесла ей как поддержку, так и критику. Некоторые американские политики и ряд конкурентов регулярно обвиняют ее в преувеличении рисков, связанных с ИИ, с целью создания панического взгляда на этот сектор.

В Соединенных Штатах регулирование по-прежнему ограничено.

Администрация США начинает внедрять свои первые регулирующие меры. Президент Дональд Трамп Недавно был подписан указ, направленный на усиление надзора за наиболее передовыми моделями искусственного интеллекта в целях национальной безопасности и кибербезопасности. Однако эта мера в основном опирается на добровольное участие компаний и не включает обязательные механизмы, аналогичные тем, которые были упомянуты организацией Anthropic.

В то же время Вашингтон стремится инициировать международные дискуссии о безопасности искусственного интеллекта. Во время недавней поездки в Китай Дональд Трамп заявил, что поднимал этот вопрос перед китайскими властями. По мнению Anthropic, только глобальное сотрудничество предотвратит окончательный перевес приоритетов безопасности в экономической и геополитической конкуренции.