Дарио Амодеи, глава компании Anthropic, обещает внедрение ИИ, но опасается его развития.

В Силиконовой долине любят как дальновидных лидеров, так и тех, кто внушает опасения. Дарио Амодей, генеральный директор Anthropic, умело балансирует между этими двумя качествами. Менее яркая фигура, чем некоторые другие, он, тем не менее, оставил свой след в дискуссии об искусственном интеллекте, и его имя даже стало упоминаться после возникновения напряженности в Соединенных Штатах вокруг использования инструментов ИИ в военной сфере — минном поле, где оборонные контракты увеличивают прибыль, но могут запятнать репутацию.

Амодей, которого часто относят к числу самых «паникерских» лидеров, оспаривает этот ярлык, но не отвергает его полностью. В обширной статье, опубликованной в конце января, он заявляет, что отвергает «катастрофические» сценарии, достойные научной фантастики, и призывает к прямому противостоянию тому, что он описывает как экстремальные риски. И он вставляет фразу, которая звучит как указание на крайний срок: если нынешние темпы сохранятся, ИИ может превзойти человека в большинстве областей в течение нескольких лет. Несколько слов, множество последствий, в том числе для реальной экономики и рынка труда для квалифицированных специалистов.

Безопасность как конкурентное преимущество, власть как горизонт.

Компания Anthropic, основанная в 2021 году бывшими руководителями OpenAI, включая Дарио и Даниэлу Амодей, базируется на простом обещании: разрабатывать высокоэффективные модели, не прибегая к излишней изобретательности. Семейство моделей Claude ориентировано на профессиональных клиентов, а отличительной чертой компании являются меры безопасности, оценка рисков и ограничения на использование. Именно такой подход «с запасом прочности» привел к тому, что в американской прессе компанию описывали как рассадник «катастрофизма в сфере ИИ», что иронично для компании, которой приходится убеждать промышленные и государственные учреждения подписывать контракты.

Тем временем, битва ведется на миллиарды долларов, с использованием микросхем и центров обработки данных. Конкуренция между американскими и европейскими игроками усиливается, они тесно сотрудничают с гигантами облачных вычислений и разделяют общую цель: заполучить вычислительные мощности, которые определяют разницу между привлекательной демонстрацией и продуктом, способным справиться с нагрузкой. Для бизнеса на кону стоят реальные вещи: производительность, автоматизация, новые услуги, а также технологическая зависимость, затраты на энергию и, в конечном итоге, цифровой суверенитет.

В Европе нормативная база становится все более жесткой и точной благодаря Закону об искусственном интеллекте, который налагает обязательства по обеспечению прозрачности и безопасности на определенные системы, включая модели общего назначения. Амодей говорит именно в тот момент, когда отрасль развивается ускоренными темпами, а власти стремятся найти баланс между инновациями и защитой, не превращая регулирование в препятствие или решето. Остается одна реальность, которую читатель уже может догадаться: те, кто обещает наиболее полезный ИИ, должны будут также доказать, что он остается управляемым, поскольку доверие измеряется не только терафлопсами.