Даріо Амодей, керівник Anthropic, обіцяє штучний інтелект, але боїться його расової дискримінації.

У Кремнієвій долині люблять як лідерів-візіонерів, так і тих, хто викликає занепокоєння. Даріо Амодей, генеральний директор Anthropic, вдається незвично балансувати між обома. Менш яскрава постать, ніж деякі інші, проте він залишив свій слід у дебатах щодо штучного інтелекту, навіть побачивши своє ім'я в мережі після того, як у Сполучених Штатах виникла напруженість навколо використання інструментів штучного інтелекту у військовому контексті — мінне поле, де оборонні контракти збільшують прибуток, але можуть заплямувати репутацію.

Амодей, якого часто вважають одним із найбільш «панікерських» лідерів, заперечує це позначення, не відкидаючи його повністю. У довгій статті, опублікованій наприкінці січня, він каже, що відкидає «катастрофічні» сценарії, гідні наукової фантастики, водночас закликаючи до особистого протистояння тому, що він називає екстремальними ризиками. І він вставляє речення, яке звучить як дедлайн: якщо нинішні темпи збережуться, ШІ може перевершити людей у ​​більшості галузей протягом кількох років. Мало слів, багато наслідків, зокрема для реальної економіки та кваліфікованої зайнятості.

Безпека як перевага, влада як горизонт

Компанія Anthropic, заснована у 2021 році колишніми керівниками OpenAI, включаючи Даріо та Даніелу Амодей, була побудована на простій обіцянці: розробляти високопродуктивні моделі, не граючи роль учнів чаклуна. Сімейство моделей Claude орієнтоване на професійних клієнтів, а запобіжні заходи, оцінка ризиків та обмеження використання виділяються як відмінна риса компанії. Саме цей підхід «ременя та підтяжок» також призвів до того, що в американській пресі її називають осередком «катастрофізму штучного інтелекту», що іронічно для компанії, яка має переконувати промислові та урядові установи підписувати контракти.

Тим часом точиться битва за мільярди доларів, чіпи та центри обробки даних. Конкуренція між американськими та європейськими гравцями загострюється, спостерігається тісне партнерство з хмарними гігантами та спільна одержимість: здобуття обчислювальної потужності, яка визначає різницю між привабливою демонстрацією та продуктом, здатним впоратися з навантаженням. Для бізнесу ставки відчутні: продуктивність, автоматизація, нові послуги, але також технологічна залежність, витрати на енергію та, зрештою, цифровий суверенітет.

З європейського боку, рамки стають більш обмежувальними та чіткими завдяки Закону про штучний інтелект, який накладає зобов'язання щодо прозорості та безпеки на певні системи, включаючи моделі загального призначення. Амодей говорить саме тоді, коли галузь прискорюється, а влада прагне балансу між інноваціями та захистом, не перетворюючи регулювання на перешкоду чи сито. Залишається одна реальність, яку читач вже може здогадатися: тим, хто обіцяє найкорисніший ШІ, також доведеться довести, що він залишається керованим, оскільки довіра не вимірюється виключно в терафлопсах.