Штучний інтелект: Anthropic пропонує глобальний механізм для уповільнення розвитку найпотужніших моделей

Оскільки глобальна конкуренція у сфері штучного інтелекту загострюється, американська компанія Anthropic закликає до більш обережного підходу. У записці, опублікованій її дослідницьким центром, розробник помічника Клода стверджує, що має бути можливість тимчасово уповільнити розробку найсучасніших систем штучного інтелекту, щоб дати компаніям, установам та дослідникам час адаптуватися до збоїв, які вони можуть спричинити.

Така позиція різко контрастує з домінуючою стратегією в секторі, де основні гравці збільшують свої інвестиції для розробки дедалі ефективніших моделей. Зіткнувшись з цим прискоренням, Anthropic вважає, що технологічний прогрес може випередити можливості держав та організацій ефективно регулювати ці нові інструменти. Компанія зокрема вказує на ризики, пов'язані з втратою контролю над дедалі автономнішими та потужнішими системами.

Щоб уникнути перегонів без гальм, потрібна міжнародна координація.

Щоб вирішити ці проблеми, Anthropic пропонує створити міжнародний механізм координації між підприємствами та урядами. Метою було б дозволити ключовим гравцям галузі колективно вирішувати питання уповільнення або тимчасового призупинення розробки певних технологій, коли ризики здаються занадто високими. За словами компанії, така структура запобігла б покаранню одного гравця за обережний підхід, поки його конкуренти продовжують безперешкодно просуватися.

Джек Кларк, співзасновник Anthropic, порівняв поточну ситуацію з автомобілем з педаллю акселератора, але без гальм. Він стверджував, що галузі потрібні інструменти для швидкого реагування, якщо технологічний прогрес випереджає можливості контролю чи розуміння дослідників та державних органів.

Дебати, які глибоко розділяють сектор

Однак ця пропозиція, ймовірно, зіткнеться з сильним опором, особливо у Сполучених Штатах. Деякі представники технологічної галузі та політики вважають, що уповільнення темпів зростання може дати стратегічну перевагу Китаю, який також бере участь у глобальній гонці за штучний інтелект. Для цих гравців пріоритетом залишається збереження технологічної переваги над конкуруючими державами.

Anthropic займає унікальне місце в цій екосистемі. Заснована колишніми членами OpenAI, компанія побудувала свою репутацію на дискурсі, зосередженому на безпеці та етиці штучного інтелекту. Ця стратегія отримала як підтримку, так і критику. Деякі американські політики та кілька конкурентів регулярно звинувачують її у перебільшенні ризиків, пов'язаних зі штучним інтелектом, з метою поширення панікерства в цьому секторі.

Регулювання в Сполучених Штатах все ще обмежене

Адміністрація США починає впроваджувати свої перші регуляторні заходи. Президент Дональд Трамп нещодавно підписав указ, спрямований на посилення нагляду за найсучаснішими моделями штучного інтелекту з міркувань національної безпеки та кібербезпеки. Однак цей захід спирається переважно на добровільну участь компаній і не включає обов'язкових механізмів, порівнянних з тими, що згадуються Anthropic.

Водночас Вашингтон також прагне розпочати міжнародні дискусії щодо безпеки штучного інтелекту. Під час нещодавньої поїздки до Китаю Дональд Трамп зазначив, що порушував це питання з китайською владою. Для Anthropic лише глобальна співпраця запобігатиме остаточному переважанню економічної та геополітичної конкуренції над імперативами безпеки.