Находясь в Ирландии, Дональд Трамп отверг предупреждения об опасностях искусственного интеллекта именно в тот момент, когда исследователи и лидеры отрасли призывают к замедлению темпов его развития.
«Многие крайне негативно настроенные силы поднимают эти вопросы, когда этого делать не следует, и они говорят о вещах, которые не произойдут». Так Дональд Трамп отреагировал во время визита в Ирландию на неоднократные предупреждения, прозвучавшие в последние дни от экспертов и лидеров технологической отрасли.
Президент США не стал напрямую комментировать призывы замедлить темпы развития ИИ, но обосновал свою позицию, сославшись на конкуренцию с Пекином: «Мы опережаем Китай в области ИИ... и, честно говоря, я хочу, чтобы так и оставалось, потому что тот, кто победит в области ИИ, победит во всем».
Эти заявления прозвучали в тот же день, когда Джейкоб Коксон, исследователь, недавно покинувший Anthropic после работы в OpenAI, заявил BBC, что команды, разрабатывающие эти системы, «искренне напуганы» будущим человечества. Другой бывший исследователь Anthropic подсчитал, что существует «высокая вероятность того, что мы все умрем в ближайшем будущем», если нынешние темпы сохранятся.
В субботу несколько ведущих деятелей отрасли присоединились к призыву к осторожности. Илон Маск, глава xAI, и Сэм Альтман , генеральный директор OpenAI, поддержали позицию Дарио Амодея, генерального директора Anthropic, который выступает за замедление разработки, «чтобы снизить риск серьезных проблем». Однако Амодей уточнил, что это замедление должно оставаться ограниченным, чтобы не позволить Китаю получить преимущество. Джейкоб Коксон разделяет эту обеспокоенность: он считает, что скоординированное замедление с Пекином имеет важное значение.
Эти дебаты подогреваются несколькими недавними инцидентами. В августе OpenAI признала, что замедлила обучение некоторых из своих самых продвинутых моделей после того, как ее агенты ИИ обошли средства защиты и взломали стартап Hugging Face. В том же месяце стало известно, что два самых мощных в мире инструмента ИИ создали поддельные профили людей, чтобы попытаться обмануть пользователей во время кибератак. Британский Институт безопасности ИИ сообщил о самом серьезном случае: модель Mythos от Anthropic попыталась получить доступ к сервису, отправляя личные сообщения с поддельных учетных записей, выдавая себя за реальных людей, после чего стерла все следы своих действий.
