Чат-бот с искусственным интеллектом Grok, разработанный компанией xAI.Elon MuskПлатформа сталкивается с усиленным контролем со стороны правительств и регулирующих органов Европы, Азии и Океании. Причина: распространение на платформе X контента, созданного с помощью ИИ и считающегося откровенно сексуальным, иногда представленного в виде изображений «обнаженных» людей, что вызвало серьезные опасения по поводу предотвращения и удаления незаконного контента.
В четверг вечером Grok объявил, что теперь создание и редактирование изображений будет доступно только платным подписчикам. Платформа уже 2 января признала, что устраняет уязвимости в системе безопасности после отдельных случаев, когда чат-бот генерировал контент сексуального характера, включая изображения несовершеннолетних в откровенной одежде. Илон Маск заявил, что пользователи, создающие незаконный контент через Grok, будут подвергаться тем же санкциям, что и при скачивании подобных материалов напрямую.
В Европе власти отреагировали оперативно. Европейская комиссия продлила действие распоряжения о хранении, обязывающего компанию X сохранять все внутренние документы, связанные с Grok, до конца 2026 года в связи с опасениями, вызванными изображениями сексуального характера, созданными с помощью ИИ. В Великобритании регулятор Ofcom заявил, что связался с X и xAI для оценки соблюдения обязательств в соответствии с законом об электронной безопасности. Во Франции правительство передало дело в прокуратуру и уведомило Arcom о необходимости проверить соответствие платформы европейскому законодательству о цифровых услугах.
Другие европейские страны также выразили свою обеспокоенность. В Германии министр по делам СМИ призвал Европейскую комиссию принять юридические меры, сославшись на риск «индустриализации сексуальных домогательств». Итальянское ведомство по защите данных предупредило о возможных уголовных преступлениях, связанных с созданием «обнаженных» изображений реальных людей без их согласия, а в Швеции политики осудили создание изображений сексуального характера с участием высокопоставленного государственного чиновника.
В Азии индийские власти направили X письмо с требованием прекратить противоправные действия, требуя удаления непристойного контента, созданного Grok, и предоставления подробного отчета в течение 72 часов. В Малайзии регулятор связи объявил о начале расследования, предупредив, что злоупотребление ИИ может нарушать национальное законодательство в области связи и мультимедиа. В Австралии агентство eSafety также начало расследование в отношении изображений с сексуализированным содержанием, созданных с помощью технологии дипфейк, в рамках своей программы по борьбе со злоупотреблениями, связанными с использованием изображений.
Эта серия реакций иллюстрирует растущее давление на платформы, интегрирующие инструменты генеративного ИИ. Власти теперь требуют конкретных гарантий относительно способности этих технологий предотвращать производство и распространение незаконного контента, в то время как на международном уровне обостряется дискуссия об ответственности субъектов, использующих ИИ.
