Чат-бот зі штучним інтелектом Grok, розроблений компанією xAIЕлон МаскПлатформа стикається з посиленою увагою з боку урядів та регуляторних органів Європи, Азії та Океанії. Причина: поширення на платформі X контенту, створеного штучним інтелектом, який вважається сексуально відвертим, іноді представленого як зображення «оголених» людей, що викликало серйозні занепокоєння щодо запобігання та видалення незаконного контенту.
У четвер увечері Grok оголосив, що тепер створення та редагування зображень обмежуватиметься лише своїми платними передплатниками. Платформа вже 2 січня визнала, що виправляє вразливості безпеки після окремих випадків, коли чат-бот генерував сексуалізований контент, зокрема зображення неповнолітніх у відвертому одязі. Ілон Маск заявив, що користувачі, які створюють незаконний контент через Grok, зіткнуться з тими ж покараннями, що й у випадку, якщо вони завантажують такий матеріал безпосередньо.
У Європі влада відреагувала швидко. Європейська комісія продовжила термін дії наказу про зберігання, який вимагає від X зберігати всі внутрішні документи, пов'язані з Grok, до кінця 2026 року, через занепокоєння, викликані зображеннями сексуального характеру, створеними штучним інтелектом. У Великій Британії регулятор Ofcom заявив, що він «терміново зв’язався» з X та xAI для оцінки дотримання зобов’язань згідно із законом про електронну безпеку. У Франції уряд передав це питання до прокуратури та попередив Arcom про необхідність перевірити відповідність платформи європейському законодавству про цифрові послуги.
Інші європейські країни висловили свою стурбованість. У Німеччині міністр ЗМІ закликав Європейську комісію вжити правових заходів, посилаючись на ризик «індустріалізації сексуальних домагань». Італійський орган із захисту даних попередив про можливі кримінальні правопорушення, пов’язані зі створенням «оголених» зображень реальних людей без їхньої згоди, тоді як у Швеції політики засудили створення сексуалізованих зображень за участю високопоставленого урядовця.
В Азії влада Індії надіслала X листа про припинення та утримання, вимагаючи видалення непристойного контенту, створеного Grok, та детального звіту протягом 72 годин. У Малайзії регулятор зв'язку оголосив про розслідування, попередивши, що неправильне використання штучного інтелекту може порушити національне законодавство про зв'язок та мультимедіа. В Австралії агентство eSafety також розпочало розслідування сексуалізованих діпфейкових зображень у рамках своєї програми боротьби з насильством на основі зображень.
Ця серія реакцій ілюструє зростаючий тиск на платформи, що інтегрують інструменти генеративного штучного інтелекту. Влада зараз вимагає конкретних гарантій щодо здатності цих технологій запобігати виробництву та розповсюдженню незаконного контенту, тоді як на міжнародному рівні загострюються дебати щодо відповідальності учасників ШІ.
