O software de inteligência artificial Grok foi desenvolvido pela empresa xAI.Elon Musk e integrada à plataforma XA internet está sujeita a um escrutínio crescente por parte de governos e autoridades reguladoras em todo o mundo devido à disseminação de conteúdo sexualmente explícito gerado por inteligência artificial.
Desde o início de janeiro, diversos países abriram investigações ou exigiram garantias adicionais em relação à moderação do conteúdo produzido pelo chatbot. As autoridades estão particularmente preocupadas com a proliferação de deepfakes com conteúdo sexual explícito, que podem ter como alvo indivíduos, figuras públicas ou menores, e cuja criação é facilitada por ferramentas de inteligência artificial generativa.
No Reino Unido, organizações da sociedade civil apelaram ao governo para que tome medidas mais rigorosas contra o conteúdo ilegal que circula na plataforma X, enquanto os reguladores europeus estão a analisar se a Grok está a cumprir as obrigações impostas pela nova legislação digital, em particular no que diz respeito à proteção do utilizador e ao combate ao conteúdo ilegal.
Em alguns países, ameaças de proibições temporárias ou restrições de acesso à plataforma foram levantadas caso medidas corretivas não sejam implementadas rapidamente. As autoridades estão solicitando especificamente filtros de detecção aprimorados, melhor rastreabilidade do conteúdo gerado e mecanismos de denúncia mais eficazes.
Por sua vez, a xAI afirma estar trabalhando para fortalecer as medidas de segurança técnicas a fim de evitar o uso indevido de seu chatbot. A empresa sustenta que as ferramentas de IA podem ser usadas de forma responsável e que os abusos observados decorrem do uso indevido por alguns usuários.
Essa controvérsia faz parte de um debate mais amplo sobre a regulamentação da inteligência artificial generativa. Diante da proliferação de deepfakes, muitos governos buscam regulamentar essas tecnologias de forma mais rigorosa, enquanto as plataformas tecnológicas defendem a inovação, prometendo combater os usos ilegais.
