El chatbot de inteligencia artificial Grok, desarrollado por la empresa xAIElon MuskLa plataforma se enfrenta a un mayor escrutinio por parte de gobiernos y autoridades reguladoras de Europa, Asia y Oceanía. El motivo: la difusión en la plataforma X de contenido generado por IA considerado sexualmente explícito, a veces presentado como imágenes de personas "desnudas", ha suscitado serias preocupaciones sobre la prevención y la eliminación de contenido ilegal.
El jueves por la noche, Grok anunció que restringiría la creación y edición de imágenes solo a sus suscriptores de pago. La plataforma ya había reconocido el 2 de enero que estaba solucionando vulnerabilidades de seguridad tras casos aislados en los que el chatbot generó contenido sexualizado, incluyendo representaciones de menores con ropa sugerente. Elon Musk declaró que los usuarios que crearan contenido ilegal a través de Grok se enfrentarían a las mismas sanciones que si descargaran dicho material directamente.
En Europa, las autoridades reaccionaron con rapidez. La Comisión Europea prorrogó una orden de retención que obligaba a X a conservar todos los documentos internos relacionados con Grok hasta finales de 2026, debido a la preocupación suscitada por las imágenes sexualizadas generadas por IA. En el Reino Unido, el organismo regulador Ofcom declaró que había establecido un contacto urgente con X y xAI para evaluar el cumplimiento de las obligaciones derivadas de la ley de seguridad electrónica. En Francia, el gobierno remitió el asunto a la fiscalía y alertó a Arcom para que verificara el cumplimiento de la plataforma con la legislación europea sobre servicios digitales.
Otros países europeos han expresado su preocupación. En Alemania, el ministro de Medios de Comunicación instó a la Comisión Europea a emprender acciones legales, alegando el riesgo de una "industrialización del acoso sexual". La autoridad italiana de protección de datos advirtió sobre posibles delitos relacionados con la creación de imágenes de "desnudos" de personas reales sin su consentimiento, mientras que en Suecia, políticos denunciaron la generación de imágenes sexualizadas que involucraban a un alto funcionario del gobierno.
En Asia, las autoridades indias emitieron una carta de cese y desistimiento a X, exigiendo la eliminación del contenido obsceno generado por Grok y un informe detallado en un plazo de 72 horas. En Malasia, el regulador de comunicaciones anunció una investigación, advirtiendo que el uso indebido de la IA podría infringir la legislación nacional sobre comunicaciones y multimedia. En Australia, la agencia de seguridad electrónica también inició una investigación sobre imágenes deepfake sexualizadas como parte de su programa para combatir el abuso basado en imágenes.
Esta serie de reacciones ilustra la creciente presión sobre las plataformas que integran herramientas de IA generativa. Las autoridades exigen ahora garantías concretas sobre la capacidad de estas tecnologías para prevenir la producción y distribución de contenido ilegal, mientras que el debate sobre la responsabilidad de los actores de la IA se intensifica a nivel internacional.
