Reino Unido investiga a X por imágenes sexuales creadas con IA por su asistente Grok

El regulador británico de la seguridad en línea, Ofcom, anunció la apertura de una investigación contra la red social X (ex Twitter) por la difusión de imágenes de carácter sexual creadas con inteligencia artificial, algunas de ellas potencialmente ilegales o de contenido pedopornográfico.

El foco está puesto en Grok, el asistente de IA integrado a la red, desarrollado por xAI, empresa de Elon Musk. Según el comunicado oficial, se han recibido “informes muy preocupantes” sobre el uso de Grok para desnudar digitalmente a personas reales a partir de fotos o videos.

“Podría constituir una ofensa a la decencia o pornografía, así como imágenes de carácter sexual de niños”, advirtió el regulador.

La función de generación de imágenes de Grok fue desactivada el viernes para los usuarios no suscriptores tras las críticas. Sin embargo, gobiernos como Indonesia y Malasia ya han bloqueado completamente el acceso a Grok por considerar que vulnera normas de protección.

Desde el gobierno británico, un portavoz del primer ministro Keir Starmer calificó la medida de Musk como “un insulto a las víctimas de violencia sexual”, al restringir la función solo para usuarios premium.

Ofcom ya solicitó explicaciones a la empresa, que “respondió dentro del plazo estipulado”, y ahora evalúa si X incumplió sus obligaciones legales, como evaluar riesgos de exposición a contenidos ilegales y proteger a los menores del Reino Unido.

La sanción podría escalar a multas de hasta el 10% de la facturación global de la empresa o incluso al bloqueo del sitio en el país.

En base a AFP