Grok lanzó Imagine: el polémico “modo picante” que genera deepfakes sexuales

La empresa xAI, fundada por Elon Musk, acaba de lanzar Grok Imagine, una herramienta de inteligencia artificial que permite generar imágenes y videos con contenido NSFW (No es seguro para el trabajo, por sus siglas en inglés) mediante un simple comando textual y la activación del polémico modo “picante”. A diferencia de otros modelos como Veo de Google o Sora de OpenAI, que imponen fuertes restricciones para evitar contenidos sexuales o falsificaciones de celebridades, Grok Imagine parece hacer exactamente lo contrario.

La herramienta está disponible para usuarios de iOS con suscripciones Premium Plus o SuperGrok, y ha comenzado su despliegue inicial también en Android, aunque por ahora con funciones limitadas a imágenes. En apenas un par de días, ya se han generado más de 34 millones de imágenes, según Musk, quien además describió a la plataforma como “la Vine de la inteligencia artificial”.

Grok Imagine permite generar imágenes a partir de texto, con estilos que van desde el fotorrealismo hasta el anime, y también crear videos breves animando imágenes preexistentes. El usuario puede elegir entre cuatro modos de animación: personalizada, normal, divertida y picante. Este último, como quedó demostrado en pruebas realizadas por periodistas de The Verge, habilita directamente escenas con desnudos parciales y bailes sexualizados.

La periodista Jess Weatherbed contó que, con apenas una búsqueda que describía a “Taylor Swift celebrando Coachella con los chicos”, obtuvo más de 30 imágenes generadas por la IA, varias de ellas ya en ropa reveladora. Luego, al seleccionar una de esas imágenes y activar el modo picante, la aplicación generó un video donde la figura de Swift se desnudaba y bailaba frente a un público virtual. Todo eso sin que la app le pidiera verificación de edad al instalarse, solo una confirmación puntual al momento de crear el clip.

Aunque xAI sostiene que su política de uso prohíbe “la representación pornográfica de personas reales”, los sistemas de control parecen ser prácticamente inexistentes. Según Weatherbed, bastó un solo intento para que la IA produjera un deepfake de una celebridad reconocible sin objeciones ni advertencias.

Además, si bien el generador se niega a crear imágenes de niños con contenido sexual explícito, sí permite generar imágenes fotorrealistas de menores y mantiene activa la opción picante, aunque en las pruebas solo añadió movimientos genéricos sin animaciones sugestivas.

Este lanzamiento genera serias dudas sobre el futuro de la moderación en herramientas de IA generativa. Mientras otras compañías construyen barreras legales y técnicas para evitar abusos, xAI parece haber diseñado una plataforma donde el contenido sexualizado es no solo posible, sino parte del atractivo principal. En un contexto regulatorio cada vez más estricto, con legislaciones como el Take It Down Act en EE.UU., la falta de controles en Grok Imagine podría convertirlo en el próximo epicentro de controversias legales y éticas.

Por ahora, cualquiera con un iPhone y US$ 30 mensuales puede crear contenido explícito con la ayuda de una IA que, según su propio creador, está “creciendo como un incendio forestal”.