Indonesia bloqueó temporalmente el acceso a Grok, el chatbot con IA de xAI (empresa vinculada a X, antes Twitter), debido a la generación de imágenes sexualizadas no consensuadas, muchas de las cuales involucraban a mujeres reales y menores de edad, e incluso mostraban representaciones de abuso.
La medida fue anunciada por el Ministerio de Comunicaciones y Digital de Indonesia, que calificó la práctica como “una grave violación de los derechos humanos, la dignidad y la seguridad ciudadana en el espacio digital”, según declaraciones de la ministra Meutya Hafid compartidas con The Guardian y otros medios.
El gobierno también ha citado a representantes de X para discutir el tema en profundidad.
Respuesta internacional: de la UE a la India
La decisión de Indonesia se suma a una ola de acciones gubernamentales contra xAI.
- India exigió que la empresa tome medidas inmediatas para frenar la generación de contenido obsceno.
- La Comisión Europea ordenó a xAI conservar toda la documentación relacionada con Grok, posiblemente en preparación para una investigación formal.
- En el Reino Unido, el regulador Ofcom anunció que realizará “una evaluación rápida” para determinar si existen infracciones legales. El primer ministro Keir Starmer aseguró que Ofcom tiene su “pleno respaldo para actuar”.
En cambio, en Estados Unidos, el gobierno de Trump ha permanecido en silencio, pese a la presión de senadores demócratas, quienes han pedido a Apple y Google retirar la app X de sus tiendas.
Medidas y polémica
Tras el escándalo, xAI publicó un mensaje de disculpa desde la cuenta de Grok, reconociendo que uno de los contenidos generados “violó estándares éticos y posiblemente leyes de EE. UU.” sobre abuso infantil. Luego, restringió la generación de imágenes a usuarios pagos, aunque la app Grok siguió permitiendo el acceso abierto a esta función.
La controversia generó además un debate sobre la regulación de este tipo de herramientas. Cuando un usuario preguntó por qué el Reino Unido no actuaba también contra otros generadores de imágenes con IA, Elon Musk respondió en X: “Quieren cualquier excusa para censurar”.