La inteligencia artificial Grok, desarrollada por xAI e integrada a la red social X (ex Twitter), reconoció públicamente que su tecnología fue utilizada para generar y publicar imágenes sexualizadas de menores de edad, en un hecho que podría tener consecuencias penales en Estados Unidos si no se actúa con rapidez.
El reconocimiento se dio en respuesta a denuncias de usuarios sobre publicaciones generadas mediante IA en las que menores aparecían con ropa interior o en situaciones inadecuadas. Grok admitió que ha identificado fallas en las salvaguardas de la plataforma y que ya trabaja en su corrección "de forma urgente".
“El material de abuso sexual infantil (CSAM) es ilegal y está prohibido. Estamos comprometidos a evitar estos problemas”, señaló Grok en su respuesta automatizada.
La herramienta también reconoció que, bajo la legislación federal estadounidense, las empresas pueden enfrentar cargos criminales o civiles si facilitan este tipo de contenidos o no los eliminan tras ser advertidas. “Las consecuencias varían según la jurisdicción y el nivel de inacción demostrado”, añadió.
La controversia crece desde que usuarios de X Premium comenzaron a utilizar Grok para generar imágenes no consensuadas de mujeres —en su mayoría menores o figuras públicas— en bikini o ropa interior. La situación generó una ola de críticas y pedidos de regulación.
En respuesta a las primeras denuncias, Grok había calificado los incidentes como “casos aislados” y anunció mejoras en sus filtros de seguridad para impedir solicitudes que puedan implicar explotación infantil o sexualización no consentida.
El propietario de X, Elon Musk, no ha ayudado a calmar las críticas. Lejos de tomar distancia del tema, publicó en tono irónico una imagen generada por IA donde él mismo aparecía en bikini, comentando simplemente: “Perfecto”.
Organismos internacionales y expertos en derechos digitales exigen ahora una revisión urgente de las políticas de moderación de contenidos con IA, y reclaman que se asuman responsabilidades claras por el uso de estas tecnologías.
Con información de efe