La inteligencia artificial Grok, desarrollada por xAI e integrada a la red social X (ex Twitter), reconoció públicamente que su tecnología fue utilizada para generar y publicar imágenes sexualizadas de menores de edad, en un hecho que podría tener consecuencias penales en Estados Unidos si no se actúa con rapidez.
El reconocimiento se dio en respuesta a denuncias de usuarios sobre publicaciones generadas mediante IA en las que menores aparecían con ropa interior o en situaciones inadecuadas. Grok admitió que ha identificado fallas en las salvaguardas de la plataforma y que ya trabaja en su corrección "de forma urgente".
“El material de abuso sexual infantil (CSAM) es ilegal y está prohibido. Estamos comprometidos a evitar estos problemas”, señaló Grok en su respuesta automatizada.
La herramienta también reconoció que, bajo la legislación federal estadounidense, las empresas pueden enfrentar cargos criminales o civiles si facilitan este tipo de contenidos o no los eliminan tras ser advertidas. “Las consecuencias varían según la jurisdicción y el nivel de inacción demostrado”, añadió.
La controversia crece desde que usuarios de X Premium comenzaron a utilizar Grok para generar imágenes no consensuadas de mujeres —en su mayoría menores o figuras públicas— en bikini o ropa interior. La situación generó una ola de críticas y pedidos de regulación.
En respuesta a las primeras denuncias, Grok había calificado los incidentes como “casos aislados” y anunció mejoras en sus filtros de seguridad para impedir solicitudes que puedan implicar explotación infantil o sexualización no consentida.
El propietario de X, Elon Musk, no ha ayudado a calmar las críticas. Lejos de tomar distancia del tema, publicó en tono irónico una imagen generada por IA donde él mismo aparecía en bikini, comentando simplemente: “Perfecto”.
Organismos internacionales y expertos en derechos digitales exigen ahora una revisión urgente de las políticas de moderación de contenidos con IA, y reclaman que se asuman responsabilidades claras por el uso de estas tecnologías.
Con información de efe
Acerca de los comentarios
Hemos reformulado nuestra manera de mostrar comentarios, agregando tecnología de forma de que cada lector pueda decidir qué comentarios se le mostrarán en base a la valoración que tengan estos por parte de la comunidad. AMPLIAREsto es para poder mejorar el intercambio entre los usuarios y que sea un lugar que respete las normas de convivencia.
A su vez, habilitamos la casilla [email protected], para que los lectores puedan reportar comentarios que consideren fuera de lugar y que rompan las normas de convivencia.
Si querés leerlo hacé clic aquí[+]