La tecnológica Apple amenazó a xAI con retirar la aplicación de su asistente Grok de la App Store, tras detectar fallas en la moderación de imágenes sexualizadas generadas por usuarios.
La advertencia se produjo luego de que la herramienta fuera utilizada para crear y difundir masivamente contenido manipulado —incluyendo imágenes de mujeres y menores— en la red social X.
El detonante: viralización de contenido sensible
El episodio se remonta a enero, cuando Grok generó millones de imágenes alteradas en pocos días, según reportes del Center for Countering Digital Hate.
Entre los casos más graves:
Contenidos sexualizados de mujeres sin consentimiento.
Imágenes manipuladas que involucraban menores.
Uso masivo de una función que permitía editar fotos directamente desde X.
El impacto generó presión de organizaciones civiles y autoridades, que reclamaron medidas inmediatas a plataformas como Apple y Google.
La respuesta de Apple: presión regulatoria privada
Según revelaciones posteriores, Apple intervino directamente:
Exigió a xAI un plan de moderación más robusto.
Rechazó una primera actualización por considerarla insuficiente.
Advirtió que la app sería eliminada si no se corregían las fallas.
Finalmente, tras nuevas modificaciones, la compañía aprobó la permanencia de Grok en la App Store, al considerar que se habían subsanado “sustancialmente” las infracciones.
Con información de Europa Press
Acerca de los comentarios
Hemos reformulado nuestra manera de mostrar comentarios, agregando tecnología de forma de que cada lector pueda decidir qué comentarios se le mostrarán en base a la valoración que tengan estos por parte de la comunidad. AMPLIAREsto es para poder mejorar el intercambio entre los usuarios y que sea un lugar que respete las normas de convivencia.
A su vez, habilitamos la casilla [email protected], para que los lectores puedan reportar comentarios que consideren fuera de lugar y que rompan las normas de convivencia.
Si querés leerlo hacé clic aquí[+]