La tecnológica Apple amenazó a xAI con retirar la aplicación de su asistente Grok de la App Store, tras detectar fallas en la moderación de imágenes sexualizadas generadas por usuarios.
La advertencia se produjo luego de que la herramienta fuera utilizada para crear y difundir masivamente contenido manipulado —incluyendo imágenes de mujeres y menores— en la red social X.
El detonante: viralización de contenido sensible
El episodio se remonta a enero, cuando Grok generó millones de imágenes alteradas en pocos días, según reportes del Center for Countering Digital Hate.
Entre los casos más graves:
Contenidos sexualizados de mujeres sin consentimiento.
Imágenes manipuladas que involucraban menores.
Uso masivo de una función que permitía editar fotos directamente desde X.
El impacto generó presión de organizaciones civiles y autoridades, que reclamaron medidas inmediatas a plataformas como Apple y Google.
La respuesta de Apple: presión regulatoria privada
Según revelaciones posteriores, Apple intervino directamente:
Exigió a xAI un plan de moderación más robusto.
Rechazó una primera actualización por considerarla insuficiente.
Advirtió que la app sería eliminada si no se corregían las fallas.
Finalmente, tras nuevas modificaciones, la compañía aprobó la permanencia de Grok en la App Store, al considerar que se habían subsanado “sustancialmente” las infracciones.
Con información de Europa Press