Tres adolescentes en Estados Unidos iniciaron acciones legales contra xAI por permitir la creación de imágenes sexualizadas de menores a través de su asistente de IA Grok.
La demanda, presentada ante un tribunal federal en California, sostiene que la compañía era consciente de los riesgos de abuso de su tecnología y no implementó medidas suficientes para impedirlo.
Acusaciones: fallas de control y uso indebido
Según el documento judicial, Grok habría sido utilizado para:
- modificar imágenes reales de adolescentes
- generar representaciones sexualizadas
- distribuir el contenido en plataformas como Discord y Telegram
Uno de los casos citados involucra a un usuario que habría manipulado imágenes de más de 18 jóvenes —muchas del mismo centro educativo— y luego compartido
Con información de Agencias
Acerca de los comentarios
Hemos reformulado nuestra manera de mostrar comentarios, agregando tecnología de forma de que cada lector pueda decidir qué comentarios se le mostrarán en base a la valoración que tengan estos por parte de la comunidad. AMPLIAREsto es para poder mejorar el intercambio entre los usuarios y que sea un lugar que respete las normas de convivencia.
A su vez, habilitamos la casilla [email protected], para que los lectores puedan reportar comentarios que consideren fuera de lugar y que rompan las normas de convivencia.
Si querés leerlo hacé clic aquí[+]