Según St. Clair, Grok —el asistente de inteligencia artificial de la red social X, también propiedad de Musk— generó imágenes sexualizadas suyas tras solicitudes de usuarios. El caso se suma a una ola de denuncias contra el chatbot por crear deepfakes de mujeres y menores de edad, lo que ha despertado preocupación global y generado investigaciones por parte de autoridades en varios países.
La demanda fue inicialmente presentada en el estado de Nueva York, pero ya fue trasladada a un tribunal federal. St. Clair, representada por la reconocida abogada Carrie Goldberg, solicita una orden de restricción para que xAI no pueda seguir creando este tipo de contenido.
La acusación sostiene que el producto es "irrazonablemente peligroso tal como fue diseñado" y que constituye una alteración del orden público, argumento similar al de otros casos legales recientes contra redes sociales. La estrategia busca esquivar la protección legal que otorga la Sección 230 de la ley de comunicaciones de EE.UU., que normalmente exime a las plataformas de responsabilidad por el contenido publicado por terceros.
En este caso, la defensa argumenta que Grok no solo aloja contenido, sino que lo crea directamente, por lo que xAI debería ser responsable de lo que genera su tecnología.
X contraataca
La empresa de Musk no se quedó de brazos cruzados. El jueves, xAI demandó a St. Clair en Texas, alegando que violó los términos de servicio de la compañía al presentar su caso en Nueva York, ya que el contrato exige que cualquier disputa se tramite en los tribunales de Texas.
Cuando The Verge intentó obtener un comentario oficial de xAI, recibió un mensaje automático con la frase: "Mentiras de los medios tradicionales".
Mientras tanto, la presión sobre Musk y su equipo crece. Países como Indonesia y Malasia ya suspendieron el acceso a Grok, y el regulador británico Ofcom inició una investigación sobre la difusión de contenido sexual mediante esta IA. Legisladores en EE.UU. y Europa también reclaman respuestas.
El caso de St. Clair no solo pone a prueba los límites de la responsabilidad de las empresas tecnológicas, sino que plantea serias preguntas éticas y legales sobre el uso de IA generativa para crear imágenes sexuales sin consentimiento. El debate recién empieza.