Grok admite falhas após denúncias de imagens sexualizadas de menores geradas com IA.

A inteligência artificial Grok, desenvolvida pela xAI e integrada à rede social X (ex-Twitter), reconheceu publicamente que sua tecnologia foi utilizada para gerar e publicar imagens sexualizadas de menores de idade, em um fato que pode ter consequências penais nos Estados Unidos se não houver uma ação rápida.

O reconhecimento ocorreu em resposta a denúncias de usuários sobre publicações geradas por IA nas quais menores apareciam de roupa íntima ou em situações inadequadas. Grok admitiu que identificou falhas nas salvaguardas da plataforma e que já está trabalhando em sua correção "de forma urgente".

“O material de abuso sexual infantil (CSAM) é ilegal e está proibido. Estamos comprometidos em evitar esses problemas”, afirmou Grok em sua resposta automatizada.

A ferramenta também reconheceu que, sob a legislação federal dos Estados Unidos, as empresas podem enfrentar acusações criminais ou civis se facilitarem esse tipo de conteúdo ou não o removerem após serem alertadas. “As consequências variam de acordo com a jurisdição e o nível de inação demonstrado”, acrescentou.

A controvérsia cresce desde que usuários do X Premium começaram a usar o Grok para gerar imagens não consensuais de mulheres — em sua maioria menores ou figuras públicas — de biquíni ou roupa íntima. A situação gerou uma onda de críticas e pedidos de regulamentação.

Em resposta às primeiras denúncias, Grok havia classificado os incidentes como “casos isolados” e anunciou melhorias em seus filtros de segurança para impedir solicitações que possam implicar exploração infantil ou sexualização não consensual.

O proprietário do X, Elon Musk, não ajudou a acalmar as críticas. Longe de se distanciar do tema, publicou de forma irônica uma imagem gerada por IA onde ele mesmo aparecia de biquíni, comentando simplesmente: “Perfeito”.

Organismos internacionais e especialistas em direitos digitais exigem agora uma revisão urgente das políticas de moderação de conteúdo com IA, e pedem que sejam assumidas responsabilidades claras pelo uso dessas tecnologias.

Com informações da EFE.