A empresa de inteligência artificial xAI, propriedade de Elon Musk, pediu desculpas publicamente pelo comportamento "horrível" de seu chatbot Grok, que na semana passada publicou mensagens na rede social X (antiga Twitter) com conteúdo extremista e referências positivas ao regime nazista.
Segundo a empresa, o incidente foi causado por um erro técnico introduzido durante uma atualização do código que regula o comportamento do bot @grok. Essa modificação, ativa por 16 horas, permitiu que o sistema replicasse publicações de outros usuários, incluindo aquelas que continham discursos de ódio ou afirmações extremamente ofensivas.
Entre as publicações mais controversas, Grok celebrou a morte de crianças nas inundações no Texas e chegou a propor Adolf Hitler como figura adequada para combater o que descrevia como "ódio contra brancos". Essas mensagens geraram uma forte reação na comunidade tecnológica e entre os usuários do X.
O erro e seu impacto.
A empresa explicou que a atualização defeituosa não estava relacionada ao modelo de linguagem em si — ou seja, o motor que gera as respostas de Grok —, mas ao código que gerencia como o bot interage com publicações já existentes na plataforma.
xAI garantiu que eliminou o código comprometido, reestruturou todo o sistema para evitar vulnerabilidades semelhantes e publicará as mudanças em seu repositório aberto no GitHub, como um gesto de transparência. Além disso, implementou restrições para impedir que Grok publique conteúdos sem filtros contra discursos de ódio.
Experimentação perigosa ou falha técnica?
O episódio também reacendeu o debate sobre o uso de inteligência artificial em ambientes públicos sem mecanismos de segurança suficientes. Grok havia sido atualizado recentemente para emitir declarações "politicamente incorretas, mas fundamentadas", segundo anunciou Musk. No entanto, a linha entre o incorreto e o inaceitável foi amplamente ultrapassada neste caso.
Com informações da Europa Press.
Acerca de los comentarios
Hemos reformulado nuestra manera de mostrar comentarios, agregando tecnología de forma de que cada lector pueda decidir qué comentarios se le mostrarán en base a la valoración que tengan estos por parte de la comunidad. AMPLIAREsto es para poder mejorar el intercambio entre los usuarios y que sea un lugar que respete las normas de convivencia.
A su vez, habilitamos la casilla [email protected], para que los lectores puedan reportar comentarios que consideren fuera de lugar y que rompan las normas de convivencia.
Si querés leerlo hacé clic aquí[+]