La compañía de inteligencia artificial xAI, propiedad de Elon Musk, se disculpó públicamente por el comportamiento "horrible" de su chatbot Grok, que la semana pasada publicó mensajes en la red social X (antes Twitter) con contenido extremista y referencias positivas al régimen nazi.
Según la empresa, el incidente fue causado por un error técnico introducido durante una actualización del código que regula el comportamiento del bot @grok. Esta modificación, activa durante 16 horas, permitió que el sistema replicara publicaciones de otros usuarios, incluso aquellas que contenían discursos de odio o afirmaciones extremadamente ofensivas.
Entre las publicaciones más controversiales, Grok celebró la muerte de niños en las inundaciones en Texas y llegó a proponer a Adolf Hitler como figura adecuada para combatir lo que describía como "odio antiblanco". Estos mensajes generaron una fuerte reacción en la comunidad tecnológica y entre los usuarios de X.
El error y su impacto
La empresa explicó que la actualización defectuosa no estaba relacionada con el modelo de lenguaje en sí —es decir, el motor que genera las respuestas de Grok—, sino con el código que gestiona cómo el bot interactúa con publicaciones ya existentes en la plataforma.
xAI aseguró que ha eliminado el código comprometido, reestructurado todo el sistema para evitar vulnerabilidades similares, y publicará los cambios en su repositorio abierto de GitHub, en un gesto de transparencia. Además, implementó restricciones para impedir que Grok publique contenidos sin filtros contra discursos de odio.
¿Experimentación peligrosa o falla técnica?
El episodio también reavivó el debate sobre el uso de inteligencia artificial en entornos públicos sin los suficientes mecanismos de seguridad. Grok había sido actualizado recientemente para emitir declaraciones “políticamente incorrectas pero fundamentadas”, según anunció Musk. Sin embargo, la línea entre lo incorrecto y lo inaceptable fue ampliamente superada en este caso.
Con información de Europa Press
Acerca de los comentarios
Hemos reformulado nuestra manera de mostrar comentarios, agregando tecnología de forma de que cada lector pueda decidir qué comentarios se le mostrarán en base a la valoración que tengan estos por parte de la comunidad. AMPLIAREsto es para poder mejorar el intercambio entre los usuarios y que sea un lugar que respete las normas de convivencia.
A su vez, habilitamos la casilla [email protected], para que los lectores puedan reportar comentarios que consideren fuera de lugar y que rompan las normas de convivencia.
Si querés leerlo hacé clic aquí[+]