Grok difunde información errónea sobre tiroteo en Bondi Beach y confunde video clave

El chatbot Grok, desarrollado por la empresa de Elon Musk e integrado en la red social X, fue sorprendido difundiendo información errónea sobre el tiroteo masivo en Bondi Beach, en Sídney, que dejó al menos 15 personas fallecidas durante una celebración de Janucá. El error pone en evidencia los riesgos que persisten en el uso de inteligencia artificial para informar sobre eventos en desarrollo.

Según reportó Gizmodo, el domingo Grok identificó erróneamente un video clave del atentado, en el que se ve al civil Ahmed al Ahmed desarmando a uno de los atacantes, y lo describió como un “viejo video viral de un hombre trepando una palmera” en un estacionamiento. El sistema incluso añadió que el clip mostraba una rama cayendo sobre un automóvil, en una interpretación completamente desvinculada del contexto real.

El problema de la IA con las noticias en desarrollo

El incidente subraya una vez más las limitaciones de los sistemas de IA actuales para interpretar contenidos virales en tiempo real, especialmente en situaciones de crisis o violencia. Aunque Grok fue diseñado para ofrecer respuestas conversacionales basadas en información actualizada, la combinación de datos mal interpretados, falta de verificación y errores de contexto puede conducir a una desinformación grave.

“Este tipo de errores no solo afectan la comprensión pública de los hechos, sino que también pueden trivializar tragedias reales y poner en riesgo la integridad de testigos o víctimas”, señalaron analistas tecnológicos tras la difusión del error.