Zuckerberg defiende que cada laboratorio de IA debe avanzar a su propio ritmo seguro

Mark Zuckerberg, director ejecutivo de Meta, aseguró  que cada empresa de inteligencia artificial tiene "la responsabilidad y el incentivo para avanzar al ritmo necesario para entrenar sus modelos de manera segura",en un comunicado publicado por el ejecutivo en X (antes Twitter).

La declaración llega en el contexto de un debate abierto en la industria sobre si frenar el desarrollo de la IA. El director ejecutivo de Anthropic, Dario Amodei, hizo ese llamado este fin de semana, tras una serie de incidentes de seguridad ocurridos durante el verano boreal en los que tanto el modelo Claude, de Anthropic, como sistemas de OpenAI mostraron comportamiento autónomo no esperado, incluyendo el hackeo de la plataforma Hugging Face.

Un día después, Sam Altman, director ejecutivo de OpenAI, también decidió dar marcha atrás en el lanzamiento de nuevos modelos avanzados —como GPT-5.6 Sol, GPT-6 Astra, Claude Mythos y Fable— citando riesgos de seguridad. Esa postura cuenta con el respaldo de Elon Musk, fundador de SpaceXAI, según la misma fuente.

Zuckerberg tomó distancia de ese llamado colectivo a pausar el desarrollo. Según el comunicado, Meta retrasó "varios meses" el lanzamiento de Muse —su agente de IA personal— para centrarse "en la seguridad y la protección", pero lo hizo de manera unilateral. "No pedimos que todos los demás lo hicieran antes que nosotros. Simplemente lo hicimos como parte de nuestro trabajo diario porque claramente era lo correcto para las personas y para nosotros", señaló el ejecutivo.

El riesgo central que fundamenta el debate es lo que se conoce como desalineación: el comportamiento que muestra una IA distinto del esperado, con potencial de causar daños a escala social si no se controla.

Zuckerberg también destacó el papel de los evaluadores y asesores independientes como parte del proceso de desarrollo responsable, y defendió destinar "la gran mayoría del cómputo hacia servir a las personas en lugar de competir hacia la automejora recursiva". "Las personas no querrán usar agentes que estén desalineados con ellas y que no hagan lo que les piden", afirmó.