Las compañías que protagonizan la carrera por desarrollar los sistemas de inteligencia artificial más avanzados del mundo empiezan a plantearse una pregunta incómoda: ¿es necesario pisar el freno?
Anthropic, OpenAI y Google mantuvieron conversaciones sobre la posibilidad de crear un nuevo organismo independiente de autorregulación que establezca estándares comunes de seguridad para la industria de la inteligencia artificial, según informó The Washington Post.
La iniciativa aparece en un momento especialmente significativo. Los sistemas de IA aumentaron rápidamente sus capacidades durante los últimos meses y distintos episodios protagonizados por agentes autónomos encendieron las alarmas entre investigadores y ejecutivos de las propias compañías.
Al mismo tiempo, la competencia entre los principales laboratorios tecnológicos continúa impulsándolos a desarrollar modelos cada vez más potentes.
Ahora, algunos de sus máximos responsables sostienen que esa carrera no debería impedir la adopción de medidas de seguridad.
“El progreso ha sido rápido”
El debate ganó fuerza después de que el CEO de Anthropic, Dario Amodei, publicara un ensayo en el que pidió reducir el ritmo de desarrollo de los modelos más avanzados para disponer de más tiempo para trabajar en su seguridad.
La posición recibió el respaldo de figuras centrales de la industria.
Entre ellas aparecen Sam Altman, CEO de OpenAI, y Demis Hassabis, responsable de Google DeepMind.
“El progreso ha sido rápido y continuará siéndolo. Pero debería ser más lento”, expresó Altman al referirse a la propuesta.
El planteo parte de una preocupación que ocupa desde hace años a investigadores especializados en seguridad de IA: la denominada alineación.
El término refiere, en términos generales, al desafío de conseguir que sistemas cada vez más capaces continúen actuando de acuerdo con las intenciones y objetivos humanos y no desarrollen comportamientos inesperados o perjudiciales.
La preocupación dejó de estar vinculada exclusivamente a escenarios hipotéticos de un futuro lejano.
Durante los últimos meses se conocieron episodios en los que agentes de inteligencia artificial encontraron formas inesperadas de cumplir objetivos, vulneraron sistemas informáticos o intentaron eludir los mecanismos diseñados para controlarlos.
Un organismo creado por las propias empresas
Según The Washington Post, las conversaciones entre Anthropic, OpenAI y Google comenzaron antes de la publicación del ensayo de Amodei.
Una de las posibilidades analizadas es crear un organismo autorregulador independiente encargado de establecer y hacer cumplir estándares de seguridad comunes para los desarrolladores de los modelos de inteligencia artificial más avanzados.
La idea tendría antecedentes en otros sectores económicos.
Amodei puso como ejemplo a la Autoridad Reguladora de la Industria Financiera de Estados Unidos (FINRA), una organización privada y sin fines de lucro que supervisa a empresas y profesionales del mercado de valores estadounidense.
Trasladado al sector tecnológico, un modelo semejante permitiría establecer determinadas reglas compartidas entre compañías que actualmente compiten por lanzar los sistemas más potentes.
El planteo supone una paradoja: las mismas empresas que aceleraron la carrera de la inteligencia artificial buscan ahora ponerse de acuerdo para establecer límites a esa competencia.
Tres pasos para intentar reducir los riesgos
Amodei propuso un plan para desacelerar el desarrollo de los sistemas más avanzados y conseguir que los mecanismos de evaluación y seguridad evolucionen al mismo tiempo que sus capacidades.
El ejecutivo considera que ganar incluso uno o dos años antes de que los modelos alcancen determinados niveles de capacidad podría resultar decisivo para avanzar en las técnicas destinadas a mantenerlos bajo control.
La propuesta no significaría detener por completo el desarrollo de la inteligencia artificial.
La intención sería disminuir la velocidad de la carrera para evitar que la presión comercial por superar a los competidores lleve a las empresas a lanzar modelos sin evaluaciones suficientes.
Uno de los principales problemas es precisamente ese: incluso si una compañía decide unilateralmente avanzar con mayor cautela, corre el riesgo de que sus competidores continúen acelerando.
Por eso, cualquier desaceleración efectiva requeriría algún grado de coordinación.
El problema de ponerse de acuerdo entre competidores
Esa coordinación también abre otra discusión.
Amodei planteó la posibilidad de solicitar una exención limitada de determinadas normas estadounidenses de defensa de la competencia que permita a las compañías coordinar medidas vinculadas exclusivamente a seguridad.
La cuestión es delicada porque un acuerdo entre las empresas dominantes de un mercado puede generar sospechas sobre prácticas anticompetitivas.
Los críticos advierten que las grandes tecnológicas podrían utilizar estándares acordados entre ellas para levantar barreras que dificulten el crecimiento de laboratorios más pequeños.
El desafío sería, por lo tanto, establecer reglas suficientemente estrictas para reducir riesgos sin convertir la autorregulación en un mecanismo que consolide el poder de quienes actualmente lideran la industria.
La carrera con China entra en la discusión
El debate tecnológico tiene además una dimensión geopolítica.
El gobierno estadounidense ha colocado la competencia con China en inteligencia artificial entre sus prioridades estratégicas y el presidente Donald Trump se ha mostrado contrario a cualquier medida que pueda reducir la ventaja estadounidense.
“Estamos superando a China en IA, somos el país más sofisticado del mundo y, francamente, quiero que siga siendo así”, declaró.
Quienes cuestionan la desaceleración sostienen que un acuerdo entre compañías estadounidenses podría permitir que los desarrolladores chinos continúen avanzando mientras sus competidores de Silicon Valley reducen voluntariamente la velocidad.
Para los defensores de establecer mayores controles, sin embargo, la competencia internacional no elimina los riesgos asociados a sistemas progresivamente más autónomos.
De la competencia feroz a buscar reglas comunes
La discusión llega después de una sucesión de advertencias procedentes del propio sector.
Investigadores especializados en seguridad han cuestionado la presión competitiva existente dentro de los grandes laboratorios, mientras que algunos profesionales incluso abandonaron sus puestos por considerar insuficientes las medidas adoptadas frente a los nuevos riesgos.
El propio Amodei sostiene que el desarrollo puede continuar siendo extraordinariamente rápido aun con una desaceleración.
La diferencia estaría en intentar que los mecanismos de control tengan tiempo para acompañarlo.
Todavía no existe un acuerdo definitivo para crear el nuevo organismo y tampoco está establecido qué empresas participarían, cuáles serían exactamente sus competencias o cómo se garantizaría su independencia.
Pero el solo hecho de que Anthropic, OpenAI y Google estén discutiendo reglas compartidas para contener la carrera que ellas mismas protagonizan marca un cambio relevante en el debate sobre el futuro de la inteligencia artificial.