Anthropic propõe uma pausa global diante do avanço da inteligência artificial

A empresa norte-americana de inteligência artificial Anthropic advertiu que os sistemas mais avançados de IA poderiam ser capazes de projetar e desenvolver de forma autônoma seus próprios sucessores nos próximos anos, um cenário que considera potencialmente transformador, mas também carregado de riscos.

Diante dessa possibilidade, a empresa propôs abrir o debate sobre uma eventual pausa temporária e coordenada no desenvolvimento da chamada inteligência artificial de ponta, com o objetivo de permitir que a pesquisa, as instituições e os marcos regulatórios possam se adaptar ao ritmo da tecnologia.

A possibilidade de que a IA projete seu próprio substituto

Em uma publicação divulgada nesta quinta-feira, a Anthropic explicou que cada vez mais delega uma parte maior do desenvolvimento de seus sistemas a ferramentas de inteligência artificial criadas pela própria empresa.

Segundo a empresa, o crescimento da capacidade computacional e a melhoria constante dos modelos aproximam a possibilidade da chamada "autoaperfeiçoamento recursivo", um processo pelo qual uma IA poderia projetar, treinar e aperfeiçoar uma nova geração de sistemas sem intervenção humana direta.

A empresa esclarece que esse cenário não é inevitável, mas considera que poderia se materializar antes que muitas instituições estejam preparadas para gerenciá-lo.

Benefícios e riscos

A Anthropic reconhece que uma inteligência artificial capaz de melhorar suas próprias capacidades poderia acelerar avanços científicos, médicos e tecnológicos de enorme impacto.

No entanto, também adverte que esse processo poderia aumentar significativamente os riscos associados à perda de controle humano sobre sistemas cada vez mais complexos.

"Se os sistemas forem capazes de criar completamente seus próprios sucessores, os mecanismos para supervisioná-los, alinhá-los e garantir sua segurança tornam-se muito mais importantes", destacou a empresa.

Um chamado para uma pausa coordenada

Diante desse cenário, a Anthropic considera que seria conveniente que a comunidade internacional dispusesse de mecanismos que permitissem desacelerar ou suspender temporariamente o desenvolvimento de determinados sistemas avançados, se necessário.

A empresa sustenta que uma pausa desse tipo só seria eficaz se fosse adotada simultaneamente pelos principais laboratórios de inteligência artificial do mundo e acompanhada por mecanismos de verificação que permitam comprovar seu cumprimento.

Segundo a empresa, qualquer esquema dessa natureza deveria definir claramente quais circunstâncias ativariam uma pausa, quem teria a autoridade para decidí-la e quais seriam as condições para retomar o desenvolvimento.

Claude já participa ativamente no desenvolvimento

A empresa ilustrou a velocidade dos avanços com dados internos sobre Claude, sua família de modelos de inteligência artificial.

De acordo com a Anthropic, atualmente mais de 80% do código incorporado aos seus sistemas é gerado pelo Claude, um número que contrasta com menos de 10% registrado no início de 2025.

A empresa prevê que, no futuro, agentes de IA como Claude possam assumir tarefas cada vez mais complexas relacionadas ao seu próprio treinamento e evolução.

Um debate cada vez mais presente

A advertência se soma a uma crescente discussão dentro da indústria tecnológica sobre os limites, riscos e mecanismos de governança da inteligência artificial avançada.

Enquanto empresas como Anthropic, OpenAI, Google e Microsoft aceleram o desenvolvimento de modelos cada vez mais potentes, governos, pesquisadores e organismos internacionais analisam como estabelecer regras que permitam aproveitar o potencial dessas ferramentas sem perder a capacidade de supervisão.

O documento foi assinado pelo cofundador da Anthropic, Jack Clark, e pela diretora do The Anthropic Institute, Marina Favaro, que consideram que a possibilidade de uma inteligência artificial capaz de melhorar autonomamente suas próprias capacidades merece uma discussão global antes de se tornar uma realidade tecnológica.

Com informações da Efe