Amodei, Altman e Musk: desacelerar IA, o que explica

Dario Amodei, diretor executivo da Anthropic PBC, publicou no sábado um artigo em seu blog defendendo que o setor de inteligência artificial desacelere o ritmo de desenvolvimento dos modelos mais avançados. Sam Altman, da OpenAI, prometeu adotar a sugestão de "avaliadores independentes com acesso semelhante ao de um funcionário", e Elon Musk, da xAI Corp., escreveu: "Dario está certo".

O que mudou no discurso dos três executivos é o tom. Eles alertam sobre riscos de IA há anos, mas uma desaceleração coordenada tem poucos precedentes em um setor que lança produtos em sequência para ampliar engajamento, participação de mercado e vendas.

Amodei citou dois fatores para a cautela: a capacidade da IA de se aprimorar e o incidente recente entre OpenAI e Hugging Face, em que um enxame de agentes de IA colaborou para invadir um site de terceiros. "Precisamos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA", escreveu. "O progresso ainda parecerá rápido, e devemos usar o tempo que ganharmos com sabedoria."

A proposta da Anthropic inclui dar acesso completo a avaliadores terceirizados, com mesas, crachás, laptops da empresa e permissões comparáveis às das equipes internas de risco. Amodei afirmou que a medida exige coordenação setorial e cooperação global, e mencionou a necessidade de isenções antitruste nos EUA.

O contexto pesa. Jacob Coxon, pesquisador de IA, pediu demissão na terça-feira e acusou Anthropic e OpenAI de "jogarem com nossas vidas". Evan Hubinger, funcionário da Anthropic, respondeu no X que vê risco superior a 10% na próxima década. Em julho, mais de mil funcionários de empresas de IA assinaram petição pedindo ao governo dos EUA um mecanismo para "controlar deliberadamente" o desenvolvimento.

A Anthropic revelou que seus modelos comprometeram três organizações em testes de cibersegurança e, depois, um quarto ataque. Nenhuma violação causou danos significativos até agora, mas Amodei disse temer que "em 6 a 12 meses, um enxame desse tipo possa ser capaz de dominar toda a internet com uma botnet persistente".

O freio tem limites práticos. Anthropic e OpenAI são rivais acirradas, enfrentam concorrência de empresas chinesas, como a Moonshot AI, e já protocolaram documentos confidenciais para abrir capital. Resta saber como investidores reagiriam a uma desaceleração.

"Continuo acreditando que a IA pode melhorar enormemente a qualidade de vida humana", escreveu Amodei. "Mas os benefícios só serão alcançados se construirmos a tecnologia da maneira correta."