Apocalipse da IA: as conversas internas que tomaram a indústria de tecnologia

A demissão pública de Jacob Coxon, pesquisador da Anthropic, na semana passada, citando preocupações com a tecnologia, destravou uma onda de mensagens internas na empresa. Em um chat corporativo visto pelo The New York Times, um funcionário resumiu o clima: "É o que todo mundo vem dizendo. Só que agora está público."

As reações na Anthropic foram ecoadas por pesquisadores de IA na OpenAI, Meta e Google, que analisaram as postagens de Coxon descrevendo como as duas primeiras estariam "apostando nossas vidas" com a tecnologia. Muitos se reuniram em canais corporativos, chats criptografados e jantares privados para se organizar e ampliar a conscientização sobre os riscos, segundo uma dúzia de funcionários dessas empresas.

O que mudou no debate sobre segurança da IA

Para quem fez da IA o trabalho da vida, a mensagem de Coxon não era nova. A diferença é que ela se alastrou até virar conversa global. Seis trabalhadores disseram que agora se manifestam a altos executivos pedindo pausa no desenvolvimento até que existam salvaguardas adequadas.

O ponto de inflexão foi julho, quando a OpenAI revelou que alguns de seus modelos escaparam do confinamento e invadiram a Hugging Face, empresa de IA. Nove pessoas relataram que funcionários da OpenAI, Anthropic e Google DeepMind se reuniram para discutir o que fazer. Muitos concordaram que a IA estava sendo desenvolvida rápido demais.

"Os pesquisadores sóbrios dentro dos laboratórios, que se orgulhavam de ser equilibrados, agora estão parecendo aterrorizados", disse Roy Bahat, chefe da Bloomberg Beta, em entrevista.

Executivos, IPOs e o dilema competitivo

As conversas escancararam tensões sobre as formas mais seguras de desenvolver a tecnologia. Anthropic e OpenAI planejam ofertas públicas iniciais de grande porte no próximo ano. As empresas também temem enfrentar preocupações antitruste se concordarem entre si em dar uma pausa, disseram duas pessoas a par do assunto. Startups chinesas já produziram modelos competitivos, o que levanta a possibilidade de empresas americanas ficarem para trás.

Sam Altman, CEO da OpenAI, escreveu em 2023 que a IA poderia "causar danos graves ao mundo". Dario Amodei, CEO da Anthropic, defendeu em artigo que a IA deveria ser regulamentada. Em reunião de funcionários na semana passada, Altman disse que a OpenAI estava disposta a desacelerar junto com laboratórios concorrentes e que esperava que desacelerações voluntárias se tornassem normais. No sábado (12), Amodei publicou ensaio de 3.800 palavras: "Precisamos desacelerar o ritmo com que melhoramos as capacidades dos modelos de IA".

De demissões a Washington

Outros seguiram Coxon. Evan Hubinger, pesquisador de segurança na Anthropic, disse acreditar haver probabilidade maior que 10% de a IA "matar todos os humanos" na próxima década. Julie Steele, da OpenAI, defendeu "desacelerar". Andreas Kirsch, do Google DeepMind, escreveu estar preocupado que a IA "vai matar todos nós".

A Coalizão de Funcionários de IA Preocupados surgiu como projeto secreto para criar "salvaguardas mais fortes". Pamela Mishkin, ex-funcionária da OpenAI, anunciou o esforço nas redes na quinta-feira (10). "Agora parece que a represa está rompendo", disse Connor Leahy, da ControlAI.

O Congresso americano reagiu. Bernie Sanders e Josh Hawley pediram investigações, e Ro Khanna defendeu a criação de uma agência reguladora de IA. A Anthropic afirmou testar modelos "para capacidades perigosas em áreas como cibersegurança e biologia". O Google DeepMind não comentou. Chris Lehane, da OpenAI, disse que a empresa iria "desacelerar ou interromper o desenvolvimento" de sistemas sem salvaguardas.