Hora de frear? CEOs de Anthropic e Nvidia divergem sobre IA

Três dos principais executivos da indústria de inteligência artificial subiram ao mesmo palco, o Dreamforce, conferência anual da Salesforce em San Francisco, e expuseram visões divergentes sobre como lidar com os riscos e o ritmo de avanço da tecnologia. As falas ocorreram nesta terça-feira (15), em momentos distintos da programação.

No centro do debate, a pergunta que mudou de tom: não é mais se a IA precisa de freio, mas quem deve puxá-lo. Dario Amodei, CEO da Anthropic, defendeu uma desaceleração no desenvolvimento dos modelos mais avançados. Jensen Huang, CEO da Nvidia, afirmou que a indústria não precisa de novas leis ou regulações para tratar esses riscos. Mais tarde, Sam Altman, CEO da OpenAI, disse confiar na capacidade das próprias empresas do setor de desenvolver a tecnologia com segurança.

Amodei e Huang participaram, separadamente, da keynote principal comandada por Marc Benioff, CEO da Salesforce. Altman conversou com Benioff mais tarde, em outra apresentação. A participação de Amodei veio poucos dias após ele publicar um ensaio que alertou para os riscos do avanço da IA e defendeu uma desaceleração no desenvolvimento dos chamados modelos de fronteira. O texto recebeu apoio público de executivos de outras empresas do setor.

Na conversa com Benioff, porém, Amodei também apontou o potencial econômico ainda pouco explorado da tecnologia. Segundo ele, apenas entre 5% e 10% do valor que a IA pode gerar atualmente está sendo efetivamente utilizado pela economia. Para o CEO da Anthropic, as empresas ainda precisam de ajuda para implementar IA em larga escala e transformar a tecnologia em ganhos concretos de produtividade. Benioff concordou que a adoção ocorre de forma desigual entre os clientes da Salesforce. "Temos que fazer mais para ajudá-los a acelerar essa transformação", afirmou.

A posição de Huang seguiu outra direção. O CEO da Nvidia disse que as próprias forças de mercado podem pressionar as empresas a desenvolver produtos seguros. "Não precisamos de novas leis, não precisamos de novas regulações", afirmou. Ele também rejeitou a ideia de conflito entre velocidade e segurança. "É uma escolha falsa", disse. "Você pode definitivamente ter os dois ao mesmo tempo."

Ainda assim, Huang ressaltou que a segurança deve continuar sendo prioridade. "Segurança é primordial. Em muitos aspectos, é a prioridade número um. Mas segurança é um problema de engenharia", afirmou, durante uma conversa marcada por brincadeiras com Benioff. Para ele, as empresas precisam estar dispostas a interromper o desenvolvimento quando não tiverem confiança na segurança de um produto. "Corra o mais rápido que puder. Mas, se em algum momento você sentir que a empresa está fora de controle ou que o produto não será seguro, faça uma pausa e certifique-se de acertar."

Horas depois, Altman defendeu a capacidade da indústria de lidar com os riscos sem depender necessariamente de novas intervenções externas. "Estou muito confiante na capacidade da nossa empresa, e da nossa indústria, de fazer isso com segurança", afirmou. O CEO da OpenAI disse ainda estar decepcionado com a forma como o debate sobre segurança vem sendo apresentado. A OpenAI trabalha com a Anthropic e o Google DeepMind em questões relacionadas à segurança dos modelos, mas Altman afirmou que as empresas devem ser capazes de melhorar seus sistemas de maneira segura.

Enquanto os laboratórios discutem o ritmo de evolução dos modelos, a Salesforce aposta em tecnologias de IA já disponíveis para ampliar seu uso dentro das empresas. No Dreamforce, a companhia anunciou, em parceria com a Nvidia, o Koa, modelo de raciocínio para o Agentforce baseado em um modelo da família Nemotron, da Nvidia. A Salesforce também ampliou sua parceria com a Anthropic para integrar o Claude aos seus produtos.