Dario Amodei, o chefe da Anthropic, que promete inteligência artificial, mas teme sua corrida.

No Vale do Silício, tanto os líderes visionários quanto os preocupantes são admirados. Dario Amodei, CEO da Anthropic, consegue o equilíbrio incomum de ser ambos. Menos extravagante que alguns, ele deixou sua marca no debate sobre inteligência artificial, chegando a ter seu nome envolvido após as tensões surgidas nos Estados Unidos em torno do uso de ferramentas de IA em um contexto militar — um campo minado onde contratos de defesa aumentam os lucros, mas podem manchar a reputação.

Frequentemente classificado entre os líderes mais "alarmistas", Amodei contesta o rótulo sem o rejeitar completamente. Em um extenso artigo publicado no final de janeiro, ele afirma rejeitar cenários "catastróficos" dignos de ficção científica, ao mesmo tempo que defende um confronto direto com o que descreve como riscos extremos. E inclui uma frase que soa como um prazo final: se o ritmo atual continuar, a IA poderá superar os humanos na maioria das áreas em poucos anos. Poucas palavras, muitas implicações, inclusive para a economia real e o emprego qualificado.

Segurança como argumento de venda, poder como horizonte

A Anthropic, fundada em 2021 por ex-executivos da OpenAI, incluindo Dario e Daniela Amodei, foi construída sobre uma promessa simples: desenvolver modelos de alto desempenho sem se comportar como aprendizes de feiticeiros. A família de modelos Claude é voltada para clientes profissionais, com salvaguardas, avaliações de risco e limites de uso destacados como uma marca registrada da empresa. Essa abordagem extremamente cautelosa também levou a que a empresa fosse descrita na imprensa americana como um foco de "catastrofismo da IA", o que é irônico para uma empresa que precisa convencer agências governamentais e industriais a assinar contratos.

Enquanto isso, a batalha se desenrola com bilhões de dólares, chips e data centers. A competição entre empresas americanas e europeias se intensifica, com parcerias sólidas com gigantes da computação em nuvem e uma obsessão compartilhada: adquirir o poder computacional que faz a diferença entre uma demonstração atraente e um produto capaz de suportar a demanda. Para as empresas, os riscos são tangíveis: produtividade, automação, novos serviços, mas também dependência tecnológica, custos de energia e, em última instância, soberania digital.

Do lado europeu, o quadro regulamentar está se tornando mais restritivo e preciso com a Lei de IA, que impõe obrigações de transparência e segurança a certos sistemas, incluindo modelos de uso geral. Amodei fala justamente no momento em que o setor está se acelerando e as autoridades buscam um equilíbrio entre inovação e proteção, sem transformar a regulamentação em um obstáculo ou filtro. Uma realidade permanece, e o leitor já pode imaginar: aqueles que prometem a IA mais útil também terão que provar que ela permanece controlável, porque a confiança não se mede apenas em teraflops.