Google afirma que a IA ainda não está se construindo sozinha — mesmo escrevendo 75% do código

O Google DeepMind foi procurar provas de que a IA está acelerando o desenvolvimento da própria IA. Não encontrou nenhuma.

No relatório de segurança do Gemini 4 Argon, seu modelo mais poderoso, o laboratório concluiu que a pesquisa em IA não está avançando mais rápido, mesmo que a IA agora escreva a maior parte do código que os engenheiros do DeepMind entregam.

A descoberta contraria o cenário que assustou executivos de IA a ponto de pedirem uma desaceleração. Ele é chamado de autoaperfeiçoamento recursivo: uma IA constrói uma versão mais inteligente de si mesma, que constrói uma ainda mais inteligente, até que o progresso ultrapasse a capacidade de qualquer um de testá-la, regulá-la ou desligá-la—o que o relatório chama de “uma situação em que as salvaguardas existentes são severamente inadequadas”.

“Atualmente não há aceleração ponta a ponta significativa de P&D de ML, impulsionada por IA ou não”, escreveu Haydn Belfield, pesquisador do Google DeepMind que trabalhou na avaliação, em uma thread no X. “Portanto, concluímos que o risco de P&D de ML impulsionada por IA atualmente é baixo.”

P&D de ML é a abreviação de pesquisa e desenvolvimento de aprendizado de máquina, o trabalho de construir novos modelos de IA.

O DeepMind acompanha o problema porque “a IA pode acelerar os ganhos de capacidade de fronteira mais rápido do que a segurança, a governança e a adaptação societal conseguem acompanhar”, escreveu Belfield. Mais automação também significa dar aos agentes de IA acesso mais amplo aos sistemas da empresa, mais espaço para um modelo desalinhado (um que persegue objetivos que seus criadores nunca pretenderam) causar problemas.

Para medir o progresso, a equipe criou o GCI v1, um índice interno que combina as pontuações de 123 modelos de IA em 92 benchmarks em um único número por modelo — pense nele como uma pontuação de QI para IA. “As capacidades do Gemini de fronteira melhoraram em um ritmo notavelmente constante de ~0,1 pontos GCI/mês”, escreveu Belfield.

No gráfico desse índice no relatório, o Gemini 1.5 Pro fica perto de 0,5 pontos no final de 2024 e o Gemini 3.8 Flash logo acima de 2,9 em setembro de 2026, com quase todos os lançamentos seguindo uma linha reta. O Argon é o único ponto que se destaca acima dela, em aproximadamente 3,3, embora sua barra de erro (a faixa em que sua pontuação real poderia plausivelmente cair) se estenda baixo o suficiente para tocar a tendência.

“Embora o Gemini 4 Argon esteja acima da tendência, atribuímos isso ao aumento de computação e investimento organizacional, em vez de refletir uma aceleração impulsionada pela IA”, escreveu Belfield. O Google apresentou o Gemini 4 Argon em 30 de setembro.

A maior parte do código de produção no DeepMind agora é mais de 75% escrito por IA, e a proporção de pull requests totalmente delegados (conjuntos de alterações de código submetidos para revisão antes de entrarem em produção) subiu de 7,5% para 11,9% entre abril e setembro. Mas “~88% dos pull requests ainda exigem direcionamento humano em múltiplas etapas ou autoria humana de código — e as alterações de código permanecem sujeitas à revisão humana antes da submissão”, escreveu Belfield.

Uma pesquisa com 12 líderes e pesquisadores seniores do DeepMind descobriu que a automação é mais alta em “tarefas de execução bem especificadas e verificáveis e mais baixa em ideação científica aberta, design experimental inovador, diagnóstico de instabilidades sutis de treinamento e bom gosto de pesquisa de longo prazo.” Em termos simples, a IA é ótima em executar instruções e ruim em decidir quais ideias valem a pena perseguir.

O DeepMind também revisou 1.389 logs do Argon trabalhando como agente dentro da empresa. Quanto maior a tarefa, menos provável que o modelo a concluísse sozinho e mais frequentemente um humano intervinha.

O relatório chegou um mês depois de o CEO da Anthropic, Dario Amodei, argumentar que a auto-melhoria recursiva já está acelerando, um alerta que Sam Altman e Elon Musk endossaram e que fez as ações de chips caírem quase 6%. Dias antes, o ex-engenheiro da Anthropic Jacob Coxon havia deixado a indústria, alertando que a IA poderia “nos matar todos até o final da década.”

Os números do DeepMind cobrem apenas seu próprio laboratório, e o mesmo relatório diz que não pode descartar que um Argon irrestrito cruze seus limiares de perigo para ciberataques e informações sobre armas biológicas.