Google affirme que l'IA ne se construit pas encore elle-même, même si elle écrit 75 % du code

Google DeepMind est parti chercher des preuves que l'IA accélère le développement de l'IA elle-même. Il n'en a trouvé aucune.

Dans le rapport de sécurité de Gemini 4 Argon, son modèle le plus puissant, le laboratoire a conclu que la recherche en IA n'avance pas plus vite, même si l'IA écrit désormais la majeure partie du code livré par les ingénieurs de DeepMind.

Cette conclusion va à l'encontre du scénario qui a effrayé les dirigeants de l'IA au point de réclamer un ralentissement. On l'appelle l'auto-amélioration récursive : une IA construit une version plus intelligente d'elle-même, qui en construit une encore plus intelligente, jusqu'à ce que les progrès dépassent la capacité de quiconque à la tester, la réguler ou l'éteindre — ce que le rapport appelle « une situation où les garde-fous existants sont gravement inadéquats ».

« Il n'y a actuellement aucune accélération significative de bout en bout de la R&D en ML, qu'elle soit pilotée par l'IA ou non », a écrit Haydn Belfield, un chercheur de Google DeepMind qui a travaillé sur l'évaluation, dans un fil sur X. « Nous concluons donc que le risque lié à la R&D en ML pilotée par l'IA est actuellement faible. »

R&D en ML est l'abréviation de recherche et développement en apprentissage automatique, le travail de construction de nouveaux modèles d'IA.

DeepMind suit ce problème parce que « l'IA pourrait accélérer les gains de capacités de pointe plus rapidement que la sécurité, la gouvernance et l'adaptation sociétale ne peuvent suivre », a écrit Belfield. Davantage d'automatisation signifie aussi donner aux agents d'IA un accès plus large aux systèmes de l'entreprise, plus de marge pour qu'un modèle mal aligné (poursuivant des objectifs que ses créateurs n'ont jamais voulus) cause des problèmes.

Pour mesurer les progrès, l'équipe a construit GCI v1, un indice interne qui combine les scores de 123 modèles d'IA sur 92 benchmarks en un seul nombre par modèle—pensez-y comme à un score de QI pour l'IA. « Les capacités de Frontier Gemini se sont améliorées à un rythme remarquablement constant d'environ 0,1 point GCI par mois », a écrit Belfield.

Dans le graphique de cet indice figurant dans le rapport, Gemini 1.5 Pro se situe près de 0,5 point fin 2024 et Gemini 3.8 Flash juste au-dessus de 2,9 en septembre 2026, avec presque chaque version collant à une ligne droite. Argon est le seul point qui dépasse cette ligne, à environ 3,3, bien que sa barre d'erreur (la plage dans laquelle son score réel pourrait plausiblement se situer) s'étende suffisamment bas pour toucher la tendance.

« Bien que Gemini 4 Argon se situe au-dessus de [la] tendance, nous attribuons cela à un investissement accru en calcul et en organisation plutôt qu'à une accélération induite par l'IA », a écrit Belfield. Google a dévoilé Gemini 4 Argon le 30 septembre.

La plupart du code de production chez DeepMind est désormais écrit à plus de 75 % par l'IA, et la part des pull requests entièrement déléguées (des ensembles de modifications de code soumis pour révision avant leur mise en production) est passée de 7,5 % à 11,9 % entre avril et septembre. Mais « environ 88 % des pull requests nécessitent encore une supervision humaine à plusieurs tours ou une authorship humaine du code—et les modifications de code restent soumises à une révision humaine avant soumission », a écrit Belfield.

Une enquête menée auprès de 12 cadres et chercheurs seniors de DeepMind a révélé que l'automatisation est la plus élevée dans les « tâches d'exécution bien spécifiées et vérifiables, et la plus faible dans l'idéation scientifique ouverte, la conception expérimentale novatrice, le diagnostic d'instabilités d'entraînement subtiles et le goût de la recherche à long terme ». En termes simples, l'IA excelle à exécuter des instructions et est mauvaise pour décider quelles idées valent la peine d'être poursuivies.

DeepMind a également examiné 1 389 journaux d'Argon travaillant comme agent au sein de l'entreprise. Plus la tâche est importante, moins le modèle est susceptible de la terminer seul et plus souvent un humain intervient.

Le rapport est paru un mois après que le PDG d'Anthropic, Dario Amodei, a soutenu que l'auto-amélioration récursive s'accélérait déjà, un avertissement que Sam Altman et Elon Musk ont approuvé et qui a fait chuter les actions des puces de près de 6 %. Quelques jours plus tôt, l'ancien ingénieur d'Anthropic Jacob Coxon avait quitté l'industrie, avertissant que l'IA pourrait « nous tuer tous d'ici la fin de la décennie ».

Les chiffres de DeepMind ne couvrent que son propre laboratoire, et le même rapport indique qu'il ne peut pas exclure qu'un Argon sans restrictions franchisse ses seuils de danger pour les cyberattaques et les informations sur les armes biologiques.