Les détecteurs de texte IA décident déjà qui est admis à l'école, quels articles passent la révision par les pairs et quels posts restent en ligne. Mais la grande majorité des détecteurs ne peuvent même pas expliquer un seul jugement qu'ils rendent.
Une équipe de recherche de Google DeepMind et de l'Université de Pennsylvanie veut changer cela. Leur nouvelle méthode transforme un détecteur opaque en un détecteur qui raisonne avec des concepts lisibles par l'homme, et le coût en précision est étonnamment faible.
L'article est intitulé « Building Auditable AI Text Detectors with Sparse Autoencoders », soumis le 21 octobre 2026 et accepté à EMNLP 2026—l'une des principales conférences académiques en traitement du langage naturel.
Le problème que les chercheurs décrivent est un compromis familier. Les détecteurs les plus performants sont des classificateurs neuronaux affinés dont la logique interne est essentiellement fermée. L'alternative réside dans des outils transparents construits sur des caractéristiques stylométriques et linguistiques (telles que le choix des mots et les schémas de structure des phrases), que l'on peut ouvrir et inspecter, mais qui, selon l'article, sont bien en retard sur les modèles neuronaux en termes de précision.
La réponse de l'équipe : conserver les connaissances du modèle neuronal mais les « traduire » vers l'extérieur. Le pipeline commence par un détecteur affiné sur Gemma-2-2B, après quoi les chercheurs appliquent des autoencodeurs parcimonieux (SAE) aux activations du flux résiduel du modèle.
Lorsque le modèle traite du texte, il fait passer l'information par un canal interne appelé flux résiduel. Ces signaux sont denses et enchevêtrés, de nombreux concepts étant mélangés dans chaque valeur individuelle. Les autoencodeurs parcimonieux les démêlent, apprenant à représenter la même information avec un grand ensemble de caractéristiques indépendantes, dont seules quelques-unes sont activées pour une entrée donnée.
Ensuite, le pipeline étiquette automatiquement ces caractéristiques, en attribuant à chacune une description lisible par l'homme. Seules les caractéristiques qui passent un seuil de fidélité unifié sont conservées—c'est-à-dire que l'étiquette doit réellement correspondre au comportement de la caractéristique. Les caractéristiques qui passent le filtre sont introduites dans un classificateur de régression logistique léger, où chaque entrée a un poids, de sorte que l'on peut clairement voir dans quelle mesure chaque élément influence le jugement final.
Sur des données en distribution (c'est-à-dire des textes similaires aux données d'entraînement du modèle), ce classificateur interprétable atteint un F1 de 96,8, contre 98,0 pour le détecteur boîte noire original.
Les résultats sur des données hors distribution, c'est-à-dire des textes dont la forme diffère de l'ensemble d'entraînement, sont encore plus frappants. Ici, le nouveau modèle atteint un F1 de 92,2, tandis que la référence boîte noire chute à 75,2.
Le code et les modèles entraînés ont été rendus publics dans le dépôt google-deepmind/detectorscope sur GitHub.
L'auditabilité est le véritable point fort
L'article fonde sa motivation sur des contextes où les détecteurs sont déjà utilisés en pratique : la révision par les pairs, l'éducation, les admissions, le journalisme et la modération de contenu. Dans chacun de ces contextes, la sortie d'un détecteur peut directement affecter le destin d'une personne.
Un détecteur auditable change la nature de la conversation. Un évaluateur ne peut plus seulement dire « le système a jugé que ceci a été écrit par une IA » ; il peut pointer les concepts spécifiques qui motivent ce jugement et évaluer s'ils tiennent la route. Cela donne également à la personne jugée une prise pour défendre son cas.
La méthode repose sur l'étiquetage automatique des caractéristiques, de sorte que la qualité des étiquettes fixe une limite supérieure à la pertinence que ces explications peuvent finalement avoir. Le seuil de fidélité est conçu pour filtrer les étiquettes faibles, mais seul un test indépendant sur le code public peut montrer sa robustesse à travers les domaines. En outre, la question de savoir si cette approche peut s'étendre au-delà du détecteur Gemma-2-2B utilisé dans cet article reste ouverte.
