Детектори ШІ-тексту вже вирішують, хто вступить до навчального закладу, чиї роботи пройдуть рецензування і які дописи залишаться онлайн. Але переважна більшість детекторів навіть не можуть пояснити жодного свого рішення.
Дослідницька група з Google DeepMind та Університету Пенсильванії хоче це змінити. Їхній новий метод перетворює непрозорий детектор на такий, що міркує за допомогою зрозумілих людині концепцій, і втрата точності при цьому напрочуд мала.
Стаття має назву «Building Auditable AI Text Detectors with Sparse Autoencoders» (Побудова аудитованих детекторів ШІ-тексту за допомогою розріджених автоенкодерів), її подано 21 жовтня 2026 року та прийнято на EMNLP 2026 — одну з провідних академічних конференцій з обробки природної мови.
Проблема, яку описують дослідники, є знайомим компромісом. Найефективніші детектори — це донавчені нейронні класифікатори, внутрішня логіка яких по суті закрита. Альтернатива — прозорі інструменти, побудовані на стилометричних і лінгвістичних ознаках (таких як вибір слів і шаблони структури речень), які можна відкрити й дослідити, але які, згідно зі статтею, значно поступаються нейронним моделям у точності.
Відповідь команди: зберегти знання нейронної моделі, але «перекласти» його назовні. Конвеєр починається з детектора, донавченого на Gemma-2-2B, після чого дослідники застосовують розріджені автоенкодери (SAE) до активацій залишкового потоку моделі.
Коли модель обробляє текст, вона передає інформацію через внутрішній канал, який називається залишковим потоком. Ці сигнали щільні й переплетені, багато концепцій змішано в кожному окремому значенні. Розріджені автоенкодери розплутують їх, навчаючись представляти ту саму інформацію за допомогою великого набору незалежних ознак, з яких для будь-якого заданого входу активуються лише кілька.
Далі конвеєр автоматично позначає ці ознаки, призначаючи кожній зрозумілий людині опис. Зберігаються лише ознаки, що проходять єдиний поріг достовірності — тобто позначка повинна справді відповідати поведінці ознаки. Ознаки, що пройшли фільтр, подаються до легкого класифікатора логістичної регресії, де кожен вхід має вагу, тож можна чітко бачити, наскільки кожен елемент впливає на остаточне рішення.
На даних у межах розподілу (тобто тексті, схожому на навчальні дані моделі) цей інтерпретований класифікатор досягає F1 96,8 порівняно з 98,0 для оригінального чорноскринькового детектора.
Ще більш вражаючими є результати на даних поза розподілом, тобто тексті, що відрізняється за формою від навчального набору. Тут нова модель досягає F1 92,2, тоді як чорноскриньковий базовий варіант падає до 75,2.
Код і навчені моделі опубліковано в репозиторії google-deepmind/detectorscope на GitHub.
Аудитованість — справжня родзинка
Стаття обґрунтовує свою мотивацію умовами, де детектори вже практично використовуються: рецензування, освіта, вступні кампанії, журналістика та модерація контенту. У кожній із цих сфер результат роботи детектора може безпосередньо вплинути на долю людини.
Аудитований детектор змінює характер розмови. Рецензент більше не може лише сказати «система визначила це як написане ШІ»; він може вказати на конкретні концепції, що зумовили це рішення, і оцінити, чи вони обґрунтовані. Це також дає людині, яку оцінюють, опору, щоб відстояти свою позицію.
Метод покладається на автоматичне позначення ознак, тож якість позначок встановлює верхню межу того, наскільки змістовними зрештою можуть бути ці пояснення. Поріг достовірності покликаний відфільтровувати слабкі позначки, але лише незалежне тестування на публічному коді може показати, наскільки він стійкий у різних доменах. Крім того, чи можна масштабувати цей підхід за межі детектора Gemma-2-2B, використаного в цій статті, ще належить з'ясувати.
