TokenMaxxing: як вичавити максимум зі своїх AI-моделей

Співробітники Meta витратили 60 трильйонів токенів ШІ за 30 днів раніше цього року, полюючи за місцями у внутрішньому рейтингу, який називають «Claudeonomics». Технічний оглядач Гергелі Орос оцінив рахунок приблизно у 900 мільйонів доларів за прайс-листом Anthropic, хоча Meta, ймовірно, платить набагато менше.

Консультантка Bain & Company Цзюе Ван бачить тихішу версію цього марнотратства всюди: «Стільки компаній, стільки користувачів за замовчуванням використовують Opus для всього, включно зі створенням електронних листів», — розповіла вона Associated Press цього літа, маючи на увазі висококласні моделі Anthropic. Якщо ви робите те саме, ви наймаєте Альберта Ейнштейна, щоб порахувати вашу решту в MacDonald’s.

Кожне слово, яке ви вводите в ChatGPT або Claude, і кожне слово, яке вони пишуть у відповідь, вимірюється в токенах — фрагментах тексту, що в середньому становлять близько трьох чвертей слова. За підписки за $20 цей лічильник визначає, як швидко ви досягнете ліміту використання. В API — доступі з оплатою за токен, який розробники використовують для підключення моделей до власних застосунків, — він визначає рахунок.

Ось поточний прайс-лист Anthropic, за мільйон токенів:

Тариф Haiku застосовується до запитів обсягом менше 100 000 токенів; довші запити коштують у п'ять разів дорожче.

Найпотужніша модель коштує у 100 разів дорожче за найменшу, і власна лінійка OpenAI має такий самий розкид — від $10 до $0,10 за мільйон вхідних токенів. Ці ціни за токен швидко накопичуються для лабораторій — і для вас: річний дохід Anthropic зріс приблизно з $9 мільярдів наприкінці 2025 року до понад $47 мільярдів до травня, тоді як OpenAI веде цінову війну, щоб не відставати.

Кілька звичок різко скорочують ці витрати, і перші п'ять порад нижче не потребують жодного програмування.

Що означає tokenmaxxing (і що воно має означати)

Tokenmaxxing почався як кремнієво-долинський показний жест на кшталт Claudeonomics від Meta, коли Microsoft, Shopify та Amazon ранжували співробітників за схожими таблицями лідерів за токенами. Генеральний директор Nvidia Дженсен Хуанг підлив масла у вогонь, коли сказав у березні в подкасті «All-In», що буде «глибоко стривожений», якщо інженер із зарплатою $500 000 не спалить токенів щонайменше на $250 000.

І вони справді палили токени… на дурниці, що не приносять користі.

В Amazon співробітники зізналися, що завищували свої показники, запускаючи внутрішній ШІ-інструмент для нерелевантних завдань, доки старший віцепрезидент не сказав персоналу: «Будь ласка, не використовуйте ШІ лише заради використання ШІ».

Цей посібник використовує значення, яке інженери просувають зараз: максимізація цінності кожного токена, а не кількості, яку ви витрачаєте.

Три концепції пояснюють, куди витрачаються токени, починаючи з циклу агента. Агент — це модель, яка може використовувати інструменти, тому вона думає, шукає в інтернеті або виконує код, читає результат і повторює, доки не вирішить, що завершила, надсилаючи всю розмову заново на кожному колі.

Оркестрація примножує цю вартість: одна модель діє як менеджер, розбиваючи ваш запит на частини, передаючи їх робочим моделям, які називаються субагентами, і зшиваючи їхні відповіді назад разом. Кожен робітник запускає власний цикл із власною пам'яттю, і саме тому Anthropic каже, що команди агентів у Claude Code можуть використовувати приблизно в сім разів більше токенів, ніж стандартна сесія, коли товариші по команді працюють у режимі планування — налаштуванні, розглянутому в проміжних порадах нижче.

Графи — це те, як розробники не дають цим циклам блукати. Такі фреймворки, як LangGraph, дозволяють намалювати робочий процес як схему метро, де станції (вузли) виконують роботу, а колії (ребра) вирішують, куди рухатися далі, тож модель іде фіксованим маршрутом, а не зациклюється, доки не вичерпає ідеї чи бюджет.

Іншими словами, цикли допомагають автоматизувати речі та підвищити якість, але ви також витратите багато грошей, тому надзвичайно важливо бути ефективним. Ось кілька порад, які можуть вам у цьому допомогти

Початківець: малі завдання, малі моделі

1. Обирайте модель під завдання

Якщо ви лише починаєте, ви, ймовірно, використовуєте графічний інтерфейс користувача для запуску вашого ШІ.

Натисніть на назву моделі у вашому чат-додатку (у верхній частині чату в ChatGPT, поруч із кнопкою надсилання в Claude або Hermes) і перемкніться на менший, швидший варіант для електронних листів, підсумків і перефразування. Залиште найкращу модель для складних міркувань і рішень, де тонка помилка коштує реальних грошей.

Запустіть п'ять завдань з минулого тижня на обох моделях паралельно, і якщо мала впорається, залиште її. На підписці це продовжить ваш ліміт використання, а на API це скорочує рахунок до 99%.

2. Напишіть один хороший запит замість п'яти поганих

Три раунди «ні, лише підсумок» або «зроби це краще й точніше» щоразу надсилають увесь чат заново. Один чіткий запит визначає завдання та точну форму відповіді. Щось на кшталт цього може спрацювати:

Витягни номер рахунку, дату, постачальника та підсумок із тексту нижче. Збережи кожне значення точно як написано. Поверни один рядок на поле, і напиши «відсутнє», якщо поля немає.

Власне тестування OpenAI виявило, що більш лаконічні та чіткі запити отримували вищі оцінки, використовуючи при цьому менше токенів.

3. Починайте новий чат, коли змінюєте тему

Модель щоразу перечитує всю розмову, коли ви натискаєте «надіслати», тож ланцюжок із 50 повідомлень про вашу відпустку робить ваше запитання про податки одночасно дорожчим і дурнішим.

Anthropic називає це погіршення «загниванням контексту.»

Тож, заради Бога, починайте новий чат щоразу, коли змінюється тема.

4. Просіть обсяг, який вам потрібен

Вихідні токени коштують у п'ять разів дорожче за вхідні в найкращих моделях Anthropic і OpenAI. Завершуйте свої запити чимось на кшталт «три пункти, менше 100 слів» або «лише змінені рядки», і в моделі буде менше простору для води.

Якщо модель має обмеження щодо довжини вихідних даних, вона заощаджуватиме токени, особливо якщо завдання творче (як-от написання тексту чи дослідження), а не детерміноване (як-от програмування чи розв'язування математичних задач).

5. Спробуйте безкоштовно, перш ніж платити

OpenRouter, сайт, що з'єднує сотні AI-моделей через один акаунт, має безкоштовний роутер, який надсилає ваш запит до однієї з приблизно 20 безкоштовних моделей. Ви також можете запускати моделі локально за допомогою LM Studio або Ollama на відеокарті з 8 ГБ відеопам'яті або на Apple Mac серії M.

Безкоштовні тарифи можуть зникнути за одну ніч, тож не будуйте нічого важливого на них і прочитайте політику щодо даних, перш ніж вставляти будь-що конфіденційне.

Втім, ви можете максимізувати кількість своїх ітерацій, використовуючи безкоштовні пропозиції. Hermes має гарний вибір безкоштовних моделей, які можуть виконати потрібну вам роботу, як і Nvidia. Краще налаштовувати запит із безкоштовною дурнішою моделлю, ніж платити за преміальну модель, яка зробить те саме, але швидше.

Додаткові поради для початківців

Пропускайте розширене мислення для простих запитань або знижуйте налаштування зусиль у новіших моделях Claude, де мислення не можна вимкнути. Anthropic виставляє рахунок за повний процес мислення як за вихідні дані, включно з тією частиною, яку ви ніколи не бачите.

Передплатники Claude Pro і Max, які вмикають кредити використання, можуть встановити місячний ліміт витрат у розділі Налаштування, потім Використання.

Середній рівень: ваш агент читає занадто багато

Далі в прикладах використовується Claude Code — агент Anthropic, який працює у вашому терміналі та редагує файли за вас; команди вводяться безпосередньо в його чат. Інші оболонки матимуть схожу логіку.

Якщо ви користуєтеся лише чат-додатками, порада 8 також працює в будь-якому вікні чату.

6. Починайте з дешевого, переходьте на вищий рівень у разі невдачі

Введіть /model, щоб перемикати моделі, залишайте Sonnet своєю моделлю за замовчуванням і переходьте на Opus лише тоді, коли Sonnet не справляється з чимось конкретним, наприклад, з помилкою, яку він не може виправити після двох спроб. Для простих завдань субагента документація Anthropic радить встановлювати model: haiku у налаштуваннях субагента.

7. Очищайте між завданнями

Введіть /clear, коли переходите до не пов'язаного завдання, це нічого не коштує і скидає стару історію. Використовуйте /compact із приміткою про те, що зберегти, наприклад /compact keep the database decisions, лише коли вам потрібна історія, оскільки саме стиснення є великим запитом.

8. Дозвольте коду робити нудну математику

Вставлення електронної таблиці на 5 000 рядків у чат змушує модель читати кожен рядок, і вона все одно може помилитися в підрахунку, адже мовна модель не є калькулятором, скільки б ви за неї не платили.

Натомість попросіть у неї формулу або короткий скрипт, запустіть його самостійно і передайте моделі лише результат.

9. Скоротіть свої інструменти

Сервери MCP — це плагіни, які з'єднують модель із застосунками, як-от GitHub чи Google Drive, і кожен із них додає назви інструментів та інструкції до кожної сесії.

Введіть /context, щоб побачити, що з'їдає простір, і /mcp, щоб вимкнути сервери, які проєкт не використовує.

Додаткові проміжні поради

Введіть /usage, щоб побачити, куди витратилися ваші токени. Тримайте свій CLAUDE.md (або Soul.md), файл інструкцій, який ваш агент читає на початку кожної сесії, коротшим за 200 рядків.

Для більших змін натисніть Shift+Tab, щоб перейти в режим планування, де агент пропонує план на ваше схвалення, перш ніж торкатися файлів, і натисніть Esc тієї ж миті, коли він піде не в тому напрямку. Використовуйте /effort, щоб знизити рівень міркування для простих завдань, як-от перейменування змінної.

Anthropic показала, як використання токенів агентом впало з 150 000 токенів до 2 000, коли він завантажував лише ті визначення інструментів, які йому були потрібні, тож інструменти командного рядка, як-от gh від GitHub, які нічого не коштують, доки не запустяться, часто перевершують постійно ввімкнений плагін.

Просунутий рівень: вбудуйте запобіжники в систему

Візьміть розробника, якому потрібно обробити 1 000 рахунків-фактур по 2 000 токенів кожен, з відповідями по 200 токенів: це завдання коштує близько $30 на Fable 5.1 і близько $0.30 на Haiku 5.5, ще до будь-яких із наведених нижче прийомів.

10. Кешуйте частини, які ніколи не змінюються

Спочатку розмістіть стабільні інструкції, а змінні частини — в кінці, і позначте стабільний блок для кешування. В API Anthropic це одне додаткове поле:

"system": [{

"type": "text",

"text": "Ваші інструкції щодо рахунків...",

"cache_control": {"type": "ephemeral"}

}]

Читання з кешу коштує частку звичайної ціни вхідних даних, тоді як запис у типовий п'ятихвилинний кеш коштує додатково. Перевіряйте поле cache_read_input_tokens у кожній відповіді; якщо після першого виклику воно все ще дорівнює нулю, кеш не працює.

11. Об'єднуйте в пакети все, що може зачекати

І OpenAI, і Anthropic обробляють пакетні завдання зі знижкою 50%, причому OpenAI обіцяє результати протягом 24 годин. Завантажте 1000 рахунків як один пакетний файл замість 1000 живих викликів, і рахунок значно зменшиться.

12. Тримайте агентів на повідку

Встановіть максимальну кількість кроків і доларовий ліміт для кожного запуску агента, а також визначте, як виглядає "готово", перш ніж він почнеться. Claude Code приймає прапорець --max-budget-usd для скриптових запусків, а Shopify використовує автоматичні вимикачі, які можуть негайно відрізати доступ розробника, якщо його витрати різко зростуть протягом дня, створені для виявлення агентів, що вийшли з-під контролю.

Зараз звичайна річ — це насправді відпустити тих агентів на свободу, щоб вони циклічно працювали, доки результат не буде визнано ідеальним. Якщо у вас немає грошей, не дозволяйте своїм агентам вирішувати, що є чи не є "ідеальним".

Додаткові розширені поради

Розміщуйте критичні факти на початку або в кінці довгого запиту. Дослідження під керівництвом Стенфорду виявило, що моделі найкраще використовують інформацію в цих позиціях і найгірше, коли вона похована посередині.

Платіть за другу модель для перевірки роботи лише тоді, коли помилка дорого коштує, наприклад, пункт договору або сума платежу. В API OpenAI увімкніть жорсткий ліміт витрат для кожного проєкту, оскільки його сповіщення про витрати лише повідомляють вас і не зупиняють трафік.

Почніть з одного тесту

Зробіть найдешевшу модель, яка проходить ваш тест із п'яти завдань з поради 1, своєю моделлю за замовчуванням на тиждень і змінюйте її лише тоді, коли вона дає збій. Потім порівняйте сторінку вашого використання з попереднім тижнем; на завданні з рахунками саме маршрутизація скоротила рахунок з $30 до $3,90, навіть після оплати Opus 5.5 за повторне виконання 300 невдач.

Однак дешевші токени не впораються самі по собі: ціна одного токена впала більш ніж на 90% з 2023 року, згідно з Індексом витрат на токени Silicon Data, проте витрати на великі мовні моделі подвоїлися з кінця 2025 року.

Економісти називають це парадоксом Джевонса, коли ресурс стає настільки дешевим, що люди в підсумку витрачають на нього більше загалом. Короткий звіт Bain & Co. від червня виявив ту саму закономірність: витрати на токени зменшилися вдвічі між груднем 2024 і 2025 роками, тоді як кількість спожитих токенів зросла на 450%.

Позитивний бік у тому, що ті самі падаючі ціни працюють на вас тієї ж миті, коли ви перестаєте палити токени заради розваги: поєднайте їх із наведеними вище звичками, і ШІ стане дешевшим і кращим одночасно.