как устроены нейросети · практика

Как управлять
расходом токенов

Кодинг-агент считает каждый запрос в токенах, а токены - это либо ваши кредиты по подписке, либо деньги по API. Расход легко раздувается: длинный диалог, весь проект в контексте, огромные ответы. Здесь - не теория про то, что такое токен, а привычки на каждый день, чтобы агент не жёг токены зря и работал дешевле.

Как управлять расходом токенов у кодинг-агента: вход и выход, контекст, модель и режимы

для кого этот курс

Кредиты кончаются к обеду
Работаю с агентом в IDE, а лимит по подписке выгорает слишком быстро - хочу понять, на что уходит.
Плачу за API по счётчику
Считаю токены живыми деньгами и хочу, чтобы каждый запрос стоил меньше без потери качества.
Не разработчик
Пишу задачи агенту словами. Термины вроде контекста и кэша слышал, но хочу простые правила, что делать.

программа курса

00

Куда уходят токены

Почему у кодинг-агента расход растёт: токены тратятся и на вход (весь контекст - файлы, история, правила, инструменты), и на выход (ответ). Длинный диалог тащит всю историю снова. Коротко: подписка против API.

01

Что ест токены больше всего

Большой контекст (много файлов, весь проект), длинные сессии, огромные ответы, повторное перечитывание одного и того же, думающие (reasoning) режимы, субагенты. Где реально уходят токены.

02

Гигиена контекста

Новый чат под новую задачу, компактизация (сжатие истории), не тащить весь проект - только нужные файлы, короткие сфокусированные задачи. Простые привычки, которые срезают расход.

03

Модель и режимы под задачу

Дешёвая модель для простого, флагман для сложного. Режимы: сначала план и обсуждение, потом исполнение - меньше переделок. Кэш контекста (prompt caching) удешевляет повторную отправку одной и той же основы.

04

Рабочие привычки

Дробить задачи, давать точный контекст сразу (меньше итераций - меньше токенов), не гонять агента вслепую, ставить проверки и тесты, вовремя останавливать зацикливание. Как работать, чтобы не переделывать.

05

Где смотреть и как ограничить

Подписка - страница usage и лимиты. API - баланс, лимиты, шлюзы с бюджетами. Счётчик контекста и usage прямо в IDE. Как видеть расход и не выйти за рамки.

06

Шпаргалка

Таблица что ест токены - что делать, чек-лист экономии и короткий глоссарий: токен на вход и на выход, кэш контекста, компактизация, reasoning.