раздел 02
Гигиена контекста
Раз главный пожиратель - раздутый контекст, то и самая большая экономия здесь же. Гигиена контекста - это несколько привычек, чтобы модель на каждом запросе получала только нужное, а не всё подряд.
Держите контекст маленьким и по делу. Чем меньше лишнего уходит модели на вход, тем дешевле каждый запрос - и тем точнее ответы.
Новый чат под новую задачу
Главная привычка. Закончили с одной задачей - начинайте следующую в новом чате. Так вы не тащите за собой историю, которая к новой работе уже не относится, но за которую продолжаете платить.
Один чат = одна задача. Правили вёрстку - обсудили, сделали, закрыли. Взялись за базу данных - открыли новый чат. Старый разговор про вёрстку в нём не нужен.
Компактизация - сжатие истории
Когда диалог всё же разросся, а бросать его жалко, помогает компактизация (compaction). Это сжатие: агент сворачивает длинную историю в короткое резюме и дальше работает с ним вместо полной простыни сообщений. Смысл сохраняется, а токенов на вход уходит в разы меньше.
Не тащить весь проект - только нужные файлы
Не открывайте весь проект в контекст и не просите агента прочитать всё. Дайте ему конкретные файлы, которые относятся к задаче, или прямо назовите, где искать. Агент и сам умеет находить нужное - ему не обязательно держать перед глазами каждый файл.
- Плохо: закинуть всю папку и сказать разберись.
- Хорошо: вот эти два файла, поправь в них вот это.
Короткие сфокусированные задачи
Большая расплывчатая задача заставляет агента читать много, пробовать много и накапливать контекст. Одна узкая задача - меньше файлов, меньше шагов, меньше токенов. Про дробление подробнее в разделе Рабочие привычки.