Правила и ИИ внутри

Помощник ровно настолько полезен, насколько понятно ты задал правила. Есть два уровня: простые условия (без всякого ИИ) и подключение языковой модели, когда нужно понимание смысла, а не только совпадение слов.

Сначала простые правила: от кого, какие слова, в какое время. ИИ добавляют сверху, когда фильтров по словам уже мало и нужен смысл.

Уровень 1: простые правила

Большинство сценариев закрывается тремя типами условий. Их комбинируют между собой.

Логика читается как обычное предложение: «если написал незнакомец, и сейчас нерабочее время - отправить вежливый автоответ». В коде это просто набор проверок:

если (отправитель не в списке контактов)
  и (сейчас нерабочее время)
  и (в тексте нет слова "реклама"):
      отправить автоответ "Отвечу в рабочие часы"
иначе:
      ничего не делать

Уровень 2: подключить LLM

Правила по словам не понимают смысл. «Скинь реквизиты» и «пришли счёт» - это про одно, но слова разные. Здесь помогает языковая модель (LLM): помощник отдаёт ей текст сообщения и спрашивает, что с ним делать. Модель возвращает решение, а помощник его выполняет.

1. Пришло сообщение
2. Помощник отправляет модели текст и вопрос:
   "Это про оплату? Ответь: важно / можно позже / игнорировать"
3. Модель отвечает одним словом
4. Помощник по ответу решает: переслать тебе, ответить или пропустить

Так же модель используют для суммаризации (свернуть длинную ветку в саммари) и для черновиков ответов, которые ты потом просто подтверждаешь.

Как подключается модель

Модель подключают по API - это доступ к нейросети по ключу, запросами из кода. Ключ храни отдельно от кода, как и ключи Telegram. Если API модели не открывается из России, запросы пускают через прокси. Как работать с моделями по API напрямую - в курсе Нейронки по API напрямую.