раздел 00
Модель - не калькулятор и не база знаний
Главная ошибка в работе с нейросетью - ждать от неё точности калькулятора и надёжности справочника. Модель устроена иначе, и из этого вытекают все её странности: она уверенно выдумывает, по-разному отвечает на один и тот же вопрос, блестяща в одном и беспомощна в соседнем.
Если понять одну вещь - что модель просто продолжает текст наиболее вероятным образом, - почти всё её поведение перестаёт удивлять и становится управляемым.
Две стороны: особенности и крутилки
Особенности (характер)
Галлюцинации, зубчатый интеллект, поддакивание, устаревшее знание. Это свойства, их учитывают.
Параметры (крутилки)
Температура, top_p, длина ответа и другие настройки, которыми вы влияете на поведение.
Что разберём
- 01 - базовая наука: как модель выбирает слова (без матана). Из неё вытекает всё остальное.
- 02 - галлюцинации: что это, почему происходят и как снижать.
- 03 - другие важные особенности и что с ними делать.
- 04 - параметры: температура и другие крутилки.
- 05 - как настраивать под задачу.
- 06 - шпаргалка.