раздел 03

Другие важные особенности

Галлюцинации - самое известное, но не единственное. Вот ещё характерные свойства, которые стоит держать в голове.

Зубчатый интеллект
Где-то решает на уровне эксперта, а рядом спотыкается на ерунде - непредсказуемо. Не считайте, что раз справилась со сложным, справится с простым.
Поддакивание (sycophancy)
Склонна соглашаться и льстить, может бросить верный ответ, если на неё надавить. Не давите на ответ, который хотите услышать.
Устаревшее знание (cutoff)
Обучена до какой-то даты и не знает событий после неё без поиска или вашего контекста. Свежее - давать ей в запрос.
Чувствительность к формулировке
Мелкое изменение слов в промпте меняет ответ. Поэтому промптинг - это навык (ссылка на курс).
Нестабильность
Один и тот же запрос даёт разные ответы (сэмплинг). Для повторяемости - низкая температура и seed (раздел 04).
Предвзятости
Впитала перекосы из обучающих данных. На чувствительных темах относитесь критически.

Что с этим делать на практике

  • Зубчатость - проверяйте простые шаги тоже, не только сложные; держите человека на критичном.
  • Поддакивание - спрашивайте нейтрально, просите «найди слабые места в моём рассуждении», а не «подтверди, что я прав».
  • Cutoff - для актуального давайте данные в контекст или включайте поиск (ссылка Нейронки по API).
  • Чувствительность - формулируйте чётко; см. Промпт-инжиниринг.
  • Нестабильность - где нужна повторяемость, ставьте температуру к 0.