Автономность под контролем

Главный практический вопрос: насколько отпускать ИИ? Карпатый отвечает метафорой Железного человека.

Костюм против робота

У Тони Старка есть две вещи. Костюм - это усиление: человек внутри, он управляет, а броня даёт силу, инструменты и сенсоры. И есть автономные роботы - они действуют сами, без человека внутри.

Сейчас нам надо строить костюмы Железного человека, а не роботов Железного человека.

Андрей Карпатый

Смысл простой. Полностью автономные агенты, которым можно слепо доверить всё, ещё не готовы (почему - на странице про демо и продукт). А вот частичная автономность, где ИИ усиливает человека и оставляет его у руля, работает уже сейчас и приносит реальную пользу.

Слайдер автономности

Хороший инструмент с ИИ - не переключатель «вкл/выкл», а ползунок. Вы сами выбираете, сколько свободы дать ИИ под конкретную задачу.

Так устроены лучшие продукты эпохи 3.0. В редакторе кода Cursor: от простой подсказки до режима, где агент сам правит весь репозиторий. В поисковике Perplexity: от обычного поиска до глубокого исследования, которое идёт минутами. Тот же принцип, что у автопилота Tesla, - уровни автономности, которые повышаются по мере доверия.

Два механизма под капотом

За «костюмом» и «слайдером» стоят два конкретных механизма, на которых держится вся работа с агентом:

• Цикл генерация-проверка. ИИ генерирует, человек проверяет, и так по кругу. Вся скорость работы определяется тем, как быстро вы проверяете.
• Разрыв между демо и продуктом. Почему то, что сработало в демо один раз, ещё не готово к реальной жизни.

Разберём оба на следующих страницах - это сердце практической части курса.