безопасность · агенты

Промпт-инъекции:
безопасность агентов

Промпт-инъекция - это вредные инструкции, спрятанные в данных, которые читает агент: в веб-странице, файле, письме, выводе инструмента, README или скиле. Агент не отличает данные от команд и может выполнить спрятанную команду как свою задачу. Этот курс учит распознавать угрозу и защищаться - без рабочих вредоносных примеров, только концепция и защита.

Начать с начала →Сразу к шпаргалке

для кого этот курс

Запускаю AI-агентов

Даю агенту доступ к файлам, почте, коду - хочу понять, как его не подставить под чужие команды.

Ставлю скилы и MCP

Скачиваю скилы, правила, расширения - хочу проверять их перед установкой и не нарваться на вредонос.

Не разработчик

Вайбкожу без глубокого бэкграунда - нужны простые правила безопасности, а не теория атак.

программа курса

Что такое промпт-инъекция

Вредные инструкции, спрятанные в данных, которые читает агент. Почему агент уязвим: он не отличает данные от команд. Бытовая аналогия и базовая картина угрозы.

Прямые и непрямые инъекции

Прямая (direct) - вредную инструкцию вводят в чат. Непрямая (indirect) - инструкция спрятана во внешних данных, которые агент подтянул. Каналы: веб, файлы, письма, репозитории, скилы, MCP.

Чем это опасно

Утечка секретов и токенов, несанкционированные действия, запуск вредоносного кода, дальнейшее распространение. Как это превращается в supply-chain атаку через скилы, правила, MCP и пакеты.

Скилы и цепочка поставки

Как распространяют вредные скилы, правила и MCP под видом полезных. Откуда скачивать (доверенные источники) и откуда нельзя. Проверять перед установкой, пинить версии.

Что делать и не делать

Два чек-листа. Наименьшие привилегии, approvals, ревью, доверенные источники, scoped-токены, песочница, человек в петле, секреты отдельно от агента.

Шпаргалка

Красные флаги инъекции, чек-лист установки скила, таблица доверенных и недоверенных источников, глоссарий и ссылки на смежные курсы - на одной странице.