Четыре варианта

Спектр удобно разбить на четыре ступени. С каждой следующей данные всё меньше уходят наружу, а контроля становится больше - вместе с ценой и сложностью.

1. Публичный чат-бот

ChatGPT, Claude, GigaChat и другие в веб-интерфейсе. Сотрудник открывает браузер и работает. Ничего внедрять не надо.

Данные при этом уходят стороннему сервису. В бесплатных и обычных тарифах провайдер может использовать переписку для улучшения моделей. Для публичной или неконфиденциальной информации - нормально. Для клиентских баз и договоров - рискованно.

2. API с enterprise-гарантиями

Тот же внешний провайдер, но через API и по корпоративному договору. Здесь появляются гарантии: обучение на ваших данных отключено, подписан DPA (соглашение об обработке данных), прописаны сроки хранения и регион.

Данные всё ещё обрабатываются у провайдера, но на понятных договорных условиях. Контроля заметно больше, качество - топовых моделей. Это рабочий вариант для многих компаний.

3. Модель в своём облаке или контуре

Модель разворачивается в вашем облачном аккаунте или частном контуре (VPC, изолированная сеть). Данные не покидают ваш периметр - запросы не уходят на чужие серверы.

Обычно это открытые модели или enterprise-сборки, которые провайдер разрешает разворачивать у вас. Контроль высокий, комплаенс проще закрыть. Взамен - вы отвечаете за инфраструктуру и её обслуживание.

4. On-premise на своём железе

Модель работает на ваших собственных серверах, физически у вас. Данные не покидают здание. Максимум контроля и независимости от внешних сервисов, вплоть до работы без интернета.

Это самый дорогой и сложный вариант: нужны мощные GPU, люди, которые это поднимут и будут поддерживать. Оправдан там, где требования к секретности данных действительно жёсткие.

Сравнение вариантов