Приватная LLM в вашем контуре
Разворачиваем языковую модель на ваших серверах. Персональные данные, договоры и коммерческая тайна не покидают периметр компании – ни в OpenAI, ни к любому другому внешнему провайдеру. Подходит там, где облачный ИИ использовать нельзя. Поверх модели можно поставить локального ИИ-агента: он работает с вашими документами и учётом, не отправляя их во внешний сервис.
- Цена
- от 250 000 ₽
- Срок
- от 4 недель
- Работаем с
- Open-source LLM, Fine-tuning, RAG
- 0Данных уходит наружу
- 152-ФЗРабота с ПДн внутри периметра
- 24/7Без лимитов на запросы
ИИ нужен, а данные отдавать нельзя
Самые полезные сценарии автоматизации упираются в данные, которые нельзя отправить во внешний сервис.
Персональные данные под запретом
Резюме, медицинские сведения, данные клиентов. Отправка их в облачный ИИ – риск нарушения 152-ФЗ.
Служба безопасности против
Проект останавливается на согласовании, потому что никто не может гарантировать, куда уходят данные.
Коммерческая тайна
Договоры, себестоимость, условия поставщиков. Отправлять такое в чужой сервис никто не готов.
Зависимость от внешнего провайдера
Сменились тарифы, ограничили доступ, изменили модель – и работающий процесс встал.
Что входит в решение
Модель на ваших серверах
Разворачиваем открытую модель в вашей инфраструктуре или в российском облаке. Запросы и ответы не покидают контур.
Выбор модели под задачу
Подбираем размер модели под ваши задачи и железо. Для многих сценариев компактная модель работает не хуже большой и дешевле в эксплуатации.
Дообучение на ваших данных
Модель адаптируется под вашу отрасль, терминологию и формат ответов – на данных, которые не выходят за периметр.
Обезличивание данных
Там, где внешняя модель всё же выгоднее, настраиваем маскирование: персональные данные заменяются на метки перед отправкой и восстанавливаются в ответе.
Единая точка доступа
Внутренний шлюз, через который к модели обращаются все сервисы компании. Централизованные логи, лимиты и права.
Документы для СБ
Схема потоков данных и описание контура – то, что обычно и требуется, чтобы согласовать проект внутри.
Локальный ИИ-агент
Поверх модели в контуре работает агент: читает документы, данные 1С или CRM и готовит ответ или черновик документа. Данные не уходят наружу, а действие с ценой ошибки агент предлагает, утверждает его сотрудник.
Как проходит развёртывание
Требования и ограничения
3–5 днейВыясняем, какие данные участвуют, какие требования у службы безопасности и что есть из железа. От этого зависит выбор модели и схема.
Выбор и тест модели
5–7 днейПрогоняем несколько моделей на ваших задачах и сравниваем качество и скорость. Выбираем ту, что укладывается в ваши ресурсы.
Развёртывание контура
7–14 днейСтавим модель, настраиваем шлюз, права и логирование. Подключаем ваши сервисы через единый внутренний интерфейс.
Приёмка и передача
2–4 неделиНагрузочный тест, документация, обучение вашей команды. Передаём контур полностью: дальше вы можете обслуживать его сами.
С чем мы работаем
Данные и доступы
Данные не покидают периметр
Модель работает на ваших серверах или в вашей аренде. Персональные данные, договоры и коммерческая тайна не уходят к внешнему провайдеру.
Обезличивание там, где нужен внешний сервис
Если часть задач требует более сильной внешней модели, перед отправкой текст обезличивается – это отдельный уровень в разделе «Стоимость».
Доступы по минимуму
Просим только те права, которые нужны для работы, и на время работы. После запуска наши учётные записи закрываются или передаются вашему администратору.
Что нужно от вас
Сервер или аренда мощностей
Оборудование или облачная аренда с видеокартами. Что подходит под ваши задачи, считаем на первом этапе; покупаете вы у поставщика напрямую.
Сценарий для пилота
Одна задача, на которой видно, справляется ли локальная модель: например, ответы по внутренним документам.
Человек с вашей стороны
Один сотрудник, который знает процесс и может ответить, почему он устроен именно так. Без него настройка превращается в угадывание.
Чего мы делать не берёмся
Обещать качество большой внешней модели
Локальные модели слабее крупных облачных. Насколько – говорим до выбора варианта и проверяем на пилоте.
Продавать оборудование
Серверы и видеокарты вы покупаете у поставщика. В смету наших работ они не входят.
Сколько стоит приватный контур
«Пилот» – от 250 000 ₽, «Рабочий контур» – от 450 000 ₽, «С обезличиванием» – от 700 000 ₽. Указана начальная цена. Каждый проект индивидуален, поэтому итоговая сумма может отличаться: изредка она выходит ниже, но обычно окончательную цену формируем после подробного обсуждения и плана задач. Стоимость серверов или аренды мощностей считается отдельно и зависит от выбранной модели.
Пилот
- Одна модель, один сценарий
- Развёртывание в вашем контуре
- Базовый шлюз доступа
- Документация схемы данных
Рабочий контур
- Несколько сценариев
- Дообучение на ваших данных
- Права, лимиты и логирование
- Интеграция с внутренними сервисами
- Месяц сопровождения
С обезличиванием
- Гибридная схема: локально и облако
- Маскирование персональных данных
- Отказоустойчивость
- Пакет документов для службы безопасности
- Квартал сопровождения
Сравнить уровни таблицей
| Уровень | Что входит | Срок | Цена |
|---|---|---|---|
| Пилот | Одна модель, один сценарий, Развёртывание в вашем контуре, Базовый шлюз доступа, Документация схемы данных | от 4 недель | от 250 000 ₽ |
| Рабочий контур | Несколько сценариев, Дообучение на ваших данных, Права, лимиты и логирование, Интеграция с внутренними сервисами, Месяц сопровождения | от 6 недель | от 450 000 ₽ |
| С обезличиванием | Гибридная схема: локально и облако, Маскирование персональных данных, Отказоустойчивость, Пакет документов для службы безопасности, Квартал сопровождения | от 8 недель | от 700 000 ₽ |
Можно ли отправлять персональные данные в ChatGPT?
Локальная модель сильно хуже GPT?
Какое железо нужно?
Что если мы не готовы к полному локальному контуру?
Сколько стоит приватная LLM?
Материал обновлён