«Группа Астра» спускает на воду Боцман AI: искусственный интеллект теперь работает под флагом корпоративной безопасности

Новая платформа открывает бизнесу возможность пользоваться современными ИИ-моделями в собственном корпоративном контуре, соблюдая при этом все регуляторные требования и нормы информационной безопасности.

«Группа Астра», ведущий российский разработчик инфраструктурного программного обеспечения объявляет о выходе Боцман AI — платформы для запуска языковых и других моделей искусственного интеллекта внутри защищённого контура компании, без единого байта данных, уходящего во внешние облачные сервисы. Новинка снимает главное противоречие корпоративной ИИ-трансформации — получить всю мощь современных моделей и при этом полностью сохранить контроль над данными.

Новый продукт стал логичным расширением платформы «Боцман» — отечественного решения оркестрации контейнеров на базе Kubernetes, входящего в состав Astra Dev Platform и ориентированного на компании, которые строят внутренние платформы разработки и эксплуатируют приложения в изолированных или регулируемых инфраструктурах.

Проблема, которую решает Боцман AI

Сегодня бизнес хочет активно использовать языковые модели, однако требования информационной безопасности, регуляторные ограничения и внутренние политики зачастую исключают передачу данных во внешние сервисы. При этом развернуть модель самостоятельно до сих пор означало запускать отдельный инфраструктурный проект под каждую задачу: выбирать runtime, настраивать GPU, загружать веса, конфигурировать эндпоинты и мониторинг. Боцман AI берёт всю эту рутину на себя.

Принцип работы Боцман AI

Платформенная команда описывает модель через стандартный Kubernetes-ресурс, а всё остальное система делает автоматически. Она самостоятельно подготавливает хранилище весов и запускает runtime с нужным движком — будь то vLLM, Ollama, SGLang или FasterWhisper, после чего публикует модель через единый шлюз. Отдельного внимания заслуживает механизм обновлений — они происходят без образования окна недоступности, что особенно критично при работе с дорогостоящей GPU-инфраструктурой.