
Инвентаризация AI во время выполнения: обнаружение теневого AI, трассировка вызовов LLM
AI-агенты действуют от имени пользователей. Они используют реальные учетные данные, совершают реальные API-вызовы, вызывают инструменты, обращаются к API и взаимодействуют с production-системами. Большинство инструментов безопасности видят эту активность как легитимную, поскольку технически она такова.
Настоящая проблема — не только несанкционированный доступ.
Бóльшая проблема — когда авторизованный доступ становится неправомерным во время выполнения.
AIOStack — это бесплатный уровень видимости времени выполнения для AI-нагрузок от Aurva, предназначенный для сообщества. Он помогает командам безопасности и платформенным командам обнаруживать теневой AI, сопоставлять идентификаторы агентов, отслеживать активность LLM и инструментов, а также понимать, как AI-системы ведут себя в среде Kubernetes.
Никаких изменений кода приложения. Никаких зависимостей от SDK. Никаких sidecar-контейнеров. Видимость времени выполнения там, где на самом деле выполняются AI-нагрузки.
curl -fsSL https://aurva.ai/install.sh | bash
Установщик проведёт вас через настройку, откроет app.aurva.ai для регистрации и развернёт AIOStack® в вашем кластере. Ваш инвентарь AI появится в течение 60 секунд.
См. Руководство по установке для установки вручную через Helm.
Удаление
curl -fsSL https://aurva.ai/uninstall.sh | bash
AIOStack развёртывает два компонента в вашем кластере:
Observer (DaemonSet): Запускается на каждом узле и загружает программы eBPF, которые подключаются к точкам трассировки ядра (tcp_sendmsg, tcp_recvmsg, execve, openat). Эти программы захватывают метаданные сети, DNS-запросы и события выполнения процессов, фильтруя AI-специфичные паттерны (конечные точки API, загрузки моделей, протоколы векторных БД) перед отправкой в пользовательское пространство.
Outpost (Deployment): Получает события от Observer, разбирает протоколы приложений (HTTP/1.1, HTTP/2, gRPC), классифицирует AI-сервисы с помощью сигнатурного сопоставления и обогащает события метаданными Kubernetes, коррелируя inode сокетов с идентификаторами подов через /proc/net/tcp и информацию cgroup.
Трафик анализируется на уровне системных вызовов — до шифрования TLS на исходящем направлении, после расшифровки на входящем — с использованием uprobe на функциях SSL_write/SSL_read. Извлекаются только метаданные (заголовки HTTP, размеры полезной нагрузки, задержки); тела запросов/ответов никогда не захватываются.
Читайте: Как мы обошли ловушку SSL/TLS
AIOStack бесплатен в использовании. Все основные функции на основе eBPF доступны в версии для сообщества без ограничений по функционалу.
Enterprise добавляет интеграции и поддержку для команд, работающих с AI-нагрузками вне стандартных сред Kubernetes:
Примечание: eBPF недоступен на Bedrock, Vertex, Databricks или других управляемых PaaS-средах. Для таких сред свяжитесь с нами для получения интеграций Enterprise без агентов.
Свяжитесь с нами по поводу Enterprise →
Полная документация: aurva.ai/docs
Мы активно развиваем AIOStack и будем рады услышать ваше мнение:
Лицензия Apache 2.0 — см. LICENSE для подробностей.
Размещённая версия на app.aurva.ai предоставляет управляемое хранилище ClickHouse® и хостинг UI. Вся основная логика наблюдательности будет открыта в этом репозитории после одобрения нашим главным архитектором.
Создано компанией Aurva
| Вопрос | Что вы получаете |
|---|
| Какие агенты существуют? | Автоматическое обнаружение AI-агентов, LLM-вызовов, теневого AI и AI-сервисов, работающих в вашем кластере |
| Какие идентификаторы они используют? | Сопоставление каждого агента с его подом Kubernetes, пространством имён, сервисным аккаунтом и рабочей нагрузкой |
| Какие AI-системы задействованы? | Видимость LLM API, конечных точек моделей, векторных баз данных и MCP-серверов |
| Какие действия они выполняют? | Метаданные времени выполнения для AI-вызовов — модель, провайдер, использование токенов, назначение, задержка |
| Как выстраиваются цепочки вызовов? | Линейка AI-вызовов между сервисами, инструментами и рабочими процессами агентов |
| Кто владеет активностью? | Привязка к сервисам, пространствам имён и командам |
| Функция | Сообщество | Enterprise |
|---|
| Обнаружение теневого AI | ✅ | ✅ |
| AIBOM | ✅ | ✅ |
| Сопоставление идентификаторов агентов | ✅ | ✅ |
| Мониторинг промптов и вызовов | ✅ | ✅ |
| Линейка AI-вызовов | ✅ | ✅ |
| Атрибуция затрат и использования | ✅ | ✅ |
| Журналы аудита для соответствия | ✅ | ✅ |
| Управляемый UI + панели | ✅ через app.aurva.ai | ✅ |
| Интеграция логов AWS CloudWatch | — | ✅ |
| Интеграция логов AWS Bedrock (без агента) | — | ✅ |
| Интеграция логов Azure AI Foundry (без агента) | — | ✅ |
| Оповещение и обеспечение политик | — | ✅ |
| SSO + RBAC | — | ✅ |
| Выделенный SLA поддержки | — | ✅ |