AI 运行时清单:发现影子 AI,追踪 LLM 调用
AI 代理代表用户执行操作。它们使用真实凭证、发起真实 API 调用、调用工具、访问 API,并接触生产系统。 大多数安全工具将此类活动视为合法,因为从技术上讲,它确实是合法的。
真正的问题不仅仅是未经授权的访问。
更大的问题是,在运行时,授权访问可能变得不恰当。
AIOStack 是 Aurva 提供的面向 AI 工作负载的免费社区运行时可见性层。它帮助安全团队和平台团队发现影子 AI、映射代理身份、追踪 LLM 和工具活动,并了解 AI 系统在 Kubernetes 环境中的行为。
无需修改应用代码。无需 SDK 依赖。无需 Sidecar。在 AI 工作负载实际运行的运行时提供可见性。
curl -fsSL https://aurva.ai/install.sh | bash
安装程序将引导您完成设置,打开 app.aurva.ai 进行注册,并将 AIOStack® 部署到您的集群中。您的 AI 清单将在 60 秒内出现。
查看安装指南以了解手动 Helm 安装。
卸载
curl -fsSL https://aurva.ai/uninstall.sh | bash
AIOStack 在您的集群中部署两个组件:
Observer(DaemonSet):在每个节点上运行,加载 eBPF 程序,钩入内核跟踪点(tcp_sendmsg、tcp_recvmsg、execve、openat)。这些程序捕获网络元数据、DNS 查询和进程执行事件,过滤出 AI 特定模式(API 端点、模型下载、向量数据库协议),然后转发到用户空间。
Outpost(Deployment):接收 Observer 的事件,解析应用协议(HTTP/1.1、HTTP/2、gRPC),通过签名匹配对 AI 服务进行分类,并通过将套接字 inode 关联到 Pod 身份(利用 /proc/net/tcp 和 cgroup 信息)来使用 Kubernetes 元数据丰富事件。
流量在系统调用级别进行分析——在出站时的 TLS 加密之前,入站时的解密之后——通过对 SSL_write/SSL_read 函数使用 uprobe。仅提取元数据(HTTP 头、payload 大小、延迟);从不捕获请求/响应体。
AIOStack 免费使用。所有基于 eBPF 的核心功能在社区版中均可使用,无功能限制。
企业版增加了对在标准 Kubernetes 环境之外运行 AI 工作负载的团队的集成和支持:
注意: eBPF 在 Bedrock、Vertex、Databricks 或其他托管 PaaS 运行时上不可用。对于这些环境,请联系我们获取企业版无代理集成。
完整文档:aurva.ai/docs
我们正在积极开发 AIOStack,期待您的反馈:
Apache 许可证 2.0 — 详见 LICENSE。
托管版本 app.aurva.ai 提供托管的 ClickHouse® 存储和 UI 托管。所有核心可观测性逻辑将在获得首席架构师批准后,于此仓库开源。
由 Aurva 构建
| 问题 | 您将获得什么 |
|---|
| 存在哪些代理? | 自动发现集群中运行的 AI 代理、LLM 调用、影子 AI 和 AI 服务 |
| 它们使用什么身份? | 将每个代理映射到其 Kubernetes Pod、命名空间、服务账户和工作负载身份 |
| 涉及哪些 AI 系统? | 对 LLM API、模型端点、向量数据库和 MCP 服务器的可见性 |
| 它们正在执行哪些操作? | AI 调用的运行时元数据 — 模型、提供商、令牌用量、目标地址、延迟 |
| 调用是如何串联的? | 跨服务、工具和代理工作流的 AI 调用链路 |
| 谁拥有该活动? | 归属到服务、命名空间和团队 |
| 特性 | 社区版 | 企业版 |
|---|
| 影子 AI 发现 | ✅ | ✅ |
| AIBOM | ✅ | ✅ |
| 代理身份映射 | ✅ | ✅ |
| 提示词和调用监控 | ✅ | ✅ |
| AI 调用链路 | ✅ | ✅ |
| 成本与用量归属 | ✅ | ✅ |
| 合规审计轨迹 | ✅ | ✅ |
| 托管 UI + 仪表盘 | ✅ 通过 app.aurva.ai | ✅ |
| AWS CloudWatch 日志集成 | — | ✅ |
| AWS Bedrock 日志集成(无代理) | — | ✅ |
| Azure AI Foundry 日志集成(无代理) | — | ✅ |
| 告警与策略执行 | — | ✅ |
| SSO + RBAC | — | ✅ |
| 专属支持 SLA | — | ✅ |