AI 런타임 인벤토리: 섀도우 AI 발견, LLM 호출 추적
AI 에이전트는 사용자를 대신하여 작업합니다. 실제 자격 증명을 사용하고, 실제 API 호출을 수행하며, 도구를 호출하고, API에 접근하고, 프로덕션 시스템을 건드립니다. 대부분의 보안 도구는 이 활동을 합법적인 것으로 간주합니다. 기술적으로는 그렇기 때문입니다.
실제 문제는 권한 없는 접근만이 아닙니다.
더 큰 문제는 런타임에 권한 있는 접근이 부적절해질 때입니다.
AIOStack은 Aurva의 AI 워크로드를 위한 무료 커뮤니티 런타임 가시성 계층입니다. 보안 및 플랫폼 팀이 섀도우 AI를 발견하고, 에이전트 ID를 매핑하고, LLM 및 도구 활동을 추적하며, Kubernetes 환경 내에서 AI 시스템이 어떻게 동작하는지 이해할 수 있도록 도와줍니다.
애플리케이션 코드 변경 불필요. SDK 종속성 불필요. 사이드카 불필요. AI 워크로드가 실제로 실행되는 곳에서의 런타임 가시성.
curl -fsSL https://aurva.ai/install.sh | bash
설치 프로그램이 설정 과정을 안내하고, app.aurva.ai에서 가입하도록 안내한 후 AIOStack®을 클러스터에 배포합니다. 60초 이내에 AI 인벤토리가 나타납니다.
수동 Helm 설치는 설치 가이드를 참조하세요.
제거
curl -fsSL https://aurva.ai/uninstall.sh | bash
AIOStack은 클러스터에 두 가지 구성 요소를 배포합니다.
Observer (DaemonSet): 각 노드에서 실행되며, 커널 트레이스포인트(tcp_sendmsg, tcp_recvmsg, execve, openat)에 연결되는 eBPF 프로그램을 로드합니다. 이 프로그램들은 네트워크 메타데이터, DNS 쿼리, 프로세스 실행 이벤트를 캡처하고 AI 관련 패턴(API 엔드포인트, 모델 다운로드, 벡터 DB 프로토콜)을 필터링한 후 사용자 공간으로 전달합니다.
Outpost (Deployment): Observer로부터 이벤트를 수신하고, 애플리케이션 프로토콜(HTTP/1.1, HTTP/2, gRPC)을 파싱하며, 시그니처 매칭을 통해 AI 서비스를 분류하고, /proc/net/tcp 및 cgroup 정보를 통해 소켓 inode를 파드 ID와 연결하여 Kubernetes 메타데이터로 이벤트를 풍부하게 만듭니다.
트래픽은 TLS 암호화 전(이그레스) 및 복호화 후(인그레스)에 syscall 수준에서 분석되며, SSL_write/SSL_read 함수에 uprobe를 사용합니다. 메타데이터(HTTP 헤더, 페이로드 크기, 지연 시간)만 추출되며, 요청/응답 본문은 절대 캡처되지 않습니다.
AIOStack은 무료로 사용할 수 있습니다. 모든 핵심 eBPF 기반 기능은 기능 제한 없이 커뮤니티 에디션에서 사용할 수 있습니다.
엔터프라이즈 에디션은 표준 Kubernetes 환경 외부에서 AI 워크로드를 실행하는 팀을 위한 통합 및 지원을 추가합니다.
참고: eBPF는 Bedrock, Vertex, Databricks 또는 기타 관리형 PaaS 런타임에서 사용할 수 없습니다. 이러한 환경의 경우 엔터프라이즈 에이전트리스 기반 통합에 대해 문의해 주세요.
전체 문서: aurva.ai/docs
AIOStack을 적극적으로 개발 중이며 여러분의 의견을 듣고 싶습니다:
Apache License 2.0 - 자세한 내용은 LICENSE를 참조하세요.
app.aurva.ai의 호스팅 버전은 관리형 ClickHouse® 스토리지 및 UI 호스팅을 제공합니다. 모든 핵심 관측 가능성 로직은 최고 아키텍트의 승인 후 이 저장소에서 오픈 소스로 공개될 예정입니다.
Aurva에서 제작함](https://aurva.io)
| 질문 | 제공 정보 |
|---|
| 어떤 에이전트가 존재하나요? | 클러스터 전역에서 실행 중인 AI 에이전트, LLM 호출, 섀도우 AI, AI 서비스를 자동으로 발견합니다. |
| 어떤 ID를 사용하나요? | 각 에이전트를 Kubernetes 파드, 네임스페이스, 서비스 계정, 워크로드 ID에 매핑합니다. |
| 어떤 AI 시스템이 관여하나요? | LLM API, 모델 엔드포인트, 벡터 데이터베이스, MCP 서버에 대한 가시성을 제공합니다. |
| 어떤 작업을 수행하나요? | AI 호출에 대한 런타임 메타데이터(모델, 공급자, 토큰 사용량, 대상, 지연 시간)를 제공합니다. |
| 호출은 어떻게 연결되어 있나요? | 서비스, 도구, 에이전트 워크플로 전반에 걸친 AI 호출 계보를 추적합니다. |
| 활동의 소유자는 누구인가요? | 서비스, 네임스페이스, 팀에 속성을 부여합니다. |
| 기능 | 커뮤니티 | 엔터프라이즈 |
|---|
| 섀도우 AI 탐지 | ✅ | ✅ |
| AIBOM | ✅ | ✅ |
| 에이전트 ID 매핑 | ✅ | ✅ |
| 프롬프트 및 호출 모니터링 | ✅ | ✅ |
| AI 호출 계보 | ✅ | ✅ |
| 비용 및 사용량 속성 | ✅ | ✅ |
| 규정 준수 감사 추적 | ✅ | ✅ |
| 관리형 UI + 대시보드 | ✅ via app.aurva.ai | ✅ |
| AWS CloudWatch 로그 통합 | — | ✅ |
| AWS Bedrock 로그 통합 (에이전트리스) | — | ✅ |
| Azure AI Foundry 로그 통합 (에이전트리스) | — | ✅ |
| 알림 및 정책 시행 | — | ✅ |
| SSO + RBAC | — | ✅ |
| 전담 지원 SLA | — | ✅ |