Agentic Evidence

Evidências de Segurança e Observabilidade para IA Agêntica

Agentic Evidence é um projeto de referência open-source da OWASP que explora como coletar, correlacionar e avaliar evidências de segurança para a execução de IA agêntica.

A observabilidade de agentes pode mostrar que um evento foi registrado. Uma investigação de segurança precisa estabelecer o que aconteceu, quais identidades e permissões estavam envolvidas, quais entradas influenciaram a ação, quais decisões de política foram tomadas e quais conclusões as evidências disponíveis realmente sustentam.

O Agentic Evidence concentra-se em suficiência de evidências, reconstrução de execução e investigação de segurança. Ele complementa taxonomias e projetos de teste de segurança de agentes, em vez de duplicá-los.

Status do projeto: O projeto está em incubação e a implementação inicial está sendo planejada. A arquitetura e os comandos descritos neste documento representam o MVP pretendido e podem mudar à medida que as decisões de implementação forem finalizadas.

Objetivos

• Reconstruir execuções de agentes a partir de eventos de execução e segurança correlacionados.
• Conectar ações a identidades, entradas, conteúdo recuperado, chamadas de ferramentas, decisões de autorização e resultados.
• Tornar a proveniência das evidências e as lacunas de evidências visíveis aos investigadores.
• Demonstrar o que pode e o que não pode ser concluído a partir das evidências coletadas.
• Fornecer cenários determinísticos e repetíveis que os contribuidores possam executar localmente.
• Publicar uma taxonomia de evidências extensível e orientações práticas para profissionais de segurança.

Cenários Iniciais

1. Execução benigna: Estabelecer uma linha de base para um fluxo de trabalho normal de agente.
2. Envenenamento de recuperação: Demonstrar como o conteúdo recuperado pode influenciar uma ação do agente e se as evidências capturam essa relação.
3. Modificação de descritor de ferramenta: Avaliar se as evidências podem estabelecer qual descritor de ferramenta foi observado ou utilizado e se as modificações são detectáveis.

Os cenários devem ser determinísticos e usar dados sintéticos. O projeto não deve afirmar que um ataque é detectável, a menos que a implementação e os testes sustentem essa afirmação.

MVP Pretendido

A primeira versão está planejada como uma aplicação de referência local com:

• Um executor de cenários determinístico.
• Um esquema de evidências JSON versionado.
• Telemetria de execução e correlação via OpenTelemetry.
• Um gravador de evidências e um armazenamento local de evidências.
• Uma interface de investigação de segurança com linhas do tempo de execução, detalhes de eventos e lacunas de evidências.
• Pacotes de evidências exportáveis.
• Testes automatizados, configuração Docker Compose e documentação para contribuidores.

Stack Tecnológica Proposta

Componente	Tecnologia Proposta
Aplicação/API	Python com FastAPI, ou Go quando apropriado
Formato de evidências	JSON versionado com JSON Schema
Telemetria	OpenTelemetry SDK e OTLP
Armazenamento local	SQLite e/ou fixtures JSON
Interface de investigação	Streamlit ou uma interface leve equivalente
Implantação local	Docker Compose
Testes	pytest e validação de esquema
Integração contínua	GitHub Actions

Estas são escolhas de implementação propostas, não uma garantia de que todos os componentes estejam disponíveis. As decisões de arquitetura devem ser documentadas no repositório e alteradas apenas quando houver uma justificativa técnica clara.

O Que Este Projeto Não É

A versão inicial não se destina a ser:

• Um SIEM de produção ou uma plataforma de observabilidade de uso geral.
• Um runtime de agente, provedor de modelos ou mecanismo de resposta autônoma.
• Uma garantia de que um agente é seguro ou de que as evidências registradas são verdadeiras.
• Um substituto para aplicação de autorização, controles de segurança em tempo de execução ou resposta a incidentes.
• Dependente de um LLM ativo, Kubernetes ou infraestrutura de nuvem.

Telemetria não é prova por si só. Eventos podem estar ausentes, correlacionados incorretamente ou gerados por um componente comprometido. A aplicação deve distinguir registros observados, asserções de componentes, evidências verificadas de forma independente e incógnitas.

Fluxo de Trabalho Conceitual

1. Execute um cenário determinístico.
2. Gere eventos de execução e de segurança.
3. Correlacione eventos com uma execução de agente e o contexto de rastreamento.
4. Valide as estruturas dos eventos e registre a proveniência.
5. Inspecione linhas do tempo de execução, decisões de autorização, resultados e lacunas de evidências.
6. Exporte o pacote de evidências e compare-o com os achados esperados do cenário.

Documentação do Repositório

• Primeiros Passos: Configuração local e fluxo de trabalho da primeira execução.
• Recursos: Padrões, especificações e projetos de segurança relacionados.
• FAQ: Escopo do projeto, confiança nas evidências, limitações de telemetria e dúvidas sobre contribuição.

Princípios do Projeto

• Evidências antes de afirmações: Os achados devem ser sustentados por evidências explícitas.
• Torne a incerteza visível: A ausência de evidências é um resultado, não um motivo para inventar uma conclusão.
• Repetibilidade: Os cenários devem ter entradas determinísticas e resultados esperados testáveis.
• Mínimo de dados: Use entradas sintéticas por padrão e evite coletar segredos ou dados pessoais desnecessários.
• Interoperabilidade: Prefira esquemas documentados e convenções de telemetria estabelecidas quando apropriado.
• Segurança por design: Trate a ingestão, o armazenamento, as exportações e a interface de investigação de evidências como componentes sensíveis à segurança.

Contribuindo

Contribuições são bem-vindas nas seguintes áreas:

• Design e validação de esquemas de evidências.
• Cenários de segurança de agentes e casos de teste reproduzíveis.
• Coleta de telemetria e correlação de eventos.
• Proveniência, integridade e análise de evidências.
• Melhorias na interface de investigação.
• Testes automatizados e documentação.

Antes de iniciar um trabalho substancial:

1. Revise as issues existentes e o roteiro do projeto.
2. Abra ou comente em uma issue descrevendo a mudança proposta.
3. Mantenha os pull requests focados e inclua testes ou evidências reproduzíveis quando aplicável.
4. Nunca envie segredos, dados reais de clientes ou rastreamentos de produção sensíveis.

Siga as diretrizes de contribuição do repositório para os requisitos atuais.

Licença

O projeto pretende usar a Apache License 2.0, sujeita ao arquivo de licença publicado no repositório. Consulte o arquivo LICENSE do repositório para os termos autoritativos.

Agradecimentos

Agentic Evidence é um projeto OWASP. Consulte a listagem oficial de projetos da OWASP e os metadados do repositório para obter a liderança atual, detalhes de contato e status do projeto. Referências a ferramentas e serviços de terceiros não implicam endosso da OWASP.