ws4-secure-design-agentic-systems

CoSAI Workstream 4: Padrões de Design Seguro para Sistemas Agênticos

Este repositório é destinado ao trabalho do CoSAI Workstream 4, Padrões de Design Seguro para Sistemas Agênticos. O CoSAI é um Projeto Aberto OASIS e um ecossistema aberto de especialistas em IA e segurança de organizações líderes do setor, dedicados a compartilhar melhores práticas para implantação segura de IA e colaborar em pesquisa e desenvolvimento de produtos de segurança de IA. Para mais informações sobre o CoSAI, visite o site do CoSAI e o repositório do Projeto Aberto que contém informações sobre governança, patrocinadores, listas de participantes e o estatuto do projeto.

Sobre este workstream

O objetivo deste workstream é pesquisar e desenvolver padrões de design seguro para sistemas agênticos baseados em IA, incluindo atualizações para modelos de ameaças de uso de IA, padrões conceituais de design seguro de alto nível, impactos no design de infraestrutura segura e outras necessidades baseadas em integração e uso de agentes. Mais informações podem ser encontradas aqui.

Líderes do Workstream

• Ian Molloy (IBM)
• Sarah Novotny

Líderes de Apoio

• Alex Polyakov (Adversa)
• Raghuram Yeluri (Intel)

Trabalhos publicados deste workstream

RFCs

RFCs ativos e aprovados:

• 6. Análise de Lacunas de Melhores Práticas de Segurança do Protocolo de Contexto de Modelo (MCP)
• 50. Plano de Dados Consciente de Confiança para Sistemas Agênticos

Whitepapers

Este workstream publicou e lançou os seguintes whitepapers.

• Princípios do CoSAI para Sistemas Agênticos Seguros por Design e PDF
• Gerenciamento de Identidade e Acesso Agêntico e PDF

Runbooks

Runbooks são guias práticos, ou "cookbooks", que fornecem exemplos concretos, trechos de código, Notebooks e instanciações das recomendações, melhores práticas e requisitos de segurança identificados nos RFCs e Whitepapers. Eles não são pretendidos como soluções completas, mas sim uma ilustração de como transformar a teoria em prática.

1. Design de Ferramentas para Sistemas Agênticos Seguros
2. Sanitização e Filtragem de Entrada e Dados
3. Isolamento de Runtime do MCP

Contribuindo

Confira nosso guia de integração para novos participantes e consulte a política de contribuição do CoSAI para mais detalhes.

Suporte

Para problemas ou funcionalidades, use as issues do Github. Você também pode se juntar à lista de e-mails do workstream enviando um e-mail vazio para [email protected]. Você pode ler o arquivo da lista de e-mails aqui.

Você também pode se juntar a nós no Slack por meio deste link e se apresentar no canal #ws4-secure-design-agentic-systems.

Governança e Licenças

O CoSAI e o workstream do CoSAI operam sob os termos das Regras do Projeto Aberto, da Governança do CoSAI e da Governança do Workstream, bem como sob as seguintes licenças:

• CC-BY 4.0 para contribuições de documentação e dados; e
• Apache License v2.0 para código-fonte e modelos

A licença aplicável será determinada para cada repositório, conforme aplicável, no momento de sua criação.