ws4-secure-design-agentic-systems

CoSAI Workstream 4: Sichere Entwurfsmuster für agentische Systeme

Dieses Repository ist für die Arbeit des CoSAI Workstream 4, Sichere Entwurfsmuster für agentische Systeme. CoSAI ist ein OASIS Open Project und ein offenes Ökosystem von KI- und Sicherheitsexperten aus führenden Unternehmen der Branche, das sich der Weitergabe bewährter Verfahren für die sichere KI-Bereitstellung und der Zusammenarbeit bei der KI-Sicherheitsforschung und Produktentwicklung widmet. Weitere Informationen zu CoSAI finden Sie auf der CoSAI-Website und im Open Project Repository, das Informationen über Governance, Sponsoren, Teilnehmerlisten und die Projektcharta enthält.

Über diesen Workstream

Das Ziel dieses Workstreams ist es, sichere Entwurfsmuster für KI-basierte agentische Systeme zu erforschen und zu entwickeln, einschließlich Aktualisierungen von Bedrohungsmodellen für die KI-Nutzung, konzeptionelle hochrangige sichere Entwurfsmuster, Auswirkungen auf das sichere Infrastrukturdesign und andere Bedürfnisse der Agentenintegration und -nutzung. Weitere Informationen finden Sie hier.

Workstream-Leiter

• Ian Molloy (IBM)
• Sarah Novotny

Unterstützende Leiter

• Alex Polyakov (Adversa)
• Raghuram Yeluri (Intel)

Veröffentlichte Arbeiten aus diesem Workstream

RFCs

Aktive und genehmigte RFCs:

• 6. Model Context Protocol (MCP) Sicherheitsbewährte-Praktiken-Lückenanalyse
• 50. Vertrauensbewusste Datenebene für agentische Systeme

Whitepapers

Dieser Workstream hat die folgenden Whitepapers veröffentlicht und freigegeben.

• CoSAI Prinzipien für sichere-by-Design agentische Systeme und PDF
• Agentisches Identitäts- und Zugriffsmanagement und PDF

Runbooks

Runbooks sind praktische Leitfäden oder „Kochbücher“, die konkrete Beispiele, Codeausschnitte, Notebooks und Instanziierungen der Empfehlungen, bewährten Verfahren und Sicherheitsanforderungen aus den RFCs und Whitepapers liefern. Sie sind nicht als vollständige Lösungen gedacht, sondern veranschaulichen, wie die Theorie in die Praxis umgesetzt werden kann.

1. Werkzeugentwurf für sichere agentische Systeme
2. Eingabe- und Datenbereinigung und -filterung
3. MCP Laufzeitisolierung

Mitwirken

Sehen Sie sich unsere Onboarding-Anleitung für neue Teilnehmer an und beachten Sie bitte die CoSAI Mitwirkungsrichtlinie für weitere Details.

Unterstützung

Für Probleme oder Funktionen nutzen Sie bitte Github Issues. Sie können auch der Mailingliste des Workstreams beitreten, indem Sie eine leere E-Mail an [email protected] senden. Sie können das Archiv der Mailingliste hier lesen.

Sie können uns auch über diesen Link auf Slack beitreten und sich im Kanal #ws4-secure-design-agentic-systems vorstellen.

Governance und Lizenzen

CoSAI und der CoSAI Workstream arbeiten nach den Bedingungen der Open Project Rules, der CoSAI Governance und der Workstream Governance sowie unter den folgenden Lizenzen:

• CC-BY 4.0 für Dokumentations- und Datenbeiträge; und
• Apache License v2.0 für Quellcode und Modelle

Die anwendbare Lizenz wird für jedes Repository gegebenenfalls zum Zeitpunkt seiner Erstellung festgelegt.