#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit
koala73/worldmonitorИнформационная панель глобальной разведки в реальном времени. Агрегация новостей на базе ИИ, мониторинг геополитической обстановки и отслеживание…
inceptionstack/lowkeyРазверните самостоятельно размещённых ИИ-агентов для программирования (OpenClaw, Claude Code, Codex) в своей учётной записи AWS с помощью…
nousresearch/hermes-agentАгент, который растет вместе с вами
sseshachala/conductaiУправление средой выполнения для ИИ-агентов. Разрешайте, предупреждайте или блокируйте каждый вызов модели и инструмента до его выполнения. Аудит с…
promptfoo/promptfooТестируйте свои промпты, агенты и RAG. Red teaming/пентестинг/сканирование уязвимостей для ИИ. Сравнивайте производительность GPT, Claude, Gemini,…
skyvern-ai/skyvernАвтоматизируйте браузерные рабочие процессы с помощью ИИ
vxcontrol/pentagiFully autonomous AI Agents system capable of performing complex penetration testing tasks
beenuar/aisocSelf-hostable AI SOC that fuses security alerts, auto-triages via agentic AI, runs MITRE ATT&CK investigations, and logs every agent decision in a…
prismorsec/prismorSelf-hosted runtime control plane for AI agents. Observe or HITL approve or Block rogue tool calls before it executes: secret leaks, prompt…
microsoft/pyritФреймворк с открытым исходным кодом для red-teaming генеративных ИИ-систем: автоматизируйте атакующие промпты, оценивайте ответы моделей и проводите…
gosuda/ssh-chatterssh-chat на современном c
huhusmang/awesome-llms-for-vulnerability-detectionСообщество, наиболее полный и постоянно обновляемый индекс исследований по большим языковым моделям для обнаружения уязвимостей в программном…
microsoft/agent-governance-toolkitПринудительное применение политик, идентификация с нулевым доверием, изоляция выполнения и аудиторское логирование для автономных AI-агентов.…
provos/ironcurtainБезопасная* среда выполнения для автономных ИИ-агентов. Политика на основе конституций на простом английском языке. (*https://ironcurtain.dev)
meridianlabs-ai/inspect_petriАгент аудита согласованности, способный быстро исследовать гипотезы согласованности
xalgord/xalgorixAutonomous AI pentesting agents — real-time reconnaissance, vulnerability detection, and exploitation orchestration. Go + TypeScript.
promptfoo/modelauditСканер безопасности для файлов моделей ИИ/МО. Обнаруживает вредоносный код, бэкдоры и уязвимости до развертывания.
luckypipewrench/pipelockOpen-source AI agent firewall that scans HTTP, MCP, A2A, and WebSocket traffic for exfiltration, SSRF, and prompt injection, emitting verifiable…
