#1
microsoft/pyrit用于对生成式AI系统进行红队测试的开源框架：自动化攻击提示、对模型响应进行评分，并审计行为以识别安全与安全性风险。
promptfoo/promptfoo测试你的提示词、代理和RAG。对AI进行红队测试/渗透测试/漏洞扫描。比较GPT、Claude、Gemini、DeepSeek等的性能。简单的声明式配置，支持命令行和CI/CD集成。被OpenAI和Anthropic使用。
nousresearch/hermes-agent与你共同成长的智能体
ultralytics/ultralytics深度学习框架，用于目标检测、分割、分类、姿态估计和跟踪，支持使用预训练的 YOLO 模型以及 Python/CLI API。
openclaw/openclawThe AI that really does things. Any OS. Any Platform. The lobster way. 🦞
nvidia-nemo/guardrails适用于 LLM 聊天应用的可编程护栏：强制执行输入/输出轨道，阻止越狱攻击和提示注入，检测幻觉，并屏蔽敏感数据。
tesseract-ocr/tesseract开源 OCR 引擎，采用 LSTM 神经网络模型，可通过 CLI、C/C++ 库和 API 从图像和扫描文档中提取 100 多种语言的文本。
koala73/worldmonitor实时全球情报仪表盘。AI驱动的新闻聚合、地缘政治监控和基础设施跟踪，集成在统一的情境感知界面中。
microsoft/responsible-ai-toolbox用于负责任AI模型调试的交互式仪表盘和库，涵盖错误分析、公平性、可解释性、反事实分析、因果分析和数据平衡。
thalesgroup-cert/watcherAI驱动的威胁情报平台，用于自动化CVE/勒索软件监控、域名监控、数据泄露检测和事件响应，并集成MISP/TheHive。
arxhr007/aliens_eyeHunt down 840+ social media accounts using AI
promptfoo/modelauditSecurity scanner for AI/ML model files. Detects malicious code, backdoors, and vulnerabilities before deployment
giskard-ai/giskard-oss🐢 用于 LLM 智能体的开源评估与测试库
data-privacy-stack/presidio一个用于检测、编辑、遮盖和匿名化跨文本、图像和结构化数据的敏感数据（PII）的开源框架。支持自然语言处理、模式匹配和可定制的流水线。
francescopace/espectreESPectre - 基于Wi-Fi频谱分析（CSI）的运动检测系统，集成Home Assistant。
