giskard-oss
giskard-ai/giskard-oss🐢 Библиотека с открытым исходным кодом для оценки и тестирования LLM-агентов
vulnerability-scannersfuzzingmachine-learning+3
5.9k
giskard-ai/giskard-oss🐢 Библиотека с открытым исходным кодом для оценки и тестирования LLM-агентов
microsoft/pyritФреймворк с открытым исходным кодом для red-teaming генеративных ИИ-систем: автоматизируйте атакующие промпты, оценивайте ответы моделей и проводите…
promptfoo/modelauditSecurity scanner for AI/ML model files. Detects malicious code, backdoors, and vulnerabilities before deployment
ottosulin/awesome-ai-securityКоллекция отличных ресурсов, связанных с безопасностью ИИ
goochbeater/spiritual-spell-red-teamingРепозиторий для джейлбрейка различных LLM, в основном Claude
promptfoo/promptfooТестируйте свои промпты, агенты и RAG. Red teaming/пентестинг/сканирование уязвимостей для ИИ. Сравнивайте производительность GPT, Claude, Gemini,…
p-e-w/hereticПолностью автоматическое снятие цензуры для языковых моделей
gmh5225/awesome-ai-securityA curated list of AI Security materials and resources for Pentesters, Bug Hunters, and Security Researchers.
guillaumemeyer/watermarks-removerПриложение с приоритетом приватности, которое удаляет AI-водяные знаки из вашего собственного контента.
nvidia/garakModular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…
misp/misp-galaxyClusters and elements to attach to MISP events or attributes (like threat actors)
datadog/stratus-red-team:cloud: :zap: Детальная и практичная эмуляция действий злоумышленника для облака
meridianlabs-ai/inspect_petriАгент аудита согласованности, способный быстро исследовать гипотезы согласованности
bishopfox/sliverФреймворк эмуляции противника
s3n4t0r-0x0/bear-c2The exploit server for out-of-band findings. Point a target at a domain you own. Every HTTP request and every email it sends back lands in a…
mastyf-ai/mastyf.aiOpen-source AI security platform providing perimeter defense for LLMs and AI agents through swarm analysis, policy enforcement, adversarial testing,…
kevinchunye/prompt_injectionСтенд для бенчмаркинга, измеряющий, на каком этапе срабатывают защиты от prompt injection в конвейерах LLM-агентов, использующих инструменты,…
shaheeryasirofficial/smugglemypayloadГенерирует страницы HTML-контрабанды, которые встраивают и восстанавливают файлы на стороне клиента через JavaScript, с кодированием полезной…