#1Adversarial ML attack frameworks, evasion techniques, and model robustness evaluation tools.
Kitploit 추천
microsoft/pyrit생성형 AI 시스템 레드팀을 위한 오픈소스 프레임워크: 공격 프롬프트 자동화, 모델 응답 점수화, 보안 및 안전 위험을 식별하기 위한 동작 감사.
meta-llama/purplellamaLLM 보안을 평가하고 개선하기 위한 도구 모음입니다.
promptfoo/modelauditAI/ML 모델 파일용 보안 스캐너입니다. 배포 전에 악성 코드, 백도어 및 취약점을 탐지합니다.
promptfoo/promptfoo프롬프트, 에이전트 및 RAG를 테스트하세요. AI를 위한 레드 팀 활동/침투 테스트/취약점 스캔. GPT, Claude, Gemini, DeepSeek 등의 성능을 비교하세요. 명령줄 및 CI/CD 통합을 지원하는 간단한 선언적 구성. OpenAI 및…
datadog/stratus-red-team:cloud: :zap: 클라우드를 위한 세분화되고 실행 가능한 적대자 에뮬레이션
giskard-ai/giskard-oss🐢 LLM 에이전트용 오픈소스 평가 및 테스트 라이브러리
mastyf-ai/mastyf.ai오픈 소스 AI 보안 플랫폼으로, 스웜 분석, 정책 시행, 적대적 테스트, 실시간 위협 탐지를 통해 LLM 및 AI 에이전트에 대한 경계 방어를 제공합니다.
albert-y1n/pismithPISmith: Reinforcement Learning-based Red Teaming for Prompt Injection Defenses
owasp/aisvsAI Security Verification Standard (AISVS)는 개발자, 아키텍트, 보안 전문가가 AI 기반 애플리케이션의 보안을 검증할 수 있도록 구조화된 체크리스트를 제공하는 데 중점을 둡니다.
goochbeater/spiritual-spell-red-teaming다양한 LLM, 주로 Claude를 탈옥(jailbreak)하기 위한 저장소
praetorian-inc/augustus프롬프트 인젝션, 탈옥 및 적대적 공격을 탐지하기 위한 LLM 보안 테스트 프레임워크 — 190개 이상의 프로브, 28개 제공자, 단일 Go 바이너리
ottosulin/awesome-ai-securityAI 보안 관련 멋진 리소스 모음
pho5nix/red-team-goad-lab-proxmox레드팀 홈 랩 구축 가이드. Proxmox와 pfSense에서의 GOAD 랩 설정, Operator/C2 및 Redirector.
bishopfox/sliver적군 모의 프레임워크
guillaumemeyer/watermarks-remover소유한 콘텐츠에서 AI 워터마크를 제거하는 프라이버시 우선 앱입니다.
misp/misp-galaxyMISP 이벤트 또는 속성에 첨부할 클러스터 및 요소(예: 위협 행위자)
joshuagodwin7929/purple-team-automationAD 랩을 대상으로 자동화된 적대자 에뮬레이션(Caldera)을 수행하여 Sigma 탐지 커버리지를 검증하고 결과를 MITRE ATT&CK에 매핑합니다.
gmh5225/awesome-ai-securityA curated list of AI Security materials and resources for Pentesters, Bug Hunters, and Security Researchers.
