
promptfoo
프롬프트, 에이전트 및 RAG를 테스트하세요. AI를 위한 레드 팀 활동/침투 테스트/취약점 스캔. GPT, Claude, Gemini, DeepSeek 등의 성능을 비교하세요. 명령줄 및 CI/CD 통합을 지원하는 간단한 선언적 구성. OpenAI 및…

생성형 AI 시스템 레드팀을 위한 오픈소스 프레임워크: 공격 프롬프트 자동화, 모델 응답 점수화, 보안 및 안전 위험을 식별하기 위한 동작 감사.

Modular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…


🐢 LLM 에이전트용 오픈소스 평가 및 테스트 라이브러리

The AI Security Verification Standard (AISVS) focuses on providing developers, architects, and security professionals with a structured checklist to…

AI 보안 관련 멋진 리소스 모음

적군 모의 프레임워크

오류 분석, 공정성, 해석 가능성, 반사실적 분석, 인과 분석, 데이터 균형을 다루는 책임 있는 AI 모델 디버깅을 위한 대화형 대시보드 및 라이브러리.

하드웨어 브레이크포인트(DR0-DR7) 기반 패치리스 유저 모드 후킹 및 텔레메트리 계측 엔진(AMSI, WLDP 및 ETW PoC).

Security scanner for AI/ML model files. Detects malicious code, backdoors, and vulnerabilities before deployment

The exploit server for out-of-band findings. Point a target at a domain you own. Every HTTP request and every email it sends back lands in a…

A curated list of AI Security materials and resources for Pentesters, Bug Hunters, and Security Researchers.

다양한 LLM, 주로 Claude를 탈옥(jailbreak)하기 위한 저장소

소유한 콘텐츠에서 AI 워터마크를 제거하는 프라이버시 우선 앱입니다.

Clusters and elements to attach to MISP events or attributes (like threat actors)

:cloud: :zap: 클라우드를 위한 세분화되고 실행 가능한 적대자 에뮬레이션

정렬 가설을 신속하게 탐색할 수 있는 정렬 감사 에이전트