#1Adversarial ML attack frameworks, evasion techniques, and model robustness evaluation tools.
Kitploit 추천

AI 리버스 엔지니어링 에이전트로부터 바이너리, Electron ASAR, JS, WASM, Python 및 모델 파일을 디코이 메타데이터, 예산 소진 및 런타임 동등 방어막을 사용하여 강화합니다.
오류 분석, 공정성, 해석 가능성, 반사실적 분석, 인과 분석, 데이터 균형을 다루는 책임 있는 AI 모델 디버깅을 위한 대화형 대시보드 및 라이브러리.

프롬프트 인젝션, 탈옥 및 적대적 공격을 탐지하기 위한 LLM 보안 테스트 프레임워크 — 190개 이상의 프로브, 28개 제공자, 단일 Go 바이너리


A post exploitation framework / C2 for advanced Red Team operations

다양한 LLM, 주로 Claude를 탈옥(jailbreak)하기 위한 저장소

Empire는 Red Team과 침투 테스터를 지원하는 데 사용되는 사후 침투 및 적성 모의(adversary emulation) 프레임워크입니다.

모듈형 LLM 취약점 스캐너로, 정적, 동적 및 적응형 프로브를 사용하여 여러 모델 제공업체에서 환각, 데이터 유출, 프롬프트 인젝션, 탈옥 및 유해성을 탐지합니다.

생성형 AI 시스템 레드팀을 위한 오픈소스 프레임워크: 공격 프롬프트 자동화, 모델 응답 점수화, 보안 및 안전 위험을 식별하기 위한 동작 감사.

AI/ML 모델 파일용 보안 스캐너입니다. 배포 전에 악성 코드, 백도어 및 취약점을 탐지합니다.

프롬프트, 에이전트 및 RAG를 테스트하세요. AI를 위한 레드 팀 활동/침투 테스트/취약점 스캔. GPT, Claude, Gemini, DeepSeek 등의 성능을 비교하세요. 명령줄 및 CI/CD 통합을 지원하는 간단한 선언적 구성. OpenAI 및…

:cloud: :zap: 클라우드를 위한 세분화되고 실행 가능한 적대자 에뮬레이션

Benchmark harness that evaluates LLM agent tool-calling security under long-horizon tasks, generating prompt-injection and tool-poisoning attacks and…

MISP 이벤트 또는 속성에 첨부할 클러스터 및 요소(예: 위협 행위자)

적군 모의 프레임워크

학습 없이 언어 모델 수정: 검열 제거, slop 억제, 아첨 감소 등

정렬 가설을 신속하게 탐색할 수 있는 정렬 감사 에이전트
