#1Adversarial ML attack frameworks, evasion techniques, and model robustness evaluation tools.
Kitploit 추천

프롬프트 인젝션, 탈옥 및 적대적 공격을 탐지하기 위한 LLM 보안 테스트 프레임워크 — 190개 이상의 프로브, 28개 제공자, 단일 Go 바이너리
모듈형 LLM 취약점 스캐너로, 정적, 동적 및 적응형 프로브를 사용하여 여러 모델 제공업체에서 환각, 데이터 유출, 프롬프트 인젝션, 탈옥 및 유해성을 탐지합니다.

오픈소스 크로스 모달 및 멀티모달 프롬프트 인젝션 테스트 스위트. 텍스트, 이미지, 문서, 오디오 모달리티 전반에 걸친 250,000개 이상의 공격 페이로드. OWASP LLM Top 10, CrossInject (ACM MM 2025), FigStep (AAAI…

Claude AI의 고심각도 프롬프트 인젝션 결함은 가장 똑똑한 언어 모델조차도 단 몇 줄의 코드로 무기로 변할 수 있음을 증명합니다.

프롬프트 인젝션 공격이 LLM에 도달하기 전에 차단하세요 — API 비용 없음, 완전 로컬 실행, 2분이면 통합. 프롬프트 인젝션은 LLM 애플리케이션의 #1 보안 위험입니다. aco-prompt-shield는 알려진 탈옥 패턴을 포착하고, ML을 통해 의미적 의도를…

정렬 가설을 신속하게 탐색할 수 있는 정렬 감사 에이전트

오픈소스 프롬프트 인젝션 공격 콘솔. 분류된 공격을 모든 엔드포인트에 발사하여 AI 보안을 테스트하세요.

평범해 보이는 텍스트에 포함된 보이지 않는 유니코드 인코딩 명령어를 대규모 언어 모델이 따르는지 테스트하는 평가 프레임워크로, 여러 모델 및 도구 조건에 걸친 통계적 분석을 제공합니다.

음성 기반 탐정 심문 게임. Mistral Large 3 + Voxtral STT + ElevenLabs TTS. Mistral Worldwide Hackathon 2026용으로 제작됨.

JSON으로 정의된 공격 경로를 위치 독립적인 셸코드 페이로드로 컴파일하여 고급 탐지 및 AI 기반 조사 에이전트를 검증하는 플레이북 기반 적대자 시뮬레이션 프레임워크입니다.

AI 보안 관련 멋진 리소스 모음

언어 모델을 위한 완전 자동 검열 제거

적대자 시뮬레이션 및 AI 기반 레드 팀 플랫폼

프롬프트, 에이전트 및 RAG를 테스트하세요. AI를 위한 레드 팀 활동/침투 테스트/취약점 스캔. GPT, Claude, Gemini, DeepSeek 등의 성능을 비교하세요. 명령줄 및 CI/CD 통합을 지원하는 간단한 선언적 구성. OpenAI 및…

머신러닝을 위한 Metasploit.


시스템이 APT 공격의 피해를 입은 것처럼 보이게 하는 도구 모음

정보 보안 대비 태세를 점검하기 위한 적대적 시뮬레이션 도구입니다.