#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천
bittersecurity/decepticon격리된 Kali 샌드박스 내에서 정찰, 익스플로잇, 권한 상승, 측면 이동 및 C2에 이르는 전체 공격 체인을 계획하고 실행하는 자율 LLM 레드팀 에이전트입니다.
gmh5225/llm-guard-service프롬프트 인젝션, 탈옥 공격, 유해 콘텐츠로부터 AI 서비스와 상호작용할 때 보호 기능을 제공하는 서비스입니다.
gmh5225/llm-attack-prompt탈옥, 프롬프트 유출, 프롬프트 인젝션, LLM 공격. 대규모 언어 모델 공격 프롬프트 모음
cosmosyi/autocontrol-arenaAutomated framework for frontier AI safety evaluation that synthesizes executable, pressure-rich test environments to uncover latent risks in…
yxf203/defense-as-skill스킬 증강 에이전트에서 스킬로 유도된 악성 공격을 탐지하고 차단하는 런타임 가드 스킬로, 롤아웃 피드백을 통해 가드 정책을 진화시키는 MCTS 루프를 갖추고 있습니다.
trailofbits/privacyraven딥러닝 시스템용 프라이버시 테스트 라이브러리로, 멤버십 추론, 모델 추출, 모델 반전 공격에 대한 취약성 평가와 프라이버시 보호 기법 평가를 지원합니다.
protectai/rebuff휴리스틱, LLM 기반 분석, vectorDB 공격 시그니처, 카나리 토큰 누출 탐지를 활용하는 AI 애플리케이션용 다중 계층 프롬프트 인젝션 탐지기.
doubangotelecom/facelivenessdetection-sdk3D 패시브 얼굴 활성 탐지(안티-스푸핑) & 딥페이크 탐지. 단일 이미지만으로 활성 점수를 계산합니다. 당사 데이터셋에서 99,67% 정확도, 여러 공개 데이터셋(NUAA, CASIA FASD, MSU...)에서 완벽한 점수를 기록했습니다.
