#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

장기 지평(long-horizon) 작업에서 LLM 에이전트의 도구 호출 보안을 평가하고, 프롬프트 인젝션 및 도구 중독 공격을 생성하며, 런타임에 LTL 명세를 검증하는 벤치마크 하네스입니다.
"7개의 대규모 언어 모델 전반에 걸친 적대적 탈옥 공격 및 방어의 체계적 평가"를 위한 코드

딥러닝 시스템용 프라이버시 테스트 라이브러리로, 멤버십 추론, 모델 추출, 모델 반전 공격에 대한 취약성 평가와 프라이버시 보호 기법 평가를 지원합니다.

휴리스틱, LLM 기반 분석, vectorDB 공격 시그니처, 카나리 토큰 누출 탐지를 활용하는 AI 애플리케이션용 다중 계층 프롬프트 인젝션 탐지기.

3D 패시브 얼굴 활성 탐지(안티-스푸핑) & 딥페이크 탐지. 단일 이미지만으로 활성 점수를 계산합니다. 당사 데이터셋에서 99,67% 정확도, 여러 공개 데이터셋(NUAA, CASIA FASD, MSU...)에서 완벽한 점수를 기록했습니다.

생성형 AI를 위한 Python 위험 식별 도구(PyRIT)는 보안 전문가와 엔지니어가 생성형 AI 시스템의 위험을 사전에 식별할 수 있도록 지원하기 위해 구축된 오픈 소스 프레임워크입니다.

비밀을 유출하거나 자신의 PR을 병합할 수 없는 AI 코딩 에이전트.