#1Adversarial ML attack frameworks, evasion techniques, and model robustness evaluation tools.
Kitploit 추천

AI 시스템의 적대적 테스트 및 보안 평가에 관한 종합 가이드로, 조직이 공격자가 악용하기 전에 취약점을 식별할 수 있도록 지원합니다.

IP 풀 전체에 걸쳐 무작위 MAC으로 DHCP 요청을 생성하고 브로드캐스트하여 DHCP 임대를 고갈시켜 DHCP 기아 공격을 시연하는 libtins 기반 C++ 도구입니다.

LLM 안전 가드가 위조된 미끼 콘텐츠를 채점하도록 속이는 타깃 리바인딩 공격에 대한 연구 코드, 벤치마크 및 방어 기법과 세그먼트-최대 증류 강화를 포함합니다.

LLM을 대상으로 한 탈옥 공격 성공률(ASR 및 단계별 ASR)을 측정하기 위한 연구 코드로, GCG와 같은 공격의 구현 및 평가 스크립트를 포함합니다.

Claude, Gemini, ChatGPT의 메모리 기능을 통한 지속적 프롬프트 인젝션 연구로, 재현 단계, 데이터셋, 그리고 프라이버시·무결성·가용성 공격에 대한 증명을 포함합니다.

초기 종료 깊이 LLM 전반에 걸친 탈옥 취약점. NeurIPS 2026 FLMSec 워크숍에서 발표됨

공개 벤치마크와 설문 마이크로데이터를 기반으로 여섯 가지 AI 보안 리터러시 역량 차원을 정립하고, 그림, 표, 재개 가능한 결과물을 생성하는 재현 가능한 Colab 파이프라인입니다.

USENIX Security 2026에서 터널 노드와 IPv6 확장 헤더를 악용한 DDoS 공격을 시연하고, 관련 분석 및 평가 코드를 함께 제공하는 연구 결과물입니다.

코딩 에이전트의 컨텍스트 압축에 관한 보안 연구: 신뢰할 수 없는 콘텐츠에 위조된 역할 레이블이 요약 과정을 거쳐 어떻게 살아남아 실행되는지를 측정, 데모, 수정 방안과 함께 보여줍니다.

GitLab Duo DevSecOps 루프로, 두 번째 AI가 AI가 작성한 모든 수정 사항을 다시 공격하고, 성공한 각 우회를 CI와 프로덕션에서 재생되는 영구 항체로 저장합니다.

중심성 기반 허브성(hubness)을 통해 벡터 데이터베이스 인덱스를 오염시키는 블랙홀 공격(Black-Hole Attack)의 연구 구현으로, FAISS 파이프라인과 탐지/완화 방어 평가를 포함한다.

탈옥, 프롬프트 유출, 프롬프트 인젝션, LLM 공격. 대규모 언어 모델 공격 프롬프트 모음

상용 이미지 생성기의 시각적 허위정보 위험을 평가하기 위한 레드팀 벤치마크 및 블랙박스 공격 프레임워크로, 10k개의 허위 주장 프롬프트와 채점 스크립트를 포함합니다.

논문 "Rethinking Latency Denial-of-Service: Attack the LLM Serving Framework, Not the Model"의 구현

토큰 하나하나, 타협되다: 통합 자기회귀 모델의 백도어 취약점 (NeurIPS'26)

비전-언어 웹 에이전트에 대한 적대적 이미지 공격: 시각적 그라운딩부터 브라우저 실행까지

LLM의 악의적인 파인튜닝을 선택적 레이어 복구와 동적 라우팅으로 완화하는 방어 프레임워크로, 학습, 유해성 점수 산정, 탈옥 평가 스크립트를 포함합니다.

상용 모델 가드레일을 무해한 프롬프트 위빙과 적응형 트리 탐색을 사용하여 우회하는 LLM 탈옥 에이전트의 연구 구현.