#1Adversarial ML attack frameworks, evasion techniques, and model robustness evaluation tools.
Kitploit 추천

아웃오브밴드 발견을 위한 익스플로잇 서버. 타깃을 자신이 소유한 도메인으로 향하게 하세요. 되돌아오는 모든 HTTP 요청과 모든 이메일이 당신이 통제하는 대시보드에 기록되며, 그 대가로 당신이 선택한 응답을 받게 됩니다.

LLM 기반 에이전트 집단 어그로 공격 프레임워크로, 적응형 다중 역할 전략을 사용하여 블랙박스 협업 필터링 추천 순위를 조작하면서 탐지를 회피합니다.

AI 보안 기초, 위협 모델링, 레드팀 공격 기법, 블루팀 방어를 다루는 구조화된 지식 베이스로, LLM 보안, 적대적 ML, 딥페이크 대응 조치를 포함합니다.

PGM-인덱스에 대한 포이즈닝 공격 연구 코드로, 학습된 인덱스 성능을 저하시키기 위해 적대적 데이터를 구성하는 방법을 시연합니다.

MCP 서버에서 LLM 에이전트를 레드팀 공격하기 위한 궤적 인식 진화 검색 프레임워크로, 위험 범주 전반에 걸쳐 취약점 지형을 매핑하기 위한 적대적 프롬프트를 생성합니다.

블랙박스 공격 프레임워크로, 에이전트 기반 검색 증강 생성(RAG) 시스템에서 추론을 탈취하기 위해 오염된 문서를 주입하며, 여러 공격 방법과 데이터셋을 지원합니다.

검색 증강 언어 모델에 대한 중독 공격의 연구 구현으로, 위장된 문서를 사용하여 필터링 방어를 우회하고 잘못된 답변을 유도합니다.

AI 에이전트의 안전성을 스킬 관련 컨텍스트에 내장된 공격에 대해 평가하기 위한 벤치마크로, 6개 위험 영역에 걸친 155개 사례를 통해 작업 성공률과 공격 저항성을 측정합니다.

LLM 가드레일을 조작된 도구 출력으로 혼동시켜 우회하기.

다단계 프롬프트 인젝션 기법으로, 정체성 재할당, 거부 억제, 출력 강제를 통해 LLM 안전 정렬을 우회하며, ChatGPT 및 Gemini와 같은 주요 모델에 영향을 미칩니다.

적응형 프롬프트 인젝션을 on-policy distillation을 통해 완화하는 연구 구현물로, SEP, PISmith, AgentDojo 벤치마크를 위한 학습 레시피와 평가기를 포함합니다.

간접 시스템 콜, 동적 API 해석, 컴파일 타임 문자열 난독화를 통해 SeImpersonatePrivilege를 악용하는 GodPotato의 Crystal 포팅 버전입니다. 명령 실행, 리버스 셸 또는 사용자 추가를 지원합니다.

적대적 머신러닝 보안을 위한 Python 라이브러리로, 레드 팀과 블루 팀이 주요 ML 프레임워크 전반에서 회피, 중독, 추출, 추론 공격 및 방어를 실행할 수 있게 해줍니다.

공격을 구성하고 방어를 구축하며 둘 모두를 벤치마킹하기 위한 적대적 예제 라이브러리

PyTorch, TensorFlow, JAX에서 신경망을 속이는 적대적 예제를 생성하기 위한 Python 툴박스


이상치, 적대적 및 드리프트 탐지 알고리즘

LLM 에이전트 워크플로우를 위한 보안 스캐너