#1Adversarial ML attack frameworks, evasion techniques, and model robustness evaluation tools.
Kitploit 추천

검색 증강 생성 보안에 관한 연구 논문 큐레이션 컬렉션으로, 지식 오염, 검색 조작, 컨텍스트 악용, 방어를 아우르는 SLOT 분류 체계에 따라 구성되어 있습니다.

LLM 에이전트 백도어가 정상적인 파인튜닝 후에도 살아남도록 만드는 어댑터를 훈련하기 위한 연구 코드로, 트리거 비율 점수 산정, SWE-bench 평가, 데이터셋 빌더를 포함합니다.

HTS, LEGSA, GCTIR 단계를 통해 검증된 성공 경험을 구축하고 이를 형성 기록으로 조직하여 모델 기술을 점진적으로 오염시키는 연구 파이프라인.

1차 최적 안전 캘리브레이션과 주기적 재캘리브레이션을 LLM에 적용하여, 안전 호환 업데이트를 유지하면서 다운스트림 작업 유용성을 향상시키는 파인튜닝 프레임워크입니다.

논문 "Random Embedding Perturbations를 통한 오픈 웨이트 LLM 탈옥"을 위한 코드, 응답 로그 및 레이블

GraphRAG 파이프라인에서 LLM과 함께 구조적 보조 인덱싱 취약점을 노출하는 Hop-Decayed Influence(HDI)와 3S 공격 프레임워크의 연구 구현.

애플리케이션에 통합된 LLM을 대상으로 한 간접 프롬프트 인젝션 공격에 관한 개념 증명 데모 및 연구로, 데이터 유출, 원격 제어, 지속성, 코드 완성 중독을 다룹니다.

OpenClaw 스타일 컴퓨터 사용 에이전트에 대한 지속적 메모리 공격을 위한 벤치마크 및 방어 코드로, 메모리 구역화 완화, 공격 시나리오, 평가 스크립트를 포함합니다.

블랙박스 LLM 추출 공격, 방어 및 적응형 공격을 위한 수명 주기 벤치마크입니다.

LLM 안전성: 파인튜닝이 거부 행동을 어떻게 변화시키는지 분석하고, 레이어 동결 및 저랭크 방어 기법을 평가합니다.

도구를 사용하는 LLM 에이전트 파이프라인에서 프롬프트 인젝션 방어가 어느 지점에서 작동하는지 측정하고, 노출·지속·릴레이·실행 단계 전반에 걸쳐 카나리 토큰을 추적하는 벤치마크 하네스.

딥러닝 지연, 에너지-지연 및 타이밍(가용성) 공격과 방어에 대한 선별된 색인 — ACM Computing Surveys 제출 논문의 부속 자료.

프롬프트 인젝션 공격에 대응하기 위한 오픈 웨이트 LLM과 학습/평가 코드, 그리고 에이전트 도구 호출 및 명령 수행 보안을 위한 벤치마크.

멀티모달 스킬 이미지에 숨겨진 악성 지시에 LLM 에이전트가 저항하는지 테스트하는 벤치마크 및 평가 하네스로, 5개 위험 범주에 걸친 108개 사례와 ASR/TSR 점수를 제공합니다.

LLM 기반 에이전트를 위한 에이전틱 탈옥 프레임워크로, 스킴 기반 작업 분해, 다중 턴 위장 전략, 적응형 자기 진화를 사용하여 새롭게 부상하는 보안 위험을 탐색합니다.

진화적 LLM 탈옥 및 가드레일 프레임워크로, 유전적 변이, 마르코프 선택, 온라인 적대적 훈련을 통해 재사용 가능한 전략 풀을 성장시켜 안전성 평가를 수행합니다.

RL 기반 프롬프트 인젝션 레드팀을 위한 오픈 프레임워크로, 공유 트레이너, 커리큘럼 학습, 그리고 AgentDojo, InjecAgent, PIArena와 같은 벤치마크를 제공합니다.

웹 기반 적대자 에뮬레이션 플랫폼으로, Go 에이전트를 통해 Windows 엔드포인트 전반에서 Atomic Red Team 테스트를 오케스트레이션하며, MITRE ATT&CK 매핑, APT 에뮬레이션 계획, 탐지 규칙 상관관계 분석을 제공합니다.