#1LLM 기반 에이전트를 위한 에이전틱 탈옥 프레임워크로, 스킴 기반 작업 분해, 다중 턴 위장 전략, 적응형 자기 진화를 사용하여 새롭게 부상하는 보안 위험을 탐색합니다.

블랙박스 LLM 추출 공격, 방어 및 적응형 공격을 위한 수명 주기 벤치마크입니다.

도구를 사용하는 LLM 에이전트 파이프라인에서 프롬프트 인젝션 방어가 어느 지점에서 작동하는지 측정하고, 노출·지속·릴레이·실행 단계 전반에 걸쳐 카나리 토큰을 추적하는 벤치마크 하네스.

TTPForge는 공격자의 전술, 기법, 절차(TTP)를 개발, 자동화, 실행하기 위한 사이버 보안 프레임워크입니다.

QAI 2026 논문에서 시뮬레이션에서 IBM 양자 하드웨어로의 FGSM 공격 전이성에 관한 코드와 결과입니다.

멀티모달 스킬 이미지에 숨겨진 악성 지시에 LLM 에이전트가 저항하는지 테스트하는 벤치마크 및 평가 하네스로, 5개 위험 범주에 걸친 108개 사례와 ASR/TSR 점수를 제공합니다.

RL 기반 프롬프트 인젝션 레드팀을 위한 오픈 프레임워크로, 공유 트레이너, 커리큘럼 학습, 그리고 AgentDojo, InjecAgent, PIArena와 같은 벤치마크를 제공합니다.

PISmith: 프롬프트 주입 방어를 위한 강화 학습 기반 레드 팀

진화적 LLM 탈옥 및 가드레일 프레임워크로, 유전적 변이, 마르코프 선택, 온라인 적대적 훈련을 통해 재사용 가능한 전략 풀을 성장시켜 안전성 평가를 수행합니다.

레드팀 홈 랩 구축 가이드. Proxmox와 pfSense에서의 GOAD 랩 설정, Operator/C2 및 Redirector.

오디오-언어 모델을 동결 상태로 유지하고, 추론 시점에서 오디오 탈옥을 차단하기 위해 중간 계층 위험 게이트와 후반 계층 안전 어댑터를 추가하는 방어 프레임워크입니다.

파인튜닝된 LLM 분류기에서 단일 KV-cache 비트를 뒤집고 클래스별 공격 성공률을 측정하는 그레이박스 트로이 목마 공격을 위한 연구 코드.

AD 랩을 대상으로 자동화된 적대자 에뮬레이션(Caldera)을 수행하여 Sigma 탐지 커버리지를 검증하고 결과를 MITRE ATT&CK에 매핑합니다.

Experiments for control-token chain-of-thought suppression and parser-leniency attacks on tool-using LLM agents

Gemini - 프로덕션 LLM 런타임 정렬 컨텍스트 주입


공개적으로 보고된 프롬프트 인젝션 기법을 전달 방식, 인코딩, 전파 동작별로 분류하고, 확인된 모델, 출처, MITRE ATLAS 태그와 함께 정리한 추적기입니다.