Adversarial Attack

siyuanli00/intact

SoK 의도 지향 체계화 논문의 다중 턴 LLM 탈옥 실험(FITD, MRCJ, ActorAttack, X-Teaming)을 재현하는 연구 코드.

yeasen-z/leakgauge

로그 확률에 대해 경량 동작 프로브를 훈련하여 LLM 컨텍스트 유출 공격을 탐지하며, vLLM 오프라인/서버 탐지 파이프라인을 포함합니다.

lassnajmuldeen/balcony-jailbreaking

초기 종료 깊이 LLM 전반에 걸친 탈옥 취약점. NeurIPS 2026 FLMSec 워크숍에서 발표됨

gmh5225/bedaisy-bypass

UEFI 및 비-UEFI 시스템에서 안티치트 탐지를 억제하기 위해 BEDaisy-서비스 보고 트래픽을 가로채고, 복호화하고, 무력화하는 커널 모드 후크입니다.

phkhanhtrinh23/agas

LLM 기반 에이전트 집단 어그로 공격 프레임워크로, 적응형 다중 역할 전략을 사용하여 블랙박스 협업 필터링 추천 순위를 조작하면서 탐지를 회피합니다.

seeyn/anti-tamper-perturbation

[ICCV 2025] 허가되지 않은 개인 이미지 생성을 위한 변조 방지 보호

sec5gloc/sec5gloc

신호 스푸핑 및 적대적 교란에 대응하기 위해 CNN과 멀티 헤드 어텐션을 결합한 안전한 5G 실내 위치 파악을 위한 적대자 내성 딥러닝 아키텍처입니다.

zhou-cybersecurity-ai/synghost

Syntactic Ghost: 사전 학습된 언어 모델에 대한 감지 불가능한 범용 백도어 공격

loophole-llc/fish-live-in-trees

Gemini - 프로덕션 LLM 런타임 정렬 컨텍스트 주입

sbamit/exponentiated-gradient-descent-llm-attack

Exponentiated Gradient Descent 기법을 기반으로 한 LLM에 대한 새로운 적대적 공격.

hanxi19/black_hole_attack_for_vector_database

중심성 기반 허브성(hubness)을 통해 벡터 데이터베이스 인덱스를 오염시키는 블랙홀 공격(Black-Hole Attack)의 연구 구현으로, FAISS 파이프라인과 탐지/완화 방어 평가를 포함한다.

jisung-pacific/hdi-graphrag-attack

GraphRAG 파이프라인에서 LLM과 함께 구조적 보조 인덱싱 취약점을 노출하는 Hop-Decayed Influence(HDI)와 3S 공격 프레임워크의 연구 구현.

js-lee-ai/refusal-relocates

LLM 안전성: 파인튜닝이 거부 행동을 어떻게 변화시키는지 분석하고, 레이어 동결 및 저랭크 방어 기법을 평가합니다.

uiuc-kang-lab/persistbd

LLM 에이전트 백도어가 정상적인 파인튜닝 후에도 살아남도록 만드는 어댑터를 훈련하기 위한 연구 코드로, 트리거 비율 점수 산정, SWE-bench 평가, 데이터셋 빌더를 포함합니다.

hondamunigeprasannasilva/attack-attention

[CVPR 2025-ADVML] `Attacking Attention of Foundation Models Effectively Disrupts Downstream Tasks` 공식 저장소

usama1002/deleting-the-trace

Experiments for control-token chain-of-thought suppression and parser-leniency attacks on tool-using LLM agents

lsudoko/antibody

GitLab Duo DevSecOps 루프로, 두 번째 AI가 AI가 작성한 모든 수정 사항을 다시 공격하고, 성공한 각 우회를 CI와 프로덕션에서 재생되는 영구 항체로 저장합니다.