#1
mamadou-keita/deeclip# DeeCLIP: AI 생성 이미지 탐지를 위한 강력하고 일반화 가능한 트랜스포머 기반 프레임워크 논문 구현
aniketkarne/aco-prompt-shield프롬프트 인젝션 공격이 LLM에 도달하기 전에 차단하세요 — API 비용 없음, 완전 로컬 실행, 2분이면 통합. 프롬프트 인젝션은 LLM 애플리케이션의 #1 보안 위험입니다. aco-prompt-shield는 알려진 탈옥 패턴을 포착하고, ML을 통해 의미적 의도를…
jinxhy/awesome-moai-security모바일 온디바이스 AI 시스템을 위한 공격 및 방어 연구의 엄선된 읽기 목록 및 분류 체계로, 적대적 공격, 백도어 공격, 모델 도난 공격, 에너지-지연 공격을 비롯해 난독화, TEE, 워터마킹 방어를 다룹니다.
ye-ze-yu/epireal-bench상용 이미지 생성기의 시각적 허위정보 위험을 평가하기 위한 레드팀 벤치마크 및 블랙박스 공격 프레임워크로, 10k개의 허위 주장 프롬프트와 채점 스크립트를 포함합니다.
deep-jlu/skillpoisonHTS, LEGSA, GCTIR 단계를 통해 검증된 성공 경험을 구축하고 이를 형성 기록으로 조직하여 모델 기술을 점진적으로 오염시키는 연구 파이프라인.
safety-research/red-teaming-auto-modeAI 자동 모드 모니터 레드팀을 위한 연구 코드로, 시뮬레이션 평가, 퍼징, Claude Code 및 Codex guardian용 모니터 구현을 포함합니다.
wang-yanting/agentwatcher인과적 맥락 귀속과 규칙 기반 모니터를 활용한 LLM 에이전트의 간접 프롬프트 인젝션 방어로, AgentDyn 및 기타 벤치마크에서 최첨단 성능을 달성합니다.
mouna23/ai-driven-mitre-attack이 저장소는 로그에서 MITRE ATT&CK 기법을 탐지하고 로컬 LLM을 사용하여 출력을 보강하는 머신러닝 파이프라인을 보여줍니다.
rin449/bhpai스텔스 Ring-3 Windows 샌드박스, 정적 PE/PDF 분석기, 랜섬웨어 키 복구, 그리고 오탐 방지 탐지를 위한 AI 앙상블을 결합한 다중 형식 멀웨어 분석 플랫폼입니다.
abhinavdubey30/perturbed-embedding-vectors논문 "Random Embedding Perturbations를 통한 오픈 웨이트 LLM 탈옥"을 위한 코드, 응답 로그 및 레이블
canonicalmg/reverse-captcha-eval평범해 보이는 텍스트에 포함된 보이지 않는 유니코드 인코딩 명령어를 대규모 언어 모델이 따르는지 테스트하는 평가 프레임워크로, 여러 모델 및 도구 조건에 걸친 통계적 분석을 제공합니다.
multimodal-ai-lab/tobac토큰 하나하나, 타협되다: 통합 자기회귀 모델의 백도어 취약점 (NeurIPS'26)
kevinchunye/prompt_injection도구를 사용하는 LLM 에이전트 파이프라인에서 프롬프트 인젝션 방어가 어느 지점에서 작동하는지 측정하고, 노출·지속·릴레이·실행 단계 전반에 걸쳐 카나리 토큰을 추적하는 벤치마크 하네스.
clearlotus-git/cve-2024-37054-pocCVE-2024-37054에 대한 개념 증명 및 연구 저장소로, MLflow PyFunc 모델 로딩에서의 안전하지 않은 역직렬화 취약점으로 인해 원격 코드 실행으로 이어질 수 있습니다.
bardlaudian/cve-2024-37054MLflow REST API를 통해 등록된 모델을 오염시켜, 모델이 로드될 때 RCE를 트리거하는 악성 pickle을 삽입하는 개념 증명(Proof-of-concept).
