#1[ICLR 2026] - 논문 공식 저장소: "RedBench: 대규모 언어 모델의 포괄적 레드 티밍을 위한 범용 데이터셋"

CVE-Factory

AGLS

LLM에 대한 아키텍처 인식 적대적 공격을 사용하여 파인튜닝 기반 프롬프트 인젝션 방어(SecAlign, SecAlign++, StruQ)를 깨기 위한 공격 프레임워크.

Knostic의 OpenAnt는 검증된 보안 결함을 사전에 찾아내고 오탐(false positive)과 미탐(false negative)을 모두 최소화하도록 방어자를 돕는 선도적인 오픈 소스 LLM 기반 취약점 발견 제품입니다. 1단계는 탐지합니다. 2단계는…

Project Mantis: AI 해커에게 역공격하기; LLM 기반 사이버 공격에 대한 방어 수단으로서의 프롬프트 인젝션

Exponentiated Gradient Descent 기법을 기반으로 한 LLM에 대한 새로운 적대적 공격.

신호 스푸핑 및 적대적 교란에 대응하기 위해 CNN과 멀티 헤드 어텐션을 결합한 안전한 5G 실내 위치 파악을 위한 적대자 내성 딥러닝 아키텍처입니다.

자율적 LLM 기반 웹 에이전트를 제어하기 위한 간접 프롬프트 인젝션 공격의 연구 데모로, 트리거 최적화 및 평가 도구를 포함합니다.

# 신경망을 위한 인증된 언러닝 논문 코드, ICML 2025

ACM MM2024 (Multimodal Unlearnable Examples: Protecting Data against Multimodal Contrastive Learning)의 코드

StealthRL: AI 텍스트를 적대적으로 의역하여 탐지기 견고성을 스트레스 테스트하는 RL 프레임워크.

[NeurIPS 2025] 논문 "GuardReasoner-VL: Safeguarding VLMs via Reinforced Reasoning"의 공식 소스 코드

[NeurIPS '25] "IF-Guide: Influence Function-Guided Suppression of Harmful Training Data for Reducing LLM Toxicity" 논문 코드

Pre-install security for AI agents, npm packages, and MCP servers. Zero-dep local static analysis; normal scans never execute package code.