#1AGLS

LLM에 대한 아키텍처 인식 적대적 공격을 사용하여 파인튜닝 기반 프롬프트 인젝션 방어(SecAlign, SecAlign++, StruQ)를 깨기 위한 공격 프레임워크.

Project Mantis: AI 해커에게 역공격하기; LLM 기반 사이버 공격에 대한 방어 수단으로서의 프롬프트 인젝션

Exponentiated Gradient Descent 기법을 기반으로 한 LLM에 대한 새로운 적대적 공격.

신호 스푸핑 및 적대적 교란에 대응하기 위해 CNN과 멀티 헤드 어텐션을 결합한 안전한 5G 실내 위치 파악을 위한 적대자 내성 딥러닝 아키텍처입니다.

자율적 LLM 기반 웹 에이전트를 제어하기 위한 간접 프롬프트 인젝션 공격의 연구 데모로, 트리거 최적화 및 평가 도구를 포함합니다.

ACM MM2024 (Multimodal Unlearnable Examples: Protecting Data against Multimodal Contrastive Learning)의 코드

StealthRL: AI 텍스트를 적대적으로 의역하여 탐지기 견고성을 스트레스 테스트하는 RL 프레임워크.

LLM이 정서적 맥락 침식(ACE) 및 관련 리미널 공격 벡터에 대한 취약성을 측정하기 위한 진단 프레임워크입니다. **Delirium**은 익스플로잇 도구가 아닙니다. 시스템 프롬프트를 따르는 것에서 새롭게 출현하는 대인 관계 패턴을 따르는 것으로 언어 모델의…

CS5446 프로젝트용 코드 저장소로, 대규모 언어 모델에 대한 탈옥 공격 방어를 탐구합니다. 데이터셋, 노트북, 모델/스티어링 스크립트, 검증 루틴을 포함하여 연구를 재현하고 확장할 수 있습니다.

인과적 맥락 귀속과 규칙 기반 모니터를 활용한 LLM 에이전트의 간접 프롬프트 인젝션 방어로, AgentDyn 및 기타 벤치마크에서 최첨단 성능을 달성합니다.

OpenClaw 에이전트를 오염된 파일, 주입된 스킬, 오도하는 도구 메타데이터, 인코딩된 페이로드를 포함한 적대적 실행 컨텍스트에 대해 평가하는 보안 벤치마크입니다. 6개의 리스크 스위트에 걸친 42개의 리플레이 태스크와 공격 및 유틸리티 점수화를 포함합니다.

# Hands-on AI 보안 실습 플랫폼 프롬프트 인젝션, 에이전트 시스템 악용, 모델 조작, MCP 신뢰 경계 공격 등 50개 이상의 시나리오를 제공하는 실습형 AI 보안 랩 플랫폼입니다. Ollama + FastAPI + React를 사용하여 안전한 공격/방어…

AI Security Verification Standard (AISVS)는 개발자, 아키텍트, 보안 전문가가 AI 기반 애플리케이션의 보안을 검증할 수 있도록 구조화된 체크리스트를 제공하는 데 중점을 둡니다.

다양한 LLM, 주로 Claude를 탈옥(jailbreak)하기 위한 저장소

일부러 취약하게 설계된 머신러닝 모델로, 실습 중심 보안 교육을 위해 제작되었습니다. 안전한 랩 환경에서 일반적인 ML 취약점, 적대적 공격, 방어 기법을 탐구할 수 있습니다.

2단계 프롬프트 인젝션 및 제일브레이크 탐지기: 정규식 게이트와 양자화된 DeBERTa-v3 ONNX 분류기를 결합, 이미지, 문서, 오디오 지원. Bordair/bordair-multimodal 데이터로 훈련되었으며, 실제 레드팀 게임의 공격을 대상으로 테스트됨.