#1ChromaDB 및 Claude Code용 MCP를 이용한 OWASP Web Security Testing Guide RAG 시스템

Exponentiated Gradient Descent 기법을 기반으로 한 LLM에 대한 새로운 적대적 공격.

커스텀 LLM 애플리케이션을 위한 보안 스캐너

CAWODOG는 오프라인 산업용 기계에 배포된 Python 기반 AI 모델을 보호하는 방법을 시연하는 개념 증명 프로젝트입니다. 세 가지 점진적 단계(0 → 2)를 통해 다음을 보여줍니다: * 순진한 Python AI 애플리케이션이 어떻게 쉽게 리버스…

CVE-2025-32434에 대한 개념 증명 익스플로잇으로, PyTorch의 weights_only 모드에서 pickle 역직렬화 취약점을 악용하여 악성 tar 파일 생성 및 실행을 시연합니다.

Burp Suite Repeater 확장으로, 페이로드를 자동으로 변형하고 응답을 분석하여 경로 순회, SQL 인젝션, XSS 및 기타 웹 취약점을 발견합니다.

나의 선언문, 이야기들, 이미지들, 그리고 재미있는 것들

[ICCV 2025] 허가되지 않은 개인 이미지 생성을 위한 변조 방지 보호

CS5446 프로젝트용 코드 저장소로, 대규모 언어 모델에 대한 탈옥 공격 방어를 탐구합니다. 데이터셋, 노트북, 모델/스티어링 스크립트, 검증 루틴을 포함하여 연구를 재현하고 확장할 수 있습니다.

o3를 사용하여 CVE-2025-37899를 찾는 블로그 게시물의 아티팩트

대규모 언어 모델(LLM) 시스템 프롬프트를 적대적 추출 공격으로부터 보호하기 위한 블랙박스 최적화 접근법입니다.

[NeurIPS '25] "IF-Guide: Influence Function-Guided Suppression of Harmful Training Data for Reducing LLM Toxicity" 논문 코드

"Pattern Enhanced Multi-Turn Jailbreaking: Exploiting Structural Vulnerabilities in Large Language Models"의 코드 구현

자동화된 프레임워크로, 시뮬레이션된 추론 흔적과 반복적 프롬프트 정제를 통해 대형 추론 모델의 안전 추론을 하이재킹하여 효과적인 탈옥(jailbreak)을 생성합니다.

AI 레드 팀 교육을 실행하기 위한 인프라를 포함한 AI 레드 팀 플레이그라운드 랩.

툴 통합 LLM 에이전트를 적대적 공격으로부터 방어하기 위한 연구 코드와 실험으로, Agent Security Bench를 새로운 방어 전략과 공격 시나리오로 확장합니다.

컴퓨터 사용 에이전트의 안전 위험을 평가하기 위한 벤치마크로, 7가지 악성 범주에 걸친 104개의 현실적인 오용 시나리오를 포함하며, 터미널 접근 및 토큰 비용 추적을 지원합니다.