#1신뢰할 수 없는 프로세스를 위한 가볍고 안전한 Linux 샌드박스. 브라우저와 서버에서 실행됩니다.

PGM-인덱스에 대한 포이즈닝 공격 연구 코드로, 학습된 인덱스 성능을 저하시키기 위해 적대적 데이터를 구성하는 방법을 시연합니다.

블랙박스 공격 프레임워크로, 에이전트 기반 검색 증강 생성(RAG) 시스템에서 추론을 탈취하기 위해 오염된 문서를 주입하며, 여러 공격 방법과 데이터셋을 지원합니다.

치명적인 에이전트 동작을 차단하는 가드

AI 에이전트를 위한 강력한 보호 - AI 애플리케이션을 위한 오픈소스 보안 및 비용 추적

LiteLLM 명령 주입 위험에 대한 전문적인 취약점 평가 보고서: 경영진 요약, 기술적 영향, 수정 및 완화 전략 포함.

OLMo 2에 대한 멤버십 추론 공격의 통제된 연구를 위한 재현 코드로, 문서 삽입, 중간 학습, 사후 학습, 점수 산정 및 분석을 다룹니다.

내장된 적대적 강건성 도구(PGD 공격, 적대적 학습, 비전 연구용 강건한 사전 학습 모델 포함)를 사용하여 신경망을 훈련하고, 평가하고, 탐색하세요.

토크나이저 및 동작 신호로 OpenAI 호환 LLM의 지문을 식별합니다.

LLM을 활용한 제로 샷 취약점 발견


LLM 레이어에 제어 가능한 안전 전문가를 추가하기 위한 연구 코드로, 2단계 업사이클링 학습과 추론 시점의 안전 온도 라우팅 및 탈옥 평가를 포함합니다.

가중치 수준 LLM 포렌식: 모델 가중치를 비교(diff)하고, 파인튜닝·병합·위장된 파생 모델을 탐지하며, 파인튜닝이 촉진하거나 억제하는 토큰을 널 기준선 점수(null-baseline scoring)로 드러냅니다.

Code and paper source for a NeurIPS EvoRobust study showing simple bag-of-words and metadata features beat most AI control monitors at detecting…

오픈소스 샌드박스형 에이전트 하네스로 팀을 위한 도구입니다. 모든 직원에게 보안된 개인 에이전트를 제공합니다.


# 퍼플 팀 훈련 프레임워크