#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

AI 에이전트 작업을 샌드박싱하는 보안 런타임. 격리된 WebAssembly 환경에서 신뢰할 수 없는 코드를 실행합니다.

AI 기반 Docker 보안 스캐너로, 취약점을 쉬운 영어로 설명합니다. OWASP 랩 프로젝트입니다.

OpenMed < 1.5.2 PII 개인정보 보호 필터 모델 로딩 및 trust_remote_code=True를 통한 인증되지 않은 RCE

안전은 프롬프트 지시사항이 될 수 없습니다. TBP는 자율 에이전트를 위한 외부 실행 계층 경계를 제공하며, 서명된 OPA 정책, Merkle 감사 체인, 그리고 위기 상황 오버라이드를 위한 엄격한 다중서명 거버넌스 프로토콜을 통해 강력한 F/I/W 불변 조건을…

AI 시스템의 적대적 테스트 및 보안 평가에 관한 종합 가이드로, 조직이 공격자가 악용하기 전에 취약점을 식별할 수 있도록 지원합니다.

OpenClaw, Claude Code, Codex와 같은 자체 호스팅 AI 코딩 에이전트를 CloudFormation, IAM 프로필, 샌드박스 격리를 통해 AWS 계정에 배포하여 자동화된 풀스택 개발 및 인프라 관리를 수행합니다.

완전 자율형 리버스 엔지니어링 AI 에이전트

LLM 기반 에이전트 집단 어그로 공격 프레임워크로, 적응형 다중 역할 전략을 사용하여 블랙박스 협업 필터링 추천 순위를 조작하면서 탐지를 회피합니다.

AI 에이전트를 위한 암호학적으로 서명된 위임 영수증. AI가 할 수 있는 것과 할 수 없는 것을 정확히 정의합니다 — 서명 가능, 검증 가능, 변조 방지.

RAG 포이즈닝 방어를 위한 경량 평가 하네스로, 네 가지 조건의 정상/포이즈닝 레코드를 생성하고 방지된 타깃, 순 감소량, 정상 측 부작용, 감사 패킷을 보고합니다.

LLM 에이전트 백도어가 정상적인 파인튜닝 후에도 살아남도록 만드는 어댑터를 훈련하기 위한 연구 코드로, 트리거 비율 점수 산정, SWE-bench 평가, 데이터셋 빌더를 포함합니다.

AI 에이전트를 위한 강력한 보호 - AI 애플리케이션을 위한 오픈소스 보안 및 비용 추적

초기 종료 깊이 LLM 전반에 걸친 탈옥 취약점. NeurIPS 2026 FLMSec 워크숍에서 발표됨

소스 코드를 파싱하고 HAR 트래픽을 재생하여 비즈니스 로직 결함, BOLA, 경쟁 조건, 권한 문제를 로컬 LLM 트리아지로 탐지하는 오프라인 SAST/DAST 트리아지 엔진.

AI가 비밀번호 공격을 무작위 열거에서 적응형 캠페인으로 전환하는 방식과 이를 막는 탐지 규칙 및 대응책을 다룹니다. 연구 및 방어 내용만 포함하며, 실제 동작하는 공격 코드는 없습니다.

이메일 보안 제어와 AI 메일함 비서가 공개, 유출, 도구 탐색 의도 전반에 걸쳐 간접 프롬프트 주입을 처리하는 방식을 평가하기 위한 .eml 테스트 세트를 공개합니다.

자율형 멀티 에이전트 AI 침투 테스트 엔진: 통제된 도구 샌드박스, 불변의 증거 및 검증 게이트, 재현 가능한 보안 에이전트 평가 환경.

상용 이미지 생성기의 시각적 허위정보 위험을 평가하기 위한 레드팀 벤치마크 및 블랙박스 공격 프레임워크로, 10k개의 허위 주장 프롬프트와 채점 스크립트를 포함합니다.