#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

모바일 온디바이스 AI 시스템을 위한 공격 및 방어 연구의 엄선된 읽기 목록 및 분류 체계로, 적대적 공격, 백도어 공격, 모델 도난 공격, 에너지-지연 공격을 비롯해 난독화, TEE, 워터마킹 방어를 다룹니다.

사이버 보안 운영에서의 AI를 위한 오픈 하네스 및 벤치마크

적응형 프롬프트 인젝션을 on-policy distillation을 통해 완화하는 연구 구현물로, SEP, PISmith, AgentDojo 벤치마크를 위한 학습 레시피와 평가기를 포함합니다.

8가지 수업으로 여러분의 사이버 보안 학습을 시작하세요.


LLM 기반 Mythic 에이전트, Payload-Type 및 C2 프로필 생성기.

AI 에이전트를 위한 실행 전 의도 검증. AI가 말하는 것이 아니라 앞으로 수행할 작업을 감사합니다. 의존성 제로, 결정론적, 해시 봉인.

NVIDIA Triton Inference Server의 TRITON_BATCH_STRATEGY_PATH를 통한 임의 dlopen으로 네이티브 코드 실행을 가능하게 하는 CVE-2026-47630에 대한 기술적 취약점 분석 및 개념 증명(PoC)이며, 탐지 및 완화…

오픈 가중치 LLM을 위한 로컬 화이트박스 그래디언트 공격: 레드팀을 위한 GCG/PEZ 접미사 탐색, 레이어 중요도, 가중치 스냅샷 및 rank-1 접미사-델타 피팅.

토크나이저 및 동작 신호로 OpenAI 호환 LLM의 지문을 식별합니다.

AI 에이전트 인프라를 위한 실시간 정찰 및 보안 상태 감사: MCP 구성, 세션 로그, API를 스캔하여 비밀 정보, 오염된 카탈로그, CoT 유출을 탐지합니다.

사이버보안 AI (CAI), AI 보안을 위한 프레임워크

LLM 에이전트를 위한 보안 컨트롤 플레인: 허용 목록(allowlist), 소유자 킬 스위치, PIN 세션, 속도 제한, 프롬프트 인젝션 탐지, 그리고 비밀 유출과 이미지 비콘 외부 유출을 차단하는 출력 스크러빙.


프로덕션에서 영감을 얻은 사례로 구성된 체계적인 보안 지식 베이스: 취약점 분석, 익스플로잇 설명, 수정, 그리고 엔지니어링 팀을 위한 DevSecOps.

CVE-2026-33017에 대한 개념 증명 익스플로잇으로, Langflow의 build_public_tmp 엔드포인트에서 발생하는 인증되지 않은 RCE 취약점이며, 악성 사용자 정의 컴포넌트를 주입하여 리버스 셸을 획득합니다.

최첨단 모델을 기반으로 구축된, 애플리케이션 보안(AppSec) 작업을 위한 AI 기반 에이전트를 제공하는 TypeScript 패키지입니다.

사이버 보안 분야의 LLM 응용에 관한 756+ 편의 논문을 다루는 선별된 체계적 문헌 검토로, 위협 인텔리전스, 취약점 탐지, 퍼징, 공격/방어 및 향후 연구 방향을 포함합니다.