#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

정규식 규칙과 Gemini 분류기를 통해 프롬프트 인젝션 입력을 차단하고, 봇 응답에서 비밀 정보나 시스템 프롬프트 유출을 잡아내는 2계층 LLM 방화벽입니다.

대규모 언어 모델 애플리케이션의 보안에 초점을 맞춘 OWASP 프로젝트로, LLM 특유의 위험, 테스트 지침, 완화 방안을 다룹니다.

OpenAI 압축 연구: GhostCompact + Compaction Smuggling

양자화된 신경망의 프라이버시 평가를 위한 연구 코드베이스: PTQ/QAT 환경에서 대상/섀도 모델을 훈련하고, DP 방어를 적용한 상태에서 멤버십 추론 공격(MIA, RMIA, 화이트박스)을 실행합니다.

원시 PCAP을 조사하는 도구 활용 LLM 에이전트에 의한 자율 네트워크 공격 탐지의 벤치마크 코드 및 대화형 결과.

Bytebot의 최적화된 포크: 데스크톱 제어를 위한 AI 에이전트. 7GB에서 1.09GB로 축소되었고, CVE-2026-78250이 패치되었으며, 살아있는 문서(Obsidian)와 Human-in-the-loop 작업 프로토콜을 갖추고 있습니다.

CVE-2026-47644에 대한 개념 증명 및 전체 분석 문서: 첨부 파일 태그 이탈을 통한 Edge Copilot 프롬프트 인젝션으로, 렌더링된 이메일 이미지를 통해 탭 간 데이터 유출로 이어짐.

Agile 스프린트를 DevOps CI/CD 파이프라인과 통합하기 위한 완전한 가이드 및 워크플로우입니다.

ASP.NET Core의 CVE-2026-96230에 대한 권고 콘텐츠를 합성하고 검증하는 Gemini 기반 이중 에이전트 합의 루프를 갖춘 Express/TypeScript 마이크로서비스입니다.

자체 호스팅 에이전트 스택에 ChatML/Mistral/Llama 제어 토큰 리터럴을 발사하여 공격자가 하기 전에 역할 위조를 입증하세요 (CVE-2026-61732).

Claude Code 스킬: ComfyUI가 CVE-2026-123790(Easy-Use 경로 순회를 통한 RCE)의 영향을 받는지 읽기 전용으로 확인합니다: 버전, 수정 커밋, --listen 노출 여부, 침해 징후

Psono Server 및 Microsoft Agent Framework의 조정된 공개(coordinated-disclosure) 결과에 대한 근본 원인 분석과 재현 가능한 PoC를 포함한 공개 취약점 권고문입니다.

도구를 사용하는 LLM 에이전트에 대한 다양한 공격을 찾기 위해 프롬프트 인젝션 기법을 훑고 실패한 시도를 개선하는, 분류 체계 기반 적응형 레드 팀 프레임워크입니다.

누락된 가드 취약점을 ripgrep 시그니처, Semgrep 규칙, 공격 표면 매핑, 그리고 순위가 매겨진 HTML/JSON/CSV 보고서를 생성하는 LLM 검토 캐스케이드를 사용하여 WordPress 플러그인을 스캔합니다.

멀티모달 LLM을 대상으로 시각적 맥락 탈옥(jailbreak)을 구현하는 연구 파이프라인: T2I 프롬프트 추출, SD3.5 이미지 렌더링, 다중 라운드 스푸핑 맥락 구성, GPT-4o가 판정하는 ASR 평가.

사이버 공격 시나리오에서 LLM 에이전트의 편향 벤치마킹

대규모 언어 모델(LLM) 시스템 프롬프트를 적대적 추출 공격으로부터 보호하기 위한 블랙박스 최적화 접근법입니다.

4비트 양자화는 채팅 모델의 안전 행동에 노이즈 이상의 영향을 미치는가? 코드, 사전 등록 및 레이블.