#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

LLM 에이전트를 위한 엔드투엔드 보안 감사 프레임워크: 정적 AST 및 테인트 모델링, 공격 합성, Docker 샌드박스 재현, MCP 감사를 포함한 결정론적 판정 보고.

에이전트형 LLM에서 히든 스테이트 프로빙을 통해 잠재적인 간접 프롬프트 인젝션 노출 신호를 탐지하기 위한 연구 파이프라인으로, 트레이스 수집, 레이블링, 피처화, 프로브 학습을 포함합니다.

가벼운 CLI 도구로, AI 코딩 에이전트를 격리된 Bubblewrap 샌드박스 내에서 실행하며, 프롬프트 인젝션 및 공급망 공격으로부터 보호하기 위해 엄격한 파일시스템, 네트워크, 자격 증명 격리를 제공합니다.

임베디드 결함이 있는 Fix-Like 아티팩트

AI 아티팩트를 위한 안티바이러스 및 RAG 방화벽. 모델과 노트북에서 RCE, 데이터셋과 RAG 문서에서 데이터 포이즈닝, PII, 프롬프트 인젝션을 스캔하는 정적 분석 도구입니다. AI 공급망을 보호하세요.

CVE-2026-45033 PoC는 Github Copilot이 아닌 Claude Code용입니다. Haiku 4.5에서 작동했습니다.

# HestiaCP 서버용 읽기 전용 WordPress 보안 스캐너 호스팅된 모든 사이트에서 wp2shell 침해 지표(CVE-2026-63030 / CVE-2026-60137)를 탐지합니다 — 사용자별 이메일 보고서, 정상 WordPress와의 핵심 파일 비교,…

원시 PCAP을 조사하는 도구 활용 LLM 에이전트에 의한 자율 네트워크 공격 탐지의 벤치마크 코드 및 대화형 결과.

휴대폰에서 실행되는 로컬 AI 기반 레드팀 도구

AI 채팅에서 PII와 민감한 데이터를 탐지하고, 전송 전에 플레이스홀더로 마스킹하며, 답변에서 원본을 복원하는 브라우저 확장 프로그램—모두 로컬에서 처리됩니다.

코드 리뷰 봇의 프롬프트 인젝션으로, 해당 봇은 샌드박스에서 AI가 생성한 수정 사항을 실행합니다. 샌드박스는 위험한 명령을 차단하기 위해 블랙리스트를 사용하지만, 폴리글랏 페이로드가 필터를 우회하여 원격 코드 실행에 성공합니다.

보안 권고: 에이전트 메시지를 통한 저장형 크로스 사이트 스크립팅으로 인한 세션 토큰 탈취 (openclaw-dashboard)

AI 기반 엔드포인트 거버넌스 플랫폼으로, 소프트웨어 사용을 모니터링하고 결정론적 정책 기반 위험 분류를 적용하며, 설명 가능한 AI 분석을 통해 규정 준수 및 감사 가능성을 위한 구조화된 보안 인텔리전스를 생성합니다.

Windows 이벤트 로그를 시각화하고 분석하여 악성 Windows 로그온을 조사합니다.

Noisegate: 신뢰할 수 없는 LLM 에이전트가 MCP(Model Context Protocol)를 통해 민감한 데이터를 쿼리할 수 있게 해주는 차등 프라이버시 게이트웨이로, 에이전트가 적대적이더라도 개인의 기록이 유출될 수 없다는 형식적 보장을 제공합니다.…

LLM 에이전트 문제 해결 추적, 리더보드 및 벤치마크 결과 (보안 CTF 및 해킹 플랫폼 전반)

산술/Discop 스테가노그래픽 코더를 사용하여 LLM 채팅 토큰 선택에 여러 개의 비밀 메시지를 임베드하고, 비트 정확한 디코딩 및 스테가날리시스 평가를 제공합니다.

GitLab CI/CD 파이프라인을 위한 EU AI 법 준수 스캐너 — AI/ML 라이브러리를 탐지하고 MR 댓글로 위험 분류를 게시합니다.