#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

자율 AI 에이전트를 위한 보안* 런타임. 일반 영어로 작성된 헌법에서 정책을 수립합니다. (*https://ironcurtain.dev)
암호학적으로 서명되고 재생-검증 가능한 증거 계층으로 AI 에이전트용입니다. 루프 내에서의 행동을 관장하며, Ed25519 서명된 영수증을 생성하여 해시 체인 추가 로그에 연결하고, EU AI Act Article 12 기록 보관 및 Annex IV 문서화를…

다양한 언어로 OWASP Cornucopia 덱을 빌드하는 데 필요한 소스 파일과 도구

애플리케이션 보안을 위한 형식적 프로시저 간 오염 분석 엔진입니다. 함수 경계, 지속성 계층 및 비동기 코드 전반에서 신뢰할 수 없는 데이터를 추적합니다. 결정론적 규칙 재생이 가능한 AI 에이전트 준비 상태입니다. Semgrep Pro 및 CodeQL에 대한…

CEREBRO-RED v2: 고급 LLM 레드팀 연구 플랫폼 (PAIR 알고리즘 및 LLM-as-a-Judge 평가 포함)

Google Tensor Cracks

작동하는 구현: AI 의사결정 인증을 위한 암호학적으로 검증된 단기 신원 — CVE-2025-59536 (특허 출원 중 US 64/006,746)

DugganUSA의 IETF Hackathon 기여 위협 인텔리전스: 실제 환경의 에이전트 공격 벤치마크 벡터, CVE-2026-33697 증명 분석, MCP 검증.

다단계 프롬프트 인젝션 기법으로, 정체성 재할당, 거부 억제, 출력 강제를 통해 LLM 안전 정렬을 우회하며, ChatGPT 및 Gemini와 같은 주요 모델에 영향을 미칩니다.

위협 모델링, 스캐닝, 분류, 패치에 필요한 기술과 사용자가 /customize 할 수 있는 자율 스캐닝 하네스

프롬프트 인젝션, 탈옥 및 적대적 공격을 탐지하기 위한 LLM 보안 테스트 프레임워크 — 190개 이상의 프로브, 28개 제공자, 단일 Go 바이너리

모듈식 스킬 기반 자율 보안 운영 센터(SOC) 에이전트로, OpenSearch/Elasticsearch 데이터를 모니터링하고 RAG 기반 행동 메모리를 구축하며 LLM을 사용하여 실시간 이상 징후를 검증합니다.

Moxy는 최신 웹 애플리케이션 보안 테스팅을 위해 설계된 오픈소스 DAST 도구입니다. 사용하기 쉬운 인터페이스와 에이전트적 기능을 제공하여 침투 테스트 워크플로우를 지원하고 자동화합니다.

SecureAI-Scan은 AI 기반 앱에 특화된 보안 문제(프롬프트 인젝션, MCP 도구 남용, RAG 데이터 오염, 에이전트 신뢰 위반 등)를 찾기 위해 TypeScript 및 JavaScript 코드베이스를 스캔하는 CLI 도구입니다.

AI 기반의 자동 위협 분석 파이프라인으로, 파일, URL, IP, 도메인 또는 이미지를 전문 보안 분석 도구로 라우팅하고 통합된 YARA 및 Sigma 규칙을 사용하여 전문적인 PWNDoc 보고서를 생성합니다.

적대적 AI 에이전트에 대한 비대칭 방어. VeilGate는 각 수신 요청을 평가하고, 의심되는 에이전트를 IP별 일관된 허니팟 환경으로 리디렉션하며, 공격자에게 부과된 계산 비용을 정량화합니다.

cMCP: 기밀 MCP 게이트웨이. MCP 도구 호출에 대한 하드웨어 증명 기반 정책 적용.

Red Team AI Benchmark: 허가된 공격 보안 작업을 위한 LLM 평가. Red Team AI Benchmark는 CLI 모델 평가 벤치마크입니다. 이는 LLM이 레드팀 질문 및 보안 시나리오를 이해하고 응답하는 방식을 측정합니다. 해당 활동을 수행하기…