#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

Runtime security for AI agents: discover agents, map their permissions, and enforce what they can do.

오픈소스 프롬프트 인젝션 공격 콘솔. 분류된 공격을 모든 엔드포인트에 발사하여 AI 보안을 테스트하세요.

LLM 통합 애플리케이션을 위한 자동화된 프롬프트 인젝션 테스팅 프레임워크, 이중 LLM 아키텍처 기반.

Ng의 RYS 방식을 재현했고, Qwen2.5-32B에서 특정 3개 레이어를 복제하면 추론 성능이 17% 향상되고, Devstral-24B에서 12-14번 레이어를 복제하면 BBH에서 논리적 추론이 0.22→0.76으로 개선된다는 것을 발견했습니다. 훈련도, 가중치…

평범해 보이는 텍스트에 포함된 보이지 않는 유니코드 인코딩 명령어를 대규모 언어 모델이 따르는지 테스트하는 평가 프레임워크로, 여러 모델 및 도구 조건에 걸친 통계적 분석을 제공합니다.

오픈소스 AI 보안 벤치마킹 CLI. MITRE ATT&CK 분석 및 KSM 점수를 사용하여 AI 모델이 공격적 보안 작업을 수행하는 방법을 측정합니다.

이 기술 연구 및 검토는 공개 코드에 대한 교육 목적으로 수행되며, 캐나다 저작권법(Copyright Act)에 따른 공정 이용(Fair Dealing)에 해당합니다.

Agent Control Protocol (ACP) — 공식 영어 사양. 자율 AI 에이전트를 위한 암호학적으로 검증 가능한 인증 아키텍처.

Use Garry Tan's exact Claude Code setup: 23 opinionated tools that serve as CEO, Designer, Eng Manager, Release Manager, Doc Engineer, and QA

통제형 에이전틱 AI 운영 체제 — Rust + Tauri 2.0 | 65 crates, 658 명령어, 84 페이지, 5,029 테스트, 10/10 OWASP

Hermes, LangChain Deep Agents, OpenClaw와 같은 에이전트를 NVIDIA OpenShell 내에서 관리형 추론으로 더 안전하게 실행하세요.

버그 바운티에서 무료 경험치를 제공하며, 잘 관리된 도구들을 래핑하여 취약점 스캐닝 및 자동화된 테스트를 수행합니다. 또한 바이너리 분석을 위한 AI 에이전트를 포함하며, 외부 Android 기기나 에뮬레이터에 연결하여 동적 분석을 수행할 수 있습니다.

AI 에이전트를 실시간으로 모니터링, 관리 및 감사하는 통합 대시보드입니다. 예산을 강제하고, 정책 위반을 탐지하며, SOC 2 및 ISO 42001에 대한 규정 준수 보고서를 내보냅니다.

OpenClaw 에이전트를 위한 보안 및 규정 준수 보디가드

Python 프레임워크로, Z3 정리 증명, CTL 모델 검사 및 적합 예측을 통한 형식 검증과 함께 상태 기계로서 LLM 워크플로우를 구축하여 증명 가능하게 올바른 데이터 추출을 지원합니다.

AI 에이전트 보안 모니터링을 위한 Sigma 탐지 규칙
