#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

2단계 프롬프트 인젝션 및 제일브레이크 탐지기: 정규식 게이트와 양자화된 DeBERTa-v3 ONNX 분류기를 결합, 이미지, 문서, 오디오 지원. Bordair/bordair-multimodal 데이터로 훈련되었으며, 실제 레드팀 게임의 공격을 대상으로 테스트됨.
현대적인 사이버 레인지로, 웹, API, 클라우드, AI 및 블루팀 보안 트랙에 걸친 50개의 실습형 챌린지를 제공합니다. 안내된 공격 체인, 투명한 AI 시뮬레이터 및 침투 테스트와 방어 기술 학습을 위한 GRC 증거 보고 기능을 특징으로 합니다.

AI 지능과 자동화된 로그인 공격을 결합한 고급 LLM 기반 무차별 대입 도구

Gemini의 SynthID 탐지 리버스 엔지니어링

LLM 기반 에이전트로, 구성 가능한 도구 사용과 최첨단 AI 모델을 통해 GitHub 이슈를 자동으로 수정하고, 사이버 보안 취약점을 찾으며, CTF 챌린지를 해결합니다.

LiteLLM 명령 주입 위험에 대한 전문적인 취약점 평가 보고서: 경영진 요약, 기술적 영향, 수정 및 완화 전략 포함.

LLM 가드레일을 위한 정렬 연구 스캐폴드(자동 연구 스타일): 단일 policy.md 표면에 대한 검색

LLM 우선의 속임수 프레임워크: "대답하는 허니팟!™"

LLM 기반 AI 에이전트 보안 — 인바운드 주입 탐지 + 아웃바운드 프라이버시 보호

Gemini 2.5 Pro nf_tables 레드 팀 사례 연구 (CVE-2023-32233) — LLM 안전 정렬 및 책임 있는 공개

에빙하우스 망각 곡선 감쇠를 적용한 에이전틱 AI 기억. LoCoMo에서 Mem0보다 16pp 더 나은 회상 성능.

대규모 언어 모델로 구동되는 자동 침투 테스트 에이전트 프레임워크

팀(Enterprise)에서 OpenClaw를 관리하여 컴퓨팅 인프라, 도구 통합, 인증 및 보안 기본 요소를 제공하세요.

Red Team AI Benchmark: 허가된 공격 보안 작업을 위한 LLM 평가. Red Team AI Benchmark는 CLI 모델 평가 벤치마크입니다. 이는 LLM이 레드팀 질문 및 보안 시나리오를 이해하고 응답하는 방식을 측정합니다. 해당 활동을 수행하기…

레드 팀 AI 벤치마크: 승인된 공격 보안 작업을 위한 LLM 평가

미분 가능한 신경 컴퓨터, GPU 기반 CPU 에뮬레이션 및 프로그램 합성을 위한 연구 런타임입니다. 특징: 신경 ALU, 일정 시간 암호화, JEPA 세계 모델 및 Metal에서 자체 호스팅 C 컴파일러.

웹 에이전트를 위한 프롬프트 인젝션 탐지 벤치마킹.

vibe-coding 보안 파수꾼. Apache-2.0 에이전트 기반 보안 툴킷, AI 지원 프로젝트용: 5개의 결정론적 스카우트 + LLM Brain Layer (BYOK Anthropic), IDE와 CI에서 사용 가능.