#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

LLM 기반 버그 발견을 위한 벤치마크: 43개 오픈소스 프로젝트(C/C++/Java)에 걸친 77개 챌린지.

LLM API 트래픽을 위한 투명한 PII 삭제 프록시입니다. 애플리케이션과 LLM 제공자(현재 Anthropic) 사이에 위치하여, 아웃바운드 시 민감 데이터를 가명 처리하고 인바운드 시 복원합니다. FastAPI + httpx로 구축되었습니다.

OWASP 인큐베이터 프로젝트: 브라우저로 전달되는 콘텐츠(JavaScript, 구성 응답, 실시간 트래픽)에 노출된 자격 증명을 탐지합니다.

공인된 피싱 시뮬레이션 및 내부 IT 감사를 위한 보안 인식 교육 도구

CEREBRO-RED v2: 고급 LLM 레드팀 연구 플랫폼 (PAIR 알고리즘 및 LLM-as-a-Judge 평가 포함)

AIO 클라우드 관리 서버

최첨단 모델을 기반으로 구축된, 애플리케이션 보안(AppSec) 작업을 위한 AI 기반 에이전트를 제공하는 TypeScript 패키지입니다.

CVPR2023: 학습 불가능한 클러스터: 레이블 비의존적 학습 불가능 예제를 향하여

LLM에 대한 아키텍처 인식 적대적 공격을 사용하여 파인튜닝 기반 프롬프트 인젝션 방어(SecAlign, SecAlign++, StruQ)를 깨기 위한 공격 프레임워크.

MCP 서버를 감싸는 프록시 서버로, 행동 프로파일링, 보안 스캐닝, 위험 게이팅, 안전한 실행을 제공합니다. 프롬프트 인젝션, 악성 툴 메타데이터, 인수 인젝션, 소스 코드 위험, 자격 증명 노출을 탐지합니다.

Electron 릴리스 내부에서 무엇이 변경되었는지 파악하세요: IPC, preload, windows, fuses, hosts에 대해 두 빌드를 file:line과 함께 비교합니다. CLI, CI gate, MCP server.

취약점 스캔을 위한 도달 가능성 분류. 스캐너 결과를 LLM 에이전트에 전달하여 소스를 읽고 실제로 도달 가능한 CVE를 판별합니다.

암호화 기반 터미널 포렌식 및 AI 에이전트용 세션 재생. 모든 명령을 출처 레이블, 재생 가능한 세션 및 Git 시간 여행과 함께 추적, 서명 및 감사합니다. 로컬 SQLite 저장소 및 비밀 정보 수정을 통한 프라이버시 우선.

AI 에이전트 보안 모니터링을 위한 Sigma 탐지 규칙

Secure local REST, CLI, MCP, and agent bridge for IDA Pro 9.x

Linux 시스템, 자율 소프트웨어 및 AI 에이전트를 위한 커널 수준의 권한 및 런타임 보안.

1차 최적 안전 캘리브레이션과 주기적 재캘리브레이션을 LLM에 적용하여, 안전 호환 업데이트를 유지하면서 다운스트림 작업 유용성을 향상시키는 파인튜닝 프레임워크입니다.

에이전틱 AI 보안 증거를 위한 OWASP 참조 프로젝트: 에이전트 실행, 신원, 도구 호출, 권한 부여 결정을 조사 타임라인과 내보낼 수 있는 증거 번들로 상호 연관시킵니다.