#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

ADB를 통해 실제 기기를 제어하고, Logcat과 스크린샷을 캡처하며, AI IDE와 CI 테스트 파이프라인을 위한 MCP 서버를 제공하는 자연어 기반 Android 자동화 에이전트입니다.
Python 프레임워크로, Z3 정리 증명, CTL 모델 검사 및 적합 예측을 통한 형식 검증과 함께 상태 기계로서 LLM 워크플로우를 구축하여 증명 가능하게 올바른 데이터 추출을 지원합니다.

진화적 LLM 탈옥 및 가드레일 프레임워크로, 유전적 변이, 마르코프 선택, 온라인 적대적 훈련을 통해 재사용 가능한 전략 풀을 성장시켜 안전성 평가를 수행합니다.

AI 에이전트 플릿 및 개발자 워크스테이션을 위한 정책 엔진 및 EDR. 도구 호출, 파일 접근, 네트워크 흐름 및 프로세스 실행을 Ed25519 서명 감사 추적 및 fail-closed 시행으로 모니터링합니다.

로컬 우선, 결정론적 IDA Pro/Home용 MCP 서버: 109개의 엄격한 스키마 기반 리버스 엔지니어링 작업, 증거 기반 발견 사항, 정책 기반 IDB 편집.

Recon-Scan: AI 기반 보안 분석을 갖춘 오픈 소스 수동 정찰. 제로 터치, 개발자 우선, 개인 정보 보호 중심.

Sorami 기술 보고서를 위한 증거 및 데이터로, Kubernetes 상의 15개 AI 서빙, 벡터 데이터베이스 및 MCP Helm 차트의 보안 기본값에 관한 것입니다.

HARDE를 위한 연구 코드로, 에이전트 안전성 벤치마크 전반에서 런타임 위험 탐지 및 실행 제어를 위해 구성 요소를 탐침하고 적응적으로 최적화하는 에이전트 하네스입니다.

저장소에서 보안 문제를 찾는 데 도움을 주는 doggo입니다.

오디오-언어 모델을 동결 상태로 유지하고, 추론 시점에서 오디오 탈옥을 차단하기 위해 중간 계층 위험 게이트와 후반 계층 안전 어댑터를 추가하는 방어 프레임워크입니다.

구조화된 메모리, 안전 후크, 루프 관리를 갖춘 자율 에이전트 프레임워크. 그 위에서 실행되는 에이전트에 의해 구축되었습니다.

ChatGPT API, Bard API, Llama2, Python-Nmap, DNS Recon, PCAP 및 JWT 재구성 모듈을 사용하며, GPT3 모델을 이용하여 Nmap 스캔 데이터와 DNS 스캔 정보를 기반으로 취약점 보고서를 생성합니다. 또한 상당한 규모의…

파인튜닝된 LLM 분류기에서 단일 KV-cache 비트를 뒤집고 클래스별 공격 성공률을 측정하는 그레이박스 트로이 목마 공격을 위한 연구 코드.

AI 정렬 실패를 탐지하기 위한 벤치마크 스위트 및 코드로, 열 가지 실패 유형에 걸친 44개의 벤치마크와 7,193개의 레이블된 인스턴스에서 평가된 제로샷 RLCD 탐지기를 포함합니다.

AI 자동 모드 모니터 레드팀을 위한 연구 코드로, 시뮬레이션 평가, 퍼징, Claude Code 및 Codex guardian용 모니터 구현을 포함합니다.

이 저장소에는 자동화된 침투 테스트 작업에 사용할 수 있는 도구가 포함되어 있습니다.

오픈소스 AI 보안 벤치마킹 CLI. MITRE ATT&CK 분석 및 KSM 점수를 사용하여 AI 모델이 공격적 보안 작업을 수행하는 방법을 측정합니다.

자율적 공격형 LLM 에이전트를 위한 결정론적 하네스 및 핸드북으로, 인가, 범위, 증거 게이트를 강제하여 재현 가능하고 정직한 침투 테스트를 보장합니다.