#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

ChatGPT를 활용한 AWS 고객 관리 정책 취약점 스캐너

MCP 도구 호출과 LLM 트래픽을 보안, 거버넌스, 관찰하는 오픈소스 게이트웨이로, API 키 인증과 모니터링용 관리자 콘솔을 제공합니다.

이 프로젝트는 대형 언어 모델과 크롤러를 연동하여 GitHub에서 가치 있는 취약점 정보, 취약점 POC 또는 규칙 정보를 포함한 모든 프로젝트를 검색하고, 프로젝트의 디렉터리 구조와 Readme 정보를 자동으로 인식한 후 요약 분석 및 분류를 수행합니다. 수집된…

HTTP 디싱크 기법을 추출하고, 잘못된 형식의 요청 테스트 케이스를 생성하며, Burp를 통해 이를 검증하고, 요청 스머글링 익스플로잇을 확인하는 AI 지원 연구 파이프라인입니다.

텍스트용 SynthID 리버스 엔지니어링

가벼운 브라우저 트래픽 캡처 및 보안 분석 확장 프로그램으로, 브라우저 사이드바에서 캡처, 차단, 수정, 재전송, 규칙 기반 탐지 및 AI 지원 분석의 전체 워크플로를 완료할 수 있습니다.(가벼운 브라우저 익스텐션으로 트래픽 캡처 및 보안 분석을 위해 브라우저…

AI 보안 기초, 위협 모델링, 레드팀 공격 기법, 블루팀 방어를 다루는 구조화된 지식 베이스로, LLM 보안, 적대적 ML, 딥페이크 대응 조치를 포함합니다.

구조화된 메모리, 안전 후크, 루프 관리를 갖춘 자율 에이전트 프레임워크. 그 위에서 실행되는 에이전트에 의해 구축되었습니다.

AWS IAM 구성에서 권한 상승 기회를 발견하기 위한 AI 기반 도구입니다.

EU AI Act 준수 도구 - 위험 분류 및 편향 테스트

웹 애플리케이션 보안을 자율적으로 평가하고, 도구 기반 실행을 조율하며 익스플로잇을 엔드투엔드로 검증하는 멀티 에이전트 LLM 시스템입니다.

OpenClaw, Claude Code, Codex와 같은 자체 호스팅 AI 코딩 에이전트를 CloudFormation, IAM 프로필, 샌드박스 격리를 통해 AWS 계정에 배포하여 자동화된 풀스택 개발 및 인프라 관리를 수행합니다.

AI 에이전트, MCP 서버, 플러그인 및 확장 기능을 머신에서 인벤토리화하고, 그 기능과 노출을 평이한 언어의 해결 방안과 함께 보고하는 읽기 전용 CLI.

진화적 LLM 탈옥 및 가드레일 프레임워크로, 유전적 변이, 마르코프 선택, 온라인 적대적 훈련을 통해 재사용 가능한 전략 풀을 성장시켜 안전성 평가를 수행합니다.

프롬프트 인젝션, 도구 호출 악용, 그리고 6개의 시뮬레이션된 챗봇 페르소나를 대상으로 한 OSINT에 관한 가이드 레슨을 제공하는 로컬 AI 캡처 더 플래그 플랫폼.

Flow Integrity Deterministic Enforcement System. AI 에이전트를 정보 흐름 제어로 보호하기 위한 메커니즘.

사이버 보안 운영에서의 AI를 위한 오픈 하네스 및 벤치마크
