#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

암호학적으로 서명되고 재생-검증 가능한 증거 계층으로 AI 에이전트용입니다. 루프 내에서의 행동을 관장하며, Ed25519 서명된 영수증을 생성하여 해시 체인 추가 로그에 연결하고, EU AI Act Article 12 기록 보관 및 Annex IV 문서화를…

로컬 암호화 스토리지, OAuth/SSO 인증, 정책 기반 접근 제어, 개인 및 프로덕션 배포를 위한 확장 가능한 도구 구축 프레임워크를 갖춘 안전하고 프라이빗한 AI 에이전트 운영 체제.

LLM 에이전트에 대한 프롬프트 인젝션과 장기적 위협을 행동 실행 전에 탐지하고 차단하기 위해 안전 중심의 섀도 메모리를 유지하는 방어 프레임워크입니다.

130개 이상의 SCORM 실습을 갖춘 오픈소스 대화형 보안 인식 훈련 라이브러리로, 피싱, 비싱, BEC, MFA 피로 및 OWASP AI/LLM 시나리오를 다루며 LMS 배포용으로 설계되었습니다.

LLM 내부 상태와 100개 이상의 어텐션/확률 특징을 분석하여 RAG 시스템에서 문서 오염 공격을 탐지하는 분류기를 훈련합니다.

이 저장소는 논문 "[Safety in Batches? Understanding and Mitigating Safety Failures in Batch Prompting]"의 공식 구현을 포함하고 있습니다.

제로 터치 파이프라인으로, CISA Known Exploited Vulnerabilities (KEV) 카탈로그의 새로 무기화된 CVE를 매주 자동으로 프로덕션 준비 완료된 Sigma 탐지 규칙으로 변환합니다.

AI 에이전트 및 이를 통해 라우팅하는 다른 모든 프로세스를 위한 Just-in-time API 키: 호출자는 항상 플레이스홀더만 볼 수 있습니다.

LLM 에이전트 기반의 concolic 실행 엔진으로, 소스 코드를 계측하고, 경로 제약 조건을 자연어로 요약하며, 모든 프로그래밍 언어에서 분기 커버리지를 최대화하는 테스트 케이스를 생성합니다.

검색 증강 생성에서 지식 중독 탐지를 위한 자기 참조 로컬 대비

자율적 레드 팀 플랫폼; 다중 에이전트 공격 보안 메타 하네스

딥러닝 지연, 에너지-지연 및 타이밍(가용성) 공격과 방어에 대한 선별된 색인 — ACM Computing Surveys 제출 논문의 부속 자료.

LLM 기반 상태 공간 탐색 엔진으로, 자율 침투 테스트, CTF 문제 해결, 취약점 연구에 사용됩니다. 블랙보드 아키텍처와 에이전트 워커를 사용하여 출발점에서 목표까지 알려지지 않은 경로를 탐색합니다.

오프라인 및 보안 우선 방식으로 에이전트 스킬을 동기화하고 관리하기 위한 도구

CVE-2026-44246을 재현하는 도구로, nnU-Net의 GitHub Actions 트라이지(triage) 에이전트에서 발생하는 프롬프트 인젝션 취약점을 보여주며, 이슈 콘텐츠가 AI 프롬프트에 인라인되는 방식을 시연합니다.

AI 에이전트에 대해 서명되고 범위가 지정된 자격 증명으로 최소 권한 위임을 적용합니다. 하위 에이전트에 좁은 기능과 리소스를 부여하고, 실행 전에 작업을 검증하며, 권한 상승을 방지합니다.


Burp Suite 확장 기능으로, 인공지능을 통한 수동적 취약점 탐지를 통합합니다.