#1Adversarial ML attack frameworks, evasion techniques, and model robustness evaluation tools.
Kitploit 추천

공개적으로 보고된 프롬프트 인젝션 기법을 전달 방식, 인코딩, 전파 동작별로 분류하고, 확인된 모델, 출처, MITRE ATLAS 태그와 함께 정리한 추적기입니다.

소유한 콘텐츠에서 AI 워터마크를 제거하는 프라이버시 우선 앱입니다.

웹 기반 적대자 에뮬레이션 플랫폼으로, Go 에이전트를 통해 Windows 엔드포인트 전반에서 Atomic Red Team 테스트를 오케스트레이션하며, MITRE ATT&CK 매핑, APT 에뮬레이션 계획, 탐지 규칙 상관관계 분석을 제공합니다.

🐢 LLM 에이전트용 오픈소스 평가 및 테스트 라이브러리

MITRE ATT&CK를 위한 SQLite 관계형 데이터 모델과 Red Canary ATOMIC 테스트 및 APT3 에뮬레이션 계획으로 강화된 적대자 에뮬레이션 계획 도구.

백도어 학습 논문, 설문 조사 및 도구 모음의 선별된 목록으로, 연구자와 보안 실무자를 위해 딥러닝의 오염 기반 공격과 방어를 체계적으로 정리합니다.

프롬프트 인젝션 공격에 대응하기 위한 오픈 웨이트 LLM과 학습/평가 코드, 그리고 에이전트 도구 호출 및 명령 수행 보안을 위한 벤치마크.

LLM 보안을 평가하고 개선하기 위한 도구 모음입니다.

우리는 6개의 AI에게 그들의 자체 프로그래밍에 대해 물었습니다. 6개 모두 jailbreaking은 절대 고쳐지지 않을 것이라고 말했습니다. 직접 실행해보세요 — $2, 10분.

검색 증강 생성 보안에 관한 연구 논문 큐레이션 컬렉션으로, 지식 오염, 검색 조작, 컨텍스트 악용, 방어를 아우르는 SLOT 분류 체계에 따라 구성되어 있습니다.

딥러닝 지연, 에너지-지연 및 타이밍(가용성) 공격과 방어에 대한 선별된 색인 — ACM Computing Surveys 제출 논문의 부속 자료.

# Ghostsplice 저장소: 교차 채널 신뢰 분열 공격(Cross-Channel Trust Fragmentation Attack)에 대한 PoC

TTPForge는 공격자의 전술, 기법, 절차(TTP)를 개발, 자동화, 실행하기 위한 사이버 보안 프레임워크입니다.

AI 리버스 엔지니어링 에이전트로부터 바이너리, Electron ASAR, JS, WASM, Python 및 모델 파일을 디코이 메타데이터, 예산 소진 및 런타임 동등 방어막을 사용하여 강화합니다.

상용 모델 가드레일을 무해한 프롬프트 위빙과 적응형 트리 탐색을 사용하여 우회하는 LLM 탈옥 에이전트의 연구 구현.

머신러닝 알고리즘을 적대적 공격과 편향으로부터 감사하는 프레임워크로, 교육 도구와 학술 논문을 제공하여 사이버보안 전문가를 위한 ML 보안 지식 격차를 해소합니다.

도구를 사용하는 LLM 에이전트 파이프라인에서 프롬프트 인젝션 방어가 어느 지점에서 작동하는지 측정하고, 노출·지속·릴레이·실행 단계 전반에 걸쳐 카나리 토큰을 추적하는 벤치마크 하네스.

레드팀 홈 랩 구축 가이드. Proxmox와 pfSense에서의 GOAD 랩 설정, Operator/C2 및 Redirector.