#1Adversarial ML attack frameworks, evasion techniques, and model robustness evaluation tools.
Kitploit 추천

백도어 학습 논문, 설문 조사 및 도구 모음의 선별된 목록으로, 연구자와 보안 실무자를 위해 딥러닝의 오염 기반 공격과 방어를 체계적으로 정리합니다.

내장된 적대적 강건성 도구(PGD 공격, 적대적 학습, 비전 연구용 강건한 사전 학습 모델 포함)를 사용하여 신경망을 훈련하고, 평가하고, 탐색하세요.

원격 함수 후킹을 이용한 스레드 없는 프로세스 인젝션.

RW/NoAccess와 RX 사이에서 셸코드의 메모리 보호를 전환한 다음 그 내용을 암호화/복호화하는 고급 인메모리 회피 기법

Lp 공격 및 일반적인 손상(corruptions)에 대한 ML 모델 평가를 위한 공개 리더보드와 다운로드 가능한 모델 zoo를 갖춘 표준화된 적대적 견고성 벤치마크입니다.


Offensive AI를 다루는 유용한 리소스의 선별된 목록

:cloud: :zap: 클라우드를 위한 세분화되고 실행 가능한 적대자 에뮬레이션

MISP 이벤트 또는 속성에 첨부할 클러스터 및 요소(예: 위협 행위자)

생성형 AI 시스템 레드팀을 위한 오픈소스 프레임워크: 공격 프롬프트 자동화, 모델 응답 점수화, 보안 및 안전 위험을 식별하기 위한 동작 감사.

AI/ML 모델 파일용 보안 스캐너입니다. 배포 전에 악성 코드, 백도어 및 취약점을 탐지합니다.

🐢 LLM 에이전트용 오픈소스 평가 및 테스트 라이브러리

Mythic용 C2 프로파일로, 암호화된 피어 투 피어 에이전트 트래픽을 IEEE 802.1AB LLDP 조직별 TLV를 통해 터널링하여 은밀한 Layer 2 명령 및 제어를 수행합니다.

오류 분석, 공정성, 해석 가능성, 반사실적 분석, 인과 분석, 데이터 균형을 다루는 책임 있는 AI 모델 디버깅을 위한 대화형 대시보드 및 라이브러리.

LLM 보안을 평가하고 개선하기 위한 도구 모음입니다.

표 형식, 시계열, 그래프, 텍스트, 이미지, 오디오 데이터에 걸친 이상 탐지를 위한 Python 라이브러리입니다. 60개 이상의 탐지기, 벤치마크 기반의 ADEngine 오케스트레이션, 그리고 AI 에이전트를 위한 에이전틱 워크플로우를 제공합니다.

데이터셋과 머신러닝 모델을 위한 포괄적인 공정성 지표 세트, 이러한 지표에 대한 설명, 그리고 데이터셋과 모델의 편향을 완화하는 알고리즘.