#1ML-based security tools, adversarial machine learning, and AI-powered cyber defense.
Kitploit 추천

Python 프레임워크로, Z3 정리 증명, CTL 모델 검사 및 적합 예측을 통한 형식 검증과 함께 상태 기계로서 LLM 워크플로우를 구축하여 증명 가능하게 올바른 데이터 추출을 지원합니다.

진화적 LLM 탈옥 및 가드레일 프레임워크로, 유전적 변이, 마르코프 선택, 온라인 적대적 훈련을 통해 재사용 가능한 전략 풀을 성장시켜 안전성 평가를 수행합니다.

HARDE를 위한 연구 코드로, 에이전트 안전성 벤치마크 전반에서 런타임 위험 탐지 및 실행 제어를 위해 구성 요소를 탐침하고 적응적으로 최적화하는 에이전트 하네스입니다.

오디오-언어 모델을 동결 상태로 유지하고, 추론 시점에서 오디오 탈옥을 차단하기 위해 중간 계층 위험 게이트와 후반 계층 안전 어댑터를 추가하는 방어 프레임워크입니다.

메모리 없는 지속 학습 프레임워크로, mode connectivity-based interpolation을 사용하여 악성코드 분류를 수행합니다. EMBER 및 Androzoo 데이터셋에서 class-incremental 및 domain-incremental 시나리오를…

파인튜닝된 LLM 분류기에서 단일 KV-cache 비트를 뒤집고 클래스별 공격 성공률을 측정하는 그레이박스 트로이 목마 공격을 위한 연구 코드.

AI 정렬 실패를 탐지하기 위한 벤치마크 스위트 및 코드로, 열 가지 실패 유형에 걸친 44개의 벤치마크와 7,193개의 레이블된 인스턴스에서 평가된 제로샷 RLCD 탐지기를 포함합니다.

AI 자동 모드 모니터 레드팀을 위한 연구 코드로, 시뮬레이션 평가, 퍼징, Claude Code 및 Codex guardian용 모니터 구현을 포함합니다.

MLflow REST API를 통해 등록된 모델을 오염시켜, 모델이 로드될 때 RCE를 트리거하는 악성 pickle을 삽입하는 개념 증명(Proof-of-concept).

Experiments for control-token chain-of-thought suppression and parser-leniency attacks on tool-using LLM agents


ML 기반 Zombie ZIP 아카이브 헤더 우회 공격 탐지 (CVE-2026-0866)

IDA Pro용 AI 기반 리버스 엔지니어링 플러그인

서버 응답의 실제 내용을 기반으로, 예를 들어 Intruder 실행에서 나온 응답에 대해 텍스트 클러스터링을 수행하여 이상치/그룹을 식별하는 Java Burp 플러그인입니다.

CVE-2024-37054에 대한 개념 증명 및 연구 저장소로, MLflow PyFunc 모델 로딩에서의 안전하지 않은 역직렬화 취약점으로 인해 원격 코드 실행으로 이어질 수 있습니다.

가중치 스테가노그래피 공격을 통해 삽입된 악성코드를 파괴하기 위해 순열 등가 신경망 유닛을 재정렬하면서 모델 정확도를 유지하는 제로 재훈련 새니타이제이션.

스텔스 Ring-3 Windows 샌드박스, 정적 PE/PDF 분석기, 랜섬웨어 키 복구, 그리고 오탐 방지 탐지를 위한 AI 앙상블을 결합한 다중 형식 멀웨어 분석 플랫폼입니다.

대규모 비전-언어 모델에서 숨겨진 상태 분석과 오토인코더를 사용하여 알려지지 않은 탈옥 공격을 탐지하며, 강력한 안전 모니터링을 위한 학습 및 평가 파이프라인을 제공합니다.