#1ML-based security tools, adversarial machine learning, and AI-powered cyber defense.
Kitploit 추천

RAG 포이즈닝 방어를 위한 경량 평가 하네스로, 네 가지 조건의 정상/포이즈닝 레코드를 생성하고 방지된 타깃, 순 감소량, 정상 측 부작용, 감사 패킷을 보고합니다.
OLMo 2에 대한 멤버십 추론 공격의 통제된 연구를 위한 재현 코드로, 문서 삽입, 중간 학습, 사후 학습, 점수 산정 및 분석을 다룹니다.

Code, 파생 데이터 및 결과: 희귀 공격 및 분포 이동 상황에서 하이재킹된 LLM 에이전트의 기준 탐지기 평가

도구 호출은 당신에 대해 얼마나 많은 것을 드러낼 수 있는가? 도구 호출 추적에서 발생하는 프라이버시 유출

MCP 기반 LLM 에이전트가 CTF 챌린지를 자율적으로 해결하기 위한 연구 산출물로, ablation 데이터, 분석 스크립트, 6개 서버로 구성된 MCP 스택을 포함합니다.

Code and paper source for a NeurIPS EvoRobust study showing simple bag-of-words and metadata features beat most AI control monitors at detecting…

대규모 리뷰 분석, LLM 라벨링, 31개 테마 분류 체계를 통해 타사 Discord 봇의 보안 및 개인정보 보호 문제를 감사하는 연구 아티팩트 겸 MCP 서버입니다.

양자화된 신경망의 프라이버시 평가를 위한 연구 코드베이스: PTQ/QAT 환경에서 대상/섀도 모델을 훈련하고, DP 방어를 적용한 상태에서 멤버십 추론 공격(MIA, RMIA, 화이트박스)을 실행합니다.

논문 "적응형 정책 셰이핑을 통한 자율 사이버 방어 에이전트의 정렬"을 위해 업데이트된 CybORG CAGE 2 환경

원시 PCAP을 조사하는 도구 활용 LLM 에이전트에 의한 자율 네트워크 공격 탐지의 벤치마크 코드 및 대화형 결과.

실시간 iOS 기기에서 mitmproxy로 가로챈 25,000개 이상의 HTTP/HTTPS 흐름을 대상으로 이상 모바일 트래픽을 탐지하는 비지도 심층 오토인코더로, 플래그된 흐름을 1,100개에서 103개로 줄인 임계값 튜닝과 Streamlit 모니터링 대시보드를…

LLM 안전 가드가 위조된 미끼 콘텐츠를 채점하도록 속이는 타깃 리바인딩 공격에 대한 연구 코드, 벤치마크 및 방어 기법과 세그먼트-최대 증류 강화를 포함합니다.

정적 분석 증거에 LLM 취약점 감사자가 어떻게 의존하는지를 연구하는 재현 패키지로, tree-sitter C/C++ 프런트 엔드, 통제된 증거 조건, 통계 분석 코드를 포함합니다.

재현 가능한 Docker 공격 시나리오에서 다중 소스 보안 로그를 수집하고, 공격 체인을 구축하며, LLM의 공격 단계 추론을 평가하기 위한 SecLog-Bench-216 벤치마크를 제공합니다.

LLM을 대상으로 한 탈옥 공격 성공률(ASR 및 단계별 ASR)을 측정하기 위한 연구 코드로, GCG와 같은 공격의 구현 및 평가 스크립트를 포함합니다.

초기 종료 깊이 LLM 전반에 걸친 탈옥 취약점. NeurIPS 2026 FLMSec 워크숍에서 발표됨

MP-SPDZ에서 복제 비밀 공유를 사용한 프라이버시 보존 얼굴 인식의 참조 구현으로, 양자화된 GhostFaceNet 추론, 벤치마크 및 QAT 도구를 포함합니다.

공개 벤치마크와 설문 마이크로데이터를 기반으로 여섯 가지 AI 보안 리터러시 역량 차원을 정립하고, 그림, 표, 재개 가능한 결과물을 생성하는 재현 가능한 Colab 파이프라인입니다.