Machine Learning

opanhw/memform-code

LLM 에이전트의 지속 메모리 오염(persistent-memory poisoning)을 위한 결정론적 벤치마크 및 평가 하네스로, 정상/오염 사례를 쌍으로 구성하고 LangChain/LlamaIndex 러너와 방어 기법을 제공합니다.

benampel/hackersignal

해커 포럼, 익스플로잇 및 권고문 텍스트를 340K NVD CVE와 연결하는 745만 문서 규모의 사이버 위협 인텔리전스 코퍼스 및 벤치마크로, 검색 및 익스플로잇 유형 분류를 위한 시간적 분할을 제공합니다.

mdniloykhan/jailbreak-eval-7llms

"7개의 대규모 언어 모델 전반에 걸친 적대적 탈옥 공격 및 방어의 체계적 평가"를 위한 코드

gmh5225/ransmap-ransomware-binary-classification

Jupyter notebook analyzing the RanSMAP dataset to classify ransomware families from memory access patterns (GPA, entropy, page type) using…

labrai/graphip-bench

그래프 신경망에서 단일 블랙박스 프로토콜 아래 모델 추출 공격과 소유권 방어(워터마킹, 출력 교란, 쿼리 탐지)를 평가하기 위한 벤치마크 및 라이브러리입니다.

fzjcdt/co-weight-drift

결합된 목적 함수와 EMA 기반 가중치 드리프트 가드를 통해 치명적 과적합을 방지하는 빠른 적대적 학습 방법의 PyTorch 참조 구현으로, AutoAttack 평가를 포함합니다.

hanssuny/upsafe

LLM 레이어에 제어 가능한 안전 전문가를 추가하기 위한 연구 코드로, 2단계 업사이클링 학습과 추론 시점의 안전 온도 라우팅 및 탈옥 평가를 포함합니다.

manhu2025/dup

언어 모델의 백도어를 탐지하고 제거하기 위한 연구 프레임워크로, BERT, BART, LLaMA, Qwen 전반에 걸쳐 특징 기반 이상 탐지와 LoRA 기반 언러닝을 결합한다.

rjzak/malware-modeler-rs

Generate training data and models for benign vs. malicious files plus related tools.

xeeshanajmal/qai2026-fgsm-transfer

QAI 2026 논문에서 시뮬레이션에서 IBM 양자 하드웨어로의 FGSM 공격 전이성에 관한 코드와 결과입니다.

chxhana/aligned-rag-eval

RAG 포이즈닝 방어를 위한 경량 평가 하네스로, 네 가지 조건의 정상/포이즈닝 레코드를 생성하고 방지된 타깃, 순 감소량, 정상 측 부작용, 감사 패킷을 보고합니다.

ali-bana/olmo-twin

OLMo 2에 대한 멤버십 추론 공격의 통제된 연구를 위한 재현 코드로, 문서 삽입, 중간 학습, 사후 학습, 점수 산정 및 분석을 다룹니다.

mahmoud-abbasi-svg/agent-trace-detector-eval

Code, 파생 데이터 및 결과: 희귀 공격 및 분포 이동 상황에서 하이재킹된 LLM 에이전트의 기준 탐지기 평가

ai45lab/privacytrace

도구 호출은 당신에 대해 얼마나 많은 것을 드러낼 수 있는가? 도구 호출 추적에서 발생하는 프라이버시 유출

jawh3/striatum-ctf

MCP 기반 LLM 에이전트가 CTF 챌린지를 자율적으로 해결하기 위한 연구 산출물로, ablation 데이터, 분석 스크립트, 6개 서버로 구성된 MCP 스택을 포함합니다.

shubsds/authorship-not-sabotage

NeurIPS EvoRobust 연구의 코드 및 논문 소스로, 단순한 bag-of-words와 메타데이터 특징이 백도어가 삽입된 코드를 탐지하는 데 있어 대부분의 AI 제어 모니터를 능가함을 보여줍니다.

ua-spectral/botlens

Research artifact and MCP server that audits security and privacy concerns in third-party Discord bots via large-scale review analysis, LLM labeling,…