#1ML-based security tools, adversarial machine learning, and AI-powered cyber defense.
Kitploit 추천

"7개의 대규모 언어 모델 전반에 걸친 적대적 탈옥 공격 및 방어의 체계적 평가"를 위한 코드
스파이킹 신경망에 대한 rate, latency, jitter 트리거를 사용한 시간적 트리거 백도어 공격인 T-Backdoor를 구현한 연구 코드로, 공간적 교란 없이 동작한다.

OLMo 2에 대한 멤버십 추론 공격의 통제된 연구를 위한 재현 코드로, 문서 삽입, 중간 학습, 사후 학습, 점수 산정 및 분석을 다룹니다.

재현 가능한 Docker 공격 시나리오에서 다중 소스 보안 로그를 수집하고, 공격 체인을 구축하며, LLM의 공격 단계 추론을 평가하기 위한 SecLog-Bench-216 벤치마크를 제공합니다.

AI, LLM, 로보틱스, 데이터 과학, 머신러닝 및 모든 종류의 Python 소스 코드에서 Python RCE 경로와 심층 역직렬화 체인을 발견하기 위한 에이전틱 LLM 기반 관계 매핑을 갖춘 AST 기반 정적 코드 분석기입니다.

큐레이션된 포트폴리오로, 제 SOC 조사, 위협 헌팅 프로젝트, DFIR 랩, 탐지 엔지니어링, 기술 블로그, 그리고 사이버 보안 연구를 선보입니다.

LLM 레이어에 제어 가능한 안전 전문가를 추가하기 위한 연구 코드로, 2단계 업사이클링 학습과 추론 시점의 안전 온도 라우팅 및 탈옥 평가를 포함합니다.

단편화되고 대역폭이 낮은 네트워크에서 자율 에이전트 간의 복원력 있는 상태 동기화를 위해 설계된 서버리스 네트워킹 프로토콜

결합된 목적 함수와 EMA 기반 가중치 드리프트 가드를 통해 치명적 과적합을 방지하는 빠른 적대적 학습 방법의 PyTorch 참조 구현으로, AutoAttack 평가를 포함합니다.

Code and paper source for a NeurIPS EvoRobust study showing simple bag-of-words and metadata features beat most AI control monitors at detecting…

PGM-인덱스에 대한 포이즈닝 공격 연구 코드로, 학습된 인덱스 성능을 저하시키기 위해 적대적 데이터를 구성하는 방법을 시연합니다.

TypeSafe의 Jev 기반의 초고속 토큰 효율적 침입 탐지 시스템(IDS).

도구 호출은 당신에 대해 얼마나 많은 것을 드러낼 수 있는가? 도구 호출 추적에서 발생하는 프라이버시 유출

Offensive AI를 다루는 유용한 리소스의 선별된 목록

소유한 콘텐츠에서 AI 워터마크를 제거하는 프라이버시 우선 앱입니다.

신경망 기반 난수 생성기를 NIST SP 800-22 및 SP 800-90B 표준에 대해 검증하고, 이를 해독하는 데 현상금을 제공하는 구조화된 도전 과제 저장소입니다.

대규모 리뷰 분석, LLM 라벨링, 31개 테마 분류 체계를 통해 타사 Discord 봇의 보안 및 개인정보 보호 문제를 감사하는 연구 아티팩트 겸 MCP 서버입니다.

Code, 파생 데이터 및 결과: 희귀 공격 및 분포 이동 상황에서 하이재킹된 LLM 에이전트의 기준 탐지기 평가