#1Adversarial ML attack frameworks, evasion techniques, and model robustness evaluation tools.
Kitploit 추천

Rubric-Induced Preference Drift(RIPD) 연구 코드: LLM 심사자에서의 진화적 루브릭 탐색, 벤치마크 보존 선택, DPO 정책 정렬 오류 평가.

공격을 구성하고 방어를 구축하며 둘 모두를 벤치마킹하기 위한 적대적 예제 라이브러리

:cloud: :zap: 클라우드를 위한 세분화되고 실행 가능한 적대자 에뮬레이션


MCP 서버에서 LLM 에이전트를 레드팀 공격하기 위한 궤적 인식 진화 검색 프레임워크로, 위험 범주 전반에 걸쳐 취약점 지형을 매핑하기 위한 적대적 프롬프트를 생성합니다.

검색 증강 언어 모델에 대한 중독 공격의 연구 구현으로, 위장된 문서를 사용하여 필터링 방어를 우회하고 잘못된 답변을 유도합니다.

스파이킹 신경망에 대한 rate, latency, jitter 트리거를 사용한 시간적 트리거 백도어 공격인 T-Backdoor를 구현한 연구 코드로, 공간적 교란 없이 동작한다.


인과적 맥락 귀속과 규칙 기반 모니터를 활용한 LLM 에이전트의 간접 프롬프트 인젝션 방어로, AgentDyn 및 기타 벤치마크에서 최첨단 성능을 달성합니다.

이상치, 적대적 및 드리프트 탐지 알고리즘

원격 시스템을 상호 연결하기 위한 간소화된 FTP 기반 명령 및 제어 채널

Gemini의 SynthID 탐지 리버스 엔지니어링

Windows 프로세스 실행 기법 조사를 위한 PoC 및 도구

SoK 의도 지향 체계화 논문의 다중 턴 LLM 탈옥 실험(FITD, MRCJ, ActorAttack, X-Teaming)을 재현하는 연구 코드.

공개 벤치마크와 설문 마이크로데이터를 기반으로 여섯 가지 AI 보안 리터러시 역량 차원을 정립하고, 그림, 표, 재개 가능한 결과물을 생성하는 재현 가능한 Colab 파이프라인입니다.

Experiments for control-token chain-of-thought suppression and parser-leniency attacks on tool-using LLM agents

Claude AI의 고심각도 프롬프트 인젝션 결함은 가장 똑똑한 언어 모델조차도 단 몇 줄의 코드로 무기로 변할 수 있음을 증명합니다.

간접 시스템 콜, 동적 API 해석, 컴파일 타임 문자열 난독화를 통해 SeImpersonatePrivilege를 악용하는 GodPotato의 Crystal 포팅 버전입니다. 명령 실행, 리버스 셸 또는 사용자 추가를 지원합니다.