#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

코드 보안 취약점 탐지에서 LLM 일반화 상한선을 문서화한 연구 저장소로, SQL 인젝션, 경로 탐색, 접근 제어 결함에 대해 합성 데이터셋과 실세계 데이터셋(Juliet, OWASP, CVEfixes, VUDENC)을 교차 평가합니다.

CVE-2026-77521(MaxKB 프롬프트 주입 가능 명령 실행)의 무해하고 자체 완결적인 재현

AI 모델의 보안 관련 메타데이터를 문서화하기 위한 개방형 표준으로, 학습 데이터 출처, PII(개인 식별 정보) 위험, 알려진 취약점, 공급망 세부 정보를 포함합니다.

공개 벤치마크와 설문 마이크로데이터를 기반으로 여섯 가지 AI 보안 리터러시 역량 차원을 정립하고, 그림, 표, 재개 가능한 결과물을 생성하는 재현 가능한 Colab 파이프라인입니다.

이 저장소는 논문 "[Safety in Batches? Understanding and Mitigating Safety Failures in Batch Prompting]"의 공식 구현을 포함하고 있습니다.

RAG 포이즈닝 방어를 위한 경량 평가 하네스로, 네 가지 조건의 정상/포이즈닝 레코드를 생성하고 방지된 타깃, 순 감소량, 정상 측 부작용, 감사 패킷을 보고합니다.

Ghidra의 분석 코어를 JVM 의존성 없이 C++로 재구현하여, 임베디드 가능한 바이너리 분석, Pcode/Sleigh 기반, 그리고 리버스 엔지니어링을 위한 AI 지원 인터페이스를 제공합니다.


LLM 프롬프트 인젝션 공격, 방어 및 보안을 학습하고 연구하기 위한 엄선된 리소스 모음입니다.

AGLS

스파이킹 신경망에 대한 rate, latency, jitter 트리거를 사용한 시간적 트리거 백도어 공격인 T-Backdoor를 구현한 연구 코드로, 공간적 교란 없이 동작한다.

일부러 취약하게 설계된 머신러닝 모델로, 실습 중심 보안 교육을 위해 제작되었습니다. 안전한 랩 환경에서 일반적인 ML 취약점, 적대적 공격, 방어 기법을 탐구할 수 있습니다.

가중치 수준 LLM 포렌식: 모델 가중치를 비교(diff)하고, 파인튜닝·병합·위장된 파생 모델을 탐지하며, 파인튜닝이 촉진하거나 억제하는 토큰을 널 기준선 점수(null-baseline scoring)로 드러냅니다.

Agile 스프린트를 DevOps CI/CD 파이프라인과 통합하기 위한 완전한 가이드 및 워크플로우입니다.

SSH 키, AWS 자격 증명, .env 파일을 AI 코딩 에이전트가 읽지 못하도록 차단하는 샌드박스 및 MCP 프록시로, 기본 거부 정책과 변조 감지 감사 로그를 제공합니다.

Nanashi Bx2의 사이버 보안 라이트업, 워크스루 및 기술 노트.

CVE-2026-20685 - 초안 또는 TODO

다단계 프롬프트 인젝션 기법으로, 정체성 재할당, 거부 억제, 출력 강제를 통해 LLM 안전 정렬을 우회하며, ChatGPT 및 Gemini와 같은 주요 모델에 영향을 미칩니다.