#1이상치, 적대적 및 드리프트 탐지 알고리즘

LLM 에이전트 워크플로우를 위한 보안 스캐너

백도어 학습 논문, 설문 조사 및 도구 모음의 선별된 목록으로, 연구자와 보안 실무자를 위해 딥러닝의 오염 기반 공격과 방어를 체계적으로 정리합니다.

내장된 적대적 강건성 도구(PGD 공격, 적대적 학습, 비전 연구용 강건한 사전 학습 모델 포함)를 사용하여 신경망을 훈련하고, 평가하고, 탐색하세요.

멀티모달 AI 모델(GPT-4o, Gemini)과 Selenium을 사용하여 CAPTCHA 해결을 자동화하며, 명령줄 인터페이스를 통해 텍스트, 오디오, 슬라이더 퍼즐 및 reCAPTCHA v2를 지원합니다.

Lp 공격 및 일반적인 손상(corruptions)에 대한 ML 모델 평가를 위한 공개 리더보드와 다운로드 가능한 모델 zoo를 갖춘 표준화된 적대적 견고성 벤치마크입니다.


🥂 멀티모달 대규모 언어 모델로 hCaptcha 챌린지에 우아하게 대응하세요.

Offensive AI를 다루는 유용한 리소스의 선별된 목록

웹 애플리케이션, API, AI/LLM 보안 테스트, 보안 코드 리뷰, DevSecOps 통합을 실제와 유사한 실습 랩을 통해 연습할 수 있도록 의도적으로 취약하게 설계된 은행 플랫폼입니다.

클라우드 코딩 에이전트에 개인 데이터, 내부 인프라, 시크릿을 노출하지 않으면서 워크플로를 유지하세요.

생성형 AI 시스템 레드팀을 위한 오픈소스 프레임워크: 공격 프롬프트 자동화, 모델 응답 점수화, 보안 및 안전 위험을 식별하기 위한 동작 감사.

Security scanner for AI/ML model files. Detects malicious code, backdoors, and vulnerabilities before deployment

🐢 LLM 에이전트용 오픈소스 평가 및 테스트 라이브러리

LLM 보안을 평가하고 개선하기 위한 도구 모음입니다.

웹 UI, CLI 또는 TUI에서 Model Context Protocol(MCP) 서버를 검사, 디버그 및 시각적으로 테스트할 수 있으며, 도구/리소스 탐색, 요청 로깅 및 OAuth 지원을 제공합니다.

Programmable guardrails for LLM chat apps: enforce input/output rails, block jailbreaks and prompt injections, detect hallucination, and mask…