#1LLM security, prompt injection, model extraction, adversarial AI, and AI red teaming tools.
Kitploit 추천

GitHub Security Lab Taskflow Agent로 구동되는 LLM 기반 퍼징 파이프라인

AI 보안 뉴스레터 - AI 보안 연구, 인사이트, 보고서, 예정된 이벤트, 도구 및 리소스에 대한 월간 다이제스트


PISmith: 프롬프트 주입 방어를 위한 강화 학습 기반 레드 팀

기계 학습을 사용하여 난수 생성기 시퀀스를 예측하는 방법을 시연하며, 적대적 분석을 통해 암호화 취약점을 강조합니다.

가벼운 CLI 도구로, AI 코딩 에이전트를 격리된 Bubblewrap 샌드박스 내에서 실행하며, 프롬프트 인젝션 및 공급망 공격으로부터 보호하기 위해 엄격한 파일시스템, 네트워크, 자격 증명 격리를 제공합니다.

2026년 6월 1일 Meta의 AI 지원 어시스턴트에서 추출된 시스템 프롬프트

멀티모달 스킬 이미지에 숨겨진 악성 지시에 LLM 에이전트가 저항하는지 테스트하는 벤치마크 및 평가 하네스로, 5개 위험 범주에 걸친 108개 사례와 ASR/TSR 점수를 제공합니다.

RL 기반 프롬프트 인젝션 레드팀을 위한 오픈 프레임워크로, 공유 트레이너, 커리큘럼 학습, 그리고 AgentDojo, InjecAgent, PIArena와 같은 벤치마크를 제공합니다.

AI 스마트 계약 보안 분석 및 PoC 생성 프레임워크

장기 실행 코드 감사, 웹 침투 테스트, 버그 바운티 헌팅을 위한 AI 하네스로, 실제 조사가 실패하는 방식—고정된 가설, 거짓 음성, 재현 불가능한 보고서—을 중심으로 구축되었습니다.

방어적 대응 및 위협 인텔리전스 연구소. 정책 기반의 통제된 AI 대응을 통해 유입되는 사기 이메일을 실행 가능한 IOC로 변환합니다. 적응형 전략 선택을 갖춘 멀티 에이전트 LLM 아키텍처.

ENDGAME C2 FRAMEWORK — AI-powered command and control for professional red team operations

협업형 웹 앱 침투 테스트 스위트

LLM 기반 에이전트를 위한 에이전틱 탈옥 프레임워크로, 스킴 기반 작업 분해, 다중 턴 위장 전략, 적응형 자기 진화를 사용하여 새롭게 부상하는 보안 위험을 탐색합니다.

대규모 언어 모델 벤치마킹을 위한 생성형 AI 기반 사이버 보안 중심 프롬프트 데이터셋