
Defenses-for-Tool-Integrated-LLM
툴 통합 LLM 에이전트를 적대적 공격으로부터 방어하기 위한 연구 코드와 실험으로, Agent Security Bench를 새로운 방어 전략과 공격 시나리오로 확장합니다.
defensive-toolsmachine-learningpapers-research+3

툴 통합 LLM 에이전트를 적대적 공격으로부터 방어하기 위한 연구 코드와 실험으로, Agent Security Bench를 새로운 방어 전략과 공격 시나리오로 확장합니다.

RowHammer 기반 익스플로잇

휴리스틱, LLM 기반 분석, vectorDB 공격 시그니처, 카나리 토큰 누출 탐지를 활용하는 AI 애플리케이션용 다중 계층 프롬프트 인젝션 탐지기.

Windows Defender와 방화벽을 비활성화하는 약간 더 재미있는 방법. (WSC api를 통한)

생성형 AI를 위한 Python 위험 식별 도구(PyRIT)는 보안 전문가와 엔지니어가 생성형 AI 시스템의 위험을 사전에 식별할 수 있도록 지원하기 위해 구축된 오픈 소스 프레임워크입니다.

ARP 포이즈닝을 이용한 DNS 스푸핑 샘플 코드.