#1Strumenti per sicurezza LLM, prompt injection, estrazione modelli, IA avversaria e red teaming IA.
Raccomandato da Kitploit

Demo educativo di tre vulnerabilità di Claude Code (bypass degli hook, iniezione MCP, esfiltrazione di chiavi API) con server dell'attaccante, proxy…

Estensione di Burp Suite che integra il rilevamento passivo delle vulnerabilità tramite intelligenza artificiale.

Benchmarking dei rilevamenti di prompt injection per gli agenti web.

Let AI agents explore a running game from the inside. Live, safe, instant.

StealthRL: framework di RL per parafrasare in modo avversariale testi AI per testare la robustezza dei rilevatori.

Pipeline automatizzata di analisi delle minacce basata su AI che instrada file, URL, IP, domini o immagini attraverso analizzatori di sicurezza…

Uno strumento che verifica se un'istanza TorchServe è vulnerabile a CVE-2023-43654

MCP viene adottato rapidamente. Le linee guida per la sicurezza sono in ritardo. Questa checklist fornisce a ingegneri della sicurezza, team di…

Estensione per browser che rileva PII e dati sensibili nelle chat AI, li maschera con segnaposto prima dell'invio e ripristina gli originali nelle…

Sicurezza per l'era moderna dell'AI: difenditi dagli agenti AI dannosi e dai pacchetti npm malintenzionati

Noisegate: un gateway di privacy differenziale che consente a un agente LLM non attendibile di interrogare dati sensibili tramite MCP (Model Context…

Framework per audit di algoritmi di machine learning contro attacchi avversari e bias, fornendo strumenti educativi e un articolo accademico per…

Volatility 3 plugin that carves MCP/JSON-RPC message candidates from Windows and Linux memory dumps, preserving raw bytes, addresses, and SHA-256 for…

Difesa asimmetrica contro agenti AI avversari. VeilGate valuta ogni richiesta in arrivo, reindirizza gli agenti sospetti in un ambiente honeypot…

Sistema RAG della Guida OWASP per i Test di Sicurezza Web con ChromaDB, MCP per Claude Code

Toolkit di sicurezza modulare per agenti autonomi che fornisce analisi statica, audit della configurazione, monitoraggio del runtime e verifica della…

Gate di sicurezza spiegabile per app LLM — blocca l'iniezione di prompt con una ragione verificabile per ogni decisione.

Ricerca sulla sicurezza relativa alla compattazione del contesto negli agenti di programmazione: mostra come le etichette di ruolo falsificate in…