#1Strumenti per sicurezza LLM, prompt injection, estrazione modelli, IA avversaria e red teaming IA.
Raccomandato da Kitploit

Un benchmark per la scoperta di bug guidata da LLM: 77 sfide su 43 progetti open-source (C/C++/Java).

Un proxy trasparente di redazione dei PII per il traffico API LLM. Si posiziona tra un'applicazione e un provider LLM (attualmente Anthropic),…

Progetto OWASP Incubator: rileva credenziali esposte nei contenuti inviati al browser (JavaScript, risposte di configurazione, traffico live).

Strumento di formazione sulla consapevolezza della sicurezza per simulazioni di phishing autorizzate e audit IT interni.

CEREBRO-RED v2: Piattaforma Avanzata di Ricerca Red Team per LLM con Algoritmo PAIR e Valutazione LLM-as-a-Judge

AIO Cloud Managment Server

Un pacchetto TypeScript che fornisce agenti basati sull'IA per attività di Sicurezza delle Applicazioni (AppSec), costruito sopra i modelli…

CVPR2023: Cluster Non Apprendibili: Verso Esempi Non Apprendibili Indipendenti dall'Etichetta

Framework di attacco per superare le difese contro il prompt injection basate sul fine-tuning (SecAlign, SecAlign++, StruQ) utilizzando attacchi…

Server proxy che avvolge i server MCP con profilazione comportamentale, scansione di sicurezza, controllo dei rischi ed esecuzione sicura. Rileva…

Scopri cosa è cambiato nella tua release Electron: confronta due build per IPC, preload, finestre, fuse e host, con file:riga. CLI, gate CI, server…

Triage di raggiungibilità per le scansioni delle vulnerabilità. Invia i risultati dello scanner a un agente LLM che legge il tuo codice sorgente e…

Analisi forense crittografica del terminale e replay delle sessioni per agenti AI. Traccia, firma e verifica ogni comando con etichette di…

Regole di rilevamento Sigma per il monitoraggio della sicurezza degli agenti AI

Secure local REST, CLI, MCP, and agent bridge for IDA Pro 9.x

Autorità applicata a livello di kernel e sicurezza runtime per sistemi Linux, software autonomo e agenti AI.

Framework di fine-tuning che applica una calibrazione di sicurezza ottimale del primo ordine e una ricalibrazione periodica ai LLM, preservando gli…

Progetto di riferimento OWASP per l'evidenza della sicurezza dell'IA agentica: correla l'esecuzione degli agenti, l'identità, le chiamate agli…