
giskard-oss
🐢 Libreria open-source di valutazione e testing per agenti LLM

🐢 Libreria open-source di valutazione e testing per agenti LLM

Framework open-source per il red teaming di sistemi di intelligenza artificiale generativa: automatizza i prompt d'attacco, valuta le risposte del…

Security scanner for AI/ML model files. Detects malicious code, backdoors, and vulnerabilities before deployment

Una raccolta di fantastiche risorse relative alla sicurezza dell'IA

Un repository per il jailbreak di vari LLM, principalmente Claude

Testa i tuoi prompt, agenti e RAG. Red teaming/pentesting/scansione delle vulnerabilità per l'AI. Confronta le prestazioni di GPT, Claude, Gemini,…

Rimozione completamente automatica della censura per i modelli linguistici

A curated list of AI Security materials and resources for Pentesters, Bug Hunters, and Security Researchers.

Un'app che mette al primo posto la privacy e rimuove le filigrane AI dai contenuti di tua proprietà.

Modular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…

Clusters and elements to attach to MISP events or attributes (like threat actors)

:cloud: :zap: Emulazione granulare e azionabile degli avversari per il cloud

Un agente di audit dell'allineamento in grado di esplorare rapidamente ipotesi di allineamento.

Framework di Emulazione Avversaria

The exploit server for out-of-band findings. Point a target at a domain you own. Every HTTP request and every email it sends back lands in a…

Piattaforma di sicurezza AI open-source che fornisce difesa perimetrale per LLM e agenti AI attraverso analisi degli sciami, applicazione delle…

Harness di benchmark che misura dove si attivano le difese contro la prompt injection nelle pipeline di agenti LLM che utilizzano strumenti,…

Genera pagine di HTML smuggling che incorporano e ricostruiscono file lato client tramite JavaScript, con codifica del payload, chunking,…