#1Ferramentas de segurança LLM, injeção de prompt, extração de modelo, IA adversária e red teaming de IA.
Recomendado pelo Kitploit

Demonstração educacional de três vulnerabilidades do Claude Code (bypass de hooks, injeção de MCP, exfiltração de chaves de API) com servidor…

Extensão do Burp Suite que incorpora detecção passiva de vulnerabilidades por meio de inteligência artificial.

Benchmarking de detecções de injeção de prompt para agentes web.

Let AI agents explore a running game from the inside. Live, safe, instant.

StealthRL: framework de RL para parafrasear adversariamente texto de IA para testar a robustez do detector.

Pipeline automatizada de análise de ameaças orientada por IA que encaminha arquivos, URLs, IPs, domínios ou imagens através de analisadores de…

Uma ferramenta que verifica se uma instância do TorchServe é vulnerável ao CVE-2023-43654.

O MCP está sendo adotado rapidamente. As orientações de segurança estão ficando para trás. Esta lista de verificação oferece aos engenheiros de…

Extensão de navegador que detecta PII e dados sensíveis em chats de IA, mascara-os com placeholders antes do envio e restaura os originais nas…

Segurança para a era moderna da IA: defenda-se contra agentes de IA maliciosos e pacotes npm mal-intencionados

Noisegate: um gateway de privacidade diferencial que permite a um agente LLM não confiável consultar dados sensíveis via MCP (Model Context…

Framework para auditoria de algoritmos de machine learning contra ataques adversariais e vieses, fornecendo ferramentas educacionais e um artigo…

Volatility 3 plugin that carves MCP/JSON-RPC message candidates from Windows and Linux memory dumps, preserving raw bytes, addresses, and SHA-256 for…

Defesa assimétrica contra agentes de IA adversários. O VeilGate avalia cada solicitação recebida, redireciona agentes suspeitos para um ambiente…

Sistema RAG do OWASP Web Security Testing Guide com ChromaDB, MCP para Claude Code

Kit de segurança modular para agentes autônomos, fornecendo análise estática, auditoria de configuração, monitoramento em tempo de execução e…

Portão de segurança explicável para aplicações LLM — bloqueia injeção de prompt com uma razão auditável para cada decisão.

Pesquisa de segurança sobre compactação de contexto em agentes de programação: mostra como rótulos de função forjados em conteúdo não confiável…