#1Ferramentas de segurança LLM, injeção de prompt, extração de modelo, IA adversária e red teaming de IA.
Recomendado pelo Kitploit

Memória de IA agêntica com decaimento pela curva de esquecimento de Ebbinghaus. +16pp melhor recall que Mem0 no LoCoMo.

Ofuscação anti-LLM através da contagem de dedos

Scanner de segurança para arquivos de modelos de IA/ML. Detecta código malicioso, backdoors e vulnerabilidades antes da implantação.

Estrutura de pesquisa de alinhamento (estilo autoresearch) para salvaguardas de LLM: busca sobre uma única superfície policy.md

Protocolo de rede overlay fornecendo endereços permanentes para agentes de IA, túneis criptografados e autenticados, e um modelo de confiança sobre…

Uma extensão do Burp Suite que expõe toda a API Montoya como uma API REST local, com Swagger UI

Scanner de mecanismos de persistência do macOS com verificação de assinatura de código e rastreamento de linha do tempo.

Mergulhando no Reino da Segurança de LLM: Uma Exploração de Ferramentas Ofensivas e Defensivas, Revelando Suas Capacidades Atuais.

Example de taskflows de agentes de IA e servidores MCP para auditar código-fonte, triar problemas e detectar vulnerabilidades em projetos web,…

Estrutura de simulação de adversários baseada em playbook que compila caminhos de ataque definidos em JSON em payloads de shellcode independentes de…

Uma ferramenta de ataque de gradiente de coordenadas ganancioso (GCG) pronta para produção para grandes modelos de linguagem (LLMs)

Camada de evidência criptograficamente assinada e verificável por repetição para agentes de IA. Governa ações no loop, gera recibos assinados com…

CVE-Factory

Sandbox WASM com aplicação de capacidades para código de agentes de IA. Agentes só podem chamar ferramentas explicitamente fornecidas com restrições…

Security training for the apps you actually ship. Open your browser and start hacking.

repositório de código aberto para validar aplicações de IA agêntica: redteam, comportamento, cadeia de suprimentos, análise estática

Plataforma de simulação de SOC baseada em IA

Project Mantis: Contra-Atacando o Hackeador de IA; Injeção de Prompt como Defesa Contra Ciberataques Conduzidos por LLM