#1Ferramentas de segurança LLM, injeção de prompt, extração de modelo, IA adversária e red teaming de IA.
Recomendado pelo Kitploit

Escaneia plugins do WordPress em busca de vulnerabilidades de guarda ausente usando assinaturas do ripgrep, regras do Semgrep, mapeamento de…
Pipeline de pesquisa que implementa um jailbreak visual-contextual contra LLMs multimodais: extração de prompt T2I, renderização de imagem com SD3.5,…

Benchmarking de viés em agentes LLM para cenários de ciberataque

Uma abordagem de otimização de caixa preta para proteger prompts de sistema de Modelos de Linguagem de Grande Porte (LLM) contra ataques de extração…

A quantização de 4 bits é mais do que ruído para o comportamento de segurança de um modelo de chat? Código, pré-registro e rótulos.

🐾 Autoridade, não credenciais, para agentes de IA: ações aprovadas por política, delegação que só pode restringir, revogação instantânea, auditoria…

Um administrador do registro do Loom pode reescrever um documento de skill que não possui proprietário de grupo. A próxima implantação completa de um…

No Loom, uma regra de aprovação chamada code_interpreter pausa a ferramenta Strands e ignora as ferramentas de código e comando do ADK. Regras…

No Loom com google-adk 2.13.0, uma ferramenta agente-para-agente nunca aguarda a verificação de aprovação, então o envio é concluído. A mesma regra…

Scanner de segurança open-source de alto desempenho que combina SAST, SCA, Detecção de Segredos e análise de IaC, criado para desenvolvedores e…

Servidor MCP que expõe a inteligência de ameaças do VirusTotal a agentes de IA: relatórios de arquivos, URLs, domínios e IPs, envio de análises e…

Torne sua própria aplicação cara de reverter. Um harness de auditoria, endurecimento e verificação em tempo de build para binários nativos e…

Framework para treinar agentes de cibersegurança baseados em LLM sem ambientes de execução, sintetizando trajetórias de resolução de CTF por meio de…

RuralShield — um protótipo de pesquisa em AWS CDK para segurança em nuvem na área da saúde, com triagem por IA limitada por políticas, resposta…

Kit de ferramentas de testes de segurança web rápido e com IA em primeiro lugar, em Rust: uma alternativa de código aberto ao ZAP, Burp Suite e…

Plataforma OSINT auto-hospedada. Aponte-a para um domínio, IP, e-mail, telefone ou nome de usuário e 26 módulos são executados em paralelo: WHOIS,…

Plataforma OSINT auto-hospedada. Aponte-a para um domínio, IP, e-mail, telefone ou nome de usuário e 26 módulos são executados em paralelo: WHOIS,…

Agente de testes de segurança orientado por LLM que executa um loop contínuo de chamadas de ferramentas contra um alvo, com mais de 160 adaptadores…