#1Ferramentas de segurança baseadas em ML, aprendizado de máquina adversário e defesa cibernética com IA.
Recomendado pelo Kitploit
cbuijs/sdproxyProxy DNS simples e rápido com funcionalidades não tão simples. Focado em encaminhamento DNS roteado, filtragem e controle parental.
selectstar-ai/finred-paperbenchmark de red-teaming específico do domínio financeiro rubrica de avaliação
alex66366/odpureDefesa de purificação em estágio de entrada caixa-preta que neutraliza ataques de backdoor em detectores de objetos por meio de corrupção,…
norrrrrrr-lyn/wainjectbenchBenchmarking de detecções de injeção de prompt para agentes web.
zjuwyh/shadowmemDefensive framework that maintains a safety-focused shadow memory to detect and block prompt-injection and long-horizon threats against LLM agents…
resharma/ajarMedindo Privilégios Abertos em Defesas de Agentes
usama1002/deleting-the-traceExperimentos para supressão de cadeia de pensamento com tokens de controle e ataques de leniência de parser em agentes LLM que utilizam ferramentas
bardlaudian/cve-2024-37054Proof-of-concept que envenena modelos registrados no MLflow através da API REST, incorporando um pickle malicioso para acionar RCE quando o modelo é…
clearlotus-git/cve-2024-37054-pocRepositório de prova de conceito e pesquisa para CVE-2024-37054, uma falha de desserialização insegura no carregamento de modelos MLflow PyFunc que…
safety-research/red-teaming-auto-modeCódigo de pesquisa para red-teaming de monitores de modo automático de IA, incluindo avaliações de simulação, fuzzing e implementações de monitores…
rin449/bhpaiPlataforma de análise de malware multi-formato que combina um sandbox Windows Ring-3 furtivo, analisadores estáticos de PE/PDF, recuperação de chaves…
devinblack001/ddos-reduction-systemGateway adaptativo de mitigação de DDoS na Camada 4 em dois estágios, utilizando análise comportamental de tráfego, classificação por Random Forest e…
openai/privacy-filterModelo bidirecional de classificação de tokens para detecção e mascaramento de PII em texto, com CLI para redação, avaliação e ajuste fino…
ml-security-research-lab/cachetrapCódigo de pesquisa para um ataque trojan de caixa cinzenta que inverte um único bit da KV-cache em classificadores LLM ajustados e mede a taxa de…
binzhwang/actguardDefesa de auditoria de ações pré-execução que detecta e mascara injeção indireta de prompt em agentes LLM que usam ferramentas, utilizando…
off-by-1-labs/flawedArtefatos semelhantes a correções com defeitos incorporados
c2a2-at-florida-atlantic-university/gr-physecMódulo GNU Radio para segurança de camada física usando impressão digital de canal por aprendizado profundo, quantização de características e geração…
xiaoyan-lisa/defenses-for-tool-integrated-llmPesquisa de código e experimentos para defender agentes LLM integrados a ferramentas contra ataques adversariais, ampliando o Agent Security Bench…
