#1Ferramentas de segurança baseadas em ML, aprendizado de máquina adversário e defesa cibernética com IA.
Recomendado pelo Kitploit
phil-fan/fs-attackImplementação do artigo "Rethinking Latency Denial-of-Service: Attack the LLM Serving Framework, Not the Model"
multimodal-ai-lab/tobacToken a Token, Comprometido: Vulnerabilidades de Backdoor em Modelos Autorregressivos Unificados (NeurIPS'26)
moontea0416/webmirageAtaques de imagem adversariais em agentes web de visão-linguagem, do grounding visual à execução no navegador
stardust457/sldrEstrutura de defesa que mitiga o ajuste fino malicioso de LLMs usando recuperação seletiva de camadas e roteamento dinâmico, com scripts de…
danigil/neupermSanitização sem retreinamento que reordena unidades de redes neurais equivalentes por permutação para destruir malware incorporado por meio de…
graph-com/cka-agentImplementação de pesquisa de um agente de jailbreak de LLM que contorna as barreiras de proteção de modelos comerciais usando entrelaçamento de…
githubsecuritylab/seclab-taskflow-agentEstrutura multiagente com suporte a MCP para fluxos de trabalho agênticos declarativos orientados por YAML, usada para auditoria de código assistida…
uiuc-kang-lab/persistbdCódigo de pesquisa para treinar adaptadores que fazem backdoors de agentes LLM sobreviverem a fine-tuning benigno, com pontuação de taxa de disparo,…
deep-jlu/skillpoisonPipeline de pesquisa que constrói experiências bem-sucedidas verificadas e as organiza em registros de formação para envenenar progressivamente as…
zju-llm-safety/ascentEstrutura de ajuste fino que aplica calibração de segurança ótima de primeira ordem e recalibração periódica a LLMs, preservando atualizações…
tz98lab/dlr-ne-ics-securityCódigo de pesquisa que implementa o cálculo de Equilíbrio de Nash de Baixo Posto Dinâmico para jogos de segurança de ICS estocásticos entre ameaças…
abhinavdubey30/perturbed-embedding-vectorsCódigo, logs de resposta e rótulos para o artigo Jailbreaking Open-Weight LLMs via Random Embedding Perturbations
arxhr007/aliens_eyeAI powered OSINT engine to discover and map 840+ social media identities across the web
jisung-pacific/hdi-graphrag-attackImplementação de pesquisa do Hop-Decayed Influence (HDI) e da estrutura de ataque 3S, expondo vulnerabilidades estruturais de indexação auxiliar em…
lzwhehe/benign-instruction-benchRe-evaluating prompt-injection detectors on LLM agent tool outputs (paper draft, scripts, scores)
hoodoer/colonelclusteredUm plugin Burp em Java que realiza clustering de texto nas respostas para identificar outliers/grupos com base no conteúdo real das respostas do…
rbidou/pyraspRuntime Application Self Protection for Python web servers, serverless functions and MCP servers, detecting attacks, prompt injection and data leaks…
euph00/zoneclaw-codeCódigo de benchmark e defesa para ataques de memória persistente em agentes de uso de computador no estilo OpenClaw, com mitigação de zoneamento de…
