#1Frameworks de ataque ML adversário, técnicas de evasão e ferramentas de avaliação de robustez de modelo.
Recomendado pelo Kitploit
zdcslab/rubrics-as-an-attack-surfaceCódigo de pesquisa para Rubric-Induced Preference Drift (RIPD): busca evolutiva de rubricas, seleção com preservação de benchmark e avaliação de…
siyuanli00/intactCódigo de pesquisa que reproduz experimentos de jailbreak em LLMs com múltiplos turnos (FITD, MRCJ, ActorAttack, X-Teaming) do artigo de…
yeasen-z/leakgaugeDetecta ataques de vazamento de contexto em LLMs ao treinar sondas de comportamento leves em log-probabilities, com pipelines de detecção…
lassnajmuldeen/balcony-jailbreakingVulnerabilidade de jailbreak em LLMs com profundidades de saída antecipada. Publicado na NeurIPS 2026 no workshop FLMSec
gmh5225/bedaisy-bypassHook em modo kernel que intercepta, descriptografa e anula o tráfego de relatórios entre BEDaisy e o serviço para suprimir a detecção de anti-cheat…
phkhanhtrinh23/agasEstrutura de ataque de shilling em grupo agêntico orientado por LLM que manipula rankings de recomendadores de filtragem colaborativa de caixa-preta…
seeyn/anti-tamper-perturbation[ICCV 2025] Proteção Anti-Adulteração para Geração Não Autorizada de Imagens Individuais
sec5gloc/sec5glocArquitetura de aprendizado profundo resiliente a adversários para localização indoor segura em 5G, combinando CNN e atenção multi-cabeça para…
zhou-cybersecurity-ai/synghostSyntactic Ghost: Ataques de backdoor generalizados e imperceptíveis em Modelos de Linguagem Pré-treinados
loophole-llc/fish-live-in-treesGemini - Injeção de Contexto de Alinhamento em Tempo de Execução de LLM em Produção
sbamit/exponentiated-gradient-descent-llm-attackUm novo ataque adversarial em LLM baseado na técnica de Exponentiated Gradient Descent.
hanxi19/black_hole_attack_for_vector_databaseImplementação de pesquisa do Ataque Black-Hole que envenena índices de bancos de dados vetoriais por meio de hubness orientada por centralidade, com…
jisung-pacific/hdi-graphrag-attackImplementação de pesquisa do Hop-Decayed Influence (HDI) e da estrutura de ataque 3S, expondo vulnerabilidades estruturais de indexação auxiliar em…
js-lee-ai/refusal-relocatesSegurança de LLMs: analise como o fine-tuning altera o comportamento de recusa e avalie defesas de congelamento de camadas e de baixo rank.
uiuc-kang-lab/persistbdCódigo de pesquisa para treinar adaptadores que fazem backdoors de agentes LLM sobreviverem a fine-tuning benigno, com pontuação de taxa de disparo,…
hondamunigeprasannasilva/attack-attention[CVPR 2025-ADVML] Repositório Oficial para `Attacking Attention of Foundation Models Effectively Disrupts Downstream Tasks`
usama1002/deleting-the-traceExperimentos para supressão de cadeia de pensamento com tokens de controle e ataques de leniência de parser em agentes LLM que utilizam ferramentas
lsudoko/antibodyLoop DevSecOps do GitLab Duo no qual uma segunda IA reataca cada correção escrita por IA, salvando cada bypass bem-sucedido como um anticorpo…
