#1Ferramentas de segurança baseadas em ML, aprendizado de máquina adversário e defesa cibernética com IA.
Recomendado pelo Kitploit
hannahxchen/llm-censorship-steeringCódigo para 'Steering the CensorShip: Uncovering Representation Vectors for LLM "Thought" Control'
mamadou-keita/deeclipImplementação do artigo "DeeCLIP: Um Framework Robusto e Generalizável Baseado em Transformer para Detectar Imagens Geradas por IA"
aniketkarne/aco-prompt-shieldPare os ataques de injeção de prompt antes que eles cheguem ao seu LLM — zero custos de API, roda inteiramente local, integra em 2 minutos. A…
jinxhy/awesome-moai-securityLista de leitura curada e taxonomia de pesquisas de ataque e defesa para sistemas de IA móveis no dispositivo, cobrindo ataques adversariais, de…
safety-research/red-teaming-auto-modeResearch code for red-teaming AI auto-mode monitors, including simulation evals, fuzzing, and monitor implementations for Claude Code and Codex…
deep-jlu/skillpoisonPipeline de pesquisa que constrói experiências bem-sucedidas verificadas e as organiza em registros de formação para envenenar progressivamente as…
wang-yanting/agentwatcherAtribuição causal de contexto e monitor baseado em regras para defesa de LLM contra injeção indireta de prompt em agentes LLM, alcançando desempenho…
mouna23/ai-driven-mitre-attackEste repositório demonstra um pipeline de aprendizado de máquina para detectar técnicas do MITRE ATT&CK a partir de logs e enriquecer a saída usando…
rin449/bhpaiPlataforma de análise de malware multi-formato que combina um sandbox Windows Ring-3 furtivo, analisadores estáticos de PE/PDF, recuperação de chaves…
abhinavdubey30/perturbed-embedding-vectorsCódigo, logs de resposta e rótulos para o artigo Jailbreaking Open-Weight LLMs via Random Embedding Perturbations
ye-ze-yu/epireal-benchBenchmark de red-teaming e framework de ataque black-box para avaliar riscos de desinformação visual em geradores de imagens comerciais, com 10 mil…
q-rz/saffronEscalonamento de inferência para garantia de segurança de LLMs
multimodal-ai-lab/tobacToken a Token, Comprometido: Vulnerabilidades de Backdoor em Modelos Autorregressivos Unificados (NeurIPS'26)
canonicalmg/reverse-captcha-evalEstrutura de avaliação que testa se modelos de linguagem de grande escala seguem instruções invisíveis codificadas em Unicode embutidas em texto de…
kevinchunye/prompt_injectionHarness de benchmark que mede onde as defesas contra injeção de prompt são acionadas em pipelines de agentes LLM que utilizam ferramentas, rastreando…
clearlotus-git/cve-2024-37054-pocRepositório de prova de conceito e pesquisa para CVE-2024-37054, uma falha de desserialização insegura no carregamento de modelos MLflow PyFunc que…
bardlaudian/cve-2024-37054Proof-of-concept que envenena modelos registrados no MLflow através da API REST, incorporando um pickle malicioso para acionar RCE quando o modelo é…
