#1Ferramentas de segurança baseadas em ML, aprendizado de máquina adversário e defesa cibernética com IA.
Recomendado pelo Kitploit
euph00/zoneclaw-codeCódigo de benchmark e defesa para ataques de memória persistente em agentes de uso de computador no estilo OpenClaw, com mitigação de zoneamento de…
sliu11-byte/mea-benchUm benchmark de ciclo de vida para ataques de extração de LLM de caixa preta, defesas e ataques adaptativos.
js-lee-ai/refusal-relocatesSegurança de LLMs: analise como o fine-tuning altera o comportamento de recusa e avalie defesas de congelamento de camadas e de baixo rank.
liuz233/hardeCódigo de pesquisa para HARDE, um harness de agente que sonda e otimiza adaptativamente componentes para detecção de risco em tempo de execução e…
kevinchunye/prompt_injectionHarness de benchmark que mede onde as defesas contra injeção de prompt são acionadas em pipelines de agentes LLM que utilizam ferramentas, rastreando…
joshuaprovoste/deserializerAnalisador de Código Estático baseado em AST com Mapeamento de Relacionamentos Potencializado por LLM Agêntico para descobrir caminhos de RCE em…
guzonghua/awesome-latency-attacksÍndice curado de ataques e defesas de latência, latência-energia e temporização (disponibilidade) em deep learning — complemento da submissão ao ACM…
facebookresearch/meta_secalignLLMs de pesos abertos e código de treinamento/avaliação para defesa contra ataques de injeção de prompt, com benchmarks para segurança de chamadas de…
kaill-jlq/mmskillriskBenchmark e harness de avaliação que testa se agentes LLM resistem a instruções maliciosas ocultas em imagens de habilidades multimodais, com 108…
zju-llm-safety/traceFramework de jailbreak agêntico para agentes baseados em LLM, utilizando decomposição de tarefas baseada em esquemas, estratégias de disfarce em…
zju-llm-safety/darwinEstrutura evolutiva de jailbreak e guardrail para LLMs que expande um pool reutilizável de estratégias por meio de mutação genética, seleção de…
albert-y1n/piforgeEstrutura aberta para red teaming de injeção de prompt baseado em RL, com um trainer compartilhado, aprendizado por currículo e benchmarks como…
123wwwa/flownameRecuperação de identificadores JavaScript de próxima geração com LLMs.
wsu-cyber-security-lab-ai/clipguardFerramenta de perturbação adversarial de imagens que utiliza segmentação SAM e modelos CLIP para evadir classificadores de imagens de golpes baseados…
sisl-uri/t-backdoorCódigo de pesquisa que implementa o T-Backdoor, ataques de backdoor com gatilho temporal em redes neurais spiking usando gatilhos de taxa, latência e…
azzzzliao/aegis-audio-defenseEstrutura de defesa que mantém os modelos de áudio-linguagem congelados e adiciona um portão de risco em camada intermediária com adaptadores de…
sumleo/rlcdalignbenchConjunto de benchmarks e código para detectar falhas de alinhamento de IA, com 44 benchmarks abrangendo dez tipos de falha e um detector RLCD…
atomdrift-project/scan0-day malware detection for binaries, source & scripts (that doesn't suck)
