TRACE
zju-llm-safety/traceAgentic jailbreak framework for LLM-based agents using scheme-based task decomposition, multi-turn disguising strategies, and adaptive self-evolution…
exploitationscripting-automationpenetration-testing+5
39
zju-llm-safety/traceAgentic jailbreak framework for LLM-based agents using scheme-based task decomposition, multi-turn disguising strategies, and adaptive self-evolution…
devinblack001/ddos-reduction-systemAdaptive two-stage Layer 4 DDoS mitigation gateway using behavioral traffic analysis, Random Forest classification, and kernel-level ipset/iptables…
nvidia-nemo/guardrailsGuardrails programáveis para aplicativos de chat com LLM: impor limites de entrada/saída, bloquear jailbreaks e injeções de prompt, detectar…
cbuijs/sdproxyProxy DNS simples e rápido com funcionalidades não tão simples. Focado em encaminhamento DNS roteado, filtragem e controle parental.
guillaumemeyer/watermarks-removerUm aplicativo com foco em privacidade que remove marcas d'água de IA de conteúdo que você possui.
ntop/ndpiKit de Software de Inspeção Profunda de Pacotes Open Source
thuyimingli/backdoor-learning-resourcesLista curada de artigos, surveys e toolboxes sobre backdoor learning, organizando ataques e defesas baseados em envenenamento em aprendizado profundo…
facebookresearch/meta_secalignLLMs de pesos abertos e código de treinamento/avaliação para defesa contra ataques de injeção de prompt, com benchmarks para segurança de chamadas de…
guzonghua/awesome-latency-attacksÍndice curado de ataques e defesas de latência, latência-energia e temporização (disponibilidade) em deep learning — complemento da submissão ao ACM…
redhuntlabs/octopiiUm scanner de Informações Pessoais Identificáveis (PII) alimentado por IA.
telefonica/omlaspFramework para auditoria de algoritmos de machine learning contra ataques adversariais e vieses, fornecendo ferramentas educacionais e um artigo…
graph-com/cka-agentImplementação de pesquisa de um agente de jailbreak de LLM que contorna as barreiras de proteção de modelos comerciais usando entrelaçamento de…
giskard-ai/giskard-oss🐢 Biblioteca de código aberto para avaliação e teste de Agentes de LLM
joshuaprovoste/deserializerAnalisador de Código Estático baseado em AST com Mapeamento de Relacionamentos Potencializado por LLM Agêntico para descobrir caminhos de RCE em…
ye-ze-yu/epireal-benchBenchmark de red-teaming e framework de ataque black-box para avaliar riscos de desinformação visual em geradores de imagens comerciais, com 10 mil…
orensv/characterization-and-detection-of-cross-router-covert-channelsEste repositório inclui o código-fonte usado no artigo "Characterization and Detection of Cross-Router Covert Channels".
kevinchunye/prompt_injectionHarness de benchmark que mede onde as defesas contra injeção de prompt são acionadas em pipelines de agentes LLM que utilizam ferramentas, rastreando…