#1Ferramentas de segurança baseadas em ML, aprendizado de máquina adversário e defesa cibernética com IA.
Recomendado pelo Kitploit
zju-llm-safety/traceFramework de jailbreak agêntico para agentes baseados em LLM, utilizando decomposição de tarefas baseada em esquemas, estratégias de disfarce em…
devinblack001/ddos-reduction-systemGateway adaptativo de mitigação de DDoS na Camada 4 em dois estágios, utilizando análise comportamental de tráfego, classificação por Random Forest e…
nvidia-nemo/guardrailsGuardrails programáveis para aplicativos de chat com LLM: impor limites de entrada/saída, bloquear jailbreaks e injeções de prompt, detectar…
cbuijs/sdproxyProxy DNS simples e rápido com funcionalidades não tão simples. Focado em encaminhamento DNS roteado, filtragem e controle parental.
ntop/ndpiOpen Source Deep Packet Inspection Software Toolkit
guillaumemeyer/watermarks-removerUm aplicativo com foco em privacidade que remove marcas d'água de IA de conteúdo que você possui.
thuyimingli/backdoor-learning-resourcesLista curada de artigos, surveys e toolboxes sobre backdoor learning, organizando ataques e defesas baseados em envenenamento em aprendizado profundo…
guzonghua/awesome-latency-attacksÍndice curado de ataques e defesas de latência, latência-energia e temporização (disponibilidade) em deep learning — complemento da submissão ao ACM…
giskard-ai/giskard-oss🐢 Biblioteca de código aberto para avaliação e teste de Agentes de LLM
facebookresearch/meta_secalignLLMs de pesos abertos e código de treinamento/avaliação para defesa contra ataques de injeção de prompt, com benchmarks para segurança de chamadas de…
graph-com/cka-agentImplementação de pesquisa de um agente de jailbreak de LLM que contorna as barreiras de proteção de modelos comerciais usando entrelaçamento de…
redhuntlabs/octopiiUm scanner de Informações Pessoais Identificáveis (PII) alimentado por IA.
telefonica/omlaspFramework para auditoria de algoritmos de machine learning contra ataques adversariais e vieses, fornecendo ferramentas educacionais e um artigo…
0xsojalsec/uncensored-aiRemoção de censura totalmente automática para modelos de linguagem
syscallx-18113/apkx-hunterEstrutura de análise estática para Android baseada em C para descompilação, detecção de segredos, descoberta de endpoints, análise de permissões e…
kevinchunye/prompt_injectionHarness de benchmark que mede onde as defesas contra injeção de prompt são acionadas em pipelines de agentes LLM que utilizam ferramentas, rastreando…
ye-ze-yu/epireal-benchBenchmark de red-teaming e framework de ataque black-box para avaliar riscos de desinformação visual em geradores de imagens comerciais, com 10 mil…
