#1Ferramentas de segurança baseadas em ML, aprendizado de máquina adversário e defesa cibernética com IA.
Recomendado pelo Kitploit
ghostwolflab/ai_security_topUma base de conhecimento estruturada que cobre fundamentos de segurança de IA, modelagem de ameaças, técnicas ofensivas de red team e defesas de blue…
davidc1212/crawFramework robusto de marca d'água em áudio que incorpora mensagens binárias em espectrogramas de magnitude, com simulação diferenciável de ataques,…
atsukisato/pgm-attackCódigo de pesquisa para ataques de envenenamento no PGM-index, demonstrando como criar dados adversariais para degradar o desempenho de índices…
mlily2024/final-project-sql-injection-pipelinePipelines híbridos de machine-learning para deteção de injeção SQL em tráfego web, combinando modelos DistilBERT e BERT-GNN com treino adversarial e…
pwnhyo/t-mapFramework de busca evolucionária ciente de trajetórias para red-teaming de agentes de LLM sobre servidores MCP, gerando prompts adversariais para…
qkrrkd90-source/weavemarkImplementação de referência de um esquema de marca d'água LLM multibit usando espalhamento de payload codificado, reweighting imparcial e…
cucu220123/safety-awarenessCódigo de pesquisa para extrair e treinar direções de consciência de segurança em LLMs multimodais, a fim de melhorar o comportamento de recusa…
chanwoochoi316/kidnapragFramework de ataque black-box que sequestra o raciocínio em sistemas de geração aumentada por recuperação agênticos, injetando documentos…
shuangliangx/learning-to-detectDetects unknown jailbreak attacks in large vision-language models using hidden state analysis and autoencoders, with training and evaluation…
binzhwang/tnc-defenseCódigo de pesquisa para detectar e desintoxicar backdoors em modelos de difusão de texto para imagem, com pipelines para Stable Diffusion v1.4, v1.5,…
jianshuod/ipi-exposure-signalPipeline de pesquisa para detecção de sinais latentes de exposição à injeção indireta de prompts em LLMs agentivos por meio de sondagem de estados…
pppyb/secopdImplementação de pesquisa para mitigação de injeções adaptativas de prompt via destilação on-policy, com receitas de treinamento e avaliadores para…
kreotic/sentrygridPlataforma de detecção de ameaças orientada por ML e monitoramento contínuo, construída para arquiteturas federais de zero trust.
trailofbits/ficklingUm decompilador de pickling Python e analisador estático
tracebyte8/systraceLinux system-call monitor using ptrace to trace file, process, network, and memory activity, with namespace isolation and machine learning…
gpt-laboratory/trustworthyragUm Agente de Avaliação para Detectar Desinformação e Envenenamento de Conhecimento em Sistemas de Geração Aumentada por Recuperação.
mindcrypt/covertchannels-steganographyUma lista de canais encobertos e recursos de esteganografia/estegananálise (livros, artigos e ferramentas)
trusted-ai/adversarial-robustness-toolboxBiblioteca Python para segurança de aprendizado de máquina adversarial, permitindo que equipes de red e blue team executem ataques e defesas de…
