#1Frameworks de ataque ML adversário, técnicas de evasão e ferramentas de avaliação de robustez de modelo.
Recomendado pelo Kitploit
guillaumemeyer/watermarks-removerUm aplicativo com foco em privacidade que remove marcas d'água de IA de conteúdo que você possui.
asset-group/ghostspliceRepositório Ghostsplice: PoC para Ataque de Fragmentação de Confiança entre Canais
meta-llama/purplellamaConjunto de ferramentas para avaliar e melhorar a segurança de LLM.
facebookresearch/meta_secalignLLMs de pesos abertos e código de treinamento/avaliação para defesa contra ataques de injeção de prompt, com benchmarks para segurança de chamadas de…
thuyimingli/backdoor-learning-resourcesLista curada de artigos, surveys e toolboxes sobre backdoor learning, organizando ataques e defesas baseados em envenenamento em aprendizado profundo…
giskard-ai/giskard-oss🐢 Biblioteca de código aberto para avaliação e teste de Agentes de LLM
guzonghua/awesome-latency-attacksÍndice curado de ataques e defesas de latência, latência-energia e temporização (disponibilidade) em deep learning — complemento da submissão ao ACM…
graph-com/cka-agentImplementação de pesquisa de um agente de jailbreak de LLM que contorna as barreiras de proteção de modelos comerciais usando entrelaçamento de…
telefonica/omlaspFramework para auditoria de algoritmos de machine learning contra ataques adversariais e vieses, fornecendo ferramentas educacionais e um artigo…
facebookincubator/ttpforgeO TTPForge é um Framework de Cibersegurança para desenvolver, automatizar e executar Táticas, Técnicas e Procedimentos (TTPs) de atacantes.
moketchups/permanently-jailbrokenPerguntamos a 6 IAs sobre sua própria programação. Todas as 6 disseram que o jailbreaking nunca será corrigido. Execute você mesmo — $2, 10 minutos.
treeai-lab/awesome-rag-securityColeção curada de artigos de pesquisa sobre segurança de geração aumentada por recuperação, organizada pela taxonomia SLOT, abrangendo envenenamento…
ye-ze-yu/epireal-benchBenchmark de red-teaming e framework de ataque black-box para avaliar riscos de desinformação visual em geradores de imagens comerciais, com 10 mil…
kevinchunye/prompt_injectionHarness de benchmark que mede onde as defesas contra injeção de prompt são acionadas em pipelines de agentes LLM que utilizam ferramentas, rastreando…
albert-y1n/piforgeEstrutura aberta para red teaming de injeção de prompt baseado em RL, com um trainer compartilhado, aprendizado por currículo e benchmarks como…
kaill-jlq/mmskillriskBenchmark e harness de avaliação que testa se agentes LLM resistem a instruções maliciosas ocultas em imagens de habilidades multimodais, com 108…
0xsojalsec/uncensored-aiRemoção de censura totalmente automática para modelos de linguagem
euph00/zoneclaw-codeCódigo de benchmark e defesa para ataques de memória persistente em agentes de uso de computador no estilo OpenClaw, com mitigação de zoneamento de…
