#1Frameworks de ataque ML adversário, técnicas de evasão e ferramentas de avaliação de robustez de modelo.
Recomendado pelo Kitploit
guardicore/monkeyInfection Monkey - Uma plataforma de emulação de adversários de código aberto
cleverhans-lab/cleverhansUma biblioteca de exemplos adversariais para construir ataques, desenvolver defesas e avaliar ambos.
13o-bbr-bbq/machine_learning_securityCódigo fonte sobre aprendizado de máquina e segurança.
funnywolf/viperPlataforma de simulação de adversários e Red teaming com IA
datadog/stratus-red-team:cloud: :zap: Emulação Granular e Acionável de Adversários para a Nuvem
jiep/offensive-ai-compilationUma lista selecionada de recursos úteis que cobrem IA Ofensiva.
aloshdenny/reverse-synthidengenharia reversa da detecção SynthID do Gemini
microsoft/responsible-ai-toolboxDashboards interativos e bibliotecas para depuração responsável de modelos de IA, abrangendo análise de erros, justiça, interpretabilidade,…
s3n4t0r-0x0/apts-adversary-simulationEste repositório contém campanhas APT detalhadas de simulação de adversários direcionadas a diversos setores críticos. Cada simulação inclui…
sensity-ai/dotKit de deepfake em tempo real para testes de penetração em sistemas de verificação de identidade e videoconferência. Suporta troca de rosto, animação…
trusted-ai/aif360Um conjunto abrangente de métricas de justiça para conjuntos de dados e modelos de aprendizado de máquina, explicações para essas métricas e…
microsoft/ai-red-teaming-playground-labsLaboratórios de playground para Red Teaming de IA, para realizar treinamentos de Red Teaming de IA, incluindo infraestrutura.
meridianlabs-ai/inspect_petriUm agente de auditoria de alinhamento capaz de explorar rapidamente hipóteses de alinhamento
govolution/avetFerramenta de Evasão de Antivírus
bethgelab/foolboxUma caixa de ferramentas Python para criar exemplos adversariais que enganam redes neurais em PyTorch, TensorFlow e JAX.
trusted-ai/aix360Interpretabilidade e explicabilidade de dados e modelos de aprendizado de máquina
nextronsystems/aptsimulatorUm conjunto de ferramentas para fazer um sistema parecer como se fosse vítima de um ataque APT
greshake/llm-securityDemos de prova de conceito e pesquisa sobre ataques de injeção indireta de prompt contra LLMs integrados em aplicações, abrangendo exfiltração de…
