#1Frameworks de ataque ML adversário, técnicas de evasão e ferramentas de avaliação de robustez de modelo.
Recomendado pelo Kitploit
meridianlabs-ai/inspect_petriUm agente de auditoria de alinhamento capaz de explorar rapidamente hipóteses de alinhamento
mastyf-ai/mastyf.aiPlataforma de segurança de IA de código aberto que fornece defesa perimetral para LLMs e agentes de IA por meio de análise de enxame, imposição de…
kevinchunye/prompt_injectionHarness de benchmark que mede onde as defesas contra injeção de prompt são acionadas em pipelines de agentes LLM que utilizam ferramentas, rastreando…
shaheeryasirofficial/smugglemypayloadGera páginas de contrabando de HTML que incorporam e reconstroem arquivos no lado do cliente via JavaScript, com codificação de payload,…
meta-llama/purplellamaConjunto de ferramentas para avaliar e melhorar a segurança de LLM.
yzhao062/pyodUma biblioteca Python para detecção de anomalias em dados tabulares, séries temporais, grafos, texto, imagem e áudio. Mais de 60 detectores,…
phkhanhtrinh23/agasEstrutura de ataque de shilling em grupo agêntico orientado por LLM que manipula rankings de recomendadores de filtragem colaborativa de caixa-preta…
uiuc-kang-lab/persistbdResearch code for training adapters that make LLM agent backdoors survive benign fine-tuning, with trigger-rate scoring, SWE-bench evaluation, and…
trusted-ai/adversarial-robustness-toolboxBiblioteca Python para segurança de aprendizado de máquina adversarial, permitindo que equipes de red e blue team executem ataques e defesas de…
ye-ze-yu/epireal-benchBenchmark de red-teaming e framework de ataque black-box para avaliar riscos de desinformação visual em geradores de imagens comerciais, com 10 mil…
moontea0416/webmirageAtaques de imagem adversariais em agentes web de visão-linguagem, do grounding visual à execução no navegador
deep-jlu/skillpoisonPipeline de pesquisa que constrói experiências bem-sucedidas verificadas e as organiza em registros de formação para envenenar progressivamente as…
jpoindexter/interrogation-gameJogo de interrogatório detetivesco baseado em voz. Mistral Large 3 + Voxtral STT + ElevenLabs TTS. Criado para o Mistral Worldwide Hackathon 2026.
js-lee-ai/refusal-relocatesRefusal localizes, the damage relocates, safety layers under few-sample fine-tuning
abhinavdubey30/perturbed-embedding-vectorsCódigo, logs de resposta e rótulos para o artigo Jailbreaking Open-Weight LLMs via Random Embedding Perturbations
zju-llm-safety/ascentEstrutura de ajuste fino que aplica calibração de segurança ótima de primeira ordem e recalibração periódica a LLMs, preservando atualizações…
praetorian-inc/augustusFerramenta de teste de segurança para LLMs para detectar injeção de prompt, jailbreaks e ataques adversários — 190+ sondas, 28 provedores, binário…
jiep/offensive-ai-compilationUma lista selecionada de recursos úteis que cobrem IA Ofensiva.
