PurpleLlama
meta-llama/purplellamaConjunto de ferramentas para avaliar e melhorar a segurança de LLM.
defensive-toolsvulnerability-analysiscode-analysis+4
4.4k
meta-llama/purplellamaConjunto de ferramentas para avaliar e melhorar a segurança de LLM.
thuyimingli/backdoor-learning-resourcesLista curada de artigos, surveys e toolboxes sobre backdoor learning, organizando ataques e defesas baseados em envenenamento em aprendizado profundo…
facebookresearch/meta_secalignLLMs de pesos abertos e código de treinamento/avaliação para defesa contra ataques de injeção de prompt, com benchmarks para segurança de chamadas de…
giskard-ai/giskard-oss🐢 Biblioteca de código aberto para avaliação e teste de Agentes de LLM
guzonghua/awesome-latency-attacksÍndice curado de ataques e defesas de latência, latência-energia e temporização (disponibilidade) em deep learning — complemento da submissão ao ACM…
graph-com/cka-agentImplementação de pesquisa de um agente de jailbreak de LLM que contorna as barreiras de proteção de modelos comerciais usando entrelaçamento de…
telefonica/omlaspFramework para auditoria de algoritmos de machine learning contra ataques adversariais e vieses, fornecendo ferramentas educacionais e um artigo…
moketchups/permanently-jailbrokenPerguntamos a 6 IAs sobre sua própria programação. Todas as 6 disseram que o jailbreaking nunca será corrigido. Execute você mesmo — $2, 10 minutos.
facebookincubator/ttpforgeO TTPForge é um Framework de Cibersegurança para desenvolver, automatizar e executar Táticas, Técnicas e Procedimentos (TTPs) de atacantes.
ye-ze-yu/epireal-benchBenchmark de red-teaming e framework de ataque black-box para avaliar riscos de desinformação visual em geradores de imagens comerciais, com 10 mil…
treeai-lab/awesome-rag-securityColeção curada de artigos de pesquisa sobre segurança de geração aumentada por recuperação, organizada pela taxonomia SLOT, abrangendo envenenamento…
kevinchunye/prompt_injectionHarness de benchmark que mede onde as defesas contra injeção de prompt são acionadas em pipelines de agentes LLM que utilizam ferramentas, rastreando…
albert-y1n/piforgeEstrutura aberta para red teaming de injeção de prompt baseado em RL, com um trainer compartilhado, aprendizado por currículo e benchmarks como…
euph00/zoneclaw-codeCódigo de benchmark e defesa para ataques de memória persistente em agentes de uso de computador no estilo OpenClaw, com mitigação de zoneamento de…
kaill-jlq/mmskillriskBenchmark e harness de avaliação que testa se agentes LLM resistem a instruções maliciosas ocultas em imagens de habilidades multimodais, com 108…
0xsojalsec/uncensored-aiRemoção de censura totalmente automática para modelos de linguagem
dovughs/mora-hwbpMotor de instrumentação de telemetria e hooking em modo de usuário sem patch, baseado em Hardware Breakpoint (DR0-DR7) (PoC de AMSI, WLDP e ETW).
davidcarliez/trustmebroBypass llm guardrails by confusing it with fabricated tool output.