benign-instruction-bench
lzwhehe/benign-instruction-benchReavaliando detectores de prompt-injection em saídas de ferramentas de agentes LLM (rascunho de artigo, scripts, pontuações)
defensive-toolsvulnerability-analysismachine-learning+3
lzwhehe/benign-instruction-benchReavaliando detectores de prompt-injection em saídas de ferramentas de agentes LLM (rascunho de artigo, scripts, pontuações)
hoodoer/colonelclusteredUm plugin Burp em Java que realiza clustering de texto nas respostas para identificar outliers/grupos com base no conteúdo real das respostas do…
rbidou/pyraspProteção de Runtime de Aplicações (RASP) para servidores web Python, funções serverless e servidores MCP, detetando ataques, injeção de prompt e…
euph00/zoneclaw-codeCódigo de benchmark e defesa para ataques de memória persistente em agentes de uso de computador no estilo OpenClaw, com mitigação de zoneamento de…
sliu11-byte/mea-benchUm benchmark de ciclo de vida para ataques de extração de LLM de caixa preta, defesas e ataques adaptativos.
js-lee-ai/refusal-relocatesRefusal localizes, the damage relocates, safety layers under few-sample fine-tuning
liuz233/hardeCódigo de pesquisa para HARDE, um harness de agente que sonda e otimiza adaptativamente componentes para detecção de risco em tempo de execução e…
kevinchunye/prompt_injectionHarness de benchmark que mede onde as defesas contra injeção de prompt são acionadas em pipelines de agentes LLM que utilizam ferramentas, rastreando…
joshuaprovoste/deserializerAnalisador de Código Estático baseado em AST com Mapeamento de Relacionamentos Potencializado por LLM Agêntico para descobrir caminhos de RCE em…
guzonghua/awesome-latency-attacksÍndice curado de ataques e defesas de latência, latência-energia e temporização (disponibilidade) em deep learning — complemento da submissão ao ACM…
facebookresearch/meta_secalignLLMs de pesos abertos e código de treinamento/avaliação para defesa contra ataques de injeção de prompt, com benchmarks para segurança de chamadas de…
kaill-jlq/mmskillriskBenchmark e harness de avaliação que testa se agentes LLM resistem a instruções maliciosas ocultas em imagens de habilidades multimodais, com 108…
zju-llm-safety/traceAgentic jailbreak framework for LLM-based agents using scheme-based task decomposition, multi-turn disguising strategies, and adaptive self-evolution…
zju-llm-safety/darwinEstrutura evolutiva de jailbreak e guardrail para LLMs que expande um pool reutilizável de estratégias por meio de mutação genética, seleção de…
albert-y1n/piforgeEstrutura aberta para red teaming de injeção de prompt baseado em RL, com um trainer compartilhado, aprendizado por currículo e benchmarks como…
123wwwa/flownameRecuperação de identificadores JavaScript de próxima geração com LLMs.
wsu-cyber-security-lab-ai/clipguardFerramenta de perturbação adversarial de imagens que utiliza segmentação SAM e modelos CLIP para evadir classificadores de imagens de golpes baseados…
azzzzliao/aegis-audio-defenseDefense framework that keeps audio-language models frozen and adds a mid-layer risk gate with late-layer safety adapters to block audio jailbreaks at…