
giskard-oss
🐢 Biblioteca de código aberto para avaliação e teste de Agentes de LLM

🐢 Biblioteca de código aberto para avaliação e teste de Agentes de LLM

Framework de código aberto para red teaming de sistemas de IA generativa: automatize prompts de ataque, avalie as respostas do modelo e audite o…

Security scanner for AI/ML model files. Detects malicious code, backdoors, and vulnerabilities before deployment

Uma coleção de recursos incríveis relacionados à segurança de IA

Um repositório para jailbreak de vários LLMs, principalmente o Claude.

Teste seus prompts, agentes e RAGs. Red teaming/pentesting/varredura de vulnerabilidades para IA. Compare o desempenho de GPT, Claude, Gemini,…

Remoção de censura totalmente automática para modelos de linguagem

A curated list of AI Security materials and resources for Pentesters, Bug Hunters, and Security Researchers.

Um aplicativo com foco em privacidade que remove marcas d'água de IA de conteúdo que você possui.

Modular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…

Clusters and elements to attach to MISP events or attributes (like threat actors)

:cloud: :zap: Emulação Granular e Acionável de Adversários para a Nuvem

Um agente de auditoria de alinhamento capaz de explorar rapidamente hipóteses de alinhamento

Framework de Emulação de Adversários

The exploit server for out-of-band findings. Point a target at a domain you own. Every HTTP request and every email it sends back lands in a…

Plataforma de segurança de IA de código aberto que fornece defesa perimetral para LLMs e agentes de IA por meio de análise de enxame, imposição de…

Harness de benchmark que mede onde as defesas contra injeção de prompt são acionadas em pipelines de agentes LLM que utilizam ferramentas, rastreando…

Gera páginas de contrabando de HTML que incorporam e reconstroem arquivos no lado do cliente via JavaScript, com codificação de payload,…