#1Herramientas de seguridad basadas en ML, aprendizaje automático adversario y defensa cibernética con IA.
Recomendado por Kitploit
zju-llm-safety/traceAgentic jailbreak framework for LLM-based agents using scheme-based task decomposition, multi-turn disguising strategies, and adaptive self-evolution…
devinblack001/ddos-reduction-systemAdaptive two-stage Layer 4 DDoS mitigation gateway using behavioral traffic analysis, Random Forest classification, and kernel-level ipset/iptables…
nvidia-nemo/guardrailsSalvaguardas programables para aplicaciones de chat con LLM: aplica reglas de entrada/salida, bloquea jailbreaks e inyecciones de prompt, detecta…
cbuijs/sdproxyProxy DNS simple y rápido con funciones no tan simples. Enfocado en reenvío DNS enrutado, filtrado y control parental.
guillaumemeyer/watermarks-removerUna aplicación que prioriza la privacidad y elimina las marcas de agua de IA del contenido que te pertenece.
ntop/ndpiKit de herramientas de software de inspección profunda de paquetes de código abierto
thuyimingli/backdoor-learning-resourcesLista curada de artículos, estudios y cajas de herramientas sobre aprendizaje con puertas traseras, que organiza ataques y defensas basados en…
facebookresearch/meta_secalignLLMs de pesos abiertos y código de entrenamiento/evaluación para defenderse contra ataques de inyección de prompts, con benchmarks para la seguridad…
guzonghua/awesome-latency-attacksÍndice curado de ataques y defensas de latencia, latencia-energía y temporización (disponibilidad) en aprendizaje profundo — complemento del envío a…
redhuntlabs/octopiiUn escáner de Información Personal Identificable (PII) impulsado por IA.
telefonica/omlaspMarco para auditar algoritmos de aprendizaje automático contra ataques adversarios y sesgos, proporcionando herramientas educativas y un artículo…
graph-com/cka-agentImplementación de investigación de un agente de jailbreak para LLM que elude las barreras de seguridad de modelos comerciales mediante el tejido de…
giskard-ai/giskard-oss🐢 Librería de código abierto para la evaluación y pruebas de agentes de LLM
joshuaprovoste/deserializerAnalizador de código estático basado en AST con mapeo de relaciones impulsado por LLM agéntico para descubrir rutas de RCE en Python y cadenas…
ye-ze-yu/epireal-benchBenchmark de red-teaming y framework de ataque de caja negra para evaluar riesgos de desinformación visual en generadores de imágenes comerciales,…
orensv/characterization-and-detection-of-cross-router-covert-channelsEste repositorio incluye el código fuente utilizado en el artículo "Characterization and Detection of Cross-Router Covert Channels".
kevinchunye/prompt_injectionArnés de benchmark que mide dónde se activan las defensas contra la inyección de prompts en pipelines de agentes LLM que usan herramientas,…
