#1Frameworks de ataque de ML adversario, técnicas de evasión y herramientas de evaluación de robustez de modelos.
Recomendado por Kitploit
mastyf-ai/mastyf.aiPlataforma de seguridad de IA de código abierto que proporciona defensa perimetral para LLMs y agentes de IA mediante análisis de enjambre,…
kevinchunye/prompt_injectionArnés de benchmark que mide dónde se activan las defensas contra la inyección de prompts en pipelines de agentes LLM que usan herramientas,…
shaheeryasirofficial/smugglemypayloadGenera páginas de contrabando HTML que incrustan y reconstruyen archivos en el lado del cliente mediante JavaScript, con codificación de payload,…
meta-llama/purplellamaConjunto de herramientas para evaluar y mejorar la seguridad de los LLM.
yzhao062/pyodUna librería de Python para la detección de anomalías en datos tabulares, series temporales, grafos, texto, imágenes y audio. Más de 60 detectores,…
phkhanhtrinh23/agasFramework de ataque de promoción grupal agéntico impulsado por LLM que manipula las clasificaciones de recomendadores de filtrado colaborativo de…
uiuc-kang-lab/persistbdResearch code for training adapters that make LLM agent backdoors survive benign fine-tuning, with trigger-rate scoring, SWE-bench evaluation, and…
owasp/aisvsThe AI Security Verification Standard (AISVS) se centra en proporcionar a desarrolladores, arquitectos y profesionales de seguridad una lista de…
trusted-ai/adversarial-robustness-toolboxBiblioteca de Python para la seguridad del aprendizaje automático adversarial, que permite a los equipos rojo y azul ejecutar ataques y defensas de…
ye-ze-yu/epireal-benchBenchmark de red-teaming y framework de ataque de caja negra para evaluar riesgos de desinformación visual en generadores de imágenes comerciales,…
moontea0416/webmirageAtaques de imágenes adversarias contra agentes web de visión-lenguaje, desde el anclaje visual hasta la ejecución en el navegador
deep-jlu/skillpoisonPipeline de investigación que construye experiencias exitosas verificadas y las organiza en registros de formación para envenenar progresivamente las…
jpoindexter/interrogation-gameJuego de interrogatorio detectivesco basado en voz. Mistral Large 3 + Voxtral STT + ElevenLabs TTS. Construido para el Mistral Worldwide Hackathon…
js-lee-ai/refusal-relocatesRefusal localizes, the damage relocates, safety layers under few-sample fine-tuning
abhinavdubey30/perturbed-embedding-vectorsCódigo, registros de respuesta y etiquetas para el artículo Jailbreaking Open-Weight LLMs via Random Embedding Perturbations
zju-llm-safety/ascentMarco de ajuste fino que aplica calibración de seguridad óptima de primer orden y recalibración periódica a los LLM, preservando actualizaciones…
praetorian-inc/augustusMarco de pruebas de seguridad para LLMs que detecta inyección de prompts, jailbreaks y ataques adversariales — más de 190 sondas, 28 proveedores, un…
jiep/offensive-ai-compilationUna lista seleccionada de recursos útiles que cubren IA Ofensiva.
