#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit
gmh5225/llm-attack-promptДжейлбрейки, утечки промптов, промпт-инъекции, атаки на LLM. Коллекция промптов для атак на большие языковые модели
protectai/rebuffМногоуровневый детектор инъекций в промпты (prompt injection) для AI-приложений, использующий эвристики, анализ на основе LLM, сигнатуры атак на…
protectai/llm-guardИнструментарий безопасности для взаимодействия с LLM
es3n1n/no-defenderНемного более увлекательный способ отключить windows defender + firewall. (через WSC api)
azure/pyritPython Risk Identification Tool for generative AI (PyRIT) — это фреймворк с открытым исходным кодом, созданный для того, чтобы помочь специалистам по…
yosangwon/arp-dns-spoofПример кода для DNS-спуфинга с ARP-отравлением.
