#1Фреймворки состязательных атак на МО, техники обхода и инструменты оценки устойчивости моделей.
Рекомендация Kitploit
dovughs/mora-hwbpДвижок перехвата в пользовательском режиме и инструментирования телеметрии на основе аппаратных точек останова (DR0-DR7) без модификации кода (AMSI,…
albert-y1n/piforgeОткрытый фреймворк для red teaming промпт-инъекций на основе RL, с общим тренером, curriculum learning и бенчмарками, такими как AgentDojo,…
kaill-jlq/mmskillriskСтенд для бенчмаркинга и оценки, проверяющий, сопротивляются ли LLM-агенты вредоносным инструкциям, скрытым в мультимодальных изображениях навыков,…
euph00/zoneclaw-codeБенчмарк и код защиты от атак на постоянную память для компьютерных агентов в стиле OpenClaw, с митигацией зонирования памяти, сценариями атак и…
gmh5225/awesome-ai-securityA curated list of AI Security materials and resources for Pentesters, Bug Hunters, and Security Researchers.
davidcarliez/trustmebroОбход ограничений LLM путём запутывания его сфабрикованным выводом инструментов.
secdev02/easytokensKali365 - EvilTokens Replica
ghostwolflab/ai_security_topСтруктурированная база знаний, охватывающая основы безопасности ИИ, моделирование угроз, наступательные методы красной команды и защитные меры синей…
goochbeater/spiritual-spell-red-teamingРепозиторий для джейлбрейка различных LLM, в основном Claude
nextronsystems/aptsimulatorНабор инструментов, чтобы заставить систему выглядеть так, как будто она стала жертвой APT-атаки
matheusht/redthreadАвтономный движок для red-teaming LLM. RedThread управляет полным жизненным циклом безопасности: генерация adversarial-атак, проведение точных оценок…
moontea0416/webmirageСостязательные атаки с использованием изображений на визуально-языковых веб-агентов: от визуальной привязки до выполнения в браузере
sliu11-byte/mea-benchБенчмарк жизненного цикла для атак извлечения чёрного ящика LLM, защит и адаптивных атак.
greshake/llm-securityДемонстрации концепций и исследования атак косвенной инъекции промптов на интегрированные в приложения LLM, охватывающие эксфильтрацию данных,…
phkhanhtrinh23/agasФреймворк для атаки с использованием группового накручивания репутации на основе LLM-агентов, который манипулирует ранжированием рекомендательных…
zju-llm-safety/ascentФреймворк тонкой настройки, который применяет первопорядковую оптимальную калибровку безопасности и периодическую перекалибровку к LLM, сохраняя…
pppyb/secopdИсследовательская реализация для смягчения адаптивных инъекций промптов с помощью on-policy дистилляции, включающая рецепты обучения и средства…
qybaihe/blaУкрепляет бинарные файлы, Electron ASAR, JS, WASM, Python и файлы моделей против агентов ИИ-реверс-инжиниринга с помощью приманок в метаданных,…
