#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit
tuskira/ai-agent-gatewayОткрытый шлюз, который обеспечивает безопасность, управление и мониторинг вызовов инструментов MCP и трафика LLM AI-агентов, с аутентификацией по…
owasp/owasp-top-10-neocloud-and-ai-data-center-security-risksКаталог фреймворка OWASP, в котором перечислены 10 главных рисков безопасности в инфраструктуре неоклаудов и дата-центров ИИ, охватывающий аппаратное…
pdb333/cortexНабор инструментов для анализа среды выполнения Windows, объединяющий сканирование памяти, отладку, автоматизацию и API, удобные для ИИ.
liuz233/hardeИсследовательский код для HARDE — обвязки агента, которая исследует и адаптивно оптимизирует компоненты для обнаружения рисков во время выполнения и…
suhanmen/sewВстраивает и обнаруживает ключевые, основанные на стиле водяные знаки в сгенерированном LLM коде на Python, Java и C++ посредством перезаписи CST,…
kevinchunye/prompt_injectionСтенд для бенчмаркинга, измеряющий, на каком этапе срабатывают защиты от prompt injection в конвейерах LLM-агентов, использующих инструменты,…
linuztx/alter-zeroЭффективная по потреблению ОЗУ терминальная агентная среда для программирования, кибербезопасности и автоматизации.
yym8538/cve-2026-33017Эксплойт proof-of-concept для CVE-2026-33017 — неаутентифицированная RCE в эндпоинте build_public_tmp Langflow, внедряющая вредоносный…
vighnesh91/securiscanДвижок безопасности на стандартной библиотеке Python для триажа, сканирующий веб-приложения, API, LLM и мобильные пакеты посредством пассивной…
joshuaprovoste/deserializerСтатический анализатор кода на основе AST с агентным сопоставлением связей на базе LLM для обнаружения путей RCE в Python и глубоких цепочек…
akatorich/kernelflirtОтладчик уровня ядра Windows с интерфейсом в стиле OllyDbg/IDA, программными и аппаратными точками останова, символами PDB, декомпилятором и 17…
guzonghua/awesome-latency-attacksКурируемый индекс атак и защит на основе глубокого обучения, направленных на задержку, энергопотребление-задержку и тайминги (доступность) —…
facebookresearch/meta_secalignОткрытые LLM и код для обучения/оценки защиты от атак prompt injection, с бенчмарками для безопасности агентного вызова инструментов и следования…
laplace1002/tamarinagentUI с участием человека в цикле, который преобразует описания протоколов на естественном языке или C/C++ в проверяемый Protocol IR, а затем генерирует…
kaill-jlq/mmskillriskСтенд для бенчмаркинга и оценки, проверяющий, сопротивляются ли LLM-агенты вредоносным инструкциям, скрытым в мультимодальных изображениях навыков,…
zju-llm-safety/traceФреймворк агентного джейлбрейка для агентов на основе LLM, использующий декомпозицию задач на основе схем, многоходовые стратегии маскировки и…
zju-llm-safety/darwinЭволюционная платформа для обхода защиты LLM и тестирования guardrail-механизмов, которая формирует переиспользуемый пул стратегий с помощью…
albert-y1n/piforgeОткрытый фреймворк для red teaming промпт-инъекций на основе RL, с общим тренером, curriculum learning и бенчмарками, такими как AgentDojo,…
