#1Инструменты безопасности LLM, инъекции промптов, извлечения моделей, состязательного ИИ и ред-тиминга ИИ.
Рекомендация Kitploit

Двухступенчатый детектор промпт-инъекций и джейлбрейков: регулярные фильтры плюс квантованный ONNX-классификатор на базе DeBERTa-v3, с поддержкой…
Современный киберполигон с 50 практическими заданиями по направлениям безопасности: веб, API, облачные технологии, ИИ и blue-team. Включает…

Инструмент для брутфорса на базе продвинутых LLM, объединяющий возможности искусственного интеллекта с автоматизированными атаками на вход

обратная разработка обнаружения SynthID от Gemini

Агент на базе LLM, который автономно исправляет проблемы GitHub, находит уязвимости в кибербезопасности и решает задачи CTF, используя настраиваемые…

Профессиональный отчет об оценке уязвимостей для риска внедрения команд в LiteLLM, включающий краткое изложение для руководства, техническое…

Каркас для исследований выравнивания (в стиле автоисследований) для защиты LLM: поиск по одной поверхности policy.md

LLM-first фреймворк обмана: "Ловушка, которая отвечает!™"

Безопасность AI-агентов на базе LLM — обнаружение входящих инъекций + защита исходящей приватности

Тематическое исследование Gemini 2.5 Pro nf_tables Red Teaming (CVE-2023-32233) — согласование безопасности LLM и ответственное раскрытие

Память агентного ИИ с затуханием по кривой забывания Эббингауза. +16pp лучше запоминания, чем Mem0 на LoCoMo.

Автоматизированная агентская платформа для тестирования на проникновение на основе больших языковых моделей

Управляйте OpenClaw в вашей команде (Enterprise), предоставляя ему вычислительную инфраструктуру, интеграцию инструментов, аутентификацию и примитивы…

Red Team AI Benchmark: Оценка LLMs для авторизованных задач оборонительной безопасности. Red Team AI Benchmark — это CLI-бенчмарк для оценки моделей.…

Red Team AI Benchmark: оценка LLM для авторизованных задач наступательной безопасности

Исследовательская среда выполнения для дифференцируемых нейронных компьютеров, эмуляции CPU на GPU и синтеза программ. Включает нейронный ALU,…

Бенчмаркинг обнаружения prompt-инъекций для веб-агентов.

Страж безопасности vibe-coding. Агентный набор инструментов безопасности под лицензией Apache-2.0 для проектов с ИИ-ассистентом: 5 детерминированных…