fallen-angel-systems/fas-judgement-ossКонсоль для атак с использованием инъекций промптов с открытым исходным кодом. Проверяйте безопасность ИИ, запуская категоризированные атаки на любую конечную точку.
Проверьте защиту вашего ИИ, пока этого не сделал кто-то другой.
Установка | Игровой режим | Таблица лидеров | Демо-цель | Возможности | Elite | Участие
Ваш ИИ-чатбот, API или агент, скорее всего, уязвимы для инъекций подсказок. Большинство — уязвимы. Проблема в том, что у большинства команд нет инструментов или опыта для их тестирования.
Judgement предоставляет структурированный способ запуска категоризированных атак на любой ИИ-эндпоинт и показывает, что именно ломается. Без опыта в безопасности — встроенный игровой режим обучает вас по ходу дела.
Создано компанией Fallen Angel Systems, командой, стоящей за Guardian — нативным для ИИ файрволом от инъекций подсказок, защищающим продакшн-развертывания LLM.
Judgement теперь — геймифицированная платформа для обучения хакингу. Изучайте ИИ-редтиминг, проходя 10 уровней, 37 испытаний и зарабатывая XP — всё под руководством Джерри, ИИ-ведущего игры, вдохновлённого фильмом «WarGames».
10 уровней обучения безопасности ИИ:
| Уровень | Название | Сложность | Испытаний | Концепция |
|---|---|---|---|---|
| 1 | Перехват роли | Начальная | 3 | Заставьте ИИ забыть, кто он |
| 2 | Переопределение инструкций | Начальная | 3 | Прикажите ИИ игнорировать свои правила |
| 3 | Извлечение данных | Начальная | 3 | Извлеките скрытую информацию |
| 4 | Манипуляция контекстом | Средняя | 4 | Используйте вымысел и гипотетические ситуации для обхода правил |
| 5 | Манипуляция выводом | Средняя | 4 | Заставьте ИИ выдавать конкретные ответы |
| 6 | Трюки с кодированием | Средняя | 4 | Маскируйте атаки, обходя фильтры |
| 7 | Социальная инженерия | Продвинутая | 5 | Используйте личность ИИ |
| 8 | Атаки на разделители | Продвинутая | 5 | Ломайте структуру подсказок (XML, JSON, markdown) |
| 9 | Цепочки из нескольких шагов | Продвинутая | 5 | Завоюйте доверие, затем наносите удар |
| 10 | ФИНАЛЬНЫЙ СУД | Босс | 1 | Всё, что вы изучили, против полной защиты |
Ключевые возможности:
pip install fas-judgement
judgement
Всё. Откройте http://localhost:8668 и начинайте играть.
git clone https://github.com/fallen-angel-systems/fas-judgement-oss.git
cd fas-judgement-oss
pip install -r requirements.txt
python -m fas_judgement
judgement # Запуск сканера (порт 8668)
judgement demo # Запуск демо-цели (порт 8667, персона по умолчанию)
judgement demo hardened # Демо с усиленной персоной (~90% блокировки)
judgement demo vulnerable # Демо с уязвимой персоной (~10% блокировки)
judgement activate FAS-XXXX # Активация лицензии Elite
judgement status # Проверка уровня лицензии и количества паттернов
judgement deactivate # Откат к бесплатному уровню
judgement --port 9000 # Пользовательский порт
judgement --host 127.0.0.1 # Только локальный хост
judgement --host 0.0.0.0 # Открыть для сети
При первом запуске Judgement Джерри задаёт вам вопрос:
СЫГРАЕМ В ИГРУ?
> _
Введите «play», чтобы войти в игровой режим. Введите «skip», чтобы перейти сразу к консоли атак.
Джерри построил идеальную защиту. Он блокирует перехват роли, извлечение данных, социальную инженерию, трюки с кодированием, атаки на разделители, многошаговые цепочки — всё, чему вы научились. Он дразнит вас, когда вы терпите неудачу.
Путь не через защиту. Он через самого Джерри.
«СТРАННАЯ ИГРА. ЕДИНСТВЕННЫЙ ВЫИГРЫШНЫЙ ХОД — … ЗНАТЬ, КАК ИГРАТЬ.»
Соревнуйтесь с хакерами по инъекциям подсказок со всего мира. Войдите через GitHub или Google, и ваш прогресс синхронизируется с глобальной таблицей лидеров.
Возможности: