Исследование безопасности AI-агентов

Открытые исследования безопасности инфраструктуры AI-агентов для написания кода.

Опубликовано Hodge Luke Digital Intelligence Agency

---

Что это такое

Этот репозиторий содержит исследования безопасности, анализ уязвимостей и рекомендации по устранению для платформ AI-агентов для написания кода. Каждый бюллетень включает манифест устранения, исполняемый агентом — структурированный документ, который ваш AI-агент может прочитать и выполнить напрямую.

Концепция: Бюллетени безопасности, исполняемые агентом

Большинство бюллетеней безопасности сообщают вам, что не так и что делать. Но делать всё равно приходится вам самим.

Наши бюллетени поставляются с манифестом устранения — структурированным набором инструкций с условиями STOP_IF, директивами ASK_USER для учётных данных и контрольными точками REPORT. Скопируйте манифест. Вставьте его в чат вашего AI-агента. Скажите: «Сделай это».

Агент читает манифест, выполняет каждый шаг по порядку, останавливается, когда условие не выполнено, и запрашивает у вас учётные данные только тогда, когда они нужны. Он не догадывается. Он не пропускает шаги.