Машинное Обучение

nvidia/garak

Modular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…

p-e-w/heretic

Полностью автоматическое снятие цензуры для языковых моделей

arxhr007/aliens_eye

Hunt down 840+ social media accounts using AI

nousresearch/hermes-agent

Агент, который растет вместе с вами

promptfoo/promptfoo

Тестируйте свои промпты, агенты и RAG. Red teaming/пентестинг/сканирование уязвимостей для ИИ. Сравнивайте производительность GPT, Claude, Gemini,…

atomdrift-project/scan

Обнаружение 0-day вредоносного ПО для бинарных файлов, исходного кода и скриптов (которое не отстой)

huhusmang/awesome-llms-for-vulnerability-detection

Сообщество, наиболее полный и постоянно обновляемый индекс исследований по большим языковым моделям для обнаружения уязвимостей в программном…

trusted-ai/adversarial-robustness-toolbox

Библиотека Python для безопасности машинного обучения с учётом состязательных атак, позволяющая красным и синим командам запускать атаки и защиты на…

blakeblackshear/frigate

NVR с локальным обнаружением объектов в реальном времени для IP-камер

microsoft/pyrit

Фреймворк с открытым исходным кодом для red-teaming генеративных ИИ-систем: автоматизируйте атакующие промпты, оценивайте ответы моделей и проводите…

symgraph/idassist

Плагин для IDA Pro для реверс-инжиниринга на основе ИИ

zju-llm-safety/darwin

Эволюционная платформа для обхода защиты LLM и тестирования guardrail-механизмов, которая формирует переиспользуемый пул стратегий с помощью…

francescopace/espectre

ESPectre — система обнаружения движения на основе анализа Wi-Fi спектра (CSI) с интеграцией с Home Assistant.

sparkyniner/netryx-astra-v2-geolocation-tool

Самое совершенное в мире программное обеспечение для геолокации изображений на уровне улиц

scrapegraphai/scrapegraph-ai

Python-скрапер на основе ИИ

dkhuuthe/madlira

Обнаружение вредоносного ПО с использованием обучения и информационного поиска для Android