JoySafety — Framework di Sicurezza per i Grandi Modelli
📋 Indice
nuova release
- ✅ Aggiornamento completo del modello di rilevamento dell'iniezione di prompt: Il sistema di addestramento è stato ricostruito basandosi su un meccanismo di confronto tra squadre rosse e blu, con un duplice miglioramento nella precisione del riconoscimento degli attacchi e nella velocità di risposta; il più recente modello di rilevamento dell'iniezione di prompt è stato aggiornato a un'architettura a tre classi, in grado di distinguere con precisione: richieste normali, attacchi di iniezione di prompt chiari (maligni), sospetti attacchi di iniezione di prompt (rischio potenziale). Indirizzo del modello: (https://huggingface.co/jdopensource/JoySafety/tree/main)
Introduzione del Progetto
Con la diffusione delle applicazioni di intelligenza artificiale generativa, i rischi legati alla sicurezza dei contenuti, alla fuga di dati, agli attacchi di iniezione di prompt, ecc., stanno diventando sempre più evidenti. Come garantire che l'output dei grandi modelli sia conforme ai requisiti normativi e prevenire le vulnerabilità di sicurezza è diventata una sfida critica per le aziende. Per questo motivo, JD ha ufficialmente reso open source il framework di sicurezza per i grandi modelli — JoySafety. Questo framework è ampiamente utilizzato all'interno di JD, coprendo scenari come assistenti AI per lo shopping, servizio clienti logistico, assistente alle vendite, consulenza medica, piattaforma di lavoro per i venditori, consulenza legale, FAQ sulla sicurezza, ecc., supportando miliardi di chiamate giornaliere con un tasso di intercettazione degli attacchi superiore al 95%. Si impegna a fornire alle aziende una soluzione di protezione matura, affidabile e gratuita per i grandi modelli.
✨ Caratteristiche
🚀 Livello di Produzione
Validazione pratica a livello aziendale
- ✅ Garantisce il funzionamento sicuro e stabile di molteplici applicazioni AI in produzione di JD
- ✅ Validazione in scenari aziendali complessi, con iterazione e ottimizzazione continue
- ✅ Il dispiegamento dei servizi supporta l'espansione orizzontale, soddisfacendo le esigenze aziendali ad alta concorrenza
- ✅ Accesso aziendale a costo zero, le modifiche alle policy supportano l'aggiornamento a caldo in pochi minuti
Alta affidabilità
- 🔄 Hot-plug delle capacità atomiche, senza interruzione del servizio
- ⚡ Configurazione dinamica, risposta rapida ai cambiamenti aziendali
- 📊 Stabilità a lungo termine verificata in ambiente di produzione
📈 Alta Estensibilità
Progettazione architetturale flessibile
- 🧩 Supporta molteplici moduli di capacità atomica (BERT/FastText/Transformer e altri modelli mainstream)
- 🔌 Interfaccia standardizzata per le capacità atomiche, facile da estendere con nuovi modelli
- 🏗️ Supporta due modalità: dispiegamento indipendente o centralizzato
- ⚙️ Motore di orchestrazione leggero, configurabile in base alle esigenze
Bilanciamento del carico intelligente
- 🌐 Dispiegamento clusterizzato con supporto per scalabilità orizzontale
- ⚡ Meccanismo di rilevamento asincrono, migliora la capacità di elaborazione concorrente
- 🎯 Strategia di rilevamento a finestra, bilancia prestazioni e accuratezza
💡 Facilità d'Uso
Pronto all'uso
- 🐳 Avvio con un clic tramite Docker Compose, nessuna configurazione richiesta
- 📱 Orchestrazione DAG
- 🔧 API standardizzate, integrazione rapida con i sistemi esistenti
🎯 Punti Salienti delle Tecnologie Core
Innovazioni di Rottura
1. Riconoscimento intelligente di conversazioni multi-turno con grandi modelli
2. Adozione della modalità di output asincrono Free-Taxi, che migliora notevolmente la risposta di rilevamento, realizzando un perfetto equilibrio tra esperienza utente e sicurezza
3. Matrice di strategie di risposta multidimensionale
- 🎯 Intercettazione precisa - Blocco immediato di contenuti ad alto rischio
- ⏸️ Risposta sostitutiva con linea rossa - Risposta tramite knowledge base di linea rossa
- 🔄 Correzione intelligente - Guida automatica verso risposte positive
🚀 Avvio Rapido
Dipendenze Ambientali
Assicurarsi di avere installato il seguente software:
- git
- git-lfs per scaricare i file del modello
- docker
- docker compose
0. Clonare il progetto
#1.
git clone https://github.com/jd-opensource/JoySafety.git
#2. Entrare nella directory del progetto
cd JoySafety
#3. Impostare la variabile d'ambiente (si consiglia di copiare ed eseguire; gli script/servizi successivi la riconosceranno automaticamente)
export SAFETY_ROOT_PATH=`pwd`
#Normalmente è la directory radice di JoySafety
echo ${SAFETY_ROOT_PATH}
=======
1. Scaricare i file del modello (Huggingface)
#Entrare nella directory del progetto
cd $SAFETY_ROOT_PATH
#
git lfs install
#Opzione 1
git clone https://huggingface.co/jdopensource/JoySafety ${SAFETY_ROOT_PATH}/data/models
#Opzione 2
#Se si verificano problemi di rete, è possibile scaricare da [ModelScope](https://modelscope.cn/models/syf20240814/joysafety/files))
2. Configurare il file .env
- [Nella directory radice del progetto] Copiare
.env.example o creare manualmente .env:
# Nota: Se si cambia finestra Shell, reimpostare SAFETY_ROOT_PATH
cd $SAFETY_ROOT_PATH
cp -f .env.example .env
# Per i test, modificare solo la variabile SAFETY_MODEL_DIR nel file .env; il percorso deve corrispondere a quello effettivo di download del modello [percorso assoluto]
SAFETY_MODEL_DIR=
3. Avvio con un clic (Docker Compose)
docker-compose --env-file .env up
4. Test delle API
Per i casi di test dettagliati delle API e le istruzioni d'uso, consultare quickstart/README.md.
Fare riferimento alla documentazione nella directory quickstart per gli script di test API più recenti e la spiegazione dei casi.
📖 Guida all'Uso
Come Integrare un Servizio Aziendale
Il progetto può supportare più servizi aziendali contemporaneamente; ciascuno può essere aggiunto dinamicamente con effetto in pochi minuti.
- Registrare le capacità atomiche (se la capacità atomica necessaria non è stata ancora registrata), fare riferimento a function_api.md
- Aggiungere un servizio aziendale (fare riferimento a business_api.md)
- Aggiungere una strategia per il servizio aziendale (fare riferimento a dag_api.md, esempi di strategie)
Un esempio di codice completo: example.py
joysafety/joysafety
