Promptfoo : évaluations et red teaming des LLM

promptfoo est une CLI et une bibliothèque pour évaluer et mener des opérations de red teaming sur les applications basées sur des LLM. Cessez de procéder par essais et erreurs... commencez à déployer des agents sécurisés et fiables

Site web · Premiers pas · Red Teaming · Documentation · Discord

Promptfoo fait désormais partie d'OpenAI. Promptfoo reste open source et sous licence MIT. Lisez la mise à jour de l'entreprise.

Démarrage rapide

npm install -g promptfoo
promptfoo init --example getting-started

Également disponible via brew install promptfoo et pip install promptfoo. Ou utilisez npx promptfoo@latest pour exécuter n'importe quelle commande sans installation.

La plupart des fournisseurs de LLM nécessitent une clé API. Définissez la vôtre comme variable d'environnement :

export OPENAI_API_KEY=sk-abc123

Exécuter une évaluation et consulter les résultats :

cd getting-started
promptfoo eval
promptfoo view

Consultez Getting Started (évaluations) ou Red Teaming (analyse de vulnérabilités) pour en savoir plus !

Que pouvez-vous faire avec Promptfoo ?

• Tester vos prompts et modèles avec des évaluations automatisées
• Sécuriser vos applications LLM avec le red teaming et l'analyse de vulnérabilités
• Comparer les modèles côte à côte (OpenAI, Anthropic, Azure, Bedrock, Ollama, et plus encore)
• Automatiser les vérifications dans CI/CD
• Examiner les pull requests pour les problèmes de sécurité et de conformité liés aux LLM grâce à l'analyse de code
• Partager les résultats avec votre équipe

Voici à quoi cela ressemble en action :

Cela fonctionne aussi en ligne de commande :

Il peut également générer des rapports de vulnérabilités de sécurité :

Pourquoi Promptfoo ?

• Pensé pour les développeurs : rapide, avec des fonctionnalités comme le rechargement à chaud et la mise en cache
• Privé : les évaluations LLM s'exécutent à 100 % en local - vos prompts ne quittent jamais votre machine
• Flexible : fonctionne avec n'importe quelle API LLM ou langage de programmation
• Éprouvé : alimente des applications LLM servant plus de 10 M d'utilisateurs en production
• Guidé par les données : prenez des décisions fondées sur des métriques, pas sur l'intuition
• Open source : sous licence MIT, avec une communauté active

En savoir plus

• Getting Started
• Documentation complète
• Guide de Red Teaming
• Utilisation de la CLI
• Package Node.js
• Modèles pris en charge
• Guide d'analyse de code

Contribution

Les contributions sont les bienvenues ! Consultez notre guide de contribution pour commencer.

Rejoignez notre communauté Discord pour obtenir de l'aide et discuter.