Page informative, sans valeur de conseil. Téléchargez depuis la source officielle, vérifiez la licence (cœur MIT, mais un dossier « enterprise » est sous licence distincte — voir plus bas), et gardez en tête que LiteLLM en mode proxy voit passer toutes vos requêtes et centralise vos clés API : c'est un point sensible à sécuriser comme tel.
À quoi ça sert
Chaque provider LLM a sa propre API, ses paramètres et ses formats de réponse. LiteLLM expose un
endpoint unique au format OpenAI (/chat/completions) et se charge de
traduire vers le provider visé. On change de modèle ou de fournisseur sans toucher au code des
applications clientes. Deux usages :
- Bibliothèque Python — quelques lignes pour appeler n'importe quel provider avec la même interface, idéal dans un script ou un service.
- Proxy (serveur) — un service que vous hébergez, qui centralise les clés, gère des budgets et des quotas par équipe, journalise les appels et permet de basculer d'un provider à l'autre côté serveur. C'est le mode qui en fait une vraie passerelle d'entreprise.
Cas d'usage : standardiser les appels LLM d'une équipe, ajouter un fallback automatique, plafonner les dépenses par projet, ou donner à n8n, Flowise et Open WebUI un endpoint unique vers tous les modèles.
Ce qui fait sa force
- Compatibilité OpenAI universelle. Tout outil ou SDK prévu pour l'API d'OpenAI fonctionne en pointant sur LiteLLM, sans réécriture. C'est le standard de fait, réutilisé partout.
- Clés virtuelles, budgets, quotas. Le proxy émet des virtual keys par projet, chacune avec son budget mensuel, ses limites de débit (RPM/TPM) et ses modèles autorisés. Vous distribuez des clés LiteLLM, jamais vos vraies clés providers.
- Routage et bascule. Répartition de charge, fallback automatique d'un modèle vers un autre, gestion des erreurs : la couche réseau que l'on bricole sinon à la main.
- Local et cloud sur le même endpoint. Un modèle Ollama local et un modèle cloud cohabitent dans la même configuration ; les clients ne voient qu'un nom de modèle.
- Suivi des dépenses centralisé. Les coûts estimés par clé, par modèle et par projet sont consolidés — un tableau de bord là où chaque provider a habituellement le sien.
Pour qui
Pour des développeurs et équipes techniques qui consomment plusieurs providers et veulent réduire la complexité de maintenance. Le mode proxy brille quand plusieurs applications partagent les mêmes clés : LiteLLM centralise au lieu de disséminer. Les profils non techniques n'y touchent pas directement, mais en bénéficient si un administrateur y connecte leurs outils.
Installation
À savoir avant de copier une commande : le 21 octobre 2026, la version 1.107.0 publiée sur
PyPI et les images Docker étiquetées v1.107.0, latest, main-latest et
main-stable ont contenu, pendant environ deux heures, un logiciel qui vole les identifiants
(avis de l'éditeur). N'utilisez jamais une étiquette latest pour ce projet :
épinglez une version précise, et vérifiez les
avis de sécurité avant
chaque installation ou mise à jour. Les commandes ci-dessous épinglent la 1.106.2, version de repli indiquée par
l'éditeur.
Bibliothèque Python
pip install "litellm==1.106.2" # version épinglée (relevé du 31/10/2026) : jamais 1.107.0
from litellm import completion
# Appel vers Ollama en local
response = completion(
model="ollama/llama3.2",
messages=[{"role": "user", "content": "Bonjour"}],
api_base="http://localhost:11434"
)
print(response.choices[0].message.content)
Mode proxy (serveur)
À savoir avant de copier une commande : sans clé maître, le proxy répond à quiconque l'atteint et
consomme vos clés providers. Or la commande litellm écoute par défaut sur toutes les
adresses de la machine (0.0.0.0), et Docker publie un port de la même façon si l'on ne
précise pas d'adresse. Les commandes ci-dessous limitent donc l'écoute à 127.0.0.1, et la
clé maître est définie dès le départ (voir l'exemple de config.yaml plus bas). Elle sert
aussi de mot de passe à l'interface /ui (identifiant admin) : choisissez une
valeur longue et aléatoire.
# Installer le proxy
pip install "litellm[proxy]==1.106.2" # version épinglée, voir plus haut
# Clé maître : remplacez le marqueur par une valeur aléatoire
export LITELLM_MASTER_KEY=sk-REMPLACEZ_PAR_UNE_VALEUR_ALEATOIRE
# Démarrer avec un fichier de configuration, écoute limitée à votre machine
litellm --config config.yaml --host 127.0.0.1 --port 4000
Le proxy écoute sur http://localhost:4000 et expose un endpoint
/chat/completions compatible OpenAI. Une interface d'administration est disponible
sur /ui (connexion avec la clé maître).
Avec Docker
# .env (hors de tout dépôt git) : LITELLM_MASTER_KEY=sk-REMPLACEZ_PAR_UNE_VALEUR_ALEATOIRE
# Image épinglée sur une version précise : jamais latest, main-latest ni main-stable
docker run \
-p 127.0.0.1:4000:4000 \
--env-file .env \
-v $(pwd)/config.yaml:/app/config.yaml \
ghcr.io/berriai/litellm:v1.106.2 \
--config /app/config.yaml --port 4000
Exemple de config.yaml minimal
model_list:
- model_name: llama3-local
litellm_params:
model: ollama/llama3.2
api_base: http://host.docker.internal:11434
- model_name: mistral-cloud
litellm_params:
model: mistral/mistral-small
api_key: os.environ/MISTRAL_API_KEY
general_settings:
master_key: os.environ/LITELLM_MASTER_KEY # la valeur reste dans l'environnement
En mode pip, remplacez host.docker.internal par localhost ; en Docker, c'est ce même
fichier config.yaml que monte la commande ci-dessus.
Si vous ajoutez une base de données (clés virtuelles, interface /ui complète), définissez
aussi LITELLM_SALT_KEY une fois pour toutes : la documentation précise qu'elle ne se change
pas sur place, et que la modifier rend illisibles les identifiants providers déjà enregistrés.
Aller plus loin : clé maître et clés virtuelles
Deux niveaux de clés cohabitent, à ne pas confondre :
-
LITELLM_MASTER_KEY— la clé racine du proxy. Elle authentifie les administrateurs et l'accès à l'interface/ui. Ce n'est pas une clé provider. - Clés providers (OpenAI, Anthropic, Mistral…) — ajoutées par modèle, dans la configuration ou via l'UI. Avec une base PostgreSQL, elles sont stockées chiffrées et persistent entre les redémarrages.
- Virtual keys — émises par le proxy pour chaque application cliente, avec budget, quotas et modèles autorisés. Ce sont elles que vous distribuez. Leur gestion nécessite une base PostgreSQL (incluse dans la configuration Docker Compose officielle).
Points de vigilance
En mode proxy, LiteLLM devient un point central qui détient les clés et voit toutes les requêtes. Les points ci-dessous découlent directement de ce rôle.
| Point d'attention | Niveau | Ce qu'il faut savoir |
|---|---|---|
| Proxy exposé sans clé maître | 🔴 si accessible en réseau | Sans LITELLM_MASTER_KEY et clés virtuelles, le proxy peut être interrogé librement par quiconque l'atteint — et consommer vos clés providers. Définissez la clé maître, émettez des clés virtuelles par client, et placez le proxy derrière un reverse proxy HTTPS. |
| Centralisation des clés API providers | 🔴 réel par conception | Toutes vos clés providers sont réunies au même endroit (chiffrées en base). Si l'instance est compromise, l'impact est global. Isolez le service, restreignez l'accès, prévoyez une rotation des clés. |
| Requêtes et réponses dans les journaux | 🟡 selon configuration | LiteLLM peut journaliser le contenu des échanges à des fins d'observabilité. Avant de traiter des données personnelles ou confidentielles, vérifiez le niveau de log et désactivez la journalisation du contenu en production si nécessaire. |
| Emballement des coûts cloud | 🟡 réel | Le proxy facilite l'appel de providers payants par de nombreuses applications. Posez des budgets par clé virtuelle et des alertes côté provider pour éviter les dérives. |
| Licence : MIT, sauf le dossier « enterprise » | 🟡 avant usage commercial | Le cœur de LiteLLM est sous licence MIT. Le contenu du dossier enterprise/ relève d'une licence distincte définie dans ce même dossier. Si vous utilisez ces fonctions, lisez leurs conditions avant un déploiement commercial. |
| Compromission de la chaîne de publication PyPI (mars 2026) | 🔴 si ces versions précises ont été installées | En mars 2026, deux versions piégées (1.82.7 et 1.82.8) ont brièvement circulé sur PyPI à la suite d'une compromission de la chaîne de publication, vite détectée et corrigée. Si vous avez installé l'une de ces deux versions précises, tournez immédiatement toutes vos clés API et mettez à jour vers une version stable récente. Dans tous les cas, épinglez vos versions (litellm==x.y.z) pour maîtriser ce que vous déployez. Source : Datadog Security Labs. |
| Seconde compromission (21 octobre 2026) | 🔴 si ces versions ont été installées | La version 1.107.0 publiée sur PyPI et les images Docker étiquetées v1.107.0, latest, main-latest et main-stable ont contenu, pendant environ deux heures, un logiciel qui vole les identifiants. Si vous avez installé ou tiré l'une d'elles ce jour-là, considérez la machine comme compromise : changez toutes les clés accessibles depuis cette machine et suivez l'avis de l'éditeur ; réinstaller depuis l'environnement touché ne suffit pas. |
Sécurité
- Définissez la clé maître.
LITELLM_MASTER_KEYpour protéger l'accès au proxy et à l'interface/ui. - Une clé virtuelle par application. Avec budget et modèles autorisés ; ne distribuez jamais vos vraies clés providers.
- HTTPS obligatoire. Reverse proxy (Nginx, Caddy) avec TLS — les clés transitent dans les en-têtes HTTP.
- Isolez et surveillez. Accès réseau restreint à l'instance, audit régulier des journaux (modèles appelés, fréquence, coûts).
- Tenez le proxy à jour, sur une version épinglée. LiteLLM évolue très vite : avant chaque mise à jour, lisez les avis de sécurité, et n'utilisez jamais une étiquette
latest.
Aller plus loin
- Ollama — le provider local à brancher en priorité pour les données sensibles.
- Open WebUI — une interface unique pour tous les modèles servis par LiteLLM.
- n8n — pointer un endpoint LiteLLM unique dans vos workflows.
- OSIALab — comparer les providers et passerelles.
Sources
- Site officiel : litellm.ai
- Code source : github.com/BerriAI/litellm
- Documentation : docs.litellm.ai
- Démarrage Docker, clé maître,
LITELLM_SALT_KEYet connexion à/ui: docs.litellm.ai (consultée le 30 octobre 2026) - Licence : MIT License pour le cœur ; dossier
enterprise/sous licence distincte (voirenterprise/LICENSE). - Compromissions de 2026 (versions 1.82.7 / 1.82.8 en mars ; 1.107.0 et images
latestle 21 octobre) : Datadog Security Labs - Incident du 21 octobre 2026, versions concernées et conduite à tenir : avis de l'éditeur (docs.litellm.ai) (consulté le 31 octobre 2026)