# AnythingLLM — chat avec vos documents en local, open source

AnythingLLM : créez des espaces de travail RAG pour interroger vos PDF et documents en local. Base LanceDB embarquée, compatible Ollama, open source MIT.

URL canonique : https://www.osfria.fr/anythingllm.html

---

OSIALab · Documents / RAG

## AnythingLLM — discuter avec vos documents en local

AnythingLLM est une application **RAG tout-en-un** : vous déposez vos fichiers dans des espaces de travail, l'outil les découpe, les indexe et les soumet au modèle de votre choix au moment de chaque question. Le modèle répond **à partir de vos documents** — et tout peut rester sur votre machine.

### Fiabilité & transparence

🟡 **Utilisable, avec points d'attention**

- **Maintenance** : v1.13.0 (8 juin 2026) ; rythme de 2 semaines.
- **Adoption** : 60,8K étoiles GitHub, adoption significative en production.
- **Sécurité** : CVE-2026-24477 (divulgation Qdrant API, ✅ corrigée v1.10.0+) ; CVE-2026-21484 (énumération d'utilisateurs, ✅ corrigée v1.10.0+).
- **Verdict** : Application mûre pour RAG local. Vérifiez votre version et, sur un serveur, authentifiez l'instance Docker.

> Page informative, sans valeur de conseil. Téléchargez depuis la **source officielle**, vérifiez la **licence** du logiciel *et* de chaque modèle, et gardez en tête qu'un modèle de langage **peut se tromper** : croisez les informations importantes.

### À quoi ça sert

AnythingLLM met en œuvre un **RAG (Retrieval-Augmented Generation)** complet sans écrire une ligne de code. Vous créez un *espace de travail*, vous y glissez des documents (PDF, DOCX, TXT, Markdown, pages web…), et l'application les transforme en **fragments vectorisés** rangés dans une base. À chaque question, elle retrouve les passages pertinents et les fournit au modèle de langage comme contexte. La réponse s'appuie donc sur *vos* contenus, pas seulement sur la mémoire d'entraînement du modèle.

L'outil sépare ce qui est souvent mélangé ailleurs : le **modèle de langage** (le LLM qui rédige), l'**embedder** (qui vectorise les documents) et la **base vectorielle** (qui stocke et retrouve). Chacun de ces trois maillons se choisit indépendamment dans les réglages — c'est ce qui permet de rester 100 % local, ou d'aller chercher la puissance d'un service cloud, maillon par maillon.

### Ce qui fait sa force

- **Local de bout en bout, par défaut.** L'application de bureau embarque un moteur LLM, un **embedder qui tourne sur le processeur** et la base vectorielle **LanceDB** (fichiers sur disque, aucun serveur à installer). Sans aucune clé API, vos documents ne quittent jamais le poste.
- **Espaces de travail cloisonnés.** Chaque *workspace* a son propre corpus et son propre contexte : un espace « comptabilité », un espace « contrats », un espace « veille »… Les documents d'un espace ne fuitent pas dans les réponses d'un autre.
- **Branché sur tout l'écosystème.** Plus de 30 fournisseurs LLM (dont [Ollama](https://www.osfria.fr/ollama.html), LM Studio, OpenAI, Anthropic, Mistral, Groq…) et une large gamme de bases vectorielles : LanceDB embarquée par défaut, mais aussi PGVector, Chroma, Qdrant, Milvus, Weaviate ou Pinecone si vous montez en charge.
- **Deux formats, un seul produit.** Application de bureau (Windows, macOS, Linux) pour un usage individuel en un clic ; image **Docker** pour un déploiement serveur multi-utilisateurs avec gestion des comptes. Le même outil suit votre besoin.
- **Au-delà du simple chat.** Agents avec outils, scraping web, API de développeur, intégration MCP : on commence par déposer un PDF, on finit par construire un assistant métier.

### Pour qui

Idéal pour le **professionnel ou le curieux** qui veut interroger ses propres documents sans les confier à un service en ligne, et sans toucher à un terminal. C'est l'une des portes d'entrée les plus accessibles vers le RAG local. Si vous voulez préparer en amont des PDF complexes (tableaux, colonnes, scans), passez-les d'abord par [Docling](https://www.osfria.fr/docling.html). Pour un déploiement d'équipe avec connecteurs vers Slack, Confluence ou Google Drive, regardez plutôt [Onyx](https://www.osfria.fr/onyx.html).

### Installation

#### Option 1 — Application de bureau

Source officielle : **anythingllm.com**. Téléchargez l'installeur pour votre système et lancez-le. Le moteur LLM, l'embedder CPU et LanceDB sont déjà inclus : aucune dépendance externe n'est requise pour démarrer en local.

#### Option 2 — Docker (serveur, multi-utilisateurs)

```
# Récupérer l'image officielle
docker pull mintplexlabs/anythingllm

# Lancer le conteneur (adapter le port et le volume de stockage)
docker run -d \
  -p 3001:3001 \
  -v $(pwd)/anythingllm_storage:/app/server/storage \
  --name anythingllm \
  mintplexlabs/anythingllm
```

L'interface est ensuite disponible sur `http://localhost:3001`. Le volume monté contient la base vectorielle et vos documents : c'est **lui** qu'il faut sauvegarder.

#### Connecter un modèle local

Dans les réglages, choisissez **Ollama** comme fournisseur LLM, renseignez l'adresse `http://localhost:11434` et sélectionnez un modèle déjà téléchargé. Si Ollama n'est pas encore installé, commencez par la [fiche Ollama](https://www.osfria.fr/ollama.html). Vérifiez au passage que l'**embedder** est lui aussi réglé sur un fournisseur local : c'est ce maillon-là qui décide si vos documents sont vectorisés sur votre machine ou envoyés ailleurs.

#### Importer des documents

Créez un espace de travail, puis glissez-déposez vos fichiers. AnythingLLM les découpe, les vectorise et les indexe automatiquement. Posez ensuite vos questions dans la zone de chat : les réponses citent les passages utilisés.

### Aller plus loin : choisir ses trois maillons

La qualité d'un RAG ne tient pas qu'au modèle. Trois réglages comptent autant :

- **Le LLM** — rédige la réponse. Un modèle local via Ollama suffit pour beaucoup d'usages.
- **L'embedder** — transforme texte et question en vecteurs. C'est lui qui détermine la pertinence du *retrieval* ; il peut être local (CPU) ou distant.
- **La base vectorielle** — LanceDB embarquée pour un poste, ou une base externe (PGVector, Qdrant, Milvus…) pour de gros volumes ou plusieurs utilisateurs.

Pour rester strictement local, les trois maillons doivent pointer vers des composants locaux — le point de vigilance ci-dessous le rappelle.

### Points de vigilance

AnythingLLM peut tourner entièrement hors-ligne : ce sont alors des choix de configuration, et non l'outil, qui décident de ce qui sort de votre machine.

| Point d'attention | Niveau | Ce qu'il faut savoir |
| --- | --- | --- |
| LLM *ou* embedder réglé sur un service cloud | 🔴 selon configuration | Si le fournisseur LLM **ou** l'embedder pointe vers OpenAI, Anthropic, etc., les extraits de documents retrouvés à chaque question — et le texte à vectoriser à l'indexation — transitent par ce service. Pour des données sensibles, réglez **les deux** maillons sur du local (Ollama + embedder local). |
| Où sont stockés vos documents et leurs vecteurs | 🟡 à savoir | Le corpus et la base LanceDB vivent dans le dossier de stockage (le volume Docker, ou le répertoire de l'app). Ce sont des données en clair : protégez ce dossier comme les originaux, et incluez-le dans vos sauvegardes — sans lui, l'index est à reconstruire. |
| Instance Docker exposée sans authentification | 🟡 selon déploiement | Le port 3001 sert une interface multi-utilisateurs. Sur un serveur accessible au-delà de `localhost`, placez-le derrière un reverse-proxy HTTPS authentifié et activez la gestion des comptes — ne le laissez pas ouvert sur Internet. |
| Télémétrie anonyme activée par défaut | 🟡 à régler | AnythingLLM envoie par défaut une **télémétrie anonyme** (via PostHog) : événements d'usage, type de base vectorielle et de modèle — jamais le contenu de vos documents. Elle se désactive d'un geste (barre latérale > *Privacy*, ou `DISABLE_TELEMETRY=true`). À noter : un cas a été rapporté où une tentative de connexion subsistait juste après la désactivation. Pour un poste sensible, coupez la télémétrie et, au besoin, bloquez la sortie réseau au pare-feu. |
| Migrations entre versions (sauvegarde avant mise à jour) | 🟡 par prudence | L'outil évolue vite. Une mise à jour d'image Docker a déjà pu, dans un cas signalé, perturber une instance existante (clé de chiffrement, port). Rien de propre à AnythingLLM seul, mais le bon réflexe vaut ici plus qu'ailleurs : **sauvegardez le dossier de stockage avant chaque montée de version** et lisez les notes de release. |
| Licence du modèle (≠ celle d'AnythingLLM) | 🟡 selon le modèle | AnythingLLM est sous licence **MIT** ; chaque modèle branché conserve la sienne (Llama, Gemma et consorts imposent leurs conditions). À vérifier avant un usage commercial. |

### Sécurité

- **Tranchez le mode local / cloud en connaissance de cause.** Pour un corpus confidentiel, vérifiez que *LLM* et *embedder* sont tous deux locaux. C'est la seule façon de s'assurer que ni les documents ni les questions ne sortent.
- **Traitez le dossier de stockage comme une donnée sensible.** Il contient vos fichiers et leurs vecteurs en clair. Sauvegardez-le, restreignez-en les droits d'accès — et faites-en une copie *avant* chaque mise à jour de version.
- **Coupez la télémétrie sur un poste sensible.** Désactivez-la dans *Privacy* (ou `DISABLE_TELEMETRY=true`) ; pour une étanchéité totale, bloquez aussi la sortie réseau de l'application au pare-feu.
- **N'exposez pas l'instance Docker sans authentification** (reverse-proxy, VPN, pare-feu) si elle dépasse le poste local.
- **Tenez l'application à jour** depuis la source officielle pour bénéficier des correctifs.

### Aller plus loin

- [Ollama](https://www.osfria.fr/ollama.html) — le moteur local à connecter comme fournisseur LLM.
- [Le RAG](https://www.osfria.fr/concept-rag.html) · [les embeddings](https://www.osfria.fr/concept-embeddings.html) — comprendre ce qui se joue sous le capot.
- [Docling](https://www.osfria.fr/docling.html) — convertir vos PDF complexes *avant* de les charger, pour un meilleur retrieval.
- [Khoj](https://www.osfria.fr/khoj.html) — alternative orientée notes personnelles, avec recherche web.
- [Onyx](https://www.osfria.fr/onyx.html) — pour un déploiement d'équipe avec connecteurs (Slack, Confluence, Drive).
- [OSIALab](https://www.osfria.fr/osialab.html) — vue d'ensemble de tous les outils.

### Sources

- Site officiel : **anythingllm.com**
- Code source & licence (**MIT**) : [github.com/Mintplex-Labs/anything-llm](https://github.com/Mintplex-Labs/anything-llm)
- Documentation : [docs.anythingllm.com](https://docs.anythingllm.com)
- Confidentialité & télémétrie : [docs.anythingllm.com/features/privacy-and-data-handling](https://docs.anythingllm.com/features/privacy-and-data-handling)