Open source et auto-hébergement : faire tourner Mistral sur ses propres machines

Parmi les grands labos d’IA, Mistral fait figure d’exception : il publie ses modèles les plus performants en téléchargement libre, le plus souvent sous licence Apache 2.0. Là où la plupart gardent leurs poids fermés ou sous licences restrictives, Mistral donne accès à Large 3 (675B) et Small 4 (119B) — des modèles de rang frontière — modifiables et déployables commercialement sans restriction. Depuis avril 2026, même son modèle par défaut, Medium 3.5, est auto-hébergeable.

Huitième article de la série « De zéro à machine de guerre avec Mistral », ce guide est technique. Il s’adresse aux développeurs et aux équipes d’infrastructure qui veulent déployer des modèles Mistral en interne.

Les licences : ce que vous pouvez et ne pouvez pas faire

Tous les modèles Mistral ne partagent pas la même licence. Avant tout déploiement, vérifiez le statut exact :

Apache 2.0 reste la licence la plus permissive : vous utilisez, modifiez et redistribuez le modèle sans restriction, usage commercial inclus. La licence MIT modifiée de Medium 3.5 et Devstral 2 est libre pour l’immense majorité des usages, avec une seule réserve : une organisation dont le chiffre d’affaires mondial dépasse 20 millions de dollars par mois doit négocier une licence commerciale. CC BY-NC 4.0, enfin, interdit l’usage commercial sans accord séparé avec Mistral. Vérifiez toujours la licence sur la page Hugging Face du modèle avant un déploiement en production.

Tier 1 : Mistral sur un laptop avec Ollama

Voici le point d’entrée le plus simple. Ollama est un outil open source (licence MIT) qui transforme le déploiement local d’un LLM en une commande unique. Il s’appuie sur llama.cpp en interne et gère le téléchargement, la quantization et le serving automatiquement.

# Installation d'Ollama
# macOS
brew install ollama

# Linux
curl -fsSL https://ollama.com/install.sh | sh

# Télécharger et lancer un modèle Mistral
ollama pull mistral-nemo          # 7 Go — usage général
ollama pull codestral:22b         # 12 Go — autocomplétion code
ollama pull devstral-small:24b    # 14 Go — agent de code local

# Lancer une conversation
ollama run mistral-nemo

Quel modèle pour quel matériel

L’atout d’Ollama tient à son serveur API local compatible OpenAI (http://localhost:11434). Vous connectez ainsi n’importe quel outil qui parle ce format — Continue.dev pour VS Code, Aider pour le terminal, ou votre propre application — vers votre modèle local, sans modifier une ligne de code applicatif.

Tier 2 : Small 4, Medium 3.5 et Large 3 sur GPU avec vLLM

Pour du déploiement serveur en production, vLLM est le moteur d’inférence recommandé par Mistral. Ce projet open source est optimisé pour le serving haute performance, avec batching automatique, paging d’attention (PagedAttention) et tensor parallelism.

Small 4 (119B) — le choix pragmatique

# Déployer Small 4 avec vLLM
pip install vllm

# Version pleine précision (BF16) — 4x H100 minimum
vllm serve mistralai/Mistral-Small-4-119B-2603 \
  --tensor-parallel-size 4 \
  --max-model-len 65536

# Version quantifiée NVFP4 — 2x H200 ou 1x DGX B200
vllm serve mistralai/Mistral-Small-4-119B-2603-NVFP4 \
  --max-model-len 262144 \
  --tensor-parallel-size 2 \
  --attention-backend TRITON_MLA \
  --tool-call-parser mistral \
  --enable-auto-tool-choice \
  --reasoning-parser mistral

Hardware minimum pour Small 4 : 4x NVIDIA H100 (BF16), 2x H200 (NVFP4), ou 1x DGX B200. Le checkpoint NVFP4 réduit l’empreinte mémoire et tourne sur 2 GPU au lieu de 4. vLLM expose ensuite une API REST compatible OpenAI sur http://localhost:8000/v1 — votre code applicatif ignore qu’il parle à un modèle local.

Small 4 reste le choix le plus pragmatique pour l’auto-hébergement : grâce à son architecture MoE (6B actifs par token sur 119B totaux), le coût d’inférence par requête se rapproche d’un modèle dense de ~8B, tout en offrant les capacités d’un modèle bien plus grand.

Medium 3.5 (128B) — le modèle par défaut, désormais auto-hébergeable

Nouveauté décisive de 2026 : Medium 3.5, le modèle par défaut de Vibe et le moteur de l’agent de code, est désormais publié en poids ouverts sous licence MIT modifiée. Modèle dense de 128 milliards de paramètres, il s’auto-héberge sur seulement quatre GPU tout en gardant ses performances de niveau frontière (77,6 % sur SWE-bench Verified). Il se sert exactement comme Small 4 via vLLM. Pour une équipe qui veut le meilleur compromis agentique et code en interne, sans rien envoyer à l’extérieur, c’est l’option la plus aboutie — la réserve de revenus de la licence ne concernant que les très grandes organisations.

Large 3 (675B) — pour les usages intensifs

Déployer Large 3 en local est faisable, mais coûteux : comptez un cluster de 8x H100 ou équivalent. Deux cas le justifient : des volumes très importants qui amortissent le coût hardware face à l’API, ou une exigence de souveraineté absolue où même l’API Mistral ne suffit pas. Autres moteurs d’inférence supportés : SGLang (batching continu), les conteneurs NVIDIA NIM (pré-optimisés GPU NVIDIA) et Hugging Face Transformers (prototypage).

Voxtral TTS en local : construire un agent vocal privé

Voxtral TTS (4 milliards de paramètres) figure parmi les modèles les plus intéressants à auto-héberger. Assez léger pour tourner sur un seul GPU grand public (16 Go VRAM en BF16, ~3 Go avec quantization), il produit de la synthèse vocale en 9 langues avec clonage vocal zero-shot à partir de 3 secondes de référence audio.

Trois cas d’usage typiques pour un déploiement local :

• Agent vocal d’entreprise — service client automatisé, voix personnalisée, sans envoyer les données vocales vers un service cloud.
• Accessibilité — lecture à voix haute de documents internes, interfaces vocales pour des outils métier.
• Création de contenu — narration de vidéos, podcasts automatisés, doublage multilingue.

Une limite, toutefois : Voxtral TTS est sous licence CC BY-NC 4.0. L’usage commercial nécessite un accord séparé avec Mistral, tandis que la recherche, le prototypage et l’usage interne non commercial restent libres.

Pourquoi l’open source de Mistral compte pour l’Europe

L’ouverture des poids n’est pas qu’un argument technique : c’est une question de gouvernance. Un modèle à poids ouverts est auditable — vous savez ce que vous déployez, sans boîte noire — et il se fine-tune sur vos données sensibles dans votre propre périmètre, sans qu’aucune information ne transite par un tiers.

L’avantage spécifique de Mistral pour une organisation européenne tient à la combinaison, rare, de quatre éléments : des modèles open source performants, un hébergement API en Europe, une offre entreprise alignée sur le RGPD, l’HDS et SecNumCloud, et un support technique en français. Peu d’écosystèmes réunissent les quatre.

Le bénéfice le plus sous-estimé reste la réversibilité. Vous prototypez sur l’API, puis vous basculez sur des poids auto-hébergés — les mêmes modèles, sans migration ni réécriture. Cette continuité, de la première requête cloud jusqu’au cluster on-premise, élimine la dépendance à un fournisseur unique. C’est un filet de sécurité que peu d’acteurs peuvent offrir.

Quelle stratégie d’auto-hébergement adopter

L’avantage concret : ce que l’auto-hébergement change

Zéro coût API. Un Ministral 14B sur Ollama ne coûte rien en tokens. Pour un développeur qui envoie 500 requêtes par jour, l’économie atteint vite des dizaines d’euros par mois ; pour une équipe de dix, le coût hardware s’amortit en quelques mois.

Zéro données qui sortent. Vos prompts, vos documents, votre code : rien ne transite par un serveur externe. Pour les secteurs réglementés (santé, défense, finance, juridique), c’est souvent le facteur décisif.

Customisation totale. Vous fine-tunez les modèles ouverts sur vos propres données, en LoRA ou en SFT complet. Un Small adapté à votre domaine métier remplace alors souvent un Large généraliste, pour un coût d’inférence dix fois inférieur.

Pas de rate limiting. Aucun quota, aucune file d’attente, aucune dépendance à la disponibilité d’un service externe. Votre modèle tourne 24/7, à la vitesse de votre hardware.

Contrôle de version. Vous décidez quand mettre à jour le modèle. Fini les surprises où le comportement change parce qu’un fournisseur a basculé sa version en production sans prévenir.

Par où commencer

Installez Ollama, téléchargez Ministral 8B, et testez-le sur une tâche que vous confiez habituellement à l’API. Si la qualité suffit pour votre cas — et ce sera le cas pour beaucoup de tâches courantes — vous venez de supprimer une ligne de coût récurrent. Si vous avez besoin de plus de puissance, montez ensuite à Codestral 22B, Small 4, ou Medium 3.5 avec le hardware approprié.

L’auto-hébergement ne convient pas à tout le monde. Sans le matériel, l’expertise système ou le cas d’usage qui le justifie, l’API Mistral à 0,15 $/M tokens reste la meilleure option. En revanche, dès que la souveraineté des données ou le coût à l’échelle deviennent prioritaires, Mistral est l’écosystème le mieux positionné pour l’auto-hébergement de modèles performants.