IA locale : testez un modèle open source dans votre navigateur

L’IA locale, c’est la promesse d’un assistant qui tourne chez vous. Vos questions, vos documents et les réponses du modèle ne quittent jamais votre machine. Pour un professionnel soumis au RGPD, pour quiconque refuse d’envoyer ses idées dans le cloud, l’argument est massif. Reste la vraie question, celle qu’on se pose avant d’installer quoi que ce soit : qu’est-ce que ça vaut, concrètement ?

Cette page vous donne la réponse en cinq minutes, sans rien installer. L’outil ci-dessous charge un modèle open source compact : Llama 3.2 de Meta, Gemma 2 de Google ou Qwen 2.5. Il l’exécute dans votre navigateur via WebGPU, la technologie qui donne aux pages web l’accès à votre puce graphique. Ainsi, vous discutez avec une IA qui calcule réellement sur votre ordinateur. Puis vous jugez sur pièces : la vitesse, la qualité du français, les erreurs.

Comment fonctionne ce test d’IA locale

• Le modèle se télécharge une seule fois. Comptez 0,4 Go pour le Très léger, 0,9 Go pour le Rapide et 1,9 Go pour Gemma 2. Le modèle reste ensuite en cache dans votre navigateur : les visites suivantes se lancent en quelques secondes. Prévoyez le wifi plutôt que la 4G.
• L’exécution est 100 % locale. Le moteur et les poids du modèle viennent de dépôts publics, une seule fois au chargement. Ensuite, plus rien ne sort. Vos messages ne sont envoyés ni à blog-ia.com ni à aucun serveur. La preuve tient en un geste : une fois le modèle chargé, coupez votre connexion et continuez la conversation.
• Il faut un navigateur récent. WebGPU fonctionne sur les versions récentes de Chrome et Edge, sur ordinateur. Le support s’étend également à Safari, Firefox et aux mobiles selon les appareils. Si le vôtre est incompatible, la page vous le dira clairement.
• La vitesse dépend de votre machine. Après chaque réponse, l’outil affiche le débit réel en tokens par seconde. Ce chiffre est votre premier diagnostic : il dit ce que votre matériel vaut pour l’IA locale.

Trois questions à poser pour un test honnête

Une IA locale compacte brille et trébuche à des endroits précis. Posez-lui donc ces trois questions dans l’ordre, car chacune teste une capacité différente.

L’outil est juste en dessous. Choisissez le modèle Rapide pour un premier essai, ou le Très léger si votre machine est ancienne. Puis rechargez la page pour tester Gemma 2.

Ce que nos tests d’IA locale ont donné

Nous avons mené le test complet sur deux machines. La première est volontairement modeste, avec une puce graphique intégrée, comme le matériel de la plupart des gens. La seconde est plus récente : ses débits tournaient autour de 9 tokens par seconde. Vos propres chiffres s’affichent dans l’outil après chaque réponse.

• Llama 3.2 1B (Rapide) a été la bonne surprise du test. Il atteint environ 5 tokens par seconde sur la machine modeste et reste fluide sur la récente. Le modèle sait dire « je ne sais pas » avec un certain humour et développe ses réponses avec des exemples. Il se trompe en calcul, puis comprend la correction qu’on lui apporte. On se demande comment tout cela tient dans 900 Mo. Le bon choix pour un premier contact.
• Gemma 2 2B (Équilibré) offre la meilleure qualité. Il plafonne à environ 2 tokens par seconde sur la machine modeste, où l’attente se sent, mais se montre à l’aise sur la récente. Sa compréhension est solide, ses réponses pertinentes et son français soigné. On s’est même dit qu’il y aurait moyen de travailler avec. Machine récente conseillée.
• Qwen 2.5 0,5B (Très léger) tourne presque partout. C’est toutefois son seul mérite : erreurs de calcul, contresens sur les textes fournis, fautes de français. À réserver au cas où les deux autres échouent sur votre machine. Il prouve alors que le principe fonctionne chez vous, rien de plus.
• Les erreurs font partie du tableau. C’est lors de ces tests que Gemma 2 a déplacé les alignements de Carnac en Haute-Vienne. Un grand modèle en ligne fait aussi des erreurs, mais un petit modèle compressé en fait davantage. Retenez la règle d’or : vérifier tout fait précis, IA locale ou pas.

Pourquoi le chargement peut échouer chez vous

WebGPU est une technologie récente, et son comportement varie selon les machines. Nos propres tests ont rencontré trois obstacles, alors autant vous les donner avec leur solution. L’outil affiche de toute façon un message explicite pour chacun.

• Le message « Quota exceeded » signale un espace insuffisant. Le navigateur refuse alors d’écrire le modèle dans son cache. La cause classique est la navigation privée, dont le quota de stockage est minuscule. Repassez en fenêtre normale, vérifiez qu’il reste plusieurs Go libres sur le disque, puis relancez. L’outil vérifie désormais l’espace disponible avant de lancer le moindre téléchargement.
• Le modèle peut se charger puis « se perdre ». Sur certaines puces graphiques intégrées, le pilote décroche en cours de réponse. L’outil recharge alors le modèle depuis le cache. Si nécessaire, il bascule sur une variante de compatibilité, plus lourde mais acceptée par davantage de cartes. Si le système a réinitialisé le pilote, fermez complètement le navigateur, rouvrez-le et relancez : tout repart du cache.
• La puce peut refuser le modèle dès le départ. C’est fréquent sur mobile, où la compilation échoue avant même le premier message. Là encore, l’outil enchaîne seul sur la variante de compatibilité. Si même celle-ci échoue, votre appareil n’est simplement pas prêt pour l’IA locale dans le navigateur. Réessayez alors depuis un ordinateur récent.

Deux réglages de cette démo à connaître avant de juger

Cette démonstration est volontairement bridée sur deux points, à garder en tête pour interpréter vos résultats. Une installation locale complète lève ces deux limites.

• La fenêtre de contexte est limitée à 2 048 tokens. Cela représente environ 1 500 mots de conversation. C’est un choix délibéré. Une fenêtre réduite mobilise deux fois moins de mémoire graphique, ce qui évite les plantages sur les machines modestes. Par conséquent, la démo n’avalera pas un document de dix pages. Une vraie installation locale ouvre des fenêtres bien plus larges, à la mesure de votre matériel.
• Le modèle reçoit une consigne en français. Il doit répondre en français et admettre ses incertitudes plutôt que d’inventer. Le « je ne sais pas » que vous croiserez vient en partie de là. Ce choix a un coût : ces petits modèles, entraînés majoritairement en anglais, donnent un peu mieux dans cette langue. Nous l’assumons, car la page mesure ce que vaut l’IA locale pour un usage francophone réel.

Ce que ce test prouve, et ce qu’il ne prouve pas

Soyons précis sur la portée de l’expérience. Vous testez ici des modèles de 0,5 à 2 milliards de paramètres, compressés pour tenir dans un navigateur. Ajoutez les deux réglages ci-dessus : c’est l’entrée de gamme de l’IA locale, dans une démo prudente. Son intérêt est de répondre en cinq minutes, sur votre machine, à la question « est-ce que le principe me convient ? ». Au programme : confidentialité réelle, fonctionnement hors ligne, vitesse mesurée sur votre matériel. Ces modèles ne sont d’ailleurs plus les plus récents : ils ont été retenus parce qu’ils tiennent dans un navigateur.

L’IA locale sérieuse commence un cran au-dessus, avec des outils gratuits comme Ollama ou LM Studio. Ils installent sur votre ordinateur des modèles de plusieurs milliards à plusieurs dizaines de milliards de paramètres, autrement plus capables. Ces modèles exploitent pleinement votre mémoire et votre carte graphique. Si le test de cette page vous a convaincu sur le principe, c’est l’étape suivante naturelle. Et si votre machine a peiné ici, vous savez à quoi vous en tenir avant d’investir du temps.

Interroger vos propres documents en local

Une IA locale prend toute sa valeur quand elle travaille sur vos contenus. Poser des questions à ses documents sans qu’ils quittent la machine, c’est le principe expliqué dans notre guide du RAG. Cette démo n’en est pas capable, à cause de sa fenêtre de contexte réduite. En revanche, LM Studio propose déjà un chat avec vos fichiers, entièrement en local. Pour organiser vos notes, la démonstration du second cerveau fonctionne elle aussi sans quitter votre navigateur.

Enfin, retenez la démonstration d’ensemble. Un modèle d’IA complet vient de tourner sur votre machine, dans un simple onglet, sans compte ni abonnement. Il est imparfait, parfois lent et capable de déplacer Carnac en Haute-Vienne, mais il est entièrement à vous. C’est l’état réel de l’IA locale dans un navigateur, et il progresse à chaque génération de modèles.