Faire tourner DeepSeek sans GPU : guide pas à pas

Oui. Un GPU (la carte graphique) accélère les calculs d'un modèle de langage, ou LLM, mais il n'est pas obligatoire. Le processeur (CPU) sait faire les mêmes calculs, simplement plus lentement. C'est un seul caissier contre vingt : les clients sont tous servis, mais la file avance moins vite.

Deux choses décident de ce que vous pouvez faire : la quantité de RAM (la mémoire de votre ordinateur) et la taille du modèle. Un modèle doit tenir en mémoire pour tourner. Sur une machine avec carte graphique, on parle de VRAM, la mémoire de la carte. Sans GPU, c'est la RAM qui joue ce rôle, et elle est bien moins chère.

Voici le paysage en trois paliers :

• Les distillations de DeepSeek-R1 (1,5B, 7B, 8B, 14B, 32B) : elles tournent sur CPU avec Ollama ou LM Studio. C'est la voie réaliste.
• Les Mac Apple Silicon : leur mémoire unifiée permet de charger de plus gros modèles sans carte dédiée.
• Les géants comme DeepSeek V4-Flash (284 milliards de paramètres) : le projet llama-modchip affirme les faire tenir dans 64 Go de RAM. C'est possible, mais lent, et nous verrons pourquoi.

Avant d'installer quoi que ce soit, voici pourquoi cela vaut la peine. Un DeepSeek hors ligne tourne entièrement sur votre machine : vos questions et vos documents ne partent nulle part.

• Confidentialité : un contrat, un code source ou un dossier médical restent chez vous. Une fois le modèle téléchargé, vous pouvez débrancher le câble réseau.
• Coût : le modèle est gratuit, il n'y a pas d'abonnement ni de facture au volume. Votre seule dépense est le matériel, que vous avez peut-être déjà.
• Indépendance : plus de panne de service, de limite de requêtes ou de changement de tarif décidé par un tiers. Votre modèle ne disparaît pas du jour au lendemain.

Ce mode a un prix : la vitesse et la qualité dépendent de votre machine. Ne vous attendez pas à retrouver, sur un portable, les réponses d'un grand service hébergé. En revanche, pour résumer un texte, reformuler un mail ou expliquer un bout de code, une distillation bien choisie suffit souvent. Autre point utile : faire tourner DeepSeek en local ne demande ni VPN ni accès à la Chine. Vous téléchargez les fichiers une fois depuis Ollama ou Hugging Face, comme n'importe quel logiciel.

Modèle complet ou version distillée ?

Le DeepSeek-R1 complet est un énorme modèle, bien trop lourd pour un ordinateur de bureau. Les versions « distillées » sont de plus petits modèles (bases Qwen2.5 ou Llama) entraînés à imiter le raisonnement de R1. Comparez à un élève qui apprend à partir des corrigés d'un grand professeur : il ne sait pas tout, mais il raisonne de la même manière. Ce sont ces versions que vous allez exécuter chez vous.

La quantification, en une phrase

La quantification consiste à stocker les nombres du modèle avec moins de précision, comme une photo enregistrée en qualité réduite. Le fichier devient bien plus petit, pour une perte de qualité modérée. Le format « Q4 » (4 bits par nombre) est le compromis le plus courant. Les fichiers sont au format GGUF, que lit llama.cpp : par exemple DeepSeek-R1-Distill-Qwen-7B-Q4_K_M.gguf ou DeepSeek-R1-Distill-Llama-8B-Q4_K_M.gguf.

Quelle taille pour quelle RAM ?

Pour le 14B et le 32B, comptez davantage de mémoire : le 14B vise plutôt des machines à 16 Go ou plus, le 32B des machines bien dotées. Je ne donne pas de chiffre précis ici, car il varie selon la quantification et la taille du contexte. Une règle simple : le fichier du modèle doit tenir en RAM avec de la marge pour le système et pour la conversation. Si vous hésitez, prenez la taille juste en dessous.

Il existe aussi des modèles « MoE » (mixture of experts) : ils sont énormes au total, mais n'activent qu'une petite partie de leurs paramètres à chaque mot. Nous y revenons plus bas avec le cas des 284B.

Sans GPU, trois éléments comptent, par ordre d'importance.

1. La RAM : elle fixe la taille maximale du modèle. C'est le point à vérifier en premier.
2. La vitesse de la mémoire : à chaque mot produit, le processeur relit une grande partie du modèle. Une mémoire rapide donne donc plus de mots par seconde.
3. Le CPU : plus de cœurs aident, mais moins que la mémoire.

Un mini PC d'entrée de gamme, à environ 200–400 €, peut exécuter la distillation 7B avec des réponses assez rapides. C'est un bon choix pour un petit serveur silencieux, allumé en continu à la maison. Sa limite : la qualité du 7B reste en retrait en code et en mathématiques. Si vous cherchez plus, un mini PC avec plus de RAM ouvre la porte au 14B.

Les Mac Apple Silicon sont l'alternative la plus confortable sans GPU dédié. Leur mémoire unifiée (16 à 128 Go) est partagée entre le processeur et le circuit graphique intégré, avec une bande passante élevée et une accélération Metal via llama.cpp. Résultat : de gros modèles chargent et le débit dépasse celui des PC à CPU classiques. Les inconvénients : la mémoire ne s'étend pas après l'achat, et les configurations à grande capacité coûtent cher (environ 900 à 5 000 € selon la mémoire). Choisissez la bonne capacité dès le départ.

Si vous avez déjà un vieux portable ou un Raspberry Pi, le 1,5B démarre dessus gratuitement. Comptez sur des réponses approximatives : c'est un banc d'essai, pas un outil de travail.

Ollama est un logiciel gratuit qui télécharge et lance des modèles en une commande. C'est le chemin le plus court pour un débutant. Les étapes sont les mêmes sur Windows, Mac et Linux.

1. Installez Ollama. Téléchargez l'installateur depuis le site officiel d'Ollama (Windows et Mac) ou utilisez le script d'installation sous Linux. Vous avez réussi quand la commande ollama --version affiche un numéro dans un terminal.
2. Ouvrez un terminal. Sous Windows, cherchez « PowerShell » ; sous Mac, « Terminal ».
3. Lancez un modèle. Tapez la commande suivante, qui télécharge puis démarre une distillation par défaut : ollama run deepseek-r1
4. Choisissez une taille adaptée à votre RAM. Ajoutez la taille après deux-points, par exemple ollama run deepseek-r1:7b pour le 7B, ou ollama run deepseek-r1:1.5b pour une très petite machine.
5. Posez une question. Quand le message d'invite apparaît, écrivez votre texte. Le modèle affiche d'abord son raisonnement, puis la réponse.
6. Quittez avec /bye.

Deux blocages classiques. Le premier : le téléchargement est long, car le fichier fait plusieurs gigaoctets. Laissez-le finir, il ne se refait pas ensuite. Le second : la machine ralentit ou se fige, signe que le modèle est trop gros pour votre RAM. Dans ce cas, relancez avec la taille inférieure. Pour travailler vraiment hors ligne, il suffit d'avoir fait le téléchargement une première fois : la commande ollama run deepseek-r1 relancera ensuite le modèle sans réseau.

Si la ligne de commande vous freine, d'autres outils font le même travail.

• LM Studio : une application avec fenêtres et boutons. Vous cherchez un modèle, vous cliquez sur télécharger, puis vous discutez. C'est le plus simple pour un débutant qui préfère la souris.
• llama.cpp : le moteur sur lequel reposent beaucoup d'outils, dont l'accélération Metal sur Mac. Il lit directement les fichiers GGUF. Il demande un peu plus de manipulations, mais offre le plus de réglages. Le nom Llama y désigne le moteur, pas un modèle précis.
• Msty : une application de bureau de chat avec plusieurs modèles, utile si vous aimez comparer les réponses.

Mon conseil : commencez par Ollama ou LM Studio, selon que vous préférez le clavier ou la souris. Vous pourrez changer plus tard, car les modèles restent des fichiers.

Le terminal fonctionne, mais une page web ressemblant à un chat est plus agréable. Open WebUI offre cela : une interface dans le navigateur qui se branche sur Ollama. Elle tourne dans Docker, un outil qui fait fonctionner un logiciel dans une « boîte » isolée, comme une application installée dans un conteneur étanche.

1. Installez Docker (Docker Desktop sous Windows et Mac). Vérifiez avec docker --version.
2. Vérifiez qu'Ollama tourne et qu'un modèle est déjà téléchargé.
3. Lancez Open WebUI avec la commande indiquée dans sa documentation officielle. Copiez-la telle quelle, car les options changent selon les versions.
4. Ouvrez le navigateur à l'adresse locale indiquée (de type localhost suivi d'un numéro de port). Créez un compte : il reste sur votre machine.
5. Choisissez le modèle DeepSeek-R1 dans la liste, puis discutez.

Si la liste de modèles est vide, c'est que Open WebUI ne trouve pas Ollama : vérifiez que ce dernier est lancé. Cette interface permet aussi d'envoyer des documents et de garder l'historique de vos conversations, le tout en local. Docker consomme un peu de RAM : sur une machine à 8 Go, c'est un point à surveiller.

DeepSeek V4-Flash est un modèle MoE de 284 milliards de paramètres, dont 13 milliards sont actifs à chaque étape. Il a un contexte de 1 million de tokens, une licence MIT et est sorti le 24 avril 2026. Le projet llama-modchip, publié sur GitHub, annonce le faire tourner sur 64 Go de RAM, sans GPU.

Cette prouesse est toute récente : prenez-la comme une démonstration de ce que la technique permet, non comme un réglage prêt à l'emploi. Les poids complets de ce modèle pèsent de l'ordre de 160 Go sur les offres hébergées : si vous voulez le tester sans rien installer, Ollama Cloud, l'API DeepSeek ou OpenRouter le proposent sans GPU local. L'API le facture 0,14 $ en entrée et 0,28 $ en sortie par million de tokens. Mais ces solutions envoient vos données à un tiers : on sort alors du mode hors ligne.

Pour un usage courant, restez sur les distillations. Le 284B est un terrain d'expérience pour curieux disposant de 64 Go de RAM et de patience.

Le calcul semble impossible : 284 milliards de paramètres, même en 4 bits, dépassent largement 64 Go. Trois idées expliquent l'astuce.

Les paramètres actifs

Un modèle MoE ressemble à un hôpital avec de nombreux spécialistes : pour chaque patient, seuls quelques-uns interviennent. Ici, 13 milliards de paramètres sur 284 sont actifs par mot. Le travail de calcul est donc proche de celui d'un modèle de 13B, pas de 284B. Cela aide la vitesse, mais pas la place : tous les spécialistes doivent rester disponibles quelque part.

La quantification poussée

Plus on réduit les bits par nombre, plus le fichier rétrécit. Descendre sous 4 bits fait gagner beaucoup de place, mais abîme la qualité : réponses moins précises, erreurs de raisonnement plus fréquentes. C'est le premier prix à payer.

Le chargement partiel

Il s'agit de ne garder en RAM que ce qui sert, et de lire le reste depuis le disque à la demande (technique dite de mappage mémoire). Un SSD rapide devient alors le deuxième étage de mémoire. Le second prix est la vitesse : chaque lecture sur disque est bien plus lente qu'un accès en RAM. Le dépôt GitHub de llama-modchip détaille la marche à suivre.

Un token est un morceau de mot : environ trois quarts d'un mot en français. La vitesse se mesure en tokens par seconde. En dessous de 2 à 3, on regarde le texte apparaître lentement ; vers 10, la lecture est confortable.

La vitesse dépend du CPU, de la mémoire et du modèle. Les ordres de grandeur à retenir :

• Petits modèles (1,5B, 7B) : fluides sur un mini PC récent, avec des réponses assez rapides pour le 7B.
• Modèles moyens (14B, 32B) : plus lents, mais utilisables pour des tâches où l'on peut attendre.
• Très gros modèles MoE sur 64 Go : lents, car une partie du modèle vient du disque. Prévoyez des délais de plusieurs secondes avant le premier mot.

Autre piège propre à DeepSeek-R1 : le modèle « réfléchit » avant de répondre, et ce raisonnement produit beaucoup de tokens. Une réponse courte peut donc prendre bien plus de temps qu'avec un modèle sans raisonnement. Côté qualité, les petites tailles perdent du terrain en code et en mathématiques. Un 7B répond vite, mais se trompe plus souvent qu'un 14B ou un 32B. Testez sur une tâche réelle avant de décider.

Quelques réglages simples font gagner de la vitesse sans changer de machine.

1. Choisissez le bon niveau de quantification. Le Q4 (ex. Q4_K_M) est un bon point de départ. Un niveau plus bas va plus vite mais abîme la qualité ; un niveau plus haut ralentit et prend plus de RAM.
2. Prenez un modèle plus petit. C'est le levier le plus efficace : un 7B va nettement plus vite qu'un 14B sur la même machine.
3. Réglez les threads. Un thread est une voie de calcul du processeur. Réglez-les environ sur le nombre de cœurs physiques, pas sur le nombre total affiché. Trop de threads peut ralentir.
4. Réduisez la taille du contexte. Le contexte est la mémoire de la conversation. Plus il est grand, plus il occupe de RAM et ralentit. 4 000 tokens suffisent pour la plupart des usages.
5. Libérez la mémoire. Fermez le navigateur et les applications lourdes. Si le système écrit dans le disque faute de RAM, tout devient très lent.
6. Branchez le secteur sur un portable : le mode économie d'énergie bride le processeur.

Vous saurez que ça marche quand le texte s'affiche sans à-coups. Changez un seul réglage à la fois pour savoir lequel aide.

La question revient souvent : DeepSeek en local est-il plus sûr que l'application officielle ou l'API ? Pour la confidentialité, oui, sans ambiguïté. Avec l'application ou l'API, vos textes sont envoyés à des serveurs distants, sous les règles de l'éditeur. En exécution locale, les calculs se font sur votre machine, et rien n'est envoyé tant que vous n'ajoutez pas de service en ligne.

Quelques précautions restent utiles :

• Téléchargez les modèles depuis des sources connues : le catalogue d'Ollama ou Hugging Face, de publieurs identifiés.
• Ne rendez pas Open WebUI accessible depuis Internet sans protection.
• Vérifiez que l'option « cloud » d'Ollama n'est pas activée si vous visez le mode DeepSeek hors ligne : l'offre cloud envoie vos requêtes à des serveurs distants.

Un modèle local peut aussi se tromper, comme tous les autres : il protège vos données, pas contre ses erreurs. Relisez ce qu'il produit.

L'IA locale déplace le pouvoir. Quand le modèle tourne chez vous, vous décidez quand le mettre à jour, quelles données lui donner et si vous le gardez. Un cabinet, une école ou une petite entreprise peuvent travailler sur des documents sensibles sans les confier à personne. C'est ce qu'on appelle la souveraineté des données : savoir où elles sont et qui y accède.

Les distillations de DeepSeek-R1 rendent cela accessible à presque tout le monde : un mini PC suffit pour le 7B, un Mac bien doté va plus loin. Des projets comme llama-modchip poussent la limite : si un modèle de 284B peut tourner sur 64 Go de RAM, la barrière du matériel recule encore, même si la vitesse reste le prix à payer. Dans la pratique, choisissez le plus petit modèle qui fait correctement votre tâche. Votre première étape : installez Ollama, lancez ollama run deepseek-r1:7b et jugez sur vos propres textes.