Sam Altman et l’IA locale : gaspillage de mémoire ?

Votre ordinateur a de la mémoire. Vous y faites tourner une IA. Est-ce un gaspillage ? Sam Altman estime que, dans un monde où la DRAM manque, multiplier les réserves individuelles peut être une mauvaise allocation des ressources. Le raisonnement se défend. Le verdict général, beaucoup moins.

Pour juger la formule, il faut regarder ce qu’il a dit, ce que la technique permet et ce que chacun cherche à obtenir. On peut préférer le cloud sans traiter un ordinateur personnel comme un entrepôt de mémoire mal géré.

Le propos vient du podcast Cheeky Pint, dans l’épisode « Why Sam Altman is against a single superintelligence », publié le 29 octobre 2026. Face à John Collison, le dirigeant d’OpenAI évoque ceux qui voient l’inférence locale, avec des modèles ouverts, comme une réponse aux besoins des centres de données. La transcription complète est disponible.

Il qualifie de « quite terrible », du point de vue de l’allocation mondiale, le fait que chacun garde dans son ordinateur une partie de la DRAM disponible, utilisée selon lui « 5% of the time ». Il plaide ensuite pour une utilisation maximale dans le cloud. Source : transcription de Cheeky Pint, épisode 39.

Le chiffre de 5 % est avancé par Altman, sans démonstration dans ce passage. Il ne faut pas le transformer en mesure générale de l’usage des PC. De même, « l’IA locale est un gaspillage de mémoire » résume une lecture journalistique de ses propos ; ce n’est pas une citation mot pour mot.

Son argument vise l’allocation de ressources rares. Il ne dit pas qu’il faudrait interdire la RAM dans les ordinateurs. Cette précision n’enlève rien au débat, elle évite de discuter pendant une heure d’une phrase que personne n’a prononcée.

L’infrastructure de l’IA demande des capacités considérables. OpenAI a annoncé avec Samsung et SK hynix un projet de montée en production de puces mémoire pour Stargate. C’est un engagement industriel annoncé, pas la preuve que tous les volumes visés sont déjà produits ou consommés.

Il faut aussi distinguer les produits. La RAM d’un PC, la VRAM d’une carte graphique et la mémoire haute bande passante des accélérateurs ne se remplacent pas comme des piles dans une télécommande. Elles mobilisent des chaînes industrielles liées, avec des contraintes différentes.

La tension sur l’offre explique que le sujet soit sensible. Elle ne suffit pas à calculer le prix de votre prochaine configuration. Les tarifs de détail dépendent aussi du pays, des stocks et du matériel choisi. Les fourchettes non relevées chez des vendeurs ne font pas un guide d’achat fiable.

Un service distant peut partager les poids d’un modèle entre plusieurs requêtes et les traiter par lots. Cela évite de charger une copie complète sur chaque poste. Quand la demande est bien répartie, ce fonctionnement peut améliorer l’utilisation du matériel.

Mais le serveur ne sert pas un nombre illimité de personnes avec la même empreinte mémoire. Chaque conversation demande aussi de conserver du contexte, notamment dans un cache KV. La documentation de vLLM décrit justement l’arbitrage entre mémoire disponible, taille des lots et nombre de requêtes simultanées. Un service peut également déployer plusieurs copies du modèle.

À l’inverse, un modèle local ne reste pas forcément chargé toute la journée. Ollama indique, dans sa documentation, que les modèles sont conservés en mémoire cinq minutes par défaut avant d’être déchargés. Ce délai est réglable. Et la RAM d’un ordinateur sert aussi à vos autres logiciels.

• Partager les poids peut économiser de la mémoire par rapport à des copies dispersées.
• La mémoire totale dépend aussi du contexte, du nombre de conversations et des répliques du service.
• Réutiliser un ordinateur déjà équipé n’a pas le même coût qu’acheter une nouvelle machine pour un usage occasionnel.

Le bon comparatif porte sur un service rendu : quel modèle, combien de requêtes, quel délai, quelle confidentialité ? Compter seulement les copies du modèle laisse une partie du problème de côté.

OpenAI vend notamment des abonnements et de l’accès à ses modèles par API. Son dirigeant a donc un intérêt économique à défendre l’infrastructure partagée. Il est normal d’en tenir compte. Cet intérêt ne rend pas automatiquement son raisonnement faux.

Il faut toutefois ajouter un fait qui gêne le récit d’un OpenAI systématiquement opposé au local : l’entreprise a aussi publié les modèles à poids ouverts gpt-oss. Dans son annonce du 5 août 2025, elle explique les avoir conçus pour être exécutés localement, sur appareil ou chez des fournisseurs tiers.

On peut critiquer la priorité donnée au cloud sans effacer ce contre-exemple. La vraie question est celle du choix laissé à l’utilisateur : peut-il faire tourner le modèle ailleurs, conserver ses données chez lui et changer de fournisseur sans tout reconstruire ?

La réaction est tentante : avant de reprocher leur consommation aux modèles locaux, pourquoi ne pas alléger les logiciels que tout le monde utilise ? Sur Hacker News, le 30 octobre 2026, le compte bugake invite Altman à financer du code plus efficace et cite notamment les navigateurs. C’est un commentaire identifiable, pas une étude.

L’idée mérite d’être discutée. Réduire la consommation des logiciels courants peut libérer de la mémoire sur beaucoup de machines. Mais aucun résultat vérifié ici ne permet d’annoncer combien de gigaoctets cela économiserait, ni de classer ce chantier devant tous les autres.

La qualité ne se résume pas à « local moins bon, cloud meilleur ». Comparez des modèles précis sur vos tâches. Un modèle accessible à distance peut aussi être un modèle ouvert ; un petit modèle local peut suffire à un travail ciblé. La taille et le lieu d’exécution ne remplacent pas un essai.

La taille du fichier du modèle donne un premier repère, pas le besoin total. Dans son exemple consacré à Llama 3.1, la documentation de llama.cpp indique 4,9 Go pour le modèle 8B en Q4_K_M et 43,1 Go pour le 70B dans le même format. Ces chiffres concernent le modèle quantifié, pas toute la session de travail.

Il faut ajouter les besoins du moteur d’inférence, le contexte de conversation et, pour une mémoire partagée, la place laissée au système et aux autres applications. Un 8B quantifié peut donc être adapté à une carte de 12 Go sans avoir intrinsèquement besoin de 12 Go. Un 70B quantifié sur une machine de 64 Go demande de regarder la mémoire réellement disponible et le contexte visé.

Ce que change la quantification

Quantifier consiste à représenter les poids avec moins de bits. Le fichier devient plus petit, ce qui rend davantage de modèles accessibles sur une machine personnelle. Le compromis dépend du format, du modèle et de la tâche : il peut y avoir une perte de qualité. Il faut la vérifier sur des exemples utiles, pas la supposer négligeable.

La capacité ne dit pas toute la vitesse

La bande passante mémoire compte beaucoup pendant certaines phases de génération. Mais le calcul, le moteur logiciel et le traitement initial du texte comptent aussi. vLLM distingue notamment une phase de préparation souvent limitée par le calcul et une génération souvent limitée par la mémoire. Une seule colonne « Go/s » ne suffit pas à désigner la machine gagnante.

Le local peut garder vos documents, vos notes et votre code sur votre machine. À une condition : que le traitement soit réellement local. Une interface installée sur le PC peut aussi appeler un modèle distant, lancer une recherche web ou transmettre des données à un connecteur.

La politique de confidentialité de LM Studio distingue ainsi les usages locaux de ses services cloud, notamment les modèles distants et la recherche web. Le nom du logiciel ou son installation sur votre disque ne suffit donc pas : vérifiez la fonction utilisée et les échanges qu’elle déclenche.

• Vérifiez où le modèle s’exécute et désactivez les fonctions distantes inutiles.
• Examinez les connecteurs, la synchronisation et les données envoyées par le logiciel.
• Protégez le poste, les sauvegardes et les accès : local ne veut pas dire invulnérable.
• Pour des données professionnelles sensibles, faites valider le dispositif et les obligations applicables.

Le cloud peut offrir des engagements de conservation, de sécurité et de non-réutilisation des données. Ils doivent être examinés, pas balayés comme de simples promesses. Le local apporte surtout la possibilité de choisir une architecture sans envoi du contenu à un prestataire, si l’ensemble de l’installation respecte ce choix.

Ces configurations servent à comprendre les différences de mémoire. Ce ne sont ni les quatre meilleurs achats du moment, ni un classement de vitesse. Les caractéristiques viennent des fabricants ; les prix actuels ne sont pas avancés sans relevé commercial.

Si vous voulez simplement un assistant occasionnel, commencez par une offre distante adaptée ou un petit modèle sur votre machine actuelle. Acheter un ordinateur entier pour répondre à quelques questions demande une justification autre que l’envie d’avoir une jolie fiche technique.

Si vous avez déjà un GPU ou assez de mémoire unifiée, essayez d’abord un modèle compatible. Mesurez la qualité, le délai des réponses et la mémoire occupée avec vos propres documents. Vous saurez ensuite ce qu’un achat supplémentaire vous apporterait.

Si vos données doivent rester sur votre poste, le local peut répondre à une contrainte que le prix seul ne mesure pas. Si vous avez besoin de gros modèles ou de beaucoup de requêtes, comparez le coût complet des deux approches, y compris le temps d’administration et la consommation. Une combinaison des deux peut aussi convenir.

Le point défendable chez Altman, c’est la recherche d’un meilleur taux d’utilisation. Ce qui manque au verdict de « gaspillage », c’est la valeur de l’autonomie, du fonctionnement hors ligne et du contrôle des données. De la mémoire occupée pour un usage utile ne devient pas inutile parce qu’elle se trouve dans votre bureau.

Sources consultées le 2 novembre 2026. Les spécifications matérielles sont des données fabricant, pas des mesures de performance réalisées pour cet article. Les réactions de forum sont présentées comme des opinions.

• Cheeky Pint, « Why Sam Altman is against a single superintelligence », entretien avec John Collison, 29 octobre 2026. Page de l’épisode : cheekypint.substack.com ; transcription intégrale : cheekypint.transistor.fm, épisode 39.
• Frandroid, Cassim Montilla, « C’est assez terrible : pour Sam Altman, la RAM de votre PC serait mieux dans un data center ». Recoupement du contexte : frandroid.com.
• OpenAI, « Introducing gpt-oss », 5 août 2025. Présentation des modèles à poids ouverts et de leur exécution locale : openai.com.
• OpenAI, « Samsung and SK join Stargate ». Annonce industrielle sur la production de mémoire : openai.com.
• Hacker News, commentaire de bugake du 30 octobre 2026, identifiant 50306586 : news.ycombinator.com.
• llama.cpp, documentation « quantize », tableau des tailles de Llama 3.1 en Q4_K_M : dépôt ggml-org/llama.cpp sur github.com.
• Ollama, FAQ, section sur le maintien et le déchargement des modèles en mémoire : docs.ollama.com.
• vLLM, documentation « Optimization and Tuning », cache KV, lots de requêtes et phases de calcul : docs.vllm.ai.
• LM Studio, politique de confidentialité de l’application, distinction entre traitement local et services cloud : lmstudio.ai.
• PNY, fiche GeForce RTX 3060 12GB XLR8 Gaming REVEL EPIC-X RGB Dual Fan : pny.com.
• AMD, fiche Radeon RX 7900 XTX, capacité et bande passante mémoire : amd.com.
• NVIDIA, livre blanc « NVIDIA Ada GPU Architecture », tableau des caractéristiques de la RTX 4090 : images.nvidia.com.
• Apple, « Mac Studio (2025), Caractéristiques techniques », référence 122211, variantes M4 Max : support.apple.com.