IA locale ou dans le cloud : que choisir pour travailler ?

L’IA locale séduit par une promesse simple : les documents restent sur votre ordinateur, le modèle fonctionne sans Internet et aucune requête ne vous est facturée. Mais un modèle gratuit à faire tourner ne donne pas forcément un résultat bon marché. Si vous passez du temps à corriger ses réponses, l’économie réalisée sur l’abonnement peut fondre en quelques journées de travail.

Réponse courte : un modèle de langage local est utile lorsque le traitement sur votre appareil ou le travail hors ligne est indispensable, à condition que sa qualité convienne à la tâche. Privilégiez un service cloud si son modèle et ses outils donnent un meilleur résultat exploitable et si ses conditions de traitement des données vous conviennent. Combiner les deux est pertinent lorsque vous avez défini quels contenus peuvent quitter votre infrastructure, et à quelle étape.

Ce guide compare des assistants pour le texte, les documents et le code à partir des documentations produit vérifiées le 3 octobre 2026. Nous n’avons pas réalisé de test comparatif des modèles. La partie budget distingue les tarifs et tailles publiés des coûts de matériel, d’énergie et de temps humain à mesurer dans votre contexte.

Qu’est-ce qui est réellement local ?

Dans cet article, l’IA locale désigne un modèle dont les calculs s’effectuent sur votre ordinateur ou sur un serveur que vous administrez. L’IA dans le cloud désigne un modèle exécuté pour vous par un prestataire externe. La fenêtre de l’application peut être identique dans les deux cas.

Un ordinateur portable faisant tourner un modèle et un serveur installé dans vos locaux ne relèvent pas de la même configuration. Le premier, une fois préparé, fonctionne hors ligne. Le second exige un accès réseau, mais toute l’équipe peut le partager. Louer un serveur pour y installer soi-même un modèle constitue encore un autre cas : vous gérez le logiciel, tandis que le prestataire possède l’infrastructure physique. Le mot « local » résume mal toutes ces frontières.

LM Studio illustre cette distinction. Sa documentation indique que la conversation avec un modèle téléchargé et le traitement de documents peuvent fonctionner hors ligne. Pourtant, les modèles cloud et la recherche web de cette même application de bureau envoient des requêtes hors de l’appareil. Vérifiez donc le mode choisi et le parcours des données d’un bout à l’autre.

• Fonctions hors ligne de LM Studio
• Politique de confidentialité de l’application LM Studio

Comparaison selon huit critères pratiques

Dans ce tableau, l’option locale correspond à un modèle sur votre ordinateur. Un serveur partagé ajoute des besoins d’accès réseau, de gestion des utilisateurs et de répartition de la charge.

Ce tableau sert à formuler vos exigences. Il ne dit pas quelle option sera la plus rapide, la moins chère ou la plus précise sur vos documents.

Les usages où l’IA locale est utile

Garder le traitement dans votre infrastructure

Si les règles de votre équipe interdisent de transmettre des documents de travail à un service externe, le traitement local évite ce transfert : préparer une synthèse provisoire de notes internes, par exemple, ou classer des demandes. Le modèle et les composants qui lisent les fichiers sources doivent tous fonctionner localement.

Ce contrôle demande du travail. Il faut restreindre l’accès à l’ordinateur et aux dossiers, vérifier les sauvegardes et mettre à jour les logiciels. Avoir le modèle sur son disque ne protège pas un document contre un autre utilisateur, un logiciel malveillant ou une synchronisation mal configurée.

Travailler sans connexion Internet

En déplacement ou avec une connexion instable, un assistant local peut continuer à réviser du texte et à répondre à partir des documents disponibles. Il faut télécharger à l’avance le modèle, les composants d’exécution et les documents. La recherche web, une base de connaissances distante et les autres fonctions réseau restent indisponibles sans connexion. La documentation de LM Studio décrit cette distinction entre fonctions locales et téléchargement des composants.

• Documentation hors ligne de LM Studio

Conserver une configuration éprouvée

Pour une opération répétitive, il peut être utile de conserver un modèle, ses paramètres et l’application dans une version précise. Traiter régulièrement des fiches similaires peut compter davantage que disposer chaque semaine du tout dernier modèle. Garder les fichiers ne garantit pourtant pas une réponse identique à chaque exécution : il faut vérifier le comportement avec les paramètres de génération et l’environnement.

Les modèles cloud ont eux aussi des versions, mais c’est le prestataire qui décide combien de temps elles restent disponibles. Ollama annonce par exemple le retrait de certains modèles cloud et précise que cela n’affecte pas les modèles locaux déjà téléchargés.

• Documentation d’Ollama Cloud

Les contraintes de l’exécution locale

La première est la qualité sur une tâche précise. Un modèle qui tient aisément sur un portable peut peiner sur du code complexe, un document long ou des instructions ambiguës. C’est une hypothèse à tester. Elle ne justifie pas d’écarter tous les petits modèles : une tâche bien délimitée peut demander moins de capacités qu’une conversation ouverte.

La deuxième tient à la mémoire vive et à la charge de travail. La taille du fichier du modèle ne représente qu’une partie de la mémoire consommée à l’exécution : le traitement du contexte, les tampons de travail et vos autres logiciels occupent eux aussi de l’espace. Pour les modèles de langage, le cache KV pèse directement sur ce budget selon l’architecture et la stratégie de stockage retenues, comme le détaille la documentation de Hugging Face ; notre guide sur la RAM, la VRAM et le contexte en présente le calcul pas à pas.

• Documentation de Hugging Face sur le cache KV
• Guide RAM, VRAM et contexte

D’où une règle avant tout achat : la mention « AI PC » et un chiffre en TOPS ne remplacent pas un test du modèle dans l’application choisie. La documentation d’AMD décrit, par exemple, plusieurs modes d’exécution sur CPU, GPU et NPU reposant sur des composants logiciels distincts. La présence d’un NPU ne signifie pas que toute application l’utilisera automatiquement.

• Modes d’exécution LLM dans Ryzen AI Software

La troisième contrainte est votre temps. Même une application pratique ne supprime pas le choix du modèle, la vérification de sa licence, les mises à jour ou le dépannage. Dans une expérimentation personnelle, cela peut faire partie du plaisir. Dans un processus d’équipe, quelqu’un doit en avoir la charge. Faute de responsable, mieux vaut recalculer les économies attendues.

Ce qu’apporte le cloud, et ses limites

Un service cloud permet de démarrer sans acheter de matériel pour le modèle. Il donne accès à des modèles et à des outils que vous ne pouvez pas ou ne souhaitez pas maintenir. Leur intérêt dépend de la tâche. Pouvoir importer un fichier ou appeler un outil ne dit rien de l’exactitude du résultat.

En contrepartie, vous dépendez de l’accès au service, de ses limites et de ses évolutions. Un abonnement ne signifie pas nécessairement un usage illimité. Une API exige de contrôler les dépenses. Si le modèle change ou qu’une version disparaît, il faudra valider à nouveau le processus.

Pour un petit nombre de tâches variées, le cloud est souvent un bon point de départ, puisqu’il permet de vérifier l’intérêt avant d’investir dans du matériel. Il s’agit de l’ordre des étapes. Nous n’affirmons pas que le cloud coûte toujours moins cher. Avec une charge régulière et un équipement adapté déjà disponible, le calcul peut changer.

Confidentialité : quatre questions distinctes

Dire que « l’IA cloud s’entraîne sur tout ce que vous envoyez » est trop général. Anthropic indique, par exemple, ne pas utiliser par défaut les entrées et sorties de ses produits commerciaux, dont Claude for Work et l’API, pour l’entraînement. L’envoi de commentaires ou un consentement distinct peuvent modifier ces conditions. Les produits grand public suivent d’autres règles.

• Politique d’entraînement des produits commerciaux d’Anthropic

L’exclusion de l’entraînement ne précise pas, à elle seule, la durée de conservation. Pour décider où traiter vos données, posez quatre questions :

1. Qui traite les données ? Votre machine, votre serveur, ou un prestataire externe et ses sous-traitants ?
2. Que conserve-t-on, et combien de temps ? Fichiers sources, historique, journaux des requêtes et sauvegardes sont des objets différents.
3. Les contenus peuvent-ils servir à l’entraînement ? Vérifiez les règles de votre produit, de votre offre et des paramètres de retour utilisateur.
4. Quels services supplémentaires reçoivent le contenu ? Recherche web, reconnaissance de documents numérisés, outils externes et synchronisation peuvent avoir leurs propres conditions.

Même chez un seul prestataire, la conservation peut varier entre l’API, les fichiers importés et l’interface de conversation. Les dispositifs sans conservation peuvent ne couvrir que certaines fonctions et certains accords.

• Documentation d’Anthropic sur la conservation des données API

Pour un processus local, un contrôle simple consiste à ouvrir un document, poser une question et obtenir une réponse après avoir coupé le réseau. Vous saurez ainsi que ce scénario fonctionne hors ligne. Rien ne prouve en revanche qu’aucune donnée ne partira au retour de la connexion. Ollama permet par exemple de désactiver ses fonctions cloud en définissant OLLAMA_NO_CLOUD=1 puis en redémarrant l’application, mais ce réglage ne contrôle pas les autres programmes de l’ordinateur.

• FAQ d’Ollama

Combien coûte un résultat exploitable ?

Comparez le même volume de travail en intégrant le temps humain. La formule mensuelle de base est : part des investissements initiaux + utilisation du service + énergie supplémentaire + maintenance + vérification et correction des réponses. Les dépenses identiques dans les deux options peuvent être exclues, à condition de le préciser.

Quelques données sont publiques : au 3 octobre 2026, le tarif API de base de Claude Sonnet 5.5 s’élève à 2 USD en entrée et 10 USD en sortie par million de tokens, tandis que les fichiers Qwen2.5-7B-Instruct Q4_K_M totalisent 4,683 GB. Ce volume de téléchargement ne détermine ni le prix du matériel ni la mémoire requise à l’exécution.

Ce tableau ne compare pas la qualité de Qwen et Claude et ne donne pas une facture mensuelle. Il faut le modèle, la charge et les résultats du pilote. Ne comptez pas un ordinateur existant comme un nouvel achat ; isolez les mises à niveau nécessaires au modèle.

Surcoût mensuel de vérification = nombre de tâches × minutes supplémentaires / 60 × coût horaire. Utilisez des minutes mesurées. Ni la taille des fichiers ni le tarif des tokens ne révèle quel outil demandera moins de corrections.

• Anthropic — tarifs de l’API Claude
• Qwen — fichiers GGUF officiels
• Qwen — tailles en octets et SHA-256 · JSON

Pour finir, calculez le coût par résultat accepté : divisez toutes les dépenses du volume comparé, y compris les tentatives infructueuses et les corrections, par le nombre de résultats ayant passé vos contrôles. S’il n’y en a aucun, il n’y a rien à diviser : le processus ne remplit pas encore sa fonction.

Tester les deux options avant d’acheter du matériel

Pour un premier essai, vous pouvez retenir 12 tâches représentatives : quatre d’extraction de faits, quatre de rédaction ou de révision et quatre de raisonnement ou de code. C’est un point de départ pratique, sans prétention statistique. Adaptez les proportions à votre activité et n’utilisez que des contenus que les deux options sont autorisées à traiter.

Des questions simples ne suffisent pas. Ajoutez un document contradictoire, une question sans réponse dans les sources et une tâche où l’erreur peut passer inaperçue. Pour extraire un délai de livraison, notez d’abord le délai correct et sa source. Pour réviser un courriel, listez les faits à préserver. Pour du code, préparez une vérification du comportement attendu.

1. Consignez les conditions. Nom et version du modèle, configuration locale et quantification, application, contexte disponible, outils et mode. Pour le cloud : offre ou API, mode choisi et date.
2. Fournissez les mêmes sources. Pour comparer des modèles, alignez l’accès à la recherche et aux outils. Pour comparer des processus complets, conservez les différences utiles et décrivez-les clairement.
3. Mesurez l’attente. Distinguez la première requête, lorsque le modèle n’est pas encore chargé, des suivantes. Répétez le scénario plusieurs fois ; une exécution rapide ne représente pas une journée de travail.
4. Appliquez des critères définis à l’avance. Notez les erreurs critiques, l’acceptation ou le refus du résultat et les minutes de correction. Une belle présentation ne doit pas masquer un fait erroné.
5. Calculez les coûts et testez une situation exigeante. Par exemple, un long document avec vos logiciels habituels ouverts, ou un serveur partagé entre plusieurs personnes. Testez séparément le fonctionnement hors ligne si vous en avez besoin.

Le nombre de tokens par seconde aide au diagnostic technique, mais ne mesure pas le délai jusqu’à un résultat exploitable. L’API Ollama fournit notamment des durées distinctes pour le chargement du modèle, le traitement de l’entrée et la génération. La vérification humaine et le temps total de la tâche, eux, restent à mesurer par vos soins.

• Métriques de l’API Ollama

Notre fiche de comparaison entre IA locale et cloud comprend les conditions du test, une fiche de tâche et un journal des résultats. Elle est vierge : aucune note de modèle n’a été inventée. Pour une première installation locale, consultez le guide Ollama.

• Fiche de comparaison entre IA locale et cloud
• Guide Ollama : exécuter un modèle de code en local

Quand combiner IA locale et cloud

Un processus mixte est utile lorsque les étapes ont des exigences différentes de qualité et de traitement des données. Un rapport interne peut, par exemple, être traité localement. Une personne prépare ensuite une note dont le traitement externe est autorisé, puis le modèle cloud aide à rédiger un texte public. Le résultat est enfin vérifié à partir des faits d’origine.

La difficulté tient au contenu de cette note intermédiaire. Supprimer les noms ne suffit pas si elle conserve des chiffres confidentiels, des conditions commerciales ou d’autres informations sensibles. Ne transmettez que les contenus effectivement autorisés à un traitement externe. Sinon, la tâche reste dans l’infrastructure autorisée ou est réalisée par une personne.

Cette combinaison a ses propres coûts : deux ensembles d’outils, des passages de résultats de l’un à l’autre et une vérification des contenus intermédiaires. Si une seule approche répond bien au besoin, inutile d’en ajouter une deuxième pour le plaisir de l’architecture.

Par quelle option commencer ?

Commencez par un modèle local si le travail hors ligne ou le traitement dans votre infrastructure est obligatoire. Testez d’abord la tâche sur le matériel disponible. Si la qualité ne convient pas, déterminez s’il faut changer de modèle, de processus ou d’équipement. Une contrainte sur les données ne rend pas exploitable une réponse médiocre.

Commencez par un service cloud si le traitement externe est acceptable, les tâches variées et que vous souhaitez évaluer rapidement l’utilité de l’outil. Comparez le résultat à votre méthode actuelle et fixez un plafond de dépenses clair.

Combinez les options lorsqu’une frontière précise est définie : quelles sources restent en interne, ce qui peut être transmis et qui contrôle le passage entre les étapes. L’achat d’un « ordinateur pour l’IA » se discute ensuite, une fois le modèle, la charge et les exigences de résultat identifiés.