IA locale ou dans le cloud : que choisir pour travailler ?

L’IA locale séduit par une promesse simple : les documents restent sur votre ordinateur, le modèle fonctionne sans Internet et chaque requête ne génère pas une facture. Mais un modèle gratuit à exécuter ne produit pas forcément un résultat économique. Si vous passez du temps à corriger ses réponses, les économies d’abonnement peuvent disparaître en quelques journées de travail.

Réponse courte : un modèle de langage local est utile lorsque le traitement sur votre appareil ou le travail hors ligne est indispensable, à condition que sa qualité convienne à la tâche. Privilégiez un service cloud si son modèle et ses outils donnent un meilleur résultat exploitable et si ses conditions de traitement des données vous conviennent. Combiner les deux est pertinent lorsque vous avez défini quels contenus peuvent quitter votre infrastructure, et à quelle étape.

Nous comparons ici des assistants pour le texte, les documents et le code. La génération vidéo, le traitement audio et les autres usages demandent des tests distincts. Cet article s’appuie sur la documentation des produits, vérifiée le 27 septembre 2026. Nous n’avons pas réalisé de comparatif expérimental des modèles ; l’exemple chiffré ci-dessous est un calcul explicite fondé sur des hypothèses.

Qu’est-ce qui est réellement local ?

Dans cet article, l’IA locale désigne un modèle dont les calculs s’effectuent sur votre ordinateur ou un serveur que vous administrez. L’IA dans le cloud désigne un modèle exécuté pour vous par un prestataire externe. La fenêtre de l’application peut être identique dans les deux cas.

Un ordinateur portable équipé d’un modèle et un serveur dans vos locaux correspondent à deux configurations différentes. Le premier peut fonctionner hors ligne après préparation. Le second exige un accès réseau, mais peut être partagé par l’équipe. Louer un serveur et y installer soi-même un modèle constitue un autre cas : vous gérez le logiciel, tandis que le prestataire possède l’infrastructure physique. Le mot « local » ne décrit pas à lui seul toutes ces frontières.

LM Studio illustre cette distinction. Sa documentation indique que la conversation avec un modèle téléchargé et le traitement de documents peuvent fonctionner hors ligne. Pourtant, les modèles cloud et la recherche web de cette même application de bureau envoient des requêtes hors de l’appareil. Il faut donc vérifier le mode choisi et l’ensemble du processus.

• Fonctions hors ligne de LM Studio
• politique de confidentialité de l’application

Comparaison selon huit critères pratiques

Dans ce tableau, l’option locale correspond à un modèle sur votre ordinateur. Un serveur partagé ajoute des besoins d’accès réseau, de gestion des utilisateurs et de répartition de la charge.

Ce tableau sert à formuler vos exigences. Il ne prouve pas qu’une option sera plus rapide, moins chère ou plus précise sur vos documents.

Les usages où l’IA locale est utile

Garder le traitement dans votre infrastructure

Si les règles de votre équipe interdisent de transmettre des documents de travail à un service externe, le traitement local permet d’effectuer une tâche sans ce transfert. Par exemple, préparer une synthèse provisoire de notes internes ou classer des demandes. Le modèle et les composants qui lisent les fichiers sources doivent tous fonctionner localement.

Ce contrôle demande du travail : restreindre l’accès à l’ordinateur et aux dossiers, vérifier les sauvegardes et mettre à jour les logiciels. La présence d’un modèle sur le disque ne protège pas un document contre un autre utilisateur, un logiciel malveillant ou une synchronisation mal configurée.

Travailler sans connexion Internet

En déplacement ou avec une connexion instable, un assistant local peut continuer à réviser du texte et à répondre à partir des documents disponibles. Il faut télécharger à l’avance le modèle, les composants d’exécution et les documents. La recherche web, une base de connaissances distante et les autres fonctions réseau restent indisponibles sans connexion. La documentation de LM Studio décrit cette distinction entre fonctions locales et téléchargement des composants.

• documentation de LM Studio

Conserver une configuration éprouvée

Pour une opération répétitive, il peut être utile de conserver un modèle, ses paramètres et l’application dans une version précise. Le traitement régulier de fiches similaires peut compter davantage que l’accès au tout dernier modèle chaque semaine. Mais garder les fichiers ne garantit pas une réponse identique à chaque exécution : il faut vérifier le comportement avec les paramètres de génération et l’environnement.

Les modèles cloud peuvent aussi proposer des versions, dont la durée de disponibilité est fixée par le prestataire. Ollama annonce par exemple le retrait de certains modèles cloud et précise que cela n’affecte pas les modèles locaux déjà téléchargés.

• Documentation d’Ollama Cloud

Les contraintes de l’exécution locale

La première est la qualité sur une tâche précise. Un modèle qui tient aisément sur un portable peut rencontrer des difficultés avec du code complexe, un document long ou des instructions ambiguës. C’est une hypothèse à tester, pas une raison d’écarter tous les petits modèles. Une tâche bien délimitée peut demander moins de capacités qu’une conversation ouverte.

La deuxième est la mémoire et la charge de travail. La taille du fichier du modèle ne correspond pas à toute la mémoire nécessaire pendant son utilisation. Le traitement du contexte, les données de travail et les autres logiciels occupent également de la place. Pour les modèles de langage, le cache KV fait partie de ces besoins ; sa consommation dépend de l’architecture et de la stratégie de stockage. Documentation de Hugging Face sur le cache. Notre guide RAM, VRAM et contexte propose une explication détaillée et des calculs.

• Documentation de Hugging Face sur le cache
• guide RAM, VRAM et contexte

D’où une règle utile avant achat : la mention AI PC et un nombre de TOPS ne remplacent pas un test du modèle dans l’application choisie. La documentation AMD décrit, par exemple, plusieurs modes d’exécution sur CPU, GPU et NPU avec des composants logiciels distincts. La présence d’un NPU ne signifie pas que toute application l’utilisera automatiquement.

• Modes d’exécution LLM dans Ryzen AI Software

La troisième contrainte est votre temps. Même une application pratique ne supprime pas le choix du modèle, la vérification de sa licence, les mises à jour ou le dépannage. Dans une expérimentation personnelle, cela peut faire partie du plaisir. Dans un processus d’équipe, il faut désigner une personne responsable. Si personne ne s’en charge, mieux vaut recalculer les économies attendues.

Ce qu’apporte le cloud, et ses limites

Un service cloud permet de démarrer sans acheter de matériel pour le modèle. Il donne accès à des modèles et à des outils que vous ne pouvez pas ou ne souhaitez pas maintenir. Leur intérêt dépend de la tâche : pouvoir importer un fichier ou appeler un outil ne démontre pas que le résultat est correct.

En contrepartie, vous dépendez de l’accès au service, de ses limites et de ses évolutions. Un abonnement ne signifie pas nécessairement un usage illimité. Une API exige de contrôler les dépenses. Si le modèle change ou qu’une version disparaît, il faudra valider à nouveau le processus.

Pour un petit nombre de tâches variées, le cloud constitue souvent un point de départ pratique : vous pouvez vérifier l’intérêt avant d’investir dans du matériel. C’est un ordre de démarche, pas l’affirmation que le cloud coûte toujours moins cher. Avec une charge régulière et un équipement adapté déjà disponible, le calcul peut changer.

Confidentialité : quatre questions distinctes

Dire que « l’IA cloud s’entraîne sur tout ce que vous envoyez » est trop général. Anthropic indique, par exemple, ne pas utiliser par défaut les entrées et sorties de ses produits commerciaux, dont Claude for Work et l’API, pour l’entraînement. L’envoi de commentaires ou un consentement distinct peuvent modifier ces conditions. Les produits grand public suivent d’autres règles.

• Politique d’entraînement des produits commerciaux d’Anthropic

L’exclusion de l’entraînement ne précise pas, à elle seule, la durée de conservation. Pour décider où traiter vos données, posez quatre questions :

1. Qui traite les données ? Votre machine, votre serveur, ou un prestataire externe et ses sous-traitants ?
2. Que conserve-t-on, et combien de temps ? Fichiers sources, historique, journaux des requêtes et sauvegardes sont des objets différents.
3. Les contenus peuvent-ils servir à l’entraînement ? Vérifiez les règles de votre produit, de votre offre et des paramètres de retour utilisateur.
4. Quels services supplémentaires reçoivent le contenu ? Recherche web, reconnaissance de documents numérisés, outils externes et synchronisation peuvent avoir leurs propres conditions.

Même chez un seul prestataire, la conservation peut varier entre l’API, les fichiers importés et l’interface de conversation. Les dispositifs sans conservation peuvent ne couvrir que certaines fonctions et certains accords.

• Documentation d’Anthropic sur la conservation des données API

Pour un processus local, un contrôle simple consiste à ouvrir un document, poser une question et obtenir une réponse après avoir coupé le réseau. Cela montre que ce scénario fonctionne hors ligne. Cela ne prouve pas qu’aucune donnée ne sera envoyée au retour de la connexion. Ollama permet par exemple de désactiver ses fonctions cloud avec OLLAMA_NO_CLOUD=1, puis un redémarrage de l’application. Ce réglage ne contrôle pas les autres programmes de l’ordinateur.

• FAQ d’Ollama

Combien coûte un résultat exploitable ?

Comparez le même volume de travail en intégrant le temps humain. La formule mensuelle de base est : part des investissements initiaux + utilisation du service + énergie supplémentaire + maintenance + vérification et correction des réponses. Les dépenses identiques dans les deux options peuvent être exclues, à condition de le préciser.

Prenons un scénario hypothétique : une personne, 200 tâches par mois, un temps valorisé à 20 € de l’heure et une période de calcul de 36 mois. Ce ne sont ni des prix de produits ni des mesures. L’énergie et les heures sont des hypothèses d’illustration ; remplacez-les par vos données avant de décider.

Ce calcul suppose l’absence d’intégrations payantes supplémentaires, de matériel de secours et d’autres frais. Ajoutez-les si votre processus l’exige. Ne comptez pas un ordinateur déjà acheté comme un nouvel achat, mais incluez les mises à niveau et les ressources supplémentaires nécessaires au modèle. La valeur résiduelle du matériel n’est pas prise en compte ici.

Examinons maintenant la sensibilité du résultat : une minute supplémentaire de correction pour chacune des 200 tâches coûte 66,67 € par mois, au taux de 20 € de l’heure. C’est plus que l’écart entre les deux options du tableau. Nous ne supposons pas qu’un modèle local ou cloud demandera forcément cette minute. L’exemple montre pourquoi la qualité peut peser davantage que le prix d’accès.

Un indicateur final utile est le coût par résultat accepté : divisez toutes les dépenses du volume comparé, y compris les tentatives infructueuses et les corrections, par le nombre de résultats ayant passé vos contrôles. S’il n’y en a aucun, ce coût n’est pas défini : le processus ne remplit pas encore sa fonction.

Tester les deux options avant d’acheter du matériel

Pour un premier essai, vous pouvez retenir 12 tâches représentatives : quatre d’extraction de faits, quatre de rédaction ou de révision et quatre de raisonnement ou de code. C’est un point de départ pratique, pas une norme statistiquement validée. Adaptez les proportions à votre activité et n’utilisez que des contenus que les deux options sont autorisées à traiter.

Ne choisissez pas uniquement des questions simples. Ajoutez un document contradictoire, une question sans réponse dans les sources et une tâche où l’erreur peut passer inaperçue. Pour extraire un délai de livraison, notez d’abord le délai correct et sa source. Pour réviser un courriel, listez les faits à préserver. Pour du code, préparez une vérification du comportement attendu.

1. Consignez les conditions. Nom et version du modèle, configuration locale et quantification, application, contexte disponible, outils et mode. Pour le cloud : offre ou API, mode choisi et date.
2. Fournissez les mêmes sources. Pour comparer des modèles, alignez l’accès à la recherche et aux outils. Pour comparer des processus complets, conservez les différences utiles et décrivez-les clairement.
3. Mesurez l’attente. Distinguez la première requête, lorsque le modèle n’est pas encore chargé, des suivantes. Répétez le scénario plusieurs fois ; une exécution rapide ne représente pas une journée de travail.
4. Appliquez des critères définis à l’avance. Notez les erreurs critiques, l’acceptation ou le refus du résultat et les minutes de correction. Une belle présentation ne doit pas masquer un fait erroné.
5. Calculez les coûts et testez une situation exigeante. Par exemple, un long document avec vos logiciels habituels ouverts, ou un serveur partagé entre plusieurs personnes. Testez séparément le fonctionnement hors ligne si vous en avez besoin.

Le nombre de tokens par seconde aide au diagnostic technique, mais ne mesure pas le délai jusqu’à un résultat exploitable. L’API Ollama fournit notamment des durées distinctes pour le chargement du modèle, le traitement de l’entrée et la génération. Il faut mesurer en plus la vérification humaine et le temps total de la tâche.

• Métriques de l’API Ollama

Notre fiche de comparaison entre IA locale et cloud comprend les conditions du test, une fiche de tâche et un journal des résultats. Elle est vierge : aucune note de modèle n’a été inventée. Pour une première installation locale, consultez le guide Ollama.

• fiche de comparaison entre IA locale et cloud
• guide Ollama

Quand combiner IA locale et cloud

Un processus mixte est utile lorsque les étapes ont des exigences différentes de qualité et de traitement des données. Un rapport interne peut, par exemple, être traité localement. Une personne prépare ensuite une note dont le traitement externe est autorisé, puis le modèle cloud aide à rédiger un texte public. Le résultat est enfin vérifié à partir des faits d’origine.

La difficulté tient au contenu de cette note intermédiaire. Supprimer les noms ne suffit pas si elle conserve des chiffres confidentiels, des conditions commerciales ou d’autres informations sensibles. Ne transmettez que les contenus effectivement autorisés à un traitement externe. Sinon, la tâche reste dans l’infrastructure autorisée ou est réalisée par une personne.

Cette combinaison a ses propres coûts : deux ensembles d’outils, des passages de résultats de l’un à l’autre et une vérification des contenus intermédiaires. Si une seule approche répond bien au besoin, inutile d’en ajouter une deuxième pour la seule architecture.

Par quelle option commencer ?

Commencez par un modèle local si le travail hors ligne ou le traitement dans votre infrastructure est obligatoire. Testez d’abord la tâche sur le matériel disponible. Si la qualité ne convient pas, déterminez s’il faut changer de modèle, de processus ou d’équipement : une contrainte sur les données ne rend pas une réponse médiocre exploitable.

Commencez par un service cloud si le traitement externe est acceptable, les tâches variées et que vous souhaitez évaluer rapidement l’utilité de l’outil. Comparez le résultat à votre méthode actuelle et fixez un plafond de dépenses clair.

Combinez les options lorsqu’une frontière précise est définie : quelles sources restent en interne, ce qui peut être transmis et qui contrôle le passage entre les étapes. L’achat d’un « ordinateur pour l’IA » se discute ensuite, une fois le modèle, la charge et les exigences de résultat identifiés.