Aller au contenu

Guide · photo de juillet 2026

Quels modèles d'IA roulent
vraiment sur ta machine?

Ce guide explique, en langage simple, quels modèles d'intelligence artificielle fonctionnent directement sur un ordinateur ou un petit serveur — sans passer par le nuage. L'avantage : tes données ne quittent jamais ta machine. Pour un professionnel, ça veut dire qu'un dossier client, un relevé ou un enregistrement de rencontre reste privé. Prix en CAD, à jour en juillet 2026 — ce domaine évolue vite.

En bref

En juillet 2026, les modèles d'IA locale utiles au bureau vont de 2,4 Go (Qwen3.5-4B) à ~81 Go (Qwen3.5-122B) : un MacBook Pro M5 Pro 48 Go fait rouler confortablement la classe 35B MoE recommandée (Ornith 1.0, Qwen3.5-35B-A3B), un PC RTX 4090 24 Go y arrive en Q4, et la transcription (Cohere Transcribe, ~5 Go) passe presque partout. La mémoire disponible décide de tout.

La notion clé : la mémoire détermine tout

Un modèle d'IA doit tenir en entier dans la mémoire rapide de la machine. C'est comme un bureau de travail : si le document est trop gros pour tenir dessus, tout ralentit.

  • Sur Windows, cette mémoire est la VRAM de la carte graphique — séparée et limitée (12, 16, 24 ou 32 Go). Si le modèle ne rentre pas entièrement, la performance chute de 10 à 30 fois.
  • Sur Mac, la mémoire est unifiée : le processeur et la puce graphique partagent le même réservoir. Un Mac 64 Go peut consacrer presque tout au modèle. Avantage structurel majeur.
  • Sur les petits serveurs comme le DGX Spark : mémoire unifiée aussi (128 Go), donc de très gros modèles possibles.

Deux termes utiles :

  • Quantification (Q4, Q5, Q8) : compression du modèle pour qu'il prenne moins de place. Q4 est le standard (bon équilibre qualité/taille); Q8 est plus fidèle mais deux fois plus lourd.
  • MoE (mélange d'experts) : le modèle contient beaucoup de connaissances mais n'en active qu'une petite partie à chaque mot — la qualité d'un gros modèle à la vitesse d'un petit. Attention : le modèle complet doit quand même tenir en mémoire. Le MoE économise du calcul, pas de la mémoire.

Les modèles couverts

Ornith 1.0 — spécialiste du coding agentique (DeepReinforce, MIT)

Sorti le 25 juin 2026. Conçu pour le coding agentique : il ne se contente pas d'écrire du code, il planifie, lance des outils, teste et corrige seul. Note terrain : sur un MacBook Pro M5 Max, Ornith 1.0 35B surpasse Qwen3.6 pour le coding et les workflows agentiques — la valeur de la spécialisation. Licence MIT, usage commercial sans restriction. Disponible en GGUF (Ollama, LM Studio).

ModèleMémoire Q4SWE-BenchPour qui
Ornith-1.0-9B~6 Go69,4Point d'entrée, machines modestes
Ornith-1.0-31B~20 GoDense, stable
Ornith-1.0-35B MoE~25 Go75,6Recommandé pour la majorité
Ornith-1.0-397B MoE~200 Go FP882,4Serveurs, production

Qwen3.5 / Qwen3.6 — le généraliste multimodal (Alibaba, Apache 2.0)

Excellent en français, multimodal, contexte de 262 000 tokens. Là où Ornith excelle sur le code, Qwen est imbattable pour le langage : résumés, questions sur des documents, analyse de contrats, rédaction. Qwen3.6 a la même empreinte mémoire que 3.5 — remplacement direct.

ModèleMémoire Q4Pour qui
Qwen3.5/3.6-4B~2,4 GoMachines très modestes, tâches simples
Qwen3.5/3.6-9B~5,5 GoPoint d'entrée sérieux
Qwen3.5/3.6-27B~16,5 GoExcellent all-rounder, tient sur 24 Go
Qwen3.5/3.6-35B-A3B MoE~21-22 GoLa vedette : qualité 35B, vitesse 3B
Qwen3.5/3.6-122B-A10B MoE~74-81 GoClasse frontière, bat GPT-5 mini en tool use
Qwen3.5/3.6-397B MoE~242 GoServeurs très puissants

Qwen pour : documents, dossiers, rédaction, résumés. Ornith pour : code, automatisation, agents, scripts.

Cohere Transcribe — la transcription vocale (Apache 2.0)

Nº 1 du Open ASR Leaderboard (Hugging Face) : 5,42 % d'erreur contre 7,44 % pour Whisper Large v3. 14 langues dont le français, ~5 Go, roule sur presque n'importe quel matériel récent, ~525 minutes d'audio transcrites par minute. Limites à connaître : pas d'identification des locuteurs ni d'horodatage natif, et il est entraîné surtout sur du français européen — teste-le avec tes propres enregistrements québécois, surtout si tu alternes français-anglais dans la même phrase.

Les valeurs sûres classiques

  • Llama 3.3 70B (Meta) : ~40-43 Go en Q4. Généraliste éprouvé, le plus grand écosystème. Exige deux GPU ou un Mac à grande mémoire.
  • Mistral Small 24B (Mistral) : ~13-14 Go en Q4. Excellent en français, tient sur 16 Go.

Mac — la mémoire unifiée, le grand avantage

✅ fonctionne bien · 🟡 fonctionne mais serré ou lent · ❌ ne fonctionne pas. Le format MLX (natif Apple) est ~10-15 % plus économe que GGUF et souvent 15-30 % plus rapide.

MacBook Air M4 (sans ventilateur — idéal transcription et petits modèles)

Modèle16 Go32 Go
Cohere Transcribe
Qwen3.5-9B / Ornith-1.0-9B
Qwen3.5-27B
Mistral Small 24B🟡
Qwen3.5-35B-A3B / Ornith-1.0-35B🟡
Llama 3.3 70B

MacBook Pro M5 Pro

Modèle24 Go48 Go
Cohere Transcribe
Qwen3.5-27B
Qwen3.5-35B-A3B MoE
Ornith-1.0-35B MoE🟡
Llama 3.3 70B (Q4)🟡
Qwen3.5-122B-A10B

MacBook Pro M5 Max

Modèle48 Go64 Go128 Go
Cohere Transcribe
Qwen3.5-35B-A3B
Ornith-1.0-35B MoE
Llama 3.3 70B (Q4)🟡
Qwen3.5-122B-A10B (~74-81 Go)
Qwen3.5-397B

Le M5 Max 128 Go est le seul laptop capable de charger le Qwen3.5-122B-A10B — un modèle de classe frontière qui surpasse GPT-5 mini de 30 % sur le tool use.

Mac mini M4 / M4 Pro et Mac Studio

Modèlemini M4 (16-32 Go)mini M4 Pro (24-64 Go)Studio M4 Max (128 Go)Studio Ultra (192-256 Go)
Cohere Transcribe
Qwen3.5-27B🟡 (32 Go)
Ornith-1.0-35B / Qwen3.5-35B-A3B✅ (48-64 Go)
Llama 3.3 70B🟡 (64 Go)
Qwen3.5-122B-A10B
Qwen3.5-397B✅ (256 Go+)

Le Mac mini M4 Pro (jusqu'à 64 Go) est un excellent petit poste de travail IA à prix abordable.

Windows grand public — la VRAM décide

✅ fonctionne bien · 🟡 fonctionne mais serré ou lent · ❌ ne fonctionne pas. Rappel : le modèle doit tenir entièrement dans la VRAM, sinon la performance chute de 10 à 30 fois.

ModèleRTX 4070 (12 Go)
PC ~1 500-2 000 $
RTX 5060 Ti (16 Go)
PC ~1 500-2 000 $
RTX 4090 (24 Go)
PC ~3 000-4 000 $
RTX 5090 (32 Go)
PC ~4 500-6 000 $
Cohere Transcribe
Qwen3.5-9B / Ornith-1.0-9B
Mistral Small 24B🟡
Qwen3.5-27B🟡✅ (Q4)✅ (Q8)
Qwen3.5-35B-A3B✅ (Q4)
Ornith-1.0-35B🟡 (très serré)
Llama 3.3 70B🟡 (Q3 serré)
Qwen3.5-122B-A10B

La carte 16 Go est nettement plus utile que la 12 Go. La RTX 5090 (1,79 To/s de bande passante — presque 3× le M5 Max) excelle jusqu'à 32B, mais même 32 Go ne suffisent pas pour un 70B propre : c'est la limite structurelle du GPU discret face à la mémoire unifiée d'Apple.

Les petits serveurs de bureau

  • NVIDIA DGX Spark (~7 348 $) — 128 Go de mémoire unifiée, jusqu'à ~200 milliards de paramètres. Point faible important : bande passante de 273 Go/s seulement — un Llama 3.3 70B dense y génère ~2-3 tokens/seconde en conversation. Il brille sur les modèles MoE et le traitement en lot. Linux seulement (DGX OS).
  • PC serveur double RTX 4090 (48 Go VRAM) — le Llama 3.3 70B en Q4 à ~10-15 tokens/seconde. Solution éprouvée pour les modèles denses jusqu'à 70B.
  • Mac Studio M4 Ultra (192 Go) — ~819 Go/s de bande passante : charge sans effort le 122B-A10B et le 70B en pleine précision. Silencieux, économe, nettement plus rapide que le DGX Spark sur les gros modèles.

La matrice de recommandation

BesoinMatériel conseilléModèle suggéré
Transcrire des rencontres client en françaisMac 16 Go ou PC avec GPU 8 Go+Cohere Transcribe
Assistant texte quotidien (résumés, documents)MacBook Pro M5 Pro 48 Go ou Mac mini M4 Pro 64 GoQwen3.5-35B-A3B
Coding agentique, automatisation, agents locauxMacBook Pro M5 Max, Mac Studio ou PC RTX 4090+Ornith-1.0-35B MoE
Budget minimal, découverteMacBook Air M4 16 Go ou PC RTX 5060 Ti 16 GoQwen3.5-9B ou Ornith-1.0-9B
Le meilleur poste fixe abordablePC RTX 4090 24 Go ou Mac mini M4 Pro 64 GoQwen3.5-35B-A3B ou Ornith-1.0-35B
Charger la classe frontière (122B) en localMacBook Pro M5 Max 128 Go ou Mac StudioQwen3.5-122B-A10B
Laboratoire IA partagé pour une équipeNVIDIA DGX Spark 128 GoModèles jusqu'à 122B
70B dense rapide pour plusieurs utilisateursPC double RTX 4090 ou Mac Studio UltraLlama 3.3 70B

Mises en garde

  • Les prix fluctuent. Une pénurie de mémoire GPU en 2026 a poussé les cartes au-dessus du prix officiel. Vérifie avant d'acheter.
  • Benchmarks des fabricants. Les scores Ornith et Qwen viennent en partie de leurs propres évaluations. Teste sur tes propres tâches avant la production.
  • La quantification a un coût. Un 27B en Q4 est souvent meilleur qu'un 70B en Q2. Ne force pas un modèle trop gros.
  • La spécialisation bat parfois la taille. Ornith-1.0-35B, spécialisé code, surpasse Qwen3.6 35B en programmation. Pour le texte général, l'inverse peut être vrai.
  • Cohere Transcribe et le québécois. Entraîné surtout sur du français européen; l'alternance FR-EN dans une phrase peut poser problème. Teste avec tes enregistrements.
  • Ce domaine évolue très vite. Ce guide est une photo de juillet 2026.

C'est cette classe de modèles — celle qui roule sur un très bon poste de travail — qui motorise les modules souverains gérés de Luge : des petites étapes vérifiées, sur infrastructure canadienne, pour la Loi 25 et la LPRPDE. Pis si tu veux les rouler toi-même : télécharge Luge, le catalogue est dans l'app.