Indispensables au fonctionnement du site (session, préférences, sécurité). Toujours actifs.
Quel modèle IA votre matériel peut-il faire tourner ?
Choisissez un modèle, un niveau de quantisation et le nombre d'utilisateurs simultanés : obtenez une estimation honnête de la mémoire nécessaire, quels GPU ou Mac suffisent vraiment, et si acheter du matériel est plus rentable que payer par token d'API. Rien n'est envoyé à un serveur : tout se calcule dans votre navigateur.
1. Configurer
- Qwen3.6-35B-A3B
- Gemma 4 26B-A4B
- Qwen3.8-27B
- Gemma 4 31B
- Mistral Small 4
- Qwen3.5-122B-A10B
- Step-3.7-Flash
- DeepSeek V4-Flash
- MiMo-V2.6-Flash
- GLM-5.3-Flash
- Qwen3.5-397B-A17B
- Mistral Large 3
- Taille personnalisée…
Hypothèse de modèle dense — pour votre propre fine-tune ou un modèle absent de la liste.
2. Mémoire nécessaire
100% de la mémoire utilisable de RTX 4060 Ti 16GB
Comment on calcule ça
Poids ≈ paramètres × bits par poids ÷ 8 × 1,1 (marge de 10 % pour les buffers et activations à l'exécution).
Cache KV = octets par token × longueur de contexte × utilisateurs. Pour les modèles de la liste, les octets par token viennent de la configuration du modèle lui-même (seules les couches qui mémorisent chaque token, en 16 bits), donc les modèles à attention compressée en demandent bien moins ; pour une taille personnalisée, nous l'estimons à partir d'une architecture grouped-query typique.
Ce sont des estimations, pas des garanties. L'usage réel varie selon le moteur d'inférence, la stratégie de batching et la forme des prompts.
3. Ce qui rentre
Uniquement la compatibilité mémoire — nous n'inventons jamais de chiffres de tokens par seconde que nous ne pouvons pas mesurer.
| Matériel | Mémoire | Résultat |
|---|---|---|
| RTX 4060 Ti 16GB ★ | 16 GB | Juste |
| RTX 4090 24GB | 24 GB | Rentre |
| RTX 5090 32GB | 32 GB | Rentre |
| 2× RTX 4090 (48GB) | 48 GB | Rentre |
| RTX 6000-class 48GB | 48 GB | Rentre |
| RTX 6000-class 96GB | 96 GB | Rentre |
| Apple M-series 32GB | 32 GB | Rentre |
| Apple M-series 64GB | 64 GB | Rentre |
| Apple M-series 128GB | 128 GB | Rentre |
| NVIDIA DGX Spark-class 128GB | 128 GB | Rentre |
| 2x DGX Spark (256 GB) | 256 GB | Rentre |
| 4x DGX Spark (512 GB) | 512 GB | Rentre |
« Rentre » laisse de la marge pour le système et les autres applications. « Juste » signifie qu'on dépasse cette marge de 15 % au maximum — un contexte plus court ou une quantisation plus agressive comblerait l'écart.
4. Acheter du matériel ou payer par token ?
Modifiez les valeurs ci-dessous — ce sont des points de départ, pas nos prix.
Amorti sur 36 mois
Hypothèses
- Les estimations de mémoire supposent que le modèle entier et son cache KV tiennent ensemble en VRAM ou mémoire unifiée — aucun déchargement vers la RAM système.
- Le facteur de marge 1,1× est une estimation approximative pour les buffers et la mémoire d'activation à l'exécution, pas une mesure réelle d'un moteur d'inférence particulier.
- La taille du cache KV par token est prise dans la configuration officielle de chaque modèle de la liste et estimée à partir d'une architecture typique pour une taille personnalisée — voir les sources.
- Une quantisation en dessous de Q8 modifie le comportement du modèle, pas seulement la taille du fichier — vérifiez toujours la qualité pour votre propre usage.
- La compatibilité matérielle compare la mémoire requise à une hypothèse fixe de mémoire utilisable par appareil ; la marge réelle dépend de votre système d'exploitation, des pilotes et de ce qui tourne par ailleurs.
- La comparaison de coûts ignore la maintenance, l'amortissement au-delà de 36 mois et la valeur de votre propre temps.
Sources
Le nombre de paramètres est vérifié à partir de la fiche officielle, du rapport technique ou de la configuration Hugging Face de chaque modèle :
- Qwen3.6-35B-A3B — Hugging Face (Alibaba)
- Gemma 4 26B-A4B — Hugging Face (Google)
- Qwen3.8-27B — Hugging Face (Alibaba)
- Gemma 4 31B — Hugging Face (Google)
- Mistral Small 4 — Hugging Face (Mistral AI)
- Qwen3.5-122B-A10B — Hugging Face (Alibaba)
- Step-3.7-Flash — Hugging Face (StepFun)
- DeepSeek V4-Flash — Hugging Face (DeepSeek)
- MiMo-V2.6-Flash — Hugging Face (Xiaomi)
- GLM-5.3-Flash — Hugging Face (Z.ai)
- Qwen3.5-397B-A17B — Hugging Face (Alibaba)
- Mistral Large 3 — Hugging Face (Mistral AI)
Besoin de le mettre en production, pas seulement de l'estimer ?
Altovar déploie de l'IA souveraine et locale pour les entreprises européennes — sur votre propre matériel ou dans un data center européen, sans qu'aucune donnée ne quitte votre infrastructure. Découvrez comment Altovar déploie l'IA locale en production →