DeepSeek-V3 и Coder-V2 на локальных GPU: точный VRAM, физика MoE и бенчмарки токенов
DEV · 14.11.2026 · 18:14
Развертывание DeepSeek-V3 и DeepSeek-Coder-V2 локально выявляет архитектурные ограничения современных LLM. Объем параметров определяет физическое размещение модели, в то время как активное…
Оригинал
DeepSeek-V3 & Coder-V2 on Local GPUs: Exact VRAM, MoE Physics & Token Benchmarks
Deploying DeepSeek-V3 (671B) and DeepSeek-Coder-V2 (236B) locally exposes the definitive architectural trap of modern LLM hosting: Total parameter volume dictates where the model physically lives, but active parameter count dictates how fast it computes. While DeepSeek-V3 only computes 37B active parameters per token (and Coder-V2 computes just 21B), your GPU memory controllers cannot ignore the inactive experts. All 236B to 671B parameter weights must reside permanently in addressable memor