Радар на почту

Почему GPU по-прежнему необходим, даже когда CPU обрабатывает 2.8 триллиона параметров

DEV · 15.11.2026 · 23:20

Модель с 2.8 триллиона параметров на CPU требует значительного времени для обработки, что подчеркивает важность GPU для выполнения вычислений на приемлемой скорости.

Читать в источнике

Оригинал

Why a GPU is still essential, even when a CPU runs 2.8 trillion parameters

TL;DR kimi-k3-in-c runs a 2.8-trillion-parameter model on a CPU with 8 GB of RAM. The price: 10 to 32 seconds to produce a single word. That is not a flaw a future release will fix, it is the direct consequence of reading a model from a disk rather than from memory built for the job. A GPU remains, and will remain, the only way to run this computation at a usable speed. The democratization this project demonstrates has a hard limit, and that limit is hardware. What the feat proves