Метка: локальной

Запуск Kimi K3 в локальной среде: аппаратное обеспечение, настройка и тестирование реальной скорости

at0mSec

Компания Moonshot опубликовала данные о размере модели с 2,8 триллионами параметров, и самая маленькая из основных динамических квантизаций занимает 594 ГБ. Именно эта цифра определяет все остальное, что касается запуска Kimi K3 на вашем собственном оборудовании. Она не помещается ни на рабочей станции, ни на одном H100, а машины, способные… Читать далееЗапуск Kimi K3 в локальной среде: аппаратное обеспечение, настройка и тестирование реальной скорости

Запуск DeepSeek V4 Flash в локальной среде: проверенные аппаратные требования

at0mSec

Из 284 миллиардов параметров модели DeepSeek V4 Flash на каждый токен активируются 13 миллиардов. Именно эта цифра определяет всю дискуссию об аппаратном обеспечении. Плотная модель такого же размера была бы недостижима для чего-либо, кроме кластера графических процессоров, а эта — нет. Оригинальный контент с computingforgeeks.com — пост 170456 В этом… Читать далееЗапуск DeepSeek V4 Flash в локальной среде: проверенные аппаратные требования