Компания Moonshot опубликовала данные о размере модели с 2,8 триллионами параметров, и самая маленькая из основных динамических квантизаций занимает 594 ГБ. Именно эта цифра определяет все остальное, что касается запуска Kimi K3 на вашем собственном оборудовании. Она не помещается ни на рабочей станции, ни на одном H100, а машины, способные… Читать далееЗапуск Kimi K3 в локальной среде: аппаратное обеспечение, настройка и тестирование реальной скорости