Cline тестирует Kimi K2.6 с самостоятельным хостингом: экономит всего 10%, и ниже $500K годовых затрат это не имеет смысла

По данным мониторинга Beating AI, Cline в реальном производстве рассчитал расходы на самостоятельный хостинг Kimi K2.6. Обработка 5,83 миллиарда токенов в месяц через API обходится примерно в $185 000. Запуск 16 NVIDIA B200 GPU на полной мощности для базового трафика, при этом оставшиеся запросы обрабатываются через API, снижает счет до $166 000 — экономия составляет лишь около 10%.

Cline оценивает, что динамическое планирование загрузки GPU может повысить экономию до 22–25%, а дальнейшая оптимизация потенциально доведет ее до 35–40%, однако эти подходы пока не проверены в производственной среде. Компания делает вывод, что самостоятельный хостинг становится экономически оправданным только тогда, когда годовые расходы на API превышают $500 000–$2 миллиона; ниже этого порога затраты на инфраструктуру и инженерные работы обычно перевешивают сэкономленные средства.