据 SemiAnalysis 称,Kimi K3 拥有超过 2.8 万亿个参数,需要 64 芯片的部署架构,以及超过 1.5TB 的 HBM 存储容量。与市场担忧线性注意力机制会削弱对高端 AI 硬件的需求不同,该研究机构表示,K3 的规模和推理架构或许反而会强化对英伟达 GPU、HBM 以及互联设备的需求。SemiAnalysis 指出,即使用户并发有限,KV 缓存仍需要将大量内容卸载到 CPU DDR5 内存和 NVMe 存储中,从而使 HBM 可用余量相对有限。该机构认为,更高效的模型架构将降低 AI 推理成本,从而推动更广泛的应用采用,并带来 GPU、HBM、DRAM 以及网络基础设施的长期需求。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见
声明。