Kimi K3 的 2.8 万亿参数以及 64 芯片部署可能会增强对英伟达 GPU 和 HBM 的需求

NVDA-2.32%
据 SemiAnalysis 称,Kimi K3 拥有超过 2.8 万亿个参数,需要 64 芯片的部署架构,以及超过 1.5TB 的 HBM 存储容量。与市场担忧线性注意力机制会削弱对高端 AI 硬件的需求不同,该研究机构表示,K3 的规模和推理架构或许反而会强化对英伟达 GPU、HBM 以及互联设备的需求。SemiAnalysis 指出,即使用户并发有限,KV 缓存仍需要将大量内容卸载到 CPU DDR5 内存和 NVMe 存储中,从而使 HBM 可用余量相对有限。该机构认为,更高效的模型架构将降低 AI 推理成本,从而推动更广泛的应用采用,并带来 GPU、HBM、DRAM 以及网络基础设施的长期需求。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明
评论
0/400
暂无评论