英伟达 Vera CPU 实现 2.2 倍更快的 AI Agent 编排,支持 1.6 倍更高的并发能力

NVDA1.76%
英伟达表示,7月21日,Vera CPU 在 AI 智能体负载的编排速度方面相比竞争对手 CPU 最高可快 2.2 倍,同时支持并发执行的智能体任务多 1.6 倍。DeepInfra 的测试显示,这些改进有助于处理复杂的智能体操作。DeepInfra 在其平台上每周处理约 50 万亿 个 token,其中约 30% 由智能体应用生成,这凸显了在 AI 推理流水线中对高效 CPU 调度需求日益增长。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明
评论
0/400
暂无评论