谷歌推出第八代TPU芯片:价格与性能比提升,并区分训练与推理

Gate News 消息,4月22日——谷歌云宣布在4月22日发布其第八代自研定制TPU (Tensor Processing Unit) 芯片。新阵容包括TPU 8t,专为AI训练任务设计,以及 TPU 8i,针对AI推理工作负载进行了优化。两款芯片将在今年晚些时候提供。谷歌还发布了用于构建AI代理的新工具,并宣布一项 $750 百万美元基金,以推动企业采用AI。

TPU 8t 在相同价格水平下,其性能比谷歌上一代 Ironwood TPU 高2.8倍。TPU 8i 相较其前身性能提升80%,并采用静态随机存取存储器 (SRAM) 架构,以实现“具有成本效益的大规模吞吐和低延迟,从而让数百万个代理能够同时运行”,据首席执行官桑达尔·皮查伊(Sundar Pichai)表示。与 Ironwood 相比,TPU 8t 和 TPU 8i 在能效方面均实现了超过两倍的性能/每瓦表现,其中 TPU 8t 提升了124%,TPU 8i 提升了117%。谷歌在整个技术栈中优化了能效,并集成动态功耗管理系统,可根据实时需求调整用电量。

谷歌的自研模型现在通过直接面向客户的API调用,每分钟处理超过1600亿个token,而上一季度为1000亿。如今,AI 在谷歌生成的所有新代码中占比达到75%,而去年秋季为50%。谷歌的企业级产品 Gemini Enterprise,其按付费月度活跃用户口径的季度环比增长为40%。公司预计,到2026年将投入略多于其机器学习计算预算的一半用于云服务,以更好地服务云客户与合作伙伴。谷歌也在扩大全面与博通(Broadcom)的合作,以为未来代次开发并供应定制TPU芯片,因为大型科技公司正在寻求对英伟达(NVIDIA)和AMD提供的昂贵且供给受限GPU的替代方案。

免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见声明

相关文章

PayPal 揭开重组计划,将拆分为三个业务单位,并在 2027 年底前实现 $900M 年度节省

4 月 30 日,PayPal 宣布将进行全面的架构重组,拆分为三个独立的业务部门——消费者、小型企业和大型企业——旨在简化运营并加速人工智能的整合。公司预计此次重组将带来

GateNews1小时前

Kaisar Network 完成 $4 百万美元融资,用于去中心化 AI 计算 Layer 1

据 ChainCatcher 报道,Kaisar Network 这一去中心化 AI 计算 Layer 1 网络,截至目前已完成 $4 百万美元 融资,其中包括 100 万美元的战略 Pre-Seed 轮。投资者包括 Merov Capital、StoneBlock、WM Capital、Arche Fund、Q42 和 Unicorn Ventures。该网络

GateNews3小时前

OpenAI 首席财务官驳斥营收目标传闻,称公司在 5 月 1 日以最高水平执行

根据彭博社报道,OpenAI 首席财务官 Sarah Friar 于 5 月 1 日驳斥了关于公司未达成内部销售和用户目标的传闻。Friar 表示,该公司正在以最高水平执行其计划,并将产品需求描述为“垂直墙”。她指出,执行

GateNews3小时前

马斯克的顾问在法院披露 xAI 的 $974B 出价以获取 OpenAI 非营利资产,引发新一轮审查

根据 Jared Birchall 在 Musk 与 OpenAI 诉讼第 4 天的证词,xAI 对 OpenAI 非营利资产提出的 9740 亿美元报价旨在防止 Sam Altman 在 OpenAI 重组期间对这些资产估值过低。然而,法官 Yvonne Gonzalez Rogers 质疑 Birchall 如何能提出 9740 亿美元(后续内容未完整呈现)。

GateNews4小时前

马斯克承认在第 4 天的审判中 xAI 在使用 OpenAI 模型时采用了蒸馏技术

据 Beating 和 The Verge 报道,在 Musk 与 OpenAI 的审判第 4 天,OpenAI 的律师质疑 xAI 是否使用了蒸馏,借助 OpenAI 的技术来改进其模型。Musk 最初表示“几乎所有 AI 公司都会这样做”,但在被追问要给出直接答复时,他承认…

GateNews4小时前

66.3% 的美国高收入雇员在工作中使用 AI 工具,美联储调查显示

根据美联储一项调查,截至 5 月 1 日,年收入超过 20 万美元的美国雇员中,有 66.3% 在过去 12 个月在工作中使用过 AI 工具。在较低收入档中,使用率显著下降:年收入 10 万–20 万美元的为 51.6%,年收入 5 万–10 万美元的为 40.2%,

GateNews5小时前
评论
0/400
暂无评论