苹果正在与由 Khosla Ventures 支持的初创公司 PrismML 进行洽谈，以评估可能让强大的 AI 模型直接在 iPhone 上运行的 AI 模型压缩技术，PrismML 首席执行官 Babak Hassibi 告诉 CNBC。PrismML 于周二公开发布了阿里巴巴的 Qwen 模型的压缩版本，将模型从约 54 GB 降至至少 4 GB，同时在 iPhone 15 或更新的设备上保持全部 270 亿参数。此次讨论旨在应对苹果 AI 战略中的限制，因为该公司在一天前开放了 iOS 27 公测，让 iPhone 用户可以使用重新设计的 Siri，同时将更多处理留在设备端。Hassibi 将此次洽谈形容为“非常早期”，但称“进展不错”，苹果及其他公司正在评估该技术的速度、能效和性能。该技术可能降低云计算成本，并通过让 AI 功能无需互联网连接即可工作，支撑苹果的隐私定位。
PrismML 以 54 GB 降至 4 GB 发布压缩版 Qwen 模型
PrismML 是加州理工学院（Caltech）的衍生公司，周二将阿里巴巴的开源 Qwen 模型从约 54 GB 压缩到少于 4 GB。该压缩使全部 270 亿参数可以在 iPhone 15 或更新的设备上运行。该初创公司通过简化内部信息的存储方式来缩小 AI 模型，将每个数值从 16 位减少到仅一个或三个可能值。Hassibi 将该方法比作芯片行业从 8 位计算转向 4 位计算。
据 PrismML 称，压缩后的模型所用内存比原版少 10 到 15 倍，响应速度快 6 到 8 倍，并且相较于在现有硬件上运行的常规版本，能耗降低 3 到 6 倍。Hassibi 承认，这些模型通常会在整体性能上损失几个百分点，且事实记忆能力会先于推理、数学和代码等技能减弱。PrismML 将免费发布两种压缩版本的模型，旨在在 iPhone、MacBook 和搭载 Nvidia 的 PC 上运行。
苹果评估端侧 AI 处理以降低对云的依赖
“他们现在正在真正评估我们的技术，”Hassibi 谈及苹果时表示。讨论仍不清楚最终会走向何处，但 Hassibi 说进展在继续。苹果可以将复杂请求发送给基于云的模型，但在 iPhone 上直接运行更多 AI 将减少数据传输到远程服务器的延迟，降低云计算成本，并支持公司的隐私理念。该做法也将使某些功能无需互联网连接即可工作。
Creative Strategies 的总裁兼首席分析师 Carolina Milanesi 表示，更小的模型可能让苹果将更苛刻的功能迁移到 iPhone 上，包括计算摄影、视频生成以及依赖敏感个人数据的健康或健身工具。“你能在设备上做得越多，就越好，”她说，并指出用户会希望将健康和用药数据保持私密。苹果已经在本地运行其 AI 系统的部分功能，包括翻译、一些摘要，以及与个人信息紧密相关的功能。
PrismML 于 3 月融资 1,625 万美元种子轮
该技术源自 Hassibi 在 Caltech 的研究团队。该大学拥有底层专利，并将其独家授权给 PrismML。3 月，该公司获得了由 Khosla Ventures 和其他投资者支持的 1,625 万美元种子轮融资。Hassibi 表示，Google 的开源 Gemma 模型接下来将进入路线图，然后是更大规模的模型，包括来自前沿实验室的那些模型，而这些模型如今通常需要数据中心硬件。
据 PrismML 称，这项技术最终可能远不止应用于手机和笔记本，还可扩展到机器人、自动化系统以及其他需要在不依赖云连接的情况下快速做出决策的产品。“让智能在本地运行并且运行得很快，这一点非常重要，”Hassibi 说。Asymco 创始人 Horace Dediu 表示，苹果可能正试图让绝大多数常见的 Siri 交互仍在设备端完成，同时把最具挑战性的任务留给云端。
分析师质疑电池影响与真实世界性能
Counterpoint Research 的研究负责人 Tarun Pathak 表示，该模型在长提示词下的表现、在多任务处理期间的电池消耗以及跨数百万次请求的可靠性将至关重要。“最终考验将是数百万次查询、成千上万种设备组合，以及在规模上进行稳健的测试，”Pathak 说。负责 IDC 客户端处理器研究的 Phil Solis 表示，功耗可能是最大的未解问题。即便该模型所需内存更少，如果它足够强大，能够被用于类似代理的任务并在后台频繁或持续运行，也可能消耗掉手机电池。
D.A. Davidson 的分析师 Gil Luria 表示，缩小模型不会消除对处理器或内存的需求。它可能只是将更多这些芯片从数据中心转移到手机和其他设备。“你并不是不需要芯片，”Luria 说。“你仍然需要 GPU，也仍然需要内存。”他补充称，在单个设备上运行 AI 实际上可能比使用共享的数据中心基础设施更不高效，因为手机里的芯片在很长时间里可能处于空闲状态。
摩根士丹利估计，苹果在 2027 财年每比特的平均动态随机存取内存成本或将同比大约上升 190%，而 NAND 成本上升约 180%。该机构预计，苹果将把可比 iPhone 18 机型的起拍价上调约 200 美元以保护利润率。Micron 股价在 3 月下跌，此前 Google 发布了 TurboQuant 论文，展示在不损害模型性能的情况下削减内存使用，不过该股随后反弹。Pathak 表示，云端与端侧 AI 的结合可以提供更完整、更高效、且以隐私为中心的 AI 体验：复杂任务交由云端处理，而敏感、对延迟敏感的任务则在设备端执行。
常见问题
PrismML 周二发布了什么？
PrismML 在周二公开发布了阿里巴巴开源 Qwen 模型的压缩版本。该公司将模型从约 54 GB 降至少于 4 GB，使全部 270 亿参数可以在 iPhone 15 或更新的设备上运行。
PrismML 的压缩技术是如何工作的？
据该公司称，PrismML 通过大幅简化内部信息的存储方式来缩小 AI 模型，将每个数值从 16 位减少到仅一个或三个可能值。压缩后的模型内存使用量比常规版本少 10 到 15 倍，响应速度快 6 到 8 倍，且能耗比常规版本少 3 到 6 倍。
为什么苹果在评估端侧 AI 处理？
据消息源称，在 iPhone 上直接运行更多 AI 将减少数据传输到远程服务器的延迟，降低云计算成本，并支持苹果的隐私定位。该方案也将使某些功能无需互联网连接即可工作。
