Appleは、CNBCに対し、PrismMLのCEOババク・ハサビ氏の談話として、Khosla Venturesが支援するスタートアップPrismMLと協議を進めており、iPhone上で直接動かせる可能性のあるAIモデル圧縮技術を評価していると述べた。PrismMLは火曜日、AlibabaのQwenモデルの圧縮版を公開し、モデルサイズを約54GBから4GB未満に削減しつつ、iPhone 15以降のデバイスで270億のパラメータを維持した。同社が1日前にiOS 27のパブリックベータを開始したことに伴う、AppleのAI戦略上の制約への対応が目的だ。これにより、処理の多くを端末内で行いながら、iPhone所有者は刷新されたSiriにアクセスできる。ハサビ氏はこの協議について「非常に初期段階」としつつ、「順調に進んでいる」と述べ、Appleを含む他社が技術の速度、エネルギー効率、パフォーマンスを評価していると語った。この技術はクラウド計算コストの削減や、インターネット接続なしでもAI機能を動作させられることにより、Appleのプライバシー重視の方針を後押しする。
PrismML、54GBから4GBへ削減した圧縮Qwenモデルをリリース
PrismMLはカリフォルニア工科大学（Caltech）からのスピンアウト企業で、火曜日にAlibabaのオープンソースQwenモデルを約54GBから4GB未満に圧縮した。これにより、270億のパラメータすべてをiPhone 15以降のデバイスで動かせる。スタートアップは、内部情報の保存方法を単純化し、各値を16ビットから1つまたは3つの可能性の値に抑えることでモデルを縮小したと説明している。ハサビ氏は、この手法をチップ業界が8ビットから4ビット計算に移行したことになぞらえた。
PrismMLによると、圧縮モデルは従来版（既存ハードウェア上で動作するもの）に比べて、メモリ使用量が10〜15分の1、応答生成が6〜8倍高速化、エネルギー消費も3〜6倍少なくなるという。ハサビ氏は、モデルが一般的に全体のパフォーマンスで数％ポイント程度低下することを認めた。事実の想起は推論、数学、コーディングといったスキルよりも弱くなると述べている。PrismMLは無料で利用できる2種類の圧縮版モデルをリリースしており、iPhone、MacBook、Nvidia搭載PCで動作することを想定している。
Apple、クラウド依存を減らすために端末内AI処理を評価
「彼らはまさに今、私たちの技術を評価しているところです」とハサビ氏は述べた。協議の行方は不明だが、ハサビ氏は「物事は進んでいる」と語った。Appleはクラウドベースのモデルに対して複雑な要求を送ることはできるが、iPhone上でより多くのAIを直接動かせれば、リモートサーバーへデータを送信する際の遅延が減少し、クラウド計算コストも削減され、同時にAppleのプライバシー重視の方針にもつながる。この方式では、インターネット接続がなくても動作する特定の機能も実現可能となる。
Creative Strategiesの社長で主要アナリストのCarolina Milanesi氏は、小型モデルなら、計算写真や動画生成、個人データに依存する健康・フィットネスツールなど、より高度な機能をiPhoneに移行できる可能性があると述べた。「端末内でできることが多いほど良い」とし、ユーザーが非公開にしたい健康や服薬のデータを例に挙げた。Appleはすでに、翻訳や一部の要約、個人情報に密接に関わる機能など、一部のAIシステムをローカルで動かしている。
PrismML、3月に1,625万ドルのシードラウンドを調達
この技術はハサビ氏のCaltechでの研究グループから生まれた。大学は基盤となる特許を保有し、それらをPrismMLに独占的にライセンスしている。3月、同社はKhosla Venturesや他の投資家から1,625万ドルのシードラウンドを調達した。ハサビ氏によると、次に来るのはGoogleのオープンソースGemmaモデルで、その後にはより大規模なモデルが続く見込みだ。これには、現在はデータセンターのハードウェアを必要とするフロンティア・ラボ由来のものも含まれる。
PrismMLによると、この技術は最終的に、電話やノートPCにとどまらず、ロボティクス、自律システム、クラウドに依存せず迅速に判断を下す必要のあるその他の製品へと展開される可能性がある。「知能がローカルで高速に動作できることは非常に重要です」とハサビ氏は述べた。Asymcoの創業者ホレス・デディウ氏は、Appleは一般的なSiriのやり取りの大半を端末内にとどめつつ、最も負荷の高い作業をクラウドに委ねようとしている可能性が高いと指摘した。
アナリストがバッテリーへの影響と実世界でのパフォーマンスを疑問視
Counterpoint Researchのリサーチディレクター、タラン・パタック氏は、長いプロンプトに対するモデルの性能、マルチタスク時のバッテリー消費、数百万回のリクエストにわたる信頼性が重要になると述べた。「最終的には、数百万件のクエリ、数千のデバイス構成、規模に応じた堅牢なテストが必要になるでしょう」と語った。IDCのクライアントプロセッサーリサーチ責任者、Phil Solis氏は、電力消費が最大の未解決の課題になり得ると指摘した。エージェントのようなタスクのために頻繁または常時バックグラウンドで使える能力を持つモデルは、メモリ使用量が少なくてもバッテリーを消耗させる可能性がある。
D.A. Davidsonのアナリスト、ジル・ルリア氏は、モデルを小さくするだけではプロセッサーやメモリの必要性はなくならないと述べた。単に、データセンターにあったチップをより多くのデバイスに移すだけかもしれないと指摘した。「チップが不要になるわけではありません」と述べ、GPUやメモリも必要だとした。さらに、AIを個々のデバイスで動かすことは、共有のデータセンターインフラを使うより効率が悪くなる可能性もあると付け加えた。端末内のチップは、時間の大部分アイドル状態になることも多いためだ。
Morgan Stanleyは、Appleの平均的な動的ランダムアクセスメモリ（DRAMではない）のコストが、2027年度に前年比約190％上昇すると見積もっている。NANDのコストも約180％増加する見込みだ。同社は、利益率を維持するために、Appleが比較可能なiPhone 18モデルの開始価格を約200ドル引き上げると予測している。Micronの株価は、Googleがモデル性能を損なわずにメモリ使用量を抑えるTurboQuant論文を公表した後の3月に急落したが、その後回復した。パタック氏は、クラウドと端末内AIを組み合わせることで、より包括的で効率的、かつプライバシー重視のAI体験が実現できると述べた。複雑なタスクはクラウドにオフロードし、微妙なレイテンシーが重要なタスクは端末内で処理する、という形だ。
よくある質問
PrismMLは火曜日に何をリリースしましたか？
PrismMLは火曜日にAlibabaのオープンソースQwenモデルの圧縮版を公開しました。同社はモデルを約54GBから4GB未満に削減し、270億のパラメータをすべてiPhone 15以降のデバイスで動作させられるようにした。
PrismMLの圧縮技術はどのように機能しますか？
PrismMLは、内部情報の保存方法を大幅に単純化し、各値を16ビットから1つまたは3つの可能性の値に減らすことでモデルを縮小している。圧縮モデルは、メモリ使用量が10〜15分の1、応答生成が6〜8倍高速化、エネルギー消費も3〜6倍少なくなるとされる。
なぜAppleは端末内AI処理を評価しているのですか？
iPhone上でより多くのAIを直接動かせば、リモートサーバーにデータを送る際の遅延が減少し、クラウド計算コストも削減できる。出所によれば、この方式により、インターネット接続なしでも特定の機能を動作させられるようになる。
