我最近注意到英偉達在推理市場採取了一個非常重要的戰略步驟。去年十二月，它以200億美元收購了Groq的推理晶片部門，並且Groq的創始人約翰納森·羅斯（Jonathan Ross）與團隊加入了英偉達，而Groq則作為獨立公司繼續進行其他業務。

令人興奮的是，黃仁勳剛剛解釋了這一決策背後的真正原因。動力不僅僅是獲取技術，更是對推理市場進行全面的重新分類。以前，所有的努力都集中在一個方面：提高生產力。但情況已經徹底改變。

現在，不同的用戶願意根據響應速度支付完全不同的價格。如果我是一名軟體工程師，想要更快的(tokens)響應速度，以便更高效地工作，我願意為此支付溢價。這個市場在幾年前還不存在，但現在已經強勢出現。

在三月的GTC大會上，英偉達推出了收購後的第一款晶片：Groq 3 LPU，採用三星的4納米技術製造。性能令人驚嘆——每兆瓦推理產能在兆億參數模型上，達到比Blackwell NVL72高出35倍的效率。

英偉達所做的是在市場地圖上新增一個全新的領域：低延遲且高價位。Groq的LPU架構以其預期的低延遲著稱，這與英偉達現有的高生產力產品線完美互補。儘管生產力可能較低，但每單位的價格輕鬆彌補了這一點。收購Groq確實填補了推理產品中缺失的空白。