7213 Ejaaz

vip
幣齡 1.6 年
最高等級 0
用戶暫無簡介
meta 正在打造一個對 OpenRouter 的競品(就在先前傳出 openrouter 可能被收購的消息之後不久),但還有另一個原因,讓 meta 這麼做:
> 不再浪費 $100Ms 用於推論。該平台會有效率地將 AI 提示路由到多種不同模型上,降低成本並產出更好的答案。
> 全新的營收來源:Meta 的意圖是將其公開發布,讓任何人都能省錢
> 一種強大的新方式來訓練他們的模型:在內部使用時,meta 會建立一個非常有價值的資料集,內容是如何在何時為各種目的使用模型。
zuck 仍在這場競賽中
META-2.97%
查看原文
post-image
post-image
  • 打賞
  • 回覆
  • 轉發
  • 分享
就它了—Microsoft 將使用 kimi k3 來支援其旗艦 Copilot AI 助理,在每個 token 上最高可節省 60%,或在推理花費的每一筆 $600M 花費中 $1B 也能做到節省。
如果 Microsoft 在 Kimi 於 27 日開源該模型後選擇自行託管一次,這些成本還會再下降更多。
愛或恨這些中國模型,開源確實在很大程度上正在拉平局面。
根據所提供的資訊
MSFT-2.12%
查看原文
post-image
  • 打賞
  • 回覆
  • 轉發
  • 分享
誰在乎 kimi k3 是否比 fable 更好?重點在於他們證明你可以用顯著更低的成本取得一個前沿模型
這就意味著某些東西需要重新定價。
如果你是一家公司在代幣上花費 10-100 百萬美元,而你能夠把它削減 21X,你他媽為什麼不考慮呢?
查看原文
  • 打賞
  • 回覆
  • 轉發
  • 分享
你應該在意 kimi k3 的原因不在於它贏過 fable,而是因為它沒有任何限制:無審查的 AI。
你應該擔心中國的原因是因為他們已經追上了美國。想像一個無審查的神話體系叛逃失控。
現在只看「每個 token 的智力」就夠了,而且中國人已經要上場了,他們的模型很便宜,便宜到不行。
規則已經改變了。
kimi 現在。DeepSeek、智譜、通義全都要跟著。
查看原文
  • 打賞
  • 回覆
  • 轉發
  • 分享
提醒 - opus 5 下週推出,可能會贏過 K3。
anthropic 和 openai 的最大優勢是:他們能夠將自家旗艦模型濃縮成更便宜、更負擔得起、且具備高「單位成本智能」的模型。
另外,Fable 6 和 gpt 6 也將在約 1 個月內到來。循環週期正在變短。
查看原文
  • 打賞
  • 回覆
  • 轉發
  • 分享
kimi k3 的感覺比 deepseek 那個瞬間更具意義。很難不去看見它:
> 擊敗 Fable,在多個關鍵基準上拿到 5.6。第一次有一個中國模型 *不* 落後
> 它的落後幅度甚至小到只需一小部分的規模與成本,還不靠那些花俏的 nvidia GPU
> 用於訓練模型的資料反覆出現突破 + 訓練技術,讓中國成為 AI 研究的正當中心
而且這一切也都是開源。到什麼時候,我們開始承認他們這裡可能真的有些優勢?
差距現在最多縮小到 3 個月。
NVDA2.57%
查看原文
  • 打賞
  • 回覆
  • 轉發
  • 分享
Google $GOOG 在努力出售它的 TPU。由新雲端(neoclouds)使用的晶片中,75% 是來自 NVIDIA,但在未來一年,Google 有很強的機會能贏的關鍵在於成本。
Meta、Uber、Microsoft 以及許多其他公司在過去幾個月削減了先前激進的 AI 投資,轉而採用更便宜的模型——這讓它們省下了 10-100 萬美元。
但在使用 AI 模型時,最大的成本來自用於向客戶提供服務的底層基礎設施:TPU 是更便宜(且更有效)的替代方案。
我的猜測是,隨著推論(inference)成為 AI token 使用量的 50% 以上,專門用於推論的資料中心將會大量採購 TPU,進一步把 Google 的晶片市占率推升到達 NVIDIA 的 10%+。
GOOG-0.57%
NVDA2.57%
META-2.97%
UBER-1.80%
MSFT-2.12%
查看原文
post-image
post-image
post-image
  • 打賞
  • 回覆
  • 轉發
  • 分享
天啊,活著的時間真是太瘋狂了。
我們現在突然冒出了 10+ 個具備類似能力的 AI 模型,而且現在每 ~2-3 週就會推出新版本。
最棒的是,不管你想找什麼,都有能對應的模型:
比 fable 更便宜?gpt 5.6
擔心隱私?5+ 個開放模型
不知道要用哪個模型?cursor 或 openrouter
anthropic、openai、xai、meta、google、zhipu、deepseek、moonshot、alibaba 都在激烈競爭,這對你這個使用者來說是好事。
nvidia、cerebras、etched、groq、intel、tsmc 也都在競爭優化硬體層——而這對你又是好事。
不樂觀才怪,接下來會發生的事情,太瘋了,老兄,該說真是該死的棒。
NVDA2.57%
INTC-1.49%
TSM-0.45%
META-2.97%
BABA-1.41%
查看原文
  • 打賞
  • 回覆
  • 轉發
  • 分享
哇。蘋果正在起訴 OpenAI,指控其竊取與其即將推出的 Ai 裝置相關的硬體機密,該裝置預計在今年晚些時候發布。
據說,有 1 名員工說服蘋果團隊成員,在面試時攜帶自家擁有的專有硬體裝置。
OpenAI 和蘋果將在今年晚些時候於 AI 消費裝置領域正面交鋒;蘋果計劃推出一款搭載攝影機的全新 AirPods 型號、智慧眼鏡,以及一款掛墜式裝置。
查看原文
  • 打賞
  • 回覆
  • 轉發
  • 分享
這週對 AI 來說完全是大勝,這週末有這麼多新模型和新功能可以嘗試:
> 1 個全新前沿模型:gpt 5.6 Sol
> 2 個新推出的超級便宜模型,且有 80% 前沿能力:grok 4.5 與 meta muse spark 1.1
> 2 個新影像模型:muse image 與 seedream 5.0
> prime intellect 將 $130M 提升以推出更多開源模型
還有 Google 下週要推出 3.5,DeepSeek v4 也會,1 個月內 grok 4-5T 模型,以及 1 個月後 GPT 6
一切都進展得太快了
查看原文
  • 打賞
  • 回覆
  • 轉發
  • 分享
人工智慧領域最大的轉變之一,就是將訓練AI晶片轉向專為推論優化的晶片——而且理由充分:
推論才是金錢(與智能)真正產生的地方
> 傳聞 Anthropic 在推論服務上的營利率高達80%,他們將比其他任何AI實驗室更早實現獲利。
> Apple、Meta、OpenAI、Google 都在自行開發專用於推論的客製化AI晶片。
> 中國的模型實驗室(儘管有硬體限制)純粹藉由迫使模型思考更長時間來打造前沿智能。
重點是:推論的成長規模將遠遠超越其他任何AI服務。
META-2.97%
查看原文
  • 打賞
  • 回覆
  • 轉發
  • 分享
隨著美國迎來250週年,現在比以往任何時候都更加重要,要記住這個國家的秘訣在於它的人民,以及他們對大膽、創新想法的不懈追求。這就是美國一直保持領先的原因,也將是他們未來持續勝出的關鍵。
來自人工智慧領域的外國競爭威脅——竊取模型設計、限制自然資源、規模戰爭等——將日益成為問題。
我們需要保護我們的數據中心、我們的人民,但最重要的是我們的想法。這正是過去250年來,我們在任何技術領域保持前沿的原因。
你無法戰勝真正的才華、決心,以及那種他媽的不懈追求成功的態度。
感謝這個國家,以及它給予我的一切。
查看原文
  • 打賞
  • 回覆
  • 轉發
  • 分享
tesla 成為最新一家削減 AI 開支的公司,對員工實施每週 200 美元的 token 支出上限,並推動他們使用 grok + cursor 模型——這是未來趨勢的徵兆
> 馬斯克正推動員工使用內部版本的 grok + cursor model composer。
> 他們已部署多個基於 tesla 數據訓練的私有代理,以提升生產力
> 員工仍可透過內部的「瓶頸平台」使用 claude 和 gpt
> 此前 uber、microsoft 和 meta 已大幅削減相關開支
請注意,馬斯克可能營運著最大的運算叢集 colossus I、II 和 III,這意味著有大量員工原本高度依賴競爭對手的模型。
TSLA-1.08%
UBER-1.80%
MSFT-2.12%
META-2.97%
查看原文
post-image
  • 打賞
  • 回覆
  • 轉發
  • 分享
看起來 OpenAI 正在大力押注推理計算,以期在未來 6 個月內擊敗 Anthropic:
> 結合他們的 Cerebras 和即將推出的 Jalapeño AI 晶片,OpenAI 將擁有針對 GPT 優化的終極硬體堆疊
> 他們已將推理成本削減 50%(根據 The Information 報導),這將為他們節省 $10Ms
> GPT 5.6 高度依賴自主推理與執行(推理密集型)
推理計算佔實驗室運算支出的 40-50%,將其削減一半可釋放出運算資源用於訓練——我認為其累積效應不容小覷
推理同時也是巨大的收入來源:Anthropic 的收入利潤率約為 80%
勝負將取決於他們如何管理推理計算。
查看原文
  • 打賞
  • 回覆
  • 轉發
  • 分享
我不認同關於 Meta 和 AI 記憶體的 FUD:
- Google 才剛因為 Meta 使用過多算力而關閉它們,那它們為什麼還需要出售多餘的算力?
- Meta 擁有最大的 GPU 機隊之一,它們很可能是在出售較舊的 GPU 用於推理(像 SpaceX 那樣),同時使用更新的 Rubin 晶片。
- 記憶體無疑是 AI 中最稀缺的資源,需求比任何預測的未來供應量高出 5 到 10 倍。
- 就算有人設計出需要更少記憶體的晶片、模型或代理,這只會導致更多的記憶體需求。
你有沒有觀察過這些代理每次會話消耗多少記憶體?
拜託喔。
META-2.97%
SPCX-6.22%
查看原文
  • 打賞
  • 回覆
  • 轉發
  • 分享
所以看起來近期在人工智慧領域有幾個關鍵趨勢正在匯聚
- 前沿模型現在對政府安全構成真正威脅,呼籲政府介入(Rip Fable)
- 這意味著未來的模型發布將是私有的(受限制的)。任何未來的公開發布幾乎肯定會受到限制
- 同時,中國的開放模型已經追上了前沿能力。在不到六個月內,它們將達到神話級別
- 開放模型成本較低,可以私下運行,政府難以規範
- 人工智慧人才正向領導者集中。Anthropic 和 OpenAI 正在吸收關鍵玩家。這將進一步鞏固它們的領先地位
- 估值正達到高峰。GLM 5.2 母公司今年的市值是15倍。Anthropic 市值一兆——但它們之間的市盈率差距巨大
GLM0.37%
MSFT-2.12%
查看原文
  • 打賞
  • 回覆
  • 轉發
  • 分享
問題在於,即使Anthropic奇蹟般地為Mythos創造出防駭的安全措施——仍然會有其他攻擊面供行動者利用
雲端服務、員工、資料中心、提示注入
永遠不可能有百分之百防呆的模型,我們只能像每次軟體升級一樣,不斷提升防禦能力
查看原文
  • 打賞
  • 回覆
  • 轉發
  • 分享
  • 已置頂