區塊先生58

vip
幣齡 1.9 年
最高等級 0
用戶暫無簡介
Anyone renting out their Mac Studio or DGX Spark compute when not using it?
有人會在沒使用的時候,把自己的 Mac Studio 或 DGX Spark 算力租出去嗎?
  • 打賞
  • 回覆
  • 轉發
  • 分享
1/ 🧠 為什麼未來的 personal AI computer(像 NVIDIA DGX Spark)真的能跟 data center 一較高下?
不是因為桌面變強到取代雲端,而是因為 AI 的「需求結構」正在分裂 ——
訓練留在雲端,推論回到本地。
2/ 關鍵突破一:FP4 改寫遊戲規則
70B 參數的模型,用 FP16 要 140GB 記憶體;
換成 FP4 → 只要 35GB。
一台配 128GB unified memory 的桌面機,就能跑得動以前要 8 張 H100 才能裝下的模型。
精度損失?用 QAT(量化感知訓練)幾乎可以忽略。
3/ 關鍵突破二:Memory Wall 正在被打破
LPDDR5X 頻寬不夠?
•Apple M4 Ultra 用超寬位元寬度做到 ~800 GB/s
•LPDDR6(2027)頻寬再翻倍
•NVIDIA DGX Spark 用 GB10 + 連貫記憶體架構
桌面端不再是「閹割版 GPU」,而是「為推論優化的新物種」。
4/ 關鍵突破三:你根本不需要 data center
Data center 解決的是:
✅ 訓練 frontier model(兆級參數)
✅ 服務全球數十億用戶並發
個人需要的是:
✅ 一個跑得動 70B–200B 模型的本地大腦
✅ 隱私、低延遲、不用月費
這兩件事根本是不同問題。
5/ 投資啟示 💡
•H
post-image
  • 打賞
  • 回覆
  • 1
  • 分享
還記得顯卡是拿來玩遊戲的時候嗎?
然後加密貨幣礦工把它們搶走了。
接著加密貨幣「死了」,我們以為玩家終於自由了。
現在AI搶走了地球上每一張顯卡,而我那張2080竟然還像奢侈品一樣。
Jensen @nvidia……到底發生了什麼事? 😭
查看原文
  • 打賞
  • 回覆
  • 轉發
  • 分享
Google AI 人才大逃亡!😱
最近一週已走 4 位大將:
• Jonas Adler:Gemini 核心、AI 編碼專家 → Anthropic
• Alexander Pritzel:Gemini 訓練關鍵人物 → Anthropic
• Arthur Conmy:Gemini 後訓練與對齊專家 → Anthropic
• Addy Osmani:Chrome/Cloud AI 14年資深領導
Google 薪水雖高,但 Anthropic 近 1 兆估值 + 即將 IPO 的股權誘惑太猛!
無聲威脅 😱
post-image
  • 打賞
  • 回覆
  • 轉發
  • 分享
為什麼 @ManusAI 連接器沒有搜尋標籤?
查看原文
post-image
  • 打賞
  • 回覆
  • 轉發
  • 分享
年初到現在的 台股
Taiwanese Stocks
post-image
  • 打賞
  • 回覆
  • 轉發
  • 分享
據《經濟學人》報導,美國參議員馬克·華納透露:NSA局長 Joshua Rudd 親口告訴他,Anthropic 的 AI 模型 Mythos 在授權測試中,僅用「幾小時」就突破了 NSA 幾乎所有機密系統,而非傳統上需要的數週。
這不是外部駭客入侵,而是 NSA 自己用 Mythos 進行紅隊測試,結果震撼!
同一時間,美國政府已對 Mythos 與 Fable 等頂級模型實施出口管制,Anthropic 更全球關閉模型。
AI 的網路攻擊能力已進入新階段。
  • 打賞
  • 回覆
  • 轉發
  • 分享
哇, @arena 是台灣人做的?
最近 AI coding 榜單很值得看 👀
但我覺得重點已經不是「誰第一名」。
真正重要的是:AI 模型的第一名,正在變得沒那麼稀缺。 🧠⚡️
以前大家以為 AI 會是贏家通吃:
GPT-4 遙遙領先,
其他模型只能追趕。
但現在你看 Arena 這類榜單,前排模型越來越擠。Claude、OpenAI、Google、GLM、Qwen、Kimi,各種開源、閉源模型都擠在同一個能力區間。Elo 分數差距縮小,代表模型能力正在快速標準化。
這件事很像水電化 🚰
你打開水龍頭,不太在意水是哪間公司供的。
你在意的是:
- 便不便宜?
- 穩不穩?
- 會不會斷?
- 能不能接進你的工作流程?
AI 模型也正在往這個方向走。
當模型能力差距縮小,市場要重新定價的就不是「誰最聰明」,而是:
🧩 誰能整合進 workflow
💰 誰的推理成本最低
🔒 誰能做到企業合規和資安
📊 誰有資料回饋和使用者留存
🛠 誰能把模型變成產品,而不是 demo
尤其 coding 模型更明顯。
工程師最後不一定選「榜單第一名」。
他會選那個最穩、最便宜、最懂他的 codebase、最不會突然壞掉的工具。
這也是為什麼我看 Arena 榜單,第一眼看的不是排名,而是結構變化。
前二十名越擠,代表模型本身的護城河越薄。
價值會往產品、資料、分發、算力成本、企業部署
post-image
  • 打賞
  • 回覆
  • 轉發
  • 分享
假設1.1 兆美元($1.1 Trillion):
💰 每天花 100 萬美元
→ 要花 3,014 年
💰 每天花 1,000 萬美元
→ 要花 301 年
💰 每天花 1 億美元
→ 要花 30 年
💰 每天花 10 億美元
→ 也要花 3 年
post-image
  • 打賞
  • 回覆
  • 轉發
  • 分享
基礎設施軟體可能被低估了
@grok 給我一些例子..👀
GROK2.72%
查看原文
  • 打賞
  • 回覆
  • 轉發
  • 分享
白銀也開始有點感覺了
post-image
  • 打賞
  • 回覆
  • 轉發
  • 分享
幻想必須是不切實際的,因為在你得到你所追求的事物的那一刻、那一秒,你就不會、也不可能再想要它了。
為了繼續存在,慾望的對象必須永遠缺席。
你想要的不是「它」本身,而是對「它」的幻想。
  • 打賞
  • 回覆
  • 轉發
  • 分享
Tech stock (科技股) 現在搖滾區的位置,下來的時候最刺激。📉
老話一句,該適當TP 就 TP,別太貪婪。
我們現在正站在歷史的頂峰附近,距離 2000 年網路泡沫的最高點(44.19)只有一步之遙。
這不是普通的貴,這是「貴到靈魂深處」。你現在是繼續歐印,還是默默保留現金?
圖表顯示的是 席勒 PE 比率(Shiller PE Ratio / CAPE Ratio
post-image
  • 打賞
  • 1
  • 轉發
  • 分享
JamesL0111:
加油加油加油加油加油加油加油加油加油打氣
很快,擁有像 NVIDIA 的 DGX Spark 這樣的個人 AI 超級電腦,將會像幾個世紀前擁有一匹高品質的馬,或是一輛可靠的汽車/滑板車一樣——這是一個有意義的前期投資,能以變革性的方式擴展你的觸及範圍、生產力和選擇性。
查看原文
post-image
  • 打賞
  • 回覆
  • 轉發
  • 分享
下週AI股👀
🚨 川普最新爆料!6月5日在空軍一號上親口表示,美國政府正研究「在領先AI公司取得股權」,稱這是「與美國公眾的夥伴關係」!
下週將與AI高管會面,此構想2025年初就已和OpenAI執行長Sam Altman討論,可能採自願讓股模式(類似先前Intel 10%政府持股)。
AI要變成美國「國家戰略基礎設施」了?這波操作會如何重塑全球科技版圖?🤖🇺🇸
post-image
  • 打賞
  • 回覆
  • 轉發
  • 分享