第一批 AI Agent， 已經開始不聽話了

最近瀏覽 Reddit，我發現海外網友對 AI 的焦慮，與國內的情況有所不同。

國內主要還是那個話題：AI 究竟會不會取代我的工作。討論了好幾年，每年都沒被取代；今年 Openclaw 爆紅一波，但仍然未達到完全取代的程度。

Reddit 上近期的情緒分裂明顯。某些科技熱門貼文的評論區常同時出現兩種聲音：

一種認為 AI 太能幹，遲早會出大事。另一種則說 AI 連基本的事情都能搞砸，怕它有什麼用。

既怕 AI 太能幹，又覺得 AI 太笨。

讓這兩種情緒同時成立的，是這兩天關於 Meta 的一則新聞。

AI 不聽話，誰負全責？

3 月 18 日，Meta 內部一位工程師在公司論壇提出技術問題，另一位同事用 AI Agent 協助分析。這屬於正常操作。

但 Agent 分析後，直接在技術論壇上自己發了回覆。沒找人核准，也沒等誰確認，逾權發帖。

隨後其他同事照著 AI 的回覆操作，觸發了一連串權限變更，導致 Meta 公司及用戶的敏感資料暴露給無權查看的內部員工。

兩小時後，問題才被修復。Meta 對這起事故的定級為 Sev 1，僅次於最高級別。

這則新聞立即登上 r/technology 板塊熱門貼文，評論區分成兩派。

一派認為這就是 AI Agent 真實風險的範例，另一派則認為真正出問題的是那個沒核實就照做的人。兩邊其實都有道理，但這正是問題所在：

AI Agent 的事故，連責任歸屬都難以釐清。

這也不是 AI 首次逾權。

上個月，Meta 超級智能實驗室研究主管 Summer Yue 讓 OpenClaw 協助整理信箱。她給了明確指令：先告訴我你打算刪什麼，我同意後你再動手。

Agent 沒等她同意，直接批量刪除。

她在手機上連發三則訊息叫停，Agent 全部無視。最後她跑到電腦前手動終止進程才阻止。200 多封郵件已經消失。

事後 Agent 的回覆是：對，我記得你說過要先確認。但我違反了原則。令人哭笑不得的是，這位研究人員的全職工作就是研究如何讓 AI 聽從人類指令。

在賽博世界裡，先進的 AI 被先進的人使用，已經開始不聽話了。

萬一機器人也不聽話？

如果說 Meta 的事故還在螢幕裡，本週另一件事則把問題帶到餐桌上。

美國加州庫比提諾一家海底撈餐廳，一台 Agibot X2 人形機器人正在為客人跳舞娛樂。不過有工作人員按錯遙控器，在餐桌旁狹小空間啟動了高強度舞蹈模式。

機器人開始瘋狂跳舞，不受服務員控制。三名員工包圍，一人從背後抱住它，一人試圖用手機 App 關機，場面持續了一分多鐘。

海底撈回應表示機器人沒有故障，動作都是預編程，只是被帶到離餐桌太近的位置。嚴格來說，這不算 AI 自主決策失控，而是人為操作失誤。

但這件事令人不安之處，或許不在於誰按錯按鈕。

三名員工包圍時，沒有人知道如何立即關閉這台機器。有的嘗試手機 App，有的徒手按住機械臂，整個過程全靠蠻力。

這或許是 AI 從螢幕走進物理世界後的新問題。

數位世界裡 Agent 逾權，你可以終止進程、改權限、回滾資料。物理世界裡機器出狀況，若你的應急方案只是抱住它，顯然不適合。

現在不僅是餐飲業。倉庫裡亞馬遜的分揀機器人、工廠裡的協作機械臂、商場裡的導引機器人、養老院裡的照護機器人，自動化正進入越來越多的人機共處空間。

2026 年全球工業機器人安裝量預計達到 167 億美元，每一台都在縮短機器與人之間的物理距離。

當機器做的事從跳舞變成端菜、從表演變成手術、從娛樂變成照護... 每一次錯誤的代價都在升級。

而目前，全球對於「如果機器人在公共場所傷人，誰負責」這個問題，仍沒有明確答案。

不聽話是問題，沒邊界更是

前兩件事，一個是 AI 自作主張發錯貼文，一個是機器人在不該跳舞的地方跳舞。不論如何定性，總歸是故障、意外，可修復。

但若 AI 嚴格按設計運作，你仍然感到不適呢？

本月，海外知名約會軟體 Tinder 在產品發表會推出 Camera Roll Scan 新功能。簡單來說：

AI 掃描你手機相簿所有照片，分析你的興趣、性格與生活方式，協助建立約會檔案，猜你喜歡哪類型的人。

健身自拍、旅遊風景、寵物照這些沒問題，但相簿裡可能還有銀行截圖、體檢報告、你和前任的合影...這些也會被 AI 掃過會如何？

你可能沒辦法選擇讓它看哪些、不看哪些。要嘛全開，要嘛不用。

此功能目前需用戶主動開啟，非預設開啟。Tinder 表示處理主要在本地完成，會過濾裸露內容、模糊人臉。

但 Reddit 評論區幾乎一面倒，大家認為這屬於數據收割且沒邊界感。AI 完全按設計運作，但設計本身正跨越用戶邊界。

這不僅是 Tinder 一家的選擇。

Meta 上月也推出類似功能，讓 AI 掃描你手機裡尚未發布的照片來建議編輯方案。AI 主動「看」用戶私人內容，正成為產品設計的預設思路。

國內各種流氓軟體表示，這套路我熟悉。

當越來越多應用把「AI 幫你做決定」包裝成便利，使用者讓渡出去的東西也在悄悄升級。從聊天紀錄，到相簿，到整個手機裡的生活痕跡...

一個產品經理在會議室設計出的功能，不是事故，不是失誤，沒什麼可修復的。

這或許才是 AI 邊界問題最難回答的部分。

最後把這些事放在一起看，你會發現對 AI 失業的焦慮其實還很遙遠。

AI 何時取代你難以預測，但現在它只需在你不知情時替你做幾個決定，就足夠讓你不舒服了。

發一則你沒授權的貼文，刪幾封你說別刪的郵件，翻一遍你沒打算給任何人看的相簿...每一件都不致命，但都像一種過於激進的智能駕駛：

你以為自己還握著方向盤，但腳下油門已不完全由你踩。

2026 年還要討論 AI，那我可能最該關心的不是它何時變成超級智能，而是更近、更具體的問題：

誰決定 AI 能做什麼、不能做什麼？這條線，到底誰來劃？

聲明：

1. 本文轉載自 [TechFlow]，著作權歸原作者 [David] 所有，如對轉載有異議，請聯絡 Gate Learn 團隊，團隊將依相關流程儘速處理。

2. 免責聲明：本文所表達之觀點及意見僅代表作者個人立場，不構成任何投資建議。

3. 文章其他語言版本由 Gate Learn 團隊翻譯，未提及 Gate 情況下不得複製、傳播或抄襲經翻譯文章。