1文章高階EN
Up the Stack: How AI’s Escape From the Commodity Trap Risks Enterprise Lock-in
分析 AI 實驗室面臨的「商品陷阱」，指出單純銷售模型推論服務難以獲利，建議透過垂直整合、嵌入式部署與建立轉換成本來向上遊遷移以獲取利潤。文章探討了這種策略可能帶來的企業鎖定風險，並呼籲監管機構關注高階層競爭問題。
AI as Normal Technology（Arvind Narayanan、Sayash Kapoor）
部落格 ・ 國際 ・ 英文 ・ A 級 ・ 13 筆內容 ・ 最近更新 2026/10/02
原 AI Snake Oil：用證據檢驗 agent 能力、評測方法與風險說法的冷靜派分析
最受歡迎
依人氣
- 2文章高階EN
Open-world evaluations for measuring frontier AI capabilities
介紹「開放世界評估」，一種超越傳統標榜的 AI 能力測試方法，透過讓 AI 在真實複雜環境中執行任務（如自動開發並上架 iOS 應用程式）來揭露其真實潛力與盲點。
- 3文章進階EN
Do AI Risks Require Extraordinary Government Intervention?
回應 Derek Thompson 關於 AI 風險需政府干預的觀點，主張 AI 應視為普通技術。文章指出，依賴政府限制公司行為的「異常技術」框架成本高昂且效果有限，而透過提升社會韌性來應對誤用風險才是更有效的途徑。
- 4文章進階EN
What will be left for us to work on?
Arvind Narayanan 在 ICML 2026 的演講中提出「AI 即普通技術」框架，主張 AI 將像電力革命般重塑工作，而非直接取代。他強調未來工作將需大幅適應，並建議透過評估與判斷力來提升人類潛力，避免過度依賴黑箱工具。
- 5文章進階EN
Fact checking Moravec's paradox
作者挑戰廣為流傳的「莫拉維克悖論」，指出該理論缺乏實證支援且邏輯有誤。文章說明此說法只是研究者的選擇性觀察，導致對 AI 能力的誤判，並呼籲大眾應放棄預測未來突破的幻想，轉而適應已確定的技術發展。
- 6文章進階EN
Why AI hasn’t replaced software engineers, and won’t
透過分析軟體工程師行業的實際資料，駁斥了 AI 會導致大規模裁員的敘事，指出裁員多為財務壓力所致。文章提出「決定 - 執行 - 交付」三明治模型，說明 AI 僅壓縮中間的執行層，而兩端的決策與負責任任層仍由人類主導，因此軟體工程師整體需求…
- 7文章高階EN
AI agents can't yet do open-ended AI research
透過「影子評估」實驗，讓前線 AI 代理嘗試撰寫並回應兩篇未發表的 AI 論文核心問題。結果顯示，這些代理缺乏判斷力、創意與資源管理意識，無法處理開放式的研究任務，僅能處理可驗證的狹窄任務。
- 8文章高階EN
The AI-as-Normal-Technology view of loss-of-control incidents
提出將 AI 視為普通技術的觀點，整合 AI 安全與網路安全社群的看法，指出 OpenAI 等公司因忽視基本防護措施導致失控事件，並非單純對齊失敗。文章主張應透過政策釐清責任、投資控制技術與組織治理，並建立透明機制以預防未來風險。
- 9文章進階EN
Did Google’s AI agents really build an operating system for $916?
質疑 Google 宣稱 AI 代理僅用單個提示詞就低成本建立作業系統的說法，指出其過程依賴龐大提示詞、特定架構與未公開的程式碼，缺乏獨立驗證。讀者可了解 AI 代理在複雜軟體開發上的實際能力與評估盲點。
- 10文章進階EN
AI existential risk probabilities are (still) too unreliable to inform policy
指出 AI 滅絕風險的機率預測缺乏可靠依據，無法用於政策制定。作者分析歸納、推論與主觀預測三種方法均因缺乏參考類別與理論基礎而失效，且現有聚合方法無法解決系統性高估問題。讀者可了解為何這些預測在公共政策中具有誤導性。
最新內容
依發布時間
- 文章進階EN
A big-tent or small-tent AI safety movement?
探討 AI 安全議題中「存在性風險」與「系統性風險」的敘事分歧，指出過度強調末日恐懼可能導致政策極化與誤導。作者主張應建立包容性強的「大帳篷」安全運動，整合不同觀點，聚焦於透明度、責任歸屬等具體政策，而非僅依賴恐慌性禁令。
- 文章進階EN
AI existential risk probabilities are (still) too unreliable to inform policy
指出 AI 滅絕風險的機率預測缺乏可靠依據，無法用於政策制定。作者分析歸納、推論與主觀預測三種方法均因缺乏參考類別與理論基礎而失效，且現有聚合方法無法解決系統性高估問題。讀者可了解為何這些預測在公共政策中具有誤導性。
- 文章高階EN
The AI-as-Normal-Technology view of loss-of-control incidents
提出將 AI 視為普通技術的觀點，整合 AI 安全與網路安全社群的看法，指出 OpenAI 等公司因忽視基本防護措施導致失控事件，並非單純對齊失敗。文章主張應透過政策釐清責任、投資控制技術與組織治理，並建立透明機制以預防未來風險。
- 文章高階EN
AI agents can't yet do open-ended AI research
透過「影子評估」實驗，讓前線 AI 代理嘗試撰寫並回應兩篇未發表的 AI 論文核心問題。結果顯示，這些代理缺乏判斷力、創意與資源管理意識，無法處理開放式的研究任務，僅能處理可驗證的狹窄任務。
- 文章進階EN
What will be left for us to work on?
Arvind Narayanan 在 ICML 2026 的演講中提出「AI 即普通技術」框架，主張 AI 將像電力革命般重塑工作，而非直接取代。他強調未來工作將需大幅適應，並建議透過評估與判斷力來提升人類潛力，避免過度依賴黑箱工具。
- 文章高階EN
Up the Stack: How AI’s Escape From the Commodity Trap Risks Enterprise Lock-in
分析 AI 實驗室面臨的「商品陷阱」，指出單純銷售模型推論服務難以獲利，建議透過垂直整合、嵌入式部署與建立轉換成本來向上遊遷移以獲取利潤。文章探討了這種策略可能帶來的企業鎖定風險，並呼籲監管機構關注高階層競爭問題。
- 文章進階EN
Why AI hasn’t replaced software engineers, and won’t
透過分析軟體工程師行業的實際資料，駁斥了 AI 會導致大規模裁員的敘事，指出裁員多為財務壓力所致。文章提出「決定 - 執行 - 交付」三明治模型，說明 AI 僅壓縮中間的執行層，而兩端的決策與負責任任層仍由人類主導，因此軟體工程師整體需求…
- 文章進階EN
Did Google’s AI agents really build an operating system for $916?
質疑 Google 宣稱 AI 代理僅用單個提示詞就低成本建立作業系統的說法，指出其過程依賴龐大提示詞、特定架構與未公開的程式碼，缺乏獨立驗證。讀者可了解 AI 代理在複雜軟體開發上的實際能力與評估盲點。
- 文章進階EN
Do AI Risks Require Extraordinary Government Intervention?
回應 Derek Thompson 關於 AI 風險需政府干預的觀點，主張 AI 應視為普通技術。文章指出，依賴政府限制公司行為的「異常技術」框架成本高昂且效果有限，而透過提升社會韌性來應對誤用風險才是更有效的途徑。
- 文章高階EN
Open-world evaluations for measuring frontier AI capabilities
介紹「開放世界評估」，一種超越傳統標榜的 AI 能力測試方法，透過讓 AI 在真實複雜環境中執行任務（如自動開發並上架 iOS 應用程式）來揭露其真實潛力與盲點。
- 文章高階EN
New Paper: Towards a science of AI agent reliability
提出衡量 AI 代理可靠性的四個維度與十二項指標，發現能力進步迅速但可靠性提升有限。讀者可了解如何評估 AI 代理的穩定性與風險，並學習部署與開發者應採取的具體做法。
- 文章高階EN
AI Won’t Automatically Make Legal Services Cheaper
探討 AI 技術如何應用於法律服務領域，並指出僅靠技術進步無法自動降低法律服務成本。作者分析法規限制、對抗性司法制度及人類參與等三大瓶頸，說明若缺乏制度改革，AI 可能只會讓法律工作更便宜卻無法提升結果品質。
- 文章進階EN
Fact checking Moravec's paradox
作者挑戰廣為流傳的「莫拉維克悖論」，指出該理論缺乏實證支援且邏輯有誤。文章說明此說法只是研究者的選擇性觀察，導致對 AI 能力的誤判，並呼籲大眾應放棄預測未來突破的幻想，轉而適應已確定的技術發展。
