AI不确定性的数学原理​ | 贝叶斯法则 | 机器学习 | 深度学习 | 祖宾·加赫拉马尼 | 谷歌DeepMind | 大语言模型 | 概率推理 | 神经网络 | 通用人工智能 | 语义熵

摘要

透過訪談谷歌 DeepMind 祖賓·加赫拉馬尼，探討讓 AI 學會表示與更新不確定性的數學原理。內容解釋了偶然與認知不確定性的區別，指出大語言模型缺乏顯式不確定性表示易導致過度自信，並提出貝葉斯法則與語義熵作為解決方案，強調具備自我懷疑的 AI 比傲慢的系統更可靠。

An interview with Zoubin Ghahramani discussing the mathematical principles of uncertainty in AI, the limitations of current LLMs, and the role of Bayesian inference.

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• 智慧系統必須能表示並更新不確定性才能做出好決策。
• 大語言模型缺乏顯式不確定性，易過度自信且容易出錯。
• 貝葉斯法則與語義熵是讓 AI 具備謙遜與自我懷疑的關鍵。

章節

依話題轉折切分，標題由 AI 產生

1. 00:00大模型通病：缺乏自我懷疑的權威感
2. 04:20祖賓觀點：智慧核心在於處理不確定性
3. 06:50貝葉斯法則：用機率表示先驗信念與證據
4. 09:38AI現狀：模仿推理卻未顯式計算貝葉斯
5. 19:33擁抱不確定性：賦予 AI 謙遜與真實性

提到的工具與公司

• Semantic Entropy
• AlphaFold
• GenCast

適合誰看

對機器學習原理、貝葉斯推理或 AI 未來發展感興趣的研究者與工程師。

摘要依據

依據

人工字幕

為什麼排在這裡

人氣

0.69

新鮮

0.91

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• The mathematics of AI uncertainty影片 ・ Google DeepMind ・ 45 分鐘
• Bayesian Brain, Scientific Method, and Models [Dr. Jeff Beck]Podcast ・ Machine Learning Street Talk ・ 1 小時 17 分
• He's Building an AI That Can't Lie | Dan KleinPodcast ・ Gradient Dissent ・ 1 小時 15 分
• Never Trust An LLM影片 ・ Matt Pocock ・ 14 分鐘
• Consciousness, Reasoning and the Philosophy of AI with Murray ShanahanPodcast ・ Google DeepMind: The Podcast ・ 40 分鐘
• GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models影片 ・ Yannic Kilcher ・ 37 分鐘（在新分頁開啟原站）