聽節目（在新分頁開啟原站）連到 Unsupervised Learning
摘要
Jacob Effron 與 Lukasz Kaiser 探討當前 AI 架構的根本限制，特別是 Transformer 是否仍為主導。Kaiser 認為雖然推理和 Agent 已大幅進步，但缺乏通用性的能力仍存疑，且物理世界泛化仍需突破。他強調應保持開放源與閉源模型的辯證思考，並鼓勵研究者進行無效探索以突破現有瓶頸。
Jacob Effron and Lukasz Kaiser discuss fundamental limits of current AI architectures, particularly the Transformer, and whether it will remain dominant. Kaiser highlights the gap in generalization, the evolution of agents, and the tension between open and closed source models, urging researchers to…
重點
- Transformer 可能無法像人類一樣泛化，需要新方法
- Agent 和推理技術已大幅進步，但物理世界泛化仍有缺口
- 開放源與閉源模型差距可能持續擴大或縮小，視未來而定
章節
依話題轉折切分，標題由 AI 產生
- 02:08LLM 泛化能力：資料與資料外推的差距
- 11:30Transformer 架構的未來：注意力與 RL 的結合
- 14:23程式碼模型開發效率的轉變與控制
- 17:21OpenAI 的 Intern 目標與 Codex 的侷限
- 25:52RL 在可驗證領域的進展與非可驗證領域的挑戰
- 28:22RL 的稀疏訊號與人類審美對模型的影響
- 31:11RL 的泛化能力：從法律到醫療的應用
- 36:00大模型時代的應用潛力與硬體瓶頸
- 50:01公司決策：從 ChatGPT 到推理模型的轉型
- 54:20AGI 的定義與 AI 開發者的信任建立
- 1:01:30閉源與開源模型的差距與開源趨勢
- 1:05:31AI 對程式碼編輯器的依賴與安全擔憂
- 1:12:49AI 的未來：從研究突破到實際應用
提到的工具與公司
- OpenAI
- Google Brain
- Codex
- RL
適合誰看
對 AI 架構、Transformer 未來及 Agent 技術感興趣的研究者與開發者。
摘要依據
- 講者
- Jacob Effron
- 依據
- 語音轉文字
為什麼排在這裡
- 人氣
- 0.50
- 新鮮
- 0.63
在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算
相關內容
- Ep 81: Ex-OpenAI Researcher On Why He Left, His Honest AGI Timeline, & The Limits of Scaling RLPodcast ・ Unsupervised Learning ・ 1 小時 3 分（在新分頁開啟原站）
- Building the Automated AGI Lab: Core Automation's Jerry Tworek and Rohan Anil影片 ・ Sequoia Capital ・ 49 分鐘
- Ep 90: AI Pioneer Jürgen Schmidhuber on the State of AI TodayPodcast ・ Unsupervised Learning ・ 51 分鐘
- Marc Andreessen introspects on The Death of the Browser, Pi + OpenClaw, and Why "This Time Is Different"Podcast ・ Latent Space ・ 1 小時 16 分（在新分頁開啟原站）
- OpenAI's Greg Brockman: Why Human Attention Is the New BottleneckPodcast ・ Training Data ・ 28 分鐘（在新分頁開啟原站）
- E201｜OpenAI挑战通用型AI Agent，聊聊Agent的底层架构、AGI转折点与RL人才分布Podcast ・ 硅谷101 ・ 1 小時 20 分（在新分頁開啟原站）
摘要由 AI 根據原文產生，可能有誤；完整內容請看原站。聽節目（在新分頁開啟原站）