聽節目(在新分頁開啟原站)連到 科技浪 Tech.wav
摘要
哈利訪談 OpenAI 前 CTO Mira Murati 創立的 Thinking Machines,解析其 LoRA 最佳實踐與 OPD 論文,並介紹新產品 Tinker。同時評論 Kimi K2 Thinking 模型在效能與成本上的突破,探討中國 AI 發展趨勢。
A podcast episode discussing Thinking Machines' AI research, LoRA best practices, and the emergence of Kimi K2 Thinking.
摘要、重點與章節標題由語言模型整理,細節(誰說的、數字、先後)可能有誤;要引用請以原始內容為準。
重點
- Thinking Machines 由 OpenAI 前 CTO 創立,估值達一百億美金。
- 團隊發表 LoRA 全層應用與 OPD 論文,提供模型微調最佳實踐。
- Kimi K2 Thinking 模型在效能與成本上展現中國 AI 新突破。
章節
依話題轉折切分,標題由 AI 產生
- 00:00推薦 Clio eSIM 方便彈性且划算
- 06:54Mirra Murati 在特斯拉的協調經歷
- 16:34公司聚焦於模型微調訓練技術
- 21:05LoRA 方法大幅降低微調訓練成本
- 25:50LoRA 可同時儲存多個技能補充包
- 33:00後訓練技巧提升模型邏輯與解題能力
- 35:48RL 與 SFT 互補,共同提升模型創新能力
- 44:27Unpolicy Distillation 節省算力並提升推理效能
- 49:57Tinker API 簡化大規模微調的硬體管理
- 52:52Fine Tuning 市場狹窄,公司傾向被動引導
- 57:39細谷 AI 重啟實驗文化,Kimi K2 挑戰西方
- 1:00:37中國開源模型以低成本在 benchmark 上超越
- 1:03:44感謝聽眾支援,祝願大家週愉快
提到的工具與公司
- LoRA
- OPD
- Tinker
- Kimi K2 Thinking
- OpenAI
適合誰看
對 AI 模型微調技術、前沿研究或中國 AI 發展趨勢感興趣的開發者與技術決策者。
摘要依據
- 講者
- 哈利
- 依據
- 語音轉文字
為什麼排在這裡
- 人氣
- 0.27
- 新鮮
- 0.28
在主題頁與搜尋結果裡,名次由相關、人氣、新鮮三個分數決定;這一頁沒有搜尋的關鍵字,所以沒有相關分數。排序怎麼算
相關內容
- Kimi Founder Yang Zhilin: K2, Agentic LLMs, Brains in Vats, and the Beginning of Infinity影片 ・ Zhang Xiaojun Podcast ・ 1 小時 40 分(在新分頁開啟原站)
- S2E57 LLM 之後:Thinking Machines 互動模型的誕生Podcast ・ 矽谷輕鬆談 Just Kidding Tech ・ 35 分鐘
- What’s Next for AI? OpenAI’s Łukasz Kaiser (Transformer Co-Author)Podcast ・ The MAD Podcast ・ 1 小時 5 分
- A Closer Look At Kimi K3's INSANE Architecture Breakthrough影片 ・ bycloud ・ 17 分鐘(在新分頁開啟原站)
- Kimi K3: The open-weights escalationPodcast ・ Interconnects ・ 20 分鐘
- This Week in AI: Open Weights, Frontier Models, Sandbox Escapes, Voice & AI DetectionPodcast ・ ThursdAI ・ 1 小時 48 分
摘要由 AI 根據原文產生,可能有誤;完整內容請看原站。聽節目(在新分頁開啟原站)