看影片(在新分頁開啟原站)連到 Zhang Xiaojun Podcast
其他版本:Podcast 版(在新分頁開啟)
摘要
本訪談探討了由螞蟻集團孵化的「螞蟻靈波」公司如何從具身智慧的預訓練開始,解決資料規模化(Scale-up)與模型泛化性的挑戰。沈宇軍分享了從生成模型轉向底層表徵學習的經驗,並指出當前具身智慧面臨的最大瓶頸在於資料無法有效規模化,預計明年中當具身資料量達到與網際網路資料相當時,才可能進入類似 GPT-1 的成熟階段。
This interview explores how Ant's Lingbo company is tackling bottlenecks in pre-training and data scale-up for embodied intelligence. Shen Yujun shares his experience shifting from generative models to bottom-up representation learning, highlighting that the current major hurdle is the inability to…
重點
- 螞蟻靈波釋出第二代具身基礎模型,聚焦從預訓練到本體泛化的技術突破。
- 當前具身智慧面臨的最大瓶頸是資料無法有效規模化,預計明年中達到網際網路資料量級。
- 中美思路融合:矽谷強調通用大腦與後訓練,中國強調從真實感測器出發重做物理世界。
章節
依話題轉折切分,標題由 AI 產生
- 00:00螞蟻寧波釋出第二代巨深基座模型
- 03:37從影象編輯到預訓練:生成模型演進之路
- 06:53從位元組跳動到視覺動作模型:技術積累與突破
- 34:18資料清洗與分佈:構建高質量訓練集的關鍵
- 41:01模型架構關係:Vision、Depth 與 VA 的協同
- 48:25數字世界與物理世界的錯位:影片生成的挑戰
- 53:26Moe 架構原生實現:平衡啟用比例的技術難點
- 56:38單向 Attention 與知識遺忘:時間不可逆的代價
- 59:40機器人小腦與大腦的界限:VLA 的實際定位
- 1:06:25多工聯合訓練:從獨立訓練到高效評測
- 1:11:29真實資料量級:網際網路資料與真機資料的差距
- 1:14:47預訓練瓶頸:為何影片生成路線難以複製
- 1:28:47靈巧手與 Ego-centric:未來機器人操作的新方向
- 1:51:20資料原生:泛化性與任務方法性的核心挑戰
提到的工具與公司
- GPT-1
適合誰看
對具身智慧、大模型基礎研究或資料科學感興趣的技術愛好者與研究者。
摘要依據
- 依據
- 語音轉文字
為什麼排在這裡
- 人氣
- 0.34
- 新鮮
- 0.76
在主題頁與搜尋結果裡,名次由相關、人氣、新鮮三個分數決定;這一頁沒有搜尋的關鍵字,所以沒有相關分數。排序怎麼算
相關內容
- 【十字路口】当具身智能走到十字路口|和苏度、蚂蚁灵波、自变量、破壳:四种一线判断【视频播客】影片 ・ Koji杨远骋 ・ 43 分鐘
- Vol.125|世界模型更底层的东西:为什么机器人要先学会「因果」Podcast ・ 开始连接 LinkStart ・ 1 小時 11 分(在新分頁開啟原站)
- 109. 机器人遭遇数据荒?与谢晨聊:仿真与合成数据、Meta天价收购和Alexandr WangPodcast ・ 张小珺Jùn|商业访谈录 ・ 1 小時 41 分(在新分頁開啟原站)
- 【十字路口】“我看到了 Scaling Law 的信号" | 对谈清华叉院助理教授徐梦迪:具身智能、世界模型、真正的泛化【视频播客】影片 ・ Koji杨远骋 ・ 1 小時 21 分
- 77.有关智元、觅蜂的愿景与野心,和具身智能的竞速之旅|与姚卯青的对谈Podcast ・ 卫诗婕|漫谈 Light the Star ・ 2 小時 59 分(在新分頁開啟原站)
- 于是转身向具身走去|对话王家伟:24 岁的具身智能首席科学家Podcast ・ 十字路口Crossing ・ 1 小時 10 分
摘要由 AI 根據原文產生,可能有誤;完整內容請看原站。看影片(在新分頁開啟原站)
