Animals vs Ghosts

摘要

安德烈·卡帕蒂在訪談中指出，前沿大語言模型研究正從「建造動物」轉向「召喚鬼魂」。鬼魂是高度受人類影響的統計化複製品，而非純粹的無偏學習。作者認為，雖然目前尚未找到完全無偏的「苦學」演算法，但人類資料的 supervised 學習仍是目前最可行的解決前冷啟動問題的方法。

Andrej Karpathy discusses how frontier LLM research is shifting from building animals to summoning ghosts, which are human-influenced statistical replicas rather than purely unbiased agents. While no perfect algorithm exists yet, human data's supervised learning remains the current best approach for…

重點

• 前沿 AI 研究正從建造動物轉向召喚鬼魂。
• 鬼魂是人類資料的統計化複製品，非純粹無偏學習。
• 目前尚無完全無偏的演算法，人類資料的 supervised 學習是當前最佳解。

適合誰看

對 AI 趨勢、大語言模型架構及冷啟動問題感興趣的讀者。

摘要依據

講者

Andrej Karpathy

依據

文章全文

為什麼排在這裡

人氣

0.75

新鮮

0.25

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• The space of minds文章 ・ Andrej Karpathy（部落格）
• Andrej Karpathy: From Vibe Coding to Agentic EngineeringPodcast ・ Training Data ・ 30 分鐘（在新分頁開啟原站）
• Deep Dive into LLMs like ChatGPT影片 ・ Andrej Karpathy ・ 3 小時 31 分（在新分頁開啟原站）
• The data black hole at the center of AI文章 ・ Dwarkesh Patel ・ 12 分鐘
• How I use LLMs影片 ・ Andrej Karpathy ・ 2 小時 11 分（在新分頁開啟原站）
• Anthropic LLM 论文精读【论文精读·51】影片 ・ 跟李沐学AI ・ 1 小時 2 分（在新分頁開啟原站）