Vol.119｜对话 Macaron AI 创始人 Andrew：下一代模型公司正在从 Agent 产品里长出来？

摘要

訪談 Macaron AI 創辦人 Andrew，探討如何透過真實場景互動與持續學習，將大模型轉化為能獨立行動的 Agent。內容涵蓋 LoRA 強化學習技術突破、多模型並行架構，以及從使用者反饋中迭代產品的「拯救派」理念。

An interview with Andrew from Macaron AI discussing how to build autonomous agents through real-world interaction and LoRA reinforcement learning at trillion parameter scales.

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• 透過 Open Cloud 標準與真實任務，讓 Agent 具備獨立行動與持續學習能力。
• 實現萬億參數模型的 LoRA 強化學習，支援低成本多模型並行與多工服務。
• 主張從使用者互動中獲取反饋來最佳化模型，而非單純追求算力極限。

章節

依話題轉折切分，標題由 AI 產生

1. 00:00極客公園探索大模型訓練極限
2. 03:05小紅書引發對 Agent 浪潮反思
3. 09:24File System 記憶機制面臨瓶頸
4. 27:00低秩矩陣最佳化推理效能關鍵
5. 38:01稀疏訊號改變模型思維方式
6. 40:33LoRA 技術支援多工並行訓練
7. 49:10百萬模型規模下的分工合作
8. 52:31五月底將具備全尺寸模型訓練能力
9. 1:04:17以使用者需求為起點打造 Agent 基礎模型
10. 1:07:06追求影像化互動與非冰冷的朋友關係
11. 1:09:58Agent 精調與記憶機制是智慧新來源
12. 1:16:32透過多模型 Ensemble 突破單一模型瓶頸
13. 1:19:12接近矽基生命速度前所未有但路徑不明
14. 1:24:28從生活場景切入而非單純追求技術突破

提到的工具與公司

• LoRA
• Hugging Face
• MindClaw
• DSA
• MTP

適合誰看

對大模型 Agent 技術、強化學習架構或 AI 產品化策略感興趣的開發者、產品經理與技術創業者。

摘要依據

依據

語音轉文字

為什麼排在這裡

人氣

0.35

新鮮

0.62

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• 【生成式AI導論 2024】第9講：以大型語言模型打造的AI Agent (14:50 教你怎麼打造芙莉蓮一級魔法使考試中出現的泥人哥列姆)影片 ・ Hung-yi Lee ・ 25 分鐘
• Andrej Karpathy on Code Agents, AutoResearch, and the Loopy Era of AIPodcast ・ No Priors ・ 1 小時 7 分
• E201｜OpenAI挑战通用型AI Agent，聊聊Agent的底层架构、AGI转折点与RL人才分布Podcast ・ 硅谷101 ・ 1 小時 20 分
• 【十字路口】AI 下半场，不会只剩一个超级模型｜对谈 Kevin Ding：Pyromind 创始人/CEO【视频播客】影片 ・ Koji杨远骋 ・ 49 分鐘
• AI Agent (2/3): AI Agent 之間可以有什麼樣的互動影片 ・ Hung-yi Lee ・ 22 分鐘（在新分頁開啟原站）
• Agents, RAG, and Reasoning Models影片 ・ Luis Serrano Academy ・ 27 分鐘（在新分頁開啟原站）