影片高階EN6,969 次觀看
Small Models, Big Results: Training a Finance Agent for Under $500 — Charles Dickens, Snorkel AI
來源 AI Engineer
看影片（在新分頁開啟原站）連到 YouTube・AI Engineer
摘要
Charles Dickens 分享如何以低於 500 美元訓練 Qwen3 4B 模型，在金融任務上超越 235B 參數模型。透過建立 FinQA 資料集與強化學習，證明專精化與高品質資料比單純堆疊參數更重要，並能提升工具使用紀律。
A talk demonstrating how a small 4B model trained with reinforcement learning outperforms a 235B model on financial tasks using specialized data and simple rewards.
摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。
重點
- 4B 小模型在金融任務上以 60% 準確率超越 235B 大模型。
- 建立 FinQA 資料集，將 SEC 10-K 報告轉化為專家驗證的問答。
- 簡單的二元獎勵與專精化訓練比複雜獎勵更有效。
章節
依話題轉折切分，標題由 AI 產生
- 00:00Intro
- 00:32Specialization can beat scale
- 01:07About Snorkel AI
- 02:32Working with UC Berkeley
- 03:51A tale of two models
- 04:41Specialists, not polymaths
- 05:06Building FinQA from 10-K filings
- 06:01Three layers of verification
- 07:16Where models fail
- 08:16Training with rLLM
- 09:16The training environment
- 09:40Training for under $500
- 10:20Result: 4B beats 235B
- 10:55Does it transfer to harder problems?
- 12:05General tool use held up
- 12:35Simple data won
- 13:20Simple rewards won
- 14:00A blueprint for enterprise agents
- 14:45How to evaluate agents
- 15:45Open Benchmarks Grants
提到的工具與公司
- Qwen3 4B
- Qwen3 30B
- rLLM
- GRPO
- FinQA
- GPT 5 nano
- H100
適合誰看
正在開發企業級 AI 代理、需要高可靠性與成本控制的研究人員或工程師。
摘要依據
- 講者
- Charles Dickens
- 依據
- 自動字幕
為什麼排在這裡
- 人氣
- 0.86
- 新鮮
- 1.00
在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算
相關內容
- Build Better AI Agents with RL & Fine-Tuning (Kyle from OpenPipe)影片 ・ AI Tinkerers ・ 51 分鐘 ・
- Agentic RL: Frameworks and Best Practices文章 ・ Deep (Learning) Focus（Cameron R. Wolfe） ・
- I trained (one of) the smallest Reasoning Language Models EVER from scratch影片 ・ Neural Breakdown with AVB ・
- 你不知道的大模型训练：原理、路径与新实践文章 ・ Tw93 Blog ・
- PewDiePie is setting AI free... and OpenAI is furious影片 ・ Fireship ・ 6 分鐘 ・
- Agentic World Models文章 ・ Deep (Learning) Focus（Cameron R. Wolfe） ・
這個來源最近的內容
摘要由 AI 根據原文產生，可能有誤；完整內容請看原站。看影片（在新分頁開啟原站）