AI 武林：GPT-4

科技早餐 10/1｜Anthropic IPO 文件示警，先進 AI 恐危及人類生存

科技報橘 — Thu, 01 Oct 2026 00:00:00 +0800

科技早餐 10 月 1 日的五則新聞。彭博報導 OpenAI 正尋求募資至少 300 億美元、目標估值 1.4 兆美元；路透取得的 Anthropic 招股文件顯示去年營收是前一年的 12 倍、營業虧損仍超過 80 億美元，並警告先進…

原站：https://player.soundon.fm/p/ead686e9-4513-4217-beb5-5fa4d215860d/episodes/86d52a2b-25bc-458b-9769-5e87c8b139a8

三个月后的AI很难预测 | OpenAI研究员诺姆·布朗 | 多智能体集群与递归自我改进 | 思维链监控 | 千禧年大奖难题 | Hugging Face | 强化学习 | 测试时计算

Best Partners TV — Sat, 19 Sep 2026 00:00:00 +0800

OpenAI 研究員諾姆·布朗解析多智慧體系統如何透過並行思考解決千禧年大獎難題，並探討思維鏈監控的脆弱性與預訓練及強化學習的相乘效應。觀眾可了解 AI 加速演進的技術路徑、組織協作模式及未來安全挑戰。

原站：https://www.youtube.com/watch?v=U8IOTZ-8UIA

AI 原生思维——像训练大模型一样训练自己

寶玉 — Mon, 31 Aug 2026 00:00:00 +0800

分享作者如何像訓練大模型一樣訓練自己，透過建立反饋迴圈與不斷推翻舊知識來適應 AI 進化。內容涵蓋從找需求、判斷能力與成本邊界，到最小驗證與重設計產品的完整流程，並提供個人實戰經驗與設計準則。

原站：https://baoyu.io/blog/2026-08-31/ai-native-thinking

Stealing Reasoning Traces from Proprietary LLM APIs — Ilia Shumailov & Alexander Panfilov

Machine Learning Street Talk — Sun, 23 Aug 2026 00:00:00 +0800

兩位 AI 安全研究員指出，大型語言模型返回的加密推理軌跡可被小型模型解讀並重放，導致隱私洩漏、提示注入與越獄攻擊。此漏洞影響多家供應商，顯示加密機制在 AI 系統中可能失效，需重新評估安全架構。

原站：https://podcasters.spotify.com/pod/show/machinelearningstreettalk/episodes/Stealing-Reasoning-Traces-from-Proprietary-LLM-APIs--Ilia-Shumailov--Alexander-Panfilov-e3nonlk

Choosing to Stay Human

Ethan Mollick（部落格） — Wed, 27 May 2026 00:00:00 +0800

探討過度依賴 AI 寫作與學習可能導致思維退步與認知妥協的風險，並指出 AI 在特定情境下（如客製化教學）也能提升學習成效。文章強調應有選擇地使用 AI，避免將其作為解決問題的預設選項，以維持人類思考能力與真實性。

原站：https://www.oneusefulthing.org/p/choosing-to-stay-human

He Raised $70M to Cure Every Disease With AI | Samuel G. Rodriques, Edison Scientific

Gradient Dissent — Wed, 27 May 2026 00:00:00 +0800

Samuel Rodriques 訪談 Edison Scientific 創辦人，探討如何用 AI 代理（Agents）解決藥物研發、腦部繪圖與衰老等難題。

原站：https://episodes.captivate.fm/episode/ab96cf3a-74b5-450a-9624-81c20e0a546f.mp3

Notion’s Token Town: 5 Rebuilds, 100+ Tools, MCP vs CLIs and the Software Factory Future — Simon Last & Sarah Sachs of Notion

Latent Space — Wed, 15 Apr 2026 00:00:00 +0800

Notion 創辦人 Simon Last 與 Sarah Sachs 分享 Custom Agents 經歷，說明因模型能力與權限設計而經歷多次重構，最終透過 Agent Lab 思維打造企業級代理系統。

原站：https://www.latent.space/p/notion

AI for Atoms: How Periodic Labs is Revolutionizing Materials Engineering with Co-Founder Liam Fedus

No Priors — Fri, 03 Apr 2026 00:00:00 +0800

Elad Gil 訪談 Liam Fedus，探討 Periodic Labs 如何利用大型語言模型與專用神經網路結合，建立連線物理世界的 AI 基礎實驗室。

原站：https://traffic.megaphone.fm/PDP2440813202.mp3

Lossy self-improvement

Interconnects — Mon, 23 Mar 2026 00:00:00 +0800

討論語言模型雖能輔助研究，但受計算資源、人類監督與複雜度限制，無法實現自我加速的奇點。作者認為未來是「損耗性自我改進」，進度將呈線性而非指數增長，僅能提升效率而非引發劇變。

原站：https://www.interconnects.ai/p/lossy-self-improvement

ChatGPT – The Super Assistant Era | BG2 Guest Interview

BG2Pod — Mon, 16 Mar 2026 00:00:00 +0800

Altimeter 合夥人 Apoorv Agrawal 專訪 OpenAI 的 Nick Turley，談 ChatGPT 怎麼成為史上成長最快的產品之一、接下來要往哪裡走。

原站：https://podcasters.spotify.com/pod/show/bg2pod/episodes/ChatGPT--The-Super-Assistant-Era--BG2-Guest-Interview-e3gf7om

【生成式人工智慧與機器學習導論2025】第 2 講：上下文工程 (Context Engineering) — AI Agent 背後的關鍵技術

Hung-yi Lee — Mon, 22 Sep 2025 00:00:00 +0800

介紹上下文工程（Context Engineering）的概念，說明其與提示工程（Prompt Engineering）的異同，並探討如何透過最佳化輸入讓語言模型獲得預期輸出。

原站：https://www.youtube.com/watch?v=lVdajtNpaGI

The 12% RAG Performance Boost You're Missing (Ayush, LanceDB)

Jason Liu（部落格） — Thu, 11 Sep 2025 00:00:00 +0800

探討如何透過微調重排序模型與嵌入模型，將 RAG 檢索效能提升約 12%，並分析 ColBERT 架構與硬負例訓練的實作細節。讀者可學習如何平衡延遲與準確性，針對特定領域資料進行最佳化。

原站：https://jxnl.co/writing/2025/09/11/the-12-rag-performance-boost-youre-missing-ayush-lancedb

Jobs, growth, and the AI economy - Episode 3

OpenAI Podcast — Tue, 15 Jul 2025 00:00:00 +0800

OpenAI 副總裁 Brad Lightcap 與首席經濟學家 Ronnie Chatterji 探討 AI 對工作、教育及經濟的衝擊。

原站：https://shows.acast.com/openai-podcast/episodes/jobs-growth-and-the-ai-economy

102. 和张祥雨聊，多模态研究的挣扎史和未来两年的2个“GPT-4时刻”

张小珺Jùn｜商业访谈录 — Tue, 03 Jun 2025 00:00:00 +0800

張祥雨分享多模態研究十年歷程，剖析模型推理能力與規模反相關現象，並提出引入思維鏈（CoT）解決生成與理解割裂的觀點。內容涵蓋從 ResNet 到 NAS 的學術演進，以及對未來 AGI 與多模態融合架構的預見。

原站：https://www.xiaoyuzhoufm.com/episode/683d2ceb38dcc57c641a7d0f

【生成式AI時代下的機器學習(2025)】第五講：大型語言模型訓練方法「預訓練–對齊」(Pretrain-Alignment) 的強大與極限

Hung-yi Lee — Sat, 29 Mar 2025 00:00:00 +0800

深入探討大型語言模型訓練中「預訓練」與「對齊」的強大與極限，指出預訓練奠定基礎能力，而對齊僅需少量高品質資料進行畫龍點睛的微調。

原站：https://www.youtube.com/watch?v=Ozos6M1JtIE

Evaluating the Effectiveness of LLM-Evaluators (aka LLM-as-Judge)

Eugene Yan（部落格） — Sun, 18 Aug 2024 00:00:00 +0800

介紹將大型語言模型用作評估者（LLM-as-Judge）的技術、應用與挑戰，涵蓋直接評分、兩兩比較與參考基準等評分方法，並討論了相關評估指標與最佳實踐。讀者可學習如何設計、部署與最佳化 LLM 評估系統，以自動化評估其他模型的品質。

原站：https://eugeneyan.com//writing/llm-evaluators

Prompting Fundamentals and How to Apply them Effectively

Eugene Yan（部落格） — Sun, 26 May 2024 00:00:00 +0800

由 Eugene Yan 撰寫，深入探討大型語言模型提示工程的核心基礎與實作技巧。文章涵蓋結構化輸入輸出、思維鏈、n-shot 提示等概念，並提供使用 Claude API 的程式碼範例，教導讀者如何透過角色設定、評估機制與參數調整來最佳…

原站：https://eugeneyan.com//writing/prompting

【生成式AI導論 2024】第15講：為什麼語言模型用文字接龍，圖片生成不用像素接龍呢？— 淺談生成式人工智慧的生成策略

Hung-yi Lee — Sat, 18 May 2024 00:00:00 +0800

探討生成式 AI 中文字接龍與畫素接龍的生成策略差異，解釋為何影像與語音多採用非自迴歸方式。觀眾可了解不同基本單位（Token、Pixel、Sample）的組合邏輯，並掌握自迴歸與非自迴歸模型的優缺點及結合應用。

原站：https://www.youtube.com/watch?v=QbwQR9sjWbs

【生成式AI導論 2024】第16講：可以加速所有語言模型生成速度的神奇外掛 — Speculative Decoding

Hung-yi Lee — Sat, 18 May 2024 00:00:00 +0800

介紹 Speculative Decoding 技術，透過預言家預測語言模型接下來要生成的 Token，讓模型能平行計算，大幅加速生成速度。

原站：https://www.youtube.com/watch?v=MAbGgsWKrg8

【生成式AI導論 2024】第14講：淺談大型語言模型相關的安全性議題 (下) — 欺騙大型語言模型

Hung-yi Lee — Sat, 18 May 2024 00:00:00 +0800

深入探討大型語言模型面臨的欺騙風險，區分「越獄」與「提示注入」兩種攻擊手法。透過實際範例與最新研究，說明如何繞過模型防禦機制，並提醒使用者注意潛在的隱私洩漏與安全隱患。

原站：https://www.youtube.com/watch?v=CNTondxaguo

【生成式AI導論 2024】第12講：淺談檢定大型語言模型能力的各種方式

Hung-yi Lee — Sat, 11 May 2024 00:00:00 +0800

介紹如何評估大型語言模型的能力，涵蓋選擇題、翻譯、長文閱讀等任務的評比方法。內容指出傳統基準如 MMLU、BLEU 存在缺陷，並探討模型可能偷看訓練資料的現象，提供更客觀的評估視角。

原站：https://www.youtube.com/watch?v=Hk8Z0uhmWg4

【生成式AI導論 2024】第13講：淺談大型語言模型相關的安全性議題 (上) — 亡羊補牢、語言模型的偏見、有多少人用 ChatGPT 寫論文審查意見

Hung-yi Lee — Sat, 11 May 2024 00:00:00 +0800

探討大型語言模型的安全議題，包括幻覺問題、事實查核機制、偏見檢測方法以及利用浮水印驗證生成內容。觀眾可學習如何評估模型可靠性、檢測潛在偏見及辨識 AI 生成文字。

原站：https://www.youtube.com/watch?v=MSnvknLywUc

【生成式AI導論 2024】第11講：大型語言模型在「想」什麼呢？ — 淺談大型語言模型的可解釋性

Hung-yi Lee — Sat, 04 May 2024 00:00:00 +0800

李宏毅教授探討大型語言模型的可解釋性，透過實作實驗與理論分析，說明如何判斷模型是否透明、可解讀及可解釋。課程涵蓋開源與閉源模型的差異、探針分析（probing）方法、信心分數評估，以及模型可能編造解釋的風險，幫助讀者理解當前 AI 黑盒的…

原站：https://www.youtube.com/watch?v=rZzfqkfZhY8

【生成式AI導論 2024】第9講：以大型語言模型打造的AI Agent (14:50 教你怎麼打造芙莉蓮一級魔法使考試中出現的泥人哥列姆)

Hung-yi Lee — Sat, 20 Apr 2024 00:00:00 +0800

介紹大型語言模型如何演變為能自主規劃與執行多步驟任務的 AI Agent，並透過記憶與反思機制提升能力。內容涵蓋從虛擬世界到實體機器人的應用案例，說明 AI Agent 如何根據環境變化調整計畫與累積經驗。

原站：https://www.youtube.com/watch?v=bJZTJ7MjYqg

【生成式AI導論 2024】第8講：大型語言模型修練史 — 第三階段: 參與實戰，打磨技巧 (Reinforcement Learning from Human Feedback, RLHF)

Hung-yi Lee — Fri, 12 Apr 2024 00:00:00 +0800

詳細介紹大型語言模型訓練的第三階段 RLHF，透過人類回饋調整模型行為。內容涵蓋 RLHF 與指令微調的差異、PPO 演算法原理、回饋模型訓練方式，以及安全與有用性的權衡問題。

原站：https://www.youtube.com/watch?v=v12IKvF6Cj8

【生成式AI導論 2024】第5講：訓練不了人工智慧？你可以訓練你自己 (下) — 讓語言彼此合作，把一個人活成一個團隊 (開頭有芙莉蓮雷，慎入)

Hung-yi Lee — Sun, 24 Mar 2024 00:00:00 +0800

李宏毅教授以《葬送的芙莉蓮》中角色合作對抗複製體的劇情為例，闡述讓多個語言模型彼此討論而非單獨運作的概念。透過實際示範，展示不同模型如何互相提問與修正，激發比單一模型更強的推理能力，並探討未來建立由 AI 組成的虛擬團隊的可能性。

原站：https://www.youtube.com/watch?v=inebiWdQW-4

【生成式AI導論 2024】第4講：訓練不了人工智慧？你可以訓練你自己 (中) — 拆解問題與使用工具

Hung-yi Lee — Sun, 10 Mar 2024 00:00:00 +0800

介紹在不重新訓練語言模型的情況下，透過拆解複雜任務、自我反省、多次嘗試及使用外部工具來增強模型能力。觀眾能學習 Chain of Thought、Self Consistency 與 Tree of Thought 等技術原理與實際應用方…

原站：https://www.youtube.com/watch?v=lwe3_x50_uw

【生成式AI導論 2024】第3講：訓練不了人工智慧？你可以訓練你自己 (上) — 神奇咒語與提供更多資訊

Hung-yi Lee — Sun, 03 Mar 2024 00:00:00 +0800

探討在不訓練模型的情況下，如何透過特定提示技巧（如 Chain of Thought、情緒勒索）與提供額外資訊（In-context Learning）來強化大型語言模型的能力。

原站：https://www.youtube.com/watch?v=A3Yx35KrSN0

How to Generate and Use Synthetic Data for Finetuning

Eugene Yan（部落格） — Sun, 11 Feb 2024 00:00:00 +0800

介紹如何利用合成資料進行預訓練、指令調優與偏好調優，涵蓋知識蒸餾與自我改進兩種主要方法。讀者可學習如何生成高品質資料以提升模型表現，並了解相關技術細節與評估方式。

原站：https://eugeneyan.com//writing/synthetic

Adversarial Attacks on LLMs

Lilian Weng（部落格） — Wed, 25 Oct 2023 00:00:00 +0800

深入探討大型語言模型（LLM）面臨的對抗性攻擊，包括白盒與黑盒攻擊方法，如 Token 操作、梯度下降及 Jailbreak 提示。讀者可了解攻擊原理、現有防禦機制（如對抗訓練）及其限制，並掌握相關研究架構。

原站：https://lilianweng.github.io/posts/2023-10-25-adv-attack-llm