最受歡迎
依人氣
- 2文章高階EN
How to Build an Open-Domain Question Answering System?
介紹了如何建構開放域問答系統，涵蓋了從傳統 TF-IDF 到現代神經網路的 Retriever-Reader 框架。作者指出，當模型無法記憶訓練資料中的上下文時，必須結合外部知識庫進行檢索，再透過讀取器提取答案。
- 3文章入門EN
What are Diffusion Models?
介紹了擴散模型（Diffusion Models）的基本原理。它將資料視為在時間步長上逐步加噪的隨機過程，並學習反向過程以從噪聲中重建真實資料。
- 4文章高階EN
Domain Randomization for Sim2Real Transfer
介紹了域隨機化（Domain Randomization）作為解決模擬到現實轉移（Sim2Real）難題的方法。透過在模擬環境中隨機化物理引數與場景，模型可泛化至真實世界。
- 5文章高階EN
Self-Supervised Representation Learning
介紹了自監督學習（Self-Supervised Learning）的概念與應用。透過將監督學習任務轉化為預測部分資訊，利用大量無標籤資料進行訓練，例如預測圖片旋轉、拼圖或時間順序等。
- 6文章入門EN
Implementing Deep Reinforcement Learning Models with Tensorflow + OpenAI Gym
介紹了如何使用 TensorFlow 與 OpenAI Gym 環境，實作多種深度強化學習模型的完整程式碼。讀者可以透過實際操作，學習將理論演算法轉化為可執行的系統。
- 7文章高階EN
Harness Engineering for Self-Improvement
探討了「自增強工程」(Harness Engineering) 如何推動 AI 的自改進。作者指出，透過設計包含工作流自動化、持久化記憶與子代理管理的系統，AI 不僅能提升效能，更能透過自我反思與演進來最佳化自身架構。
- 8文章高階EN
Why We Think
探討了測試時計算（Test-time compute）如何透過延遲思考來提升模型表現。作者指出，將模型視為資源進行最佳化，並結合心理學中的「快思考」與「慢思考」理論，解釋了為何延遲思考能挑戰本能並促進更理性的決策。
- 9文章高階EN
Extrinsic Hallucinations in LLMs
探討大語言模型的「外延謬誤」，即模型基於預訓練資料而非上下文生成錯誤內容的現象。作者指出，為避免謬誤，模型必須兼具事實準確性與承認不知情的能力。
- 10文章高階EN
Reward Hacking in Reinforcement Learning
探討了強化學習（RL）中的「獎勵竊取」現象，即代理利用獎勵函式的漏洞或模糊性來獲取高獎勵，卻未真正學習或完成任務。隨著語言模型與 RLHF 的普及，獎勵竊取成為實作部署的主要障礙。
最新內容
依發布時間
- 文章高階EN
Harness Engineering for Self-Improvement
探討了「自增強工程」(Harness Engineering) 如何推動 AI 的自改進。作者指出，透過設計包含工作流自動化、持久化記憶與子代理管理的系統，AI 不僅能提升效能，更能透過自我反思與演進來最佳化自身架構。
- 文章高階EN
Scaling Laws, Carefully
深入探討了深度學習中的「規模定律」（Scaling Laws），指出訓練損失與模型大小、資料量及計算資源呈冪律關係。作者強調，雖然理論預測了這些關係，但在實際應用中，如何精確擬合這些定律並避免過度擬合（overfitting）仍是關鍵挑戰。
- 文章高階EN
Why We Think
探討了測試時計算（Test-time compute）如何透過延遲思考來提升模型表現。作者指出，將模型視為資源進行最佳化，並結合心理學中的「快思考」與「慢思考」理論，解釋了為何延遲思考能挑戰本能並促進更理性的決策。
- 文章高階EN
Reward Hacking in Reinforcement Learning
探討了強化學習（RL）中的「獎勵竊取」現象，即代理利用獎勵函式的漏洞或模糊性來獲取高獎勵，卻未真正學習或完成任務。隨著語言模型與 RLHF 的普及，獎勵竊取成為實作部署的主要障礙。
- 文章高階EN
Extrinsic Hallucinations in LLMs
探討大語言模型的「外延謬誤」，即模型基於預訓練資料而非上下文生成錯誤內容的現象。作者指出，為避免謬誤，模型必須兼具事實準確性與承認不知情的能力。
- 文章進階EN
Diffusion Models for Video Generation
介紹了從頭開始構建自定義的 Diffusion Video Models (VDM) 的方法。文章詳述了 DDIM 更新規則、VDM 的 3D U-Net 架構設計，以及 Imagen Video、Make-A-Video 等現有模型的關…
- 文章高階EN
Thinking about High-Quality Human Data
探討了高品質人類資料在現代深度學習模型訓練中的核心地位。作者指出，雖然許多技術能輔助資料質量，但資料收集本身需要精細的執行與細節關注。文章透過「智慧群眾」的歷史案例，介紹了如何透過設計任務、篩選評審者、聚合資料來提升質量。
- 文章進階EN
Adversarial Attacks on LLMs
探討了大語言模型（LLM）面臨的攻擊性威脅，包括白盒與黑盒下的攻擊方式。作者指出，雖然模型在訓練時已加入安全機制，但攻擊者仍可能透過修改字元、利用梯度或進行提示工程來誘發不想要的輸出。
- 文章進階EN
LLM Powered Autonomous Agents
介紹了基於大語言模型（LLM）的自主代理系統架構。核心在於將 LLM 視為代理的「大腦」，並結合規劃、子目標分解、反思修正、記憶管理以及工具使用等關鍵模組。
- 文章入門EN
Prompt Engineering
介紹了 Prompt Engineering（即 In-Context Prompting），是一種透過在提示中提供範例來引導大語言模型行為的方法，無需更新模型權重即可達成目標。
- 文章入門EN
The Transformer Family Version 2.0
這篇文章是 Lilian Weng 對 2020 年《Transformer 家族》文章的全面重構與更新，涵蓋了更多近期的論文與架構改進。
- 文章高階EN
Large Transformer Model Inference Optimization
探討如何最佳化大型 Transformer 模型的推理效能。透過知識蒸餾、量化技術（如混合精度與分組量化）、稀疏化架構（如 MoE）以及適應性注意力機制，大幅降低記憶體佔用與計算複雜度，使大規模模型在實際應用中更具可行性。
- 文章高階EN
Some Math behind Neural Tangent Kernel
深入解析了神經網路中的「神經切線核 (NTK)」。透過梯度下降，文章解釋了當網路寬度無限大時，模型的預測如何穩定地趨近於全域性最小值，而不受初始引數影響。
- 文章高階EN
Generalized Visual Language Models
介紹了多模態通用語言模型（VLMs）的四種主要架構：將圖片轉為嵌入特徵、作為字首訓練預訓練語言模型、使用交叉注意力機制融合視覺資訊，以及完全不進行訓練直接結合。
- 文章高階EN
Learning with not Enough Data Part 3: Data Generation
探討了資料不足時如何生成合成資料。作者介紹了兩種主要方法：一是資料增強，透過對現有樣本進行扭曲或轉換來保留關鍵屬性；二是新資料生成，利用預訓練語言模型產生新資料點。
- 文章高階EN
Learning with not Enough Data Part 2: Active Learning
探討在標籤資料有限且預算受限的情況下，如何透過主動學習策略來高效地選擇樣本進行標籤。文章介紹了多種基於不確定性、多樣性與核心集的概念，並展示了實際應用於影像分類與分割任務的方法。
- 文章入門EN
Learning with not Enough Data Part 1: Semi-Supervised Learning
探討在標籤資料不足時，半監督式學習的四種主要方法：預訓練加精調、主動學習、自訓練與生成式資料自動生成。文章指出現有研究多聚焦於視覺任務，而語言任務則傾向於預訓練加精調。
- 文章高階EN
How to Train Really Large Models on Many GPUs?
探討如何將大型神經網路模型在多台 GPU 上高效訓練。作者介紹了資料並行、計算並行、分層並行、分塊並行以及分塊並行等並行策略，並深入分析了混合精度訓練、ZeRO 最佳化器以及稀疏化專家混合模型（MoE）等技術如何解決記憶體瓶頸與訓練效率問…
- 文章入門EN
What are Diffusion Models?
介紹了擴散模型（Diffusion Models）的基本原理。它將資料視為在時間步長上逐步加噪的隨機過程，並學習反向過程以從噪聲中重建真實資料。
- 文章高階EN
Contrastive Representation Learning
介紹了對比表示學習（Contrastive Representation Learning）的核心概念與訓練目標。它解釋了如何透過將相似樣本拉近、將不相似樣本推開來學習嵌入空間，並涵蓋了從早期的 Triplet Loss 到最新的 MoC…
- 文章高階EN
Reducing Toxicity in Language Models
探討如何降低大語言模型的毒性。作者指出，雖然模型強大且成功率高，但部署時需要強烈的安全控制。文章列舉了毒性定義的困難、內容分類方法（如 OLID 和 SOLID 資料集）、資料收集策略（如人工標註和 crowdsourcing），以及檢測…
- 文章進階EN
Controllable Neural Text Generation
探討如何在不修改模型權重的情況下，對未條件化語言模型進行內容控制。作者介紹了多種方法，包括測試時採用引導解碼策略、透過最佳化的提示設計來最佳化結果，以及對基礎模型或可控制層進行微調以實現條件生成。
- 文章高階EN
How to Build an Open-Domain Question Answering System?
介紹了如何建構開放域問答系統，涵蓋了從傳統 TF-IDF 到現代神經網路的 Retriever-Reader 框架。作者指出，當模型無法記憶訓練資料中的上下文時，必須結合外部知識庫進行檢索，再透過讀取器提取答案。
- 文章高階EN
Neural Architecture Search
探討了神經架構搜尋（NAS）的核心概念，包括搜尋空間設計、搜尋演算法與評估策略。文章指出，雖然現有架構多由專家設計，但透過系統化與自動化的學習方法，才能更有效地探索並找到最佳架構。
- 文章高階EN
Exploration Strategies in Deep Reinforcement Learning
探討深度強化學習中的探索策略，強調探索與利用的平衡。作者介紹了多種經典方法，包括epsilon-greedy、上界置信邊界、玻爾茲曼探索及厚薄 sampling。
- 文章高階EN
The Transformer Family
這篇文章詳細介紹了 Transformer 家族中多種改進模型，包括長上下文注意力機制 Transformer-XL、可逆計算 Universal Transformer 以及針對強化學習的 GTrXL。
- 文章高階EN
Curriculum for Reinforcement Learning
探討如何透過課程學習（Curriculum Learning）提升強化學習（Reinforcement Learning）的效率。作者指出，設計一個有效的課程需要解決兩個核心問題：如何量化任務的難度，以及如何提供難度遞增的任務序列。
- 文章高階EN
Self-Supervised Representation Learning
介紹了自監督學習（Self-Supervised Learning）的概念與應用。透過將監督學習任務轉化為預測部分資訊，利用大量無標籤資料進行訓練，例如預測圖片旋轉、拼圖或時間順序等。
- 文章高階EN
Domain Randomization for Sim2Real Transfer
介紹了域隨機化（Domain Randomization）作為解決模擬到現實轉移（Sim2Real）難題的方法。透過在模擬環境中隨機化物理引數與場景，模型可泛化至真實世界。
- 文章高階EN
Are Deep Neural Networks Dramatically Overfitted?
探討深度神經網路是否過度擬合的問題。作者引用了系統生物學中的「電台修理」比喻，指出當模型過於複雜時，區域性細節可能無法反映整體規律。
- 文章高階EN
Generalized Language Models
探討了 2018 年後 NLP 領域的突破性進展，特別是基於通用架構的預訓練語言模型。文章重點介紹了 ELMo、BERT、ALBERT、GPT-2 等模型，並說明它們如何利用無監督學習和上下文依賴的嵌入來提升任務效能。
- 文章進階EN
Object Detection Part 4: Fast Detection Models
介紹了快速物件偵測模型，包括 SSD、RetinaNet 及 YOLO 系列。這些模型相比 R-CNN 家族，採用一階偵測架構，能大幅縮短推理時間，適合自動駕駛等即時應用。
- 文章高階EN
Meta-Learning: Learning to Learn Fast
介紹了元學習（Meta-Learning）的概念，即學習如何快速學習。透過將每個任務視為一個小型學習過程，模型能在少量樣本上快速適應新任務。
- 文章高階EN
Flow-based Deep Generative Models
介紹了流式深度生成模型，特別是基於變分自編碼器（VAE）的變分流（Flow-based VAE）。文章解釋了傳統 GAN 和 VAE 無法直接學習真實資料的機率密度函式的難處，並說明流式模型如何利用可逆變換來精確計算 $p(x)$。
- 文章高階EN
From Autoencoder to Beta-VAE
介紹了從自編碼器到 Beta-VAE 的演變，涵蓋了 VQ-VAE、TD-VAE 等變體。核心在於利用變分自編碼器學習的潛在程式碼進行降維與生成式建模，並透過重新引數化技巧解決梯度計算問題。
- 文章高階EN
Attention? Attention!
探討了注意力機制（Attention Mechanism）在深度學習中的核心作用，從 Seq2Seq 模型的缺點出發，解釋了注意力如何解決長序列記憶問題。
- 文章入門EN
Implementing Deep Reinforcement Learning Models with Tensorflow + OpenAI Gym
介紹了如何使用 TensorFlow 與 OpenAI Gym 環境，實作多種深度強化學習模型的完整程式碼。讀者可以透過實際操作，學習將理論演算法轉化為可執行的系統。
- 文章高階EN
Policy Gradient Algorithms
介紹了基於策略梯度（Policy Gradient）的各種演演算法，旨在直接最佳化行動策略以獲得最佳報酬。文章詳細解釋了策略梯度定理，並介紹了經典的 REINFORCE 方法，以及為降低方差而設計的 TD3、SVPG 和 IMPALA 等…