他的來源
最受歡迎
依人氣
Multimodality and Large Multimodal Models (LMMs)
介紹了多模態系統與大型多模態模型（LMMs）的基礎概念。它解釋了為何多模態對現實世界應用至關重要，並區分了輸入、輸出或兩者皆為多模態的不同型別。
What I learned from looking at 900 most popular open source AI tools
回顧了過去四年內 GitHub 上最熱門的 900 個開源 AI 軟體專案，並重新分類了它們。文章指出，AI 軟體生態系統已分為基礎設施、模型開發與應用開發三層。應用開發層目前最活躍，涵蓋提示工程、RAG、Agent 框架及 AI 介面。
Predictive Human Preference: From Model Ranking to Model Routing
探討預測人類偏好的概念，旨在預測特定查詢下使用者偏好的模型。作者使用一個玩具預測器，基於 LMSYS Chatbot Arena 的資料，成功預測了模型對不同提示的勝出機率。實驗顯示，即使不考慮提示詞，預測準確率也達 75%；
Generation configurations: temperature, top-k, top-p, and test time compute
探討了生成式 AI 的三個核心概念：溫度引數、Top-k 與 Top-p 樣本選擇策略，以及測試時計算（Test Time Compute）。
Open challenges in LLM research
這篇文章由 Chip Huyen 撰寫，總結了目前大語言模型（LLM）研究的十大主要方向。內容涵蓋如何減少與衡量謠言、最佳化上下文長度、整合多模態資料、加速與降低成本、設計新型架構、開發替代 GPU 晶片、使代理系統可用、支援非英語語言等。
Common pitfalls when building generative AI applications
指出在建構生成式 AI 應用時常見的六大陷阱：過度使用、混淆產品與 AI 品質、過度複雜化、過度追求早期成功、缺乏人工評估以及盲目 crowdsourcing 用例。
Generative AI Strategy
這篇文章由 Chip Huyen 撰寫，分享了他為 Fully Connected 舉辦演講「領導者需要我們去做生成式 AI」的簡易框架。內容探討了如何制定生成式 AI 策略，並歡迎讀者分享自己的經驗。
Building A Generative AI Platform
介紹了構建生成式 AI 平台的通用架構，從最簡單的模型 API 開始，逐步加入上下文增強、安全防護、路由最佳化、視覺化與鏈式處理等核心元件。透過這些模組化設計，系統能更靈活地處理複雜任務，同時保持可維護性與安全性。
最新內容
依發布時間
Common pitfalls when building generative AI applications
指出在建構生成式 AI 應用時常見的六大陷阱：過度使用、混淆產品與 AI 品質、過度複雜化、過度追求早期成功、缺乏人工評估以及盲目 crowdsourcing 用例。
Building A Generative AI Platform
介紹了構建生成式 AI 平台的通用架構，從最簡單的模型 API 開始，逐步加入上下文增強、安全防護、路由最佳化、視覺化與鏈式處理等核心元件。透過這些模組化設計，系統能更靈活地處理複雜任務，同時保持可維護性與安全性。
What I learned from looking at 900 most popular open source AI tools
回顧了過去四年內 GitHub 上最熱門的 900 個開源 AI 軟體專案，並重新分類了它們。文章指出，AI 軟體生態系統已分為基礎設施、模型開發與應用開發三層。應用開發層目前最活躍，涵蓋提示工程、RAG、Agent 框架及 AI 介面。
Predictive Human Preference: From Model Ranking to Model Routing
探討預測人類偏好的概念，旨在預測特定查詢下使用者偏好的模型。作者使用一個玩具預測器，基於 LMSYS Chatbot Arena 的資料，成功預測了模型對不同提示的勝出機率。實驗顯示，即使不考慮提示詞，預測準確率也達 75%；
Generation configurations: temperature, top-k, top-p, and test time compute
探討了生成式 AI 的三個核心概念：溫度引數、Top-k 與 Top-p 樣本選擇策略，以及測試時計算（Test Time Compute）。
Multimodality and Large Multimodal Models (LMMs)
介紹了多模態系統與大型多模態模型（LMMs）的基礎概念。它解釋了為何多模態對現實世界應用至關重要，並區分了輸入、輸出或兩者皆為多模態的不同型別。
Open challenges in LLM research
這篇文章由 Chip Huyen 撰寫，總結了目前大語言模型（LLM）研究的十大主要方向。內容涵蓋如何減少與衡量謠言、最佳化上下文長度、整合多模態資料、加速與降低成本、設計新型架構、開發替代 GPU 晶片、使代理系統可用、支援非英語語言等。
Generative AI Strategy
這篇文章由 Chip Huyen 撰寫，分享了他為 Fully Connected 舉辦演講「領導者需要我們去做生成式 AI」的簡易框架。內容探討了如何制定生成式 AI 策略，並歡迎讀者分享自己的經驗。