LLMs Are Databases - So Query Them
展示將 Transformer 內部權重視為圖資料庫，透過 LARQL 語言查詢模型結構與知識。觀眾可學習如何將大型語言模型內部表示轉為可查詢的圖形，並驗證新知識插入後無退化。
10.7 萬次觀看
※ 摘要僅根據標題與說明
Chris Hay
15 筆內容 ・ 3.2 萬 訂閱
他的來源
最受歡迎
依人氣
I Quantized Qwen3.8-27B. “4-Bit” Doesn’t Mean What You Think
Chris Hay 使用 VINDEX3 工具檢視並量化 Qwen3.8-27B 模型，說明「4-bit」標籤的實際含義與限制。內容探討混合精度、儲存格式與執行表示的差異，強調應透過測量品質而非僅看位寬來評估模型。
1.6 萬次觀看※ 摘要僅根據標題與說明
I Decoupled Attention from Weights - Gemma 4 26B
展示如何利用 LARQL 與 vindex 格式，在消費級硬體上執行 Gemma 4 26B 等大模型。觀眾將學習如何將注意力機制放在本地 GPU，而將模型權重分佈到遠端伺服器，從而避免佔滿視訊記憶體並維持相近的推論速度。
2.5 萬次觀看※ 摘要僅根據標題與說明
370,000 tokens loaded in Context in 2.8MB, on a MacBook.
Chris Hay 示範如何在 Macbook 上僅用 2MB 記憶體，載入 Gemini 1.5 Pro 百萬 token 的上下文視窗。影片解析 Transformer 的記憶運作、殘差流與注意力機制，並展示如何注入新知識與讀取上下文。
1.3 萬次觀看※ 摘要僅根據標題與說明
We Don't Need KV Cache Anymore?
Chris Hay 證明 KV Cache 在 Transformer 推理中是冗餘的，並展示用殘差流（Residual Stream）替代後，能以 15% 的記憶體達到 92% 的標準速度。
1.3 萬次觀看※ 摘要僅根據標題與說明
I trained a 115M model from scratch to use tools
展示如何從零訓練一個 1.15 億參數的 AI 模型，並比較傳統數學訓練與呼叫計算機兩種方法的效果差異。觀眾能學習到如何處理工具使用與數學能力的訓練策略。
2,936次觀看※ 摘要僅根據標題與說明
The Model Doesn't Unpack Its Memory
拆解 Transformer 模型如何像資料庫一樣存取記憶，透過手動重建機制展示事實如何疊加與讀取。觀眾能理解模型內部結構與資料查詢原理。
3,759次觀看※ 摘要僅根據標題與說明
GPT-OSS-20B Has a Secret Layer That Classifies Every Question Before Answering
Chris Hay 透過 Logit Lens 分析發現 GPT-OSS-20B 第 13 層會先分類問題型別再回答，並能透過單一方向引導該層改變計算邏輯。影片揭示模型內部架構細節，說明任務分類與計算過程的差異。
6,706次觀看※ 摘要僅根據標題與說明
MCP Apps: Rich UI for Any AI Client, No Frontend Required
介紹 MCP Apps 如何讓 AI 伺服器直接輸出互動式介面，無需撰寫前端程式碼。透過 chuk-mcp-ui 等工具，可將文字回應轉化為圖表、儀表板等豐富視覺效果。
5,153次觀看※ 摘要僅根據標題與說明
The AI Agent Memory That's Impossible to Lie To
展示如何建立一個無法欺騙的 AI 代理記憶系統，透過確定性執行與內容地址化儲存驗證所有事實。觀眾能了解如何將程式邏輯轉化為可重驗的「細胞」，並利用小模型即時驗證計算結果。
1,930次觀看※ 摘要僅根據標題與說明
最新內容
依發布時間
I Quantized Qwen3.8-27B. “4-Bit” Doesn’t Mean What You Think
Chris Hay 使用 VINDEX3 工具檢視並量化 Qwen3.8-27B 模型，說明「4-bit」標籤的實際含義與限制。內容探討混合精度、儲存格式與執行表示的差異，強調應透過測量品質而非僅看位寬來評估模型。
1.6 萬次觀看※ 摘要僅根據標題與說明
I trained a 115M model from scratch to use tools
展示如何從零訓練一個 1.15 億參數的 AI 模型，並比較傳統數學訓練與呼叫計算機兩種方法的效果差異。觀眾能學習到如何處理工具使用與數學能力的訓練策略。
2,936次觀看※ 摘要僅根據標題與說明
The AI Agent Memory That's Impossible to Lie To
展示如何建立一個無法欺騙的 AI 代理記憶系統，透過確定性執行與內容地址化儲存驗證所有事實。觀眾能了解如何將程式邏輯轉化為可重驗的「細胞」，並利用小模型即時驗證計算結果。
1,930次觀看※ 摘要僅根據標題與說明
The Model Doesn't Unpack Its Memory
拆解 Transformer 模型如何像資料庫一樣存取記憶，透過手動重建機制展示事實如何疊加與讀取。觀眾能理解模型內部結構與資料查詢原理。
3,759次觀看※ 摘要僅根據標題與說明
I Decoupled Attention from Weights - Gemma 4 26B
展示如何利用 LARQL 與 vindex 格式，在消費級硬體上執行 Gemma 4 26B 等大模型。觀眾將學習如何將注意力機制放在本地 GPU，而將模型權重分佈到遠端伺服器，從而避免佔滿視訊記憶體並維持相近的推論速度。
2.5 萬次觀看※ 摘要僅根據標題與說明
LLMs Are Databases - So Query Them
展示將 Transformer 內部權重視為圖資料庫，透過 LARQL 語言查詢模型結構與知識。觀眾可學習如何將大型語言模型內部表示轉為可查詢的圖形，並驗證新知識插入後無退化。
10.7 萬次觀看※ 摘要僅根據標題與說明
370,000 tokens loaded in Context in 2.8MB, on a MacBook.
Chris Hay 示範如何在 Macbook 上僅用 2MB 記憶體，載入 Gemini 1.5 Pro 百萬 token 的上下文視窗。影片解析 Transformer 的記憶運作、殘差流與注意力機制，並展示如何注入新知識與讀取上下文。
1.3 萬次觀看※ 摘要僅根據標題與說明
We Don't Need KV Cache Anymore?
Chris Hay 證明 KV Cache 在 Transformer 推理中是冗餘的，並展示用殘差流（Residual Stream）替代後，能以 15% 的記憶體達到 92% 的標準速度。
1.3 萬次觀看※ 摘要僅根據標題與說明
GPT-OSS-20B Has a Secret Layer That Classifies Every Question Before Answering
Chris Hay 透過 Logit Lens 分析發現 GPT-OSS-20B 第 13 層會先分類問題型別再回答，並能透過單一方向引導該層改變計算邏輯。影片揭示模型內部架構細節，說明任務分類與計算過程的差異。
6,706次觀看※ 摘要僅根據標題與說明
MCP Apps: Rich UI for Any AI Client, No Frontend Required
介紹 MCP Apps 如何讓 AI 伺服器直接輸出互動式介面，無需撰寫前端程式碼。透過 chuk-mcp-ui 等工具，可將文字回應轉化為圖表、儀表板等豐富視覺效果。
5,153次觀看※ 摘要僅根據標題與說明
AI Discovers Why Ships Got Faster in the 1800s
Chris Hay 透過 CLIWOC 航海歷史資料，驗證 AI 結合推理工具能否模擬氣候科學並發現歷史船速變化的原因。影片示範了利用 MCP 與特定 Repo 讓模型進行實驗分析，讓讀者了解 AI 在資料探索中的實際應用。
1,944次觀看※ 摘要僅根據標題與說明
Mixture of Experts, Plus One: Injecting Python into GPT-OSS
Chris Hay 示範如何在 GPT-OSS 模型中加入一個虛擬 Python 專家，解決數學運算錯誤問題。透過路由機制將特定任務分派給該專家，並展示如何結合模型剪枝以縮小模型體積同時提升數學能力。
3,904次觀看※ 摘要僅根據標題與說明
MoE Models Exposed | Position vs Context
Chris Hay 探討 GPT-OSS20B 的 MoE 架構，指出其並非領域專家模型，而是位置專家與上下文專家的混合。影片分析其注意力模式，挑戰大眾對大型語言模型運作的常見假設。
5,119次觀看※ 摘要僅根據標題與說明
Layer 15 Exposed - How GPT-OSS Routes Every Decision Before Output
Chris Hay 透過機械可解釋性分析 Layer 15，展示模型如何決定處理數學或語言、選擇運算方式及評估難度。觀眾能學習到如何定位並操控特定神經元，從而改變問題對模型的難易度。
1,381次觀看※ 摘要僅根據標題與說明
LLMs Don’t Calculate - They Just Remember Everything
分析 GPT-OSS-20B 在數學運算上並非真正計算，而是透過查表記憶完成。觀眾能了解大型語言模型處理數值問題的實際機制與限制。
2,938次觀看※ 摘要僅根據標題與說明
