AI 武林：CUDA

How to Set Up NVIDIA Jetson for Remote AI Development with Codex

NVIDIA Developer — Sat, 03 Oct 2026 00:00:00 +0800

教學如何設定 NVIDIA Jetson 進行遠端 AI 開發，包含 SSH、Wi-Fi、Docker 與 CUDA 配置。完成後可建立安全的遠端開發環境並驗證 GPU 存取。

原站：https://www.youtube.com/watch?v=CLGaG0JeUBI

Factory-Cognition Drama, Instinct's Shopping Push, Gemini 4 Argon | Will Bruey, Christophe Beck, Hassaan Raza, Connor Renton

TBPN — Fri, 02 Oct 2026 00:00:00 +0800

探討 NVIDIA 與 CoreWeave 的 AI 雲端競爭、Varda 利用太空微重力製造藥物的商業模式、以及 Tavis 開發的人類互動 AI 模型。內容涵蓋從超算中心到 AI 工廠的戰略演變，並分享太空經濟與生物製藥的結合機會。

原站：https://share.transistor.fm/s/3a7cb60d

Your phone is AI’s newest hardware

The Stack Overflow Podcast — Tue, 29 Sep 2026 00:00:00 +0800

Div Garg 與 Stack Overflow 訪談，介紹 AGI Inc. 如何在手機上執行 AI 代理，透過自研編譯器與量化技術最佳化邊緣晶片效能。

原站：https://rss.art19.com/episodes/7fd8592b-b4a0-47c7-8414-1640aeebfca5.mp3?rss_browser=BAhJIg9BSVd1bGluQm90BjoGRVQ%3D--40c69dfd25591c59cb985eaa38245c7694c51649

8G 显存竟能跑 125B 大模型！内存硬抗 Qwen3.8-Flash-Next，N卡、A卡都能用！本地部署实测 | 零度解说

零度解说 — Mon, 28 Sep 2026 00:00:00 +0800

實測僅需 8G 視訊記憶體即可在本地電腦執行 1250 億參數的 Qwen3.8-Flash-Next 大模型，並展示其編寫 3D 遊戲、數筷子等多模態能力。

原站：https://www.youtube.com/watch?v=91rASFzuDPU

Autoresearch Made Our Models 3x Faster — Tejas Bhakta, Morph

AI Engineer — Sat, 26 Sep 2026 00:00:00 +0800

介紹 Morph 如何利用自動研究框架最佳化 GPU 核心，將模型速度提升三倍。人類負責提出高階最佳化概念，代理則負責調整參數並驗證正確性與速度。

原站：https://www.youtube.com/watch?v=vrDvatGtIxs

Vertically Integrated, Horizontally Open | AI Factory Insider Ep 5

NVIDIA Developer — Wed, 23 Sep 2026 00:00:00 +0800

NVIDIA 主持人與專家探討「垂直整合、水平開放」的 AI 平台架構，解析 CUDA 庫如何支撐金融、醫療等產業的專業工作負載，並展望 AI 代理的未來發展。

原站：https://www.youtube.com/watch?v=JIeLDmAG8y0

AI进入生产阶段之后，智能、算力、芯片会走向哪里？

屠龙之术 — Wed, 23 Sep 2026 00:00:00 +0800

記錄莊明浩在北京參加 AICC2026 人工智慧計算大會的見聞，探討 AI 進入生產階段後智慧、算力與晶片的走向。內容涵蓋從 Chat 到 Agent 的需求躍遷、智慧從機率擬合轉向可信生產的重新定義，以及算力晶片與 FlagOS 生態的…

原站：https://www.xiaoyuzhoufm.com/episode/6ab2b85df04646b3a955a1de

Weight Folding, CUDA Streams, and the Bug That Made My Model Speak Backwards — Filip Makraduli

AI Engineer — Sun, 20 Sep 2026 00:00:00 +0800

Filip Makraduli 分享 FlashNorm 技術，透過將 RMS 規範係數合併至權重並延遲除法，讓矩陣乘法與向量運算並行執行，提升 Transformer 推理速度。

原站：https://www.youtube.com/watch?v=c1hGBoWw20A

Two Bugs That Hid in Plain Sight: A vLLM Debugging Detective Story — Asaf Gardin & Yuval Belfer

AI Engineer — Sun, 20 Sep 2026 00:00:00 +0800

Asaf Gardin 與 Yuval Belfer 分享在 vLLM 部署 AI21 Jamba 模型時發現的兩個隱性錯誤。第一個導致偶爾輸出無意義內容，根源在於解碼階段早於預填充階段執行；第二個則由 32 位索引溢位引發。

原站：https://www.youtube.com/watch?v=btxG75rNJC4

1028: The Chip Built for Agentic AI Inference, with SambaNova's Anton McGonnell

Super Data Science — Fri, 18 Sep 2026 00:00:00 +0800

探討代理型 AI 如何改變推理工作負載，指出傳統 GPU 在生成階段面臨記憶體瓶頸。SambaNova 的 RDU 架構將整個模型空間化佈局，實現線性擴展與高並行，解決速度與吞吐量取捨問題，並可部署於既有資料中心。

原站：https://www.podtrac.com/pts/redirect.mp3/chrt.fm/track/E581B9/arttrk.com/p/VI4CS/pscrb.fm/rss/p/traffic.megaphone.fm/SUPERDATASCIENCEPTYLTD8072554290.mp3

Bill Dally对话TPU之父Norman Jouppi ：真正竞争的不是芯片 | AI芯片 | TPU | 英伟达 | 系统工程 | 硅金矿 | CUDA

Best Partners TV — Wed, 09 Sep 2026 00:00:00 +0800

Bill Dally 與 Google TPU 之父 Norman Jouppi 探討 AI 晶片競爭本質，指出競爭單位已從單顆晶片轉向包含電力、液冷與軟體生態的完整系統工程。

原站：https://www.youtube.com/watch?v=Ch9GH7UrDHg

Build A Reasoning Model From Scratch 1: Motivation & Code Setup

Sebastian Raschka — Sun, 30 Aug 2026 00:00:00 +0800

介紹從零開始建立推理模型的動機與程式環境設定，涵蓋從傳統大型語言模型到推理模型的差異，並指導使用 uv 安裝 PyTorch 依賴。觀眾可學習如何配置開發環境並理解自製模型的基礎概念。

原站：https://www.youtube.com/watch?v=Kh9mqTzjuEQ

NVIDIA Just Lost Their Lead

Theo - t3․gg — Sat, 29 Aug 2026 00:00:00 +0800

探討 NVIDIA 在 AI 晶片市場的壟斷地位正受 OpenAI 自研晶片、Apple M5 Ultra 及華為等競爭對手挑戰。

原站：https://www.youtube.com/watch?v=VgLwsakPgo4

(Preview) Nvidia’s Answer to Capital Constraints, Google’s Attrition and Direction, Q&A on AI Writing, Vision Pro, Vibe Coding

Sharp Tech — Fri, 14 Aug 2026 00:00:00 +0800

探討輝達為解決資金瓶頸推出的新融資模式，並分析其與鐵路擴張的歷史相似性。主持人深入討論了大型語言模型對輝達的雙面影響、GPU 壽命與資料中心冷卻技術的挑戰，以及未來 AI 應用是否會削弱 CUDA 護城河。

原站：https://sharptech.fm/member/episode/preview-nvidias-answer-to-capital-constraints-googles-attrition-and-direction-q-a-on-ai-writing-vision-pro-vibe-coding

150. 对英伟达研究副总裁刘洺堉的4小时访谈：功夫、Cosmos 3、开源世界模型、黄仁勋、你不需要击败所有对手

Zhang Xiaojun Podcast — Thu, 13 Aug 2026 00:00:00 +0800

劉洺堉訪談輝達研究副總裁劉洺堉，深入探討輝達世界基座模型 Cosmos 系列（特別是 Cosmos 3）的演進與技術理念。內容涵蓋物理世界人工智慧（Physical AI）的戰略方向、黃仁勳的「造市場」哲學，以及大模型競爭觀的轉變。

原站：https://www.youtube.com/watch?v=Cj_kb9nlAlE

Stanford CS329A Self-Improving AI Agents | Part 2 | Test-Time Compute Scaling

Stanford Online — Mon, 03 Aug 2026 00:00:00 +0800

探討如何在推理階段透過增加計算量來提升大型語言模型效能，涵蓋並行取樣、驗證機制及架構搜尋等技術。觀眾可學習如何利用測試時計算超越現有模型，並掌握相關Scaling Law與實務架構設計。

原站：https://www.youtube.com/watch?v=-Ggc37xLj_Y

Import AI 464: Fable writes GPU kernels; AI automation; and analog computation

Import AI（Jack Clark） — Mon, 06 Jul 2026 00:00:00 +0800

介紹 Fable 寫出高效 GPU 核碼的突破，分析 AI 自動化線上任務能力的提升，並探討 OSWORLD 2.0 benchmarks 顯示 AI 在複雜電腦操作上的進展。最後以虛構故事展望未來類比運算的應用。

原站：https://importai.substack.com/p/import-ai-464-fables-writes-gpu-kernels

Why Hardware-Software Co-Design Is AI's Real 100x: Dylan Patel of SemiAnalysis

Sequoia Capital — Tue, 30 Jun 2026 00:00:00 +0800

Dylan Patel 分享 SemiAnalysis 從技術分析到營收破億的成長歷程，探討硬體與軟體協同設計對 AI 模型架構的關鍵影響。

原站：https://www.youtube.com/watch?v=f6D_aiy8qyU

告别算力焦虑！中国AI不再靠英伟达，华为做对了什么？

老石谈芯 Shilicon Talk — Mon, 08 Jun 2026 00:00:00 +0800

解析華為昇騰 950 系列如何透過系統級最佳化與 CANN 架構，解決 DeepSeek V4 等中國大模型的算力挑戰。觀眾能了解華為如何突破物理限制，建立不依賴輝達的自主算力生態。

原站：https://www.youtube.com/watch?v=9IAn4XbrJi8

Stanford MS&E435 Economics of the AI Supercycle | Spring 2026 | Applications, Applied AI

Stanford Online — Sat, 06 Jun 2026 00:00:00 +0800

Tuhin Srivastava 分享 Baseten 如何透過客製化模型與基礎設施，協助 AI 公司解決推論效能、可靠性與成本問題。內容涵蓋 frontier 模型與客製化模型的市場趨勢、開放原始碼模型的挑戰，以及硬體生態系的未來發展。

原站：https://www.youtube.com/watch?v=Qh7Oxvo5sJI

Cerebras IPO：从“硅谷疯子”到英伟达挑战者

硅谷101 — Thu, 14 May 2026 00:00:00 +0800

介紹 Cerebras 如何以超大晶片挑戰輝達，透過整合整片晶圓實現高速推理，並與 Meta、OpenAI 等巨頭合作。內容涵蓋其技術路線、資本週期起伏及 IPO 歷程，分析其能否撼動現有算力王座。

原站：https://www.youtube.com/watch?v=jgqruNFUBUI

How to Engineer AI Inference Systems with Philip Kiely - #766

The TWIML AI Podcast — Fri, 01 May 2026 00:00:00 +0800

深入探討推論工程（Inference Engineering），解釋為何它是 AI 最關鍵且複雜的工作負載。內容涵蓋從研究到生產的快速週期、關鍵技術如量化與 KV Cache 重用的應用，以及業界從 API 呼叫到自建平台的演進路徑。

原站：https://twimlai.com/podcast/twimlai/how-engineer-ai-inference-systems

苹果Meta带头倒戈！百亿芯片订单飞向谷歌，老黄慌了吗？

老石谈芯 Shilicon Talk — Sat, 18 Apr 2026 00:00:00 +0800

解析谷歌 TPU 晶片如何吸引蘋果與 Meta 倒戈，並深入探討脈動陣列架構與 BF16 精度對大模型訓練成本的影響。觀眾能了解 AI 晶片自研趨勢、TPU 與 GPU 的差異及輝達的市場地位。

原站：https://www.youtube.com/watch?v=2AQ7-52FfIs

两小时激辩：黄仁勋为什么不怕 TPU、不怕华为、不怕出口管制？

寶玉 — Fri, 17 Apr 2026 00:00:00 +0800

黃仁勳接受兩小時訪談，闡述 Nvidia 從電子轉 Token 的核心使命，強調 CUDA 生態護城河與不參與雲服務的策略。他認為供應鏈瓶頸僅兩三年，真正挑戰在能源政策，並指出限制出口將加速中國自主化。

原站：https://baoyu.io/blog/jensen-huang-dwarkesh-interview

“杭州六小龙”首个IPO、空间智能与AI的下一步：对话群核科技创始人黄晓煌

硅谷101 — Fri, 17 Apr 2026 00:00:00 +0800

探討空間智慧作為實現 AGI 的關鍵技術，解析其與世界模型、具身智慧的關聯。透過群核科技黃曉煌訪談，了解從傳統設計軟體轉型至空間智慧的歷程，並分析該領域面臨的資料瓶頸與未來潛力。

原站：https://www.youtube.com/watch?v=8pncy425QqQ

160: 群核IPO后与黄晓煌聊这15年：被嫌弃的GPU、冠军酷家乐、空间智能、六小龙

晚点聊 LateTalk — Fri, 17 Apr 2026 00:00:00 +0800

群核科技創始人黃曉煌專訪，回顧公司從輝達離職創業至今的十五年歷程，談論如何從雲端 GPU 技術轉向家居設計軟體酷家樂，以及在 AI 浪潮中如何選擇投入空間智慧而非大模型。內容包含創業艱難、人才選拔策略與對科技企業生存哲學的深刻反思。

原站：https://podcast.latepost.com/160

E230｜1万亿收入预期背后：英伟达的巅峰与软肋

硅谷101 — Thu, 26 Mar 2026 00:00:00 +0800

深入解析輝達在 GTC 2026 上提出的 1 萬億美元收入預期，探討其 Blackwell 與 Vera Rubin 平台帶來的挑戰與機會。

原站：https://sv101.fireside.fm/244

GTC 2026：AI的下一个战场不是模型，而是「推理系统」| S10E04

What's Next｜科技早知道 — Wed, 25 Mar 2026 00:00:00 +0800

探討 GTC 2026 上 AI 競爭焦點從模型轉向推理系統，分析 Eigen AI 等公司如何加速開源模型。內容涵蓋 GPU 與 LPU 分工、Token 消耗激增對商業模式的衝擊，以及推理最佳化技術路徑。

原站：https://guiguzaozhidao.fireside.fm/20240417

#494 – Jensen Huang: NVIDIA – The $4 Trillion Company & the AI Revolution

Lex Fridman Podcast — Tue, 24 Mar 2026 00:00:00 +0800

Jensen Huang 談論 NVIDIA 如何透過極端協同設計，整合晶片、記憶體、網路與軟體來突破 AI 擴展限制。他分享公司從加速卡轉向「AI 工廠」的戰略轉變，並探討 TSMC 的成功關鍵與對未來的樂觀展望。

原站：https://lexfridman.com/jensen-huang

EP130 - 深度解析 NVIDIA！GTC 有什麽亮點嗎

科技浪 — Mon, 23 Mar 2026 00:00:00 +0800

深入解析 NVIDIA GTC 大會亮點，探討黃仁勳的垂直整合敘事、AI 推論市場策略及 Groq LPU 應用。同時分析馬斯克 Terafab 計畫與太空資料中心的可行性，並討論供應鏈挑戰。

原站：https://www.youtube.com/watch?v=WLc2_AZd5uo