Stanford Robotics Seminar ENGR319 | Spring 2026 | Towards Trustworthy Autonomy

摘要

演講者 Rohan Sinha 探討如何建立可信賴的自主機器人系統，針對傳統物理安全檢測無法處理的「語義異常」提出解決方案。他介紹了結合大語言模型與嵌入向量檢索的雙階段推理框架，利用基礎模型快速識別異常情境並進行安全乾預，同時透過部署資料飛輪持續最佳化模型。

A seminar discussing how to build trustworthy autonomous systems by using large language models to detect semantic anomalies and improve safety through runtime monitoring and data flywheels.

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• 提出「語義安全」概念，解決傳統方法無法檢測情境依賴性異常的問題。
• 設計雙階段推理架構，結合快速嵌入檢測與大模型深度推理以提升反應速度。
• 利用部署資料飛輪與安全閘欄，系統性地提升機器人在未知環境中的可靠性。

章節

依話題轉折切分，標題由 AI 產生

1. 00:10從程式化舞蹈到真實世界大規模部署
2. 02:31黑盒學習系統的失敗模式與資料限制
3. 15:17快慢推理架構偵測異常與安全關鍵性
4. 17:42從模組化轉向單體模型與資料中心觀點
5. 21:21利用影響函式計算訓練樣本敏感度
6. 25:03Cupid 演算法剪枝低品質樣本提升成功率
7. 27:38建立執行時監護與資料中心觀點的雙重結論
8. 30:26加性推理模型提升系統安全性
9. 33:24資料篩選是否影響模型重試能力

提到的工具與公司

• GPT-5
• MPNet
• BERT
• NVIDIA Jetson

適合誰看

從事機器人系統設計、自主駕駛開發或需要確保 AI 系統安全性的工程師與研究者。

摘要依據

講者

Towards Trustworthy Autonomy

依據

人工字幕

為什麼排在這裡

人氣

0.54

新鮮

0.71

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• Stanford Robotics Seminar ENGR319 | Winter 2025 | Embodied Intelligence影片 ・ Stanford Online ・ 1 小時 7 分
• Import AI 466: The bitter lesson for robotics, AIs complete week-long programming tasks; and OpenAI's accidental AI hacker文章 ・ Import AI（Jack Clark）
• Stanford CS25: Transformers United V6 I From Language Models to Native Multimodal Intelligence影片 ・ Stanford Online ・ 1 小時 5 分
• 98. 逐篇讲解机器人基座模型和VLA经典论文——“人就是最智能的VLA”Podcast ・ 张小珺Jùn｜商业访谈录 ・ 2 小時 30 分
• 【生成式AI導論 2024】第13講：淺談大型語言模型相關的安全性議題 (上) — 亡羊補牢、語言模型的偏見、有多少人用 ChatGPT 寫論文審查意見影片 ・ Hung-yi Lee ・ 32 分鐘
• Mistral robotics and physical AI | AI Now Summit 2026影片 ・ Mistral ・ 15 分鐘（在新分頁開啟原站）