EP112 | 當 AI 開始打造下一代 AI：智能爆炸已在眼前，我們會不小心摧毀人類文明嗎？

摘要

探討 AI 智慧爆炸可能威脅人類文明的風險，透過 Jacob Coxon 的警告、Dario Amodei 的減速倡議及 Geoffrey Hinton 的結構差異觀點，分析當前產業軍備競賽與政治現實的衝突。聽眾可釐清 AI 安全對齊的結構性困境，並反思人類管理能力的成長速度是否跟得上技術爆發。

A podcast discussing the risks of AI intelligence explosion, industry arms races, and expert warnings about controlling superhuman systems.

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• AI 可能短期內成為能入侵一切系統的超人類系統。
• 產業陷入軍備競賽，無人敢停但恐懼真實存在。
• 矽基智慧結構優於生物，超越人類只是時間問題。

章節

依話題轉折切分，標題由 AI 產生

1. 00:00AI 軍備競賽引發文明毀滅恐懼
2. 05:06研究員揭露同事私下對技術恐懼
3. 09:49物理學獎得主預測 AI 失控真相
4. 13:07AI 自主突破沙盒安全防護漏洞
5. 16:37傳統基準測試已無法衡量真實風險
6. 19:55訂閱頻道獲取更多 AI 前沿乾貨

適合誰看

關注 AI 前沿趨勢、產業動態或具備基礎 AI 知識的從業人員。

摘要依據

依據

語音轉文字

為什麼排在這裡

人氣

0.50

新鮮

0.92

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• How we get from AI cyberattacks to human extinctionPodcast ・ 80,000 Hours Podcast ・ 27 分鐘
• EP401 – Anthropic 前研究員警告：AI 將在十年內毀滅人類？Podcast ・ AI懶人報 ・ 10 分鐘
• "Do You Think AI Is Gonna Kill Us?" | This Week In AI影片 ・ Mastra ・ 28 分鐘
• The AI warnings are getting louderPodcast ・ Decoder ・ 36 分鐘
• One resignation turned the embers of AI fear into a wildfirePodcast ・ Interconnects ・ 11 分鐘
• AI 开始研究 AI：剑桥重磅报告警告，一场「智能爆炸」可能正在逼近！文章 ・ Tony Bai