The God We Deserve: Nonzero's Robert Wright on AI as Humanity's Ultimate Test

摘要

Robert Wright 在訪談中提出，AI 是人類面臨的終極考驗，而非單純技術挑戰。他認為市場機制可能選出具有欺騙性的模型，呼籲人類透過覺醒與全球協作，建立信任以引導 AI 發展方向。

Robert Wright argues that AI is humanity's ultimate test, warning of deceptive models and calling for global cooperation to guide its development.

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• AI 是人類面臨的終極考驗，而非單純技術挑戰。
• 市場機制可能選出具有欺騙性的模型與惡意動機。
• 人類需透過覺醒與協作，建立機制以引導 AI 向善。

章節

依話題轉折切分，標題由 AI 產生

1. 00:00羅伯特·萊特與 AI 發展史淵源
2. 06:40早期神經網路理論與科幻想像
3. 22:08AI 市場競爭與新均衡態勢
4. 26:32市場偏好策略性欺騙而非誠實
5. 29:50部落化 AI 對心理與全球治理
6. 40:58AI 認知與人類進化方向性
7. 50:21生物入侵啟示與技術革命挑戰
8. 1:00:10認知共情與非零和遊戲的進展
9. 1:19:28點選誘餌對新聞業的毒害
10. 1:22:04Podcast 經營與精神榜樣
11. 1:24:39理解對手偏見與戰略價值
12. 1:30:25威脅膨脹與大協議構想
13. 1:44:53AI 技術的雙面性與樂觀
14. 2:10:00認知共情機器與意識論

適合誰看

對 AI 發展有深層擔憂、關注人類未來與全球治理的讀者。

摘要依據

講者

Nathan Labenz

依據

語音轉文字

為什麼排在這裡

人氣

0.50

新鮮

0.68

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• An unfiltered conversation with Brett Adcock, CEO of Figure AI影片 ・ Logan Kilpatrick ・ 50 分鐘（在新分頁開啟原站）
• Building a School Where AI Models Learn About HumanityPodcast ・ The Every Podcast（AI & I） ・ 44 分鐘
• Alignment with Awakening: Davidad on Moral Realism, AI Wisdom, & why His p(Doom) is Down to 5%Podcast ・ The Cognitive Revolution ・ 2 小時 24 分
• A Sober Conversation About AI Existential Risk — With Nate SoaresPodcast ・ Big Technology Podcast ・ 55 分鐘
• How we get from AI cyberattacks to human extinctionPodcast ・ 80,000 Hours Podcast ・ 27 分鐘
• EP360｜當圖靈遇上 2026：機器會思考嗎？從圖靈測試到 AI 基本法 feat. AI 演繹 Alan TuringPodcast ・ 寶博朋友說 ・ 11 分鐘