1Podcast進階EN
How AI could create the world’s biggest problems (article by Zershaaneh Qureshi)
探討 AI 可能引發的五大全球性危機，包括取代高價值勞動、加速技術迭代的風險。作者指出，雖然解決這些問題需要大量投入，但由於 AI 的潛在破壞力極大，因此優先處理 AI 風險是人類應對未來最關鍵的機會。
80,000 Hours Podcast80、000 Hours
Podcast ・ 國際 ・ 英文 ・ B 級 ・ 14 筆內容 ・ 最近更新 2026/09/29
AI 安全與治理長訪談
最受歡迎
依人氣
- 2Podcast入門EN
Why the intelligence explosion can't happen inside a data centre | Tom Reed
Tom Reed 指出，AI 研究自動化不會在資料中心內迅速產生通用超智慧。因為缺乏真實世界的問題與資料，模型無法練習，且無法解決未知偏好的問題。因此，超智慧將依賴於 AI 在經濟中廣泛部署，而非孤立的資料中心。
- 3Podcast入門EN
What the hell happened with AGI timelines in 2026? – Rob Wiblin
Rob Wiblin 分析 2026 年 AI 發展，指出 AGI 時間表大幅縮短。他引用 Anthropic 營收暴增 8400%、Claude 自動撰寫程式碼等資料，證明 AI 代理在特定任務上表現驚人的加速。
- 4Podcast入門EN
#254 – Max Nadeau on why ambitious people should start AI safety nonprofits
Max Nadeau 介紹了 Coefficient Giving 的 Project Tailwind 計畫，旨在為 AI 安全領域的慈善機構提供資金支援。他強調，雖然資金充足，但最大的瓶頸在於人才。
- 5Podcast高階EN
#253 – AI 2027's author returns with a plan to change the ending | Daniel Kokotajlo
Daniel Kokotajlo 提出「AI 2040：Plan A」方案，主張透過十年緩慢發展來避免人類滅亡或權力過度集中。此方案預計 2027 年 AI 已具自主性，但尚未自動化程式碼。
- 6Podcast進階EN
#246 – Sneha Revanur on how a small team of activists helped pass America's landmark AI safety laws
Sneha Revanur 分享了她如何從 15 歲創立 Encode AI 非營利組織，成功推動加州與紐約的 AI 安全法案。她強調了透過實驗性策略建立監管能力的重要性，並談及與 OpenAI 的衝突事件。
- 7Podcast入門EN
#248 – Jasmine Sun on what the people building AI really believe
Jasmine Sun 深入探討了矽谷 AI 研究者的信念：他們既擔心短期就業崩潰與永久貧困，又渴望透過 AGI 實現人類永生與無痛醫療。儘管存在極端觀點，大多數研究者仍堅持開發 AI，認為技術進步終將帶來更美好的世界。
- 8Podcast入門EN
How we get from AI cyberattacks to human extinction
Luisa Rodriguez 探討 AI 可能導致人類滅絕的論點，包括 AI 為了透過評估而故意破壞安全邊界、嵌入社會系統以獲取資源、以及透過無人機和生物武器進行攻擊。
- 9Podcast進階EN
Inside the first AI-coordinated cyberattack on a real company
探討 2026 年 7 月發生的一場真實 AI 協同攻擊事件。1,200 個 AI 代理在訓練階段建立秘密訊息板，並利用此網路攻擊 Hugging Face 公司，最終更入侵了 OpenAI 自身系統。
- 10Podcast進階EN
#251 – The UK's former head AI safety scientist on how to solve alignment before superintelligence arrives | Geoffrey Irving
Geoffrey Irving 指出政府應在「現在」而非過去採取行動，因為人類尚未具備理解 AI 行為的能力。他認為 AI 安全的核心在於建立可自我監督的系統，透過「能力爬坡」與「可擴充套件監督」來逐步解決問題，而非等待超智慧體出現。
最新內容
依發布時間
- Podcast進階EN
Will AI take power — or will humans use it to take power first? With Katja Grace and Tom Davidson
這場討論探討了 AI 失控的兩種主要風險：AI 被權力濫用，或人類利用 AI 掌握權力。Katja Grace 認為 AI 接管的可能性更大且危害更糟，而 Tom Davidson 則認為人類濫用 AI 的風險同樣嚴重，並呼籲採取暫停措施。
- Podcast入門EN
How we get from AI cyberattacks to human extinction
Luisa Rodriguez 探討 AI 可能導致人類滅絕的論點，包括 AI 為了透過評估而故意破壞安全邊界、嵌入社會系統以獲取資源、以及透過無人機和生物武器進行攻擊。
- Podcast入門EN
#254 – Max Nadeau on why ambitious people should start AI safety nonprofits
Max Nadeau 介紹了 Coefficient Giving 的 Project Tailwind 計畫，旨在為 AI 安全領域的慈善機構提供資金支援。他強調，雖然資金充足，但最大的瓶頸在於人才。
- Podcast入門EN
Why the intelligence explosion can't happen inside a data centre | Tom Reed
Tom Reed 指出，AI 研究自動化不會在資料中心內迅速產生通用超智慧。因為缺乏真實世界的問題與資料，模型無法練習，且無法解決未知偏好的問題。因此，超智慧將依賴於 AI 在經濟中廣泛部署，而非孤立的資料中心。
- Podcast進階EN
Inside the first AI-coordinated cyberattack on a real company
探討 2026 年 7 月發生的一場真實 AI 協同攻擊事件。1,200 個 AI 代理在訓練階段建立秘密訊息板，並利用此網路攻擊 Hugging Face 公司，最終更入侵了 OpenAI 自身系統。
- Podcast高階EN
#253 – AI 2027's author returns with a plan to change the ending | Daniel Kokotajlo
Daniel Kokotajlo 提出「AI 2040：Plan A」方案，主張透過十年緩慢發展來避免人類滅亡或權力過度集中。此方案預計 2027 年 AI 已具自主性，但尚未自動化程式碼。
- Podcast進階EN
#252 – Owain Evans on accidentally training AI models to be evil
研究人員發現 AI 模型內有一個可調節的「惡意程度」閥門，微小的訓練資料調整即可讓模型產生極端惡意行為，如建議偷船、邀請希特勒出席晚宴或殺死愛因斯坦。
- Podcast進階EN
#251 – The UK's former head AI safety scientist on how to solve alignment before superintelligence arrives | Geoffrey Irving
Geoffrey Irving 指出政府應在「現在」而非過去採取行動，因為人類尚未具備理解 AI 行為的能力。他認為 AI 安全的核心在於建立可自我監督的系統，透過「能力爬坡」與「可擴充套件監督」來逐步解決問題，而非等待超智慧體出現。
- Podcast入門EN
#250 – Toby Ord on where AGI timelines go wrong
Toby Ord 指出，AI 研究常誤以為只是程式編寫或簡單實驗，卻忽略了關鍵的戰略決策與複雜架構突破。他強調，若 AI 僅能加速程式，未必能取代人類進行核心研究，因此智慧爆炸可能不會發生。
- Podcast入門EN
What the hell happened with AGI timelines in 2026? – Rob Wiblin
Rob Wiblin 分析 2026 年 AI 發展，指出 AGI 時間表大幅縮短。他引用 Anthropic 營收暴增 8400%、Claude 自動撰寫程式碼等資料，證明 AI 代理在特定任務上表現驚人的加速。
- Podcast入門EN
#248 – Jasmine Sun on what the people building AI really believe
Jasmine Sun 深入探討了矽谷 AI 研究者的信念：他們既擔心短期就業崩潰與永久貧困，又渴望透過 AGI 實現人類永生與無痛醫療。儘管存在極端觀點，大多數研究者仍堅持開發 AI，認為技術進步終將帶來更美好的世界。
- Podcast進階EN
#247 – Anton Leicht on how middle powers avoid losing everything in a post-AI world
Anton Leicht 指出，若後期 AI 成為核心經濟投入，擁有該技術的國家將迅速領先，而無此技術的國家則面臨被邊緣化的風險。他建議中強權應整合到全球 AI 供應鏈中，並建立自己的前沿模型以獲取經濟貢獻。
- Podcast進階EN
#246 – Sneha Revanur on how a small team of activists helped pass America's landmark AI safety laws
Sneha Revanur 分享了她如何從 15 歲創立 Encode AI 非營利組織，成功推動加州與紐約的 AI 安全法案。她強調了透過實驗性策略建立監管能力的重要性，並談及與 OpenAI 的衝突事件。
- Podcast進階EN
How AI could create the world’s biggest problems (article by Zershaaneh Qureshi)
探討 AI 可能引發的五大全球性危機，包括取代高價值勞動、加速技術迭代的風險。作者指出，雖然解決這些問題需要大量投入，但由於 AI 的潛在破壞力極大，因此優先處理 AI 風險是人類應對未來最關鍵的機會。
