#253 – AI 2027's author returns with a plan to change the ending | Daniel Kokotajlo

摘要

Daniel Kokotajlo 提出「AI 2040：Plan A」方案，主張透過十年緩慢發展來避免人類滅亡或權力過度集中。此方案預計 2027 年 AI 已具自主性，但尚未自動化程式碼；2028 年開始逐步取代部分軟體工程師工作，並透過建立全球「合夥人聯盟」確保透明與可驗證。儘管有對齊風險，但該方案被視為目前最可行的替代方案，旨在讓人類與 AI 共同應對未來挑戰。

Daniel Kokotajlo proposes 'AI 2040: Plan A', advocating for a decade-long slow development to avoid human extinction or power concentration. The plan envisions AI gaining autonomy by 2027 but not yet automating coding; starting in 2028, it begins replacing some software engineers. Through a global '

重點

• Daniel Kokotajlo 提出「AI 2040：Plan A」，主張透過十年緩慢發展來避免人類滅亡或權力過度集中。
• 此方案預計 2027 年 AI 已具自主性，但尚未自動化程式碼；2028 年開始逐步取代部分軟體工程師工作。
• 方案透過建立全球「合夥人聯盟」確保透明與可驗證，並認為目前最可行，雖有風險但為最佳替代方案。

提到的工具與公司

• AI 2027
• AI 2040
• METR
• Anthropic
• OpenAI
• Hugging Face

適合誰看

對未來 AI 發展趨勢、政府與企業合作模式感興趣的讀者。

摘要依據

講者

Daniel Kokotajlo

依據

節目逐字稿

為什麼排在這裡

人氣

0.35

新鮮

0.87

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• AI 2040: Plan A report - Daniel Kokotajlo & Thomas LarsenPodcast ・ Machine Learning Street Talk ・ 1 小時 30 分（在新分頁開啟原站）
• AI Could Take Over in 2029. Is It Already Too Late? | Ryan GreenblattPodcast ・ The MAD Podcast ・ 1 小時 19 分（在新分頁開啟原站）
• AI 2040计划：为超级智能争取时间​ | 超级智能 | AI安全 | AI对齐 | AI控制 | Daniel Kokotajlo | Thomas Larsen | AI预测 | AI 2027影片 ・ Best Partners TV ・ 14 分鐘（在新分頁開啟原站）
• AI 2027: month-by-month model of intelligence explosion — Scott Alexander & Daniel KokotajloPodcast ・ Dwarkesh Podcast ・ 3 小時 4 分（在新分頁開啟原站）
• EP401 – Anthropic 前研究員警告：AI 將在十年內毀滅人類？Podcast ・ AI懶人報 ・ 10 分鐘（在新分頁開啟原站）
• Dexter Horthy: Why We Stopped Trusting AI to Write the Plan影片 ・ AI Native Dev ・ 56 分鐘