#251 – The UK's former head AI safety scientist on how to solve alignment before superintelligence arrives | Geoffrey Irving

摘要

Geoffrey Irving 指出政府應在「現在」而非過去採取行動，因為人類尚未具備理解 AI 行為的能力。他認為 AI 安全的核心在於建立可自我監督的系統，透過「能力爬坡」與「可擴充套件監督」來逐步解決問題，而非等待超智慧體出現。

Geoffrey Irving argues that governments should act now rather than waiting for superintelligence to arrive. He believes AI safety relies on building self-supervised systems through iterative capability climbing and scalable oversight to solve alignment challenges.

重點

• 政府應立即採取行動，而非等待未來。
• AI 安全需透過建立可自我監督的系統來解決。
• 能力爬坡與可擴充套件監督是解決關鍵。

提到的工具與公司

• OpenAI
• Google DeepMind
• UK AI Security Institute
• Resolution
• AlphaGo
• AlphaFold
• AGI
• ASI

適合誰看

對 AI 安全與未來技術趨勢感興趣的技術與政策研究者。

摘要依據

講者

Geoffrey Irving

依據

節目逐字稿

為什麼排在這裡

人氣

0.35

新鮮

0.82

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• AI 2040: Plan A report - Daniel Kokotajlo & Thomas LarsenPodcast ・ Machine Learning Street Talk ・ 1 小時 30 分（在新分頁開啟原站）
• Pick Your Poison: Zvi Mowshowitz on the Unipolar/Multipolar AGI Dilemma, OpenFace & Pacing the ...Podcast ・ The Cognitive Revolution ・ 2 小時 58 分（在新分頁開啟原站）
• AI还没觉醒却已经失控了​ | Helen Toner | OpenAI | Hugging Face | AI安全 | 沙箱逃逸 | AI对齐 | AI监管 | 网络安全 | Anthropic影片 ・ Best Partners TV ・ 18 分鐘（在新分頁開啟原站）
• Alignment with Awakening: Davidad on Moral Realism, AI Wisdom, & why His p(Doom) is Down to 5%Podcast ・ The Cognitive Revolution ・ 2 小時 24 分（在新分頁開啟原站）
• OpenAI’s chief scientist just issued a warning...影片 ・ Wes Roth ・ 29 分鐘（在新分頁開啟原站）
• Why I still haven’t bought into true RSIPodcast ・ Interconnects ・ 10 分鐘