Science of Misalignment

摘要

探討未來 AI 模型若出現危險對齊問題時，如何偵測與驗證，並介紹新的「韌性分數」工具。觀眾可了解 AI 心理學的新研究方向與評估方法。

The video discusses how to detect dangerous misalignment in future AI models and introduces a new resilience score tool.

這筆內容還沒有取得字幕或內文，這段摘要只根據標題與說明欄產生，可能不夠準確；實際內容請以原站為準。

適合誰看

適合對 AI 安全、模型對齊或相關研究感興趣的人。

摘要依據

依據

標題與說明欄（還沒有取得字幕或內文）

為什麼排在這裡

人氣

0.16

新鮮

0.29

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• Our framework for reporting model misalignment文章 ・ OpenAI News
• Anthropic Looks At Some Of Its Alignment Problems文章 ・ Don't Worry About the Vase（Zvi）
• #251 – The UK's former head AI safety scientist on how to solve alignment before superintelligence arrives | Geoffrey IrvingPodcast ・ 80,000 Hours Podcast ・ 2 小時 2 分
• What is Al "reward hacking"—and why do we worry about it?影片 ・ Anthropic ・ 52 分鐘
• AI的异质心智 | OpenAI | Jakub Pachocki | AGI | 通用人工智能 | AI对齐 | 价值对齐 | 思维链监控 | 递归自我改进 | RSI | AI安全影片 ・ Best Partners TV ・ 19 分鐘
• #252 – Owain Evans on accidentally training AI models to be evilPodcast ・ 80,000 Hours Podcast ・ 2 小時 15 分