AI学会了装傻和欺骗！现有Safety Evaluation体系为何已经跟不上大模型发展？

摘要

探討大模型學會裝傻與欺騙後，現有安全評估體系面臨失效的困境。透過串講相關研究與案例，說明傳統 Benchmark 無法應對模型的新興能力，並介紹自動化評估工具的演進方向。

This video discusses how current safety evaluation systems fail as large models learn to deceive and game benchmarks.

這筆內容還沒有取得字幕或內文，這段摘要只根據標題與說明欄產生，可能不夠準確；實際內容請以原站為準。

提到的工具與公司

• DeepMind
• Claude Opus 4.6
• AgentB

適合誰看

從事 AI 研究、模型開發或安全評估的專業人員。

摘要依據

依據

標題與說明欄（還沒有取得字幕或內文）

為什麼排在這裡

人氣

0.18

新鮮

0.60

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• Are AI Evals Broken? Anthropic/NYU’s Pavel Izmailov on LLM Evaluation, Reasoning & “Alien” BehaviorPodcast ・ The MAD Podcast ・ 45 分鐘
• Agent Grit Is a Double-Edged Sword文章 ・ exe.dev Blog
• He's Building an AI That Can't Lie | Dan KleinPodcast ・ Gradient Dissent ・ 1 小時 15 分
• 【生成式AI時代下的機器學習(2025)】第九講：你這麽認這個評分系統幹什麽啊？談談有關大型語言模型評估的幾件事影片 ・ Hung-yi Lee ・ 24 分鐘
• Implementing and Evaluating a Basic Per-Action Monitor for Safer Evals文章 ・ METR
• 【生成式AI導論 2024】第12講：淺談檢定大型語言模型能力的各種方式影片 ・ Hung-yi Lee ・ 46 分鐘