【生成式AI時代下的機器學習(2025)】第十講：人工智慧的微創手術 — 淺談 Model Editing

摘要

李宏毅教授介紹 Model Editing 技術，旨在讓大型語言模型植入特定知識而不影響其他內容。課程涵蓋如何評估編輯成功的三個面向（可靠性、泛化性、區域性性），並詳解 IKE、ROME 等不需大幅重訓參數的方法，以及利用 Hypernetwork 的 MEND 技術來解決訓練成本過高的問題。

This lecture explains Model Editing techniques for inserting specific knowledge into large language models without altering their general behavior, covering evaluation metrics and methods like IKE, ROME, and MEND.

摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。

重點

• Model Editing 能讓模型植入新知識而不改變整體行為。
• 評估成功需考量可靠性、泛化性與區域性性三個面向。
• 課程介紹 IKE、ROME 與 MEND 等具體技術方法。

章節

依話題轉折切分，標題由 AI 產生

1. 00:00Model Editing 植入新知識的定義與應用
2. 02:47Model Editing 成功評估的三大面向
3. 10:29類神經網路微調手術與思想鋼印比喻
4. 13:46透過 Embedding 置換修改模型參數
5. 16:54定位 Feed Forward Network 關鍵層級
6. 20:53強化模型泛化能力與避免誤改策略
7. 23:42利用閉式解更新參數的數學原理
8. 29:06ROME 式子背後的假設前提
9. 38:47Hypernetwork 解決無正確答案問題
10. 41:27利用對角矩陣簡化編輯模型
11. 43:57MEND 方法將矩陣降階處理

提到的工具與公司

• EasyEdit
• KnowEdit
• IKE
• ROME
• MEND

適合誰看

對機器學習、大語言模型原理或知識編輯技術有興趣的學習者。

摘要依據

講者

李宏毅

依據

人工字幕

為什麼排在這裡

人氣

0.47

新鮮

0.14

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• 【生成式人工智慧與機器學習導論2025】第 8 講：通用模型的終身學習 (Fine-tuning, Model Editing, Model Merging, Test-Time Training)影片 ・ Hung-yi Lee ・ 2 小時（在新分頁開啟原站）
• 【生成式AI時代下的機器學習(2025)】第一講：一堂課搞懂生成式人工智慧的技術突破與未來發展影片 ・ Hung-yi Lee ・ 1 小時 24 分（在新分頁開啟原站）