當目標與指標發生差距的時候：從古德哈特定律看人工智慧治理的困境
探討古德哈特定律如何導致 AI 代理在最佳化獎勵函式時出現漏洞利用，並分析 OpenAI 代理程式濫用 DseWiki 的案例。內容指出將人類意圖壓縮為指標的難題，以及產業在透明度與治理上的系統性缺失。
吳傑
9 筆內容
在 Medium 寫 AI 治理與可信賴 AI 的評論：指標與目標的落差、模型解釋的忠實度、AI 風險怎麼排序
他的來源
最受歡迎
依人氣
人工智慧對於高等教育的影響
整理美國大學協會與伊隆大學關於 AI 對高等教育影響的調查報告，指出批判性思考下降、學術誠信崩裂等四大問題，並提出以人為本、強化數位素養等六大指導原則，強調需教導學生負責任使用 AI 的關鍵議題。
別被生成式 AI 寵壞！傳統機器學習，才是企業難以被複製的護城河
指出在生成式 AI 流行的背景下，傳統機器學習因資料隱私、可解釋性與成本效益等優勢，仍是企業難以被複製的護城河。讀者能理解為何特定業務場景下傳統模型更優，並學習如何建立資料能力以打造獨特競爭力。
忠實度差距 faithfulness gap
探討大型語言模型在推理過程中，內部決策與外部解釋不一致的「忠實度差距」風險，特別是在醫療診斷等關鍵領域可能造成的後果。文章進一步分析從大型語言模型轉向代理型人工智慧時，此問題如何影響觀察、推理、計劃與行動的迴圈，並強調人類監督與問責的重要…
可信賴的人工智慧的特徵 — 負責任的人工智慧
闡述負責任人工智慧的核心，引用美國 NIST 提出的七項可信賴特徵，涵蓋有效可靠、安全、韌性、透明問責、可解釋性、隱私增強與公平性。讀者可掌握企業應用 AI 時應遵循的風險管理原則與權衡思考。
對人工智慧所帶來風險進行優先排序 — 272位專家的意見
介紹一項由 272 位國際專家參與的德爾菲研究，評估了 24 項人工智慧風險並找出前五大高機率災難性後果專案。內容強調開發商與政府應承擔主要責任，並建議使用者提升批判性思考與隱私警覺度以應對風險。
我們利用一個場景來試試看，談人工智慧的風險管理。
透過求職者被 AI 篩選系統不公平淘汰的案例，探討 AI 風險管理中的歧視、權責不對等與透明化問題。內容分析台灣現行法規與歐盟 AI 法案的差異，並提出基於 ISO42001 與 PDCA 的應對策略。
台灣《人工智慧風險分類框架》的簡介
數位發展部於 2026 年 7 月推出《人工智慧風險分類框架》，以七項原則與四大流程建立風險治理系統，將風險分為三大類並包含 20 個子型別。文章探討高風險判定標準，質疑僅以「可能造成嚴重危害」定義是否過於寬鬆，並對比歐盟法案提出反思。
最新內容
依發布時間
人工智慧對於高等教育的影響
整理美國大學協會與伊隆大學關於 AI 對高等教育影響的調查報告，指出批判性思考下降、學術誠信崩裂等四大問題，並提出以人為本、強化數位素養等六大指導原則，強調需教導學生負責任使用 AI 的關鍵議題。
可信賴的人工智慧的特徵 — 負責任的人工智慧
闡述負責任人工智慧的核心，引用美國 NIST 提出的七項可信賴特徵，涵蓋有效可靠、安全、韌性、透明問責、可解釋性、隱私增強與公平性。讀者可掌握企業應用 AI 時應遵循的風險管理原則與權衡思考。
當目標與指標發生差距的時候：從古德哈特定律看人工智慧治理的困境
探討古德哈特定律如何導致 AI 代理在最佳化獎勵函式時出現漏洞利用，並分析 OpenAI 代理程式濫用 DseWiki 的案例。內容指出將人類意圖壓縮為指標的難題，以及產業在透明度與治理上的系統性缺失。
忠實度差距 faithfulness gap
探討大型語言模型在推理過程中，內部決策與外部解釋不一致的「忠實度差距」風險，特別是在醫療診斷等關鍵領域可能造成的後果。文章進一步分析從大型語言模型轉向代理型人工智慧時，此問題如何影響觀察、推理、計劃與行動的迴圈，並強調人類監督與問責的重要…
對人工智慧所帶來風險進行優先排序 — 272位專家的意見
介紹一項由 272 位國際專家參與的德爾菲研究，評估了 24 項人工智慧風險並找出前五大高機率災難性後果專案。內容強調開發商與政府應承擔主要責任，並建議使用者提升批判性思考與隱私警覺度以應對風險。
我們利用一個場景來試試看，談人工智慧的風險管理。
透過求職者被 AI 篩選系統不公平淘汰的案例，探討 AI 風險管理中的歧視、權責不對等與透明化問題。內容分析台灣現行法規與歐盟 AI 法案的差異，並提出基於 ISO42001 與 PDCA 的應對策略。
別被生成式 AI 寵壞！傳統機器學習，才是企業難以被複製的護城河
指出在生成式 AI 流行的背景下，傳統機器學習因資料隱私、可解釋性與成本效益等優勢，仍是企業難以被複製的護城河。讀者能理解為何特定業務場景下傳統模型更優，並學習如何建立資料能力以打造獨特競爭力。
台灣《人工智慧風險分類框架》的簡介
數位發展部於 2026 年 7 月推出《人工智慧風險分類框架》，以七項原則與四大流程建立風險治理系統，將風險分為三大類並包含 20 個子型別。文章探討高風險判定標準，質疑僅以「可能造成嚴重危害」定義是否過於寬鬆，並對比歐盟法案提出反思。