看影片（在新分頁開啟原站）連到 Matt Pocock
摘要
探討大型語言模型常因編造事實、虛構實體或忽視上下文而產生謬誤（幻覺）的原因與後果。講者解釋了模型壓縮導致資訊丟失，以及評估機制鼓勵猜測而非承認不確定性的設計缺陷，並提供使用搜尋工具與提供內部資料來降低風險的實作建議。
A video explaining why LLMs hallucinate, the technical reasons behind it, and practical ways to mitigate these errors in daily use.
摘要、重點與章節標題由語言模型整理，細節（誰說的、數字、先後）可能有誤；要引用請以原始內容為準。
重點
- LLM 常因訓練資料壓縮而編造事實與虛構實體。
- 評估機制鼓勵模型猜測，導致對不確定資訊過度自信。
- 提供搜尋工具與內部資料可大幅降低幻覺風險。
章節
依話題轉折切分，標題由 AI 產生
適合誰看
正在使用 AI 進行開發、撰寫或處理重要資訊的軟體工程師與技術人員。
摘要依據
- 講者
- Matt Pocock
- 依據
- 自動字幕
為什麼排在這裡
- 人氣
- 0.61
- 新鮮
- 0.48
在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算
相關內容
- Extrinsic Hallucinations in LLMs文章 ・ Lilian Weng（部落格）
- He's Building an AI That Can't Lie | Dan KleinPodcast ・ Gradient Dissent ・ 1 小時 15 分
- Why Hallucinations Aren’t What You Think影片 ・ Jason Liu ・ 55 分鐘（在新分頁開啟原站）
- The AI Language We Can't Read: Neuralese ft. Rob Miles - Computerphile影片 ・ Computerphile ・ 27 分鐘（在新分頁開啟原站）
- 【生成式AI導論 2024】第14講：淺談大型語言模型相關的安全性議題 (下) — 欺騙大型語言模型影片 ・ Hung-yi Lee ・ 16 分鐘（在新分頁開啟原站）
- Open challenges in LLM research文章 ・ Chip Huyen（部落格）
摘要由 AI 根據原文產生，可能有誤；完整內容請看原站。看影片（在新分頁開啟原站）