1030: Garbage In, Gospel Out: Why Agents Need Better Data, with Salesforce's Gaurav Pathak

摘要

Salesforce 的 Gaurav Pathak 與 Jon Krohn 探討企業 AI 代理需要優質標籤資料才能提供可靠回答。他解釋了「垃圾進，寶寶出」的概念，指出當資料品質不佳時，代理會自信地輸出錯誤資訊，甚至自行做出決策。Gaurav 強調後設資料如同超市貨品上的標籤，是識別資料資產的關鍵，否則代理將浪費大量 Token 去搜尋無標記的資料。

Gaurav Pathak from Salesforce discusses why enterprise AI agents require high-quality labeled data to deliver reliable answers. He explains the concept of 'garbage in, gospel out,' where agents confidently output incorrect information based on poor data, sometimes making decisions without human in.

重點

• 後設資料是 AI 代理所需的標籤，用於識別資料資產。
• 「垃圾進，寶寶出」指代理基於不良資料自信地輸出錯誤結論。
• 企業 AI 代理的錯誤往往由人來承擔，因此需要好的資料基礎。

章節

依話題轉折切分，標題由 AI 產生

1. 00:00AI 代理的「垃圾入，聖典出」現象
2. 03:35企業資料資產的後設資料標籤
3. 05:53資料衝突如何演變為沉默失敗
4. 11:18模型錯誤後的責任歸屬
5. 13:42資料質量規則的數量爆炸
6. 18:24Clair AI 引擎如何自動生成規則

提到的工具與公司

• Salesforce
• Informatica
• Agent Force 360
• Claude AI
• Hugging Face

適合誰看

AI 工程師、資料科學家、企業 IT 決策者。

摘要依據

講者

Jon Krohn

依據

語音轉文字

為什麼排在這裡

人氣

0.35

新鮮

0.97

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• Meet the Data Agent in ChatGPT Work影片 ・ OpenAI ・ 4 分鐘（在新分頁開啟原站）
• AI Dev 26 x SF | Luke Kim: The Agent Data Stack—Why Every AI Agent Needs Its Own Data Stack影片 ・ DeepLearningAI ・ 19 分鐘（在新分頁開啟原站）
• Why AI Agents Need a Data Harness, Not Just a Lakehouse影片 ・ AI Native Dev ・ 37 分鐘（在新分頁開啟原站）
• How to Build Agents That Answer Data Questions影片 ・ Hamel Husain ・ 27 分鐘（在新分頁開啟原站）
• The Startup Powering The Data Behind AGIPodcast ・ Gradient Dissent ・ 56 分鐘（在新分頁開啟原站）
• Genie Agents Tutorial: Build & Customize AI Data Agents影片 ・ Databricks ・ 5 分鐘（在新分頁開啟原站）