Netflix PRS 2024 - Applying LLMs to Recommendation Experiences

摘要

這篇文章由 Amazon 資深應用科學家 Eugene Yan 撰寫，分享了在 Netflix 2024 年個人化研討會上的經驗。他談及在消費者規模部署大語言模型（LLM）推薦系統時所面臨的挑戰與經驗，涵蓋評估、可擴充套件性及安全邊界。文章探討了如何將語言模型應用於推薦體驗，並提供了實際的觀察與建議。

This article by Amazon Senior Applied Scientist Eugene Yan shares insights on deploying LLM-powered recommendation systems at consumer scale, covering challenges in evaluation, scalability, and guardrails. It discusses applying language models to recommendation experiences and offers practical take…

重點

• 在消費者規模部署 LLM 推薦系統時，評估、可擴充套件性及安全邊界是主要挑戰。
• 文章分享了在 Netflix 2024 研討會上的經驗，探討了 LLM 應用於推薦體驗的方法。
• 涵蓋了從評估、可擴充套件性到安全邊界的完整部署流程與經驗。

提到的工具與公司

• RecSys
• Personalization
• Conversational RecSys
• Scalability

適合誰看

對大語言模型在推薦系統中應用感興趣的工程師、資料科學家或系統架構師。

摘要依據

依據

文章全文

為什麼排在這裡

人氣

0.75

新鮮

0.04

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• How LLMs Are Reshaping Recommendation SystemsPodcast ・ Software Engineering Daily ・ 48 分鐘（在新分頁開啟原站）
• Improving Recommendation Systems & Search in the Age of LLMs文章 ・ Eugene Yan（部落格）
• Augment or Not? A Comparative Study of Pure and Augmented Large Language Model Recommenders影片 ・ 陳縕儂 Vivian NTU MiuLab ・ 17 分鐘（在新分頁開啟原站）
• Distill the LLM, Don't Serve It: Search & Personalization at DoorDash — Raghav Saboo, DoorDash影片 ・ AI Engineer ・ 22 分鐘（在新分頁開啟原站）
• Why LLM Recommenders Will Be AI's Biggest Consumer App — Devansh Tandon, Meta影片 ・ AI Engineer ・ 18 分鐘（在新分頁開啟原站）
• AI Engineer 2023 Keynote - Building Blocks for LLM Systems文章 ・ Eugene Yan（部落格）