Training an LLM-RecSys Hybrid for Steerable Recs with Semantic IDs

摘要

介紹了結合大語言模型（LLM）與推薦系統（RecSys）的新方法，利用「語意 ID」將商品轉化為可理解的語義符號。作者展示了如何透過 RQ-VAE 生成語義 ID，並訓練一個可對話的 LLM 來進行推薦。該模型能理解自然語言指令，直接生成商品語義 ID 並進行推薦，無需依賴傳統檢索或工具，具備推理與創意命名能力。

This article introduces a hybrid LLM-RecSys approach using semantic IDs to enable steerable recommendations without retrieval. It details the RQ-VAE process for generating semantic IDs and presents a trained model that can converse with users to generate item IDs and make recommendations directly.

重點

• 利用 RQ-VAE 將商品轉為可理解的語義 ID。
• 訓練一個可對話的 LLM 來直接進行推薦，無需檢索。
• 模型能理解自然語言並生成商品語義 ID 進行推薦。

提到的工具與公司

• RQ-VAE
• Qwen3-Embedding-0.6B
• Qwen3-8B
• SASRec
• Codebook

適合誰看

對推薦系統、大語言模型應用、以及生成式 AI 在商業場景中使用的技術感興趣的開發者與研究者。

摘要依據

講者

Eugene Yan

依據

文章全文

為什麼排在這裡

人氣

0.75

新鮮

0.23

在主題頁與搜尋結果裡，名次由相關、人氣、新鮮三個分數決定；這一頁沒有搜尋的關鍵字，所以沒有相關分數。排序怎麼算

相關內容

• Improving Recommendation Systems & Search in the Age of LLMs文章 ・ Eugene Yan（部落格）
• AI Engineer 2025 - Improving RecSys & Search with LLM techniques文章 ・ Eugene Yan（部落格）
• Why LLM Recommenders Will Be AI's Biggest Consumer App文章 ・ AIE Talks
• Teaching LLMs to Speak Spotify文章 ・ AIE Talks
• Teaching LLMs to Speak Spotify — Yves Raimond & Jacqueline Wood, Spotify影片 ・ AI Engineer ・ 20 分鐘（在新分頁開啟原站）
• Retrieval Augmented Generation (RAG), Search, and Vector Databases影片 ・ Luis Serrano Academy ・ 19 分鐘（在新分頁開啟原站）