深度學習推薦系統 2.0

王喆，畢業於清華大學計算機科學與技術系，美國流媒體公司Roku資深機器學習工程師，推薦系統架構負責人。曾任Hulu高級研究工程師，品友互動廣告效果算法組負責人。清華大學KEG實驗室學術搜索引擎AMiner早期發起人之一。主要研究方向為推薦系統、計算廣告、個性化搜索，發表相關領域學術論文7篇，擁有專利3項，是《百面機器學習：算法工程師帶你去面試》等技術書的聯合作者。曾擔任KDD、CIKM等國際會議審稿人。

第1章 推薦系統——互聯網的增長引擎
1.1 為什麼推薦系統是互聯網的增長引擎
1.2 推薦系統的架構
1.3 算法、工程與大模型的協同創新
1.4 本書的整體結構
參考文獻
第2章 推薦之心——深度學習推薦模型的進化之路
2.1 深度學習推薦模型的演化關系
2.2 協同過濾——經典的推薦算法
2.3 從LR到FFM——融合多種特征的推薦模型
2.4 DeepCrossing模型——深度學習推薦模型的開端
2.5 NeuralCF模型——雙塔模型的經典應用
2.6 Wide&Deep模型——記憶能力和泛化能力的綜合
2.7 加強特征交叉能力的深度學習推薦模型
2.8 註意力機制在推薦模型中的應用
2.9 考慮用戶興趣進化的序列模型
2.10 強化學習與推薦系統的結合
2.11 總結——推薦系統的深度學習時代
參考文獻
第3章 浪潮之巔——大模型在推薦系統中的創新
3.1 引爆大模型時代的ChatGPT
3.2 基於Prompt的推薦——以ChatGPT的方式改造推薦系統
3.3 大模型特征工程——讓推薦模型學會“世界知識”
3.4 華為ClickPrompt——大模型與深度學習推薦模型的融合方案
3.5 MetaGR——用大模型的思路改進推薦模型
3.6 總結——方興未艾的革命與理性的深度思考
參考文獻
第4章 核心技術——Embedding在推薦系統中的應用
4.1 Word2vec——經典的Embedding方法
4.2 GraphEmbedding——引入更多結構信息的圖嵌入技術
4.3 GNN——直接處理圖結構數據的神經網絡
4.4 Embedding與深度學習推薦系統的結合
4.5 近似最近鄰搜索——讓Embedding插上翅膀的快速搜索方法
4.6 總結——深度學習推薦系統的核心操作
參考文獻
第5章 推薦架構——深度學習推薦系統的級聯架構
5.1 以快為主的召回層
5.2 承上啟下的粗排層
5.3 算力和模型覆雜度的較量
5.4 沖破信息繭房的重排層
5.5 總結——天下大勢，合久必分，分久必合
參考文獻
第6章 多個角度——推薦系統中的其他重要問題
6.1 如何合理地設定推薦系統中的優化目標
6.2 推薦系統的冷啟動問題
6.3 消除推薦系統的“偏見”與消偏方法
6.4 聯邦學習——解決隱私合規問題的利器
6.5 推薦系統中比模型結構更重要的是什麼
參考文獻
第7章 數據為王——推薦系統的特征工程與數據流
7.1 推薦系統的特征工程
7.2 多模態特征的處理與融合
7.3 推薦系統的數據流
7.4 推薦系統的實時性
7.5 邊緣計算——提升實時性的終極武器
7.6 總結——推薦系統的血液循環系統
參考文獻
第8章 模型工程——深度學習推薦模型的訓練和線上服務
8.1 TensorFlow與PyTorch——推薦模型離線訓練平臺
8.2 分布式訓練與ParameterServer的原理
8.3 深度學習推薦模型的上線部署
8.4 模型架構與數據流的深度整合——模型流式訓練
8.5 理想照進現實——工程與理論之間的權衡
參考文獻
第9章 效果評估——推薦系統的評估體系
9.1 離線評估方法與評估指標
9.2 更接近線上環境的離線評估方法——Replay
9.3 離線評估的終極方法——推薦系統模擬器
9.4 A/B測試與線上評估指標
9.5 快速線上評估方法——Interleaving
9.6 推薦系統的評估體系
參考文獻
第10章 無限可能——擁抱多模態大模型和AIGC的未來
10.1 StableDiffusion——多模態大模型的基本原理
10.2 世界的模擬器——Sora的基本原理
10.3 AI輔助內容生成
10.4 AI個性化內容生成
參考文獻
第11章 前沿實踐——深度學習推薦系統的業界經典案例
11.1 YouTube深度學習視頻推薦系統
11.2 Airbnb基於Embedding的實時搜索推薦系統
11.3 阿裏巴巴深度學習推薦系統的進化
11.4 “麻雀雖小，五臟俱全”的開源推薦系統SparrowRecSys
11.5 Meta生成式推薦模型GR的工程實現
參考文獻
第12章 宏觀體系——構建屬於你的推薦系統知識框架
12.1 推薦系統的整體知識架構圖
12.2 推薦模型發展的時間線
12.3 如何成為一名優秀的推薦工程師
12.4 大模型時代的挑戰與機遇