從零開始構建企業(yè)級推薦系統(tǒng)

第１章　推薦系統(tǒng)的時代背景 1
1．1　為什么需要推薦系統(tǒng) 1
1．1．1　提高流量利用效率 1
1．1．2　挖掘和匹配長尾需求 6
1．1．3　提升用戶體驗 7
1．1．4　技術積累 8
1．2　推薦的產(chǎn)品問題 10
1．2．1　推薦什么東西 10
1．2．2　為誰推薦 13
1．2．3　推薦場景 14
1．2．4　推薦解釋 16
1．3　總結 18
第2章　推薦系統(tǒng)的核心技術概述 19
2．1　核心邏輯拆解 19
2．2　整體流程概述 20
2．3　召回算法 21
2．4　基于行為的召回算法 24
2．5　用戶畫像和物品畫像 24
2．6　結果排序 26
2．7　評價指標 26
2．8　系統(tǒng)監(jiān)控 27
2．9　架構設計 28
2．10　發(fā)展歷程 28
2．11　總結 30
第3章　基礎推薦算法 31
3．1　推薦邏輯流程架構 31
3．2　召回算法的基本邏輯 34
3．3　常用的基礎召回算法 36
3．3．1　用戶與物品的相關性 36
3．3．2　物品與物品的相關性 42
3．3．3　用戶與用戶的相關性 46
3．3．4　用戶與標簽的相關性 47
3．3．5　標簽與物品的相關性 48
3．3．6　相關性召回的鏈式組合 50
3．4　冷啟動場景下的推薦 51
3．5 總結 53
第4章　算法融合與數(shù)據(jù)血統(tǒng) 54
4．1　線性加權融合 55
4．2　優(yōu)先級融合 57
4．3　基于機器學習的排序融合 59
4．4　融合策略的選擇 61
4．5　融合時機的選擇 63
4．6　數(shù)據(jù)血統(tǒng) 64
4．6．1　融合策略正確性驗證 65
4．6．2　系統(tǒng)效果監(jiān)控 65
4．6．3　策略效果分析 67
4．7 總結 68
第5章　機器學習技術的應用 69
5．1　機器學習技術概述 69
5．2　推薦系統(tǒng)中的應用場景 70
5．3　機器學習技術的實施方法 72
5．3．1　老系統(tǒng)與數(shù)據(jù)準備 72
5．3．2　問題分析與目標定義 74
5．3．3　樣本處理 76
5．3．4　特征處理 80
5．3．5　模型選擇與訓練 98
5．3．6　模型效果評估 101
5．3．7　預測階段效果監(jiān)控 104
5．3．8　模型訓練系統(tǒng)架構設計 105
5．3．9　模型預測系統(tǒng)架構設計 108
5．4　常用模型介紹 109
5．4．1　邏輯回歸模型 109
5．4．2　GBDT模型 111
5．4．3　LR+GDBT模型 112
5．4．4　因子分解機模型 113
5．4．5　Wide ＆ Deep模型 115
5．4．6　其他深度學習模型 116
5．5　機器學習實踐常見問題 117
5．5．1　反模式1：只見模型，不見系統(tǒng) 117
5．5．2　反模式2：忽視模型過程和細節(jié) 117
5．5．3　反模式3：不注重樣本精細化處理 118
5．5．4　反模式4：過于依賴算法 119
5．5．5　反模式5：核心數(shù)據(jù)缺乏控制 120
5．5．6　反模式6：團隊不夠“全?！?121
5．5．7　反模式7：系統(tǒng)邊界模糊導致出現(xiàn)“巨型系統(tǒng)” 121
5．5．8　反模式8：不重視基礎數(shù)據(jù)架構建設 122
5．6　總結 123
第6章　用戶畫像系統(tǒng) 124
6．1　用戶畫像的概念和作用 124
6．2　用戶畫像的價值準則 126
6．3　用戶畫像的構成要素 128
6．3．1　物品側畫像 129
6．3．2　用戶側畫像 133
6．3．3　用戶畫像擴展 139
6．3．4　用戶畫像和排序特征的關系 142
6．4　用戶畫像系統(tǒng)的架構演進 143
6．4．1　用戶畫像系統(tǒng)的組成部分 143
6．4．2　野蠻生長期 144
6．4．3　統(tǒng)一用戶畫像系統(tǒng)架構 145
6．5　總結 147
第7章　系統(tǒng)效果評測與監(jiān)控 148
7．1　評測與監(jiān)控的概念和意義 148
7．2　推薦系統(tǒng)的評測指標系統(tǒng) 150
7．3　常用指標 151
7．4　離線效果評測方法 158
7．5　在線效果評測方法 163
7．5．1　AB實驗 163
7．5．2　交叉實驗 173
7．6　系統(tǒng)監(jiān)控 178
7．7　總結 181
第8章　推薦效果優(yōu)化 182
8．1　準確率優(yōu)化的一般性思路 183
8．2　覆蓋率優(yōu)化的一般性思路 185
8．3　行為類相關性算法優(yōu)化 188
8．3．1　熱度懲罰 188
8．3．2　時效性優(yōu)化 190
8．3．3　隨機游走 194
8．3．4　嵌入表示 196
8．4　內容類相關性算法優(yōu)化 200
8．4．1　非結構化算法 201
8．4．2　結構化算法 201
8．5　影響效果的非算法因素 205
8．5．1　用戶因素 205
8．5．2　產(chǎn)品設計因素 206
8．5．3　數(shù)據(jù)因素 208
8．5．4　算法策略因素 208
8．5．5　工程架構因素 209
8．6　總結 210
第9章　自然語言處理技術的應用 211
9．1　詞袋模型 212
9．2　權重計算和向量空間模型 214
9．3　隱語義模型 216
9．4　概率隱語義模型 218
9．5　生成式概率模型 220
9．6　LDA模型的應用 222
9．6．1　相似度計算 222
9．6．2　排序特征 222
9．6．3　物品打標簽＆用戶打標簽 223
9．6．4　主題＆詞的重要性度量 223
9．6．5　更多應用 224
9．7　神經(jīng)概率語言模型 224
9．8　行業(yè)應用現(xiàn)狀 226
9．9　總結和展望 227
第10章　探索與利用問題 228
10．1　多臂老虎機問題 228
10．2　推薦系統(tǒng)中的EE問題 230
10．3　解決方案 231
10．3．1　?-Greedy算法 231
10．3．2　UCB 234
10．3．3　湯普森采樣 236
10．3．4　LinUCB 237
10．4　探索與利用原理在機器學習系統(tǒng)中的應用 239
10．5　EE問題的本質和影響 240
10．6　總結 241
第11章　推薦系統(tǒng)架構設計 242
11．1　架構設計概述 242
11．2　系統(tǒng)邊界和外部依賴 244
11．3　離線層、在線層和近線層架構 246
11．4　離線層架構 247
11．5　近線層架構 249
11．6　在線層架構 252
11．7　架構層級對比 255
11．8　系統(tǒng)和架構演進原則 256
11．8．1　從簡單到復雜 256
11．8．2　從離線到在線 258
11．8．3　從統(tǒng)一到拆分 258
11．9　基于領域特定語言的架構設計 259
11．10　總結 262
第12章　推薦系統(tǒng)工程師成長路線 263
12．1　基礎開發(fā)能力 264
12．1．1　單元測試 264
12．1．2　邏輯抽象復用 264
12．2　概率和統(tǒng)計基礎 265
12．3　機器學習理論 266
12．3．1　基礎理論 267
12．3．2　監(jiān)督學習 268
12．3．3　無監(jiān)督學習 269
12．4　開發(fā)語言和開發(fā)工具 270
12．4．1　開發(fā)語言 270
12．4．2　開發(fā)工具 270
12．5　算法優(yōu)化流程 271
12．6　推薦業(yè)務技能 273
12．7　總結 274
第13章　推薦系統(tǒng)的挑戰(zhàn) 275
13．1 數(shù)據(jù)稀疏性 275
13．2　推薦結果解釋 277
13．3　相關性和因果性 281
13．4　信息繭房 283
13．5　轉化率預估偏差問題 286
13．6　召回模型的局限性問題 288
13．7　用戶行為捕捉粒度問題 290
13．8　總結 291