大數(shù)據(jù)智能：數(shù)據(jù)驅(qū)動(dòng)的自然語(yǔ)言處理技術(shù)

1 深度計(jì)算——機(jī)器大腦的結(jié)構(gòu) 1
1.1 驚人的深度學(xué)習(xí) 1
1.1.1 可以做酸奶的面包機(jī)：通用機(jī)器的概念 2
1.1.2 連接主義 4
1.1.3 用機(jī)器設(shè)計(jì)機(jī)器 5
1.1.4 深度網(wǎng)絡(luò) 6
1.1.5 深度學(xué)習(xí)的用武之地 6
1.2 從人腦神經(jīng)元到人工神經(jīng)元 8
1.2.1 生物神經(jīng)元中的計(jì)算靈感 8
1.2.2 激活函數(shù) 9
1.3 參數(shù)學(xué)習(xí) 10
1.3.1 模型的評(píng)價(jià) 11
1.3.2 有監(jiān)督學(xué)習(xí) 11
1.3.3 梯度下降法 12
1.4 多層前饋網(wǎng)絡(luò) 14
1.4.1 多層前饋網(wǎng)絡(luò) 14
1.4.2 后向傳播算法計(jì)算梯度 16
1.5 逐層預(yù)訓(xùn)練 17
1.6 深度學(xué)習(xí)是終極神器嗎 20
1.6.1 深度學(xué)習(xí)帶來(lái)了什么 20
1.6.2 深度學(xué)習(xí)尚未做到什么 21
1.7 內(nèi)容回顧與推薦閱讀 . 22
1.8 參考文獻(xiàn) 23

2 知識(shí)圖譜——機(jī)器大腦中的知識(shí)庫(kù) 25
2.1 什么是知識(shí)圖譜 25
2.2 知識(shí)圖譜的構(gòu)建 28
2.2.1 大規(guī)模知識(shí)庫(kù) 28
2.2.2 互聯(lián)網(wǎng)鏈接數(shù)據(jù) 29
2.2.3 互聯(lián)網(wǎng)網(wǎng)頁(yè)文本數(shù)據(jù) 30
2.2.4 多數(shù)據(jù)源的知識(shí)融合 31
2.3 知識(shí)圖譜的典型應(yīng)用 32
2.3.1 查詢理解 32
2.3.2 自動(dòng)問(wèn)答 34
2.3.3 文檔表示 35
2.4 知識(shí)圖譜的主要技術(shù) 36
2.4.1 實(shí)體鏈指 36
2.4.2 關(guān)系抽取 37
2.4.3 知識(shí)推理 39
2.4.4 知識(shí)表示 40
2.5 前景與挑戰(zhàn) 42
2.6 內(nèi)容回顧與推薦閱讀 45
2.7 參考文獻(xiàn) 45

3 大數(shù)據(jù)系統(tǒng)——大數(shù)據(jù)背后的支撐技術(shù) 47
3.1 大數(shù)據(jù)有多大 47
3.2 高性能計(jì)算技術(shù) 49
3.2.1 超級(jí)計(jì)算機(jī)的組成 49
3.2.2 并行計(jì)算的系統(tǒng)支持 51
3.3 虛擬化和云計(jì)算技術(shù) 55
3.3.1 虛擬化技術(shù) 56
3.3.2 云計(jì)算服務(wù) 58
3.4 基于分布式計(jì)算的大數(shù)據(jù)系統(tǒng) 59
3.4.1 Hadoop 生態(tài)系統(tǒng) 60
3.4.2 Spark 67
3.4.3 典型的大數(shù)據(jù)基礎(chǔ)架構(gòu) 68
3.5 大規(guī)模圖計(jì)算 69
3.5.1 分布式圖計(jì)算框架 70
3.5.2 高效的單機(jī)圖計(jì)算框架 71
3.6 NoSQL 72
3.6.1 NoSQL 數(shù)據(jù)庫(kù)的類別 72
3.6.2 MongoDB 簡(jiǎn)介 74
3.7 內(nèi)容回顧與推薦閱讀 76
3.8 參考文獻(xiàn) 77

4 主題模型——機(jī)器的智能摘要利器 78
4.1 由文檔到主題 78
4.2 主題模型出現(xiàn)的背景 80
4.3 第一個(gè)主題模型：潛在語(yǔ)義分析 81
4.4 第一個(gè)正式的概率主題模型 84
4.5 第一個(gè)正式的貝葉斯主題模型 85
4.6 LDA 的概要介紹 86
4.6.1 LDA 的延伸理解：主題模型廣義理解 . 90
4.6.2 模型求解 92
4.6.3 模型評(píng)估 93
4.6.4 模型選擇：主題數(shù)目的確定 94
4.7 主題模型的變形與應(yīng)用 95
4.7.1 基于 LDA 的變種模型 95
4.7.2 基于 LDA 的典型應(yīng)用 97
4.7.3 基于主題模型的新浪名人話題排行榜應(yīng)用 100
4.8 內(nèi)容回顧與推薦閱讀 104
4.9 參考文獻(xiàn) 105

5 機(jī)器翻譯——機(jī)器如何跨越語(yǔ)言障礙 110
5.1 機(jī)器翻譯的意義 110
5.2 機(jī)器翻譯的發(fā)展歷史 111
5.2.1 基于規(guī)則的機(jī)器翻譯 112
5.2.2 基于語(yǔ)料庫(kù)的機(jī)器翻譯 112
5.2.3 基于神經(jīng)網(wǎng)絡(luò)的機(jī)器翻譯 114
5.3 經(jīng)典的神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯模型 114
5.3.1 基于循環(huán)神經(jīng)網(wǎng)絡(luò)的神經(jīng)網(wǎng)絡(luò)機(jī)器翻譯 114
5.3.2 從卷積序列到序列模型 117
5.3.3 基于自注意力機(jī)制的 Transformer 模型 118
5.4 機(jī)器翻譯譯文質(zhì)量評(píng)價(jià) 120
5.5 機(jī)器翻譯面臨的挑戰(zhàn) 121
5.6 參考文獻(xiàn) 123

6 情感分析與意見(jiàn)挖掘——機(jī)器如何了解人類情感 125
6.1 情感可以計(jì)算嗎 125
6.2 哪里需要文本情感分析 . 126
6.2.1 情感分析的宏觀反映 127
6.2.2 情感分析的微觀特征 128
6.3 情感分析的主要研究問(wèn)題 129
6.4 情感分析的主要方法 132
6.4.1 構(gòu)成情感和觀點(diǎn)的基本元素 132
6.4.2 情感極性與情感詞典 134
6.4.3 屬性－觀點(diǎn)對(duì) 141
6.4.4 情感極性分析 143
6.5 主要的情感分析資源 148
6.6 前景與挑戰(zhàn) 149
6.7 內(nèi)容回顧與推薦閱讀 150
6.8 參考文獻(xiàn) 151

7 智能問(wèn)答與對(duì)話系統(tǒng)——智能助手是如何煉成的 154
7.1 問(wèn)答：圖靈測(cè)試的基本形式 154
7.2 從問(wèn)答到對(duì)話 155
7.2.1 對(duì)話系統(tǒng)的基本過(guò)程 156
7.2.2 文本對(duì)話系統(tǒng)的常見(jiàn)場(chǎng)景 157
7.3 問(wèn)答系統(tǒng)的主要組成 159
7.4 文本問(wèn)答系統(tǒng) 161
7.4.1 問(wèn)題理解 161
7.4.2 知識(shí)檢索 165
7.4.3 答案生成 169
7.5 端到端的閱讀理解問(wèn)答技術(shù) 169
7.5.1 什么是閱讀理解任務(wù) 170
7.5.2 閱讀理解任務(wù)的模型 172
7.5.3 閱讀理解任務(wù)的其他工程技巧 173
7.6 社區(qū)問(wèn)答系統(tǒng) 174
7.6.1 社區(qū)問(wèn)答系統(tǒng)的結(jié)構(gòu) 174
7.6.2 相似問(wèn)題檢索 175
7.6.3 答案過(guò)濾 177
7.6.4 社區(qū)問(wèn)答的應(yīng)用 177
7.7 多媒體問(wèn)答系統(tǒng) 179
7.8 大型問(wèn)答系統(tǒng)案例：IBM 沃森問(wèn)答系統(tǒng) 181
7.8.1 沃森的總體結(jié)構(gòu) 182
7.8.2 問(wèn)題解析 182
7.8.3 知識(shí)儲(chǔ)備 183
7.8.4 檢索和候選答案生成 184
7.8.5 可信答案確定 184
7.9 前景與挑戰(zhàn) 186
7.10 內(nèi)容回顧與推薦閱讀 186
7.11 參考文獻(xiàn) 187

8 個(gè)性化推薦系統(tǒng)——如何了解計(jì)算機(jī)背后的他 190
8.1 什么是推薦系統(tǒng) 190
8.2 推薦系統(tǒng)的發(fā)展歷史 191
8.2.1 推薦無(wú)處不在 192
8.2.2 從千人一面到千人千面 193
8.3 個(gè)性化推薦的基本問(wèn)題 194
8.3.1 推薦系統(tǒng)的輸入 194
8.3.2 推薦系統(tǒng)的輸出 196
8.3.3 個(gè)性化推薦的基本形式 197
8.3.4 推薦系統(tǒng)的三大核心問(wèn)題 198
8.4 典型推薦算法淺析 199
8.4.1 推薦算法的分類 199
8.4.2 典型推薦算法介紹 200
8.4.3 基于矩陣分解的打分預(yù)測(cè) 207
8.4.4 基于神經(jīng)網(wǎng)絡(luò)的推薦算法 213
8.5 推薦的可解釋性 214
8.6 推薦算法的評(píng)價(jià) 217
8.6.1 評(píng)分預(yù)測(cè)的評(píng)價(jià) 218
8.6.2 推薦列表的評(píng)價(jià) 219
8.6.3 推薦理由的評(píng)價(jià) 220
8.7 前景與挑戰(zhàn)：我們走了多遠(yuǎn) 221
8.7.1 推薦系統(tǒng)面臨的問(wèn)題 221
8.7.2 推薦系統(tǒng)的新方向 223
8.8 內(nèi)容回顧與推薦閱讀 225
8.9 參考文獻(xiàn) 226

9 機(jī)器寫作——從分析到創(chuàng)造 228
9.1 什么是機(jī)器寫作 228
9.2 藝術(shù)寫作 229
9.2.1 機(jī)器寫詩(shī) 229
9.2.2 AI 對(duì)聯(lián) 233
9.3 當(dāng)代寫作 236
9.3.1 機(jī)器寫稿 236
9.3.2 機(jī)器故事生成 239
9.4 內(nèi)容回顧 241
9.5 參考文獻(xiàn) 242

10 社交商業(yè)數(shù)據(jù)挖掘——從用戶數(shù)據(jù)挖掘到商業(yè)智能應(yīng)用 243
10.1 社交媒體平臺(tái)中的數(shù)據(jù)寶藏 . 243
10.2 打通網(wǎng)絡(luò)社區(qū)的束縛：用戶網(wǎng)絡(luò)社區(qū)身份的鏈指與融合 245
10.3 揭開社交用戶的面紗：用戶畫像的構(gòu)建 247
10.3.1 基于顯式社交屬性的構(gòu)建方法 247
10.3.2 基于網(wǎng)絡(luò)表示學(xué)習(xí)的構(gòu)建方法 249
10.3.3 產(chǎn)品受眾畫像的構(gòu)建 250
10.4 了解用戶的需求：用戶消費(fèi)意圖的識(shí)別 254
10.4.1 個(gè)體消費(fèi)意圖識(shí)別 254
10.4.2 群體消費(fèi)意圖識(shí)別 256
10.5 精準(zhǔn)的供需匹配：面向社交平臺(tái)的產(chǎn)品推薦算法 258
10.5.1 候選產(chǎn)品列表生成 258
10.5.2 基于學(xué)習(xí)排序算法的推薦框架 259
10.5.3 基于用戶屬性的排序特征構(gòu)建 260
10.5.4 推薦系統(tǒng)的整體設(shè)計(jì)概覽 261
10.6 前景與挑戰(zhàn) 262
10.7 內(nèi)容回顧與推薦閱讀 263
10.8 參考文獻(xiàn) 264

11 智慧醫(yī)療——信息技術(shù)在醫(yī)療領(lǐng)域應(yīng)用的結(jié)晶 265
11.1 智慧醫(yī)療的起源 265
11.2 智慧醫(yī)療的廬山真面目 267
11.3 智慧醫(yī)療中的人工智能應(yīng)用 268
11.3.1 醫(yī)療過(guò)程中的人工智能應(yīng)用 268
11.3.2 醫(yī)療研究中的人工智能應(yīng)用 272
11.4 前景與挑戰(zhàn) 273
11.5 內(nèi)容回顧與推薦閱讀 275
11.6 參考文獻(xiàn) 275

12 智慧司法——智能技術(shù)促進(jìn)司法公正 276
12.1 智能技術(shù)與法律的碰撞 . 276
12.2 智慧司法相關(guān)研究 . 277
12.2.1 法律智能的早期研究 278
12.2.2 判決預(yù)測(cè)：虛擬法官的誕生與未來(lái) 279
12.2.3 文書生成：司法過(guò)程簡(jiǎn)化 283
12.2.4 要素提取：司法結(jié)構(gòu)化 285
12.2.5 類案匹配：解決一案多判 289
12.2.6 司法問(wèn)答：讓機(jī)器理解法律 292
12.3 智慧司法的期望偏差與應(yīng)用挑戰(zhàn) 293
12.3.1 智慧司法的期望偏差 293
12.3.2 智慧司法的應(yīng)用挑戰(zhàn) 294
12.4 內(nèi)容回顧與推薦閱讀 295
12.5 參考文獻(xiàn) 295

13 智能金融——機(jī)器金融大腦 298
13.1 智能金融正當(dāng)其時(shí) 298
13.1.1 什么是智能金融 298
13.1.2 智能金融與金融科技、互聯(lián)網(wǎng)金融的異同 298
13.1.3 智能金融適時(shí)而生 299
13.2 智能金融技術(shù) 301
13.2.1 大數(shù)據(jù)的機(jī)遇與挑戰(zhàn) 301
13.2.2 智能金融中的自然語(yǔ)言處理 303
13.2.3 金融事理圖譜 307
13.2.4 智能金融中的深度學(xué)習(xí) 310
13.3 智能金融應(yīng)用 314
13.3.1 智能投顧 314
13.3.2 智能研報(bào) 315
13.3.3 智能客服 316
13.4 前景與挑戰(zhàn) 317
13.5 內(nèi)容回顧與推薦閱讀 319
13.6 參考文獻(xiàn) 319

14 計(jì)算社會(huì)學(xué)——透過(guò)大數(shù)據(jù)了解人類社會(huì) 320
14.1 透過(guò)數(shù)據(jù)了解人類社會(huì) 320
14.2 面向社會(huì)媒體的自然語(yǔ)言使用分析 321
14.2.1 詞匯的時(shí)空傳播與演化 322
14.2.2 語(yǔ)言使用與個(gè)體差異 325
14.2.3 語(yǔ)言使用與社會(huì)地位 326
14.2.4 語(yǔ)言使用與群體分析 328
14.3 面向社會(huì)媒體的自然語(yǔ)言分析應(yīng)用 330
14.3.1 社會(huì)預(yù)測(cè) 330
14.3.2 霸凌現(xiàn)象定量分析 331
14.4 未來(lái)研究的挑戰(zhàn)與展望 332
14.5 參考文獻(xiàn) 333
后記 334