大規(guī)模語言模型：從理論到實踐

定　價：￥109.00

作　者：	張奇桂韜鄭銳黃萱菁等
出版社：	電子工業(yè)出版社
叢編項：
標　簽：	暫缺

購買這本書可以去

當當網(wǎng) (￥81.70)

ISBN：	9787121467059	出版時間：	2024-01-01	包裝：	平裝-膠訂
開本：	16開	頁數(shù)：		字數(shù)：

內(nèi)容簡介

　　2023年ChatGPT火爆全球，以其為代表的人工智能大語言模型成為全球人工智能從業(yè)者關注的焦點。本書詳細介紹了構建大語言模型的四個主要階段：預訓練、有監(jiān)督微調(diào)、獎勵建模和強化學習。每個階段都有算法、代碼、數(shù)據(jù)、難點及實踐經(jīng)驗的詳細討論。本書以大語言模型的基礎理論開篇，探討了大語言模型預訓練數(shù)據(jù)的構建方法，以及大語言模型如何理解并服從人類指令，介紹了大語言模型的擴展應用和評估方法，為讀者提供了更全面的視野。本書旨在為對大語言模型感興趣的讀者提供入門指南，也可作為高年級本科生和研究生自然語言處理相關課程的補充教材。

作者簡介

　　張奇復旦大學計算機科學技術學院教授、博士生導師。主要研究方向是自然語言處理和信息檢索。兼任中國中文信息學會理事，中國中文信息學會信息檢索專委會常務委員，中國人工智能學會青年工作委員會常務委員。多次擔任ACL、EMNLP、COLING、全國信息檢索大會等重要國際、國內(nèi)會議的程序委員會主席、領域主席、講習班主席等。承擔國家重點研發(fā)計劃課題、國家自然科學基金、上海市科委等多個項目，在國際重要學術刊物和會議上發(fā)表論文150余篇，獲得美國授權專利4項。獲得WSDM 2014最佳論文提名獎、COLING 2018領域主席推薦獎、NLPCC 2019杰出論文獎、COLING 2022杰出論文獎。獲得上海市“晨光計劃”人才計劃、復旦大學“卓越2025”人才培育計劃等支持，獲得錢偉長中文信息處理科學技術一等獎、漢王青年創(chuàng)新一等獎、上海市科技進步二等獎、ACM上海新星提名獎、IBM Faculty Award等獎項。桂韜復旦大學自然語言處理實驗室副研究員、碩士生導師。研究領域為預訓練模型、信息抽取和魯棒模型。在高水平國際學術期刊和會議上發(fā)表論文40余篇，主持國家自然科學基金、計算機學會、人工智能學會的多個基金項目。獲得錢偉長中文信息處理科學技術一等獎、中國中文信息學會優(yōu)秀博士論文獎、COLING 2018最佳論文提名獎、NLPCC 2019杰出論文獎，入選第七屆中國科協(xié)青年人才托舉工程，入選上海市2023年度“科技創(chuàng)新行動計劃”啟明星項目，獲得2023年度世界人工智能大會云帆獎。鄭銳復旦大學計算機科學技術學院博士生，導師為張奇教授。研究興趣包括大模型對齊、魯棒性等。MOSS-RLHF開源項目負責人，文本魯棒性評測工具TextFlint的核心貢獻者，在ACL、EMNLP、COLING等國際會議上發(fā)表學術論文十余篇。黃萱菁復旦大學計算機科學技術學院教授、博士生導師。主要從事人工智能、自然語言處理和信息檢索研究。兼任中國中文信息學會理事，中國計算機學會自然語言處理專委會副主任，中國人工智能學會女科技工作者委員會副主任，計算語言學學會亞太分會副主席，亞太信息檢索學會指導委員會委員。承擔國家重點研發(fā)計劃課題、國家自然科學基金等多個項目，在國際重要學術刊物和會議上發(fā)表論文180余篇。獲得錢偉長中文信息處理科學技術一等獎、上海市育才獎、人工智能全球女性學者、福布斯中國科技女性等多項榮譽。

圖書目錄

第1章緒論 1
1.1 大語言模型的基本概念 1
1.2 大語言模型的發(fā)展歷程 4
1.3 大語言模型的構建流程 8
1.4 本書的內(nèi)容安排 11
第2章大語言模型基礎 13
2.1 Transformer結構 13
2.1.1 嵌入表示層 14
2.1.2 注意力層 16
2.1.3 前饋層 18
2.1.4 殘差連接與層歸一化 19
2.1.5 編碼器和解碼器結構 20
2.2 生成式預訓練語言模型GPT 25
2.2.1 無監(jiān)督預訓練 26
2.2.2 有監(jiān)督下游任務微調(diào) 27
2.2.3 基于HuggingFace的預訓練語言模型實踐 27
2.3 大語言模型的結構 33
2.3.1 LLaMA的模型結構 34
2.3.2 注意力機制優(yōu)化 40
2.4 實踐思考 47
第3章大語言模型預訓練數(shù)據(jù) 49
3.1 數(shù)據(jù)來源 49
3.1.1 通用數(shù)據(jù) 50
3.1.2 專業(yè)數(shù)據(jù) 51
3.2 數(shù)據(jù)處理 52
3.2.1 質(zhì)量過濾 52
3.2.2 冗余去除 53
3.2.3 隱私消除 55
3.2.4 詞元切分 55
3.3 數(shù)據(jù)影響分析 61
3.3.1 數(shù)據(jù)規(guī)模 61
3.3.2 數(shù)據(jù)質(zhì)量 64
3.3.3 數(shù)據(jù)多樣性 66
3.4 開源數(shù)據(jù)集 68
3.4.1 Pile 68
3.4.2 ROOTS 71
3.4.3 RefinedWeb 73
3.4.4 SlimPajama 75
3.5 實踐思考 79
第4章分布式訓練 80
4.1 分布式訓練概述 80
4.2 分布式訓練的并行策略 83
4.2.1 數(shù)據(jù)并行 84
4.2.2 模型并行 88
4.2.3 混合并行 96
4.2.4 計算設備內(nèi)存優(yōu)化 97
4.3 分布式訓練的集群架構 102
4.3.1 高性能計算集群的典型硬件組成 102
4.3.2 參數(shù)服務器架構 103
4.3.3 去中心化架構 104
4.4 DeepSpeed實踐 110
4.4.1 基礎概念 112
4.4.2 LLaMA分布式訓練實踐 115
4.5 實踐思考 127
第5章有監(jiān)督微調(diào) 128
5.1 提示學習和語境學習 128
5.1.1 提示學習 128
5.1.2 語境學習 130
5.2 高效模型微調(diào) 131
5.2.1 LoRA 131
5.2.2 LoRA的變體 135
5.3 模型上下文窗口擴展 137
5.3.1 具有外推能力的位置編碼 137
5.3.2 插值法 138
5.4 指令數(shù)據(jù)的構建 141
5.4.1 手動構建指令 141
5.4.2 自動構建指令 142
5.4.3 開源指令數(shù)據(jù)集 146
5.5 DeepSpeed-Chat SFT實踐 147
5.5.1 代碼結構 148
5.5.2 數(shù)據(jù)預處理 151
5.5.3 自定義模型 153
5.5.4 模型訓練 155
5.5.5 模型推理 156
5.6 實踐思考 157
第6章強化學習 158
6.1 基于人類反饋的強化學習 158
6.1.1 強化學習概述 159
6.1.2 強化學習與有監(jiān)督學習的區(qū)別 161
6.1.3 基于人類反饋的強化學習流程 162
6.2 獎勵模型 163
6.2.1 數(shù)據(jù)收集 164
6.2.2 模型訓練 166
6.2.3 開源數(shù)據(jù) 167
6.3 近端策略優(yōu)化 168
6.3.1 策略梯度 168
6.3.2 廣義優(yōu)勢估計 173
6.3.3 近端策略優(yōu)化算法 175
6.4 MOSS-RLHF實踐 180
6.4.1 獎勵模型訓練 180
6.4.2 PPO微調(diào) 181
6.5 實踐思考 191
第7章大語言模型應用 193
7.1 推理規(guī)劃 193
7.1.1 思維鏈提示 193
7.1.2 由少至多提示 196
7.2 綜合應用框架 197
7.2.1 LangChain框架核心模塊 198
7.2.2 知識庫問答系統(tǒng)實踐 216
7.3 智能代理 219
7.3.1 智能代理的組成 219
7.3.2 智能代理的應用實例 221
7.4 多模態(tài)大語言模型 228
7.4.1 模型架構 229
7.4.2 數(shù)據(jù)收集與訓練策略 232
7.4.3 多模態(tài)能力示例 236
7.5 大語言模型推理優(yōu)化 238
7.5.1 FastServe框架 241
7.5.2 vLLM推理框架實踐 242
7.6 實踐思考 244
第8章大語言模型評估 245
8.1 模型評估概述 245
8.2 大語言模型評估體系 247
8.2.1 知識與能力 247
8.2.2 倫理與安全 250
8.2.3 垂直領域評估 255
8.3 大語言模型評估方法 260
8.3.1 評估指標 260
8.3.2 評估方法 267
8.4 大語言模型評估實踐 274
8.4.1 基礎模型評估 274
8.4.2 SFT模型和RL模型評估 277
8.5 實踐思考 282
參考文獻 284
索引 303