數(shù)據(jù)科學(xué)的數(shù)學(xué)基礎(chǔ)

第1章　線性代數(shù)基礎(chǔ)\t1
1．1　行列式　1
1．1．1　行列式的概念　1
1．1．2　行列式的性質(zhì)　4
1．1．3　行列式的計(jì)算　5
1．1．4　克拉默法則　6
1．2　矩陣　9
1．2．1　矩陣的概念　9
1．2．2　矩陣的運(yùn)算　11
1．2．3　逆矩陣　17
1．2．4　矩陣分塊　20
1．2．5　矩陣的初等變換　23
1．2．6　矩陣的秩　28
1．3　線性方程組　29
1．3．1　高斯消元法　30
1．3．2　向量組的線性相關(guān)性　33
1．3．3　向量組的秩　37
1．3．4　向量空間　40
1．3．5　線性方程組解的結(jié)構(gòu)　42
1．4　相似矩陣與二次型　45
1．4．1　正交矩陣　45
1．4．2　矩陣的特征值與特征向量　48
1．4．3　相似矩陣　51
1．4．4　二次型　52
1．5　應(yīng)用實(shí)例　61
1．5．1　Python簡(jiǎn)介　61
1．5．2　背景與問(wèn)題　64
1．5．3　模型與求解　65
1．5．4　Python實(shí)現(xiàn)　67
習(xí)題1　71
第2章　線性空間與線性變換　72
2．1　線性空間　72
2．1．1　線性空間的概念　72
2．1．2　線性空間的基、維數(shù)及向量的坐標(biāo)　74
2．1．3　基變換與坐標(biāo)變換　78
2．2　線性子空間　80
2．2．1　子空間的概念　80
2．2．2　子空間的交、和與直和　82
2．3　線性變換　85
2．3．1　線性變換的概念及其性質(zhì)　86
2．3．2　線性變換的運(yùn)算　88
2．3．3　線性變換的矩陣　89
2．3．4　線性變換的對(duì)角化　91
2．3．5　線性變換的不變子空間　94
2．3．6　線性變換的若當(dāng)標(biāo)準(zhǔn)型　96
2．4　內(nèi)積空間　101
2．4．1　內(nèi)積空間的概念　102
2．4．2　向量的度量　103
2．4．3　標(biāo)準(zhǔn)正交基　104
2．4．4　子空間的正交補(bǔ)空間　107
2．5　應(yīng)用實(shí)例　108
2．5．1　背景與問(wèn)題　108
2．5．2　模型與求解　109
2．5．3　Python實(shí)現(xiàn)　110
習(xí)題2　111
第3章　向量與矩陣范數(shù)　112
3．1　向量范數(shù)　112
3．1．1　向量范數(shù)的概念　112
3．1．2　向量范數(shù)的連續(xù)性和等價(jià)性　114
3．1．3　向量序列的收斂性　115
3．2　矩陣范數(shù)　116
3．2．1　矩陣范數(shù)的概念　116
3．2．2　矩陣的誘導(dǎo)范數(shù)　117
3．2．3　矩陣序列的收斂性　120
3．3　矩陣的譜半徑　122
3．4　應(yīng)用實(shí)例　125
3．4．1　向量范數(shù)的計(jì)算　125
3．4．2　矩陣范數(shù)的計(jì)算　126
習(xí)題3　127
第4章　矩陣分解　128
4．1　矩陣的滿秩分解　128
4．2　矩陣的LU分解　129
4．3　矩陣的舒爾分解　138
4．4　正規(guī)矩陣及其譜分解　140
4．5　矩陣的奇異值分解　145
4．5．1　求矛盾線性方程組的最小二乘解　149
4．5．2　求矩陣的值空間和零空間　151
4．6　應(yīng)用實(shí)例　152
4．6．1　背景與問(wèn)題　152
4．6．2　模型與求解　152
4．6．3　Python實(shí)現(xiàn)　153
習(xí)題4　157
第5章　概率統(tǒng)計(jì)基礎(chǔ)　158
5．1　隨機(jī)事件和概率　158
5．1．1　隨機(jī)事件的概念　158
5．1．2　隨機(jī)事件的概率　160
5．1．3　條件概率　164
5．1．4　全概率公式和貝葉斯公式　165
5．1．5　事件的獨(dú)立性　166
5．2　隨機(jī)變量及其分布　168
5．2．1　隨機(jī)變量及其分布函數(shù)　168
5．2．2　離散型隨機(jī)變量及其分布律　169
5．2．3　連續(xù)型隨機(jī)變量及其概率密度　170
5．2．4　隨機(jī)變量的函數(shù)的分布　170
5．2．5　常用的隨機(jī)變量　171
5．3　多維隨機(jī)變量及其分布　173
5．3．1　n維隨機(jī)變量及其聯(lián)合分布　173
5．3．2　邊緣分布　175
5．3．3　條件分布　178
5．3．4　隨機(jī)變量的獨(dú)立性　179
5．3．5　n維隨機(jī)變量的函數(shù)的分布　180
5．4　隨機(jī)變量的數(shù)字特征　182
5．4．1　數(shù)學(xué)期望　182
5．4．2　方差　183
5．4．3　協(xié)方差與相關(guān)系數(shù)　184
5．4．4　矩和協(xié)方差矩陣　185
5．5　大數(shù)定律和中心極限定理　186
5．5．1　大數(shù)定律　186
5．5．2　中心極限定理　187
5．6　統(tǒng)計(jì)量與參數(shù)的點(diǎn)估計(jì)　188
5．6．1　統(tǒng)計(jì)量的概念　188
5．6．2　統(tǒng)計(jì)量的分布　190
5．6．3　參數(shù)的矩估計(jì)法　192
5．6．4　參數(shù)的最大似然估計(jì)法　193
5．6．5　估計(jì)量的評(píng)選標(biāo)準(zhǔn)　196
5．7　應(yīng)用實(shí)例　197
5．7．1　背景與問(wèn)題　197
5．7．2　模型與求解　197
5．7．3　Python實(shí)現(xiàn)　199
習(xí)題5　202
第6章　隨機(jī)過(guò)程　203
6．1　隨機(jī)過(guò)程的概念　203
6．1．1　隨機(jī)過(guò)程的定義　203
6．1．2　隨機(jī)過(guò)程的分類　204
6．2　隨機(jī)過(guò)程的統(tǒng)計(jì)描述　205
6．2．1　隨機(jī)過(guò)程的分布函數(shù)族　205
6．2．2　隨機(jī)過(guò)程的數(shù)字特征　207
*6．2．3　多維隨機(jī)過(guò)程的聯(lián)合
分布和數(shù)字特征　210
6．3　泊松過(guò)程和維納過(guò)程　212
6．3．1　獨(dú)立增量過(guò)程　212
6．3．2　泊松過(guò)程　213
6．3．3　維納過(guò)程　215
6．4　馬爾可夫過(guò)程　216
6．4．1　馬爾可夫過(guò)程的概念　216
6．4．2　多步轉(zhuǎn)移概率的確定　221
6．4．3　遍歷性與極限分布　224
6．5　應(yīng)用實(shí)例　227
6．5．1　背景與問(wèn)題　227
6．5．2　模型與求解　227
6．5．3　Python實(shí)現(xiàn)　228
習(xí)題6　229
第7章　最優(yōu)化基礎(chǔ)　230
7．1　多元函數(shù)分析　230
7．1．1　開集、閉集　230
7．1．2　梯度　231
7．1．3　方向?qū)?shù)　235
7．1．4　泰勒展開式　238
7．1．5　微積分中的最優(yōu)化方法　239
7．2　最優(yōu)化問(wèn)題的基本概念　242
7．2．1　最優(yōu)化問(wèn)題的數(shù)學(xué)模型　242
7．2．2　最優(yōu)化問(wèn)題的解　242
7．2．3　最優(yōu)化問(wèn)題的分類　243
7．3　最優(yōu)化問(wèn)題的下降算法　244
7．3．1　可行點(diǎn)列的產(chǎn)生　244
7．3．2　算法的迭代步驟　245
7．3．3　算法的終止準(zhǔn)則　245
7．3．4　算法的收斂性　245
7．4　凸集與凸函數(shù)　246
7．4．1　凸集　246
7．4．2　凸函數(shù)　249
7．5　凸規(guī)劃　253
7．6　應(yīng)用實(shí)例　255
7．6．1　背景與問(wèn)題　255
7．6．2　模型與求解　255
7．6．3　Python實(shí)現(xiàn)　256
習(xí)題7　257
第8章　線性規(guī)劃　258
8．1　線性規(guī)劃的基本概念和定理　258
8．1．1　線性規(guī)劃問(wèn)題的標(biāo)準(zhǔn)形式　258
8．1．2　線性規(guī)劃問(wèn)題的解　260
8．1．3　線性規(guī)劃的基本定理　262
8．2　線性規(guī)劃的單純形法　265
8．2．1　單純形法的基本思想　265
8．2．2　單純形表　273
8．2．3　大M法和兩階段法　277
8．3　線性規(guī)劃的對(duì)偶問(wèn)題與
對(duì)偶單純形法　281
8．3．1　對(duì)偶問(wèn)題的概念和關(guān)系　281
8．3．2　對(duì)偶理論　284
8．3．3　線性規(guī)劃的對(duì)偶單純形法　286
*8．4　靈敏度分析　289
8．4．1　價(jià)值系數(shù)的變化　289
8．4．2　資源限制系數(shù)的變化　291
8．5　應(yīng)用實(shí)例　292
8．5．1　背景與問(wèn)題　292
8．5．2　模型與求解　292
8．5．3　Python實(shí)現(xiàn)　293
習(xí)題8　294
第9章　常用無(wú)約束最優(yōu)化方法　296
9．1　一維搜索的最優(yōu)化方法　296
9．1．1　最優(yōu)步長(zhǎng)的確定　296
9．1．2　搜索區(qū)間的確定　297
9．1．3　黃金分割法　299
9．1．4　拋物線插值法　301
9．1．5　對(duì)分法　304
9．2　最速下降法　305
9．2．1　最速下降法的基本原理　305
9．2．2　最速下降法的迭代步驟　306
9．3　牛頓法　308
9．3．1　牛頓法的基本原理　308
9．3．2　牛頓法的迭代步驟　309
9．3．3　修正牛頓法　310
9．3．4　擬牛頓法　310
9．4　共軛梯度法　315
9．4．1　共軛方向法　315
9．4．2　共軛梯度法　317
9．5　最小二乘法　319
9．5．1　線性最小二乘問(wèn)題　319
9．5．2　非線性最小二乘問(wèn)題　320
9．6　應(yīng)用實(shí)例　322
9．6．1　背景與問(wèn)題　322
9．6．2　模型與求解　323
9．6．3　Python實(shí)現(xiàn)　324
習(xí)題9　326
第10章　常用約束最優(yōu)化方法　327
10．1　約束最優(yōu)化問(wèn)題的最優(yōu)性條件　327
10．1．1　等式約束最優(yōu)化問(wèn)題的
最優(yōu)性條件　328
10．1．2　一般約束最優(yōu)化問(wèn)題的
最優(yōu)性條件　328
10．2　罰函數(shù)法與乘子法　331
10．2．1　外點(diǎn)罰函數(shù)法　331
10．2．2　內(nèi)點(diǎn)罰函數(shù)法　334
10．2．3　乘子法　336
10．3　應(yīng)用實(shí)例　342
10．3．1　背景與問(wèn)題　342
10．3．2　模型與求解　342
10．3．3　Python實(shí)現(xiàn)　343
習(xí)題10　345
第11章　綜合案例　347
11．1　基于HMM的中文分詞　347
11．1．1　背景與問(wèn)題　347
11．1．2　模型與求解　347
11．1．3　Python實(shí)現(xiàn)　351
11．2　協(xié)同過(guò)濾　357
11．2．1　背景與問(wèn)題　357
11．2．2　模型與求解　357
11．2．3　Python實(shí)現(xiàn)　358
參考文獻(xiàn)　368