應(yīng)用隨機(jī)過(guò)程教程及在算法和智能計(jì)算中的隨機(jī)模型

前言
符號(hào)說(shuō)明
第1章 概率論精要回顧與補(bǔ)充
1 基本框架與典型分布
1.1 概率
1.2 隨機(jī)變量
1.3 d維隨機(jī)向量
1.4 獨(dú)立性
1.5 Chebyshev不等式
1.6 基本極限與基本極限定理（大數(shù)定律與中心極限定理）
1.7 典型分布
1.8 次序隨機(jī)變量的分布
2 條件概率. 條件分布. 條件（數(shù)學(xué)）期望
2.1 條件概率
2.2 條件分布
2.3 條件（數(shù)學(xué)）期望
2.4 期望與方差的Wald等式
3 統(tǒng)計(jì)簡(jiǎn)要
3.1 用樣本作矩估計(jì)
3.2 最大似然估計(jì)
3.3 線性模型的最小二乘估計(jì)及其推廣
習(xí)題1
第2章 隨機(jī)樣本生成法
1 一維隨機(jī)數(shù)
1.1 均勻隨機(jī)變量的計(jì)算機(jī)模擬
1.2 分布函數(shù)F（x）的隨機(jī)數(shù)
1.3 正態(tài)隨機(jī)數(shù)
1.4 Poisson隨機(jī)數(shù)
1.5 混合分布隨機(jī)數(shù)
1.6 Von Neuman取舍原則
1.7 Gamma隨機(jī)數(shù)與Beta隨機(jī)數(shù)的生成
2 多維隨機(jī)數(shù)
2.1 連續(xù)型多維隨機(jī)數(shù)
2.2 離散型多維隨機(jī)數(shù)
2.3 多維正態(tài)隨機(jī)數(shù)
2.4 多維Beta隨機(jī)數(shù) Dirichlet隨機(jī)數(shù) 的生成
3 附錄--用Matlab生成隨機(jī)數(shù)
3.1 Matlab語(yǔ)言的簡(jiǎn)單提示
3.2 Matlab生成隨機(jī)數(shù)的語(yǔ)句
習(xí)題2
第3章 隨機(jī)過(guò)程的一般概念與獨(dú)立增量過(guò)程
1 一般概念
1.1 隨機(jī)過(guò)程與有限分布族
1.2 獨(dú)立增量過(guò)程
2 Poisson過(guò)程與復(fù)合Poisson過(guò)程
2.1 事故申報(bào)次數(shù)的概率模型與Poisson過(guò)程
2.2 Poisson過(guò)程與指數(shù)流的關(guān)系
2.3 與指數(shù)流有關(guān)的一些隨機(jī)變量與分布
2.4 常見的推廣
2.5 復(fù)合Poisson過(guò)程
3 Brown運(yùn)動(dòng) Wiener過(guò)程 及其函數(shù)
3.1 歷史背景與物理模型
3.2 Brown運(yùn)動(dòng)（數(shù)學(xué)模型）
3.3 Brown運(yùn)動(dòng)的簡(jiǎn)單性質(zhì)
3.4 Brown運(yùn)動(dòng)的反射原理及首達(dá)性質(zhì)
3.5 與Brown運(yùn)動(dòng)有關(guān)的幾個(gè)簡(jiǎn)單隨機(jī)過(guò)程
3.6 漂移Brown運(yùn)動(dòng)
3.7 幾何Brown運(yùn)動(dòng)
4 簡(jiǎn)單隨機(jī)徘徊
4.1 雙側(cè)吸收壁的吸收概率
4.2 隨機(jī)徘徊的對(duì)稱原理
4.3 隨機(jī)徘徊的首達(dá)時(shí)刻
4.4 簡(jiǎn)單隨機(jī)徘徊與首達(dá)時(shí)
習(xí)題3
第4章 更新現(xiàn)象及其理論
1 Stieltjes積分簡(jiǎn)述
2 更新過(guò)程的概念
2.1 作為Poisson過(guò)程推廣的更新過(guò)程
2.2 更新函數(shù)的更新方程
2.3 年齡與剩余壽命
3 更新定理與更新次數(shù)的正態(tài)近似
3.1 更新定理
3.2 更新過(guò)程的正態(tài)近似
3.3 Blackwell定理與主更新定理
3.4 更新間隔為正整值隨機(jī)變量的更新過(guò)程
4 更新過(guò)程的變種模型
4.1 交錯(cuò)更新過(guò)程
4.2 延遲更新過(guò)程
4.3 帶酬更新過(guò)程
5 再生過(guò)程與其相系的更新過(guò)程
5.1 再生過(guò)程的概念
5.2 與再生過(guò)程相系的更新過(guò)程
5.3 比例極限定理在再生過(guò)程中的應(yīng)用
5.4 存儲(chǔ)模型的一個(gè)例子
6 Erlang更新過(guò)程
6.1 Erlang更新過(guò)程的定義
6.2 Erlang更新過(guò)程的矩母函數(shù)
習(xí)題4
第5章 離散狀態(tài)Markov鏈
1 Markov鏈的概念
1.1 定義與Markov性質(zhì)
1.2 概率轉(zhuǎn)移矩陣
1.3 時(shí)齊的Markov鏈
1.4 Markov鏈的例
2 Markov鏈的狀態(tài)分類
2.1 首達(dá)分解. n步轉(zhuǎn)移概率的遞推式. 矩母函數(shù). 常返性
2.2 常返性再訪與Markov鏈的基本結(jié)構(gòu)
2.3 平均回訪時(shí)間與正常返性
3 Markov鏈的轉(zhuǎn)移概率的極限與不變分布
3.1 不變分布與平穩(wěn)Markov鏈
3.2 有限狀態(tài)Markov鏈的不變分布與極限分布
3.3 轉(zhuǎn)移矩陣的平均極限
4 Dobrushin不等式與指數(shù)收斂性
4.1 Dobrushin不等式
4.2 Dobrushin收斂定理
5 與常返態(tài)相系的延遲更新流, 互通常返Markov鏈的極限定理
5.1 與常返態(tài)相系的延遲更新流
5.2 互通常返鏈的極限定理
6 停時(shí)與強(qiáng)Markov性
6.1 停時(shí)
6.2 強(qiáng)Markov性
7 禁忌概率與首達(dá)分布
7.1 禁忌概率
7.2 首達(dá)時(shí)與首達(dá)分布
7.3 禁忌概率, 首達(dá)分布與平均首達(dá)時(shí)間
8 可逆Markov鏈與可逆分布
8.1 可逆Markov鏈
8.2 例
8.3 可逆初分布存在性判別法
9 分支Markov鏈（Galton-Watson簡(jiǎn)單分支過(guò)程）
習(xí)題5
第6章 連續(xù)時(shí)間的Markov鏈
1 連續(xù)時(shí)間的Markov鏈及其轉(zhuǎn)移矩陣
1.1 連續(xù)時(shí)間的Markov鏈的定義及等介性敘述
1.2 連續(xù)時(shí)間的Markov鏈概率轉(zhuǎn)移矩陣
1.3 連續(xù)時(shí)間的時(shí)齊的Markov鏈
2 Poisson過(guò)程與復(fù)合Poisson過(guò)程再訪
3 由轉(zhuǎn)移速率矩陣確定連續(xù)時(shí)間的Markov鏈
3.1 Kolmogorov方程及Master方程
3.2 轉(zhuǎn)移速率矩陣的概率含義
4 連續(xù)時(shí)間的Markov鏈的極限分布
4.1 連續(xù)時(shí)間的Markov鏈的轉(zhuǎn)移矩陣的平均極限
4.2 連續(xù)時(shí)間的Markov鏈的極限分布
5 連續(xù)時(shí)間的Markov鏈的轉(zhuǎn)移矩陣P（t）的不變分布
5.1 連續(xù)時(shí)間的Markov鏈的轉(zhuǎn)移矩陣P t 的不變分布與其嵌入鏈的不變分布
5.2 連續(xù)時(shí)間的Markov鏈的遍歷極限
5.3 對(duì)稱的與可逆的連續(xù)時(shí)間的Markov鏈
6 例
6.1 連續(xù)時(shí)間分支過(guò)程
6.2 有限格點(diǎn)上的Ising醛民Gauber動(dòng)力學(xué)
6.3 生滅類過(guò)程
6.4 系統(tǒng)與有效度
7 連續(xù)時(shí)間的Markov鏈的模擬與加速收斂
7.1 連續(xù)時(shí)間的Markov鏈的模擬
7.2 加速收斂的均勻化方法
習(xí)題6
第7章 排隊(duì)過(guò)程簡(jiǎn)介
1 排隊(duì)過(guò)程的描述
1.1 排隊(duì)系統(tǒng)
1.2 排隊(duì)系統(tǒng)的一般框圖, 輸入過(guò)程與輸出過(guò)程
1.3 可逆性引理
2 最簡(jiǎn)單排隊(duì)過(guò)程--Markov排隊(duì)過(guò)程
2.1 最簡(jiǎn)單蝗排隊(duì)過(guò)程--M/M/1系統(tǒng)
2.2 N個(gè)服務(wù)員的簡(jiǎn)單排隊(duì)過(guò)程--M/M/N系統(tǒng)
2.3 序貫排隊(duì)與排隊(duì)網(wǎng)絡(luò)系統(tǒng)
2.4 M/M排隊(duì)系統(tǒng)
3 排隊(duì)系統(tǒng)的一般概念
3.1 關(guān)于排隊(duì)論的一般注記
3.2 M/M/N消失制
3.3 M/G/1排隊(duì)系統(tǒng)
3.4 G/M/1排隊(duì)系統(tǒng)
3.5 關(guān)于M/G系統(tǒng)的注記
4 半Markov過(guò)程
4.1 半Markov過(guò)程的定義
4.2 半Markov過(guò)程的漸近性質(zhì)
5 有限位相型分布（PH-分布）
5.1 背景
5.2 有限位相型分布（PH-分布）
5.3 離散PH-分布
5.4 PH-分布類的封閉性
習(xí)題7
第8章 Markov鏈Monte Carlo方法
1 計(jì)算積分的Monte Carlo方法與采樣量估計(jì)
1.1 用頻率估計(jì)概率來(lái)計(jì)算積分的Monte Carlo方法
1.2 用樣本函數(shù)的平均值估計(jì)的期望來(lái)計(jì)算積分的Monte Carlo方法--期望法
1.3 減少方差的技術(shù)
2 Markov鏈Monte Carlo
2.1 Gibbs采樣法
2.2 Metropolis采樣法
2.3 通過(guò)條件分布對(duì)分布作隨機(jī)采樣的Gibbs方法
2.4 MCMC應(yīng)用于Bayes參數(shù)估計(jì)
3 模擬退火
3.1 模擬退火方法的基本想法
3.2 有關(guān)模擬退火算法的非時(shí)齊馬氏鏈的理論背景
習(xí)題8
第9章 以圖像信息為背景的隨機(jī)場(chǎng) 迭代Markov系統(tǒng)
1 有限格點(diǎn)上的Markov隨機(jī)場(chǎng)與圖像
1.1 有限格點(diǎn)上的Markov隨機(jī)場(chǎng)
1.2 相鄰系統(tǒng)的Gibbs分布與Gibbs隨機(jī)場(chǎng)
1.3 圖像處理的隨機(jī)過(guò)程方法的思路原則概述
1.4 Gibbs分布的樣本的Gibbs采樣法
1.5 Gibbs分布的模擬退火
2 時(shí)間離散狀態(tài)連續(xù)的Markov鏈
2.1 概率空間再訪
2.2 時(shí)間離散狀態(tài)連續(xù)的Markov鏈
2.3 概率轉(zhuǎn)移核
2.4 時(shí)齊的連續(xù)狀態(tài)Markov鏈
2.5 例
2.6 建筑上可微函數(shù)的最小值位置的模擬退火算法
2.7 Dobrushin不等式. 指數(shù)遍歷性與收斂性
3 隨機(jī)的迭代函數(shù)系統(tǒng)
3.1 局部相似性的基本想法
3.2 輪廓圖全體組成的距離空間
3.3 灰度圖與隨機(jī)迭代函數(shù)系統(tǒng)
4 統(tǒng)計(jì)中的Bayes方法與圖像的處理. 分割與重建
4.1 Bayes統(tǒng)計(jì)要義
4.2Bayes方法在圖像中的應(yīng)用與觀測(cè)量不是狀態(tài)變量時(shí)的參數(shù)估計(jì)
習(xí)題9
第10章 隱Markov模型及其應(yīng)用
1 熵與相對(duì)熵
1.1 離散分布的熵與相對(duì)熵
1.2 分布密度的熵與相對(duì)熵
2 隱Markov模型
2.1 一個(gè)實(shí)例
2.2 隱Markov模型的描述
2.3 隱Markov模型的等價(jià)表述
2.4 非線性濾波作為隱Markov模型的特例
2.5 在應(yīng)用中研究隱Markov模型的主要方面
3 解碼問(wèn)題--已知模型與觀測(cè)時(shí)狀態(tài)的估計(jì)
3.1 出現(xiàn)當(dāng)前的觀測(cè)的概率的計(jì)算
3.2 解碼問(wèn)題--已知模型與觀測(cè)時(shí)狀態(tài)的估計(jì)
4 學(xué)習(xí)問(wèn)題--由觀測(cè)估計(jì)模型參數(shù)
4.1 狀態(tài)鏈樣本已知時(shí)的參數(shù)頻率估計(jì)
4.2 模型參數(shù)估計(jì)的EM算法的思想
4.3 隱Markov模型中M步驟的求解
5 關(guān)于隱Markov模型的評(píng)注
5.1 隱Markov模型包容度大有非常寬的應(yīng)用面
5.2 隱Markov模型的更為一般的形式
6 隱Markov模型的應(yīng)用例子梗概
6.1 語(yǔ)音的機(jī)器識(shí)別
6.2 脫機(jī)手寫體漢字識(shí)別
6.3 DNA序列片斷裝配及啟動(dòng)子識(shí)別
習(xí)題10
第11章 Gauss系 二階矩過(guò)程與時(shí)間序列
1 全體方差有限的隨機(jī)變量構(gòu)成的Hilbert空間
1.1 實(shí)值情形
1.2 復(fù)值情形
2 隨機(jī)變量族的均方信息空間與濾波
2.1 均方信息空間
2.2 濾波問(wèn)題
3 Gauss系與投影再訪
3.1 過(guò)程的定義. 等價(jià)條件及其性質(zhì)
3.2 Gauss過(guò)程的投影--線性濾波
3.3 復(fù)Gauss過(guò)程
3.4 Gauss過(guò)程的特征泛函
4 平穩(wěn)性與寬平穩(wěn)性
4.1 平穩(wěn)序列與寬平穩(wěn)序列
4.2 漸近平穩(wěn)序列與漸近寬平穩(wěn)序列
4.3 平穩(wěn)增量序列
5 ARMA模型
5.1 ARMA
5.2 AR模型的定階與偏相關(guān)系數(shù)以及模型參數(shù)的估計(jì)
5.3 MA模型的定階與參數(shù)估計(jì)
5.4 ARMA模型的定階與參數(shù)估計(jì)
5.5 ARMA模型的預(yù)報(bào)問(wèn)題
6 ARCH模型
6.1 ARCH（q）
6.2 ARCH（q）的定階與參數(shù)估計(jì)
6.3 ARCH（q）模型的方差預(yù)報(bào)
7 GARCH（p,q）模型與其他隨機(jī)方差模型
7.1 GARCH模型
7.2 金融證券模型中的GARCH（1,1）
7.3 GARCH（p,q）的參數(shù)估計(jì)
7.4 SV模型（隨機(jī)條件異方差模型）
8 二階矩序列濾波的再訪
8.1 線性濾波再訪
8.2 Kalman-Bucy濾波
9 二階自相似時(shí)間序列與長(zhǎng)程相關(guān)性
9.1 統(tǒng)計(jì)自相似性
9.2 二階自相似性
9.3 長(zhǎng)程相關(guān)性
10 非線性AR模型與二重ARMA模型
10.1 非線性AR模型
10.2 非線性AR模型的常見例子
10.3 二重ARMA模型
習(xí)題11
第12章 連續(xù)時(shí)間連續(xù)狀態(tài)的Markov過(guò)程. 鞅. Ito積分與隨機(jī)微分方程
1 連續(xù)時(shí)間連續(xù)狀態(tài)的Markov過(guò)程
1.1 平穩(wěn)Gauss過(guò)程
1.2 時(shí)間與狀態(tài)都連續(xù)的時(shí)齊Markov過(guò)程
2 鞅列與鞅
2.1 條件期望再訪
2.2 鞅列
2.3 連續(xù)時(shí)間參數(shù)的鞅
3 Ito積分--對(duì)Brown運(yùn)動(dòng)的積分
3.1 對(duì)Brown運(yùn)動(dòng)的積分與其特殊性
3.2 Ito公式
4 隨機(jī)微分方程與擴(kuò)散過(guò)程簡(jiǎn)介
4.1 隨機(jī)微分方程
4.2 擴(kuò)散過(guò)程
4.3 Girsanov定理與Feyman-Fac公式
5 隨機(jī)微分方程的解的數(shù)值模擬算法
5.1 隨機(jī)微分方程在固定時(shí)刻附近的隨機(jī)Taylor展開與解的差分近似
5.2 Ito過(guò)程的一個(gè)光骨函數(shù)f復(fù)合在時(shí)刻t附近的隨機(jī)Taylor展開
5.3 差分近似模型的改進(jìn)
習(xí)題12
第13章 金融證券未定權(quán)益的定價(jià)
1 Black-Scholes模型的歐式未定權(quán)益的定價(jià)
1.1 術(shù)語(yǔ)與基本假定
1.2 定價(jià)的套期方法
1.3 風(fēng)險(xiǎn)中性概率方法
1.4 幣值單位與隨機(jī)折現(xiàn)因子方法
1.5 倒向隨機(jī)微分方程方法
1.6 時(shí)變的Black-Scholes模型
2 二叉模型與Black-Scholes模型的二叉近似
2.1 二叉模型
2.2 Black-Scholes模型的二叉近似
3 二叉模型的美式未定權(quán)益簡(jiǎn)述
3.1 美式未定權(quán)益
3.2 二叉模型美式未定權(quán)益的定價(jià)與定價(jià)函數(shù)組
4 隨機(jī)利率與債券利率的期限結(jié)構(gòu)
4.1 s-零息債券
4.2 零息債券導(dǎo)出的各種隨機(jī)利率概念
4.3 資產(chǎn)定價(jià)基本定理與利率衍生證券
4.4 利率的風(fēng)險(xiǎn)中性模型
5 基于證券的隨機(jī)利率的債券為幣值單位折現(xiàn)的證券及其未定權(quán)益的定價(jià)
習(xí)題13
第14章 隨機(jī)過(guò)程在精算與風(fēng)險(xiǎn)模型中的應(yīng)用
1 基本概念
1.1 保險(xiǎn)中的利率概念
1.2 生存模型的壽命分布與精算模型中的余壽
2 風(fēng)險(xiǎn)模型與破產(chǎn)理論介紹
2.1 盈余過(guò)程與永不破產(chǎn)的概率
2.2 時(shí)刻t前不破產(chǎn)的概率的公式與估計(jì)
2.3 有準(zhǔn)備金時(shí)最終破產(chǎn)概率的上界與調(diào)節(jié)系數(shù)
2.4 破產(chǎn)概率的方程
2.5 保險(xiǎn)費(fèi)的效用函數(shù)與保險(xiǎn)費(fèi)策略的制定
2.6 最大損失的分布
3 考慮利率與投資的保險(xiǎn)模型簡(jiǎn)述
習(xí)題14
第15章 與數(shù)據(jù)建模有關(guān)的幾個(gè)算法
1 EM算法--具有陷狀態(tài)變量的分布中參數(shù)的最大似然估計(jì)
1.1 EM算法的基本想法
1.2 Rubin算法
1.3 EM算法的變通--廣義EM算法
2 在數(shù)據(jù)不完全時(shí), 用增補(bǔ)潛在數(shù)據(jù)后對(duì)參數(shù)的Bayes分布作估計(jì)--Tanner-Wong的潛變量法
2.1 基本想法--做法后驗(yàn)分布
2.2 未知參數(shù)的后驗(yàn)分布的迭代估計(jì)
3 幾種智能算法
3.1 背景
3.2 決定性的人工神經(jīng)網(wǎng)絡(luò)
3.3 隨機(jī)的人工神經(jīng)風(fēng)格
3.4 演化算法, 遺傳算法
4 聚類, Kohonen自組織學(xué)習(xí), 自適應(yīng)算法
4.1 k-平均聚類
4.2 自適應(yīng)聚類的基本思路
4.3 固定規(guī)模的Kohonen網(wǎng)絡(luò)
4.4 網(wǎng)絡(luò)的規(guī)模的競(jìng)爭(zhēng)學(xué)習(xí)
5 適應(yīng)最小二乘法--一種適應(yīng)的變步長(zhǎng)的隨機(jī)逼近
第16章 離散狀態(tài)的Markov控制與決策過(guò)程簡(jiǎn)介
1 例
1.1 隨機(jī)決策模型的簡(jiǎn)單例子
1.2 簡(jiǎn)單模型的啟示
2 動(dòng)作只依賴當(dāng)前所處狀態(tài)的簡(jiǎn)單決策模型
2.1 簡(jiǎn)單模型的一般描述
2.2 有限時(shí)段總報(bào)酬準(zhǔn)則下的最佳Markov策略的構(gòu)造
2.3 無(wú)窮時(shí)段下的總報(bào)酬情形
第17章 Poisson隨機(jī)分析簡(jiǎn)介與典型的點(diǎn)過(guò)程
1 非時(shí)齊的Poisson過(guò)程. 非時(shí)齊的復(fù)合Poisson過(guò)程及其特征泛函
1.1 數(shù)值函數(shù)對(duì)Poisson過(guò)程的積分
1.2 Poisson過(guò)程的特征泛函
1.3 非時(shí)齊Poisson過(guò)程的統(tǒng)計(jì)性質(zhì)
1.4 數(shù)值函數(shù)對(duì)非時(shí)齊Poisson過(guò)程的積分及非時(shí)齊的Poisson過(guò)程的特征泛函
1.5 非時(shí)齊的復(fù)合Poisson過(guò)程及其特征泛函
2 與非時(shí)齊的復(fù)合Poisson過(guò)程相系的Poisson點(diǎn)過(guò)程
2.1 將非時(shí)齊復(fù)合Poisson過(guò)程表示為非時(shí)齊Poisson過(guò)程的積分（用時(shí)間積分表示）
2.2 將非時(shí)齊復(fù)合Poisson過(guò)程表示為Poisson點(diǎn)過(guò)程的積分（用空間積分表示）
2.3 將非時(shí)齊復(fù)合Poisson過(guò)程表示為時(shí)空Poisson過(guò)程的積分（用時(shí)空積分表示）
3 過(guò)濾的Poisson過(guò)程
4 Poisson隨機(jī)微積分簡(jiǎn)介
4.1 關(guān)于時(shí)空Poisson點(diǎn)過(guò)程的隨機(jī)積分
4.2 以Poisson過(guò)程或以時(shí)空Poisson點(diǎn)過(guò)程驅(qū)動(dòng)的隨機(jī)微分方程與Poisson隨機(jī)微積分的復(fù)合函數(shù)的Ito
4.3 由Brown運(yùn)動(dòng)和時(shí)空Poisson過(guò)程聯(lián)合驅(qū)動(dòng)的隨機(jī)微分方程
5 自激點(diǎn)過(guò)程
5.1 自激點(diǎn)過(guò)程的強(qiáng)度過(guò)程與條件計(jì)數(shù)強(qiáng)度
5.2 自激點(diǎn)過(guò)程的絕對(duì)概率
5.3 自激點(diǎn)過(guò)程的事件到達(dá)時(shí)刻的聯(lián)合分布
5.4 具有限記憶的自激點(diǎn)過(guò)程
5.5 對(duì)于自激點(diǎn)過(guò)程的隨機(jī)積分
5.6 二重Poisson過(guò)程
習(xí)題17
參考文獻(xiàn)
索引