逆問題求解的貝葉斯方法

目錄 引言15第一部分 基礎(chǔ)問題與工具23第一章 逆問題與病態(tài)問題25 1．1 引言25 1．2 基本實(shí)例26 1．3 病態(tài)問題30 1．3．1 離散數(shù)據(jù)31 1．3．2 連續(xù)數(shù)據(jù)32 1．4 廣義求逆34 1．4．1 偽解35 1．4．2 廣義解35 1．4．3 實(shí)例35 1．5 離散化與條件化36 1．6 小結(jié)38 1．7 參考文獻(xiàn)39第二章 病態(tài)問題的正則化方法41 2．1 正則化41 2．1．1 維數(shù)控制42 2．1．1．1 截?cái)嗥娈愔捣纸?2 2．1．1．2 離散化變形43 2．1．1．3 迭代方法43 2．1．2復(fù)合準(zhǔn)則的最小化44 2．1．2．1 歐式距離45 2．1．2．2 粗糙程度46 2．1．2．3 非二次懲罰47 2．1．2．4 庫爾貝克偽距47 2．2 準(zhǔn)則下降法48 2．2．1 逆問題中的最小化準(zhǔn)則48 2．2．2 二次情形49 2．2．2．1 非迭代技術(shù)49 2．2．2．2 迭代技術(shù)50 2．2．3 凸情形51 2．2．4 一般情形52 2．3 正則化系數(shù)選擇53 2．3．1 殘余誤差能量控制53 2．3．2 “L曲線”法53 2．3．3 交叉驗(yàn)證法54 2．4 參考文獻(xiàn)56第三章 概率框架下的逆問題59 3．1 逆問題與推理59 3．2 統(tǒng)計(jì)推理60 3．2．1 噪聲規(guī)律與數(shù)據(jù)的直接分布61 3．2．2 最大似然估計(jì)63 3．3 逆問題的貝葉斯方法64 3．4 與確定性方法的聯(lián)系66 3．5 超參數(shù)的選擇67 3．6 先驗(yàn)?zāi)Ｐ?8 3．7 準(zhǔn)則選取70 3．8 線性高斯情形71 3．8．1 解的統(tǒng)計(jì)特性71 3．8．2 邊緣似然函數(shù)計(jì)算73 3．8．3 維納濾波74 3．9 參考文獻(xiàn)76第二部分 解卷積79第四章 逆濾波及其線性方法81 4．1 引言81 4．2 連續(xù)時(shí)間解卷積82 4．2．1 逆濾波82 4．2．2 維納濾波84 4．3 問題離散化85 4．3．1 求積法選擇85 4．3．2 觀測(cè)矩陣結(jié)構(gòu)87 4．3．3 常規(guī)邊界條件89 4．3．4 問題條件89 4．3．4．1 輪換矩陣情形90 4．3．4．2 拓普利茲矩陣情形90 4．3．4．3 分辨率與條件的矛盾91 4．3．5 廣義求逆91 4．4 批量解卷積92 4．4．1 初步選擇92 4．4．2 估計(jì)的矩陣形式93 4．4．3 亨特方法(周期邊界假設(shè))94 4．4．4 平穩(wěn)情況下的精確求逆方法96 4．4．5 非平穩(wěn)信號(hào)情形98 4．4．6 實(shí)例結(jié)果與討論98 4．4．6．1 一維解卷積中的偏差與方差折衷98 4．4．6．2 二維處理結(jié)果100 4．5 遞歸解卷積102 4．5．1 卡爾曼濾波102 4．5．2 退化狀態(tài)模型與遞歸最小二乘104 4．5．3 自回歸狀態(tài)模型105 4．5．3．1 初始化106 4．5．3．2 卡爾曼平滑器最小化準(zhǔn)則107 4．5．3．3 實(shí)例結(jié)果108 4．5．4 快速卡爾曼濾波108 4．5．5 平穩(wěn)條件下的漸進(jìn)技術(shù)110 4．5．5．1 漸進(jìn)卡爾曼濾波110 4．5．5．2 小核維納濾波器111 4．5．6 ARMA模型與非標(biāo)準(zhǔn)卡爾曼濾波111 4．5．7 非平穩(wěn)信號(hào)情形111 4．5．8 在線處理：二維情形112 4．6 小結(jié)112 4．7 參考文獻(xiàn)113第五章 脈沖序列解卷積117 5．1 引言117 5．2 反射率懲戒與L2LPL2Hy解卷積119 5．2．1 二次項(xiàng)正則化121 5．2．2 非二次項(xiàng)正則化122 5．2．3 L2LP或L2Hy解卷積123 5．3 伯努利-高斯解卷積124 5．3．1 復(fù)合BG模型124 5．3．2 各種估計(jì)策略124 5．3．3 邊緣似然函數(shù)的一般化表示125 5．3．4 BG解卷積迭代方法126 5．3．5 其他方法128 5．4 處理與討論實(shí)例130 5．4．1 解的性質(zhì)130 5．4．2 參數(shù)設(shè)置132 5．4．3 數(shù)值復(fù)雜度133 5．5 延伸133 5．5．1 R與H結(jié)構(gòu)推廣134 5．5．2 沖擊響應(yīng)估計(jì)134 5．6 小結(jié)136 5．7 參考文獻(xiàn)137第六章 圖像解卷積141 6．1 引言141 6．2吉洪諾夫正則化142 6．2．1 原理142 6．2．1．1 一元信號(hào)情形142 6．2．1．2 多元延拓143 6．2．1．1 離散框架144 6．2．2 線性PDE與圖像處理的關(guān)聯(lián)144 6．2．3 吉洪諾夫正則化方法的局限145 6．3 檢測(cè)估計(jì)148 6．3．1 原理148 6．3．2 缺陷149 6．4 非二次方法150 6．4．1 檢測(cè)估計(jì)與非凸懲戒154 6．4．2 PDE各向異性擴(kuò)散155 6．5 半二次增廣準(zhǔn)則156 6．5．1 非二次準(zhǔn)則與HQ準(zhǔn)則的對(duì)偶性 157 6．5．2 HQ準(zhǔn)則的最小化 158 6．5．2．1 松弛原理158 6．5．2．2 凸函數(shù)φ情形159 6．5．2．3 非凸函數(shù)φ情形159 6．6 圖像解卷積應(yīng)用159 6．6．1 解的計(jì)算159 6．6．2 實(shí)例161 6．7 小結(jié)164 6．8 參考文獻(xiàn)165第三部分 高級(jí)問題與工具169第七章 吉布斯-馬爾科夫圖模型171 7．1 引言171 7．2 貝葉斯統(tǒng)計(jì)框架172 7．3 吉布斯-馬爾科夫場(chǎng)173 7．3．1 吉布斯場(chǎng)174 7．3．1．1 定義174 7．3．1．2 一般實(shí)例175 7．3．1．3 成對(duì)相互作用與不適合準(zhǔn)側(cè)176 7．3．1．4 馬爾科夫鏈176 7．3．1．5 最小群與勢(shì)體非唯一性177 7．3．2 吉布斯-馬爾科夫等價(jià)177 7．3．2．1 領(lǐng)域關(guān)系177 7．3．2．2 馬爾科夫場(chǎng)定義178 7．3．2．3 吉布斯場(chǎng)就是馬爾科夫場(chǎng)179 7．3．2．3 哈默斯利-克利福定理179 7．3．3 GMRF的后驗(yàn)規(guī)律180 7．3．4 圖像吉布斯-馬爾科夫模型181 7．3．4．1 用于分類的具有離散值和標(biāo)號(hào)字段的像素181 7．3．4．2 高斯GMRF182 7．3．4．3 邊緣變量與復(fù)合GMRF183 7．3．4．4 交互邊緣變量184 7．3．4．5 非高斯GMRF185 7．4 統(tǒng)計(jì)工具與隨機(jī)采樣185 7．4．1 統(tǒng)計(jì)工具185 7．4．2 隨機(jī)采樣188 7．4．2．1 迭代采樣方法189 7．4．2．2 MCMC類的蒙特卡洛方法192 7．4．2．3 模擬退火法193 7．5 小結(jié)194 7．6 參考文獻(xiàn)195第八章 無監(jiān)督問題197 8．1 引言與問題描述197 8．2 直接觀測(cè)場(chǎng)199 8．2．1 似然函數(shù)性質(zhì)199 8．2．2 最優(yōu)化200 8．2．2．1 梯度下降200 8．2．2．2 重要性采樣200 8．2．3 近似方法202 8．2．3．1 編碼方法202 8．2．3．2 偽似然函數(shù)203 8．2．3．3 平均場(chǎng)204 8．3 間接觀測(cè)場(chǎng)205 8．3．1 問題描述205 8．3．2 EM算法206 8．3．3 GMRF參數(shù)估計(jì)的應(yīng)用207 8．3．4 EM算法與梯度208 8．3．5 線性GMRF的超參數(shù)210 8．3．6 拓展與近似212 8．3．6．1 廣義最大似然212 8．3．6．2 全貝葉斯方法213 8．4 小結(jié)215 8．5 參考文獻(xiàn)216第四部分 一些應(yīng)用219第九章 解卷積法在超聲無損評(píng)價(jià)中的應(yīng)用221 9．1 引言221 9．2 評(píng)價(jià)實(shí)例與解析困難 222 9．2．1 待查部分的描述222 9．2．2 評(píng)價(jià)準(zhǔn)則222 9．2．3 評(píng)價(jià)結(jié)果與解析223 9．2．4 基于恢復(fù)間斷的解析224 9．3 直接卷積模型定義225 9．4 盲解卷積226 9．4．1 盲解卷積方法概述226 9．4．1．1 預(yù)判解卷積226 9．4．1．2 最小熵解卷積228 9．4．1．3 多脈沖解卷積技術(shù)228 9．4．1．4 順序估計(jì)：先后估計(jì)核與輸入228 9．4．1．5 核與輸入聯(lián)合估計(jì)229 9．4．2 DL2HyDBG解卷積230 9．4．2．1 改進(jìn)直接模型230 9．4．2．2 雙反射率的先驗(yàn)信息230 9．4．2．3 雙伯努利-高斯（DBG）解卷積230 9．4．2．4 雙曲（DL2Hy）解卷積231 9．4．2．5 DL2HyDBG解卷積方法的行為231 9．4．3 盲DL2HyDBG解卷積232 9．5 實(shí)測(cè)數(shù)據(jù)處理232 9．5．1 盲解卷積處理233 9．5．2 測(cè)量波形解卷積234 9．5．3 DL2Hy與DBG比較237 9．5．4 總結(jié)240 9．6 小結(jié)240 9．7 參考文獻(xiàn)241第十章 大氣湍流光學(xué)成像反演243 10．1 湍流光學(xué)成像243 10．1．1 引言243 10．1．2 成像244 10．1．2．1 衍射244 10．1．2．2 光學(xué)干涉原理245 10．1．3 湍流對(duì)成像的影響246 10．1．3．1 湍流與相位246 10．1．3．2 長(zhǎng)曝光成像247 10．1．3．3 短曝光成像247 10．1．3．4 長(zhǎng)基線干涉儀的例子248 10．1．4 成像技術(shù)249 10．1．4．1 散斑技術(shù)249 10．1．4．2 波前感知解卷積250 10．1．4．3 自適應(yīng)光學(xué)251 10．1．4．4 光學(xué)干涉度量法251 10．2 采用的求逆方法與正則化準(zhǔn)則253 10．3 相差測(cè)量254 10．3．1 引言254 10．3．2 哈特曼-夏克傳感器255 10．3．3 相位恢復(fù)與相位分集257 10．4 近視成像修復(fù)258 10．4．1 動(dòng)機(jī)與噪聲統(tǒng)計(jì)258 10．4．2 波前感知解卷積中的數(shù)據(jù)處理259 10．4．2．1 短曝光圖像的常規(guī)處理259 10．4．2．2 短曝光圖像的近視解卷積260 10．4．2．3 仿真261 10．4．2．4 實(shí)驗(yàn)結(jié)果262 10．4．3 自適應(yīng)光學(xué)校正圖像恢復(fù)263 10．4．3．1 自適應(yīng)光學(xué)校正圖像的近視解卷積263 10．4．3．2 實(shí)驗(yàn)結(jié)果265 10．4．4小結(jié)267 10．5 光學(xué)干涉測(cè)量中的圖像重建（OI）268 10．5．1 觀測(cè)模型268 10．5．2 傳統(tǒng)貝葉斯方法271 10．5．3 近視建模272 10．5．4 結(jié)果274 10．5．4．1 綜合數(shù)據(jù)處理274 10．5．4．2 實(shí)驗(yàn)數(shù)據(jù)處理276 10．6 參考文獻(xiàn) 277第十一章 超聲多普勒測(cè)速中的光譜表征285 11．1 醫(yī)學(xué)成像中的速度測(cè)量285 11．1．1 超聲成像中的測(cè)速原理286 11．1．2 多普勒信號(hào)攜帶的信息286 11．1．3 一些特點(diǎn)與局限性288 11．1．4 處理的數(shù)據(jù)與問題288 11．2 自適應(yīng)譜分析290 11．2．1 最小二乘與傳統(tǒng)拓展290 11．2．2 長(zhǎng)AR模型-光譜平滑-空間連續(xù)性291 11．2．2．1 空間規(guī)律291 11．2．2．2 光譜平滑292 11．2．2．3 正則最小二乘292 11．2．2．4 最優(yōu)化293 11．2．3 卡爾曼平滑 293 11．2．3．1 狀態(tài)與觀測(cè)方程293 11．2．3．2 參數(shù)化等價(jià)294 11．2．4 超參數(shù)估計(jì)294 11．2．5 處理結(jié)果與比較296 11．2．5．1超參數(shù)調(diào)整296 11．2．5．2 量化比較296 11．3譜矩跟蹤297 11．3．1 已有方法298 11．3．1．1 似然函數(shù)298 11．3．1．2 幅度：先驗(yàn)分布與邊緣化298 11．3．1．3 頻率：先驗(yàn)法則與后驗(yàn)法則300 11．3．1．4 維特比算法302 11．3．2 超參數(shù)似然函數(shù)302 11．3．2．1 前向-后向算法302 11．3．2．2 似然函數(shù)梯度303 11．3．3 處理結(jié)果與比較304 11．3．3．1 超參數(shù)調(diào)節(jié)304 11．3．3．2 量化比較305 11．4 小結(jié)306 11．5 參考文獻(xiàn)307第十二章 基于少量投影的層析重建311 12．1 引言311 12．2 投影生成模型312 12．3 二維解析方法313 12．4 三維解析方法317 12．5 解析方法的局限317 12．6 重構(gòu)的離散方法319 12．7 準(zhǔn)則與重構(gòu)方法選取321 12．8 重構(gòu)方法323 12．8．1 凸優(yōu)化方法323 12．8．1．1 梯度算法324 12．8．1．2 SIRT(同時(shí)迭代松弛技術(shù))325 12．8．1．3 ART(代數(shù)重構(gòu)技術(shù))325 12．8．1．4 分塊ART326 12．8．1．5 ICD（迭代坐標(biāo)下降）算法326 12．8．1．6 理查森-露西算法326 12．8．2 最優(yōu)化與集成算法327 12．9 二進(jìn)制對(duì)象的特定模型328 12．10 例證328 12．10．1 二維重構(gòu)328 12．10．2 三維重構(gòu)329 12．11 小結(jié)331 12．12 參考文獻(xiàn)332第十三章 繞射層析成像335 13．1 引言335 13．2 問題建模336 13．2．1 繞射層析成像應(yīng)用實(shí)例336 13．2．1．1 微波成像337 13．2．1．2 用渦流對(duì)導(dǎo)電材料的無損評(píng)估337 13．2．1．3 地球物理學(xué)探測(cè)338 13．2．2 直接問題建模338 13．2．2．1 非均勻介質(zhì)傳播方程338 13．2．2．2 直接問題的積分建模339 13．3 直接問題離散化340 13．3．1 代數(shù)框架選取340 13．3．2 矩量法341 13．2．1 基于矩量法的離散化342 13．4 逆問題求解準(zhǔn)則構(gòu)建343 13．4．1 第一種形式：估計(jì)x 344 13．4．2第二種形式：估計(jì)x與φ345 13．4．3 準(zhǔn)則的性質(zhì)347 13．5 逆問題求解347 13．5．1逐次線性化348 13．5．1．1 近似348 13．5．1．1 正則化349 13．5．1．1 解譯349 13．5．2 聯(lián)合最小化350 13．5．3 最小化MAP準(zhǔn)則351 13．6 小結(jié) 353 13．7 參考文獻(xiàn)354第十四章 低強(qiáng)度數(shù)據(jù)成像357 14．1 引言357 14．2 一般低強(qiáng)度圖像數(shù)據(jù)的統(tǒng)計(jì)特性359 14．2．1 似然函數(shù)與極限行為359 14．2．2 純泊松測(cè)量360 14．2．3 涵蓋背景計(jì)數(shù)噪聲362 14．2．4 含泊松信息的復(fù)合噪聲模型362 14．3 逆問題中的量子極限測(cè)量363 14．3．1 最大似然的性質(zhì)363 14．3．2 貝葉斯估計(jì)366 14．4 貝葉斯估計(jì)實(shí)現(xiàn)與計(jì)算368 14．4．1 純泊松模型的實(shí)現(xiàn)368 14．4．2 復(fù)合數(shù)據(jù)模型的貝葉斯實(shí)現(xiàn)370 14．5 小結(jié)372 14．6 參考文獻(xiàn)372作者列表375索引377