凸優(yōu)化：算法與復(fù)雜性

定　價(jià)：￥59.00

作　者：	[美]塞巴斯蒂安·布貝克
出版社：	機(jī)械工業(yè)出版社
叢編項(xiàng)：
標(biāo)　簽：	暫缺

購(gòu)買這本書可以去

ISBN：	9787111683513	出版時(shí)間：	2021-06-01	包裝：	平裝-膠訂
開本：	16開	頁(yè)數(shù)：	136	字?jǐn)?shù)：

內(nèi)容簡(jiǎn)介

　　本書介紹了凸優(yōu)化中的主要復(fù)雜性定理及其相應(yīng)的算法。從黑箱優(yōu)化的基本理論出發(fā)，內(nèi)容材料是朝著結(jié)構(gòu)優(yōu)化和隨機(jī)優(yōu)化的新進(jìn)展。我們對(duì)黑箱優(yōu)化的介紹，深受Nesterov的開創(chuàng)性著作和Nemirovski講稿的影響，包括對(duì)切割平面方法的分析，以及（加速）梯度下降方案。我們還特別關(guān)注非歐幾里德的情況（相關(guān)算法包括Frank Wolfe、鏡像下降和對(duì)偶平均法），并討論它們?cè)跈C(jī)器中的相關(guān)性學(xué)習(xí)。我們慢慢的介紹了FISTA（優(yōu)化一個(gè)光滑項(xiàng)和一個(gè)簡(jiǎn)單的非光滑項(xiàng)的和）、鞍點(diǎn)鏡像代理（Nemirovski平滑替代Nesterov的光滑）和一個(gè)對(duì)內(nèi)點(diǎn)方法的簡(jiǎn)明描述。在隨機(jī)優(yōu)化中，我們討論了隨機(jī)梯度下降、小批量、隨機(jī)坐標(biāo)下降和次線性算法。我們還簡(jiǎn)單地討論了組合問題的凸松弛和隨機(jī)性對(duì)取整（四舍五入）解的使用，以及基于隨機(jī)游動(dòng)的方法。

作者簡(jiǎn)介

　　塞巴斯蒂安·布貝克（Sébastien Bubeck）是微軟Redmond研究院理論組的首席研究員，曾擔(dān)任COLT 2013、COLT 2014的聯(lián)席主席，NIPS 2012、NIPS 2014、NIPS 2016、COLT 2013、COLT 2014、COLT 2015、COLT 2016、ICML 2015、ICML 2016、ALT 2013、ALT 2014的項(xiàng)目委員會(huì)成員，也是COLT的指導(dǎo)委員會(huì)成員。其研究興趣包括機(jī)器學(xué)習(xí)、凸優(yōu)化、統(tǒng)計(jì)網(wǎng)絡(luò)分析、隨機(jī)圖和隨機(jī)矩陣，以及信息論在學(xué)習(xí)、優(yōu)化和概率中的應(yīng)用。

圖書目錄

譯者序
致謝
第1章緒論1
11機(jī)器學(xué)習(xí)中的若干凸優(yōu)化問題1
12凸性的基本性質(zhì)3
13凸性的作用5
14黑箱模型7
15結(jié)構(gòu)性優(yōu)化8
16結(jié)果的概述和免責(zé)聲明9
第2章有限維的凸優(yōu)化12
21重心法12
22橢球法14
23Vaidya割平面法18
231體積障礙19
232Vaidya算法20
233Vaidya方法分析20
234限制條件和體積障礙22
24共軛梯度26
第3章維度無(wú)關(guān)的凸優(yōu)化30
31Lipschitz函數(shù)的投影次梯度下降31
32光滑函數(shù)的梯度下降33
33條件梯度下降39
34強(qiáng)凸性43
341 強(qiáng)凸函數(shù)和Lipschitz函數(shù)44
342強(qiáng)凸光滑函數(shù)45
35下限47
36幾何下降52
361熱身賽：梯度下降的幾何學(xué)替代方案53
362加速度55
363幾何下降法56
37Nesterov加速梯度下降58
371光滑強(qiáng)凸情況58
372光滑的情況62
第4章非歐氏空間幾乎維度無(wú)關(guān)的凸優(yōu)化65
41鏡像映射66
42鏡像下降67
43鏡像下降的標(biāo)準(zhǔn)設(shè)置70
44惰性鏡像下降72
45鏡像代理74
46關(guān)于MD、DA和MP的向量場(chǎng)觀點(diǎn)76
第5章超越黑箱模型78
51光滑項(xiàng)與簡(jiǎn)單非光滑項(xiàng)之和78
52非光滑函數(shù)的光滑鞍點(diǎn)表示80
521鞍點(diǎn)計(jì)算81
522鞍點(diǎn)鏡像下降82
523鞍點(diǎn)鏡像代理83
524應(yīng)用84
53內(nèi)點(diǎn)法87
531障礙法87
532牛頓法的傳統(tǒng)分析88
533自和諧函數(shù)90
534ν自和諧障礙92
535路徑跟蹤方案95
536線性規(guī)劃和半定規(guī)劃的內(nèi)點(diǎn)法96
第6章凸優(yōu)化與隨機(jī)性98
61非光滑隨機(jī)優(yōu)化99
62光滑隨機(jī)優(yōu)化與小批量SGD100
63光滑函數(shù)與強(qiáng)凸函數(shù)的和103
64隨機(jī)坐標(biāo)下降107
641坐標(biāo)平滑優(yōu)化的RCD算法108
642用于光滑和強(qiáng)凸優(yōu)化的RCD110
65鞍點(diǎn)的隨機(jī)加速112
66凸松弛與隨機(jī)取整113
67基于隨機(jī)游動(dòng)的方法117
參考文獻(xiàn)120