云計算（典藏版）

第1章 大數(shù)據(jù)與云計算 1
1.1 大數(shù)據(jù)時代 1
1.2 云計算概述 3
1.3 云計算發(fā)展現(xiàn)狀 5
1.4 云計算實現(xiàn)機制 7
1.5 云計算壓倒性的成本優(yōu)勢 8
習題 12
第2章 Google云計算原理與應用 13
2.1 Google文件系統(tǒng) 13
2.1.1 系統(tǒng)架構 14
2.1.2 容錯機制 16
2.1.3 系統(tǒng)管理技術 17
2.2 分布式計算編程模型MapReduce 17
2.2.1 產生背景 17
2.2.2 編程模型 18
2.2.3 實現(xiàn)機制 19
2.2.4 案例分析 20
2.3 分布式鎖服務Chubby 22
2.3.1 Paxos算法 22
2.3.2 Chubby系統(tǒng)設計 23
2.3.3 Chubby中的Paxos算法 24
2.3.4 Chubby文件系統(tǒng) 26
2.3.5 通信協(xié)議 27
2.3.6 正確性與性能 29
2.4 分布式結構化數(shù)據(jù)表BigTable 30
2.4.1 設計動機與目標 31
2.4.2 數(shù)據(jù)模型 31
2.4.3 系統(tǒng)架構 32
2.4.4 主服務器 33
2.4.5 子表服務器 34
2.4.6 性能優(yōu)化 37
2.5 分布式存儲系統(tǒng)Megastore 39
2.5.1 設計目標及方案選擇 39
2.5.2 Megastore數(shù)據(jù)模型 40
2.5.3 Megastore中的事務及并發(fā)控制 42
2.5.4 Megastore基本架構 43
2.5.5 核心技術――復制 45
2.5.6 產品性能及控制措施 48
2.6 分布式監(jiān)控系統(tǒng)Dapper 50
2.6.1 基本設計目標 50
2.6.2 Dapper監(jiān)控系統(tǒng)簡介 50
2.6.3 關鍵性技術 53
2.6.4 常用Dapper工具 54
2.6.5 Dapper使用經驗 56
2.7 海量數(shù)據(jù)的交互式分析工具Dremel 58
2.7.1 產生背景 58
2.7.2 數(shù)據(jù)模型 59
2.7.3 嵌套式的列存儲 60
2.7.4 查詢語言與執(zhí)行 64
2.7.5 性能分析 66
2.8 內存大數(shù)據(jù)分析系統(tǒng)PowerDrill 67
2.8.1 產生背景與設計目標 67
2.8.2 基本數(shù)據(jù)結構 68
2.8.3 性能優(yōu)化 69
2.8.4 性能分析與對比 71
2.9 Google應用程序引擎 72
2.9.1 Google App Engine簡介 72
2.9.2 應用程序環(huán)境 74
2.9.3 Google App Engine服務 77
習題 87
第3章 云計算AWS 88
3.1 基礎存儲架構Dynamo 88
3.1.1 Dynamo概況 88
3.1.2 Dynamo架構的主要技術 90
3.2 彈性計算云 97
3.2.1 EC2的基本架構 97
3.2.2 EC2的關鍵技術 99
3.2.3 EC2的安全及容錯機制 101
3.3 簡單存儲服務 102
3.3.1 S3的基本概念和操作 102
3.3.2 S3的數(shù)據(jù)一致性模型 103
3.3.3 S3的安全措施 104
3.4 非關系型數(shù)據(jù)庫服務 106
3.4.1 非關系型數(shù)據(jù)庫與傳統(tǒng)關系型數(shù)據(jù)庫的比較 106
3.4.2 SimpleDB 107
3.4.3 DynamoDB 109
3.4.4 SimpleDB和DynamoDB的比較 109
3.5 關系型數(shù)據(jù)庫服務 110
3.5.1 RDS的基本原理 110
3.5.2 RDS的使用 111
3.6 簡單隊列服務 111
3.6.1 SQS的基本模型 111
3.6.2 SQS的消息 112
3.7 內容推送服務 114
3.7.1 CDN 114
3.7.2 CloudFront 116
3.8 其他 云計算服務 117
3.8.1 快速應用部署Elastic Beanstalk和服務模板CloudFormation 117
3.8.2 DNS服務Route53 118
3.8.3 虛擬私有云VPC 118
3.8.4 簡單通知服務和簡單郵件服務 119
3.8.5 彈性MapReduce服務 119
3.8.6 電子商務服務DevPay、FPS和簡單支付服務 121
3.8.7 執(zhí)行網絡服務 125
3.8.8 土耳其機器人 125
3.8.9 數(shù)據(jù)倉庫服務Redshift 126
3.8.10 應用流服務AppStream和數(shù)據(jù)流服務Kinesis 127
3.8.11 增強現(xiàn)實（AR）和虛擬現(xiàn)實（VR）應用Sumerian 128
3.8.12 區(qū)塊鏈應用Managed Blockchain 128
3.9 AWS應用實例 129
3.9.1 照片和視頻共享網站SmugMug 129
3.9.2 視頻制作網站Animoto 129
3.9.3 網站排名公司Alexa 130
3.10 小結 130
習題 131
第4章 微軟云計算Microsoft Azure 132
4.1 微軟云計算平臺 132
4.2 微軟云操作系統(tǒng)Microsoft Azure 134
4.2.1 Microsoft Azure概述 134
4.2.2 Microsoft Azure計算服務 135
4.2.3 Microsoft Azure存儲服務 139
4.2.4 Microsoft Azure Connect 147
4.2.5 Microsoft Azure CDN 148
4.2.6 Fabric控制器 149
4.3 微軟云關系數(shù)據(jù)庫SQL Azure 150
4.3.1 SQL Azure概述 150
4.3.2 SQL Azure關鍵技術 151
4.3.3 SQL Azure和SQL Server對比 153
4.4 Microsoft Azure Service Fabric 154
4.4.1 Service Fabric 概述 154
4.4.2 Service Fabric體系結構 155
4.4.3 Service Fabric群集 157
4.5 Microsoft Azure Marketplace 163
4.6 Microsoft Azure服務平臺 164
4.6.1 網站 164
4.6.2 虛擬機 165
4.6.3 云服務 166
4.6.4 移動服務 167
4.6.5 大數(shù)據(jù)處理 168
4.6.6 媒體服務 169
4.6.7 物聯(lián)網平臺 170
4.6.8 人工智能服務 171
習題 172
第5章 Hadoop 3.0：主流開源云架構 173
5.1 挑戰(zhàn)與對策 173
5.1.1 問題概述 173
5.1.2 常規(guī)解決方案 173
5.1.3 分布式下的解決方案 174
5.1.4 小結 178
5.2 Hadoop 3.0簡述 178
5.2.1 Hadoop發(fā)展 178
5.2.2 Hadoop 3.0生態(tài)圈項目 179
5.2.3 Hadoop應用 181
5.3 Hadoop 3.0部署 181
5.3.1 部署綜述 182
5.3.2 傳統(tǒng)解壓包方式部署 186
5.4 Hadoop 3.0體系架構 192
5.4.1 公共組件Common 192
5.4.2 分布式文件系統(tǒng)HDFS 194
5.4.3 分布式操作系統(tǒng)YARN 199
5.5 Hadoop 3.0訪問接口 206
5.5.1 配置項接口 206
5.5.2 瀏覽器接口 207
5.5.3 命令行接口 207
5.5.4 HDFS編程 209
5.5.5 YARN編程 212
5.6 Hadoop 3.0生態(tài)組件 220
5.6.1 組件簡介 220
5.6.2 Hive 224
5.6.3 Spark 228
5.6.4 ZooKeeper 239
5.6.5 HBase 243
5.6.6 Mahout 250
5.6.7 Redis 253
5.6.8 Kafka 258
5.6.9 Flink 263
5.6.10 Flume 266
5.6.11 Pig 271
習題 275
第6章 虛擬化技術 276
6.1 虛擬化技術簡介 276
6.2 服務器虛擬化 277
6.2.1 服務器虛擬化的層次 277
6.2.2 服務器虛擬化的底層實現(xiàn) 278
6.2.3 虛擬機遷移 279
6.2.4 隔離技術 281
6.2.5 案例分析 283
6.3 存儲虛擬化 284
6.3.1 存儲虛擬化的一般模型 284
6.3.2 存儲虛擬化的實現(xiàn)方式 284
6.3.3 案例分析 285
6.4 網絡虛擬化 287
6.4.1 網絡虛擬化簡介 287
6.4.2 案例分析：VMware的網絡虛擬化技術 288
6.5 桌面虛擬化 290
6.5.1 桌面虛擬化簡介 290
6.5.2 技術現(xiàn)狀 291
6.5.3 案例分析 292
6.6 OpenStack開源虛擬化平臺 292
6.6.1 OpenStack背景介紹 293
6.6.2 Nova 294
6.6.3 Swift 299
6.6.4 Glance 305
6.7 超融合技術 306
6.7.1 概念 306
6.7.2 產生背景 306
6.7.3 超融合技術簡介 308
習題 310
第7章 容器技術 311
7.1 容器技術簡介 311
7.1.1 容器技術的發(fā)展歷程 311
7.1.2 容器技術的架構 313
7.1.3 容器的底層技術 314
7.1.4 容器的關鍵技術 315
7.1.5 容器技術的優(yōu)勢和局限性 316
7.1.6 容器技術的典型應用 317
7.1.7 容器和虛擬機對比 318
7.2 Docker技術 320
7.2.1 Docker是什么 320
7.2.2 Docker的架構和流程 322
7.2.3 Docker的優(yōu)勢和局限性 323
7.2.4 分布式Docker網絡環(huán)境搭建 327
7.3 Rocket（Rkt）技術簡介 328
7.3.1 Rkt的標準化嘗試 329
7.3.2 Rkt是什么 331
7.3.3 Rkt的基本使用方法 333
7.4 其他容器技術 335
7.4.1 Garden容器技術 335
7.4.2 Kata容器技術 337
7.5 容器編排系統(tǒng) 338
7.5.1 Google Kubernetes 339
7.5.2 Docker Swarm 346
7.5.3 Apache Mesos 350
7.5.4 CoreOS Fleet 356
習題 357
第8章 云原生技術 359
8.1 云原生簡介 359
8.2 微服務 361
8.2.1 Spring Cloud架構 361
8.2.2 服務網格架構 370
8.3 敏捷基礎設施 374
8.3.1 分布式消息中間件服務 375
8.3.2 分布式緩存服務 383
8.3.3 分布式任務調度服務 386
8.3.4 監(jiān)控告 務 390
8.4 DevOps 392
8.4.1 概念 393
8.4.2 Ansible 394
8.4.3 SaltStack 395
8.4.4 Jenkins 397
8.5 持續(xù)交付 399
8.5.1 持續(xù)交付與持續(xù)集成、持續(xù)部署 400
8.5.2 持續(xù)交付vs. DevOps 401
8.6 云原生應用場景 401
8.6.1 深度學習應用場景 402
8.6.2 區(qū)塊鏈應用場景 403
8.6.3 邊緣計算應用場景 404
8.6.4 傳統(tǒng)行業(yè)互聯(lián)網化應用場景 404
習題 405
第9章 云計算數(shù)據(jù)中心 406
9.1 云計算數(shù)據(jù)中心的特征 406
9.2 云計算數(shù)據(jù)中心網絡部署 407
9.2.1 改進型樹形結構 407
9.2.2 遞歸層次結構 409
9.2.3 光交換網絡 412
9.2.4 無線數(shù)據(jù)中心網絡 414
9.2.5 軟件定義網絡 414
9.3 綠色節(jié)能技術 418
9.3.1 配電系統(tǒng)節(jié)能技術 418
9.3.2 空調系統(tǒng)節(jié)能技術 420
9.3.3 集裝箱數(shù)據(jù)中心節(jié)能技術 423
9.3.4 海底數(shù)據(jù)中心 424
9.3.5 數(shù)據(jù)中心節(jié)能策略和算法研究 427
9.3.6 新能源的應用 429
9.3.7 典型的綠色節(jié)能數(shù)據(jù)中心 432
9.4 自動化管理 434
9.4.1 自動化管理的特征 434
9.4.2 自動化管理實現(xiàn)階段 435
9.4.3 Facebook自動化管理 436
9.5 容災備份 438
9.5.1 容災系統(tǒng)的等級標準 438
9.5.2 容災備份的關鍵技術 439
9.5.3 云存儲在容災備份中的應用 441
習題 442
0章 云計算核心算法 443
10.1 Paxos算法 443
10.1.1 Paxos算法背景知識 443
10.1.2 Paxos算法詳解 444
10.1.3 Paxos算法舉例 447
10.1.4 Chubby中Paxos算法的具體實現(xiàn) 448
10.2 DHT算法 449
10.2.1 DHT原理介紹 450
10.2.2 Chord中DHT的具體實現(xiàn) 452
10.2.3 Pastry中DHT的具體實現(xiàn) 454
10.2.4 CAN中DHT的具體實現(xiàn) 455
10.2.5 Tapestry中DHT的具體實現(xiàn) 456
10.3 Gossip協(xié)議 457
10.3.1 Gossip協(xié)議的特點 457
10.3.2 Gossip協(xié)議的通信方式及收斂性 458
10.3.3 Gossip節(jié)點管理算法 459
10.3.4 Cassandra中Gossip協(xié)議的具體實現(xiàn)方式 460
10.3.5 CoolStreaming中Gossip協(xié)議的具體實現(xiàn)方式 463
10.3.6 Hyperledger Fabric中Gossip協(xié)議的具體實現(xiàn)方式 465
10.3.7 Chord網絡中Gossip協(xié)議的具體實現(xiàn)方式 467
習題 468
1章 云際計算技術 469
11.1 傳統(tǒng)云計算面臨的挑戰(zhàn) 469
11.2 云際計算誕生 470
11.2.1 云際計算概念 470
11.2.2 技術優(yōu)勢 470
11.3 云際計算架構 471
11.3.1 集中式代理架構 472
11.3.2 地理分布式代理架構 472
11.4 云際計算關鍵技術 473
11.4.1 云際協(xié)作環(huán)境 474
11.4.2 對等協(xié)作機制 477
11.5 云際存儲關鍵技術 478
11.5.1 糾刪碼容錯技術 479
11.5.2 數(shù)據(jù)完整性證明機制 481
11.5.3 并發(fā)控制方法 483
11.5.4 安全重刪技術 485
11.6 云際計算研究進展 487
11.6.1 Inter-Cloud 488
11.6.2 SuperCloud 489
11.6.3 Multi-Cloud 490
11.6.4 Federated Cloud 491
11.6.5 Cloud Service Broker 493
11.6.6 Internetware 494
11.6.7 iVCE 496
11.7 云際計算應用場景 497
習題 498
2章 中國云計算技術 499
12.1 云計算發(fā)展概況 499
12.2 云存儲技術 500
12.2.1 淘寶文件系統(tǒng) 501
12.2.2 云創(chuàng)大數(shù)據(jù)cStor超融合云存儲系統(tǒng) 503
12.2.3 A8000超低功耗云存儲一體機 507
12.3 大數(shù)據(jù)庫技術 510
12.3.1 阿里巴巴OceanBase 510
12.3.2 云創(chuàng)大數(shù)據(jù)數(shù)據(jù)立方 514
12.4 云視頻監(jiān)控技術 519
12.4.1 cVideo云視頻監(jiān)控系統(tǒng) 519
12.4.2 cVideo智能分析系統(tǒng) 521
12.4.3 cVideo云轉碼系統(tǒng) 523
12.5 阿里巴巴阿里云服務 525
12.5.1 阿里云計算體系架構 526
12.5.2 彈性計算服務 526
12.5.3 對象存儲服務 527
12.5.4 表格存儲服務 527
12.5.5 開放數(shù)據(jù)處理服務 528
12.5.6 關系型數(shù)據(jù)庫服務 528
12.6 云創(chuàng)大數(shù)據(jù)萬物云服務 529
12.6.1 平臺簡介 529
12.6.2 系統(tǒng)架構 530
12.6.3 功能服務 531
12.6.4 應用舉例 533
12.7 云創(chuàng)大數(shù)據(jù)人工智能云平臺 534
12.7.1 訓練平臺 534
12.7.2 推理平臺 536
12.7.3 開放平臺 540
習題 542
3章 總結與展望 543
13.1 主流商業(yè)云計算解決方案比較 543
13.1.1 應用場景 543
13.1.2 使用流程 545
13.1.3 體系結構 546
13.1.4 實現(xiàn)技術 546
13.1.5 核心業(yè)務 547
13.2 主流開源云計算系統(tǒng)比較 549
13.2.1 開發(fā)目的 549
13.2.2 體系結構 551
13.2.3 實現(xiàn)技術 552
13.2.4 核心服務 552
13.3 云計算發(fā)展趨勢 553
13.3.1 標準化 553
13.3.2 混合云模式 558
13.3.3 多云部署 559
13.3.4 云計算與人工智能相融合 560
習題 561