发表于2024-11-24
數據存儲技術與實踐 pdf epub mobi txt 電子書 下載 2024
華為存儲首席架構師誠意之作揭示瞭存儲技術變革的脈絡
《數據存儲技術與實踐》試圖以時間軸的方式描述自20世紀50年代IBM的diyi個硬盤齣現以來,整個存儲工業及技術的演進。本書內容聚焦於存儲的技術演進,除基本技術的描述外,重點放在數據中心在雲計算及大數據環境下存儲新技術齣現的背景、新技術架構、原理及實現,同時本書也把一部分內容放在具體的存儲解決方案及實際運維管理中。
作為存儲知識技術類圖書,本書可以用於高校信息管理專業的教材或參考書,也非常適閤信息管理專業技術人員、IT經理人等專業人士閱讀參考,為技術專傢、高校學生以及更多願意瞭解和投入到存儲浪潮中的人們搭建一座橋梁。
第一篇 企業存儲概述
第 1 章 存儲工業演進曆史 3
1.1 高端存儲係統的演進 4
1.2 中端存儲興起 6
1.3 SAN外置存儲陣列 7
1.4 NAS外置存儲陣列 9
1.5 塊、文件統一存儲係統 10
1.6 全Flash外置存儲陣列 10
1.7 Server SAN融閤存儲 11
第 2 章 存儲産品架構演進趨勢 13
2.1 高端存儲架構演進 14
2.2 中端存儲架構演進 15
第 3 章 企業存儲産品架構及關鍵技術要素簡介 17
3.1 存儲軟件技術的發展與演進 18
3.2 高端存儲産品架構及關鍵技術要素簡介 18
3.3 中端存儲産品硬件及軟件架構分析 23
3.4 全Flash架構分析 28
3.5 企業存儲關鍵技術及特性 33
3.6 案例:OceanStor V3融閤存儲 39
目錄Contents
XII
數據存儲技術與實踐
第二篇 雲存儲
第 4 章 雲平颱及OpenStack開源架構提供的存儲服務縱覽 47
4.1 雲平颱的存儲介紹 48
4.2 雲平颱的存儲分類 48
4.3 雲平颱的存儲標準 49
4.4 OpenStack開源領域的雲平颱全景 51
4.5 本章小結 57
第 5 章 分布式塊存儲服務 59
5.1 分布式塊存儲介紹 60
5.2 分布式塊存儲功能和特點 62
5.3 業界分布式塊存儲技術 66
5.4 本章小結 78
第 6 章 分布式對象存儲服務 79
6.1 分布式對象存儲介紹 80
6.2 分布式對象存儲功能和特點 80
6.3 業界分布式對象存儲技術 81
6.4 本章小結 90
第 7 章 分布式隊列服務 91
7.1 分布式隊列介紹 92
7.2 分布式隊列功能和特點 92
7.3 業界分布式隊列功能和特點 93
7.4 本章小結 96
第 8 章 分布式存儲係統的可靠性 97
8.1 分布式存儲係統可靠性介紹 98
8.2 分布式存儲係統可靠性關鍵技術 103
8.3 開源實現分析 109
目 錄
XIII
8.4 本章小結 111
第 9 章 分布式存儲係統的管理及運維 113
9.1 分布式存儲係統管理運維介紹 114
9.2 分布式存儲對管理的挑戰 114
9.3 分布式存儲的管理 116
9.4 分布式存儲的維護 118
9.5 本章小結 122
第 10 章 麵嚮雲平颱的存儲安全架構體係 123
10.1 麵嚮雲平颱的存儲安全風險分析 124
10.2 存儲係統安全解決方案設計原則 126
10.3 存儲係統安全解決方案架構 127
10.4 存儲安全解決方案描述 128
10.5 本章小結 131
第 11 章 雲平颱架構下的企業存儲實踐 133
11.1 華為看SDS 134
11.2 SDS與華為OceanStor DJ 134
11.3 OceanStor DJ 135
11.4 本章小結 139
第 12 章 案例 141
12.1 銀行數據中心:支撐業務快速上綫 142
12.2 公安廳警務雲:提供自動化存儲服務 143
12.3 智慧城市時空雲平颱:提供便捷數據服務 143
第三篇 數據庫
第 13 章 數據庫存儲技術的演進 149
13.1 數據庫係統概述 150
XIV
數據存儲技術與實踐
13.2 數據庫存儲技術的發展 154
13.3 數據庫存儲的主要形態 160
13.4 數據庫存儲的關鍵技術 161
13.5 數據庫存儲的備份容災 162
13.6 存儲介質對未來數據庫存儲的影響 164
13.7 本章小結 165
第 14 章 傳統數據庫係統架構 167
14.1 傳統數據庫技術和架構的發展演進 168
14.2 OLTP數據庫技術及架構 188
14.3 OLAP數據庫技術及架構 193
14.4 MPP DB數據庫技術及架構 198
14.5 傳統數據庫業務發展趨勢 203
14.6 本章小結 205
第 15 章 數據庫和存儲的融閤技術與實踐 207
15.1 數據庫和存儲融閤技術概述 208
15.2 數據庫和存儲融閤技術的發展 209
15.3 數據庫和存儲融閤的主要途徑 216
15.4 數據庫和存儲融閤技術的實踐 217
15.5 數據庫和存儲融閤技術的發展趨勢 218
15.6 本章小結 219
第 16 章 新興數據庫技術與實踐 221
16.1 新興數據庫技術和架構發展演進 222
16.2 NoSQL數據庫技術及架構 222
16.3 NewSQL數據庫技術及架構 226
16.4 內存數據庫技術及架構 237
16.5 分布式數據庫技術發展趨勢 250
16.6 本章小結 251
目 錄
XV
第 17 章 案例 253
17.1 案例一:雙活場景下與數據庫的案例 254
17.2 案例二:中型規模OLAP類型Oracle數據庫案例 262
第四篇 大數據
第 18 章 大數據的前世今生 271
18.1 大數據概念的由來 272
18.2 什麼是大數據 276
18.3 我們能用大數據來做什麼 278
18.4 大數據生態體係及其發展趨勢 279
18.5 本章小結 282
第 19 章 大數據對存儲係統的挑戰 283
19.1 大容量(Volume)的挑戰 284
19.2 數據多樣化(Variety)的挑戰 294
19.3 性能(Velocity)問題的挑戰 295
19.4 本章小結 299
第 20 章 大數據存儲技術實踐 301
20.1 數據庫領域 302
20.2 Apache Hadoop的存儲組件 305
20.3 基於內存的大數據組件 315
20.4 商用Hadoop版本的獨特貢獻 320
20.5 數據湖泊 327
20.6 本章小結 335
第 21 章 最佳應用實踐案例 337
21.1 招商銀行利用大數據進行業務創新 338
21.2 交通管理領域大數據研判係統 339
21.3 電信運營商運用大數據優化業務 341
序一Preface One
今天,當我們身處存儲變革的風暴眼中。俗話說,溫故而知新,迴顧過去多年來存儲技術的演變與發展,梳理存儲技術的創新之道,就可以更好地理解和把握當前企業用戶的需求,清楚用什麼樣的方法和工具能夠更好地幫助企業從容應對雲計算、大數據、移動互聯、社交網絡帶來的新挑戰。本書從傳統企業存儲概念和技術講起,繼而又延伸到雲計算、大數據,以及企業用戶最關注的數據庫存儲領域,讓讀者可以對存儲技術的前世今生有一個全麵掌握,也有利於指導企業用戶當前及未來的存儲應用實踐。
存儲的價值不僅在於“存”這一基礎功能。在雲計算、大數據已經逐漸普及的今天,不但有軟件定義網絡,還有數據定義的軟件。我們之所以還激情滿滿地談論存儲,其實關注點並不在存儲的性能、功能等指標上,而在於數據的處理、數據挖掘、數據的價值乃至記憶等。
數據是存儲的核心。隻有看清瞭這一點,我們纔能更加遊刃有餘地使用分布式存儲、軟件定義存儲、融閤與超融閤、全閃存等創新的技術和架構,改造和優化存儲架構,並使之成為數據價值挖掘的有利工具和平颱。本書在詳細闡述存儲基本概念的基礎上,著重介紹雲計算、大數據等新應用的需求,存儲架構的演進思路和實現方式,這對於推動存儲雲化,以及大數據存儲的廣泛應用具有非常積極的意義。
互聯網和移動互聯網作為信息技術發展的新常態,企業的數字化轉型成瞭當務之急。在這種背景下,企業更應該重新審視自身業務發展與IT之間的關係。以前,IT被當成企業的成本中心,或者後端支撐平颱。現在,IT是企業業務發展的直接驅動因素,其本身就是企業業務的重要組成部分。
當前,企業正處於從辦公自動化、流程自動化嚮大數據平颱過渡的重要轉摺時期,傳統的企業數據庫如何雲化纔能保證效率的最大化?傳統的SAN存儲與雲存儲之間是相互替代還是融閤?如何進一步優化大數據存儲平颱,使之更好地配閤數據挖掘和智能分析?這一切都需要新的答案。本書試圖探索並給齣在雲計算、大數據等需求日益迫切的情況下,存儲架構的創新、實施和優化的解決辦法。
推動存儲變革的因素有很多:從業務需求的角度分析,雲計算、大數據的齣現,將顛覆傳統的技術架構和商業模式,IT以服務的模式交付,對存儲的性能、可用性、可擴展性能以及經濟性等都提齣瞭更高的要求;從技術演進的角度分析,硬件將深度解耦,閃存將取代機械式硬盤,並逐漸成為主流,在這種情況下,融閤與超融閤解決方案將加快落地,而針對閃存應用的持續優化將成為存儲廠商的一項核心工作;從存儲市場格局的演變分析,在軟件定義、分布式架構、開源技術等因素的共同作用下,存儲公司的創新腳步將加快,生態圈經濟的影響日益加深,新的存儲市場格局正在醞釀之中,而存儲的主鏇律是開放、開源。本書將技術理念與應用實踐相結閤,揭示瞭存儲技術變革的脈絡,對於想瞭解最新存儲
技術發展,以及如何將創新的存儲技術應用於企業實踐的人來說大為有益。
中國科學院院士 歐亞科學院院士
中國人工智能學會理事長 中國雲計算專傢委員會主席
李德毅
2016年5月
序二Preface Two
在大數據時代,越來越多的人和企業意識到數據作為一種資産的重要性。對數據進行挖掘,以便從中發現更多價值正在成為熱門話題;國傢“十三五”規劃綱要裏也提齣要把大數據作為基礎性戰略資源,加快推動數據資源共享和開發應用,助力産業轉型升級和社會治理創新。可以說,如何更好地存儲、管理和使用數據,正在受到更多人的關注。
與此同時,我們也注意到存儲産業正在發生著一場變革。
首先,新的存儲産品形態和技術架構開始普及。一方麵閃存和固態硬盤(SSD)價格持續降低,成為更多人的選擇;另一方麵,存儲技術也在快速發展,新的接口(如PCIe等)、協議(如NVMe等)、架構(如3D XPoint等)開始齣現,使存儲設備的帶寬、性能和存儲容量得到極大提升,為更高性能的服務器設計和更大規模的數據中心應用做好瞭準備。
其次,新的存儲係統以及建立在其上的各種存儲架構理念開始齣現。除傳統的存儲陣列之外,全閃存陣列、混閤存儲或者Server SAN等存儲係統開始湧現,從不同的角度滿足大規模存儲和上層應用對於數據的快速讀取需要;融閤存儲、超融閤存儲、軟件定義存儲(SDS)等各種理念,各自都能看到許多廠商的背後支持。
此外,在軟件技術和硬件發展的推動下,雲計算技術和産業日趨成熟,給包括存儲在內的傳統硬件産業帶來巨大的衝擊,在這種背景下,在設計信息係統架構時,尤其是保存企業寶貴的數據資産的存儲係統時,如何選擇服務提供商,選擇何種架構,就成瞭企業迫切關注的問題。
這個變革期對於中國來說無疑是良好的機遇。一方麵,對於新技術的理解和應用,可以給中國企業的信息化建設帶來有效幫助;另一方麵,在國外傳統存儲廠商壟斷市場多年之後,新技術的齣現有利於新的市場競爭格局的塑造,在同一起跑綫下,中國存儲企業有能力,也應該有信心樹立新的標準,推齣代錶性的産品,參與到國際市場的競爭中去。
存儲技術是企業發展的核心,也是在整個國傢信息化發展的這個節點上,需要有一本書來幫助讀者詳細梳理整個存儲行業的演進脈絡,理清各種概念,使讀者能明白在具體的場景下,有著什麼樣的選擇,以及應該做齣何種選擇。
所以本書從四個方麵對存儲技術和實踐進行瞭解讀,包括“企業存儲概述”、“雲存儲”、“數據庫”和“大數據”。從整體上看,其是一個從基礎設施到軟件係統,再到上層應用的完整體係。本書不僅勾畫瞭長幅的存儲産品乃至技術架構的發展路徑,能讓讀者清晰地瞭解到這些技術為什麼如此發展,以及發展演化之後能應對當前的哪些問題挑戰;而且能幫助讀者把這些概念具體對應到自己的實際業務應用中去。
本書能以翔實的架構,深入淺齣地完成對數據存儲技術和産業的梳理工作,背後是編寫組雄厚的技術背景和實踐經驗。編寫組的成員,不僅在技術上一直緊跟時代發展的潮流,而且在具體實踐過程中也通過産品的設計和推廣,推動著中國乃至世界存儲産業的發展。可以說,無論是理論分析還是應用實踐,本書的編寫組都有足夠的專業性和權威性。通過本書,我們也能大緻研讀到作為國內研發投入最大、研發隊伍最大的高技術企業,華為在數據存儲方麵有著怎樣的技術理念和業務觀點。
值得注意的是,編寫組在不同部分都會以一些典型的應用場景對相關內容進行收尾總結,具有較高的參考價值,相信能幫助讀者開拓思路。
綜上所述,本書適閤所有想要瞭解數據存儲技術,或者希望利用數據存儲技術發掘更多價值的讀者,即便是存儲業內的專業人士,也能從本書的閱讀中有所收獲。期待有更多的人加入到存儲行業中來,為中國成為存儲行業的引領者而努力。
中國工程院院士
倪光南
2016年5月
序三Preface Three
物質、能源和信息被視為人類社會生存和發展的三大戰略資源。以數字電子計算機發明為標誌,信息科技蓬勃發展瞭70年,而又以20世紀90年代中期互聯網商用為標誌,近20年的發展尤其迅猛。信息科技及其應用(信息化)廣泛並深刻地影響和改變瞭人類社會,而且這種作用正在加強,無處不在的信息技術的深度應用甚至將重構人類社會!
迴顧信息技術發展及信息化進程,過去的信息化有兩次大的浪潮,大緻以20世紀90年代中期為分界,此前是以單機應用為主要特徵的數字化階段(信息化1.0),此後是以聯網應用為主要特徵的網絡化階段(信息化2.0)。隨著信息技術的不斷低成本化和互聯網及其延伸所帶來的無處不在的信息技術應用,第三波浪潮信息化浪潮正撲麵而來,我們正在開啓以數據的深度挖掘及融閤應用為主要特徵的智慧化階段(信息化3.0)。
在信息化3.0時代,作為我們獲取信息、汲取知識的素材和源泉,數據正成為與我們的工作和生活密不可分的(如陽光、空氣和水般)、既具體又重要的“元素”,我們每一個人既是數據的創造者,也是數據的消費者,毫無例外,無時無刻。近年來,隨著社會文化日益繁榮、全球經濟持續發展以及信息科技不斷獲得突破,數據的産生、處理、分析和消費高度活躍,圍繞數據誕生的新概念和新術語也層齣不窮,如數據交易、數據經濟、數據變革、大數據等。其中,最熱、最火的概念當屬大數據,自其齣現以來,已産生瞭巨大的全球效應,大數據蘊藏的巨大潛力被廣泛認知,成為全球關注的熱點和各國政府的戰略選擇,正引發新一輪的信息化建設熱潮。工業和信息化部苗圩部長指齣:“(大數據)將創造下一代互聯網生態、下一代創新體係、下一代職業形態以及下一代社會治理結構。”
如今,沒有“數據”參與的社會或經濟活動,已是不可想象之事。數據源於人類認識自然、改造自然,並推動社會經濟發展的各類活動。信息技術推進數據的規範化和格式化,使數據不斷升華為信息和知識,最終成為全人類的“數據寶藏”,又被重新投入到新一輪的各類社會經濟活動中,創造齣更大的價值。
要讓數據全麵、充分地發揮齣其潛在價值,一個看似簡單卻必要的前提是:數據需要被妥善保管在可靠、可信、可管理的平颱中,數據的完整性和可信度需要得到確保,數據應該能夠被隨時隨地且方便地存取。本書正是針對這些需求和問題而撰寫的。該書內容豐富、層次清晰,既迴顧瞭數據存儲行業的曆史及發展,也探討瞭未來的發展趨勢和方嚮。全書以生動的細節、翔實的素材,給讀者展示瞭數據存儲行業的前世今生,值得一讀。
該書有兩個值得稱贊的特點:一是將聚焦點放在發現、分析存儲行業所存在的問題上,並通過給齣解決方案和過程,反映齣存儲行業近年來所發生的巨大變化;二是圍繞當前存儲技術的熱點話題,在側重闡述數據存儲架構方法的同時,注重結閤存儲技術實踐,使其成為一本可用於企業實際業務的“工具書”和“參考書”。
當今,隨著材料技術和信息技術的快速發展,存儲技術不斷推陳齣新,存儲行業持續嚮前發展,希望本書編寫組能對存儲技術的國內外發展不斷總結歸納,將知識和經驗源源不斷地奉獻給存儲行業,並惠及專業讀者。更希望我國科研機構和企業的專業人士銳意進取,能在世界舞颱上推進、引領存儲技術的創新變革。
願本書的齣版,不是一個句號,而是一個推進我國乃至世界大數據存儲技術和係統創新發展的過程的新起點。是為序。
發展中國傢科學院院士
中國科學院院士 梅宏
2016年5月
前言Foreword
站在2016年年初的時間節點,我們明顯感覺到瞭存儲行業正在發生著一場深刻而又影響廣泛的革命。這場革命的起因來自多個方麵,其中企業IT部門越來越多地開始計劃甚至已經部署的雲計算以及隨著成本的快速下降而快速普及的Flash存儲是推動存儲變革的兩個最重要推手。存儲行業方方麵麵的重大事件及各大谘詢機構發布的預測信息也嚮這個行業的業內人士及用戶展示瞭這場革命已經到來,我們有必要為這場革命做齣充分而又周全的準備及部署:①從巨頭們的公司動態看,2015年10月DELL與EMC 670億美元的收購事件無疑是存儲行業曆史上最大的事件之一,行業巨頭已經明顯感覺到瞭雲計算的巨大衝擊而采取瞭抱團取暖、以雲供應商及服務商的姿態麵對市場與客戶;②從業內權威谘詢機構的預測看,Wikibon、Gartner、IDC都在其後五年預測中定義瞭諸如Converge Storage、Hyper Converge Storage類的新形態,並預測這類新形態的增長將遠高於傳統的外置存儲産品,這是前幾年在技術上熱炒的SDS概念在企業IT的正式落地的預兆;③從近兩年各存儲巨頭推齣的産品形態看,全Flash存儲、超融閤存儲、SDS,乃至直接麵嚮第三平颱環境下的存儲是主要特徵,這類存儲形態會更強化嚮上通過軟件定義提升在雲計算環境下的靈活性、彈性與迅速部署、迅速上綫,以及嚮下構築更為高效的Flash介質友好與優化的存儲層。
因此,我們一直有個 數據存儲技術與實踐 下載 mobi epub pdf txt 電子書
大概瀏覽瞭一下、感覺主編寫的書狠好!
評分印刷真的很精美,絕對是正品。至於內容,小馬過河,深淺自知。
評分學習下原理性知識
評分華為齣品,應該是精品。待閱讀
評分華為的乾貨還是比較多的,本書也有電子版,值得參考
評分買瞭十幾本,好好學習,天天嚮上
評分東西很好 物流快 下次還會買!!!!!!
評分紙張很好,物流很快,書內容一般,大部分網上能搜到,權當工作參考書啦
評分紙張很好,物流很快,書內容一般,大部分網上能搜到,權當工作參考書啦
數據存儲技術與實踐 pdf epub mobi txt 電子書 下載