分布式存儲(chǔ)數(shù)據(jù)布局優(yōu)化理論與方法研究
發(fā)布時(shí)間:2020-12-06 07:58
計(jì)算、傳輸和存儲(chǔ)是信息基礎(chǔ)設(shè)施的三大基石。隨著計(jì)算機(jī)和互聯(lián)網(wǎng)技術(shù)的發(fā)展,信息系統(tǒng)的核心已經(jīng)從計(jì)算轉(zhuǎn)向數(shù)據(jù),數(shù)據(jù)不再僅僅是處理對(duì)象,更是一種重要的基礎(chǔ)資源。在大數(shù)據(jù)時(shí)代,面對(duì)種類繁多的復(fù)雜數(shù)據(jù)密集型應(yīng)用,管理海量的分布式數(shù)據(jù)資源成為重要的挑戰(zhàn)和需求。分布式數(shù)據(jù)存儲(chǔ)的出現(xiàn)為分布式數(shù)據(jù)管理帶來(lái)了契機(jī),也面臨著諸多問(wèn)題,尤其是數(shù)據(jù)布局對(duì)系統(tǒng)訪問(wèn)性能產(chǎn)生的顯著影響。研究分布式數(shù)據(jù)存儲(chǔ)中的數(shù)據(jù)布局優(yōu)化問(wèn)題,對(duì)提高分布式存儲(chǔ)的訪問(wèn)性能和可用性,具有重要的理論價(jià)值和現(xiàn)實(shí)意義。立足于分布式數(shù)據(jù)存儲(chǔ)中的分布式數(shù)據(jù)管理技術(shù)以及當(dāng)前現(xiàn)狀,本文從數(shù)據(jù)布局的角度出發(fā),研究數(shù)據(jù)密集型應(yīng)用中的數(shù)據(jù)布局優(yōu)化理論與方法,改善和提高分布式存儲(chǔ)系統(tǒng)的訪問(wèn)性能與可用性,加快數(shù)據(jù)密集型應(yīng)用的執(zhí)行和響應(yīng)時(shí)間,向用戶提供快速、可靠的數(shù)據(jù)服務(wù)。本文主要研究?jī)?nèi)容如下:(1)提出分布式數(shù)據(jù)存儲(chǔ)的系統(tǒng)化數(shù)據(jù)布局優(yōu)化理論模型通過(guò)對(duì)分布式數(shù)據(jù)存儲(chǔ)中數(shù)據(jù)布局的需求分析,研究在數(shù)據(jù)密集型應(yīng)用環(huán)境下影響系統(tǒng)訪問(wèn)性能的關(guān)鍵因素,以及數(shù)據(jù)對(duì)象、應(yīng)用計(jì)算、數(shù)據(jù)中心彼此之間的關(guān)聯(lián)。通過(guò)研究數(shù)據(jù)布局優(yōu)化與訪問(wèn)性能之間的關(guān)系,提出一個(gè)適用于分布式數(shù)據(jù)存儲(chǔ)的系統(tǒng)化...
【文章來(lái)源】:武漢大學(xué)湖北省 211工程院校 985工程院校 教育部直屬院校
【文章頁(yè)數(shù)】:132 頁(yè)
【學(xué)位級(jí)別】:博士
【部分圖文】:
圖2-2?Fac化ook?H巧stack的系繞架構(gòu)??(2)分布式鍵值系統(tǒng)??
庫(kù)的底層存儲(chǔ),如Google的Google?File?System?(GFS)作為分布式表格系統(tǒng)??Google?Bigtable?的底層存儲(chǔ)["],Amazo打的?Elastic?Block?Sl:oi*e?(EBS)作為分布式??數(shù)據(jù)庫(kù)Amazon?RDS的底層存儲(chǔ)[19]。如圖2-2為Facebook?Haystack的系統(tǒng)架構(gòu)。??Haystack?存儲(chǔ)??巧,:蘭違玄r辭??1?4?I!?6|?|9??f瀏覽器1?<?5?(?CDN?]??、???/?10?^?心??圖2-2?Fac化ook?H巧stack的系繞架構(gòu)??(2)分布式鍵值系統(tǒng)??分布式鍵值系統(tǒng)常用來(lái)存儲(chǔ)簡(jiǎn)單關(guān)系型半結(jié)構(gòu)化數(shù)據(jù),只提供基于主鍵的??CRUD?(燈eat/Read/Update/DeIet;e?)。典型的系統(tǒng)有?Amazon?Dynamo口0]?及??Taobao?TairPi],從數(shù)據(jù)結(jié)構(gòu)的角度看,分布式鍵值系統(tǒng)與哈希表類似,然而不??同的是分布式鍵值系統(tǒng)支持將數(shù)據(jù)分不到集群中的多個(gè)存儲(chǔ)節(jié)點(diǎn)。分布式鍵值??系統(tǒng)是分布式表格系統(tǒng)的一種簡(jiǎn)化形式,一般用作緩存,例如MemcacheP2L??如圖2-3為Taobao?Tair的系統(tǒng)架構(gòu)。??皆I?s'?^?j客戶端??i?主服務(wù)器?Data?Server??!切I?w?W?W?W??I備服務(wù)器^?1?I??i?^<^3^?j?Config?Server??圖2-3?Taobao?Tair的系統(tǒng)架構(gòu)??第13頁(yè)??
還有一些常見(jiàn)的分布式存儲(chǔ)系統(tǒng),例如P2P存儲(chǔ)系統(tǒng)PSI,將存儲(chǔ)節(jié)??點(diǎn)對(duì)等方式組成網(wǎng)絡(luò)存儲(chǔ)系統(tǒng),支持分布式控制,具有高擴(kuò)展、窩容錯(cuò)性,??不存在單點(diǎn)性能瓶頸,容易實(shí)現(xiàn)大規(guī)模存儲(chǔ)服務(wù)。如圖2-6為典型的P2P存儲(chǔ)??系統(tǒng)Chord系統(tǒng)架構(gòu)。??N1??N56?"XX?N8??W?1/??N38?^21??N32??圖2-6?P2P存儲(chǔ)系統(tǒng)Chord的系繞架構(gòu)??數(shù)據(jù)網(wǎng)格(Data?Grid)?PSl是網(wǎng)格定義的延伸和擴(kuò)展,為分布式存儲(chǔ)和計(jì)算??單元提供一種融合架構(gòu),由眾多地理上分散的計(jì)算、存儲(chǔ)和網(wǎng)絡(luò)資源組成支持??數(shù)據(jù)共享和管理。數(shù)據(jù)網(wǎng)格非常適用于數(shù)據(jù)密集型應(yīng)用領(lǐng)域,例如科學(xué)計(jì)算[34]、??高能物理[35]等。如圖2-7數(shù)據(jù)網(wǎng)格的系統(tǒng)架構(gòu)。??Cluster?A?八?^?Clus化rB?產(chǎn)?、??Client?^?1?Workstation??A^orkstation????[?Internet?)????Cluster?C?尸?Ciwter?D???.??Client?口‘。"??Workstation?Workstation??圖2-7數(shù)據(jù)網(wǎng)格的系統(tǒng)架構(gòu)??總之,分布式存儲(chǔ)系統(tǒng)作為分布式數(shù)據(jù)存儲(chǔ)的底層設(shè)施,承擔(dān)著數(shù)據(jù)存儲(chǔ)??與處理,計(jì)算任務(wù)的執(zhí)行等,是整個(gè)分布式數(shù)據(jù)存儲(chǔ)的"骨架"。??2.2.2分布式存儲(chǔ)技術(shù)??第15頁(yè)??
【參考文獻(xiàn)】:
期刊論文
[1]OceanBase關(guān)系數(shù)據(jù)庫(kù)架構(gòu)[J]. 陽(yáng)振坤. 華東師范大學(xué)學(xué)報(bào)(自然科學(xué)版). 2014(05)
[2]大數(shù)據(jù)管理:概念、技術(shù)與挑戰(zhàn)[J]. 孟小峰,慈祥. 計(jì)算機(jī)研究與發(fā)展. 2013(01)
[3]分級(jí)存儲(chǔ)系統(tǒng)中一種數(shù)據(jù)自動(dòng)遷移方法[J]. 張廣艷,丘建平. 計(jì)算機(jī)研究與發(fā)展. 2012(08)
[4]一種性能優(yōu)化的小文件存儲(chǔ)訪問(wèn)策略的研究[J]. 趙躍龍,謝曉玲,蔡詠才,王國(guó)華,劉霖. 計(jì)算機(jī)研究與發(fā)展. 2012(07)
[5]曙光星云分布式文件系統(tǒng):海量小文件存取[J]. 馬燦,孟丹,熊勁. 小型微型計(jì)算機(jī)系統(tǒng). 2012(07)
[6]云計(jì)算和云數(shù)據(jù)管理技術(shù)[J]. 劉正偉,文中領(lǐng),張海濤. 計(jì)算機(jī)研究與發(fā)展. 2012(S1)
[7]云計(jì)算:體系架構(gòu)與關(guān)鍵技術(shù)[J]. 羅軍舟,金嘉暉,宋愛(ài)波,東方. 通信學(xué)報(bào). 2011(07)
[8]基于虛擬機(jī)遷移的虛擬機(jī)集群資源調(diào)度[J]. 周文煜,陳華平,楊壽保,方君. 華中科技大學(xué)學(xué)報(bào)(自然科學(xué)版). 2011(S1)
[9]一種海量數(shù)據(jù)分級(jí)存儲(chǔ)系統(tǒng)TH-TS[J]. 敖莉,于得水,舒繼武,薛巍. 計(jì)算機(jī)研究與發(fā)展. 2011(06)
[10]一種提高云存儲(chǔ)中小文件存儲(chǔ)效率的方案[J]. 余思,桂小林,黃汝維,莊威. 西安交通大學(xué)學(xué)報(bào). 2011(06)
博士論文
[1]分布式存儲(chǔ)系統(tǒng)中基于糾刪碼的容錯(cuò)技術(shù)研究[D]. 朱云鋒.中國(guó)科學(xué)技術(shù)大學(xué) 2014
[2]大規(guī)模分布式存儲(chǔ)系統(tǒng)中數(shù)據(jù)冗余技術(shù)研究[D]. 黃震.國(guó)防科學(xué)技術(shù)大學(xué) 2012
[3]大規(guī)模分布式存儲(chǔ)技術(shù)研究[D]. 魏青松.電子科技大學(xué) 2004
本文編號(hào):2901012
【文章來(lái)源】:武漢大學(xué)湖北省 211工程院校 985工程院校 教育部直屬院校
【文章頁(yè)數(shù)】:132 頁(yè)
【學(xué)位級(jí)別】:博士
【部分圖文】:
圖2-2?Fac化ook?H巧stack的系繞架構(gòu)??(2)分布式鍵值系統(tǒng)??
庫(kù)的底層存儲(chǔ),如Google的Google?File?System?(GFS)作為分布式表格系統(tǒng)??Google?Bigtable?的底層存儲(chǔ)["],Amazo打的?Elastic?Block?Sl:oi*e?(EBS)作為分布式??數(shù)據(jù)庫(kù)Amazon?RDS的底層存儲(chǔ)[19]。如圖2-2為Facebook?Haystack的系統(tǒng)架構(gòu)。??Haystack?存儲(chǔ)??巧,:蘭違玄r辭??1?4?I!?6|?|9??f瀏覽器1?<?5?(?CDN?]??、???/?10?^?心??圖2-2?Fac化ook?H巧stack的系繞架構(gòu)??(2)分布式鍵值系統(tǒng)??分布式鍵值系統(tǒng)常用來(lái)存儲(chǔ)簡(jiǎn)單關(guān)系型半結(jié)構(gòu)化數(shù)據(jù),只提供基于主鍵的??CRUD?(燈eat/Read/Update/DeIet;e?)。典型的系統(tǒng)有?Amazon?Dynamo口0]?及??Taobao?TairPi],從數(shù)據(jù)結(jié)構(gòu)的角度看,分布式鍵值系統(tǒng)與哈希表類似,然而不??同的是分布式鍵值系統(tǒng)支持將數(shù)據(jù)分不到集群中的多個(gè)存儲(chǔ)節(jié)點(diǎn)。分布式鍵值??系統(tǒng)是分布式表格系統(tǒng)的一種簡(jiǎn)化形式,一般用作緩存,例如MemcacheP2L??如圖2-3為Taobao?Tair的系統(tǒng)架構(gòu)。??皆I?s'?^?j客戶端??i?主服務(wù)器?Data?Server??!切I?w?W?W?W??I備服務(wù)器^?1?I??i?^<^3^?j?Config?Server??圖2-3?Taobao?Tair的系統(tǒng)架構(gòu)??第13頁(yè)??
還有一些常見(jiàn)的分布式存儲(chǔ)系統(tǒng),例如P2P存儲(chǔ)系統(tǒng)PSI,將存儲(chǔ)節(jié)??點(diǎn)對(duì)等方式組成網(wǎng)絡(luò)存儲(chǔ)系統(tǒng),支持分布式控制,具有高擴(kuò)展、窩容錯(cuò)性,??不存在單點(diǎn)性能瓶頸,容易實(shí)現(xiàn)大規(guī)模存儲(chǔ)服務(wù)。如圖2-6為典型的P2P存儲(chǔ)??系統(tǒng)Chord系統(tǒng)架構(gòu)。??N1??N56?"XX?N8??W?1/??N38?^21??N32??圖2-6?P2P存儲(chǔ)系統(tǒng)Chord的系繞架構(gòu)??數(shù)據(jù)網(wǎng)格(Data?Grid)?PSl是網(wǎng)格定義的延伸和擴(kuò)展,為分布式存儲(chǔ)和計(jì)算??單元提供一種融合架構(gòu),由眾多地理上分散的計(jì)算、存儲(chǔ)和網(wǎng)絡(luò)資源組成支持??數(shù)據(jù)共享和管理。數(shù)據(jù)網(wǎng)格非常適用于數(shù)據(jù)密集型應(yīng)用領(lǐng)域,例如科學(xué)計(jì)算[34]、??高能物理[35]等。如圖2-7數(shù)據(jù)網(wǎng)格的系統(tǒng)架構(gòu)。??Cluster?A?八?^?Clus化rB?產(chǎn)?、??Client?^?1?Workstation??A^orkstation????[?Internet?)????Cluster?C?尸?Ciwter?D???.??Client?口‘。"??Workstation?Workstation??圖2-7數(shù)據(jù)網(wǎng)格的系統(tǒng)架構(gòu)??總之,分布式存儲(chǔ)系統(tǒng)作為分布式數(shù)據(jù)存儲(chǔ)的底層設(shè)施,承擔(dān)著數(shù)據(jù)存儲(chǔ)??與處理,計(jì)算任務(wù)的執(zhí)行等,是整個(gè)分布式數(shù)據(jù)存儲(chǔ)的"骨架"。??2.2.2分布式存儲(chǔ)技術(shù)??第15頁(yè)??
【參考文獻(xiàn)】:
期刊論文
[1]OceanBase關(guān)系數(shù)據(jù)庫(kù)架構(gòu)[J]. 陽(yáng)振坤. 華東師范大學(xué)學(xué)報(bào)(自然科學(xué)版). 2014(05)
[2]大數(shù)據(jù)管理:概念、技術(shù)與挑戰(zhàn)[J]. 孟小峰,慈祥. 計(jì)算機(jī)研究與發(fā)展. 2013(01)
[3]分級(jí)存儲(chǔ)系統(tǒng)中一種數(shù)據(jù)自動(dòng)遷移方法[J]. 張廣艷,丘建平. 計(jì)算機(jī)研究與發(fā)展. 2012(08)
[4]一種性能優(yōu)化的小文件存儲(chǔ)訪問(wèn)策略的研究[J]. 趙躍龍,謝曉玲,蔡詠才,王國(guó)華,劉霖. 計(jì)算機(jī)研究與發(fā)展. 2012(07)
[5]曙光星云分布式文件系統(tǒng):海量小文件存取[J]. 馬燦,孟丹,熊勁. 小型微型計(jì)算機(jī)系統(tǒng). 2012(07)
[6]云計(jì)算和云數(shù)據(jù)管理技術(shù)[J]. 劉正偉,文中領(lǐng),張海濤. 計(jì)算機(jī)研究與發(fā)展. 2012(S1)
[7]云計(jì)算:體系架構(gòu)與關(guān)鍵技術(shù)[J]. 羅軍舟,金嘉暉,宋愛(ài)波,東方. 通信學(xué)報(bào). 2011(07)
[8]基于虛擬機(jī)遷移的虛擬機(jī)集群資源調(diào)度[J]. 周文煜,陳華平,楊壽保,方君. 華中科技大學(xué)學(xué)報(bào)(自然科學(xué)版). 2011(S1)
[9]一種海量數(shù)據(jù)分級(jí)存儲(chǔ)系統(tǒng)TH-TS[J]. 敖莉,于得水,舒繼武,薛巍. 計(jì)算機(jī)研究與發(fā)展. 2011(06)
[10]一種提高云存儲(chǔ)中小文件存儲(chǔ)效率的方案[J]. 余思,桂小林,黃汝維,莊威. 西安交通大學(xué)學(xué)報(bào). 2011(06)
博士論文
[1]分布式存儲(chǔ)系統(tǒng)中基于糾刪碼的容錯(cuò)技術(shù)研究[D]. 朱云鋒.中國(guó)科學(xué)技術(shù)大學(xué) 2014
[2]大規(guī)模分布式存儲(chǔ)系統(tǒng)中數(shù)據(jù)冗余技術(shù)研究[D]. 黃震.國(guó)防科學(xué)技術(shù)大學(xué) 2012
[3]大規(guī)模分布式存儲(chǔ)技術(shù)研究[D]. 魏青松.電子科技大學(xué) 2004
本文編號(hào):2901012
本文鏈接:http://www.lk138.cn/kejilunwen/jisuanjikexuelunwen/2901012.html
最近更新
教材專著