精品国产一级在线观看,国产成人综合久久精品亚洲,免费一级欧美大片在线观看

當前位置:大數據數據庫 → 正文

解析大數據時代的數據庫集群技術

責任編輯:editor004 |來源:企業網D1Net  2014-05-16 16:26:39 本文摘自:CSDN

當今世界是一個信息化的世界,我們的生活中無論是生活、工作、學習都離不開信息系統的支撐。而信息系統的背后用于保存和處理最終結果的地方就是數據庫。因此數據庫系統就變得尤為重要,這意味著如果數據庫如果面臨問題,則意味著整個應用系統也會面臨挑戰,從而帶來嚴重的損失和后果。

如今“大數據”這個詞已經變得非常流行,雖然這個概念如何落地不得而知。但可以確定的是,隨著物聯網、移動應用的興起,數據量相比過去會有幾何級的提升,因此數據庫所需要解決的問題不再僅僅是記錄程序正確的處理結果,還需要解決如下挑戰:

當數據庫性能遇到問題時,是否能夠橫向擴展,通過添加服務器的方式達到更高的吞吐量,從而充分利用現有的硬件實現更好的投資回報率。是否擁有實時同步的副本,當數據庫面臨災難時,可以短時間內通過故障轉移的方式保證數據庫的可用性。此外,當數據丟失或損壞時,能否通過所謂的實時副本(熱備)實現數據的零損失。數據庫的橫向擴展是否對應用程序透明,如果數據庫的橫向擴展需要應用程序端進行大量修改,則所帶來的后果不僅僅是高昂的開發成本,同時也會帶來很多潛在和非潛在的風險。

面對上述挑戰一個顯而易見的辦法是將多個服務器組成一組集群,這樣一來就可以充分利用每一臺服務器的資源并將客戶端負載分發到不同服務器上,隨著應用程序負載的增加,只需要將新的服務器添加到集群即可。

本文將對集群的概念、形式以及目前主流的數據庫集群技術進行探討。

數據庫集群的形式

數據庫的集群和擴展不像應用程序擴展那樣容易,因為從數據庫端來說,一旦涉及到了集群,往往會涉及到數據庫層面的同步,因此從是否存在數據冗余這個角度來講,我們可以從大面上把數據庫集群分為以下兩種形式:

Share-Disk架構

Share-Disk架構是通過多個服務器節點共享一個存儲來實現數據庫集群,兩臺機器最簡單的Share-Disk架構如圖1所示。

 

圖1.簡單的Share-Disk架構

 

在此基礎之上,Share-Disk架構又分為單活和雙活,雙活即為集群中的每一個節點都可以同時對外提供服務,而單活為集群中只有一個節點可對外提供服務,集群中的其他服務器作為冗余在“活”的節點出現故障時接替該服務器成為對外提供服務的節點。該類架構最典型的產品就是SQL Server Failover Cluster(SQL Server故障轉移集群)、NEC的EXPRESSCLUSTER、ROSE的ROSE HA。這種方式的弊端也是顯而易見的,如下:

硬件資源的嚴重浪費,同一時間集群中只有一臺服務器活著,其他服務器只能作為冗余服務器。集群無法提升性能,因為只有一臺服務器可用存儲方面存在單點故障,除非在存儲層級保證高可用,通常需要昂貴的SAN存儲。

因此該類方案僅僅可以做到服務器層面的高可用,無法帶來性能的提升,也無法解決存儲單點故障的問題。因此如果不搭配其他高可用或負載均衡的技術,存在的意義并不是很大。

另一類技術是Share-Disk中的雙活的技術,與單活技術不同的是,雙活的技術雖然也是共享磁盤,但集群中的所有節點都可以對外提供服務,典型的產品就是Oracle的RAC。RAC的技術性非常的高,因此需要水平比較高的人來運維系統。RAC設計的初衷并不是為了性能,而是為了高可用和可擴展性,如果應用程序不是針對RAC架構設計和開發的,則將應用程序遷移到RAC上由于block contention (block busy waits)可能會導致性能的急劇下降,并且節點越多性能下降越明顯。

Share-Nothing架構

Share-Nothing架構又分為兩種,首先是分布式架構。將數據庫中的數據按照某一標準分布到多臺機器中,查詢或插入時按照條件查詢或插入對應的分區。

另一種是每一個節點完全獨立,節點之間通過網絡連接,通常是通過光釬等專用網絡。如圖2所示。

在Share-Nothing架構中,每一個節點都擁有自己的內存和存儲,都保留數據的完整副本。通常來說,又可以分為兩種,可以負載均衡和不可以負載均衡。

首先談談不可負載均衡的集群,在不可負載均衡的技術中,集群中的節點會被分為主節點和輔助節點,主節點向外提供服務,輔助節點作為熱備(二階段事務提交)或暖備(不需要保證事務同步),同時有可能使得輔助節點提供只讀的服務。使用這個架構的技術包括:SQL Server AlwaysOn,SQL Server Mirror,Oracle Data Guard這種架構帶來的好處包括:

輔助節點數據和主節點保持同步或準同步,當搭配第三方仲裁后,可以實現自動的故障轉移,從而實現了高可用輔助節點由于和主節點完全獨立且數據同步或準同步,因此主節點出現數據損壞后,可以從輔助節點恢復數據(自動或手動)由于Share-Nothing架構使用了本地存儲(或SAN),相較于Share-Disk架構在慢速網絡時有非常大的性能優勢

當然,弊端也顯而易見,因為輔助節點無法對外提供服務或只能提供只讀服務,因此該類集群的弊端包括:

擴展能力非常有限對性能沒有提升,因為涉及到各節點的數據同步,甚至帶來性能的下降輔助節點如果可讀,雖然提升性能,但需要修改前端應用程序,對應用程序不透明

另一類Share-Nothing架構中,是允許負載均衡的。所謂負載均衡就是將對數據庫的負載分布到集群中的多個節點上,在集群中的每一個節點都可以對外提供服務,從而達到更高的吞吐量,更好的資源利用率和更低的響應時間。前端通過代理進行調度。使用該類架構的技術包括:MySQL上的Amoeba(架構如圖3,摘自MySQL大師陳暢亮的博客:http://www.cnblogs.com/gaizai/archive/2012/06/12/2546755.html),MySQL上的HA Proxy(如圖4所示),格瑞趨勢在SQL Server上的Moebius集群(如圖5所示)。

圖3.Amoeba

圖4.HA Proxy

圖5.Moebius集群

可負載均衡的Share-Nothing架構的好處是每臺服務器都能提供服務,能充分利用現有資源,達到更高的吞吐量。其中Amoeba中可能會涉及到數據分片,數據分片的好處是對于海量數據的處理更加高效,但同時也引入了其他問題,比如說需要應用程序端對應數據分片進行調整、跨分片節點查詢的處理問題、每一個數據分片節點是否能夠承受各自業務負載的高峰問題等。該類架構需要實施的人員水平比較高,且需要應用層面做調整,因此更適合于互聯網企業。

另一類不涉及到數據分片的架構,比如一類可以使用組合方案,比如說Oracle RAC+F5。另一類是使用單個廠商提供的方案,比如說SQL Server上的Moebius。這類方案集群中的每個節點都會對外提供服務,因此有如下好處:

由于每一個節點都可以對外提供服務,因此可以提升性能

擴展性得到提升,可以通過向集群添加節點直接進行Scale-Out擴充

由于前端應用通過代理連接到集群,而集群中的每一個節點都保持完整的數據集,因此不存在分片不到位反而造成性能下降的問題,因此對應用程序端完全透明

但相比較于MySQL的數據分片,該類方案的弊端也顯而易見,因為每一個節點都需要完整的數據集,因此需要占用更多的存儲空間。

小結

本文從一個比較高的層面談到了數據庫集群技術。從數據庫應用層面的Share-Disk集群直到集群的最高形式-能夠提供負載均衡的集群,并列舉了一些主流的商用產品。集群的存在意義是為了保證高可用、數據安全、擴展性以及負載均衡。如果現在的集群產品不能包含這幾個特性,而業務場景也需要,也可以將和一些現有的技術結合來實現,但畢竟不是每一個人都是數據庫專家,即使給你一堆工具和材料你也做不出來iPhone,因此在系統設計之初就對數據庫方面的方案有所考慮會免去很多麻煩。

關鍵字:數據分片Scale-out數據庫

本文摘自:CSDN

x 解析大數據時代的數據庫集群技術 掃一掃
分享本文到朋友圈
當前位置:大數據數據庫 → 正文

解析大數據時代的數據庫集群技術

責任編輯:editor004 |來源:企業網D1Net  2014-05-16 16:26:39 本文摘自:CSDN

當今世界是一個信息化的世界,我們的生活中無論是生活、工作、學習都離不開信息系統的支撐。而信息系統的背后用于保存和處理最終結果的地方就是數據庫。因此數據庫系統就變得尤為重要,這意味著如果數據庫如果面臨問題,則意味著整個應用系統也會面臨挑戰,從而帶來嚴重的損失和后果。

如今“大數據”這個詞已經變得非常流行,雖然這個概念如何落地不得而知。但可以確定的是,隨著物聯網、移動應用的興起,數據量相比過去會有幾何級的提升,因此數據庫所需要解決的問題不再僅僅是記錄程序正確的處理結果,還需要解決如下挑戰:

當數據庫性能遇到問題時,是否能夠橫向擴展,通過添加服務器的方式達到更高的吞吐量,從而充分利用現有的硬件實現更好的投資回報率。是否擁有實時同步的副本,當數據庫面臨災難時,可以短時間內通過故障轉移的方式保證數據庫的可用性。此外,當數據丟失或損壞時,能否通過所謂的實時副本(熱備)實現數據的零損失。數據庫的橫向擴展是否對應用程序透明,如果數據庫的橫向擴展需要應用程序端進行大量修改,則所帶來的后果不僅僅是高昂的開發成本,同時也會帶來很多潛在和非潛在的風險。

面對上述挑戰一個顯而易見的辦法是將多個服務器組成一組集群,這樣一來就可以充分利用每一臺服務器的資源并將客戶端負載分發到不同服務器上,隨著應用程序負載的增加,只需要將新的服務器添加到集群即可。

本文將對集群的概念、形式以及目前主流的數據庫集群技術進行探討。

數據庫集群的形式

數據庫的集群和擴展不像應用程序擴展那樣容易,因為從數據庫端來說,一旦涉及到了集群,往往會涉及到數據庫層面的同步,因此從是否存在數據冗余這個角度來講,我們可以從大面上把數據庫集群分為以下兩種形式:

Share-Disk架構

Share-Disk架構是通過多個服務器節點共享一個存儲來實現數據庫集群,兩臺機器最簡單的Share-Disk架構如圖1所示。

 

圖1.簡單的Share-Disk架構

 

在此基礎之上,Share-Disk架構又分為單活和雙活,雙活即為集群中的每一個節點都可以同時對外提供服務,而單活為集群中只有一個節點可對外提供服務,集群中的其他服務器作為冗余在“活”的節點出現故障時接替該服務器成為對外提供服務的節點。該類架構最典型的產品就是SQL Server Failover Cluster(SQL Server故障轉移集群)、NEC的EXPRESSCLUSTER、ROSE的ROSE HA。這種方式的弊端也是顯而易見的,如下:

硬件資源的嚴重浪費,同一時間集群中只有一臺服務器活著,其他服務器只能作為冗余服務器。集群無法提升性能,因為只有一臺服務器可用存儲方面存在單點故障,除非在存儲層級保證高可用,通常需要昂貴的SAN存儲。

因此該類方案僅僅可以做到服務器層面的高可用,無法帶來性能的提升,也無法解決存儲單點故障的問題。因此如果不搭配其他高可用或負載均衡的技術,存在的意義并不是很大。

另一類技術是Share-Disk中的雙活的技術,與單活技術不同的是,雙活的技術雖然也是共享磁盤,但集群中的所有節點都可以對外提供服務,典型的產品就是Oracle的RAC。RAC的技術性非常的高,因此需要水平比較高的人來運維系統。RAC設計的初衷并不是為了性能,而是為了高可用和可擴展性,如果應用程序不是針對RAC架構設計和開發的,則將應用程序遷移到RAC上由于block contention (block busy waits)可能會導致性能的急劇下降,并且節點越多性能下降越明顯。

Share-Nothing架構

Share-Nothing架構又分為兩種,首先是分布式架構。將數據庫中的數據按照某一標準分布到多臺機器中,查詢或插入時按照條件查詢或插入對應的分區。

另一種是每一個節點完全獨立,節點之間通過網絡連接,通常是通過光釬等專用網絡。如圖2所示。

在Share-Nothing架構中,每一個節點都擁有自己的內存和存儲,都保留數據的完整副本。通常來說,又可以分為兩種,可以負載均衡和不可以負載均衡。

首先談談不可負載均衡的集群,在不可負載均衡的技術中,集群中的節點會被分為主節點和輔助節點,主節點向外提供服務,輔助節點作為熱備(二階段事務提交)或暖備(不需要保證事務同步),同時有可能使得輔助節點提供只讀的服務。使用這個架構的技術包括:SQL Server AlwaysOn,SQL Server Mirror,Oracle Data Guard這種架構帶來的好處包括:

輔助節點數據和主節點保持同步或準同步,當搭配第三方仲裁后,可以實現自動的故障轉移,從而實現了高可用輔助節點由于和主節點完全獨立且數據同步或準同步,因此主節點出現數據損壞后,可以從輔助節點恢復數據(自動或手動)由于Share-Nothing架構使用了本地存儲(或SAN),相較于Share-Disk架構在慢速網絡時有非常大的性能優勢

當然,弊端也顯而易見,因為輔助節點無法對外提供服務或只能提供只讀服務,因此該類集群的弊端包括:

擴展能力非常有限對性能沒有提升,因為涉及到各節點的數據同步,甚至帶來性能的下降輔助節點如果可讀,雖然提升性能,但需要修改前端應用程序,對應用程序不透明

另一類Share-Nothing架構中,是允許負載均衡的。所謂負載均衡就是將對數據庫的負載分布到集群中的多個節點上,在集群中的每一個節點都可以對外提供服務,從而達到更高的吞吐量,更好的資源利用率和更低的響應時間。前端通過代理進行調度。使用該類架構的技術包括:MySQL上的Amoeba(架構如圖3,摘自MySQL大師陳暢亮的博客:http://www.cnblogs.com/gaizai/archive/2012/06/12/2546755.html),MySQL上的HA Proxy(如圖4所示),格瑞趨勢在SQL Server上的Moebius集群(如圖5所示)。

圖3.Amoeba

圖4.HA Proxy

圖5.Moebius集群

可負載均衡的Share-Nothing架構的好處是每臺服務器都能提供服務,能充分利用現有資源,達到更高的吞吐量。其中Amoeba中可能會涉及到數據分片,數據分片的好處是對于海量數據的處理更加高效,但同時也引入了其他問題,比如說需要應用程序端對應數據分片進行調整、跨分片節點查詢的處理問題、每一個數據分片節點是否能夠承受各自業務負載的高峰問題等。該類架構需要實施的人員水平比較高,且需要應用層面做調整,因此更適合于互聯網企業。

另一類不涉及到數據分片的架構,比如一類可以使用組合方案,比如說Oracle RAC+F5。另一類是使用單個廠商提供的方案,比如說SQL Server上的Moebius。這類方案集群中的每個節點都會對外提供服務,因此有如下好處:

由于每一個節點都可以對外提供服務,因此可以提升性能

擴展性得到提升,可以通過向集群添加節點直接進行Scale-Out擴充

由于前端應用通過代理連接到集群,而集群中的每一個節點都保持完整的數據集,因此不存在分片不到位反而造成性能下降的問題,因此對應用程序端完全透明

但相比較于MySQL的數據分片,該類方案的弊端也顯而易見,因為每一個節點都需要完整的數據集,因此需要占用更多的存儲空間。

小結

本文從一個比較高的層面談到了數據庫集群技術。從數據庫應用層面的Share-Disk集群直到集群的最高形式-能夠提供負載均衡的集群,并列舉了一些主流的商用產品。集群的存在意義是為了保證高可用、數據安全、擴展性以及負載均衡。如果現在的集群產品不能包含這幾個特性,而業務場景也需要,也可以將和一些現有的技術結合來實現,但畢竟不是每一個人都是數據庫專家,即使給你一堆工具和材料你也做不出來iPhone,因此在系統設計之初就對數據庫方面的方案有所考慮會免去很多麻煩。

關鍵字:數據分片Scale-out數據庫

本文摘自:CSDN

電子周刊
回到頂部

關于我們聯系我們版權聲明隱私條款廣告服務友情鏈接投稿中心招賢納士

企業網版權所有 ©2010-2024 京ICP備09108050號-6 京公網安備 11010502049343號

^
  • <menuitem id="jw4sk"></menuitem>

    1. <form id="jw4sk"><tbody id="jw4sk"><dfn id="jw4sk"></dfn></tbody></form>
      主站蜘蛛池模板: 江安县| 曲松县| 姜堰市| 香河县| 扎兰屯市| 旬阳县| 乌拉特中旗| 旅游| 庆安县| 铁岭县| 房山区| 毕节市| 社旗县| 兴安盟| 时尚| 都江堰市| 樟树市| 通渭县| 开远市| 岳阳县| 镇巴县| 武山县| 城固县| 彩票| 库车县| 涞水县| 邵阳市| 松滋市| 大冶市| 临武县| 垦利县| 屯昌县| 泰和县| 永清县| 焉耆| 金寨县| 仁布县| 德化县| 河南省| 通海县| 台南县|