我們都知道，現(xiàn)在談?wù)摰拇髷?shù)據(jù)，其最顯著的特征之一就是“大”，這簡單一個“大”字，就使得企業(yè)在面對大數(shù)據(jù)的時候開始不得不采用分布式的計算方式，還有一系列化繁為簡的計算方法。
在處理大規(guī)模信息的時候，大數(shù)據(jù)的很多應(yīng)用程序出于對于彈性應(yīng)用的考慮，需要將數(shù)據(jù)復(fù)制到很多個不同的位置當(dāng)中，從而信息量開始變得越來越大，甚至是呈指數(shù)倍的增長。
大數(shù)據(jù)的最重要屬性并不在于它的規(guī)模，而在于它將大作業(yè)分割成許多小作業(yè)的能力，它能夠?qū)⑻幚硪粋€任務(wù)的資源分散到多個位置變?yōu)椴⑿刑幚怼．?dāng)我們面對大數(shù)據(jù)應(yīng)用以及分布式架構(gòu)應(yīng)用的時候，需要注意哪些問題呢？本期我們就來說說。
大數(shù)據(jù)應(yīng)用程序在彈性網(wǎng)絡(luò)當(dāng)中的作用
我們知道，如果一組分布式計算資源需要通過互聯(lián)網(wǎng)進行串通和協(xié)調(diào)時，其應(yīng)用的可用性就變得非常重要了，一旦其中的網(wǎng)絡(luò)通訊環(huán)節(jié)出現(xiàn)問題，那么對于數(shù)據(jù)計算結(jié)果將會導(dǎo)致難以想象的災(zāi)難。
其實對于現(xiàn)在的很多大數(shù)據(jù)應(yīng)用來說，大部分的網(wǎng)絡(luò)架構(gòu)安全性和穩(wěn)定性還是很高的，當(dāng)然，網(wǎng)絡(luò)和數(shù)據(jù)資源當(dāng)中的故障是不可避免的，雖然網(wǎng)絡(luò)的高度可用性也很重要，但是想要設(shè)計完美可用性是不可能的。
對于企業(yè)的架構(gòu)師們來說，彈性網(wǎng)絡(luò)的解決方案是非常有效的解決方式之一，網(wǎng)絡(luò)的彈性取決于路徑多樣性和故障轉(zhuǎn)移兩大類。除了傳統(tǒng)的平均故障時間間隔方法，大數(shù)據(jù)網(wǎng)絡(luò)的真正設(shè)計標(biāo)準(zhǔn)一定要包含這些特性。
大數(shù)據(jù)的“擁堵”問題
眾所周知，之所以稱之為大數(shù)據(jù)技術(shù)，數(shù)據(jù)量的龐大是一定的，然而，對于大數(shù)據(jù)應(yīng)用程序來說，不僅僅是規(guī)模大，對于數(shù)據(jù)的突發(fā)情況也是讓現(xiàn)在很多企業(yè)很頭疼的。
在高流量時間段里，擁塞是一個嚴(yán)重的問題。然而，擁塞可能引起更多的隊列延遲時間和丟包率。此外，擁塞還可能觸發(fā)重轉(zhuǎn)，這可能讓本身負(fù)載繁重的網(wǎng)絡(luò)無法承受。
網(wǎng)絡(luò)架構(gòu)設(shè)計時應(yīng)該盡可能減少擁塞點。按照可用性的設(shè)計標(biāo)準(zhǔn)，減少擁塞要求網(wǎng)絡(luò)具有較高的路徑多樣性，這樣才能允許網(wǎng)絡(luò)將流量分散到大量不同的路徑上。
網(wǎng)絡(luò)一致性比延遲更重要？
這是一位業(yè)內(nèi)資深專家的看法，他指出，對于大部分大數(shù)據(jù)的應(yīng)用程序來說，網(wǎng)絡(luò)延遲其實并不算什么大事，如果計算時間的數(shù)量級為幾秒鐘或幾分鐘，那么即使網(wǎng)絡(luò)上出現(xiàn)較大延遲也是無所謂的。
但是，大數(shù)據(jù)應(yīng)用一般都需要有較高的數(shù)據(jù)同步性，這種特性對于大數(shù)據(jù)服務(wù)的體驗來說是非常重要的，因為它意味著作業(yè)是并行執(zhí)行的，而各個作業(yè)之間較大的性能差異可能會引發(fā)應(yīng)用程序的故障。
未雨綢繆，數(shù)據(jù)未來的伸縮性
我們先來看一組數(shù)字，許多人都知道雅虎在其大數(shù)據(jù)環(huán)境中運行著超過42000個節(jié)點，但是根據(jù)Hadoop Wizard的數(shù)據(jù)，2013年大數(shù)據(jù)集群的平均節(jié)點數(shù)量只有100個。
也就是說，其中的每一臺服務(wù)器即使配置了雙重冗余的話，那么支持整個集群也只需要4個接入交換機，可伸縮性并不在于現(xiàn)在集群現(xiàn)在有多大規(guī)模，而是說如何平衡地擴展支持未來的部署規(guī)模。
如果基礎(chǔ)架構(gòu)設(shè)計現(xiàn)在只適合小規(guī)模部署，那么這個架構(gòu)將如何隨著節(jié)點數(shù)量的增加而不斷進化，可伸縮性并不在于絕對規(guī)模，而是更關(guān)注于實現(xiàn)足夠規(guī)模解決方案的路徑。>>
通過網(wǎng)絡(luò)分割處理數(shù)據(jù)
網(wǎng)絡(luò)分割技術(shù)是構(gòu)成大數(shù)據(jù)環(huán)境的重要組成部分，簡單來說，網(wǎng)絡(luò)分割技術(shù)可能意味著用戶需要將大量的數(shù)據(jù)和網(wǎng)絡(luò)流量進行分離，這樣做的好處就是可以避免因為突發(fā)而產(chǎn)生的流量影響一些關(guān)鍵業(yè)務(wù)的正常運行。
此外，用戶還需要處理運行多個作業(yè)的多個租戶，以滿足性能、合規(guī)性或?qū)徲嫷囊蟆＿@些工作要求在一些場合中實現(xiàn)網(wǎng)絡(luò)負(fù)載的邏輯分離，一些場合則還要實現(xiàn)它們的物理分離。
一切都離不開應(yīng)用感知能力
大數(shù)據(jù)現(xiàn)在已經(jīng)成為了集群環(huán)境的標(biāo)志性詞語之一，通過不同應(yīng)用的不同需求，很多數(shù)據(jù)對于應(yīng)用的敏感性方面要求開始不斷提升，說白了就是一個網(wǎng)絡(luò)要支持多應(yīng)用程序和多租戶，它就必須要能夠區(qū)分自己的工作負(fù)載，并且要能夠正確處理各個工作負(fù)載，這點其實是很困難的。
應(yīng)用程序的良好體驗是由多方面因素組成的，網(wǎng)絡(luò)阻塞情況、網(wǎng)絡(luò)可擴展性、大數(shù)據(jù)應(yīng)用技巧等等很多方面，用戶對于這些應(yīng)用和技巧的需求和前瞻選擇也是提升大數(shù)據(jù)體驗的重要指標(biāo)之一。
京公網(wǎng)安備 11010502049343號