當(dāng)下，大數(shù)據(jù)的趨勢(shì)已逐步從概念走向落地，而在IT人跟隨大數(shù)據(jù)浪潮的轉(zhuǎn)型中，各大企業(yè)對(duì)大數(shù)據(jù)高端人才的需求也越來越緊迫。這一趨勢(shì)，也給想要從事大數(shù)據(jù)方面工作的人員提供了難得的職業(yè)機(jī)遇。
從長(zhǎng)期實(shí)踐總結(jié)出大數(shù)據(jù)主要的三大就業(yè)方向：大數(shù)據(jù)系統(tǒng)研發(fā)類人才、大數(shù)據(jù)應(yīng)用開發(fā)類人才和大數(shù)據(jù)分析類人才。在此三大方向中，各自的基礎(chǔ)崗位一般為大數(shù)據(jù)系統(tǒng)研發(fā)工程師、大數(shù)據(jù)應(yīng)用開發(fā)工程師和數(shù)據(jù)分析師。
從企業(yè)方面來說，大數(shù)據(jù)人才大致可以分為產(chǎn)品和市場(chǎng)分析、安全和風(fēng)險(xiǎn)分析以及商業(yè)智能三大領(lǐng)域。產(chǎn)品分析是指通過算法來測(cè)試新產(chǎn)品的有效性，是一個(gè)相對(duì)較 新的領(lǐng)域。在安全和風(fēng)險(xiǎn)分析方面，數(shù)據(jù)科學(xué)家們知道需要收集哪些數(shù)據(jù)、如何進(jìn)行快速分析，并最終通過分析信息來有效遏制網(wǎng)絡(luò)入侵或抓住網(wǎng)絡(luò)罪犯。
一、ETL研發(fā)
隨著數(shù)據(jù)種類的不斷增加，企業(yè)對(duì)數(shù)據(jù)整合專業(yè)人才的需求越來越旺盛。ETL開發(fā)者與不同的數(shù)據(jù)來源和組織打交道，從不同的源頭抽取數(shù)據(jù)，轉(zhuǎn)換并導(dǎo)入數(shù)據(jù)倉庫以滿足企業(yè)的需要。
ETL研發(fā)，主要負(fù)責(zé)將分散的、異構(gòu)數(shù)據(jù)源中的數(shù)據(jù)如關(guān)系數(shù)據(jù)、平面數(shù)據(jù)文件等抽取到臨時(shí)中間層后進(jìn)行清洗、轉(zhuǎn)換、集成，最后加載到數(shù)據(jù)倉庫或數(shù)據(jù)集市中，成為聯(lián)機(jī)分析處理、數(shù)據(jù)挖掘的基礎(chǔ)。
目前，ETL行業(yè)相對(duì)成熟，相關(guān)崗位的工作生命周期比較長(zhǎng)，通常由內(nèi)部員工和外包合同商之間通力完成。ETL人才在大數(shù)據(jù)時(shí)代炙手可熱的原因之一是：在企業(yè)大數(shù)據(jù)應(yīng)用的早期階段，Hadoop只是窮人的ETL。
二、Hadoop開發(fā)
Hadoop的核心是HDFS和MapReduce.HDFS提供了海量數(shù)據(jù)的存儲(chǔ)，MapReduce提供了對(duì)數(shù)據(jù)的計(jì)算。隨著數(shù)據(jù)集規(guī)模不斷增大，而傳統(tǒng)BI的數(shù)據(jù)處理成本過高，企業(yè)對(duì)Hadoop及相關(guān)的廉價(jià)數(shù)據(jù)處理技術(shù)如Hive、HBase、MapReduce、Pig等的需求將持續(xù)增長(zhǎng)。如今具備Hadoop框架經(jīng)驗(yàn)的技術(shù)人員是最搶手的大數(shù)據(jù)人才。
三、可視化(前端展現(xiàn))工具開發(fā)
海量數(shù)據(jù)的分析是個(gè)大挑戰(zhàn)，而新型數(shù)據(jù)可視化工具如Spotifre，Qlikview和Tableau可以直觀高效地展示數(shù)據(jù)。
可視化開發(fā)就是在可視開發(fā)工具提供的圖形用戶界面上，通過操作界面元素，由可視開發(fā)工具自動(dòng)生成應(yīng)用軟件。還可輕松跨越多個(gè)資源和層次連接您的所有數(shù) 據(jù)，經(jīng)過時(shí)間考驗(yàn)，完全可擴(kuò)展的，功能豐富全面的可視化組件庫為開發(fā)人員提供了功能完整并且簡(jiǎn)單易用的組件集合，以用來構(gòu)建極其豐富的用戶界面。
過去，數(shù)據(jù)可視化屬于商業(yè)智能開發(fā)者類別，但是隨著Hadoop的崛起，數(shù)據(jù)可視化已經(jīng)成了一項(xiàng)獨(dú)立的專業(yè)技能和崗位。
四、信息架構(gòu)開發(fā)
大數(shù)據(jù)重新激發(fā)了主數(shù)據(jù)管理的熱潮。充分開發(fā)利用企業(yè)數(shù)據(jù)并支持決策需要非常專業(yè)的技能。信息架構(gòu)師必須了解如何定義和存檔關(guān)鍵元素，確保以最有效的方式進(jìn)行數(shù)據(jù)管理和利用。信息架構(gòu)師的關(guān)鍵技能包括主數(shù)據(jù)管理、業(yè)務(wù)知識(shí)和數(shù)據(jù)建模等。
五、數(shù)據(jù)倉庫研究
數(shù)據(jù)倉庫是為企業(yè)所有級(jí)別的決策制定過程提供支持的所有類型數(shù)據(jù)的戰(zhàn)略集合。它是單個(gè)數(shù)據(jù)存儲(chǔ)，出于分析性報(bào)告和決策支持的目的而創(chuàng)建。為企業(yè)提供需要業(yè)務(wù)智能來指導(dǎo)業(yè)務(wù)流程改進(jìn)和監(jiān)視時(shí)間、成本、質(zhì)量和控制。
數(shù)據(jù)倉庫的專家熟悉Teradata、Neteeza和Exadata等公司的大數(shù)據(jù)一體機(jī)。能夠在這些一體機(jī)上完成數(shù)據(jù)集成、管理和性能優(yōu)化等工作。
六、OLAP開發(fā)
隨著數(shù)據(jù)庫技術(shù)的發(fā)展和應(yīng)用，數(shù)據(jù)庫存儲(chǔ)的數(shù)據(jù)量從20世紀(jì)80年代的兆(M)字節(jié)及千兆(G)字節(jié)過渡到現(xiàn)在的兆兆(T)字節(jié)和千兆兆(P)字節(jié)，同時(shí)，用戶的查詢需求也越來越復(fù)雜，涉及的已不僅是查詢或操縱一張關(guān)系表中的一條或幾條記錄，而且要對(duì)多張表中千萬條記錄的數(shù)據(jù)進(jìn)行數(shù)據(jù)分析和信息綜合。聯(lián)機(jī)分析處理(OLAP)系統(tǒng)就負(fù)責(zé)解決此類海量數(shù)據(jù)處理的問題。
OLAP在線聯(lián)機(jī)分析開發(fā)者，負(fù)責(zé)將數(shù)據(jù)從關(guān)系型或非關(guān)系型數(shù)據(jù)源中抽取出來建立模型，然后創(chuàng)建數(shù)據(jù)訪問的用戶界面，提供高性能的預(yù)定義查詢功能。
七、數(shù)據(jù)科學(xué)研究
這一職位過去也被稱為數(shù)據(jù)架構(gòu)研究，數(shù)據(jù)科學(xué)家是一個(gè)全新的工種，能夠?qū)⑵髽I(yè)的數(shù)據(jù)和技術(shù)轉(zhuǎn)化為企業(yè)的商業(yè)價(jià)值。隨著數(shù)據(jù)學(xué)的進(jìn)展，越來越多的實(shí)際工作 將會(huì)直接針對(duì)數(shù)據(jù)進(jìn)行，這將使人類認(rèn)識(shí)數(shù)據(jù)，從而認(rèn)識(shí)自然和行為。因此，數(shù)據(jù)科學(xué)家首先應(yīng)當(dāng)具備優(yōu)秀的溝通技能，能夠同時(shí)將數(shù)據(jù)分析結(jié)果解釋給IT部門和業(yè)務(wù)部門領(lǐng)導(dǎo)。
總的來說，數(shù)據(jù)科學(xué)家是分析師、藝術(shù)家的合體，需要具備多種交叉科學(xué)和商業(yè)技能。
八、數(shù)據(jù)預(yù)測(cè)(數(shù)據(jù)挖掘)分析
營(yíng)銷部門經(jīng)常使用預(yù)測(cè)分析預(yù)測(cè)用戶行為或鎖定目標(biāo)用戶。預(yù)測(cè)分析開發(fā)者有些場(chǎng)景看上有有些類似數(shù)據(jù)科學(xué)家，即在企業(yè)歷史數(shù)據(jù)的基礎(chǔ)上通過假設(shè)來測(cè)試閾值并預(yù)測(cè)未來的表現(xiàn)。
九、企業(yè)數(shù)據(jù)管理
企業(yè)要提高數(shù)據(jù)質(zhì)量必須考慮進(jìn)行數(shù)據(jù)管理，并需要為此設(shè)立數(shù)據(jù)管家職位，這一職位的人員需要能夠利用各種技術(shù)工具匯集企業(yè)周圍的大量數(shù)據(jù)，并將數(shù)據(jù)清洗 和規(guī)范化，將數(shù)據(jù)導(dǎo)入數(shù)據(jù)倉庫中，成為一個(gè)可用的版本。然后，通過報(bào)表和分析技術(shù)，數(shù)據(jù)被切片、切塊，并交付給成千上萬的人。擔(dān)當(dāng)數(shù)據(jù)管家的人，需要保證 市場(chǎng)數(shù)據(jù)的完整性，準(zhǔn)確性，唯一性，真實(shí)性和不冗余。
十、數(shù)據(jù)安全研究
數(shù)據(jù)安全這一職位，主要負(fù)責(zé)企業(yè)內(nèi)部大型服務(wù)器、存儲(chǔ)、數(shù)據(jù)安全管理工作，并對(duì)網(wǎng)絡(luò)、信息安全項(xiàng)目進(jìn)行規(guī)劃、設(shè)計(jì)和實(shí)施。數(shù)據(jù)安全研究員還需要具有較強(qiáng)的管理經(jīng)驗(yàn)，具備運(yùn)維管理方面的知識(shí)和能力，對(duì)企業(yè)傳統(tǒng)業(yè)務(wù)有較深刻的理解，才能確保企業(yè)數(shù)據(jù)安全做到一絲不漏。
京公網(wǎng)安備 11010502049343號(hào)