精品国产一级在线观看,国产成人综合久久精品亚洲,免费一级欧美大片在线观看

當前位置:大數據業界動態 → 正文

程序員需要關注的十個大數據技術

責任編輯:editor005 |來源:企業網D1Net  2017-06-06 14:24:39 本文摘自:NetSmell

大數據已然成為當今最熱門的技術之一,正呈爆炸式增長。每天來自全球的新項目如雨后春筍般涌現。幸運地是,開源讓越來越多的項目可以直接采用大數據技術,下面就來盤點最受歡迎的十大開源的大數據技術。

大數據

1. hadoop ——高效、可靠、可伸縮,能夠為你的數據存儲項目提供所需的YARN、HDFS和基礎架構,并且運行主要的大數據服務和應用程序。

2. Spark ——使用簡單、支持所有重要的大數據語言(Scala、Python、Java、R)。擁有強大的生態系統,成長迅速,對 microbatching/batching/SQL支持簡單。Spark能更好地適用于數據挖掘與機器學習等需要迭代的MapReduce的算法。

3. NiFi ——Apache NiFi是由美國國家安全局(NSA)貢獻給Apache基金會的開源項目,其設計目標是自動化系統間的數據流。基于其工作流式的編程理念,NiFi非常 易于使用、強大、可靠、高可配置。兩個最重要的特性是其強大的用戶界面和良好的數據回溯工具。堪稱大數據工具箱里的瑞士軍刀。

4. Apache Hive 2.1 ——Hive是建立在 Hadoop 上的數據倉庫基礎構架。它提供了一系列的工具,可以用來進行數據提取轉化加載(ETL),這是一種可以存儲、查詢和分析存儲在 Hadoop 中的大規模數據的機制。隨著最新版本的發布,性能和功能都得到了全面提升,Hive已成為SQL在大數據上的最佳解決方案。

5. Kafka ——Kafka是一種高吞吐量的分布式發布訂閱消息系統,它可以處理消費者規模網站中的所有動作流數據。它已成為大數據系統在異步和分布式消息之間的最佳選擇。從Spark到NiFi再到第三方插件工具以至于Java到Scala,它都提供了強大的粘合作用。

6. Phoenix —是HBase的SQL驅動。目前大量的公司采用它,并擴大其規模。HDFS支持的NoSQL能夠很好地集成所有工具。Phoenix查詢引擎會將SQL查詢轉換為一個或多個HBase scan,并編排執行以生成標準的JDBC結果集。

7. Zeppelin ——Zeppelin 是一個提供交互數據分析且基于Web的筆記本。方便你做出可數據驅動的、可交互且可協作的精美文檔,并且支持多種語言,包括 Scala(使用 Apache Spark)、Python(Apache Spark)、SparkSQL、 Hive、 Markdown、Shell等。

8. Sparkling Water ——H2O填補了Spark’s Machine Learning的缺口,它可以滿足你所有的機器學習。

9. Apache Beam ——在Java中提供統一的數據進程管道開發,并且能夠很好地支持Spark和Flink。提供很多在線框架,開發者無需學習太多框架。

10. Stanford CoreNLP ——自然語言處理擁有巨大的增長空間,斯坦福正在努力增進他們的框架。

關鍵字:插件工具NoSQLMapReduce

本文摘自:NetSmell

x 程序員需要關注的十個大數據技術 掃一掃
分享本文到朋友圈
當前位置:大數據業界動態 → 正文

程序員需要關注的十個大數據技術

責任編輯:editor005 |來源:企業網D1Net  2017-06-06 14:24:39 本文摘自:NetSmell

大數據已然成為當今最熱門的技術之一,正呈爆炸式增長。每天來自全球的新項目如雨后春筍般涌現。幸運地是,開源讓越來越多的項目可以直接采用大數據技術,下面就來盤點最受歡迎的十大開源的大數據技術。

大數據

1. hadoop ——高效、可靠、可伸縮,能夠為你的數據存儲項目提供所需的YARN、HDFS和基礎架構,并且運行主要的大數據服務和應用程序。

2. Spark ——使用簡單、支持所有重要的大數據語言(Scala、Python、Java、R)。擁有強大的生態系統,成長迅速,對 microbatching/batching/SQL支持簡單。Spark能更好地適用于數據挖掘與機器學習等需要迭代的MapReduce的算法。

3. NiFi ——Apache NiFi是由美國國家安全局(NSA)貢獻給Apache基金會的開源項目,其設計目標是自動化系統間的數據流。基于其工作流式的編程理念,NiFi非常 易于使用、強大、可靠、高可配置。兩個最重要的特性是其強大的用戶界面和良好的數據回溯工具。堪稱大數據工具箱里的瑞士軍刀。

4. Apache Hive 2.1 ——Hive是建立在 Hadoop 上的數據倉庫基礎構架。它提供了一系列的工具,可以用來進行數據提取轉化加載(ETL),這是一種可以存儲、查詢和分析存儲在 Hadoop 中的大規模數據的機制。隨著最新版本的發布,性能和功能都得到了全面提升,Hive已成為SQL在大數據上的最佳解決方案。

5. Kafka ——Kafka是一種高吞吐量的分布式發布訂閱消息系統,它可以處理消費者規模網站中的所有動作流數據。它已成為大數據系統在異步和分布式消息之間的最佳選擇。從Spark到NiFi再到第三方插件工具以至于Java到Scala,它都提供了強大的粘合作用。

6. Phoenix —是HBase的SQL驅動。目前大量的公司采用它,并擴大其規模。HDFS支持的NoSQL能夠很好地集成所有工具。Phoenix查詢引擎會將SQL查詢轉換為一個或多個HBase scan,并編排執行以生成標準的JDBC結果集。

7. Zeppelin ——Zeppelin 是一個提供交互數據分析且基于Web的筆記本。方便你做出可數據驅動的、可交互且可協作的精美文檔,并且支持多種語言,包括 Scala(使用 Apache Spark)、Python(Apache Spark)、SparkSQL、 Hive、 Markdown、Shell等。

8. Sparkling Water ——H2O填補了Spark’s Machine Learning的缺口,它可以滿足你所有的機器學習。

9. Apache Beam ——在Java中提供統一的數據進程管道開發,并且能夠很好地支持Spark和Flink。提供很多在線框架,開發者無需學習太多框架。

10. Stanford CoreNLP ——自然語言處理擁有巨大的增長空間,斯坦福正在努力增進他們的框架。

關鍵字:插件工具NoSQLMapReduce

本文摘自:NetSmell

電子周刊
回到頂部

關于我們聯系我們版權聲明隱私條款廣告服務友情鏈接投稿中心招賢納士

企業網版權所有 ©2010-2024 京ICP備09108050號-6 京公網安備 11010502049343號

^
  • <menuitem id="jw4sk"></menuitem>

    1. <form id="jw4sk"><tbody id="jw4sk"><dfn id="jw4sk"></dfn></tbody></form>
      主站蜘蛛池模板: 黔南| 临夏市| 攀枝花市| 泗水县| 都昌县| 白沙| 定兴县| 吉林省| 建湖县| 乌拉特后旗| 临桂县| 炎陵县| 尚志市| 大厂| 康定县| 鹤岗市| 勐海县| 彰化县| 德清县| 常德市| 永寿县| 吴堡县| 舞阳县| 广东省| 柘城县| 盐城市| 昭苏县| 丽江市| 梁平县| 太湖县| 依兰县| 塔城市| 凌云县| 高青县| 满城县| 淮南市| 福鼎市| 新乡县| 长乐市| 北安市| 嘉义县|