精品国产一级在线观看,国产成人综合久久精品亚洲,免费一级欧美大片在线观看

LinkedIn開源大數據計算引擎 Cubert,并為此創建新的語言

責任編輯:editor005

2014-11-12 17:34:21

摘自:Gigaom

Linkedin周二宣布開源其大數據計算引擎Cubert,其名字來源于魯比克方塊(Rubik’s Cube),為了讓開發人員更容易使用Cubert,而無需做任何形式的自定義編碼,Linkedin為此開發了新的編程語言Cubert Script。

【編者按】Linkedin周二宣布開源其大數據計算引擎Cubert,其名字來源于魯比克方塊(Rubik’s Cube),為了讓開發人員更容易使用Cubert,而無需做任何形式的自定義編碼,Linkedin為此開發了新的編程語言Cubert Script。

以下為譯文:

Linkedin周二宣布開源其大數據計算引擎Cubert,這個框架可以使用一種專門的算法來組織數據,讓其在沒有超系統負荷和浪費CPU資源的情況下,更輕松的運行查詢。

Cubert,其名字來源于魯比克方塊(Rubik’s Cube),據悉,它可以作為一個Java應用程序,從而很容易被工程師接受,它包含一個“類似script用戶界面”,因此工程師可以在運行查詢時,使用諸如MeshJoin 和 Cube算法在組織數據上節省系統資源。

從 LinkedIn博客我們知道:

現存引擎Apache Pig、Hive 以及Shark提供一個合乎邏輯的聲明性語言,然后被翻譯成一個實物計劃。這個計劃執行分布式引擎(Map-Reduce、Tez 或者Spark),在此物理操作者針對數據分區執行。最后,數據分區將由HDFS提供的文件系統抽象管理。

  Cubert 架構

Cubert運行在Hadoop之上,新的框架可以抽象所有的存儲到數據塊,這將除了讓操作者能幫助更好的管理數據之外,還能讓其更易于運行它的資源節約算法,例如,COMBINE操作者可以合并多個數據塊在一起,PIVOT操作者可以創建數據塊的子集。

LinkedIn也創建了一門名為Cubert Script的新語言,其目的是使開發人員更容易使用Cubert,而無需做任何形式的自定義編碼。

LinkedIn現在使用Cubert作為一個關鍵組件來處理數據。當Kafka實時消息傳遞系統從LinkedIn的眾多應用程序中獲取所有信息并將其發送到Hadoop,Cubert然后處理這些數據,以確保它不占用系統資源并幫助工程師解決“各種各樣的統計、分析和圖形計算問題。”

被處理后,數據流向LinkedIn的Pinot實時數據分析系統,然后該公司分析其眾多數據跟蹤特性,如最近誰查看了用戶的資料。

  LinkedIn Data Pipeline

現在Cubert已經和LinkedIn的基礎設施連接,公司不再擔心Hadoop腳本終結“在集群上占用太多資源”或浪費時間去做他們為此應該做的。

鏈接已復制,快去分享吧

企業網版權所有?2010-2024 京ICP備09108050號-6京公網安備 11010502049343號

  • <menuitem id="jw4sk"></menuitem>

    1. <form id="jw4sk"><tbody id="jw4sk"><dfn id="jw4sk"></dfn></tbody></form>
      主站蜘蛛池模板: 蒲城县| 临湘市| 贺州市| 普陀区| 清苑县| 海城市| 孟津县| 从化市| 镇平县| 乐山市| 古丈县| 永丰县| 西乌珠穆沁旗| 左贡县| 从化市| 土默特右旗| 龙井市| 宝清县| 永川市| 昌平区| 海南省| 民丰县| 临泽县| 曲周县| 建平县| 寿阳县| 新民市| 普兰店市| 天台县| 扎兰屯市| 满洲里市| 固安县| 丁青县| 武汉市| 唐海县| 大田县| 桃源县| 龙州县| 甘洛县| 蒲城县| 萨迦县|