可見未來的世界就是一片數(shù)據(jù)的海洋，我們周圍都充斥著海量的數(shù)據(jù)。然而數(shù)據(jù)的價(jià)值在于分析利用，而非簡(jiǎn)單存儲(chǔ)。數(shù)據(jù)量在不斷在增長，我們不可能把所有數(shù)據(jù)都通過網(wǎng)絡(luò)傳到云端，帶寬增長的速度是慢于數(shù)據(jù)增長的速度。對(duì)于實(shí)時(shí)性要求較高的應(yīng)用場(chǎng)景，我們需要在邊緣對(duì)數(shù)據(jù)進(jìn)行判斷，比如自動(dòng)駕駛、無人駕駛等領(lǐng)域。對(duì)于隱私保護(hù)要求比較高的場(chǎng)景，比如醫(yī)療信息或者用戶不愿意進(jìn)行云端分享的數(shù)據(jù)，需要在本地進(jìn)行存儲(chǔ)。因此數(shù)據(jù)處理從云端轉(zhuǎn)移到邊緣端是一種必然趨勢(shì)。
數(shù)據(jù)處理從云端向邊緣遷移
英特爾副總裁兼物聯(lián)網(wǎng)事業(yè)部中國區(qū)總經(jīng)理陳偉博士分析，“傳統(tǒng)的物聯(lián)網(wǎng)更多是線性思維，物體產(chǎn)生數(shù)據(jù)，通過互聯(lián)網(wǎng)傳到云端，分析產(chǎn)生價(jià)值，而如今的物聯(lián)網(wǎng)完全是立體三維的概念?，F(xiàn)在產(chǎn)生的數(shù)據(jù)90%被浪費(fèi)了，有的數(shù)據(jù)產(chǎn)生以后從排氣管里面漏掉了，有的數(shù)據(jù)沒法挖掘，這是因?yàn)榇鎯?chǔ)和分析要有一個(gè)分布。如今分布式計(jì)算的概念已經(jīng)比較成熟，現(xiàn)在全球講物計(jì)算，就是云要拋到物里面，做云的人要把它的架構(gòu)切到邊緣來，以解決邊緣的問題，所以業(yè)界對(duì)邊緣計(jì)算完全有共識(shí)。關(guān)于應(yīng)用，一是實(shí)時(shí)應(yīng)用;二是成本問題;三是分析和預(yù)測(cè)，過去只能是分析已經(jīng)發(fā)生的事件，那么怎么通過發(fā)生的事件了解預(yù)測(cè)未來?四是精準(zhǔn)性的問題，涉及信息安全、信息保密。”
英特爾副總裁兼物聯(lián)網(wǎng)事部中國區(qū)總經(jīng)理陳偉博士
帶寬、存儲(chǔ)、延遲和安全性是邊緣計(jì)算的驅(qū)動(dòng)因素，預(yù)計(jì)2018年50%的物聯(lián)網(wǎng)部署將受到網(wǎng)絡(luò)瓶頸的限制，到2019難45%的數(shù)據(jù)將在邊緣進(jìn)行存儲(chǔ)、分析和處理，因此深度學(xué)習(xí)的采用率不斷增長，2016年深度學(xué)習(xí)收入為6.55億，預(yù)計(jì)到2025年將增長到350億美元。
在邊緣進(jìn)行數(shù)據(jù)處理也同樣需要人工智能算法，現(xiàn)在來看這一條件已經(jīng)成熟。英特爾中國區(qū)物聯(lián)網(wǎng)事業(yè)部首席技術(shù)官兼首席工程師張宇博士分析，“從人工智能演進(jìn)過程中可以看到，從最早的人工智能計(jì)算，不管是訓(xùn)練還是推理都發(fā)生在數(shù)據(jù)中心，這是因?yàn)樯疃葘W(xué)習(xí)需要大量的計(jì)算，只有在數(shù)據(jù)中心運(yùn)用一些通用的處理器才能夠提供如此巨大的計(jì)算量，以及提供這些計(jì)算所需要的能耗。近年來隨著人工智能技術(shù)的發(fā)展，無論在算法方面還是在芯片方面，人工智能都達(dá)到了一個(gè)很高的水平。在算法方面，很多網(wǎng)絡(luò)壓縮的算法已經(jīng)被廣泛使用，從而降低了人工智能的計(jì)算量，同時(shí)用于人工智能專用的芯片以及FPGA，使一些深度學(xué)習(xí)的運(yùn)算可以從云端推送到邊緣，所以市面上出現(xiàn)了智能攝像機(jī)、智能網(wǎng)絡(luò)視頻存儲(chǔ)器、NVR等產(chǎn)品。”
注重視頻，OpenVINO助力邊緣側(cè)實(shí)現(xiàn)深度學(xué)習(xí)開發(fā)
英特爾將視頻稱為“眼睛AI”，也就是眼見為實(shí)，是因?yàn)橐曨l的數(shù)據(jù)量最大，也最復(fù)雜，濃度也最高，確實(shí)擠壓到了端到端的架構(gòu)，人腦就在不斷處理通過眼睛看到的視頻內(nèi)容，在AI領(lǐng)域就是機(jī)器視覺處理。對(duì)比邊緣設(shè)備和云端設(shè)備，邊緣設(shè)備能夠承載的功耗，能夠支持的操作系統(tǒng)，能夠提供的內(nèi)存容量都不同，所以在邊緣運(yùn)行的算法要進(jìn)行特定優(yōu)化，因此對(duì)工具也有特定的要求。英特爾收購了 Movidius和Altera將FPGA等產(chǎn)品引入進(jìn)來，性能和功耗比通用處理器表現(xiàn)更好。從硬件的角度來講，可以勾勒出一個(gè)功耗、成本最優(yōu)化的解決方案。有靈活、有多元、有高質(zhì)量的硬件是一個(gè)必要的條件，但是要將這些硬件直接應(yīng)用到人工智能的應(yīng)用上，還有很多的壁壘。
在整個(gè)系統(tǒng)端到端的網(wǎng)元里面，不同的網(wǎng)元所提供的計(jì)算量不同，支撐的操作系統(tǒng)不同，適合的芯片架構(gòu)也不同。比如一個(gè)攝像機(jī)功耗大概15W，提供給智能運(yùn)算的能量2-3W，選用ASIC架構(gòu)最合適;數(shù)據(jù)中心對(duì)靈活度要求較高，適合采用通用的處理器。而不同的芯片往往有不同的開發(fā)方法，也就是說當(dāng)工程師針對(duì)某一種芯片所開發(fā)的軟件換一個(gè)架構(gòu)就可能無法使用，這無形中就增加了開發(fā)難度。為了幫助客戶更好地進(jìn)行視頻處理，英特爾面向中國市場(chǎng)推出了專注于加速深度學(xué)習(xí)并將視覺數(shù)據(jù)轉(zhuǎn)換為業(yè)務(wù)洞察的OpenVINO工具包，這將充分幫助企業(yè)在邊緣側(cè)快速實(shí)現(xiàn)高性能計(jì)算機(jī)視覺與深度學(xué)習(xí)的開發(fā)，為智能視覺開辟了一條堅(jiān)實(shí)的創(chuàng)新路徑。
陳偉博士介紹，“OpenVINO工具包包括英特爾深度學(xué)習(xí)部署工具包，具有模型優(yōu)化器和推理引擎，以及面向OpenCV*和OpenVx*的優(yōu)化計(jì)算機(jī)視覺庫。模型優(yōu)化可以把開發(fā)者基于一些開放的深度學(xué)習(xí)的框架所開發(fā)的網(wǎng)絡(luò)模型，針對(duì)開發(fā)者所選用的目標(biāo)平臺(tái)進(jìn)行優(yōu)化，把這些優(yōu)化的結(jié)果轉(zhuǎn)換成一個(gè)中間表示文件，建成IR文件。下一步，推理引擎會(huì)去讀取IR文件，然后利用相應(yīng)的硬件插件把這些IR文件下載到相應(yīng)目標(biāo)平臺(tái)上進(jìn)行執(zhí)行，所以這是當(dāng)前的部署工具套件能夠解決的問題。OpenVINO工具包可通過基于英特爾架構(gòu)的處理器(CPU)及核顯(Integrated GPU)和深度學(xué)習(xí)加速器(FPGA、Movidius VPU)的深度學(xué)習(xí)加速芯片，增強(qiáng)視覺系統(tǒng)功能和性能。”
在計(jì)算機(jī)視覺領(lǐng)域，業(yè)界有兩類方法被廣泛的使用。一類是深度學(xué)習(xí)，另一類是傳統(tǒng)的計(jì)算機(jī)視覺的方法。深度學(xué)習(xí)在做物體檢測(cè)、目標(biāo)識(shí)別方面具有優(yōu)勢(shì)，在替代傳統(tǒng)的計(jì)算機(jī)視覺。另外一些應(yīng)用的場(chǎng)景，計(jì)算機(jī)視覺仍然有自己的用武之地，比如一些光流的計(jì)算或者圖像的增強(qiáng)，利用均衡的方式去做圖像的增強(qiáng)，傳統(tǒng)計(jì)算機(jī)視覺仍然是適用的，這是因?yàn)樯疃葘W(xué)習(xí)的基礎(chǔ)是卷積神經(jīng)網(wǎng)絡(luò)，卷積神經(jīng)網(wǎng)絡(luò)對(duì)于目標(biāo)檢測(cè)和目標(biāo)識(shí)別比較有效，但是對(duì)于圖像增強(qiáng)并不十分適用。陳偉博士強(qiáng)調(diào)，“在OpenVINO里面，我們對(duì)這兩類方法都有很好的支持，OpenVINO包含一個(gè)深度學(xué)習(xí)的部署工具套件，可以幫助開發(fā)者把已經(jīng)訓(xùn)練好的網(wǎng)絡(luò)模型部署到目標(biāo)平臺(tái)之上進(jìn)行推理操作，因此，OpenVINO是幫助大家做推理的，而不是幫助大家做訓(xùn)練的。”
OpenVINO與Movidius SDK的本質(zhì)區(qū)別
英特爾以前也推出了SDK，這款OpenVINO和它們有什么區(qū)別?張宇博士解釋，“英特爾物聯(lián)網(wǎng)事業(yè)部以前也推出過其它SDK，比如Movidius SDK，主要做媒體處理。OpenVINO實(shí)際上包含了Movidius SDK，我們?cè)谶@個(gè)基礎(chǔ)之上做了進(jìn)一步的功能擴(kuò)充，功能的擴(kuò)充主要體現(xiàn)在幾個(gè)方面：一是增加了對(duì)深度學(xué)習(xí)功能的支持，其中包含一個(gè)深度學(xué)習(xí)的部署工具套件，里面包括了模型優(yōu)化器和推理引擎;另外，我們?cè)贛ovidius SDK基礎(chǔ)之上，增加了對(duì)OpenCV、OpenVX等這些在傳統(tǒng)計(jì)算機(jī)視覺領(lǐng)域用的比較普遍的函數(shù)庫的支持，而且這些函數(shù)庫都在英特爾的CPU上做了優(yōu)化。與Movidius SDK相比，原來只是做編碼、解碼的加速，現(xiàn)在不僅能做編解碼的加速，也能做一些視頻處理工作，我們把MovidiusSDK結(jié)合在一起的目的是，我們看到一個(gè)完整的視頻處理系統(tǒng)，從它的處理流程來看，第一步要做編解碼，解碼以后，把解碼的圖片交給相應(yīng)的處理引擎做深度學(xué)習(xí)或者是傳統(tǒng)的計(jì)算機(jī)視覺的一些處理操作，得到最終的結(jié)果。我們把在整個(gè)流水線里面所用到的所有工具打在一起放到OpenVINO里面，讓開發(fā)者只用一個(gè)工具把所有的需求都能滿足。”
張宇博士強(qiáng)調(diào)，“OpenVINO具有兩個(gè)優(yōu)勢(shì)，第一可以通過一次訓(xùn)練來滿足不同的硬件平臺(tái)，節(jié)約成本;第二可以加速產(chǎn)品化的過程，從芯片到做出產(chǎn)品，中間的周期變短了，產(chǎn)品可以更快的上市加速流轉(zhuǎn)。”
京公網(wǎng)安備 11010502049343號(hào)