GPU是一種專門在個人電腦、工作站、游戲機和一些移動設備上圖像運算工作的微處理器。在安防大數據及深度學習的大背景下，具有研發實力的廠商紛紛基于GPU進行視頻相關產品(前端智能及后端服務器等)研發，之前被稱為視頻核彈的Jetson TX1 GPU模塊，已經廣泛應用于人工智能市場(包括無人機、機器人等設備)及安防監控市場(智能攝像機、人臉識別攝像機等)，安防廠商?？?、宇視、文安及格靈等公司，均已展示了相關的產品。
大數據時代GPU是視頻結構化核心處理模塊
GPU是為了能夠更快處理圖像而誕生
在九十年代，一批工程師意識到：在屏幕上進行多邊形圖像渲染，本質上是個能并行處理的任務--每個像素點的色彩可以獨立計算，不需要考慮其它像素點。于是GPU誕生，成為比CPU更高效的渲染工具。簡而言之，由于CPU在圖像渲染方面的能力不足，GPU被發明出來分擔這部分工作，此后就成了專門搞這方面的硬件。有了上千個更加簡單的核心，GPU能高效地處理讓CPU十分吃力的任務。只要有合適的代碼配合，這些核心就能處理超大規模的數學運算，實現逼真的游戲體驗。
GPU作為顯示卡的“大腦”決定了該顯卡的檔次和大部分性能，同時GPU也是2D顯示卡和3D顯示卡的區別依據。2D顯示芯片在處理3D圖像與特效時主要依賴CPU的處理能力，稱為軟加速。3D顯示芯片是把三維圖像和特效處理功能集中在顯示芯片內，也就是所謂的“硬件加速”功能。顯示芯片一般是顯示卡上最大的芯片。時下市場上的顯卡大多采用NVIDIA和AMD-ATI兩家公司的圖形處理芯片。NVIDIA公司在1999年發布GeForce256圖形處理芯片時首先提出GPU的概念。從此NV顯卡的芯就用這個新名字GPU來稱呼。GPU使顯卡削減了對CPU的依賴，并實行部分原本CPU的工作，更加是在3D圖形處理時。
GPU能將3D模型的信息轉換為2D表示，同時添加不同的紋理和陰影效果，所以GPU在硬件里也是比較特殊的存在。從3D建模到最終顯示在屏幕上，GPU渲染場景使用的是流水線操作。早些時候流水線操作是固定不能作任何改動的，整個操作由讀取三角形的頂點數據開始，接著GPU處理完后進入幀緩沖區(framebuffer)，準備發送給顯示器。GPU也能對場景進行某些特定效果的處理，不過這些都是由工程師設計固定好的，能提供的選項很少。
GPU設計之初非針對深度學習而是并行計算
GPU關鍵性能是并行計算。這意味著可以同時處理運算，而不是一步步進行。復雜問題可被分解為更簡單的問題，然后同時進行處理。并行計算適用于HPC和超算領域所涉及的許多問題類型，比如氣象、宇宙模型和DNA序列。并不是只有天體物理學家和氣象學家才能充分利用并行計算的優點。事實證明，許多企業應用能從并行計算獲得超出尋常比例的好處。這包括：數據庫查詢、密碼學領域的暴力搜索、對比不同獨立場景的計算機模擬、機器學習/深度學習、地理可視化
在GPU設計之初，并非針對深度學習，而是圖形加速，在NVIDIA推出CUDA架構之前，GPU并無太強對深度學習運算能力的支持。而如今，NVIDIA可以提供基于其GPU的從后端模型訓練到前端推理應用的全套深度學習解決方案，一般的開發人員都可以非常容易地上手使用GPU進行深度學習開發，或者高性能運算。而CUDA架構的開發，耗費了NVIDIA巨大的人力物力?？梢哉f，是CUDA這個中間層(computingframework)的優化，才使得開發者真正愛上了GPU，NVIDIA勝在軟件。而CUDA還不能稱之為算法，它只是計算硬件與算法之間的橋梁。
目前來看，NVIDIA作為人工智能計算平臺的領導者，但事實是，一開始并非NVIDIA選擇了人工智能，而是人工智能的研究者選擇了GPU，進而成就了NVIDIA。在2012年，Alex利用深度學習+GPU的方案，一舉贏得ImageNetLSVRC-2010圖像識別大賽，并奇跡般地將識別成功率從74%提升到85%。NVIDIA敏銳地覺察到了這一趨勢，并大力優化基于GPU的深度學習生態系統，并加速迭代開發，三年時間將GPU性能提升了65倍，從而奠定了目前的王者之位。
AI時代 GPU將是數據爆炸時代的核心處理模塊
對于人工智能計算架構來說，一般可以歸結為三類模式：CPU + GPU，CPU + FPGA，CPU + ASIC(專用集成電路)。其中，應用于圖形、圖像處理領域的GPU 可以并行處理大量數據，非常適合深度學習的高并行、高本地化數據場景，是目前主流的人工智能計算架構。
如果把科技產業劃分為三個時代：PC 時代、移動互聯網時代和AI 時代。目前，我們處于移動互聯網時代的末期和下一個時代的早期，即以深度學習、無人駕駛為主的AI 時代。
京公網安備 11010502049343號