人工智能、機器學習、圖像處理有很多共同之處,因此圖形處理單元(GPU)可以同時執行這兩項事務的操作并不奇怪,這將為人們帶來驚喜的沉浸式應用程序。
如今的GPU遠不止是一種圖形芯片。多年來,已經成為人工智能革命的核心。這在很大程度上歸功于這樣一個事實,即用于高保真3D圖像處理的計算基礎非常適合支撐神經網絡的數學,這些神經網絡為當今最復雜的人工智能應用提供動力。
GPU似乎從一開始就為人工智能設計,但這會歪曲這項技術的歷史發展。Nvidia、AMD和其他芯片制造商多年來為PC圖形、交互式游戲、圖像后處理、虛擬桌面基礎設施提供了大量產品。
然而,圖形處理和人工智能之間具有親和力是不可否認的。例如,卷積神經網絡(CNN)處于人工智能的最前沿,主要用于圖像分析、分類、渲染、操作。毫無疑問,GPU在許多應用中是卷積神經網絡(CNN)處理的主要硬件工具之一。
人工智能和圖像處理的共同點
從技術角度來看,圖像處理和人工智能的共同之處在于依賴于高度并行的矩陣和向量運算,這是GPU發揮作用的地方。基本上,人工智能術語中的矩陣(也稱為“張量圖”)等效于計算機生成的圖像幀中的像素矩陣或點的行和列。GPU的嵌入式存儲器結構將整個圖形圖像處理為矩陣,可能通過自適應智能來豐富,而自適應智能來自深度學習和其他人工智能矩陣的并發執行。該架構使GPU供電的系統能夠使用內聯人工智能動態地和有選擇地加速圖像更新和修改的處理。
這些工作負載之間的共生關系在應用程序級別也是顯而易見的,這解釋了GPU通常是許多智能、圖形豐富的應用程序的首選硬件加速器技術的原因。人們越來越多地將人工智能嵌入到大眾市場的圖像處理產品中,例如自動穩定圖像的智能相機,可以調整色彩和曝光,選擇焦點,以及根據所捕捉的場景實時地調整現場的圖像,從而減少拍出拙劣照片的可能性。
同樣,人們看到越來越多采用GPU驅動的人工智能來實現復雜的圖像處理功能,如去噪、分辨率縮放、可變速率著色、物體檢測、邊緣檢測、運動檢測,以及嵌入到智能相機中缺失元素的插值。基于瀏覽器的機器學習越來越多地應用于GPU提升的圖形密集型應用程序,如圖像檢測、識別、分類和操作。GPU正在為生成性對抗網絡(GAN)提供動力,這是一種領先的人工智能方法,其圖形應用包括為游戲、藝術、娛樂、醫療和其他應用生成逼真的高分辨率圖像。
除了其他應用之外,甚至還有新一代支持GPU的智能手機應用動態圖像處理,旨在為人臉圖像呈現逼真的(但基本上是觸摸式的)增強效果。
雖然在大多數部署中GPU和CPU之間存在共生關系,但很明顯GPU的優勢顯而易見:與CPU內核相比,GPU的執行單元(稱為流多處理器)可以并行執行更多操作。GPU可以在本地存儲器和寄存器中存儲更多可重用的高速緩存數據,以實現快速矢量化和矩陣乘法。 GPU還具有更高的內存帶寬和線程并行性,并且可以在短路徑寄存器內存中保存比CPU更多的數據。
Nvidia公司的圖靈架構將實現人工智能驅動的沉浸式體驗
Nvidia公司推出的GPU具有將3D圖像處理與人工神經網絡相結合的應用中的長期優勢。圖靈是Nvidia的第八代GPU架構,已經集成到幾個新的GPU中:Nvidia Quadro RTX 8000,Quadro RTX 6000,Quadro RTX 5000。此外還增強了圖形優化的CUDA核心和人工智能增強張量(Tensor)核心作為供應商GPU早期版本不可或缺的一部分,Nvidia公司已將新的圖形優化技術整合到圖靈架構中,稱之為RT核心,旨在使Nvidia公司的GPU在實時場景中執行光線跟蹤操作的速度更快,效率更高。
光線跟蹤技術迄今為止只在高性能計算機生成的成像應用中使用。盡管Nvidia公司正在推廣圖靈的實時光線追蹤技術,主要是為了“逼真的游戲”,這也有助于解釋微軟公司對該技術的投資,該功能顯然非常適合依賴于逼真的視覺處理來提供的任何真實應用。沉浸式體驗的作用是模擬周圍環境中物體如何反射、衍射、漫射或阻擋光線。與傳統的光柵化計算機視覺效果相比,動態光線追蹤的場景看起來更加逼真。實時光線跟蹤可以高保真地模擬眩光、陰影、顏色偏移和其他光線傳播效果的移動模式。
雖然計算更加密集,但實時光線跟蹤可以在游戲、協作和其他沉浸式應用程序中發揮重要作用,用戶期望虛擬和物理世界的無縫融合。因此,Nvidia公司圖靈GPU面向任何人工智能增強的圖形應用程序,讓用戶沉浸在完全人工的數字環境中,將虛擬對象覆蓋在真實環境上,或者將虛擬對象錨定到現實世界,讓用戶與之交互虛擬對象。
換句話說,由Nvidia公司的圖靈架構所代表的GPU是虛擬、增強和混合現實設備和應用程序的重要組成部分。因此毫不奇怪,Nvidia公司的圖靈架構包括對VirtualLink的本機支持,VirtualLink是一種新的USB-C備用模式,可以圍繞單條高帶寬USB-C電纜標準化虛擬現實連接。毫無疑問,英特爾公司計劃在未來兩年內推出自己的GPU,盡管似乎有些晚,奇怪的是只是針對游戲,并且似乎旨在蠶食其新近宣布的下一代圖形多核CPU的市場,并針對游戲和內容創建中的圖形工作負載進行了優化。
無論如何,Nvidia公司似乎有可能通過圖靈芯片擴展其GPU市場領先地位。其新一代GPU非常適合領先的沉浸式應用,這些應用將人工智能更進一步地推向全球的移動、嵌入式、邊緣和物聯網(IoT)應用。
人們期待看到應用沉浸式技術
很容易想象部署圖靈GPU的各種圖形豐富的人工智能應用程序:
•協作:人工智能生成的圖形化本身可以支持虛擬和物理協作的沉浸式混合,其中每個人都可以采用耳機和降噪耳機,進入協作的、沉浸式虛擬環境。
•學習:人工智能生成的模擬可以為個人和群體提供交互式、逼真、3D體驗式學習環境。
•營銷:人工智能生成的產品目錄可以使逼真渲染的3D項目實際上覆蓋、放置、定制和安裝在客戶的身體或家中、汽車和其他環境中。
•設計:開發人員和工程師可以使用人工智能生成的原型與完美渲染的3D設計進行交互,以便在將其投入物理原型或發送到工廠和車間之前進行可能的創建。
•導航:人工智能生成的圖形自動完成或“修復”,在顯示器中顯示時,可以幫助駕駛員查看車輛盲點中的內容,或突出他們可能擁有的實時環境中所忽視的物體。
•醫學:當使用智能護目鏡時,采用人工智能技術增強圖形分辨率可以幫助醫生在執行外科手術時更容易看到身體組織的細微細節,而醫學人體模型實際上可以疊加在實際患者身上,以協助診斷,訓練和其他醫療保健方案
•工業:人工智能增強型數字孿生環境,可以支持混合物理和虛擬環境中的制造、物流和其他工業實體資產的圖形建模、優化和維護。
GPU不擅長的地方
但請記住,GPU并不是一種通用的硬件加速器。GPU通常具有比CPU更少的內存容量,GPU必須使用CPU來提取數據,并且GPU時鐘速度最多只占高端CPU的三分之一,這限制了GPU快速處理順序任務的能力。
同樣重要的是,GPU并不一定適合每個人工智能工作負載的最佳硬件加速器技術,它可以為圖形注入的移動、邊緣、物聯網和其他應用程序提供智能。在更加現代產品核心的片上系統(SoC)中,GPU與CPU和各種專用神經網絡處理器(如張量處理單元(TPU),現場編程門陣列(FPGA))一起占用)和專用集成電路(ASIC)。
在不斷發展的智能邊緣設備生態系統中,真正的共生將取決于所有這些嵌入式人工智能芯片如何協同工作,以創建視覺體驗,這些視覺體驗以其逼真的現實感使人們感到驚訝。