現在,麒麟芯片與解決方案AI首席科學家芮祥麟博士特意作了一番解讀,詳細闡述了端側AI芯片如何讓手機更智能。以最典型的應用場景拍照為例,AI可以對物體和場景進行識別,自動選擇成像從“隱性”變得更加“顯性”,自動選擇相應的拍攝模式,帶來更清晰的攝影效果,5秒鐘就能識別100張圖片。
芮祥麟表示,AI芯片也被稱為AI加速器或計算卡,專門用于處理人工智能應用中的大量計算任務的模塊,其他非計算任務仍由CPU負責。
AI芯片的計算場景可分為云端AI和終端AI。深度學習的計算場景可分為三類,分別是數據中心的訓練、數據中心的推斷、嵌入式設備的推斷。前兩者可以總結為云端的應用,后者可以概括為終端的應用。手機AI芯片對于各種AI算子能夠以30-50倍左右的速度處理。
還是以拍照場景為例,AI能做更好的圖像檢測、圖像分割、圖像語義理解,另外對聲音可以聽清、聽懂,并根據所了解的用戶意圖,提供用戶真正想要的服務。麒麟970是華為首個人工智能端側芯片,集成NPU神經網絡單元,從硬件層面解決了在端側運行AI模型的性能與功耗問題,讓智能終端具備了強大的運算能力。
以圖像識別速度為例,麒麟970可達到約2005張每分鐘,而在沒有NPU的情況下每分鐘只能處理97張圖像,而麒麟980在雙NPU加持下,實現每分鐘圖像識別4500張,提升了120%,遠高于業界同期水平。
芮祥麟表示,未來是云、管道、AI芯片和終端能力等四個方面整合。云側和端側能夠做更好的協同,能夠更快速地交換能力,做能力上的協調,因此必須要有開放的平臺,把生態系統內所有的能力都對接進來。
為了發揮NPU在處理AI任務時的最大性能,并把端側AI能力開放給全球Android開發者,構建豐富的AI應用生態,華為2017年打造了HiAI開放平臺,構建了三層AI開放生態:服務能力開放、應用能力開放、芯片能力開放。
第三方開發者可以便捷、實時、高效、靈活地在端側實現AI特性,極大限度地降低AI功能的端側構建成本。
HiAI開放平臺在自然語言理解(NLU)、自動語音識別(ASR)、計算機視覺(CV)三大類,20多個開放API和完備的工具平臺上,已經實現了開箱即用,開發者可以快速豐富其產品的AI能力與應用場景。
比如微軟翻譯,通過HiAI加速,離線圖片、文本翻譯的速度提升了3倍。
比如Prisma,一張照片的風格轉換的時間平常在10秒左右,HiAI加速后只需3秒左右,同時基于HiAI場景識別,可智能推薦適合當前照片的風格濾鏡。
比如快手直播,超過5分鐘有些終端就會發熱,機身溫度超過36度,而NPU的能效比CPU高50倍,HiAI優化后殼長時間直播無壓力。
芮祥麟表示,未來隨著華為在AI芯片上的硬件創新,可以解鎖更多的AI服務體驗,例如端側在線學習、強化學習方法,多異構芯片的AI模型聯合調度方案,并結合端側特征,提出AI運算的安全運行解決方案,保護用戶隱私和數據安全。