隨著英偉達不斷推出Tesla V100 GPU產品，多家知名服務器制造商業推出相應搭載的企業級服務器。但出現的一個很大的問題是，隨著企業越來越多轉向云，這些為機器學習而設計的服務器真的可以阻止企業服務器業務的下滑嗎?最近推出用于IoT的硬化工業服務器可能都在表達一個信息：服務器制造商正在尋求在垂直市場的增長突破。

將企業工作負載轉移到亞馬遜、谷歌、IBM和其他托管基礎設施方面是可以理解的，按需資源的可伸縮性、云規模的運營效率和安全性是其中的三個原因。例如，谷歌有90名工程師正在進行的是大多數企業人員不足的安全防范工作。

上個季度，除戴爾外，每個企業服務器公司的收入都有所下降。服務器業務正在增長，卻不在企業級領域。云供應商并沒有購買太多，相反，他們購買了根據其規范構建的組件，并為其龐大的24X7工作負載優化了基礎架構。谷歌、Facebook、IBM和其他云服務商，通過由Facebook創建的開放計算項目開展工程并指定新的硬件組件。這意味著云供應商將直接從服務器廠商的供應鏈購買。前幾季度的下降表明，這將會是一個難以扭轉的長期趨勢。

企業級機器學習市場還很年輕，但是這些服務器的利潤將會很高。為企業創新者的機器學習工作負載提供經GPU優化的服務器將是有利可圖的。隨著行業的成熟，及早獲得市場份額對企業來說很重要。

英偉達與英特爾

英偉達是機器學習和人工智能界的英特爾。在英偉達的Volta架構上，還借鑒了英特爾的劇本。英特爾在PC和服務器平臺獲得了主導地位，通過為其他組件生產商如內存、硬盤開放標準接口，為系統制造商如戴爾、聯想提供參考規范，以及為許多小型制造商設計系統幫助其優化PC和服務器的性能及價格。

看看Volta架構白皮書，英偉達與英特爾采取的方法十分相似，但是有一個不同的用例：神經網絡。用神經網絡應用計算資源來解決具有非常大矩陣的機器學習線性代數問題，迭代以做出準確的統計決策。神經網絡是計算密集型的，因為它們需要多次更新數百萬個參數，以最小化誤差并產生準確的模型。這些更新基本上是大型矩陣乘法運算。

雖然有許多不同類型的機器學習和AI，但是大多數應用機器學習是受到監督的。監督意味著用標記的數據集來訓練機器學習模型。

機器學習是一種實證科學。工程師需要多次迭代才能學習如何訓練神經網絡來了解一個新的用例。即使是最有經驗的機器學習專家也不能肯定地說，到底需要多少的矢量來訓練一個模型。這意味著大量的實驗可以為新的用例創建一個模型，然后再進行優化以適應具有ROI的計算預算。

如今，大多數機器學習模式，都是從自然語言或圖像識別等學術界開始，由谷歌、Facebook、IBM和微軟的大型精湛的研究人員和工程團隊進一步研究。但這些問題與企業的用例、搜索排名、圖像和對象識別等相匹配，這些問題常常是開源的，可供企業使用，但可能不適用于企業用例。企業機器學習專家和數據科學家將不得不從頭開始研究，并迭代構建新的高精度模型。

　　英偉達的Volta架構

Volta架構包括許多在超級計算機中使用的特性，用于加速計算并優化以前的CPU和現在的GPU、內存和互連帶寬。

·Volta架構使用流式多處理器進行深度學習，以混合計算和尋址計算進行優化調整，并行處理通過并行線程之間的細粒度同步和協作得到改進。連接的L1數據緩存和共享內存可以顯著提高性能并簡化編程。

·它具有更高帶寬實現高速互連。多GPU系統之間的更多連接增加了可擴展性和并行性。

·內存子系統使用三星HBM2內存快速存儲器提供900 GB /秒的峰值內存帶寬，可以使用高達95%的內存帶寬利用率運行許多工作負載。

·多進程服務提高了共享GPU的多個計算應用程序的性能、隔離性和服務質量。在多GPU應用程序中，獲取接近GPU的數據執行指令的速度性能。統一的內存和地址轉換服務將內存頁面遷移到最頻繁訪問它們的處理器，從而提高處理器之間共享的內存范圍的效率。

英偉達已經為其企業服務器合作伙伴設計了一個架構，用于向致力于機器學習的企業銷售服務器產品。這是一個特殊業務，因為企業需要四種特性：大量的培訓數據，高技能的數據科學家和機器學習專家，機器學習可以解決的一個戰略問題，以及不使用云服務的理由。