精品国产一级在线观看,国产成人综合久久精品亚洲,免费一级欧美大片在线观看

當前位置:人工智能專家觀點 → 正文

2024年生成式AI將從理論轉向實踐 戴爾科技CTO給出實際建議

責任編輯:shjiaz 作者:查士加 |來源:企業網D1Net  2023-12-18 13:24:19 原創文章 企業網D1Net

在數字經濟時代,科技的飛速更迭仿若潮水。唯有那些能夠靈活適應新技術潮流的企業,方能在競爭激烈的市場中贏得先機,將新趨勢轉化為無限商機。

戴爾科技集團全球首席技術官 John Roese

臨近2023年末,戴爾科技集團全球首席技術官John Roese對外發布了2024年及未來技術預測與展望。他表示:2024年,生成式AI(GenAI)將從理論轉向實踐;安全方面零信任將落到實處;多云常態下,邊緣平臺將蓬勃發展;而在未來,量子計算與GenAI將相互結合,密不可分。

趨勢一:生成式AI步入業務應用階段

John Roese強調,2024年,生成式AI依然是科技行業的焦點。盡管Google、OpenAI和阿里巴巴等公司在今年推出了生成式AI技術,但大多數企業仍然停留在實驗階段,未能將GenAI系統有效地應用于實際場景。然而,2024年一些行業的先鋒企業將逐漸領悟如何將GenAI系統融入推理和生產流程中,使其從純理論的探討階段邁入實際業務應用階段。

在這一過程中,系統訓練只是第一步,打造基于GenAI的企業業務用例至關重要。當前,大多數企業更傾向于使用全球范圍內可獲得的基礎模型,通過模型調優和互聯來提高性能。因此,系統開發的工作相對較為簡化。

對于各個行業領域的企業而言,使用GenAI或GPT4等大模型的訓練成本相當高昂,但是這些垂直行業的企業并不會直接在應用中使用這些模型,而是需要深入開發,向模型輸入各類數據,使其真正轉化為生產力的關鍵組成部分。

John Roese指出:用現有計算基礎架構運行生成式AI存在一定困難,因此CIO、CTO的首要任務是對現有IT基礎架構進行重新設計、演進、升級,以便進行大語言模型的訓練和推理。其次,可以從基礎模型出發,不斷調優模型、連接現有數據集,實現快速起步。最后,需要根據生成式AI系統的用戶規模,合理評估使用量和訪問權限,謹慎選擇適合優先落地實施的AI項目。

一、落地GenAI系統要解決諸多問題

1、如何構建高效的推理基礎架構?在訓練階段,需要大型集群和加速的計算架構。而到了推理階段,基礎架構的規模主要由用戶量決定,成熟的模型與少量的用戶可能只需要一臺服務器;而對于簡單模型以及百萬量級的用戶規模,推理基礎架構可能需要幾十萬臺服務器。

2、如何將推理能力部署在合適的位置?以前企業要決定把訓練放在哪兒,主要是數據中心,現在企業需要明確推理能力應該放置在何處。推理需要部署在數據和用戶所在的位置,一般情況下不會集中在數據中心,可能被部署在邊緣位置,必須靠近呼叫中心或客戶所在的位置。

3、如何確保推理基礎架構的安全?與訓練基礎架構只需保護數據中心不同,將推理基礎架構部署到現實世界中,從數據中心延伸至邊緣,包括工廠、制造中心、交通運輸網絡以及客戶所在地,安全保護模式將面臨巨大變化。不同類型的風險和攻擊正在涌現。“黑客侵入邊緣基礎架構,把已經投入生產階段的訓練模型提取出來做一個反向工程設計進行模仿,這樣的攻擊已經實實在在發生了。因此,在將AI模型投入生產環境時,必須確保其安全性。”John Roese提到。

二、CIO在GenAI實施中必須做出取舍

2023年,企業紛紛列出了長長的清單,認為GenAI在許多事項中都有用武之地。然而每個生成式AI項目都龐大而復雜,需要投入大量人力、物力和財力。2024年,企業可能面臨成百上千乃至上萬個潛在GenAI用例,CIO和企業領導者必須從中甄選出哪些是優先實施的項目。選對正確的項目將對業務產生積極影響,一旦決策錯誤,不僅會浪費大量資源,而且可能被競爭對手趕超,存在較大風險。

因此,對CIO而言2024年的關鍵任務之一是劃分輕重緩急,即在所有可應用GenAI的用例中,確定哪些是優先級最高的項目。為了做出正確選擇,企業必須充分了解GenAI的價值,明確在哪些方面可以為企業提供最大的幫助,以更好地利用有限的資源。

三、企業的關注點將從訓練成本轉向運營成本

2023年人們認為GenAI的成本主要是訓練成本,包括構建模型所需的服務器數量以及開發和維護人員的費用。在落地階段,企業并不直接承擔構建GPT4、Gemini等大型模型的成本,而是會更關注應用階段的運營成本。

以戴爾科技為例,戴爾科技正在建立基于知識的技術支持系統,大約需要20臺服務器,以及3個月左右的時間,而整個運營成本卻是未知的。部署技術支持系統后,戴爾科技內部員工可以提出任何與產品和技術相關的問題,并得到系統的回答。

“盡管系統的回答非常有用,但早期的模型顯示,如果我們將其應用于我們的一些工程師,大約需要6000人,每月需要5000萬次的交易量。因此,我們最終發現,與建立模型的成本相比,龐大的交易量帶來的巨額運營成本更該被重新審視。”John Roese介紹。

2024年需要審慎考慮,GenAI系統在經濟上是否非常有益,即使成本非常高,是否依然愿意承擔。

趨勢二:基于零信任的安全架構將落到實處

零信任的概念早已為人熟知,是對網絡安全架構的重新思考。與傳統的被動網絡安全防護模式不同,零信任的設計原則是“絕不信任,始終驗證”,基于零信任的安全架構會對所有人、應用和設備進行驗證,以保證安全性。

從安全策略和控制的角度,零信任強調對好的、壞的和未知的事物進行識別。對零信任而言,首先要識別好的和被允許的行為,并阻止所有非法的接入行為,實時解決潛在威脅。

盡管零信任不是一個新概念,行業正趨于成熟,但是端到端的零信任解決方案并未全面普及,戴爾科技已在其邊緣產品解決方案中采納零信任策略。

企業需要將零信任策略落到實處,零信任不僅是一款產品,更是一種架構和理念,生態系統的成熟將使零信任成為可能。將零信任原則應用于現有架構并非易事,然而,在全新環境,如AI工廠、邊緣和新的云環境中,相對更加容易。因此,可以挑選高風險領域應用和全新環境實施零信任框架,而其他低風險領域則繼續使用現有系統。

趨勢三:多云常態下 邊緣平臺將蓬勃發展

AI離不開推理,推理要靠近數據,而很多數據都在邊緣產生,例如生產中的邊緣設備,安全監控攝像頭等等,因此大部分推理是在邊緣進行的,這意味著邊緣平臺是真正運行AI的場所。

在多云環境下,云服務提供商通常在集中的數據中心提供服務,但實際情況是,數據并非都存儲在數據中心,而是分散在工廠、醫院等邊緣環境。因此,大型服務提供商和服務堆棧需要為每個架構建立自己的邊緣平臺,Amazon、Google、Microsoft、VMware、RedHad都有各自的邊緣平臺。

為了避免一個公司使用多個不同的邊緣平臺,戴爾科技提出將邊緣平臺與邊緣工作負載分開的解決方案。這種基礎架構可以建立一個通用的平行平臺,其上有軟件和硬件編排,用于運營軟件定義的平臺。

戴爾科技的愿景是通過建立一個統一的邊緣平臺,提升安全性和自動化水平,避免針對每個工作負載和應用創建獨立的平臺。John Roese認為,2024年這一愿景將加速落地,原因在于絕大多數企業的GenAI用例都涉及數據中心以外的邊緣數據,需要借助邊緣數據平臺,讓GenAI在利用數據時更加高效可行。

“我們認識到未來邊緣上主要運行的工作負載是AI,因此我們加強了與包括數據公司在內的AI生態系統合作伙伴之間的緊密合作,以確保我們能夠打造和交付一個正確的基礎架構,來支持企業級的生成式AI應用。”John Roese如是說。

趨勢四:量子計算與GenAI將密不可分

展望未來,John Roese表示量子計算將在未來五年內走進現實。量子計算可以突破傳統計算能力的極限,即在無限當中尋找可能的計算,因此非常擅長解決概率和優化問題。而GenAI正是一種概率計算,如果能優化量子計算以適應GenAI,將使GenAI運行更加高效。

量子計算解決了GenAI和大多數通用大模型對計算資源需求量極大這一痛點?;旌狭孔酉到y將成為現代化AI的計算基礎,AI工作將被分散于包括量子處理單元在內的一系列不同的計算架構中。

如果量子計算與GenAI結合,將帶來GenAI系統能力的巨大飛躍,其驚喜程度可能不亞于ChatGPT初現。盡管不清楚確切的時間點,但可以肯定的是量子計算架構和GenAI將會成為整個系統不可或缺的一部分。

小結

實際上,以上四大技術趨勢緊密關聯:2024年,企業會將生成式AI付諸實踐,必然需要更先進的硬件,而未來5年內量子計算的突破有望進一步加速GenAI落地。同時,為了讓推理更高效,CIO必須將推理基礎架構部署在靠近數據和用戶的位置,因此打造現代化的邊緣平臺顯得至關重要。

在新環境中部署零信任這一新的安全范式非常便捷,尤其適合全新的邊緣平臺和AI基礎架構。John Roese希望零信任的安全原則能成為企業構建AI基礎架構的默認原則。

2024年,各類技術將通過互聯互通、相輔相成,讓GenAI加速在企業中落地,投入生產和推理。讓我們拭目以待!

關于企業網D1net(hfnxjk.com):

國內主流的to B IT門戶,同時在運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。同時運營18個IT行業公眾號(微信搜索D1net即可關注)。

關鍵字:CTO戴爾生成式AI零信任邊緣平臺量子計算

原創文章 企業網D1Net

x 2024年生成式AI將從理論轉向實踐 戴爾科技CTO給出實際建議 掃一掃
分享本文到朋友圈
當前位置:人工智能專家觀點 → 正文

2024年生成式AI將從理論轉向實踐 戴爾科技CTO給出實際建議

責任編輯:shjiaz 作者:查士加 |來源:企業網D1Net  2023-12-18 13:24:19 原創文章 企業網D1Net

在數字經濟時代,科技的飛速更迭仿若潮水。唯有那些能夠靈活適應新技術潮流的企業,方能在競爭激烈的市場中贏得先機,將新趨勢轉化為無限商機。

戴爾科技集團全球首席技術官 John Roese

臨近2023年末,戴爾科技集團全球首席技術官John Roese對外發布了2024年及未來技術預測與展望。他表示:2024年,生成式AI(GenAI)將從理論轉向實踐;安全方面零信任將落到實處;多云常態下,邊緣平臺將蓬勃發展;而在未來,量子計算與GenAI將相互結合,密不可分。

趨勢一:生成式AI步入業務應用階段

John Roese強調,2024年,生成式AI依然是科技行業的焦點。盡管Google、OpenAI和阿里巴巴等公司在今年推出了生成式AI技術,但大多數企業仍然停留在實驗階段,未能將GenAI系統有效地應用于實際場景。然而,2024年一些行業的先鋒企業將逐漸領悟如何將GenAI系統融入推理和生產流程中,使其從純理論的探討階段邁入實際業務應用階段。

在這一過程中,系統訓練只是第一步,打造基于GenAI的企業業務用例至關重要。當前,大多數企業更傾向于使用全球范圍內可獲得的基礎模型,通過模型調優和互聯來提高性能。因此,系統開發的工作相對較為簡化。

對于各個行業領域的企業而言,使用GenAI或GPT4等大模型的訓練成本相當高昂,但是這些垂直行業的企業并不會直接在應用中使用這些模型,而是需要深入開發,向模型輸入各類數據,使其真正轉化為生產力的關鍵組成部分。

John Roese指出:用現有計算基礎架構運行生成式AI存在一定困難,因此CIO、CTO的首要任務是對現有IT基礎架構進行重新設計、演進、升級,以便進行大語言模型的訓練和推理。其次,可以從基礎模型出發,不斷調優模型、連接現有數據集,實現快速起步。最后,需要根據生成式AI系統的用戶規模,合理評估使用量和訪問權限,謹慎選擇適合優先落地實施的AI項目。

一、落地GenAI系統要解決諸多問題

1、如何構建高效的推理基礎架構?在訓練階段,需要大型集群和加速的計算架構。而到了推理階段,基礎架構的規模主要由用戶量決定,成熟的模型與少量的用戶可能只需要一臺服務器;而對于簡單模型以及百萬量級的用戶規模,推理基礎架構可能需要幾十萬臺服務器。

2、如何將推理能力部署在合適的位置?以前企業要決定把訓練放在哪兒,主要是數據中心,現在企業需要明確推理能力應該放置在何處。推理需要部署在數據和用戶所在的位置,一般情況下不會集中在數據中心,可能被部署在邊緣位置,必須靠近呼叫中心或客戶所在的位置。

3、如何確保推理基礎架構的安全?與訓練基礎架構只需保護數據中心不同,將推理基礎架構部署到現實世界中,從數據中心延伸至邊緣,包括工廠、制造中心、交通運輸網絡以及客戶所在地,安全保護模式將面臨巨大變化。不同類型的風險和攻擊正在涌現。“黑客侵入邊緣基礎架構,把已經投入生產階段的訓練模型提取出來做一個反向工程設計進行模仿,這樣的攻擊已經實實在在發生了。因此,在將AI模型投入生產環境時,必須確保其安全性。”John Roese提到。

二、CIO在GenAI實施中必須做出取舍

2023年,企業紛紛列出了長長的清單,認為GenAI在許多事項中都有用武之地。然而每個生成式AI項目都龐大而復雜,需要投入大量人力、物力和財力。2024年,企業可能面臨成百上千乃至上萬個潛在GenAI用例,CIO和企業領導者必須從中甄選出哪些是優先實施的項目。選對正確的項目將對業務產生積極影響,一旦決策錯誤,不僅會浪費大量資源,而且可能被競爭對手趕超,存在較大風險。

因此,對CIO而言2024年的關鍵任務之一是劃分輕重緩急,即在所有可應用GenAI的用例中,確定哪些是優先級最高的項目。為了做出正確選擇,企業必須充分了解GenAI的價值,明確在哪些方面可以為企業提供最大的幫助,以更好地利用有限的資源。

三、企業的關注點將從訓練成本轉向運營成本

2023年人們認為GenAI的成本主要是訓練成本,包括構建模型所需的服務器數量以及開發和維護人員的費用。在落地階段,企業并不直接承擔構建GPT4、Gemini等大型模型的成本,而是會更關注應用階段的運營成本。

以戴爾科技為例,戴爾科技正在建立基于知識的技術支持系統,大約需要20臺服務器,以及3個月左右的時間,而整個運營成本卻是未知的。部署技術支持系統后,戴爾科技內部員工可以提出任何與產品和技術相關的問題,并得到系統的回答。

“盡管系統的回答非常有用,但早期的模型顯示,如果我們將其應用于我們的一些工程師,大約需要6000人,每月需要5000萬次的交易量。因此,我們最終發現,與建立模型的成本相比,龐大的交易量帶來的巨額運營成本更該被重新審視。”John Roese介紹。

2024年需要審慎考慮,GenAI系統在經濟上是否非常有益,即使成本非常高,是否依然愿意承擔。

趨勢二:基于零信任的安全架構將落到實處

零信任的概念早已為人熟知,是對網絡安全架構的重新思考。與傳統的被動網絡安全防護模式不同,零信任的設計原則是“絕不信任,始終驗證”,基于零信任的安全架構會對所有人、應用和設備進行驗證,以保證安全性。

從安全策略和控制的角度,零信任強調對好的、壞的和未知的事物進行識別。對零信任而言,首先要識別好的和被允許的行為,并阻止所有非法的接入行為,實時解決潛在威脅。

盡管零信任不是一個新概念,行業正趨于成熟,但是端到端的零信任解決方案并未全面普及,戴爾科技已在其邊緣產品解決方案中采納零信任策略。

企業需要將零信任策略落到實處,零信任不僅是一款產品,更是一種架構和理念,生態系統的成熟將使零信任成為可能。將零信任原則應用于現有架構并非易事,然而,在全新環境,如AI工廠、邊緣和新的云環境中,相對更加容易。因此,可以挑選高風險領域應用和全新環境實施零信任框架,而其他低風險領域則繼續使用現有系統。

趨勢三:多云常態下 邊緣平臺將蓬勃發展

AI離不開推理,推理要靠近數據,而很多數據都在邊緣產生,例如生產中的邊緣設備,安全監控攝像頭等等,因此大部分推理是在邊緣進行的,這意味著邊緣平臺是真正運行AI的場所。

在多云環境下,云服務提供商通常在集中的數據中心提供服務,但實際情況是,數據并非都存儲在數據中心,而是分散在工廠、醫院等邊緣環境。因此,大型服務提供商和服務堆棧需要為每個架構建立自己的邊緣平臺,Amazon、Google、Microsoft、VMware、RedHad都有各自的邊緣平臺。

為了避免一個公司使用多個不同的邊緣平臺,戴爾科技提出將邊緣平臺與邊緣工作負載分開的解決方案。這種基礎架構可以建立一個通用的平行平臺,其上有軟件和硬件編排,用于運營軟件定義的平臺。

戴爾科技的愿景是通過建立一個統一的邊緣平臺,提升安全性和自動化水平,避免針對每個工作負載和應用創建獨立的平臺。John Roese認為,2024年這一愿景將加速落地,原因在于絕大多數企業的GenAI用例都涉及數據中心以外的邊緣數據,需要借助邊緣數據平臺,讓GenAI在利用數據時更加高效可行。

“我們認識到未來邊緣上主要運行的工作負載是AI,因此我們加強了與包括數據公司在內的AI生態系統合作伙伴之間的緊密合作,以確保我們能夠打造和交付一個正確的基礎架構,來支持企業級的生成式AI應用。”John Roese如是說。

趨勢四:量子計算與GenAI將密不可分

展望未來,John Roese表示量子計算將在未來五年內走進現實。量子計算可以突破傳統計算能力的極限,即在無限當中尋找可能的計算,因此非常擅長解決概率和優化問題。而GenAI正是一種概率計算,如果能優化量子計算以適應GenAI,將使GenAI運行更加高效。

量子計算解決了GenAI和大多數通用大模型對計算資源需求量極大這一痛點。混合量子系統將成為現代化AI的計算基礎,AI工作將被分散于包括量子處理單元在內的一系列不同的計算架構中。

如果量子計算與GenAI結合,將帶來GenAI系統能力的巨大飛躍,其驚喜程度可能不亞于ChatGPT初現。盡管不清楚確切的時間點,但可以肯定的是量子計算架構和GenAI將會成為整個系統不可或缺的一部分。

小結

實際上,以上四大技術趨勢緊密關聯:2024年,企業會將生成式AI付諸實踐,必然需要更先進的硬件,而未來5年內量子計算的突破有望進一步加速GenAI落地。同時,為了讓推理更高效,CIO必須將推理基礎架構部署在靠近數據和用戶的位置,因此打造現代化的邊緣平臺顯得至關重要。

在新環境中部署零信任這一新的安全范式非常便捷,尤其適合全新的邊緣平臺和AI基礎架構。John Roese希望零信任的安全原則能成為企業構建AI基礎架構的默認原則。

2024年,各類技術將通過互聯互通、相輔相成,讓GenAI加速在企業中落地,投入生產和推理。讓我們拭目以待!

關于企業網D1net(hfnxjk.com):

國內主流的to B IT門戶,同時在運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。同時運營18個IT行業公眾號(微信搜索D1net即可關注)。

關鍵字:CTO戴爾生成式AI零信任邊緣平臺量子計算

原創文章 企業網D1Net

電子周刊
回到頂部

關于我們聯系我們版權聲明隱私條款廣告服務友情鏈接投稿中心招賢納士

企業網版權所有 ©2010-2024 京ICP備09108050號-6 京公網安備 11010502049343號

^
  • <menuitem id="jw4sk"></menuitem>

    1. <form id="jw4sk"><tbody id="jw4sk"><dfn id="jw4sk"></dfn></tbody></form>
      主站蜘蛛池模板: 鹤峰县| 陵水| 宁陕县| 佛坪县| 黑水县| 洱源县| 尉犁县| 新野县| 兰州市| 乐都县| 南阳市| 筠连县| 万全县| 阜城县| 和林格尔县| 龙南县| 丰台区| 贵州省| 万宁市| 新建县| 明水县| 江口县| 咸丰县| 镇坪县| 嘉善县| 清涧县| 高邑县| 建湖县| 绍兴县| 泰和县| 嘉定区| 濉溪县| 固始县| 化州市| 三台县| 鱼台县| 凯里市| 建湖县| 云安县| 大理市| 长沙市|