這個(gè)成熟階段是一個(gè)受歡迎的發(fā)展,因?yàn)樗oCIO一個(gè)機(jī)會(huì),可以將GenAI的承諾轉(zhuǎn)化為業(yè)務(wù)價(jià)值。雖然大多數(shù)CIO知道試點(diǎn)項(xiàng)目不反映真實(shí)的場景——畢竟這不是試點(diǎn)的真正目的——他們往往低估了將GenAI投入生產(chǎn)所需的工作量。最終,要充分利用GenAI,公司需要重新設(shè)計(jì)工作方式,而建立一個(gè)可擴(kuò)展的技術(shù)基礎(chǔ)是這一過程的重要組成部分。
在我們之前的文章中,我們探討了許多關(guān)鍵的初始技術(shù)問題。在這篇文章中,我們希望探討關(guān)于用“Shaper”方法(公司通過將大型語言模型(LLM)連接到內(nèi)部應(yīng)用程序和數(shù)據(jù)源來開發(fā)競爭優(yōu)勢)擴(kuò)展GenAI的七個(gè)真相。以下是Shapers需要知道和做的七件事:
1. 消除噪音,專注于信號(hào)。誠實(shí)地評(píng)估哪些試點(diǎn)項(xiàng)目有效。減少實(shí)驗(yàn)。將努力集中在解決重要的業(yè)務(wù)問題上。
2. 關(guān)鍵在于如何組合,而不是單個(gè)部分。評(píng)估GenAI引擎的各個(gè)組件花費(fèi)了太多時(shí)間,更重要的是弄清楚它們?nèi)绾伟踩貐f(xié)同工作。
3. 在成本拖累你之前掌握成本。模型僅占GenAI應(yīng)用程序總體成本的約15%。了解成本所在,并應(yīng)用合適的工具和能力來控制它們。
4. 控制工具和技術(shù)的擴(kuò)散。基礎(chǔ)設(shè)施、LLM和工具的擴(kuò)散使得大規(guī)模部署不可行。縮小到那些最能服務(wù)于業(yè)務(wù)的能力,并利用現(xiàn)有的云服務(wù)(同時(shí)保留你的靈活性)。
5. 創(chuàng)建能夠構(gòu)建價(jià)值的團(tuán)隊(duì),而不僅僅是模型。實(shí)現(xiàn)規(guī)模化需要一個(gè)擁有廣泛技能的團(tuán)隊(duì),不僅能構(gòu)建模型,還能確保它們安全、可靠地產(chǎn)生預(yù)期的價(jià)值。
6. 關(guān)注正確的數(shù)據(jù),而不是完美的數(shù)據(jù)。瞄準(zhǔn)最重要的數(shù)據(jù)并在時(shí)間上投資其管理,對(duì)你能多快實(shí)現(xiàn)規(guī)模有很大影響。
7. 重用。可重用代碼可以將GenAI用例的開發(fā)速度提高30%到50%。
1. 消除噪音,專注于信號(hào)
盡管許多業(yè)務(wù)領(lǐng)導(dǎo)者承認(rèn)需要超越試點(diǎn)和實(shí)驗(yàn),但這并不總是反映在實(shí)際情況中。即使GenAI的采用增加了,其對(duì)實(shí)際收益的影響實(shí)例仍然很少。在我們最新的AI調(diào)查中,只有15%的公司表示GenAI的使用對(duì)他們公司的EBIT產(chǎn)生了有意義的影響。
這種情況加劇了領(lǐng)導(dǎo)者從實(shí)驗(yàn)中得出誤導(dǎo)性教訓(xùn)的問題。他們?cè)噲D將本質(zhì)上是聊天界面試點(diǎn)的項(xiàng)目轉(zhuǎn)變?yōu)閼?yīng)用程序——這是典型的“為技術(shù)尋找解決方案”的陷阱。或者一個(gè)試點(diǎn)可能被認(rèn)為是“成功的”,但它并沒有應(yīng)用到業(yè)務(wù)的重要部分。
失敗實(shí)現(xiàn)規(guī)模化的原因有很多,但最主要的是資源和高管的關(guān)注分散在幾十個(gè)正在進(jìn)行的GenAI項(xiàng)目上。這并不是一個(gè)新現(xiàn)象。當(dāng)其他技術(shù)(如云計(jì)算和高級(jí)分析)出現(xiàn)時(shí),我們也看到了類似的模式。然而,這些創(chuàng)新的經(jīng)驗(yàn)教訓(xùn)并沒有被牢記。
CIO需要做出的最重要決定是消除表現(xiàn)不佳的試點(diǎn)項(xiàng)目,并擴(kuò)大那些在技術(shù)上可行并有望解決重要業(yè)務(wù)領(lǐng)域同時(shí)最小化風(fēng)險(xiǎn)的項(xiàng)目。CIO需要與業(yè)務(wù)單元領(lǐng)導(dǎo)密切合作,設(shè)置優(yōu)先級(jí)并處理他們選擇的技術(shù)影響。
2. 關(guān)鍵在于如何組合,而不是單個(gè)部分
在許多討論中,我們聽到技術(shù)領(lǐng)導(dǎo)者對(duì)交付GenAI(GenAI)解決方案所需的組件部分——LLM、API等——反復(fù)糾結(jié)。然而,我們了解到,解決這些單個(gè)部分相對(duì)容易,而將它們集成起來則非常困難。這在GenAI的規(guī)模化過程中創(chuàng)造了一個(gè)巨大的障礙。
挑戰(zhàn)在于協(xié)調(diào)范圍廣泛的交互和集成。每個(gè)用例通常需要訪問多個(gè)模型、向量數(shù)據(jù)庫、提示庫和應(yīng)用程序。公司必須管理各種來源(如云端、本地、供應(yīng)商處或其組合),保真度的程度(包括延遲和彈性),以及現(xiàn)有的協(xié)議(例如訪問權(quán)限)。添加一個(gè)新的組件來提供解決方案,會(huì)對(duì)系統(tǒng)中的所有其他組件產(chǎn)生連鎖反應(yīng),增加整體解決方案的指數(shù)級(jí)復(fù)雜性。
有效協(xié)調(diào)的關(guān)鍵在于將企業(yè)的領(lǐng)域和工作流程專業(yè)知識(shí)嵌入到應(yīng)用程序在云基礎(chǔ)上運(yùn)行時(shí)的模型、數(shù)據(jù)和系統(tǒng)交互的逐步流程和順序管理中。有效協(xié)調(diào)引擎的核心組件是API網(wǎng)關(guān),它負(fù)責(zé)驗(yàn)證用戶、確保合規(guī)、記錄請(qǐng)求和響應(yīng)對(duì)(例如,幫助團(tuán)隊(duì)計(jì)費(fèi)),并將請(qǐng)求路由到最佳模型,包括第三方提供的模型。網(wǎng)關(guān)還支持成本跟蹤,并為風(fēng)險(xiǎn)和合規(guī)團(tuán)隊(duì)提供了一種可擴(kuò)展的使用監(jiān)控方式。這個(gè)網(wǎng)關(guān)功能對(duì)于實(shí)現(xiàn)規(guī)模化至關(guān)重要,因?yàn)樗试S團(tuán)隊(duì)獨(dú)立操作,同時(shí)確保他們遵循最佳實(shí)踐。
然而,要有效協(xié)調(diào)交付GenAI能力所需的眾多交互,沒有有效的端到端自動(dòng)化是不可能的。“端到端”是這里的關(guān)鍵短語。公司通常會(huì)自動(dòng)化工作流程的某些元素,但只有通過自動(dòng)化整個(gè)解決方案,從數(shù)據(jù)處理(清理和集成)和數(shù)據(jù)管道構(gòu)建到模型監(jiān)控和通過“代碼即政策”進(jìn)行風(fēng)險(xiǎn)審查,才能真正獲得價(jià)值。我們的最新研究表明,GenAI高績效者在發(fā)布過程中的測試和驗(yàn)證嵌入率是其同行的三倍多。現(xiàn)代MLOps平臺(tái)對(duì)于幫助管理這種自動(dòng)化流程至關(guān)重要,根據(jù)麥肯錫的分析,它可以加快生產(chǎn)速度十倍,并提高云資源的使用效率。
由于其概率性質(zhì)或基礎(chǔ)模型的頻繁變化,GenAI模型可能會(huì)產(chǎn)生不一致的結(jié)果。模型版本可能每周更新一次,這意味著公司不能僅僅設(shè)置其協(xié)調(diào)能力并讓其在后臺(tái)運(yùn)行。他們需要開發(fā)超高敏感的觀察和分類能力,以快速、安全地實(shí)施GenAI。可觀察性工具實(shí)時(shí)監(jiān)控GenAI應(yīng)用程序與用戶的交互,跟蹤響應(yīng)時(shí)間、準(zhǔn)確性和用戶滿意度等指標(biāo)。如果應(yīng)用程序開始生成不準(zhǔn)確或不適當(dāng)?shù)捻憫?yīng),該工具會(huì)提醒開發(fā)團(tuán)隊(duì)進(jìn)行調(diào)查,并對(duì)模型參數(shù)、提示模板或協(xié)調(diào)流程進(jìn)行必要的調(diào)整。
3. 控制成本,避免成本失控
GenAI數(shù)據(jù)使用和模型交互的規(guī)模龐大,意味著成本可能迅速失控。管理這些成本將對(duì)CIO是否能夠在規(guī)模上管理GenAI項(xiàng)目產(chǎn)生巨大影響。但了解是什么驅(qū)動(dòng)成本對(duì)GenAI項(xiàng)目至關(guān)重要。例如,模型本身僅占典型項(xiàng)目工作量的約15%。隨著時(shí)間的推移,LLM成本顯著下降,并繼續(xù)下降。
CIO應(yīng)將精力集中在以下四個(gè)現(xiàn)實(shí)上:
- 變更管理是最大的成本。我們的經(jīng)驗(yàn)表明,管理GenAI成本的一個(gè)好經(jīng)驗(yàn)法則是,每花費(fèi)1美元開發(fā)模型,您需要花費(fèi)約3美元進(jìn)行變更管理。(相比之下,對(duì)于數(shù)字解決方案,這一比例通常接近1美元開發(fā)1美元變更管理。)紀(jì)律性管理變更操作范圍,從培訓(xùn)人員到角色建模到主動(dòng)績效跟蹤,對(duì)于GenAI至關(guān)重要。我們的分析表明,高績效者在績效管理基礎(chǔ)設(shè)施(如關(guān)鍵績效指標(biāo)(KPI))方面的可能性幾乎是其他人的三倍,以衡量和跟蹤GenAI的價(jià)值。他們也更有可能培訓(xùn)非技術(shù)人員,讓他們足夠了解使用GenAI的潛在價(jià)值和風(fēng)險(xiǎn)。
公司在處理變更管理成本方面取得成功,主要集中在兩個(gè)領(lǐng)域:首先,從一開始就讓最終用戶參與解決方案的開發(fā)(公司往往只是為GenAI應(yīng)用程序創(chuàng)建一個(gè)聊天界面);其次,邀請(qǐng)他們最優(yōu)秀的員工來訓(xùn)練模型,以確保模型正確且快速地學(xué)習(xí)。
- GenAI應(yīng)用程序的運(yùn)行成本大于構(gòu)建成本。我們的分析表明,運(yùn)行模型的費(fèi)用遠(yuǎn)高于構(gòu)建模型。基礎(chǔ)模型的使用和勞動(dòng)力是成本的主要驅(qū)動(dòng)因素。大部分勞動(dòng)力成本用于模型和數(shù)據(jù)管道的維護(hù)。在歐洲,我們發(fā)現(xiàn)風(fēng)險(xiǎn)和合規(guī)管理也會(huì)產(chǎn)生顯著的成本。
- 降低模型成本是一個(gè)持續(xù)的過程。例如,如何設(shè)計(jì)GenAI的架構(gòu)決策可能導(dǎo)致成本差異達(dá)10到20倍,有時(shí)甚至更多。現(xiàn)有一系列成本削減工具和能力,例如預(yù)加載嵌入。這不是一次性的工作。成本優(yōu)化過程需要時(shí)間和多種工具,但如果做得好,可以將成本從每次查詢一美元減少到不到一美分。
- 投資應(yīng)與投資回報(bào)率(ROI)掛鉤。并非所有GenAI交互都需要同等對(duì)待,因此它們的成本也不應(yīng)相同。例如,GenAI工具響應(yīng)客戶的實(shí)時(shí)問題,對(duì)于客戶體驗(yàn)至關(guān)重要,需要較低的延遲率,因此成本更高。但代碼文檔工具則不需要如此高的響應(yīng)速度,可以以更低的成本運(yùn)行。云在推動(dòng)ROI方面起著至關(guān)重要的作用,因?yàn)槠渲饕獌r(jià)值來源于支持業(yè)務(wù)增長,尤其是支持大規(guī)模的分析解決方案。目標(biāo)是開發(fā)一種建模紀(jì)律,在不陷入無休止分析的情況下,將ROI聚焦于每個(gè)GenAI用例。
4. 控制工具和技術(shù)的泛濫
許多團(tuán)隊(duì)仍在推動(dòng)自己的用例,并且通常設(shè)置了自己的環(huán)境,導(dǎo)致公司不得不支持多種基礎(chǔ)設(shè)施、LLM、工具和擴(kuò)展方法。事實(shí)上,在最近的麥肯錫調(diào)查中,受訪者將“平臺(tái)過多”列為實(shí)施GenAI規(guī)模化的首要技術(shù)障礙。基礎(chǔ)設(shè)施和工具越多,操作的復(fù)雜性和成本就越高,這反過來使得大規(guī)模推出變得不可行。這種狀況類似于云和軟件即服務(wù)(SaaS)的早期階段,當(dāng)時(shí)訪問技術(shù)變得如此容易——通常只需一張信用卡——導(dǎo)致工具泛濫,造成混亂和風(fēng)險(xiǎn)。
要實(shí)現(xiàn)規(guī)模化,公司需要一套可管理的工具和基礎(chǔ)設(shè)施。但如何選擇供應(yīng)商、主機(jī)、工具和模型?關(guān)鍵在于不要在無關(guān)緊要的決策上浪費(fèi)時(shí)間(例如,選擇LLM的重要性越來越低,因?yàn)樗鼈冎饾u變成商品),或者在根本沒有多少選擇的情況下浪費(fèi)時(shí)間——例如,如果你的主要云服務(wù)提供商(CSP)擁有大部分?jǐn)?shù)據(jù)并且你的團(tuán)隊(duì)熟悉該CSP的工作方式,那么你應(yīng)該選擇該CSP的GenAI服務(wù)。事實(shí)上,主要的CSP正在推出新的GenAI服務(wù),這些服務(wù)可以幫助公司改進(jìn)一些用例的經(jīng)濟(jì)性并開放新的訪問。公司如何利用這些服務(wù)取決于許多變量,包括其自身的云成熟度和云基礎(chǔ)的實(shí)力。
需要詳細(xì)考慮的是如何以靈活的方式構(gòu)建基礎(chǔ)設(shè)施和應(yīng)用程序,使其相對(duì)容易地切換供應(yīng)商或模型。可以考慮采用供應(yīng)商廣泛使用的標(biāo)準(zhǔn)(如KFServing,一種用于部署GenAI模型的無服務(wù)器解決方案),Terraform用于基礎(chǔ)設(shè)施即代碼,以及開源LLM。
值得強(qiáng)調(diào)的是,過度設(shè)計(jì)靈活性最終會(huì)導(dǎo)致收益遞減。解決方案過多會(huì)變得維護(hù)成本高昂,難以充分利用服務(wù)提供商提供的服務(wù)。
5. 創(chuàng)建能夠創(chuàng)造價(jià)值的團(tuán)隊(duì),而不僅僅是構(gòu)建模型的團(tuán)隊(duì)
公司面臨的最大問題之一是他們?nèi)詫enAI視為技術(shù)項(xiàng)目,而不是廣泛的業(yè)務(wù)優(yōu)先事項(xiàng)。然而,過去的技術(shù)努力表明,創(chuàng)造價(jià)值從來不僅僅是“技術(shù)”問題。要讓GenAI產(chǎn)生真正的影響,公司必須建立能夠超越IT功能并將其嵌入業(yè)務(wù)中的團(tuán)隊(duì)。過去的經(jīng)驗(yàn)教訓(xùn)也適用。例如,敏捷實(shí)踐加快了技術(shù)開發(fā)。但只有當(dāng)企業(yè)的其他部分(如風(fēng)險(xiǎn)和業(yè)務(wù)專家)與產(chǎn)品管理和領(lǐng)導(dǎo)團(tuán)隊(duì)一起整合到團(tuán)隊(duì)中時(shí),才會(huì)產(chǎn)生更大的影響。
為了確保更廣泛的企業(yè)整合,有多種原型可以使用。一些公司建立了卓越中心,作為優(yōu)先考慮用例、分配資源和監(jiān)控績效的中樞。其他公司則在團(tuán)隊(duì)之間分配戰(zhàn)略和戰(zhàn)術(shù)職責(zé)。哪個(gè)原型適合某個(gè)特定企業(yè),取決于其可用的人才和本地實(shí)際情況。但關(guān)鍵是,這一集中職能部門能夠促成技術(shù)、業(yè)務(wù)和風(fēng)險(xiǎn)領(lǐng)導(dǎo)者之間的緊密合作,并嚴(yán)格遵循驅(qū)動(dòng)成功項(xiàng)目的成熟協(xié)議。這些可能包括季度業(yè)務(wù)審查,以根據(jù)特定目標(biāo)和關(guān)鍵結(jié)果(OKR)跟蹤項(xiàng)目進(jìn)展,并采取干預(yù)措施解決問題、重新分配資源或關(guān)閉表現(xiàn)不佳的項(xiàng)目。
這個(gè)治理結(jié)構(gòu)的一個(gè)關(guān)鍵角色是確保有效的風(fēng)險(xiǎn)協(xié)議得以實(shí)施和遵循。例如,構(gòu)建團(tuán)隊(duì)需要繪制每個(gè)用例相關(guān)的潛在風(fēng)險(xiǎn);在整個(gè)用例生命周期中,需要實(shí)施技術(shù)和“人機(jī)協(xié)作”協(xié)議。這個(gè)監(jiān)督機(jī)構(gòu)還需要管理GenAI風(fēng)險(xiǎn),通過評(píng)估暴露點(diǎn)并實(shí)施緩解策略來進(jìn)行管理。
一個(gè)需要防范的問題是僅僅管理戰(zhàn)術(shù)用例的流量,特別是在數(shù)量大的情況下。這個(gè)中央企業(yè)需要授權(quán)將相關(guān)用例聚集在一起,以確保大規(guī)模影響并推動(dòng)大型創(chuàng)意。這個(gè)團(tuán)隊(duì)需要充當(dāng)價(jià)值的守護(hù)者,而不僅僅是工作的管理者。
一家金融服務(wù)公司為高級(jí)管理層制定了明確的治理協(xié)議。由CIO和首席戰(zhàn)略官贊助的指導(dǎo)小組專注于企業(yè)治理、戰(zhàn)略和溝通,推動(dòng)用例的識(shí)別和審批。由CTO贊助的賦能小組則專注于數(shù)據(jù)架構(gòu)、數(shù)據(jù)科學(xué)、數(shù)據(jù)工程和核心賦能能力的決策。CTO還要求至少一名有經(jīng)驗(yàn)的架構(gòu)師早期加入用例團(tuán)隊(duì),以確保團(tuán)隊(duì)使用既定標(biāo)準(zhǔn)和工具集。這種監(jiān)督和治理的明確性在幫助企業(yè)從管理5個(gè)用例到超過50個(gè)用例的過程中起到了關(guān)鍵作用。
6. 選擇合適的數(shù)據(jù),而不是完美的數(shù)據(jù)
很多人誤以為GenAI可以簡單地收集必要的數(shù)據(jù)并加以理解。但沒有清晰準(zhǔn)確的數(shù)據(jù),高性能的GenAI解決方案是不可能的,這需要實(shí)際的工作和關(guān)注。那些投資于數(shù)據(jù)基礎(chǔ)設(shè)施以生成優(yōu)質(zhì)數(shù)據(jù)的公司,會(huì)有更明確的目標(biāo)。
以標(biāo)簽處理為例,這個(gè)過程往往在為所有數(shù)據(jù)追求完美和完全忽視之間搖擺。我們發(fā)現(xiàn),針對(duì)用于增強(qiáng)生成(RAG)的數(shù)據(jù)進(jìn)行有針對(duì)性的標(biāo)簽處理,可以顯著提高GenAI查詢答案的質(zhì)量。同樣,花時(shí)間為內(nèi)容來源的重要性進(jìn)行評(píng)級(jí)(“權(quán)威加權(quán)”)也很關(guān)鍵,這有助于模型理解不同來源的相對(duì)價(jià)值。做到這一點(diǎn)需要具有相關(guān)專業(yè)知識(shí)的人的大量監(jiān)督。
由于GenAI模型非常不穩(wěn)定,公司需要在添加新數(shù)據(jù)時(shí)維護(hù)其平臺(tái),這種情況經(jīng)常發(fā)生,并且會(huì)影響模型的表現(xiàn)。在大多數(shù)公司,這變得極其困難,因?yàn)橄嚓P(guān)數(shù)據(jù)分散在許多不同的地方。那些投資于創(chuàng)建數(shù)據(jù)產(chǎn)品的公司處于領(lǐng)先地位,因?yàn)樗麄冇幸粋€(gè)企業(yè)良好的數(shù)據(jù)源,可以用于長期訓(xùn)練模型。
例如,在一家材料科學(xué)產(chǎn)品公司,各個(gè)團(tuán)隊(duì)訪問產(chǎn)品信息,但每個(gè)團(tuán)隊(duì)都有不同的版本。研發(fā)部門有材料安全表,應(yīng)用工程團(tuán)隊(duì)(技術(shù)銷售/支持團(tuán)隊(duì))開發(fā)自己的版本以解決特定客戶的問題,商業(yè)化團(tuán)隊(duì)有產(chǎn)品描述,客戶支持團(tuán)隊(duì)有一套特定的產(chǎn)品詳情來回答查詢。隨著每個(gè)團(tuán)隊(duì)更新其版本的產(chǎn)品信息,出現(xiàn)了沖突,使得GenAI模型難以使用這些數(shù)據(jù)。為了解決這個(gè)問題,公司將所有相關(guān)的產(chǎn)品信息集中到一個(gè)地方。
7. 重復(fù)利用
可重復(fù)使用的代碼可以將GenAI用例的開發(fā)速度提高30%到50%。但是,由于急于取得有意義的突破,團(tuán)隊(duì)往往專注于單個(gè)用例,從而導(dǎo)致規(guī)模化的希望破滅。CIO需要將業(yè)務(wù)的精力轉(zhuǎn)向構(gòu)建能夠服務(wù)于多個(gè)用例的跨領(lǐng)域解決方案。實(shí)際上,我們發(fā)現(xiàn),表現(xiàn)突出的GenAI團(tuán)隊(duì)在構(gòu)建戰(zhàn)略性基礎(chǔ)設(shè)施以實(shí)現(xiàn)跨解決方案重用方面的可能性幾乎是其他團(tuán)隊(duì)的三倍。
然而,在致力于重用時(shí),很容易陷入構(gòu)建抽象GenAI能力的陷阱,這些能力雖然在技術(shù)上很容易實(shí)現(xiàn),但卻沒有得到實(shí)際使用。一種更有效的構(gòu)建可重用資產(chǎn)的方法是對(duì)一組用例(通常是三到五個(gè))進(jìn)行有紀(jì)律的審查,以確定它們的共同需求或功能。團(tuán)隊(duì)可以將這些共同元素構(gòu)建為可輕松重用或組合在一起以創(chuàng)建新功能的資產(chǎn)或模塊。例如,數(shù)據(jù)預(yù)處理和攝取可以包括數(shù)據(jù)分塊機(jī)制、結(jié)構(gòu)化數(shù)據(jù)和元數(shù)據(jù)加載器以及數(shù)據(jù)轉(zhuǎn)換器等獨(dú)立模塊。一家歐洲銀行審查了其能力在廣泛用例中使用的可能性,并投資開發(fā)了一個(gè)合成器模塊、一個(gè)翻譯模塊和一個(gè)情感分析模塊。
CIO不能期望這一切自然發(fā)生。他們需要指定一個(gè)角色,比如平臺(tái)所有者,并指定一個(gè)跨職能團(tuán)隊(duì),任務(wù)是為產(chǎn)品團(tuán)隊(duì)開發(fā)可重用資產(chǎn),這些資產(chǎn)可以包括經(jīng)過批準(zhǔn)的工具、代碼和框架。
GenAI可能帶來的價(jià)值是變革性的。但要捕捉到全部價(jià)值,公司需要在規(guī)模上利用GenAI,這要求CIO不僅要承認(rèn)這些艱難的現(xiàn)實(shí),還要準(zhǔn)備采取行動(dòng),引領(lǐng)企業(yè)前進(jìn)。
企業(yè)網(wǎng)D1net(hfnxjk.com):
國內(nèi)主流的to B IT門戶,同時(shí)在運(yùn)營國內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_(tái)-信眾智(www.cioall.com)。同時(shí)運(yùn)營19個(gè)IT行業(yè)公眾號(hào)(微信搜索D1net即可關(guān)注)。
版權(quán)聲明:本文為企業(yè)網(wǎng)D1Net編譯,轉(zhuǎn)載需在文章開頭注明出處為:企業(yè)網(wǎng)D1Net,如果不注明出處,企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。