從ChatGPT到Sora，短短兩年時間，AI的進化速度和程度再次刷新了所有人的想象，而數字經濟在全球范圍內的快速增長，也在推動人工智能逐步從“探索期”向“成長期”的快速過渡。據統計，預計到2026年，僅生成式人工智能市場將從2021年的15億美元增長到65億美元，復合年增長率34.9%。

 

然而，當我們驚嘆于人工智能在推進技術和各個產業轉型重塑，幫助企業提高生產效率，豐富人們日常生活等方面展現出的超凡能力的同時，也絕不該忽視其引發的由于數據量激增及泛用化等帶來的一系列前所未有的安全風險，有機構預測，AIGC產生的數據到2026年將占所有數據的10%，而目前這一比例還不到1%。也就是說，也許10倍于當前的挑戰將要到來。

 

面對挑戰，放眼全球，中國用戶似乎對使用AI技術尤其“癡迷”。Veritas最新調研結果顯示，85%的中國受訪者在工作中使用ChatGPT等人工智能生成工具，包括輸入客戶、員工和公司財務等信心，敏感數據暴露的風險也因此增加。但是，類似的行為卻似乎缺少應有的“約束”，雖然有90%的中國受訪者認為針對AI的使用指導和政策非常重要，但目前只有34%的中國企業向員工提供了強制性的使用指導。

 

對此，Veritas認為:AI技術“奇點”的到來，需要數據管理的加速“蝶變”。在人工智能發展和數據安全問題日益深度交織融合的當下，企業及其員工正成為面對數據安全風險的主要群體。因此，明確AI使用過程中和黑客利用AI勒索等威脅，開展及時的培訓和指導，并強化自身網絡韌性，顯得至關重要。也許唯有對AI保持敬畏之心，才能真正讓其“無害”地為我們所用。

 

AI泛用讓數據風險“層層加碼”

 

如今，AI的無處不在，讓各類風險層出不窮。

 

一方面，在AI的使用過程中，可能不經意間便會觸及“紅線”。根據數據安全服務機構賽博天堂(Cyber Heaven)的檢測顯示，其客戶公司的160萬名員工中已有4.2%將包含商業秘密的數據輸入ChatGPT，其中有高管將戰略文件復制到ChatGPT并利用其生成幻燈片，一旦被盜用或竊取，后果不可想象。

 

然而類似的“無意”行為，卻并非罕見現象。根據Veritas的調研，在中國受訪者中有37%的員工承認曾將潛在敏感信息輸入AIGC工具，且有50%和58%的受訪者沒有意識到風險，或并不了解這樣是否會導致其公司違反數據隱私合規法規。

 

從數據使用全生命周期的視域來看，企業在使用AI時可能會面臨諸如數據泄露、合規、操縱篡改、數據偏差等多類型風險。

 

· 數據泄露風險。在使用AI過程中，將包括個人信息、客戶數據、企業機密等敏感數據鍵入，以提高搜索效率等，這些行為極大增加了信息泄露的風險，且該類風險發生的概率看上去也是最高的一種。

 

· 數據合規風險。在一些特殊行業中，企業數據受到法律嚴格管治，例如制藥行業，任何藥企都要遵守cGMP中對于數據連續性和完整性的規定，一旦因AI使用造成數據丟失，企業不但要接受監管機構的處罰，整個批次的藥品都可能被報廢處理，造成嚴重損失。

 

· 數據操縱或篡改風險。在自動駕駛、智能工廠等對實時性要求極高的場景中，數據操縱或篡改對AI核心模塊產生的定向干擾將會直接擴散到智能設備終端(如智能駕駛汽車的剎車裝置等)，很可能導致災難性事故發生。

 

· 數據偏差導致決策風險。數據偏差是指AI決策中所使用數據因不夠全面，使所承載的信息帶有難以用技術手段消除的偏差，進而導致決策結果不夠科學。比如對于金融征信、醫療領域企業，可能會因數據量不足、數據質量不高等原因，導致決策準確率偏低，影響最終效果。

 

另一方面，即使企業對AI使用格外謹慎，也難免會遭遇黑客利用AI進行詐騙或勒索。近日，一家英國跨國企業的中國香港分公司，被騙子用偽造的“AI換臉”和AI音頻合成的視頻內容，冒充總公司的CFO，直接騙走了2億港幣。此外，相關數據顯示，僅2022年上半年，全球就記錄了2.361億次勒索軟件攻擊，勒索軟件的速度已經快至可以在43分鐘內加密54GB的數據，由此引發的網絡攻擊也被IDC認為是全球組織面臨的最大威脅之一，而這種威脅在得到AI技術加持之后，所造成的后果更難以想象。

 

眾所周知，海量多源數據是AI，特別是生成式AI訓練和產出的原始素材，也是當前企業數字化發展中寶貴的資源。有研究數據顯示，86%的企業開始將AI作為未來數字化發展的“主流”技術，并加大投資，以幫助企業做出更好的決策、改善客戶服務并降低成本。如此一來，企業將會有更多的“無形資產”以數據的形式暴露在網絡環境中，黑客可以使用AIGC來創建更高效的勒索軟件，或利用WormGPT等不受約束的語言模型來實現更復雜的網絡釣魚攻擊。為此，除了支付贖金，企業還可能承受包括收入損失、失去客戶、員工生產力下降、監管罰款、數據無法恢復、甚至面臨訴訟等后果。而這對于眾多正處于數字化轉型加速期的中國企業來講，勢必將構成更大的威脅，如何有效應對，便也更加任重道遠。

 

全面部署積極防御，從容應對更大挑戰

 

正像AI技術本身自帶的“雙刃劍”屬性，各個國家在積極擁抱這項新技術的同時，也對如何保障安全實施了相應對策。如意大利個人數據保護局率先封禁了ChatGPT，美國聯邦貿易委員會也收到了請求調查OpenAI的動議。中國從2019年開始，陸續發布了《新一代人工智能治理原則——發展負責任的人工智能》、《生成式人工智能服務管理辦法(征求意見稿)》等，提出“發展與治理雙輪驅動”思路，加速推動建立AIGC的治理框架。

 

而對于企業來說，制定具有前瞻性，切實可行的策略和方案同樣迫在眉睫。對此，Veritas建議:針對在使用AI過程中，及黑客網絡攻擊、勒索等可能面臨的風險，企業在提高重視程度的同時，在“前端”緊跟相關技術發展趨勢，積極創建對應的指導和規則，在“中端”運用正確的治理工具可靠合規的進行管理，并在“后端”塑造更具韌性的網絡架構，筑牢“最后一道防線”。

 

· 與時俱進了解趨勢。企業應積極與供應商和研究機構合作，掌握AI技術、勒索攻擊等發展的最新趨勢，并對其之于數據管理的威脅做出評估，通過加強與員工、用戶的溝通，制定事件響應計劃等，進一步提高全員的風險應對意識。

 

· 事無巨細規范行為。在企業內部，應及時制定并清晰傳達相應的使用指導和規則，規范員工對AI的使用。根據Veritas的調研，近九成(89%)的中國員工希望企業提供AI的使用指導、政策或培訓，以明確工具使用的正確方式(68%)、降低風險(51%)和在工作場所創造公平競爭的環境(31%)。在此基礎上，通過定期的培訓，讓員工真正意識到什么是可以做的，什么是不能做的。

 

· 全面周密數據管理。企業應從加密、控制和保護敏感數據，確保數據可靠性和完整性，建立管理流程，對數據進行分類和標記并審計和監控等幾方面入手，把握“全面辨識和分類數據、實現自動化分類系統、普及數據分類”關鍵三步，并攜手可靠的供應商，運用正確的數據合規治理工具，監測管理落地實施過程并持續執行。此外，面對海量數據管理的龐大工程，企業可采用AI驅動的異常檢測和其他類似的安全措施，來提高抵御威脅的效率和能力。

 

· 未雨綢繆強化韌性。在網絡環境逐漸AI化時，單獨依賴災難恢復的方式已不足以充分應對網絡事件，企業需要依托更高水平的災難恢復流程，重點確保關鍵數據和系統的生存、完整性和快速恢復，不斷提升網絡韌性。為此，企業在擁有足夠的存儲冗余，采用防篡改和不可變的存儲，將零信任擴展到企業數據保護環境中，采用獨立備份系統等，確保數據“可恢復”的同時，還要定期進行災難恢復演練等，真正做到有“備”無患。

 

人工智能技術的日新月異，對企業的數據管理提出了新的更艱巨的難題，但幸運的是，AI在制造威脅的同時，也可以被用來監測、規避威脅，為企業提供更適用的工具，幫助企業采取更迅速、智慧的行動。為了激發AI創造更多正面價值，盡可能地規避AI帶來的潛在風險，實現自身利益的最大化，企業更應加快從認識、了解，到使用、防范AI及其衍生技術的腳步，結合全方位的數據管理和保護策略，在充滿了機遇和挑戰的數字化轉型中迎接美好的明天。

 

關于 Veritas

 

Veritas Technologies是安全多云數據管理領域的領導者。超過八萬家企業級客戶， 包括91%的全球財富100強企業，均依靠Veritas確保其數據的保護、可恢復性和合規性。Veritas在規模化的可靠性方面享有盛譽，可為企業提供抵御勒索軟件等網絡攻擊威脅所需的韌性。Veritas通過統一的平臺，支持超過800種數據源，100多種操作系統以及1400多種存儲設備。在云級技術的支持下，Veritas現正在實踐其數據自治戰略，在降低運營成本的同時，實現更大價值。