在曼哈頓計劃中，只有奧本海默等少數(shù)物理學(xué)家了解這項技術(shù)，技術(shù)發(fā)明以來也一直被全球嚴(yán)格控制。而現(xiàn)在，生成式AI則是所有人都觸手可及的能力，可以被輕易濫用。
當(dāng)然，技術(shù)本身是中立的，它的使用和影響取決于使用它的人。對于更多企業(yè)來說，既要應(yīng)對生成式AI帶來的安全威脅，也要正確合理地確保生成式AI安全落地，保障生成式 AI 系統(tǒng)的安全。
在網(wǎng)絡(luò)安全領(lǐng)域，生成式AI是不折不扣的雙刃劍
在網(wǎng)絡(luò)安全領(lǐng)域，生成式AI會被黑客用濫用在網(wǎng)絡(luò)攻擊領(lǐng)域，也會被安全工作人員當(dāng)做絕佳的防御工具。
我們能看到，2023年上半年，市場上出現(xiàn)WormGPT和FraudGPT這樣的工具，可以用于網(wǎng)絡(luò)詐騙和網(wǎng)絡(luò)勒索等惡意活動，能讓黑客發(fā)起更復(fù)雜的攻擊。
Darktrace 的研究顯示，自 ChatGPT 為代表的生成式AI技術(shù)興起以來，復(fù)雜的網(wǎng)絡(luò)釣魚攻擊數(shù)量上升了 135%。
我們也欣喜地看到，2023年3月，微軟推出了Security Copilot工具，這是一個可以強(qiáng)化安全防護(hù)能力的工具，該工具可以通過自動化任務(wù)，匯集來自多個來源的安全數(shù)據(jù)和警報，從而快速檢測和響應(yīng)威脅，以幫助安全團(tuán)隊提升工作效率。
2023年6月，OpenAI宣布計劃投入超過100萬美元來啟動一項網(wǎng)絡(luò)安全創(chuàng)新扶持計劃。該項目為的是提升由人工智能技術(shù)驅(qū)動的新一代網(wǎng)絡(luò)安全能力建設(shè)，并促進(jìn)高水平人工智能技術(shù)和網(wǎng)絡(luò)安全應(yīng)用間的協(xié)同效應(yīng)。
企業(yè)安全領(lǐng)域的工作者應(yīng)該意識到，生成式 AI 已成為網(wǎng)絡(luò)安全領(lǐng)域不可忽視的重要組成部分。它既帶來了更嚴(yán)重的安全威脅，同時也開辟了新的安全防護(hù)路徑，只有充分認(rèn)識到生成式AI的影響力，才能在不斷變化的威脅環(huán)境中為企業(yè)保駕護(hù)航。
生成式AI帶來強(qiáng)大而高效的安全工具
生成式AI不僅可以創(chuàng)建逼真的圖像、文本或視頻，能極大地提升我們處理和分析信息的能力，還能不斷學(xué)習(xí)和進(jìn)化，準(zhǔn)確地理解和執(zhí)行復(fù)雜任務(wù)。在安全領(lǐng)域，這種能力將帶來強(qiáng)大而高效的工具，更好地識別和應(yīng)對威脅，保護(hù)數(shù)據(jù)和系統(tǒng)不受侵害。
具體而言，生成式AI在六個方面都能提供很大幫助。
首先，生成式AI可以提高威脅檢測和響應(yīng)的有效性。與剛才提到的Security Copilot類似一樣，生成式AI可以快速分析海量數(shù)據(jù)，快速檢測到網(wǎng)絡(luò)流量中的異常，反常的用戶行為，可疑的電子郵件，從而快速識別惡意軟件、釣魚攻擊或內(nèi)部攻擊等威脅。
同時，生成式AI的預(yù)測能力能更主動地做出預(yù)防措施。通過從以往的事件和網(wǎng)絡(luò)安全趨勢中汲取經(jīng)驗，生成式 AI 可以預(yù)測未來威脅或識別潛在的漏洞。從而使組織能夠積極主動地采取安全措施，在漏洞被利用之前就加以解決。
生成式AI提高了安全防護(hù)的自動化程度和工作效率。通過自動執(zhí)行的威脅檢測，生成式 AI 可以加快發(fā)現(xiàn)和應(yīng)對威脅的速度，從而減少潛在損失。此外，大量日常網(wǎng)絡(luò)安全任務(wù)也可以自動化來執(zhí)行。這不僅能提高效率，還能讓安全人員專注于更具戰(zhàn)略性和更復(fù)雜的任務(wù)。
生成式AI提高取證分析的效率和準(zhǔn)確性。通過與威脅情報平臺和數(shù)據(jù)庫集成，生成式AI利用模式檢測和識別代碼相似性等功能來揭示可能會被手動操作遺漏的隱藏證據(jù)，快速分析惡意軟件樣本，解決一系列復(fù)雜的數(shù)字取證調(diào)查問題?。
生成式 AI 也可用于個性化安全培訓(xùn)。生成式 AI 還可以根據(jù)員工的角色、過往行為和可能面臨的威脅，為員工設(shè)計個性化的安全意識培訓(xùn)內(nèi)容。這有助于減少人為錯誤，而人為錯誤是造成許多安全漏洞的重要因素。
生成式 AI 還有助于擴(kuò)大安全運營規(guī)模。生成式 AI 在安全方面提供的諸多便利，讓安全團(tuán)隊可以更快地獲取更豐富的見解，并據(jù)此采取行動，將更多精力放在更重要的事項上。
如何保障生成式 AI 系統(tǒng)的安全
生成式 AI 在帶來巨大安全優(yōu)勢的同時，也帶來了新的挑戰(zhàn)。企業(yè)希望生成式AI在企業(yè)落地并幫助企業(yè)構(gòu)建競爭優(yōu)勢時，還應(yīng)該注意如何確保生成式AI安全運行。因為生成式AI系統(tǒng)也可能會成為網(wǎng)絡(luò)攻擊的目標(biāo)，如果得不到適當(dāng)?shù)谋Ｗo(hù)，它們的功能可能被惡意利用。
由于生成式 AI 系統(tǒng)依賴于海量數(shù)據(jù)進(jìn)行學(xué)習(xí)和決策，因此，對于數(shù)據(jù)的隱私和完整性有很高要求。通常需要對數(shù)據(jù)實施數(shù)據(jù)分類加密，需要有強(qiáng)有力的訪問控制機(jī)制以及安全的數(shù)據(jù)存儲和傳輸技術(shù)。
戴爾科技作為全球大型IT基礎(chǔ)設(shè)施服務(wù)商，不僅有久經(jīng)考驗的企業(yè)級服務(wù)器、存儲系統(tǒng)技術(shù)方案，還提供了備份、容災(zāi)和Cyber Recovery數(shù)據(jù)避風(fēng)港“三位一體”的數(shù)據(jù)保護(hù)解決方案。無論是存儲、處理還是傳輸過程，都能夠幫助企業(yè)將數(shù)據(jù)隱私和數(shù)據(jù)完整性提高到很高的水平。
在解決數(shù)據(jù)隱私和數(shù)據(jù)完整性問題的同時，還應(yīng)該注意“對抗攻擊”的問題，防范通過惡意操縱 AI 系統(tǒng)的輸入數(shù)據(jù)來欺騙 AI 系統(tǒng)，讓系統(tǒng)發(fā)生故障或做出錯誤的決定。因此，企業(yè)還需要執(zhí)行強(qiáng)有力的測試和驗證程序，并研究如何防御此類攻擊。
同樣的，還要防止AI系統(tǒng)被惡意濫用。企業(yè)必須監(jiān)視生成式 AI 系統(tǒng)的使用，并采取措施來檢測和應(yīng)對濫用行為。比如，要驗證視頻或音頻的真實性，防止利用生成的虛假內(nèi)容制造假新聞或者用于誹謗、欺詐等，從而造成負(fù)面影響。
此外，與所有 AI 一樣，生成式AI系統(tǒng)基于大量數(shù)據(jù)訓(xùn)練而來，如果這些數(shù)據(jù)中包含了某些偏見，生成式 AI 系統(tǒng)也受到影響，從而作出不公平或歧視性的決策。要解決這個問題，需要定期審計，采用減少偏見的技術(shù)并遵守道德準(zhǔn)則。
最后，生成式AI是非常強(qiáng)大的智能系統(tǒng)，企業(yè)應(yīng)該對落地的生成式AI 系統(tǒng)實施強(qiáng)有力的訪問控制措施，以零信任架構(gòu)來管理訪問權(quán)限，這對于防止未經(jīng)授權(quán)的訪問和阻止?jié)撛诘南到y(tǒng)濫用有積極作用。
戴爾科技集團(tuán)可顯著簡化零信任的落地，不僅在產(chǎn)品方案中內(nèi)置了零信任架構(gòu)，而且還在構(gòu)建集成的零信任架構(gòu)。戴爾科技提供零信任相關(guān)服務(wù)，可協(xié)助制定路線圖、集成關(guān)鍵技術(shù)并實施主動管理。同時，還有專業(yè)的安全咨詢服務(wù)以及廣泛的合作伙伴生態(tài)幫助企業(yè)落地零信任架構(gòu)。
結(jié)束語
總之，AI 對網(wǎng)絡(luò)安全來說是一把雙刃劍。一方面，它將帶來新的安全威脅，另一方面，它可以幫助企業(yè)安全體系提高威脅檢測和響應(yīng)能力，提高預(yù)測能力和安全運營效率。
隨著生成式 AI 時代的到來，AI 與網(wǎng)絡(luò)安全將相互影響。考慮到生成式AI的強(qiáng)大能力，企業(yè)需要通過強(qiáng)有力的安全措施來持續(xù)監(jiān)視、定期更新和修補(bǔ)來應(yīng)對風(fēng)險，保護(hù)好生成式AI系統(tǒng)，讓生成式AI為企業(yè)產(chǎn)出更多價值。
京公網(wǎng)安備 11010502049343號