在論壇上，程序員們貼出了一條條令人瞠目結(jié)舌的代碼生成示例。從串接云服務(wù)到將Python代碼移植為Rust，ChatGPT在某些基礎(chǔ)編程任務(wù)上已經(jīng)表現(xiàn)出非凡的能力。這使得人們開始擔(dān)心ChatGPT會淪為黑客攻擊的幫手。
那么ChatGPT的到來，究竟將如何影響網(wǎng)絡(luò)安全領(lǐng)域?ChatGPT是否會被黑客直接利用?它可以被應(yīng)用在哪些網(wǎng)絡(luò)安全領(lǐng)域?又是否會成為未來網(wǎng)絡(luò)安全技術(shù)的發(fā)展方向?
面對ChatGPT帶來的諸多疑問，瑞數(shù)信息專家分享了自己的觀點(diǎn)。
ChatGPT網(wǎng)絡(luò)安全應(yīng)用現(xiàn)狀
ChatGPT作為一款由AI技術(shù)驅(qū)動的自然語言處理工具，可以實(shí)現(xiàn)像人類一樣聊天交流。對于“是否會構(gòu)成網(wǎng)絡(luò)安全威脅”這一話題，ChatGPT顯然也有自己的看法：
“不，ChatGPT不會構(gòu)成網(wǎng)絡(luò)安全威脅。它是由OpenAI開發(fā)的一種語言模型，旨在根據(jù)接收到的輸入生成文本。然而，重要的是要記住，任何技術(shù)都可能被濫用，用戶有責(zé)任保護(hù)他們的系統(tǒng)和數(shù)據(jù)。此外，在分享敏感信息時(shí)要謹(jǐn)慎行事，因?yàn)榈谌娇赡軙@取這些信息。”
同時(shí)，ChatGPT也補(bǔ)充道：“如果它落入壞人之手，可能會被惡意利用”、“ChatGPT可能被用來從互聯(lián)網(wǎng)上抓取敏感信息，例如個(gè)人數(shù)據(jù)或財(cái)務(wù)信息。”
換句話說，ChatGPT到底有沒有威脅，最終還是取決于使用者的目的。
對此，瑞數(shù)信息專家表示，和任何技術(shù)一樣，ChatGPT一旦被居心叵測之人利用，同樣會成為做壞事的工具。例如，利用ChatGPT生成釣魚郵件或惡意代碼，或利用ChatGPT尋找代碼中的漏洞。
圖：詢問ChatGPT如何生成釣魚郵件后的自動回復(fù)
“對于初級黑客來說，ChatGPT的確可以提升攻擊水平，尤其是ChatGPT大幅提升了獲取信息和加以應(yīng)用的效率，降低了攻擊門檻;但對于高級黑客，要提升攻擊水平，更多需要自身的專研與積累，ChatGPT只能起到輔助的作用”，瑞數(shù)信息專家表示。
當(dāng)然，ChatGPT作為一把技術(shù)“雙刃劍”，同樣可以被應(yīng)用于網(wǎng)絡(luò)安全防護(hù)領(lǐng)域。對此，ChatGPT也提供了15種可能的應(yīng)用方向：
• 自動化威脅情報(bào)分析：使用ChatGPT進(jìn)行自然語言處理和情感分析，自動化威脅情報(bào)的分析和識別。
• 惡意代碼檢測：使用ChatGPT進(jìn)行文本分析和分類，對惡意代碼進(jìn)行自動化檢測和分析。
• 網(wǎng)絡(luò)安全事件響應(yīng)：使用ChatGPT對網(wǎng)絡(luò)安全事件進(jìn)行自然語言處理和語義分析，快速響應(yīng)和解決網(wǎng)絡(luò)安全事件。
• 基于機(jī)器學(xué)習(xí)的入侵檢測：使用ChatGPT進(jìn)行機(jī)器學(xué)習(xí)模型的訓(xùn)練和預(yù)測，實(shí)現(xiàn)基于機(jī)器學(xué)習(xí)的入侵檢測。
• 情報(bào)收集和分析：使用ChatGPT對網(wǎng)絡(luò)情報(bào)進(jìn)行自動化收集和分析，為網(wǎng)絡(luò)安全決策提供支持。
• 自動化漏洞檢測：使用ChatGPT進(jìn)行自然語言處理和語義分析，自動化發(fā)現(xiàn)和檢測系統(tǒng)和應(yīng)用程序中的漏洞。
• 智能安全咨詢：使用ChatGPT進(jìn)行自然語言處理和智能問答，為用戶提供實(shí)時(shí)的安全咨詢和建議。
• 身份驗(yàn)證和授權(quán)管理：使用ChatGPT對用戶的身份進(jìn)行自動化驗(yàn)證和授權(quán)管理，保護(hù)系統(tǒng)和數(shù)據(jù)的安全。
• 智能風(fēng)險(xiǎn)評估：使用ChatGPT進(jìn)行自然語言處理和數(shù)據(jù)分析，為企業(yè)和組織提供智能的風(fēng)險(xiǎn)評估和管理服務(wù)。
• 自動化安全測試：使用ChatGPT進(jìn)行自然語言處理和語義分析，自動化測試和評估系統(tǒng)和應(yīng)用程序的安全性能。
• 自動化安全審計(jì)：使用ChatGPT進(jìn)行自然語言處理和數(shù)據(jù)分析，自動化進(jìn)行系統(tǒng)和應(yīng)用程序的安全審計(jì)和評估。
• 安全事件預(yù)測和預(yù)警：使用ChatGPT進(jìn)行自然語言處理和機(jī)器學(xué)習(xí)，對網(wǎng)絡(luò)安全事件進(jìn)行預(yù)測和預(yù)警。
• 人工智能防火墻：使用ChatGPT進(jìn)行自然語言處理和機(jī)器學(xué)習(xí)，開發(fā)智能的防火墻系統(tǒng)，實(shí)現(xiàn)自動化的威脅防御和安全保護(hù)。
• 智能數(shù)據(jù)分類和保護(hù)：使用ChatGPT進(jìn)行自然語言處理和文本分析，對敏感數(shù)據(jù)進(jìn)行自動化分類和保護(hù)。
• 智能加密和解密：使用ChatGPT進(jìn)行自然語言處理和加密算法，實(shí)現(xiàn)智能加密和解密服務(wù)，保護(hù)數(shù)據(jù)的機(jī)密性和完整性。
瑞數(shù)信息專家表示，以上這些場景在技術(shù)上都是有可能實(shí)現(xiàn)的，但是通過ChatGPT對話直接生成的代碼或建議，不做任何修改和測試，是無法直接應(yīng)用在生產(chǎn)環(huán)境中的。如果要用到真實(shí)生產(chǎn)環(huán)境中，還是需要針對安全領(lǐng)域做更精準(zhǔn)的訓(xùn)練，才能更有效的應(yīng)用這類AI新技術(shù)。
利用AI技術(shù)的安全攻防態(tài)勢
ChatGPT的爆火將AI技術(shù)從幕后推到了臺前，但實(shí)際上網(wǎng)絡(luò)安全領(lǐng)域?qū)τ贏I的研究早已開啟。
在2017年美國黑帽子大會上，數(shù)百名網(wǎng)絡(luò)安全專家投票預(yù)測，未來幾年黑客是否會利用AI技術(shù)從事犯罪活動，有62%人表示肯定。
由于AI自動化和智能化的能力，讓黑客可以加速攻擊速度，在同等時(shí)間內(nèi)攻擊盡可能多的目標(biāo)用戶，同時(shí)降低自身的風(fēng)險(xiǎn)，因此近年來利用AI技術(shù)實(shí)施網(wǎng)絡(luò)攻擊的事件快速增長。
“黑客其實(shí)早已大量利用AI技術(shù)和云服務(wù)來構(gòu)建黑色產(chǎn)業(yè)鏈”，瑞數(shù)信息專家表示，“比如黑客會利用AI技術(shù)識別驗(yàn)證碼或模擬人的操作行為，繞過網(wǎng)站的安全防護(hù)”。
例如，在一些網(wǎng)站的登錄驗(yàn)證中，無論是滑動按鈕還是填寫驗(yàn)證碼，黑客都可以利用AI模仿真人操作，順利通過驗(yàn)證。
“據(jù)我們觀察，AI繞過的準(zhǔn)確率甚至可以高達(dá)100%。識別率越高，黑產(chǎn)的收費(fèi)也越高，所以黑客會不遺余力地去提升AI攻擊的準(zhǔn)確率和效率”，瑞數(shù)信息專家表示。
盡管黑客已經(jīng)開始把AI當(dāng)做武器來使用了，但安全廠商也同樣在快速跟進(jìn)AI的發(fā)展。
以瑞數(shù)信息為例，早在2017年就開啟了AI技術(shù)在安全領(lǐng)域的研究。隨著網(wǎng)絡(luò)攻擊手段、方法的更新變化越來越快，攻擊特征越來越隱蔽，瑞數(shù)信息在獨(dú)創(chuàng)的“動態(tài)安全”技術(shù)基礎(chǔ)上加入AI技術(shù)，顛覆了傳統(tǒng)安全基于特征和規(guī)則的方式防護(hù)的思路，引領(lǐng)著安全防護(hù)由靜態(tài)走向動態(tài)、由被動走向主動。
基于瑞數(shù)信息“動態(tài)安全+AI”技術(shù)，企業(yè)可以筑起多道安全防線：
第一道防線，通過動態(tài)安全技術(shù)，靈活運(yùn)用Web代碼混淆、JS混淆、前端反調(diào)試、Cookie混淆、中間人檢測等多種動態(tài)干擾功能，對攻擊者實(shí)施動態(tài)干擾;
第二道防線，通過疊加AI技術(shù)，對模擬真人等高度隱蔽性的異常訪問行為進(jìn)行實(shí)時(shí)分析，實(shí)現(xiàn)更加精準(zhǔn)的人機(jī)識別，識別各類已知與未知的攻擊。
基于這兩大瑞數(shù)創(chuàng)新技術(shù)，企業(yè)能夠在Bots自動化攻擊、0day攻擊、DDoS攻擊、API攻擊等多重攻擊場景中實(shí)現(xiàn)一體化防御。
近年來，瑞數(shù)信息在AI技術(shù)研發(fā)上仍在不斷精進(jìn)，主要包括三個(gè)方向：
• 惡意內(nèi)容識別，包含SQL注入、XSS及Webshell等;
• 攻擊行為檢測，包含自動化威脅識別、協(xié)同攻擊檢測與用戶異常行為分析等;
• 勒索加密檢測，包含對文件系統(tǒng)與數(shù)據(jù)庫的勒索加密檢測。
2022年初，在工信部、網(wǎng)信辦及公安部等單位主辦的“第三屆中國人工智能大賽”中，瑞數(shù)信息在Webshell檢測識別方向的比賽中以最高分榮獲A級證書，足見其雄厚的AI實(shí)力。
AI或成網(wǎng)絡(luò)安全的未來
毫無疑問，AI已經(jīng)成為網(wǎng)絡(luò)攻防戰(zhàn)的新一代武器，任何一方都沒有選擇的余地，必須拿起AI來武裝自己。隨著ChatGPT的普及，AI技術(shù)會加速網(wǎng)絡(luò)安全領(lǐng)域的變革嗎?
瑞數(shù)信息專家認(rèn)為，短期內(nèi)還是AI與現(xiàn)有安全技術(shù)共存的態(tài)勢，但是長期來看，AI極有可能對現(xiàn)有的安全技術(shù)形成顛覆，讓安全廠商的競爭態(tài)勢重新洗牌。
“目前各家安全廠商都還在AI訓(xùn)練與調(diào)優(yōu)模型的階段，市場上還是以大量的傳統(tǒng)安全技術(shù)為主。隨著算力提高、數(shù)據(jù)量變大、成本降低，AI技術(shù)會有一個(gè)量變到質(zhì)變的過程，到那時(shí)候AI會替代傳統(tǒng)安全技術(shù)，替代人力工作”，瑞數(shù)專家表示。
在他看來，ChatGPT的出現(xiàn)，讓業(yè)界看到了GPT這類大模型的巨大潛力，其優(yōu)勢不容小覷：
第一，有了這類AI技術(shù)的加入，網(wǎng)絡(luò)安全防護(hù)可能變得更智能、反應(yīng)更快，可以防護(hù)以前注意不到或防不住的攻擊行為，同時(shí)也可以通過AIGC(生成式AI)技術(shù)自動生成防護(hù)規(guī)則，大幅縮短攻擊響應(yīng)時(shí)間。
第二，AI作為自動化機(jī)器是可以全天候運(yùn)行工作的，不會產(chǎn)生人力疲勞等問題，從而減輕安全運(yùn)營人員壓力。
第三，基于出色的自然語言處理，AI可以通過對話而不是SQL語句的方式，來運(yùn)行安全產(chǎn)品相關(guān)功能，并自動生成報(bào)表，從而大幅降低安全產(chǎn)品使用門檻，讓非安全專業(yè)人員也能夠輕松使用。未來，安全產(chǎn)品里也可能會集成類似ChatGPT的AI聊天機(jī)器人，協(xié)助安全管理人員分析威脅態(tài)勢并給出可能的處置建議。
正因如此，瑞數(shù)信息專家認(rèn)為，ChatGPT底層的GPT模型或其他類似的模型，會被廣泛應(yīng)用在網(wǎng)絡(luò)安全領(lǐng)域。
但值得注意的是，ChatGPT并不適合作為AI基礎(chǔ)模型直接應(yīng)用于網(wǎng)絡(luò)安全領(lǐng)域進(jìn)行精調(diào)。瑞數(shù)專家指出，一方面是因?yàn)镃hatGPT超大規(guī)模模型導(dǎo)致訓(xùn)練和運(yùn)營成本高昂，即便作為API開放服務(wù)也沒有多少企業(yè)能夠承受;另一方面，安全領(lǐng)域有數(shù)據(jù)敏感、安全保密等特殊性，企業(yè)不太可能基于ChatGPT提供安全類數(shù)據(jù)去訓(xùn)練模型。
因此，對于網(wǎng)絡(luò)安全行業(yè)應(yīng)該有專屬的SecurityGPT，可基于GPT模型對網(wǎng)絡(luò)安全領(lǐng)域知識進(jìn)行訓(xùn)練，在降低模型規(guī)模的同時(shí)保持AI在安全領(lǐng)域的表現(xiàn)，尋找技術(shù)和成本之間的平衡點(diǎn)。
據(jù)了解，在ChatGPT還沒火之前，瑞數(shù)信息就已經(jīng)在研究GPT模型了，目前相關(guān)技術(shù)正在實(shí)驗(yàn)室研發(fā)中。未來，瑞數(shù)信息計(jì)劃將GPT接口開放給第三方調(diào)用，與各界伙伴共建AI在安全領(lǐng)域應(yīng)用的生態(tài)圈。
結(jié)語
ChatGPT的出現(xiàn)，使得網(wǎng)絡(luò)安全攻擊變得更容易，給企業(yè)帶來了極大的風(fēng)險(xiǎn)。如今，在網(wǎng)絡(luò)安全攻防對抗模式不斷升級的趨勢下，以AI對抗AI必將是未來的發(fā)展方向。瑞數(shù)信息作為網(wǎng)絡(luò)安全領(lǐng)域創(chuàng)新廠商也將持續(xù)提升AI技術(shù)，為企業(yè)用戶搭建面向智能時(shí)代的新一代主動防御安全體系。
京公網(wǎng)安備 11010502049343號