最近的一項(xiàng)麥肯錫調(diào)查顯示,50% 的公司已在至少一個(gè)業(yè)務(wù)領(lǐng)域采用了人工智能。

 

在許多互聯(lián)網(wǎng)安全專家眼中,2022年稱得上“人工智能元年”。ChatGPT的橫空出世以及其他AI服務(wù)的相繼上線在改變未來人們工作、學(xué)習(xí)以及生活的方式的同時(shí),也為互聯(lián)網(wǎng)安全行業(yè)帶來了全新的挑戰(zhàn)。因此,全球領(lǐng)先的專業(yè)網(wǎng)絡(luò)安全提供商 Check Point® 軟件技術(shù)有限公司(納斯達(dá)克股票代碼:CHKP)借此文幫助大家進(jìn)一步了解人工智能的當(dāng)前和未來用途以及重點(diǎn)關(guān)注安全防護(hù)的必要性。

 

人工智能早在幾年前就開始走入我們的工作生活。事實(shí)上,根據(jù)麥肯錫全球研究所在 2022 年開展的一項(xiàng)人工智能調(diào)查,2017 年時(shí) 20% 的受訪者表示已在至少一個(gè)業(yè)務(wù)領(lǐng)域采用了人工智能,而去年這一數(shù)字增長(zhǎng)至 50%。隨著企業(yè)逐漸認(rèn)識(shí)到人工智能對(duì)其業(yè)務(wù)的巨大價(jià)值,預(yù)計(jì)這一增長(zhǎng)勢(shì)頭將繼續(xù)走高——根據(jù) Forbes Advisor 的一項(xiàng)調(diào)查,超過 60% 的企業(yè)所有者認(rèn)為人工智能可提高生產(chǎn)力。具體而言,64% 的受訪者表示人工智能有助于提高業(yè)務(wù)效率,42% 的受訪者認(rèn)為人工智能可簡(jiǎn)化作業(yè)流程,這充分表明商業(yè)領(lǐng)域?qū)θ斯ぶ悄艿氖褂镁哂袕V泛的市場(chǎng)接受度。

 

在我國(guó),2017年就由國(guó)務(wù)院印發(fā)了《新一代人工智能發(fā)展規(guī)劃》,規(guī)劃中已明確提及人工智能將成為經(jīng)濟(jì)發(fā)展的新引擎。在今年斯坦福大學(xué)一項(xiàng)面對(duì)全球的AI調(diào)查中,78%的中國(guó)受訪者認(rèn)為AI技術(shù)的普及利大于弊。我國(guó)用戶對(duì)AI技術(shù)的正面態(tài)度居全球首位,這也為人工智能在我國(guó)高速發(fā)展提供了健康的土壤。值得注意的是,今年5月在天津召開的“第七屆世界智能大會(huì)”上,人工智能倫理與安全成為會(huì)上主要討論議題之一。

 

自去年開始,Check Point已經(jīng)就ChatGPT帶來的安全挑戰(zhàn)進(jìn)行了研究。作為 OpenAI 研發(fā)的人工智能平臺(tái),它在為人們生活帶來便捷的同時(shí),還可幫助網(wǎng)絡(luò)犯罪分子實(shí)施新的攻擊活動(dòng)。人工智能工具為網(wǎng)絡(luò)犯罪分子帶來了諸多好處,包括但不限于:

 

1、無需技能和經(jīng)驗(yàn):對(duì)于網(wǎng)絡(luò)犯罪分子來說,人工智能的最大好處之一是其易用性,這使得更多用戶可以輕松發(fā)起惡意活動(dòng),包括一開始可能不具備相關(guān)技能的潛在網(wǎng)絡(luò)犯罪分子。過去幾個(gè)月來,出現(xiàn)了一些新的小型網(wǎng)絡(luò)犯罪團(tuán)伙。借助人工智能,他們能夠?qū)嵤└鼜?fù)雜的網(wǎng)絡(luò)攻擊。

 

2、改進(jìn)網(wǎng)絡(luò)攻擊:由于這些人工智能工具采用無限制免費(fèi)訪問模式,因此攻擊者可利用其速度和精度創(chuàng)建惡意代碼和網(wǎng)絡(luò)攻擊,如網(wǎng)絡(luò)釣魚攻擊活動(dòng)。這些人工智能工具可以生成幾乎相同或難以發(fā)現(xiàn)異常的內(nèi)容。此外,這些工具擁有自主學(xué)習(xí)模式,因此不僅能夠回答問題,而且還能創(chuàng)建各種內(nèi)容(圖像、視頻甚至音頻)。遺憾的是,這導(dǎo)致了所謂的“深度偽造”(Deepfakes) 技術(shù)的濫用。這是一種可用于傳播虛擬信息的逼真?zhèn)卧旒夹g(shù),巴拉克·奧巴馬、喬·拜登、弗拉基米爾·普京等國(guó)家lingdao人的虛擬內(nèi)容均被偽造過。

 

3、引發(fā)自動(dòng)化網(wǎng)絡(luò)攻擊:該技術(shù)導(dǎo)致使用 bot 和自動(dòng)化系統(tǒng)發(fā)起的網(wǎng)絡(luò)攻擊大幅增加,提高了網(wǎng)絡(luò)犯罪分子的攻擊成功率。全球范圍內(nèi)網(wǎng)絡(luò)攻擊的攀升就證明了這一點(diǎn)——網(wǎng)絡(luò)攻擊比去年增加了 38%。此外,網(wǎng)絡(luò)犯罪分子還可以利用基于人工智能的僵尸網(wǎng)絡(luò)發(fā)起大規(guī)模 DDoS 攻擊,致使其攻擊目標(biāo)的服務(wù)器癱瘓和服務(wù)中斷。

 

4、克隆人工智能工具:盡管開發(fā)人員快速響應(yīng)去更新語(yǔ)言中的漏洞,但網(wǎng)絡(luò)犯罪分子已經(jīng)找到了繞過限制的方法。今年早些時(shí)候,Check Point 軟件技術(shù)公司研究團(tuán)隊(duì)報(bào)告了網(wǎng)絡(luò)犯罪分子正在暗網(wǎng)上分發(fā)和銷售他們自己修改的 ChatGPT API。伴隨最新版 ChatGPT4.0 的發(fā)布,市場(chǎng)上出現(xiàn)了一種新型攻擊活動(dòng)。這種攻擊活動(dòng)旨在盜取和出售高級(jí)帳戶,讓買家無限制地使用該工具的新功能。

 

監(jiān)管人工智能學(xué)習(xí)的必要性

 

雖然人工智能無疑是未來發(fā)展方向,但包括 OpenAI 聯(lián)合創(chuàng)始人之一埃隆·馬斯克在內(nèi)的專家們都要求對(duì)人工智能實(shí)施更廣泛的監(jiān)管。他們?cè)谝环莨_請(qǐng)?jiān)笗泻粲?在符合倫理的訓(xùn)練能夠落實(shí)之前暫時(shí)停止這些工具的開發(fā),同時(shí)歐盟等國(guó)際機(jī)構(gòu)已經(jīng)在制定自己的人工智能法律,并提出了重視網(wǎng)絡(luò)安全和數(shù)據(jù)安全需求的提案。在我國(guó),近年來也在逐步強(qiáng)化對(duì)人工智能的規(guī)范引導(dǎo)。中國(guó)國(guó)家新一代人工智能治理專業(yè)委員會(huì)2019年發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》,2021年又發(fā)布《新一代人工智能倫理規(guī)范》,這一系列措施說明了各個(gè)政府對(duì)人工智能有序、安全發(fā)展的期待與重視。

 

人工智能監(jiān)管的挑戰(zhàn)在于人工智能模型學(xué)會(huì)的知識(shí)幾乎無法從這些模型中刪除。這意味著安全機(jī)制應(yīng)側(cè)重于防止收集或泄露某些類型的信息,而不是完全刪除知識(shí)。如今,人工智能和機(jī)器學(xué)習(xí)是幫助提高網(wǎng)絡(luò)安全功能的兩大支柱。事實(shí)上,由于當(dāng)前企業(yè)網(wǎng)絡(luò)系統(tǒng)的復(fù)雜性和分散性,傳統(tǒng)的人工監(jiān)控、管理和風(fēng)險(xiǎn)控制已無法滿足需求。在今年Check Point CPX全球大會(huì)上,以預(yù)防為先的思路,通過AI對(duì)抗AI的安全解決方案受到了與會(huì)來賓的重點(diǎn)關(guān)注。

 

如今,用戶已經(jīng)可以在Check Point 的 ThreatCloud AI 中看到該技術(shù)應(yīng)用于網(wǎng)絡(luò)安全領(lǐng)域的示例。ThreatCloud AI 是一款基于人工智能的威脅防御解決方案,它是 Check Point 軟件技術(shù)公司所有產(chǎn)品背后的大腦,每天能夠不斷掃描網(wǎng)站、電子郵件、物聯(lián)網(wǎng)設(shè)備、移動(dòng)應(yīng)用等,做出 20 億次安全決策。

 

Check Point中國(guó)區(qū)技術(shù)總監(jiān)王躍霖表示:“打贏與網(wǎng)絡(luò)犯罪分子的競(jìng)賽仍是首要任務(wù)之一,我們必須確保環(huán)境及時(shí)更新且準(zhǔn)備就緒,從而有效應(yīng)對(duì)當(dāng)前和未來的所有威脅。現(xiàn)在,Check Point有幾款解決方案充分展示了人工智能在網(wǎng)絡(luò)安全領(lǐng)域的無限可能性。為了降低與高級(jí)人工智能相關(guān)的網(wǎng)絡(luò)風(fēng)險(xiǎn),我們建議企業(yè)管理者應(yīng)時(shí)刻保持‘預(yù)防為先’的安全理念,在開發(fā)或部署任何AI技術(shù)時(shí),首先應(yīng)確保其安全性,從而真正安全有效的通過AI技術(shù)提高自身核心競(jìng)爭(zhēng)力。”