AI的雙刃性使其成為一個(gè)復(fù)雜的工具，公司需要更深入地理解和更仔細(xì)地使用它。相比之下，威脅參與者正在利用AI，幾乎沒(méi)有任何限制。

 

 

在網(wǎng)絡(luò)安全中采用AI驅(qū)動(dòng)的解決方案的最大問(wèn)題之一是建立信任，許多公司對(duì)安全公司的AI產(chǎn)品持懷疑態(tài)度，這是可以理解的，因?yàn)槠渲袔讉€(gè)AI安全解決方案被過(guò)度炒作，未能交付。許多被宣傳為AI增強(qiáng)的產(chǎn)品并沒(méi)有達(dá)到預(yù)期。

 

這些產(chǎn)品最廣為人知的好處之一是，它們極大地簡(jiǎn)化了安全任務(wù)，即使是非安全人員也能完成這些任務(wù)，這種說(shuō)法往往令人失望，特別是對(duì)于那些在網(wǎng)絡(luò)安全人才匱乏的問(wèn)題上苦苦掙扎的組織來(lái)說(shuō)。AI本應(yīng)是網(wǎng)絡(luò)安全人才短缺的解決方案之一，但過(guò)度承諾和承諾不足的公司無(wú)助于解決問(wèn)題-事實(shí)上，它們正在破壞與AI相關(guān)的說(shuō)法的可信度。

 

讓工具和系統(tǒng)變得更加用戶友好，即使是對(duì)不了解情況的用戶，也是網(wǎng)絡(luò)安全的主要愿望之一，不幸的是，考慮到威脅的演變性質(zhì)以及削弱安全態(tài)勢(shì)的各種因素(如內(nèi)部攻擊)，這很難實(shí)現(xiàn)。幾乎所有的AI系統(tǒng)仍然需要人類的指導(dǎo)，AI沒(méi)有能力推翻人類的決定，例如，AI輔助的SIEM可能會(huì)準(zhǔn)確地指出異常情況，供安全人員評(píng)估，然而，內(nèi)部威脅參與者可能會(huì)阻止對(duì)系統(tǒng)發(fā)現(xiàn)的安全問(wèn)題的正確處理，使得在這種情況下使用AI實(shí)際上是徒勞的。

 

然而，一些網(wǎng)絡(luò)安全軟件供應(yīng)商確實(shí)提供了充分利用AI好處的工具，例如，集成了AI的擴(kuò)展檢測(cè)和響應(yīng)(XDR)系統(tǒng)在檢測(cè)和響應(yīng)復(fù)雜攻擊序列方面有著良好的記錄。通過(guò)利用ML來(lái)擴(kuò)大安全操作并確保隨著時(shí)間的推移更高效的檢測(cè)和響應(yīng)流程，XDR提供了實(shí)質(zhì)性的好處，可以幫助緩解人們對(duì)AI安全產(chǎn)品的懷疑。

 

 

另一個(gè)影響使用AI對(duì)抗AI輔助威脅的有效性的問(wèn)題是，一些公司傾向于關(guān)注有限或不具代表性的數(shù)據(jù)。理想情況下，AI系統(tǒng)應(yīng)該提供真實(shí)世界的數(shù)據(jù)，以描述地面正在發(fā)生的事情和公司遇到的特定情況，然而，這是一項(xiàng)巨大的努力。從世界各地收集數(shù)據(jù)來(lái)代表所有可能的威脅和攻擊場(chǎng)景的成本非常高，即使是最大的公司也試圖盡可能避免這種情況。

 

在擁擠的市場(chǎng)中競(jìng)爭(zhēng)的安全解決方案供應(yīng)商也試圖盡快推出他們的產(chǎn)品，盡他們所能提供各種花哨的東西，但很少或根本不考慮數(shù)據(jù)安全，這會(huì)使他們的數(shù)據(jù)面臨可能的篡改或損壞。

 

好消息是，有許多具有成本效益的免費(fèi)資源可以解決這些問(wèn)題，公司可以求助于免費(fèi)的威脅情報(bào)來(lái)源和聲譽(yù)良好的網(wǎng)絡(luò)安全框架，如MITRE、ATT和CK。此外，為了反映特定公司的行為和活動(dòng)，AI可以針對(duì)用戶或?qū)嶓w行為進(jìn)行培訓(xùn)，這使系統(tǒng)能夠超越一般威脅情報(bào)數(shù)據(jù)——例如危害指標(biāo)和文件的好壞特征——并查看特定于公司的詳細(xì)信息。

 

在安全方面，有許多解決方案可以成功地遏制數(shù)據(jù)泄露企圖，但僅有這些工具是不夠的，同樣重要的是，制定適當(dāng)?shù)姆ㄒ?guī)、標(biāo)準(zhǔn)和內(nèi)部政策，從整體上挫敗旨在防止AI正確識(shí)別和阻止威脅的數(shù)據(jù)攻擊。正在進(jìn)行的由政府發(fā)起的AI監(jiān)管談判以及MITRE提出的AI安全監(jiān)管框架是朝著正確方向邁出的一步。

 

 

AI能夠規(guī)避人類決策的時(shí)代還需要幾十年甚至幾個(gè)世紀(jì)的時(shí)間，這通常是一件積極的事情，但也有它的陰暗面，人類可以對(duì)AI的判斷或決定不屑一顧，這是一件好事，但這也意味著，以人為目標(biāo)的威脅，如社會(huì)攻擊，仍然有效，例如，AI安全系統(tǒng)可能會(huì)在檢測(cè)到風(fēng)險(xiǎn)后自動(dòng)編輯電子郵件或網(wǎng)頁(yè)中的鏈接，但人類用戶也可以忽略或禁用這一機(jī)制。

 

簡(jiǎn)而言之，我們對(duì)人類智能的最終依賴正在阻礙AI技術(shù)對(duì)抗AI輔助的網(wǎng)絡(luò)攻擊的能力，雖然威脅參與者不分青紅皂白地自動(dòng)化新惡意軟件的生成和攻擊的傳播，但現(xiàn)有的AI安全解決方案旨在屈服于人類的決策，防止完全自動(dòng)化的行動(dòng)，特別是在AI的“黑匣子問(wèn)題”的情況下。

 

就目前而言，推動(dòng)力并不是實(shí)現(xiàn)一個(gè)完全可以獨(dú)立工作的AI網(wǎng)絡(luò)安全系統(tǒng)，允許人類智能占上風(fēng)造成的漏洞可以通過(guò)網(wǎng)絡(luò)安全教育來(lái)解決，公司可以定期舉辦網(wǎng)絡(luò)安全培訓(xùn)，以確保員工使用安全最佳實(shí)踐，并幫助他們更熟練地檢測(cè)威脅和評(píng)估事件。

 

順從人類的智慧是正確的，也是必要的，至少目前是這樣。盡管如此，重要的是要確保這不會(huì)成為網(wǎng)絡(luò)犯罪分子可以利用的漏洞。

 

建造和保護(hù)東西比摧毀它們更難。由于各種因素，使用AI對(duì)抗網(wǎng)絡(luò)威脅總是具有挑戰(zhàn)性的，包括建立信任的需要，使用數(shù)據(jù)進(jìn)行ML訓(xùn)練時(shí)所需的謹(jǐn)慎，以及人類決策的重要性。網(wǎng)絡(luò)罪犯很容易忽視所有這些考慮，所以有時(shí)他們似乎占據(jù)了上風(fēng)。

 

盡管如此，這個(gè)問(wèn)題并不是沒(méi)有解決方案，可以在標(biāo)準(zhǔn)和條例的幫助下建立信任，以及安全提供商在顯示其索賠記錄方面的認(rèn)真努力，數(shù)據(jù)模型可以使用復(fù)雜的數(shù)據(jù)安全解決方案進(jìn)行保護(hù)，與此同時(shí)，我們對(duì)人類決策的持續(xù)依賴可以通過(guò)充分的網(wǎng)絡(luò)安全教育和培訓(xùn)來(lái)解決。

 

惡性循環(huán)仍在運(yùn)行，但我們可以找到希望，因?yàn)樗策m用于相反的情況：隨著AI威脅的繼續(xù)演變，AI網(wǎng)絡(luò)防御也將不斷演變。

 

 

國(guó)內(nèi)主流的to B IT門(mén)戶，同時(shí)在運(yùn)營(yíng)國(guó)內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_(tái)-信眾智(www.cioall.com)。同時(shí)運(yùn)營(yíng)19個(gè)IT行業(yè)公眾號(hào)(微信搜索D1net即可關(guān)注)。

 

版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開(kāi)頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。