網(wǎng)絡(luò)安全領(lǐng)域的最新發(fā)展之一涉及使用GPT來阻止網(wǎng)絡(luò)攻擊。GPT是一種人工智能，在2023年初開始成為人們關(guān)注的頭條新聞，聊天機(jī)器人ChatGPT人氣飆升。隨著越來越多的人嘗試構(gòu)建ChatGPT的生成式人工智能，很明顯，ChatGPT可以被用作網(wǎng)絡(luò)安全的強(qiáng)大工具。

 

 

本質(zhì)上，GPT是一個(gè)預(yù)訓(xùn)練的生成式轉(zhuǎn)換器，它利用機(jī)器學(xué)習(xí)來執(zhí)行自然語言處理任務(wù)。采用簡單的語言，將把人類語言翻譯成計(jì)算機(jī)可以處理的內(nèi)容。電子郵件過濾器可以根據(jù)內(nèi)容將傳入的消息分類到不同的收件箱中，這是自然語言處理可以用于自動(dòng)化和簡化任務(wù)的一個(gè)例子。

 

GPT被認(rèn)為是預(yù)訓(xùn)練的語言模型，因?yàn)樗唤虒?dǎo)通過接觸大量文本數(shù)據(jù)來處理語言。這種訓(xùn)練使GPT能夠根據(jù)前面的單詞預(yù)測(cè)句子中的下一個(gè)單詞。因?yàn)樗⒃谝粋€(gè)轉(zhuǎn)換器模型上，允許一次處理整個(gè)輸入，而不是一次處理一個(gè)單詞，所以GPT顯著地提高了語言訓(xùn)練的速度和效率。

 

 

對(duì)抗性攻擊是針對(duì)人工智能系統(tǒng)的攻擊。他們的目標(biāo)是操縱人工智能系統(tǒng)提供敏感信息，以導(dǎo)致錯(cuò)誤預(yù)測(cè)的方式影響或者破壞人工智能系統(tǒng)。“中毒攻擊”是一種常見的對(duì)抗性攻擊類型，它試圖污染用于訓(xùn)練GPT系統(tǒng)的數(shù)據(jù)。

 

為了防止對(duì)抗性攻擊，GPT可以在對(duì)抗性示例上進(jìn)行訓(xùn)練，并部署以檢測(cè)和轉(zhuǎn)移它們。這包括向其提供大型數(shù)據(jù)集，代表用于擊敗網(wǎng)絡(luò)安全努力的對(duì)抗性攻擊類型。因?yàn)樗且粋€(gè)機(jī)器學(xué)習(xí)模型，所以GPT用于擊退攻擊的網(wǎng)絡(luò)次數(shù)越多，它的能力就越強(qiáng)。

 

 

GPT還可以通過識(shí)別網(wǎng)絡(luò)流量數(shù)據(jù)中的異常來檢測(cè)網(wǎng)絡(luò)攻擊。為了成為這種類型的防御措施，GPT平臺(tái)必須首先了解網(wǎng)絡(luò)活動(dòng)的正常模式，以便在檢測(cè)到活動(dòng)偏差時(shí)觸發(fā)適當(dāng)?shù)念A(yù)先確定的響應(yīng)。

 

GPT作為自然語言處理器的能力也使其作為檢測(cè)和解決社交工程攻擊的工具很有價(jià)值，這些攻擊涉及威脅行為者針對(duì)企業(yè)的員工而不是其計(jì)算機(jī)系統(tǒng)。網(wǎng)絡(luò)攻擊者偽裝成合法組織的同事或官方代表，向該員工發(fā)送電子郵件或短信，以獲取敏感信息。如果員工在不知情的情況下提供了這些信息，所在公司的計(jì)算機(jī)系統(tǒng)就會(huì)受到威脅。

 

通過訓(xùn)練GPT檢測(cè)常見攻擊、惡意行為模式和異常行為，GPT可以增強(qiáng)企業(yè)對(duì)社交工程攻擊的防御能力。當(dāng)它檢測(cè)到這種攻擊時(shí)，GPT可以提醒預(yù)期的接收方注意潛在的威脅。在某些情況下，GPT可以在攻擊到達(dá)目標(biāo)員工之前識(shí)別和隔離攻擊。

 

惡意軟件攻擊通常涉及類似于社交工程的策略。通過欺騙用戶，威脅行動(dòng)者能夠?qū)阂獬绦蜃⑷胗脩舻挠?jì)算機(jī)或企業(yè)的網(wǎng)絡(luò)。網(wǎng)絡(luò)安全人員可以訓(xùn)練GPT來識(shí)別惡意軟件攻擊中使用的模式。

 

 

除了訓(xùn)練擊退已知攻擊之外，GPT還可以用于威脅搜索。通過分析網(wǎng)絡(luò)安全系統(tǒng)收集的數(shù)據(jù)，GPT可以識(shí)別揭示惡意行為趨勢(shì)的活動(dòng)模式，以及它們正在尋求利用的漏洞。有了這些信息，網(wǎng)絡(luò)安全團(tuán)隊(duì)可以提高防御能力，并在網(wǎng)絡(luò)攻擊發(fā)生之前預(yù)防。

 

密碼和帳戶安全是GPT可以用于威脅搜索的一個(gè)領(lǐng)域。通過分析系統(tǒng)中使用的密碼，GPT可以揭示那些對(duì)網(wǎng)絡(luò)攻擊防御措施較弱的密碼，并利用其學(xué)習(xí)生成更有可能保持安全的密碼。它還可以評(píng)估網(wǎng)絡(luò)活動(dòng)數(shù)據(jù)，以檢測(cè)網(wǎng)絡(luò)攻擊者試圖入侵賬戶的區(qū)域。

 

對(duì)于網(wǎng)絡(luò)安全專業(yè)人員來說，威脅搜索可能是一項(xiàng)艱巨而耗時(shí)的任務(wù)，但通過GPT執(zhí)行之后，威脅搜索變得更容易、更有效。此外，它還使專業(yè)人員能夠?qū)Ｗ⒂谔幚砀鼜?fù)雜的任務(wù)。這種自動(dòng)化費(fèi)力的網(wǎng)絡(luò)安全措施的能力是GPT給網(wǎng)絡(luò)安全領(lǐng)域帶來的主要好處之一。

 

 

GPT給網(wǎng)絡(luò)安全帶來的力量也可以被威脅行為者用來實(shí)施更有效的攻擊，這并不足為奇。網(wǎng)絡(luò)攻擊的一個(gè)簡單的應(yīng)用是使用GPT生成真實(shí)的基于文本的攻擊，例如網(wǎng)絡(luò)釣魚或詐騙攻擊。這可以簡化用于發(fā)起社交工程或惡意軟件攻擊的流程，能夠使網(wǎng)絡(luò)威脅行為者用更少的資源部署更多的網(wǎng)絡(luò)攻擊。

 

此外，網(wǎng)絡(luò)安全專業(yè)人員應(yīng)該意識(shí)到，如果保護(hù)不當(dāng)，GPT可能會(huì)給網(wǎng)絡(luò)安全系統(tǒng)帶來新的弱點(diǎn)。如上所述，GPT系統(tǒng)可能會(huì)受到網(wǎng)絡(luò)攻擊者的毒害，網(wǎng)絡(luò)攻擊者會(huì)惡意地在訓(xùn)練過程中插入不正確或有偏見的數(shù)據(jù)，從而導(dǎo)致系統(tǒng)產(chǎn)生不正確或意外的響應(yīng)。如果威脅行為者獲得了用于訓(xùn)練GPT的數(shù)據(jù)，他們就可以獲得情報(bào)，從而設(shè)計(jì)有效的網(wǎng)絡(luò)攻擊。

 

GPT承諾為網(wǎng)絡(luò)安全領(lǐng)域帶來革命性的變化。無論是用于簡化數(shù)據(jù)分析、改進(jìn)威脅檢測(cè)，還是簡單地自動(dòng)化日常任務(wù)，GPT都將為網(wǎng)絡(luò)安全專業(yè)人員提供強(qiáng)大的工具。與以往一樣，關(guān)鍵在于他們需要有效應(yīng)對(duì)那些試圖利用這些能力破壞安全的網(wǎng)絡(luò)攻擊者。

 

 

國內(nèi)主流的to B IT門戶，同時(shí)在運(yùn)營國內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_(tái)-信眾智(www.cioall.com)。同時(shí)運(yùn)營19個(gè)IT行業(yè)公眾號(hào)(微信搜索D1net即可關(guān)注)

 

版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。