Reber提出了一種“生態(tài)系統(tǒng)安全觀”，認為知識和信任在保護企業(yè)的網(wǎng)絡(luò)安全免受破壞方面發(fā)揮著至關(guān)重要的作用。
對話還闡明了數(shù)據(jù)保護和防止泄露之間的相互聯(lián)系，監(jiān)控數(shù)據(jù)供應鏈以及客戶在安全體驗等方面的重要性。最后，Reber強調(diào)了創(chuàng)新的重要意義，以及安全團隊應該如何專注于促進創(chuàng)新，而非阻礙創(chuàng)新。
對話包括以下話題：
• 英偉達的產(chǎn)品線如何使安全問題復雜化?
• 英偉達如何管理安全風險?
• 人工智能和機器學習對安全和數(shù)據(jù)保護的影響是什么?
• 英偉達的安全生態(tài)系統(tǒng)是什么?為什么它如此重要?
• 為什么技術(shù)、教育和培訓對維護網(wǎng)絡(luò)安全至關(guān)重要?
• 人工智能如何讓安全成為數(shù)據(jù)問題?
• 如何保護分布式數(shù)據(jù)集?
• 直至你信任它，AI才能發(fā)展為自動化。
• 如何在安全和保護與員工生產(chǎn)力之間取得平衡?
• 在安全領(lǐng)域，客戶體驗意味著什么?
• 人工智能治理在安全計劃中的作用是什么?
• 英偉達如何將安全整合到產(chǎn)品開發(fā)中?
• 如何處理自主算法系統(tǒng)的負面后果?
• 為何安全漏洞如此頻繁地發(fā)生?
• 在人工智能和安全方面給業(yè)務領(lǐng)導者的建議
David Reber是英偉達的首席安全官和產(chǎn)品安全主管。在加入英偉達之前，Reber曾在美國情報界擔任了十多年的高級參謀。他還曾擔任Nutanix Frame和Government Cloud Services的高級安全總監(jiān)。他的工作經(jīng)歷覆蓋企業(yè)安全云服務架構(gòu)、高級網(wǎng)絡(luò)戰(zhàn)、進攻性安全研究、全球企業(yè)安全、安全移動戰(zhàn)術(shù)通信和內(nèi)部威脅等諸多領(lǐng)域。Reber持有賓夕法尼亞州立大學信息科學與技術(shù)學士學位。
采訪摘錄
Michael Krigsman(主持人)：今天，我們邀請到了英偉達的David Reber與我們一起談論2023年的安全態(tài)勢，尤其是我們所生活的人工智能世界的安全態(tài)勢。
David Reber：在加入英偉達之前，我曾在美國政府從事網(wǎng)絡(luò)防御工作，也曾在硅谷初創(chuàng)公司和其他一些領(lǐng)域工作過。如今，我是英偉達的首席安全官，主要負責保護英偉達、客戶以及員工的安全。
英偉達的產(chǎn)品線如何使安全問題復雜化?
Michael Krigsman：英偉達擁有非常復雜的產(chǎn)品線，有硬件有軟件，那么這種復雜性對您的安全態(tài)勢或策略意味著什么?
David Reber：在我之前的工作中，我要么是在一家云公司任職，所以只需要專注于云服務;要么是在一家軟件公司工作，只需要專注如何安全地交付軟件，而不涉及任何服務元素。
英偉達的復雜性在于，我們既要做硬件開發(fā)，還要考慮之后的交付和服務流程，思考如何運行它并保護我們的客戶數(shù)據(jù)。這是一套完全不同的技術(shù)和能力。我們要做的是研究采用不同安全方法的構(gòu)建系統(tǒng)、后端系統(tǒng)、基礎(chǔ)設(shè)施的非常多樣化的組合。我們不能直接說，“這里有一個解決方案，可以滿足我們所有開發(fā)人員的安全需求。”
我們必須要有創(chuàng)意，必須創(chuàng)新不同的方式，讓我們所有的員工都能為我們公司和生態(tài)系統(tǒng)的安全做出貢獻。
英偉達如何管理安全風險?
Michael Krigsman：您如何管理這個更大范圍內(nèi)的多個安全解決方案?
David Reber：我采用了深度和廣度的方法。我們在組織內(nèi)部有安全專家，他們會試圖設(shè)置通用平臺，利用一套通用功能來支持我們的開發(fā)者生態(tài)系統(tǒng)。
然后，我們還在業(yè)務部門中部署了安全專家，與我們的開發(fā)人員一起幫助他們使用特定的解決方案集，或者幫助確保我們的硬件中有這些功能。我們會在整個虛擬安全團隊中分享這些經(jīng)驗教訓，并幫助確保我們在所有不同的業(yè)務部門中分享這些經(jīng)驗教訓，以便我們能夠覆蓋防御的深度和廣度。
人工智能和機器學習對安全和數(shù)據(jù)保護有什么影響?
Michael Krigsman：在安全或數(shù)據(jù)保護方面，人工智能如何改變您的思維或影響您的思維和策略?
David Reber：十年前或者更早，我們是一個“以網(wǎng)絡(luò)為中心”的安全模型。你會設(shè)置你的邊界，你會有這個網(wǎng)絡(luò)的UI/GUI中心。但隨著時間的推移，我們開始談論的是“以應用程序為中心”的安全性。思考如何保護這些應用程序?如何保護網(wǎng)絡(luò)中正在發(fā)生的事情?
你開始防止橫向移動。一旦威脅行為者進入你的網(wǎng)絡(luò)，你就開始防范。這就是“零信任”邊界開始在全球社區(qū)中活躍起來的地方。“零信任”這個術(shù)語源自我不想自然地信任我的網(wǎng)絡(luò)。
當我們審視人工智能時，它帶來了不同的動態(tài)，真正開始將我們轉(zhuǎn)向“以數(shù)據(jù)為中心”的安全模型。在一天結(jié)束的時候，我們需要能夠保護數(shù)據(jù)的位置、傳輸過程和使用時間。這確實推動了分布式數(shù)據(jù)和分布式安全的演變和創(chuàng)新。
它還引入了一種責任共擔(shared responsibility)模式，在這種模式下，你必須信任你的供應商和服務提供商。你必須開始學習如何信任云服務提供商不會丟失你的數(shù)據(jù)。這帶來了機密計算(confidential computing)的進化，使得我們可以在處理過程中保護它。
但我們要關(guān)注的另一件事是數(shù)據(jù)移動的整個數(shù)據(jù)供應鏈不僅僅是在我的組織內(nèi)部移動，而是這些數(shù)據(jù)從何而來。我怎么能相信它可以提供值得信賴的AI?
英偉達的安全生態(tài)系統(tǒng)是什么?為什么它如此重要?
Michael Krigsman：這真的很有趣。所以說，數(shù)據(jù)供應鏈實際上是生態(tài)系統(tǒng)安全觀的一部分。聽起來，生態(tài)系統(tǒng)的觀點對您的戰(zhàn)略和思維非常重要。
David Reber：確實，這種觀點讓我們所有人緊密團結(jié)在一起。我們有一個共同的目標，那就是對抗攻擊者，實現(xiàn)這一目標的唯一方法是隨著攻擊者不斷進化，防守也必須變得更好。這是“集體防御”的概念。
安全從來都不是獨善其身的事情。無論是從重大數(shù)據(jù)泄露事件還是各大新聞頭條中，我們都能清楚地看到這一點。每一個被入侵的云服務提供商都將影響到數(shù)十到數(shù)百個甚至數(shù)千個關(guān)聯(lián)客戶。這真的迫切需要我們所有人分享我們的知識，然后信任從別人那里得到的信息。
Michael Krigsman：當每個參與者都有自己的關(guān)注和議程，并且他們可能并不完全一致時，您如何將玩家組成一個生態(tài)系統(tǒng)?您怎么管理這些參與者?
David Reber：這關(guān)乎的并非客觀、見多識廣的安全專家每天都在做什么。更重要的是成千上萬的員工。他們每一個人都可能成為攻擊者進入這家公司的下一個切入口。
我們的目標是弄清楚我們?nèi)绾翁峁┬畔ⅲ屆總€人在最需要的時候做出明智、安全的決定，無論是在他們點擊鏈接、查看釣魚郵件還是編寫代碼時。我們的目標是弄清楚如何以最快的速度將信息從安全團隊傳遞給這些人，這樣反饋循環(huán)就會很快。
但是，要做到這一點并不容易。這涉及到創(chuàng)新問題，我們?nèi)绾慰创麄冃枰鍪裁矗缓蟛拍芙o他們我們知道的信息，以幫助他們做出更好的決定。
我們?nèi)匀挥袠藴实耐ㄓ闷脚_，無論是做代碼掃描，還是做惡意軟件掃描，還是做審計記錄和監(jiān)控。我們擁有這些恰好到位的能力，并使我們的多樣化生態(tài)系統(tǒng)得以實現(xiàn)。實際上，這是關(guān)于教育那些非安全專業(yè)人員的。他們雖是各自領(lǐng)域的專家，但我們?nèi)绾螏椭麄冏龀雒髦堑臎Q定?
Michael Krigsman：您提到了“創(chuàng)新”這個詞。您能詳細說明一下它具體指的是什么嗎?
David Reber：我們需要有創(chuàng)造力。創(chuàng)新是朝著一個目標一步步前進，并不斷迭代以找出最佳解決方案。
我認為我們的團隊應該幫助公司實現(xiàn)創(chuàng)新，而不是因為它不完美而阻止它。這就是我們尋找創(chuàng)新技術(shù)的地方，每天都有新技術(shù)出現(xiàn)，安全工具必須迎頭趕上，而不是等待。這是一個全行業(yè)的問題。我們?nèi)绾螏椭徑膺@種情況，在周圍設(shè)置控制或其他方面，并使其自動化，使其成為部署過程的一部分，我們可以繼續(xù)找到獨特的方法?
然后我們回饋給我們的安全合作伙伴，我們社區(qū)內(nèi)的安全供應商，“嘿，我們正在學習如何做，比如說，整個ML運維管道。在我們學習的過程中，我們將這些知識和我們的學習回饋給社區(qū)，進行集體防御。”
我們正在處理這些平臺從未處理過的海量數(shù)據(jù)集。當我們解決這些問題時，我們?nèi)绾巫屆總€人都繼續(xù)前進，而不是讓“完美”成為阻礙前進的敵人?
Michael Krigsman：您如何看待數(shù)據(jù)保護和防止數(shù)據(jù)泄露之間的區(qū)別?或者，對您來說，它們本質(zhì)上是一樣的嗎?
David Reber：我認為它們是高度相關(guān)聯(lián)的。作為一名攻擊者，你的目標是獲取信息或在這些東西中造成傷害。但一般來說，這種攻擊活動都是圍繞著這些數(shù)據(jù)。如果我把重點放在“以數(shù)據(jù)為中心”的安全模型上，就能更有效地防御這些漏洞。
如果我們假設(shè)某件事總有一天會發(fā)生，我們該如何做呢?這是一種“假定妥協(xié)(assumed breach)”策略。整個行業(yè)已經(jīng)朝著這個方向發(fā)展。我們?nèi)绾未_保當攻擊者侵入時，我們能盡快發(fā)現(xiàn)他們，我們有快速反應能力來處理它嗎?
更重要的是，我們?nèi)绾未_保完全發(fā)現(xiàn)并清理它們?攻擊者很可能會使用混淆技術(shù)，模糊偵察視線，以便橫向移動去訪問下一組數(shù)據(jù)。
我們還經(jīng)常面臨的一件事是，作為一個生態(tài)系統(tǒng)，我們看到身份攻擊正在上升。你如何在“最小特權(quán)”原則下充分發(fā)揮開發(fā)者的創(chuàng)新能力，同時，確保如果他們及其帳戶成為入侵路徑，攻擊者只能獲得有限的訪問權(quán)限?
為什么技術(shù)、教育和培訓對維護網(wǎng)絡(luò)安全至關(guān)重要?
Michael Krigsman：聽起來，你們的技術(shù)措施是與員工和生態(tài)系統(tǒng)參與者的教育和培訓相結(jié)合的，因為正如您所說，你們的任何一名員工都可能成為攻擊的潛在途徑。
David Reber：網(wǎng)絡(luò)安全關(guān)乎的并非只有技術(shù)問題，而是人員、流程和技術(shù)的結(jié)合。我們不想要過分嚴格的流程，但我們需要足夠的流程。同時，還需要設(shè)置護欄，以確保你不會讓他們在做決定時受到傷害。
我曾經(jīng)在面試中遇到很多做出過錯誤決定的人，他們的自信心都受到了不同程度的打擊，因為他們內(nèi)心總認為“這是他們的錯”。所以，一個關(guān)鍵問題是，你如何確保能夠保護他們每天都能做出正確的決定(跨越人員、流程和技術(shù))，以實現(xiàn)這種創(chuàng)新文化?
Michael Krigsman：那人工智能方面呢?你們是一家人工智能公司。這是否改變了您與安全性交互的本質(zhì)?
David Reber：在我看來，這是一種混合，在此之前，當你在處理開發(fā)任務時，你只要與開發(fā)人員、工程師打交道，他們負責構(gòu)建解決方案。當你向數(shù)據(jù)科學家方向發(fā)展時，他們可能在這些領(lǐng)域非常專業(yè)，但他們不一定是底層網(wǎng)絡(luò)基礎(chǔ)設(shè)施或應用程序基礎(chǔ)設(shè)施方面的專家。
他們擅長數(shù)據(jù)科學。他們擅長使用工具并提取信息。我們需要確保我們有這些共同的平臺，讓他們可以專注于他們的獨特價值，專注于他們擅長的領(lǐng)域。保護基礎(chǔ)設(shè)施的其他部分的負擔由他們來承擔。
現(xiàn)在，獨特的挑戰(zhàn)是，當你開始談論數(shù)據(jù)和數(shù)據(jù)訪問時，你也需要參與其中。當數(shù)據(jù)科學家從數(shù)據(jù)中生成一個模型，你開始在生產(chǎn)中使用它時，整個訓練環(huán)境現(xiàn)在已經(jīng)成為你生產(chǎn)基礎(chǔ)設(shè)施的一部分。
傳統(tǒng)上，你可以將開發(fā)環(huán)境分離出來。但是現(xiàn)在，那些訓練環(huán)境已經(jīng)變成了生產(chǎn)環(huán)境。我們必須專注于保護它們免受一些新的威脅。我們開始看到數(shù)據(jù)中毒和其他類似的事情，你必須真正開始監(jiān)控那些你本可以從網(wǎng)絡(luò)中隔離出來的東西。
人工智能如何讓安全成為數(shù)據(jù)問題?
Michael Krigsman：人工智能在您的環(huán)境中引入了一套新的動態(tài)以及需要解決的新安全問題。
David Reber：是的，我們開始遇到一些限制。我指的是巨大的數(shù)據(jù)集，規(guī)模一般在千兆字節(jié)的范圍內(nèi)。傳統(tǒng)的安全處理工具無法處理這種規(guī)模的負載，因此必須從不同的角度考慮流程和技術(shù)。正如我之前所說的，爆炸半徑，你如何確保一旦出現(xiàn)問題，你能將它控制在你的基礎(chǔ)設(shè)施和產(chǎn)品的影響范圍內(nèi)?
Michael Krigsman：人工智能在幫助您解決這些問題、縮小爆炸半徑或以其他方式提供幫助方面發(fā)揮了什么作用?
David Reber：我堅信安全問題比我們過去意識到的更像一個數(shù)據(jù)問題。我的意思是服務器、系統(tǒng)的數(shù)量，一切都在呈指數(shù)級增長，你必須能夠監(jiān)控整個系統(tǒng)。你不能用警報和音量對人類進行線性縮放。你必須更聰明地工作，而不是更努力地工作。
實際上，我們試圖關(guān)注的是讓機器做它擅長的事情。提供這些信息，這樣你就可以利用這個人做他擅長的事情。
這就是我們使用人工智能技術(shù)來具體處理所有事情的地方，試圖突出那些最緊迫的挑戰(zhàn)，甚至只是可視化數(shù)據(jù)，以便我們的分析師可以開始研究不同的問題。后來，隨著open ai人工智能項目ChatGPT的出現(xiàn)，人們開始關(guān)注如何開始使用它來提問。
如何保護分布式數(shù)據(jù)集?
Michael Krigsman：這是一種信息的組合。您有員工需要的一般背景信息，例如，如何不成為網(wǎng)絡(luò)釣魚攻擊的受害者。但是您需要(我可以想象)近乎實時的信息來提供給那些試圖防御活躍和持續(xù)攻擊的安全人員。
David Reber：沒錯。它著眼于我們?nèi)绾瓮苿铀瑢踩笠疲纫鲃佑忠粍拥剡M行防御，并處理所有的遙測數(shù)據(jù)和信息。
除此之外，我們也開始看到其他機會。這是一個數(shù)據(jù)引力(data gravity)問題。如果我們要收集來自世界各地的日志，你不希望將它們集中運輸。隨著許多法律的出臺，你也不能這么做。你需要為客戶保持信息區(qū)域化。
現(xiàn)在的問題是，你如何在分布式數(shù)據(jù)集上進行防御，如何處理共享這些知識，這樣你的SOC團隊以及安全專家才能真正專注于現(xiàn)實的問題。
直至你信任它，AI才能發(fā)展為自動化。
Michael Krigsman：那么像算法、透明度和隱私這樣的問題呢?這和您的工作有什么交集?
David Reber：在我看來，只有你信任它，AI才能發(fā)展為自動化!真的，這一點很重要，還有你如何讓AI在做你需要的事情時保持透明度?你如何信任它?你如何向它的用戶承諾可信度并推動透明度?這就是我們關(guān)注可信任人工智能(trustworthy AI)的原因，人工智能倫理可以確保，我們?nèi)绾蝹鬟f這種信任以及這種透明度?
它真正與世界交匯的原因是，它不僅僅是關(guān)于它所訓練的數(shù)據(jù)和其中使用的算法。它同時也是整個底層基礎(chǔ)設(shè)施。這些數(shù)據(jù)從何而來?它是怎么通過我們的網(wǎng)絡(luò)的?這是一個關(guān)于溯源的對話。
同時，這些原語也是用于機密計算的。這是我們作為云服務提供商所做的事情。你如何讓人們信任你的工作?這就是我們要研究的。一種常見的認證解決方案是，我們可以證明這就是發(fā)生的事情。然后，作為客戶的你可以做出自己的決定。你可以根據(jù)信息決定它如何適合你的風險概況，而不是直接為客戶做決定。
如何在安全和保護與員工生產(chǎn)力之間取得平衡?
Michael Krigsman：您如何確保持續(xù)的網(wǎng)絡(luò)安全是最重要的，但又不會影響員工的日常工作?
David Reber：我們戰(zhàn)略的一部分就是，你必須關(guān)注良好的客戶體驗。想想如果你去商店，得到了一次非常糟糕的客戶體驗，那么你可能再也不會去那里了。
在網(wǎng)絡(luò)世界、IT世界乃至工程世界中，道理同樣如此。如果你有了一次糟糕的安全體驗，這就是影子IT開始出現(xiàn)的地方。它讓一切都變慢了。
我們所做的很多工作是了解客戶的問題是什么，他們喜歡如何工作，并在他們所處的位置滿足他們。有時，我們必須積極進取，為組織做出貢獻。但是很多事情都停留在初始階段，從我們需要保護的地方開始，以及我們?nèi)绾魏献?
好消息是，我們也看到了這個行業(yè)的轉(zhuǎn)折點。而且我們也已經(jīng)實踐一段時間了。確保你的安全團隊要么站在開發(fā)人員的角度出發(fā)，要么知道如何編寫代碼，這樣他們就可以編寫代碼來幫助開發(fā)人員，成為解決方案的一部分。
之后，創(chuàng)建對話框，與業(yè)務領(lǐng)導者建立關(guān)系。然后，你就會看到轉(zhuǎn)變——從“哦，這是安全的”到“我如何確保我做對了呢?”
只有當你成為解決方案的一部分，而不是被安全團隊告知“你必須這樣做!”卻從未提供任何幫助時，你才能真正地、清晰地了解持續(xù)性網(wǎng)絡(luò)安全的重要性，并積極地參與其中。
我之前提到過深度和廣度的問題。我們在整個公司擁有廣泛的知識和專業(yè)人員，但我們也分配安全人員、架構(gòu)師、工程師直接向那些工程團隊和工程經(jīng)理匯報，這樣他們就可以在現(xiàn)場幫助我們，并弄清楚我們?nèi)绾握嬲叵蚯巴七M這些步驟。
客戶體驗在安全領(lǐng)域意味著什么?
Michael Krigsman：您剛才提到的安全需要良好的客戶體驗，您能詳細說明一下嗎?
David Reber：這涉及的是一種服務心態(tài)。你可以做任何產(chǎn)品，但如果你的客戶不喜歡，他們就會離開。
當我們建立開發(fā)者生態(tài)系統(tǒng)、開發(fā)網(wǎng)站以及GPU時，我們試圖創(chuàng)造的是一個偉大的體驗，這樣開發(fā)者就可以很輕松地使用它們。帶著這種心態(tài)，當我們構(gòu)建我公共平臺(比如我們的代碼掃描平臺)時，我們?nèi)绾未_保你可以輕松地集成，你有正確的文檔，你了解他們將如何使用產(chǎn)品?
客戶并非必須要選擇我們，他們有自主選擇權(quán)。即便是就安全而言，雖然它是必要的，但你并非唯一選擇。但當你有這樣的心態(tài)時，你就會去努力改變你的產(chǎn)品，讓它成為提供良好客戶體驗的不二之選。
其實，我們也會在自己的安全團隊里先進行體驗，我們永遠是自己產(chǎn)品的第一個客戶。我們一直專注于如何使用我們自己的技術(shù)來保護我們正在構(gòu)建的技術(shù)，這樣我們就減少了與開發(fā)人員的摩擦。
Michael Krigsman：您之前提到不要總是說“NO”，這聽起來像是在英偉達文化和您的生態(tài)系統(tǒng)文化中集成安全的基礎(chǔ)。
David Reber：當你面對新的技術(shù)，以前沒有人做過的事情時，我們都在一起學習。沒有正確答案。
就人工智能來說，現(xiàn)在世界各地都在出臺監(jiān)管規(guī)定。我們也在這條道路上繼續(xù)探索，只不過我們比別人先行一步而已。關(guān)于到底要怎么做，我們也不知道，所以我們需要一起學習。
在這個學習的旅程中，我們遇到的每個問題，甚至是安全人員遇到的最瘋狂的問題，我們都可以說“YES”，然后一起學習。我們知道，在在邁出第一步時，我們可以冒險，可以學習，可以失敗，來看看到底會發(fā)生什么。它讓我們作為一個安全團隊能夠繼續(xù)學習，看看我們需要做什么，開發(fā)人員繼續(xù)弄清楚他們要去哪里。然后，我們就可以進行下一步。
現(xiàn)在，隨著技術(shù)開始被定義，它有點像，“這是你的標準平臺。這是你的共性，”目標是確保你有基礎(chǔ)設(shè)施即代碼。你已經(jīng)準備好了這些例子，所以你不需要再進行那些對話，你可以專注于下一件事。
我們都可以在業(yè)務中學習和創(chuàng)新。我們沒有理由在這場戰(zhàn)斗中落后，因為歸根結(jié)底，我們的目標是幫助解決世界上最困難的問題。如果你不前進，你就無法做到這一點。
人工智能治理在安全計劃中的作用是什么?
Michael Krigsman：我們回到關(guān)于人工智能以及人工智能治理等問題的具體討論上，這類話題與您作為首席安全官的角色有什么交集?
David Reber：正如我之前所說的，治理就是信任。我如何信任訓練模型的數(shù)據(jù)、算法和基礎(chǔ)設(shè)施，以及數(shù)據(jù)的來源?由誰發(fā)布，然后又由誰不斷更新?然后如何交付給客戶?
當你以這種方式看待問題時，它與標準的CICD系統(tǒng)(dev-ops管道)并沒有什么真正的不同。現(xiàn)在我們只討論數(shù)據(jù)管道。
作為一個安全團隊，我們可能不是給定模型的特定道德方面的專家，就像他們也未必是數(shù)據(jù)供應鏈領(lǐng)域的專家一樣。這就是我們存在交集的地方，所以我可以和那些道德專家、法律專家以及其他領(lǐng)域的專家們走到一起，討論并弄清楚需要保證在整個供應鏈中哪些信息是值得信賴的。
然后，我們安全團隊要做的就是弄清楚如何構(gòu)建數(shù)據(jù)供應鏈，一直到我們的供應商，到我們對他們的合同要求，到他們需要實施的安全控制，這樣他們就可以相信自己得到的數(shù)據(jù)是準確的。這就是相互作用的地方，隨著值得信賴AI在生態(tài)系統(tǒng)中真正形成，我們深刻地參與了這種形成。
英偉達如何將安全整合到產(chǎn)品開發(fā)中?
Michael Krigsman：那產(chǎn)品方面呢?英偉達一直在創(chuàng)造新的硬件、軟件和云服務。您是如何參與的?同樣地，產(chǎn)品開發(fā)、產(chǎn)品發(fā)布和安全團隊之間的交集是什么?
David Reber：我關(guān)注的是產(chǎn)品安全性，產(chǎn)品本身的安全性。產(chǎn)品的部分工作是需要我們在幕后完成的，以確保我們有高質(zhì)量的代碼，減少代碼中的錯誤。如果我們正在運行服務，我們?nèi)绾斡涗洝⒈O(jiān)控和保護我們在客戶中運行的基礎(chǔ)設(shè)施。
我們的安全團隊始終專注于確保做了所有需要在幕后完成的事情。這是一種責任共擔的模式，所以我們有建筑師和工程師來確保我們對客戶是透明的。“我們在服務或產(chǎn)品中加入了這些功能，使您能夠使用我們提供的服務安全工作。您負責監(jiān)控它，”就像任何云服務提供商所做的那樣。
“這是您的日志功能，這樣您就可以監(jiān)控您的使用情況，”因為，在集體防御的世界里，我不知道對我們的客戶來說，什么是好用戶，什么是壞用戶。我想讓他們獲得成功所需的所有信息，同時在我們的層面上保護我們需要保護的東西。
作為一個產(chǎn)品安全組織，除了架構(gòu)這些功能之外，我們還需要考慮如何加強我們需要控制和監(jiān)控的內(nèi)容，清楚地闡明客戶所做的事情和我們需要做的事情的信任模型。所以，當我們使用自己的產(chǎn)品時，我們也必須確保他們的使用安全。這就是我們需要確保我們在軟件和硬件中建立正確的東西，以實現(xiàn)集體防御。
Michael Krigsman：在產(chǎn)品開發(fā)生命周期的哪個階段，安全開始成為與核心產(chǎn)品功能同等重要的基礎(chǔ)問題?
David Reber：我們的目標始終是從頭開始構(gòu)建安全性，所以我們確實參與到產(chǎn)品定義和產(chǎn)品團隊中。我們一直在深入了解客戶的問題集。他們需要什么樣的法規(guī)?他們需要哪些功能來保護他們的工作負載?
自此我們集成了整個生命周期，從設(shè)計一直到開發(fā)再到運營。然后一直到它作為一個產(chǎn)品退役，不再受支持。
我們看待這個問題的方式是，我們定義了正確的產(chǎn)品，構(gòu)建了正確的產(chǎn)品，運行了正確的產(chǎn)品，然后，如果存在安全漏洞，我們?nèi)绾巫龅酵该鞯剡M行更新，并與客戶溝通。
Michael Krigsman：今天的人工智能平臺、技術(shù)和科技如何改變網(wǎng)絡(luò)攻擊和防御的性質(zhì)?
David Reber：兩者都在加速。一般來說，攻擊者的劣勢在于規(guī)模。如何將自定義擴展到這些目標公司?有了ChatGPT這類技術(shù)的加持，攻擊者開始能夠創(chuàng)建讀起來非常有效的釣魚郵件。它在機器規(guī)模上加速了為組織定制攻擊載體的能力。
正如我之前談到的，在防御方面，它關(guān)乎我們?nèi)绾翁幚頂?shù)據(jù)，如何看待數(shù)據(jù)。我們?nèi)绾未_保機器在做它們最擅長的事情，這樣它們就可以給防御者提供信息。
Michael Krigsman：既然人工智能是未來，它依賴于數(shù)據(jù)和算法，那么普通的非技術(shù)人員如何確保數(shù)據(jù)和算法沒有偏見，因為決策可能是基于人工智能的建議?
David Reber：當我們審視值得信賴的人工智能時，我們的目標是透明度。你如何讓訓練過程透明化?我們對它了解多少?
作為預先訓練過模型的專家，我們知道什么?我們從哪里知道的?把這些信息呈現(xiàn)出來，這樣你才能做出決定。
這需要與不斷的測試，不斷的反饋相結(jié)合，讓人們知道這些知識，而不是像一個“黑匣子”，你不知道幕后是什么。只要你知道它告訴你什么，當你把它交給人類時，你就可以用這些信息和知識做出決定。當你知道它在那里，你可以努力讓它變得更好，我們可以一起努力讓它變得更好。
如何處理自主算法系統(tǒng)的負面后果?
Michael Krigsman：我們該如何應對本質(zhì)上自主的、算法的、數(shù)據(jù)驅(qū)動的系統(tǒng)，這些系統(tǒng)做出的決定會影響我們的生活，而另一端卻沒有人幫助我們糾正錯誤?
David Reber：這是一個常見的問題，你創(chuàng)建了一個系統(tǒng)，可以真正幫助你更好地完成今天的工作。但是你并沒有圍繞著反饋循環(huán)、客戶服務或產(chǎn)品內(nèi)的功能來進行整合。
我在很多不同的云服務中看到的，比如賬戶鎖定之類的，它們所做的是試圖保護你，并試圖將保護用戶作為第一優(yōu)先事項。他們的第二優(yōu)先級和下一優(yōu)先級可能是如何盡快給你數(shù)據(jù)，告訴你這是為什么。
這就是為什么你需要人類參與。為什么會這樣?發(fā)生了什么事?那么，您如何以一種值得信賴的方式反饋信息，以便能夠(希望是自動)解鎖?
這是動態(tài)的，因為攻擊者一直在使用社會工程。他們甚至會試圖利用這一過程。你得讓人類參與進來。我們所做的(甚至在一些系統(tǒng)內(nèi)部，比如供應商產(chǎn)品中的網(wǎng)絡(luò)AI選項)是能夠識別地理和可能的登錄。我們?nèi)绾闻cSOC和幫助臺建立良好的反饋循環(huán)和客戶體驗，以便盡快解決問題?
Michael Krigsman：網(wǎng)絡(luò)安全的根本困境是成本和不便是確定的、即時的，但收益是延遲的、不確定的。人工智能能幫上忙嗎?
David Reber：傳統(tǒng)的組織安全模型是一種保險策略。我們想要投資多少，它的響應性如何?
我認為我們在不同的產(chǎn)品中看到的人工智能作用，尤其是在網(wǎng)絡(luò)世界中，是如何幫助更好地告知你應該在哪里投資?以及今年、明年以及未來會取得怎樣的進展?在您的企業(yè)中，每天都有成千上萬的漏洞出現(xiàn)。你怎么知道哪些是可以利用的?你怎么知道在哪里投資最多?
當你把信息交到?jīng)Q策者手中，人們開始根據(jù)信息修補漏洞。在此過程中，你將如何幫助他們?與其查看數(shù)百個缺少補丁的CVE，還不如關(guān)注那三個最有可能(在您的網(wǎng)絡(luò)環(huán)境和上下文中)成功的CVE。這就是如何平衡這些投資的關(guān)鍵。
此外，你如何改變企業(yè)文化，使其不再是一種保險政策，而是成為你和客戶之間共同防御的推動者?這是一種產(chǎn)品價值，也是你考慮這些投資的地方。
為什么安全漏洞經(jīng)常發(fā)生?
Michael Krigsman：組織進行了很多安全投資，但現(xiàn)在仍有很多安全漏洞。這是怎么回事呢?
David Reber：防守方總是處于不利地位。攻擊者只需正確一次，而作為防守方的我們卻必須每次都是對的。
在擁有數(shù)萬甚至數(shù)十萬人的組織中，只需一人操作失誤或發(fā)生疏忽，就會造成毀滅性的后果。當你實際觀察大多數(shù)重大漏洞時就會發(fā)現(xiàn)，它們通常沒有那么復雜。攻擊者大多數(shù)時候并沒有利用一些高危漏洞來追蹤那些備受矚目的目標。只要有人點錯了鏈接，或者有人按了不該按的多因素鍵，攻擊者就能成功侵入目標組織，然后橫向移動以訪問更多資源。
不過，再看看你的問題，這需要我們所有人協(xié)同工作，提供信息，建立關(guān)系，但這樣做得結(jié)果就是，我們開始看到越來越多的供應鏈攻擊。一家公司被攻破，就會影響下一個，形成一種連鎖反應。
在公司之間建立這些關(guān)系，以便能夠共享信息，減少對我們共同客戶群的影響，這是我們需要關(guān)注的地方，也是我們作為一個社區(qū)真正需要投資的地方，這樣我們就可以幫助使它更安全。
在人工智能和安全方面給業(yè)務領(lǐng)導者的建議
Michael Krigsman：正如您之前所言，在這個快速變化的世界中，人工智能正在加速一切，那么在管理安全方面，您對業(yè)務領(lǐng)導者有什么建議?
David Reber：這關(guān)乎的是人的問題。從你的安全組織如何與業(yè)務領(lǐng)導者集成開始。你們是如何讓安全成為你們產(chǎn)品組合的一部分的?你還要確保了解你的客戶。當你開始研究這些關(guān)系時，可以推動您的安全組織成為開發(fā)解決方案的一部分。這有利于這種關(guān)系的形成。
每個人都在談論修復安全文化。它始于這些關(guān)系，理解雙方，并能夠做到這一點。
我想說的另一件事是，當我們進入人工智能的新世界時，確保你有一個清晰的供應鏈數(shù)據(jù)戰(zhàn)略。這是一個新的領(lǐng)域，你能否信任所有東西的來源(從軟件到數(shù)據(jù))，它是如何移動的，以及它是如何交付給客戶的。在你向人工智能發(fā)展的過程中，請確保優(yōu)先考慮這一點。
Michael Krigsman：這個觀點很有趣。擁有一個供應鏈安全戰(zhàn)略是決定安全成功與否的基礎(chǔ)。
David Reber：沒錯，在過去的幾年里，我們已經(jīng)在許多引人注目的違規(guī)和問題中驗證了這一點。這在整個行業(yè)中正變得越來越普遍。
了解你的供應商，能夠建立這些關(guān)系，即使你不是一家人工智能或數(shù)據(jù)公司，這也是很重要的。這對于今天的每個企業(yè)來說都很重要，而且隨著數(shù)據(jù)供應鏈的持續(xù)增長，這只會使情況更加復雜。
Michael Krigsman：您強調(diào)了人的作用。那么就防御而言，技術(shù)發(fā)揮著什么作用?
David Reber：你需要繼續(xù)使用并投資你的標準技術(shù)層和標準工具。人工智能不會取代這些良好的基礎(chǔ)。
通過一個良好的公共安全控制，從審計到監(jiān)視再到加固和鎖定，將能奠定堅實的安全基礎(chǔ)。隨著時間的推移，這些技術(shù)將能繼續(xù)幫助我們分析所有的數(shù)據(jù)，從而做出更快速的決定。
我剛開始的工作任務，就是要讓每天做決定的人掌握信息。技術(shù)將幫助我們解決這個問題。了解他們在做什么，什么是最好的選擇，什么是風險最小的選擇，以及他們?nèi)绾谓咏鼘崟r地得到這些信息，這就是技術(shù)將幫助我們的地方。
關(guān)于企業(yè)網(wǎng)D1net(hfnxjk.com)：
國內(nèi)主流的to B IT門戶，同時在運營國內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_-信眾智（www.cioall.com）。同時運營19個IT行業(yè)公眾號（微信搜索D1net即可關(guān)注）。
版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責任的權(quán)利。
京公網(wǎng)安備 11010502049343號