2月5日，香港警方公司披露了該案件，提醒廣大市民注意安全。2月7日，頂象防御云業(yè)務安全情報中心率先分析了該起，“AI換臉”視頻會議詐騙案的詳細結(jié)果，并列舉了幾類有效的安全檢測和防御方法。

 

其實，這起騙局始于2024年1月份，受騙員工收到一封自稱是公司總部CFO（首席財務官）發(fā)來的電子郵件。隨后，冒充公司CFO的詐騙分子組織了一次視頻通話，邀請該受騙員工，以及其他幾個異地辦公的“同事”一起參加一個視頻會議。視頻中，受騙員工發(fā)現(xiàn)公司CFO及幾個同事，外表和聲音、談話的語氣等與此前相仿，于是打消了早期的疑慮。

 

會議結(jié)束后，該受騙員工在欺詐分子冒充的CFO指示下，一周內(nèi)進行了15筆交易，金額達2億港元（超過2500萬美元）。在此過程中，詐騙分子還使用WhatsApp、電子郵件和一對一視頻通話與該員工保持聯(lián)系。事后，受騙員工向公司負責人匯報整個交易過程，才意識到自己被騙了。

 

 

香港警方分析發(fā)現(xiàn)，這是一起精心策劃的騙局。詐騙分子通過社交媒體和視頻平臺上，尋找并下載了該公司CFO以及其他幾個人的照片、視頻，然后使用深度偽造技術(shù)偽造出不同人員聲音，再合成到偽造的欺詐視頻片段中。受騙員工參與的視頻會議中，除了他自己是真人外，其他全部為偽造的虛假視頻。而被詐騙的資金被發(fā)送到五個當?shù)劂y行賬戶，然后迅速被人分散轉(zhuǎn)走。

 

 

這起詐騙案對企業(yè)和個人都敲響了警鐘。深度偽造已經(jīng)達到了無法用肉眼檢測到的復雜程度，除非接受過專門培訓，否則AI生成的虛假身份可能很難被人識別出來。深度偽造質(zhì)量的提高，檢測是一大難題。不僅肉眼無法有效識別，一些常規(guī)的檢測工具也不能及時發(fā)現(xiàn)，企業(yè)和個人在遇到類似“視頻”場景時，應保持警惕，需要采用多重策略來識別與防御深度偽造欺詐。

 

在視頻對話的時候，可以要求對方摁鼻子、摁臉觀察其面部變化，如果是真人的鼻子，按下去是會變形的。也可以要求對方吃食物、喝水，觀察臉部變化。或者，要求做一些奇怪的動作或表情，比如，要求對方揮手、做某個難做的手勢等，以辨別真假。在揮手的過程中，會造成面部的數(shù)據(jù)的干擾，會產(chǎn)生一定的抖動或者是一些閃爍，或者是一些異常的情況。在一對一的溝通中可以問一些只有對方知道的問題，驗證對方的真實性。同時，當有人在視頻或錄音中提出匯款要求時，必須致電或從其他渠道一再核實。

 

 

此外，基于人工審查與AI技術(shù)相結(jié)合的人臉反欺詐系統(tǒng)，能助力企業(yè)提升反欺詐能力。頂象全鏈路全景式人臉安全威脅感知方案，能夠有效檢測發(fā)現(xiàn)虛假視頻。它通過人臉環(huán)境監(jiān)測信息、活體識別、圖像鑒偽、智能核實等多維度信息對用戶人臉圖像進行智能風險評估、風險評級，迅速識別虛假認證風險。

 

頂象全鏈路全景式人臉安全威脅感知方案，針對人臉識別場景及關(guān)鍵操作的實時風險監(jiān)測，針對性地監(jiān)測如攝像頭遭劫持、設備偽造、屏幕共享等行為，并觸發(fā)主動防御機制進行處置。在發(fā)現(xiàn)偽造視頻或異常人臉信息后，該方案系統(tǒng)支持自動執(zhí)行防御策略，設備執(zhí)行命中防御策略之后對應的防御處置，可以有效阻斷風險操作。

 

另外，減少或者杜絕在社交媒體上分享賬戶服務、家庭家人、交通出行、工作崗位等敏感信息，防范欺詐分子盜用下載后，進行圖片和聲音的深度偽造，而后進行身份偽造。并持續(xù)對公眾進行深度偽造技術(shù)及其相關(guān)風險的教育，隨時了解AI和深度偽造技術(shù)的最新發(fā)展，以相應地調(diào)整保障措施。