這些內容并不全是“深度偽造”(deepfake)，后者特指設計得極具誤導性的內容。
近年來，我們看到深度偽造被用于操縱選舉、實施欺詐和盜竊，以及未經他人同意制作色情圖片。
隨著AI工具變得更加強大和易獲取，這些問題只可能會愈演愈烈。例如，埃隆·馬斯克的AI公司xAI開發的Grok 3，現在對所有X(Twitter)用戶免費開放，可用來制作逼真的真人深度偽造內容。
有很多工具可以用來防范深度偽造帶來的欺騙或濫用。基于AI的檢測工具能以不同程度的成功率檢測內容是否經過數字生成或篡改。多因素身份驗證和其他數字身份驗證工具也可以防范社會工程學攻擊。
但深度偽造技術發展迅速，日新月異，這些措施還遠遠不夠，因此，如果你想采取措施保護自己，那么教育、批判性思維和意識的培養同樣重要，甚至更加重要。
批判性思維和意識
技術可以幫助我們防范深度偽造，但它不是萬能的，也不是百分之百可靠的。
這就是為什么我認為，防范AI生成的虛假信息帶來的危害，最好的防御手段是人的能力——情境意識和批判性思維。
企業今天就需要開始培訓員工，讓他們能夠批判性地評估內容和信息。而作為個人，我們應該了解那些居心叵測之人會如何以及為何試圖影響我們的想法和選擇——包括我們的民主選擇。
深度偽造帶來了一些獨特的挑戰，需要一些特定的技能來應對：
事實核查和驗證是兩種顯而易見的能力——如今，核實我們的信息來源，確定信息的真正來源比以往任何時候都更為重要。Facebook開發了一些功能，當用戶看到的信息可能具有欺騙性時會發出警告，比如信息來自似乎試圖隱藏其身份的來源。
不過，Facebook也因取消事實核查功能而受到批評，此舉可謂一種倒退。
情境意識通常就像問“這合理嗎?”一樣簡單。
了解背景和情境可能幫助許多人在2022年意識到這段關于弗拉基米爾·澤連斯基(Volodymyr Zelensky)向俄羅斯投降的視頻并非真實。
那家工程公司Arup的員工，被騙子用偽造的老板聲音騙走了2500萬美元，如果他多留心這個要求的異常之處，可能會更有防備。
批判性思維技能幫助我們了解信息來自何處，以及他們為何要把信息給我們。虛假信息內容通常會以極端的方式利用情緒，制造恐懼、憤怒或興奮。幸運的是，我們可以被訓練成能夠察覺自己何時被以這種方式操縱。
因此，我們在消費任何內容時，應該學會考慮三件事：
它是在試圖影響我嗎?
它真的可能發生嗎?
我能相信告訴我信息的人嗎?
強調用這種批判性思維的方法思考內容的重要性，對保護我們免受深度偽造影響至關重要。
適應后真相世界
深度偽造技術只會變得更加復雜。我們很可能會到達一個連最好的檢測工具都無法總是識別出偽造視頻、圖像或音頻的地步。
我在這里提到的防御機制——批判性思維、意識和推理——可能在更長的時間內依然有效。
監管會保護我們嗎?一些國家的政府已經出臺了關于深度偽造的法規，然而，不幸的是，犯罪分子并不總是守法。
因此，各企業現在就需要做出反應，確保每個人都了解在采取行動之前核實和批判性評估信息的程序和政策。
對于個人而言，意識到AI虛假信息的危害，無論是試圖影響我們投票給誰，還是我們給誰捐款，都應該成為我們的第二天性。
這應該會幫助我們在一個未來保持正確的方向，在那個時候，我們可能無法確定自己親眼所見是否值得信賴。
企業網D1net(hfnxjk.com)：
國內主流的to B IT門戶，旗下運營國內最大的甲方CIO專家庫和智力輸出及社交平臺-信眾智(www.cioall.com)。旗下運營19個IT行業公眾號(微信搜索D1net即可關注)。
版權聲明：本文為企業網D1Net編譯，轉載需在文章開頭注明出處為：企業網D1Net，如果不注明出處，企業網D1Net將保留追究其法律責任的權利。
京公網安備 11010502049343號