在斯坦福大學和谷歌的研究項目中，一個深度學習機器將衛星圖像轉換成街景地圖“出現錯誤”，卻將其巧妙地隱藏在“一個幾乎無法察覺的高頻信號”中。AI竟然學會了作弊?你覺得恐怖還是欣喜?這其實揭示了計算機自發明以來就存在的一個問題：計算機只是完全按照你的指令去做。

這項研究正是來自谷歌著名的精準地圖，為加速和改進將衛星圖像轉化為實際地圖的過程，科研小組研究出所謂“循環神經網絡”的一種方法，通過大量的實驗將X和Y型圖像盡可能高效而準確地相互轉換。

在將衛星地圖轉換成實景地圖的視覺數據中有成千上萬的微小的顏色變化，人類的眼睛不會注意到，但計算機可以很容易地檢測到。AI機器的任務是理解其中一種地圖的特征，并將之另一種地圖特征正確匹配 。

在早期工作中，AI機器表現得不錯，完成的又快又“好”但漸漸旳研究人員發現當機器根據街景地圖重建航空照片時，很多細節根本不不在原圖中。例如，在創建街景地圖的過程原本已經在建筑中被取消的屋頂天窗會在衛星圖中神奇地再現。

研究人員很快找到原因，原來計算機非常擅長將這些細節嵌入街景地圖，因此它學會了快速將航空地圖編碼為街道地圖的本領，甚至不需要關注“真實”的街道地圖。而人類不擅長檢測造成了早期的錯誤，這間接地鼓勵了機器的工作，因此機器默認了自己生成的圖像的正確性，以至于后面愈演愈烈，張冠李戴錯誤不斷，直到研究人員發現。

人們可以很容易地把它作為“機器越來越聰明”的正面論據，但實際上正相反的。這臺機器不夠聰明，所以才無法精確完成這些復雜的圖像類型的相互轉換，它只是找到了一種貌似“正確”的方法，并鉆了人類檢測不到的空子。

有趣的是，他們做的正是他們所要求的做的。這次的教訓應驗了一句計算機界古老的格言：問題存在于鍵盤和計算機之間”或者如HAL說的：“這只能歸于人為錯誤。”