谷歌嘗試通過利用機器學習來改進應用掃描,從而保護用戶免受Android應用隱私侵犯和過多權限的問題,但對于這一做法是否有效,專家持有不同意見。
所有提交到Google Play Store的應用已經被掃描以檢測惡意代碼和其他威脅,而現在谷歌將使用對等群組分析來確保Android應用不會要求不必要的權限。
“為了保護我們的用戶,并幫助開發人員應對這個復雜的環境,谷歌會分析Google Play中每個應用的隱私和安全信號。然后,我們會將具有相似功能的應用進行比較,這被稱為功能對等體。創建對等體組讓我們可校準對用戶期望的估計值,并確定不安全或侵入性行為的范圍,”谷歌安全和隱私團隊Martin Pelikan、Giles Hogben和Ulfar Erlingsson在博客中寫道,“此過程有助于檢測收集或發送敏感數據但沒有必要這樣做的應用,讓用戶更容易找到提供正確功能并尊重其隱私的應用。”
谷歌稱其已經開發了一種機器學習算法,可對具有相似功能的應用進行分組,以比較Android應用隱私設置,并確定該應用是否需要交由谷歌安全和隱私團隊進一步檢測。
Privacy Professor公司首席執行官Rebecca Herold表示,谷歌應該考慮要求Android應用隱私符合具體安全和隱私標準,而不是依靠機器學習和安全及隱私專家的主觀看法。
“如果開發人員稱,‘我們已經驗證我們的應用符合 IEEEP1912/NIST XXXX/標準,并符合GDPR(一般數據保護條例)/HIPAA(健康保險攜帶和責任法案)/FISMA(聯邦信息安全管理法)等要求’,這些權威、國際接受的標準作為可接受的隱私控制可更好確保用戶隱私,而不是交由人類判斷和人工智能,”Herold稱,“此外,通過建立滿足指定安全和隱私技術標準的最低要求,應用設計人員和供應商可在提交應用到Google Play由專家審核之前在應用中建立安全和隱私控制。”
Plixer公司首席執行官Michael Patterson稱,開發人員可能會想辦法繞過新的Android應用隱私掃描。
“軟件公司大量收集來自客戶的大數據的勢頭仍在發展,而谷歌試圖阻止這種對個人身份信息收集的做法可能無法實現,”Patterson稱,“例如,Words With Friends等供應商可簡單地構建功能證明他們需要收集細節信息,例如GPS位置信息。谷歌可能需要監管移動應用開發人員的真正意圖。”
Herold稱谷歌執行Android應用隱私掃描是非常好的舉措,但他也質疑機器學習的有效性。
“由于他們是提供應用的實體,他們有責任盡可能確保其站點的應用的安全性以及隱私性,特別是GDPR等新法律要求建立隱私控制,”Herold稱,“利用機器學習來實現這一目標很有趣,我們可以看看它究竟是否有效及準確。對隱私的確定包括考慮如何/何地/何時數據被使用/共享,我建議他們應該安排一個團隊對沒有被AI機制標記的應用進行某種類型的快速審查,以進一步篩選應用。”
反惡意軟件公司Bitdefender高級電子威脅分析師Liviu Arsene表示,自動化Android應用隱私掃描可能會失去人類隱私判斷。
“隱私是非常個人化的東西,有些用戶會認為位置跟蹤具有侵擾性,而另一些用戶可能不這樣認為。試圖對300萬應用貼上隱私標簽會非常困難,肯定會有誤判,”Arsene稱,“在某種意義上說,這種掃描會讓應用審查更容易和更有效,但最終還是由個人用戶來決定應用是否具有侵擾性。”
Herold指出,在未來,開發人員將有更多的理由來降低Android應用隱私設置來收集數據。
“隨著越來越多應用在物聯網和醫療物聯網中整合,甚至會有更多類型的數據與個人關聯,因此隱私風險也會隨之增加,”Herold稱,“雖然有些應用創建者和供應商正努力解決隱私問題,但風險也在迅速增加。”