從 AlphaGo 開始步入人們視線，人工智能公司 DeepMind 的一舉一動總是飽受關(guān)注，而在去年，DeepMind 與英國國家醫(yī)療服務(wù)體系 NHS 旗下基金會 Royal Free London 簽訂了為期五年的合同，NHS 旗下的三家倫敦醫(yī)院將向 DeepMind 分享 172 萬患者的醫(yī)療數(shù)據(jù)，雷鋒網(wǎng)此前也做過相關(guān)報道。
這自然引發(fā)了對隱私問題的討論和擔(dān)憂，DeepMind 一直聲稱隱私與信任是它們首要考慮的問題，所有數(shù)據(jù)會被加密且不會與母公司谷歌分享，但依然有不少學(xué)者質(zhì)疑 DeepMind 此言的真實性。
其中劍橋大學(xué)學(xué)者 Julia Powles 當(dāng)屬反對聲音最激烈的一個，在與 Hal Hodson 合寫的一篇名為《Google DeepMind and healthcare in an age of algorithms》中，她質(zhì)疑 DeepMind 在數(shù)據(jù)及隱私保護上的意愿。
在提及這一爭端之前，我們先和 AI 科技評論回顧一下 DeepMind 與 NHS 合作的大致過程。
在 2015 年 7 月，Royal Free London 旗下公立醫(yī)院的醫(yī)生與谷歌 DeepMind 公司開始有了初步接觸。值得一提的是，DeepMind 此前并沒有任何提供健康服務(wù)的經(jīng)歷或經(jīng)驗。
而在 2015 年 11 月，Royal Free 的一些敏感醫(yī)療數(shù)據(jù)就已經(jīng)開始傳輸?shù)?DeepMind 的所持有的第三方服務(wù)器上。而 NHS 作為獲得 Royal Free 大量基金支持的英國國家醫(yī)療服務(wù)體系，自然也掌控著英國國民健康信息的大量數(shù)據(jù)。
隨后在 2016 年 1 月，DeepMind 公開宣布與 Royal Free 合作，將利用后者所提供的數(shù)據(jù)開發(fā)一款名為 Streams 的應(yīng)用以輔助急性腎損傷 (AKI)。
2016 年 9 月，DeepMind 三大創(chuàng)始人之一 Mustafa Suleyman 與 Royal Free 的 Subir Mondal 簽署了一份八頁的信息共享協(xié)議(ISA)，這份時效五年的協(xié)議顯示，Royal Free 是數(shù)據(jù)的實際控制方，而 DeepMind 只是一個數(shù)據(jù)處理方。
而在 2016 年 10 月，DeepMind 聲明公司將保護 Royal Free 患者的敏感數(shù)據(jù)，比如 AKI 的管理數(shù)據(jù)與直接護理內(nèi)容，它們表示，這些數(shù)據(jù)的范圍比起協(xié)議中所約束的內(nèi)容范圍只會更窄，不會更寬。谷歌也強調(diào) DeepMind 只是在為控制腎臟疾病開發(fā)相關(guān)應(yīng)用。
但這樣的聲明并不能讓 Julia Powles 滿意，她在報告中指出了 DeepMind 可能存在的三個問題：
首先是 DeepMind 是否可以被視為一個數(shù)據(jù)處理方，并直接對病人護理產(chǎn)生影響的問題。根據(jù) DeepMind 的官方資料顯示，Royal Free 至少有 26 名醫(yī)生及護士在使用 Streams，平均每天會向 11 個置身 AKI 風(fēng)險的患者發(fā)出健康警報。
Powles 在報告中提到，「為何這樣一家由數(shù)據(jù)挖掘兼廣告巨頭谷歌全資擁有的 AI 公司，能夠構(gòu)建一個以數(shù)據(jù)集成用戶為基礎(chǔ)的 App?不論是 DeepMind 還是 Royal Free London，都沒有對這個問題進行正面回答?！?/p>
其次，數(shù)據(jù)如何在法律保護下進行使用?目前所收集到的聲明都只是兩個合作機構(gòu)的一面之詞，她并沒有了解到任何關(guān)于數(shù)據(jù)使用的監(jiān)督文件或是具有法律約束力的客觀文件。Powles 表示，公眾并沒有了解數(shù)據(jù)去向的渠道或權(quán)利，因此也無法得知他們所說的是否屬實。
第三點是，相關(guān)的設(shè)備及算法是否已經(jīng)按照法規(guī)在監(jiān)管機構(gòu)取得授權(quán)/許可?根據(jù) DeepMind 及 Royal Free 的聲明，它們采用的是一個為 AKI 服務(wù)的「國有算法」(national algorithm)，它能夠?qū)ρ核竭M行測試，并結(jié)合 Royal Free 的數(shù)據(jù)(已經(jīng)在 DeepMind 存儲、利用及傳輸)，決定是否需要向醫(yī)生的移動設(shè)備發(fā)送相關(guān)的健康警報。根據(jù) Powles 的了解，DeepMind 并沒有獲得研究批準機構(gòu)(HRA)或是保密咨詢機構(gòu)(CAG)的授權(quán)和許可。
作為回應(yīng)，DeepMind 與 Royal Free 聯(lián)合發(fā)表了一項聲明，指出 Julia Powles 的這篇報告「完全歪曲了 NHS 如何利用技術(shù)處理數(shù)據(jù)的事實?！?/p>
「這篇文章犯了一系列重大的事實和分析錯誤，而且臆想我們并沒有簽署類似的數(shù)據(jù)協(xié)議。……事實上，該國的每一個信托機構(gòu)都會根據(jù)同樣的法律與監(jiān)管制度，使用 IT 系統(tǒng)幫助臨床醫(yī)生獲取患者的以往及當(dāng)前的信息。"
看熱鬧不嫌事大的 BBC 記者 Jane Wakefield 還邀請雙方在一個公開場合進行回應(yīng)，并表示，「自然，我們非常關(guān)心谷歌與 DeepMind 進軍醫(yī)療領(lǐng)域，畢竟它此前并沒有涉足過，此外，這些公司并不屬于傳統(tǒng)專業(yè)的衛(wèi)生信息技術(shù)與基礎(chǔ)設(shè)施提供商，這些舉動如果不加以澄清和說明，無疑會傷害公眾的感情。」
不可否認的是，NHS 的確曾與一些第三方企業(yè)簽署了一系列信息共享協(xié)議，DeepMind 此前曾經(jīng)推測協(xié)議的款項達到 1500 項，但 NHS 只是表示并不準確，但沒有給出更詳細的數(shù)據(jù)。
根據(jù)雷鋒網(wǎng)了解，目前該應(yīng)用主要是由英國信息辦公室(ICO，Information Commissioner's Office)進行調(diào)查，而國立數(shù)據(jù)監(jiān)管機構(gòu)(NDG)也對數(shù)據(jù)進行監(jiān)控。ICO 最近則表示，他們的調(diào)查已經(jīng)接近尾聲，并聲稱會和 NDG 繼續(xù)保持合作，與 Royal Free 及 DeepMind 進行定期聯(lián)絡(luò)，要求獲得 Stream 的開發(fā)信息。
DeepMind 在 2 月份也已經(jīng)表示，坦承希望與患者建立更友好的聯(lián)系，并愿意設(shè)立相關(guān)的討論社區(qū)。它在一項關(guān)于患者參與 Streams 項目的戰(zhàn)略文件中也提及，「如果患者與醫(yī)生能夠協(xié)商做出決策，效果會變得更好。」雷鋒網(wǎng)(公眾號：雷鋒網(wǎng))也將持續(xù)關(guān)注 DeepMind 的后續(xù)動態(tài)。
京公網(wǎng)安備 11010502049343號