谷歌(微博)旗下DeepMind被指通過非法交易獲得160萬NHS患者病歷。
這是國家數據監護機構(National Data Guardian)菲奧娜-卡爾迪克特爵士(Dame Fiona Caldicott)在2月20日寫給NHS皇家自由信托(NHS Royal Free Trust)醫學主任斯蒂芬-鮑維斯(Stephen Powis)的信中披露的信息。這封信被泄露給了Sky News并在本周一被公諸于眾。
DeepMind原是倫敦的一家人工智能研究實驗室,2014年被谷歌以4億英鎊(約合5.16億美元)的價格收購。后來在2015年通過一項交易獲得了160萬NHS患者的病歷,幫助它開發一款名為Streams的移動應用。這是一項提供“直接護理”的服務。
從法律上講,患者已經同意讓他們的病歷出于“直接護理”的目的被共享。
但是卡爾迪克特在信中寫到:“我在12月給你寫信時說過,患者的數據被共享給DeepMind時,只要目的是出于‘直接護理’就等于患者默認同意,我并不認為這種說法有著合法的依據。”
卡爾迪克特并不是質疑這款應用能夠幫助臨床醫生治病救人的能力,她補充說:“鑒于Streams經過了多年的測試,因此它不可能僅被用于患者護理,有可能它在為直接護理提供支持方面的作用是有限的,它更重要的作用是數據傳輸。”
“經過深思熟慮,我的觀點是:患者并沒有預料到他們的病歷會出于這個目的而被共享。”
DeepMind聯合創始人穆斯塔法-蘇萊曼(Mustafa Suleyman)和戰略總監威爾-卡文迪仕(Will Cavendish)均通過電子郵件接到了這封信。
英國國家數據監護機構的發言人證實這封信確實存在。
國家數據監護機構的宗旨是幫助確保公民的機密醫療信息得到安全保護和恰當使用。她在信件結尾解釋說,她將把她的意見傳遞給英國數據保護官、信息專員伊麗莎白-德納姆(Elizabeth Denham)。
信息專員辦公室正在調查英國皇家自由信托與DeepMind之間的數據傳輸是否符合數據保護法案(Data Protection Act)的規定。預計信息專員辦公室將在未來幾周內公布裁決結果。
Streams是一款臨床應用,旨在幫助臨床醫生盡快發現和治療患者。它將患者信息整合在一起,并在發現問題時自動發出警報。它并沒有使用DeepMind的人工智能或機器學習技術。
經過最初的測試階段后,皇家自由信托按照后續交易的規定向它旗下醫院的很多臨床醫生推出了Streams應用。目前信息專員辦公室還沒有對后續交易進行調查。
DeepMind對此未予置評,但DeepMind的首席臨床醫生多米尼克-金(Dominic King)對Sky News稱:“這是非常重要的,DeepMind是一家英國公司,雖然被谷歌收購了,但它仍保持著獨立運營。在任何情況下,任何患者的數據都不能與谷歌的其他產品或服務共享,或被用于商業目的。我們承認,我們有一件事可以做得更好,那就是保證公眾真正了解他們的數據是被如何使用的。”
谷歌DeepMind與倫敦皇家自由信托達成的第一項交易被3月份發表的一份學術報告撕得粉碎。這份學術報告題為《算法時代的谷歌DeepMind和醫療服務》,由劍橋大學朱莉婭-包勒斯(Julia Powles)和《經濟學人》的哈爾-霍德森(Hal Hodson)合著。報告提出,為什么DeepMind能夠在未經患者同意的情況下處理數以百萬計的NHS患者病歷。報告得出的結論是:這項交易充斥著“不可原諒的”錯誤。
倫敦皇家自由信托的發言人發表了以下聲明:
“Streams應用是在與臨床醫生密切合作的基礎上開發出來的,目的是盡早向患者發出警報,幫助他們避免不必要的死亡。它現在正由皇家自由信托免費使用,幫助臨床醫生為我們的患者提供更優秀、更及時的治療。護士們報告說,這款應用每天幫她們節省了不少的時間。
我們在使用真實數據測試Streams時將安全放在第一位。這是為了檢查這款應用是否能準確、安全地提供患者信息,然后再部署到真正的患者治療環境中。真正的患者數據經常被用于NHS,以檢查新系統是否正常工作,然后才將它們真正投入使用。負責任的醫院絕不會部署沒有經過徹底測試的系統。NHS仍然完全控制著所有的患者數據。
這個項目旨在利用新技術幫助預防不必要的死亡,這是NHS部署的第一個此類項目,我們可以從開拓性的工作中學到很多東西。我們認真對待NDG的結論,很高興他們已經要求衛生部密切關注監管框架以及提供給推進這種創新的各組織的指導服務,這對NHS的未來至關重要。
我們對我們與DeepMind共同完成的工作感到自豪,我們將繼續大膽創新,為患者謀福利。”
英國國家數據保護機構發言人稱:“菲奧娜-卡爾迪克特爵士和她的顧問一直在考慮患者數據是如何按倫敦皇家自由信托與DeepMind達成的交易被共享的,Streams項目的目的是改善急性腎衰竭的檢測和護理。在與信息專員辦公室討論這個問題的時候,國家數據保護機構同意就使用默認同意將直接護理作為向DeepMind共享數據的法律依據提供建議。雖然信息專員辦公室的調查仍在進行之中,國家數據保護機構將根據需求提供更多的幫助,但現在不會就此事發表進一步評論。”