精品国产一级在线观看,国产成人综合久久精品亚洲,免费一级欧美大片在线观看

當(dāng)前位置:安全企業(yè)動(dòng)態(tài) → 正文

AI接管攝像頭預(yù)防犯罪,奧威爾式監(jiān)控也成為可能

責(zé)任編輯:editor004 作者:崔綺雯 馬若飛 |來(lái)源:企業(yè)網(wǎng)D1Net  2017-07-04 11:47:29 本文摘自:好奇心日?qǐng)?bào)

想要安全,就要出讓隱私。不管對(duì)不對(duì),都已經(jīng)回不去了。

1962年,紐約路不拾遺,公寓的房門連門鎖都不裝。

但每個(gè)公寓都藏有一個(gè)攝像頭,畫面?zhèn)鞯近h衛(wèi)軍總部。陰暗的房間里,身著黑色制服的黨衛(wèi)軍士兵盯著一墻的小屏幕,記錄著每個(gè)居民的一舉一動(dòng)。

AI接管攝像頭預(yù)防犯罪,奧威爾式監(jiān)控也成為可能

這是美劇《高堡奇人》構(gòu)想的新世界。在這個(gè)世界里,盟國(guó)輸?shù)舳?zhàn)、紐約成了納粹美國(guó)的首都。人們的生活更安全,也更危險(xiǎn)。

不管你喜歡什么類型的電影,大概都看過(guò)這樣的橋段。根據(jù)劇情的需要,監(jiān)視器前的觀察者有可能被輕易騙過(guò),也有逮個(gè)正著。

不過(guò)如果圖形芯片巨頭英偉達(dá)的計(jì)劃成真,這樣的俗套會(huì)越來(lái)越少。

上個(gè)月,半導(dǎo)體設(shè)計(jì)廠商英偉達(dá)發(fā)布了一個(gè)叫做“大都會(huì)”(Metropolis)的人工智能平臺(tái)。這個(gè)名字聽起來(lái)就非常賽博朋克的產(chǎn)品提供了一個(gè)聽起來(lái)很高科技的愿景:整個(gè)城市的監(jiān)控?cái)z像頭不再是各自為政的閉路系統(tǒng),而是都將運(yùn)行在同一個(gè)平臺(tái)上,所有的視頻會(huì)匯集到云端存儲(chǔ),并由人工智能進(jìn)行視頻分析。

經(jīng)過(guò)訓(xùn)練,人工智能將代替人類執(zhí)法人員,識(shí)別出城市中發(fā)生的所有突發(fā)事件:比如交通事故、暴力犯罪、火災(zāi)等等。在英偉達(dá)的規(guī)劃里,這些信息會(huì)被匯集到城市管理部門去,提高執(zhí)法部門、消防隊(duì)的響應(yīng)速度。

英偉達(dá)給這個(gè)愿景準(zhǔn)備了一個(gè)產(chǎn)業(yè)鏈:和大華、海康威視等傳統(tǒng)監(jiān)控?cái)z像機(jī)廠商合作,讓這些攝像頭使用英偉達(dá)的芯片;后續(xù)的人工智能計(jì)算由英偉達(dá)提供人工智能芯片Jetson來(lái)完成,整個(gè)平臺(tái)的云計(jì)算加速運(yùn)行在英偉達(dá)的DGX-1超級(jí)計(jì)算模塊上。

這個(gè)平臺(tái)如果真的有政府買單采用,能實(shí)現(xiàn)的功能恐怕會(huì)比傳統(tǒng)的監(jiān)控?cái)z像機(jī)更為強(qiáng)大。人工智能不僅能進(jìn)行人臉識(shí)別,還能通過(guò)人的動(dòng)作、手里拿的東西來(lái)識(shí)別每個(gè)人。

舉例來(lái)說(shuō),就算你戴著口罩和帽子,未來(lái)的人工智能監(jiān)控也可以通過(guò)走路的姿態(tài)識(shí)別人的身份,系統(tǒng)會(huì)知道你從家里出來(lái),丟了一包垃圾,然后進(jìn)了地鐵。如果你是恐怖襲擊的嫌疑人,這包垃圾或許就會(huì)被識(shí)別成疑似的炸彈,觸發(fā)執(zhí)法機(jī)構(gòu)的行動(dòng)。

換句話講,監(jiān)控系統(tǒng)做的事將不再僅僅是看見某個(gè)人的臉,而是有能力盯著每一個(gè)人的一舉一動(dòng)。

實(shí)際上,英偉達(dá)規(guī)劃的事情已經(jīng)部分實(shí)現(xiàn)了,現(xiàn)在的智能監(jiān)控系統(tǒng)還做不到分析一個(gè)人在干嘛,但是盯住每個(gè)人、每輛車然后拍下照片是已經(jīng)成熟的技術(shù)。

中國(guó)智能監(jiān)控公司格靈深瞳2014 年的一份宣傳視頻展示,這套系統(tǒng)可以識(shí)別馬路上每輛車、每個(gè)人,并且把他們的照片自動(dòng)拍照歸檔。

基礎(chǔ)已經(jīng)在這里

現(xiàn)在常見的城市視頻監(jiān)控被稱為閉路電視監(jiān)控(Closed-Circuit Television,CCTV),這種系統(tǒng)中,攝像頭拍攝的畫面不會(huì)公開播放,只在一個(gè)封閉的系統(tǒng)里傳輸和存儲(chǔ),比如電影里那種一大堆屏幕的監(jiān)控室。

現(xiàn)在在全球任何一個(gè)大城市,監(jiān)控?cái)z像機(jī)都是隨處可見的。以北京這個(gè)特別的地方為例,至少有三個(gè)政府部門的監(jiān)控?cái)z像機(jī)在持續(xù)工作。

最常見的治安監(jiān)控,就是街頭巷尾像路燈一樣的小型攝像機(jī)。這種攝像機(jī)帶云臺(tái),可以旋轉(zhuǎn),一般由警察部門負(fù)責(zé),作用是監(jiān)控日常治安。

AI接管攝像頭預(yù)防犯罪,奧威爾式監(jiān)控也成為可能

  圖片/Public Domain Pictures

紅路燈上方安裝的槍形攝像機(jī),主要負(fù)責(zé)拍攝車輛和行人違章,高速公路、快速路上依托橫桿安裝的槍形攝像機(jī)一部分還包含了測(cè)速功能,這些由交通警察部門負(fù)責(zé)。

AI接管攝像頭預(yù)防犯罪,奧威爾式監(jiān)控也成為可能

  圖片/Public Domain Pictures

除此以外,還有一種安裝位置非常高,像路燈桿形狀的攝像機(jī),一部分屬于交通管理部門,主要用途是監(jiān)控交通流量。

這些攝像機(jī)近幾年來(lái)經(jīng)過(guò)“智慧城市”等等項(xiàng)目的升級(jí),可以拍清楚人臉和車牌,也就是說(shuō),不管是行人、車輛還是非機(jī)動(dòng)車,總有不同的攝像機(jī)會(huì)拍到你。

這一切從倫敦開始。倫敦是世界上第一個(gè)CCTV化的城市。而它的第一個(gè)固定監(jiān)視系統(tǒng)在1968 年啟用,安裝在美國(guó)駐英國(guó)大使館附近的格洛夫納廣場(chǎng),用以監(jiān)控抗議越南戰(zhàn)爭(zhēng)的學(xué)生。

在這之后,監(jiān)控系統(tǒng)被用在更多的地方。1993 年,閉路相機(jī)監(jiān)控幫助偵破了一起命案:男孩詹姆斯·伯格在英格蘭西北部一家購(gòu)物中心失蹤而后被殺。監(jiān)控錄像顯示,兩名年紀(jì)更大的少年劫走了他。根據(jù)監(jiān)控錄像,這兩名少年被控謀殺,而詹姆斯·伯格在監(jiān)控視頻里的最后影像刺激了民眾,閉路電視監(jiān)控系統(tǒng)得到廣泛支持。

直到90 年代末,基于“監(jiān)控會(huì)防止犯罪”這個(gè)理論,英國(guó)內(nèi)政部一半以上的預(yù)防犯罪預(yù)算都用在了建設(shè)監(jiān)控?cái)z像頭上。

從覆蓋密度上來(lái)看,英國(guó)已經(jīng)成了全球攝像頭最密集的國(guó)家,全境的街道和公共區(qū)域有 400-590 萬(wàn)臺(tái)監(jiān)控?cái)z像頭,平均每一個(gè)攝像頭盯著 11 個(gè)英國(guó)人,每個(gè)人的臉每天會(huì)被閉路電視拍攝 300 次。

2015 年的數(shù)據(jù)顯示,倫敦有超過(guò) 42 萬(wàn)個(gè)監(jiān)控?cái)z像機(jī),位居城市中的世界第二。第一名是北京,官方媒體在 2015 年以正面角度報(bào)道,稱北京城區(qū)已經(jīng)實(shí)現(xiàn)了監(jiān)控 100% 覆蓋,攝像機(jī)數(shù)量超過(guò)了 47 萬(wàn)個(gè)。

最具諷刺意味的是,催生北京這龐大攝像機(jī)數(shù)量的安裝計(jì)劃,名字叫做“天網(wǎng)”。“天網(wǎng)工程”是 2008 年之前,公安部、政法委和當(dāng)時(shí)的信息產(chǎn)業(yè)部在全國(guó)范圍內(nèi)推廣的視頻監(jiān)控項(xiàng)目,希望實(shí)現(xiàn)治安管理和人口信息化的功能。這個(gè)計(jì)劃的規(guī)劃者起名字的時(shí)候可能沒有參考電影《終結(jié)者》中那個(gè)奴役人類的超級(jí)人工智能天網(wǎng),但在中國(guó)的城市和鄉(xiāng)村,已經(jīng)基本實(shí)現(xiàn)了對(duì)所有人口的覆蓋。

而實(shí)際上,官方公布的北京 47 萬(wàn)個(gè)監(jiān)控?cái)z像機(jī),可能遠(yuǎn)遠(yuǎn)不是實(shí)際數(shù)字,因?yàn)檫@些項(xiàng)目并不需要和民眾公示,實(shí)際上在工作的監(jiān)控?cái)z像機(jī)數(shù)量只多不少。

在電視臺(tái)播放的法制節(jié)目里,常能看到執(zhí)法部門依靠一段模糊的錄像推斷嫌疑人身份的畫面。在現(xiàn)實(shí)中,政府出資建設(shè)的監(jiān)控?cái)z像早就不再是這個(gè)清晰度。這些無(wú)處不在的攝像機(jī)現(xiàn)在普遍在 200 萬(wàn)到 300 萬(wàn)像素,某些型號(hào)甚至可以達(dá)到 2800 萬(wàn)像素,拍清楚路上車輛里的人臉非常輕松。

技術(shù)升級(jí)直接提升了執(zhí)法精確度。2017 年初,交通警察部門發(fā)布新聞,稱 2017 年下半年,違章車輛被抓拍之后,不再可以像以前一樣隨便拿誰(shuí)的駕照都可以扣分,必須使用當(dāng)時(shí)駕駛者的駕照來(lái)執(zhí)行罰款。這是因?yàn)榻煌ㄟ`章攝像機(jī)已經(jīng)升級(jí),在拍下車牌的同時(shí)可以拍到司機(jī)的臉。

在英國(guó),關(guān)于公共場(chǎng)所監(jiān)控的爭(zhēng)論已經(jīng)持續(xù)了很多年。1994 年,英國(guó)當(dāng)時(shí)的內(nèi)政部長(zhǎng)還安慰民眾,把監(jiān)控?cái)z像機(jī)叫做“天空中善意的眼睛”,稱對(duì)于守法公民,這些攝像機(jī)是無(wú)害的。

但反對(duì)的聲音從未停過(guò)。2007 年,英國(guó)時(shí)任政府信息委員會(huì)會(huì)長(zhǎng) Richard Thomas就曾批評(píng),稱“過(guò)度使用閉路電視以及其他信息收集系統(tǒng),會(huì)給社會(huì)創(chuàng)造懷疑論的氛圍”,過(guò)去的所謂“監(jiān)控會(huì)遏制犯罪”理論受到質(zhì)疑。

2016 年,歐洲法院裁決英國(guó)《2014年資料保存和調(diào)查法案》為非法,認(rèn)為對(duì)民眾進(jìn)行大規(guī)模無(wú)差別的視頻監(jiān)控違法,這種行動(dòng)必須等到特定案件的法院許可才行。

但被判違法的這個(gè)法案在 2016 年底就會(huì)失效,取而代之的是《調(diào)查權(quán)力法案》,新法可以讓英國(guó)近 50 個(gè)政府部門擁有查看監(jiān)控信息的權(quán)限,英國(guó)執(zhí)政的工黨認(rèn)為,這個(gè)發(fā)難有助于打擊恐怖主義和犯罪。

但就目前的技術(shù)手段來(lái)說(shuō),這個(gè)系統(tǒng)監(jiān)控普通民眾和犯罪嫌疑人一樣低效。

目前的城市監(jiān)控系統(tǒng),主要還靠人眼

2011 年,倫敦地區(qū)爆發(fā)暴亂。大批暴徒上街和警方對(duì)峙。警方出動(dòng)武力鎮(zhèn)壓并且驅(qū)散人群之后,他們還需要尋找曾經(jīng)在暴亂中毀壞他人財(cái)物,燒車、搶劫商鋪的罪犯。最后,倫敦警局從監(jiān)控視頻鑒別出 5000 名嫌疑犯的身份。

5000 的數(shù)字聽上去不錯(cuò),但這花了整整 5 個(gè)月時(shí)間,因?yàn)楫?dāng)時(shí)的監(jiān)控視頻長(zhǎng)達(dá) 20 萬(wàn)小時(shí)。

專門做這個(gè)事情的警方特殊分隊(duì),叫做“超級(jí)人臉識(shí)別者”(super-recognizer)。他們的主要工作,就是在巡邏和逮捕犯人之余,大量看監(jiān)控?cái)z像頭里面低像素的人臉圖,認(rèn)出慣犯。

AI接管攝像頭預(yù)防犯罪,奧威爾式監(jiān)控也成為可能

  感受一下,當(dāng)時(shí)倫敦暴亂攝像頭就是這樣的畫質(zhì)

比如 Gary Collins 警官就在監(jiān)控?cái)z像頭錄像中認(rèn)出一個(gè)用汽油彈燒車的年輕人。

這段晚上拍攝的錄像,本來(lái)像素比較低,犯人帶著羊毛帽子,光只照到他的側(cè)臉,一邊臉都是陰影。但 Collins 還是認(rèn)出來(lái)了他,這人是早前他逮捕過(guò)的搶劫犯,Collins 根據(jù)之前的逮捕記錄,找到罪犯的名字最后抓捕歸案。

Collins 和他的小分隊(duì)都是人臉識(shí)別界天賦異稟的人,根據(jù)劍橋人臉識(shí)別測(cè)試,他們能夠認(rèn)出 95% 看過(guò)的臉,但普通人在這項(xiàng)技能上的得分只有 20%(不信你可以自己做一下這個(gè)測(cè)驗(yàn))。

能這樣對(duì)人臉過(guò)目不忘的人太少,而需要處理的視頻太多。

在英國(guó)警局,“超級(jí)人臉識(shí)別者”團(tuán)隊(duì)只有 6 個(gè)人,他們帶領(lǐng)一個(gè)經(jīng)過(guò)培訓(xùn)的 150 名流動(dòng)警員來(lái)搞定棘手的監(jiān)控錄像。

就像是威爾史密斯早年的電影《國(guó)家公敵》,里面國(guó)家安全局的特工已經(jīng)用了很多不切實(shí)際的新技術(shù),隨時(shí)調(diào)用衛(wèi)星、接入市政部門的系統(tǒng),但還是需要一堆人盯在屏幕前才能追蹤主角。

所以這也是為什么,即使在監(jiān)控系統(tǒng)最嚴(yán)密的英國(guó),監(jiān)控錄像能做的只是威懾和事后追查。無(wú)論是警方還是安裝攝像頭的商家,都沒有人手能夠?qū)崟r(shí)從監(jiān)控畫面中發(fā)現(xiàn)問(wèn)題,做出反應(yīng)。

連最近英國(guó)一系列恐怖襲擊之前的可疑行為,監(jiān)控系統(tǒng)也都毫無(wú)感知。這個(gè)系統(tǒng)對(duì)民眾隱私的威脅,只存在于理論可能。

過(guò)去幾年,技術(shù)公司想用人工智能把攝像頭變聰明

但在最近幾年事情出現(xiàn)了變化。“閉路電視”,不再閉路了。

2014 年,波士頓馬拉松恐怖襲擊之后,波士頓警方也開始更換了城市里面的監(jiān)控?cái)z像頭產(chǎn)品,他們用了當(dāng)時(shí)加拿大公司 BRS Labs 監(jiān)控錄像分析技術(shù),讓機(jī)器自己學(xué)習(xí)“什么視頻圖像是可疑的”。

AI接管攝像頭預(yù)防犯罪,奧威爾式監(jiān)控也成為可能

這些新一代“閉路電視”的原理是這樣的:首先觀察人和車同時(shí)存在的環(huán)境,然后識(shí)別結(jié)果,人類監(jiān)控員來(lái)確認(rèn)“找到的可疑活動(dòng)”結(jié)果是否準(zhǔn)確,將結(jié)果返回給算法。經(jīng)過(guò)一段時(shí)間的訓(xùn)練,人工智能算法就直接將拍攝到的視頻錄像進(jìn)行在線分析。

像 BRS Labs 這樣的新技術(shù),不需要公司更新硬件,只要本身攝像頭能夠聯(lián)網(wǎng)就可以做到使用他們的算法。

AI接管攝像頭預(yù)防犯罪,奧威爾式監(jiān)控也成為可能

BRS 這個(gè)公司也在融資 5 輪,拿到 2300 萬(wàn)美元之后被兩度收購(gòu),現(xiàn)在成了深度學(xué)習(xí)工具公司 OmniAI 兜售的一個(gè)解決方案。

BRS 公司的產(chǎn)品,后來(lái)被用在美國(guó)多個(gè)城市的交通和公共場(chǎng)所視頻監(jiān)控中,例如舊金山公交車上。

傳統(tǒng)的監(jiān)控公司更擅長(zhǎng)的與其說(shuō)是技術(shù),不如說(shuō)是拿到政府訂單的能力。

監(jiān)控系統(tǒng)要跨地域和維度進(jìn)行數(shù)據(jù)交互,進(jìn)展很慢。除了承包公司的能力一般都比較有限以外,政府部門之間的協(xié)作也很慢。比如根據(jù)中國(guó)公安部稍早的規(guī)劃,到 2015 年才實(shí)現(xiàn)跨省調(diào)取調(diào)監(jiān)控圖像。

但英偉達(dá)這樣的技術(shù)公司的加入,有可能帶來(lái)改變。它和特斯拉合作的自動(dòng)駕駛系統(tǒng)已經(jīng)用在新的 Model S 汽車上。而英偉達(dá)的主業(yè)圖形處理芯片也是目前最適合進(jìn)行圖像識(shí)別的硬件。

它的創(chuàng)始人黃仁勛已經(jīng)說(shuō)了一年要轉(zhuǎn)型成人工智能公司。

傳統(tǒng)的閉路電視生產(chǎn)商也已經(jīng)在最近兩年參加了這場(chǎng)智能監(jiān)控的熱潮。

傳統(tǒng)的政府?dāng)z像頭公司和英偉達(dá)合作,意味著最難的數(shù)據(jù)中心、算法、管理軟件都可以外包出去。它們還是抓住自己最擅長(zhǎng)的政府關(guān)系。

對(duì)人工智能感興趣的巨頭也不只是英偉達(dá)一家。英特爾去年斥資上百億美元收購(gòu)了幫特斯拉造出第一代自動(dòng)駕駛系統(tǒng)的 MobilEye,也在探索不同的人工智能領(lǐng)域。Google 開源人工智能平臺(tái) TensorFlow 上線后,創(chuàng)業(yè)公司直接可以調(diào)用 Google 的語(yǔ)音識(shí)別和翻譯等運(yùn)算能力。

硬件和算法以外,人臉識(shí)別現(xiàn)在也有了長(zhǎng)足的進(jìn)步,不只是算法,數(shù)據(jù)庫(kù)也前所未有的大。Facebook 已經(jīng)鼓勵(lì)用戶標(biāo)記照片里面的好友很多年,Google 和蘋果也都在自己的照片應(yīng)用里自動(dòng)識(shí)別人臉,只不過(guò)識(shí)別結(jié)果不會(huì)公開而已。

AI接管攝像頭預(yù)防犯罪,奧威爾式監(jiān)控也成為可能

  Facebook 自動(dòng)識(shí)別出照片里面哪個(gè)是你,然后問(wèn)你……要不要標(biāo)注自己……

而沒有自己做社交網(wǎng)站的美國(guó)政府,數(shù)據(jù)庫(kù)里面也已經(jīng)覆蓋了一半的成年人口。

所以……不得不接受這個(gè)新現(xiàn)實(shí)?

而近年來(lái)的恐怖襲擊和社會(huì)問(wèn)題,政府和商業(yè)機(jī)構(gòu)有了讓大眾“恐懼”的理由,將帶有視頻圖像分析、人臉識(shí)別的智能監(jiān)控設(shè)備帶入日常生活中。

這有一定道理。智能攝像頭可以實(shí)時(shí)進(jìn)行分析公共區(qū)域的可疑行為,實(shí)時(shí)識(shí)別出罪犯,在犯罪發(fā)生時(shí)甚至發(fā)生前通知警方。這樣的監(jiān)控系統(tǒng)不但可以讓警方提早反應(yīng),也會(huì)有更大的震懾力。

但一個(gè)可以盯住所有人,最終會(huì)認(rèn)出所有人的系統(tǒng),在帶來(lái)安全的同時(shí)也可能帶來(lái)《1984》里描繪的全民監(jiān)控。

“無(wú)辜的人不用害怕”,這是監(jiān)控支持者常用的說(shuō)法。

而最先報(bào)道斯諾登的《衛(wèi)報(bào)》記者 Glenn Greenwald 最常用的反駁是,“你愿意把自己的所有賬號(hào)密碼寫下來(lái),用郵件發(fā)給我么?”

大概沒人愿意,但基本上人人都將越來(lái)越多的信息交給了公司和政府。曾經(jīng)是指紋、數(shù)字信息。在人工智能的幫助下,是你出門后的每一分每一秒。

目前能期待的隱私保護(hù),在攝像頭最多的英國(guó)是這樣規(guī)定的:個(gè)人能要求拿到拍到自己臉的監(jiān)控內(nèi)容的拷貝,但不能刪去原始內(nèi)容。

大的科技公司,有一些還在自律以贏得用戶信任,比如 Google 和 IBM 的系統(tǒng)雖然也從影像中認(rèn)出很多人的身份,但只識(shí)別不返回結(jié)果——名人除外。但不是所有公司都做了類似承諾,而承諾也只是承諾。

“放棄隱私,不一定會(huì)帶來(lái)安全。獲得更好的安全保障,也不一定需要失去隱私。”時(shí)任斯坦福大學(xué)法學(xué)院“互聯(lián)網(wǎng)和社會(huì)”中心總監(jiān) Jennifer Granick 說(shuō)道。

她認(rèn)為,政府和商業(yè)公司讓大眾在隱私與安全,隱私與服務(wù)之間“二選一”本身就是有問(wèn)題的,為隱私立法,限定隱私被商業(yè)機(jī)構(gòu)和政府使用的規(guī)則才是迫在眉睫的事情。

Jennifer Granick 上面這番話說(shuō)于 2006 年 5 月。之后十年并沒有什么進(jìn)展。數(shù)字世界抹去個(gè)人信息的權(quán)利只存于歐洲(2015 年的被遺忘權(quán)訴訟)。

另一個(gè)人的話倒是成真了。

2010 年,普及社交網(wǎng)絡(luò)、讓人主動(dòng)放棄數(shù)字隱私的扎克伯格說(shuō),沒有隱私才是未來(lái)“新的社會(huì)常態(tài)”。

說(shuō)完這話三年后,靠公司上市獲得千億美元身價(jià)的扎克伯格花 3000 萬(wàn)美元買下臨近自己家的四幢房子,保護(hù)自己在現(xiàn)實(shí)生活中的隱私。

在新世界里,隱私真不是一般人付得起的。

關(guān)鍵字:人臉識(shí)別監(jiān)控

本文摘自:好奇心日?qǐng)?bào)

x AI接管攝像頭預(yù)防犯罪,奧威爾式監(jiān)控也成為可能 掃一掃
分享本文到朋友圈
當(dāng)前位置:安全企業(yè)動(dòng)態(tài) → 正文

AI接管攝像頭預(yù)防犯罪,奧威爾式監(jiān)控也成為可能

責(zé)任編輯:editor004 作者:崔綺雯 馬若飛 |來(lái)源:企業(yè)網(wǎng)D1Net  2017-07-04 11:47:29 本文摘自:好奇心日?qǐng)?bào)

想要安全,就要出讓隱私。不管對(duì)不對(duì),都已經(jīng)回不去了。

1962年,紐約路不拾遺,公寓的房門連門鎖都不裝。

但每個(gè)公寓都藏有一個(gè)攝像頭,畫面?zhèn)鞯近h衛(wèi)軍總部。陰暗的房間里,身著黑色制服的黨衛(wèi)軍士兵盯著一墻的小屏幕,記錄著每個(gè)居民的一舉一動(dòng)。

AI接管攝像頭預(yù)防犯罪,奧威爾式監(jiān)控也成為可能

這是美劇《高堡奇人》構(gòu)想的新世界。在這個(gè)世界里,盟國(guó)輸?shù)舳?zhàn)、紐約成了納粹美國(guó)的首都。人們的生活更安全,也更危險(xiǎn)。

不管你喜歡什么類型的電影,大概都看過(guò)這樣的橋段。根據(jù)劇情的需要,監(jiān)視器前的觀察者有可能被輕易騙過(guò),也有逮個(gè)正著。

不過(guò)如果圖形芯片巨頭英偉達(dá)的計(jì)劃成真,這樣的俗套會(huì)越來(lái)越少。

上個(gè)月,半導(dǎo)體設(shè)計(jì)廠商英偉達(dá)發(fā)布了一個(gè)叫做“大都會(huì)”(Metropolis)的人工智能平臺(tái)。這個(gè)名字聽起來(lái)就非常賽博朋克的產(chǎn)品提供了一個(gè)聽起來(lái)很高科技的愿景:整個(gè)城市的監(jiān)控?cái)z像頭不再是各自為政的閉路系統(tǒng),而是都將運(yùn)行在同一個(gè)平臺(tái)上,所有的視頻會(huì)匯集到云端存儲(chǔ),并由人工智能進(jìn)行視頻分析。

經(jīng)過(guò)訓(xùn)練,人工智能將代替人類執(zhí)法人員,識(shí)別出城市中發(fā)生的所有突發(fā)事件:比如交通事故、暴力犯罪、火災(zāi)等等。在英偉達(dá)的規(guī)劃里,這些信息會(huì)被匯集到城市管理部門去,提高執(zhí)法部門、消防隊(duì)的響應(yīng)速度。

英偉達(dá)給這個(gè)愿景準(zhǔn)備了一個(gè)產(chǎn)業(yè)鏈:和大華、海康威視等傳統(tǒng)監(jiān)控?cái)z像機(jī)廠商合作,讓這些攝像頭使用英偉達(dá)的芯片;后續(xù)的人工智能計(jì)算由英偉達(dá)提供人工智能芯片Jetson來(lái)完成,整個(gè)平臺(tái)的云計(jì)算加速運(yùn)行在英偉達(dá)的DGX-1超級(jí)計(jì)算模塊上。

這個(gè)平臺(tái)如果真的有政府買單采用,能實(shí)現(xiàn)的功能恐怕會(huì)比傳統(tǒng)的監(jiān)控?cái)z像機(jī)更為強(qiáng)大。人工智能不僅能進(jìn)行人臉識(shí)別,還能通過(guò)人的動(dòng)作、手里拿的東西來(lái)識(shí)別每個(gè)人。

舉例來(lái)說(shuō),就算你戴著口罩和帽子,未來(lái)的人工智能監(jiān)控也可以通過(guò)走路的姿態(tài)識(shí)別人的身份,系統(tǒng)會(huì)知道你從家里出來(lái),丟了一包垃圾,然后進(jìn)了地鐵。如果你是恐怖襲擊的嫌疑人,這包垃圾或許就會(huì)被識(shí)別成疑似的炸彈,觸發(fā)執(zhí)法機(jī)構(gòu)的行動(dòng)。

換句話講,監(jiān)控系統(tǒng)做的事將不再僅僅是看見某個(gè)人的臉,而是有能力盯著每一個(gè)人的一舉一動(dòng)。

實(shí)際上,英偉達(dá)規(guī)劃的事情已經(jīng)部分實(shí)現(xiàn)了,現(xiàn)在的智能監(jiān)控系統(tǒng)還做不到分析一個(gè)人在干嘛,但是盯住每個(gè)人、每輛車然后拍下照片是已經(jīng)成熟的技術(shù)。

中國(guó)智能監(jiān)控公司格靈深瞳2014 年的一份宣傳視頻展示,這套系統(tǒng)可以識(shí)別馬路上每輛車、每個(gè)人,并且把他們的照片自動(dòng)拍照歸檔。

基礎(chǔ)已經(jīng)在這里

現(xiàn)在常見的城市視頻監(jiān)控被稱為閉路電視監(jiān)控(Closed-Circuit Television,CCTV),這種系統(tǒng)中,攝像頭拍攝的畫面不會(huì)公開播放,只在一個(gè)封閉的系統(tǒng)里傳輸和存儲(chǔ),比如電影里那種一大堆屏幕的監(jiān)控室。

現(xiàn)在在全球任何一個(gè)大城市,監(jiān)控?cái)z像機(jī)都是隨處可見的。以北京這個(gè)特別的地方為例,至少有三個(gè)政府部門的監(jiān)控?cái)z像機(jī)在持續(xù)工作。

最常見的治安監(jiān)控,就是街頭巷尾像路燈一樣的小型攝像機(jī)。這種攝像機(jī)帶云臺(tái),可以旋轉(zhuǎn),一般由警察部門負(fù)責(zé),作用是監(jiān)控日常治安。

AI接管攝像頭預(yù)防犯罪,奧威爾式監(jiān)控也成為可能

  圖片/Public Domain Pictures

紅路燈上方安裝的槍形攝像機(jī),主要負(fù)責(zé)拍攝車輛和行人違章,高速公路、快速路上依托橫桿安裝的槍形攝像機(jī)一部分還包含了測(cè)速功能,這些由交通警察部門負(fù)責(zé)。

AI接管攝像頭預(yù)防犯罪,奧威爾式監(jiān)控也成為可能

  圖片/Public Domain Pictures

除此以外,還有一種安裝位置非常高,像路燈桿形狀的攝像機(jī),一部分屬于交通管理部門,主要用途是監(jiān)控交通流量。

這些攝像機(jī)近幾年來(lái)經(jīng)過(guò)“智慧城市”等等項(xiàng)目的升級(jí),可以拍清楚人臉和車牌,也就是說(shuō),不管是行人、車輛還是非機(jī)動(dòng)車,總有不同的攝像機(jī)會(huì)拍到你。

這一切從倫敦開始。倫敦是世界上第一個(gè)CCTV化的城市。而它的第一個(gè)固定監(jiān)視系統(tǒng)在1968 年啟用,安裝在美國(guó)駐英國(guó)大使館附近的格洛夫納廣場(chǎng),用以監(jiān)控抗議越南戰(zhàn)爭(zhēng)的學(xué)生。

在這之后,監(jiān)控系統(tǒng)被用在更多的地方。1993 年,閉路相機(jī)監(jiān)控幫助偵破了一起命案:男孩詹姆斯·伯格在英格蘭西北部一家購(gòu)物中心失蹤而后被殺。監(jiān)控錄像顯示,兩名年紀(jì)更大的少年劫走了他。根據(jù)監(jiān)控錄像,這兩名少年被控謀殺,而詹姆斯·伯格在監(jiān)控視頻里的最后影像刺激了民眾,閉路電視監(jiān)控系統(tǒng)得到廣泛支持。

直到90 年代末,基于“監(jiān)控會(huì)防止犯罪”這個(gè)理論,英國(guó)內(nèi)政部一半以上的預(yù)防犯罪預(yù)算都用在了建設(shè)監(jiān)控?cái)z像頭上。

從覆蓋密度上來(lái)看,英國(guó)已經(jīng)成了全球攝像頭最密集的國(guó)家,全境的街道和公共區(qū)域有 400-590 萬(wàn)臺(tái)監(jiān)控?cái)z像頭,平均每一個(gè)攝像頭盯著 11 個(gè)英國(guó)人,每個(gè)人的臉每天會(huì)被閉路電視拍攝 300 次。

2015 年的數(shù)據(jù)顯示,倫敦有超過(guò) 42 萬(wàn)個(gè)監(jiān)控?cái)z像機(jī),位居城市中的世界第二。第一名是北京,官方媒體在 2015 年以正面角度報(bào)道,稱北京城區(qū)已經(jīng)實(shí)現(xiàn)了監(jiān)控 100% 覆蓋,攝像機(jī)數(shù)量超過(guò)了 47 萬(wàn)個(gè)。

最具諷刺意味的是,催生北京這龐大攝像機(jī)數(shù)量的安裝計(jì)劃,名字叫做“天網(wǎng)”。“天網(wǎng)工程”是 2008 年之前,公安部、政法委和當(dāng)時(shí)的信息產(chǎn)業(yè)部在全國(guó)范圍內(nèi)推廣的視頻監(jiān)控項(xiàng)目,希望實(shí)現(xiàn)治安管理和人口信息化的功能。這個(gè)計(jì)劃的規(guī)劃者起名字的時(shí)候可能沒有參考電影《終結(jié)者》中那個(gè)奴役人類的超級(jí)人工智能天網(wǎng),但在中國(guó)的城市和鄉(xiāng)村,已經(jīng)基本實(shí)現(xiàn)了對(duì)所有人口的覆蓋。

而實(shí)際上,官方公布的北京 47 萬(wàn)個(gè)監(jiān)控?cái)z像機(jī),可能遠(yuǎn)遠(yuǎn)不是實(shí)際數(shù)字,因?yàn)檫@些項(xiàng)目并不需要和民眾公示,實(shí)際上在工作的監(jiān)控?cái)z像機(jī)數(shù)量只多不少。

在電視臺(tái)播放的法制節(jié)目里,常能看到執(zhí)法部門依靠一段模糊的錄像推斷嫌疑人身份的畫面。在現(xiàn)實(shí)中,政府出資建設(shè)的監(jiān)控?cái)z像早就不再是這個(gè)清晰度。這些無(wú)處不在的攝像機(jī)現(xiàn)在普遍在 200 萬(wàn)到 300 萬(wàn)像素,某些型號(hào)甚至可以達(dá)到 2800 萬(wàn)像素,拍清楚路上車輛里的人臉非常輕松。

技術(shù)升級(jí)直接提升了執(zhí)法精確度。2017 年初,交通警察部門發(fā)布新聞,稱 2017 年下半年,違章車輛被抓拍之后,不再可以像以前一樣隨便拿誰(shuí)的駕照都可以扣分,必須使用當(dāng)時(shí)駕駛者的駕照來(lái)執(zhí)行罰款。這是因?yàn)榻煌ㄟ`章攝像機(jī)已經(jīng)升級(jí),在拍下車牌的同時(shí)可以拍到司機(jī)的臉。

在英國(guó),關(guān)于公共場(chǎng)所監(jiān)控的爭(zhēng)論已經(jīng)持續(xù)了很多年。1994 年,英國(guó)當(dāng)時(shí)的內(nèi)政部長(zhǎng)還安慰民眾,把監(jiān)控?cái)z像機(jī)叫做“天空中善意的眼睛”,稱對(duì)于守法公民,這些攝像機(jī)是無(wú)害的。

但反對(duì)的聲音從未停過(guò)。2007 年,英國(guó)時(shí)任政府信息委員會(huì)會(huì)長(zhǎng) Richard Thomas就曾批評(píng),稱“過(guò)度使用閉路電視以及其他信息收集系統(tǒng),會(huì)給社會(huì)創(chuàng)造懷疑論的氛圍”,過(guò)去的所謂“監(jiān)控會(huì)遏制犯罪”理論受到質(zhì)疑。

2016 年,歐洲法院裁決英國(guó)《2014年資料保存和調(diào)查法案》為非法,認(rèn)為對(duì)民眾進(jìn)行大規(guī)模無(wú)差別的視頻監(jiān)控違法,這種行動(dòng)必須等到特定案件的法院許可才行。

但被判違法的這個(gè)法案在 2016 年底就會(huì)失效,取而代之的是《調(diào)查權(quán)力法案》,新法可以讓英國(guó)近 50 個(gè)政府部門擁有查看監(jiān)控信息的權(quán)限,英國(guó)執(zhí)政的工黨認(rèn)為,這個(gè)發(fā)難有助于打擊恐怖主義和犯罪。

但就目前的技術(shù)手段來(lái)說(shuō),這個(gè)系統(tǒng)監(jiān)控普通民眾和犯罪嫌疑人一樣低效。

目前的城市監(jiān)控系統(tǒng),主要還靠人眼

2011 年,倫敦地區(qū)爆發(fā)暴亂。大批暴徒上街和警方對(duì)峙。警方出動(dòng)武力鎮(zhèn)壓并且驅(qū)散人群之后,他們還需要尋找曾經(jīng)在暴亂中毀壞他人財(cái)物,燒車、搶劫商鋪的罪犯。最后,倫敦警局從監(jiān)控視頻鑒別出 5000 名嫌疑犯的身份。

5000 的數(shù)字聽上去不錯(cuò),但這花了整整 5 個(gè)月時(shí)間,因?yàn)楫?dāng)時(shí)的監(jiān)控視頻長(zhǎng)達(dá) 20 萬(wàn)小時(shí)。

專門做這個(gè)事情的警方特殊分隊(duì),叫做“超級(jí)人臉識(shí)別者”(super-recognizer)。他們的主要工作,就是在巡邏和逮捕犯人之余,大量看監(jiān)控?cái)z像頭里面低像素的人臉圖,認(rèn)出慣犯。

AI接管攝像頭預(yù)防犯罪,奧威爾式監(jiān)控也成為可能

  感受一下,當(dāng)時(shí)倫敦暴亂攝像頭就是這樣的畫質(zhì)

比如 Gary Collins 警官就在監(jiān)控?cái)z像頭錄像中認(rèn)出一個(gè)用汽油彈燒車的年輕人。

這段晚上拍攝的錄像,本來(lái)像素比較低,犯人帶著羊毛帽子,光只照到他的側(cè)臉,一邊臉都是陰影。但 Collins 還是認(rèn)出來(lái)了他,這人是早前他逮捕過(guò)的搶劫犯,Collins 根據(jù)之前的逮捕記錄,找到罪犯的名字最后抓捕歸案。

Collins 和他的小分隊(duì)都是人臉識(shí)別界天賦異稟的人,根據(jù)劍橋人臉識(shí)別測(cè)試,他們能夠認(rèn)出 95% 看過(guò)的臉,但普通人在這項(xiàng)技能上的得分只有 20%(不信你可以自己做一下這個(gè)測(cè)驗(yàn))。

能這樣對(duì)人臉過(guò)目不忘的人太少,而需要處理的視頻太多。

在英國(guó)警局,“超級(jí)人臉識(shí)別者”團(tuán)隊(duì)只有 6 個(gè)人,他們帶領(lǐng)一個(gè)經(jīng)過(guò)培訓(xùn)的 150 名流動(dòng)警員來(lái)搞定棘手的監(jiān)控錄像。

就像是威爾史密斯早年的電影《國(guó)家公敵》,里面國(guó)家安全局的特工已經(jīng)用了很多不切實(shí)際的新技術(shù),隨時(shí)調(diào)用衛(wèi)星、接入市政部門的系統(tǒng),但還是需要一堆人盯在屏幕前才能追蹤主角。

所以這也是為什么,即使在監(jiān)控系統(tǒng)最嚴(yán)密的英國(guó),監(jiān)控錄像能做的只是威懾和事后追查。無(wú)論是警方還是安裝攝像頭的商家,都沒有人手能夠?qū)崟r(shí)從監(jiān)控畫面中發(fā)現(xiàn)問(wèn)題,做出反應(yīng)。

連最近英國(guó)一系列恐怖襲擊之前的可疑行為,監(jiān)控系統(tǒng)也都毫無(wú)感知。這個(gè)系統(tǒng)對(duì)民眾隱私的威脅,只存在于理論可能。

過(guò)去幾年,技術(shù)公司想用人工智能把攝像頭變聰明

但在最近幾年事情出現(xiàn)了變化。“閉路電視”,不再閉路了。

2014 年,波士頓馬拉松恐怖襲擊之后,波士頓警方也開始更換了城市里面的監(jiān)控?cái)z像頭產(chǎn)品,他們用了當(dāng)時(shí)加拿大公司 BRS Labs 監(jiān)控錄像分析技術(shù),讓機(jī)器自己學(xué)習(xí)“什么視頻圖像是可疑的”。

AI接管攝像頭預(yù)防犯罪,奧威爾式監(jiān)控也成為可能

這些新一代“閉路電視”的原理是這樣的:首先觀察人和車同時(shí)存在的環(huán)境,然后識(shí)別結(jié)果,人類監(jiān)控員來(lái)確認(rèn)“找到的可疑活動(dòng)”結(jié)果是否準(zhǔn)確,將結(jié)果返回給算法。經(jīng)過(guò)一段時(shí)間的訓(xùn)練,人工智能算法就直接將拍攝到的視頻錄像進(jìn)行在線分析。

像 BRS Labs 這樣的新技術(shù),不需要公司更新硬件,只要本身攝像頭能夠聯(lián)網(wǎng)就可以做到使用他們的算法。

AI接管攝像頭預(yù)防犯罪,奧威爾式監(jiān)控也成為可能

BRS 這個(gè)公司也在融資 5 輪,拿到 2300 萬(wàn)美元之后被兩度收購(gòu),現(xiàn)在成了深度學(xué)習(xí)工具公司 OmniAI 兜售的一個(gè)解決方案。

BRS 公司的產(chǎn)品,后來(lái)被用在美國(guó)多個(gè)城市的交通和公共場(chǎng)所視頻監(jiān)控中,例如舊金山公交車上。

傳統(tǒng)的監(jiān)控公司更擅長(zhǎng)的與其說(shuō)是技術(shù),不如說(shuō)是拿到政府訂單的能力。

監(jiān)控系統(tǒng)要跨地域和維度進(jìn)行數(shù)據(jù)交互,進(jìn)展很慢。除了承包公司的能力一般都比較有限以外,政府部門之間的協(xié)作也很慢。比如根據(jù)中國(guó)公安部稍早的規(guī)劃,到 2015 年才實(shí)現(xiàn)跨省調(diào)取調(diào)監(jiān)控圖像。

但英偉達(dá)這樣的技術(shù)公司的加入,有可能帶來(lái)改變。它和特斯拉合作的自動(dòng)駕駛系統(tǒng)已經(jīng)用在新的 Model S 汽車上。而英偉達(dá)的主業(yè)圖形處理芯片也是目前最適合進(jìn)行圖像識(shí)別的硬件。

它的創(chuàng)始人黃仁勛已經(jīng)說(shuō)了一年要轉(zhuǎn)型成人工智能公司。

傳統(tǒng)的閉路電視生產(chǎn)商也已經(jīng)在最近兩年參加了這場(chǎng)智能監(jiān)控的熱潮。

傳統(tǒng)的政府?dāng)z像頭公司和英偉達(dá)合作,意味著最難的數(shù)據(jù)中心、算法、管理軟件都可以外包出去。它們還是抓住自己最擅長(zhǎng)的政府關(guān)系。

對(duì)人工智能感興趣的巨頭也不只是英偉達(dá)一家。英特爾去年斥資上百億美元收購(gòu)了幫特斯拉造出第一代自動(dòng)駕駛系統(tǒng)的 MobilEye,也在探索不同的人工智能領(lǐng)域。Google 開源人工智能平臺(tái) TensorFlow 上線后,創(chuàng)業(yè)公司直接可以調(diào)用 Google 的語(yǔ)音識(shí)別和翻譯等運(yùn)算能力。

硬件和算法以外,人臉識(shí)別現(xiàn)在也有了長(zhǎng)足的進(jìn)步,不只是算法,數(shù)據(jù)庫(kù)也前所未有的大。Facebook 已經(jīng)鼓勵(lì)用戶標(biāo)記照片里面的好友很多年,Google 和蘋果也都在自己的照片應(yīng)用里自動(dòng)識(shí)別人臉,只不過(guò)識(shí)別結(jié)果不會(huì)公開而已。

AI接管攝像頭預(yù)防犯罪,奧威爾式監(jiān)控也成為可能

  Facebook 自動(dòng)識(shí)別出照片里面哪個(gè)是你,然后問(wèn)你……要不要標(biāo)注自己……

而沒有自己做社交網(wǎng)站的美國(guó)政府,數(shù)據(jù)庫(kù)里面也已經(jīng)覆蓋了一半的成年人口。

所以……不得不接受這個(gè)新現(xiàn)實(shí)?

而近年來(lái)的恐怖襲擊和社會(huì)問(wèn)題,政府和商業(yè)機(jī)構(gòu)有了讓大眾“恐懼”的理由,將帶有視頻圖像分析、人臉識(shí)別的智能監(jiān)控設(shè)備帶入日常生活中。

這有一定道理。智能攝像頭可以實(shí)時(shí)進(jìn)行分析公共區(qū)域的可疑行為,實(shí)時(shí)識(shí)別出罪犯,在犯罪發(fā)生時(shí)甚至發(fā)生前通知警方。這樣的監(jiān)控系統(tǒng)不但可以讓警方提早反應(yīng),也會(huì)有更大的震懾力。

但一個(gè)可以盯住所有人,最終會(huì)認(rèn)出所有人的系統(tǒng),在帶來(lái)安全的同時(shí)也可能帶來(lái)《1984》里描繪的全民監(jiān)控。

“無(wú)辜的人不用害怕”,這是監(jiān)控支持者常用的說(shuō)法。

而最先報(bào)道斯諾登的《衛(wèi)報(bào)》記者 Glenn Greenwald 最常用的反駁是,“你愿意把自己的所有賬號(hào)密碼寫下來(lái),用郵件發(fā)給我么?”

大概沒人愿意,但基本上人人都將越來(lái)越多的信息交給了公司和政府。曾經(jīng)是指紋、數(shù)字信息。在人工智能的幫助下,是你出門后的每一分每一秒。

目前能期待的隱私保護(hù),在攝像頭最多的英國(guó)是這樣規(guī)定的:個(gè)人能要求拿到拍到自己臉的監(jiān)控內(nèi)容的拷貝,但不能刪去原始內(nèi)容。

大的科技公司,有一些還在自律以贏得用戶信任,比如 Google 和 IBM 的系統(tǒng)雖然也從影像中認(rèn)出很多人的身份,但只識(shí)別不返回結(jié)果——名人除外。但不是所有公司都做了類似承諾,而承諾也只是承諾。

“放棄隱私,不一定會(huì)帶來(lái)安全。獲得更好的安全保障,也不一定需要失去隱私。”時(shí)任斯坦福大學(xué)法學(xué)院“互聯(lián)網(wǎng)和社會(huì)”中心總監(jiān) Jennifer Granick 說(shuō)道。

她認(rèn)為,政府和商業(yè)公司讓大眾在隱私與安全,隱私與服務(wù)之間“二選一”本身就是有問(wèn)題的,為隱私立法,限定隱私被商業(yè)機(jī)構(gòu)和政府使用的規(guī)則才是迫在眉睫的事情。

Jennifer Granick 上面這番話說(shuō)于 2006 年 5 月。之后十年并沒有什么進(jìn)展。數(shù)字世界抹去個(gè)人信息的權(quán)利只存于歐洲(2015 年的被遺忘權(quán)訴訟)。

另一個(gè)人的話倒是成真了。

2010 年,普及社交網(wǎng)絡(luò)、讓人主動(dòng)放棄數(shù)字隱私的扎克伯格說(shuō),沒有隱私才是未來(lái)“新的社會(huì)常態(tài)”。

說(shuō)完這話三年后,靠公司上市獲得千億美元身價(jià)的扎克伯格花 3000 萬(wàn)美元買下臨近自己家的四幢房子,保護(hù)自己在現(xiàn)實(shí)生活中的隱私。

在新世界里,隱私真不是一般人付得起的。

關(guān)鍵字:人臉識(shí)別監(jiān)控

本文摘自:好奇心日?qǐng)?bào)

電子周刊
回到頂部

關(guān)于我們聯(lián)系我們版權(quán)聲明隱私條款廣告服務(wù)友情鏈接投稿中心招賢納士

企業(yè)網(wǎng)版權(quán)所有 ©2010-2024 京ICP備09108050號(hào)-6 京公網(wǎng)安備 11010502049343號(hào)

^
  • <menuitem id="jw4sk"></menuitem>

    1. <form id="jw4sk"><tbody id="jw4sk"><dfn id="jw4sk"></dfn></tbody></form>
      主站蜘蛛池模板: 乌拉特后旗| 霍林郭勒市| 农安县| 嘉定区| 双鸭山市| 来宾市| 基隆市| 东乡| 安宁市| 深水埗区| 贵南县| 东平县| 阳原县| 合水县| 达孜县| 长汀县| 白玉县| 龙泉市| 泸州市| 台南县| 九江市| 扶绥县| 息烽县| 阆中市| 镇远县| 黔江区| 邓州市| 海宁市| 房山区| 青川县| 岱山县| 理塘县| 呼玛县| 昭通市| 溧水县| 虞城县| 英山县| 岳池县| 油尖旺区| 赤城县| 青铜峡市|