這是紐約大學(xué)附屬研究小組AI Now Institute的一份報(bào)告中的一篇文章，該報(bào)告研究了尖端技術(shù)對(duì)社會(huì)的影響。研究人員擔(dān)心政府和公司使用人工智能技術(shù)不斷監(jiān)測(cè)某些人群或不公平地歧視某些社區(qū)等情況。
該報(bào)告于周四發(fā)布，隨著機(jī)器學(xué)習(xí)技術(shù)越來(lái)越多地用于處理大量數(shù)據(jù)，包括谷歌，谷歌將其用于家務(wù)，如自動(dòng)識(shí)別照片中的狗。但該技術(shù)也引發(fā)了許多道德問(wèn)題。
例如，谷歌的工作人員批評(píng)該搜索巨頭的高管考慮簽署一份國(guó)防部合同，該合同涉及幫助政府將圖像識(shí)別技術(shù)用于軍事目的。在強(qiáng)烈抵制中，谷歌退出了與該機(jī)構(gòu)簽訂的價(jià)值100億美元的云計(jì)算合同，理由是其內(nèi)部政策禁止將機(jī)器學(xué)習(xí)用于戰(zhàn)爭(zhēng)和監(jiān)視。
與此同時(shí)，像亞馬遜和微軟這樣的公司都遭受了員工對(duì)政府合同的強(qiáng)烈反對(duì)，因?yàn)樗麄儞?dān)心這些公司的人工智能面部識(shí)別軟件可能被執(zhí)法部門(mén)用來(lái)不公平地針對(duì)少數(shù)民族或邊緣化社區(qū)。
AI Now Institute的報(bào)告稱，聯(lián)邦政府應(yīng)該“監(jiān)督，審計(jì)和監(jiān)督”人工智能在刑事司法，醫(yī)療保健和教育等領(lǐng)域的使用。該集團(tuán)表示，個(gè)別機(jī)構(gòu)或?qū)＜壹瘧?yīng)該處理監(jiān)督，而不是一個(gè)大的人工智能監(jiān)管機(jī)構(gòu)，因?yàn)槊總€(gè)行業(yè)都受其自身的一系列監(jiān)管。
數(shù)據(jù)表，財(cái)富的技術(shù)通訊。
在面部識(shí)別技術(shù)方面，該報(bào)告建議“需要強(qiáng)有力的監(jiān)督，明確的限制和公共透明度的國(guó)家法律。”作者說(shuō)，如果他們相信社區(qū)應(yīng)該能夠拒絕在他們的領(lǐng)域使用面部識(shí)別技術(shù)它可能被用來(lái)不公平地區(qū)分或瞄準(zhǔn)個(gè)人。
現(xiàn)在，AI現(xiàn)在是微軟研究部門(mén)的聯(lián)合創(chuàng)始人兼首席研究員，Kate Crawford將社區(qū)中的面部識(shí)別技術(shù)的使用比作社區(qū)政府能夠建立無(wú)核區(qū)。
對(duì)于那些使用像Facebook這樣的人工智能技術(shù)的領(lǐng)先科技公司來(lái)說(shuō)，今年尤為動(dòng)蕩，因?yàn)镕acebook遭遇了多次數(shù)據(jù)隱私失誤，并且因?yàn)槿斯ぶ悄苄侣勗丛?016年美國(guó)總統(tǒng)大選的前奏傳播虛假新聞而受到批評(píng)者的猛烈抨擊。克勞福德表示，谷歌和微軟等公司的員工迫使高管們公開(kāi)談?wù)撁舾械娜斯ぶ悄芟嚓P(guān)主題，甚至改變方向，這表明工人可以產(chǎn)生影響。
在另一個(gè)有希望的跡象中，她指出微軟和亞馬遜等公司并未反對(duì)政府監(jiān)管。例如，微軟總裁布拉德史密斯(Brad Smith)一直敦促對(duì)面部識(shí)別技術(shù)進(jìn)行“深思熟慮的政府監(jiān)管”。
“這還沒(méi)發(fā)生過(guò)，”克勞福德說(shuō)。“我們看到了新的東西。
京公網(wǎng)安備 11010502049343號(hào)