一些知名人士，如傳奇物理學(xué)家斯蒂芬霍金和特斯拉以及SpaceX領(lǐng)導(dǎo)者和創(chuàng)新者埃隆馬斯克認(rèn)為人工智能可能非常危險; 馬斯克曾一度將人工智能與朝鮮獨(dú)裁者的危險進(jìn)行比較。微軟聯(lián)合創(chuàng)始人比爾蓋茨也認(rèn)為有理由保持謹(jǐn)慎，但如果管理得當(dāng)，好處可能會超過壞處。由于最近的發(fā)展使得超智能機(jī)器比最初想象的要早得多，現(xiàn)在是時候確定人工智能帶來的危險。

什么是應(yīng)用和廣義人工智能?

人造智能的核心是建立能夠智能思考和行動的機(jī)器，并包括諸如谷歌的搜索算法或使自動駕駛汽車成為可能的機(jī)器等工具。雖然大多數(shù)當(dāng)前的應(yīng)用程序都被用來積極地影響人類，但任何強(qiáng)大的工具都可以在落入壞人手中時用于有害目的。今天，我們已經(jīng)實(shí)現(xiàn)了應(yīng)用AI-AI，它執(zhí)行面部識別，自然語言處理或互聯(lián)網(wǎng)搜索等狹窄任務(wù)。最終，該領(lǐng)域的專家正在努力實(shí)現(xiàn)更廣泛的AI，系統(tǒng)可以處理智能人類可以執(zhí)行的任何任務(wù)，并且最有可能在每個人身上擊敗我們。

在一篇評論中，Elon Musk寫道：“人工智能的進(jìn)步速度(我指的是狹窄的人工智能)非常快。除非你直接接觸像Deepmind這樣的團(tuán)體，否則你不知道它的增長速度有多快接近指數(shù)的速度。發(fā)生嚴(yán)重危險的風(fēng)險發(fā)生在五年時間框架內(nèi)。最多10年。“

確實(shí)有很多AI應(yīng)用程序可以讓我們的日常生活變得更加方便和高效。人工智能應(yīng)用程序在確保馬斯克，霍金和其他人在宣布對技術(shù)猶豫時所擔(dān)心的安全方面發(fā)揮著關(guān)鍵作用。例如，如果人工智能負(fù)責(zé)確保我們的電網(wǎng)運(yùn)行并且我們的最大恐懼已經(jīng)實(shí)現(xiàn)，并且系統(tǒng)變得流氓或被敵人攻擊，則可能導(dǎo)致巨大的傷害。

人工智能如何危險?

雖然我們尚未實(shí)現(xiàn)超級智能機(jī)器，但法律，政治，社會，金融和監(jiān)管問題是如此復(fù)雜和廣泛，現(xiàn)在有必要對它們進(jìn)行審視，以便我們準(zhǔn)備好在它們之間安全運(yùn)行。時機(jī)成熟。現(xiàn)在，除了為超級智能機(jī)器做好準(zhǔn)備之外，人工智能已經(jīng)在目前的形式下造成危險。讓我們來看看一些與AI相關(guān)的關(guān)鍵風(fēng)險。

自主武器

人工智能被編程為做一些危險的事情，就像被編程殺死的自主武器一樣，這是人工智能可能帶來風(fēng)險的一種方式。期望核軍備競賽將被全球自主武器競賽取代甚至可能是合理的。俄羅斯總統(tǒng)弗拉基米爾普京說：“ 人工智能不僅是俄羅斯的未來，也是全人類的未來。它帶來了巨大的機(jī)遇，但也存在難以預(yù)測的威脅。無論誰成為這個領(lǐng)域的領(lǐng)導(dǎo)者，都將成為世界的統(tǒng)治者。“

除了擔(dān)心自主武器可能獲得“自己的思想”之外，更迫切需要關(guān)注的是自主武器可能對個人或政府不利于人類生命的危險。一旦部署，它們很可能難以拆除或打擊。

社交操縱

社交媒體通過其自主驅(qū)動算法在目標(biāo)營銷方面非常有效。他們知道我們是誰，我們喜歡什么，并且非常善于推測我們的想法。調(diào)查仍在進(jìn)行中，以確定劍橋分析公司和其他與該公司有關(guān)的其他公司的錯誤，該公司使用了來自5000萬Facebook用戶的數(shù)據(jù)來試圖影響2016年美國總統(tǒng)大選和英國退歐公投的結(jié)果，但如果指控是正確的，它說明了AI對社交操縱的力量。通過將宣傳傳播給通過算法和個人數(shù)據(jù)識別的個人，AI可以針對他們并以他們最有說服力的事實(shí)或虛構(gòu)的任何形式傳播他們喜歡的任何信息。

侵犯隱私和社會分級

現(xiàn)在可以跟蹤和分析個人在線的每一步以及他們?nèi)粘I(yè)務(wù)的時間。相機(jī)幾乎無處不在，面部識別算法知道你是誰。事實(shí)上，這是為中國的社會信用體系提供動力的信息類型，預(yù)計(jì)將根據(jù)他們的行為方式為其14億公民中的每一個人提供個人得分 - 例如他們jaywalk，他們吸煙嗎?非吸煙區(qū)以及他們花多少時間玩視頻游戲。當(dāng)老大哥正在觀察你，然后根據(jù)英特爾做出決定時，它不僅會侵犯隱私，而且很快就會轉(zhuǎn)向社會壓迫。

我們的目標(biāo)與機(jī)器之間的不一致

人類在人工智能機(jī)器中所重視的部分原因是它們的效率和有效性。但是，如果我們不清楚我們?yōu)槿斯ぶ悄軝C(jī)器設(shè)定的目標(biāo)，那么如果機(jī)器沒有我們擁有的相同目標(biāo)，則可能會很危險。例如，“盡快讓我到機(jī)場”的命令可能會產(chǎn)生可怕的后果。沒有說明道路規(guī)則必須得到尊重，因?yàn)槲覀冎匾暼说纳瑱C(jī)器可以非常有效地實(shí)現(xiàn)其目標(biāo)，即盡快讓您到機(jī)場，并按照您的要求進(jìn)行，但留下一連串的事故。

區(qū)別

由于機(jī)器可以收集，跟蹤和分析很多關(guān)于您的信息，因此這些機(jī)器很可能會對您使用該信息。不難想象一家保險公司告訴你，根據(jù)你在手機(jī)上用相機(jī)說話的次數(shù)，你不可保險。雇主可能會根據(jù)您的“社會信用評分”扣留工作機(jī)會。

任何強(qiáng)大的技術(shù)都可能被濫用。今天，人工智能被用于許多好的事業(yè)，包括幫助我們做出更好的醫(yī)療診斷，找到治愈癌癥的新方法，讓我們的汽車更安全。不幸的是，隨著我們的AI功能擴(kuò)展，我們也會看到它被用于危險或惡意目的。由于人工智能技術(shù)發(fā)展如此迅速，因此我們必須開始討論人工智能積極發(fā)展的最佳方式，同時盡量減少其破壞性潛力。