越來越多的公司正在開發、試驗和采用人工智能技術，但很少考慮其行為的潛在長期后果。正如過去50年所做的那樣，企業關注可能獲得快速回報的技術創新，而其戰略通常圍繞利潤而展開。

 

與此同時，人工智能正在向每一個行業進軍，使傳統的產品和服務實現智能化，這將永遠改變人機關系。隨著越來越多的自主和智能系統進入市場，將表現出預期和意外的行為，組織必須在時間與市場需求之間取得平衡，并制定合理的風險管理策略，這一點將變得更加明顯。

 

 

未來主義者Amy Webb即將出版的《九巨頭》(Big Nine)一書解釋了為什么谷歌、亞馬遜、Facebook、蘋果、微軟、IBM、百度、阿里巴巴、騰訊的長期努力可能并不符合其他企業或人類最佳利益的原因。越來越多的企業正在將更多的業務轉移到云端，因為可以實施數字化轉型戰略，并在云端開展更多的服務，其中包括與人工智能相關的服務。但進入云計算領域很容易，退出則不容易。

 

同時，消費者可能向這些公司有意或無意地泄露個人信息，卻不知道他們與之互動的公司將如何使用這些信息。大多數消費者可能沒有意識到這些行業巨頭可能比他們的朋友或家人更了解個人信息和生活習慣。更重要的是，九巨頭將會繼續開發獲取更多數據的新方法，這將通過不斷涌現的智能產品得到證明。

 

Webb說：“豐富的競爭和創新傳統使九巨頭得以順利運作。除了美國證券交易委員會的規定之外，流入人工智能的所有資金基本上都沒有附加任何條件，而且人工智能的開發和運用也很少有限制和規定。”

 

在缺乏相應法律和法規的情況下，企業可以自由地創新和開發，而沒有考慮或根本不考慮其行為的長期后果。然而，九巨頭公司的一些員工也表明自己的立場：例如，谷歌公司的一些員工表示，拒絕為美國五角大樓提供視頻圖像識別服務;微軟公司的一些員工對美國五角大樓100億美元的合同表示反對;亞馬遜公司的一些員工對美國警察部隊和政府機構使用的面部識別系統表示不滿。

 

很多人工智能系統設計者和開發者以及企業的戰略家，傾向于不考慮人工智能的道德影響。即使他們認識到人工智能的道德問題，他們的職業要求和財務激勵也圍繞著將其產品迅速推向市場，而不是考慮這些產品是否存在無意或有意地使用或濫用信息的潛在情況。

 

大多數政府和立法者還沒有能力做出適當的回應，國家層級人工智能戰略的普遍缺失證實了這一點。一些國家已經制定了自己的戰略，如美國、加拿大、中國、沙特等。

 

 

雖然Webb并不相信一些企業在人工智能未來發展存在惡意，但由于自治和機器智能的發展，因此像對待“另一種技術”一樣對待人工智能是不明智的。風險管理策略必須隨著技術性質的變化而發展。

 

Webb說：“在投入到任何與人工智能相關開發中的資金中，有相當一部分資金應該投入到風險建模中，而現在卻沒有。風險建模的重點不只是提前確定潛在的負面后果，而是確定漏洞在哪里。”

 

任何與人工智能相關的負面問題(例如其潛在風險、在其中建立道德規范或以其他方式考慮廣泛的潛在后果)在滿足客戶需求和資金來源要求之前，不會成為創新過程中不可或缺的一部分。

 

 

許多組織正試圖采取全球人工智能政策，包括人工智能倫理和治理(哈佛伯克曼-克萊恩/麻省理工實驗室)、IEEE關于自主和智能系統倫理的全球倡議以及未來社會的人工智能倡議。盡管他們的努力都是全球性的，但Webb懷疑并不能達到必要的全球協調水平。相反，她設想需要建立一個名為全球情報增強聯盟(GAIA)這樣的新實體，但她并不知道誰能領導并經營這樣的實體。

 

 

創新和競爭的愿望正在推動人工智能在各個行業的迅速應用。然而，人工智能采用的速度越來越快，雖然具有潛在風險。

 

Webb說，“我們不能一直討論這個問題，希望人們了解采用人工智能技術存在著機遇，也存在著嚴重和危險的問題，需要找到一條正確行進的道路。”

 

當企業繼續將其業務向云端移動，并使用他們隨時可用的人工智能工具時，他們可能沒有意識到自己與這些公司的協調程度。

 

Webb 說，“每個人都知道遷移服務提供商或在Sharepoint和谷歌公司提供的服務之間進行轉換是一場噩夢。很多企業本質上就是亞馬遜、谷歌、微軟這些收集大量信息的公司。我們的許多系統都經過了優化和自動化，但是人們對于誰在決定、何時以及為什么進行優化還沒有足夠的了解。”

 

許多IT領導者并沒有思考將企業的業務戰略與某個供應商(或一些核心供應商)結合在一起意味著什么，許多IT領導者正在根據成本決定平臺的選擇，這可能是由于其短期和長期思維。

 

Webb說：“大多數首席信息官都沒有考慮數據治理和所有權的長期影響，也沒有考慮誰將擁有自動化流程的哪些部分。這是一件復雜的事情，這些決定不應該只考慮成本。”

 

 

隨著人工智能應用在更多類別的軟件和系統，技術產品和服務轉變得更加智能。不幸的是，技術創新、技術采用和技術投資的模型還沒有隨之發展，只是隨著時間的推移而發展。

 

雖然越來越多的公共組織和私營組織正在努力解決人工智能的許多影響，但為了每個人的利益，需要進行更有效的全球協調。