在競爭日益激烈的技術市場中,從高科技初創公司到全球跨國公司都將人工智能視為關鍵競爭優勢。
但是,人工智能行業發展如此之快,以至于很難跟蹤最新的研究突破和成就,甚至很難應用科學成果來實現業務成果。
在2020年為了幫助業務制定強大的AI策略,本文總結了不同研究領域的最新趨勢,包括自然語言處理,對話式AI,計算機視覺和強化學習。
自然語言處理
在2018年,經過預訓練的語言模型突破了自然語言理解和生成的極限。這些也主導了去年自然語言處理的進展。
如果是NLP開發的新手,那么經過預先訓練的語言模型可以使NLP的實際應用大大便捷,更快,更容易,因為它們允許在一個大型數據集上進行NLP模型的預先訓練,然后快速對其進行微調以適應其他NLP任務。
來自優秀研究機構和科技公司的團隊探索了使比較先進的語言模型更加復雜的方法。計算能力的大幅度提高推動了許多改進,但是許多研究小組還發現了更精巧的方法來減輕模型并保持高性能。
目前的研究趨勢如下:
· 新的NLP范例是"預訓練+微調"。在過去的兩年中,轉移學習主導了NLP研究。ULMFiT,CoVe,ELMo,OpenAI GPT,BERT,OpenAI GPT-2,XLNet,RoBERTa,ALBERT –這是最近介紹的重要的預訓練語言模型的詳盡列表。盡管轉移學習無疑將NLP推向了新的高度,但由于要求大量的計算成本和龐大的帶注釋數據集所以它經常會受到批評。
· 語言學和知識可能會提高NLP模型的性能。專家認為,語言學可以通過改善數據驅動方法的可解釋性來促進深度學習。利用上下文和人類知識可以進一步提高NLP系統的性能。
· 神經機器翻譯展示了可見的進步。同步機器翻譯已經可以在現實世界中應用。最近的研究旨在突破通過優化神經網絡體系結構,利用視覺上下文以及為無監督和半監督機器翻譯引入新穎的方法來進一步提高翻譯質量。
對話式AI
會話式AI已成為跨行業業務實踐的組成部分。越來越多的公司正在利用聊天機器人為客戶服務,為銷售和營銷帶來的優勢。
即使聊天機器人已成為領先企業的"必備"資產,但其性能仍然與人類相去甚遠。來自主要研究機構和技術領導者的研究人員已經探索了提高對話系統性能的方法:
· 對話系統正在改進跟蹤對話的長期性。去年發表的許多研究論文的目標是,通過更好地利用對話歷史和上下文,提高系統理解對話過程中引入的復雜關系的能力。
· 許多研究團隊正在解決機器生成響應的多樣性。當前,現實世界中的聊天機器人通常會產生無聊且重復的響應。去年,引入了幾篇優秀的研究 論文,旨在產生多樣化而又相關的回應。
· 情感識別被視為開放域聊天機器人的重要功能。因此,研究人員正在研究將同理心納入對話系統的優秀方法。該研究領域的成就仍然很小,但是在情感識別方面的巨大進步可以顯著提高社交機器人的性能和受歡迎程度,并且還可以增加聊天機器人在心理治療中的使用。
計算機視覺
在過去的幾年中,計算機視覺(CV)系統通過在醫療保健,安全,運輸,零售,銀行,農業等領域的成功應用,徹底改變了整個行業和業務功能。
最近引入的體系結構和方法(例如EfficientNet和SinGAN)進一步提高了視覺系統的感知能力和生成能力。
以下是計算機視覺中流行的研究主題:
· 3D目前是CV領域的領先研究領域之一。今年,我們看到了幾篇有趣的研究論文,旨在從2D投影重建3D世界。Google研究小組采用了一種新穎的方法來生成整個自然場景的深度圖。Facebook AI團隊提出了一種有趣的點云3D對象檢測解決方案。
· 無監督學習方法的普及正在增長。例如,斯坦福大學的一個研究小組介紹了一種有前途的局部聚合方法,可以在無監督學習的情況下進行對象檢測和識別。在另一篇出色的論文中,該論文獲得了ICCV 2019優秀論文獎的提名,該論文采用無監督學習來計算3D形狀之間的對應關系。
· 計算機視覺研究已與NLP成功結合。最新的研究進展使自然語言中的兩個圖像之間具有強大的更改字幕,3D環境中的視覺語言導航以及學習分層視覺語言表示的能力,從而可以更好地檢索圖像字幕和視覺基礎。
強化學習
強化學習(RL)對于業務應用程序而言,其價值仍然比有監督的學習甚至無監督的學習低。它僅在可生成大量模擬數據的區域(例如機器人技術和游戲)中成功應用。
但是,許多專家認為RL是通向人工智能(AGI)或真正智能的有前途的途徑。因此,來自優秀機構和技術領導者的研究團隊正在尋找使RL算法更加高效和穩定的方法。強化學習中的熱門研究主題包括:
· 多主體強化學習(MARL)正在迅速發展。OpenAI團隊最近展示了模擬捉迷藏環境中的代理如何建立研究人員不知道其環境支持的策略。另一篇出色的論文在ICML 2019 上獲得了榮譽獎,以調查如果有相應的動機,多個代理如何相互影響。
· 非政策評估和非政策學習對于未來的RL應用非常重要。該研究領域的最新突破包括在多種約束下用于處理策略學習的新解決方案,將參數模型和非參數模型相結合以及引入了一類新的非策略算法來迫使代理人采取接近策略的方式。
· 勘探是可以取得重大進展的領域。在ICML 2019上發表的論文介紹了具有分布RL,最大熵探索和安全條件的新型有效探索方法,以應對強化學習中的橋梁效應。
這是有關NLP,對話式AI,計算機視覺和強化學習等比較受歡迎的子主題---新AI和機器學習研究趨勢的概述 ,其中很多都對對業務都、有影響。
預計2020年應用人工智能領域將有更多突破,這些突破將基于2019年在機器學習方面取得的顯著技術進步。