語言是人類進(jìn)行溝通交流的表達(dá)方式，其儲存著豐富的文化信息，傳承著民族血脈，也支撐著文明的發(fā)展與演進(jìn)。然而，一些少數(shù)民族語言、方言卻正在無聲無息地消失，與之密切相連的地域文化、歷史文化也正面臨瀕危風(fēng)險。

“大約平均兩周就會有一種語言消亡“，聯(lián)合國教科文組織的這一調(diào)查數(shù)據(jù)讓人觸目驚心，且世界上正在使用的約6,000種語言，至少有43%面臨瀕危。而在中國，也有25種語言使用人口已不足千人。

搶救瀕危少數(shù)民族語言對保持漢語的豐富性、多元性，保護(hù)文化記憶、文化基因意義重大。因此，中國早在2015年就啟動了語言資源保護(hù)工程，借助田野調(diào)查，建立起龐大的口語語料庫，保存了原始聲音文件和國際音標(biāo)標(biāo)注等豐富素材。

然而，僅僅依靠這些單語數(shù)據(jù)，研究者難以獲知其背后所傳達(dá)的語義，無法有效開展相關(guān)學(xué)習(xí)與研究，更罔論留存這些少數(shù)民族瀕危語言與背后地方文化的生命力。

人工智能技術(shù)為復(fù)活這些語言，挖掘多元文化價值，傳承璀璨的歷史文化，提供了新思路和新手段。2022年國際母語日也將“利用技術(shù)促進(jìn)多語言學(xué)習(xí)：挑戰(zhàn)與機(jī)遇”作為主題，指出了技術(shù)對推進(jìn)多語言教育以及文化傳承與保護(hù)的作用。

百度飛槳深度學(xué)習(xí)平臺攜手英特爾，基于第三代英特爾® 至強(qiáng)® 可擴(kuò)展處理器進(jìn)行深度優(yōu)化，通過完善的模型壓縮方法和量化加速技術(shù)，支持全自動生成大規(guī)模“漢語-少數(shù)民族語言”雙向詞典，對用技術(shù)幫助保護(hù)瀕危少數(shù)民族語言，推動民族互通互融，做出了積極探索，展現(xiàn)了“科技向善”的現(xiàn)實(shí)意義和歷史價值。

采用百度飛槳深度學(xué)習(xí)平臺，全自動構(gòu)建大規(guī)模雙向詞典

構(gòu)建雙向詞典項目，采用了規(guī)模大、范圍廣、語種多、內(nèi)容豐富的瀕危語言博物館館藏源語料庫，語料全部來自于田野調(diào)查與實(shí)地采集。

通過分析，項目研發(fā)人員選取了中國少數(shù)民族語言中的獨(dú)龍、爾蘇、嘉絨、撒拉這四種數(shù)據(jù)較為豐富的語言作為實(shí)驗(yàn)對象。

為基于百度飛槳實(shí)現(xiàn)對齊算法，項目團(tuán)隊首先開發(fā)了民間故事漢語數(shù)據(jù)集。開發(fā)過程中，充分利用飛槳PaddleOCR開發(fā)套件識別精度高、推理速度快等特性，對跨度8年的《故事會》雜志掃描樣本進(jìn)行數(shù)據(jù)化處理，構(gòu)建出規(guī)模達(dá)950萬字的文本數(shù)據(jù)集，也是全球首個民間故事漢語數(shù)據(jù)庫，且具有很強(qiáng)的口語化風(fēng)格，適合與少數(shù)民族語言語料進(jìn)行對齊。

然后，實(shí)施低資源詞向量訓(xùn)練，應(yīng)對四個少數(shù)民族語料句子數(shù)量普遍不足五千條的挑戰(zhàn)，以及《故事會》語料小于二十萬條句子的問題，為下游的雙語對齊提供了強(qiáng)有力的支持。

繼之，依據(jù)拓?fù)涮卣鳎瑢煞N語言的詞向量進(jìn)行旋轉(zhuǎn)和對齊，實(shí)施雙語詞典自動化抽取，最終導(dǎo)出了獨(dú)龍、爾蘇、嘉絨、撒拉這四種語言和漢語的雙向詞典。

目前，這四部雙向詞典已在中國社科院民族學(xué)和人類學(xué)研究所志愿者的協(xié)助下，進(jìn)行了內(nèi)部評測，僅發(fā)現(xiàn)含有少量誤差。這一可喜成果，驗(yàn)證了基于百度飛槳深度學(xué)習(xí)平臺，智能生成大規(guī)模漢語-少數(shù)民族語言詞典的可行性和便捷性，展現(xiàn)了人工智能對于應(yīng)對語言瀕危日益嚴(yán)峻挑戰(zhàn)的高效性和高價值。

英特爾與百度飛槳軟硬協(xié)同優(yōu)化，用智能探索文化保護(hù)新路

雙向詞典項目依托飛槳深度學(xué)習(xí)技術(shù)，高效實(shí)現(xiàn)了瀕危語言詞典的自動化生成，極大減輕了語保工作者的負(fù)擔(dān)。而其背后是英特爾所提供的英特爾® 至強(qiáng)® 可擴(kuò)展平臺具備的強(qiáng)勁算力和多種優(yōu)化措施，為飛槳平臺高效支撐項目運(yùn)作提供了基礎(chǔ)能力和量化加速。

業(yè)界盡知，人工智能應(yīng)用不僅需要高算力作為支撐，而且源于大多數(shù)深度學(xué)習(xí)模型使用32位浮點(diǎn)精度(FP32)構(gòu)建，復(fù)雜度高，模型參數(shù)量大，限制了其在一些場景和設(shè)備進(jìn)行部署，需要實(shí)施軟硬結(jié)合優(yōu)化，才能突破性能瓶頸，高效承載諸如上文雙向詞典生成等多類應(yīng)用。

針對上述問題，英特爾攜手百度飛槳，基于第三代英特爾® 至強(qiáng)® 可擴(kuò)展處理器、英特爾® oneAPI工具套件等軟硬件組合，在為飛槳平臺提供充裕算力的同時，也對整個深度學(xué)習(xí)流程實(shí)施全方位優(yōu)化，幫助加速各類應(yīng)用開發(fā)和量化部署。

第三代英特爾® 至強(qiáng)® 可擴(kuò)展處理器依托出色的微架構(gòu)，發(fā)揮多核心、多線程和大容量高速緩存等特性，很好地滿足了飛槳平臺對通用算力的苛刻需求，同時加持以其內(nèi)置的英特爾® AVX-512提供的增強(qiáng)矢量處理能力，提升AI 推理和訓(xùn)練效率，為圖像分類、自然語言處理、語音識別、語音翻譯等廣泛的應(yīng)用開發(fā)和部署提供穩(wěn)健基石。而最新一代的第四代英特爾® 至強(qiáng)® 可擴(kuò)展處理器更內(nèi)置一系列加速器，包括全新的AI加速器——英特爾®高級矩陣擴(kuò)展(英特爾®AMX)，覆蓋包括訓(xùn)練和微調(diào)在內(nèi)的更多深度學(xué)習(xí)使用場景，可以為不斷變化且要求日益增高的應(yīng)用提供更為可觀的計算性能。

為滿足模型快速“瘦身”之需，百度飛槳打造了PaddleSlim深度學(xué)習(xí)模型壓縮工具庫，以及為用戶提供靈活的壓縮策略，而英特爾® 至強(qiáng)® 可擴(kuò)展處理器內(nèi)置的AI加速技術(shù)--英特爾® 深度學(xué)習(xí)加速(英特爾® DL Boost)，可通過矢量神經(jīng)網(wǎng)絡(luò)指令(VNNI)充分提高計算資源和緩存的利用率，減少潛在的帶寬瓶頸，為INT8等低精度計算提供優(yōu)化支持，顯著加速AI 推理。由此，幫助飛槳PaddleSlim所支持的量化訓(xùn)練和靜態(tài)離線量化方法，更好地適用于計算機(jī)視覺(CV)和自然語言處理 (NLP)等模型優(yōu)化過程，這無疑也為雙向詞典AI方案的開發(fā)提供了便利，同時提高了項目運(yùn)作效率。

同時為激活 VNNI 加速功能，百度飛槳深度學(xué)習(xí)平臺在量化方案實(shí)施中還廣泛使用英特爾® oneAPI 工具套件，如英特爾® oneAPI 深度神經(jīng)網(wǎng)絡(luò)庫 (Intel® oneAPI Deep Neural Network Library，英特爾® oneDNN)。借助其統(tǒng)一、簡化的編程模型，飛槳用戶得以在CPU、GPU和FPGA等不同的架構(gòu)上方便地調(diào)用通用接口來使用平臺內(nèi)置的AI加速技術(shù)，而無需擔(dān)心平臺兼容問題。

得益于英特爾® 至強(qiáng)® 可擴(kuò)展平臺與多項優(yōu)化工具的支持，百度飛槳深度學(xué)習(xí)平臺實(shí)現(xiàn)了深度優(yōu)化，并不斷豐富模型資源及應(yīng)用開發(fā)套件，為用戶提供了優(yōu)異的模型及硬件加速體驗(yàn)。而雙向詞典項目在推動少數(shù)民族語言保護(hù)領(lǐng)域展現(xiàn)的神奇魔力，就是其典型案例。

“十四五”規(guī)劃把“強(qiáng)化重要文化和自然遺產(chǎn)、非物質(zhì)文化遺產(chǎn)系統(tǒng)性保護(hù)、推動中華優(yōu)秀傳統(tǒng)文化創(chuàng)造性轉(zhuǎn)化、創(chuàng)新性發(fā)展”，作為提高社會文明程度的重要舉措;今年的工作報告也強(qiáng)調(diào)了“傳承中華優(yōu)秀傳統(tǒng)文化，滿足人民日益增長的精神文化需求”，對鑄就文化新輝煌的重要作用。

英特爾攜手百度飛槳踐行“科技向善”，優(yōu)化開源平臺，促進(jìn)瀕危語言保護(hù)，不僅延續(xù)和發(fā)揚(yáng)了語言背后蘊(yùn)含的文化、知識遺產(chǎn)及其價值，更探索出智能技術(shù)賦能的新路;也是英特爾繼用人工智能助力長城修繕，通過計算、存儲、網(wǎng)絡(luò)全棧優(yōu)化解決方案幫助云岡石窟文物保護(hù)等，持續(xù)展現(xiàn)創(chuàng)新技術(shù)對挖掘與傳承璀璨歷史文化、實(shí)現(xiàn)創(chuàng)新創(chuàng)造的新動能的又一成功實(shí)踐，有助于在讓歷史智慧照進(jìn)未來，讓寶貴文化遺產(chǎn)豐富人們精神世界的同時，進(jìn)一步加速人工智能的拓展應(yīng)用，助力擁抱數(shù)字化浪潮，創(chuàng)造更美好的生活。