近日,一流科技在2020-2021「AI中國」機器之心人工智能年度獎項評選中摘得多項大獎,包括:機器之心2020“最強開源技術生態 TOP10”;機器之心2020“最具商業價值解決方案TOP30”;機器之心2020“最具產業價值技術應用落地案例 TOP30”。 自2017 年設立以來,機器之心「Synced Machine Intelligence Awards」年度獎項評選活動已連續舉辦至第四屆,是目前國內人工智能界規模最大、評選最權威的年度獎項,已成為我國人工智能產業的風向標。與往屆評選一樣,本屆評選收到了數百家企業的踴躍申報。
其中,一流科技的的OneBrian助力中關村智用研究院案例獲評“最具產業價值技術應用落地案例 TOP30”,是近年來一流科技不斷打磨產品,最終實現應用落地的證明。
中關村智用人工智能研究院(以下簡稱“智用”),是在中關村管委會、北京市國資委、石景山區政府的共同支持下成立的AI技術與實體經濟融合的開放平臺,致力于為AI企業和實體經濟用戶搭建對接平臺,旨在打通算法、場景、數據、商業之間的壁壘。
為了更好的支持人工智能應用,智用需要建立完善的AI基礎設施,幫助更多AI技術落地。智用需要一套一站式人工智能開發平臺作為構建人工智能服務的基礎設施,提供完整的人工智能模型全生命周期管理平臺和服務體系,包括深度學習框架、高性能計算、數據清洗標注、數據合規驗證、數據存儲、人工智能算法和產品開發及檢驗檢測等能力,賦能前沿人工智能技術落地。但是,智用現有的系統可能無法支持這些應用場景的達成。
痛點1:業務場景紛繁復雜,如何用一套系統滿足不同技術方向的需求?
智用研究院現已開始建設AI+數字人、AI+交通、AI rank、AI+智慧應急中心,搭建標注評測平臺、技術生態平臺和算力算法平臺,業務場景紛繁復雜,支持企業應用眾多。但如果分別針對特定場景進行開發平臺搭建,成本高昂效率低下,因此,最理想的狀態是用一套系統滿足不同場景的研發需求,這對開發平臺的架構設計和基礎設施提出了很高的挑戰。
痛點2:支持前沿大規模、大數據、大計算的模型,是否有足夠能力保障高性能高可用性?
智用研究院以“成果轉化+應用落地”為使命,為探索新技術的商業化落地,擁有大量“大規模、大數據、大計算”的研發和評測場景,如何從架構層面滿足智用大規模計算集群的場景且支持異構和彈性擴容,是亟待解決的問題。
痛點3:成果轉化往往對系統的能力邊界挑戰巨大,如何能保證基礎設施適配各種場景?
智用研究院的研究課題與業務方向大都為人工智能應用領域的前沿,充滿著可能性和不確定性,這就意味著智用對于開發平臺的能力邊界要求很高,不能因為軟件系統的能力邊界影響人工智能應用落地的進展。這樣的開發平臺建設挑戰巨大。
在這樣的場景下,一流科技憑借著對智用場景的深度挖掘、在分布式架構設計上的領先能力吸引了智用的目光,為其搭建了“一站式人工智能開發平臺”,整體解決了智用復雜業務場景、高算力要求和邊界靈活延展要求。
兼容:統一管理異構算力,效率指數級增強
為了解決應用場景復雜的需求,一流科技幫助智用研究院搭建支持異構的算力集群,以“一站式人工智能開發中樞”為目標,將數據處理、特征構建、建模、模型訓練、模型發布等AI開發全生命周期流程中需要使用的能力進行統一管理,適配國際主流和各類國產GPU,支持用戶通過鏡像自定義框架。極大程度的節約了硬件成本,提升了系統效率。
創新:分布式架構加強算力,獨創技術優勢提升效率
一流科技為智用研究院搭建的“一站式人工智能開發平臺”搭載了一流科技自研的深度學習框架。該框架采用分布式架構,在多機多卡環境下,完美契合中樞平臺(k8s + docker),支持超大模型訓練,數據加速比接近線性。獨創的自動數據模型混合并行、靜態調度、去中心化和全鏈路異步流式執行四大核心技術,使用純軟件技術完美地解決了大數據、大模型、大計算所帶來的異構集群分布式橫向擴展挑戰,大大的縮短了了模型的訓練的時間,提升了科研效率。
突破:多種混合算力解決方案,保證每個項目的資源使用
一流科技搭建的“一站式人工智能開發平臺”提供多種混合算力解決方案,在本身就可以提供大算力的基礎上,支持資源按需擴容,兼顧敏捷與安全,照顧每一個業務場景的邊界。模塊容器化的設計思路有極大的靈活空間,彈性的存儲和計算資源保證每個項目可以按需申請資源,平臺管理員可以設置項目配額,項目獨立管理的數據、權限、用戶、角色,彼此分離,以確保數據安全。
該項目交付智用投入使用后,經計算,其系統算力率可提升30%,模型訓練時間相較傳統方式節省80%。同時,該項目作為示范應用場景落地中關村首鋼AI園區,作為園區IT基礎設施建設的重要組成部分,讓園區內所有企業在入駐時就有先進的人工智能開發平臺可用,不必再為AI基礎設施費力費心,有效助力區域化AI產業集群水平提升,AI研發能力提升,AI應用水平提升。
其實,除了智用和產業園區,業務場景復雜、數據規模算力需求增長、研究或業務成果不確定,也是很多大型企業在人工智能應用落地時經常碰到的問題。用一套架構和一套系統解決這些痛點,不僅是機構和企業的成本訴求,也是效率訴求。未來,一流科技將繼續幫助更多的研究院及企業構建其人工智能開發平臺,從基礎設施層面降低各行各業應用AI的門檻,真正做到“讓AI無處不在”。