全球最大開源大模型!馬斯克正式開源Grok AI
馬斯克的初創公司xAI信守諾言,將其首個大型語言模型Grok開源。馬斯克此前曾宣布,開源Grok的舉措將于本周實施。現在,任何其他企業家、程序員、公司或個人都可以體驗和測試Grok——模型的人工神經元或軟件模塊之間的連接強度,這些模塊使模型能夠做出決策、接受輸入并以文本形式提供輸出——以及其他相關文檔,并將模型的副本用于任何他們想要的東西,包括商業應用。該公司在一篇博客文章中宣布:“我們正在發布我們的大型語言模型Grok-1的基本模型和網絡架構,Grok-1是xAI從頭開始訓練的3140億參數混合專家模型。”
知情人士:馬斯克的SpaceX公司正在為美國情報機構建立一個間諜衛星網絡
據五名知情人士透露,SpaceX公司正在與美國情報機構簽訂一份機密合同,建立一個由數百顆間諜衛星組成的網絡,這表明埃隆·馬斯克(Elon Musk)的太空公司與國家安全機構之間的關系正在加深。消息人士稱,該網絡由SpaceX的星盾業務部門根據2021年與管理間諜衛星的情報機構國家偵察局(NRO)簽署的18億美元合同建造。
ChatGPT參數規模被扒:只有7B
南加州大學最新研究,ChatGPT參數規模很可能只有7B(70億)。南加大團隊三位作者破解出了未公布的gpt-3.5-turbo嵌入向量維度(embedding size)為4096或4608。而幾乎所有已知的開源大模型如Llama和Mistral,嵌入向量維度4096的時候都是約7B參數規模。其它比例的話,就會造成網絡過寬或過窄,已被證明對模型性能不利。因此南加大團隊指出,可以推測gpt-3.5-turbo的參數規模也在7B左右,除非是MoE架構可能不同。數月前,曾有微軟CODEFUSION論文意外泄露當時GPT-3.5模型參數為20B,在后續論文版本中又刪除了這一信息。
全面轉向生成式AI!蘋果推出300億參數多模態大模型
相較于英偉達、微軟等大型科技股,蘋果今年的表現令人失望不已,股價年內跌逾10%,且失去了“全球市值最高公司”的寶座。背后原因很簡單,蘋果在這場人工智能(AI)競賽中落伍了。為了擺脫窘境,蘋果近期放棄了造車項目,正在全面轉向生成式AI領域,并且很快有了新動作。就在近日,蘋果公司研發團隊發布了一篇論文《MM1: Methods, Analysis & Insights from Multimodal LLM Pre-training》,首次公布了多模態大模型MM1,展示了該公司在AI方面的進展與實力。據悉,MM1最高參數量為300億,該模型支持增強的上下文學習和多圖像推理,在一些多模態基準測試中有較好表現。
國家數據局:加快構建全國一體化算力網 推動建設中國式現代化數字基座
國家數據局黨組書記、局長劉烈宏在《求是》發表署名文章稱,大道至簡,實干為要。當前,數字化、智能化發展動力澎湃,為我國以高質量發展全面推進中國式現代化提供了難得的歷史機遇。我們要深入貫徹全國一體化大數據中心體系建設的戰略部署,堅持問題導向、目標導向,以釘釘子精神抓工作落實,從產業生態、算力供給、網絡傳輸、調度運營、技術創新等多維度發力,構建聯網調度、普惠易用、綠色安全的全國一體化算力網,加快實現算力基礎設施化,以算力經濟高質量發展更好服務國家數據事業發展全局,推動建設中國式現代化數字基座。
奔馳汽車工廠試點 Apollo 機器人:從事搬運、裝配等繁重體力活
德國車企梅賽德斯-奔馳(Mercedes-Benz)和通用仿人機器人開發商 Apptronik 宣布達成協議,雙方將合作探索高科技機器人 Apollo,主要從事搬運、裝配零部件等繁重的低技能勞動。Apollo 仿人機器人高 173 厘米,重 73 千克,能舉起重達 25 千克的重物,定位是在工業環境中輔助員工。根據雙方協議,奔馳將啟動試點項目,在汽車制造過程中,測試 Apptronik 公司的 Apollo 仿人機器人執行各種任務的能力,例如向生產線運送組裝套件、檢查零部件等等。
國家發改委:加快設在新區的國家新一代人工智能創新發展試驗區和國家人工智能創新應用先導區建設
國家發展改革委發布促進國家級新區高質量建設行動計劃。支持新區優化重點產業布局。有序推進智能制造和數字化轉型。加快設在新區的國家新一代人工智能創新發展試驗區和國家人工智能創新應用先導區建設,上海浦東新區帶動賦能千家企業數字化轉型,天津濱海新區打造一批典型應用場景。研究支持在有條件的新區所在地方布局建設未來產業先導區。依托設在新區的中小企業數字化轉型試點和新區承擔的建設國家算力樞紐節點等重要任務,實施智能制造重大項目,布局一批工業互聯網平臺。
深圳:新增建設5G基站3000個以上 邊緣計算中心15個
日前,深圳發布了《深圳市極速寬帶先鋒城市2024年行動計劃》,該計劃致力于到2024年底,初步構建出泛在先進、高速智能、天地一體的新型信息基礎設施體系,確保網絡供給能力和服務水平達到全球頂尖水準,從而打造出世界領先、模式創新的極速寬帶先鋒城市。其中,推動5G-A技術的引領發展被列為首要任務。計劃提出,將新增超過3000個5G基站,并升級支持超過5000個5G-A基站。此外,還將在低空經濟、智慧交通等關鍵領域試點應用10個以上的5G-A融合項目。按照“城市+園區+邊緣”的總體布局,全市計劃新增3萬個標準機架,并規劃布局10個園區配套數據中心。同時,還將建設15個邊緣計算中心,旨在打造“城市內1毫秒,到韶關樞紐節點3毫秒,到貴安樞紐節點10毫秒”的超低時延圈,為城市的數字化轉型和智能化升級提供堅實的信息通信基礎。