昇思MindSpore 2.3發布:已服務企業數量超過5500家,合作高校360所

2024-03-24 15:34:32   來源:新浪科技   評論:0   [收藏]   [評論]
導讀:  新浪科技訊 3月22日晚間消息,在今日的昇思人工智能框架峰會2024上,昇思MindSpore 2 3全新發布,進一步提升大模型開發訓推效率。  華為于2020年3月開源昇思MindSpore AI框架,開源后獲得國內外開發者的
  新浪科技訊 3月22日晚間消息,在今日的昇思人工智能框架峰會2024上,昇思MindSpore 2.3全新發布,進一步提升大模型開發訓推效率。

  華為于2020年3月開源昇思MindSpore AI框架,開源后獲得國內外開發者的積極響應,訪問量數千萬,超過687萬下載安裝使用,服務企業數量超過5500家,合作高校360所。2023年以來,基于昇思框架發表的會議論文數量超過1200篇,在所有AI框架中排名中國第一、全球第二。

  華為ICT Marketing總裁周軍表示:AI框架的并行計算能力、簡潔編程能力、便捷部署能力等,逐漸成為大模型訓練的關鍵成功要素。昇思將持續創新探索,聚焦根技術,以更開放的技術體系,讓伙伴和開發者更靈活的實現大模型創新,加速大模型應用規模落地。

  在峰會上,昇思MindSpore 2.3全新發布。據介紹,通過原創的多副本、多流水交織等8種并行技術,使集群線性度達到90%(業界不足60%),通過整圖優化及下沉執行等,使得算力利用率達到55%(業界不足40%);針對集群故障率高,恢復時間長的普遍問題,通過編譯快照,確定性CKPT技術實現20分鐘完成故障恢復。

  在大模型部署上,昇思通過訓推一體的架構升級實現腳本、分布式策略,運行時的統一,Baichuan2-13B的推理部署只需1天。在大模型推理上,通過LLM Serving實現推理吞吐提升2倍多;升級模型壓縮工具金箍棒2.0實現千億大模型壓縮至十倍。

  為降低開發門檻,昇思持續升級MindSpore TransFormers大模型套件,并提供MindSpore One生成式套件,全流程開箱即用,一周即可完成大模型全流程的開發。

  昇思MindSpore開源社區理事長丁誠在大會上公布了昇思賦能學術與生態的四項行動。昇思和中國人工智能學會、鵬城實驗室合作的學術論文基金2.0,將在未來3年內攜手50多家全球AI學者;昇思開發板應用創新行動,基于香橙派開發板,提供系統化的案例、教程與支持,幫助開發者快速打造個性化應用;昇思加速原生大模型孵化,通過激勵、專項技術支持和市場聯合推廣,支持更多伙伴從昇思遷移適配走向原生開發;昇思開源社區實習活動,讓開發者實踐成長。

分享到:
責任編輯:zsz

網友評論