近年來,人工智能經歷了持續的迭代與升級。從最初的簡單預測模型,到深度學習模型,再到近年來廣受歡迎的Transformer模型,AI算法不斷演進,智能化水平也在穩步提升。
ChatGPT的出現更是引發了人工智能技術的飛躍,標志著大模型時代的到來。眾企業紛紛在大型語言模型領域展開布局,研究重點也逐漸從單一的語言模型、視覺模型擴展至多模態大模型,世界模型也需不斷提高數據參數和模型復雜度。然而,從行業實際應用的角度來看,模型的小型化和推理模型的重要性正日益凸顯。這也意味著,大模型在算法層面的演進對算力和數據提出了更高的要求。

北京電子數智科技有限責任公司(以下簡稱“北電數智”)首席科學家、復旦大學計算機學院特聘教授竇德景曾在《人工智能在大算力、大數據和大模型時代的研究和應用》發言中表示“大模型日新月異的當下時代,行業數據、算法、算力基礎設施層的升級挑戰。算力購買投入的同時伴隨著算力運營成本的增加,新一代芯片更新迭代導致的貶值問題也影響著業務需求的算力成本投入。過往購買算力只看數量的時代已經過去,粗放式的算力發展方式已不能滿足當下市場的需求,未來的算力需要“質”“量”兼顧,重視提高算力基礎設施的利用率和效率。”
北電數智作為?家專注于原創性、顛覆性、引領性科技創新的人工智能科技企業,在算力、算法和數據等方面實現了全棧產品和解決方案布局。北電數智寶塔·模型適配平臺能無縫適配多種軟件,并與各大主流開發框架保持兼容性,從而降低企業和開發者的使用門檻。寶塔·模型適配平臺賦予開發者極大的靈活性,使其不必局限于單一選擇,既可以利用主流的基礎大模型,也可以選擇開源模型,有效解決了算法層面的“煙囪難題”,實現了不同模型間的自由切換。
釋放公共數據的潛在價值,促進企業間數據的順暢流轉,并豐富專業數據集以滿足模型訓練的需求,已成為行業發展的關鍵路徑。北電數智搭建了核心數據空間——紅湖·可信數據空間,可集成隱私計算、數據沙箱、區塊鏈等多種數據安全技術,保障數據要素在安全可信的環境中實現匯聚、共享、開放和應用,促使數據要素實現高效流通并充分發揮價值,是解決數據跨域流通的最優解。
“質”“量”兼顧的精細化運營成為對AI基礎設施的新期待。北電數智公司前進·AI異構計算平臺具有卓越的算力調度能力,可為不同場景提供多樣化的調度策略,以精準匹配各類計算任務的不同需求。“潮汐調度”是該平臺的一大特色亮點,其可根據計算任務的特性和資源需求的變化動態地分配和回收計算資源,尤其適用于渲染應用等場景,以最大化資源的利用率并減少執行時間;此外,“前進·AI異構計算平臺”提供的“訓推混布”策略可幫助大模型使用方實現同一算力集群既支持在線推理服務部署任務,又支持離線訓練任務,從而顯著提高算力資源的利用率,減少資源浪費,大幅降低運營成本。前進·AI異構計算平臺支持多款國產芯片的廣泛納管,幫助用戶實現對不同品牌和類型AI加速卡的統一管理,以確保各類AI芯片的無縫集成和優化利用。廣泛的納管能力也讓用戶能夠根據具體需求,靈活地調整資源配置,優化算力供給滿足各類訓練推理任務。目前,北電數智基于“前進·AI異構計算平臺”打造的國產算力PoC平臺落地北京數字經濟算力中心,且該平臺已完成十余款芯片的評測支持和二十多款主流模型的適配。

北電數智依托完備的AI全棧技術產品體系,以“寶塔?模型適配平臺”讓大模型任務找到算力最優使用方式并提供AI工具鏈實現大模型全生命周期的生產與管理,憑“紅湖?可信數據空間”在安全可信環境下激活數據要素價值反哺模型能力,借“前進?AI 異構計算平臺” 實現底層芯片高效納管和調度提升算力效能,積極推動人工智能在各個領域的應用實踐與落地。?