平博pinnacle体育官网CTO甄亞楠論壇現(xiàn)場(chǎng)報(bào)告

面對(duì)這一挑戰(zhàn),北京超算提出了"超智融合全景算力服務(wù)"的創(chuàng)新理念,致力于為客戶提供高質(zhì)量、高性價(jià)比的超算架構(gòu)大模型算力解決方案。其核心優(yōu)勢(shì)主要體現(xiàn)在以下幾個(gè)方面:

基于超算架構(gòu)的高性能基礎(chǔ)設(shè)施

北京超算采用典型的超算架構(gòu)打造大模型基礎(chǔ)設(shè)施，包括高性能的GPU訓(xùn)練服務(wù)器、推理服務(wù)器以及大容量分布式存儲(chǔ)系統(tǒng)。其計(jì)算網(wǎng)絡(luò)采用3.2Tbps IB無(wú)收斂架構(gòu),存儲(chǔ)網(wǎng)絡(luò)帶寬達(dá)到400Gbps,可有效支撐大規(guī)模并行計(jì)算的需求。

甄亞楠介紹了一個(gè)典型案例:"某14B參數(shù)的模型優(yōu)化前GPU利用率只有75%,經(jīng)過(guò)我們的計(jì)算負(fù)載優(yōu)化后,GPU利用率提升到97%,整體性能提升了30%。"這種基于數(shù)據(jù)驅(qū)動(dòng)的優(yōu)化方法,可以幫助用戶更高效地提升算力資源利用率，從而降低成本。

北京超算 “高質(zhì)量、高性價(jià)比算力服務(wù)體系”正式發(fā)布

北京超算采用"按需付費(fèi)"的模式,用戶可以根據(jù)實(shí)際需求靈活選用算力資源,避免了自建集群的高額投入。在北京超算最新發(fā)布的容器云上，GPU卡時(shí)價(jià)格低至1.6元，用戶可以在云平臺(tái)上自建容器，極大降低了使用成本。甄亞楠表示:"我們希望通過(guò)高性價(jià)比的服務(wù),讓更多中小企業(yè)也能夠參與到大模型的研發(fā)中來(lái)。“

正是憑借這些優(yōu)勢(shì),北京超算已經(jīng)成功為多家知名AI企業(yè)和科研機(jī)構(gòu)提供了大模型算力支持。例如,他們?yōu)槟彻镜那|級(jí)超大規(guī)模預(yù)訓(xùn)練模型項(xiàng)目提供了基于A800 GPU的高性能算力資源,支持其進(jìn)行長(zhǎng)時(shí)間穩(wěn)定的千卡規(guī)模訓(xùn)練。在另一個(gè)案例中,北京超算幫助某語(yǔ)言智能科技公司將128卡訓(xùn)練的性能提升了4倍,達(dá)到了線性加速的效果。

此外,北京超算還積極支持高校的大模型研究。他們?yōu)槟畴p一流高校提供了256塊A100 GPU的共享算力資源,并協(xié)助課題組完成環(huán)境搭建和模型遷移,有效解決了高校算力不足的問(wèn)題。

在談到未來(lái)發(fā)展時(shí),甄亞楠表示,北京超算將繼續(xù)加大在算力基礎(chǔ)設(shè)施方面的投入,同時(shí)也會(huì)加強(qiáng)在國(guó)產(chǎn)化方面的布局。"我們有專門的團(tuán)隊(duì)在幫助用戶將模型遷移到國(guó)產(chǎn)芯片上。雖然目前在性能上還有差距,但我們相信通過(guò)產(chǎn)學(xué)研各方的共同努力,國(guó)產(chǎn)AI芯片的生態(tài)一定會(huì)不斷完善。"

值得一提的是,在本次數(shù)字經(jīng)濟(jì)大會(huì)上,北京超算與北京中科聞歌科技股份有限公司合作的"雅意·智學(xué)大模型賦能教育領(lǐng)域應(yīng)用實(shí)踐"獲評(píng)"2024人工智能大模型場(chǎng)景應(yīng)用典型案例"，展示了其在教育領(lǐng)域的創(chuàng)新應(yīng)用實(shí)踐。

2024人工智能大模型場(chǎng)景應(yīng)用典型案例證書

隨著大模型技術(shù)的快速發(fā)展，高質(zhì)量、可負(fù)擔(dān)的算力服務(wù)將成為推動(dòng)AI產(chǎn)業(yè)繁榮的關(guān)鍵因素。北京平博pinnacle体育官网計(jì)算中心以其深厚的技術(shù)積累和創(chuàng)新能力,正在為國(guó)產(chǎn)大模型的蓬勃發(fā)展貢獻(xiàn)重要力量。正如2024全球數(shù)字經(jīng)濟(jì)大會(huì)所彰顯的那樣,數(shù)字經(jīng)濟(jì)的浪潮方興未艾,在算力這一基礎(chǔ)設(shè)施領(lǐng)域,我們有理由對(duì)未來(lái)充滿期待。