×

掃碼關(guān)注微信公眾號

云天勵飛自研芯片與高性能算力結(jié)合，攜手德元方惠構(gòu)建AI算力生態(tài)新藍(lán)圖

2024/6/7 17:20:49      企業(yè)供稿

6月6日,云天勵飛發(fā)布公告,公司與德元方惠簽署《AI算力運(yùn)營合作框架協(xié)議》。德元方惠將向云天勵飛購買AI訓(xùn)練及推理異構(gòu)算力服務(wù),總算力規(guī)模約4000PFLOPS,該協(xié)議預(yù)計(jì)在未來三年服務(wù)期內(nèi)為云天勵飛貢獻(xiàn)約16億的營收。

奠定未來的業(yè)績基礎(chǔ)

作為國內(nèi)領(lǐng)先的人工智能公司,云天勵飛一直積極建設(shè)算力基座,并且對外提供算力運(yùn)營服務(wù)。今年3月,云天勵飛在發(fā)布會上公布了“1+3”業(yè)務(wù)布局,即基于1個(gè)算法芯片化平臺,打造三大方向業(yè)務(wù)——AI方案、AI運(yùn)營、AI產(chǎn)品。本次與德元方惠簽署戰(zhàn)略合作協(xié)議,是公司AI運(yùn)營業(yè)務(wù)的一大突破,并在未來3年為公司帶來16億營收,奠定未來的業(yè)績增長基礎(chǔ)。

將大模型研發(fā)經(jīng)驗(yàn)注入算力運(yùn)營服務(wù)

去年,云天勵飛正式推出自研千億級大模型“云天天書”?！霸铺焯鞎毕盗心Ｐ图軜?gòu)包含通用大模型、行業(yè)大模型、場景大模型三個(gè)層級。云天勵飛基于算法芯片化平臺,并通過海量高質(zhì)量數(shù)據(jù)預(yù)訓(xùn)練生產(chǎn)通用大模型;在通用大模型基礎(chǔ)上,引入高質(zhì)量行業(yè)數(shù)據(jù),生產(chǎn)行業(yè)大模型;再在行業(yè)大模型基礎(chǔ)上,通過細(xì)分場景數(shù)據(jù)微調(diào)研發(fā)場景大模型。“云天天書”在C-Eval、CMMLU等權(quán)威測試中多次獲得第一,并正式通過中央網(wǎng)信辦備案。

在大模型研發(fā)過程中,公司積累了一系列異構(gòu)算力組合、算力調(diào)優(yōu)、提升模型訓(xùn)練效率的技術(shù)平臺和相應(yīng)工具,包括智能算力集群管理平臺、AI大模型開發(fā)服務(wù)平臺等,可提供數(shù)據(jù)管理、數(shù)據(jù)標(biāo)注、模型發(fā)布、模型測評等功能模塊。云天勵飛將上述技術(shù)沉淀在AI算力服務(wù)中,可幫助客戶提升模型訓(xùn)練及算力利用效率,幫助更多企業(yè)以更低成本訓(xùn)練大模型。

為自研芯片拓展廣闊新天地

今年以來,大模型全面進(jìn)入應(yīng)用落地階段,推理算力需求隨之不斷增長。根據(jù)IDC數(shù)據(jù),預(yù)計(jì)到2026年中國數(shù)據(jù)中心用于推理的負(fù)載將達(dá)到62.2%。

云天勵飛亦持續(xù)看好大模型進(jìn)入成熟商業(yè)化階段后推理需求,并在推理算力領(lǐng)域進(jìn)行戰(zhàn)略部署。

去年底,公司自研的神經(jīng)網(wǎng)絡(luò)處理器NNP400T的DeepEdge 10 正式發(fā)布,可廣泛應(yīng)用于AIoT邊緣視頻、移動機(jī)器人等場景,目前已在智慧交通、清潔機(jī)器人等領(lǐng)域進(jìn)行應(yīng)用。此外,依托創(chuàng)新的D2D chiplet架構(gòu)打造的推理卡已適配SAM CV大模型、Llama2、通義千問等國內(nèi)外開源大模型,可承載大模型應(yīng)用落地的大規(guī)模推理計(jì)算。

推理算力需求將隨著大模型使用時(shí)間和用戶量的增長而快速增加,因此在大模型進(jìn)入成熟商業(yè)化階段之后將迎來需求爆發(fā)。公司所搭建超大規(guī)模異構(gòu)高性能算力集群將其自研推理卡與高性能訓(xùn)練算力相結(jié)合,為客戶提供高效的訓(xùn)推一體算力服務(wù),同時(shí)為自研推理卡落地打開場景觸角,搭建生態(tài),為大模型進(jìn)入成熟商業(yè)化階段后的推理需求爆發(fā)提前布局。

此外,公司也持續(xù)投入自研大模型研發(fā)及優(yōu)化工作,預(yù)計(jì)將維持較高對AI訓(xùn)練及推理異構(gòu)算力的需求,此次《合作框架協(xié)議》項(xiàng)下涉及對于高性能異構(gòu)算力的采購,未來亦可視需要作為公司大模型研發(fā)工作所需算力基礎(chǔ)的補(bǔ)充,支撐公司大模型技術(shù)的持續(xù)進(jìn)步。

未來,云天勵飛亦可在超大規(guī)模異構(gòu)高性能算力集群中,將自研推理卡與高性能訓(xùn)練算力相結(jié)合,為自研推理卡落地打開場景觸角,搭建生態(tài),為行業(yè)帶來更豐富的算力服務(wù)。