云創(chuàng)數(shù)據(jù):AI大模型推理是公司向量計(jì)算一體機(jī)主要應(yīng)用場(chǎng)景之一
挖貝網(wǎng)6月29日消息,近日云創(chuàng)數(shù)據(jù)(835305)接待了上海龍猛私募基金管理有限公司的調(diào)研。云創(chuàng)數(shù)據(jù)重點(diǎn)介紹了公司“cVector向量計(jì)算一體機(jī)”的原理、應(yīng)用、優(yōu)勢(shì)等情況。
云創(chuàng)數(shù)據(jù)表示,公司于3年前推出了“超大規(guī)模人臉向量比對(duì)一體機(jī)”。當(dāng)時(shí)公司發(fā)現(xiàn)面向大規(guī)模人臉比對(duì)場(chǎng)景時(shí)(例如:在學(xué)校宿舍區(qū),通過(guò)視頻監(jiān)控判斷每一個(gè)進(jìn)入?yún)^(qū)域的人員是否是校內(nèi)人員,當(dāng)發(fā)現(xiàn)校外人員進(jìn)入時(shí)發(fā)出告警,提升校園安全等場(chǎng)景),如果采用業(yè)內(nèi)常規(guī)的特征計(jì)算方法,需要大量的GPU支撐,費(fèi)用十分高昂。公司通過(guò)自研算法和軟件,將人臉數(shù)據(jù)轉(zhuǎn)換成特征向量數(shù)據(jù)存放在一體機(jī)上,用優(yōu)化后的CPU計(jì)算代替GPU進(jìn)行高維向量計(jì)算比對(duì),大幅提升搜索性能、降低成本,單臺(tái)“超大規(guī)模人臉向量比對(duì)一體機(jī)”每秒可處理約7億次人臉數(shù)據(jù)特征向量比對(duì)。
之后隨著公司技術(shù)研發(fā)的推進(jìn),云創(chuàng)數(shù)據(jù)的向量計(jì)算的方法不僅可用于人臉數(shù)據(jù),其他結(jié)構(gòu)化和非結(jié)構(gòu)化的數(shù)據(jù)都可以轉(zhuǎn)化為向量數(shù)據(jù)。因此,公司經(jīng)過(guò)技術(shù)升級(jí)與產(chǎn)品更新迭代,于2022 年6月推出了“cVector 向量計(jì)算一體機(jī)”,用以支撐大規(guī)模向量計(jì)算的應(yīng)用場(chǎng)景。
云創(chuàng)數(shù)據(jù)強(qiáng)調(diào),公司“cVector 向量計(jì)算一體機(jī)”是一款軟硬件一體化的產(chǎn)品,具有類似向量數(shù)據(jù)庫(kù)的功能。該產(chǎn)品主要應(yīng)用于人工智能領(lǐng)域中的大規(guī)模圖像檢索和生成式AI大模型推理兩大主要場(chǎng)景,目標(biāo)定位是輔助解決僅依靠GPU不足以支撐所需算力的難題,具有更高的性價(jià)比優(yōu)勢(shì)。
相關(guān)閱讀
- 尚華新材10月23日新三板掛牌儀式:線纜用特種高分子材料用于新能源線纜、超高壓電纜、軌道交通線纜等
- 下半年地方政府加大投資半導(dǎo)體產(chǎn)業(yè):四地產(chǎn)業(yè)基金擬投資額超千億 重點(diǎn)培育核心企業(yè)
- 雅圖高新申報(bào)材料獲北交所受理:2024年上半年凈利潤(rùn)6836萬(wàn)元增長(zhǎng)40%
- 張掖丹霞掛牌新三板:深度運(yùn)營(yíng)“世界級(jí)”七彩丹霞景區(qū) 去年凈利潤(rùn)7626萬(wàn)元
- 騎士乳業(yè)全資子公司騎士牧場(chǎng)擬向銀行申請(qǐng)2000萬(wàn)授信 公司提供連帶責(zé)任擔(dān)保
- 新贛江三級(jí)子公司老俵大藥房暫停藥品銷售
- 紅山河擬注銷子公司杭州伊味源電子商務(wù)有限公司
- 視聲智能2024年前三季度凈利3605.74萬(wàn)同比增長(zhǎng)43% 收到政府補(bǔ)助及軟件退稅較上年同期增加
- 元豐科技擬向銀行申請(qǐng)不高于500萬(wàn)授信 授信期限1年
- 金海股份擬投資400萬(wàn)設(shè)立合資公司北京金實(shí)能源有限公司 持股40%
推薦閱讀
快訊 更多
- 10-23 21:54 | 南京銀行2024年前三季度凈利166.63億同比增長(zhǎng)9.02% 非利息凈收入增長(zhǎng)
- 10-23 21:53 | 港通醫(yī)療2024年前三季度凈利2004.63萬(wàn) 資產(chǎn)處置收益減少
- 10-23 21:53 | 恩威醫(yī)藥2024年前三季度凈利2202.2萬(wàn) 存款利息收入減少
- 10-23 21:52 | 仙樂(lè)健康2024年前三季度凈利2.4億同比增長(zhǎng)29.52% 研發(fā)投入加大
- 10-23 21:52 | 延江股份2024年前三季度凈利3321.75萬(wàn) 同比增長(zhǎng)8.71%
- 10-23 21:52 | 凱利泰2024年前三季度凈利5606.58萬(wàn) 匯兌收益減少
- 10-23 21:52 | 三諾生物2024年前三季度凈利2.55億 本期聯(lián)營(yíng)企業(yè)北京糖護(hù)科技有限公司經(jīng)營(yíng)虧損增加
- 10-23 21:52 | 迪安診斷2024年前三季度凈利1.31億 加強(qiáng)精益管理、應(yīng)收賬款回款力度加大
- 10-23 21:51 | 江鈴汽車2024年前三季度凈利11.66億同比增長(zhǎng)15.52% 整車銷量上升
- 10-23 21:51 | 東北制藥2024年前三季度凈利2.08億 本期債務(wù)重組收益減少