云創(chuàng)數(shù)據(jù)：AI大模型推理是公司向量計(jì)算一體機(jī)主要應(yīng)用場(chǎng)景之一

2023/6/29 18:37:45 挖貝網(wǎng) 周路遙

挖貝網(wǎng)6月29日消息，近日云創(chuàng)數(shù)據(jù)（835305）接待了上海龍猛私募基金管理有限公司的調(diào)研。云創(chuàng)數(shù)據(jù)重點(diǎn)介紹了公司“cVector向量計(jì)算一體機(jī)”的原理、應(yīng)用、優(yōu)勢(shì)等情況。

云創(chuàng)數(shù)據(jù)表示，公司于3年前推出了“超大規(guī)模人臉向量比對(duì)一體機(jī)”。當(dāng)時(shí)公司發(fā)現(xiàn)面向大規(guī)模人臉比對(duì)場(chǎng)景時(shí)（例如：在學(xué)校宿舍區(qū)，通過(guò)視頻監(jiān)控判斷每一個(gè)進(jìn)入?yún)^(qū)域的人員是否是校內(nèi)人員，當(dāng)發(fā)現(xiàn)校外人員進(jìn)入時(shí)發(fā)出告警，提升校園安全等場(chǎng)景），如果采用業(yè)內(nèi)常規(guī)的特征計(jì)算方法，需要大量的GPU支撐，費(fèi)用十分高昂。公司通過(guò)自研算法和軟件，將人臉數(shù)據(jù)轉(zhuǎn)換成特征向量數(shù)據(jù)存放在一體機(jī)上，用優(yōu)化后的CPU計(jì)算代替GPU進(jìn)行高維向量計(jì)算比對(duì)，大幅提升搜索性能、降低成本，單臺(tái)“超大規(guī)模人臉向量比對(duì)一體機(jī)”每秒可處理約7億次人臉數(shù)據(jù)特征向量比對(duì)。

之后隨著公司技術(shù)研發(fā)的推進(jìn)，云創(chuàng)數(shù)據(jù)的向量計(jì)算的方法不僅可用于人臉數(shù)據(jù)，其他結(jié)構(gòu)化和非結(jié)構(gòu)化的數(shù)據(jù)都可以轉(zhuǎn)化為向量數(shù)據(jù)。因此，公司經(jīng)過(guò)技術(shù)升級(jí)與產(chǎn)品更新迭代，于2022 年6月推出了“cVector 向量計(jì)算一體機(jī)”，用以支撐大規(guī)模向量計(jì)算的應(yīng)用場(chǎng)景。

云創(chuàng)數(shù)據(jù)強(qiáng)調(diào)，公司“cVector 向量計(jì)算一體機(jī)”是一款軟硬件一體化的產(chǎn)品，具有類似向量數(shù)據(jù)庫(kù)的功能。該產(chǎn)品主要應(yīng)用于人工智能領(lǐng)域中的大規(guī)模圖像檢索和生成式AI大模型推理兩大主要場(chǎng)景，目標(biāo)定位是輔助解決僅依靠GPU不足以支撐所需算力的難題，具有更高的性價(jià)比優(yōu)勢(shì)。

云創(chuàng)數(shù)據(jù)

相關(guān)閱讀