大模型機(jī)器視覺新突破，SAM進(jìn)化版SAV來了：分割一切視頻！開源！

今年4月，Meta的AI模型Segment Anything Model（SAM，分割一切模型）發(fā)布,一鍵輕松實(shí)現(xiàn)圖像分割。

SAM圖像分割（圖片來源:SAM）

SAM模型之所以在計(jì)算機(jī)視覺領(lǐng)域產(chǎn)生重要影響，是因?yàn)閳D像分割是許多任務(wù)中的基礎(chǔ)步驟，比如自動駕駛、人臉識別、車牌識別等都有用到。

在這些應(yīng)用過程中，從目標(biāo)檢測、分割再到識別的整個流程，由算法自動完成，無需人工干預(yù)，而SAM模型正是專攻其中的圖像分割。

雖然SAM是圖像分割的代表性模型，但不可避免存在以下短板：

1.它能夠處理圖片分割，但是不能處理視頻，尤其是不能對視頻里邊移動的物體做連續(xù)追蹤。

2.它能分割，但是并不認(rèn)識所分割的區(qū)域到底是什么。

3.它存在過度分割的問題，經(jīng)常把一個完整的物體分割成不同的部分，而人是把目標(biāo)作為整體看待的。

SAV模型

現(xiàn)在，云創(chuàng)數(shù)據(jù)（835305.BJ）在SAM和YOLOv8的基礎(chǔ)上，“分割一切”模型的進(jìn)化版——分割一切視頻Segment-Any-Video(SAV)來了，進(jìn)一步豐富了計(jì)算機(jī)視覺成果。

SAV模型（圖片來源:SAV）

作為一種新的圖像、視頻分割方法，SAV可以在圖片或視頻中實(shí)現(xiàn)全自動標(biāo)注，一鍵分割物體。

同時，基于Zero-Shot Transfer（零樣本遷移），SAV無需額外訓(xùn)練，即使是訓(xùn)練庫中沒有的圖片，也可以實(shí)現(xiàn)輕松分割。

與SAM相比，SAV升級主要表現(xiàn)在以下方面：

1.既可以分割圖片，也可以分割視頻；

2.可以明確目標(biāo)對象并打標(biāo)簽；

3.可得到語義上完整的目標(biāo)區(qū)域。

SAV與SAM圖像分割對比結(jié)果（圖片來源:SAV）

從上圖可以看出，SAV將巴士、小汽車等分割成一個個完整的區(qū)域，而SAM是把這些單個的物體又分割為不同的區(qū)域。

除了圖片以外，通過SAV，視頻也可以進(jìn)行清晰的目標(biāo)分割和追蹤：

人群與機(jī)動車場景的分割及跟蹤（圖片來源:SAV）

空中作戰(zhàn)場景的分割及跟蹤（視頻來源:SAV）

示例

現(xiàn)在，我們在網(wǎng)頁版 demo (http://sav.cstor.cn)上體驗(yàn)一下SAV，可以直觀地感受SAM和SAV兩者的差異。

在首頁可任意選擇一張示例圖片，也可從本地上傳圖片，然后點(diǎn)擊Segment按鈕，就可以同時得到SAM和SAV的結(jié)果。

demo首頁示例圖片（圖片來源:SAV）

分割結(jié)果：左側(cè)為SAM，右側(cè)為SAV（圖片來源:SAV）

如果需要觀察某個實(shí)例的詳細(xì)效果，鼠標(biāo)放置原圖，移動鼠標(biāo)即可。

移動鼠標(biāo)查看詳細(xì)分割效果（圖片來源:SAV）

在上圖中，由SAV分割的兩只小狗是完整而獨(dú)立的色塊，并不像左邊分割結(jié)果所展示——小狗耳朵顏色和身體部分顏色不一，不是完整的目標(biāo)對象。同時，SAV分割的兩只小狗都打上了“dog”的標(biāo)簽。

需要說明的是，本項(xiàng)目只關(guān)注算法自動分割的應(yīng)用場景，所以SAV無需人工輸入點(diǎn)、曲線、矩形框等提示信息。

更多示例如下：

圖片分割結(jié)果對比（圖片來源:SAV）

行車記錄儀視角的分割及跟蹤（圖片來源:SAV）

原理

如前所述， SAM的自動分割不返回標(biāo)簽信息，并且一個實(shí)例（例如，一輛車）可能會被拆分成多個小區(qū)域。

自動分割模式下，SAM不返回標(biāo)簽信息，車輛被分割成多個區(qū)域（圖片來源:SAM）

基于此，研發(fā)團(tuán)隊(duì)在SAM的基礎(chǔ)上加入YOLOv8檢測模型，YOLOv8返回的結(jié)果中包含目標(biāo)框、類別及置信度，目標(biāo)框可作為提示信息輸入到SAM，類別名稱即為標(biāo)簽，因此SAM加YOLOv8可有效地解決上述問題。

該方法同樣可用于視頻分割任務(wù)，與處理單幅圖像不同的是，除了分割，我們通常更關(guān)心目標(biāo)的運(yùn)動軌跡、目標(biāo)重識別，以及如何實(shí)現(xiàn)一鍵摳視頻等。因此研發(fā)團(tuán)隊(duì)在SAM和YOLOv8的基礎(chǔ)上加入跟蹤算法，持續(xù)關(guān)注感興趣的目標(biāo)，這樣比單純地分割每幀圖像更有實(shí)際意義。

考慮到使用了目標(biāo)檢測模型，在跟蹤方面，研發(fā)團(tuán)隊(duì)選擇Tracking-By-Detection(TBD) 范式的跟蹤方法，例如BoTSORT，而TBD是目前多目標(biāo)跟蹤任務(wù)中特別有效的范式。

圖像分割

使用YOLOv8做前向推理，獲得n個目標(biāo)框，將這n個目標(biāo)框作為提示信息輸入到SAM模型并推理，即可完成目標(biāo)框的實(shí)例分割并且得到n個對應(yīng)的掩膜，然后對這n個掩膜取并集，結(jié)果記為m。

使用YOLOv8做前向推理（圖片來源:SAV）

然后使用SAM做一次全局自動分割，將此時得到的掩膜圖像記為m2。

使用SAM做全局自動分割（圖片來源:SAV）

由于YOLOv8無法檢測到它不能識別的物體，可以設(shè)置兩個超參數(shù)來確定新的物體，即未知區(qū)域與檢測區(qū)域的交并比r，以及未知區(qū)域的像素個數(shù)n。具體而言，按面積對m2中的區(qū)域作降序排序，依次取出其中的區(qū)域，然后分別與m計(jì)算交并比，若交并比r小于0.3且該區(qū)域的像素個數(shù)n大于100，則認(rèn)為該區(qū)域是一個新的物體。按照此方法處理m2中的所有區(qū)域，即可完成SAV分割單幅圖像的全部流程。

SAV分割單幅圖像（圖片來源:SAV）

視頻分割

SAV視頻分割的原理可以簡單描述為：

1.使用YOLOv8檢測某幀圖像中的所有目標(biāo)；

2.使用跟蹤算法預(yù)測后續(xù)幀中的目標(biāo)框；

3.根據(jù)檢測到的目標(biāo)框與當(dāng)前軌跡集合相關(guān)聯(lián)，獲得每個目標(biāo)的id；

4.將目標(biāo)矩形框輸入SAM，進(jìn)行實(shí)例分割。

重復(fù)上述1~4步驟，實(shí)現(xiàn)視頻分割。

SAV視頻分割算法框架圖(圖片來源:SAV)

效果展示

圖像分割對比(圖片來源:SAV)

MOT挑戰(zhàn)賽視頻分割與跟蹤(圖片來源:SAV)

可以看出，SAV能夠很好地解決文章開頭提到的SAM存在的問題。

潛在用途

無人駕駛。特斯拉無人駕駛汽車經(jīng)常會把樹樁或者墓碑當(dāng)成行人，這個對于無人駕駛來說是不利的，因?yàn)槿绻请娋€桿子在路邊的話，我們沒必要讓無人駕駛汽車減速，但如果是一個行人準(zhǔn)備過馬路的話，那么就需要預(yù)先作出處理。SAV可以有效地解決這種問題。

無人機(jī)自主飛行。無人機(jī)自主飛行在密林中或者建筑物中，需要對所有的目標(biāo)進(jìn)行識別，并且做出恰當(dāng)?shù)姆磻?yīng)。SAV將大大提高這種智能水平。

機(jī)器人視覺。機(jī)器人行走在工廠或者街上的時候，如果不認(rèn)得障礙物，不認(rèn)得道路，不認(rèn)得其他移動的物體，那將寸步難行。SAV將為機(jī)器人裝上智慧的眼睛。

重點(diǎn)區(qū)域防護(hù)?？蛇B續(xù)追蹤和識別每個目標(biāo)，結(jié)合其他的算法對目標(biāo)的身份和行為進(jìn)行識別。確保重點(diǎn)區(qū)域的的每一個人，每一輛車都在管控的范圍內(nèi)。

公司簡介：

云創(chuàng)數(shù)據(jù)是處于軟件和信息技術(shù)服務(wù)行業(yè)的高新技術(shù)企業(yè)，針對爆炸式增長的大數(shù)據(jù)人工智能需求，公司研發(fā)了具有自主知識產(chǎn)權(quán)的 “智能存儲平臺”、“大數(shù)據(jù)處理平臺”和“人工智能云平臺”三大平臺，并在此基礎(chǔ)上以 算法生成模型，由模型驗(yàn)證算法，研發(fā)出可以不斷自我優(yōu)化的“核心算法+模型庫”智能成 長模式，作為企業(yè)技術(shù)核心能力。最終，構(gòu)建出具有特色和競爭力的核心產(chǎn)品體系，面向不同市場領(lǐng)域客戶提供完整的大數(shù)據(jù)存儲與智能處理解決方案，形成了自底而上的大數(shù)據(jù)人工智能全產(chǎn)業(yè)鏈架構(gòu)。