RM新时代有限公司

近日，ICCV2023 細粒度行為檢測挑戰賽（Open Fine Grained Activity Detection Challenge）順利結束，云從科技在行為分類(lèi)賽道（以下簡(jiǎn)稱(chēng)OpenFAD23-ICCV23）中斬獲冠軍。

挑戰賽中，云從從容大模型展示了對多種模態(tài)信息的優(yōu)秀理解和處理能力，從早稻田大學(xué)、軟銀等國內外多家知名企業(yè)、科研機構中脫穎而出，刷新世界紀錄，再次展示了云從科技在多模態(tài)大模型領(lǐng)域的技術(shù)實(shí)力。

表1： 云從科技在OpenFAD23-ICCV23數據集上的表現

專(zhuān)注領(lǐng)先技術(shù)研發(fā) 推動(dòng)視覺(jué)大模型落地應用

3D行為識別技術(shù)相比2D圖像識別增加了時(shí)間維度的建模，是以人為中心的感知任務(wù)的重要組成部分，一直是人工智能領(lǐng)域的研究熱點(diǎn)。

大模型具有強大的表征能力，并且在多模態(tài)（如語(yǔ)言、音頻、圖像、視頻、視覺(jué)語(yǔ)言）上得到驗證，云從結合實(shí)際業(yè)務(wù)落地需求研發(fā)了基于時(shí)空建模的3D行為識別基礎大模型。

該模型基于Vision Transformer結構進(jìn)行設計，通過(guò)自注意力機制將空間維度和時(shí)間維度的信息進(jìn)行充分關(guān)聯(lián)。

在預訓練階段，采用掩碼重建的方式進(jìn)行自監督學(xué)習，為了讓模型同時(shí)學(xué)到場(chǎng)景語(yǔ)義和時(shí)序動(dòng)作，采用偏場(chǎng)景的多模態(tài)語(yǔ)義特征和偏時(shí)序的動(dòng)作特征同時(shí)做為教練模型（teacher）進(jìn)行多分支特征蒸餾，使得模型同時(shí)具有場(chǎng)景語(yǔ)義和時(shí)序動(dòng)作理解能力。

基于大模型預訓練獲得的基礎時(shí)空特征，能夠廣泛用于視頻檢索、視頻問(wèn)答、3D行為識別、行為關(guān)鍵幀檢測等下游任務(wù)中。在下游任務(wù)微調（fine-tune）階段，通過(guò)幀間信息互補的方式自適應去除模型冗余的部分，極大提升了下游任務(wù)的訓練和推理速度。

表2：云從科技在3D行為識別領(lǐng)域權威數據集Something-Something V2上的表現

本次OpenFAD23-ICCV23數據集包含491個(gè)日常生活中的人類(lèi)行為，部分行為之間只有極其微小的差別，需要從視頻中抽取多幀畫(huà)面并采用3D時(shí)空建模算法進(jìn)行分析。

云從科技從容大模型憑借在視覺(jué)領(lǐng)域的深厚積累，在OpenFAD23-ICCV23數據集粗粒度（coarse）行為類(lèi)別上精度達到93.87%，在細粒度（fine-grain）行為類(lèi)別上精度達到91.96%，識別精度相比上一屆OpenFAD22的冠軍方案高出4%以上。

準確率的大幅提升表明大模型在時(shí)空關(guān)系特征建模上的優(yōu)勢，意味著(zhù)3D行為識別算法已經(jīng)邁入多模態(tài)大模型時(shí)代，將極大提升該技術(shù)的商業(yè)應用價(jià)值。目前，該技術(shù)已在金融、安防等領(lǐng)域得到了廣泛應用，例如人員動(dòng)作合規識別，打架、跌倒等行為檢測。

多次刷新紀錄 構建多模態(tài)大模型技術(shù)閉環(huán)

今年以來(lái)，云從科技多次在多模態(tài)領(lǐng)域實(shí)現技術(shù)突破。

6月

云從在CVPR 2023提出視覺(jué)大模型自監督學(xué)習方法，僅需過(guò)往1%的數據量或者無(wú)需真實(shí)數據便可以達到相同的效果；

7月

云從行人基礎大模型在PA-100K、RAP V2、PETA、HICO-DET四個(gè)數據集成為世界第一，商品基礎大模型在MUGE、Product1M 兩個(gè)規模最大的開(kāi)源中文多模態(tài)商品檢索數據集上刷新世界紀錄；

8月

云從視覺(jué)-語(yǔ)言跟蹤大一統模型在4個(gè)富有挑戰性的跨模態(tài)數據集（TNL2K, LaSOT, LaSOTExt, WebUAV-3M）上刷新了四項世界紀錄；

這使得從容大模型能夠以更好的交互性能，應用于金融、安防、政務(wù)、交通、能源、教育、醫療、文娛等行業(yè)領(lǐng)域。

那么多模態(tài)到底意味著(zhù)什么？

當你輸入一張照片，并用語(yǔ)音或文字“指揮”AI將其部分摳圖修改，并發(fā)送給朋友時(shí)，它能立即理解并完成指令。

多模態(tài)交互降低了AI使用的門(mén)檻，使AI有望成為萬(wàn)千大眾都能使用的生產(chǎn)工具和個(gè)人助理。

如今，多模態(tài)大模型已成為大模型邁向通用人工智能（AGI）目標的下一個(gè)前沿焦點(diǎn)，云從科技持續專(zhuān)注多模態(tài)技術(shù)研發(fā)與儲備，推動(dòng)視覺(jué)、語(yǔ)言、音頻等技術(shù)的邊界融合，為更多行業(yè)帶來(lái)創(chuàng )新與變革。