您好,欢迎访问一九零五行业门户网

CVPR 2023论文总结!CV最热领域颁给多模态、扩散模型

一年一度的cvpr即将在6月18-22日加拿大温哥华正式开幕。
每年,来自世界各地的成千上万的cv研究人员和工程师聚集在一起参加顶会。这个久负盛名的会议可以追溯到1983年,它代表了计算机视觉发展的巅峰。
目前,cvpr的h5指数所有会议或出版物中位列第四,仅次于《自然》、《科学》和《新英格兰医学杂志》。
前段时间,cvpr公布了论文接收结果。根据官网上统计数据,一共接受论文9155篇,录用2359篇,接受率为25.8%。
此外,还公布了12篇获奖候选论文。
那么,今年的cvpr有哪些亮点?从录用论文中我们又能看到cv领域有哪些趋势?
接下来一并揭晓。
cvpr一览初创公司voxel51就所有被接收论文列表中进行了分析。
先来整体看一张论文标题的汇总图,每个字的大小与数据集中出现的频率成正比。
简要说明
- 2359篇论文被接收(9155份论文提交)
- 1724篇arxiv论文
- 68份文件提交到其他地址
每篇论文的作者
- cvpr论文的平均作者约为5.4人
- 论文当中作者最多的是: 「why is the winner the best?」有125位作者
- 有13篇论文只有一个作者。
主要arxiv分类
在1724篇arxiv论文中,有1545篇,或者说接近90%的论文将cs.cv列为主要类别。
cs.lg位列第二,有101篇。eess.iv (26)和 cs.ro (16)也分得一杯羹。
cvpr 论文的其他类别包括: cs.hc,cs.cv,cs.ar,cs.dc,cs.ne,cs.sd,cs.cl,cs.it,cs.cr,cs.ai,cs.mm,cs.gr,eess.sp,eess.as,math.oc,math.nt,physics.data-an和stat.ml。
「meta」数据
- 「数据集」和「模型」这2个词共同出现在567篇摘要中。「数据集」在265篇论文摘要中单独出现,而「模型」则单独出现了613次。只有16.2%的 cvpr接收论文没有包含这两个词。
- 根据cvpr论文摘要,今年最受欢迎的数据集是imagenet(105),coco(94),kitti(55)和cifar(36)。
- 28篇论文提出了一个新的「基准」。
缩写词比比皆是
似乎没有首字母缩略词就没有机器学习项目。2359篇论文中,1487篇的标题有多个大写字母的缩略词或复合词,占比63%。
这些首字母缩略词中有一些很容易记住,甚至可以脱口而出:
- clamp: prompt-based contrastive learning for connecting language and animal poseclamp
- pats: patch area transportation with subdivision for local feature matching
- circle: capture in rich contextual environments
有些则要复杂得多:
- siedob: semantic image editing by disentangling object and background
- fjmp: factorized joint multi-agent motion prediction over learned directed acyclic interaction graphsfjmp
他们中的一些人似乎在首字母缩略词构建上借鉴了别人的创意:
- scotch and soda: a transformer video shadow detection framework(荷兰流行潮牌scotch & soda)
- excalibur: encouraging and evaluating embodied exploration(ex咖喱棒,笑)
什么最热?除了2023年的论文标题,我们抓取了2022年所有接受的论文标题。从这两个列表中,我们计算了各种关键词的相对频率,从让大家对什么是上升趋势、什么是下降趋势有更深入的了解。
模型2023年,扩散模型(diffusion models)占据了主导地位。
扩散模型
随着stable diffusion和midjourney等图像生成模型的走红,扩散模型发展的火热趋势也就不足为奇了。
扩散模型在去噪、图像编辑和风格转换方面也有应用。把所有这些加起来,到目前为止,它是所有类别中最大的赢家,比去年同期增长了573% 。
辐射场
神经辐射场(nerf)也越来越受欢迎,论文中使用单词「radiance」增加了80% ,「nerf」增加了39% 。nerf已经从概念验证转向编辑、应用和训练过程优化。
transformers
「transformer」和「vit」的使用率下降并不意味着transformer模型过时,而是反映了这些模型在2022年的主导地位。2021年,「transformer」这个词只出现在37篇论文中。2022年,这个数字飙升至201。transformer不会很快消失。
cnn
cnn曾经是计算机视觉的宠儿,到了2023年,似乎失去了它们的优势,使用率下降了68%。许多提到 cnn 的标题也提到了其他模型。例如,这些论文提到了cnn和transformer:
- lite-mono: a lightweight cnn and transformer architecture for self-supervised monocular depth estimationlite-mono
- learned image compression with mixed transformer-cnn architectures
任务掩码任务和掩码图像建模相结合,在cvpr中占据了主导地位。
生成
传统的判别任务,如检测、分类和分割并没有失宠,但是由于生成应用的一系列进步,它们在cv的份额正在缩小,包括「编辑」、「合成」以及「生成」的上升就证明这点。
掩码
关键字「mask」比去年同期增长了263% ,在2023年被接收的论文中出现了92次,有时在一个标题中出现了2次。
- sim: semantic-aware instance mask generation for box-supervised instance segmentationsim
- dynamask: dynamic mask selection for instance segmentationdynamask
但大多数(64%)实际上指的是「掩码」任务,包括8个「掩码图像建模」和15个「掩码自动编码器」任务。此外,还有8篇出现「掩码」。
同样值得注意的是,3篇带有单词「mask」的论文标题实际上指的是「无掩码」任务。
零样本vs小样本
随着迁移学习、生成方法、提示和通用模型的兴起,「零样本」学习正在获得关注。与此同时,「小样本」学习比去年有所下降。然而,就原始数字而言,至少目前而言,「小样本」(45)比「零样本」(35)略有优势。
模态2023年,多模态和跨模态应用加速发展。
边界模糊
虽然传统计算机视觉关键词如「图像」和「视频」的频率相对保持不变,但「文本」/「语言」和「音频」出现的频率更高。
即使「多模态」这个词本身没有在论文标题中出现,也很难否认计算机视觉正在走向多模态的未来。
这在视觉-语言任务中尤其明显,正如「开放」、「提示」和「词汇」的急剧上升所表明的那样。
这种情况最极端的例子是「开放词汇」这个复合词,它在2022年只出现了3次,但在2023年出现了18次。
深入挖掘cvpr 2023论文标题中的关键词
点云9
三维计算机视觉应用正在从以二维图像推断3d信息(「深度」和「立体」)转向直接在3d点云数据上进行工作的计算机视觉系统。
cv标题的创造力如果不将chatgpt纳入其中,2023年任何与机器学习相关的全面报道都是不完整的。我们决定让事情变得有趣,并使用chatgpt来寻找cvpr 2023中最有创意的标题。
对于每一篇上传到arxiv的论文,我们抓取了摘要,并要求 chatgpt (gpt-3.5 api)为相应的cvpr论文生成一个标题。
然后,我们将这些由chatgpt生成的标题和实际的论文标题,使用openai的text-embedding-ada-002模型生成嵌入向量,并计算chatgpt生成的标题和作者生成的标题之间的余弦相似度。
这可以告诉我们什么?chatgpt越接近实际的论文标题,这个标题就越可预测。换句话说,chatgpt的预测越「偏」,作者给论文命名的「创造性」就越强。
嵌入和余弦相似度为我们提供了一个有趣的,尽管远非完美的,量化方法。
我们按照这个指标对论文进行了排序。话不多说,下面是最具创造性的标题:
实际的标题:tracking every thing in the wild
预测的标题:disentangling classification from tracking: introducing teta for comprehensive benchmarking of multi-category multiple object tracking
实际的标题:learning to bootstrap for combating label noise
预测的标题:learnable loss objective for joint instance and label reweighting in deep neural networks
实际的标题:seeing a rose in five thousand ways
预测的标题:learning object intrinsics from single internet images for superior visual rendering and synthesis
实际的标题:why is the winner the best?
预测的标题:analyzing winning strategies in international benchmarking competitions for image analysis: insights from a multi-center study of ieee isbi and miccai 2021
以上就是cvpr 2023论文总结!cv最热领域颁给多模态、扩散模型的详细内容。
其它类似信息

推荐信息