HelloWorld 开发者社区

科技资讯

全部资讯

开源项目

全部项目

推荐好文

OREPA:阿里提出训练也很快的重参数策略,内存减半,速度加倍 | CVPR 2022

<blockquote论文提出了在线重参数方法OREPA,在训练阶段就能将复杂的结构重参数为单卷积层,从而降低大量训练的耗时。为了实现这一目标,论文用线性缩放层代替了训练时的BN层,保持了优化方向的多样性和特征表达能力。从实验结果来看,OREPA在各种任务上的准确率和效率都很不错<br/ 

GIT:斯坦福大学提出应对复杂变换的不变性提升方法 | ICLR 2022

<blockquote论文对长尾数据集中的复杂变换不变性进行了研究,发现不变性在很大程度上取决于类别的图片数量,实际上分类器并不能将从大类中学习到的不变性转移到小类中。为此,论文提出了GIT生成模型,从数据集中学习到类无关的复杂变换,从而在训练时对小类进行有效增强,整体效果不错<br/ 

正在加载更多文章…

加载更多

已加载文章中没有匹配内容,可继续加载更多。