文章

SparK 用稀疏掩码为卷积设计 Bert 预训练

出品人:Towhee技术团队顾梦佳稀疏掩码建模(SparK)是第一个BERTstyle的预训练方法,无需修改主干即可直接在任何卷积网络上,克服了它们无法处理不规则的掩码输入。该框架遮盖图像的一部分并学习恢复它,通过预训练卷积网络编码器实现分层掩码图像建模。SparK可

已加载文章中没有匹配内容,试试其他关键词或清空搜索。