HelloWorld 开发者社区

科技资讯

全部资讯

开源项目

全部项目

推荐好文

蚂蚁技术研究院联合CCF发布首支“软硬协同专项”基金,攻关隐私计算核心技术

8月4日,第二届CCF计算机系统大会(以下简称“CCFSys2023”)在江西南昌举行。大会期间,CCF蚂蚁科研基金软硬协同专项(以下简称“软硬协同专项”)正式对外发布,基金面向计算系统相关领域的专家学者开放11项课题,聚焦隐私计算领域的关键核心技术突破,发挥学界科研攻关优势,促进科技成果落地转

Meta-Transformer 多模态学习的统一框架

MetaTransformer是一个用于多模态学习的新框架,用来处理和关联来自多种模态的信息,如自然语言、图像、点云、音频、视频、时间序列和表格数据,虽然各种数据之间存在固有的差距,但是MetaTransformer利用冻结编码器从共享标记空间的输入数据中提取高级语义特征,不需要配对的多模态训练

DeepSpeed-MoE:训练更大及更复杂的混合专家网络

这是微软发布在2022ICML的论文,MoE可以降低训练成本,但是快速的MoE模型推理仍然是一个未解决的问题。所以论文提出了一个端到端的MoE训练和推理解决方案DeepSpeedMoE:它包括新颖的MoE架构设计和模型压缩技术,可将MoE模型大小减少3.7倍;通过高度优化的推理系统,减少

正在加载更多文章…

加载更多

已加载文章中没有匹配内容,可继续加载更多。