HelloWorld 开发者社区

科技资讯

全部资讯

开源项目

全部项目

推荐好文

直击第二届CCF计算机系统大会,蚂蚁集团亮点抢先看

8月4日5日,第二届CCF计算机系统大会(CCFSys2023)将于江西南昌举行,大会以“智能时代的计算机系统:从研究到产业化”为主题,邀请十余位院士组成大会指导委员会,共话智能时代的计算机系统。会议期间将举办17个特色主题论坛,其中,《隐私计算软硬协同加速技术论坛》由蚂蚁集团主办。蚂蚁技术研究

DeepSpeed-MoE:训练更大及更复杂的混合专家网络

这是微软发布在2022ICML的论文,MoE可以降低训练成本,但是快速的MoE模型推理仍然是一个未解决的问题。所以论文提出了一个端到端的MoE训练和推理解决方案DeepSpeedMoE:它包括新颖的MoE架构设计和模型压缩技术,可将MoE模型大小减少3.7倍;通过高度优化的推理系统,减少

正在加载更多文章…

加载更多

已加载文章中没有匹配内容,可继续加载更多。