数据分的头像 ID: 47009657344

数据分

HelloWorld 社区成员

6325082442

文章4
个人网站0
加入社区2025

基于 Megatron-Core 的稀疏大模型训练工具:阿里云MoE 大模型最佳实践

概述随着大模型技术的不断发展,模型结构和参数量级快速演化。大模型技术的应用层出不穷。大模型展现惊人效果,但训练和推理成本高,一直是巨大挑战。模型稀疏化能降低计算和存储消耗。近期以Mixtral为代表的MoE(多专家混合)大模型证明了稀疏MoE技术能大幅降低计算量、提升推理速度,模型效果甚

四周年线上系列研讨会 | 聚众人之力,释开源能量

围绕FISCOBCOS开源四周年,社区将举办系列线上研讨会,与大家共话区块链开源治理、技术趋势、产业应用与人才培育。每场研讨会议题将面向社区征集,感兴趣的伙伴可联系小助手报名演讲。!(https://imghelloworld.osscnbeijing.aliyuncs.com/img

docker运行etcd集群

使用Docker创建运行Etcd集群下载安装安装Docker<blockquote自行解决</blockquote下载Etcd在这之前我犯个了糊涂,因为我使用的是<codemacos</code系统,直接拷贝了本机的<co

Spring Boot数据持久化之JdbcTemplate

在Java领域,数据持久化有几个常见的方案,有Spring自带的JdbcTemplate、有MyBatis,还有JPA,在这些方案中,最简单的就是Spring自带的JdbcTemplate了,这个东西虽然没有MyBatis那么方便,但是比起最开始的Jdbc已经强了很多了,它没有MyBatis功能那么