不同 batch_size 生成的 vector 不一样
文章目录
之前发现,在不同设备上,推理生成的向量会不一样
比如在同一台电脑是,使用 CPU 生成的向量和 GPU 生成的向量
换一台电脑,这台电脑的 CPU 生成的向量和另一台电脑 CPU 生成的向量也不一样
现在我还发现,一样的电脑,一样的 CPU,但是 batch_size 不一样,生成的向量也可以不一样

这没有关系,因为生成的向量区别都到小数点后五六位了,所以,只要大致相同就好了
之前发现,在不同设备上,推理生成的向量会不一样
比如在同一台电脑是,使用 CPU 生成的向量和 GPU 生成的向量
换一台电脑,这台电脑的 CPU 生成的向量和另一台电脑 CPU 生成的向量也不一样
现在我还发现,一样的电脑,一样的 CPU,但是 batch_size 不一样,生成的向量也可以不一样

这没有关系,因为生成的向量区别都到小数点后五六位了,所以,只要大致相同就好了
评论
登录后参与技术讨论,分享你的经验与见解。
登录 / 注册暂无评论