阴精巨门星君的头像 ID: 58163955384

阴精巨门星君

HelloWorld 社区成员

2152984131

文章5
个人网站0
加入社区2025

如何估算transformer模型的显存大小

在微调GPT/BERT模型时,会经常遇到“cudaoutofmemory”的情况。这是因为transformer是内存密集型的模型,并且内存要求也随序列长度而增加。所以如果能对模型的内存要求进行粗略的估计将有助于估计任务所需的资源。如果你想直接看结果,可以跳到本文最后。不过在阅读本文前请