MENU

Fun & Interesting

如何知道一个大模型在推理和训练时需要多少显存?

AI开发者-就爱瞎鼓捣 21,819 lượt xem 11 months ago
Video Not Working? Fix It Now

为您介绍一个大模型所需显存的计算工具。通过它,您就可以快速了解一个模型是否可以在自己的显卡上使用了。

#LLM #大模型 #accelerate #estimate-memory #GPU #显存 #Huggingface #transformers #gemma #mistral #qwen

Comment