计算LLM需要的GPU内存有一个公式，您可以手工计算，也可以通过小曹已开发好的工具进行计算，非常简单，只需要输入P和Q两个参数就可以自动输出结果。
2024-09-19T09:15:40.png
2024-09-19T09:17:27.png
传送门：
http://111.229.177.194:3001/calculator

最后修改：2024 年 09 月 19 日
© 允许规范转载
如果觉得我的文章对你有用，请随意赞赏