大佬，楼主说的是70G的显存，70亿的参数




【 在 hut 的大作中提到: 】
: 而且他连大模型的参数数量大小也不是很明白
: 一会70g一会70亿的
: 再加上他没搞明白大模型的推理运行机理
: ...................
--
修改:TexasPotato FROM 116.128.189.*
FROM 116.128.189.*