5060 5070的版本可以流畅跑7b 8b模型，再高的话14b这种就费劲了，显存是主要瓶颈。5070ti可以跑14b等更大的模型，12g显存是关键，在ai应用上性价比较高。一个简单的经验公式【总显存 ≈ 参数量 × 每个参数字节数 × 缓冲系数(1.2-1.5)】
--
FROM 117.129.93.*