671 8b 精度的，纯内存是512g还是1t来着。
后悔没这样搞一把啊，用一年多，现在卖掉就爽了


【 在 Barbarossa 的大作中提到: 】
: 没有独显也能工作？难以置信。你的大模型应该配个RTX5090比较合适，否则运行太慢了。三万块绰绰有余了
:
: 【 在 hut 的大作中提到: 】
: : 标题跟内容有什么关系呢
: : 内容就是第一段，说的就是缓存
: : 然后后面也没说什么模型压缩

--发自 ismth(丝滑版)
--
FROM 27.211.205.*