- 主题:想在本地试试unsloth的GLM5.2
BMML
--
FROM 111.162.220.*
200多G？大佬有服务器吧？
--
FROM 221.223.198.*
内存涨价前，老板闹着要跑本地deepseek r1
本地青本着抠门原则采购了700+GB的内存
【 在 siwajiao 的大作中提到: 】
: 200多G？大佬有服务器吧？
--
FROM 221.198.65.*
太牛逼了。可能专业显卡怎么调用内存呐？
【 在 tgfbeta 的大作中提到: 】
: 内存涨价前，老板闹着要跑本地deepseek r1
: 本地青本着抠门原则采购了700+GB的内存
--
FROM 118.186.7.*
显存，当然装不下啦
所以得offload到内存呀
显卡不专业，当时就是俩3090
存不下的扔给EPYC 的cpu算
【 在 siwajiao 的大作中提到: 】
: 太牛逼了。可能专业显卡怎么调用内存呐？
--
修改:tgfbeta FROM 221.198.65.*
FROM 221.198.65.*
哦哦，能改到内存里呀。哈哈，才知道。
【 在 tgfbeta 的大作中提到: 】
: 显存，当然装不下啦
: 所以得offload到内存呀
: 显卡不专业，当时就是俩3090
: ...................
--
FROM 118.186.7.*