- 主题:amd的ai max 395靠谱吗？
有点小贵，蹲降价吧
【 在 D40s 的大作中提到: 】
: cpu+128g ram，动态分配96g显存，可以跑大模型。这个用于小型本地部署是不是一个经济实惠的方案？就是好像没几家大厂出产品，hp和几个小公司
: 发自「今日水木 on 23013RK75C」
--
FROM 114.249.193.*
主要395现在就是跑gpt-oss:120b这一个需求，号称能跑到30t/s以上。
然后现在的破机器上七八个t/s也不是不能忍，所以说服自己花这么一大笔钱
满足这一个需求有点难。。。
【 在 cppbuilder 的大作中提到: 】
: 主要是能做简单的推理，对标mac studio和4090肯定是性价比了
--
FROM 114.249.49.*
不低了，瓶颈在大脑，根本跟不上AI。不过现在有云端免费的还快得多，
所以395又成了鸡肋。。。
【 在 hgoldfish 的大作中提到: 】
: 30 tps 这么低的性能，能实用吗？
--
FROM 116.230.17.*