【 在 knann 的大作中提到: 】
: 看预算吧，按照deepseek官方文件，显卡最少需要3060以上，是能用的基础。
: 如果是低端应用，1-5个人使用，模型规模比较小，推荐的是4070ti显卡+7600x的cpu，16G显存，能力最大能支持到14b，实际跑不会太爽。可以看看联想或者惠普的台式机，现在补贴减2000，1.2万能拿下。
: 如果是中端一点的应用，30人以下的使用规模，推荐是4090或者5090的显卡，24G显存，能力最大能支持32b，也就是有还可以的逻辑推理能力了，会卡。但能爽跑14b，基本只能攒机，显卡得抢，很难买到原价的。讲道理2万多能拿下，但实际现在可能得3.5万。
: ...................

这种非满血的量化模型， 只能当玩具玩玩， 给的问题给你胡乱达， 你让它随便毕竟两款笔记本， 或者两款显示器， 两款主板的参数或者优势劣势， 它都张冠李戴， 胡乱编。
--
FROM 124.126.2.*

多大内存的xavier?

【 在 lvsoft 的大作中提到: 】
: 32g的模型，买个jetson xavier只要2k出头，满载功耗30w，跑32B一秒都能有3个token
: 呢。
: 用自己机器跑这个毫无意义
--
FROM 117.128.58.*

至少200万起....还会更新换代，慢慢融化融化

不折腾

【 在 FuZu 的大作中提到: 】
:
: 哥，这种得多少钱啊？
:
: 今天有没有什么大船，洋垃圾靠岸啊，好想上车。
: 【 在 LYMing1986 的大作中提到: 】
--
FROM 114.246.236.*

挖坟可耻。我这台xavier已经落灰了...
现在整双3090跑qwen3.5 27b
【 在 selenita 的大作中提到: 】
: 多大内存的xavier?
:
--
FROM 116.233.45.*