- 主题:在用opencode+openai写代码
模型用的是本地Qwn3.5-35B,适合本地部署的还有什么模型,比较适合编程?
另外个人用国内的大模型哪个比较好用?
--发自 ismth(丝滑版)
--
FROM 36.60.61.*
本地模型目前只推荐qwen3.6-27b-fp8,
q8据说就不行了,我自己也主要测了fp8,其他量化版,包括各种社区蒸馏版我测了一个然后就不测了,这个东西能否稳定工作很重要,社区蒸馏版吹的nb哄哄,真这么简单官方早就做了。
【 在 chglele 的大作中提到: 】
: 模型用的是本地Qwn3.5-35B,适合本地部署的还有什么模型,比较适合编程?
: 另外个人用国内的大模型哪个比较好用?
--
FROM 180.115.110.*
好的,谢谢
【 在 lvsoft 的大作中提到: 】
: 本地模型目前只推荐qwen3.6-27b-fp8,
: q8据说就不行了,我自己也主要测了fp8,其他量化版,包括各种社区蒸馏版我测了一个然后就不测了,这个东西能否稳定工作很重要,社区蒸馏版吹的nb哄哄,真这么简单官方早就做了。
: 【 在 chglele 的大作中提到: 】
: : 模型用的是本地Qwn3.5-35B,适合本地部署的还有什么模型,比较适合编程?
: : 另外个人用国内的大模型哪个比较好用?
--发自 ismth(丝滑版)
--
FROM 122.96.36.*
这个模型多大显存能跑?
【 在 lvsoft 的大作中提到: 】
: 本地模型目前只推荐qwen3.6-27b-fp8,
: q8据说就不行了,我自己也主要测了fp8,其他量化版,包括各种社区蒸馏版我测了一个然后就不测了,这个东西能否稳定工作很重要,社区蒸馏版吹的nb哄哄,真这么简单官方早就做了。
--
FROM 124.16.226.*
要能跑不难,但要跑的爽还是6000 pro不折腾...
【 在 WCDMA 的大作中提到: 】
: 这个模型多大显存能跑?
--
FROM 223.104.145.*