- 主题:找到节省资源的本地模型了
请问40TOPS的intel ultra7 处理器这个算力高吗?可以运行很多本地的模型吗
【 在 RAV4 的大作中提到: 】
: 之前一直用的7b 8b版本 风扇呼呼的
: 4b的也响 谁让没显卡哪
: 现在用了0.5b 0.4b版本
: 太快了
: --
:
发自「今日水木 on iPhone SE 2」
--
FROM 114.87.76.*
4b 合适 7 8确实没啥必要
【 在 RAV4 的大作中提到: 】
: 之前一直用的7b 8b版本 风扇呼呼的
: 4b的也响 谁让没显卡哪
: 现在用了0.5b 0.4b版本
: 太快了
: --
:
--发自 ismth(丝滑版)
--
FROM 153.0.153.*
正式的就不怕花钱了
【 在 scramjet 的大作中提到: 】
: 生产环境下根本没法用
: 我们到目前为止可以在生产环境下部署的最小参数模型还是 qwen 8b量化到Q8
--
FROM 119.80.6.*