- 主题:测试了一下不同硬件平台LLM的性能
我擦！
那这样看起来MAC才是最适合个人单蹦的啊
【 在 iwannabe 的大作中提到: 】
: 7w/120w/150w
:
--
FROM 159.220.20.*
个人最适合是租api
【 在 AmethystZh 的大作中提到: 】
: 我擦！
: 那这样看起来MAC才是最适合个人单蹦的啊
--
FROM 182.85.143.*
嗯，我的意思是 你的体感下来，本地部署的coder，会不会卡到影响体验
【 在 iwannabe 的大作中提到: 】
: 支持面很广的，gguf格式的都支持，去huggingface或者modelscope上找
:
--
FROM 106.11.31.*