应该不至于，hw是生产环境，gpustack是一直加载的

云主机反而是刚装好。

另外，llm用的不是相同的模型，有一个是nl2sql的


【 在 adamhj 的大作中提到: 】
: 我看这个测试华为的数据里，token数和时间不是线性的，感觉像是载入模型花了不少
: 时间
: 是不是云环境里模型的文件在内存里有缓存，在华为的机器测的时候没有先缓存？
--
修改:iwannabe FROM 111.55.204.*
FROM 111.55.204.*