硅基的ds又慢效果又不好
阿里的ds速度快不说，效果比硅基的好不少，
都是满血r1，怎么能效果差这么多呢，应该都没有微调过啊
--
FROM 103.90.179.*

我是通过api调用的，
【 在 upndown 的大作中提到: 】
: 阿里的怎么用？有不通过api调用的方法吗？
:
--
FROM 103.90.179.*

硅基用的是华为的GPU，阿里估计用的是英伟达，
我以为GPU不用最多影响速度，难道效果也受影响么？
【 在 zhangcx 的大作中提到: 】
: 可能背后是不同的GPU
:
--
FROM 103.90.179.*

推理优化有好多啊，最影响效果的应该就是上了量化吧。速度影响因素就更多了。  
  
【 在 songyunhui (SongYunhui) 的大作中提到: 】
:  硅基的ds又慢效果又不好
:  阿里的ds速度快不说，效果比硅基的好不少，
:  都是满血r1，怎么能效果差这么多呢，应该都没有微调过啊
:  --
--
FROM 183.213.128.*

上量化？
【 在 ensonmj 的大作中提到: 】
: 推理优化有好多啊，最影响效果的应该就是上了量化吧。速度影响因素就更多了。  
--
FROM 103.90.179.*