- 主题:请问现在gpu的显存一般是多少了?
我现在4090专用24576兆
--
修改:TexasPotato FROM 116.128.189.*
FROM 116.128.189.*
搜了一下,4090 24g,5090 32g
【 在 liangf 的大作中提到: 】
: 消费级的N卡正常最多就是24GB吧
: 魔改的不算
--
FROM 116.128.189.*
那个89不是GPU的
【 在 meiqiuwang 的大作中提到: 】
: 4090魔改的也才48G,你这个89怎么来的
: :
--
FROM 116.128.189.*
请问魔改的,计算速度会一样快吗?
【 在 meiqiuwang 的大作中提到: 】
: 羡慕你,有4090
: :
--
FROM 116.128.189.*
请问怎么知道GPU有没有nv link?
【 在 liangf 的大作中提到: 】
: 加量了
: 消费卡最大的问题是从40系开始阉割掉了NVLink
--
FROM 116.128.189.*
优化
用gpu速度能够快5到10倍。但是24G有点不太够用
【 在 liangf 的大作中提到: 】
: 你这是要干啥?
--
FROM 116.128.189.*
搜了一下,7-8万块
【 在 liangf 的大作中提到: 】
: 最新一代balckwell架构的,单卡有96GB显存
--
FROM 116.128.189.*
8万块钱GPU,我觉得租不如买
【 在 liangf 的大作中提到: 】
: 别折腾了,自己玩玩随便,干活就去租GPU服务器吧
--
FROM 116.128.189.*
大规模训练,需要数千个gpu,那光gpu就得好几个亿
For small-scale models and datasets, a single high-performance GPU or a few GPUs might suffice. However, larger, more complex models and datasets will necessitate multiple GPUs, potentially even hundreds or thousands in a distributed system.
【 在 liangf 的大作中提到: 】
: 我以为你要搞大规模训练呢
--
FROM 116.128.189.*