感觉现在主流的软件还是用不好所谓的AI处理器里的加速器。我现在用的 Intel AlderLake 平台装一张 AMD Instinct MI50 32G, 跑个 gpt-oss-20b 可以有 80token/s 以上的生成速度，不知道新的 x86 平台没独显能不能跑出这个速度。

【 在 natsel 的大作中提到: 】
: 跑大模型，当然要买 AMD Ai 处理器，自带专为人工智能计算而设计的核心。
: 而且这个处理器是AMD对抗 nvidia 显卡产品线，采用的也是最新技术，十年八年内不会淘汰。
: 那些古董处理器架构，本来就不是为Ai设计的，怎么升级也不管用。
: ...................
--
FROM 124.64.19.*