- 主题:巨无霸大模型的神秘涌现能力,将重塑地球
现在已经不讲究参数了
【 在 Barbarossa 的大作中提到: 】
: 拥有数万亿参数的大模型,其涌现能力无与伦比。大模型的涌现能力(Emergent Abilities),是指模型参数规模、训练数据量或训练步数突破某个临界阈值后,突然展现出小规模模型中不存在或极微弱的高阶复杂能力,性能呈非线性“跃迁”而非线性提升,类似物理学中的“相变”。
: 不过我国算力中心GPU卡都太少,涌现能力强的可能在国外。比如马斯克的巨兽算力中心,正在野蛮扩张,H100达百万量级。目前我国算力都还仰人鼻息,缺算力卡将长期存在。
: 字节跳动:约36-40万张(国内),含H100/H200/H20/A100,训练占比高;海外约60万张,合计约100万张,为国内最大英伟达卡持有方。阿里巴巴:约25万张,以A100/H20/H200为主,支撑阿里云与通义大模型,推理占比高。
: ...................
--
FROM 119.80.6.*
后两句几乎是必然的
现在很多人都看到了未来趋势啊
【 在 huipj 的大作中提到: 】
: 不担心大模型 毁灭人类,担心大模型让好多人失业,然后老无所依
--
FROM 119.80.6.*
没经历过那时候,那时候刚开放,机会很多吧,很多人都很有干劲,都有理想
现在都没理想了,再过20年,一半老年人的社会,太惨了
都只能自救
【 在 huipj 的大作中提到: 】
: 惶惶然不可终日~ 是不是8、90年代 微型电脑出现时的打工人的心态一样?还是那时候都还是铁饭碗,根本不担心
--
FROM 119.80.6.*
看最近的反腐事件 财富以后越来越集中
分化严重
【 在 huipj 的大作中提到: 】
: 先来次大型的通货膨胀,将各人手中余财震没,通过股灾将金融性资产腰斩,再通过税收把房产打没,最后养老金破产~ 大批青壮年躺平,老年人乞讨为生
--
FROM 119.80.6.*