- 主题:国家智库现在对AI发展的观点
五个判断全错也怪不容易的。2010年以前大学里学相关专业的人，具有最强的蜜汁自信。
【 在 wlazy 的大作中提到: 】
: 周末跟几个部里领导开会听说的几个顶层观点
: 1.Transformer的幻觉等问题已经使得应用落地发生了瓶颈，基于文本生成的AI，目前使用能力有限
: 2.要构建新一代模型架构，具备因果关系的识别和推理能力，彻底消灭幻觉
: 3.AI要具备掌握物理世界的规则（基础物理/化学等理论），能够与物理世界形成互动
: 4.以agent为基础，推动多模型复杂场景落地，大小模型结合，通用模型和专用模型结合，多模态结合，数理模型/数值计算模型结合
: 5.各个部委，要建立行业垂直模型，加大应用开发
--
修改:Jacqueline FROM 116.230.17.*
FROM 116.230.17.*
【 在 wlazy 的大作中提到: 】
: 说说你的观点
: 1.Transformer的幻觉等问题已经使得应用落地发生了瓶颈，基于文本生成的AI，目前使用能力有限
Transformer也许（很可能）不是AI的终极形态，但从最近一两年的飞速发展看，
离榨干它的上限还差得很远。编程就是文本生成，目前我们不知道它的上限在哪里。
: 2.要构建新一代模型架构，具备因果关系的识别和推理能力，彻底消灭幻觉
机械决定论入脑的一代砖家想当然的想法。事实上新千年以后的机器学习全部基于概率
统计，神经科学和认知心理学近年来的进展，更支持大脑是基于某种概率决策的观点。
人类一样存在高幻觉，彻底消灭幻觉是不切实际的空想。
: 3.AI要具备掌握物理世界的规则（基础物理/化学等理论），能够与物理世界形成互动
世界一流的物理学家/化学家没有一个敢说自己已经掌握了物理世界的规则。事实上
大多数物理化学规律能够到达唯象描述的层次，你已经能拿诺贝尔奖了。况且很多偏微分
方程可以列得很清楚的东西只能拿数值方法求解，离搞清楚运行规律还差得很远。
AI不能也不必追求掌握物理世界的规则，生物进化了几十亿年，不掌握这些规则并没有
影响它们的存续和演化。
: 4.以agent为基础，推动多模型复杂场景落地，大小模型结合，通用模型和专用模型结合，多模态结合，数理模型/数值计算模型结合
目前工程界的经验表明，总的来说，通用模型通杀一切，世界知识越广博的模型
在专项技能上也能做得越深。最近的例子就是六小虎，做通用模型的现在还活跃在一线，
做专用的骨头渣都不剩了。。。
: 5.各个部委，要建立行业垂直模型，加大应用开发
同上。
--
FROM 116.230.17.*
【 在 adamhj 的大作中提到: 】
: : 【 在 wlazy 的大作中提到: 】
: : : 说说你的观点
: : : 1.Transformer的幻觉等问题已经使得应用落地发生了瓶颈，基于文本生成的AI，目前使用能力有限
: :
: : Transformer也许（很可能）不是AI的终极形态，但从最近一两年的飞速发展看，
: : 离榨干它的上限还差得很远。编程就是文本生成，目前我们不知道它的上限在哪里。
: :
: 我觉得这个原话其实没多大问题，编程是一个高度依赖文本的领域，所以应用效果好，国家更希望要的效果是用在工业生产中，一定程度上替代人，从这个角度讲transformer的可用性非常有限
工业机器人，包括自动驾驶，目前是因为视觉和身体感觉在原理上没搞定。现有方法的缺陷
是明显的，但我们没有办法判断未解决问题的难度，也许很难，也许跟大语言模型一样只差
几个天才的灵机一动以及工业界一窝蜂的跟进。不过这件事显然没有办法计划出来，不是说
今天你一声令下，明天那几个天才就冒出来了。word2vec这种天才想法出来之前，大家那么
多年都在那儿扎堆编字典画带权图，甚至都没人往那儿去想，这种东西怎么计划？
--
修改:Jacqueline FROM 116.230.17.*
FROM 116.230.17.*
【 在 wlazy 的大作中提到: 】
: 他们讲的物理规则不是你说的那个
: 有个处长特别强调，牛顿定律还有效，目前大模型的智力能够理解这一层还都远远不够。他们预期是大模型能够自主做数理逻辑推理和计算，并且是非常严谨的，才能给出准确决策跟物理世界互动。
: 我理解他们考虑的主要还是在工业领域应用
你去问他几个数学物理问题就知道了，GPT的数学物理能力早就碾压99%的专家了
（剩下那1%是真正有独创精神的科学家，目前AI还比不上）。
你让他算广义相对论，黎曼几何，秒杀所谓专家。
目前是理解外部世界的机制有问题，比如视频生成时不时会出现违反物理定律的物体穿越，
重力消失等等，光影不对就更不必说了。这是因为我们在视觉和身体感觉的原理方面仍然
处于很低级的认知阶段。
当然你不要告诉我，这些所谓“砖家”一不懂英语，二不会用LaTeX敲数学物理公式。。。
--
修改:Jacqueline FROM 116.230.17.*
FROM 116.230.17.*
你是不是上下文比AI还短
【 在 beinghalf 的大作中提到: 】
: 真能装，一句为什么错都说不出来，非要装成很懂的样子
--
FROM 116.230.17.*
不再回复正在被AI淘汰的人类的帖子，主贴里那些智库砖家也一样，浪费时间，毫无意义。
【 在 beinghalf 的大作中提到: 】
: 你第一个回帖不就这样吗？怎么不说上下文比AI短了？
--
FROM 116.230.17.*
非常典型的被AI淘汰人类的特征：话都说不清楚，AI把他判定为智力完全不值得重视的
人类谈话对手，他还不服气。
【 在 beinghalf 的大作中提到: 】
: AI界最头疼的就是你这种看似懂但所有东西都只会在文本层面表现得很牛逼一样，这是刚刚和火山引擎聊完的一致结论
--
FROM 116.230.17.*
股市里有句话：用头寸表达你的观点，做空英伟达，否则你的观点就是nothing
【 在 chaogzq 的大作中提到: 】
: 算力党除了嘴硬也说不出别的了，会有撞墙的一天的
: 发自「今日水木 on V2415A」
--
修改:Jacqueline FROM 116.230.17.*
FROM 116.230.17.*