周末跟几个部里领导开会听说的几个顶层观点
1.Transformer的幻觉等问题已经使得应用落地发生了瓶颈，基于文本生成的AI，目前使用能力有限
2.要构建新一代模型架构，具备因果关系的识别和推理能力，彻底消灭幻觉
3.AI要具备掌握物理世界的规则（基础物理/化学等理论），能够与物理世界形成互动
4.以agent为基础，推动多模型复杂场景落地，大小模型结合，通用模型和专用模型结合，多模态结合，数理模型/数值计算模型结合
5.各个部委，要建立行业垂直模型，加大应用开发
--
FROM 117.133.61.*

这是苏联各个部委独立建设有苏联特色的独联网的先进经验总结吗？
【 在 wlazy 的大作中提到: 】
: 周末跟几个部里领导开会听说的几个顶层观点
: 1.Transformer的幻觉等问题已经使得应用落地发生了瓶颈，基于文本生成的AI，目前使用能力有限
: 2.要构建新一代模型架构，具备因果关系的识别和推理能力，彻底消灭幻觉
: ...................
--
修改:tgfbeta FROM 125.38.176.*
FROM 125.38.176.*

反正世界模型吧
学术界只是有这个看法
突破还基本没有
【 在 wlazy 的大作中提到: 】
: 说说你的观点
--
FROM 125.38.176.*

笑死我了，这是为了申请预算花钱而憋出的观点吧？纯为政治服务
【 在 wlazy 的大作中提到: 】
: 周末跟几个部里领导开会听说的几个顶层观点
: 1.Transformer的幻觉等问题已经使得应用落地发生了瓶颈，基于文本生成的AI，目前使用能力有限
: 2.要构建新一代模型架构，具备因果关系的识别和推理能力，彻底消灭幻觉
: ...................
--
FROM 103.149.83.*

我说下我的想法

【 在 Jacqueline 的大作中提到: 】
: 标  题: Re: 国家智库现在对AI发展的观点
: 发信站: 水木社区 (Mon Dec  1 15:09:17 2025), 站内
:
: 【 在 wlazy 的大作中提到: 】
: : 说说你的观点
: : 1.Transformer的幻觉等问题已经使得应用落地发生了瓶颈，基于文本生成的AI，目前使用能力有限
:
: Transformer也许（很可能）不是AI的终极形态，但从最近一两年的飞速发展看，
: 离榨干它的上限还差得很远。编程就是文本生成，目前我们不知道它的上限在哪里。
:
我觉得这个原话其实没多大问题，编程是一个高度依赖文本的领域，所以应用效果好，国家更希望要的效果是用在工业生产中，一定程度上替代人，从这个角度讲transformer的可用性非常有限

: : 2.要构建新一代模型架构，具备因果关系的识别和推理能力，彻底消灭幻觉
:
: 机械决定论入脑的一代砖家想当然的想法。事实上新千年以后的机器学习全部基于概率
: 统计，神经科学和认知心理学近年来的进展，更支持大脑是基于某种概率决策的观点。
: 人类一样存在高幻觉，彻底消灭幻觉是不切实际的空想。
原话半对半错，需要新一代模型对，“具备因果关系的识别和推理能力”其实现在就有，但是自我审核能力还不足，很容易朝一个方向自我强化走进死胡同；彻底消灭幻觉不要想

:
: : 3.AI要具备掌握物理世界的规则（基础物理/化学等理论），能够与物理世界形成互动
:
: 世界一流的物理学家/化学家没有一个敢说自己已经掌握了物理世界的规则。事实上
: 大多数物理化学规律能够到达唯象描述的层次，你已经能拿诺贝尔奖了。况且很多偏微分
: 方程可以列得很清楚的东西只能拿数值方法求解，离搞清楚运行规律还差得很远。
: AI不能也不必追求掌握物理世界的规则，生物进化了几十亿年，不掌握这些规则并没有
: 影响它们的存续和演化。
“掌握物理世界的规则”这句话可以有不同解读，如果只是文字意义上的“知道”那现在就满足；我认为整句话的意思应该是不应该局限于文本一个维度，应该通过多个维度和世界互动，包括但不仅限于视觉、听觉、物理接触的反馈等

:
: : 4.以agent为基础，推动多模型复杂场景落地，大小模型结合，通用模型和专用模型结合，多模态结合，数理模型/数值计算模型结合
:
: 目前工程界的经验表明，总的来说，通用模型通杀一切，世界知识越广博的模型
: 在专项技能上也能做得越深。最近的例子就是六小虎，做通用模型的现在还活跃在一线，
: 做专用的骨头渣都不剩了。。。
:
: : 5.各个部委，要建立行业垂直模型，加大应用开发
: 同上。
:
大小模型这个提法我最早听到好像是任正非说的，其实这个属于先有屁股后有结论，因为硬件受限，所以想办法在软件方面妥协；也不能算全错，毕竟某些应用场景下专门训练的小模型在该场景下也足够好用，注意这里说的小模型往往不是语言模型
--
FROM 182.85.139.*