- 主题:如何解决大模型幻觉问题
这个是不是就像有个人在你旁边咳嗽了一声
你分辨不出来他是感冒了，还是在暗示你
--
FROM 112.54.232.*
增加自知之明训练
--
FROM 36.112.24.*
这是啥？
【 在 yiminhe 的大作中提到: 】
: 增加自知之明训练
--
FROM 103.90.179.*
所有资料让它搜索查证后再给出.
--
FROM 223.166.69.*
我觉得可以
有些微调方法调的是transformer的特征权重，等于是增加了新知识,或者新知识挤占掉了一些旧知识的位置。
【 在 songyunhui 的大作中提到: 】
:微调可以解决这个问题？
- 来自 水木社区APP v3.5.7
--
FROM 221.222.20.*
在提示词里要求？
【 在 unknownzerx 的大作中提到: 】
: 所有资料让它搜索查证后再给出.
--
FROM 103.90.179.*
你觉得他的训练数据会包括一些机密、关键信息么，他的联网搜索还是依赖搜索引擎的，搜索引擎啥样你还不清楚么
比如你想让他分析股票，分析走势，没有实时行情就是白扯
实时行情都是收费的，还需要加工整理，除了一些机构，是不可能轻易获取的，怎么可能免费给你用呢
这个东西出来后，更是抬高了关键信息的价值
【 在 songyunhui 的大作中提到: 】
: 决策是基于一些信息来做的。如果连正确信息都做不到，或者错的比例太高，基本上这个信息源就是废了
: 验证的代价比自己搜集信息还高
--
FROM 60.247.89.*
AI给出的就是聚合信息，真伪要自己验证。它就是一个机器助手而已。
--
FROM 36.112.114.*
大模型自己解决不了幻觉问题。因为他不知道自己不知道。
【 在 db16122 的大作中提到: 】
: 这个是不是就像有个人在你旁边咳嗽了一声
: 你分辨不出来他是感冒了，还是在暗示你
--
FROM 111.198.60.*
你说的这个对，大模型太搞了关键信息的价值，因为推理过程已经便宜了，
【 在 kezhifeng 的大作中提到: 】
: 你觉得他的训练数据会包括一些机密、关键信息么，他的联网搜索还是依赖搜索引擎的，搜索引擎啥样你还不清楚么
: 比如你想让他分析股票，分析走势，没有实时行情就是白扯
: 实时行情都是收费的，还需要加工整理，除了一些机构，是不可能轻易获取的，怎么可能免费给你用呢
: ...................
--
FROM 103.90.179.*