- 主题:各位，如何搞定大模型的不确定性？
如果是自己本地的大模型，可以在每次调用前，固定随机数种子，这样结果是一样的
【 在 chunhui 的大作中提到: 】
: 比如这样的问题：我让ai修改一个表格，先修改a行b列，再修改a行c列。十几天以来，一直没问题。但今天，当作第二次修改的时候，它总是修改到a行b列上去。关键是它大多数好使，偶尔不确定。这就让你没办法彻底放心。其实也有其它的类似不确定的问题，这些问题不像写代码可以通过编译，通过测试用例。
: 有什么
: ..................
发自「今日水木 on iPhone 12 Pro」
--
FROM 180.157.250.*
可以买个入门硬件 部署个入门模型，慢一点，起码结果是确定的
【 在 chunhui 的大作中提到: 】
: 是api。本地买不起硬件。
: --
: 完美主义热衷选择
: 理想主义忠于选择
: 现实主义别无选择
:
: 33
发自「今日水木 on iPhone 12 Pro」
--
FROM 101.82.208.*
商用场景，公用硬件，不可能固定随机种子。得特别研发，也许有哪家api有/未来有这种功能。
【 在 hjjscofield 的大作中提到: 】
: 可以买个入门硬件 部署个入门模型，慢一点，起码结果是确定的
:
: 发自「今日水木 on iPhone 12 Pro」
: --
发自「今日水木 on iPhone 12 Pro」
--
FROM 101.82.208.*