水木社区手机版
首页
|版面-编程技术(Programming)|
新版wap站已上线
展开
|
楼主
|
同主题展开
|
溯源
|
返回
上一篇
|
下一篇
|
同主题上篇
主题:Re: 一个会话中使用不同模型能看到前面的内容吗?
weiwallz
|
2026-06-22 20:47:59
|
服务器端存只是为了加速prefill,即,复用上一轮对话的kv cache
所以换模型后,只要不开新的对话,新模型默认是能见到全部上下文的,agent自身通常不会剪裁上下文
【 在 z16166 的大作中提到: 】
: 换模型,不影响上下文。
:
: 大部分都是在客户端缓存上下文,每次把全部上下文发给服务器。
:
: 现在有一些在服务端缓存一部分上下文。
--发自 ismth(丝滑版)
--
FROM 113.120.108.*
上一篇
|
下一篇
|
同主题上篇
选择讨论区
首页
|
分区
|
热推
BYR-Team
©
2010.
KBS Dev-Team
©
2011
登录完整版