摘要
1) 一句话总结 现在的AI(如ChatGPT)已支持通过摘要保存或延续历史会话来实现记忆和角色保持,但为避免上下文过长影响生成质量,建议提取角色设定和对话样例(few-shot)来新开会话。
2) 关键要点
- ChatGPT 目前已支持记忆功能,用户需在设置中开启该功能。
- 记忆功能的本质是将历史对话内容提取为简短摘要进行保存,并在后续提问时自动带入。
- 用户可以直接在历史会话中继续提问,AI 能够有效延续之前的角色设定与对话风格。
- 对于推理要求较高的任务,不建议在过长的历史会话中继续提问,新开会话效果更好。
- 官方推荐做法:将核心的角色设定和部分历史对话作为样例(few-shot)写入提示词,然后开启全新会话。
3) 风险/不足
- 在同一会话中持续对话会导致上下文窗口积累过多无关内容,从而影响 AI 的生成质量(尤其是针对推理要求较高的任务)。
相关文档
- 和 AI 对话多少轮之后重开新的会比较合适?;关联理由:引用;说明:正文明确引用该文,用于展开“何时应新开会话”的判断标准。
正文
问:现在AI是否能做到记忆能力?比如我五天前给他设定了一个角色,并且请他解答了一些问题。那么五天后是否还能再次基于五天前的问答继续提问?(这可能是一个功能:设定角色,保存角色,基于这个角色的对话可以选择是否保存。这是不是需要有很长的token去支持?是否建议这样去做?)
答:现在 ChatGPT 支持记忆功能,但是需要在设置里面大概,本质上就是把你对话的内容用简短的话摘要保存下来,下次你提问时带上。
如果你之前设置了一个角色解答了一些问题,后续还想继续在同一会话问问题,你当然还可以继续之前的会话提问,角色也能保持,也能延续之前的对话风格,但是在于一些推理要求比较高的任务可能新开会话效果会更好,因为这样虽然角色和风格可以延续,但是上下文窗口无关内容太多,会影响生成质量。建议适当的时候,可以把角色设定和部分对话作为样例(few-shot)放在提示词中新开会话更好。更多细节可以参考《和 AI 对话多少轮之后重开新的会比较合适?》https://baoyu.io/blog/how-many-rounds-ai-conversation-before-new-session
