摘要

1) 一句话总结 现在的AI(如ChatGPT)已支持通过摘要保存或延续历史会话来实现记忆和角色保持,但为避免上下文过长影响生成质量,建议提取角色设定和对话样例(few-shot)来新开会话。

2) 关键要点

  • ChatGPT 目前已支持记忆功能,用户需在设置中开启该功能。
  • 记忆功能的本质是将历史对话内容提取为简短摘要进行保存,并在后续提问时自动带入。
  • 用户可以直接在历史会话中继续提问,AI 能够有效延续之前的角色设定与对话风格。
  • 对于推理要求较高的任务,不建议在过长的历史会话中继续提问,新开会话效果更好。
  • 官方推荐做法:将核心的角色设定和部分历史对话作为样例(few-shot)写入提示词,然后开启全新会话。

3) 风险/不足

  • 在同一会话中持续对话会导致上下文窗口积累过多无关内容,从而影响 AI 的生成质量(尤其是针对推理要求较高的任务)。

相关文档

正文

问:现在AI是否能做到记忆能力?比如我五天前给他设定了一个角色,并且请他解答了一些问题。那么五天后是否还能再次基于五天前的问答继续提问?(这可能是一个功能:设定角色,保存角色,基于这个角色的对话可以选择是否保存。这是不是需要有很长的token去支持?是否建议这样去做?)

答:现在 ChatGPT 支持记忆功能,但是需要在设置里面大概,本质上就是把你对话的内容用简短的话摘要保存下来,下次你提问时带上。

如果你之前设置了一个角色解答了一些问题,后续还想继续在同一会话问问题,你当然还可以继续之前的会话提问,角色也能保持,也能延续之前的对话风格,但是在于一些推理要求比较高的任务可能新开会话效果会更好,因为这样虽然角色和风格可以延续,但是上下文窗口无关内容太多,会影响生成质量。建议适当的时候,可以把角色设定和部分对话作为样例(few-shot)放在提示词中新开会话更好。更多细节可以参考《和 AI 对话多少轮之后重开新的会比较合适?》https://baoyu.io/blog/how-many-rounds-ai-conversation-before-new-session

Image 1

关联主题