有状态意味着能够把信息延续到后续过程。一次会话在多个轮次之间是有状态的——随着会话推进,上下文不断累积,因此长会话会逐渐滑入迟钝区。给智能体添加记忆系统后,还可以让它跨会话保持状态:信息先持久化到环境中,再在未来会话开始时重新加载。模型本身从来不是有状态的;任何看似连续的记忆,都来自运行框架重新送入上下文。它的反义词是无状态。
各层状态分别存放在以下位置:
每一层的“有状态”都是通过重新读取下一层保存的内容构建出来的:会话之所以显得连续,是因为运行框架把消息历史反复发送给无状态模型;智能体之所以能跨会话记住信息,是因为运行框架会从环境中重新加载文件。任何状态都不会真正存储在模型内部。
状态并不总是越多越好。所有被延续的信息都会影响后续结果,因此会话早期形成的错误假设也会一路带下去。清空就是有意识地丢弃会话状态,重新从已经落盘的内容开始。
用法:
“它还记得我昨天的偏好——这说明模型已经学会了吗?”
“不是。智能体表现为有状态,是因为运行框架把这些偏好写进了记忆文件,并在会话开始时重新加载。模型本身对昨天发生的事一无所知。”