AIHero

    会话、上下文窗口与轮次

    有状态

    能够把信息向后传递。会话在多个轮次之间有状态;借助记忆系统,也可以让智能体跨会话保持状态。

    Matt Pocock
    Matt Pocock

    有状态意味着能够把信息延续到后续过程。一次会话在多个轮次之间是有状态的——随着会话推进,上下文不断累积,因此长会话会逐渐滑入迟钝区。给智能体添加记忆系统后,还可以让它跨会话保持状态:信息先持久化到环境中,再在未来会话开始时重新加载。模型本身从来不是有状态的;任何看似连续的记忆,都来自运行框架重新送入上下文。它的反义词是无状态

    各层状态分别存放在以下位置:

    层级是否有状态?实现方式
    模型从不参数 固定不变;模型只能看到每次请求中提供的内容
    会话跨轮次运行框架把每条消息和 工具结果 追加到上下文中
    运行框架跨会话记忆文件、 AGENTS.md, 交接产物 ——先写入磁盘,之后再重新加载
    环境始终无论是否有会话正在运行,文件都会持续存在

    每一层的“有状态”都是通过重新读取下一层保存的内容构建出来的:会话之所以显得连续,是因为运行框架把消息历史反复发送给无状态模型;智能体之所以能跨会话记住信息,是因为运行框架会从环境中重新加载文件。任何状态都不会真正存储在模型内部。

    状态并不总是越多越好。所有被延续的信息都会影响后续结果,因此会话早期形成的错误假设也会一路带下去。清空就是有意识地丢弃会话状态,重新从已经落盘的内容开始。

    用法:

    “它还记得我昨天的偏好——这说明模型已经学会了吗?”

    “不是。智能体表现为有状态,是因为运行框架把这些偏好写进了记忆文件,并在会话开始时重新加载。模型本身对昨天发生的事一无所知。”

    不只想学术语?

    加入 AI Hero,获取实用技能、AI 工程思考,以及帮助你始终走在前沿的资源。

    没有垃圾邮件,随时可以退订。

    分享