AIHero

    会话、上下文窗口与轮次

    无状态

    不会把信息带到下一次运行。模型在不同请求之间无状态;智能体默认在不同会话之间也无状态。

    Matt Pocock
    Matt Pocock

    无状态意味着不会把任何信息自动延续到后续过程。模型在不同模型提供商请求之间是无状态的——每次请求都必须重新发送完整上下文窗口,因为模型没有其他途径看到任何内容。智能体默认在不同会话之间也是无状态的:新会话从空白开始,不带此前会话的任何痕迹。它的反义词是有状态

    模型本身永远是无状态的:训练结束后,模型参数就会固定,你在推理阶段所做的任何事都不会改变它们。模型不会从你的纠正中学习,不记得昨天被告知过同一件事,也不会逐渐“了解你”——无论对话给人的感觉多么相反。会话内部的连续感由运行框架制造:它保存对话记录,并在每次请求时重新发送。模型并不是记住了对话,只是在反复重新阅读。

    实际结果是:如果希望某项信息跨会话保留,就必须把它写到智能体日后会重新读取的位置。AGENTS.md 文件、记忆系统交接产物都是这样的文件:它们会被加载进未来会话的上下文,代替模型本身并不存在的记忆。如果智能体反复犯下你已经纠正过的错误,问题不应是“它为什么没有学会”——它做不到——而应是“这条纠正应该写在哪里,才能让今后的每次会话都读到”。

    用法:

    “为什么每次清空后,它都会忘记这项约定?”

    “模型是无状态的——新会话从空白开始。如果想让约定延续下去,就把它写进 AGENTS.md,或写入运行框架会在会话开始时加载的记忆文件。”

    不只想学术语?

    加入 AI Hero,获取实用技能、AI 工程思考,以及帮助你始终走在前沿的资源。

    没有垃圾邮件,随时可以退订。

    分享