AIHero

    会话、上下文窗口与轮次

    系统提示词

    运行框架添加到每次模型提供商请求前的指令,相当于智能体长期有效的任务简报,通常在一次会话中保持稳定。

    Matt Pocock
    Matt Pocock

    系统提示词是运行框架添加到每次模型提供商请求前的指令,相当于智能体长期有效的任务简报:它是谁、应该如何行动、可以调用哪些工具、应遵循哪些约定。系统提示词通常在一次会话中保持稳定。

    系统提示词由运行框架供应商编写,而不是由你编写。在编码运行框架中,它通常很大——行为规则、工具说明和边缘情况处理经常达到数万个 Token,并在每个轮次中作为输入 Token计费。你自己的长期指令也会一同加载:像 AGENTS.md 这样的文件,会在会话开始时被放到系统提示词旁边,因此模型在看到你的消息之前,就会同时读到供应商和你提供的简报。

    由于系统提示词在每个请求中都完全相同,它构成了前缀缓存的开头。这也是运行框架通常在整个会话中保持它不变,而不是随过程不断修改的原因之一。

    模型经过训练,会优先遵循系统提示词,而不是用户消息。因此,当智能体坚持某个你从未要求过的约定,或总以你无法改变的格式输出时,它通常是在服从系统提示词——而你的消息在这场冲突中处于下风。有些运行框架允许自定义:它们让你完整访问系统提示词,从而读到智能体实际接收的指令并加以修改。

    用法:

    “两个运行框架使用同一个模型,却对同一提示词表现出完全不同的行为。”

    “系统提示词不同。一个针对简洁的代码修改做了优化,另一个针对解释做了优化——差异在你的消息到达之前就已经产生了。”

    不只想学术语?

    加入 AI Hero,获取实用技能、AI 工程思考,以及帮助你始终走在前沿的资源。

    没有垃圾邮件,随时可以退订。

    分享