一个轮次包括一条用户消息,以及智能体为响应它所做的一切,直到智能体把控制权交还给用户。一个轮次包含一次或多次模型提供商请求;如果智能体调用工具,请求数量可能很多。智能体提出澄清问题时,当前轮次结束;你的回复会开启下一轮。层级关系是:会话 > 轮次 > 模型提供商请求。
之所以需要单独命名“轮次”,是因为其长度由智能体决定,而不是由你决定。你交出一条消息,智能体自行决定在返回控制权前串联多少次工具调用。一个轮次可以只包含一句回答,也可以持续 20 分钟,期间不断读取、编辑和运行测试。同一性质有两个侧面:长轮次让 AFK 工作成为可能;无人监督时,问题也最容易在长轮次中发生——等智能体终于返回时,它可能已经远远偏离你的本意。
轮次也是引导智能体的自然单位。轮次内部发生的一切都没有你的参与;轮次之间的空隙才是你纠正方向的位置。大多数运行框架会缓解这一限制:可以在轮次中途打断智能体并重新引导,也可以在它工作时输入消息,等轮次结束后再读取。如果你反复对轮次最终走向不满意,通常应要求更小的轮次——先给计划、每次只做一步——用部分自主性换取更频繁的引导机会。
用法:
“一个轮次用了两分钟?”
“它在那个轮次中进行了 14 次工具调用——每次都是独立的模型提供商请求。延迟会不断累积,直到智能体最终把控制权交还给你。”