AIHero

    工具与环境

    权限请求

    运行框架在执行尚未预先批准的工具调用前展示给用户的确认请求,是把人放入执行回路的机制。

    Matt Pocock
    Matt Pocock

    权限请求是运行框架在执行未预先批准的工具调用前向用户展示的确认。模型生成工具调用后,运行框架不会立即执行,而是暂停并询问用户。批准后调用继续运行;拒绝后,运行框架会把拒绝信息作为工具结果反馈给模型。这是运行框架针对高风险或敏感操作引入人工介入的机制。

    一次权限请求的生命周期如下:

    步骤适合谁发生的操作
    1模型生成一次工具调用
    2运行框架根据权限模式 权限模式 以及已保存的批准记录进行检查
    3运行框架已预先批准:立即执行;否则暂停并展示请求
    4用户单次批准、批准当前会话后续同类操作 会话,或拒绝
    5运行框架执行调用,或把拒绝信息作为工具结果返回

    拒绝请求也在引导智能体。模型会像读取其他工具结果一样读取拒绝信息,并据此作出反应——尝试另一种方法,或询问你希望如何处理。多数运行框架允许在拒绝时附加一条消息,这就把权限请求变成了精准的引导节点。例如“不要这样做,改用迁移脚本”,恰好会在模型决定下一步时送达。

    代价是每次请求都必须同步等待你回答。智能体会一直阻塞到你作出选择;你盯着运行时问题不大,离开后就会变成障碍——持续触发请求的智能体无法真正 AFK 工作。权限模式就是调节旋钮:决定哪些调用可以直接运行,哪些必须先询问;理想情况下,再通过沙箱提供安全边界,从而扩大可自由执行的范围。

    用法:

    “它被一个权限请求卡了十分钟——刚才我在开会。”

    “这就是人工介入的代价。预先批准安全工具,让权限请求只在真正有风险的调用上触发。”

    不只想学术语?

    加入 AI Hero,获取实用技能、AI 工程思考,以及帮助你始终走在前沿的资源。

    没有垃圾邮件,随时可以退订。

    分享