AIHero

    模型

    模型

    模型就是那组参数。它本身无状态,只做下一 Token 预测;离开运行框架后,无法独立完成任何智能体式工作。

    Matt Pocock
    Matt Pocock

    模型就是一组参数。它是无状态的,只会进行下一 Token 预测,除此之外什么也不做。“Claude Opus 4.x”和“GPT-5.x”都是模型。模型自身无法完成任何智能体式工作;它必须被置于运行框架中。

    模型无法读取文件、运行命令、浏览网页,也记不住昨天发生的事。每次模型提供商请求中,它只会接收 Token 并预测输出 Token。所有看起来像智能体在工作的行为——选择工具、读取结果、循环执行直到任务完成——其实都是运行框架在连续编排许多次这样的预测。

    模型提供商通常分档提供模型:大型模型最聪明,但速度慢、成本高;小型模型更快、更便宜,但能力较弱。选择哪个档位是真正需要权衡的决定——规划和高难度调试用重量级模型,机械性修改用轻量级模型——而运行框架允许你在会话进行中切换模型。

    严格使用“模型”这个词,也能让问题诊断更准确。“这个模型不擅长这件事”是一个具体判断——同一个模型换到不同的运行框架中,或获得不同的上下文时,往往会表现得完全不同。在归咎于模型之前,先检查它获得了什么:大多数令人失望的输出,根源在上下文或运行框架,而不是参数

    用法:

    “规划阶段要不要把模型从 Sonnet 换成 Opus?”

    “可以试试——但这项任务的大部分工作其实由运行框架承担。如果系统提示词和工具本身就不对,换模型也不会有帮助。”

    不只想学术语?

    加入 AI Hero,获取实用技能、AI 工程思考,以及帮助你始终走在前沿的资源。

    没有垃圾邮件,随时可以退订。

    分享