ROARKIST / SERIESROARKIST / 系列
系列目录03 / 08
  1. 01Agent 和聊天机器人,差别到底在哪?
  2. 02Agent 的基本循环:观察、决策、行动、复核
  3. 03工具不是魔法按钮,而是 Agent 与世界的契约
  4. 04状态、记忆与上下文,其实是三件不同的事
  5. 05Agent 什么时候应该先规划,再行动?
  6. 06人工检查点与权限边界应该放在哪里
  7. 07如何观察并评测一个 Agent 循环
  8. 08从零做一个足够小、但真正完整的研究 Agent

03Agent Foundations从零理解 AI Agent

工具不是魔法按钮,而是 Agent 与世界的契约

工具定义得越清楚,Agent 的选择、执行和错误恢复就越可靠。

模型本身不能读取你的文件、发送邮件或查询数据库。工具把这些外部能力包装成 Agent 可以选择的动作,也同时划定它能够做什么。

好工具要有清楚边界

工具名称应该表达动作,参数应该尽可能少且可验证,返回值要包含下一步判断需要的信息。模糊的“处理数据”比“按订单号读取订单状态”更容易被误用。

错误也属于契约。工具要区分输入无效、权限不足、暂时失败和资源不存在,让 Agent 知道应该修正参数、重试、换路还是请求人工帮助。

写操作比读操作更谨慎

读取通常可以直接执行,修改和删除则应增加确认、幂等键或预览步骤。权限不应该因为 Agent 可能需要就一次性全部开放。

设计工具时,把 Agent 当作能力很强但会误解上下文的调用者。清楚的契约既帮助模型,也保护系统。