跳到主要内容

Function calling 的工具 schema 要像 API 一样设计

· 阅读需 2 分钟
一介布衣
全栈开发者

工具 schema 设计 这件事在 2023 年开始越来越频繁地进入真实项目,但很多团队一开始只看到表面收益,没有先把边界收住。只要 字段定义模糊、可选项太多,模型会频繁给出半对半错的调用参数,问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。

RAG 观测指标先看命中率和上下文链路

· 阅读需 3 分钟
一介布衣
全栈开发者

RAG 观测体系 这件事在 2023 年开始越来越频繁地进入真实项目,但很多团队一开始只看到表面收益,没有先把边界收住。只要 系统效果波动时,只能靠人工体感猜是哪一环出了问题,问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。