27 篇博文 含有标签「AI」

工具调用与人工审核边界 这件事在 2023 年开始越来越频繁地进入真实项目，但很多团队一开始只看到表面收益，没有先把边界收住。只要 把高风险动作直接交给自动化链路，短期看很顺，长期一定会在责任边界上出问题，问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。

如果说 2023 年上半年大家还主要在讨论“模型能写什么”，那么到了下半年，问题已经逐渐变成“模型能不能做事”。这也是 Function Calling 很快变得重要的原因。

工作流幂等键 这件事在 2023 年开始越来越频繁地进入真实项目，但很多团队一开始只看到表面收益，没有先把边界收住。只要 模型和工具都可能重试，如果幂等控制不在入口统一，重复动作会层层叠加，问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。

工具 schema 设计 这件事在 2023 年开始越来越频繁地进入真实项目，但很多团队一开始只看到表面收益，没有先把边界收住。只要 字段定义模糊、可选项太多，模型会频繁给出半对半错的调用参数，问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。

RAG 观测体系 这件事在 2023 年开始越来越频繁地进入真实项目，但很多团队一开始只看到表面收益，没有先把边界收住。只要 系统效果波动时，只能靠人工体感猜是哪一环出了问题，问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。

RAG 在 2023 年越来越热，但真正落地后就会发现，它从来不是“把文档丢进向量库”这么简单。一个像样的 RAG 系统，本质上是一条检索与生成协同的流水线。

RAG 缓存层 这件事在 2023 年开始越来越频繁地进入真实项目，但很多团队一开始只看到表面收益，没有先把边界收住。只要 每次都全链路重跑检索和生成，高频场景的成本和延迟会持续被放大，问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。

引用与 grounding 风格 这件事在 2023 年开始越来越频繁地进入真实项目，但很多团队一开始只看到表面收益，没有先把边界收住。只要 模型回答看起来很自信，但用户根本不知道依据来自哪里，问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。

embedding 模型切换成本 这件事在 2023 年开始越来越频繁地进入真实项目，但很多团队一开始只看到表面收益，没有先把边界收住。只要 只盯着单点评测结果，忽略了索引重建和线上切换的系统代价，问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。

rerank 阶段 这件事在 2023 年开始越来越频繁地进入真实项目，但很多团队一开始只看到表面收益，没有先把边界收住。只要 初始召回虽然覆盖到了答案，但排序顺序不对，模型看到的上下文依然不够好，问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。