29 篇博文 含有标签「AI」

2023 年 AI 圈最常被提到的词之一，就是 Prompt Engineering。很多人第一次接触时，会把它理解成“怎么把提示词写得更像魔法咒语”。但真正进业务后，很快会发现事情没这么玄。

内部工具的注入防护 这件事在 2023 年开始越来越频繁地进入真实项目，但很多团队一开始只看到表面收益，没有先把边界收住。只要 把内部场景默认视为可信，结果模型一旦读到带诱导内容的文档就开始偏航，问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。

Prompt 评估 rubric 这件事在 2023 年开始越来越频繁地进入真实项目，但很多团队一开始只看到表面收益，没有先把边界收住。只要 每个人都在说“这个版本好像更好”，但没有任何一致的判分基线，问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。

System Prompt 角色边界 这件事在 2023 年开始越来越频繁地进入真实项目，但很多团队一开始只看到表面收益，没有先把边界收住。只要 把目标、语气、权限和约束全混在一句提示词里，结果谁都说不清模型到底该做什么，问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。

JSON 输出契约 这件事在 2023 年开始越来越频繁地进入真实项目，但很多团队一开始只看到表面收益，没有先把边界收住。只要 模型偶尔少一个字段、换一个键名，就能把整条业务链路打断，问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。

会话记忆边界 这件事在 2023 年开始越来越频繁地进入真实项目，但很多团队一开始只看到表面收益，没有先把边界收住。只要 为了让机器人看起来更懂上下文，把短期对话和长期偏好全揉成一团，问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。

2023 年对很多开发者来说，最大的变化不是某个框架发布了新版本，而是我们第一次能把一个通用大模型能力，真正通过 API 接进自己的业务里。

Prompt 版本管理 这件事在 2023 年开始越来越频繁地进入真实项目，但很多团队一开始只看到表面收益，没有先把边界收住。只要 线上模板调整没有记录，效果回退时根本不知道哪次修改导致结果变化，问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。

token 预算控制 这件事在 2023 年开始越来越频繁地进入真实项目，但很多团队一开始只看到表面收益，没有先把边界收住。只要 一次请求看起来不贵，但并发一上来以后成本会被放大，问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。