跳到主要内容

内部工具也要防 Prompt Injection

· 阅读需 3 分钟
一介布衣
一介布衣
全栈开发者

内部工具的注入防护 这件事在 2023 年开始越来越频繁地进入真实项目，但很多团队一开始只看到表面收益，没有先把边界收住。只要 把内部场景默认视为可信，结果模型一旦读到带诱导内容的文档就开始偏航，问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。

业务 Prompt 评估要先有 rubric 再看感觉

· 阅读需 2 分钟
一介布衣
一介布衣
全栈开发者

Prompt 评估 rubric 这件事在 2023 年开始越来越频繁地进入真实项目，但很多团队一开始只看到表面收益，没有先把边界收住。只要 每个人都在说“这个版本好像更好”，但没有任何一致的判分基线，问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。

出自<<php圣经>>里的一段有关代码和数据的阐述

· 阅读需 2 分钟
一介布衣
一介布衣
全栈开发者

编程世界里只存在两种基本元素，一个是数据，一个是代码。 编程世界就是在数据和代码千丝万缕的纠缠中呈现出无限的生机和活力。
数据天生就是文静的，总想保持自己固有的本色；而代码却天生活泼，总想改变这个世界。
你看，数据代码间的关系与物质能量间的关系有着惊人的相似。 数据也是有惯性的，如果没有代码来施加外力，她总保持自己原来的状态。 而代码就象能量，他存在的唯一目的，就是要努力改变数据原来的状态。 在代码改变数据的同时，也会因为数据的抗拒而反过来影响或改变代码原有的趋势。 甚至在某些情况下，数据可以转变为代码，而代码却又有可能被转变为数据，或许还存在一个类似E=MC2形式的数码转换方程呢。 然而，就是在数据和代码间这种即矛盾又统一的运转中，总能体现出计算机世界的规律，这些规律正是我们编写的程序逻辑。

System Prompt 的角色边界要写得像接口说明

· 阅读需 2 分钟
一介布衣
一介布衣
全栈开发者

System Prompt 角色边界 这件事在 2023 年开始越来越频繁地进入真实项目，但很多团队一开始只看到表面收益，没有先把边界收住。只要 把目标、语气、权限和约束全混在一句提示词里，结果谁都说不清模型到底该做什么，问题就会很快从“一个小体验瑕疵”变成系统性的维护成本。