大模型输出为什么要做三层校验:从 JSON 到业务事实
· 阅读需 7 分钟
大模型很擅长理解人话,也很擅长把结果组织成看起来完整的句子。但在真正的业务系统里,“看起来合理”远远不够。
比如用户让 AI 查询订单,大模型可能返回这样一段内容:
{
"order_id": "12345",
"include_items": true
}
这段内容看上去没有问题,可它只说明模型提出了两个参数。它没有证明订单 12345 真的存在,也没有证明当前用户有权查看这个订单。
因此,大模型应用通常需要连续做三层校验:先确认内容能不能读,再确认格式是否符合约定,最后确认它是否符合真实业务规则。
