我怎么判断一个业务值不值得接入大模型
过去一年我最常被问到的问题,不是“哪个模型更强”,而是“这个业务值不值得接大模型”。我后来发现,很多团队在这个问题上一开始就问歪了。他们问的是“技术上能不能做”,而不是“产品上值不值,工程上扛不扛得住,出问题以后谁来接”。
为了让这个判断不要继续停留在口头经验里,我后来逼自己把它压成一套更像决策表的东西。它不保证每次都选对,但至少能逼团队先看代价,而不是只盯着 Demo 效果。
过去一年我最常被问到的问题,不是“哪个模型更强”,而是“这个业务值不值得接大模型”。我后来发现,很多团队在这个问题上一开始就问歪了。他们问的是“技术上能不能做”,而不是“产品上值不值,工程上扛不扛得住,出问题以后谁来接”。
为了让这个判断不要继续停留在口头经验里,我后来逼自己把它压成一套更像决策表的东西。它不保证每次都选对,但至少能逼团队先看代价,而不是只盯着 Demo 效果。
如果只允许我用一个真实项目来解释这个标题,我会选“售后助手”。
这个项目最早的需求很朴素:让客服在处理退款、催发货、优惠券争议这些问题时,能更快给出初步答复。我们第一版做法非常典型,也很像过去两年大多数团队的自然选择:写一版足够强的 system prompt,把常见规则塞进去,再给一些 few-shot 示例,让模型看起来像一个经验丰富的客服。
第一轮演示效果甚至很好。模型能说人话,语气也像样,面对常见问题能给出八九不离十的回答。于是团队很容易得出一个结论:看起来只要继续打磨 Prompt,就能把它推到生产。
真正的转折发生在灰度阶段。我们发现,问题并不是“Prompt 不够强”,而是它被要求承担了太多本不该由它承担的事情:记住不断变化的活动规则、理解订单状态、引用最新制度、决定什么时候必须转人工、在失败时保持输出稳定。做到这一步之后,我才真正意识到,2025 年做 AI 应用,Prompt 仍然重要,但它早就不是主战场了。
商品列表一旦开始承载搜索、分类、品牌、价格区间和上下架状态,索引策略就会马上变成瓶颈。很多系统前期会本能地给几个常用字段都加索引,但到了真实查询组合场景里,效果常常并不理想。
支付回调是电商系统里最不能靠运气的一段链路。第三方会重试、网络会抖、人工也可能补触发,如果服务端没有幂等控制,订单状态、支付记录和库存侧影响很容易重复执行。
很多电商系统初期都会把购物车当成“订单的前半段”,这样做短期很快,但项目一复杂就容易出问题。购物车本质上服务的是选购过程,订单服务的是成交结果,这两个对象关注点本来就不一样。
订单系统走到线上以后,最容易失控的往往不是下单本身,而是订单状态怎么流转。待支付、已支付、已发货、已完成、已关闭这些状态只要边界没定清楚,后面退款、补发、人工改单一进来,服务逻辑就会越来越绕。
发布时间:2024-08-05
作者:一介布衣
标签:Feathers.js, Sequelize, 电商系统, 实战项目, 完整案例
发布时间:2024-07-30
作者:一介布衣
标签:Feathers.js, Sequelize, 高级查询, 性能优化, 事务
发布时间:2024-07-25
作者:一介布衣
标签:Feathers.js, Sequelize, 模型关联, 数据关系, ORM
发布时间:2024-07-20
作者:一介布衣
标签:Feathers.js, Sequelize, ORM, 关系型数据库, 集成