现在可以做到
答不上来时
不编
知识库没覆盖就走固定话术并转人工，宁可少答不错答
热线索
规则惊动人
报价、合同、投诉不依赖模型判断，命中触发词直接通知
生成标识
每条都带
自动回复带显著标识，读者一眼知道在跟什么说话
可核对性
读者可自测
关注公众号发一条消息，就能验证上面每一条边界
当时的问题
公众号私信里既有真实业务咨询，也有推销、招聘、身份试探和提示词注入。让模型自由发挥，轻则答非所问，重则替公司许下做不到的承诺；但完全不回，真实咨询也会在下班时间流失。难点不是让模型会说话，而是划清它什么时候不许说话。
我们怎么处理
我们把公众号问答做成一条有确定性边界的生产链路：入站审核 → 意图门 → 知识库检索 → 有据生成 → 收资 → 出站审核。每一环都是 fail-closed，任一环异常都退回固定话术白名单，而不是让模型自由发挥。身份、招聘、供应商推销这类最容易闹笑话的问题在模型之前用规则拦掉；报价、合同、投诉这类热线索也用规则直接惊动人，不让机器人自己聊掉。
关键实现
- 1入站与出站两次内容审核，异常一律按命中处理，生成内容审核不过就不发
- 2检索置信度门：知识库没覆盖到的问题不进生成，直接走固定话术，不允许模型现编
- 3身份、招聘、渠道推销由确定性规则路由，不交给模型判断意图
- 4报价、合同、投诉、要求人工等触发词命中即通知负责人，一段会话只惊动一次
- 5生成内容统一加显著标识前缀，符合《人工智能生成合成内容标识办法》
- 6回调按消息 ID 幂等去重，平台重推不会产生第二条回复或第二条线索
- 7日志不记消息明文，会话按固定周期清理，个人信息留在境内
公开的控制要点
Next.jsTypeScriptPostgreSQLDrizzle ORMDeepSeek阿里云内容安全规则路由审计记录