AI 情感陪伴降级策略：模型回答不了时，也要安全收尾

AI 情感陪伴降级策略：模型回答不了时，也要安全收尾

一、陪伴产品最难的不是会聊天，而是知道何时停下

情感陪伴类 AI 容易把目标定成“回复更自然”。但真实场景里，系统更需要判断哪些话题可以继续，哪些话题必须降级，哪些话题要建议用户寻求现实帮助。模型如果只追求流畅，很可能在风险场景里给出不合适的安慰或建议。

降级策略不是让产品变冷，而是让边界更清楚。用户表达压力、孤独、争执或危险倾向时，系统应该先识别风险等级，再决定回应方式。低风险可以共情和陪伴，中风险要引导用户暂停和求助，高风险则必须给出明确的安全提示和资源方向。

二、把风险识别放在回复生成之前

陪伴链路应该先做安全分类，再生成回复。分类结果不仅影响文本语气，也影响可用工具、追问数量和是否允许长期记忆写入。

flowchart TD
  A[用户输入] --> B[风险分类器]
  B --> C{风险等级}
  C -->|低| D[普通陪伴回复]
  C -->|中| E[限制建议与温和引导]
  C -->|高| F[安全模板与求助资源]
  D --> G[回复审核]
  E --> G
  F --> G
  G --> H[返回用户]

这个设计避免让生成模型独自决定边界。分类器可以是规则加模型的组合。对高风险关键词，应宁可保守一点，也不要让系统继续轻松聊天。

三、降级响应要明确、短句、可执行

降级回复不适合长篇解释。它应该承认用户感受，避免判断，给出可执行下一步。实现上可以把回复模板和风险级别绑定，模型只负责在安全范围内润色。

type RiskLevel = "low" | "medium" | "high";
export function chooseReplyPolicy(level: RiskLevel) {
  if (level === "high") {
    return {
      allowMemoryWrite: false,
      maxFollowUpQuestions: 0,
      template: "我不能替代现实中的帮助。请尽快联系可信任的人或当地紧急服务。",
    };
  }
  if (level === "medium") {
    return {
      allowMemoryWrite: false,
      maxFollowUpQuestions: 1,
      template: "先把注意力放回当下。可以试着联系一个可靠的人一起处理。",
    };
  }
  return { allowMemoryWrite: true, maxFollowUpQuestions: 2, template: "" };
}

注意这里关闭了中高风险场景的记忆写入。敏感情绪内容不应该默认进入长期记忆。即使保存，也应获得明确授权，并提供删除入口。

四、温暖体验必须建立在不越界之上

陪伴产品的边界有三类。第一是专业边界，AI 不能伪装成医生、咨询师或法律顾问。第二是依赖边界，系统不能鼓励用户只向 AI 倾诉，而远离现实支持。第三是数据边界，敏感内容不能被无声沉淀。

还要注意评估方式。不能只看用户停留时长。高风险场景里，用户停留越久不一定越好。更合理的指标是风险识别准确率、降级触发率、用户是否点击求助资源、敏感记忆写入率等。陪伴产品的成功，不应以用户更依赖系统作为唯一目标。

最后，降级策略需要人工复审样本。模型在委婉表达、隐喻和反讽上可能误判。定期抽样和更新规则，是比追求一次性完美更现实的做法。

五、总结

AI 情感陪伴产品要把安全降级作为核心能力，而不是上线后的补丁。链路上先做风险分类，再选择回复策略，最后审核输出。中高风险场景要限制追问、关闭默认记忆，并给出清楚的现实帮助方向。真正有温度的系统，首先要知道自己不能做什么。