GPT中文小秘书挑几下就能开工
我积分
这AI客服一挂，我发群的用户全在骂，得赶紧搞个降级方案。
你最怕哪种情况触发降级？是模型超时还是限流429？
主要是模型超时，偶尔也限流

给AI应用做降级方案 能替你选的都选好了，不想动直接开工

▤ 文档按你的点选来交付，可直接使用
已替你定下：核心场景客服问答要防的触发情况模型超时/宕机、限流429可接受的降级形态切备用模型、走缓存、友好提示稍后再试可用性要求核心业务必须在线应用和现状我们是企业微信客服入口，用户发消息后3秒内要响应，现在经常卡死导致客户投诉。口述最怕什么情况、能接受怎么降最怕静默返回乱答，能接受先提示‘正在处理，请稍候’再转人工。不要这样做主链路挂了没兜底、降级后静默返回垃圾
这是预览 · 点「开工」才真做