一、这一篇在处理什么
这一篇只处理一件事:在菲律宾运行的混合动静分离,使用维科云的SDK 盾时,如何处理「登录令牌过期后重试风暴」。
令牌过期,所有接口同时返回未登录,客户端又同时刷新令牌,刷新接口被打满。
看刷新令牌接口的瞬时 QPS 和失败后的重试次数。
二、菲律宾的网络和高峰
晚间高峰明显,移动网络在高峰时抖动更常见。国际访问经常经过较远的转接。短连接、多次握手的页面比长连接更容易被感觉到慢。
排查时:把连接建立时间和源站处理时间分开。连接建立变长而源站处理不变时,先查边缘和调度。
不要这样做:用加大源站 CPU 去解决连接建立慢。CPU 空闲时加机器没有帮助。
三、混合动静分离要分开的路径
页面外壳可以缓存,用户相关的数据用单独接口。两套域名的缓存规则不要互相复制。
防护边界:外壳上不要留下余额、订单号或会话。那些字段只出现在不缓存的接口里。
验证:刷新页面时外壳来自缓存,接口仍返回当前用户自己的数据。退出登录后,不能再看到上一个用户的接口结果。
四、SDK 盾怎么接
App 里的登录、下单等关键请求走 SDK 隧道,图片和安装包仍走 CDN。服务端校验时间窗、随机数和签名,不把源站地址写进客户端包。隧道失败时可以降级,但降级必须打点,不能静默改去连源站 IP。
产品说明见SDK 盾。只改和「登录令牌过期后重试风暴」有关的域名或路径,不要把混合动静分离的其他路径一起改掉。
五、排查步骤
下面五步按因果顺序执行,后一步依赖前一步的结果。步骤针对「登录令牌过期后重试风暴」,不是一套通用清单。
- 页面外壳和用户数据接口分成两列。外壳命中率不要把接口失败算进去。 把连接建立时间和源站处理时间分成两列,晚高峰单独看连接建立。 这一故障在本步要完成的事:确认业务失败码是令牌过期,而不是签名错误。
- 外壳可以缓存,但里面不能有余额、订单号或会话。这些只允许出现在不缓存的接口里。 源站处理时间正常、连接建立变长时,按国际出口抖动处理。 这一故障在本步要完成的事:整个进程只允许一个刷新请求在飞。
- 两套域名的规则分开保存。改接口规则时不要复制到外壳域名。 先缩短建连路径或改接入点。不要先给源站加 CPU。 这一故障在本步要完成的事:其他请求等待这次刷新的结果。
- 源站只生成用户数据接口。外壳应尽量不再回源。 源站 CPU 若仍然空闲,就不要扩容源站。 这一故障在本步要完成的事:刷新失败后统一回到登录页,不要每个接口各刷一次。
- 刷新页面时外壳来自缓存,接口仍是当前用户的数据。退出后再请求,不能看到上一个用户的结果。 用菲律宾当地移动网络复测建连时间。办公室有线网络的结果不算数。 这一故障在本步要完成的事:服务端对同一用户的刷新做频率限制。
六、处理办法
- 刷新要加锁。
- 过期时间不要卡在整点。
- 刷新接口单独限流。
改完后在菲律宾的用户网络上复查,不要只在机房内网看。复查时带上混合动静分离的验证:刷新页面时外壳来自缓存,接口仍返回当前用户自己的数据。退出登录后,不能再看到上一个用户的接口结果。
七、案例
晚八点大量令牌同时过期,刷新接口先超时,客户端又各自重试。改成进程内只刷新一次后,峰值下降到用户数规模。
若同样的现象出现在菲律宾,额外核对:把连接建立时间和源站处理时间分开。连接建立变长而源站处理不变时,先查边缘和调度。
业务侧核对:页面外壳可以缓存,用户相关的数据用单独接口。两套域名的缓存规则不要互相复制。
这个案例只说明怎么定位,不构成容量或可用性承诺。
八、常见问题
问:为什么不是每个请求都刷新?
答:并行刷新会互相作废对方刚拿到的令牌。
问:提前刷新有用吗?
答:有用。在过期前的随机时间刷新,避免整点同时过期。
问:刷新失败还要重试业务请求吗?
答:不要。先重新登录。
问:同一故障换一个地区或一种业务,排查还一样吗?
答:不一样。每一步都先按混合动静分离的路径处理,再按菲律宾的网络条件收窄,最后才做「登录令牌过期后重试风暴」这一故障本身的动作。换地区或换业务,前两段操作就会变。
九、边界
只讨论SDK 盾在「登录令牌过期后重试风暴」上的处理,地区范围是菲律宾,业务范围是混合动静分离。请遵守当地法律。维科云提供网络能力,不对客户业务内容负责。