一、这一篇在处理什么
这一篇只处理一件事:在菲律宾运行的API 接口站,使用维科云的高防 CDN时,如何处理「弱网重试把源站打满」。
移动网络丢包后,客户端在没有退避的情况下同时重试,边缘和源站看到的 QPS 是真实用户数的数倍。
看同一用户短时间内的重复请求次数。
二、菲律宾的网络和高峰
晚间高峰明显,移动网络在高峰时抖动更常见。国际访问经常经过较远的转接。短连接、多次握手的页面比长连接更容易被感觉到慢。
排查时:把连接建立时间和源站处理时间分开。连接建立变长而源站处理不变时,先查边缘和调度。
不要这样做:用加大源站 CPU 去解决连接建立慢。CPU 空闲时加机器没有帮助。
三、API 接口站要分开的路径
按路径区分只读和写入。只读且不含身份的响应才可以短缓存,写入必须回源。
防护边界:整站跳转和整站挑战不能盖住接口。调用方不会处理跳转到网页的结果。
验证:用固定的样例请求看状态码和正文是否仍是接口格式。失败时日志里要有请求编号,而不是一段网页。
四、高防 CDN怎么接
公网只解析到 CDN 的 CNAME,源站安全组只放行回源网段。静态域名使用较长缓存时间,登录、下单和支付接口单独 Bypass,不与图片域名共用缓存键。清洗策略按 Host 分开:活动页可以更严,API 要按路径放行正常的高频轮询。
产品说明见高防 CDN。只改和「弱网重试把源站打满」有关的域名或路径,不要把API 接口站的其他路径一起改掉。
五、排查步骤
下面五步按因果顺序执行,后一步依赖前一步的结果。步骤针对「弱网重试把源站打满」,不是一套通用清单。
- 只读接口和写入接口分成两列。写入请求一律记为不缓存。 把连接建立时间和源站处理时间分成两列,晚高峰单独看连接建立。 这一故障在本步要完成的事:按用户标识统计一秒内的重复 POST 或重复下单。
- 只读且不含身份的响应才允许短缓存。任何写入都不能被跳转成网页。 源站处理时间正常、连接建立变长时,按国际出口抖动处理。 这一故障在本步要完成的事:确认客户端是否在超时后立即并发重试。
- 挑战和整站跳转排除全部接口路径。需要限速时按路径限速,返回仍是接口格式。 先缩短建连路径或改接入点。不要先给源站加 CPU。 这一故障在本步要完成的事:服务端用幂等键挡住重复下单。
- 源站对写入接口做幂等。只读接口不要因为写入故障被一起拒绝。 源站 CPU 若仍然空闲,就不要扩容源站。 这一故障在本步要完成的事:边缘对同一用户的突发重试做短时合并或限速。
- 用一条固定样例请求检查状态码和正文仍是接口数据。失败日志里要有请求编号。 用菲律宾当地移动网络复测建连时间。办公室有线网络的结果不算数。 这一故障在本步要完成的事:让客户端改为指数退避,并加上随机延迟。
六、处理办法
- 下单接口必须幂等。
- 不要把重试流量误判成 CC 后封掉整个运营商。
- 超时时间要大于弱网下的正常往返。
改完后在菲律宾的用户网络上复查,不要只在机房内网看。复查时带上API 接口站的验证:用固定的样例请求看状态码和正文是否仍是接口格式。失败时日志里要有请求编号,而不是一段网页。
七、案例
一场活动在地铁网络里失败率高,源站 QPS 却是人数的四倍。客户端失败后同时发四个重试。加上幂等键和退避后,成功单不再重复,源站压力回到人数规模。
若同样的现象出现在菲律宾,额外核对:把连接建立时间和源站处理时间分开。连接建立变长而源站处理不变时,先查边缘和调度。
业务侧核对:按路径区分只读和写入。只读且不含身份的响应才可以短缓存,写入必须回源。
这个案例只说明怎么定位,不构成容量或可用性承诺。
八、常见问题
问:这和 CC 怎么区分?
答:重试来自真实用户标识,URL 集中在失败的那一个操作,而且会随着成功率回升而下降。
问:限速会不会让用户更失败?
答:会,所以首先要做幂等和退避,限速只是保护源站。
问:GET 重试有害吗?
答:读请求危害较小。重复扣款的 POST 必须拦住。
问:同一故障换一个地区或一种业务,排查还一样吗?
答:不一样。每一步都先按API 接口站的路径处理,再按菲律宾的网络条件收窄,最后才做「弱网重试把源站打满」这一故障本身的动作。换地区或换业务,前两段操作就会变。
九、边界
只讨论高防 CDN在「弱网重试把源站打满」上的处理,地区范围是菲律宾,业务范围是API 接口站。请遵守当地法律。维科云提供网络能力,不对客户业务内容负责。