马来西亚的直播互动:用高防 CDN处理「弱网重试把源站打满」

一、这一篇在处理什么

这一篇只处理一件事:在马来西亚运行的直播互动,使用维科云的高防 CDN时,如何处理「弱网重试把源站打满」。

移动网络丢包后,客户端在没有退避的情况下同时重试,边缘和源站看到的 QPS 是真实用户数的数倍。

看同一用户短时间内的重复请求次数。

二、马来西亚的网络和高峰

晚间高峰比新加坡略长,周末下午也会升高。移动网络占比高,同一城市里不同运营商的时延可以差一倍。弱网重试比有线用户更常见。

排查时:把马来西亚流量再按运营商拆开。某一家运营商失败、其他家正常时,先查调度和接入点,不要先改源站程序。

不要这样做:用吉隆坡机房的内网结果判断全国。住宅和移动出口要分开测。

三、直播互动要分开的路径

推流、播放和聊天是三条路径。播放地址用短时令牌,聊天不要走播放的缓存。

防护边界:播放令牌过期应在场次中途之前刷新。不要把直播切片和网页跳转规则混在同一个域名上。

验证:看首帧时间、卡顿来自主播上行还是观众分发,以及结束后直播地址是否停止、回放是否另给地址。

四、高防 CDN怎么接

公网只解析到 CDN 的 CNAME,源站安全组只放行回源网段。静态域名使用较长缓存时间,登录、下单和支付接口单独 Bypass,不与图片域名共用缓存键。清洗策略按 Host 分开:活动页可以更严,API 要按路径放行正常的高频轮询。

产品说明见高防 CDN。只改和「弱网重试把源站打满」有关的域名或路径,不要把直播互动的其他路径一起改掉。

五、排查步骤

下面五步按因果顺序执行,后一步依赖前一步的结果。步骤针对「弱网重试把源站打满」,不是一套通用清单。

  1. 推流、播放和聊天分开统计。播放地址的令牌过期要单独计数。 按运营商拆开晚高峰和周末下午,不要只看全国总和。 这一故障在本步要完成的事:按用户标识统计一秒内的重复 POST 或重复下单。
  2. 聊天不要走播放缓存。播放令牌在场次结束前刷新,不要等观众已经 403。 先列出失败集中的那一家运营商。其他运营商正常时,不要改源站代码。 这一故障在本步要完成的事:确认客户端是否在超时后立即并发重试。
  3. 播放切片和网页跳转不要共用一个域名。需要拦截时只拦被盗用的播放域名。 只调整这一家运营商命中的接入点或调度,保留其他运营商的现有路径。 这一故障在本步要完成的事:服务端用幂等键挡住重复下单。
  4. 转码和录制不要和播放写在同一块磁盘或同一条队列里。 源站变更先不要做。等该运营商的接入点调整完成后再看是否还要改程序。 这一故障在本步要完成的事:边缘对同一用户的突发重试做短时合并或限速。
  5. 测量首帧,并判断卡顿来自主播上行还是观众分发。结束后直播地址应停止,回放另给地址。 分别用该运营商的移动网络和住宅宽带复测,吉隆坡机房内网的结果不算通过。 这一故障在本步要完成的事:让客户端改为指数退避,并加上随机延迟。

六、处理办法

  1. 下单接口必须幂等。
  2. 不要把重试流量误判成 CC 后封掉整个运营商。
  3. 超时时间要大于弱网下的正常往返。

改完后在马来西亚的用户网络上复查,不要只在机房内网看。复查时带上直播互动的验证:看首帧时间、卡顿来自主播上行还是观众分发,以及结束后直播地址是否停止、回放是否另给地址。

七、案例

一场活动在地铁网络里失败率高,源站 QPS 却是人数的四倍。客户端失败后同时发四个重试。加上幂等键和退避后,成功单不再重复,源站压力回到人数规模。

若同样的现象出现在马来西亚,额外核对:把马来西亚流量再按运营商拆开。某一家运营商失败、其他家正常时,先查调度和接入点,不要先改源站程序。

业务侧核对:推流、播放和聊天是三条路径。播放地址用短时令牌,聊天不要走播放的缓存。

这个案例只说明怎么定位,不构成容量或可用性承诺。

八、常见问题

问:这和 CC 怎么区分?

答:重试来自真实用户标识,URL 集中在失败的那一个操作,而且会随着成功率回升而下降。

问:限速会不会让用户更失败?

答:会,所以首先要做幂等和退避,限速只是保护源站。

问:GET 重试有害吗?

答:读请求危害较小。重复扣款的 POST 必须拦住。

问:同一故障换一个地区或一种业务,排查还一样吗?

答:不一样。每一步都先按直播互动的路径处理,再按马来西亚的网络条件收窄,最后才做「弱网重试把源站打满」这一故障本身的动作。换地区或换业务,前两段操作就会变。

九、边界

只讨论高防 CDN在「弱网重试把源站打满」上的处理,地区范围是马来西亚,业务范围是直播互动。请遵守当地法律。维科云提供网络能力,不对客户业务内容负责。