香港的混合动静分离:用直播加速处理「边缘节点过载仍在接新观众」

一、这一篇在处理什么

这一篇只处理一件事:在香港运行的混合动静分离,使用维科云的直播加速时,如何处理「边缘节点过载仍在接新观众」。

某个热门节点的带宽或连接已经满了,调度还在把新人送进来。

看节点带宽、连接数和新人分配比例。

二、香港的网络和高峰

交易和晚间活动重叠时最忙,白天也有稳定流量。到华南和东南亚都近,常被当成回源点。回源集中在香港时,香港出口会先满。

排查时:分开看「用户到香港」和「香港到源站」。前一段慢是调度问题,后一段慢是回源问题。

不要这样做:所有地区都回源到香港。离香港远的用户会在回源这一段变慢。

三、混合动静分离要分开的路径

页面外壳可以缓存,用户相关的数据用单独接口。两套域名的缓存规则不要互相复制。

防护边界:外壳上不要留下余额、订单号或会话。那些字段只出现在不缓存的接口里。

验证:刷新页面时外壳来自缓存,接口仍返回当前用户自己的数据。退出登录后,不能再看到上一个用户的接口结果。

四、直播加速怎么接

推流就近接入,观众播放走边缘节点。转码和录制与播放分开,避免转码故障把正在看的人一起打断。播放地址使用短时令牌。互动场景缩短关键帧间隔,转播场景可以稍长,以换取带宽。

产品说明见直播加速。只改和「边缘节点过载仍在接新观众」有关的域名或路径,不要把混合动静分离的其他路径一起改掉。

五、排查步骤

下面五步按因果顺序执行,后一步依赖前一步的结果。步骤针对「边缘节点过载仍在接新观众」,不是一套通用清单。

  1. 页面外壳和用户数据接口分成两列。外壳命中率不要把接口失败算进去。 把「用户到香港」和「香港到源站」分成两段计时。 这一故障在本步要完成的事:找出缓冲率高的节点。
  2. 外壳可以缓存,但里面不能有余额、订单号或会话。这些只允许出现在不缓存的接口里。 前一段慢就处理调度,后一段慢就处理回源。不要两段用同一个动作。 这一故障在本步要完成的事:确认该节点是否仍在接收新观众。
  3. 两套域名的规则分开保存。改接口规则时不要复制到外壳域名。 其他地区若都回源到香港,先把远地区的回源移走,避免香港出口被挤满。 这一故障在本步要完成的事:达到阈值后把它从调度里摘除。
  4. 源站只生成用户数据接口。外壳应尽量不再回源。 回源调整完成前,不要用重启香港源站来掩盖排队。 这一故障在本步要完成的事:已在该节点的观众在缓冲过高时允许换点。
  5. 刷新页面时外壳来自缓存,接口仍是当前用户的数据。退出后再请求,不能看到上一个用户的结果。 分别从香港本地和另一个远地区复测这两段时间。 这一故障在本步要完成的事:恢复阈值要比摘除阈值低,避免来回摘除。

六、处理办法

  1. 调度读取节点负载。
  2. 摘除和恢复使用不同阈值。
  3. 不要只按地区、不看负载。

改完后在香港的用户网络上复查,不要只在机房内网看。复查时带上混合动静分离的验证:刷新页面时外壳来自缓存,接口仍返回当前用户自己的数据。退出登录后,不能再看到上一个用户的接口结果。

七、案例

一个地区的主节点带宽打满,新人仍被分来。加入负载判断后,新人去了同区的下一个节点,缓冲率下降。

若同样的现象出现在香港,额外核对:分开看「用户到香港」和「香港到源站」。前一段慢是调度问题,后一段慢是回源问题。

业务侧核对:页面外壳可以缓存,用户相关的数据用单独接口。两套域名的缓存规则不要互相复制。

这个案例只说明怎么定位,不构成容量或可用性承诺。

八、常见问题

问:摘除后旧观众怎么办?

答:不必立刻全部赶走。只停止新人,旧观众缓冲过高时再换。

问:为什么会来回摘除?

答:恢复阈值和摘除阈值一样,负载在线上抖动。应拉开差距。

问:同区没有下一个节点呢?

答:才允许跨区,并在统计里标出来。

问:同一故障换一个地区或一种业务,排查还一样吗?

答:不一样。每一步都先按混合动静分离的路径处理,再按香港的网络条件收窄,最后才做「边缘节点过载仍在接新观众」这一故障本身的动作。换地区或换业务,前两段操作就会变。

九、边界

只讨论直播加速在「边缘节点过载仍在接新观众」上的处理,地区范围是香港,业务范围是混合动静分离。请遵守当地法律。维科云提供网络能力,不对客户业务内容负责。