韩国的直播互动:用高防服务器处理「连接数打满但 CPU 不高」

一、这一篇在处理什么

这一篇只处理一件事:在韩国运行的直播互动,使用维科云的高防服务器时,如何处理「连接数打满但 CPU 不高」。

告警只看 CPU。慢连接把连接表占满时,CPU 仍很低,新用户已经连不上。

同时看连接数和 CPU。

二、韩国的网络和高峰

晚间高峰陡,活动开始的几分钟内容易出现重试。本地网络快,但国际出口在突发时会抖。客户端超时设得太短时,会把抖动放大成重试风暴。

排查时:看同一用户在短时间内的重复请求。重复很多而源站处理时间正常,先改超时和退避。

不要这样做:把重试风暴当成攻击,封掉整个运营商。应先认出来源是不是真实用户的重复提交。

三、直播互动要分开的路径

推流、播放和聊天是三条路径。播放地址用短时令牌,聊天不要走播放的缓存。

防护边界:播放令牌过期应在场次中途之前刷新。不要把直播切片和网页跳转规则混在同一个域名上。

验证:看首帧时间、卡顿来自主播上行还是观众分发,以及结束后直播地址是否停止、回放是否另给地址。

四、高防服务器怎么接

业务端口不对公网开放,只允许清洗或回源网段访问。管理端口走堡垒机,不直接暴露。清洗阈值按正常峰值设置,连接数、磁盘和 CPU 分开告警。源站日志保留请求编号,错误详情不写进给用户看的页面。

产品说明见高防服务器。只改和「连接数打满但 CPU 不高」有关的域名或路径,不要把直播互动的其他路径一起改掉。

五、排查步骤

下面五步按因果顺序执行,后一步依赖前一步的结果。步骤针对「连接数打满但 CPU 不高」,不是一套通用清单。

  1. 推流、播放和聊天分开统计。播放地址的令牌过期要单独计数。 统计同一用户在短时间内的重复请求,晚高峰陡增的几分钟单独看。 这一故障在本步要完成的事:加上连接数告警。
  2. 聊天不要走播放缓存。播放令牌在场次结束前刷新,不要等观众已经 403。 源站处理时间正常但重复请求很多时,按重试处理,不要按攻击封运营商。 这一故障在本步要完成的事:找出占着连接但不传输的来源。
  3. 播放切片和网页跳转不要共用一个域名。需要拦截时只拦被盗用的播放域名。 先加长客户端超时并改为退避。运营商封禁先不要下发。 这一故障在本步要完成的事:对读请求头设置超时。
  4. 转码和录制不要和播放写在同一块磁盘或同一条队列里。 确认重复请求下降后,再决定源站要不要限并发。 这一故障在本步要完成的事:限制单 IP 并发。
  5. 测量首帧,并判断卡顿来自主播上行还是观众分发。结束后直播地址应停止,回放另给地址。 用韩国本地网络模拟一次抖动,确认不会打出一串立即重试。 这一故障在本步要完成的事:确认正常上传路径使用更长的单独超时。

六、处理办法

  1. 连接数单独告警。
  2. 慢请求在边缘或源站结束。
  3. 上传路径除外。

改完后在韩国的用户网络上复查,不要只在机房内网看。复查时带上直播互动的验证:看首帧时间、卡顿来自主播上行还是观众分发,以及结束后直播地址是否停止、回放是否另给地址。

七、案例

CPU 只有两成,新连接却失败。连接表被长时间不发数据的连接占满。加上连接数告警和请求头超时后,这种情况会先被发现。

若同样的现象出现在韩国,额外核对:看同一用户在短时间内的重复请求。重复很多而源站处理时间正常,先改超时和退避。

业务侧核对:推流、播放和聊天是三条路径。播放地址用短时令牌,聊天不要走播放的缓存。

这个案例只说明怎么定位,不构成容量或可用性承诺。

八、常见问题

问:CPU 正常能说明机器正常吗?

答:不能。连接和磁盘都可能先满。

问:超时会误伤上传吗?

答:会,所以上传要用单独配置。

问:告警阈值怎么定?

答:低于连接表上限,留出处理时间。

问:同一故障换一个地区或一种业务,排查还一样吗?

答:不一样。每一步都先按直播互动的路径处理,再按韩国的网络条件收窄,最后才做「连接数打满但 CPU 不高」这一故障本身的动作。换地区或换业务,前两段操作就会变。

九、边界

只讨论高防服务器在「连接数打满但 CPU 不高」上的处理,地区范围是韩国,业务范围是直播互动。请遵守当地法律。维科云提供网络能力,不对客户业务内容负责。