美国西海岸的直播互动:用高防服务器处理「监控机器和业务机器一起挂」

一、这一篇在处理什么

这一篇只处理一件事:在美国西海岸运行的直播互动,使用维科云的高防服务器时,如何处理「监控机器和业务机器一起挂」。

监控装在唯一的业务机器上。机器不可达时,告警也发不出来。

看监控是否还能从外部发现这台机器失败。

二、美国西海岸的网络和高峰

当地晚间对应亚洲的白天。和亚洲站共用一套高峰预案时,两边会抢同一批容量。用户到美西边缘近,但若源站在亚洲,回源跨太平洋。未缓存的动态请求会把这段距离暴露出来。

排查时:分别看边缘命中和回源耗时。命中高而用户仍慢,问题在用户到边缘;命中低而回源慢,问题在跨洋回源。

不要这样做:只在亚洲时间看美西监控。美西的忙时不在亚洲的忙时。

三、直播互动要分开的路径

推流、播放和聊天是三条路径。播放地址用短时令牌,聊天不要走播放的缓存。

防护边界:播放令牌过期应在场次中途之前刷新。不要把直播切片和网页跳转规则混在同一个域名上。

验证:看首帧时间、卡顿来自主播上行还是观众分发,以及结束后直播地址是否停止、回放是否另给地址。

四、高防服务器怎么接

业务端口不对公网开放,只允许清洗或回源网段访问。管理端口走堡垒机,不直接暴露。清洗阈值按正常峰值设置,连接数、磁盘和 CPU 分开告警。源站日志保留请求编号,错误详情不写进给用户看的页面。

产品说明见高防服务器。只改和「监控机器和业务机器一起挂」有关的域名或路径,不要把直播互动的其他路径一起改掉。

五、排查步骤

下面五步按因果顺序执行,后一步依赖前一步的结果。步骤针对「监控机器和业务机器一起挂」,不是一套通用清单。

  1. 推流、播放和聊天分开统计。播放地址的令牌过期要单独计数。 按美西当地晚间看容量,不要和亚洲高峰共用一个阈值。 这一故障在本步要完成的事:从外部探测业务地址。
  2. 聊天不要走播放缓存。播放令牌在场次结束前刷新,不要等观众已经 403。 边缘命中高但仍慢,查用户到美西边缘;命中低且回源慢,查跨太平洋回源。 这一故障在本步要完成的事:告警发送不依赖这台机器自身。
  3. 播放切片和网页跳转不要共用一个域名。需要拦截时只拦被盗用的播放域名。 能缓存的请求先提高命中,不要先加大跨洋带宽。 这一故障在本步要完成的事:外部探测失败时仍能通知到人。
  4. 转码和录制不要和播放写在同一块磁盘或同一条队列里。 动态请求若必须回亚洲,只把这类请求留在跨洋路径上。 这一故障在本步要完成的事:用一次停进程验证通知。
  5. 测量首帧,并判断卡顿来自主播上行还是观众分发。结束后直播地址应停止,回放另给地址。 在美西当地晚间复测。用亚洲白天的监控判断美西,不算完成。 这一故障在本步要完成的事:不要只靠机器内的自检。

六、处理办法

  1. 外部探测。
  2. 告警通道独立。
  3. 停进程做一次演练。

改完后在美国西海岸的用户网络上复查,不要只在机房内网看。复查时带上直播互动的验证:看首帧时间、卡顿来自主播上行还是观众分发,以及结束后直播地址是否停止、回放是否另给地址。

七、案例

机器断网后内部监控也断了,没有人收到消息。加上外部探测后,机器不可达本身就会通知。

若同样的现象出现在美国西海岸,额外核对:分别看边缘命中和回源耗时。命中高而用户仍慢,问题在用户到边缘;命中低而回源慢,问题在跨洋回源。

业务侧核对:推流、播放和聊天是三条路径。播放地址用短时令牌,聊天不要走播放的缓存。

这个案例只说明怎么定位,不构成容量或可用性承诺。

八、常见问题

问:机器里的监控还有用吗?

答:有用,它能看到磁盘和进程。但不能代替外部探测。

问:探测多久一次?

答:短到能在用户大量投诉前发现。

问:告警发给谁?

答:发给值班渠道,而不是只写在这台机器的邮箱里。

问:同一故障换一个地区或一种业务,排查还一样吗?

答:不一样。每一步都先按直播互动的路径处理,再按美国西海岸的网络条件收窄,最后才做「监控机器和业务机器一起挂」这一故障本身的动作。换地区或换业务,前两段操作就会变。

九、边界

只讨论高防服务器在「监控机器和业务机器一起挂」上的处理,地区范围是美国西海岸,业务范围是直播互动。请遵守当地法律。维科云提供网络能力,不对客户业务内容负责。