美国西海岸的在线娱乐平台:用高防服务器处理「容量按平均而不是按峰值准备」

一、这一篇在处理什么

这一篇只处理一件事:在美国西海岸运行的在线娱乐平台,使用维科云的高防服务器时,如何处理「容量按平均而不是按峰值准备」。

机器数量按一天的平均流量计算,高峰时队列变长,平均利用率看起来仍不高。

看高峰时的排队时间,而不是全天平均 CPU。

二、美国西海岸的网络和高峰

当地晚间对应亚洲的白天。和亚洲站共用一套高峰预案时,两边会抢同一批容量。用户到美西边缘近,但若源站在亚洲,回源跨太平洋。未缓存的动态请求会把这段距离暴露出来。

排查时:分别看边缘命中和回源耗时。命中高而用户仍慢,问题在用户到边缘;命中低而回源慢,问题在跨洋回源。

不要这样做:只在亚洲时间看美西监控。美西的忙时不在亚洲的忙时。

三、在线娱乐平台要分开的路径

登录、房间列表、下单和静态皮肤要分域。下单接口不能按 URL 缓存。

防护边界:挑战和限速只覆盖被刷的动态路径。首页皮肤、规则页被误拦时,用户会认为整站不可用。

验证:用两个账号连续访问同一页面,确认不会看到对方的余额或昵称。再用一次失败提交确认不会重复扣款。

四、高防服务器怎么接

业务端口不对公网开放,只允许清洗或回源网段访问。管理端口走堡垒机,不直接暴露。清洗阈值按正常峰值设置,连接数、磁盘和 CPU 分开告警。源站日志保留请求编号,错误详情不写进给用户看的页面。

产品说明见高防服务器。只改和「容量按平均而不是按峰值准备」有关的域名或路径,不要把在线娱乐平台的其他路径一起改掉。

五、排查步骤

下面五步按因果顺序执行,后一步依赖前一步的结果。步骤针对「容量按平均而不是按峰值准备」,不是一套通用清单。

  1. 只统计登录、房间列表、下单和皮肤域名。下单接口单独成列,不能和皮肤放在一起。 按美西当地晚间看容量,不要和亚洲高峰共用一个阈值。 这一故障在本步要完成的事:取出高峰时段的延迟和队列。
  2. 皮肤和规则页保持可访问。限速和挑战只允许出现在被刷的下单或登录路径上。 边缘命中高但仍慢,查用户到美西边缘;命中低且回源慢,查跨太平洋回源。 这一故障在本步要完成的事:按这个时段计算容量。
  3. 下单接口设为不缓存。若这一步需要拦截,只拦下单路径,首页皮肤继续放行。 能缓存的请求先提高命中,不要先加大跨洋带宽。 这一故障在本步要完成的事:平均利用率低不再当作多余。
  4. 在源站只限制下单路径的并发。不要因为下单异常把皮肤域名也回源。 动态请求若必须回亚洲,只把这类请求留在跨洋路径上。 这一故障在本步要完成的事:活动前提前增加容量。
  5. 用两个账号各下一单:页面不能出现对方的余额或昵称,失败重试不能产生第二笔扣款。 在美西当地晚间复测。用亚洲白天的监控判断美西,不算完成。 这一故障在本步要完成的事:活动后按高峰而不是按凌晨决定能否缩容。

六、处理办法

  1. 按峰值规划。
  2. 看排队而不只看平均 CPU。
  3. 活动单独扩容。

改完后在美国西海岸的用户网络上复查,不要只在机房内网看。复查时带上在线娱乐平台的验证:用两个账号连续访问同一页面,确认不会看到对方的余额或昵称。再用一次失败提交确认不会重复扣款。

七、案例

全天 CPU 只有三成,晚间下单却排队。按晚间峰值加机器后,全天平均仍不高,但高峰延迟下降。

若同样的现象出现在美国西海岸,额外核对:分别看边缘命中和回源耗时。命中高而用户仍慢,问题在用户到边缘;命中低而回源慢,问题在跨洋回源。

业务侧核对:登录、房间列表、下单和静态皮肤要分域。下单接口不能按 URL 缓存。

这个案例只说明怎么定位,不构成容量或可用性承诺。

八、常见问题

问:平均 CPU 低为什么还要加?

答:因为忙的那一个小时不够用。

问:缩容看什么?

答:看剩下的容量能否盖住峰值。

问:提前多久扩?

答:在流量到来之前,而不是告警之后才开始装机器。

问:同一故障换一个地区或一种业务,排查还一样吗?

答:不一样。每一步都先按在线娱乐平台的路径处理,再按美国西海岸的网络条件收窄,最后才做「容量按平均而不是按峰值准备」这一故障本身的动作。换地区或换业务,前两段操作就会变。

九、边界

只讨论高防服务器在「容量按平均而不是按峰值准备」上的处理,地区范围是美国西海岸,业务范围是在线娱乐平台。请遵守当地法律。维科云提供网络能力,不对客户业务内容负责。