美国西海岸的多语言门户:用高防服务器处理「容量按平均而不是按峰值准备」

一、这一篇在处理什么

这一篇只处理一件事:在美国西海岸运行的多语言门户,使用维科云的高防服务器时,如何处理「容量按平均而不是按峰值准备」。

机器数量按一天的平均流量计算,高峰时队列变长,平均利用率看起来仍不高。

看高峰时的排队时间,而不是全天平均 CPU。

二、美国西海岸的网络和高峰

当地晚间对应亚洲的白天。和亚洲站共用一套高峰预案时,两边会抢同一批容量。用户到美西边缘近,但若源站在亚洲,回源跨太平洋。未缓存的动态请求会把这段距离暴露出来。

排查时:分别看边缘命中和回源耗时。命中高而用户仍慢,问题在用户到边缘;命中低而回源慢,问题在跨洋回源。

不要这样做:只在亚洲时间看美西监控。美西的忙时不在亚洲的忙时。

三、多语言门户要分开的路径

每种语言使用稳定地址。已经带语言前缀的路径不要再被地区规则改写。

防护边界:用户手工选择的语言优先于按地区猜测。搜索引擎抓取每个语言地址时都应得到稳定内容。

验证:选中一种语言后连续点开三页,语言保持不变。另一种语言的同一内容使用另一个地址,而不是来回跳。

四、高防服务器怎么接

业务端口不对公网开放,只允许清洗或回源网段访问。管理端口走堡垒机,不直接暴露。清洗阈值按正常峰值设置,连接数、磁盘和 CPU 分开告警。源站日志保留请求编号,错误详情不写进给用户看的页面。

产品说明见高防服务器。只改和「容量按平均而不是按峰值准备」有关的域名或路径,不要把多语言门户的其他路径一起改掉。

五、排查步骤

下面五步按因果顺序执行,后一步依赖前一步的结果。步骤针对「容量按平均而不是按峰值准备」,不是一套通用清单。

  1. 每种语言的地址分开统计。已经带语言前缀的路径单独标记。 按美西当地晚间看容量,不要和亚洲高峰共用一个阈值。 这一故障在本步要完成的事:取出高峰时段的延迟和队列。
  2. 带语言前缀的地址禁止再被地区规则改写。手工选择的语言优先于地区猜测。 边缘命中高但仍慢,查用户到美西边缘;命中低且回源慢,查跨太平洋回源。 这一故障在本步要完成的事:按这个时段计算容量。
  3. 每种语言保持自己的稳定地址。不要用跳转把一种语言送去另一种语言。 能缓存的请求先提高命中,不要先加大跨洋带宽。 这一故障在本步要完成的事:平均利用率低不再当作多余。
  4. 源站按语言地址返回对应内容。不要只靠一个地址再做一次地区跳转。 动态请求若必须回亚洲,只把这类请求留在跨洋路径上。 这一故障在本步要完成的事:活动前提前增加容量。
  5. 选定一种语言后连续打开三页,语言保持不变。另一种语言使用另一个地址,两边都不循环跳转。 在美西当地晚间复测。用亚洲白天的监控判断美西,不算完成。 这一故障在本步要完成的事:活动后按高峰而不是按凌晨决定能否缩容。

六、处理办法

  1. 按峰值规划。
  2. 看排队而不只看平均 CPU。
  3. 活动单独扩容。

改完后在美国西海岸的用户网络上复查,不要只在机房内网看。复查时带上多语言门户的验证:选中一种语言后连续点开三页,语言保持不变。另一种语言的同一内容使用另一个地址,而不是来回跳。

七、案例

全天 CPU 只有三成,晚间下单却排队。按晚间峰值加机器后,全天平均仍不高,但高峰延迟下降。

若同样的现象出现在美国西海岸,额外核对:分别看边缘命中和回源耗时。命中高而用户仍慢,问题在用户到边缘;命中低而回源慢,问题在跨洋回源。

业务侧核对:每种语言使用稳定地址。已经带语言前缀的路径不要再被地区规则改写。

这个案例只说明怎么定位,不构成容量或可用性承诺。

八、常见问题

问:平均 CPU 低为什么还要加?

答:因为忙的那一个小时不够用。

问:缩容看什么?

答:看剩下的容量能否盖住峰值。

问:提前多久扩?

答:在流量到来之前,而不是告警之后才开始装机器。

问:同一故障换一个地区或一种业务,排查还一样吗?

答:不一样。每一步都先按多语言门户的路径处理,再按美国西海岸的网络条件收窄,最后才做「容量按平均而不是按峰值准备」这一故障本身的动作。换地区或换业务,前两段操作就会变。

九、边界

只讨论高防服务器在「容量按平均而不是按峰值准备」上的处理,地区范围是美国西海岸,业务范围是多语言门户。请遵守当地法律。维科云提供网络能力,不对客户业务内容负责。