一、这一篇在处理什么
这一篇只处理一件事:在美国西海岸运行的多语言门户,使用维科云的高防服务器时,如何处理「容量按平均而不是按峰值准备」。
机器数量按一天的平均流量计算,高峰时队列变长,平均利用率看起来仍不高。
看高峰时的排队时间,而不是全天平均 CPU。
二、美国西海岸的网络和高峰
当地晚间对应亚洲的白天。和亚洲站共用一套高峰预案时,两边会抢同一批容量。用户到美西边缘近,但若源站在亚洲,回源跨太平洋。未缓存的动态请求会把这段距离暴露出来。
排查时:分别看边缘命中和回源耗时。命中高而用户仍慢,问题在用户到边缘;命中低而回源慢,问题在跨洋回源。
不要这样做:只在亚洲时间看美西监控。美西的忙时不在亚洲的忙时。
三、多语言门户要分开的路径
每种语言使用稳定地址。已经带语言前缀的路径不要再被地区规则改写。
防护边界:用户手工选择的语言优先于按地区猜测。搜索引擎抓取每个语言地址时都应得到稳定内容。
验证:选中一种语言后连续点开三页,语言保持不变。另一种语言的同一内容使用另一个地址,而不是来回跳。
四、高防服务器怎么接
业务端口不对公网开放,只允许清洗或回源网段访问。管理端口走堡垒机,不直接暴露。清洗阈值按正常峰值设置,连接数、磁盘和 CPU 分开告警。源站日志保留请求编号,错误详情不写进给用户看的页面。
产品说明见高防服务器。只改和「容量按平均而不是按峰值准备」有关的域名或路径,不要把多语言门户的其他路径一起改掉。
五、排查步骤
下面五步按因果顺序执行,后一步依赖前一步的结果。步骤针对「容量按平均而不是按峰值准备」,不是一套通用清单。
- 每种语言的地址分开统计。已经带语言前缀的路径单独标记。 按美西当地晚间看容量,不要和亚洲高峰共用一个阈值。 这一故障在本步要完成的事:取出高峰时段的延迟和队列。
- 带语言前缀的地址禁止再被地区规则改写。手工选择的语言优先于地区猜测。 边缘命中高但仍慢,查用户到美西边缘;命中低且回源慢,查跨太平洋回源。 这一故障在本步要完成的事:按这个时段计算容量。
- 每种语言保持自己的稳定地址。不要用跳转把一种语言送去另一种语言。 能缓存的请求先提高命中,不要先加大跨洋带宽。 这一故障在本步要完成的事:平均利用率低不再当作多余。
- 源站按语言地址返回对应内容。不要只靠一个地址再做一次地区跳转。 动态请求若必须回亚洲,只把这类请求留在跨洋路径上。 这一故障在本步要完成的事:活动前提前增加容量。
- 选定一种语言后连续打开三页,语言保持不变。另一种语言使用另一个地址,两边都不循环跳转。 在美西当地晚间复测。用亚洲白天的监控判断美西,不算完成。 这一故障在本步要完成的事:活动后按高峰而不是按凌晨决定能否缩容。
六、处理办法
- 按峰值规划。
- 看排队而不只看平均 CPU。
- 活动单独扩容。
改完后在美国西海岸的用户网络上复查,不要只在机房内网看。复查时带上多语言门户的验证:选中一种语言后连续点开三页,语言保持不变。另一种语言的同一内容使用另一个地址,而不是来回跳。
七、案例
全天 CPU 只有三成,晚间下单却排队。按晚间峰值加机器后,全天平均仍不高,但高峰延迟下降。
若同样的现象出现在美国西海岸,额外核对:分别看边缘命中和回源耗时。命中高而用户仍慢,问题在用户到边缘;命中低而回源慢,问题在跨洋回源。
业务侧核对:每种语言使用稳定地址。已经带语言前缀的路径不要再被地区规则改写。
这个案例只说明怎么定位,不构成容量或可用性承诺。
八、常见问题
问:平均 CPU 低为什么还要加?
答:因为忙的那一个小时不够用。
问:缩容看什么?
答:看剩下的容量能否盖住峰值。
问:提前多久扩?
答:在流量到来之前,而不是告警之后才开始装机器。
问:同一故障换一个地区或一种业务,排查还一样吗?
答:不一样。每一步都先按多语言门户的路径处理,再按美国西海岸的网络条件收窄,最后才做「容量按平均而不是按峰值准备」这一故障本身的动作。换地区或换业务,前两段操作就会变。
九、边界
只讨论高防服务器在「容量按平均而不是按峰值准备」上的处理,地区范围是美国西海岸,业务范围是多语言门户。请遵守当地法律。维科云提供网络能力,不对客户业务内容负责。