一、这一篇在处理什么
这一篇只处理一件事:在香港运行的静态资源站,使用维科云的高防服务器时,如何处理「容量按平均而不是按峰值准备」。
机器数量按一天的平均流量计算,高峰时队列变长,平均利用率看起来仍不高。
看高峰时的排队时间,而不是全天平均 CPU。
二、香港的网络和高峰
交易和晚间活动重叠时最忙,白天也有稳定流量。到华南和东南亚都近,常被当成回源点。回源集中在香港时,香港出口会先满。
排查时:分开看「用户到香港」和「香港到源站」。前一段慢是调度问题,后一段慢是回源问题。
不要这样做:所有地区都回源到香港。离香港远的用户会在回源这一段变慢。
三、静态资源站要分开的路径
图片、脚本和样式使用长缓存。带随机时间戳的地址会使缓存失效。
防护边界:这个域名不要开启会改写内容的优化,也不要和动态接口共用缓存键。
验证:同一文件连续请求两次,第二次应在边缘命中。改文件名或版本号后,新文件应能更新,旧文件仍可保留。
四、高防服务器怎么接
业务端口不对公网开放,只允许清洗或回源网段访问。管理端口走堡垒机,不直接暴露。清洗阈值按正常峰值设置,连接数、磁盘和 CPU 分开告警。源站日志保留请求编号,错误详情不写进给用户看的页面。
产品说明见高防服务器。只改和「容量按平均而不是按峰值准备」有关的域名或路径,不要把静态资源站的其他路径一起改掉。
五、排查步骤
下面五步按因果顺序执行,后一步依赖前一步的结果。步骤针对「容量按平均而不是按峰值准备」,不是一套通用清单。
- 图片、脚本和样式分开看命中率。带随机时间戳的地址单独列出。 把「用户到香港」和「香港到源站」分成两段计时。 这一故障在本步要完成的事:取出高峰时段的延迟和队列。
- 这三类文件使用长缓存。随机参数要从缓存键里去掉,或停止由客户端添加。 前一段慢就处理调度,后一段慢就处理回源。不要两段用同一个动作。 这一故障在本步要完成的事:按这个时段计算容量。
- 不要对这个域名做会改写文件内容的优化,也不要套用动态接口的规则。 其他地区若都回源到香港,先把远地区的回源移走,避免香港出口被挤满。 这一故障在本步要完成的事:平均利用率低不再当作多余。
- 源站只接受真正未命中的文件。同一文件不应在短时间内反复整文件回源。 回源调整完成前,不要用重启香港源站来掩盖排队。 这一故障在本步要完成的事:活动前提前增加容量。
- 同一文件连续请求两次,第二次应在边缘命中。更换版本号后,新文件能更新,旧文件仍可保留。 分别从香港本地和另一个远地区复测这两段时间。 这一故障在本步要完成的事:活动后按高峰而不是按凌晨决定能否缩容。
六、处理办法
- 按峰值规划。
- 看排队而不只看平均 CPU。
- 活动单独扩容。
改完后在香港的用户网络上复查,不要只在机房内网看。复查时带上静态资源站的验证:同一文件连续请求两次,第二次应在边缘命中。改文件名或版本号后,新文件应能更新,旧文件仍可保留。
七、案例
全天 CPU 只有三成,晚间下单却排队。按晚间峰值加机器后,全天平均仍不高,但高峰延迟下降。
若同样的现象出现在香港,额外核对:分开看「用户到香港」和「香港到源站」。前一段慢是调度问题,后一段慢是回源问题。
业务侧核对:图片、脚本和样式使用长缓存。带随机时间戳的地址会使缓存失效。
这个案例只说明怎么定位,不构成容量或可用性承诺。
八、常见问题
问:平均 CPU 低为什么还要加?
答:因为忙的那一个小时不够用。
问:缩容看什么?
答:看剩下的容量能否盖住峰值。
问:提前多久扩?
答:在流量到来之前,而不是告警之后才开始装机器。
问:同一故障换一个地区或一种业务,排查还一样吗?
答:不一样。每一步都先按静态资源站的路径处理,再按香港的网络条件收窄,最后才做「容量按平均而不是按峰值准备」这一故障本身的动作。换地区或换业务,前两段操作就会变。
九、边界
只讨论高防服务器在「容量按平均而不是按峰值准备」上的处理,地区范围是香港,业务范围是静态资源站。请遵守当地法律。维科云提供网络能力,不对客户业务内容负责。