香港的API 接口站:用高防服务器处理「单机承载了无法水平扩展的状态」

一、这一篇在处理什么

这一篇只处理一件事:在香港运行的API 接口站,使用维科云的高防服务器时,如何处理「单机承载了无法水平扩展的状态」。

会话只存在某一台机器的内存里。这台机器一忙,不能把用户分到别的机器。

看会话是否绑死在单机。

二、香港的网络和高峰

交易和晚间活动重叠时最忙,白天也有稳定流量。到华南和东南亚都近,常被当成回源点。回源集中在香港时,香港出口会先满。

排查时:分开看「用户到香港」和「香港到源站」。前一段慢是调度问题,后一段慢是回源问题。

不要这样做:所有地区都回源到香港。离香港远的用户会在回源这一段变慢。

三、API 接口站要分开的路径

按路径区分只读和写入。只读且不含身份的响应才可以短缓存,写入必须回源。

防护边界:整站跳转和整站挑战不能盖住接口。调用方不会处理跳转到网页的结果。

验证:用固定的样例请求看状态码和正文是否仍是接口格式。失败时日志里要有请求编号,而不是一段网页。

四、高防服务器怎么接

业务端口不对公网开放,只允许清洗或回源网段访问。管理端口走堡垒机,不直接暴露。清洗阈值按正常峰值设置,连接数、磁盘和 CPU 分开告警。源站日志保留请求编号,错误详情不写进给用户看的页面。

产品说明见高防服务器。只改和「单机承载了无法水平扩展的状态」有关的域名或路径,不要把API 接口站的其他路径一起改掉。

五、排查步骤

下面五步按因果顺序执行,后一步依赖前一步的结果。步骤针对「单机承载了无法水平扩展的状态」,不是一套通用清单。

  1. 只读接口和写入接口分成两列。写入请求一律记为不缓存。 把「用户到香港」和「香港到源站」分成两段计时。 这一故障在本步要完成的事:确认会话存在哪里。
  2. 只读且不含身份的响应才允许短缓存。任何写入都不能被跳转成网页。 前一段慢就处理调度,后一段慢就处理回源。不要两段用同一个动作。 这一故障在本步要完成的事:若只在单机内存,就把会话放到共享存储或改成无状态令牌。
  3. 挑战和整站跳转排除全部接口路径。需要限速时按路径限速,返回仍是接口格式。 其他地区若都回源到香港,先把远地区的回源移走,避免香港出口被挤满。 这一故障在本步要完成的事:然后才允许多台机器同时接流量。
  4. 源站对写入接口做幂等。只读接口不要因为写入故障被一起拒绝。 回源调整完成前,不要用重启香港源站来掩盖排队。 这一故障在本步要完成的事:下线一台时确认用户不必全部重新登录。
  5. 用一条固定样例请求检查状态码和正文仍是接口数据。失败日志里要有请求编号。 分别从香港本地和另一个远地区复测这两段时间。 这一故障在本步要完成的事:容量按能摘掉一台来设计。

六、处理办法

  1. 先解决会话位置。
  2. 允许摘掉任意一台。
  3. 不用单机内存保存登录态。

改完后在香港的用户网络上复查,不要只在机房内网看。复查时带上API 接口站的验证:用固定的样例请求看状态码和正文是否仍是接口格式。失败时日志里要有请求编号,而不是一段网页。

七、案例

加机器后用户仍挤在第一台,因为会话粘在上面。登录态改为共享存储后,新机器才开始分担。

若同样的现象出现在香港,额外核对:分开看「用户到香港」和「香港到源站」。前一段慢是调度问题,后一段慢是回源问题。

业务侧核对:按路径区分只读和写入。只读且不含身份的响应才可以短缓存,写入必须回源。

这个案例只说明怎么定位,不构成容量或可用性承诺。

八、常见问题

问:粘滞会话能不能用?

答:能暂时用,但那一台故障时用户会掉线。

问:令牌放在客户端安全吗?

答:要签名和过期,不能把权限明文放进去。

问:为什么加机器没用?

答:因为状态还在旧机器上,新机器拿不到。

问:同一故障换一个地区或一种业务,排查还一样吗?

答:不一样。每一步都先按API 接口站的路径处理,再按香港的网络条件收窄,最后才做「单机承载了无法水平扩展的状态」这一故障本身的动作。换地区或换业务,前两段操作就会变。

九、边界

只讨论高防服务器在「单机承载了无法水平扩展的状态」上的处理,地区范围是香港,业务范围是API 接口站。请遵守当地法律。维科云提供网络能力,不对客户业务内容负责。