台湾的API 接口站:用高防服务器处理「连接数打满但 CPU 不高」

一、这一篇在处理什么

这一篇只处理一件事:在台湾运行的API 接口站,使用维科云的高防服务器时,如何处理「连接数打满但 CPU 不高」。

告警只看 CPU。慢连接把连接表占满时,CPU 仍很低,新用户已经连不上。

同时看连接数和 CPU。

二、台湾的网络和高峰

晚间高峰集中,整点活动时会有瞬间爬坡。岛内访问和跨境访问差异大。跨境首包变慢时,岛内用户可能仍然正常。

排查时:把台湾岛内和从台湾出去的访问分开统计。只有跨境慢时,不要改岛内源站的业务逻辑。

不要这样做:用台北办公网络代表全部用户。移动网络和办公网络要各测一次。

三、API 接口站要分开的路径

按路径区分只读和写入。只读且不含身份的响应才可以短缓存,写入必须回源。

防护边界:整站跳转和整站挑战不能盖住接口。调用方不会处理跳转到网页的结果。

验证:用固定的样例请求看状态码和正文是否仍是接口格式。失败时日志里要有请求编号,而不是一段网页。

四、高防服务器怎么接

业务端口不对公网开放,只允许清洗或回源网段访问。管理端口走堡垒机,不直接暴露。清洗阈值按正常峰值设置,连接数、磁盘和 CPU 分开告警。源站日志保留请求编号,错误详情不写进给用户看的页面。

产品说明见高防服务器。只改和「连接数打满但 CPU 不高」有关的域名或路径,不要把API 接口站的其他路径一起改掉。

五、排查步骤

下面五步按因果顺序执行,后一步依赖前一步的结果。步骤针对「连接数打满但 CPU 不高」,不是一套通用清单。

  1. 只读接口和写入接口分成两列。写入请求一律记为不缓存。 岛内访问和从台湾出去的跨境访问分成两张表。 这一故障在本步要完成的事:加上连接数告警。
  2. 只读且不含身份的响应才允许短缓存。任何写入都不能被跳转成网页。 只有跨境变慢时,不要修改只服务岛内的程序逻辑。 这一故障在本步要完成的事:找出占着连接但不传输的来源。
  3. 挑战和整站跳转排除全部接口路径。需要限速时按路径限速,返回仍是接口格式。 跨境路径单独改调度或回源。岛内解析保持不动。 这一故障在本步要完成的事:对读请求头设置超时。
  4. 源站对写入接口做幂等。只读接口不要因为写入故障被一起拒绝。 确认岛内表仍然正常后,再发布跨境这一侧的变更。 这一故障在本步要完成的事:限制单 IP 并发。
  5. 用一条固定样例请求检查状态码和正文仍是接口数据。失败日志里要有请求编号。 用台湾移动网络和办公网络各测一次,不要只用台北办公室的有线网络。 这一故障在本步要完成的事:确认正常上传路径使用更长的单独超时。

六、处理办法

  1. 连接数单独告警。
  2. 慢请求在边缘或源站结束。
  3. 上传路径除外。

改完后在台湾的用户网络上复查,不要只在机房内网看。复查时带上API 接口站的验证:用固定的样例请求看状态码和正文是否仍是接口格式。失败时日志里要有请求编号,而不是一段网页。

七、案例

CPU 只有两成,新连接却失败。连接表被长时间不发数据的连接占满。加上连接数告警和请求头超时后,这种情况会先被发现。

若同样的现象出现在台湾,额外核对:把台湾岛内和从台湾出去的访问分开统计。只有跨境慢时,不要改岛内源站的业务逻辑。

业务侧核对:按路径区分只读和写入。只读且不含身份的响应才可以短缓存,写入必须回源。

这个案例只说明怎么定位,不构成容量或可用性承诺。

八、常见问题

问:CPU 正常能说明机器正常吗?

答:不能。连接和磁盘都可能先满。

问:超时会误伤上传吗?

答:会,所以上传要用单独配置。

问:告警阈值怎么定?

答:低于连接表上限,留出处理时间。

问:同一故障换一个地区或一种业务,排查还一样吗?

答:不一样。每一步都先按API 接口站的路径处理,再按台湾的网络条件收窄,最后才做「连接数打满但 CPU 不高」这一故障本身的动作。换地区或换业务,前两段操作就会变。

九、边界

只讨论高防服务器在「连接数打满但 CPU 不高」上的处理,地区范围是台湾,业务范围是API 接口站。请遵守当地法律。维科云提供网络能力,不对客户业务内容负责。