菲律宾的会员登录站:用高防 CDN处理「爬虫占满连接数」

一、这一篇在处理什么

这一篇只处理一件事:在菲律宾运行的会员登录站,使用维科云的高防 CDN时,如何处理「爬虫占满连接数」。

正常搜索引擎抓取量稳定,异常爬虫会用大量无缓存 URL 把边缘到源站的连接占满。

看来源 ASN、User-Agent 的连接数,以及这些请求的缓存命中率。

二、菲律宾的网络和高峰

晚间高峰明显,移动网络在高峰时抖动更常见。国际访问经常经过较远的转接。短连接、多次握手的页面比长连接更容易被感觉到慢。

排查时:把连接建立时间和源站处理时间分开。连接建立变长而源站处理不变时,先查边缘和调度。

不要这样做:用加大源站 CPU 去解决连接建立慢。CPU 空闲时加机器没有帮助。

三、会员登录站要分开的路径

登录页、会话接口和验证码分开。登录响应含身份信息,不能按网址缓存。

防护边界:验证码和登录失败重试要有上限,但不要把整个运营商封掉。

验证:两个浏览器先后登录,确认页面和 Cookie 没有串号。错误密码连续失败时,正常密码仍能登录。

四、高防 CDN怎么接

公网只解析到 CDN 的 CNAME,源站安全组只放行回源网段。静态域名使用较长缓存时间,登录、下单和支付接口单独 Bypass,不与图片域名共用缓存键。清洗策略按 Host 分开:活动页可以更严,API 要按路径放行正常的高频轮询。

产品说明见高防 CDN。只改和「爬虫占满连接数」有关的域名或路径,不要把会员登录站的其他路径一起改掉。

五、排查步骤

下面五步按因果顺序执行,后一步依赖前一步的结果。步骤针对「爬虫占满连接数」,不是一套通用清单。

  1. 登录页、会话接口和验证码分开统计。含身份的响应单独标记为不可缓存。 把连接建立时间和源站处理时间分成两列,晚高峰单独看连接建立。 这一故障在本步要完成的事:按 User-Agent 和 ASN 排序,找出连接数异常的来源。
  2. 验证码失败和登录失败设置次数上限。不要因为失败变多就封掉整个运营商。 源站处理时间正常、连接建立变长时,按国际出口抖动处理。 这一故障在本步要完成的事:核对是否为已声明的搜索引擎网段,避免误伤正常收录。
  3. 会话接口不缓存。若要加挑战,只加在登录入口,已登录后的会话接口不要再挑战。 先缩短建连路径或改接入点。不要先给源站加 CPU。 这一故障在本步要完成的事:对未知爬虫降低并发,并优先返回已缓存对象。
  4. 源站按账号限制错误密码次数。不要按来源网络把所有用户锁在一起。 源站 CPU 若仍然空闲,就不要扩容源站。 这一故障在本步要完成的事:给无缓存的翻页参数设置访问频率上限。
  5. 两个浏览器先后登录,确认看不到对方的会话。错误密码失败后,正确密码仍能登录。 用菲律宾当地移动网络复测建连时间。办公室有线网络的结果不算数。 这一故障在本步要完成的事:复查站点地图,让正常蜘蛛抓可缓存页面,而不是无限日历页。

六、处理办法

  1. 已知蜘蛛用单独配额。
  2. 无意义的参数组合返回 400,不要回源。
  3. 源站连接数告警与边缘爬虫策略联动。

改完后在菲律宾的用户网络上复查,不要只在机房内网看。复查时带上会员登录站的验证:两个浏览器先后登录,确认页面和 Cookie 没有串号。错误密码连续失败时,正常密码仍能登录。

七、案例

源站连接数打满,但带宽不高。一个伪装成浏览器的爬虫在抓带随机页码的 URL,全部回源。限制该 ASN 的并发后,正常用户的接口恢复。

若同样的现象出现在菲律宾,额外核对:把连接建立时间和源站处理时间分开。连接建立变长而源站处理不变时,先查边缘和调度。

业务侧核对:登录页、会话接口和验证码分开。登录响应含身份信息,不能按网址缓存。

这个案例只说明怎么定位,不构成容量或可用性承诺。

八、常见问题

问:能不能直接封掉所有爬虫?

答:不能。正常搜索引擎被封会影响收录。要按网段和频率区分。

问:为什么爬虫不命中缓存?

答:它构造了无限种查询参数,每个 URL 都是新的。

问:限制频率会影响收录吗?

答:对守规则的蜘蛛影响很小。应保证站点地图里的 URL 能够被抓到。

问:同一故障换一个地区或一种业务,排查还一样吗?

答:不一样。每一步都先按会员登录站的路径处理,再按菲律宾的网络条件收窄,最后才做「爬虫占满连接数」这一故障本身的动作。换地区或换业务,前两段操作就会变。

九、边界

只讨论高防 CDN在「爬虫占满连接数」上的处理,地区范围是菲律宾,业务范围是会员登录站。请遵守当地法律。维科云提供网络能力,不对客户业务内容负责。