一、这一篇在处理什么
这一篇只处理一件事:在印度尼西亚运行的支付回调,使用维科云的高防 CDN时,如何处理「爬虫占满连接数」。
正常搜索引擎抓取量稳定,异常爬虫会用大量无缓存 URL 把边缘到源站的连接占满。
看来源 ASN、User-Agent 的连接数,以及这些请求的缓存命中率。
二、印度尼西亚的网络和高峰
晚间高峰跨度长,群岛不同城市的高峰不会精确重合。移动网络和海缆路径影响大。雅加达正常,不代表其他岛屿正常。
排查时:不要把印度尼西亚收成一个平均值。至少把首都和其他主要城市分开看失败率。
不要这样做:一个探测点全绿就认为全国正常。探测点要放在用户多的城市,而不是只放一个。
三、支付回调要分开的路径
回调地址固定、不跳转、不改写参数。页面跳转规则必须排除这条路径。
防护边界:回调验签依赖原始地址和原文。多一次跳转或删掉一个参数,验签就会失败。
验证:用支付方的测试回调打一次,确认响应不是 301,并且业务侧收到与测试相同的字段。
四、高防 CDN怎么接
公网只解析到 CDN 的 CNAME,源站安全组只放行回源网段。静态域名使用较长缓存时间,登录、下单和支付接口单独 Bypass,不与图片域名共用缓存键。清洗策略按 Host 分开:活动页可以更严,API 要按路径放行正常的高频轮询。
产品说明见高防 CDN。只改和「爬虫占满连接数」有关的域名或路径,不要把支付回调的其他路径一起改掉。
五、排查步骤
下面五步按因果顺序执行,后一步依赖前一步的结果。步骤针对「爬虫占满连接数」,不是一套通用清单。
- 只统计支付回调这一条路径,并检查它有没有被记成 301。 把雅加达和其他主要城市分成两张表,晚高峰不要用全国平均值。 这一故障在本步要完成的事:按 User-Agent 和 ASN 排序,找出连接数异常的来源。
- 回调必须排除在所有页面跳转之外。参数一个都不能少。 首都正常而其他城市失败时,按城市处理,不要当成整国故障。 这一故障在本步要完成的事:核对是否为已声明的搜索引擎网段,避免误伤正常收录。
- 不要对回调做缓存、压缩改写或主机名替换。 为失败城市单独指定接入点。已经正常的城市不要一起改。 这一故障在本步要完成的事:对未知爬虫降低并发,并优先返回已缓存对象。
- 源站按原始正文验签。验签失败时先核对地址是否被改写,而不是先改支付逻辑。 确认海缆路径只影响失败城市后,再决定要不要动源站。 这一故障在本步要完成的事:给无缓存的翻页参数设置访问频率上限。
- 用支付方测试回调打一次,确认响应不是跳转,并且字段和测试原文一致。 在失败城市加一个探测点复测。只有雅加达一个点是绿的,不算恢复。 这一故障在本步要完成的事:复查站点地图,让正常蜘蛛抓可缓存页面,而不是无限日历页。
六、处理办法
- 已知蜘蛛用单独配额。
- 无意义的参数组合返回 400,不要回源。
- 源站连接数告警与边缘爬虫策略联动。
改完后在印度尼西亚的用户网络上复查,不要只在机房内网看。复查时带上支付回调的验证:用支付方的测试回调打一次,确认响应不是 301,并且业务侧收到与测试相同的字段。
七、案例
源站连接数打满,但带宽不高。一个伪装成浏览器的爬虫在抓带随机页码的 URL,全部回源。限制该 ASN 的并发后,正常用户的接口恢复。
若同样的现象出现在印度尼西亚,额外核对:不要把印度尼西亚收成一个平均值。至少把首都和其他主要城市分开看失败率。
业务侧核对:回调地址固定、不跳转、不改写参数。页面跳转规则必须排除这条路径。
这个案例只说明怎么定位,不构成容量或可用性承诺。
八、常见问题
问:能不能直接封掉所有爬虫?
答:不能。正常搜索引擎被封会影响收录。要按网段和频率区分。
问:为什么爬虫不命中缓存?
答:它构造了无限种查询参数,每个 URL 都是新的。
问:限制频率会影响收录吗?
答:对守规则的蜘蛛影响很小。应保证站点地图里的 URL 能够被抓到。
问:同一故障换一个地区或一种业务,排查还一样吗?
答:不一样。每一步都先按支付回调的路径处理,再按印度尼西亚的网络条件收窄,最后才做「爬虫占满连接数」这一故障本身的动作。换地区或换业务,前两段操作就会变。
九、边界
只讨论高防 CDN在「爬虫占满连接数」上的处理,地区范围是印度尼西亚,业务范围是支付回调。请遵守当地法律。维科云提供网络能力,不对客户业务内容负责。