一、这一篇在处理什么
这一篇只处理一件事：在泰国运行的混合动静分离，使用维科云的高防 CDN时，如何处理「爬虫占满连接数」。
正常搜索引擎抓取量稳定，异常爬虫会用大量无缓存 URL 把边缘到源站的连接占满。
看来源 ASN、User-Agent 的连接数，以及这些请求的缓存命中率。
二、泰国的网络和高峰
晚间 19:00 以后上升很快，活动日会提前一小时。移动端比例高，国际出口在晚高峰更容易抖动。首包变慢往往先于带宽打满出现。
排查时：只看泰国的首包时间和失败率。若下载速度正常但首包慢，优先查解析和边缘距离，而不是把带宽套餐加大。
不要这样做：活动开始才扩容。泰国的流量爬坡很快，扩容要在高峰前完成。
三、混合动静分离要分开的路径
页面外壳可以缓存，用户相关的数据用单独接口。两套域名的缓存规则不要互相复制。
防护边界：外壳上不要留下余额、订单号或会话。那些字段只出现在不缓存的接口里。
验证：刷新页面时外壳来自缓存，接口仍返回当前用户自己的数据。退出登录后，不能再看到上一个用户的接口结果。
四、高防 CDN怎么接
公网只解析到 CDN 的 CNAME，源站安全组只放行回源网段。静态域名使用较长缓存时间，登录、下单和支付接口单独 Bypass，不与图片域名共用缓存键。清洗策略按 Host 分开：活动页可以更严，API 要按路径放行正常的高频轮询。
产品说明见高防 CDN。只改和「爬虫占满连接数」有关的域名或路径，不要把混合动静分离的其他路径一起改掉。
五、排查步骤
下面五步按因果顺序执行，后一步依赖前一步的结果。步骤针对「爬虫占满连接数」，不是一套通用清单。
- 页面外壳和用户数据接口分成两列。外壳命中率不要把接口失败算进去。 从当地 19:00 起按 10 分钟看爬坡。活动日再提前一小时单独看。 这一故障在本步要完成的事：按 User-Agent 和 ASN 排序，找出连接数异常的来源。
- 外壳可以缓存，但里面不能有余额、订单号或会话。这些只允许出现在不缓存的接口里。 若吞吐正常但首包变慢，把问题记成出口抖动，不要记成带宽不够。 这一故障在本步要完成的事：核对是否为已声明的搜索引擎网段，避免误伤正常收录。
- 两套域名的规则分开保存。改接口规则时不要复制到外壳域名。 先查解析和边缘距离。带宽套餐先不要加大。 这一故障在本步要完成的事：对未知爬虫降低并发，并优先返回已缓存对象。
- 源站只生成用户数据接口。外壳应尽量不再回源。 确认扩容或策略变更已经在 19:00 之前生效，而不是等爬坡开始后再做。 这一故障在本步要完成的事：给无缓存的翻页参数设置访问频率上限。
- 刷新页面时外壳来自缓存，接口仍是当前用户的数据。退出后再请求，不能看到上一个用户的结果。 在泰国移动网络上复测首包。只测下载速度不算完成。 这一故障在本步要完成的事：复查站点地图，让正常蜘蛛抓可缓存页面，而不是无限日历页。
六、处理办法
- 已知蜘蛛用单独配额。
- 无意义的参数组合返回 400，不要回源。
- 源站连接数告警与边缘爬虫策略联动。
改完后在泰国的用户网络上复查，不要只在机房内网看。复查时带上混合动静分离的验证：刷新页面时外壳来自缓存，接口仍返回当前用户自己的数据。退出登录后，不能再看到上一个用户的接口结果。
七、案例
源站连接数打满，但带宽不高。一个伪装成浏览器的爬虫在抓带随机页码的 URL，全部回源。限制该 ASN 的并发后，正常用户的接口恢复。
若同样的现象出现在泰国，额外核对：只看泰国的首包时间和失败率。若下载速度正常但首包慢，优先查解析和边缘距离，而不是把带宽套餐加大。
业务侧核对：页面外壳可以缓存，用户相关的数据用单独接口。两套域名的缓存规则不要互相复制。
这个案例只说明怎么定位，不构成容量或可用性承诺。
八、常见问题
问：能不能直接封掉所有爬虫？
答：不能。正常搜索引擎被封会影响收录。要按网段和频率区分。
问：为什么爬虫不命中缓存？
答：它构造了无限种查询参数，每个 URL 都是新的。
问：限制频率会影响收录吗？
答：对守规则的蜘蛛影响很小。应保证站点地图里的 URL 能够被抓到。
问：同一故障换一个地区或一种业务，排查还一样吗？
答：不一样。每一步都先按混合动静分离的路径处理，再按泰国的网络条件收窄，最后才做「爬虫占满连接数」这一故障本身的动作。换地区或换业务，前两段操作就会变。
九、边界
只讨论高防 CDN在「爬虫占满连接数」上的处理，地区范围是泰国，业务范围是混合动静分离。请遵守当地法律。维科云提供网络能力，不对客户业务内容负责。