先给结论:不要按“HTTP 页面”和“HTTPS 页面”直接分组,而要先按“协议切换是否改变了页面的可访问路径”分组。如果同一批页面中,一部分仍能通过原 HTTP URL 返回内容、另一部分已强制跳转到 HTTPS,这两组的差异不是协议本身,而是重定向链路和内部链接是否同步更新。对照组应围绕“路径是否发生替换”来划分,而不是围绕协议字符串来划分。
“被发现”至少可以指三种不同状态:抓取工具请求到了该 URL、该 URL 出现在站点地图或内部链接中、该 URL 进入了索引候选集。三者并不等价。批量页面只有一部分被发现时,第一步是固定观察口径:如果看的是抓取日志,对照组应按“是否收到过请求”划分;如果看的是站点地图覆盖报告,对照组应按“是否被列入站点地图且可访问”划分。
假设一个站点把 200 个页面从 HTTP 迁到 HTTPS,其中 120 个页面的 HTTP 版本仍返回 200 并展示内容,80 个页面的 HTTP 版本返回 301 跳转到 HTTPS。此时若直接比较 HTTP 组和 HTTPS 组,会把“仍可访问的旧路径”和“已替换的新路径”混在一起。更合理的做法是:
只有 A 与 B 的差异才能用来判断“协议切换动作本身”是否影响了发现率。C 组混入了移除动作,不能直接归因于协议。
如果迁移策略是“保留 HTTP 可访问”,那么对照组应选择同一模板、同一层级、同一内容类型的页面,分别放入 HTTP 可访问组和 HTTPS 可访问组。动作是:从两组中各抽 20 至 30 个 URL,用相同的外部入口(例如同一批内部链接、同一份站点地图)提交,观察后续抓取请求是否到达。若 HTTPS 组持续没有请求,而 HTTP 组有请求,下一步应检查内部链接是否仍指向 HTTP,而不是先改 robots.txt。
如果迁移策略是“彻底替换”,即 HTTP 全部跳转或返回 404,那么对照组不能按协议分,而应按“替换是否完成”分:一组是 HTTP 已跳转、HTTPS 可访问且内部链接已更新;另一组是 HTTP 已跳转、HTTPS 可访问但内部链接仍指向旧 HTTP。动作是:分别统计两组页面在相同时间窗口内被请求的次数。若第二组明显偏低,优先修复内部链接,而不是重新提交站点地图。站点地图不保证收录,它只能作为发现入口之一,不能替代链接路径的修复。
出现“只有一部分被发现”时,常见的相反解释有三种:协议切换导致链接权重分散、旧 URL 仍可访问造成重复、抓取预算被其他路径消耗。要区分它们,可以按以下证据顺序核对:
假设一组页面在迁移后 14 天内抓取请求为零,同时 HTTP 版本返回 301、HTTPS 版本返回 200、内部链接全部指向 HTTPS。此时“零请求”不能单独证明协议切换正确,也不能证明被惩罚。它还可能是因为这些页面本身没有外部链接、站点地图未更新、或抓取预算被更高优先级页面占用。下一步应检查站点地图和内部链接入口,而不是直接回滚协议。
一个可执行的动作是:从同一目录下选取 40 个页面,按“HTTP 是否仍返回 200”分成两组,每组 20 个。保持两组的内容类型、模板、内链数量相近。然后只对其中一组更新内部链接为 HTTPS,另一组暂不更新。观察 7 至 14 天内两组被抓取的比例差异。如果更新组明显更高,说明路径替换是主要变量;如果两组无差异,则协议不是当前瓶颈,应转向站点地图、服务器响应或外部链接检查。
例外情况需要单独处理:如果站点同时存在 HTTP 和 HTTPS 两个可访问版本,且没有强制跳转,那么对照组必须加入 canonical 标签作为分层变量;如果 HTTPS 证书配置错误或混合内容导致页面渲染失败,那么发现率差异应归入可用性问题,而不是协议对比问题。HTTPS 不保证安全无漏洞,也不保证排名提升,它只是传输层协议;不同搜索引擎对协议和索引的处理方式须分别核查,不能把一家平台的观察直接套用到另一家。
最终判断标准是:在控制路径替换状态之后,如果 HTTPS 组与 HTTP 组在抓取请求上仍出现稳定差异,才需要进一步检查协议层配置;否则,优先修复链接路径和状态码一致性。