先给结论:报告页数偏多,通常不是“多出来的词”,而是同一对象被拆成多个可计数单位,或旧对象仍留在索引里。去重的关键不是删行,而是先确定“什么算一个对象”,再让报告和你的对象清单使用同一把尺子。下面用一个假设情境把决策过程走完。
假设你负责一个内容站,过去两年和三个外部团队合作,各自维护一批栏目页。现在要终止其中两个团队的合作,只保留仍有价值的部分。你导出一份爱站词数报告,发现报告里出现的页面数是 180,而你的站点地图和后台清单加起来只有 140 个实际对象。多出来的 40 个,就是这次要去重的核心问题。
注意,这个数字只是假设,用来演示判断方法,不代表任何真实项目的规模。真正要做的第一步,是承认“页数”和“对象数”本来就是两个口径,不能直接相减就下结论。
报告页数大于实际对象数量,常见原因可以归为三类,每类的处理动作完全不同:
判断方法很直接:从多出来的地址里随机抽 10 个,逐个打开,看它们指向的内容是否和某个已知对象相同。如果内容相同只是地址不同,属于第一类;如果内容还在但你不想要了,属于第二类;如果内容本来就是独立页面,只是你没把它算进清单,属于第三类。
这一步决定了后面所有动作。你需要写下一句可执行的定义,例如:“一个对象等于一个唯一内容主体,同一内容的不同地址只算一个。”或者:“一个对象等于一个对外承诺持续维护的栏目,栏目下的分页不计入。”
定义不同,去重结果就不同。假设你选择前者,那么带参数的列表页、打印页、排序页都应折叠到主地址;假设你选择后者,那么栏目下的分页本来就不该出现在对象清单里,需要调整的是清单而不是报告。
实际动作:把定义写进一份对照表,左列是报告地址,右列是归并后的对象标识。做完这一步,你会发现 180 和 140 之间的差距,往往能解释掉一大半。这个结果会直接影响下一步:如果差距主要来自地址变体,就做规范化;如果主要来自旧页面未下线,就做退出处理。
旧合作关系退出时,不能一刀切全删。可以用三条规则筛选:
这三条规则成立的前提是你能拿到访问数据。如果拿不到,就退一步用内链和更新时间判断,但要明确这是弱证据,不能当成结论。
需要提醒的是,报告页数下降、抓取量变化或某个统计归零,都不能单独证明去重做对了。它们还有别的合理解释,比如抓取预算调整、站点结构变化、统计口径切换。所以去重是否成功,最终要回到你自己定义的对象清单上核对,而不是看某个数字变小。
回到前面的情境:假设归并地址变体后,180 降到 155;再下线 15 个无价值旧页面,剩下 140,和你的对象清单一致。此时报告和清单对上了,但你要做的最后一步是记录归并规则和退出清单,方便下次复查。
如果归并后仍对不上,不要急着删更多,先检查是不是清单本身漏记了对象。多数“报告多、实际少”的争议,最后都落在对象定义没有提前统一,而不是工具算错了。