改动影响收录统计之前,先把“原始状态”保存成可复查的证据:当前收录数据、页面可访问性、robots.txt与meta robots、站点地图、规范链接、服务器响应头,以及改动前的页面快照。判断标准是:改动后能凭这些记录说明哪些页面原本被收录、原本允许抓取、原本返回什么状态。只截图收录数字不够,因为收录统计会波动,必须同时保存抓取与索引相关的配置证据。
围绕搜索引擎收录统计做改动,原始状态至少包括四类。第一类是统计基线:在具体搜索引擎的收录查询入口中,记录查询日期、查询语句、结果数量或抽样页面清单。第二类是抓取配置:robots.txt全文、页面meta robots、X-Robots-Tag响应头、站点地图文件及其中的URL清单。第三类是页面状态:URL、HTTP状态码、规范链接、是否可正常访问、是否需要登录。第四类是内容快照:关键页面的标题、正文首段、主要链接结构。
这些证据要能回答一个具体问题:改动前,某个URL到底是被允许抓取但未被收录,还是被禁止抓取,还是已收录但内容不同。仅凭收录统计数字无法区分。
方案一:截图加表格记录。适合改动范围小、只涉及少量模板或少量URL的情况。操作是逐个URL截图收录查询结果,并把URL、查询日期、状态码、robots规则填入表格。优点是快,缺点是截图难以批量比对,robots.txt和响应头容易漏记。
方案二:文件归档加版本标记。适合整站或整批模板改动。操作是把robots.txt、站点地图、关键页面HTML、响应头导出为文本文件,按日期建目录保存,并记录改动前的提交版本号或备份标识。优点是可比对、可检索,缺点是需要提前约定保存位置和命名规则。
适用条件可以这样判断:如果改动只影响一个栏目且URL数量在几十个以内,方案一够用;如果改动涉及全站模板、robots规则或站点地图生成逻辑,必须用方案二,否则改动后无法判断收录统计变化是配置导致还是正常波动。两种方案都可以叠加使用,但不要只依赖截图。
复查时要特别核对:站点地图不保证收录,所以站点地图里列出某个URL,不能作为它原本被收录的证据;HTTPS也不保证页面一定被索引或排名更好,它只是传输层配置。判断收录状态仍要以实际查询结果和抓取日志为准。
如果改动前没有留下这些记录,改动后只能重新建立基线,此时应把当前状态标记为“新基线”,不要把它当成改动前的原始状态使用。
下一步:先选定一个具体搜索引擎的收录查询入口,对准备改动的URL逐个填写上面的检查清单,再开始改动配置。