灰度只放出一小部分URL,却已经出现“抓取正常、索引不出现”的分歧时,不要直接放大到全量。先确认灰度样本是否覆盖了模板、参数和入口差异;如果覆盖不全,灰度结论不能外推,全量发布必须补一次例外核对。
两种条件对应两种选择。第一种条件:灰度样本来自同一模板、同一目录、同一入口,只有内容不同。此时灰度结果可以外推,重点看索引状态是否稳定。第二种条件:灰度样本混入了栏目页、详情页、带参数页或不同入口,灰度结果只能说明“部分形态可抓取”,不能说明全量可索引。
可区分原因的线索有三类。抓取日志里出现大量同模板URL,但索引侧只有少数样本;站点地图提交后,样本之外的URL没有进入同一处理节奏;页面本身可访问,但入口链接只出现在灰度列表里。这三类线索指向的问题不同:第一类偏模板,第二类偏提交范围,第三类偏内链发现。
团队里常见分歧是“已经收录了”和“搜索不到”。把这句话拆成可核对项:URL是否返回200、是否允许抓取、是否有可索引的正文、是否被规范标签指向别处、是否有站内入口。每一项只记录事实,不记录判断。
实际动作:从灰度名单中抽出三种页面——首页入口页、栏目页、详情页——各取一个,分别用URL检查和抓取测试核对。结果会影响下一步:如果详情页可抓取但索引不出现,而栏目页正常,就先查详情页的模板和参数;如果三类都不出现,就先查入口和站点地图覆盖范围,而不是继续扩大灰度。
灰度通过不等于全量无例外。全量发布时,新增URL往往来自不同入口、不同参数和不同发布时间,这些差异在灰度里可能没出现。例外清单至少包括:灰度未覆盖的目录、灰度后新生成的页面、由脚本批量生成的页面、以及只在站内搜索或筛选结果里出现的页面。
对例外清单的处理顺序是:先确认入口是否可达,再确认抓取是否正常,最后才看索引状态。如果入口不可达,先补内链或站点地图;如果抓取异常,先查robots.txt和服务器响应;如果抓取正常但索引不出现,再回到页面质量和重复内容核对。robots.txt的限制只影响抓取,不等于可靠的索引移除;站点地图也不保证收录。
假设灰度只放出10个详情页,全部可抓取,索引状态也正常。全量发布时把栏目页和筛选页一起放出,结果栏目页可抓取但索引不出现。此时不能把原因归为“百度不收录新页面”,因为灰度样本没有覆盖栏目页。下一步应单独核对栏目页的入口、规范标签和内容重复情况,再决定是否回退栏目页发布,而不是回退全部详情页。
这个例子的数字只用于说明比较方法:灰度覆盖的页面类型越窄,全量发布后需要补核对的例外就越多。HTTPS不保证安全无漏洞或排名,不同搜索引擎的支持情况也须分别核查;在百度语境下,先以百度抓取和索引的实际响应为准。