搜索引擎对于网站是不可缺少的,网站流量来源半数会来自搜索引擎。
如果蜘蛛爬取影响到网站正常访问,这个时候就要进行调整。抓取频率只会保证不超过上限、
1.调整搜索引擎抓取上限
工具地址:https://ziyuan.baidu.com/pressure/adjust
2.优化网站结构
优化网站代码结构和缓存处理,以及最好使用搜索引擎推送。这样减少不必要的抓取。
3.提升网站硬件能力
最直接提升网站服务器配置,或做分布式处理。
关键字词: