认识和理解网络爬虫有助于更好地优化网站
来源:互联网浏览次数:3775
网络爬虫是SEO人员应该学习的基础知识之一,认识和理解网络爬虫有助于更好地优化网站。今天,小编就和大家聊聊网络爬虫。希望对大家有所帮助。
网络爬虫,是指按照一定的规则、自动抓取互联网上信息的程序组件或脚本程序。在搜索引擎中,网络爬虫就是搜索引擎发现和抓取文档的自动化程序。
二、网络爬虫产生的背景
互联网信息大爆炸,人们不满足于仅仅依靠开放目录等传统方式在网络上寻找一些东西,为了满足不同的人的不同需求,于是出现了网络爬虫。
三、网络爬虫面临的问题
搜索引擎架构的两个目标是效果和效率,这同样也是对网络爬虫提出的要求。面对亿级网页数量,重复内容很高,在SEO行业重复率可能在50%以上,网络爬虫面临的问题是为了提高效率和效果,就需要在一定的时间内获得更多有高质量页面,摒弃那些原创度低、复制内容、拼接内容的页面。
PS:当然,在大网站发布出来的文章,因为有大站效应,尽管不是首发,但依然排名很好,甚至比首发站排名还好。
四、网络爬虫的分类和策略
网络爬虫有很多种类,现简单介绍如下:
① 通用网络爬虫
通用网络爬虫,又称为“全网爬虫”,从一些种子网站开始爬行,逐步扩展到整个互联网。
通用网络爬虫采用的是深度优先策略和广度优先策略。
② 聚焦网络爬虫
聚焦网络爬虫,又称为“主题网络爬虫”,预先选择一个(或几个)相关主题,仅爬行并抓取这一类的相关页面。
聚焦网络爬虫增加了链接和内容评价模块,所以其爬行策略的关键是评价页面的链接和内容后再进行爬行。
③ 增量式网络爬虫
增量式网络爬虫,是指对已经收录的页面进行更新、爬行新页面和发生变化的页面。
增量式网络爬虫采用的是广度优先策略和PageRank优先策略等。
④ Deep Web爬虫
搜索引擎蜘蛛可以爬行并抓取的页面称之为“表层网页”,某些不能通过静态链接获得的页面称之为“深层网页”,Deep Web爬虫就是抓取深层网页的爬虫体系。
1)广度优先
搜索完当前页面所有链接,才开始进入下一层。
2)最佳优先
根据一定的网页分析算法,比如链接算法和页面加权算法等,优先抓取更具有价值的页面。
3)深度优先
顺着一个链接一直爬行,直到某一页面再也没有链接,再开始爬行另外一条。但是一般都是从种子网站开始抓取,如果采用这种形式可能会造成抓取的页面质量越来越低,所以这种策略使用较少。
网络爬虫,是指按照一定的规则、自动抓取互联网上信息的程序组件或脚本程序。在搜索引擎中,网络爬虫就是搜索引擎发现和抓取文档的自动化程序。
二、网络爬虫产生的背景
互联网信息大爆炸,人们不满足于仅仅依靠开放目录等传统方式在网络上寻找一些东西,为了满足不同的人的不同需求,于是出现了网络爬虫。
三、网络爬虫面临的问题
搜索引擎架构的两个目标是效果和效率,这同样也是对网络爬虫提出的要求。面对亿级网页数量,重复内容很高,在SEO行业重复率可能在50%以上,网络爬虫面临的问题是为了提高效率和效果,就需要在一定的时间内获得更多有高质量页面,摒弃那些原创度低、复制内容、拼接内容的页面。
PS:当然,在大网站发布出来的文章,因为有大站效应,尽管不是首发,但依然排名很好,甚至比首发站排名还好。
四、网络爬虫的分类和策略
网络爬虫有很多种类,现简单介绍如下:
① 通用网络爬虫
通用网络爬虫,又称为“全网爬虫”,从一些种子网站开始爬行,逐步扩展到整个互联网。
通用网络爬虫采用的是深度优先策略和广度优先策略。
② 聚焦网络爬虫
聚焦网络爬虫,又称为“主题网络爬虫”,预先选择一个(或几个)相关主题,仅爬行并抓取这一类的相关页面。
聚焦网络爬虫增加了链接和内容评价模块,所以其爬行策略的关键是评价页面的链接和内容后再进行爬行。
③ 增量式网络爬虫
增量式网络爬虫,是指对已经收录的页面进行更新、爬行新页面和发生变化的页面。
增量式网络爬虫采用的是广度优先策略和PageRank优先策略等。
④ Deep Web爬虫
搜索引擎蜘蛛可以爬行并抓取的页面称之为“表层网页”,某些不能通过静态链接获得的页面称之为“深层网页”,Deep Web爬虫就是抓取深层网页的爬虫体系。
一般来讲,网络爬虫抓取策略分为三种:
1)广度优先
搜索完当前页面所有链接,才开始进入下一层。
2)最佳优先
根据一定的网页分析算法,比如链接算法和页面加权算法等,优先抓取更具有价值的页面。
3)深度优先
顺着一个链接一直爬行,直到某一页面再也没有链接,再开始爬行另外一条。但是一般都是从种子网站开始抓取,如果采用这种形式可能会造成抓取的页面质量越来越低,所以这种策略使用较少。
相关seo研究资讯推荐
- 老网站没有排名的原因2019-05-20
- seo研究,细说网站关键词密度有哪些规律可寻?2019-04-18
- 如何有效建设网站外链?请看这篇seo外链建设途径汇总2018-09-28
- 【SEO优化】网站降权有哪些提示?2019-05-10
- 百度蜘蛛程序工作原理,让我们告诉你蜘蛛程序是如何抓取你网站网页的2018-10-12
- 「seo是什么」搜索引擎优化到底是技术还是营销呢?2019-05-06