搜索引擎蜘蛛_磁力搜索引擎蜘蛛

搜索引擎蜘蛛_磁力搜索引擎蜘蛛

       大家好，今天我想和大家分享一下我对“搜索引擎蜘蛛”的理解。为了让大家更深入地了解这个问题，我将相关资料进行了整理，现在就让我们一起来探讨吧。

1.网站如何被蜘蛛抓取并取得较好排名的优化技

2.什么是搜索引擎的Spider(蜘蛛)

3.几个主流搜索引擎蜘蛛的名称

4.搜索引擎的作用

网站如何被蜘蛛抓取并取得较好排名的优化技

       1.网站及页面权重。

       这个肯定是首要的了，权重高、资格老、有权威的网站蜘蛛是肯定特殊对待的，这样的网站抓取的频率非常高，而且大家知道搜索引擎蜘蛛为了保证高效，对于网站不是所有页面都会抓取的，而网站权重越高被爬行的深度也会比较高，相应能被抓取的页面也会变多，这样能被收录的页面也会变多。

       2.网站服务器。

       网站服务器是网站的基石，网站服务器如果长时间打不开，那么这相当与你闭门谢客，蜘蛛想来也来不了。百度蜘蛛也是网站的一个访客，如果你服务器不稳定或是比较卡，蜘蛛每次来抓取都比较艰难，并且有的时候一个页面只能抓取到一部分，这样久而久之，百度蜘蛛的体验越来越差，对你网站的评分也会越来越低，自然会影响对你网站的抓取，所以选择空间服务器一定要舍得，没有一个好的地基，再好的房子也会跨。　　

       3.网站的更新频率。

       蜘蛛每次爬行都会把页面数据存储起来。如果第二次爬行发现页面与第一次收录的完全一样，说明页面没有更新，蜘蛛也就没有必要经常抓取了。页面内容经常更新，蜘蛛就会更加频繁的访问页面，但是蜘蛛不是你一个人的，不可能就在这蹲着等你更新，所以我们要主动向蜘蛛示好，有规律的进行文章更新，这样蜘蛛就会根据你的规律有效的过来抓取，不仅让你的更新文章能更快的抓取到，而且也不会造成蜘蛛经常性的白跑一趟。

       4.文章的原创性。

       优质的原创内容对于百度蜘蛛的诱惑力是非常巨大的，蜘蛛存在的目的就是寻找新东西，所以网站更新的文章不要采集、也不要每天都是转载，我们需要给蜘蛛真正有价值的原创内容，蜘蛛能得到喜欢的，自然会对你的网站产生好感，经常性的过来觅食。

       5.扁平化网站结构。

       蜘蛛抓取也是有自己的线路的，在之前你就给他铺好路，网站结构不要过于复杂，链接层次不要太深，如果链接层次太深，后面的页面很难被蜘蛛抓取到。

       6.网站程序。

       在网站程序之中，有很多程序可以制造出大量的重复页面，这个页面一般都是通过参数来实现的，当一个页面对应了很多URL的时候，就会造成网站内容重复，可能造成网站被降权，这样就会严重影响到蜘蛛的抓取，所以程序上一定要保证一个页面只有一个URL，如果已经产生，尽量通过301重定向、Canonical标签或者robots进行处理，保证只有一个标准URL被蜘蛛抓取。

       7.外链建设。

       大家都知道，外链可以为网站引来蜘蛛，特别是在新站的时候，网站不是很成熟，蜘蛛来访较少，外链可以增加网站页面在蜘蛛面前的曝光度，防止蜘蛛找不到页面。在外链建设过程中需要注意外链的质量，别为了省事做一些没用的东西，百度现在对于外链的管理相信大家都知道，我就不多说了，不要好心办坏事了。

       8.内链建设。

       蜘蛛的爬行是跟着链接走的，所以内链的合理优化可以要蜘蛛抓取到更多的页面，促进网站的收录。内链建设过程中要给用户合理推荐，除了在文章中增加锚文本之外，可以设置，热门文章，更多喜欢之类的栏目，这是很多网站都在利用的，可以让蜘蛛抓取更大范围的页面。

       9.首页推荐。

       首页是蜘蛛来访次数最多的页面，也是网站权重最高的页面，可以在首页设置更新版块，这样不仅能让首页更新起来，促进蜘蛛的来访频率，而且可以促进更新页的抓取收录。同理在栏目页也可以进行此操作。

       10.检查死链，设置404页面

       搜索引擎蜘蛛是通过链接来爬行搜索，如果太多链接无法到达，不但收录页面数量会减少，而且你的网站在搜索引擎中的权重会大大降低。蜘蛛在遇见死链就像进了死胡同，又得折返重新来过，大大降低蜘蛛在网站的抓取效率，所以一定要定期排查网站的死链，向搜索引擎提交，同时要做好网站的404页面，告诉搜索引擎错误页面。

       11.检查robots文件

       很多网站有意无意的直接在robots文件屏蔽了百度或网站部分页面，却整天在找原因为什么蜘蛛不来抓取我的页面，这能怪百度吗?你都不让别人进门了，百度是怎么收录你的网页?所以有必要时常去检查一下网站robots文件是否正常。

       12.建设网站地图。

       搜索引擎蜘蛛非常喜欢网站地图，网站地图是一个网站所有链接的容器。很多网站的链接层次比较深，蜘蛛很难抓取到，网站地图可以方便搜索引擎蜘蛛抓取网站页面，通过抓取网站页面，清晰了解网站的架构，所以建设一个网站地图不仅提高抓取率还能获得蜘蛛好感。

       13.主动提交

       每次更新完页面，主动把内容向搜索引擎提交一下也是一个不错的办法，只不过不要没收录就一直去提交，提交一次就够了，收不收录是搜索引擎的事，提交不代表就要收录。

       14.监测蜘蛛的爬行。

       利用网站日志监测蜘蛛正在抓取哪些页面、抓取过哪些页面，还可以利用站长工具对蜘蛛的爬行速度进行查看，合理分配资源，以达到更高的抓取速度和勾引更多的蜘蛛。

什么是搜索引擎的Spider(蜘蛛)

       百度蜘蛛、谷歌蜘蛛、雅虎中国蜘蛛、搜搜蜘蛛、搜狗蜘蛛，具体如下：

       1、百度蜘蛛：可以根据服务器的负载能力调节访问密度，大大降低服务器的服务压力。根据以往的经验百度蜘蛛通常会过度重复地抓取同样的页面，导致其他页面无法被抓取到而不能被收录。这种情况可以采取robots协议的方法来调节。

       2、谷歌蜘蛛：谷歌蜘蛛属于比较活跃的网站扫描工具，其间隔28天左右就派出“蜘蛛”检索有更新或者有修改的网页。与百度蜘蛛最大的不同点是谷歌蜘蛛的爬取深度要比百度蜘蛛多一些。

       3、雅虎中国蜘蛛：如果某个网站在谷歌网站下没有很好的收录，在雅虎下也不会有很好的收录和爬行。雅虎蜘蛛的数量庞大，但平均的效率不是很高，相应的搜索结果质量不高。

       4、搜搜蜘蛛：搜搜早期是运用谷歌的搜索技术，谷歌有收录，搜搜肯定也会收录。2011年搜搜已经宣布采用自己的独立搜索技术，但搜搜蜘蛛的特性和谷歌蜘蛛的特点还是有着相似的地方。

       5、搜狗蜘蛛：搜狗蜘蛛的爬取速度比较快，抓取的数量比起速度来说稍微少点。最大的特点是不抓取robot.text文件。

几个主流搜索引擎蜘蛛的名称

       什么是搜索引擎的Spider(蜘蛛)?现在做网站优化的管理员都知道我们得到了百度权重就是根据搜索引擎的Spider(蜘蛛)给我们网站做出的评分，这里不二网小编就为大家具体分析一下什么是搜索引擎的Spider(蜘蛛)。

       Spider也就是大家常说的爬虫、蜘蛛或机器人，是处于整个搜索引擎最上游的一个模块，只有Spider抓回的页面或URL才会被索引和参与排名。需要注意的是，只要是Spider抓到的URL,都可能会参与排名，但参与排名的网页并不一定就被Spider抓取到了内容，比如有些网站屏蔽搜索引擎Spider后，虽然Spider不能抓取网页内容，但是也会有一些域名级别的URL在搜索引擎中参与了排名(例如天猫上的很多独立域名的店铺)。根据搜索引擎的类型不同，Spider也会有不同的分类。大型搜索引擎的Spider一般都会有以下所需要解决的问题，也是和SEO密切相关的问题

       首先，Spider想要抓取网页，要发现网页抓取入口，没有抓取入口也就没有办法继续工作，所以首先要给Spider一些网页入口，然后Spider顺着这些入口进行爬行抓取，这里就涉及抓取策略的问题。抓取策略的选择会直接影响Spider所需要的资源、Spider所抓取网页占全网网页的比例，以及Spider的工作效率。那么Spider一般会采用什么样的策略抓取网页呢?

       其次，网页内容也是有时效性的，所以Spider对不同网页的抓取频率也要有一定的策略性，否则可能会使得索引库中的内容都很陈旧，或者该更新的没更新，不该更新的却浪费资源更新了，甚至还会出现网页已经被删除了，但是该页面还存在于搜索结果中的情况。那么Spider一般会使用什么样的再次抓取和更新策略呢?

       什么是搜索引擎的Spider(蜘蛛)?相信大家看过了以上文章以后对于什么是搜索引擎的Spider(蜘蛛)肯定已经完全明白了。

搜索引擎的作用

        1.Google蜘蛛名称

       　1）Googlebot：从Google的网站索引和新闻索引中抓取网页

       　2）Googlebot-Mobile针对Google的移动索引抓取网页

       　3）Googlebot-Image：针对Google的索引抓取网页

       　4）Mediapartners-Google：抓取网页确定AdSense的内容。只有在你的网站上展示AdSense广告的情况下，Google才会使用此漫游器来抓取您的网站。

       　5）Adsbot-Google：抓取网页来衡量AdWords目标网页的质量。只有在你使用GoogleAdWords为你的网站做广告的情况下，Google才会使用此漫游器。

        2.百度蜘蛛名称：

       　Baiduspider首字母B大写，其余为小写

        3.雅虎（Yahoo!）蜘蛛名称：

       　1）Yahoo!搜索蜘蛛名称：Yahoo!Slurp.

       　2）Yahoo!搜索引擎广告蜘蛛：Yahoo!-AdCrawler.用来抓取Yahoo!搜索引擎广告登陆页网页

        4.有道蜘蛛名称：

       　YodaoBot

        5.腾讯搜搜soso蜘蛛名称：

       　Sosospider首字母S大写，其余为小写

        6.搜狗（sogou）蜘蛛名称：

       　sogouspider

        7.Live蜘蛛名称

       　1）MSNBot：Mainwebcrawler（www.live.com）

       　2）MSNBot-Media：Images&allothermedia（images.live.com）

       　3）MSNBot-NewsBlogs：Newsandblogs（search.live.com/news）

       　4）MSNBot-Products：Products&shopping（products.live.com）

       　5）MSNBot-Academic：Academicsearch（academic.live.com）

        拓展阅读：搜索引擎蜘蛛抓取网页规则分析

        一、爬虫框架

       　我们可以将网页当作是蜘蛛的晚餐，晚餐包括：

       　已下载的网页。已经被蜘蛛抓取到的网页内容，放在肚子里了。

       　已过期网页。蜘蛛每次抓取的网页很多，有一些已经坏在肚子里了。

       　待下载网页。看到了食物，蜘蛛就要去抓取它。

       　可知网页。还没被下载和发现，但蜘蛛能够感觉到他们，早晚会去抓取它。

       　不可知网页。互联网太大，很多页面蜘蛛无法发现，可能永远也找不到，这部份占比很高。

       　通过以上划分，我们可以很清楚的理解搜索引擎蜘蛛的工作及面临的挑战。大多数蜘蛛是按照这样的框架去爬行。但也不完全一定，凡事总有特殊，根据职能的'不同，蜘蛛系统存在一些差异。

        二、爬虫类型

       　1、批量型蜘蛛。

       　这类蜘蛛有明确的抓取范围和目标，当蜘蛛完成目标和任务后就停止抓取。具体目标是什么?可能是抓取网页数量，网页大小，抓取时间等。

       　2、增量型蜘蛛

       　这类蜘蛛和批量型蜘蛛不同，他们会持续不断的抓取，对于抓取到的网页会定期抓取更新。因为互联网中的网页是随时处于更新状态中，增量型蜘蛛需要能够反映出这种更新。

       　3、垂直性蜘蛛

       　这种蜘蛛只关注特定主题或者特定的行业网页。以健康网站为例子，这类专门的蜘蛛会只抓取健康相关主题，其它主题内容的网页则不抓取。考验这只蜘蛛的难点是如何去更精准的识别内容所属于行业。目前来看，很多垂直类行业网站是需要这种蜘蛛去抓取的。

        三、抓取策略

       　蜘蛛通过种子URL进行爬行拓展，列出大量待抓取URL。但是待抓取URL数量庞大，蜘蛛如何确定抓取顺序先后呢?蜘蛛抓取的策略有很多种，但最终目的是一个：优先抓取重要的网页。评价页面是否重要，蜘蛛会根据页面内容原创程度，链接权重分析等众多方式来进行计算。比较有代表性的抓取策略如下：

       　1、宽度优先策略

       　宽度优先是指：蜘蛛在抓取一个网页后，继续将该网页所包含的其它页面按顺序进行进一步抓取。这种思想看似简单，其实却很实用。因为大多数网页都是按优先级进行排序，重要的页面会优先在页面上进行推荐。

       　2、PageRank策略

       　PageRank是一种非常著名的链接分析方法，主要是用来衡量网页权重。如谷歌的PR，就是典型的PageRank算法。通过PageRank算法我们可以找出哪些页面是更重要的，然后蜘蛛优先去抓取这些重要性的页面。

       　3、大站优先策略

       　这个很容易理解，大网站通常拥有更多的`内容页面，并且质量也会更高。蜘蛛会先分析网站归类与属性。如果这个网站已经收录很多，或者在搜索引擎系统中权重很高，则优先考虑收录。

        四、网页更新

       　互联网中的页面大多会保持更新，这样就要求蜘蛛所存储的页面也能及时更新，保持一致性。打个比喻：一个网页之前排名很好，如果页面已经被删，却还有排名，那体验就很不好。因此搜索引擎需要随时了解这些并更新页面，将最新的页面提供给用户。常用的网页更新策略在三种：历史参考策略，用户体验策略。聚类抽样策略。

       　1、历史参考策略

       　这是建立在一种假设基础上的更新策略。比如，若你的网页之前按规律一直更新，那搜索引擎也认为你的页面将来也会经常更新，蜘蛛也会按这个规律定期来网站进行抓取网页。这也是为什么点水一直强调网站内容需要有规律更新的原因。

       　2、用户体验策略

       　一般来说，用户只会查看搜索结果前三页的内容，后面的页面很少有人去看。用户体验策略就是搜索引擎根据用户的这个特点来进行更新。例如，一个网页可能发布时间较早，一段时间没更新，但是用户依然觉得有用，点击浏览它，那么搜索引擎先不去更新这些过时的网页也是可以的。这就是为什么搜索结果中，并不一定最新的页面排名一定靠前的原因。排名更多的是取决于这个页面的质量，而完全不是更新时间先后。

       　3、聚类抽样策略

       　上两种更新策略主要是参考了网页的历史信息。但存储大量历史信息对搜索引擎来说是一种负担，另外如果收录的是新网页则是没有历史信息可以参考的，那怎么办?聚类抽样策略是指：根据网页所展现出来的一些属性，来将很多相似网页进行归类，被归类的页面按照相同的规律去进行更新。

       　从了解搜索引擎蜘蛛工作原理的过程中，我们会知道：网站内容之间的相关性，网站与网页内容更新规律，网页上链接分布以及网站权重高低等因素都会影响到蜘蛛的抓取效率。知已知彼，让蜘蛛来得更猛烈些吧！

       搜索引擎是一个对互联网信息资源进行搜索整理和分类，并储存在网络数据库中供用户查询的系统，包括信息搜集、信息分类、用户查询三部分。

       工作原理

       1.爬行：搜索引擎是通过一种特定规律的软件跟踪网页的链接，从一个链接爬到另外一个链接，像蜘蛛在蜘蛛网上爬行一样，所以被称为“蜘蛛”也被称为“机器人”。搜索引擎蜘蛛的爬行是被输入了一定的规则的，它需要遵从一些命令或文件的内容。

       2.抓取存储：搜索引擎是通过蜘蛛跟踪链接爬行到网页，并将爬行的数据存入原始页面数据库。其中的页面数据与用户浏览器得到的HTML是完全一样的。搜索引擎蜘蛛在抓取页面时，也做一定的重复内容检测，一旦遇到权重很低的网站上有大量抄袭、采集或者复制的内容，很可能就不再爬行。

       3.预处理：搜索引擎将蜘蛛抓取回来的页面，进行各种步骤的预处理。

       好了，今天关于“搜索引擎蜘蛛”的话题就讲到这里了。希望大家能够通过我的介绍对“搜索引擎蜘蛛”有更全面、深入的认识，并且能够在今后的实践中更好地运用所学知识。