网站建设浅谈搜索引擎工过程

1.索引处理

抓取网页后，由分析索引系统程序对收集回来的网页进行分析，提取相关信息（包括网页所在URL、编码类型、页面内容包含的所有关键词、关键词的位置、生成时间、大小、与其他网页的链接关系等），根据一定的相关度算法进行大量复杂的计算，得到每一个网页针对页面文字及超链中每一个关键词的相关度（或重要性），然后用这些信息建立网页索引数据库。任何搜索引擎在进行内容索引的时候都是以文字为基础的。搜索引擎在抓取页面的时候，并非只访问用户能看到的文字信息，还包含大量的HTML代码、CSS代码、JavaScript代码等对排名没有作用的内容。抓取页面之后，搜索引擎就要处理这些信息，从HTML代码中分离出标签、代码，提取有利于网站排名处理的页面文字内容。

2.爬行抓取

爬行抓取是搜索引擎工作的第一步，主要完成数据收集工。搜索引擎蜘蛛程序通过网页的链接地址来寻找网页，从网站的某一个页面（通常是首页）开始，读取网页的内容，找到网页中的其他链接地址，然后通过这些链接地址寻找下一个网页，一直这样循环下去，直到把这个网站的所有网页都抓取为止。如果网站的内容质量不高或者有大量重复信息，蜘蛛程序就没有“耐心”抓取网站里的所有信息了。如果把整个互联网当成一个网站，那么蜘蛛程序就可以用这个原理把互联网上所有的网页都抓取下来。但是，在实际的工作中，搜索引擎蜘蛛程序是不能抓取所有的互联网信息的，毕竟蜘蛛程序的带宽资源、时间都不是无限的，它不可能“爬”到所有的页面。受到这些因素的制约，搜索引擎只能爬行和收录互联网信息的一小部分。

3.排名

建立网页索引数据库后，当用户输入关键词并进行搜索时，搜索系统程序会从网页索引数据库中找到符合该关键词的所有相关网页。因为所有相关网页针对该关键词的相关度早已算好，所以只需按照相关度数值排序，相关度越高，排名越靠前。