[发明专利]一种计算关联网页URL模式pattern的方法和装置

说明书

技术领域

本发明涉及数据处理技术领域，具体涉及一种计算关联网页URL模式pattern的方法、一种计算关联网页URL模式pattern的装置。

背景技术

随着因特网的发展，愈来愈多的信息是通过网页方式呈现在因特网上供用户查询，同样的通过搜寻引擎在因特网中查询数据也成为最常使用的数据搜寻方法。

搜索引擎收录网页时需要针对不同种类的网页采取不同的调度策略，网页种类的识别是一项基础工作，其中翻页（Page turning）网页的识别是一项比较关键的工作。所谓翻页网页，即查看分页文件的上一个页面、下一个页面或任意存在的非当前页面。翻页网页可以将实体书或者移动Web窗体中的内容进行改变，以观看不同内容。在互联网上运用时该机制还呈现可用于浏览到其他页的用户界面元素。

现有的翻页网页的识别方法是根据网页的URL（Uniform Resource Locator，统一资源定位符）所包含的关键词来识别是否是索引页。例如，当URL包含有page、pn、p等关键词以及关键词后面有数字时，判断该URL对应的网页为翻页网页。

但是，这种识别方法召回率低，并且很多网站的翻页是不具有这些关键词的，比如“http://cq.ABC.com/lvshi/o12/”、“http://bbs.BCA.com/t661_10”、“http://china.BCD.com/product/20110617/2647”，但是这些网页依然是翻页，使得这些识别方法容易造成误操作，实用性低。

发明内容

鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的一种计算关联网页URL模式pattern的方法和相应的一种计算关联网页URL模式pattern的装置。

依据本发明的一个方面，提供了一种计算关联网页URL模式pattern的方法，包括：

判断指定网页的页面元素中是否具有翻页特征anchor；若是，则提取所述翻页特征anchor对应链接到的关联URL；

根据所述指定网页的URL以及所述翻页特征anchor对应链接到的关联URL计算与所述指定网页对应的关联网页URL模式pattern。

可选地，所述判断指定网页的页面元素中是否具有翻页特征anchor的步骤包括：

采用翻页特征anchor在当前网页的DOM树节点中进行匹配；

当匹配成功时，则判断当前网页具有翻页特征anchor。

可选地，所述翻页特征anchor对应链接到一个或多个关联URL。

可选地，所述根据所述指定网页的URL以及所述关联页URL计算所述关联网页URL模式pattern的步骤进一步包括：

使用通配字符替换指定网页的URL中的数字块，获得第一特征URL前缀；其中，所述数字块为被间隔标识分割出的单个数字或多个数字；

使用通配字符替换所述关联URL中的数字块，获得第二特征URL前缀；

当所述第一特征URL前缀与所述第二特征URL前缀相同时，将所述第一特征URL前缀或第二特征URL前缀作为关联网页URL模式pattern。

可选地，所述使用通配字符替换指定网页的URL中的数字块，获得第一特征URL前缀的步骤为：

采用相同的通配字符替换指定网页的URL中不同位置的数字块，获得第一特征URL前缀；

所述使用通配字符替换所述关联URL中的数字块，获得第二特征URL前缀的步骤为：

采用相同的通配字符替换所述关联URL中不同位置的数字块，获得第二特征URL前缀。

可选地，所述使用通配字符替换指定网页的URL中的数字块，获得第一特征URL前缀的步骤为：

分别采用不同的通配字符，替换指定网页的URL中不同位置的数字块，获得第一特征URL前缀；

所述使用通配字符替换所述关联URL中的数字块，获得第二特征URL前缀的步骤为：

分别采用与第一特征URL相同的通配字符替换所述关联URL在相同位置的数字块，获得第二特征URL前缀。

可选地，还包括：

通过对关联网页URL模式pattern中的共性部分进行结构分析，提取关联网页URL模式pattern中的翻页块，将所述翻页块替换为首页标识获得首页关联网页的URL；其中，所述翻页块为多个关联网页URL模式pattern中位置相同但数字不同的数字块。

可选地，所述首页标识包括0、1和/或当前关联网页中的最大数值。