[发明专利]标识文档内的关键短语有效
申请号: | 201110415245.7 | 申请日: | 2011-12-02 |
公开(公告)号: | CN102591914A | 公开(公告)日: | 2012-07-18 |
发明(设计)人: | S·盖尔曼;K·穆克吉 | 申请(专利权)人: | 微软公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 上海专利商标事务所有限公司 31100 | 代理人: | 杨洁 |
地址: | 美国华*** | 国省代码: | 美国;US |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及用于标识文档内的关键短语的方法、系统,以及计算机程序产品。本发明的实施例包括使用标签索引来确定文档主要与什么相关。一般而言,集成的数据流和提取-变换-加载流水线对数据库表中的文档大的语料库进行爬行、解析和断词。可将文档分成多个元组。可将元组发送至基于启发式的算法,该算法使用统计语言模型和权重+交叉熵阈值函数以将文档概括为其“前N个”统计上最显著的短语。因此,本发明的实施例有效地(例如,线性地)扩展,并可按显著和相关关键短语(标签)表征(潜在大量的)文档。 | ||
搜索关键词: | 标识 文档 关键 短语 | ||
【主权项】:
一种在包括一个或多个处理器和系统存储器的计算机系统处的用来标识文档内的关键短语的方法,所述方法包括:访问文档(112)的动作;计算所述文档(112)内多个不同文本短语(131,132,133)的出现频率(141,142,143)的动作,每一文本短语(131,132,133)包括指定语言的一个或多个单词;访问所述指定语言的语言模型(159)的动作,所述语言模型(159)至少为所述指定语言的各单词(161,162)定义期望出现频率(171,172);对于所述多个不同文本短语(131,132,133)中的每一文本短语,计算所述文本短语的交叉熵值(151,152,153)的动作,所述交叉熵值(151,152,153)从所述文档(112)内所述文本短语的出现频率(141,142,143)和所述指定语言内所述文本短语的出现频率(171,172)来计算;基于所计算的交叉熵值(151,152,153)从所述文档(112)内选择指定数量的统计上显著的文本短语(132,191,192)的动作;以及用表示所选的指定数量的统计上显著的文本短语(132,191,192)中的每一个的数据来填充关键短语数据结构(107)的动作。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于微软公司,未经微软公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201110415245.7/,转载请声明来源钻瓜专利网。
- 上一篇:信息处理设备和方法
- 下一篇:中药组合物制剂中红景天、甘草含量测定方法