[发明专利]用于对文本进行分类的方法

说明书

通过根据文本确定文本特征并将文本特征变换为主题特征来对该文本进行分类。使用判别主题模型针对每一个主题特征来确定分数。该模型包括对主题特征进行操作的分类器，其中，通过变换根据文本特征来确定主题特征，并且变换被优化以最大化相对于不正确的类的分数的正确的类的分数。接着，选择针对文本具有最高分数的类标签。在按层次结构组织类的情况下，判别主题模型适用于根据前面的级别调节的每一个级别的类，并且跨级别组合分数以评估最高得分的类标签。

技术领域

本发明总体上涉及一种用于对文本进行分类的方法，并且更具体地，涉及针对大量的类别对文本进行分类。

背景技术

文本分类对于在诸如用于命令和控制的用户接口这样的自然语言处理中的许多任务来说是一个重要的问题。在这样的方法中，从文本的许多类得到的训练数据被用于优化由用于估计针对该文本的最可能的类的方法所使用的参数。

用于文本分类的多项逻辑斯蒂回归(MLR)分类器。

文本分类根据输入文本x来估计类y，其中y是类的标签。该文本能够从语音信号得到。

在现有技术的多项逻辑斯蒂回归中，使用以下的特征函数来对关于输入文本的信息进行编码：

其通常被这样定义：

换句话说，如果项t_j包含在文本x中，则特征是1，类标签y等于类别I_k。

用于分类的模型是如下形式的条件指数模型：

其中，

并且λ_j,k和Λ是分类参数。

使用如下目标函数对于文本x_i和标签y_i的训练对来优化这些参数：

其将关于Λ被最大化。

正则化多项逻辑斯蒂回归分类器

能够在逻辑斯蒂回归中向分类参数添加正则化项以提高泛化能力。

在正则化多项逻辑斯蒂回归分类器中，使用L1范数正则项(regularizer)和L2范数正则项两者的一般公式化是

其中，是L2范数正则项，而是L1范数正则项，并且α和β是加权因子。该目标函数将再一次关于Λ被最大化。

各种方法都能够在这些正则化下优化参数。

主题建模

在现有技术中，概率潜在语义分析(PLSA)和潜在狄利克雷分析(LDA)是其中主题是多项潜在变量的生成主题模型，并且主题的分布取决于包括其中如果给定主题则单词是多项分布的文本在内的特定文档。如果文档与类相关联，则这样的模型能够被用于文本分类。

然而使用生成主题模型，类特定参数和主题特定参数根据对数概率是相加的。

发明内容

本发明的实施方式提供了一种用于使用判别主题变换来对文本进行分类的方法。本发明的实施方式也执行按层次(hierarchy)布置类的问题下的分类。

所述方法从文本中提取特征，并且接着在对文本进行分类以确定分数之前，将这些特征变换为主题特征。

具体地，通过根据文本确定文本特征并将所述文本特征变换为主题特征，来对该文本进行分类。该文本能够从识别出的语音获得。