[发明专利]基于改进XGBoost算法的意图识别方法及装置

说明书

本发明提供了一种基于改进XGBoost算法的意图识别方法，采用Scikit‑learn算法中CountVectorizer和TfidfVectorizer类提取文本特征，然后生成训练集；待对训练样本完成训练之后，保存训练模型参数countVectorizer和tfidfVectorizer，作为中间件存储于本地，然后将训练后的样本信息输送至XGBoost模型进行意图训练，直至达到损失函数条件，终止模型训练，最终将XGBoost训练后模型自动存储于本地；将训练好模型对用户的语句进行意图识别。本发明将训练countVectorizer和tfidfVectorizer中间件存储于本地，便于程序本地化加载运行，根据训练文本数据特征间相互关联关系，直接对用户数据进行处理，从而降低系统开销，提高运行效率；将XGBoost训练后模型自动存储于本地，便于运行加载训练好的模型，复用率高。

技术领域

本发明涉及一种意图识别方法及装置，尤其是指一种基于改进XGBoost算法的意图识别方法及装置。

背景技术

意图识别从解析用户语义信息转化为产品差异化的核心技术，不仅有效加快搜索的速度和准确性，同时提高意图识别的可扩展性能力，因此用户意图识别技术研究是一项具有重要意义和挑战性的工作。

传统XGBoost算法源于Boosting集成学习算法，在演化过程中又融入Bagging集成学习方法的优势，通过Gradient Boosting框架自定义损失函数提高了算法解决通用问题的能力，由此XGBoost算法在学术竞赛和工业界领域使用非常频繁，能有效应用至分类，回归，排序等具体场景。

但是，基于XGBoost算法实现的意图识别分类时，XGBoost算法在迭代之前对节点特征做预排序，遍历选择最优分割点，数据量较大时，内部使用的贪算法耗时严重；另外XGBoost使用level-wise生成决策树，当多叶子节点的分裂增益较低时，系统开销巨大。此外，当对新数据进行意图识别时，传统XGBoost需要重新运行训练过程，过程繁琐不利于工程化应用。

发明内容

本发明所要解决的技术问题是：提供一种基于改进XGBoost算法的意图识别方法及装置，旨在提高意图识别效率，降低系统开销。

为了解决上述技术问题，本发明采用的技术方案为：一种基于改进XGBoost算法的意图识别方法，包括以下步骤，

S10、通过自定义词库对原始文本数据进行分词，分词结果通过停用词词库进行过滤，得到初始化数据；

S20、对Scikit-learn算法中的CountVectorizer函数和TfidfVectorizer函数通过输入初始化数据进行训练；

S30、将训练后的特征函数countVectorizer和tfidfVectorizer进行本地化存储，形成本地中间件，保留文本数据特征间相互关联关系，形成XGBoost模型初始数据；

S40、将XGBoost模型初始数据，经过XGBoost模型中梯度增强算法进行模型训练，得到基于XGBoost与Scikit-learn算法意图识别模型；

S50、将训练后的XGBoost模型进行本地化存储；

S60、基于XGBoost与Scikit-learn算法意图识别模型，对用户输入的语句进行意图识别。

进一步的，所述步骤S20具体包括，

S21、通过Scikit-learn算法中的CountVectorizer函数将初始化数据转换词频矩阵；

S22、词频矩阵通过TfidfVectorizer函数计算出每个短语权重分值。