[发明专利]运营商智能定责方法及装置

说明书

本申请提供一种基于BERT+CRF的贝叶斯神经网络的运营商智能定责方法及装置，所述方法包括步骤：获取通信运营商的投诉工单语料库，基于所述投诉工单语料库对工单进行数据清洗，得到清洗好的工单；将清好的工单输入至BERT模型，得到训练数据的词向量；采用CRF算法对词向量进行特征提取，得到特征词序列；将特征词序列输入贝叶斯神经网络模型进行训练，调优参数，形成问题根因分析模型；根据问题根因分析模型对待定责的工单进行分析，确定责任归属。在本发明中，基于BERT+CRF的贝叶斯神经网络的运营商智能定责方法，能够结合词间和句间的语义，很好的识别投诉工单中的关键词，并通过关键词进行工单的智能定责，正确快速追踪到投诉责任的归属方。

技术领域

本申请涉及深度学习领域，具体为一种基于BERT+CRF的贝叶斯神经网络的运营商智能定责方法及装置。

背景技术

在运营商客服作业流程中，产生了大量的客户反馈意见，每天需要花费大量的人力物力进行意见的原因追踪和定责，对这些客户的投诉工单进行传统的人工定责时，需要花费大量的人力、物力和时间，且人工的定责效率较低。

关键词提取从最早期开始，主要是基于词典与规则的方法，它们依赖于语言学家的手工构造的规则模板，容易产生错误，不同领域间无法移植。因此，这种方法只能处理一些简单的文本数据，对于复杂非结构化的数据却无能为力。随后主要是基于统计机器学习的方法，这些方法包括隐马尔可夫模型(HMM)、最大熵模型(MEM)、支持向量机(SVM)和条件随机场(CRF)等。但是这些方法在特征提取方面仍需要大量的人工参与，且严重依赖于语料库，识别效果并非很理想。

所以，近些年来，深度学习被应用到中文关键词提取研究上。基于深度学习的方法，是通过获取数据的特征和分布式表示，避免繁琐的人工特征抽取，具有良好的泛化能力。深度学习出现了许多这个领域的研究，如LSTM-CRF、BiLSTM-CRF、CNN-CRF和CNN-BiLSTM-CRF等许许多多神经网络模型，这些模型都在关键词提取上展现出了很好的效果。

然而，以上方法存在这样的一个问题:这些方法无法表征一词多义，因为它们主要注重词、字符或是词与词之间的特征提取，而忽略了词上下文的语境或语义，这样提取出来的只是一种不包含上下文语境信息的静态词向量，因而导致其实体识别能力下降。为解决该问题，现有技术提出来一种BERT进一步增强词向量模型泛化能力，充分描述字符级、词级、句子级甚至句间关系特征，更好地表征不同语境中的句法与语义信息。

又因为虽然人工神经网络能够准确做出预测，但也存在收敛速度慢、容易陷入局部最小化等问题，且贝叶斯神经网络可以更好避免过拟合。

鉴于此，克服该现有技术产品所存在的不足是本技术领域亟待解决的问题。

发明内容

本申请主要解决的技术问题是提供一种基于BERT+CRF的贝叶斯神经网络的运营商智能定责方法及装置，基于BERT+CRF的贝叶斯神经网络的运营商智能定责方法，能够结合词间和句间的语义，很好的识别投诉工单中的关键词，并通过关键词进行工单的智能定责，正确快速追踪到投诉责任的归属方，更快的解决客户问题，提升工单处理效率，最终提升服务质量和用户满意度。

为解决上述技术问题，本申请采用的一个技术方案是：提供一种基于BERT+CRF的贝叶斯神经网络的运营商智能定责方法，所述方法包括步骤：

S1：获取通信运营商的投诉工单语料库，基于所述投诉工单语料库对工单进行数据清洗，得到清洗好的工单；

S2：将清好的工单输入至BERT模型，得到训练数据的词向量；

S3：采用CRF算法对词向量进行特征提取，得到特征词序列；

S4：将特征词序列输入贝叶斯神经网络模型进行训练，调优参数，形成问题根因分析模型；

S5：根据问题根因分析模型对待定责的工单进行分析，确定责任归属。