[发明专利]识别微信公众号所属业态的方法及装置

说明书

本发明提供一种识别微信公众号所属业态的方法及装置，包括：获取微信公众号的文本数据集，基于所述文本数据集进行BERT模型预训练，得到BERT中文词向量；从所述文本数据集中提取文本特征词，并基于所述BERT中文词向量对所述文本特征词进行向量化，得到字向量序列；将所述字向量序列输入LSTM‑CNN模型，得到所述LSTM‑CNN模型输出的目标特征向量；将所述目标特征向量输入softmax层，得到所述softmax层输出的概率预测向量；查找所述概率预测向量中的最大值，并以所述最大值对应的业态作为所述微信公众号的所属业态。通过本发明，实现了高精度识别微信公众号的所属业态。

技术领域

本发明涉及深度学习技术领域，尤其涉及一种识别微信公众号所属业态的方法及装置。

背景技术

依托互联网的发展，微信作为“社交+信息”的代名词，已逐步成为人们获取信息的重要来源。尤其是微信公众号所具备的方便快捷性使得微信公众号成为新兴互联网金融交易模式的载体。这也充分迎合了移动互联网时代时间碎片化的特点，导致微盘、现金贷等以微信公众号为载体的交易平台层出不穷。如此一来，识别以微信公众号为载体的交易平台的细分业态对于互联网金融监管而言尤为重要。

现有技术中通常是基于机器学习的方法利用词袋模型对微信公众号的文本信息进行表示，从而识别微信公众号所属业态。但这种方式不能根据上下文信息对文本信息进行表征，且不能解决一词多义等问题，导致识别准确率低。

发明内容

本发明的主要目的在于提供一种识别微信公众号所属业态的方法及装置，旨在解决现有技术中对微信公众号所属业态进行识别的准确率较低的技术问题。

为实现上述目的，本发明实施例提供一种识别微信公众号所属业态的方法，所述识别微信公众号所属业态的方法包括：

获取微信公众号的文本数据集，基于所述文本数据集进行BERT模型预训练，得到BERT中文词向量；

从所述文本数据集中提取文本特征词，并基于所述BERT中文词向量对所述文本特征词进行向量化，得到字向量序列；

将所述字向量序列输入LSTM-CNN模型，得到所述LSTM-CNN模型输出的目标特征向量；

将所述目标特征向量输入softmax层，得到所述softmax层输出的概率预测向量；

查找所述概率预测向量中的最大值，并以所述最大值对应的业态作为所述微信公众号的所属业态。

可选的，所述获取微信公众号的文本数据集，基于所述文本数据集进行BERT模型预训练，得到BERT中文词向量包括：

获取微信公众号的简介文本以及微信公众号的推送文章的HTML源码；

对所述微信公众号的推送文章的HTML源码进行解析，得到微信公众号的推送文章文本，将所述简介文本以及推送文章文本作为微信公众号的文本数据集；

对所述文本数据集进行预处理，所述预处理包括剔除所述文本数据集中的无用字符、停用词；

基于所述经过预处理的文本数据集进行BERT模型预训练，取BERT模型的后4层隐藏层的权重平均值作为所述微信公众号的文本数据集对应的向量表示，生成BERT中文词向量。

可选的，所述从所述文本数据集中提取文本特征词，并基于所述BERT中文词向量对所述文本特征词进行向量化，得到字向量序列包括：

对所述文本数据集中微信公众号的简介文本进行切词以及剔除停用词处理，得到所述简介文本对应的第一文本特征词，并基于所述BERT中文词向量对所述第一文本特征词进行向量化，得到第一字向量序列；