[发明专利]基于多头自注意力及LSTM的金融舆情分类方法及系统

说明书

本发明涉文本数据处理技术领域，本发明公开了基于多头自注意力及LSTM的金融舆情分类方法及系统；其中所述方法，包括：获取待分类金融新闻全文文本数据以及评论文本数据；对获取的所有文本数据进行预处理；将预处理后的文本数据，输入到语义特征分割模型中进行语义分割，分别得到新闻全文文本的初始词嵌入向量和初始句嵌入向量，以及评论文本的初始词嵌入向量和初始句嵌入向量；将语义分割得到的结果，均输入到训练后的金融舆情分类模型中，输出金融舆情分类结果。实现从语义层次上对金融舆情的更准确判断。

技术领域

本发明涉文本数据处理技术领域，特别是涉及基于多头自注意力及LSTM的金融舆情分类方法及系统。

背景技术

本部分的陈述仅仅是提到了与本发明相关的背景技术，并不必然构成现有技术。

对于金融投资者来说，在具备庞大信息量的各类新闻或大众评论中，并非所有的信息都值得参考。对于金融相关的文本进行分析，其有效性取决于对目标文章分析的完整性以及目标文章的质量。例如，相较于文章标题来说，分析一篇完整的公司新闻显然更能准确把握公司的综合能力发展趋势。然而，大部分研究人员只关注新闻的标题而忽略了新闻文本内容，不关注真正能够体现投资者情绪的主观数据，缺乏对新闻的文本内容以及帖子的文本内容正确的处理和分析。

另外，在庞大的金融领域文本中，不同新闻与关注事件相关的在线内容的质量、可信度和全面性差异很大。因此不同的金融文本对金融市场的影响不能以一概全，需要区别对待，在处理不同的网络新闻的时候，需要根据其内在的内容来区分，一些无用的评论或含糊的谣言可能对金融市场的变化没有什么干扰。在真正的投资中，需要有意识地、全面地考虑每个新闻的不同影响。因此，现有的舆情分析往往没有考虑不同新闻文本的权重，导致舆情分类结果不够准确；中国发明专利CN113495959B一种基于文本数据的金融舆情识别方法及系统，虽然也能够解决金融舆情识别的问题，但是，其缺乏对金融文本数据的语义分割，同时由于深度学习模型存在的收敛速度会因模型深度而减缓的问题，从而导致其金融舆情分类结果不够精准。

发明内容

为了解决现有技术的不足，本发明提供了基于多头自注意力及LSTM的金融舆情分类方法及系统；实现从语义层次，改进模型架构层次上对金融舆情的更准确判断。

第一方面，本发明提供了基于多头自注意力及LSTM的金融舆情分类方法，包括：获取待分类金融新闻全文文本数据以及评论文本数据；对获取的所有文本数据进行预处理；将预处理后的文本数据，输入到语义特征分割模型中进行语义分割，分别得到新闻全文文本的初始词嵌入向量和初始句嵌入向量，以及评论文本的初始词嵌入向量和初始句嵌入向量；将语义分割得到的结果，均输入到训练后的金融舆情分类模型中，输出金融舆情分类结果；在对金融舆情分类模型的训练过程中，采用遗传算法对金融舆情分类模型的长短期记忆网络进行参数调优。

第二方面，本发明提供了基于多头自注意力及LSTM的金融舆情分类系统，包括：获取模块，其被配置为：获取待分类金融新闻全文文本数据以及评论文本数据；对获取的所有文本数据进行预处理；分类模块，其被配置为：将预处理后的文本数据，输入到语义特征分割模型中进行语义分割，分别得到新闻全文文本的初始词嵌入向量和初始句嵌入向量，以及评论文本的初始词嵌入向量和初始句嵌入向量；将语义分割得到的结果，均输入到训练后的金融舆情分类模型中，输出金融舆情分类结果；在对金融舆情分类模型的训练过程中，采用遗传算法对金融舆情分类模型的长短期记忆网络进行参数调优。

与现有技术相比，本发明的有益效果是：