|
钻瓜专利网为您找到相关结果 166个,建议您 升级VIP下载更多相关专利
- [发明专利]一种文本分类方法、系统、终端及存储介质-CN202310714387.6在审
-
吴育人;钱江;庄伯金
-
平安科技(深圳)有限公司
-
2023-06-15
-
2023-08-29
-
G06F16/35
- 本发明公开了一种文本分类方法、系统、终端及存储介质,包括:将待分类文本信息输入已训练完成的Bert模型,得到若干分类结果;提取Bert模型输出层的CLS向量,得到若干句向量;基于若干分类结果及若干句向量,计算句向量的loss,并构建神经网络;将若干句向量的loss加权求和得到总loss,通过神经网络优化器对总loss进行优化,直至收敛。本发明将Bert模型作为backbone,达到提取文本句向量的目的,同时将Bert模型预测得到的分类结果作为一个粗略的结果。后端桥接上新的网络结构,即可以充分利用预训练Bert的文本表征能力,又可以在垂直领域更好的优化分类性能。本发明多层loss的相加,能够更好得记录句向量在过程中的变化,对模型的收敛起到了积极的作用。
- 一种文本分类方法系统终端存储介质
|