[发明专利]一种基于enhance matrix的法律案件候选段落的选取方法及装置有效
申请号: | 202110543628.6 | 申请日: | 2021-05-19 |
公开(公告)号: | CN113361261B | 公开(公告)日: | 2022-09-09 |
发明(设计)人: | 胡峰;董磊;邓维斌 | 申请(专利权)人: | 重庆邮电大学 |
主分类号: | G06F40/216 | 分类号: | G06F40/216;G06F40/284;G06K9/62;G06N3/04;G06N3/08;G06Q50/18 |
代理公司: | 重庆辉腾律师事务所 50215 | 代理人: | 卢胜斌 |
地址: | 400065 重*** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 enhance matrix 法律 案件 候选 段落 选取 方法 装置 | ||
1.一种基于enhance matrix的法律案件候选段落的选取方法,其特征在于,包括以下步骤:
对带有推理性质的法律阅读理解数据集进行处理,将一个样本数据中的候选段落的标签标为1,非候选段落标为0,获取具有候选段落标注的法律数据集;
将每个样本中的问题与段落分别进行连接,并通过attention操作通过Bert模型输出两个不同模型参数的段落向量矩阵,根据两个不同模型参数的段落向量矩阵计算相似度矩阵R;
针对每个样本构建EM矩阵,在EM矩阵中EMij表示第i个段落和第j个段落关于词语的增量关系,即判断段落i和段落j与样本问题之间时候存在词语包含关系,存在设置为1;计算段落i与段落j之间关于词语的词向量相似度并取top k计算值的和;将前两步骤得到的值进行相加,将相加的值作为第i个段落和第j个段落关于词语的增量关系;段落i与段落j之间关于词语的词向量相似度表示为:
其中,COS(xiyj)表示段落x的第i个分词与段落y的第j个分词之间的词向量余弦距离;m为段落x的分词个数,n为段落y的分词个数;
对相似度矩阵R和EM矩阵进行相加操作,将相加之后的矩阵通过softmax函数计算得到段落之间的相似权值,使用段落向量和对应权值的乘积相加得到更新后的段落向量表示;
将更新后的段落向量表示接二分类任务,使用sigmoid作为激活函数,对法律阅读理解候选段落数据集进行训练,得到训练好的模型;
在训练好的模型中输入未知候选段落的法律文本,输出段落分类的概率,取top n得到最终候选段落结果。
2.据权利要求1所述的一种基于enhance matrix的法律案件候选段落的选取方法,其特征在于,段落x的第i个分词与段落y的第j个分词之间的词向量余弦距离COS(xiyj)表示为:
其中,w为词向量的维度大小,xik为段落x的第i个向量k个维度的向量值;yjk为段落y的第i个向量k个维度的向量值。
3.根据权利要求1所述的一种基于enhance matrix的法律案件候选段落的选取方法,其特征在于,一个样本数据的问题必须通过至少2个候选段落的推理来得出,即一个样本的至少有两个候选段落,且样本数据至少有一个非候选段落。
4.根据权利要求1所述的一种基于enhance matrix的法律案件候选段落的选取方法,其特征在于,通过Bert网络得到的段落向量,样本中所有段落向量构成向量矩阵X,X与两个不同的权重W计算得到两个矩阵Q、K,则相似度矩阵R表示为:
其中,dk为向量矩阵的维度,kT中的上标T表示转置矩阵。
5.一种基于enhance matrix的法律案件候选段落的选取装置,其特征在于,包括候选段落数据处理模块、Bert表征模块、增量处理模块、模型训练模块以及候选段落输出模块,其中:
候选段落数据处理模块,用于执行对获取带有推理性质的阅读理解数据集进行处理,根据数据集要求答案必须通过至少2个候选段落的推理来得出答案的特点来选出候选段落并进行标签标注,获取将是否为候选段落作为标签的数据集;
Bert表征模块,用于执行对候选段落数据集中每个样本中的段落和问题进行表征算法,将问题文本和段落文本合并,截取或补全为512长度的输入,输入到已经过预训练的Bert模型,获得问题和段落向量的表示,提取出段落向量来构造每个样本的段落向量矩阵;
增量处理模块,用于执行对段落向量矩阵执行增量处理算法,即通过attention机制来学习段落向量矩阵之间的相似度矩阵R,随后根据两个不同段落与样本问题之间的词语包含关系以及两个不同段落关于词语向量的相似度的计算结果生成enhance matrix矩阵,并使用enhance matrix矩阵进一步对相似度矩阵R进行增量处理;enhance matrix矩阵中EMij表示第i个段落和第j个段落关于词语的增量关系,即判断段落i和段落j与样本问题之间时候存在词语包含关系,存在设置为1;计算段落i与段落j之间关于词语的词向量相似度并取top k计算值的和;将前两步骤得到的值进行相加,将相加的值作为第i个段落和第j个段落关于词语的增量关系;段落i与段落j之间关于词语的词向量相似度表示为:
其中,COS(xiyj)表示段落x的第i个分词与段落y的第j个分词之间的词向量余弦距离;m为段落x的分词个数,n为段落y的分词个数;
模型训练模块,用于执行模型的训练任务,通过二分类任务完成模型训练,得到最后的模型;
候选段落输出模块,用于输出未知候选段落的法律文本的候选段落选取结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆邮电大学,未经重庆邮电大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110543628.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种风电风机储能增效利用装置
- 下一篇:一种市政工程测绘系统及其使用方法