[发明专利]一种文档预训练模型训练方法、装置、设备及介质有效
申请号: | 202210126826.7 | 申请日: | 2022-02-11 |
公开(公告)号: | CN114170482B | 公开(公告)日: | 2022-05-17 |
发明(设计)人: | 罗楚威;唐国志;郑琪;姚聪 | 申请(专利权)人: | 阿里巴巴达摩院(杭州)科技有限公司 |
主分类号: | G06V10/774 | 分类号: | G06V10/774;G06V30/41;G06T7/70 |
代理公司: | 北京同钧律师事务所 16037 | 代理人: | 许怀远 |
地址: | 310023 浙江省杭州市余杭*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请实施例提供一种模型训练方法、装置、设备及介质。在本申请实施例中,将文档图像、包含文档图像中文字的文本文件和文字在文档图像中的实际位置输入至文档预训练模型,得到文档图像中图像区域的视觉表征和文字的文本表征;根据视觉表征和/或文本表征,利用监督策略确定损失值;根据损失值,调整模型参数,得到训练后的文档预训练模型。其中,监督策略包括基于文本图像位置感知任务、区域文本预测任务、文本图像双向对齐任务中的至少一种预训练任务确定损失值。从而,通过视觉信息与文本信息充分交互的预训练任务,提高文档预训练模型的训练效果,进而提高文档预训练模型对文档图像进行文档理解的准确性。 | ||
搜索关键词: | 一种 文档 训练 模型 方法 装置 设备 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴达摩院(杭州)科技有限公司,未经阿里巴巴达摩院(杭州)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210126826.7/,转载请声明来源钻瓜专利网。
- 上一篇:一种北斗天线
- 下一篇:一种苯唑草酮的制备方法