专利名称
主分类
A 农业
B 作业;运输
C 化学;冶金
D 纺织;造纸
E 固定建筑物
F 机械工程、照明、加热
G 物理
H 电学
专利下载VIP
公布日期
2023-10-24 公布专利
2023-10-20 公布专利
2023-10-17 公布专利
2023-10-13 公布专利
2023-10-10 公布专利
2023-10-03 公布专利
2023-09-29 公布专利
2023-09-26 公布专利
2023-09-22 公布专利
2023-09-19 公布专利
更多 »
专利权人
国家电网公司
华为技术有限公司
浙江大学
中兴通讯股份有限公司
三星电子株式会社
中国石油化工股份有限公司
清华大学
鸿海精密工业股份有限公司
松下电器产业株式会社
上海交通大学
更多 »
钻瓜专利网为您找到相关结果23个,建议您升级VIP下载更多相关专利
  • [发明专利]预训练语言模型的微调方法、装置及计算机可读存储介质-CN202011529711.X在审
  • 肖天雄;童毅轩;董滨;姜珊珊;张佳师 - 株式会社理光
  • 2020-12-22 - 2022-07-08 - G06N20/00
  • 本发明提供了一种预训练语言模型的微调方法、装置及计算机可读存储介质,属于自然语言处理技术领域。所述预训练语言模型的微调方法包括:获得一预先训练好的预训练语言模型,确定所述预训练语言模型中每个编码层的梯度阈值;对所述预训练语言模型进行训练,并在所述训练过程中每次更新任一编码层的模型参数之前,计算所述任一编码层的梯度范数;根据所述任一编码层的梯度范数是否小于所述任一编码层的梯度阈值,确定本次是否需要更新所述任一编码层的模型参数。本发明能够在保留预训练语言模型的通用语言知识和训练获得适用于下游任务的模型中取得较好的折中,使得模型能够保留较多的通用语言知识,提高模型的性能。
  • 训练语言模型微调方法装置计算机可读存储介质
  • [发明专利]实体文本的序列标注方法、装置及计算机可读存储介质-CN202011340269.6在审
  • 童毅轩;张永伟;董滨;姜珊珊;张佳师 - 株式会社理光
  • 2020-11-25 - 2022-05-27 - G06F40/295
  • 本发明提供了一种实体文本的序列标注方法、装置及计算机可读存储介质,属于自然语言处理技术领域。本发明的实体文本的序列标注方法,包括:确定目标文本的实体文本的起始位置,目标文本为待识别实体标签的文本;根据目标文本的实体文本的起始位置生成第一矩阵,第一矩阵中的元素用以表示目标文本中每个词对其他词的可关注权重;利用第一矩阵生成命名实体识别模型,命名实体识别模型为对第一训练数据进行训练得到的,第一训练数据包括训练文本集合中每个文本对应的分词的向量,且训练文本集合中每个文本为标注实体标签的文本;将目标文本输入命名实体识别模型,输出目标文本对应的实体标签的概率分布。本发明的技术方案能够准确识别文本的实体标签。
  • 实体文本序列标注方法装置计算机可读存储介质
  • [发明专利]位置信息的融合方法、装置及计算机可读存储介质-CN202010238604.5在审
  • 童毅轩;张永伟;董滨;姜珊珊;张佳师 - 株式会社理光
  • 2020-03-30 - 2021-10-01 - G06F40/289
  • 本发明提供了一种位置信息的融合方法、装置及计算机可读存储介质。本发明提供的位置信息的融合方法,包括:对输入语句进行分词处理,得到所述输入语句中的词的第一序列,生成所述第一序列中的词的绝对位置信息;对所述第一序列中的词进行拆分,获得包括子词的第二序列,根据所述子词在所述第一序列中所属的词的绝对位置信息,生成所述第二序列中子词的位置信息;将所述第二序列中子词的位置信息融合到自注意力模型中,进行模型训练或模型预测。本发明在自注意力模型中引入子词拆分算法后,在模型输入特征中融合基于词绝对位置的词位置信息,可以使得后续任务能够获得更为准确的位置信息,提高模型的准确性。
  • 位置信息融合方法装置计算机可读存储介质
  • [发明专利]深度学习任务的处理方法、装置及计算机可读存储介质-CN201910701940.6在审
  • 张佳师;姜珊珊;董滨;丁磊;童毅轩 - 株式会社理光
  • 2019-07-31 - 2021-02-02 - G06F9/455
  • 本发明提供了一种深度学习任务的处理方法、装置及计算机可读存储介质。本发明实施例提供的深度学习任务的处理方法、装置及计算机可读存储介质,在每次模型训练之前导入足够的训练数据,基于已导入本地存储的训练数据进行模型的训练,在模型训练过程中,训练数据的读取和中间模型文件的保存都在本地存储进行,从而保证了模型训练的速度。另外,本发明实施例将模型训练的中间模型文件及时传输到网络存储设备中,可以减少或避免数据因异常事件发生丢失的情况,提高了训练过程的鲁棒性。另外,本发明实施例还可以动态优化本地存储到网络存储以及网络存储到本地存储的数据传输速度,避免对模型训练以及其他节点造成过多的影响。
  • 深度学习任务处理方法装置计算机可读存储介质

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

400-8765-105周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top