“语言训练”专利关键词查询_检索下载_查询列表_检索列表_行业专利分布_钻瓜专利网

钻瓜专利网为您找到相关结果388125个，建议您升级VIP下载更多相关专利

[发明专利]一种基于自监督的三阶段故事阅读理解训练方法-CN202110670949.2在审
发明人：陈廷伟;侯昊辰;刘欣月;胡玥 -专利权人：辽宁大学
申请日： 2021-06-17 - 公布日： 2021-08-27 - 主分类号： G06F16/33 文献下载
摘要：一种基于自监督的三阶段故事阅读理解训练方法，包括以下步骤：1)使用语言模型在开放域语料库上进行预训练；2)采用语言模型LM或者掩码语言模型MLM的自我监督学习目标继续在无监督、同领域的ROCStories日常故事语料上进行预训练；3)对目标SCT任务上的结果模型进行训练。本发明引入在ROCStories故事无监督语料上的预训练步骤，提高了预训练语言模型在故事完形填空SCT任务的准确率。
一种基于监督阶段故事阅读理解训练方法

[发明专利]一种医疗信息的检索方法及系统-CN202110664334.9在审
发明人：谭传奇;陈漠沙;严明;黄松芳 -专利权人：阿里巴巴新加坡控股有限公司
申请日： 2021-06-16 - 公布日： 2022-12-16 - 主分类号： G06F16/335 文献下载
摘要：该检索方法包括：根据检索词获得多个备选文档；在所述多个备选文档中选择部分文档进行标注；使用标注后的部分文档训练预训练语言模型；利用所述训练后的医学领域的语言模型对所述多个备选文档进行重新排序，得到排序后的检索结果本公开实施例利用通过标注备选文档来训练预训练语言模型，以得到训练后的医学领域的语言模型，这样的改进可以节省大量成本。
一种医疗信息检索方法系统

[发明专利]构建语言信息识别模型的方法及语言信息识别装置-CN201410032258.X在审
发明人：范文 -专利权人：北京奇虎科技有限公司;奇智软件（北京）有限公司
申请日： 2014-01-23 - 公布日： 2014-05-07 - 主分类号： G06F17/30 文献下载
摘要：本发明公开了一种构建语言信息识别模型的方法及语言信息识别装置。该方法包括：采集并标识垃圾语言信息，并提取采集的垃圾语言信息中包含的特征词，生成垃圾特征词库；基于垃圾特征词库，构建以垃圾语言信息标识和特征词分别为行列向量的文档向量空间模型；根据预先设置的特征词向量权重算法并基于垃圾特征词库，分别计算构建的文档向量空间模型中的行列向量值，得到训练的文档向量空间模型；配置基于训练得到的文档向量空间模型的识别策略，构建语言信息识别模型以对语言信息进行垃圾语言信息识别。应用本发明，可以基于单类垃圾SMS数据构建语言信息识别模型，并能有效降低模型训练的资源消耗以及训练时间。
构建语言信息识别模型方法装置

[发明专利]一种基于预训练语言模型的摘要生成方法-CN202011301462.9有效
发明人：蔡树彬;周槐枫;明仲;冯晓刚 -专利权人：深圳大学
申请日： 2020-11-19 - 公布日： 2023-07-25 - 主分类号： G06F16/34 文献下载
摘要：本发明公开了一种基于预训练语言模型的摘要生成方法,所述方法包括：获取待生成摘要的文本信息，并对所述文本信息进行多特征加权的语言预训练处理，得到候选摘要；将所述候选摘要输入到预训练语言模型，得到预训练语言模型输出数据；将所述预训练语言模型输出数据输入到解码器模型，得到目标摘要。本发明实施例通过将待生成摘要的文本信息进行预训练处理，然后再通过编码器和解码器之后就可以生成目标摘要，本发明实施例方法可以更好的提高摘要的质量和可读性。
一种基于训练语言模型摘要生成方法

[发明专利]特殊语言的文字识别方法、识别模型训练方法和装置-CN202010981048.0在审
发明人：甘宇飞 -专利权人：支付宝实验室（新加坡）有限公司
申请日： 2020-09-17 - 公布日： 2020-12-29 - 主分类号： G06K9/34 文献下载
摘要：本说明书公开了一种特殊语言的文字识别方法、识别模型训练方法和装置。该特殊语言的文字识别模型的训练方法包括：分别对多个特殊语言字符对应的手写笔记进行分割，得到所述多个特殊语言字符各自的手写图像集合，其中，一个特殊语言字符对应的手写笔记中包含该特殊语言字符的多个手写字符；基于目标特殊语言文字短语和所述多个特殊语言字符各自的手写图像集合，生成所述目标特殊语言文字短语对应的目标特殊语言文字短语图像；以所述目标特殊语言文字短语图像为样本，并以所述目标特殊语言文字短语图像对应的所述目标特殊语言文字短语为标签，对特殊语言文字识别模型进行训练。
特殊语言文字识别方法模型训练装置

[发明专利]目标语言单词变形的方法及装置-CN200710186545.6无效
发明人：刘占一;王海峰;吴华 -专利权人：株式会社东芝
申请日： 2007-12-07 - 公布日： 2009-06-10 - 主分类号： G06F17/28 文献下载
摘要：本发明提供一种基于双语语料库训练目标语言单词变形模型的方法及装置、目标语言单词变形方法及装置、以及将源语言文本翻译为目标语言译文的翻译方法及翻译系统。在该基于双语语料库训练目标语言单词变形模型的方法中，双语语料库包括多对进行了对齐的源语言语料和目标语言语料，所述方法包括：建立初始的目标语言单词变形模型；预处理上述双语语料库中的源语言语料和目标语言语料；基于上述预处理后的源语言语料和目标语言语料，抽取包含目标语言单词变形信息的模板；以及利用上述模板，训练上述目标语言单词变形模型。
目标语言单词变形方法装置

[发明专利]一种预训练语言模型的信息处理方法、装置、设备及介质-CN202311221189.2在审
发明人：范宝余;郭振华;王立;王棣;张润泽 -专利权人：浪潮电子信息产业股份有限公司
申请日： 2023-09-21 - 公布日： 2023-10-27 - 主分类号： G06F16/332 文献下载
摘要：本发明公开了一种预训练语言模型的信息处理方法、装置、设备及介质，应用于人工智能技术领域，为解决现有的预训练语言模型不能更好地满足用户需求的问题，提出通过本地预训练语言模型在循环生成待回复文本的下一个词时，生成当前词典概率表；根据当前词典概率表中的各词判断是否存在最优词；若是，则将最优词作为下一个词进行生成；若否，则基于当前已生成文本生成对应的自然语言问题及问题类型；基于问题类型将自然语言问题发送至其他相应的预训练语言模型，并接收各个预训练语言模型返回的答复；从各个答复中选择出最优答复，并将最优答复作为下一个词进行生成；从而可以使基于本地预训练语言模型智能体能更好满足用户需求，提高用户使用体验。
一种训练语言模型信息处理方法装置设备介质

[发明专利]语言模型的处理方法、装置和计算机设备-CN202010487518.8有效
发明人：黄展鹏 -专利权人：腾讯科技（深圳）有限公司
申请日： 2020-06-02 - 公布日： 2020-09-18 - 主分类号： G06F40/35 文献下载
摘要：本申请涉及一种语言模型的处理方法、装置、计算机设备和存储介质。所述方法包括：获取语句样本；对所述语句样本进行分词，得到样本分词序列；将所述样本分词序列输入至预训练语言模型中；通过所述预训练语言模型中依次连接的多个处理层处理所述样本分词序列，获得每个处理层对应的第一层处理结果，所述依次连接的多个处理层分别输出的第一层处理结果，分别是不同级别的语言表示；基于处理层所对应的语言表示，对相应的第一层处理结果进行特征增强处理，得到所述处理层对应的第二层处理结果；根据第二层处理结果调整所述预训练语言模型，并继续训练，直至获得训练完成的语言模型。采用本申请的方法能够提高训练完成的语言模型的识别准确性。
语言模型处理方法装置计算机设备

[发明专利]一种基于记忆库的机器翻译模型训练方法-CN202210047697.2在审
发明人：张文博 -专利权人：语联网（武汉）信息技术有限公司
申请日： 2022-01-17 - 公布日： 2022-05-13 - 主分类号： G06F40/58 文献下载
摘要：本发明公开了一种基于记忆库的机器翻译模型训练方法，包括如下步骤：S1、基于目标语言检索生成三元组训练数据；S2、基于去噪语言模型生成三元组训练数据；S3、基于生成的三元组训练数据训练机器翻译模型。本发明先利用基于去噪语言模型生成三元组训练数据训练得到机器翻译预训练模型，再利用基于目标语言检索生成三元组训练数据去微调得到机器翻译训练模型，保证机器翻译训练模型的精确性，提高工作效率和翻译质量。
一种基于记忆机器翻译模型训练方法

[发明专利]建立转译模型的方法、转译方法和对应装置-CN202111330368.0在审
发明人：陈珺;孙清清;郑行;王爱凌;赖伟达;邹泊滔 -专利权人：支付宝（杭州）信息技术有限公司
申请日： 2021-11-11 - 公布日： 2022-03-01 - 主分类号： G06F40/58 文献下载
摘要：本说明书实施例提供了一种建立转译模型的方法、转译方法和对应装置，根据本说明书实施例，首先获取包含多个训练样本的训练数据；然后利用训练数据训练包含编码器、文本解码器和语音解码器的辅助模型；其中，将训练样本的源语言文本作为编码器的输入，由编码器输出该源语言文本的特征表示；文本解码器利用特征表示预测该源语言文本的目标语言文本；语音解码器利用特征表示预测该源语言文本的语音索引文本；辅助模型的训练目标为：最小化文本解码器的预测结果与训练样本中对应目标语言文本的差异以及最小化语音解码器的预测结果与训练样本中对应语音索引文本的差异；再利用训练得到的辅助模型中的编码器和文本解码器得到转译模型。
建立转译模型方法对应装置

[发明专利]一种针对粤语的语音合成模型的训练方法及语音合成方法-CN202210322437.1在审
发明人：陈颖璇;赖蔚蔚;吴广财;郑杰生;郑颖龙;周昉昉;林嘉鑫;黄宏恩;赵创业;张乐然;吴穹 -专利权人：广东电力信息科技有限公司
申请日： 2022-03-29 - 公布日： 2022-08-26 - 主分类号： G10L13/02 文献下载
摘要：本申请公开了一种针对粤语的语音合成模型的训练方法及语音合成方法，涉及语音处理技术领域。该方法包括：获取目标语言类型对应的第一训练样本集；获取与目标语言类型相关联的第一初始网络，作为初始模型，第一初始网络是基于多种语言类型对应的第二训练样本集训练得到，多种语言类型与所述目标语言类型相关联；将第一文本样本输入至初始模型，得到第一文本样本对应的合成语音；基于第一文本样本对应的合成语音和第一文本样本对应的目标语言类型的第一语音样本，对初始模型进行迭代训练，直至满足第一预设条件，得到训练后的语音合成模型如此，减小了模型训练需要的训练样本，同时提高了模型训练的效率。
一种针对粤语语音合成模型训练方法

[发明专利]生成式大语言模型训练方法、基于模型的人机语音交互方法-CN202310233936.8在审
发明人：黄际洲;孙一博 -专利权人：北京百度网讯科技有限公司
申请日： 2023-03-03 - 公布日： 2023-05-16 - 主分类号： G06F16/332 文献下载
摘要：本公开提供了生成式大语言模型训练方法、基于模型的人机语音交互方法，涉及生成式模型、智能语音、人机交互等人工智能技术领域。该方法包括：基于用户输入文本与包含有接口调用指令的输出结果，构建第一训练集；利用第一训练集对预设的第一生成式大语言模型进行有监督微调训练，得到第二生成式大语言模型；基于相同用户输入文本与不同候选输出之间的用户偏好排序和预设模板集合，构建第二训练集；利用第二训练集对预设的第三生成式大语言模型进行有监督训练，得到奖励模型；将第二生成式大语言模型，基于奖励模型返回的得分，以强化学习方式进行训练。利用据此训练得到的生成式大语言模型可显著提升人机语音交互场景下的回复准确率和用户体验。
生成语言模型训练方法基于人机语音交互

[发明专利]定制化产品语言模型的训练和识别方法及装置-CN201910588585.6有效
发明人：徐飞;陈明佳 -专利权人：思必驰科技股份有限公司
申请日： 2019-07-02 - 公布日： 2022-04-15 - 主分类号： G10L15/06 文献下载
摘要：本发明公开定制化产品语言模型的训练和识别方法及装置，其中，一种定制化产品语言模型的训练和识别方法，包括：响应于产品的发布或更新，利用训练语料对产品进行训练，其中，训练语料包括通用语料、热点语料和开发者定制语料，产品的语言模型包括第一路解码、第二路解码和第三路解码；将通用语料输入至第一路解码以将第一路解码训练成通用语言模型；将热点语料输入至第二路解码以将第二路解码训练成解决方案语言模型；将开发者定制语料输入至第三路解码以将第三路解码训练成定制产品语言模型本申请的方法及装置提供的方案可以对三种语料分别训练从而对不同的语料更有针对性，对开发者更友好，开发者只需专注于自己的定制即可。
定制产品语言模型训练识别方法装置

[发明专利]数据处理方法和装置-CN201911307167.1在审
发明人：曹宇慧;冯仕堃;陈徐屹;何径舟 -专利权人：北京百度网讯科技有限公司
申请日： 2019-12-18 - 公布日： 2020-05-05 - 主分类号： G06F16/33 文献下载
摘要：该方法的一具体实施方式包括：获取样本集；将该样本集中的多个目标样本分别输入预先训练的第一自然语言处理模型，得到从该预先训练的第一自然语言处理模型输出的预测结果；将得到的预测结果分别确定为该多个目标样本中各个目标样本的标注；基于该多个目标样本和该各个目标样本的标注，对待训练的第二自然语言处理模型进行训练，得到训练后的第二自然语言处理模型，第一自然语言处理模型中的参数，多于第二自然语言处理模型中的参数。本申请实施例能够利用第一自然语言处理模型的预测结果作为样本的标注，可以获得大量存在标注的样本对小模型进行训练，从而训练出精确度较高、且运行速度快的小模型。
数据处理方法装置

[发明专利]结构化查询语言语句处理方法和系统、设备和介质-CN202210158516.3在审
发明人：袁韶祖;陈蒙;祝天刚 -专利权人：京东科技信息技术有限公司
申请日： 2022-02-21 - 公布日： 2022-06-10 - 主分类号： G06F16/242 文献下载
摘要：本公开提供一种结构化查询语言语句处理方法和系统、设备和介质，所述结构化查询语言语句处理方法包括：获取表格信息，将表格信息输入至结构化查询语言语句处理模型，输出结构化查询语言语句，其中，将第一训练样本分别输入第一老师模型和第一学生模型中进行蒸馏训练，得到第二学生模型；将第二训练样本分别输入第二老师模型和第二学生模型中进行蒸馏训练，得到训练好的第二学生模型；结构化查询语言语句处理模型是基于训练好的第二学生模型、表格样本以及预先确定的语言标签进行训练后得到，从而可以实现在保证结构化查询语言语句的准确率和精度的基础上，克服了线上部署时内存不足和推理时间过慢的缺陷。
结构查询语言语句处理方法系统设备介质