“语言训练”专利关键词查询_检索下载_查询列表_检索列表_行业专利分布_钻瓜专利网

钻瓜专利网为您找到相关结果388125个，建议您升级VIP下载更多相关专利

[发明专利]基于增量学习的评论生成方法、系统、设备及存储介质-CN202210292437.1有效
发明人：毛震东;张勇东;韩靖轩;张立成;顾培健 -专利权人：合肥综合性国家科学中心人工智能研究院（安徽省人工智能实验室）
申请日： 2022-03-24 - 公布日： 2022-06-14 - 主分类号： G06F40/20 文献下载
摘要：本申请公开了一种基于增量学习的评论生成方法、系统、设备及存储介质，所述基于增量学习的评论生成方法包括：获取用户输入的媒体信息；将所述媒体信息输入至第一语言模型中，对所述媒体信息进行评论生成处理，得到所述媒体信息的评论集合，其中，所述第一语言模型是先以预训练任务对预设的第二语言模型进行训练得到第三语言模型后，再基于第一训练样本，通过序列到序列的训练方法对所述第三语言模型进行训练得到的；其中，所述第一语言模型基于增量学习进行更新本申请涉及自然语言生成领域，搭建预训练语言模型，引入增量学习对模型进行更新，在保持模型评论生成任务准确性的同时适应新的媒体信息评论生成任务。
基于增量学习评论生成方法系统设备存储介质

[发明专利]训练语言表征模型的方法、查找语句的方法及装置-CN202210302920.3在审
发明人：韩佳;杜新凯;吕超;谷姗姗;张晗;史辉 -专利权人：阳光保险集团股份有限公司
申请日： 2022-03-24 - 公布日： 2022-06-21 - 主分类号： G06F40/30 文献下载
摘要：本申请实施例提供了训练语言表征模型的方法、查找语句的方法及装置，该方法包括：获取目标训练语句，其中，所述目标训练语句是通过对语言表征模型所应用的目标领域的语句进行采集获得的；根据所述目标训练语句对预训练语言表征模型进行训练，获得目标语言表征模型，其中，所述预训练语言表征模型依次包括短语特征提取层、句法特征提取层和语义特征提取层，所述语义特征提取层中的第i层中部分节点的输入为所述短语特征提取层中的第j层的输出，i和j为大于或等于通过本申请的一些实施例能够提升语言表征模型的运行速度，并且能够使目标语言表征模型中的参数更适合应用于目标领域，从而提升语言表征模型的精确度。
训练语言表征模型方法查找语句装置

[发明专利]基于神经网络模型的交互式语音翻译模型的训练方法-CN202111296338.2在审
发明人：刘宇宸;周玉 -专利权人：北京中科凡语科技有限公司
申请日： 2021-11-03 - 公布日： 2022-02-08 - 主分类号： G06F40/58 文献下载
摘要：本公开提供了一种基于神经网络模型的交互式语音翻译模型的训练方法，包括：构建源语言语音‑源语言文本‑目标语言文本的数据集；至少使用数据集中的源语言语音及源语言文本对神经网络模型的编码器以及语音识别解码器进行训练，至少使用数据集中的源语言语音及目标语言文本对神经网络模型的编码器以及语音翻译解码器进行训练；以及，获得训练后的交互式语音翻译模型；其中，至少使用数据集中的源语言语音及目标语言文本对神经网络模型的编码器以及语音翻译解码器进行训练的过程中，还包括使用语音识别解码器在训练过程中已生成的语音识别历史信息进行训练。
基于神经网络模型交互式语音翻译训练方法

[发明专利]跨语言机器阅读理解任务的操作方法和自然语言处理系统-CN202310620516.5在审
发明人：曹庭锋;汪诚愚;朱金辉 -专利权人：阿里云计算有限公司
申请日： 2023-05-29 - 公布日： 2023-10-17 - 主分类号： G06F40/30 文献下载
摘要：本公开涉及一种跨语言机器阅读理解任务的操作方法和自然语言处理系统。所述方法包括：获取与源语言训练数据相对应的目标语言训练数据；构建用于训练的并行语言对；将并行语言对送入基于预训练语言模型构造的双列模型并使用反向传播算法进行训练，其中，所述双列模型包括源列和目标列，并且通过从目标列给出的上下文信息中找出与源列输出的源语言输出答案语义相似的答案片段本发明利用注意力机制，将源语言的答案片段巧妙地转移到目标语言的答案输出空间；并且通过梯度解耦知识共享技术改进了交叉注意力块。此外，通过让模型从多个颗粒度学习语义对齐并在教师的指导下校准模型输出提高跨语言的可迁移性。
语言机器阅读理解任务操作方法自然语言处理系统

[发明专利]一种语言训练系统及其实现方法-CN201710998268.2在审
发明人：陆烁;李炜;杨靖雯 -专利权人：中山大学
申请日： 2017-10-18 - 公布日： 2018-02-02 - 主分类号： G09B9/00 文献下载
摘要：本发明公开了一种语言训练系统及其实现方法，包括云服务器、辅导人员客户端和语言障碍者客户端；辅导人员客户端，用于根据辅导人员的用户请求，提供本地训练材料库服务、语言障碍者管理服务、出题服务和客户端直连服务；语言障碍者客户端，用于根据语言障碍者的用户请求，提供本地训练材料库服务、训练服务、语言能力测试服务、自动评分服务和客户端直连服务。本发明增设了本地训练材料库服务，使得移动设备几时在没有网络的情况下语言障碍者客户端仍然能够使用本地训练材料库进行训练；本发明的方法增设了客户端直连服务，使得客户端之间可以直接连接，方便在没有网络的情况下面对面共享资源
一种语言训练系统及其实现方法

[发明专利]基于跨语言的自动问答、模型训练方法及设备-CN202111395477.0在审
发明人：段智超;李秀星;李振宇;王建勇 -专利权人：清华大学
申请日： 2021-11-23 - 公布日： 2022-04-01 - 主分类号： G06F16/332 文献下载
摘要：本发明提供一种基于跨语言的自动问答、模型训练方法及设备，其中的方法包括：获取问题和文本，文本的语言不同于问题的语言；将问题和文本输入至自动问答模型，得到自动问答模型输出的文本中问题的答案的位置信息；其中，自动问答模型是基于问题样本及包含问题样本的答案的文本样本，对包含知识增强的预训练模型的预设模型进行训练得到的，知识增强的预训练模型是基于利用知识图谱构建的多个多元组，对初始的预训练模型进行预训练得到的，能够学习到跨语言的知识以建立不同语言之间的对应关系，从而使得知识增强的预训练模型的推理能力和对不同语言的理解能力得到了增强，进而实现了自动问答模型对跨语言的问答的性能的提升。
基于语言自动问答模型训练方法设备

[发明专利]一种基于子词编码和逆文档频率遮蔽的中文预训练方法-CN202110480038.3在审
发明人：邱锡鹏;邵云帆 -专利权人：复旦大学
申请日： 2021-04-30 - 公布日： 2022-11-01 - 主分类号： G06F40/216 文献下载
摘要：本发明提供了一种基于子词编码和逆文档频率遮蔽的中文预训练方法，用于中文语言模型的预训练，包括以下步骤：步骤1，收集中文语料，根据语料通过迭代算法学习一元语言模型，得到词典和出现概率；步骤2，基于一元语言模型对中文语言模型的输入文本进行子词编码，得到子词元素序列；步骤3，计算子词元素序列中每个子词元素的逆文档频率；步骤4，通过逆文档频率遮蔽预测任务来进行预训练，将逆文档频率最高的子词元素进行遮蔽，中文语言模型通过对被遮蔽的子词元素进行预测来进行预训练；步骤5，将语料输入中文语言模型，经过子词编码和计算逆文档频率后通过逆文档频率遮蔽预测任务进行预训练，在计算训练后得到训练好的中文语言模型。
一种基于编码文档频率遮蔽中文训练方法

[发明专利]基于多粒度语法错误模板学习微调的语法纠错方法和系统-CN202210647711.2在审
发明人：李霞;何俊毅 -专利权人：广东外语外贸大学
申请日： 2022-06-09 - 公布日： 2022-08-30 - 主分类号： G06F40/253 文献下载
摘要：本发明方法通过在预训练语言模型中分别执行正误判断任务的模板学习过程、错误类型预测任务的模板学习过程和修改方式预测任务的模板学习过程。然后通过多任务学习，使用三个任务损失计算预训练语言模型的训练损失，用训练损失调节预训练语言模型的模型参数，得到微调后预训练语言模型。然后，使用微调后预训练语言模型和融合预训练语言模型的生成语法纠错方法，训练一个语法纠错模型。最后，将待纠错语句输入语法纠错模型，得到待纠错语句的正确语句。
基于粒度语法错误模板学习微调语法纠错方法系统

[发明专利]基于模糊对象语言概念格的个性化推荐方法-CN202010376058.1有效
发明人：刘新;庞阔;邹丽 -专利权人：辽宁师范大学
申请日： 2020-05-07 - 公布日： 2023-06-16 - 主分类号： G06F16/2457 文献下载
摘要：本发明公开了一种可解决推荐解释模糊及冷启动问题且可避免信息缺失的基于模糊对象语言概念格的个性化推荐方法，按照如下步骤进行：数据处理，将收集到的训练数据集初始化成模糊对象语言形式背景；构造模糊对象语言概念及概念格；计算待推荐用户与其他用户间的评价差异；根据评价差异对训练数据集进行初步处理；构建训练数据集的认知系统；构造训练数据集的充分知识库及模糊对象语言知识拟格；构造训练数据集的必要知识库及模糊对象语言知识拟格；计算频繁模糊对象语言概念或频繁模糊对象语言知识；计算模糊对象语言关联规则；计算推荐规则库并进行推荐。
基于模糊对象语言概念个性化推荐方法

[发明专利]生成式大语言模型训练方法、基于模型的人机语音交互方法-CN202310233918.X在审
发明人：黄际洲;孙一博 -专利权人：北京百度网讯科技有限公司
申请日： 2023-03-03 - 公布日： 2023-05-16 - 主分类号： G06F16/332 文献下载
摘要：本公开提供了生成式大语言模型训练方法、基于模型的人机语音交互方法，涉及生成式模型、智能语音、人机交互等人工智能技术领域。该方法包括：基于用户输入文本与匹配的服务接口调用序列，构建第一训练集；利用第一训练集对预训练好的第一生成式大语言模型进行有监督微调训练，得到第二生成式大语言模型；基于相同用户输入文本与不同候选输出之间的用户偏好排序和预设模板集合，构建第二训练集；利用第二训练集对预训练好的第三生成式大语言模型进行有监督训练，得到奖励模型；将第二生成式大语言模型，基于奖励模型返回的得分，以强化学习方式进行训练。利用据此训练得到的生成式大语言模型可显著提升人机语音交互场景下的回复准确率和用户体验。
生成语言模型训练方法基于人机语音交互

[发明专利]生成式大语言模型训练方法以及基于模型的搜索方法-CN202310233928.3在审
发明人：黄际洲;孙一博 -专利权人：北京百度网讯科技有限公司
申请日： 2023-03-03 - 公布日： 2023-05-16 - 主分类号： G06F16/33 文献下载
摘要：本公开提供了生成式大语言模型训练方法、基于模型的搜索方法，涉及生成式模型、智能搜索等人工智能技术领域。该方法包括：基于用户查询文本与匹配的服务接口调用序列，构建第一训练集；利用第一训练集对预训练好的第一生成式大语言模型进行有监督微调训练，得到第二生成式大语言模型；基于相同用户查询文本与不同候选输出之间的用户偏好排序和预设模板集合，构建第二训练集；利用第二训练集对预训练好的第三生成式大语言模型进行有监督训练，得到奖励模型；将第二生成式大语言模型，基于奖励模型返回的得分，以强化学习方式进行训练。利用据此训练得到的生成式大语言模型可显著提升搜索场景下的搜索结果准确率和用户体验。
生成语言模型训练方法以及基于搜索

[发明专利]生成式大语言模型训练方法以及基于模型的搜索方法-CN202310233941.9在审
发明人：黄际洲;孙一博 -专利权人：北京百度网讯科技有限公司
申请日： 2023-03-03 - 公布日： 2023-06-06 - 主分类号： G06F16/33 文献下载
摘要：本公开提供了生成式大语言模型训练方法、基于模型的搜索方法，涉及生成式模型、智能搜索等人工智能技术领域。该方法包括：基于用户查询文本与匹配的包含有接口调用指令的输出结果，构建第一训练集；利用第一训练集对预训练好的第一生成式大语言模型进行有监督微调训练，得到第二生成式大语言模型；基于相同用户查询文本与不同候选输出之间的用户偏好排序和预设模板集合，构建第二训练集；利用第二训练集对预训练好的第三生成式大语言模型进行有监督训练，得到奖励模型；将第二生成式大语言模型，基于奖励模型返回的得分，以强化学习方式进行训练。利用据此训练得到的生成式大语言模型可显著提升搜索场景下的搜索结果准确率和用户体验。
生成语言模型训练方法以及基于搜索

[发明专利]生成式大语言模型训练方法、基于模型的人机语音交互方法-CN202310233922.6在审
发明人：黄际洲;孙一博 -专利权人：北京百度网讯科技有限公司
申请日： 2023-03-03 - 公布日： 2023-06-09 - 主分类号： G06F16/332 文献下载
摘要：本公开提供了生成式大语言模型训练方法、基于模型的人机语音交互方法，涉及生成式模型、智能语音、人机交互等人工智能技术领域。该方法包括：基于用户输入文本与匹配的服务接口调用序列，构建第一训练集；利用第一训练集对预训练好的第一生成式大语言模型进行有监督微调训练，得到第二生成式大语言模型；基于相同用户输入文本与不同候选输出之间的用户偏好排序和预设模板集合，构建第二训练集；利用第二训练集对预训练好的第三生成式大语言模型进行有监督训练，得到奖励模型；将第二生成式大语言模型，基于奖励模型返回的得分，以强化学习方式进行训练。利用据此训练得到的生成式大语言模型可显著提升人机语音交互场景下的回复准确率和用户体验。
生成语言模型训练方法基于人机语音交互

[发明专利]实体名称归一化系统及其方法、计算机可读介质-CN202011640532.3有效
发明人：李抒昊;亓杰星;傅洛伊;王新兵 -专利权人：上海交通大学
申请日： 2020-12-31 - 公布日： 2022-10-14 - 主分类号： G06F40/295 文献下载
摘要：本发明提供了一种实体名称归一化方法，其特征在于，包括：准备待归一化的名字记录以及相对应的标注名称记录用于训练；利用自然语言处理深度学习模型对标注名称记录组成的语料库进行字符级别的语言模型预训练；将标注名称记录按照设定的规则划分为训练集和测试集；利用训练集对预训练完成的自然语言处理深度学习模型进行微调训练；利用测试集验证预训练完成的自然语言处理深度学习模型的准确度及时间性能；将利用训练集、测试集进行微调训练、验证完成的自然语言处理深度学习模型对待归一化的实体名称进行归一化处理本发明通过预训练字符级别语言模型来提取任意名称的特征向量，从而通过训练不同名称之间的距离度量来完成名称归一化任务。
实体名称归一化系统及其方法计算机可读介质

[发明专利]数据处理方法和装置、用于数据处理的装置-CN201711464113.7有效
发明人：姜里羊;王宇光;阳家俊;施亮亮;卫林钰;陈伟 -专利权人：北京搜狗科技发展有限公司
申请日： 2017-12-28 - 公布日： 2021-10-22 - 主分类号： G10L15/02 文献下载
摘要：本发明实施例提供了一种数据处理方法和装置、用于数据处理的装置，其中的方法具体包括：获取训练语料；所述训练语料包括：不完整语句对应的第一语料；针对所述训练语料进行特征提取，所述语言模型对应的训练特征包括：所述第一语料中语言单元在完整语句中的位置、以及所述语言单元后面的标点情况；依据所述训练特征，对所述训练数据进行语言模型的训练。
数据处理方法装置用于