“李丕绩”申请（专利权）人搜索_中国专利权人_发明人_技术持有人_科研专家_钻瓜专利网

钻瓜专利网为您找到相关结果28个，建议您升级VIP下载更多相关专利

[发明专利]一种基于场景图生成的生成式视觉常识推理与解释方法-CN202310929311.5在审
发明人： 李丕绩;袁凡 -专利权人：南京航空航天大学
申请日： 2023-07-27 - 公布日： 2023-10-27 - 主分类号： G06F16/532 文献下载
摘要：本发明公开了一种基于场景图生成的生成式视觉常识推理与解释方法。该方法包括：在语言大模型Flan‑T5中加入单头注意力和门控融合机制以进行多模态融合；在场景图生成阶段，采用图像补丁序列与包含物体信息的提示模板，生成场景图三元组序列；在视觉常识推理和解释生成阶段，结合场景图与问题构建提示模板，并设计了基于置信度分数的场景图自动选择模块，使模型能够自动选择合适的三元组并生成回答和解释。在VCR数据集上取得了比e‑UG等模型更好的指标得分。本发明针对语言大模型模态单一的问题，结合多模态融合技巧，通过构建提示模板和基于置信度的场景图选择机制，充分发挥大模型的语义理解特性，赋予其深入理解视觉信息的能力，从而进行推理和解释。
一种基于场景生成视觉常识推理解释方法

[发明专利]一种基于可解释性联邦学习缓解Non-IID影响的方法-CN202211722746.4在审
发明人：周文杰;李丕绩;刘哲 -专利权人：南京航空航天大学
申请日： 2022-12-30 - 公布日： 2023-05-05 - 主分类号： G06N20/00 文献下载
摘要：本发明公开了一种基于可解释性联邦学习缓解Non‑IID影响的方法。本发明主要基于本地客户端更新对于聚合模型各类别学习能力的影响，引入验证集可解释机制去刻画中心服务器中验证集样本的可解释性结果，利用结构相似指标(SSIM)对各类别的可解释性结果进行评估，从而推断出数据不均衡的客户端。再对这些数据不均衡的客户端的参数进行调整，最小化不均衡客户端模型和上一轮全局聚合模型参数之间的梯度距离，通过梯度距离的收敛纠正不均衡客户端模型的参数。从而达到减弱数据不均衡所带来的负面影响。
一种基于解释性联邦学习缓解 non iid 影响方法

[发明专利]一种问题生成方法、装置、设备及存储介质-CN202010169926.9有效
发明人：高一帆;李丕绩 -专利权人：腾讯科技（深圳）有限公司
申请日： 2019-05-27 - 公布日： 2023-04-07 - 主分类号： G06F16/332 文献下载
摘要：本申请提供了一种问题生成方法、装置、设备及存储介质；所述方法包括，通过第一编码模型对参考文本对应的第一词向量、答案信息向量、和当前问答轮数对应的文本位置向量进行编码处理，得到第一语义向量序列；通过第二编码模型对历史问答文本对应的第二词向量进行编码处理，得到第二语义向量序列；通过解码模型对所述第一语义向量序列和所述第二语义向量序列进行解码处理，得到所述当前轮数对应的问题文本；输出所述问题文本。通过本申请，能够结合历史对话内容生成连贯且对话性良好的问题。
一种问题生成方法装置设备存储介质

[发明专利]基于预训练提示的故事生成方法、系统、存储介质和终端-CN202210818147.6在审
发明人：倪宣凡;李丕绩 -专利权人：南京航空航天大学
申请日： 2022-07-12 - 公布日： 2023-04-04 - 主分类号： G06F18/214 文献下载
摘要：本发明公开了一种基于预训练提示的故事生成方法，包括以下步骤：输入故事开头至第一预训练模型，所述故事开头包含多个句子，所述第一预训练模型生成对应每个句子的事件推理；根据事件的类型，填入不同的问题模板中，得到关于故事上文的问题；使用问答模型，对问题进行回答，生成答案，得到答案集合；对答案集合中的每一个答案，使用第二预训练模型计算其困惑度，并选择得分最小的答案作为故事下文。本发明针对深度神经网络模型的训练缺少数据集的问题，通过构建优质的提示模板，充分激发预训练模型的潜能，帮助模型回忆起训练时学到的知识，来较好地完成下游任务。
基于训练提示故事生成方法系统存储介质终端

[发明专利]一种基于词对齐的古汉语分词与词性标注数据扩增方法-CN202211624382.6在审
发明人：丰硕;李丕绩 -专利权人：南京航空航天大学
申请日： 2022-12-16 - 公布日： 2023-03-31 - 主分类号： G06F18/214 文献下载
摘要：本发明公开了一种基于词对齐的古汉语分词与词性标注数据扩增方法，该方法包括：首先，对平行语料库中的现代汉语进行分词和词性标注，对古汉语逐字进行拆分，并对预处理后的现代汉语和古汉语使用IBMModel4模型进行词对齐；然后，根据对齐结果对古汉语单字进行合并得到初始分词结果，并根据对齐的现代汉语的词性得到对应的古汉语词性；最后利用已有的人工标注的古汉语分词与词性标注数据和上述通过词对齐得到的古汉语数据训练得到模型，用该模型对通过词对齐得到的古汉语数据进行重新标注，得到充足且高质量的古汉语分词与词性标注数据。本发明通过词对齐的方法来扩增古汉语分词与词性标注数据，解决了带标注的古汉语分词与词性标注数据稀缺问题。
一种基于对齐古汉语分词词性标注数据扩增方法

[发明专利]一种利用无标签数据缓解后门攻击的方法-CN202211531885.9在审
发明人：刘妍;李丕绩 -专利权人：南京航空航天大学
申请日： 2022-12-01 - 公布日： 2023-03-31 - 主分类号： G06N3/094 文献下载
摘要：本发明公开了一种利用无标签数据缓解后门攻击的方法，该方法包括：获取教师模型和学生模型，使用干净的无标签数据集进行蒸馏，以此将后门模型中的干净知识提取到小模型；评估蒸馏得到模型的后门攻击成功率和分类准确率，选择后门攻击成功率显著降低但分类准确率降低较少的结果进入下一步；将蒸馏得到的模型作为教师模型，含有后门的模型作为学生模型，用干净的无标签数据集进行蒸馏，得到被修复的模型。本发明通过利用无标签数据和知识蒸馏提取后门模型中的干净知识，利用这些干净知识减少模型中的后门，不需要额外分类器以及利用无标签数据的特点更方便实际应用，能够在不大幅降低模型分类准确率的前提下达到很好的防御后门攻击的效果。
一种利用标签数据缓解后门攻击方法

[发明专利]短文本对话方法、装置、设备及存储介质-CN201911055318.9有效
发明人：李昕;李丕绩;闭玮;刘晓江 -专利权人：腾讯科技（深圳）有限公司
申请日： 2019-10-31 - 公布日： 2023-03-17 - 主分类号： G06F16/332 文献下载
摘要：本申请公开了一种短文本对话方法、装置、设备及存储介质，所述方法包括：获取查询文本；调用基于语言模型的短文本对话模型对所述查询文本进行预测，得到回复文本；所述基于语言模型的短文本对话模型中设置有混合注意力层，所述混合注意力层同时包括自注意力机制和用于监督所述查询文本的注意力机制；输出所述回复文本。本申请通过将S2S框架替换为基于语言模型的短文本对话模型，同时利用该模型中的混合注意力层对查询文本的隐层表示进行监督，使得短文本对话模型既能捕获长短距离依赖，也可以在预测时着重考虑查询文本的信息，能够生成语义上与查询文本密切相关，同时形式上较为丰富的回复文本。
文本对话方法装置设备存储介质

[发明专利]一种基于对话结构图约束的开放域对话方法-CN202211494807.6在审
发明人：殷聪驰;李丕绩 -专利权人：南京航空航天大学
申请日： 2022-11-26 - 公布日： 2023-03-14 - 主分类号： G06F40/30 文献下载
摘要：本发明公开了一种基于对话结构图约束的开放域对话方法，该方法包括：获得编码器最初的对话语句向量表示后，利用对话顺序性与相关性的特征，设计全新的对比学习损失函数进一步训练，从而获取包含充分语义的对话语句向量；对新获得的对话语句向量做聚类，得到话题层级的句子聚类；最后使用模仿学习模仿对话数据集中话题的转移，从而构建话题层级的对话结构图，即聚类之间的转移，并用其约束自回归解码器的文本生成。本发明通过使用对比学习充分提取句意信息，利用模仿学习得到了对话结构图并用其预测下一轮对话话题，很好的约束了生成对话与话题的相关性，提升了整体对话的流畅性。
一种基于对话结构图约束开放方法

[发明专利]一种信息生成方法、装置、设备及存储介质-CN202010203667.7有效
发明人：李沁桐;李丕绩;刘晓江 -专利权人：腾讯科技（深圳）有限公司
申请日： 2020-03-20 - 公布日： 2023-03-14 - 主分类号： G06F16/332 文献下载
摘要：本发明实施例提供了一种信息生成方法、装置、设备及存储介质；方法包括：获取对话过程中的语句，得到对话历史；并利用外部知识信息，对对话历史的每个对话语句进行信息扩展，得到对话语句扩展信息；对对话语句扩展信息进行特征构造，得到对话语句扩展特征，从而得到与对话历史对应的至少一个对话语句扩展特征；对至少一个对话语句扩展特征进行语义编码，得到对话历史语义信息；对至少一个对话语句扩展特征进行情绪预测，得到待表达情绪信息；利用至少一个对话语句扩展特征，对对话历史语义信息和待表达情绪信息进行组合解码，生成共情回复信息；共情回复信息为对话过程中对话历史的回复信息。通过本发明实施例，能够提升共情对话生成效果。
一种信息生成方法装置设备存储介质

[发明专利]一种评估知识蒸馏对模型后门攻击影响的方法及装置-CN202210897985.7在审
发明人：刘妍;李丕绩;刘哲 -专利权人：南京航空航天大学
申请日： 2022-07-28 - 公布日： 2022-12-20 - 主分类号： G06F16/35 文献下载
摘要：本发明公开了一种评估知识蒸馏对文本后门攻击影响的方法及装置，该方法包括：选择一种后门攻击方法对预训练语言模型进行攻击，给模型植入后门，评估后门模型的分类准确率和后门攻击的成功率；选择一种知识蒸馏方法对含有后门的模型进行蒸馏，蒸馏后得到小模型，评估小模型的分类准确率和与第一步相同后门攻击方法的攻击成功率。本发明对比了不同训练集、不同蒸馏次数、蒸馏温度和蒸馏损失函数对后门攻击的影响，发现知识蒸馏可以大大减少但是无法完全消除模型中的后门，同时模型的干净分类精度有所下降。
一种评估知识蒸馏模型后门攻击影响方法装置

[发明专利]一种基于预训练生成模型的层次文本分类方法-CN202210849541.6在审
发明人：严景松;李丕绩 -专利权人：南京航空航天大学
申请日： 2022-07-19 - 公布日： 2022-12-02 - 主分类号： G06F16/35 文献下载
摘要：本发明公开了一种基于预训练生成模型的层次文本分类方法，目的是解决现有的层次文本分类方法标签不一致性的问题、需要人工设置阈值问题和无法有效学习到目标标签之间的共现关系的问题。本发明将层次文本分类问题转化为层次标签的序列生成问题，通过构造融入层次信息的标签序列，使模型能够学习到标签之间的层次信息和共现关系，从而解决标签的不一致性问题。而且该方法标签的生成过程采用自回归的方式，因此在预测标签的过程中，无须人为设置阈值。实验表明，本发明相比与层次文本分类的其它方法，分类性能更优。
一种基于训练生成模型层次文本分类方法

[发明专利]一种融合无监督学习和自监督学习的中文拼写纠错方法-CN202210839984.7在审
发明人： 李丕绩;王曦 -专利权人：南京航空航天大学
申请日： 2022-07-18 - 公布日： 2022-11-18 - 主分类号： G06F40/279 文献下载
摘要：本发明公开了一种融合无监督学习和自监督学习的中文拼写纠错方法，首先，利用混淆集对模型进行预训练，在预训练时不再替换为随机的字，而是替换为混淆集中的字使模型学到字音和字形相关信息；在训练时利用无监督学习和自监督学习对中文拼写错误进行检测和纠正，并利用混淆集进行候选字的选取；最后在中文拼写纠错领域的测试集上测试模型在字级层面和句级层面的纠错性能。本发明融合无监督学习和自监督学习提高模型中文拼写纠错性能的方法所训练的模型能够使模型更好的学习到字音和字形信息，使得模型在中文拼写纠错领域的性能得到提高。
一种融合监督学习中文拼写纠错方法

[发明专利]一种基于prompt模板的梯度搜索攻击方法-CN202210848456.8在审
发明人：史云迪;李丕绩;刘哲 -专利权人：南京航空航天大学
申请日： 2022-07-19 - 公布日： 2022-11-18 - 主分类号： G06F40/284 文献下载
摘要：本发明公开了一种基于prompt模板的梯度搜索攻击方法，具体步骤为：自动寻找标签映射词汇：通过自动标签选择方法，生成标签对应词集；构建候选词集：通过基于梯度的搜索方法，在生成的标签对应词集中寻找最可能导致模型预测错误的100个词构成候选词集；构建模板：选出候选词集中的一个或多个词汇，构造token序列，选出使模型准确率下降最多的序列作为最终模板。实验表明，三种恶意模板构建方法可以有效降低预训练模型在数据集上的预测准确率，这意味着可以达到攻击目的。
一种基于 prompt 模板梯度搜索攻击方法

[发明专利]一种融合多类型知识库和推理技术的文本生成算法-CN202210857061.4在审
发明人： 李丕绩;高璇 -专利权人：南京航空航天大学
申请日： 2022-07-20 - 公布日： 2022-11-18 - 主分类号： G06K9/62 文献下载
摘要：本发明公开了融合多类型知识库和推理技术的文本生成算法：训练COMET来生成推理的常识知识以及事件；提取对话生成数据集中对话文本的事件集合与关键词集合；将事件集合与关键词集合分别作为COMET模型的输入输出相应的常识知识与推理知识；对预训练模型GPT‑2进行微调，应用于下游任务；将对话文本与提取出的事件集合与关键词集合的内部知识，或COMET生成的外部知识作为GPT‑2编码器的输入，并结合注意力机制生成输出文本。本发明通过结合生成式常识模型与预训练模型，完成了两种不同类型知识库的融合和知识推理的过程，为对话生成引入了简洁清晰的内部知识和丰富多样的外部知识，有助于GPT‑2生成更连贯和多样的回复。
一种融合类型知识库推理技术文本生成算法

[发明专利]基于文本的虚拟形象行为控制方法、设备和介质-CN201910898521.6有效
发明人：解静;李丕绩;段弘 -专利权人：腾讯科技（深圳）有限公司
申请日： 2019-09-23 - 公布日： 2022-09-27 - 主分类号： G06T13/40 文献下载
摘要：公开了基于文本的虚拟形象行为控制方法、设备和介质。所述方法包括：在文本中插入特定符号，并产生与所述特定符号和文本中的各个元素对应的多个输入向量；将所述多个输入向量分别输入至第一编码网络，其中所述第一编码网络包括至少一层网络节点，并且基于与所述特定符号对应的网络节点的注意力向量，确定所述文本中的行为触发位置，其中，所述注意力向量中的每一个元素分别指示从与所述特定符号对应的网络节点到与该网络节点同一层中的每一个网络节点的注意力权重；基于所述文本，确定行为内容；以及播放与所述文本对应的音频，并且当播放到所述行为触发位置时，控制所述虚拟形象呈现所述行为内容。
基于文本虚拟形象行为控制方法设备介质

1
2
下一页»
尾页
共 28 条