“凡子威”申请（专利权）人搜索_中国专利权人_发明人_技术持有人_科研专家_钻瓜专利网

钻瓜专利网为您找到相关结果4个，建议您升级VIP下载更多相关专利

[发明专利]文本内容的特征提取方法、装置、设备、介质及程序产品-CN202211515965.5在审
发明人： 凡子威 -专利权人：腾讯科技（深圳）有限公司
申请日： 2022-11-29 - 公布日： 2023-10-27 - 主分类号： G06V30/148 文献下载
摘要：本申请公开了一种文本内容的特征提取方法、装置、设备、介质及程序产品，涉及自然语言处理领域。该方法包括：对目标文本内容进行字符分割，得到字符串序列；对字符串序列中的字符串进行特征提取，得到字符串序列对应的序列特征表示；按照预设窗口的窗口长度，对序列特征表示中的第i个特征表示进行自注意力分析，得到第i个特征表示对应的自注意力特征表示；结合序列特征表示中各特征表示分别对应的自注意力特征表示，得到目标文本内容对应的内容特征表示。缓解因全局自注意力机制导致的信息冗余以及关键位置信息补充不充分的问题，进一步提升转换模型的模型性能以及鲁棒性。
文本内容特征提取方法装置设备介质程序产品

[发明专利]一种模型处理方法、装置和用于模型处理的装置-CN202111301382.8在审
发明人： 凡子威 -专利权人：北京搜狗科技发展有限公司
申请日： 2021-11-04 - 公布日： 2022-03-08 - 主分类号： G06F30/27 文献下载
摘要：本发明实施例提供了一种模型处理方法、装置和用于模型处理的装置。所述方法包括：获取业务数据；将所述业务数据分别输入至预训练模型和初始业务模型，通过自注意力机制对所述业务数据进行处理，得到所述预训练模型的全连接层输出以及所述初始业务模型的全连接层输出；将所述预训练模型的建模单元与所述初始业务模型的建模单元进行匹配，确定所述预训练模型的建模单元中的目标字符；根据所述初始业务模型的全连接层输出、所述目标字符对应的全连接层输出，对所述预训练模型和所述初始业务模型进行知识蒸馏，得到目标业务模型。本发明实施例可以避免知识蒸馏过程中信息的丢失，提升业务模型的模型性能。
一种模型处理方法装置用于

[发明专利]一种文本纠错方法和装置-CN202111305897.5在审
发明人： 凡子威 -专利权人：北京搜狗科技发展有限公司
申请日： 2021-11-05 - 公布日： 2022-03-08 - 主分类号： G06F40/232 文献下载
摘要：本申请实施例提供了一种文本纠错方法和装置，所述方法包括：获取待纠错文本；确定所述待纠错文本中各个词语的文本特征信息；确定所述各个词语的错误概率；根据所述词语的错误概率，对所述词语设置拼音特征信息；基于纠错模型根据所述词语的文本特征信息和所述词语的拼音特征信息，对所述待纠错文本中错误的词语进行纠错，从而限定纠错模型对错误的词语的召回集，从而可以提高纠错模型的精度。
一种文本纠错方法装置

[发明专利]一种数据处理方法及装置-CN202111094328.0在审
发明人： 凡子威;占吉清;余健;王砚峰;朱运;赵昂 -专利权人：北京搜狗科技发展有限公司
申请日： 2021-09-17 - 公布日： 2021-12-17 - 主分类号： G06N20/00 文献下载
摘要：本申请公开了一种数据处理方法。可以获取业务数据，并将业务数据输入预训练模型和初始业务模型，得到预训练模型的全连接层输出以及初始业务模型的全连接层输出。所述预训练模型的建模单元为单个字符，所述初始业务模型的建模单元为分词。进一步地，可以将所述预训练模型的建模单元与所述初始业务模型的建模单元进行匹配，得到所述预训练模型的建模单元中的字符、所述字符与所述初始业务模型的各个建模单元分别匹配，而后，根据所述初始业务模型的全连接层输出、以及所述各个建模单元分别匹配的字符的全连接层输出进行知识蒸馏，得到目标业务模型。利用本方案，能够使用预训练模型对初始业务模型进行优化，得到目标业务模型，从而提升业务性能。
一种数据处理方法装置