|
钻瓜专利网为您找到相关结果 49932个,建议您 升级VIP下载更多相关专利
- [发明专利]跨语言的任务训练-CN201910447514.4在审
-
梁耀波;段楠;公明;寿林钧;姜大昕;周明
-
微软技术许可有限责任公司
-
2019-05-27
-
2020-12-15
-
G06F16/33
- 在本公开的实施例中,提出了一种跨语言的任务训练方法。在获得一种语言的训练句子之后,对训练句子中的某个词语进行掩码,然后获得与被掩码的词语相对应的另一种语言的对应词语。接下来,使用一种语言的掩码句子和另一种语言的对应词语来预训练跨语言模型。经过预训练的跨语言模型具备多语言的理解和处理能力,其可以根据特定任务再进行进一步训练。根据本公开的实施例,在一种语言存在大量训练语料而另一种语言存在较少甚至没有训练语料的情况下,可以通过跨语言训练方式来预训练跨语言模型,使得跨语言模型能够适用于另一种语言,由此实现针对各种语言的模型训练。
- 语言任务训练
|