[发明专利]中文口语语义理解方法及系统

权利要求书

1.一种中文口语语义理解方法，包括：

获取泛化的无标注文本序列训练集，依次对所述训练集进行正向预测、反向预测，分别训练字级别的双向语言模型以及词级别的双向语言模型，以降低中文口语语义理解任务对于标注数据的需求；

接收用户输入的口语语音音频，对所述语音音频进行序列分词，得到所述语音音频的字序列以及词序列；

分别使用训练后的字级别的双向语言模型以及训练后的词级别的双向语言模型对所述字序列以及词序列进行解码，获得字级别的隐层向量以及词级别的隐层向量；

对所述字级别的隐层向量和所述词级别的隐层向量进行向量对齐，得到口语语音音频的隐层向量；

将所述口语语音音频的隐层向量输入至语义理解模型，确定所述口语语音音频的语义；

其中，所述对所述字级别的隐层向量和所述词级别的隐层向量进行向量对齐包括：通过分词定律，将所述词级别的隐层向量进行复制，使得所述词级别的隐层向量的个数和所述字级别的隐层向量一样多；将分词后的两个向量进行序列对齐，将对齐后的两个向量一一拼接，确定语义理解模型输入的口语语音音频的隐层向量。

2.根据权利要求1所述的方法，其中，所述将所述口语语音音频的隐层向量输入至语义理解模型包括：

基于所述语音音频的隐层向量对应的特征序列进行领域分类；

分别预测所述语音音频中每个字对应隐向量的语义槽类别；

根据所述领域分类以及所述语义槽类别确定所述语音音频的语义。

3.根据权利要求1所述的方法，其中，所述依次对所述训练集进行正向预测、反向预测，分别训练字级别的双向语言模型以及词级别的双向语言模型包括：

采用单向长短时记忆网络模型依次对所述训练集进行正向预测、反向预测。

4.根据权利要求1所述的方法，其中，所述依次对所述训练集进行正向预测、反向预测，分别训练字级别的双向语言模型以及词级别的双向语言模型还包括：

采用基于转换器的双向语言编码模型依次对所述训练集进行正向预测、反向预测。

5.一种中文口语语义理解系统，包括：

双向语言模型训练程序模块，用于获取泛化的无标注文本序列训练集，依次对所述训练集进行正向预测、反向预测，分别训练字级别的双向语言模型以及词级别的双向语言模型，以降低中文口语语义理解任务对于标注数据的需求；

序列确定程序模块，用于接收用户输入的口语语音音频，对所述语音音频进行序列分词，得到所述语音音频的字序列以及词序列；

隐层向量确定程序模块，用于分别训练后的使用字级别的双向语言模型以及训练后的词级别的双向语言模型对所述字序列以及词序列进行解码，获得字级别的隐层向量以及词级别的隐层向量；

向量对齐程序模块，用于对所述字级别的隐层向量和所述词级别的隐层向量进行向量对齐，得到语义理解模型输入的口语语音音频的隐层向量；

语义理解程序模块，用于将所述口语语音音频的隐层向量输入至语义理解模型，确定所述口语语音音频的语义；

其中，所述向量对齐程序模块用于：通过分词定律，将所述词级别的隐层向量进行复制，使得所述词级别的隐层向量的个数和所述字级别的隐层向量一样多；将分词后的两个向量进行序列对齐，将对齐后的两个向量一一拼接，确定语义理解模型输入的口语语音音频的隐层向量。

6.根据权利要求5所述的系统，其中，所述语义理解程序模块用于：

基于所述语音音频的隐层向量对应的特征序列进行领域分类；

分别预测所述语音音频中每个字对应隐向量的语义槽类别；

根据所述领域分类以及所述语义槽类别确定所述语音音频的语义。

7.根据权利要求5所述的系统，其中，所述依次对所述训练集进行正向预测、反向预测，分别训练字级别的双向语言模型以及词级别的双向语言模型包括：

采用单向长短时记忆网络模型依次对所述训练集进行正向预测、反向预测。

8.根据权利要求5所述的系统，其中，所述依次对所述训练集进行正向预测、反向预测，分别训练字级别的双向语言模型以及词级别的双向语言模型还包括：

采用基于转换器的双向语言编码模型依次对所述训练集进行正向预测、反向预测。