[发明专利]一种人机交互过程中的信息过滤方法及装置

权利要求书

1.一种人机交互过程的信息过滤方法，其特征在于，包括：

敏感词识别步骤，对获取到的多模态交互信息进行敏感词识别，从所述多模态交互信息中提取敏感词；

情感识别步骤，对所提取到的敏感词进行情感识别，得到所述多模态交互信息的情感信息；

信息过滤步骤，基于所述情感信息和敏感词对所述多模态交互信息进行敏感词过滤；

在所述情感识别步骤中，利用预设情感分类模型来对敏感词进行情感识别，包括：

确定各个敏感词的词向量；

根据各个敏感词在所述多模态交互信息中的位置信息获取各个敏感词的词序信息，根据各个敏感词的词向量和词序信息确定句向量；其中，使用词语的位置信息对每一个位置的词向量进行对数映射来构造句向量；

根据所述句向量确定所述多模态交互信息的情感倾向；

所述方法还包括：对获取到的多模态交互信息进行预处理，将多模态交互信息中所包含的不规则信息转为规则信息；其中，通过对多模态交互信息进行简繁转换、特殊字符检查、拼写检查和/或夹杂拼音检查来将多模态交互信息中所包含的不规则信息转换为规则信息。

2.如权利要求1所述的方法，其特征在于，所述方法还包括上下文过滤步骤，在所述上下文过滤步骤中：

调用本轮人机交互之前预设轮次的上下文句子依存关系；

根据本轮人机交互所接收到的多模态交互信息和上下文句子依存关系构造敏感语境；

在所述信息过滤步骤中，结合所述敏感语境对所述多模态交互信息进行敏感词过滤。

3.如权利要求1所述的方法，其特征在于，在所述敏感词识别步骤中，利用预设有限状态自动机和/或预设分词模型来对所述规则信息进行敏感词识别，从所述规则信息中提取出敏感词。

4.如权利要求1所述的方法，其特征在于，在所述信息过滤步骤中，获取所述敏感词的敏感类型，并基于所述敏感类型和情感信息对所述多模态交互信息进行敏感词过滤。

5.如权利要求1～4中任一项所述的方法，其特征在于，在所述敏感词识别步骤前，所述方法还包括：

用户类型识别步骤，对所获取到的多模态交互信息进行数据处理，得到用户特征数据，根据所述用户特征数据确定当前用户是否为儿童用户，其中，如果所述当前用户为儿童用户，则执行所述敏感词识别步骤。

6.一种人机交互过程的信息过滤装置，其特征在于，包括：

敏感词识别模块，其用于对获取到的多模态交互信息进行敏感词识别，从所述多模态交互信息中提取敏感词；

预处理模块，其用于对获取到的多模态交互信息进行预处理，将多模态交互信息中所包含的不规则信息转为规则信息；其中，通过对多模态交互信息进行简繁转换、特殊字符检查、拼写检查和/或夹杂拼音检查来将多模态交互信息中所包含的不规则信息转换为规则信息；

情感识别模块，其用于对所提取到的敏感词进行情感识别，得到所述多模态交互信息的情感信息；

所述情感识别模块配置为按照以下策略利用预设情感分类模型来对敏感词进行情感识别：

确定各个敏感词的词向量；

根据各个敏感词在所述多模态交互信息中的位置信息获取各个敏感词的词序信息，根据各个敏感词的词向量和词序信息确定句向量；其中，使用词语的位置信息对每一个位置的词向量进行对数映射来构造句向量；

根据所述句向量确定所述多模态交互信息的情感倾向；

信息过滤模块，其用于基于所述情感信息和敏感词对所述多模态交互信息进行敏感词过滤。

7.如权利要求6所述的装置，其特征在于，所述装置还包括：

上下文过滤模块，其用于调用本轮人机交互之前预设轮次的上下文句子依存关系，并结合本轮人机交互所接收到的多模态交互信息和上下文句子依存关系构造敏感语境；

所述信息过滤模块配置为结合所述敏感语境对所述多模态交互信息进行敏感词过滤。

8.如权利要求6所述的装置，其特征在于，所述敏感词识别模块配置为利用预设有限状态自动机和/或预设分词模型来对所述规则信息进行敏感词识别，从所述规则信息中提取出敏感词。