[发明专利]一种人机交互过程中的信息过滤方法及装置

说明书

一种人机交互过程的信息过滤方法及装置，其中，该方法包括：敏感词识别步骤，对获取到的多模态交互信息进行敏感词识别，从多模态交互信息中提取敏感词；情感识别步骤，对所提取到的敏感词进行情感识别，得到多模态交互信息的情感信息；信息过滤步骤，基于情感信息和敏感词对多模态交互信息进行敏感词过滤。相较于现有的信息过滤方法所存在的由于敏感词过滤纯度不高而导致无法有效滤除敏感信息以及由于过滤过于严格而导致的将非敏感信息滤除的问题，本方法能够有效地对人机交互过程中的多模态交互信息进行过滤，其既能够保证信息过滤的纯度，也能够保证信息功率的有效性和准确性，从而提高了人机交互过程的用户体验。

技术领域

本发明涉及人机交互技术领域，具体地说，涉及一种人机交互过程中的信息过滤方法及装置。

背景技术

随着科学技术的不断发展，信息技术、计算机技术以及人工智能技术的引入，机器人的研究已经逐步走出工业领域，逐渐扩展到了医疗、保健、家庭、娱乐以及服务行业等领域。

而人们对于机器人的要求也从简单重复的机械动作提升为具有拟人问答、自主性及与其他机器人进行交互的智能机器人，人机交互也就成为决定智能机器人发展的重要因素。

然而，对于现有的人机交互过程的信息过滤方法来说，普遍存在敏感词过滤程度不高或者过滤过于严格的问题，从而严重影响了人机交互产品的用户体验。

发明内容

为解决上述问题，本发明提供了一种人机交互过程的信息过滤方法，包括：

敏感词识别步骤，对获取到的多模态交互信息进行敏感词识别，从所述多模态交互信息中提取敏感词；

情感识别步骤，对所提取到的敏感词进行情感识别，得到所述多模态交互信息的情感信息；

信息过滤步骤，基于所述情感信息和敏感词对所述多模态交互信息进行敏感词过滤。

根据本发明的一个实施例，所述方法还包括上下文过滤步骤，在所述上下文过滤步骤中：

调用本轮人机交互之前预设轮次的上下文句子依存关系；

根据本轮人机交互所接收到的多模态交互信息和上下文句子依存关系构造敏感语境；

在所述信息过滤步骤中，结合所述敏感语境对所述多模态交互信息进行敏感词过滤。

根据本发明的一个实施例，在所述情感识别步骤中，利用预设情感分类模型来对敏感词进行情感识别，包括：

确定各个敏感词的词向量；

根据各个敏感词在所述多模态交互信息中的位置信息获取各个敏感词的词序信息，根据各个敏感词的词向量和词序信息确定句向量；

根据所述句向量确定所述多模态交互信息的情感倾向。

根据本发明的一个实施例，在所述敏感词识别步骤中，利用预设有限状态自动机和/或预设分词模型来对所述规则信息进行敏感词识别，从所述规则信息中提取出敏感词。

根据本发明的一个实施例，在所述信息过滤步骤中，获取所述敏感词的敏感类型，并基于所述敏感类型和情感信息对所述多模态交互信息进行敏感词过滤。

根据本发明的一个实施例，在所述敏感词识别步骤前，所述方法还包括：

用户类型识别步骤，对所获取到的多模态交互信息进行数据处理，得到用户特征数据，根据所述用户特征数据确定当前用户是否为儿童用户，其中，如果所述当前用户为儿童用户，则执行所述敏感词识别步骤。

本发明还提供了一种人机交互过程的信息过滤装置，其包括：

敏感词识别模块，其用于对获取到的多模态交互信息进行敏感词识别，从所述多模态交互信息中提取敏感词；