[发明专利]聊天数据的审核方法、装置及计算机设备

权利要求书

1.一种聊天数据的审核方法，其特征在于，包括：

获取待审核的聊天数据，并提取所述聊天数据的数据类型；

依据与所述数据类型匹配的信息审核规则审核所述聊天数据，确定第一审核结果，具体包括：

若所述数据类型为文本类型和/或语音类型，则利用第一审核规则审核所述聊天数据，获取得到第一审核结果；

利用第一审核规则审核所述聊天数据，获取得到第一审核结果，具体包括：

将所述聊天数据转换为标准文本；

基于分词技术将所述标准文本切分为包含各个第一字符的第一字符序列；

在所述第一字符序列中剔除与预设字符匹配的第一字符，得到包含各个第二字符的第二字符序列；

按照所述第二字符序列中的字符顺序，依次对预设数量个相邻的第二字符进行排列组合处理，获取得到各个待识别文本段；

基于正则表达式对所述待识别文本段进行违禁数据查询，以得到第一审核结果；

若所述第一审核结果为所述聊天数据中包含违禁数据，则依据所述违禁数据的违禁类别计算所述违禁数据的违禁分值，并基于所述违禁分值确定所述聊天数据的第二审核结果。

2.根据权利要求1所述的方法，其特征在于，所述基于正则表达式对所述待识别文本段进行违禁数据查询，以得到第一审核结果，具体包括：

将所述待识别文本段与预设违禁词分别进行音码匹配和形码匹配，确定音码匹配下的第一相似度以及形码匹配下的第二相似度；

根据所述音码匹配对应的第一预设权重和所述形码匹配对应的第二预设权重，计算所述第一相似度和所述第二相似度的加权求和结果；

若判定所述加权求和结果大于第一预设阈值，则将与所述加权求和结果匹配的待识别文本段标记为违禁数据，并输出所述聊天数据中包含所述违禁数据的第一审核结果。

3.根据权利要求1所述的方法，其特征在于，所述依据所述违禁数据的违禁类别计算所述违禁数据的违禁分值，并基于所述违禁分值确定所述聊天数据的第二审核结果，具体包括：

根据各个违禁类别对应的预设分值、配置权重，以及所述违禁数据在所述聊天数据中的出现频率，计算所述聊天数据的违禁分值；

基于所述违禁分值划分所述聊天数据的违禁等级；

输出所述聊天数据对应所述违禁等级的第二审核结果。

4.根据权利要求1所述的方法，其特征在于，所述方法还包括：

根据所述第一审核结果和所述第二审核结果，对所述聊天数据以及发布所述聊天数据的账号进行风险评估处理。

5.一种聊天数据的审核装置，其特征在于，包括：

获取模块，用于获取待审核的聊天数据，并提取所述聊天数据的数据类型；

第一确定模块，用于依据与所述数据类型匹配的信息审核规则审核所述聊天数据，确定第一审核结果，具体包括：

若所述数据类型为文本类型和/或语音类型，则利用第一审核规则审核所述聊天数据，获取得到第一审核结果；

利用第一审核规则审核所述聊天数据，获取得到第一审核结果，具体包括：

将所述聊天数据转换为标准文本；

基于分词技术将所述标准文本切分为包含各个第一字符的第一字符序列；

在所述第一字符序列中剔除与预设字符匹配的第一字符，得到包含各个第二字符的第二字符序列；

按照所述第二字符序列中的字符顺序，依次对预设数量个相邻的第二字符进行排列组合处理，获取得到各个待识别文本段；

基于正则表达式对所述待识别文本段进行违禁数据查询，以得到第一审核结果；

第二确定模块，用于若所述第一审核结果为所述聊天数据中包含违禁数据，则依据所述违禁数据的违禁类别计算所述违禁数据的违禁分值，并基于所述违禁分值确定所述聊天数据的第二审核结果。

6.一种非易失性可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现权利要求1至4中任一项所述的聊天数据的审核方法。

7.一种计算机设备，包括非易失性可读存储介质、处理器及存储在非易失性可读存储介质上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现权利要求1至4中任一项所述的聊天数据的审核方法。