[发明专利]一种无人值守内容审计的方法

权利要求书

1.一种无人值守内容审计的方法，包括以下步骤：

（1）前端通过人工智能模型鉴定媒体资源是否违规（图片、视频、音频、文字）

（2）将鉴定分数上传到后端；

（3）后端通过上传的分数自动将违规的内容进行替换，防止违规内容的扩散、可以定位到发布人员账号对其进行处理；

（4）运营人员可以查看违规内容进行标注、对误判可以进行反馈。

2.根据权利要求1所述的一种无人值守内容审计的方法，其特征在于：所述步骤（1）中前端通过人工智能模型鉴定媒体资源是否违规的方法包括以下步骤；

（1）将违规的资源进行分类，对数据和政策法规进行研究，根据实际情况积累了众多的分类定义和标准;

（2）收集样本数据，将大量的图片数据作为训练的数据，把训练数据做进一步的筛选；

（3）训练模型，定义数学模型y=f(x)，训练模型的目的就是为了得到f，通过前面的两步得到了标注好的图片样本集，把标注的结果定义为y*，图片为x，对样本集中所有的图片计算得到的y跟y*最接近，也就是得到使|y- y*|的值最小的f，把|y- y*|定义为损失函数，采用梯度下降法去寻找合适的f；

（4）经过前面3步运算我们得到了f，其实是n层神经网络的参数；

（5）经过不断调试和调整，得到精准的f（模型）；

（6）采用DFA算法过滤敏感词，用户每次输入都是状态的切换，如果出现敏感词，既是终态，就可以结束判断，快速定位敏感词。

3.根据权利要求1所述的一种无人值守内容审计的方法，其特征在于，所述步骤（1）中步骤（3）获取f的方法可优化包括以下步骤：

（1）选用CNN（卷积神经网络）、GoogLeNet、ResNet（残差网络）三种深度网络模型结构作为研究的基础，通过这些模型，我们就可以更加高效地把图片数据转变成了可以运算的数学模型，使我们可以更快更好地得到f；

（2）实际情况下f是一个非常复杂的函数，为了简化运算，我们把f拆分成了fn(fn-1(fn-2(f…(f2(f0))…))，每一个f可以理解为神经网络的一层，n个f就是n层，这种层层递进的关系就是算法名称中“深度”的由来，理论上可以搭建任意深度（层次）的神经网络模型，把f拆分之后，我们用倒推的办法就能得到每一层的f。

4.根据权利要求1所述的一种无人值守内容审计的方法，其特征在于，所述所述步骤（1）中步骤（4）神经网络参数包括以下重要参数：

（1）图像大小-更高质量的图像为模型提供了更多信息；

（2）图像数量-你向模型提供的数据越多，它将越精确；

（3）通道数-灰度图像具有2个通道（黑白），彩色图像通常具有3个颜色通道（红色，绿色，蓝色/ RGB），其颜色表示为[0,255]；

（4）高宽比-确保图像具有相同的高宽比和尺寸；

（5）图像缩放-一旦所有图像都经过平方处理，就可以缩放每个图像；

（6）输入数据的均值，标准差-在所有训练示例中，可以通过计算每个像素的平均值来查看“均值图像”，以获得有关图像中基础结构的信息；

（7）标准化图像输入-确保所有输入参数（在这种情况下为像素）均具有均匀的数据分布，训练网络时，这将加快融合速度，可以通过从每个像素中减去平均值，然后将结果除以标准偏差来进行数据归一化；

（8）降维-可以决定将RGB通道折叠为灰度通道；

（9）数据扩充-涉及通过扰动当前图像的类型（包括缩放和旋转）来扩充现有数据集。

5.根据权利要求1所述的一种无人值守内容审计的方法，其特征在于：所述步骤（3）违规内容进行替换的方法包括以下步骤：

（1）对检测出的违规内容位置进行标注；

（2）判断所述同一位置对应的数据中是否存在与当前待替换数据一致的待替换数据；

（3）确定当前待替换数据为对应所述同一位置的目标待替换数据，根据终端地址，从配置数据中获取对应所述目标待替换数据的目标更新数据；

（4）再次执行检测流程。