[发明专利]一种基于Spark的海量视频语义标注方法

摘要

本发明提出了基于Spark的海量视频语义标注方法，其主要是以海量视频在Hadoop大数据集群环境下的弹性分布式存储为基础，采用Spark计算模式进行视频标注。该方法主要包括以下内容基于分形理论的视频分割方法及其在Spark上的实现；基于Spark的视频特征提取方法和基于元学习策略的视觉单词形成方法；基于Spark的视频标注的生成方法。本发明，相对于传统的单机计算、并行计算或分布式计算，计算速度提高百倍以上，具有标注内容信息全、错误率低等优点。

主权项

一种基于Spark的海量视频语义标注方法，其特征在于，包括以下步骤：步骤1：将海量视频部署到一组计算节点上，通过Spark集群计算视频帧时间序列的分形维度差值，实现镜头分割，获取关键帧；步骤2：在Spark集群上提取对象的检测样本的颜色矩、边缘以及纹理特征向量，进行元学习策略训练，形成视觉词典；并依据视觉词典对关键视频帧进行预测，产生能表征该关键视频帧的视觉单词；步骤3：通过Tf方法对待测视频的视觉单词进行优先排序，将筛选结果作为该视频的标注；步骤1在Spark集群上实现视频分割，划分海量视频分布至一组计算节点，利用分形方法将视频按时间序列分割为若干镜头，并提取关键帧，具体包括如下步骤：步骤1‑1：转换视频数据格式，将视频二进制数据通过Hadoop自定义输出流转换为Spark集群可读取的byte型数据，并保存到Hadoop分布式系统HDFS上；根据视频总帧数，利用并行分块函数把视频切分为块，一个块代表一个视频帧弹性分布式数据集RDD的数据对象parVideoRDD；调用帧处理程序，将数据对象parVideoRDD中的每一数据块都并行的分配到P个计算节点，从而实现对整个视频的帧数据并行处理；步骤1‑2：采用差分盒法，计算每一视频帧分形维度，通过时间序列的分形维度差值，求出切变镜头和渐变镜头的边界，从而将视频分割为一组镜头；在此计算过程中，通过Spark在各计算节点间的联系SparkContext实现各个计算节点间数据共享，使用映射函数map()完成分配步骤，再使用归一函数reduce()完成更新步骤；步骤1‑3：按时间序列，取每一镜头临界帧作为该镜头的关键视频帧，返回Spark主节点的结果是关键帧号和其场景描述的视频帧的RDD数据，将该视频帧的RDD数据存储为KeyFrameSce.txt文本文件，用于后续步骤调用。