[发明专利]视频字幕去除方法及装置在审

专利信息
申请号: 202211304925.6 申请日: 2022-10-24
公开(公告)号: CN115633210A 公开(公告)日: 2023-01-20
发明(设计)人: 何涛 申请(专利权)人: 上海哔哩哔哩科技有限公司
主分类号: H04N21/431 分类号: H04N21/431;H04N21/4402;H04N21/466;H04N21/488
代理公司: 北京英特普罗知识产权代理有限公司 11015 代理人: 饶文彬
地址: 200433 上海市*** 国省代码: 上海;31
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 视频 字幕 去除 方法 装置
【说明书】:

本申请公开了一种视频字幕去除方法。该方法包括:从视频中获取待去除字幕的当前视频帧以及所述当前视频帧的上一帧视频帧;将所述当前视频帧与所述上一帧视频帧输入至字幕去除模型中,得到所述当前视频帧中包含的字幕位置信息、所述当前视频帧相对于所述上一帧视频帧的光流图、所述光流图对应的遮挡区域信息及修复图像,所述遮挡区域信息用于确定不能采用所述光流图对所述当前视频帧中的字幕像素点进行替换的区域;根据所述字幕位置信息、所述光流图、所述遮挡区域信息、所述修复图像、所述当前视频帧及所述上一帧视频帧对所述当前视频帧进行字幕去除处理,得到去除字幕的图像。本申请可修复包含字幕的图像。

技术领域

本申请涉及视频技术领域,尤其涉及一种视频字幕去除方法及装置。

背景技术

随着智能终端的普及,人们越来越多地在网上通过分享视频的方式进行交流。人们分享的视频在很多时候都是加了字幕或者弹幕等文字的,这些字幕或者弹幕等文字有时会影响了视频的观感。为此,我们在观看视频时,想要将视频中的了字幕或者弹幕等文字去除。

现有技术中,为了把视频中的文字去除,会通过视频补全和修复技术对文字的位置进行检测,然后对检测到的文字位置进行像素填充,然而,发明人发现,现有技术中像素填充效果较差,影响用户对视频的观看体验。

发明内容

有鉴于此,现提供一种视频字幕去除方法、装置、计算机设备及计算机可读存储介质,以解决现有技术中对字幕位置进行像素填充时,效果较差,导致用户体验较差的问题。

本申请提供了一种视频字幕去除方法,包括:

从视频中获取待去除字幕的当前视频帧以及所述当前视频帧的上一帧视频帧;

将所述当前视频帧与所述上一帧视频帧输入至字幕去除模型中,得到所述当前视频帧中包含的字幕位置信息、所述当前视频帧相对于所述上一帧视频帧的光流图、所述光流图对应的遮挡区域信息及修复图像,所述遮挡区域信息用于确定不能采用所述光流图对所述当前视频帧中的字幕像素点进行替换的区域;

根据所述字幕位置信息、所述光流图、所述遮挡区域信息、所述修复图像、所述当前视频帧及所述上一帧视频帧对所述当前视频帧进行字幕去除处理,得到去除字幕的图像。

可选地,根据所述字幕位置信息、所述光流图、所述遮挡区域信息、所述修复图像、所述当前视频帧及所述上一帧视频帧对所述当前视频帧进行字幕去除处理,得到去除字幕的图像包括:

根据字幕位置信息及所述当前视频帧确定所述当前视频帧中包含的字幕像素点;

根据所述光流图及所述上一帧视频帧对所述当前视频帧中包含的字幕像素点进行替换,得到替换后的图像;

根据所述遮挡区域信息、所述修复图像及所述替换后的图像生成所述去除字幕的图像。

可选地,所述根据所述遮挡区域信息、所述修复图像及所述替换后的图像生成所述去除字幕的图像包括:

根据所述遮挡区域信息及所述修复图像确定替换像素点;

将所述替换像素点替换所述替换后的图像中与所述替换像素点相对应的像素点,生成所可选地,所述字幕去除模型按照如下方式预先训练获得:

获取多个训练样本图像,其中,每一个训练样本图像包括第一视频帧及所述第一视频帧的上一帧视频帧;

根据多个所述训练样本图像中的第一视频帧中的字幕添加位置及第一视频帧对应的原始图像生成多个所述训练样本图像各自的训练标签;

基于多个训练样本图像及各自的训练标签对预设的神经网络模型进行训练,得到所述字幕去除模型。

可选地,每一个训练样本图像按照如下方式获得:

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海哔哩哔哩科技有限公司,未经上海哔哩哔哩科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202211304925.6/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top