[发明专利]视频生成方法及装置、电子设备和存储介质有效
| 申请号: | 201810708738.1 | 申请日: | 2018-07-02 |
| 公开(公告)号: | CN108881952B | 公开(公告)日: | 2021-09-14 |
| 发明(设计)人: | 郭家明;盛律;邵婧 | 申请(专利权)人: | 上海商汤智能科技有限公司 |
| 主分类号: | H04N21/2343 | 分类号: | H04N21/2343;H04N21/4402;H04N19/172;H04N19/149;H04N19/132 |
| 代理公司: | 北京林达刘知识产权代理事务所(普通合伙) 11277 | 代理人: | 刘新宇 |
| 地址: | 200233 上海市徐*** | 国省代码: | 上海;31 |
| 权利要求书: | 查看更多 | 说明书: | 查看更多 |
| 摘要: | |||
| 搜索关键词: | 视频 生成 方法 装置 电子设备 存储 介质 | ||
1.一种视频生成方法,其特征在于,所述方法包括:
将待处理图像输入编码模型进行处理,获得所述待处理图像的编码;
对所述编码进行高斯分布采样,获得所述待处理图像的随机噪声;
将所述随机噪声和所述编码输入光流生成模型进行处理,获得所述待处理图像的后向光流,其中,所述光流生成模型包括神经网络模型,所述光流生成模型用于根据随机噪声和所述待处理图像的编码,确定所述待处理图像的后向光流;
根据所述后向光流和所述待处理图像,生成以待处理图像为首个视频帧的视频流,其中,所述视频流包括所述待处理图像与所述待处理图像的后续视频帧。
2.根据权利要求1所述的方法,其特征在于,所述编码模型的训练过程包括:
将训练视频流的第一训练图像输入初始编码模型进行处理,获得所述第一训练图像的编码,其中,所述训练视频流由第一训练图像和第一训练图像的第一后续视频帧组成,所述第一训练图像为训练视频流的首个视频帧;
对所述第一训练图像的编码进行高斯分布采样,获得所述第一训练图像的随机噪声;
将所述第一训练图像的编码和所述第一训练图像的随机噪声输入初始光流生成模型,获得训练光流;
根据训练光流和训练视频流,确定所述初始编码模型和所述初始光流生成模型的综合模型损失;
根据所述综合模型损失调整所述初始编码模型,获得调整后的编码模型;
当满足训练条件时,将调整后的编码模型作为所述编码模型。
3.根据权利要求1所述的方法,其特征在于,所述光流生成模型的训练过程包括:
将训练视频流的第一训练图像输入初始编码模型进行处理,获得所述第一训练图像的编码,其中,所述训练视频流由第一训练图像和第一训练图像的第一后续视频帧组成,所述第一训练图像为训练视频流的首个视频帧;
对所述第一训练图像的编码进行高斯分布采样,获得所述第一训练图像的随机噪声;
将所述第一训练图像的编码和所述第一训练图像的随机噪声输入初始光流生成模型,获得训练光流;
根据训练光流和训练视频流,确定所述初始编码模型和所述初始光流生成模型的综合模型损失;
根据所述综合模型损失调整所述初始光流生成模型,获得调整后的光流生成模型;
当满足训练条件时,将调整后的光流生成模型作为所述光流生成模型。
4.根据权利要求2或3所述的方法,其特征在于,对所述第一训练图像的编码进行高斯分布采样,获得所述第一训练图像的随机噪声,包括:
将所述训练视频流输入运动识别模型,获得用于高斯分布采样的均值和方差;
根据所述均值和方差,对所述第一训练图像的编码进行高斯分布采样,获得所述第一训练图像的随机噪声。
5.根据权利要求2或3所述的方法,其特征在于,所述训练光流包括前向训练光流和后向训练光流,
其中,根据训练光流和训练视频流,确定所述初始编码模型和所述初始光流生成模型的综合模型损失,包括:
根据后向训练光流和所述第一训练图像,生成第二后续视频帧;
根据前向训练光流和第一后续视频帧,生成所述第一后续视频帧的第二训练图像,其中,所述第二训练图像是所述第一后续视频帧之前的视频帧;
根据所述训练光流、第一训练图像、第二训练图像、第一后续视频帧和第二后续视频帧,确定所述初始编码模型和所述初始光流生成模型的综合模型损失。
6.根据权利要求5所述的方法,其特征在于,根据前向训练光流和第一后续视频帧,生成所述第一后续视频帧的第二训练图像,包括:
根据各第一后续视频帧以及分别与各第一后续视频帧对应的前向训练光流,分别生成与各第一后续视频帧对应的初始第二训练图像;
将各初始第二训练图像中的像素点的位置向量进行双线性插值,获得所述第二训练图像。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海商汤智能科技有限公司,未经上海商汤智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810708738.1/1.html,转载请声明来源钻瓜专利网。





