用于生成画质提升模型的方法、装置及计算机程序产品制造方法及图纸

本公开提供了用于生成画质提升模型的方法、装置、电子设备、存储介质及计算机程序产品，涉及人工智能领域，具体涉及计算机视觉和深度学习技术，可用于图像处理场景下。具体实现方案为：获取训练样本集，训练样本集中的训练样本包括样本帧图像和标签帧图像；利用机器学习方法，以样本帧图像为输入，以所输入的样本帧图像对应的标签帧图像为期望输出，训练得到去噪网络；利用机器学习方法，以样本帧图像为输入，以所输入的样本帧图像对应的标签帧图像为第一滤波图像的期望图像，训练得到增强网络，第一滤波图像由初始增强网络输出的图像经过低通滤波得到；根据去噪网络和增强网络，得到画质提升模型。本公开提高了画质提升模型的画质提升效果。画质提升效果。画质提升效果。

【技术实现步骤摘要】
用于生成画质提升模型的方法、装置及计算机程序产品


[0001]本公开涉及人工智能领域，具体涉及计算机视觉和深度学习技术，尤其涉及用于生成画质提升模型的方法、装置、电子设备、存储介质以及计算机程序产品，可用于图像处理场景下。

技术介绍

[0002]近几年，直播行业发展迅速。除了观看量和用户数飞速增长，各个细分领域也在不断渗透。由于网络带宽和存储硬件容量限制，直播视频被采集后都会经过硬件或软件编码进行压缩，这样会带来视频画质下降的问题；同时，不同的视频采集设备也会带来源视频画质参差不齐的问题。因此，提升直播视频的画质是直播行业发展的一个基本而核心的需求。

技术实现思路

[0003]本公开提供了一种用于生成画质提升模型的方法、装置、电子设备、存储介质以及计算机程序产品。
[0004]根据第一方面，提供了一种用于生成画质提升模型的方法，包括：获取训练样本集，其中，训练样本集中的训练样本包括样本帧图像和标签帧图像；利用机器学习方法，以样本帧图像为输入，以所输入的样本帧图像对应的标签帧图像为期望输出，训练得到去噪网络；利用机器学习方法，以样本帧图像为输入，以所输入的样本帧图像对应的标签帧图像为第一滤波图像的期望图像，训练得到增强网络，其中，第一滤波图像由初始增强网络输出的图像经过低通滤波得到；根据去噪网络和增强网络，得到画质提升模型。
[0005]根据第二方面，提供了一种用于提升图像画质的方法，包括：获取待处理图像；将待处理图像输入预训练的画质提升模型，得到提升画质后的画质提升图像，其中，画质提升模型通过第一方面任一实现方式训练得到。
[0006]根据第三方面，提供了一种用于生成画质提升模型的装置，包括：第一获取单元，被配置成获取训练样本集，其中，训练样本集中的训练样本包括样本帧图像和标签帧图像；第一训练单元，被配置成利用机器学习方法，以样本帧图像为输入，以所输入的样本帧图像对应的标签帧图像为期望输出，训练得到去噪网络；第二训练单元，被配置成利用机器学习方法，以样本帧图像为输入，以所输入的样本帧图像对应的标签帧图像为第一滤波图像的期望图像，训练得到增强网络，其中，第一滤波图像由初始增强网络输出的图像经过低通滤波得到；得到单元，被配置成根据去噪网络和增强网络，得到画质提升模型。
[0007]根据第四方面，提供了一种用于提升图像画质的装置，包括：第二获取单元，被配置成获取待处理图像；画质提升单元，被配置成将待处理图像输入预训练的画质提升模型，得到提升画质后的画质提升图像，其中，画质提升模型通过第一方面任一实现方式训练得到。
[0008]根据第五方面，提供了一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少
一个处理器执行，以使至少一个处理器能够执行如第一方面、第二方面任一实现方式描述的方法。
[0009]根据第六方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，计算机指令用于使计算机执行如第一方面、第二方面任一实现方式描述的方法。
[0010]根据第七方面，提供了一种计算机程序产品，包括：计算机程序，计算机程序在被处理器执行时实现如第一方面、第二方面任一实现方式描述的方法。
[0011]根据本公开的技术，基于训练样本集中的训练样本单独训练去噪模型和增强模型，解耦了画质提升问题中的去除噪声和增强高频细节信息两个重要子问题，提高了画质提升模型的画质提升效果；并且，在训练增强网络时，将初始增强网络输出的图像经过低通滤波得到第一滤波图像，第一滤波图像以所输入的样本帧图像对应的标签帧图像为期望图像，使得增强网络得到的图像中的高频细节信息多于标签帧图像中的高频细节信息，进一步提高了画质提升模型的画质提升效果。
[0012]应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
[0013]附图用于更好地理解本方案，不构成对本公开的限定。其中：
[0014]图1是根据本公开的一个实施例可以应用于其中的示例性系统架构图；
[0015]图2是根据本公开的用于生成画质提升模型的方法的一个实施例的流程图；
[0016]图3是根据本实施例的用于生成画质提升模型的方法的应用场景的示意图；
[0017]图4是根据本公开的用于生成画质提升模型的方法的又一个实施例的流程图；
[0018]图5是根据本公开的用于提升图像画质的方法的一个实施例的结构示意图；
[0019]图6是根据本公开的用于生成画质提升模型的装置的一个实施例的结构图；
[0020]图7是根据本公开的用于提升图像画质的装置的一个实施例的结构图；
[0021]图8是适于用来实现本公开实施例的计算机系统的结构示意图。
具体实施方式
[0022]以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
[0023]本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。
[0024]图1示出了可以应用本公开的用于生成画质提升模型的方法及装置、用于提升图像画质的方法及装置的示例性架构100。
[0025]如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。终端设备101、102、103之间通信连接构成拓扑网络，网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
[0026]终端设备101、102、103可以是支持网络连接从而进行数据交互和数据处理的硬件设备或软件。当终端设备101、102、103为硬件时，其可以是支持网络连接，信息获取、交互、显示、处理等功能的各种电子设备，包括但不限于车载智能设备、监控设备、智能手机、平板电脑、电子书阅读器、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中。其可以实现成例如用来提供分布式服务的多个软件或软件模块，也可以实现成单个软件或软件模块。在此不做具体限定。
[0027]服务器105可以是提供各种服务的服务器，例如接收用户通过终端设备101、102、103发送的训练请求，单独训练去噪模型和增强模型，以得到画质提升模型的后台服务器。在得到预训练的画质提升模型后，服务器还可以接收用户通过终端设备发送的待处理图像，进行画质提升，得到画质提升图像。作为示例，服务器105可以是云端服务器。
[0028]需要说本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种用于生成画质提升模型的方法，包括：获取训练样本集，其中，所述训练样本集中的训练样本包括样本帧图像和标签帧图像；利用机器学习方法，以样本帧图像为输入，以所输入的样本帧图像对应的标签帧图像为期望输出，训练得到去噪网络；利用机器学习方法，以样本帧图像为输入，以所输入的样本帧图像对应的标签帧图像为第一滤波图像的期望图像，训练得到增强网络，其中，所述第一滤波图像由初始增强网络输出的图像经过低通滤波得到；根据所述去噪网络和所述增强网络，得到所述画质提升模型。2.根据权利要求1所述的方法，其中，所述根据所述去噪网络和所述增强网络，得到所述画质提升模型，包括：利用机器学习方法，以样本帧图像为所述去噪网络的输入，将所述去噪网络输出的图像作为所述增强网络的输入，以所输入的样本帧图像对应的标签帧图像为第二滤波图像的期望图像，更新所述去噪网络和所述增强网络，其中，所述第二滤波图像由所述增强网络输出的图像经过低通滤波得到；组合更新后的所述去噪网络和所述增强网络，得到所述画质提升模型。3.根据权利要求1所述的方法，其中，所述利用机器学习方法，以样本帧图像为输入，以所输入的样本帧图像对应的标签帧图像为期望输出，训练得到去噪网络，包括：执行如下第一训练操作，直至得到所述去噪网络：以所述训练样本集中的样本帧图像为初始去噪网络的输入，以所输入的样本帧图像对应的标签帧图像为期望输出，得到去噪图像；根据所输入的样本帧图像对应的标签帧图像和所述去噪图像，得到表征所输入的样本帧图像对应的标签帧图像和所述去噪图像之间的像素级差异的第一损失，以及结构差异的第二损失；根据所述第一损失和所述第二损失，更新所述初始去噪网络。4.根据权利要求1所述的方法，其中，所述利用机器学习方法，以样本帧图像为输入，以所输入的样本帧图像对应的标签帧图像为第一滤波图像的期望图像，训练得到增强网络，包括：执行如下第二训练操作，直至得到所述增强网络：以所述训练样本集中的样本帧图像为初始增强网络的输入，得到第一输出图像；对所述第一输出图像进行低通滤波，得到第一滤波图像；根据所输入的样本帧图像对应的标签帧图像和所述第一滤波图像，得到表征所输入的样本帧图像对应的标签帧图像和所述第一滤波图像之间的像素级差异的第三损失，以及结构差异的第四损失；根据所述第三损失和所述第四损失，更新所述初始增强网络。5.根据权利要求2所述的方法，其中，所述利用机器学习方法，以样本帧图像为所述去噪网络的输入，将所述去噪网络输出的图像作为所述增强网络的输入，以所输入的样本帧图像对应的标签帧图像为第二滤波图像的期望图像，更新所述去噪网络和所述增强网络，包括：执行如下更新操作：
以所述训练样本集中的样本帧图像为所述去噪网络的输入，将所述去噪网络输出的图像作为所述增强网络的输入，得到第二输出图像；对所述第二输出图像进行低通滤波，得到第二滤波图像；根据所输入的样本帧图像对应的标签帧图像和所述第二滤波图像，得到表征所输入的样本帧图像对应的标签帧图像和所述第二滤波图像之间的像素级差异的第五损失，以及结构差异的第六损失；根据所述第五损失和所述第六损失，更新所述去噪网络和所述增强网络。6.根据权利要求1
‑
5中任一项所述的方法，其中，所述获取训练样本集，包括：从无损编码的视频中采样得到无损图像集；基于预设压缩比压缩所述视频，得到压缩视频；从所述压缩视频中采样得到压缩图像集，其中，所述压缩图像集中的压缩图像与所述无损图像集中的无损图像一一对应；将所述压缩图像集与所述无损图像集中一一对应的图像组成图像对，并筛选出峰值信噪比低于预设阈值的图像对；以筛选出的图像对中的无损图像为标签帧图像，以压缩图像为样本帧图像，得到所述训练样本集。7.一种用于提升图像画质的方法，包括：获取待处理图像；将所述待处理图像输入预训练的画质提升模型，得到提升画质后的画质提升图像，其中，所述画质提升模型通过权利要求1
‑
6中任一项训练得到。8.一种用于生成画质提升模型的装置，包括：第一获取单元，被配置成获取训练样本集，其中，所述训练样本集中的训练样本包括样本帧图像和标签帧图像；第一训练单元，被配置成利用机器学习方法，以...

【专利技术属性】
技术研发人员：袁苇航，
申请(专利权)人：北京百度网讯科技有限公司，
类型：发明
国别省市：