[go: up one dir, main page]

CN102881000A - 一种视频图像的超分辨率方法、装置和设备 - Google Patents

一种视频图像的超分辨率方法、装置和设备 Download PDF

Info

Publication number
CN102881000A
CN102881000A CN2012103301995A CN201210330199A CN102881000A CN 102881000 A CN102881000 A CN 102881000A CN 2012103301995 A CN2012103301995 A CN 2012103301995A CN 201210330199 A CN201210330199 A CN 201210330199A CN 102881000 A CN102881000 A CN 102881000A
Authority
CN
China
Prior art keywords
video image
resolution
resolution video
super
edge information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2012103301995A
Other languages
English (en)
Other versions
CN102881000B (zh
Inventor
郑成林
陈海
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Priority to CN201210330199.5A priority Critical patent/CN102881000B/zh
Publication of CN102881000A publication Critical patent/CN102881000A/zh
Priority to US14/016,705 priority patent/US9076234B2/en
Application granted granted Critical
Publication of CN102881000B publication Critical patent/CN102881000B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Television Systems (AREA)
  • Editing Of Facsimile Originals (AREA)

Abstract

本发明公开了一种视频图像的超分辨率方法和设备,属于视频图像领域。方法包括:对原始低分辨率视频图像进行整数倍的基于模糊运动估计的超分辨率处理,得到中间高分辨率视频图像;当中间高分辨率视频图像的分辨率与目标高分辨率视频图像的分辨率不同时,计算目标高分辨率视频图像与中间高分辨率视频图像之间的分辨率的非整数倍;对中间高分辨率视频图像进行非整数倍的基于插值的超分辨率处理,得到目标高分辨率视频图像。本发明通过对原始低分辨率视频图像分别进行基于模糊运动估计和基于插值的超分辨率处理,解决了非整数倍的超分辨率处理效果不好和容易产生模糊和锯齿边缘的问题。

Description

一种视频图像的超分辨率方法、装置和设备
技术领域
本发明涉及视频图像领域,特别涉及一种视频图像的超分辨率方法、装置和设备。
背景技术
视频图像的超分辨率,是指利用低分辨率视频图像,通过相应的处理,得到高分辨率视频图像的技术。超分辨率技术应用的场景十分广泛,在高清电视、移动通信、图像和视频压缩技术、社会安全、视频监控、图形渲染、图像修复、生物认证、卫星和天文图像等领域都有着重要的应用价值和市场前景,因此对于视频图像实现超分辨率的方法也就尤为重要。
目前,视频图像的超分辨率的方法主要有:一种是基于插值的超分辨率方法,该方法一般是利用低分辨率视频图像中的已知点,通过一定的函数关系插值出高分辨率视频图像中的未知点,从而得到高分辨率的视频图像;另一种是基于模糊运动估计的超分辨率方法,该方法是利用图像无论是在空间还是时间上都存在大量冗余信息,在当前帧以及当前帧的相邻帧都能找到许多相似块,根据差异给每个相似块分配权重,然后将这些相似块映射到低分辨率视频图像中的点和所分配的权重相乘累加后得到高分辨率视频图像中的点的新值。
在实现本发明的过程中,发明人发现现有技术至少存在以下问题:
基于插值的超分辨率方法,只是基于图像像素值,对于放大倍数比较大(超过2倍)时,容易产生模糊和锯齿边缘的问题,很难达到超分辨率锐化的效果;基于模糊运动估计的超分辨率方法,将相似块映射到低分辨率视频图像中的点和权重加权累加时,需要利用高、低分辨率视频图像中点的坐标映射关系,对于非整数倍的超分辨率,低分辨率视频图像中的点不能准确映射到高分辨率视频图像中。
发明内容
为了解决现有技术的问题,本发明实施例提供了一种视频图像的超分辨率方法和设备。所述技术方案如下:
一方面,提供了一种视频图像的超分辨率方法,所述方法包括:
对原始低分辨率视频图像进行整数倍的基于模糊运动估计的超分辨率处理,得到中间高分辨率视频图像;所述整数倍为目标高分辨率视频图像的分辨率与所述原始低分辨率视频图像的分辨率之间的倍数的整数;
当所述中间高分辨率视频图像的分辨率与所述目标高分辨率视频图像的分辨率不同时,计算所述目标高分辨率视频图像与所述中间高分辨率视频图像之间的的分辨率的非整数倍;
对所述中间高分辨率视频图像进行所述非整数倍的基于插值的超分辨率处理,得到所述目标高分辨率视频图像。
具体地,所述得到中间高分辨率视频图像之后,还包括:
判断所述中间高分辨率视频图像的分辨率与所述目标高分辨率视频图像的分辨率是否相同;
当所述中间高分辨率视频图像的分辨率与所述目标高分辨率视频图像的分辨率相同时,则将所述中间高分辨率视频图像作为所述目标高分辨率视频图像。
具体地,所述得到所述目标高分辨率视频图像之后,还包括:
提取边缘信息的高分辨率视频图像;
将所述边缘信息的高分辨率视频图像通过增益控制之后,与所述目标高分辨率视频图像相加,得到增强的目标高分辨率视频图像。
具体地,所述将所述中间高分辨率视频图像作为所述目标高分辨率视频图像之后,还包括:
提取边缘信息的高分辨率视频图像;
将所述边缘信息的高分辨率视频图像通过增益控制之后,与所述中间高分辨率视频图像相加,得到增强的目标高分辨率视频图像。
进一步地,所述提取边缘信息的高分辨率视频图像,具体包括:
提取所述原始低分辨率视频图像的边缘信息;
对所述边缘信息进行放大,得到所述边缘信息的高分辨率视频图像。
另一方面,提供了一种视频图像的超分辨率装置,所述装置包括:
第一处理模块,用于对原始低分辨率视频图像进行整数倍的基于模糊运动估计的超分辨率处理,得到中间高分辨率视频图像;所述整数倍为目标高分辨率视频图像的分辨率与所述原始低分辨率视频图像的分辨率之间的倍数的整数;
计算模块,用于当所述中间高分辨率视频图像的分辨率与所述目标高分辨率视频图像的分辨率不同时,计算所述目标高分辨率视频图像与所述中间高分辨率视频图像之间的的分辨率的非整数倍;
第二处理模块,用于对所述中间高分辨率视频图像进行所述非整数倍的基于插值的超分辨率处理,得到所述目标高分辨率视频图像。
具体地,所述装置还包括:
判断模块,用于判断所述中间高分辨率视频图像的分辨率与所述目标高分辨率视频图像的分辨率是否相同;
确定模块,用于在所述判断模块判断所述中间高分辨率视频图像的分辨率与所述目标高分辨率视频图像的分辨率相同时,则将所述中间高分辨率视频图像作为所述目标高分辨率视频图像。
具体地,所述装置还包括:
提取模块,用于提取边缘信息的高分辨率视频图像;
第一增强模块,用于将所述提取模块提取的边缘信息的高分辨率视频图像通过增益控制之后,与所述目标高分辨率视频图像相加,得到增强的目标高分辨率视频图像。
具体地,所述装置还包括:
提取模块,用于提取边缘信息的高分辨率视频图像;
第二增强模块,用于将所述提取模块提取的边缘信息的高分辨率视频图像通过增益控制之后,与所述中间高分辨率视频图像相加,得到增强的目标高分辨率视频图像。
进一步地,所述提取模块,具体用于提取所述原始低分辨率视频图像的边缘信息;对所述边缘信息进行放大,得到所述边缘信息的高分辨率视频图像。
本发明实施例提供的技术方案带来的有益效果是:
通过对原始低分辨率视频图像首先进行基于模糊运动估计的整数倍的超分辨率处理,然后再进行基于插值的非整数倍的超分辨率处理,得到目标高分辨率视频图像,既解决了一般的基于模糊运动估计的超分辨率方法对于非整数倍的超分辨率处理效果不好的问题,同时解决了基于插值的超分辨率方法的容易产生模糊和锯齿边缘的问题。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例一提供的视频图像的超分辨率方法流程图;
图2是本发明实施例二提供的视频图像的超分辨率方法流程图;
图3是本发明实施例三提供的视频图像的超分辨率设备结构示意图;
图4是本发明实施例三提供的视频图像的超分辨率设备另一种结构示意图;
图5是本发明实施例三提供的视频图像的超分辨率设备第三种结构示意图;
图6是本发明实施例三提供的视频图像的超分辨率设备第四种结构示意图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明实施方式作进一步地详细描述。
实施例一
本发明实施例提供了一种视频图像的超分辨率方法,参见图1,该方法包括:
101、对原始低分辨率视频图像进行整数倍的基于模糊运动估计的超分辨率处理,得到中间高分辨率视频图像;整数倍为目标高分辨率视频图像的分辨率与原始低分辨率视频图像的分辨率之间的倍数的整数;
102、当中间高分辨率视频图像的分辨率与目标高分辨率视频图像的分辨率不同时,计算目标高分辨率视频图像与中间高分辨率视频图像之间的的分辨率的非整数倍;
103、对中间高分辨率视频图像进行非整数倍的基于插值的超分辨率处理,得到目标高分辨率视频图像。
具体地,得到中间高分辨率视频图像之后,还包括:
判断中间高分辨率视频图像的分辨率与目标高分辨率视频图像的分辨率是否相同;
当中间高分辨率视频图像的分辨率与目标高分辨率视频图像的分辨率相同时,则将中间高分辨率视频图像作为目标高分辨率视频图像。
具体地,得到目标高分辨率视频图像之后,还包括:
提取边缘信息的高分辨率视频图像;
将边缘信息的高分辨率视频图像通过增益控制之后,与目标高分辨率视频图像相加,得到增强的目标高分辨率视频图像。
具体地,将中间高分辨率视频图像作为目标高分辨率视频图像之后,还包括:
提取边缘信息的高分辨率视频图像;
将边缘信息的高分辨率视频图像通过增益控制之后,与中间高分辨率视频图像相加,得到增强的目标高分辨率视频图像。
进一步地,提取边缘信息的高分辨率视频图像,具体包括:
提取原始低分辨率视频图像的边缘信息;
对边缘信息进行放大,得到边缘信息的高分辨率视频图像。
综上所述,本发明实施例通过对原始低分辨率视频图像首先进行基于模糊运动估计的整数倍的超分辨率处理,然后再进行基于插值的非整数倍的超分辨率处理,得到目标高分辨率视频图像,既解决了一般的基于模糊运动估计的超分辨率方法对于非整数倍的超分辨率处理效果不好的问题,同时解决了基于插值的超分辨率方法的容易产生模糊和锯齿边缘的问题。
实施例二
本发明实施例提供了一种视频图像的超分辨率方法,参见图2,该方法包括:
201、获取输入的原始低分辨率视频图像,计算目标高分辨率视频图像与原始低分辨率视频图像之间的倍数,获取倍数的整数;
具体地,目标高分辨率视频图像与原始低分辨率视频图像之间的倍数确定为:宽、高的放大倍数均为原始低分辨率视频图像到目标高分辨率视频图像宽高所需放大倍数;而宽、高的放大倍数的整数,均为原始低分辨率视频图像到目标高分辨率视频图像宽高所需放大倍数的整数部分。例如,要将标清视频格式(720×480)超分辨率到高清视频格式(1920×1080),由于1920/720=2.67,1080/480=2.25,所以宽高的放大倍数分别2.67倍和2.25倍,而宽高的放大倍数的整数分别为2和2。
202、获取输入的原始低分辨率视频图像之后,提取原始低分辨率视频图像的边缘信息,对边缘信息进行放大,得到边缘信息的高分辨率视频图像;
具体地,可以利用LOG算子提取边缘信息,对提取的原始低分辨率视频图像的边缘信息进行放大可以采用双立方差值以及多相位插值的方法,也可以采用其他任一放大方法,最后得到的边缘信息的高分辨率视频图像的分辨率与目标高分辨率视频图像相同;
需要说明的是,由于该步骤在获取输入的原始低分辨率视频图像后进行,并且是单独的执行步骤,所以该步骤可以在步骤201的计算目标高分辨率视频图像与原始低分辨率视频图像之间的倍数之前进行,也可以在步骤207之前的任一步骤之后进行,本发明实施例不做限制。
203、对原始低分辨率视频图像进行基于模糊运动估计的超分辨率处理,得到中间高分辨率视频图像;中间高分辨率视频图像的分辨率是原始低分辨率视频图像的分辨率的整数倍;整数倍为目标高分辨率视频图像的分辨率与原始低分辨率视频图像的分辨率之间的倍数的整数;
具体地,在某个时刻的当前帧图像中的某一个参考块,在当前帧以及当前帧的相邻帧都能找到许多和参考块相似的图像块,找到这些相似块后,根据它们与参考块的相似程度给每个相似块分配一个权重,然后将这些相似块和权重加权后取代当前参考块,模糊运动估计相当于将找到的所有相似块都参与运算,而精确运动估计是是要找出最准确的块。
具体地,首先对输入的原始低分辨率视频图像通过一般的插值放大整数倍得到初始的高分辨率视频图像;然后,在初始的高分辨率视频图像对于当前目标点,选取一个目标区域(通常选取一个矩形区域)和限定一个搜索区域,然后在搜索区域中选取至少一个比较区域;再次,将目标区域和比较区域比较,得到它们的差别(也可以是欧式距离),并根据得到的差别依据一定的关系給各个比较区域赋予一个权重;最后,将各个比较区域的权重与比较区域映射到原始低分辨率视频图像中的点相乘累加归一化,得到中间高分辨率视频图像中当前点的新值。
本发明实施例可以具体采用模糊运动估计中的基于NLM(Non-local Means,非局部均值)的超分辨率方法对原始低分辨率视频图像进行整数倍的基于模糊运动估计的超分辨率处理:
NLM的原理是基于图像中存在大量冗余,即图像内容在它的邻域内会有许多相同以及相似的内容。因此,NLM方法根据邻域内的点与当前待处理的点的相似性给邻域内的点安排权重,然后将这些点加权平均后来代替当前待处理的点的值,它的数学描述如下式:
X ^ [ k , l ] = Σ ( i , j ) ∈ N ( k , l ) w [ k , l , i , j ] y [ i , j ] Σ ( i , j ) ∈ N ( k , l ) w [ k , l , i , j ]
其中,N(k,l)代表当前像素点(k,l)的邻域,w[k,l,i,j]是邻域内(i,j)像素点想对于当前像素点(k,l)的权重,输入像素点为y[k,l],输出像素点为X[k,l]。
其中权重w的计算是以两个块之间的欧氏距离(Euclidean distance)来分配权重的,具体方法如下式:
w [ k , l , i , j ] = exp { - | | R ^ k , l y - R ^ i , j y | | 2 2 2 δ 2 }
式中,
Figure BDA00002114771700073
表示输入图像中以像素点[k,l]为中心的一个图像块,
Figure BDA00002114771700074
表示以输入图像中[k,l]点的邻域内的点[i,j]为中心的一个图像块,
Figure BDA00002114771700075
表示这两个块之间的欧氏距离,δ是一个控制参数。
基于NLM的超分辨率方法计算差别时利用上式中两个块之间的欧氏距离。
204、判断中间高分辨率视频图像的分辨率与目标高分辨率视频图像的分辨率是否相同;
具体地,判断步骤203中得到的视频图像的分辨率与目标高分辨率视频图像的分辨率是否相同,例如,要将标清视频格式(720×480)超分辨率到高清视频格式(1920×1080),步骤203中放大整数倍分别为2倍、2倍,这样得到的图像大小为1440×960,它与目标高分辨率视频图像大小1920×1080不相同,就需要执行步骤205;
当中间高分辨率视频图像的分辨率与目标高分辨率视频图像的分辨率相同时,则将中间高分辨率视频图像作为目标高分辨率视频图像;假如上例中最终需要得到的目标高分辨率视频图像大小为1440×960,那么步骤203中得到的视频图像的分辨率和目标高分辨率视频图像的分辨率相同,就不需要执行步骤205。
205、当中间高分辨率视频图像的分辨率与目标高分辨率视频图像的分辨率不同时,计算目标高分辨率视频图像与中间高分辨率视频图像之间的的分辨率的非整数倍;
具体地,当目标高分辨率视频图像的分辨率与中间高分辨率视频图像的分辨率不同时,将计算目标高分辨率视频图像与步骤203得到的中间高分辨率视频图像之间的非整数倍,此处放大倍数小于2;例如,将标清视频格式(720×480)超分辨率到高清视频格式(1920×1080),由于在步骤203中已经将原始带分辨率的图像(720×480)放大2倍后,得到1440×960的中间高分辨率视频图像,再将1440×960的中间高分辨率视频图像放大到1920×1080的目标高分辨率视频图像,此时由1440×960到1920×1080的放大倍数分别为:宽1920/1440=1.33倍,高1080/960=1.125倍。
206、对中间高分辨率视频图像进行非整数倍的基于插值的超分辨率处理,得到目标高分辨率视频图像。
具体地,基于插值的超分辨率方法是目前超分辨率研究中最直观的方法,这类方法一般是利用低分辨率视频图像中的已知点,通过一定的函数关系插值出高分辨率视频图像中的未知点。图像插值的一般数学表达式如下式所示,其中g(i,j)为缩放图像中待插值点的像素值,f(k,l)为原始图像中坐标(k,l)处的像素值,h(i-k,j-l)为插值基函数。
g ( i , j ) = Σ k Σ l f ( k , l ) h ( i - k , j - l )
插值基函数的选择可以有很多种,通常有二维的矩形函数、线性函数、三次函数以及sinc函数等,分别对应于最邻近插值、线性插值、三次(立方)插值、理想插值(实际利用sinc的截断函数)等;在实际处理中,通常利用滤波器来实现插值;对于二维图像,由于这些插值函数的对称性以及二维图像一般行列可分离,通常可以将其分为水平和垂直两个方向分别进行,则其分别对应于双线性插值、双三次插值、多相位插值等。对于基于插值的超分辨率技术,在插值算法之后,一般还要采用图像恢复技术来去除模糊和降低噪声。
本发明实施例中的插值算法可以采用双立方差值以及多相位插值的方法,这两种插值方法对于放大倍数小于2倍时效果较好。
207、将步骤202得到的边缘信息的高分辨率视频图像通过增益控制之后,与目标高分辨率视频图像相加,得到增强的目标高分辨率视频图像。
具体地,对步骤202得到的边缘信息的高分辨率视频图像进行增益控制,是由于不同用户或者不同的设备对高分辨率的视频图的边缘锐化效果要求不同,所以需要根据实际情况进行增益控制。
将增益控制后的边缘信息的高分辨率视频图像与目标高分辨率视频图像相加,得到增强的目标高分辨率视频图像,这里的目标高分辨率视频图像可以是步骤206的得到的目标高分辨率视频图像,也可以是步骤204判断的中间高分辨率视频图像的分辨率与目标高分辨率视频图像的分辨率相同时的中间高分辨率视频图像。
综上所述,本发明实施例通过对原始低分辨率视频图像首先进行基于模糊运动估计的整数倍的超分辨率处理,然后再进行基于插值的非整数倍的超分辨率处理,得到目标高分辨率视频图像,既解决了一般的基于模糊运动估计的超分辨率方法对于非整数倍的超分辨率处理效果不好的问题,同时解决了基于插值的超分辨率方法的容易产生模糊和锯齿边缘的问题。
实施例三
参见图3,本发明实施例提供了一种视频图像的超分辨率装置,该装置包括:
第一处理模块301,用于对原始低分辨率视频图像进行整数倍的基于模糊运动估计的超分辨率处理,得到中间高分辨率视频图像;整数倍为目标高分辨率视频图像的分辨率与原始低分辨率视频图像的分辨率之间的倍数的整数;
计算模块302,用于当中间高分辨率视频图像的分辨率与目标高分辨率视频图像的分辨率不同时,计算目标高分辨率视频图像与中间高分辨率视频图像之间的的分辨率的非整数倍;
第二处理模块303,用于对中间高分辨率视频图像进行非整数倍的基于插值的超分辨率处理,得到目标高分辨率视频图像。
具体地,参见图4,该装置还包括:
判断模块304,用于判断中间高分辨率视频图像的分辨率与目标高分辨率视频图像的分辨率是否相同;
确定模块305,用于在判断模块304判断中间高分辨率视频图像的分辨率与目标高分辨率视频图像的分辨率相同时,则将中间高分辨率视频图像作为目标高分辨率视频图像。
具体地,参见图5,该装置还包括:
提取模块306,用于提取边缘信息的高分辨率视频图像;
第一增强模块307,用于将提取模块306提取的边缘信息的高分辨率视频图像通过增益控制之后,与目标高分辨率视频图像相加,得到增强的目标高分辨率视频图像。
具体地,参见图6,该装置还包括:
提取模块306,用于提取边缘信息的高分辨率视频图像;
第二增强模块308,用于将提取模块306提取的边缘信息的高分辨率视频图像通过增益控制之后,与中间高分辨率视频图像相加,得到增强的目标高分辨率视频图像。
进一步地,提取模块306,具体用于提取原始低分辨率视频图像的边缘信息;对边缘信息进行放大,得到边缘信息的高分辨率视频图像。
综上所述,本发明实施例通过对原始低分辨率视频图像首先进行基于模糊运动估计的整数倍的超分辨率处理,然后再进行基于插值的非整数倍的超分辨率处理,得到目标高分辨率视频图像,既解决了一般的基于模糊运动估计的超分辨率方法对于非整数倍的超分辨率处理效果不好的问题,同时解决了基于插值的超分辨率方法的容易产生模糊和锯齿边缘的问题。
实施例四
本发明实施例提供了一种视频图像的超分辨率设备,该设备包括:
处理器,用于对原始低分辨率视频图像进行整数倍的基于模糊运动估计的超分辨率处理,得到中间高分辨率视频图像;整数倍为目标高分辨率视频图像的分辨率与原始低分辨率视频图像的分辨率之间的倍数的整数;当中间高分辨率视频图像的分辨率与目标高分辨率视频图像的分辨率不同时,计算目标高分辨率视频图像与中间高分辨率视频图像之间的的分辨率的非整数倍;对中间高分辨率视频图像进行非整数倍的基于插值的超分辨率处理,得到目标高分辨率视频图像。
具体地,该处理器还用于得到中间高分辨率视频图像之后,判断中间高分辨率视频图像的分辨率与目标高分辨率视频图像的分辨率是否相同;当中间高分辨率视频图像的分辨率与目标高分辨率视频图像的分辨率相同时,则将中间高分辨率视频图像作为目标高分辨率视频图像。
具体地,该处理器还用于得到目标高分辨率视频图像之后,提取边缘信息的高分辨率视频图像;将边缘信息的高分辨率视频图像通过增益控制之后,与目标高分辨率视频图像相加,得到增强的目标高分辨率视频图像。
具体地,该处理器还用于将中间高分辨率视频图像作为目标高分辨率视频图像之后,提取边缘信息的高分辨率视频图像;将边缘信息的高分辨率视频图像通过增益控制之后,与中间高分辨率视频图像相加,得到增强的目标高分辨率视频图像。
进一步地,该处理器具体用于提取原始低分辨率视频图像的边缘信息;对边缘信息进行放大,得到边缘信息的高分辨率视频图像。
综上所述,本发明实施例通过对原始低分辨率视频图像首先进行基于模糊运动估计的整数倍的超分辨率处理,然后再进行基于插值的非整数倍的超分辨率处理,得到目标高分辨率视频图像,既解决了一般的基于模糊运动估计的超分辨率方法对于非整数倍的超分辨率处理效果不好的问题,同时解决了基于插值的超分辨率方法的容易产生模糊和锯齿边缘的问题。
需要说明的是:上述实施例提供的视频图像的超分辨率装置和设备在对视频图像进行超分辨率处理时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置和设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的视频图像的超分辨率装置和设备与视频图像的超分辨率方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (10)

1.一种视频图像的超分辨率方法,其特征在于,所述方法包括:
对原始低分辨率视频图像进行整数倍的基于模糊运动估计的超分辨率处理,得到中间高分辨率视频图像;所述整数倍为目标高分辨率视频图像的分辨率与所述原始低分辨率视频图像的分辨率之间的倍数的整数;
当所述中间高分辨率视频图像的分辨率与所述目标高分辨率视频图像的分辨率不同时,计算所述目标高分辨率视频图像与所述中间高分辨率视频图像之间的的分辨率的非整数倍;
对所述中间高分辨率视频图像进行所述非整数倍的基于插值的超分辨率处理,得到所述目标高分辨率视频图像。
2.根据权利要求1所述的方法,其特征在于,所述得到中间高分辨率视频图像之后,还包括:
判断所述中间高分辨率视频图像的分辨率与所述目标高分辨率视频图像的分辨率是否相同;
当所述中间高分辨率视频图像的分辨率与所述目标高分辨率视频图像的分辨率相同时,则将所述中间高分辨率视频图像作为所述目标高分辨率视频图像。
3.根据权利要求1所述的方法,其特征在于,所述得到所述目标高分辨率视频图像之后,还包括:
提取边缘信息的高分辨率视频图像;
将所述边缘信息的高分辨率视频图像通过增益控制之后,与所述目标高分辨率视频图像相加,得到增强的目标高分辨率视频图像。
4.根据权利要求2所述的方法,其特征在于,所述将所述中间高分辨率视频图像作为所述目标高分辨率视频图像之后,还包括:
提取边缘信息的高分辨率视频图像;
将所述边缘信息的高分辨率视频图像通过增益控制之后,与所述中间高分辨率视频图像相加,得到增强的目标高分辨率视频图像。
5.根据权利要求3或4所述的方法,其特征在于,所述提取边缘信息的高分辨率视频图像,具体包括:
提取所述原始低分辨率视频图像的边缘信息;
对所述边缘信息进行放大,得到所述边缘信息的高分辨率视频图像。
6.一种视频图像的超分辨率装置,其特征在于,所述装置包括:
第一处理模块,用于对原始低分辨率视频图像进行整数倍的基于模糊运动估计的超分辨率处理,得到中间高分辨率视频图像;所述整数倍为目标高分辨率视频图像的分辨率与所述原始低分辨率视频图像的分辨率之间的倍数的整数;
计算模块,用于当所述中间高分辨率视频图像的分辨率与所述目标高分辨率视频图像的分辨率不同时,计算所述目标高分辨率视频图像与所述中间高分辨率视频图像之间的的分辨率的非整数倍;
第二处理模块,用于对所述中间高分辨率视频图像进行所述非整数倍的基于插值的超分辨率处理,得到所述目标高分辨率视频图像。
7.根据权利要求6所述的装置,其特征在于,所述装置还包括:
判断模块,用于判断所述中间高分辨率视频图像的分辨率与所述目标高分辨率视频图像的分辨率是否相同;
确定模块,用于在所述判断模块判断所述中间高分辨率视频图像的分辨率与所述目标高分辨率视频图像的分辨率相同时,则将所述中间高分辨率视频图像作为所述目标高分辨率视频图像。
8.根据权利要求6所述的装置,其特征在于,所述装置还包括:
提取模块,用于提取边缘信息的高分辨率视频图像;
第一增强模块,用于将所述提取模块提取的边缘信息的高分辨率视频图像通过增益控制之后,与所述目标高分辨率视频图像相加,得到增强的目标高分辨率视频图像。
9.根据权利要求7所述的装置,其特征在于,所述装置还包括:
提取模块,用于提取边缘信息的高分辨率视频图像;
第二增强模块,用于将所述提取模块提取的边缘信息的高分辨率视频图像通过增益控制之后,与所述中间高分辨率视频图像相加,得到增强的目标高分辨率视频图像。
10.根据权利要求8或9所述的装置,其特征在于,所述提取模块,具体用于提取所述原始低分辨率视频图像的边缘信息;对所述边缘信息进行放大,得到所述边缘信息的高分辨率视频图像。
CN201210330199.5A 2012-09-07 2012-09-07 一种视频图像的超分辨率方法、装置和设备 Active CN102881000B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201210330199.5A CN102881000B (zh) 2012-09-07 2012-09-07 一种视频图像的超分辨率方法、装置和设备
US14/016,705 US9076234B2 (en) 2012-09-07 2013-09-03 Super-resolution method and apparatus for video image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201210330199.5A CN102881000B (zh) 2012-09-07 2012-09-07 一种视频图像的超分辨率方法、装置和设备

Publications (2)

Publication Number Publication Date
CN102881000A true CN102881000A (zh) 2013-01-16
CN102881000B CN102881000B (zh) 2016-05-18

Family

ID=47482313

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201210330199.5A Active CN102881000B (zh) 2012-09-07 2012-09-07 一种视频图像的超分辨率方法、装置和设备

Country Status (2)

Country Link
US (1) US9076234B2 (zh)
CN (1) CN102881000B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104159158A (zh) * 2013-05-15 2014-11-19 中兴通讯股份有限公司 视频文件的热点播放方法和装置
CN104517273A (zh) * 2013-09-26 2015-04-15 浙江大华技术股份有限公司 一种图像超分辨率处理方法及装置
CN105205782A (zh) * 2015-09-06 2015-12-30 京东方科技集团股份有限公司 超解像方法和系统、服务器、用户设备及其方法
WO2018196470A1 (zh) * 2017-04-28 2018-11-01 华为技术有限公司 图像处理方法及装置
CN115775204A (zh) * 2022-11-28 2023-03-10 北京蔚领时代科技有限公司 一种图像超分辨率方法、装置、服务端及存储介质
US12542088B2 (en) 2022-04-26 2026-02-03 Beijing Boe Display Technology Co., Ltd. Signal processing method, display apparatus, electronic device and readable storage medium

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6108827B2 (ja) * 2012-12-28 2017-04-05 キヤノン株式会社 眼科装置および位置合わせ方法
CN103700062B (zh) * 2013-12-18 2017-06-06 华为技术有限公司 图像处理方法和装置
US9282253B2 (en) * 2014-02-18 2016-03-08 Qualcomm Technologies, Inc. System and method for multiple-frame based super resolution interpolation for digital cameras
US11004177B2 (en) * 2014-03-13 2021-05-11 Fuji Corporation Image processing device and board production system
JP6545013B2 (ja) * 2015-06-17 2019-07-17 キヤノン株式会社 画像形成方法、画像形成装置、および画像形成プログラム
US10366480B2 (en) 2016-07-01 2019-07-30 Analytical Mechanics Associates, Inc. Super-resolution systems and methods
CN107330867B (zh) * 2017-06-16 2020-02-18 Oppo广东移动通信有限公司 图像合成方法、装置、计算机可读存储介质和计算机设备
CN109218727B (zh) * 2017-06-30 2021-06-25 书法报视频媒体(湖北)有限公司 视频处理的方法和装置
CN109118431B (zh) * 2018-09-05 2022-11-15 武汉大学 一种基于多记忆及混合损失的视频超分辨率重建方法
US11107191B2 (en) 2019-02-18 2021-08-31 Samsung Electronics Co., Ltd. Apparatus and method for detail enhancement in super-resolution imaging using mobile electronic device
CN110503603B (zh) * 2019-07-18 2023-03-31 江苏大学 一种基于引导上采样获得光场重对焦图像的方法
CN111489292B (zh) * 2020-03-04 2023-04-07 北京集朗半导体科技有限公司 视频流的超分辨率重建方法及装置
CN113038055B (zh) * 2021-01-27 2023-06-23 维沃移动通信有限公司 图像处理方法、装置及电子设备
CN113038267B (zh) * 2021-03-09 2025-01-03 Oppo广东移动通信有限公司 视频处理方法及装置、计算机可读存储介质和电子设备
CN114298913B (zh) * 2022-03-11 2022-05-31 安徽云森物联网科技有限公司 一种优化加速的深度图超分辨率插值方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101247489A (zh) * 2008-03-20 2008-08-20 南京大学 一种用于数字电视细节实时重现的方法
WO2010105408A1 (zh) * 2009-03-17 2010-09-23 华为技术有限公司 一种图像的缩放方法和装置
CN102150418A (zh) * 2008-12-22 2011-08-10 松下电器产业株式会社 图像放大装置、方法、集成电路及程序

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3176195B2 (ja) * 1993-10-28 2001-06-11 キヤノン株式会社 画像処理装置
US7248752B2 (en) * 2003-08-27 2007-07-24 Electronics For Imaging, Inc. Methods and apparatus for converting the resolution of binary image data
JP4732250B2 (ja) * 2006-06-14 2011-07-27 キヤノン株式会社 情報処理装置、制御方法、およびコンピュータプログラム
US8279341B1 (en) * 2007-02-26 2012-10-02 MotionDSP, Inc. Enhancing the resolution and quality of sequential digital images
US20090110285A1 (en) * 2007-10-26 2009-04-30 Technion Research And Development Foundation Ltd Apparatus and method for improving image resolution using fuzzy motion estimation
JP4569680B2 (ja) * 2008-07-14 2010-10-27 コニカミノルタビジネステクノロジーズ株式会社 解像度変換方法
US8385422B2 (en) * 2008-08-04 2013-02-26 Kabushiki Kaisha Toshiba Image processing apparatus and image processing method
JP4543116B1 (ja) * 2009-03-10 2010-09-15 株式会社東芝 画像処理装置、および画像処理方法
JP5837572B2 (ja) * 2011-03-28 2015-12-24 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 画像処理装置、画像処理方法、画像処理のためのコンピュータプログラム及び記録媒体
US8571309B2 (en) * 2011-11-15 2013-10-29 At&T Intellectual Property I, L.P. System and method of image upsampling

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101247489A (zh) * 2008-03-20 2008-08-20 南京大学 一种用于数字电视细节实时重现的方法
CN102150418A (zh) * 2008-12-22 2011-08-10 松下电器产业株式会社 图像放大装置、方法、集成电路及程序
WO2010105408A1 (zh) * 2009-03-17 2010-09-23 华为技术有限公司 一种图像的缩放方法和装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
MATAN PROTTER, ET AL.: "Generalizing the Nonlocal-Means to Super-Resolution Reconstruction", 《IEEE TRANSACTIONS ON IMAGE PROCESSING》, vol. 18, no. 1, 31 January 2009 (2009-01-31), XP080396812 *

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104159158A (zh) * 2013-05-15 2014-11-19 中兴通讯股份有限公司 视频文件的热点播放方法和装置
CN104517273A (zh) * 2013-09-26 2015-04-15 浙江大华技术股份有限公司 一种图像超分辨率处理方法及装置
CN104517273B (zh) * 2013-09-26 2017-11-21 浙江大华技术股份有限公司 一种图像超分辨率处理方法及装置
CN105205782A (zh) * 2015-09-06 2015-12-30 京东方科技集团股份有限公司 超解像方法和系统、服务器、用户设备及其方法
CN105205782B (zh) * 2015-09-06 2019-08-16 京东方科技集团股份有限公司 超解像方法和系统、服务器、用户设备及其方法
US10565684B2 (en) 2015-09-06 2020-02-18 Boe Technology Group Co., Ltd. Super-resolution method and system, server, user device and method therefor
WO2018196470A1 (zh) * 2017-04-28 2018-11-01 华为技术有限公司 图像处理方法及装置
CN108805806A (zh) * 2017-04-28 2018-11-13 华为技术有限公司 图像处理方法及装置
CN108805806B (zh) * 2017-04-28 2019-11-12 华为技术有限公司 图像处理方法及装置
US11030715B2 (en) 2017-04-28 2021-06-08 Huawei Technologies Co., Ltd. Image processing method and apparatus
US12542088B2 (en) 2022-04-26 2026-02-03 Beijing Boe Display Technology Co., Ltd. Signal processing method, display apparatus, electronic device and readable storage medium
CN115775204A (zh) * 2022-11-28 2023-03-10 北京蔚领时代科技有限公司 一种图像超分辨率方法、装置、服务端及存储介质

Also Published As

Publication number Publication date
US20140072232A1 (en) 2014-03-13
CN102881000B (zh) 2016-05-18
US9076234B2 (en) 2015-07-07

Similar Documents

Publication Publication Date Title
CN102881000B (zh) 一种视频图像的超分辨率方法、装置和设备
US10853916B2 (en) Convolution deconvolution neural network method and system
JP3915563B2 (ja) 画像処理装置および画像処理プログラム
US9202258B2 (en) Video retargeting using content-dependent scaling vectors
CN110298791B (zh) 一种车牌图像的超分辨率重建方法和装置
US20130034299A1 (en) Robust Patch Regression based on In-Place Self-similarity for Image Upscaling
JP2015225665A (ja) 画像ノイズ除去方法及び画像ノイズ除去装置
CN103985085A (zh) 图像超分辨率放大的方法和装置
CN103745439A (zh) 图像放大方法以及装置
JP2009212969A (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
WO2014114635A1 (en) Method and apparatus for performing super-resolution of single images
CN104036468A (zh) 基于预放大非负邻域嵌入的单帧图像超分辨重建方法
CN103700062A (zh) 图像处理方法和装置
Hung et al. Image interpolation using convolutional neural networks with deep recursive residual learning
CN108416734A (zh) 基于边缘驱动的文本图像超分辨率重建方法和装置
CN108876716A (zh) 超分辨率重建方法及装置
CN103685858A (zh) 视频实时处理的方法及设备
KR101262164B1 (ko) 저 해상도 깊이 맵으로부터 고 해상도 깊이 맵을 생성하는 방법 및 이를 기록한 기록매체
Liang et al. Improved non-local iterative back-projection method for image super-resolution
CN110136061B (zh) 一种基于深度卷积预测与插值的分辨率提升方法及系统
CN113592714B (zh) 图像放大方法、模块、系统
Hsin Saliency histogram equalisation and its application to image resizing
CN104410929A (zh) 字幕图像的处理方法和装置
Yoshikawa et al. Super resolution image reconstruction using total variation regularization and learning-based method
WO2011121563A1 (en) Detecting saliency in an image

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant