CN104811680A - 图像获取装置及其图像形变校正方法 - Google Patents
图像获取装置及其图像形变校正方法 Download PDFInfo
- Publication number
- CN104811680A CN104811680A CN201410044039.3A CN201410044039A CN104811680A CN 104811680 A CN104811680 A CN 104811680A CN 201410044039 A CN201410044039 A CN 201410044039A CN 104811680 A CN104811680 A CN 104811680A
- Authority
- CN
- China
- Prior art keywords
- image
- feature point
- reference picture
- depth
- comparison value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012937 correction Methods 0.000 title claims abstract description 59
- 238000000034 method Methods 0.000 title claims abstract description 33
- 238000001514 detection method Methods 0.000 claims description 43
- 238000012545 processing Methods 0.000 claims description 16
- 230000015654 memory Effects 0.000 claims description 5
- 238000003702 image correction Methods 0.000 abstract description 12
- 238000003860 storage Methods 0.000 description 8
- 238000004422 calculation algorithm Methods 0.000 description 7
- 230000009977 dual effect Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000006073 displacement reaction Methods 0.000 description 4
- 230000004075 alteration Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000001125 extrusion Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
Landscapes
- Image Processing (AREA)
Abstract
本发明提供一种图像获取装置及其图像形变校正方法。图像获取装置具有第一图像传感器与第二图像传感器。图像形变校正方法包括下列步骤。通过第一图像传感器与第二图像传感器获取多个图像群组。各图像群组分别包括第一图像以及第二图像,这些图像群组包括一参考图像群组。检测此参考图像群组中的第一参考图像与第二参考图像是否发生图像形变。当检测到参考图像群组发生图像形变时,根据这些图像群组对应的多个特征点比对值更新当前校正参数。当前校正参数用以对各第一图像与对应的各第二图像进行图像纠正。
Description
技术领域
本发明是有关于一种图像获取装置,且特别是有关于一种图像获取装置及其图像形变校正方法。
背景技术
对于当前的图像深度感测技术来说,使用具有双镜头的图像获取装置来获取对应至不同视角的图像是一种常见的方法,通过对应至不同视角的图像可计算出目标物的三维深度信息。因此,为了能够精确的从二维图像中取得目标物的三维深度信息,此两个镜头之间的空间设置关系是需要经过特别设计,且精密的参数校正是必要的步骤。进一步来说,当工厂制造具有双镜头的图像获取装置时,双镜头各自对应的空间位置与方向无法极其准确地设置在预设的设定值上。因此,在制造图像获取装置的过程中,工厂将事先针对设置好的双镜头模块进行校正,从而获取一组工厂预设的校正参数。日后,在使用者操作图像获取装置的过程中,图像获取装置可利用工厂预设的校正参数来校正通过双镜头所获取的图像,以克服制程不够精密的缺失。
然而,在使用者操作或携带图像获取装置的过程中,当图像获取装置受到挤压、撞击或跌落的影响时,可能导致镜头产生位移或旋转等空间位置上的改变。一旦镜头产生位移或变形的状况,工厂内部所预设的校正参数已经不再符合当前的应用状况,图像获取装置也就无法获取正确的深度信息。举例来说,如果立体图像获取装置的双镜头间产生水平失衡的问题时,由于失衡之后拍摄出来的左右画面水平不匹配,将进一步导致三维立体拍摄效果不佳。
发明内容
有鉴于此,本发明提供一种图像获取装置及其图像形变校正方法,可针对图像传感器的位移状态而适应性地调整用以进行图像纠正(imagerectification)的校正参数。
本发明提出一种图像形变校正方法,适用于具有第一图像传感器与第二图像传感器的图像获取装置。图像获取装置具有关联于第一图像传感器与第二图像传感器的当前校正参数,且此图像形变校正方法包括下列步骤。通过第一图像传感器以及第二图像传感器获取多个图像群组,其中各图像群组分别包括第一图像以及第二图像,这些图像群组包括一参考图像群组。检测此参考图像群组中的第一参考图像与第二参考图像是否发生图像形变。当检测到参考图像群组发生图像形变时,根据这些图像群组对应的多个特征点比对值更新当前校正参数。此当前校正参数用以对各第一图像以及对应的各第二图像进行图像纠正。
在本发明的一实施例中,上述的检测参考图像群组是否发生图像形变的步骤包括下列步骤。检测第一参考图像的第一特征点与第二参考图像的第二特征点。判断第一特征点与第二特征点分别于第一参考图像与第二参考图像的图像座标之间的偏移量是否超过门限值。若判断为是,判定参考图像群组发生图像形变。
在本发明的一实施例中,上述的检测参考图像群组是否发生图像形变的步骤包括下列步骤。根据第一参考图像与第二参考图像进行三维深度估测,以产生参考图像群组中的参考对焦目标物的参考深度信息,并根据参考深度信息取得关于参考目标物的深度对焦位置。通过自动对焦程序而获取得关于参考目标物的自动对焦位置。判断参考对焦目标物所对应的深度对焦位置是否符合自动对焦位置。若判断为否,判定参考图像群组发生图像形变。
在本发明的一实施例中,上述的在根据这些图像群组对应的这些特征点比对值更新当前校正参数的步骤之前,此图像校正方法还包括下列步骤。针对这些图像群组进行三维深度估测,以产生各图像群组的深度信息。根据各图像群组的深度信息决定是否保留图像群组。
在本发明的一实施例中,上述的根据这些图像群组对应的这些特征点比对值更新当前校正参数的步骤还包括下列步骤。对这些第一图像与这些第二图像进行特征点检测,而获取这些第一图像的多个第一特征点与这些第二图像的多个第二特征点。比对这些第一特征点的座标位置以及分别与这些第一特征点相对应的多个第二特征点的座标位置,以获取这些第一特征点与这些第二特征点之间的多个特征点比对值。记录这些第一特征点与这些第二特征点之间的多个特征点比对值。
在本发明的一实施例中,上述的记录这些第一特征点与这些第二特征点之间的特征点比对值的步骤还包括下列步骤。根据这些第一特征点的座标位置或/及这些第二特征点的座标位置分类各个特征点比对值至多个统计槽。
在本发明的一实施例中,上述的根据图像群组对应的这些特征点比对值更新当前校正参数的步骤包括下列步骤。根据这些统计槽中多个特征点比对值的数量与特征点比对值所对应的多个深度值,判断这些特征点比对值是否足够进行运算。若判断为是,根据这些特征点比对值更新当前校正参数。其中这些深度值是通过对第一特征点与对应的第二特征点进行三维深度估测而获取。
从另一观点来看,本发明提出一种图像获取装置,此图像获取装置具有第一图像传感器与第二图像传感器。此图像获取装置还包括存储单元以及处理单元。存储单元记录多个模块,并存储关联于第一图像传感器与第二图像传感器的当前校正参数。处理单元耦接第一图像传感器、第二图像传感器以及存储单元,以存取并执行存储单元中记录的所述模块。这些模块包括获取模块、形变检测模块以及参数更新模块。获取模块通过第一图像传感器与第二图像传感器获取多个图像群组。各个图像群组分别包括第一图像传感器的第一图像以及第二图像传感器的第二图像,且这些图像群组包括一参考图像群组。形变检测模块检测参考图像群组中的第一参考图像与第二参考图像是否发生图像形变。当参考图像群组发生图像形变时,参数更新模块根据这些图像群组对应的多个特征点比对值更新当前校正参数。当前校正参数用以对各第一图像以及对应的各第二图像进行图像纠正。
基于上述,在本发明的图像形变校正方法的实施例中,当当前的校正参数已无法进行准确的图像纠正时,利用对不同场景与不同时间点所拍摄的图像群组上的特征点信息建立一数据库,以通过数据库内完整的信息来更新当前的校正信息。如此一来,即便左右图像传感器产生位移,图像获取装置也可以动态且适应性的产生新的校正参数,以避免利用不符现况的校正参数进行不准确的图像纠正。藉此,可在使用者无察觉的情况下自动地进行参数更新的动作,以确保图像获取装置的拍摄品质并且提升使用者经验。
为让本发明的上述特征和优点能更明显易懂,下文特举实施例,并配合附图作详细说明如下。
附图说明
图1是本发明的一实施例所示出的图像获取装置的方块图;
图2是本发明一实施例所示出的图像形变校正方法的流程图;
图3A至图3B是本发明一实施例所示出的步骤S202的详细流程图;
图4是本发明一实施例所示出的图像形变校正方法的流程图;
图5A至图5B是本发明一实施例所示出的分类特征点比对值至统计槽的实施例示意图。
附图标记说明:
100:图像获取装置;
110:第一图像传感器;
120:第二图像传感器;
130:对焦单元;
140:处理单元;
150:存储单元;
151:获取模块;
152:形变检测模块;
153:参数更新模块;
154:深度选择模块;
TH:预设门限值;
A、B:第一特征点;
Z1~Z9:图像区块;
S1~S9:统计槽;
ΔdA、ΔdB:特征点比对值;
S201~S203:本发明一实施例所述的图像形变校正方法的各步骤;
S2011~S2023:本发明一实施例的步骤S202的各子步骤;
S2024~S2027:本发明一实施例的步骤S202的各子步骤;
S401~S409:本发明一实施例所述的图像形变校正方法的各步骤。
具体实施方式
在图像获取装置出厂时,其双镜头的之间空间设置关系已经过精密的计算与调整,并依此产生一组工厂预设的校正参数。此工厂预设的校正参数用以将不同镜头所获取的图像校正至经设计且固定的座标参数关系。为了解决因双镜头产生位移或旋转而导致工厂预设的校正参数不再适用的情况,本发明根据图像的深度信息与像素点位置来产生记录多个特征点信息的数据库,并利用数据库中累积的信息适应性的更新校正参数。为了使本发明的内容更为明了,以下列举实施例作为本发明确实能够据此实施的实施例。
图1是本发明的一实施例所示出的图像获取装置的方块图。请参照图1,本实施例的图像获取装置100例如是数字相机、数字摄影机,或是其他具有图像获取功能的手持式电子装置,像是智能手机、平板电脑等等,不限于上述。图像获取装置100包括第一图像传感器110、第二图像传感器120、对焦单元130、处理单元140以及存储单元150。
第一图像传感器110与第二图像传感器120可包括镜头以及感光元件。感光元件例如是电荷耦合元件(Charge Coupled Device,简称CCD)、互补性氧化金属半导体(Complementary Metal-Oxide Semiconductor,简称CMOS)元件或其他元件,第一图像传感器110与第二图像传感器120还可包括光圈等,在此皆不设限。此外,依照第一图像传感器110与第二图像传感器120的镜头设置位置,第一图像传感器110与第二图像传感器120的镜头可区分为左镜头与右镜头。
在本实施例中,对焦单元130耦接第一图像传感器110、第二图像传感器120以及处理单元140,用以控制第一图像传感器110与第二图像传感器120获取图像的焦距。换言之,对焦单元130控制第一图像传感器110的镜头与第二图像传感器120的镜头移动至对焦位置。对焦单元130例如通过音圈马达(Voice Coil Motor,简称VCM)或其他不同类型的马达来控制镜头的步数(step)位置,以改变第一图像传感器110与第二图像传感器120的焦距。
处理单元140可以例如是中央处理单元(Central Processing Unit,简称CPU)、微处理器(Microprocessor)、特殊应用集成电路(Application SpecificIntegrated Circuits,简称ASIC)、可编程逻辑装置(Programmable Logic Device,简称PLD)或其他具备运算能力的硬件装置。存储单元150例如是随机存取存储器(random access memory)、快速存储器(Flash)或其他的存储器,用以存储当前校正参数与多个模块,而处理单元140耦接存储单元150并用以执行这些模块。上述模块包括获取模块151、形变检测模块152、参数更新模块153以及深度选择模块154,这些模块例如是电脑程序,其可载入处理单元140,从而执行校正图像形变的功能。
图2是本发明一实施例所示出的图像形变校正方法的流程图。本实施例的方法适用于图1的图像获取装置100,以下即搭配图像获取装置100中的各构件说明本实施例图像形变校正方法的详细步骤。
首先,在步骤S201,获取模块151通过第一图像传感器110以及第二图像传感器120获取多个图像群组。各图像群组分别包括第一图像以及第二图像,且图像群组至少包括一参考图像群组。也就是说,在本实施例中,单一图像群组具有两张照片,同一图像群组内的第一图像与第二图像是通过左镜头与右镜头在同一时间针对同一场景所获取的两张图像。换言之,第一图像例如是通过左镜头所获取的左图像,而第二图像相对为通过右镜头所获取的右图像。在本实施例中,第一图像与第二图像例如是预览状态下所获取的即时预览图像(live-view image)。
同样地,参考图像群组为图像获取装置100所获取的图像群组其中之一,因此参考图像群组同样具有对应至第一图像传感器110与第二图像传感器120的第一参考图像与第二参考图像。在步骤S202,形变检测模块152检测参考图像群组中的第一参考图像与第二参考图像是否发生图像形变。需说明的是,形变检测模块152可以定时检测的方式对部份图像群组进行图像形变的检测,也可以针对所有图像群组进行图像形变的检测,而参考图像群组于此代表形变检测模块152用以检测是否发生图像型变的对象之一。
需说明的是,工厂预设的校正参数适用于将两张左右图像再分别进行图像纠正(image rectification),让两张真实图像变成只有水平像差或只有垂直像差(因为镜头位置摆放的关系而造成的)。例如,双镜头间会有角度仰角的些微差异等等。通过工厂预设的校正参数执行图像纠正,可以将真实图像转换成左右镜头是摆放同一取像平面,只剩下水平或垂直位置有差异。也就是说,在左右镜头水平设置的前提下,经过图像纠正的左右图像上的各像素点应当只剩下水平位置有差异。此时,倘若左右镜头的拍摄方向产生改变,经过图像纠正的左右图像上的各像素点的垂直位置仍然具有差异,此现象在此称之为图像形变。在此,形变检测模块152可根据第一参考图像与第二参考图像上相互对应的特征点的偏移量或是针对第一参考图像与第二参考图像进行三维深度估测来判断参考图像群组是否发生图像形变。
更清楚来说,图3A是本发明一实施例所示出的步骤S202的详细流程图。在图3A所示的实施例中,在步骤S2021,形变检测模块152检测第一参考图像上的第一特征点与第二参考图像上的第二特征点。之后,在步骤S2022,形变检测模块152判断第一特征点与第二特征点分别在第一参考图像与第二参考图像的图像座标之间的偏移量是否超过门限值。若第一特征点与第二特征点分别在第一参考图像与第二参考图像的图像座标之间的偏移量超过门限值,在步骤S2023,形变检测模块152判定此参考图像群组发生图像形变。也就是说,通过分析与统计第一特征点与第二特征点之间的位移信息,可据此得知是否第一参考图像与第二参考图像发生图像形变。
换句话说,形变检测模块152可根据现有的特征点检测的演算方法检测参考组图像的任一特征点。特征点检测的演算方法用以检测出图像中的多数个特征点,例如是边缘检测(edge detection)、角落检测(Conner detection)或其他特征点检测演算法,本发明对此并不限制。之后,形变检测模块152判断相互对应的第一特征点与第二特征点之间的座标位置偏移量是否超过上述门限值,据此检测参考组图像是否发生图像形变。举例来说,形变检测模块152可判断相互对应的第一特征点与第二特征点的垂直偏移量(垂直方向上的位移差距)是否超过上述门限值。当形变检测模块152判断上述垂直偏移量超过上述门限值时,代表参考图像群组发生图像形变。
在另一实施例中,图3B是本发明一实施例所示出步骤S202的详细流程图。在图3B所示的实施例中,在步骤S2024,形变检测模块152根据第一参考图像与第二参考图像进行三维深度估测,以产生参考图像群组中的参考对焦目标物的参考深度信息,并根据参考深度信息取得关于参考目标物的深度对焦位置。接着,在步骤S2025,形变检测模块152通过自动对焦程序而获取得关于参考目标物的自动对焦位置。在步骤S2026,形变检测模块152判断参考对焦目标物所对应的深度对焦位置是否符合自动对焦位置。若判断为否,在步骤S2027,形变检测模块152判定参考图像群组发生图像形变。
具体来说,形变检测模块152可通过立体视觉技术进行图像处理,以求得目标物在空间中的三维座标位置以及图像中各点的深度信息。再者,根据深度信息取得关于目标物的深度对焦位置的步骤例如是根据深度信息查询深度对照表来取得关于目标物的对焦位置。因此,通过事先求得步进马达的步数或音圈马达的电流值与目标物清晰度的对应关系,则可根据目前获得的目标物的深度信息查询到此深度信息所对应的步进马达的步数或音圈马达的电流值,并据此取得关于目标物的深度对焦位置。
另一方面,执行自动对焦程序的过程可以是通过对焦单元130自动控制镜头模块进行大范围的移动,以分别调整第一图像传感器110与第二图像传感器120的镜头至所需的对焦位置,以取得关于目标物的自动对焦位置。对焦单元130例如是利用自动对焦技术中所使用的爬山法(hill-climbing)来获取关于目标物的自动对焦位置,但本发明并不以此为限。因此,在第一参考图像与第二参考图像未发生图像形变的条件下,图像获取装置100可获取理想的深度信息,致使深度对焦位置会与自动对焦位置一致。倘若图像获取装置100无法根据当前校正参数而进一步获取理想的深度信息,也就无法通过深度信息与事先存储好的深度信息查询深度对照表估测出正确的深度对焦位置,因此深度对焦位置与通过自动对焦程序所获得的自动对焦位置将产生差异。据此,形变检测模块152根据深度对焦位置与自动对焦位置之间的差异来判断参考图像群组是否发生图像形变。
再次参照图2,当形变检测模块152检测到参考图像群组发生图像形变时,在步骤S203,参数更新模块153根据多个图像群组对应的多个特征点比对值更新当前校正参数,其中当前校正参数用以对各第一图像以及对应的各第二图像进行图像纠正。也就是说,当图像获取装置100判定第一图像传感器110与第二图像传感器120产生变形或移位而致使第一参考图像与第二参考图像之间的参数座标改变时,代表当前校正参数已无法对图像进行准确的图像纠正。
因此,在一实施例中,参数更新模块153开始搜集在参考图像群组之后所拍摄的多个图像群组的特征点比对值,以通过在第一图像传感器110与第二图像传感器120产生变形或移位后所获取的图像进来产生理想的当前校正参数。需特别说明的是,参数更新模块153可通过比对第一特征点的座标位置以及分别与这些第一特征点相对应的第二特征点的座标位置来获取这些特征点比对值。再者,参数更新模块153还可根据图像的深度信息与像素点的座标位置来产生新的当前校正参数。以下将列举另一实施例以详细说明之。
图4是本发明一实施例所示出的一种图像形变校正方法的流程图。请参照图4,本实施例的方法适用于图1的图像获取装置100,以下即搭配图像获取装置100中的各构件说明本实施例图像形变校正方法的详细步骤。
首先,在步骤S401,获取模块151通过第一图像传感器110以及第二图像传感器120获取多个图像群组。各图像群组分别包括第一图像以一第二图像,且图像群组包括参考图像群组。在步骤S402,形变检测模块152检测参考图像群组中的第一参考图像与第二参考图像是否发生图像形变。步骤S401以及步骤S402与前述实施例的步骤S201以及步骤S202相似或相同,在此不再赘述。
若形变检测模块判定参考图像群组发生图像形变时,在步骤S403,深度选择模块154针对图像群组进行三维深度估测,以产生各图像群组的深度信息,并根据各图像群组的深度信息决定是否保留图像群组。进一步来说,深度选择模块154可通过立体视觉的图像处理技术而产生关联于第一参考图像与第二参考图像的三维深度图。基于三维深度图内的深度信息,深度选择模块154可获取上述三维深度图所对应的景深范围,并根据景深范围来决定保留或丢弃图像群组。
详细来说,假设深度值的最小值设定为0而最大值设定为128,即图像群组的深度值落于0~128的数值范围内。若深度选择模块154已搜集到景深范围为深度值100至深度值128的图像群组,深度选择模块154之后将不保留其他景深范围落于深度值100至深度值128内的图像群组。反之,若深度选择模块154判定当前的图像群组的景深范围落于深度值100至深度值128之外,例如是深度值0至深度值80的图像群组,深度选择模块154将保留此图像群组,以进一步利用此图像群组的特征点信息。
换句话说,深度选择模块154根据各图像群组的景深信息来判断各图像群组是否为有效的图像群组。倘若最新获取的图像模块的景深范围已经与先前的图像群组的景深范围有大部分的重叠,深度选择模块154将据此过滤之。基此,在一实施例中,除了通过判断景深范围是否重叠来进行图像群组的保留与过滤之外,深度选择模块154也可根据景深范围的重叠率来决定是否保留图像群组。基此,可确保深度选择模块154搜集到对应至所有或大部分景深范围的信息,并同时根据各图像群组所对应的景深范围来过滤多余的信息,以降低数据处理量并提升数据处理速度。
之后,在步骤S404,参数更新模块153对第一图像与第二图像进行特征点检测,而获取第一图像的多个第一特征点与第二图像的多个第二特征点。在步骤S405,参数更新模块153比对第一特征点的座标位置以及分别与第一特征点相对应的第二特征点的座标位置,以获取第一特征点与第二特征点之间的特征点比对值。在步骤S406,参数更新模块153记录第一特征点与第二特征点之间的特征点比对值。
进一步来说,参数更新模块153同样可根据现有的特征点检测的演算方法检测各图像群组中第一图像与第二图像的特征点,以取的第一图像上的第一特征点与第二图像上的第二特征点。接着,参数更新模块153判断相互匹配的第一特征点与第二特征点在同一座标系统下的偏移量(offset)并将偏移量作为特征点比对值。其中,相互匹配的第一特征点与第二特征点投影至被摄场景中的同一位置。换言之,特征点比对值也可视为第一特征点与第二特征点之间的像差。之后,参数更新模块153将第一特征点与第二特征点之间的特征点比对值记录至一数据库,以建立用以更新当前校正参数的校正数据库。值得一提的是,当判定参考图像群组发生形变时,获取模块151仍持续获取图像而获得多个图像群组,而参数更新模块153也持续将通过计算而产生的各图像群组的特征点比对值记录至校正数据库。
在步骤S407,参数更新模块153根据第一特征点的座标位置或/及第二特征点的座标位置分类各特征点比对值至多个统计槽。也就是说,参数更新模块153除了将特征点比对值记录至校正数据库之外,还根据特征点比对值对应于一座标系统下的座标位置而分类至不同统计槽。具体来说,在一实施例中,参数更新模块153可将第一图像传感器110所获取的第一图像区分为多个图像区块,且每一图像区块对应至一个统计槽。因此根据第一特征点的座标位置,参数更新模块153可将特征点比对值依序对应至这些图像区块其中之一,从而将上述特征点比对值分类至对应的统计槽。
举例来说,图5A与图5B是本发明一实施例所示出的分类特征点比对值至统计槽的实施例示意图。在本实施例中,首先参照图5A,参数更新模块153将第一图像Img1分割为三乘三的9个图像区块Z1~Z9。参数更新模块153更根据第一特征点的座标位置来决定第一特征点落在那一图像区块。如图5A所示,参数更新模块153可根据第一特征点A的座标位置而得知第一特征点A位于图像区块Z2内。同样地,参数更新模块153可根据第一特征点B的座标位置而得知第一特征点B位于图像区块Z6内。
请参照图5B,在本实施例中,第一图像Img1被分割为9个图像区块Z1~Z9,而图像区块Z1~Z9分别对应至统计槽S1~S9。其中,图像区块Z1对应至统计槽S1,而图像区块Z2对应至统计槽S2,依此类推。基此,由于第一特征点A位于图像区块Z2内,第一特征点A所对应的特征点比对值ΔdA被分类至统计槽S2。由于第一特征点B位于图像区块Z6内,而第一特征点B所对应的特征点比对值ΔdB被分类至统计槽S6。需说明的是,图5A与图5B仅为一种示范性实施方式,非以限定本发明。
另外,在一实施例中,基于第一特征点与对应的第二特征点为被摄场景中的同一位置点,第一图像与第二图像上对应的特征点经由座标转换计算后将投影至三维座标系统下的相同座标点。因此,参数更新模块153可根据第一特征点与第二特征点的投影于三维座标系统下的座标位置来将特征点比对值分类至对应的统计槽。更进一步来说,基于立体视觉技术进行图像处理,参数更新模块153可求得图像中各点的深度信息以及对应的三维座标位置。参数更新模块153可将第一特征点与第二特征点所对应的三维投影点的水平分量与垂直分量来决定特征点比对值所对应的统计槽。
于是,在步骤S408,参数更新模块153根据各个统计槽中特征点比对值的数量与特征点比对值所对应的多个深度值,判断特征点比对值是否足够进行运算。其中深度值是通过对第一特征点与对应的第二特征点进行三维深度估测而获取。可以知道的是,随着图像群组的数量的上升,校正数据库内的所记录的信息量也越来越多。在此,参数更新模块153可根据各个统计槽中特征点比对值的数量与特征点比对值的深度值来判断当前记录于校正数据库的数据量是否足够。
基于前述可知,这些特征点比对值已被参数更新模块153根据特征点信息而分类至对应的统计槽。因此,参数更新模块153可根据各统计槽中特征点比对值的总数目来判定校正数据库是否具备足够的数据量。详细来说,为了产生符合当下镜头设置状况以将左右图像转正至理想状态的当前校正参数,提供特征点信息的特征点最好是可以平均的分布于图像上。通过平均分布于图像上各区域的特征点所提供的特征点信息,可更精准的计算出整张图像的旋转量或歪斜状况。
在本实施例中,这些特征点比对值被参数更新模块153根据特征点的座标位置而分类至对应的统计槽,因此各个统计槽所对应的特征点比对值的总数可表示出特征点的空间分布情况。因此,参数更新模块153判断每一统计槽内的特征点比对值的数量是否足够,来作为决定数据量是否足以计算出准确的当前校正参数的决定机制。
以图5B为例进行说明,参数更新模块153将特征点比对值分类至9个统计槽S1~S9中,其中统计槽S1至少包括特征点比对值ΔdA,统计槽S6至少包括特征点比对值ΔdB。当参数更新模块153持续记录不同图像群组的各特征点比对值于各统计槽时,各个统计槽中的特征点比对值也持续累积(如图5B的虚线所示)。一旦各统计槽S1~S9中的特征点比对值足够,参数更新模块153可开始进行当前校正参数的更新动作。举例来说,参数更新模块153可判断每一统计槽S1~S9对应的数目是否超过预设门限值TH而决定校正数据库内的数据量是否足够。然,上述实施例仅为一种示范性实施方式,并非用以限定本发明。此技术领域中具有通常知识者当可根据实际需求来选择特征比对值的分类方式与根据统计槽判定数据量是否足够的判断条件,此处不再赘述。
另外,参数更新模块153也可通过深度信息来判定当前的校正数据库内的数据量是否足够。详细来说,通过对第一特征点与对应的第二特征点进行三维深度估测可获取这些特征点比对值各自对应的深度值(depth value)。基于前述可知,深度选择模块154已将景深范围重复性过大的图像群组过滤掉,而参数更新模块153将判定是否已针对大部分的深度值搜集到对应的特征点比对值。换言之,在一实施例中,参数更新模块153同样根据特征点比对值各自对应的深度值来分类各个特征点比对值,并判断每一深度值所对应的特征点比对值的数目是否足够,而判定校正数据库内的数据量是否足够。
值得一提的是,倘若在建立校正数据库的过程中,第一图像传感器110与第二图像传感器之间的空间设置关系又改变时,代表校正数据库内的所记录的数据已无法使用。在一实施例中,参数更新模块153还可在记录特征点比对值至校正数据库之前,判断此特征点比对值是否与校正数据库内的数据具有相当的差异。若是,参数更新模块153可将先前所记录的数据丢弃,并重新开始建立另一校正数据库,因此而获取最理想的当前校正参数。
也就是说,一旦参数更新模块153判断校正数据库内的数据量足够,参数更新模块153便可停止记录并开始计算新的当前校正参数。反之,参数更新模块153持续记录新的特征点比对值至校正数据库。因此,若步骤S408判断为是,在步骤S409,参数更新模块153根据特征点比对值更新当前校正参数。参数更新模块153例如利用校正数据库内的特征比对值来进行最佳化演算法而寻找出最佳的当前校正参数,致使经当前校正参数校正后的两图像可对应至理想的参数座标关系。最佳化演算法例如是梯度下降法(gradient decentmethod)、莱文贝格-马夸特方法(Levenberg-Marquardt method,简称LMmethod)或高斯牛顿演算法(Gauss-Newton method)等,本发明对此不限制。
综上所述,在本发明的一实施例中,当图像获取装置及时的检测到图像发生形变时,通过校正数据库的建立来适应性地校正预存于图像获取装置的当前校正参数,以将左右图像校正至理想的参数座标关系。如此一来,可在使用者无察觉的情况下进行当前校正参数的调整,以确保图像获取装置的拍摄品质。再者,本发明的实施例可进一步根据深度信息与特征点位置来判断数据库中的特征点信息是否搜集完整。藉此,一旦搜集到足够的数据量,可立即的通过校正数据库内所记录的特征点比对值来产生新的当前校正参数,从而大幅缩短搜集数据与进行校正的所需时间。
最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。
Claims (14)
1.一种图像形变校正方法,适用于具有第一图像传感器与第二图像传感器的图像获取装置,其中该图像获取装置具有关联于该第一图像传感器与该第二图像传感器的当前校正参数,其特征在于,该图像形变校正方法包括:
通过该第一图像传感器以及该第二图像传感器获取多个图像群组,其中各所述图像群组分别包括第一图像以及第二图像,所述图像群组包括参考图像群组;
检测该参考图像群组中的第一参考图像与第二参考图像是否发生图像形变;以及
当检测到该参考图像群组发生该图像形变时,根据所述图像群组对应的多个特征点比对值更新该当前校正参数,其中该当前校正参数用以对各所述第一图像以及对应的各所述第二图像进行图像纠正。
2.根据权利要求1所述的图像形变校正方法,其特征在于,检测该参考图像群组是否发生该图像形变的步骤包括:
检测该第一参考图像的第一特征点与该第二参考图像的第二特征点;以及
判断该第一特征点与该第二特征点分别在该第一参考图像与该第二参考图像的图像座标之间的偏移量是否超过门限值,若是,判定该参考图像群组发生该图像形变。
3.根据权利要求1所述的图像形变校正方法,其特征在于,检测该参考图像群组是否发生该图像形变的步骤包括:
根据该第一参考图像与该第二参考图像进行三维深度估测,以产生该参考图像群组中的参考对焦目标物的参考深度信息,并根据该参考深度信息取得关于该参考目标物的深度对焦位置;
通过自动对焦程序而获取得关于该参考目标物的自动对焦位置;以及
判断该参考对焦目标物所对应的深度对焦位置是否符合该自动对焦位置,若否,判定该参考图像群组发生该图像形变。
4.根据权利要求1所述的图像形变校正方法,其特征在于,在根据所述图像群组对应的所述特征点比对值更新该当前校正参数的步骤之前,该图像校正方法还包括:
针对所述图像群组进行三维深度估测,以产生各所述图像群组的深度信息;以及
根据各所述图像群组的该深度信息决定是否保留所述图像群组。
5.根据权利要求1所述的图像形变校正方法,其特征在于,根据所述图像群组对应的所述特征点比对值更新该当前校正参数的步骤还包括:
对所述第一图像与所述第二图像进行特征点检测,而获取所述第一图像的多个第一特征点与所述第二图像的多个第二特征点;
比对所述第一特征点的座标位置以及分别与所述第一特征点相对应的所述第二特征点的座标位置,以获取所述第一特征点与所述第二特征点之间的所述特征点比对值;以及
记录所述第一特征点与所述第二特征点之间的所述特征点比对值。
6.根据权利要求5所述的图像形变校正方法,其特征在于,记录所述第一特征点与所述第二特征点之间的所述特征点比对值的步骤还包括:
根据所述第一特征点的座标位置或/及所述第二特征点的座标位置分类各所述特征点比对值至多个统计槽。
7.根据权利要求6所述的图像形变校正方法,其特征在于,根据所述图像群组对应的所述特征点比对值更新该当前校正参数的步骤包括:
根据所述统计槽中所述特征点比对值的数量与所述特征点比对值所对应的多个深度值,判断所述特征点比对值是否足够进行运算,若是,根据所述特征点比对值更新该当前校正参数,其中所述深度值是通过对所述第一特征点与对应的所述第二特征点进行三维深度估测而获取。
8.一种图像获取装置,具有第一图像传感器与第二图像传感器,其特征在于,该图像获取装置包括:
存储单元,记录多个模块,并存储关联于该第一图像传感器与该第二图像传感器的当前校正参数;以及
处理单元,耦接该第一图像传感器、该第二图像传感器以及存储单元,以存取并执行该存储单元中记录的所述模块,所述模块包括:
获取模块,通过该第一图像传感器与该第二图像传感器获取多个图像群组,各所述图像群组分别包括该第一图像传感器的第一图像以及该第二图像传感器的第二图像,而所述图像群组包括参考图像群组;
形变检测模块,检测该参考图像群组中的第一参考图像与第二参考图像是否发生图像形变;
参数更新模块,当该参考图像群组发生该图像形变时,该参数更新模块根据所述图像群组对应的多个特征点比对值更新该当前校正参数,其中该当前校正参数用以对各所述第一图像以及对应的各所述第二图像进行图像纠正。
9.根据权利要求8所述的图像获取装置,其特征在于,该形变检测模块检测该第一参考图像的第一特征点与该第二参考图像的第二特征点,该形变检测模块判断该第一特征点与该第二特征点分别在该第一参考图像与该第二参考图像的图像座标之间的偏移量是否超过门限值,若是,该形变检测模块判定该参考图像群组发生该图像形变。
10.根据权利要求8所述的图像获取装置,其特征在于,该形变检测模块根据该第一参考图像与该第二参考图像进行三维深度估测,以产生该参考图像群组中的参考对焦目标物的参考深度信息,并根据该参考深度信息取得关于该参考目标物的深度对焦位置,该形变检测模块通过自动对焦程序而获取得关于该参考目标物的自动对焦位置,且该形变检测模块判断该参考对焦目标物所对应的深度对焦位置是否符合该自动对焦位置,若否,该形变检测模块判定该参考图像群组发生该图像形变。
11.根据权利要求8所述的图像获取装置,其特征在于,所述模块还包括:
深度选择模块,该深度选择模块针对所述图像群组进行三维深度估测,以产生各所述图像群组的深度信息,且该深度选择模块根据各所述图像群组的该深度信息决定是否保留所述图像群组。
12.根据权利要求8所述的图像获取装置,其特征在于,该参数更新模块对所述第一图像与所述第二图像进行特征点检测,而获取所述第一图像的多个第一特征点与所述第二图像的多个第二特征点,该参数更新模块对所述第一特征点的座标位置以及分别与所述第一特征点相对应的所述第二特征点的座标位置,以获取所述第一特征点与所述第二特征点之间的所述特征点比对值,该参数更新模块记录所述第一特征点与所述第二特征点之间的所述特征点比对值。
13.根据权利要求12所述的图像获取装置,其特征在于,该参数更新模块根据所述第一特征点的座标位置或/及所述第二特征点的座标位置分类各所述特征点比对值至多个统计槽。
14.根据权利要求13所述的图像获取装置,其特征在于,该参数更新模块根据所述统计槽中所述特征点比对值的数量与所述特征点比对值所对应的多个深度值,判断所述特征点比对值是否足够进行运算,若是,该参数更新模块根据所述特征点比对值更新该当前校正参数,其中所述深度值是通过对所述第一特征点与对应的所述第二特征点进行三维深度估测而获取。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201410044039.3A CN104811680B (zh) | 2014-01-28 | 2014-01-28 | 图像获取装置及其图像形变校正方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201410044039.3A CN104811680B (zh) | 2014-01-28 | 2014-01-28 | 图像获取装置及其图像形变校正方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN104811680A true CN104811680A (zh) | 2015-07-29 |
| CN104811680B CN104811680B (zh) | 2017-04-12 |
Family
ID=53696135
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201410044039.3A Active CN104811680B (zh) | 2014-01-28 | 2014-01-28 | 图像获取装置及其图像形变校正方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN104811680B (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106817575A (zh) * | 2015-11-30 | 2017-06-09 | 聚晶半导体股份有限公司 | 影像捕获设备及其产生深度信息的方法与自动更正的方法 |
| CN110580718A (zh) * | 2018-06-07 | 2019-12-17 | 钰立微电子股份有限公司 | 图像装置的校正方法及其相关图像装置和运算装置 |
| CN116708488A (zh) * | 2023-05-19 | 2023-09-05 | 上海金铎禹辰水环境工程有限公司 | 水利物联网设备状态同步方法、装置、设备及存储介质 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| TW201201114A (en) * | 2010-06-17 | 2012-01-01 | Pixart Imaging Inc | Image sensing module |
| TW201310004A (zh) * | 2011-08-18 | 2013-03-01 | Nat Applied Res Laboratories | 編列數位影像關係裝置 |
| CN102313515B (zh) * | 2010-07-08 | 2013-10-23 | 国立清华大学 | 三维数字影像相关法的校正方法 |
| CN103444191A (zh) * | 2010-12-07 | 2013-12-11 | 罗伯特·博世有限公司 | 用于处理立体传感器系统的两个适合用于图像检测的传感器的图像信息的方法和装置 |
-
2014
- 2014-01-28 CN CN201410044039.3A patent/CN104811680B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| TW201201114A (en) * | 2010-06-17 | 2012-01-01 | Pixart Imaging Inc | Image sensing module |
| CN102313515B (zh) * | 2010-07-08 | 2013-10-23 | 国立清华大学 | 三维数字影像相关法的校正方法 |
| CN103444191A (zh) * | 2010-12-07 | 2013-12-11 | 罗伯特·博世有限公司 | 用于处理立体传感器系统的两个适合用于图像检测的传感器的图像信息的方法和装置 |
| TW201310004A (zh) * | 2011-08-18 | 2013-03-01 | Nat Applied Res Laboratories | 編列數位影像關係裝置 |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106817575A (zh) * | 2015-11-30 | 2017-06-09 | 聚晶半导体股份有限公司 | 影像捕获设备及其产生深度信息的方法与自动更正的方法 |
| CN110580718A (zh) * | 2018-06-07 | 2019-12-17 | 钰立微电子股份有限公司 | 图像装置的校正方法及其相关图像装置和运算装置 |
| CN110580718B (zh) * | 2018-06-07 | 2023-08-08 | 钰立微电子股份有限公司 | 图像装置的校正方法及其相关图像装置和运算装置 |
| CN116708488A (zh) * | 2023-05-19 | 2023-09-05 | 上海金铎禹辰水环境工程有限公司 | 水利物联网设备状态同步方法、装置、设备及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN104811680B (zh) | 2017-04-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| TWI511081B (zh) | 影像擷取裝置及其影像形變校正方法 | |
| US9697604B2 (en) | Image capturing device and method for detecting image deformation thereof | |
| US9706189B2 (en) | Image capturing device and method for calibrating image defection thereof | |
| US20160295097A1 (en) | Dual camera autofocus | |
| KR102032882B1 (ko) | 자동 포커싱 방법, 장치 및 전자 장치 | |
| TWI432870B (zh) | 影像處理系統及自動對焦方法 | |
| TWI538512B (zh) | 調整對焦位置的方法及電子裝置 | |
| CN114494013B (zh) | 一种图像拼接方法、装置、设备及介质 | |
| US20140211045A1 (en) | Image processing apparatus and image pickup apparatus | |
| CN107888819A (zh) | 一种自动聚焦方法及装置 | |
| CN106031155B (zh) | 基于统计数据的自动对焦系统和方法 | |
| CN103209298A (zh) | 相机自动聚焦适应性模糊匹配模型拟合 | |
| CN101369089B (zh) | 图像连拍系统及方法 | |
| CN104811680B (zh) | 图像获取装置及其图像形变校正方法 | |
| CN104811688B (zh) | 图像获取装置及其图像形变检测方法 | |
| TWI595444B (zh) | 影像擷取裝置及其產生深度資訊的方法與自動校正的方法 | |
| US20140327743A1 (en) | Auto focus method and auto focus apparatus | |
| CN111614865B (zh) | 多摄亮度同步方法、设备、装置及存储介质 | |
| TW201823678A (zh) | 影像擷取裝置與其相位對焦的校正方法 | |
| CN104811604B (zh) | 图像获取装置及其图像形变校正方法 | |
| US9723189B2 (en) | Portable electronic-devices and methods for image extraction | |
| CN110839126A (zh) | 一种变倍追踪方法、装置及可变倍摄像机 | |
| CN120198759A (zh) | 双光融合方法、装置及热像仪 | |
| CN106888352A (zh) | 一种推焦位置确定方法及装置 | |
| TW201616168A (zh) | 自動對焦方法及電子裝置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| EXSB | Decision made by sipo to initiate substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |