CN116485869A - 一种基于单目偏振三维成像的多目标绝对深度估计方法 - Google Patents
一种基于单目偏振三维成像的多目标绝对深度估计方法 Download PDFInfo
- Publication number
- CN116485869A CN116485869A CN202310251809.0A CN202310251809A CN116485869A CN 116485869 A CN116485869 A CN 116485869A CN 202310251809 A CN202310251809 A CN 202310251809A CN 116485869 A CN116485869 A CN 116485869A
- Authority
- CN
- China
- Prior art keywords
- target
- camera
- polarization
- focusing
- monocular
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/557—Depth or shape recovery from multiple images from light fields, e.g. from plenoptic cameras
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/30—Polynomial surface description
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Mathematical Analysis (AREA)
- Algebra (AREA)
- Mathematical Optimization (AREA)
- Mathematical Physics (AREA)
- Pure & Applied Mathematics (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
本发明公开了一种基于单目偏振三维成像的多目标绝对深度估计方法,包括:获取相机调焦过程中的主点线性变化系数;将目标物体的最近区域对焦至清晰并获取当前位置的相机内参;获取清晰目标区域不同角度的偏振图像,并计算清晰目标表面反射光的偏振度,方位角和天顶角;构建目标表面法线,积分重建清晰目标区域的三维表面轮廓;根据单目测距模型获得目标表面空间两点间的真实距离;根据两点间的真实距离恢复目标绝对深度信息;将模糊目标区域对焦至清晰并获取对焦后相机内参值;利用对焦后相机内参值,恢复模糊目标动态对焦后的绝对深度三维信息。本发明通过单目测距模型的构建与相机标定的结合,能够实现目标绝对深度信息的恢复。
Description
技术领域
本发明属于光学成像技术领域,具体涉及一种基于单目偏振三维成像的多目标绝对深度估计方法。
背景技术
近年来,偏振三维成像技术作为一项基于目标反射光偏振信息进行三维重建的新技术逐渐成为当下的研究热潮,其特殊的成像机理使其具备其它三维成像方法难以拥有的设备简单、远距离探测、高精度、鲁棒性强等优势,有望极大提升三维重建技术在众多领域如安全领域的人脸识别、工业领域的产品缺陷检测以及机器视觉领域的自动驾驶等应用中的综合性能。然而,现有的偏振三维成像技术由于缺少真实距离的引入,仅能获取目标表面的相对深度信息,严重限制了其应用范围。通过结合先验真实信息获取方法与偏振三维成像方法可以实现绝对深度信息的恢复,但此类方法需要使用更多的设备和更复杂的数据处理,这会增加整体三维成像系统的时间和成本.同时,现有方法没有考虑到多目标场景中不同深度处的目标三维重建问题,目前尚不明确对于该类场景中目标的偏振三维重建效果。
现有的三维重建方法包括基于偏振双目视觉的三维重建方法,该方法通过对目标反射光偏振信息的获取恢复目标在像素坐标系下的相对深度信息,同时将双目立体视觉技术得到的粗糙绝对深度信息进行融合,结合双目立体标定的相机参数,将偏振获取的图像像素坐标系下的点云数据转化为世界坐标系下的绝对数据,实现目标高精度的偏振三维成像。基于偏振双目视觉的三维重建方法如下图所示。
首先,结合左相机和偏振片拍摄不同角度下的偏振图像,利用基于偏振的三维成像方法获得目标在像素坐标系下的稠密点云数据;然后利用SURF特征点检测算法检测目标表面特征点并进行左右相机图像的特征点对匹配,进而基于双目立体视觉技术求解世界坐标系下的三维坐标即稀疏点云;结合双目标定获取的相机参数解算出图像像素坐标系与世界坐标系之间的平移转换参数,利用最小二乘法求解出尺度变化参数,最终将偏振获取的目标相对深度信息转化为绝对深度信息。
基于偏振双目视觉的三维重建方法利用双目立体视觉技术获取的绝对深度信息,来实现偏振三维成像方法获取的目标相对深度信息向绝对深度信息的转化,然而双目立体视觉技术的直接引入会带来其固有缺陷,因此该方法会限制偏振三维成像技术原有的低成本、高精度及强鲁棒性等优势,同时该方法仅对单个目标进行实验验证分析,没有探究在多目标场景中不同深度处的目标偏振三维绝对深度重建效果,缩小了偏振三维成像技术的应用范围。
发明内容
为了解决现有技术中存在的上述问题,本发明提供了一种基于单目偏振三维成像的多目标绝对深度估计方法。本发明要解决的技术问题通过以下技术方案实现:
本发明提供了一种基于单目偏振三维成像的多目标绝对深度估计方法,包括:
S1:进行相机预标定,获取相机调焦过程中的主点线性变化系数;
S2:基于模糊度评估值将目标物体的最近区域对焦至清晰并获取当前位置的相机内参;
S3:获取清晰目标区域不同角度的偏振图像,并计算清晰目标表面反射光的偏振度,以及目标表面法线的方位角和天顶角;
S4:构建目标表面法线,积分重建所述清晰目标区域的三维表面轮廓;
S5:构建单目测距模型,并根据所述单目测距模型获得目标表面空间两点间的真实距离;
S6:根据目标表面空间两点间的真实距离恢复目标绝对深度信息;
S7:基于模糊评估值将其他模糊目标区域对焦至清晰并获取对焦后相机内参的自适应预测值;
S8:利用对焦后相机内参的自适应预测值,重复步骤S3-S6,恢复模糊目标动态对焦后的绝对深度三维信息。
在本发明的一个实施例中,所述S1包括:
将相机多次对焦至不同位置处,由相机标定获取d1、d2、……、dk位置处的主点坐标,基于最小二乘法拟合出主点坐标在x和y方向的线性变化系数ηx和ηy,其中,主点为相机光轴与成像平面的交点。
在本发明的一个实施例中,所述S2包括:
采用灰度方差算子表征目标图像的模糊度评估值,通过移动镜头改变目标图像的灰度方差算子的大小,当灰度方差算子最大时表示目标图像对焦至清晰;
在对焦清晰后通过相机标定方法获取此刻的相机内参,记为:
其中,dx和dy分别表示探测器横坐标和纵坐标上的像元尺寸,f′表示对焦至清晰时的相机焦距,(u0′,v0′)表示对焦至清晰时的主点坐标。
在本发明的一个实施例中,所述S3包括:
S3.1:在自然光照下,分别获取0°、45°、90°和135°四个角度目标场景的偏振图像I0、I45、I90、I135;
S3.2:利用不同角度的偏振图像获取Stokes矢量,并利用所述Stokes矢量获取偏振度;
S3.3:利用不同角度的偏振图像计算目标表面法线的方位角和天顶角θ。
在本发明的一个实施例中,所述S4包括:
S4.1:表征目标的表面法线
其中,p和q分别表示目标微面元法向量在x和y方向上的梯度;
S4.2:基于Cartesian曲面假设,获得目标偏振三维成像模型:
cos(z)=∫∫((zx-p)2+(zy-q)2)dxdy
其中,z=f(x,y)表示目标的三维曲面函数,zx表示目标三维曲面在x轴方向上的梯度,zy表示目标三维曲面在y轴方向上的梯度。
在本发明的一个实施例中,所述S5包括:
将单个相机水平放置,利用参考地面上两点在相机成像平面上的成像坐标、两点距离成像平面的距离、相机距离参考地面的高度以及相机焦距之间的三角相似关系求取两点间的空间距离。
在本发明的一个实施例中,所述S5包括:
S5.1:根据单目测距模型中的相似关系,获得参考地面上两点间的深度距离:
其中,D1和D2分别为目标位于参考地面上的两点p1和p2到相机的纵向绝对深度,Fv=f′/dy表示相机在y方向上的有效焦距,v1和v2分别表示两点在成像平面中的纵向坐标,v0′表示当前主点的纵坐标,Δz表示是两点间相机坐标系下z方向上的距离,Hc为相机距离参考地面的高度;
S5.2:根据针孔成像模型,目标在世界坐标系与像素坐标系间的变化关系为:
其中,R表示一个3*3的旋转矩阵,T表示一个3*1的平移矩阵,M0表示相机的内参矩阵,M1表示相机的外参矩阵,f′表示当前相机焦距,Xw,Yw,Zw表示目标在世界坐标系下的x,y,z轴坐标,Zc表示目标相机坐标系下的z轴坐标值;
S5.3:获得p1和p2两点间在相机坐标系下x方向上的真实距离:
其中,Fu=f′/dx表示相机在x方向上的有效焦距。
在本发明的一个实施例中,所述S6包括:
S6.1:根据步骤S5中测得的目标两点间在相机坐标系下x方向上的真实距离,获取所述目标偏振三维成像模型的真实尺度因子:
xs=Δx/|xp2-xp1|
ys=xs·dy/dx
zs=Δz/|zp2-zp1|
其中,xs、ys、zs分别表示所述目标偏振三维成像模型中x、y、z方向上与真实值的尺度因子,zp1、zp2分别表示所述目标偏振三维成像模型中p1、p2点z方向上的坐标值,xp1、xp2分别表示所述目标偏振三维成像模型中p1、p2点x方向上的坐标值;
根据所述真实尺度因子恢复目标的绝对深度信息,获得目标三维绝对深度模型:
xt=xp·xs,yt=yp·ys,zt=zp·zs
其中,xt、yt、zt分别表示重建的目标三维绝对深度模型中x、y、z方向上的坐标值,xp、yp、zp分别表示所述目标偏振三维成像模型中x、y、z方向上的坐标值。
在本发明的一个实施例中,所述S7包括:
S7.1:根据模糊度评估值将模糊区域的目标对焦至清晰,并通过螺旋测微器测量对焦过程中的镜头位移量Δf;
S7.2:根据对焦过程中的镜头位移量Δf获得主点坐标值在x、y方向上的偏移量为:
Hx=Δf·ηx
Hy=Δf·ηy
其中,Δf为调焦位移量,ηx、ηy为线性变化系数;
S7.3:获得调焦后主点坐标为:
S7.4:获得调焦后x方向和y方向的相机有效焦距
S7.5:获得调焦后相机内参的自适应预测值M0′:
与现有技术相比,本发明的有益效果有:
1、本发明基于单目偏振三维成像的多目标绝对深度估计方法在传统的偏振三维成像方法的基础上,通过单目测距模型的构建与相机标定的结合,能够实现目标绝对深度信息的恢复,有效克服了传统偏振三维成像技术的应用缺陷。并且本发明构建的单目测距模型可以实现单相机条件下目标的绝对深度三维重建,为便捷、低成本的偏振三维成像方法提供理论基础与技术方案。
2、本发明提出的对焦后相机内参自适应预测模型能够有效解决不同深度处多目标场景中需对焦造成的相机内参变化问题;本发明通过构建相机内参自适应预测模型,结合单目测距模型与相机标定方法,可以实现多目标场景下的单目绝对深度三维信息恢复,有效拓宽了偏振三维成像技术的应用场景。
以下将结合附图及实施例对本发明做进一步详细说明。
附图说明
图1是本发明实施例提供的一种基于单目偏振三维成像的多目标绝对深度估计方法的流程图;
图2是本发明实施例提供的一种镜头位移方向与成像平面的位置关系示意图;
图3是本发明实施例提供的一种目标表面的法线表征模型的示意图;
图4是本发明实施例提供的一种单目测距模型的示意图;
图5是本发明实施例提供的一种相机对焦过程示意图。
具体实施方式
为了进一步阐述本发明为达成预定发明目的所采取的技术手段及功效,以下结合附图及具体实施方式,对依据本发明提出的一种基于单目偏振三维成像的多目标绝对深度估计方法进行详细说明。
有关本发明的前述及其他技术内容、特点及功效,在以下配合附图的具体实施方式详细说明中即可清楚地呈现。通过具体实施方式的说明,可对本发明为达成预定目的所采取的技术手段及功效进行更加深入且具体地了解,然而所附附图仅是提供参考与说明之用,并非用来对本发明的技术方案加以限制。
应当说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的物品或者设备中还存在另外的相同要素。
传统的偏振三维成像技术基于目标反射光偏振信息进行三维信息反演,仅能获取目标表面的相对深度信息,对目标真实三维轮廓重建困难,严重制约了其在视觉领域的进一步发展和实际应用。而对于其它能够恢复目标绝对深度信息的方法如基于偏振双目视觉的三维重建方法,存在着操作复杂、成本高等方面的问题,限制了偏振三维成像技术原有的低成本、高精度及强鲁棒性等优势。同时,这些方法没有考虑多目标场景下不同深度的重建问题,目前尚不明确此类场景中目标偏振三维重建效果。因此本发明提供了一种能够恢复多目标绝对深度的单目偏振三维成像方法,在偏振三维成像获取的表面形状基础上,通过结合相机标定与单目测距模型,提出自适应内参预测方法以解决多目标场景中景深范围外的模糊目标需对焦而造成的相机内参变化问题,最终实现对不同深度处目标动态对焦下的绝对深度信息高精度恢复。
请参见图1,图1是本发明实施例提供的一种基于单目偏振三维成像的多目标绝对深度估计方法的流程图,该方法包括:
S1:进行相机预标定,获取相机调焦过程中的主点线性变化系数;
主点为相机光轴与成像平面的交点,其坐标表示为(u0,v0),在调焦过程中由于相机镜筒方向即镜头位移方向与成像平面存在细微不垂直现象导致主点坐标发生线性变化,如图2所示。
将相机多次对焦至不同位置处,由相机标定获取d1、d2、……、dk位置处的主点坐标,分别记为(u01,v01)、(u02,v02)、……、(u0k,v0k),基于最小二乘法拟合出主点坐标在x和y方向的线性变化系数ηx和ηy。
在本实施例中,进行相机预标定,主要包括如下步骤:
S1a:准备标定图片
标定图片使用标定板在不同位置、不同角度和不同姿态下进行拍摄,最少拍摄3张,以10-20张为宜。标定板使用黑白相间的矩形构成的棋盘图。
S1b:对每一张标定图片,提取角点信息
角点为标定板上的内角点,采用find Chessboard Corners函数提取角点信息。
S1c:对每一张标定图片,提取亚像素信息
通过使用cornerSubPix函数在初步提取的角点信息基础上进一步提取亚像素信息,降低相机标定误差。
S1d:在拍摄的标定图像上绘制被成功标定的角点
运用drawChessboardCorners函数绘制被成功标定的角点。
S1e:相机标定
使用calibrateCamera函数进行标定,计算相机内参与外参系数。
通过以上的步骤,求出相机内参矩阵,记为:
其中,dx和dy分别表示探测器(即,相机的CMOS传感器)横坐标和纵坐标上的像元尺寸,单位为mm,f表示相机焦距,(u0,v0)表示主点坐标。
将相机多次对焦至不同位置处,通过得到不同位置的相机内参矩阵,即可获得不同位置处的主点坐标,进而基于最小二乘法拟合出主点坐标在x和y方向的线性变化系数ηx和ηy。
S2:基于模糊度评估值将目标物体的最近区域对焦至清晰并获取当前位置的相机内参。
具体地,采用灰度方差算子表征目标图像的模糊度评估值,通过移动镜头改变目标图像模糊度,即改变灰度方差算子的大小,当灰度方差算子最大时表示目标对焦至清晰,所述目标图像即为目标物体的图像。灰度方差算子的计算公式如下:
其中,Nx、Ny分别表示目标区域的行像素个数和列像素个数,I(x,y)表示像素(x,y)位置处的灰度值。
在对焦清晰后通过步骤S1中的相机标定方法获取此刻的相机内参,记为:
其中,dx和dy分别表示探测器横坐标和纵坐标上的像元尺寸,f′表示对焦至清晰时的相机焦距,(u0′,v0′)表示对焦至清晰时的主点坐标。
S3:获取清晰目标区域不同角度的偏振图像,并计算清晰目标表面反射光的偏振度P,以及目标表面法线的方位角和天顶角θ。
在本实施例中,步骤S3包括:
S3.1:在自然光照下,在CMOS相机前施加偏振片,分别旋转偏振片在0°、45°、90°和135°来获取四个角度的目标场景的偏振图像I0、I45、I90、I135。
S3.2:利用Stokes矢量表征反射光的偏振态,其Stokes参数可由四幅偏振图像I0、I45、I90和I135求得,Stokes矢量表示为:
其中,Ex和Ey分别表示物体表面反射光的电场矢量在x和y轴上的分量,δx和δy表示该方向上的相位。
基于Stokes矢量表征的偏振度P具体计算公式为:
S3.3:利用不同角度的偏振图像计算目标表面法线的方位角和天顶角θ,法线表征模型如图3所示。
具体地,首先利用不同角度的偏振图像I0、I45、I90、I135计算得到方位角计算公式如下:
随后,根据偏振度P与天顶角θ的关系可以计算得到天顶角θ,计算公式为:
其中,n表示物体表面的折射率,在本实例实施中,取表面折射率为1.5。
S4:构建目标表面法线,积分重建所述清晰目标区域的三维表面轮廓。
具体地,本实施例的步骤S4包括:
S4.1:首先根据以下公式表征目标的表面法线
其中,p和q分别表示目标微面元法向量在x和y方向上的梯度。
S4.2:基于Cartesian曲面(连续且闭合的曲面)假设,获得目标表面积分三维重建公式,即目标的偏振三维成像模型:
cos(z)=∫∫((zx-p)2+(zy-q)2)dxdy (9)
其中,z=f(x,y)表示目标的三维曲面函数,zx表示目标三维曲面在x轴方向上的梯度,zy表示目标三维曲面在y轴方向上的梯度。
S5:构建单目测距模型,并根据所述单目测距模型获得目标表面空间两点间的真实距离。
在本实施例中,提出了一种单目测距模型。请参见图4,图4是本发明实施例提供的一种单目测距模型的示意图,将单个相机水平放置,利用参考地面上两点在相机成像平面上的成像坐标、两点距离成像平面的距离、相机距离参考地面的高度以及相机焦距之间的三角相似关系完成两点间空间距离的求取。其中,Hc为相机距离参考地面的高度,Oc-XcYcZc表示相机坐标系,Oc为相机光心,Fv=f′/dy表示相机在y方向上的有效焦距,vh表示过Oc的水平线在成像平面上的位置,p1和p2是目标位于参考地面上的两点,即在参考地面上随机选择的两点,v1和v2分别是两点在成像平面中的纵向坐标,D1和D2分别为目标点到相机的纵向绝对深度。
根据单目测距模型中的相似关系,参考地面上两点间的深度距离可以用下式进行表示:
根据针孔成像模型,目标在世界坐标系与像素坐标系间的变化关系为:
其中,R表示一个3*3的旋转矩阵,T表示一个3*1的平移矩阵,M0表示相机的内参矩阵,M1表示相机的外参矩阵,f′表示当前相机焦距,Xw,Yw,Zw表示目标在世界坐标系下的x,y,z轴坐标,Zc表示目标相机坐标系下的z轴坐标值。
结合式(10)与式(11)推导出p1和p2两点间在相机坐标系下x方向上真实距离的表达式:
其中,Fu=f′/dx表示相机在x方向上的有效焦距。
根据式(10)和式(12)构建的单目测距模型,通过步骤S2求取的相机主点坐标、焦距以及测量得到的相机高度、目标点成像坐标获取目标在参考地面不同深度下的两点间的真实空间距离。
S6:根据目标表面空间两点间的真实距离恢复目标绝对深度信息;
在本实施例中,所述S6包括:
S6.1:根据步骤S5中测得的目标在参考地面不同深度下的两点间的真实距离,获得所述偏振三维成像模型的真实尺度因子:
其中,xs、ys、zs分别表示所述目标偏振三维成像模型中x、y、z方向上与真实值的尺度因子,zp1、zp2分别表示所述目标偏振三维成像模型中p1、p2点z方向上的坐标值,xp1、xp2分别表示所述目标偏振三维成像模型中p1、p2点x方向上的坐标值。
根据所述真实尺度因子恢复目标的绝对深度信息,获得目标三维绝对深度模型:
xt=xp·xs, yt=yp·ys , zt=zp·zs (14)
其中,xt、yt、zt分别表示目标重建的三维绝对深度模型中x、y、z方向上的坐标值,xp、yp、zp分别表示步骤6中恢复的目标偏振三维成像模型中x、y、z方向上的坐标值。
S7:基于模糊评估值将其他模糊目标区域对焦至清晰并自适应获取对焦后的相机内参。
在本步骤中,根据步骤S2的方法基于模糊度评估值将其他模糊区域对焦至清晰,并通过螺旋测微器测量对焦过程中的镜头位移量,记为Δf。
结合步骤S1中对焦过程中主点坐标变化分析与如图5所示的对焦过程中相机焦距变化示意图构建对焦后自适应内参预测模型。
具体地,本实施例的步骤S7包括:
S7.1:根据模糊度评估值将模糊区域的目标对焦至清晰,并通过螺旋测微器测量对焦过程中的镜头位移量Δf;
S7.2:主点坐标的改变是一种线性变化过程,根据对焦过程中的镜头位移量Δf获得主点坐标值在x、y方向上的偏移量为:
其中,Δf为调焦位移量,ηx、ηy为步骤1中获取的线性变化系数。
S7.3:获得调焦后主点坐标为:
S7.4:由于镜筒细微倾斜引起的焦距误差远小于相机焦距,直接通过测量的相机调焦的位移量Δf带入式(17)获取对焦后相机有效焦距。调焦后x方向(y方向同理)的相机有效焦距为:
S7.5:构建对焦后相机内参自适应预测模型,获得调焦后相机内参的自适应预测值M0′:
S8:利用对焦后相机内参的自适应预测值,重复步骤S3-S6,恢复模糊目标动态对焦后的绝对深度三维信息。
本发明基于单目偏振三维成像的多目标绝对深度估计方法在传统的偏振三维成像方法的基础上,通过单目测距模型的构建与相机标定的结合,能够实现目标绝对深度信息的恢复,有效克服了传统偏振三维成像技术的应用缺陷。并且本发明构建的单目测距模型可以实现单相机条件下目标的绝对深度三维重建,为便捷、低成本的偏振三维成像方法提供理论基础与技术方案。
此外,本发明提出的对焦后相机内参自适应预测模型能够有效解决不同深度处多目标场景中需对焦造成的相机内参变化问题;本发明通过构建相机内参自适应预测模型,结合单目测距模型与相机标定方法,可以实现多目标场景下的单目绝对深度三维信息恢复,有效拓宽了偏振三维成像技术的应用场景。
本发明的又一实施例提供了一种存储介质,所述存储介质中存储有计算机程序,所述计算机程序用于执行上述实施例中所述基于单目偏振三维成像的多目标绝对深度估计方法的步骤。本发明的再一方面提供了一种电子设备,包括存储器和处理器,所述存储器中存储有计算机程序,所述处理器调用所述存储器中的计算机程序时实现如上述实施例所述基于单目偏振三维成像的多目标绝对深度估计方法的步骤。具体地,上述以软件功能模块的形式实现的集成的模块,可以存储在一个计算机可读取存储介质中。上述软件功能模块存储在一个存储介质中,包括若干指令用以使得一台电子设备(可以是个人计算机,服务器,或者网络设备等)或处理器(processor)执行本发明各个实施例所述方法的部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。
Claims (9)
1.一种基于单目偏振三维成像的多目标绝对深度估计方法,其特征在于,包括:
S1:进行相机预标定,获取相机调焦过程中的主点线性变化系数;
S2:基于模糊度评估值将目标物体的最近区域对焦至清晰并获取当前位置的相机内参;
S3:获取清晰目标区域不同角度的偏振图像,并计算清晰目标表面反射光的偏振度,以及目标表面法线的方位角和天顶角;
S4:构建目标表面法线,积分重建所述清晰目标区域的三维表面轮廓;
S5:构建单目测距模型,并根据所述单目测距模型获得目标表面空间两点间的真实距离;
S6:根据目标表面空间两点间的真实距离恢复目标绝对深度信息;
S7:基于模糊评估值将其他模糊目标区域对焦至清晰并获取对焦后相机内参的自适应预测值;
S8:利用对焦后相机内参的自适应预测值,重复步骤S3-S6,恢复模糊目标动态对焦后的绝对深度三维信息。
2.根据权利要求1所述的基于单目偏振三维成像的多目标绝对深度估计方法,其特征在于,所述S1包括:
将相机多次对焦至不同位置处,由相机标定获取d1、d2、……、dk位置处的主点坐标,基于最小二乘法拟合出主点坐标在x和y方向的线性变化系数ηx和ηy,其中,主点为相机光轴与成像平面的交点。
3.根据权利要求1所述的基于单目偏振三维成像的多目标绝对深度估计方法,其特征在于,所述S2包括:
采用灰度方差算子表征目标图像的模糊度评估值,通过移动镜头改变目标图像的灰度方差算子的大小,当灰度方差算子最大时表示目标图像对焦至清晰;
在对焦清晰后通过相机标定方法获取此刻的相机内参,记为:
其中,dx和dy分别表示探测器横坐标和纵坐标上的像元尺寸,f′表示对焦至清晰时的相机焦距,(u0′,v0′)表示对焦至清晰时的主点坐标。
4.根据权利要求1所述的基于单目偏振三维成像的多目标绝对深度估计方法,其特征在于,所述S3包括:
S3.1:在自然光照下,分别获取0°、45°、90°和135°四个角度目标场景的偏振图像I0、I45、I90、I135;
S3.2:利用不同角度的偏振图像获取Stokes矢量,并利用所述Stokes矢量获取偏振度;
S3.3:利用不同角度的偏振图像计算目标表面法线的方位角和天顶角θ。
5.根据权利要求4所述的基于单目偏振三维成像的多目标绝对深度估计方法,其特征在于,所述S4包括:
S4.1:表征目标的表面法线
其中,p和q分别表示目标微面元法向量在x和y方向上的梯度;
S4.2:基于Cartesian曲面假设,获得目标偏振三维成像模型:
其中,z=f(x,y)表示目标的三维曲面函数,zx表示目标三维曲面在x轴方向上的梯度,zy表示目标三维曲面在y轴方向上的梯度。
6.根据权利要求5所述的基于单目偏振三维成像的多目标绝对深度估计方法,其特征在于,所述S5包括:
将单个相机水平放置,利用参考地面上两点在相机成像平面上的成像坐标、两点距离成像平面的距离、相机距离参考地面的高度以及相机焦距之间的三角相似关系求取两点间的空间距离。
7.根据权利要求6所述的基于单目偏振三维成像的多目标绝对深度估计方法,其特征在于,所述S5包括:
S5.1:根据单目测距模型中的相似关系,获得参考地面上两点间的深度距离:
其中,D1和D2分别为目标位于参考地面上的两点p1和p2到相机的纵向绝对深度,Fv=f′/dy表示相机在y方向上的有效焦距,v1和v2分别表示两点在成像平面中的纵向坐标,v0′表示当前主点的纵坐标,Δz表示是两点间相机坐标系下z方向上的距离,Hc为相机距离参考地面的高度;
S5.2:根据针孔成像模型,目标在世界坐标系与像素坐标系间的变化关系为:
其中,R表示一个3*3的旋转矩阵,T表示一个3*1的平移矩阵,M0表示相机的内参矩阵,M1表示相机的外参矩阵,f′表示当前相机焦距,Xw,Yw,Zw表示目标在世界坐标系下的x,y,z轴坐标,Zc表示目标相机坐标系下的z轴坐标值;
S5.3:获得p1和p2两点间在相机坐标系下x方向上的真实距离:
其中,Fu=f′/dx表示相机在x方向上的有效焦距。
8.根据权利要求7所述的基于单目偏振三维成像的多目标绝对深度估计方法,其特征在于,所述S6包括:
S6.1:根据步骤S5中测得的目标两点间在相机坐标系下x方向上的真实距离,获取所述目标偏振三维成像模型的真实尺度因子:
xs=Δx/|xp2-xp1|
ys=xs·dy/dx
zs=Δz/|zp2-zp1|
其中,xs、ys、zs分别表示所述目标偏振三维成像模型中x、y、z方向上与真实值的尺度因子,zp1、zp2分别表示所述目标偏振三维成像模型中p1、p2点z方向上的坐标值,xp1、xp2分别表示所述目标偏振三维成像模型中p1、p2点x方向上的坐标值;
根据所述真实尺度因子恢复目标的绝对深度信息,获得目标三维绝对深度模型:
xt=xp·xs,yt=yp·ys,zt=zp·zs
其中,xt、yt、zt分别表示重建的目标三维绝对深度模型中x、y、z方向上的坐标值,xp、yp、zp分别表示所述目标偏振三维成像模型中x、y、z方向上的坐标值。
9.根据权利要求8所述的基于单目偏振三维成像的多目标绝对深度估计方法,其特征在于,所述S7包括:
S7.1:根据模糊度评估值将模糊区域的目标对焦至清晰,并通过螺旋测微器测量对焦过程中的镜头位移量Δf;
S7.2:根据对焦过程中的镜头位移量Δf获得主点坐标值在x、y方向上的偏移量为:
Hx=Δf·ηx
Hy=Δf·ηy
其中,Δf为调焦位移量,ηx、ηy为线性变化系数;
S7.3:获得调焦后主点坐标为:
S7.4:获得调焦后x方向和y方向的相机有效焦距
S7.5:获得调焦后相机内参的自适应预测值M0′:
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310251809.0A CN116485869B (zh) | 2023-03-15 | 2023-03-15 | 一种基于单目偏振三维成像的多目标绝对深度估计方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310251809.0A CN116485869B (zh) | 2023-03-15 | 2023-03-15 | 一种基于单目偏振三维成像的多目标绝对深度估计方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116485869A true CN116485869A (zh) | 2023-07-25 |
| CN116485869B CN116485869B (zh) | 2025-08-12 |
Family
ID=87224028
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310251809.0A Active CN116485869B (zh) | 2023-03-15 | 2023-03-15 | 一种基于单目偏振三维成像的多目标绝对深度估计方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116485869B (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN119665849A (zh) * | 2024-10-22 | 2025-03-21 | 清华大学 | 一种三维成像系统和方法 |
| CN120010086A (zh) * | 2025-04-17 | 2025-05-16 | 深圳市永泰光电有限公司 | 光学镜头自动聚焦系统及方法 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2021115071A1 (zh) * | 2019-12-12 | 2021-06-17 | 中国科学院深圳先进技术研究院 | 单目内窥镜图像的三维重建方法、装置及终端设备 |
| CN114663578A (zh) * | 2022-02-14 | 2022-06-24 | 西安电子科技大学杭州研究院 | 一种基于深度学习的多目标场景偏振三维成像方法 |
| CN114758060A (zh) * | 2022-03-15 | 2022-07-15 | 西安电子科技大学 | 一种能够表征目标绝对深度的偏振三维成像方法 |
| CN115690185A (zh) * | 2022-10-08 | 2023-02-03 | 武汉大学 | 一种融合偏振三维形状和偏振调制测距的深度重建方法 |
-
2023
- 2023-03-15 CN CN202310251809.0A patent/CN116485869B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2021115071A1 (zh) * | 2019-12-12 | 2021-06-17 | 中国科学院深圳先进技术研究院 | 单目内窥镜图像的三维重建方法、装置及终端设备 |
| CN114663578A (zh) * | 2022-02-14 | 2022-06-24 | 西安电子科技大学杭州研究院 | 一种基于深度学习的多目标场景偏振三维成像方法 |
| CN114758060A (zh) * | 2022-03-15 | 2022-07-15 | 西安电子科技大学 | 一种能够表征目标绝对深度的偏振三维成像方法 |
| CN115690185A (zh) * | 2022-10-08 | 2023-02-03 | 武汉大学 | 一种融合偏振三维形状和偏振调制测距的深度重建方法 |
Non-Patent Citations (1)
| Title |
|---|
| 平茜茜;刘勇;董欣明;赵永强;张艳;: "基于偏振双目视觉的无纹理高反光目标三维重构", 红外与毫米波学报, no. 04, 31 August 2017 (2017-08-31) * |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN119665849A (zh) * | 2024-10-22 | 2025-03-21 | 清华大学 | 一种三维成像系统和方法 |
| CN120010086A (zh) * | 2025-04-17 | 2025-05-16 | 深圳市永泰光电有限公司 | 光学镜头自动聚焦系统及方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116485869B (zh) | 2025-08-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110276808B (zh) | 一种单相机结合二维码测量玻璃板不平度的方法 | |
| CN109035320B (zh) | 基于单目视觉的深度提取方法 | |
| CN107833181B (zh) | 一种基于变焦立体视觉的三维全景图像生成方法 | |
| CN105678742B (zh) | 一种水下相机标定方法 | |
| CN111899290B (zh) | 一种联合偏振和双目视觉的三维重建方法 | |
| CN106595528B (zh) | 一种基于数字散斑的远心显微双目立体视觉测量方法 | |
| Chang et al. | Multi-view 3D reconstruction for scenes under the refractive plane with known vertical direction | |
| CN111192235B (zh) | 一种基于单目视觉模型和透视变换的图像测量方法 | |
| JP7675288B2 (ja) | 撮影測定方法、装置、機器及び記憶媒体 | |
| CN107588721A (zh) | 一种基于双目视觉的零件多尺寸的测量方法及系统 | |
| WO2018068678A1 (zh) | 一种立体摄像机外部参数的确定方法及装置 | |
| CN111709985A (zh) | 一种基于双目视觉的水下目标测距方法 | |
| CN113808070B (zh) | 一种双目数字散斑图像相关的视差测量方法 | |
| CN113963067B (zh) | 一种采用小靶标对大视场视觉传感器进行标定的标定方法 | |
| CN116485869A (zh) | 一种基于单目偏振三维成像的多目标绝对深度估计方法 | |
| CN109325981A (zh) | 基于聚焦像点的微透镜阵列型光场相机几何参数标定方法 | |
| CN112184811A (zh) | 单目空间结构光系统结构校准方法及装置 | |
| CN118482665A (zh) | 一种偏振自旋转滤光的结构光三维测量方法及设备 | |
| CN116630530A (zh) | 一种融合图像光流的动态场景偏振三维重建方法 | |
| Hanning | High precision camera calibration | |
| CN105352482B (zh) | 基于仿生复眼微透镜技术的3‑3‑2维目标检测方法及系统 | |
| CN115375773A (zh) | 单目激光散斑投影系统的外参数标定方法和相关装置 | |
| CN118552603B (zh) | 古建筑三维模型中任意两点的测距方法、系统及存储介质 | |
| CN116295097B (zh) | 一种具有材质普适性的三维数据集采集评估方法及装置 | |
| Xie et al. | Volume measuring method for forming additive manufacturing based on SGBM |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |