CN111107303A - 行车图像系统及行车图像处理方法 - Google Patents
行车图像系统及行车图像处理方法 Download PDFInfo
- Publication number
- CN111107303A CN111107303A CN201811251665.4A CN201811251665A CN111107303A CN 111107303 A CN111107303 A CN 111107303A CN 201811251665 A CN201811251665 A CN 201811251665A CN 111107303 A CN111107303 A CN 111107303A
- Authority
- CN
- China
- Prior art keywords
- image
- area
- area image
- region
- view
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 23
- 239000002131 composite material Substances 0.000 claims abstract description 38
- 238000003384 imaging method Methods 0.000 claims description 15
- 238000000034 method Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 5
- 230000000007 visual effect Effects 0.000 description 5
- 238000012545 processing Methods 0.000 description 4
- 238000012937 correction Methods 0.000 description 2
- 239000003086 colorant Substances 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/265—Mixing
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Studio Devices (AREA)
Abstract
本发明提供一种行车图像系统及行车图像处理方法。行车图像系统配置于车辆上。第一摄像装置与第二摄像装置分别配置于车辆的第一位置与第二位置。第一摄像装置持续拍摄第一区域图像。第二摄像装置持续拍摄第二区域图像。处理器根据第一摄像装置与第二摄像装置之间的距离、第一摄像装置的第一视野与第二摄像装置的第二视野来计算第一视野交会点。处理器将第一深度信息与第二深度信息与第一视野交会点进行比较以判断是否有重叠画面区域。当判断有重叠画面区域时,对第一区域图像与第二区域图像进行图像拼接以产生合成图像并且显示合成图像。当判断重叠画面区域存在不对应的物体时,分别显示第一区域图像与第二区域图像。
Description
技术领域
本发明涉及一种行车图像系统,尤其涉及一种具有图像拼接功能的行车图像系统及行车图像处理方法。
背景技术
随着科技进步,车辆以成为日常生活中十分普及的交通工具,但受限于车辆的结构以及人眼的视野大小限制,车辆上会安装多个后照镜来协助驾驶员掌握车辆周边的状况。
现今有部分车辆使用电子后照镜来消除驾驶员的盲区。通过使用摄影机取代传统的反射式后照镜。这些摄影机会分别拍摄不同角度的周围图像,然而如何将这些摄影机取得的多个分割图像提供给驾驶员,让驾驶员能够完整并直観的掌握车辆的周围状态成为一个非常重要的课题。
发明内容
本发明是针对一种行车图像系统及行车图像处理方法,可以即时产生广角的合成图像以提供给驾驶员完整的行车视野,并且避免产生具有错误的合成图像。
根据本发明的实施例,一种行车图像系统配置于车辆上,包括:多个摄像装置、存储器与处理器。这些摄像装置中的第一摄像装置与第二摄像装置分别配置于车辆的第一位置与第二位置。存储器存储有多个指令。处理器耦接这些摄像装置以及存储器,其中处理器经配置执行这些指令以:通过第一摄像装置持续拍摄第一区域图像;通过第二摄像装置持续拍摄第二区域图像;根据第一摄像装置与第二摄像装置之间的距离、第一摄像装置的第一视野与第二摄像装置的第二视野来计算第一视野交会点;获得第一区域图像的第一深度信息与第二区域图像的第二深度信息;将第一深度信息和第二深度信息与第一视野交会点进行比较以判断第一区域图像与第二区域图像之间是否有重叠画面区域;当判断第一区域图像与第二区域图像有重叠画面区域时,对第一区域图像与第二区域图像进行图像拼接以产生合成图像并且显示合成图像;以及当判断第一区域图像与第二区域图像有重叠画面区域,但重叠画面区域存在不对应的物体时,分别显示第一区域图像与第二区域图像。
在根据本发明的实施例的行车图像系统中,多个摄像装置中还包括配置于车辆的第三位置的第三摄像装置。处理器经配置执行这些指令以:通过第三摄像装置持续拍摄第三区域图像;获得第三区域图像中的第三深度信息;根据第一摄像装置与第三摄像装置之间的距离、第一视野与第三摄像装置的第三视野来计算第二视野交会点;将第一深度信息和第三深度信息与第二视野交会点进行比较以判断第一区域图像与第三区域图像之间是否有重叠画面区域;当判断第一区域图像与第二区域图像、第三区域图像都有重叠画面区域时,对第一区域图像、第二区域图像与第三区域图像进行图像拼接以产生合成图像;以及当判断第一区域图像与第二区域图像的重叠画面区域中存在不对应的物体,或第一区域图像与第三区域图像的重叠画面区域中存在不对应的物体时,分别显示第一区域图像、第二区域图像与第三区域图像。
在根据本发明的实施例的行车图像系统中,在持续拍摄第一区域图像与第二区域图像的过程中,第一摄像装置与第二摄像装置的镜头位置是固定的,以及第一区域图像为车辆后方的图像,第二区域图像为车辆右方或左方的图像。
在根据本发明的实施例的行车图像系统中,当处理器判断第一区域图像与第二区域图像的重叠画面区域的所有物体相对于第一摄像装置与第二摄像装置都远于第一视野交会点时,处理器拼接第一区域图像与第二区域图像以产生合成图像;以及当处理器判断第一区域图像或第二区域图像的重叠画面区域中有至少一物体相对于第一摄像装置或第二摄像装置近于第一视野交会点时,处理器判断至少一物体为不对应的物体。
在根据本发明的实施例的行车图像系统中,当判断第一区域图像与第二区域图像有重叠画面区域时,处理器经配置执行这些指令以:获得第一区域图像与第二区域图像的多个第一特征点与多个第二特征点,其中这些第一特征点与这些第二特征点是接缝线的像素、邻近接缝线的像素或重叠画面区域内的像素;以及对这些第一特征点与这些第二特征点进行匹配以拼接第一区域图像与第二区域图像。
在根据本发明的实施例的行车图像系统中,处理器经配置执行这些指令以:计算第一视野交会点分别在第一区域图像与第二区域图像的像素位置,并根据像素位置在第一区域图像与第二区域图像所对应的画面是否匹配来判断第一区域图像与第二区域图像是否进行图像拼接。
根据本发明的实施例,一种行车图像处理方法,适用于一行车图像系统,其中,包括:通过第一摄像装置持续拍摄第一区域图像;通过第二摄像装置持续拍摄第二区域图像,其中第一摄像装置与第二摄像装置分别配置于车辆的第一位置与第二位置;根据第一摄像装置与第二摄像装置之间的距离、第一摄像装置的第一视野与第二摄像装置的第二视野来计算第一视野交会点;获得第一区域图像的第一深度信息与第二区域图像的第二深度信息;将第一深度信息和第二深度信息与第一视野交会点进行比较以判断第一区域图像与第二区域图像之间是否有重叠画面区域;当判断第一区域图像与第二区域图像有重叠画面区域时,对第一区域图像与第二区域图像进行图像拼接以产生合成图像并且显示合成图像;以及当判断第一区域图像与第二区域图像有重叠画面区域,但重叠画面区域存在不对应的物体时,分别显示第一区域图像与第二区域图像。
附图说明
包含附图以便进一步理解本发明,且附图并入本说明书中并构成本说明书的一部分。附图说明本发明的实施例,并与描述一起用于解释本发明的原理。
图1A是本发明一实施例的行车图像系统的示意图;
图1B是本发明图1A实施例的行车图像系统的功能方块图;
图2是依据本发明一实施例示出的行车图像处理方法的流程图;
图3A是本发明一实施例的两个摄像装置的视野示意图;
图3B是本发明另一实施例的两个摄像装置的视野示意图;
图4A是依据本发明一实施例显示的第二区域图像;
图4B是依据本发明一实施例显示的第一区域图像;
图4C是依据本发明一实施例显示的第三区域图像;
图4D是依据本发明图4A至图4C实施例所显示的合成图像。
附图标号说明
10:行车图像系统;
100:车辆;
110:处理器;
120:存储器;
310、330、420:第一区域图像;
320、340、410:第二区域图像;
412、422:接缝线;
430:第三区域图像;
C1:第一摄像装置;
C2:第二摄像装置;
C3:第三摄像装置;
dL、d:距离;
FOV1:第一视野;
FOV2:第二视野;
FOV3:第三视野;
FOVR:重叠视野;
L1:第一视野交会点;
L2:第二视野交会点;
H:垂直距离;
OB1、OB2、OB:物体;
OR:图像重叠区域;
A、B:图像平面范围;
OM:重叠画面区域;
SIM:合成图像;
W:水平距离;
S210~S290:步骤;
X、Y、Z:方向。
具体实施方式
现将详细地参考本发明的示范性实施例,示范性实施例的实例说明于附图中。只要有可能,相同元件符号在附图和描述中用来表示相同或相似部分。
图1A是本发明一实施例的行车图像系统的示意图,图1B是本发明图1A实施例的行车图像系统的功能方块图。行车图像系统10配置在车辆100上,包括多个摄像装置、处理器110与存储器120。在此,多个摄像装置以第一摄像装置C1、第二摄像装置C2与第三摄像装置C3为例。这些摄像装置C1、C2、C3分别配置在车辆100的不同位置并用以拍摄车辆100围环境的图像。例如,第一区域图像为车辆100后方的图像,第二区域图像或第三区域图像为车辆100右方或左方的图像。具体而言,第一摄像装置C1具有第一视野(field of view,FOV)FOV1,配置在车辆100的第一位置以持续拍摄第一区域图像(车辆100后方的图像);第二摄像装置C2具有第二视野FOV2,配置在车辆100的第二位置以持续拍摄第二区域图像(车辆100左方的图像);第三摄像装置C3具有第三视野FOV3,配置在车辆100的第三位置以持续拍摄第三区域图像(车辆100右方的图像)。图1A的实施例以三个摄像装置为例,第一视野FOV1、第二视野FOV2与第三视野FOV3的范围都是以90度为例。但本发明不限制摄像装置的数量、配置位置与视野范围。
处理器110耦接多个摄像装置(例如上述的摄像装置C1、C2、C3)与存储器120。存储器120存储多个指令。处理器110执行这些指令以操作行车图像系统10。处理器110会接收第一区域图像、第二区域图像与第三区域图像,并判断上述的这些区域图像是否适合进行影片拼接(image stitching)。如果判断结果为适合,处理器110接拼这些区域图像以产生合成图像。合成图像例如是涵盖这些摄像装置C1、C2、C3的视野范围(包括第一视野FOV1、第二视野FOV2、第三视野FOV3)的环景图像。驾驶员通过观看合成图像掌握车辆100的周围状况。如果判断结果为不适合拼接,处理器110控制显示装置(未显示)分开显示第一区域图像、第二区域图像与第三区域图像的至少其中之一,以避免提供不适当的合成图像。
具体来说,摄像装置例如是录影机、感光耦合元件(Charge-Coupled Device,CCD)或是互补金属氧化半导体(Complementary Metal-Oxide Semiconductor,CMOS)感光元件等等。
处理器110例如是中央处理单元(Central Processing Unit,CPU),或是其他可程序化的一般用途或特殊用途的微处理器(Microprocessor)、数字信号处理器(DigitalSignal Processor,DSP)、可程序化控制器、特殊应用集成电路(Application SpecificIntegrated Circuits,ASIC)、可程序化逻辑装置(Programmable Logic Device,PLD)或其他类似装置或这些装置的组合。
存储器120例如是任何型态的固定式或可移动式随机存取存储器(random accessmemory,RAM)、只读存储器(read-only memory,ROM)、快闪存储器(flash memory)或类似元件或上述元件的组合。存储器120可记录处理器110执行时所需要的软件或摄像装置C1、C2、C3所拍摄的图像。
图2是依据本发明一实施例示出的行车图像处理方法的流程图。图2的行车图像处理方法可适用于行车图像系统10。以下搭配行车图像系统10中的各项元件详细说明图像处理方法以及行车图像系统10的实施方式。
在步骤S210中,通过第一摄像装置C1持续拍摄第一区域图像;在步骤S220中,通过第二摄像装置C2持续拍摄第二区域图像;在步骤S230中,通过第三摄像装置C3持续拍摄第三区域图像。举例来说,第一摄像装置C1配置在车辆100的后方,用以拍摄车辆100后方区域的周围图像,第二摄像装置C2与第三摄像装置C3分别配置在车辆100的左方与右方,用以拍摄车辆100的左后方与右后方区域的周围图像。
在本实施例中,在持续拍摄第一区域图像、第二区域图像与第三区域图像的过程中,第一摄像装置C1、第二摄像装置C2以及第三摄像装置C3的镜头位置可以是固定的,也就是说第一摄像装置C1、第二摄像装置C2以及第三摄像装置C3的拍摄角度在拍摄过程中相对于车辆100是固定的。
处理器110会从第一摄像装置C1、第二摄像装置C2与第三摄像装置C3分别接收第一区域图像,第二区域图像与第三区域图像。第一区域图像例如是车辆100后方的图像,第二区域图像与第三区域图像例如是车辆100左后方与右后方的图像。
接着,在步骤S240,处理器110根据这些接收的区域图像,分别计算这些区域图像彼此的视野交会点,接着进行步骤S250,处理器110进一步判断这些区域图像是否适合进行图像拼接。
首先,比较第一区域图像与第二区域图像以找出第一视野FOV1与第二视野FOV2之间的第一视野交会点L1。由于第一位置、第二位置与第一视野FOV1、第二视野FOV2是已知的,因此在步骤S240中,处理器110可以根据第一摄像装置C1与第二摄像装置C2之间的距离、第一视野FOV1与第二视野FOV2来计算第一视野交会点L1。
在本实施例中,水平方向例如是X方向,第二摄像装置C2与第三摄影机C3的水平距离W是180厘米(cm)。垂直方向例如是Y方向,第一摄影机C1相对于第二摄像装置C2跟第三摄影机C3之间的水平线的垂直距离H是120厘米。因此,第一视野交会点L1在Y方向上跟第二摄像机C2的距离为210厘米,跟第一摄像机C1距离为90厘米。
在第一视野交会点L1后面,第一视野FOV1与第二视野FOV2重叠的部分为图像重叠区域OR,第一区域图像与第二区域图像中对应于图像重叠区域OR的画面为重叠画面区域。对第一摄像装置C1来说,所拍摄到的物体(位于第一视野FOV1中)如果在Y方向上远于第一视野交会点L1并且也落在第二视野FOV2的范围内(即该物体在图像重叠区域OR内),就表示该物体会同时被第一摄像装置C1与第二摄像机C2拍摄到,成为第一区域图像与第二区域图像中重叠画面区域的图像。
特别说明的是,这些摄像装置C1、C2、C3所拍摄的图像可以包括色彩信息与深度信息,因此处理器110可以获得第一区域图像的第一深度信息、第二区域图像的第二深度信息与第三区域图像的第三深度信息。在此,深度信息例如包括所拍摄物体的距离。处理器110可以将第一深度信息与第二深度信息与第一视野交会点L1进行比较以判断第一区域图像与第二区域图像之间是否有重叠画面区域。
图3A是本发明一实施例的两个摄像装置的视野示意图,请搭配图1A参照图3A,第一区域图像310与第二区域图像320的图像深度都是距离d,第一视野交会点L1在Y方向上跟第一摄像机C1跟第二摄像机C2的垂直距离为dL。在本实施例中,距离d大于距离dL,第一摄像机C1跟第二摄像机C2所拍摄的景物对第一摄像机C1跟第二摄像机C2来说都远于第一视野交会点L1,因此第一区域图像310的图像平面范围A跟第二区域图像320的图像平面范围B将会有重叠画面区域OM。
详细来说,处理器110可以根据第一深度信息比较第一区域图像310中被拍摄的物体,例如物体OB1,跟第一摄像装置C1的距离是否远于第一视野交会点L1,且根据第二深度信息比较第二区域图像320中被拍摄的物体,例如物体OB2,跟第二摄像装置C2的距离是否远于第一视野交会点L1。特别说明的是,物体OB1与物体OB2在图3A的位置仅为示意,物体OB1与物体OB2可以位于第一区域图像310与第二区域图像320的任一位置,包括图像平面范围A与图像平面范围B之间的重叠画面区域OM。
当处理器110判断第一区域图像310与第二区域图像320有重叠画面区域OM时,接续进行步骤S260,对第一区域图像310与第二区域图像320进行图像拼接以产生合成图像。在本实施例中,当处理器110判断第一区域图像310与第二区域图像320之间存在第一视野交会点L1,且判断第一区域图像310与第二区域图像320的重叠画面区域OM的所有物体都远于第一视野交会点L1时,处理器110拼接第一区域图像310与第二区域图像320以产生合成图像。
进一步来说,处理器110还可以计算第一视野交会点L1分别在第一区域图像310与第二区域图像320的像素位置(即接缝线),并根据像素位置在第一区域图像310与第二区域图像320所对应的画面是否匹配来判断第一区域图像310与第二区域图像320是否进行图像拼接。
另一方面,当处理器110判断第一区域图像与第二区域图像有重叠画面区域,但重叠画面区域存在不对应的物体时,处理器110判断不适合进行图像拼接。
图3B是本发明另一实施例的两个摄像装置的视野示意图,请搭配图1A参照图3B,图3B的实施例与图3A相似,差别在于所拍摄景物不同。在本实施例中,第一视野交会点L1在Y方向上跟第一摄像机C1跟第二摄像机C2的垂直距离依旧为dL,但第二摄像机C2的第二视野FOV2内,在小于距离dL的范围内出现了物体OB。物体OB会遮蔽第二摄像机C2的部分视野,使得第二区域图像340无法与第一摄像机C1拍摄的第一区域图像330拼接。
详细来说,当处理器110判断第一区域图像330或第二区域图像340的重叠画面区域OM中有至少一物体相对于第一摄像装置C1或第二摄像装置C2近于第一视野交会点L1时,处理器110判断该物体为不对应的物体。
在本实施例中,物体OB出现在第二摄像机C2在重叠视野FOVR内,且物体OB离第二摄像机C2的距离近于第一视野交会点L1(小于距离dL)时,第二摄像机C2会拍摄到物体OB但第一摄像机C1不会拍摄到物体OB,其中,重叠视野FOVR表示第二视野FOV2中对应到图像重叠区域OR的视野角度。因此,第一区域图像330不会出现物体OB,而第二区域图像340会出现物体OB,使得处理器110判断第一区域图像330与第二区域图像340的重叠画面区域OM存在不对应的物体OB,进而判断第一区域图像330与第二区域图像340不适合进行图像拼接。
类似的,第一摄像装置C1的第一视野FOV1与第三摄像装置C3的第三视野FOV3之间存在第二视野交会点L2,处理器110可以判断第一区域图像与第三区域图像适不适合进行图像拼接。处理器110可以从第三区域图像中获得第三深度信息,并且根据第一摄像装置C1与第三摄像装置C3之间的距离、第一视野FOV1与第三摄像装置C3的第三视野FOV3来计算第二视野交会点L2。处理器100还可以将第一深度信息和第三深度信息与第二视野交会点L2进行比较以判断第一区域图像与第三区域图像是否有重叠画面区域。具体的实施方式,本领域的技术人员可以从上述的第一区域图像与第二区域图像的判断方法获致足够的教示,不再加以赘述。
在步骤S250中,当处理器110判断第一区域图像与第二区域图像、第三区域图像都有重叠画面区域时,选择执行步骤S260,对第一区域图像、第二区域图像与第三区域图像进行图像拼接以产生合成图像。
图4A是依据本发明一实施例显示的第二区域图像,图4B是依据本发明一实施例显示的第一区域图像,图4C是依据本发明一实施例显示的第三区域图像,图4D是依据本发明图4A至图4C实施例所显示的合成图像。当处理器110判断第一区域图像420与第二区域图像410适合进行图像拼接,并且第一区域图像420与第三区域图像430也适合进行图像拼接,处理器110拼接第一区域图像420、第二区域图像410与第三区域图像430以产生完整的合成图像SIM。
在拼接第一区域图像与第二区域图像的过程中,处理器110可以找出第一区域图像与第二区域图像的接缝线以拼接图像,其中接缝线是指第一区域图像与第二区域图像的重叠画面区域的起始像素位置。处理器110可以获得第一区域图像420与第二区域图像410在重叠画面区域内的多个第一特征点与多个第二特征点,并且对对这些第一特征点与这些第二特征点进行匹配以拼接第一区域图像420与第二区域图像410。上述的第一特征点与第二特征点例如是接缝线的像素、邻近接缝线的像素或重叠画面区域内的像素。
如上所述,处理器110可以找出第一区域图像420与第二区域图像410的接缝线,第一区域图像420的接缝线以虚线422表示,第二区域图像410的的接缝线以虚线412表示。更进一步来说,处理器110可以判断出第一区域图像420的接缝线422左边的图像与第二区域图像410的接缝线412右边的图像属于重叠画面区域,它们之间具有对应的物件(如图中共同的卡车与马路)。当第一区域图像420与第二区域图像410的图像内容处于相同的水平视角,处理器110可以将接缝线412与接缝线422上的像素(或是附近的像素)作为第一特征点与第二特征点,并且进行比对,以将第二区域图像410的接缝线412左边的图像拼接到第一区域图像420上(或是将第一区域图像420的接缝线422右边的图像拼接到第二区域图像410上)。
处理器110也可以仅寻找第一区域图像420的重叠画面区域(接缝线422左边的图像)内的特征点作为第一特征点,第二区域图像410的重叠画面区域(接缝线412右边的图像)内的特征点作为第二特征点,并且对这些第一特征点与这些第二特征点进行匹配以拼接第一区域图像420与第二区域图像410。本发明对于两个区域图像的拼接方式并不限制,且图4A与图4B的接缝线412与接缝线422仅作为示意,接缝线实际上可能为直线、斜线或曲线等等。同样的,处理器110会获得第三区域图像430的多个第三特征点,并且对这些第三特征点进行匹配以拼接第三区域图像430来完成合成图像SIM。第三区域图像的图像拼接处理,本领域的技术人员可以从上述的第一区域图像与第二区域图像的拼接方法获致足够的教示,不再加以赘述。
特别说明的是,在本实施例中,由于第一摄像机C1、第二摄像机C2与第三摄像机C3是固定设置在车辆100上,所以处理器110可以通过寻找接缝线的方式来进行图像拼接,相较于传统的技术需要计算两张图像的大量特征点以匹配物件来确定重叠画面区域,本实施例仅需要计算接缝线上(或是附近)的特征点或是重叠画面区域内的特征点,如此一来运算量较少,可以在不需要大量运算负担的条件下来快速获得合成图像,因此本发明的实施例还可以适用于处理串流图像,能够达到即时提供合成图像给驾驶员的功效。
接着,在步骤S270与步骤S280中,行车图像系统10还可以进一步决定显示模式并根据显示模式来显示图像。例如由处理器110来自动决定显示画面,或是由驾驶员手动决定显示画面。具体来说,如果行车图像系统10是进入自动显示模式,处理器100可以根据车辆100的状态来决定提供甚么画面给驾驶员观看。例如,如果车辆100正在前进中,处理器100可以决定显示合成画面SIM,以弥补驾驶员观看前方的视野限制。驾驶员可以从合成图像SIM看到第一摄像机C1、第二摄像机C2与第三摄像机C3所拍摄的全部视野以掌握车辆100周边的状况。
如果车辆100正在倒车中或是停车中,处理器100可以选择显示第一区域图像、第二区域图像或第三区域图像。此外,驾驶员可以手动选择要显示合成画面SIM或是分别显示第一区域图像、第二区域图像与第三区域图像。
另一方面,当处理器110判断第一区域图像与第二区域图像不适合进行图像拼接,或第一区域图像与第三区域图像不适合进行图像拼接,进入步骤S280,行车图像系统10分开显示第一区域图像、第二区域图像与第三区域图像,而不强迫产生合成图像。
在步骤S250中,当处理器110判断第一区域图像与第二区域图像的重叠画面区域中存在不对应的物体,或第一区域图像与第三区域图像的重叠画面区域中存在不对应的物体时,处理器110判断不适合进行图像拼接,下一步执行步骤S290,处理器110会控制行车图像系统10分别显示第一区域图像、第二区域图像或第三区域图像。
在另一实施例中,行车图像处理方法也可以适用在只具有第一摄像机与第二摄像机的行车图像系统,或是适用在具有更多摄像机的行车图像系统。在另一实施例中,行车图像处理方法也可以在其中两个区域图像适合拼接时就产生合成图像,本发明并不强制要三个以上的区域图像都适合拼接才可执行。
在一实施例中,行车图像处理方法还可以包括图像处理,例如在图像拼接前对这些区域图像进行颜色校正,以避免拼接后的图像颜色不统一。在一实施例中,行车图像处理方法还可以对拼接中或拼接后的图像进行校正,例如对要处理的图像进行图像伸张、旋转等图像变形处理,或剪裁图像。本发明的技术人员可依据实际需要而采取适当图像处理方法,本发明并不限制。
综上所述,本发明一实施例的行车图像系统及行车图像处理方法,通过固定设置在车辆上的多个摄影机捕捉车辆周围的图像以作为多个区域图像。处理器通过比对两个区域图像的深度信息以及视野交会点来判断之间是否有重叠画面区域,并且判断这些区域图像彼此之间是否适合进行拼接以决定是否要产生广角的合成图像。当两个区域图像之间具有重叠画面区域,处理器可以根据接缝线来进行图像拼接以快速产生合成图像。因此,本发明的行车图像系统及行车图像处理方法可以在低运算负担的需求下,即时生成合成图像以提供驾驶员完整的环车视野,以降低盲区,大大的提高了行车的安全性。另外,本发明的行车图像系统及行车图像处理方法在判断区域图像之间不适合拼接时,可以选择分开显示区域图像,以避免提供错误的合成图像。
最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。
Claims (11)
1.一种行车图像系统,配置于车辆上,其特征在于,包括:
多个摄像装置,其中所述多个摄像装置中的第一摄像装置与第二摄像装置分别配置于所述车辆的第一位置与第二位置;
存储器,存储有多个指令;以及
处理器,耦接所述多个摄像装置以及所述存储器,其中所述处理器经配置执行所述多个指令以:
通过所述第一摄像装置持续拍摄第一区域图像;
通过所述第二摄像装置持续拍摄第二区域图像;
根据所述第一摄像装置与所述第二摄像装置之间的距离、所述第一摄像装置的第一视野与所述第二摄像装置的第二视野来计算第一视野交会点;
获得所述第一区域图像的第一深度信息与所述第二区域图像的第二深度信息;
将所述第一深度信息和所述第二深度信息与所述第一视野交会点进行比较以判断所述第一区域图像与所述第二区域图像之间是否有重叠画面区域;
当判断所述第一区域图像与所述第二区域图像有所述重叠画面区域时,对所述第一区域图像与所述第二区域图像进行图像拼接以产生合成图像并且显示所述合成图像;以及
当判断所述第一区域图像与所述第二区域图像有所述重叠画面区域,但所述重叠画面区域存在不对应的物体时,分别显示所述第一区域图像与所述第二区域图像。
2.根据权利要求1所述的行车图像系统,其特征在于,其中所述多个摄像装置中还包括:
第三摄像装置,配置于所述车辆的第三位置,
其中所述处理器经配置执行所述多个指令以:
通过所述第三摄像装置持续拍摄第三区域图像;
获得所述第三区域图像中的第三深度信息;
根据所述第一摄像装置与所述第三摄像装置之间的距离、所述第一视野与所述第三摄像装置的第三视野来计算第二视野交会点;
将所述第一深度信息和所述第三深度信息与所述第二视野交会点进行比较以判断所述第一区域图像与所述第三区域图像之间是否有所述重叠画面区域;
当判断所述第一区域图像与所述第二区域图像、所述第三区域图像都有所述重叠画面区域时,对所述第一区域图像、所述第二区域图像与所述第三区域图像进行图像拼接以产生所述合成图像;以及
当判断所述第一区域图像与所述第二区域图像的所述重叠画面区域中存在所述不对应的物体,或所述第一区域图像与所述第三区域图像的所述重叠画面区域中存在所述不对应的物体时,分别显示所述第一区域图像、所述第二区域图像与所述第三区域图像。
3.根据权利要求1所述的行车图像系统,其特征在于,在持续拍摄所述第一区域图像与所述第二区域图像的过程中,所述第一摄像装置与所述第二摄像装置的镜头位置是固定的,以及所述第一区域图像为所述车辆后方的图像,所述第二区域图像为所述车辆右方或左方的图像。
4.根据权利要求1所述的行车图像系统,其特征在于,当所述处理器判断所述第一区域图像与所述第二区域图像的所述重叠画面区域的所有物体相对于所述第一摄像装置与所述第二摄像装置都远于所述第一视野交会点时,所述处理器拼接所述第一区域图像与所述第二区域图像以产生所述合成图像;以及
当所述处理器判断所述第一区域图像或所述第二区域图像的所述重叠画面区域中有至少一物体相对于所述第一摄像装置或所述第二摄像装置近于所述第一视野交会点时,所述处理器判断所述至少一物体为所述不对应的物体。
5.根据权利要求1所述的行车图像系统,其特征在于,当判断所述第一区域图像与所述第二区域图像有所述重叠画面区域时,所述处理器经配置执行所述多个指令以:
获得所述第一区域图像与所述第二区域图像的多个第一特征点与多个第二特征点,其中所述多个第一特征点与所述多个第二特征点是接缝线的像素、邻近接缝线的像素或所述重叠画面区域内的像素;以及
对所述多个第一特征点与所述多个第二特征点进行匹配以拼接所述第一区域图像与所述第二区域图像。
6.根据权利要求1所述的行车图像系统,其特征在于,所述处理器经配置执行所述多个指令以:
计算所述第一视野交会点分别在所述第一区域图像与所述第二区域图像的像素位置,并根据所述像素位置在所述第一区域图像与所述第二区域图像所对应的画面是否匹配来判断所述第一区域图像与所述第二区域图像是否进行图像拼接。
7.一种行车图像处理方法,适用于一行车图像系统,其特征在于,包括:
通过第一摄像装置持续拍摄第一区域图像;
通过第二摄像装置持续拍摄第二区域图像,其中所述第一摄像装置与所述第二摄像装置分别配置于车辆的第一位置与第二位置;
根据所述第一摄像装置与所述第二摄像装置之间的距离、所述第一摄像装置的第一视野与所述第二摄像装置的第二视野来计算第一视野交会点;
获得所述第一区域图像的第一深度信息与所述第二区域图像的第二深度信息;
将所述第一深度信息和所述第二深度信息与所述第一视野交会点进行比较以判断所述第一区域图像与所述第二区域图像之间是否有重叠画面区域;
当判断所述第一区域图像与所述第二区域图像有所述重叠画面区域时,对所述第一区域图像与所述第二区域图像进行图像拼接以产生合成图像并且显示所述合成图像;以及
当判断所述第一区域图像与所述第二区域图像有所述重叠画面区域,但所述重叠画面区域存在不对应的物体时,分别显示所述第一区域图像与所述第二区域图像。
8.根据权利要求7所述的行车图像处理方法,其特征在于,还包括:
通过第三摄像装置持续拍摄第三区域图像;
获得所述第三区域图像中的第三深度信息;
根据所述第一摄像装置与所述第三摄像装置之间的距离、所述第一视野与所述第三摄像装置的第三视野来计算第二视野交会点;
将所述第一深度信息和所述第三深度信息与所述第二视野交会点进行比较以判断所述第一区域图像与所述第三区域图像之间是否有所述重叠画面区域;
当判断所述第一区域图像与所述第二区域图像、所述第三区域图像都有所述重叠画面区域时,对所述第一区域图像、所述第二区域图像与所述第三区域图像进行图像拼接以产生所述合成图像;以及
当判断所述第一区域图像与所述第二区域图像的所述重叠画面区域中存在所述不对应的物体,或所述第一区域图像与所述第三区域图像的所述重叠画面区域中存在所述不对应的物体时,分别显示所述第一区域图像、所述第二区域图像与所述第三区域图像。
9.根据权利要求7所述的行车图像处理方法,其特征在于,所述是否对所述第一区域图像与所述第二区域图像进行图像拼接的步骤包括:
当判断所述第一区域图像与所述第二区域图像的所述重叠画面区域的所有物体相对于所述第一摄像装置与所述第二摄像装置都远于所述第一视野交会点时,拼接所述第一区域图像与所述第二区域图像以产生所述合成图像;以及
当判断所述第一区域图像或所述第二区域图像的所述重叠画面区域中有至少一物体相对于所述第一摄像装置或所述第二摄像装置近于所述第一视野交会点时,判断所述至少一物体为所述不对应的物体。
10.根据权利要求7所述的行车图像处理方法,其特征在于,所述的对所述第一区域图像与所述第二区域图像进行图像拼接以产生所述合成图像的步骤包括:
获得所述第一区域图像与所述第二区域图像的多个第一特征点与多个第二特征点,其中所述多个第一特征点与所述多个第二特征点是接缝线的像素、邻近接缝线的像素或所述重叠画面区域内的像素;以及
对所述多个第一特征点与所述多个第二特征点进行匹配以拼接所述第一区域图像与所述第二区域图像。
11.根据权利要求7所述的行车图像处理方法,其特征在于,所述判断所述第一区域图像与所述第二区域图像是否有部分区域重叠的步骤包括:
计算所述第一视野交会点分别在所述第一区域图像与所述第二区域图像的像素位置,并根据所述像素位置在所述第一区域图像与所述第二区域图像所对应的画面是否匹配来判断所述第一区域图像与所述第二区域图像是否进行图像拼接。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811251665.4A CN111107303A (zh) | 2018-10-25 | 2018-10-25 | 行车图像系统及行车图像处理方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811251665.4A CN111107303A (zh) | 2018-10-25 | 2018-10-25 | 行车图像系统及行车图像处理方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN111107303A true CN111107303A (zh) | 2020-05-05 |
Family
ID=70418039
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201811251665.4A Pending CN111107303A (zh) | 2018-10-25 | 2018-10-25 | 行车图像系统及行车图像处理方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111107303A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2023077432A1 (zh) * | 2021-11-05 | 2023-05-11 | 深圳市大疆创新科技有限公司 | 可移动平台的控制方法、装置、可移动平台及存储介质 |
| WO2023077421A1 (zh) * | 2021-11-05 | 2023-05-11 | 深圳市大疆创新科技有限公司 | 可移动平台的控制方法、装置、可移动平台及存储介质 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102521817A (zh) * | 2011-11-22 | 2012-06-27 | 广州致远电子有限公司 | 一种用于全景泊车系统的图像融合方法 |
| CN103501415A (zh) * | 2013-10-01 | 2014-01-08 | 中国人民解放军国防科学技术大学 | 一种基于重叠部分结构变形的视频实时拼接方法 |
| CN103863192A (zh) * | 2014-04-03 | 2014-06-18 | 深圳市德赛微电子技术有限公司 | 一种车载全景成像辅助方法及其系统 |
| US20170336797A1 (en) * | 2016-05-23 | 2017-11-23 | Honda Motor Co., Ltd. | Vehicle control system, vehicle control method, and vehicle control program |
-
2018
- 2018-10-25 CN CN201811251665.4A patent/CN111107303A/zh active Pending
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102521817A (zh) * | 2011-11-22 | 2012-06-27 | 广州致远电子有限公司 | 一种用于全景泊车系统的图像融合方法 |
| CN103501415A (zh) * | 2013-10-01 | 2014-01-08 | 中国人民解放军国防科学技术大学 | 一种基于重叠部分结构变形的视频实时拼接方法 |
| CN103863192A (zh) * | 2014-04-03 | 2014-06-18 | 深圳市德赛微电子技术有限公司 | 一种车载全景成像辅助方法及其系统 |
| US20170336797A1 (en) * | 2016-05-23 | 2017-11-23 | Honda Motor Co., Ltd. | Vehicle control system, vehicle control method, and vehicle control program |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2023077432A1 (zh) * | 2021-11-05 | 2023-05-11 | 深圳市大疆创新科技有限公司 | 可移动平台的控制方法、装置、可移动平台及存储介质 |
| WO2023077421A1 (zh) * | 2021-11-05 | 2023-05-11 | 深圳市大疆创新科技有限公司 | 可移动平台的控制方法、装置、可移动平台及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US8130270B2 (en) | Vehicle-mounted image capturing apparatus | |
| CN112224132B (zh) | 一种车用全景环视障碍物预警方法 | |
| CN109948398B (zh) | 全景泊车的图像处理方法及全景泊车装置 | |
| CN102273201B (zh) | 车辆用周边监视装置以及车辆用周边图像显示方法 | |
| US8144033B2 (en) | Vehicle periphery monitoring apparatus and image displaying method | |
| US7728879B2 (en) | Image processor and visual field support device | |
| CN110796711B (zh) | 全景系统标定方法、装置、计算机可读存储介质及车辆 | |
| TWI578271B (zh) | 動態影像處理方法以及動態影像處理系統 | |
| CN113421183B (zh) | 车辆环视全景图的生成方法、装置、设备和存储介质 | |
| JP7000383B2 (ja) | 画像処理装置および画像処理方法 | |
| CN110798655A (zh) | 消除移动载具a柱盲区的行车图像系统及其图像处理方法 | |
| CN109360150A (zh) | 一种基于深度相机的全景深度图的拼接方法及装置 | |
| US8731327B2 (en) | Image processing system and image processing method | |
| CN111107303A (zh) | 行车图像系统及行车图像处理方法 | |
| JP2023046511A (ja) | 画像処理システム、画像処理方法、およびコンピュータプログラム | |
| CN116051379A (zh) | Avm图像融合方法及装置、车辆、可读存储介质 | |
| JP4830380B2 (ja) | 車両周辺監視装置及び車両周辺監視方法 | |
| CN112801874B (zh) | 一种车辆图像拼接方法、装置和车辆 | |
| KR102473404B1 (ko) | 탑뷰 제공 장치 | |
| CN115689877A (zh) | 一种全景系统亮度调节方法 | |
| CN112995529B (zh) | 一种基于光流预测的成像方法和装置 | |
| JP7213732B2 (ja) | 画像表示装置 | |
| CN116843595A (zh) | 融合摄影方法、装置、电子设备及车辆 | |
| TWI498008B (zh) | Method of Adjusting Camera Parameters of Whole - week Images | |
| KR101750156B1 (ko) | 차량의 파노라마 영상 표시장치 및 방법 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20200505 |
|
| WD01 | Invention patent application deemed withdrawn after publication |