[go: up one dir, main page]

JP2010044561A - Monitoring device to be mounted on vehicle - Google Patents

Monitoring device to be mounted on vehicle Download PDF

Info

Publication number
JP2010044561A
JP2010044561A JP2008207832A JP2008207832A JP2010044561A JP 2010044561 A JP2010044561 A JP 2010044561A JP 2008207832 A JP2008207832 A JP 2008207832A JP 2008207832 A JP2008207832 A JP 2008207832A JP 2010044561 A JP2010044561 A JP 2010044561A
Authority
JP
Japan
Prior art keywords
vehicle
image
image processing
attention
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2008207832A
Other languages
Japanese (ja)
Inventor
Hiroshi Haga
浩 芳賀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Original Assignee
Panasonic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp filed Critical Panasonic Corp
Priority to JP2008207832A priority Critical patent/JP2010044561A/en
Publication of JP2010044561A publication Critical patent/JP2010044561A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】乗員に対して、衝突に注意すべき注意物体以外に不要な注意を喚起することなく、注意物体の存在、位置および外形を適切に知らせることができる乗物搭載用監視装置を提供する。
【解決手段】本発明に係る乗物搭載用監視装置1000は、乗物周辺を被写体として撮像して画像信号を生成するカメラ10と、カメラ10により撮像された画像に映る物体の中から、乗員が衝突に注意すべき注意物体を、物体の乗物に対する接近の態様に基づいて検知する注意物体検知部20と、注意物体検知部20が注意物体を検知したとき、注意物体に対応する領域以外の領域を、注意物体に対応する領域と比較して目立たなくする画像処理を行う画像処理部30と、画像処理部30により画像処理が行われた画像を表示するモニター40とを備えている。
【選択図】図1
There is provided a vehicle mounting monitoring device capable of appropriately notifying an occupant of the presence, position, and outer shape of a cautionary object without alerting an occupant other than the cautionary object to be aware of a collision.
A vehicle mounting monitoring apparatus 1000 according to the present invention includes a camera 10 that captures an image of the periphery of the vehicle as a subject and generates an image signal, and an occupant collides among objects reflected in the image captured by the camera 10. A cautionary object detection unit 20 that detects a cautionary object to be aware of based on a mode of approach of the object to the vehicle, and when the cautionary object detection unit 20 detects the cautionary object, an area other than the area corresponding to the cautionary object is detected. The image processing unit 30 performs image processing that makes the image inconspicuous compared with the region corresponding to the attention object, and the monitor 40 displays the image that has been subjected to image processing by the image processing unit 30.
[Selection] Figure 1

Description

本発明は、乗物に搭載され、乗物周辺を監視するための乗物搭載用監視装置に関する。   The present invention relates to a vehicle mounting monitoring device that is mounted on a vehicle and monitors the periphery of the vehicle.

従来、車両に搭載される監視装置としては、複数のカメラを車両の周辺に取り付けて、これらのカメラの撮像画像を車室内のモニターに表示することで、運転者に車両の周辺状況の安全確認を促すものが知られている。ここで、例えば他車両が自車両の側方から接近してきた場合、バックミラーでは運転者は他車両を確認し難い。ところが、この監視装置によれば、自車の車両の側方から接近する他車両は車室内のモニターに表示されるので、運転者はこの他車両をモニターで確認することができる。この結果、例えば車線変更時の他車両との衝突を回避することができる。   Conventionally, as a monitoring device mounted on a vehicle, a plurality of cameras are attached to the periphery of the vehicle, and the captured images of these cameras are displayed on a monitor in the vehicle interior, so that the driver can confirm the safety of the vehicle surroundings. Something that encourages is known. Here, for example, when another vehicle approaches from the side of the host vehicle, it is difficult for the driver to check the other vehicle with the rearview mirror. However, according to this monitoring device, other vehicles approaching from the side of the vehicle of the own vehicle are displayed on the monitor in the passenger compartment, so that the driver can check the other vehicles on the monitor. As a result, for example, a collision with another vehicle at the time of lane change can be avoided.

また、運転者がモニターの表示を見落とす場合もあることを考慮して、自車両の周辺に取り付けられたカメラの撮像画像をモニターに表示するとともに、撮像画像中に接近物体があることを検知し、接近物体が存在する場合にブザー音を発生して、運転者に注意を促す監視装置が提案されている。   In addition, taking into account that the driver may overlook the display on the monitor, the captured image of the camera attached to the periphery of the vehicle is displayed on the monitor, and the presence of an approaching object is detected in the captured image. There has been proposed a monitoring device that generates a buzzer sound when an approaching object is present to alert the driver.

さらに、特許文献1には、カメラの撮像画像の中に接近車両があることを検知して、ブザー音を発生して運転者に注意を促すとともに、カメラの撮像画像に対して、スーパーインポーズ形式で、接近車両の画像上に四角枠のマークを付けて、ディスプレイ装置に表示する監視装置が開示されている。特許文献1に記載の監視装置によれば、運転者はディスプレイ装置に表示される画像上のマークによって、接近車両を識別することができる。
特開平11−321494号公報
Further, Patent Document 1 detects that there is an approaching vehicle in the captured image of the camera, generates a buzzer sound to alert the driver, and superimposes on the captured image of the camera. There is disclosed a monitoring device that forms a square frame mark on an approaching vehicle image and displays it on a display device. According to the monitoring device described in Patent Literature 1, the driver can identify the approaching vehicle by the mark on the image displayed on the display device.
Japanese Patent Laid-Open No. 11-32494

しかしながら、特許文献1に記載の監視装置では、検出された接近車両以外の車両や背景もが画像上に表示されるため、運転者は接近車両以外の画像の変化に対しても不要な注意を払ってしまうことがある。この結果、本来、自車両の前方を中心に見て運転する運転者に対して、不要な注意を喚起してしまい、運転の集中を妨げてしまうという問題があった。また、特許文献1に記載の監視装置では、接近車両の画像の上にマークを付加するので、接近車両の形状を確認し難い場合もあった。   However, in the monitoring device described in Patent Document 1, since the vehicle other than the detected approaching vehicle and the background are also displayed on the image, the driver is not required to pay attention to changes in the image other than the approaching vehicle. You may pay. As a result, there is a problem in that unnecessary attention is originally drawn to the driver who drives while looking mainly at the front of the host vehicle, and the concentration of driving is hindered. Moreover, in the monitoring apparatus described in Patent Document 1, since a mark is added on the image of the approaching vehicle, it may be difficult to confirm the shape of the approaching vehicle.

本発明は、上記従来の問題を解決するためになされたもので、乗員に対して、衝突に注意すべき注意物体以外に不要な注意を喚起することなく、注意物体の存在、位置および外形を適切に知らせることができる乗物搭載用監視装置を提供することを目的とする。   The present invention has been made to solve the above-described conventional problems, and the presence, position, and outer shape of the cautionary object can be determined without calling the occupant unnecessary attention other than the cautionary object to be aware of the collision. It is an object of the present invention to provide a vehicle-mounted monitoring device that can appropriately notify.

本発明に係る乗物搭載用監視装置は、乗物に搭載され、前記乗物周辺を監視するための乗物搭載用監視装置であって、前記乗物周辺を被写体として撮像して画像信号を生成する撮影部と、前記撮像部により撮像された画像に映る物体の中から、乗員が衝突に注意すべき注意物体を、前記物体の前記乗物に対する接近の態様に基づいて検知する注意物体検知部と、前記注意物体検知部が前記注意物体を検知したとき、前記注意物体に対応する領域以外の領域を、前記注意物体に対応する領域と比較して目立たなくする画像処理を行う画像処理部と、前記画像処理部により前記画像処理が行われた画像を表示する表示部と、を備えた構成を有している。   A vehicle mounting monitoring device according to the present invention is a vehicle mounting monitoring device that is mounted on a vehicle and monitors the periphery of the vehicle, and an imaging unit that images the periphery of the vehicle as a subject and generates an image signal; A cautionary object detection unit that detects a cautionary object to which a passenger should be aware of a collision among objects reflected in an image captured by the imaging unit based on a manner in which the object approaches the vehicle; and the cautionary object An image processing unit that performs image processing to make a region other than the region corresponding to the attention object inconspicuous when the detection unit detects the attention object; and the image processing unit And a display unit that displays an image on which the image processing has been performed.

この構成により、例えば、乗物に一定以上の接近速度で近づく物体や、乗物から一定の距離内に近づいた物体など、物体が乗物に接近する態様に応じて、乗員が衝突に注意すべき注意物体を、撮像部による撮像画像に映る物体の中から検知する。また、注意物体を検知したとき、注意物体に対応する領域以外の領域を、注意物体に対応する領域と比較して目立たなくする画像処理を行うので、注意物体以外の物体や背景と比べて、注意物体が目立つ画像を得ることができる。また、このとき生成される画像は、注意物体の領域と注意物体以外の領域との境界部が鮮明となり、注意物体の位置および外形を正確に示す画像となる。そして、このようにして画像処理が行われた画像が表示部により表示されるので、乗員は、画像処理後の画像を見ることで、注意物体以外の物体や背景の画像に気をとられることなく、注意物体の存否や位置や外形を適切に知ることができる。この結果、乗員に対して、衝突に注意すべき注意物体以外に不要な注意を喚起することなく、注意物体の存在、位置および外形を適切に知らせることができる。   With this configuration, for example, an object that approaches a vehicle at a certain approach speed or an object that approaches a vehicle within a certain distance, such as an object that approaches the vehicle, a cautionary object that the occupant should be aware of for collision Is detected from among objects reflected in the image captured by the imaging unit. In addition, when an attention object is detected, image processing is performed to make the region other than the region corresponding to the attention object inconspicuous compared to the region corresponding to the attention object. An image in which the attention object is conspicuous can be obtained. In addition, the image generated at this time has a clear boundary between the region of the attention object and the region other than the attention object, and is an image that accurately indicates the position and outline of the attention object. Since the image processed in this way is displayed on the display unit, the occupant can watch the object other than the cautionary object and the background image by looking at the image after the image processing. Therefore, the presence / absence, position, and outer shape of the attention object can be appropriately known. As a result, it is possible to appropriately notify the occupant of the presence, position, and outer shape of the cautionary object without alerting the occupant other than the cautionary object that should be careful of the collision.

また、本発明に係る乗物搭載用監視装置において、前記画像処理部は、前記注意物体に対応する領域以外の領域を、無地または無彩色の画像とする構成を有している。これにより、注意物体以外の物体や背景の画像を無地または無彩色の画像とすることができ、注意物体がより目立つ画像を得ることができる。この結果、乗員の注意を注意物体以外に喚起することを抑制できる。   In the vehicle mounting monitoring apparatus according to the present invention, the image processing unit has a configuration in which a region other than the region corresponding to the attention object is a solid or achromatic image. As a result, an object other than the attention object or an image of the background can be a plain or achromatic image, and an image in which the attention object is more conspicuous can be obtained. As a result, it is possible to prevent the occupant's attention from being aroused other than the attention object.

また、本発明に係る乗物搭載用監視装置において、前記画像処理部は、前記注意物体に対応する領域以外の領域の輝度を、前記注意物体に対応する領域の輝度よりも低くする構成を有している。これにより、注意物体以外の物体や背景と比べて、注意物体を明るくした画像を得ることができる。この結果、乗員の注意を注意物体以外に喚起することを抑制できる。   Further, in the vehicle mounting monitoring device according to the present invention, the image processing unit has a configuration in which the luminance of a region other than the region corresponding to the attention object is lower than the luminance of the region corresponding to the attention object. ing. As a result, it is possible to obtain an image in which the attention object is brighter than the object other than the attention object and the background. As a result, it is possible to prevent the occupant's attention from being aroused other than the attention object.

また、本発明に係る乗物搭載用監視装置において、前記注意物体検知部は、前記画像信号のフレーム間の変化に基づいて、前記乗物に対して相対的に移動する移動物体を、前記撮像部により撮像された画像の中から検出する移動物体検出部と、前記移動物体検出部により検出された前記移動物体のフレーム間の動きを示す動きベクトルを求める動きベクトル算出部と、を備え、前記動きベクトル算出部により算出された前記動きベクトルに基づいて前記移動物体の前記乗物への接近速度を求め、この接近速度に基づいて前記移動物体の中から前記注意物体を検知する構成を有している。   In the vehicle mounting monitoring device according to the present invention, the caution object detection unit may cause the imaging unit to detect a moving object that moves relative to the vehicle based on a change between frames of the image signal. A moving object detection unit that detects from a captured image; and a motion vector calculation unit that obtains a motion vector indicating a motion between frames of the moving object detected by the moving object detection unit. Based on the motion vector calculated by the calculation unit, an approach speed of the moving object to the vehicle is obtained, and the attention object is detected from the moving object based on the approach speed.

この構成により、注意物体を検知するに際して、まず、移動物体を検出し、移動物体のフレーム間の動きを動きベクトルで算出し、この動きベクトルに基づいて移動物体の乗物への接近速度を求めて、注意物体を検知するので、一定以上の接近速度で乗物に近づいてくる物体を注意物体として簡単に検知することができる。   With this configuration, when detecting an attention object, first, the moving object is detected, the motion between frames of the moving object is calculated as a motion vector, and the approaching speed of the moving object to the vehicle is obtained based on the motion vector. Since the caution object is detected, an object approaching the vehicle at an approach speed of a certain level or more can be easily detected as the caution object.

また、本発明に係る乗物搭載用監視装置において、前記撮像部は、複数のカメラからなるステレオカメラで構成されており、前記注意物体検知部は、前記画像信号のフレーム間の変化に基づいて、前記乗物に対して相対的に移動する移動物体を、前記撮像部により撮像された画像の中から検出する移動物体検出部と、前記ステレオカメラにより撮像される画像に基づいて、前記移動物体と前記乗物との間の距離を算出する距離算出部と、を備え、前記距離算出部により算出された距離に基づいて、前記移動物体の中から前記注意物体を検知する構成を有している。   Further, in the vehicle mounting monitoring device according to the present invention, the imaging unit is configured by a stereo camera including a plurality of cameras, and the attention object detection unit is based on a change between frames of the image signal. Based on the moving object detection unit that detects the moving object that moves relative to the vehicle from the images captured by the imaging unit, and the image that is captured by the stereo camera, the moving object and the A distance calculation unit that calculates a distance to the vehicle, and detects the attention object from among the moving objects based on the distance calculated by the distance calculation unit.

この構成により、注意物体を検知するに際して、まず、移動物体を検出し、ステレオカメラを用いて移動物体と乗物の距離を算出し、この距離に基づいて注意物体を検知するので、乗物から一定の距離内に近づいた物体を注意物体として簡単に検知することができる。   With this configuration, when detecting an attention object, first, the moving object is detected, the distance between the moving object and the vehicle is calculated using a stereo camera, and the attention object is detected based on this distance. An object approaching within the distance can be easily detected as an attention object.

また、本発明に係る乗物搭載用監視装置は、前記撮像部により撮像された画像の中に、前記乗物が走行する道路上の白線が存在するか否かを検出する白線検出部を備え、前記画像処理部は、前記注意物体検知部が前記注意物体を検知するとともに、前記白線検出部が前記白線を検出したとき、前記注意物体および前記白線に対応する領域以外の領域を、前記注意物体および前記白線に対応する領域と比較して目立たなくする画像処理を行う構成を有している。   In addition, the vehicle mounting monitoring device according to the present invention includes a white line detection unit that detects whether or not a white line on a road on which the vehicle travels exists in the image captured by the imaging unit, When the attention object detection unit detects the attention object and the white line detection unit detects the white line, the image processing unit detects an area other than the attention object and an area corresponding to the white line as the attention object and It has a configuration for performing image processing that makes it inconspicuous compared with the region corresponding to the white line.

この構成により、注意物体と道路上の白線とが目立つ画像を得ることができるので、注意物体に加えて道路上の白線に対しても乗員の注意を喚起することができる。   With this configuration, it is possible to obtain an image in which the attention object and the white line on the road are conspicuous. Therefore, it is possible to alert the passenger to the white line on the road in addition to the attention object.

本発明は、撮像部により撮像された画像に映る物体の中から、乗員が衝突に注意すべき注意物体を、物体の乗物に対する接近の態様に基づいて検知し、注意物体を検知したときには、注意物体に対応する領域以外の領域を、注意物体に対応する領域と比較して目立たなくする画像処理を行い、この画像処理が行われた画像を表示するので、乗員に対して、衝突に注意すべき注意物体以外に不要な注意を喚起することなく、注意物体の存在、位置および外形を適切に知らせることができる。   The present invention detects a cautionary object to which the occupant should be careful of a collision among objects reflected in an image captured by the imaging unit based on the approaching state of the object to the vehicle. Image processing that makes the area other than the area corresponding to the object inconspicuous compared with the area corresponding to the attention object is displayed, and the image that has been subjected to this image processing is displayed. The presence, position, and outer shape of the caution object can be appropriately notified without calling unnecessary attention other than the caution object.

(第1の実施の形態)
以下、本発明の第1の実施の形態に係る車両搭載用監視装置について、図面を用いて説明する。
本発明の第1の実施の形態の車両搭載用監視装置の構成を示すブロック図を図1に示す。
図1において、車両搭載用監視装置1000は、カメラ10と、注意物体検知部20と、画像処理部30と、モニター40とを備えている。ここでの車両搭載用監視装置1000は、車両周囲を監視するための装置であって、車両に搭載されているものである。
(First embodiment)
Hereinafter, a vehicle-mounted monitoring device according to a first embodiment of the present invention will be described with reference to the drawings.
FIG. 1 is a block diagram showing the configuration of the vehicle-mounted monitoring device according to the first embodiment of the present invention.
In FIG. 1, the vehicle-mounted monitoring device 1000 includes a camera 10, a cautionary object detection unit 20, an image processing unit 30, and a monitor 40. The vehicle mounting monitoring device 1000 here is a device for monitoring the surroundings of the vehicle, and is mounted on the vehicle.

カメラ10は、自車両の室内または室外に設置されており、自車両の周辺の所定範囲を被写体として撮像して、画像信号を生成する。カメラ10は自車両に複数設けられてもよい。なお、カメラ10は本発明の撮像部である。   The camera 10 is installed indoors or outdoors of the host vehicle, images a predetermined range around the host vehicle as a subject, and generates an image signal. A plurality of cameras 10 may be provided in the own vehicle. The camera 10 is an imaging unit of the present invention.

注意物体検知部20は、カメラ10により撮像された画像に映る物体の中から、乗員が衝突に注意すべき注意物体を検知する。ここでは、注意物体検知部20は、自車両に一定以上の接近速度で近づく物体を、注意物体として検知する。注意物体検知部20は、移動物体検出部21と、動きベクトル算出部22と、注意物体判定部23とを備える。   The caution object detection unit 20 detects an caution object that an occupant should be aware of in a collision from among objects reflected in an image captured by the camera 10. Here, the caution object detection unit 20 detects an object that approaches the host vehicle at a certain approach speed as a caution object. The attention object detection unit 20 includes a moving object detection unit 21, a motion vector calculation unit 22, and a attention object determination unit 23.

移動物体検出部21は、カメラ10により生成される画像信号のフレーム間の変化に基づいて、カメラ10の撮像画像の中から移動物体を検出する。ここでの移動物体とは、自車両に対して相対的に移動する物体である。すなわち、自車両が停止している場合であっても移動している場合であっても、移動物体検出部21は、自車両を基準として移動している物体のみを移動物体として検出する。また、移動物体の検出処理では、カメラ10の撮像画像のうちで、背景となる領域と、移動する物体(人、動物、物などの有体物)の領域とを切り分けることにより、移動物体を検出する。具体的には、移動物体検出部21が、前のフレームと現在のフレームとの間の画像信号の差分を算出することで、画像信号を解析して、変化のあった領域を移動物体の領域としてフレーム毎に検出する。   The moving object detection unit 21 detects a moving object from the captured image of the camera 10 based on the change between frames of the image signal generated by the camera 10. The moving object here is an object that moves relative to the host vehicle. That is, regardless of whether the host vehicle is stopped or moving, the moving object detection unit 21 detects only an object moving with the host vehicle as a reference. Further, in the moving object detection process, a moving object is detected by separating a background region and a moving object (a tangible object such as a person, an animal, or an object) from a captured image of the camera 10. . Specifically, the moving object detection unit 21 analyzes the image signal by calculating the difference of the image signal between the previous frame and the current frame, and determines the changed area as the area of the moving object. Is detected for each frame.

動きベクトル算出部22は、オプティカルフローを用いて、移動物体検出部21により検出された移動物体のフレーム間の動きを示す動きベクトルを求める。ここでのオプティカルフローとは、時間的に連続する画像の中で移動物体の動きをベクトルで表したものである。   The motion vector calculation unit 22 obtains a motion vector indicating the motion between frames of the moving object detected by the moving object detection unit 21 using the optical flow. The optical flow here is a vector representing the motion of a moving object in temporally continuous images.

注意物体判定部23は、動きベクトル算出部22により算出される動きベクトルに基づいて、移動物体の自車両への接近速度を求め、算出された接近速度が一定以上であるか否かによって移動物体が注意物体であるか否かを判定する。   The caution object determination unit 23 obtains the approaching speed of the moving object to the host vehicle based on the motion vector calculated by the motion vector calculation unit 22, and determines whether the moving object is equal to or greater than a certain value. Is determined to be an attention object.

画像処理部30は、注意物体検知部20が上記注意物体を検知したとき、カメラ10により撮像された画像のうち、注意物体に対応する領域以外の領域を、注意物体に対応する領域と比較して、目立たなくする画像処理を行う。   When the attention object detection unit 20 detects the attention object, the image processing unit 30 compares a region other than the region corresponding to the attention object in the image captured by the camera 10 with the region corresponding to the attention object. Image processing to make it inconspicuous.

モニター40は、画像処理部30により画像処理が行われた画像を表示する。モニター40は、乗員がモニター40の画像を視認できるように、例えば自車両の車室内の運転席近傍に取り付けられている。なお、モニター40は本発明の表示部である。   The monitor 40 displays an image that has been subjected to image processing by the image processing unit 30. The monitor 40 is attached, for example, in the vicinity of the driver's seat in the passenger compartment of the host vehicle so that the passenger can visually recognize the image on the monitor 40. The monitor 40 is a display unit of the present invention.

次に、本発明の第1の実施の形態における車両搭載用監視装置1000の動作について、図に基づいて説明する。   Next, the operation of the vehicle-mounted monitoring device 1000 according to the first embodiment of the present invention will be described with reference to the drawings.

まず、カメラ10が自車両周辺を被写体として撮像する。図2は、カメラ10により撮像された画像の一例を示す図である。図2の例では、自車両の後方を被写体として撮像した画像を示している。図2に示されるように、カメラ10の撮像画像100には、道路上を走る他車両101、道路端に固定して配置された看板などの障害物102、道路端の歩道を歩く歩行者103、車線を規制するために道路上に設けられた白線104などが含まれる。   First, the camera 10 captures an image around the subject vehicle as a subject. FIG. 2 is a diagram illustrating an example of an image captured by the camera 10. In the example of FIG. 2, the image which imaged the back of the own vehicle as a to-be-photographed is shown. As shown in FIG. 2, the captured image 100 of the camera 10 includes another vehicle 101 running on the road, an obstacle 102 such as a signboard fixed on the road end, and a pedestrian 103 walking on the sidewalk on the road end. The white line 104 provided on the road for regulating the lane is included.

次に、注意物体検知部20が、カメラ10の撮像画像100に映る物体の中から、乗員が衝突に注意すべき注意物体を検知する。ここでは、注意物体検知部20は、自車両に一定以上の接近速度で近づく物体を、注意物体として検知する。以下に図3および図4を用いて具体的に説明する。   Next, the caution object detection unit 20 detects the caution object that the occupant should be careful of in the collision from the objects shown in the captured image 100 of the camera 10. Here, the caution object detection unit 20 detects an object that approaches the host vehicle at a certain approach speed as a caution object. This will be specifically described below with reference to FIGS.

図3は、移動物体の検出結果の一例を示す図である。移動物体検出部21は、カメラ10の撮像画像100の中から移動物体を検出する。具体的には、移動物体検出部21は、前のフレームと現在のフレームとの間の画像信号の差分を算出することで、画像信号を解析して、変化のあった領域を移動物体の領域としてフレーム毎に検出する。図3に示されるように、移動物体検出部21の検出結果として、他車両101、障害物102および歩行者103が移動物体として検出された。なお、ここでの移動物体は、上述した通り、自車両に対して相対的に移動する物体である。   FIG. 3 is a diagram illustrating an example of the detection result of the moving object. The moving object detection unit 21 detects a moving object from the captured image 100 of the camera 10. Specifically, the moving object detection unit 21 analyzes the image signal by calculating a difference in the image signal between the previous frame and the current frame, and determines the changed area as the moving object area. Is detected for each frame. As shown in FIG. 3, as a detection result of the moving object detection unit 21, the other vehicle 101, the obstacle 102 and the pedestrian 103 are detected as moving objects. Note that the moving object here is an object that moves relative to the host vehicle as described above.

図4は、接近物体の検知結果の一例を示す図である。注意物体判定部23は、後で詳しく説明するように、動きベクトル算出部22により算出される動きベクトルに基づいて、移動物体検出部21で検出された移動物体の接近速度を求め、算出された接近速度が一定以上であるか否かによって移動物体が注意物体であるか否かを判定する。図4に示されるように、注意物体判定部23の判定結果として、他車両101のみが注意物体として判定された。   FIG. 4 is a diagram illustrating an example of the detection result of the approaching object. As will be described in detail later, the caution object determination unit 23 calculates the approach speed of the moving object detected by the moving object detection unit 21 based on the motion vector calculated by the motion vector calculation unit 22 and calculates It is determined whether or not the moving object is a caution object based on whether or not the approach speed is a certain level or more. As shown in FIG. 4, only the other vehicle 101 is determined as the caution object as the determination result of the caution object determination unit 23.

図5および図6は、動きベクトル算出部22による動きベクトルの算出方法を説明するための図である。ここでは、説明の便宜上、自車両の斜め後方をカメラにより撮影した画像を用いて、動きベクトルの算出方法を説明する。   5 and 6 are diagrams for explaining a motion vector calculation method by the motion vector calculation unit 22. Here, for convenience of explanation, a method for calculating a motion vector will be described using an image obtained by photographing a camera obliquely behind the host vehicle.

図5(a)は自車両の左斜め後方を撮像した画像であり、図5(b)は自車両の右斜め後方を撮像した画像である。なお、図5(a)および図5(b)では、便宜上、他車両501、503は当該車両の側面のみを表している。図5(a)に示されるように、自車両の左斜め後方を撮像した画像には、背景502の中に並走する他車両501が含まれている。図5(b)に示されるように、自車両の右斜め後方を撮像した画像には、背景504の中に並走する他車両503が含まれている。   FIG. 5A is an image obtained by imaging the left diagonal rear of the host vehicle, and FIG. 5B is an image obtained by imaging the right diagonal rear of the host vehicle. In FIG. 5A and FIG. 5B, the other vehicles 501 and 503 represent only the side surfaces of the vehicle for convenience. As shown in FIG. 5A, an image obtained by imaging the diagonally left rear of the host vehicle includes another vehicle 501 running side by side in the background 502. As shown in FIG. 5 (b), an image obtained by imaging the right rear side of the host vehicle includes another vehicle 503 running side by side in the background 504.

ここでは、図5(a)および図5(b)に示された他車両501、503および背景502、504を移動物体として、動きベクトル算出部22が動きベクトル(オプティカルフローベクトル)を求める例を説明する。動きベクトル算出部22は、まず他車両501、503や背景502、504の特徴点を抽出して、抽出された特徴点のフレーム間での変動量から動きベクトルを算出する。なお、動きベクトルの算出方法はこれに限定されず、例えば勾配法などを用いて動きベクトルを算出してもよい。   Here, an example in which the motion vector calculation unit 22 calculates a motion vector (optical flow vector) using the other vehicles 501 and 503 and the backgrounds 502 and 504 shown in FIGS. 5A and 5B as moving objects. explain. The motion vector calculation unit 22 first extracts feature points of the other vehicles 501, 503 and the backgrounds 502, 504, and calculates a motion vector from the amount of variation of the extracted feature points between frames. Note that the method of calculating the motion vector is not limited to this, and the motion vector may be calculated using, for example, a gradient method.

図6(a)および図6(b)は、動きベクトル算出部22によるオプティカルフローベクトルの算出結果の一例を示す図であって、自車両を基準とした他車両および背景のオプティカルフローベクトルを示す図である。   FIG. 6A and FIG. 6B are diagrams showing an example of the calculation result of the optical flow vector by the motion vector calculation unit 22, and show the other vehicle and the optical flow vector of the background based on the own vehicle. FIG.

図6(a)に示されるように、他車両501のオプティカルフローベクトル505は自車両の前方側に向かって矢印が向いており、背景502のオプティカルフローベクトル506は自車両の後方に向かって矢印が向いている。このことから、他車両501は自車両の後方から自車両に近づいていることがわかる。   As shown in FIG. 6A, the optical flow vector 505 of the other vehicle 501 has an arrow pointing toward the front side of the host vehicle, and the optical flow vector 506 of the background 502 is pointing toward the rear side of the host vehicle. Is suitable. From this, it can be seen that the other vehicle 501 approaches the host vehicle from behind the host vehicle.

また、図6(b)に示されるように、他車両503のオプティカルフローベクトル507は自車両の後方側に向かって矢印が向いており、背景504のオプティカルフローベクトル508は自車両の後方に向かって矢印が向いている。このことから、他車両503は自車両の後方に向かって自車両から遠ざかっていることがわかる。以上、図5および図6を用いて、動きベクトル算出部22による動きベクトルの算出方法を説明した。   As shown in FIG. 6B, the optical flow vector 507 of the other vehicle 503 has an arrow pointing toward the rear side of the own vehicle, and the optical flow vector 508 of the background 504 faces the rear side of the own vehicle. The arrow is pointing. From this, it can be seen that the other vehicle 503 is moving away from the own vehicle toward the rear of the own vehicle. The motion vector calculation method by the motion vector calculation unit 22 has been described above with reference to FIGS. 5 and 6.

次に、注意物体判定部23は、動きベクトル算出部22により算出された動きベクトルに基づいて、移動物体の自車両への接近速度を求め、算出された接近速度が一定以上であるか否かによって、移動物体が注意物体であるか否かを判定する。   Next, the caution object determination unit 23 obtains the approaching speed of the moving object to the host vehicle based on the motion vector calculated by the motion vector calculation unit 22, and determines whether or not the calculated approaching speed is a certain level or more. To determine whether or not the moving object is a caution object.

図5および図6の例を用いると、注意物体判定部23は、他車両501、503のオプティカルフローベクトル505、507の方向やオプティカルフローベクトル505、507の長さに基づいて、他車両501、503の自車両への接近速度を算出する。そして、注意物体判定部23は、算出された接近速度が予め設定された閾値以上である場合に、他車両501、503などが注意物体であると判定する。   5 and 6, the attention object determination unit 23 determines whether the other vehicle 501, the other vehicle 501, the length of the optical flow vector 505, 507 or the length of the optical flow vector 505, 507, the other vehicle 501, 503. The approach speed to the own vehicle is calculated at 503. The attention object determination unit 23 determines that the other vehicles 501 and 503 are attention objects when the calculated approach speed is equal to or higher than a preset threshold value.

このようなオプティカルフローを用いた接近検知では、1つのカメラの撮像画像のみを用いて、ほぼリアルタイムで注意物体を判別することができる。以上、注意物体判定部23による注意物体の判定方法を説明した。   In approach detection using such an optical flow, an attention object can be determined almost in real time using only a captured image of one camera. The method for determining the cautionary object by the cautionary object determination unit 23 has been described above.

図4に戻って、注意物体検知部20が他車両101を接近物体として検知したとき、画像処理部30は、カメラ10の撮像画像100のうち、他車両101に対応する領域以外の領域を、他車両101に対応する領域と比較して、目立たなくする画像処理を行う。   Returning to FIG. 4, when the attention object detection unit 20 detects the other vehicle 101 as an approaching object, the image processing unit 30 selects an area other than the area corresponding to the other vehicle 101 in the captured image 100 of the camera 10. Compared with the area corresponding to the other vehicle 101, image processing that makes it inconspicuous is performed.

図7は、画像処理部30による処理を説明するための図である。図7に示されるように、画像処理部30は、カメラ10により撮像された元の被写体の撮像画像100から他車両101だけを抜き出して、注意物体検知部20により接近物体として検知された他車両101の輪郭データを合成のキー信号として、他車両101を無地の背景に合成する。このように、画像処理部30は、カメラ10の撮像画像100のうち、他車両101に対応する領域以外の領域を無地の画像にすることで、他車両101に対応する領域以外の領域を目立たなくする画像処理を行う。   FIG. 7 is a diagram for explaining processing by the image processing unit 30. As illustrated in FIG. 7, the image processing unit 30 extracts only the other vehicle 101 from the captured image 100 of the original subject captured by the camera 10, and the other vehicle detected as an approaching object by the attention object detection unit 20. The other vehicle 101 is synthesized with a plain background using the contour data 101 as a synthesis key signal. As described above, the image processing unit 30 makes the region other than the region corresponding to the other vehicle 101 conspicuous by making the region other than the region corresponding to the other vehicle 101 out of the captured image 100 of the camera 10. Perform image processing to be eliminated.

次に、画像処理部30の画像処理の別の一例を、図8を用いて説明する。画像処理部30は、図7の例のように他車両101以外を全て表示しないで無地の画像とするのではなく、図8に示されるように、他車両101以外の画像も表示しつつ、当該他車両101に対応する領域以外の領域を無彩色としてもよい。   Next, another example of image processing of the image processing unit 30 will be described with reference to FIG. The image processing unit 30 does not display all but the other vehicle 101 as in the example of FIG. 7 and does not display a plain image, but also displays an image other than the other vehicle 101 as shown in FIG. An area other than the area corresponding to the other vehicle 101 may be achromatic.

次に、画像処理部30により画像処理が行われた画像は、モニター40に入力される。そして、モニター40は、画像処理部30により処理が行われた画像を表示する。   Next, the image subjected to the image processing by the image processing unit 30 is input to the monitor 40. The monitor 40 displays the image processed by the image processing unit 30.

このような本発明の第1の実施の形態の車両搭載用監視装置1000によれば、物体が自車両に接近する態様に応じて、乗員が衝突に注意すべき注意物体を、カメラ10の撮像画像100に映る物体の中から検知する。また、注意物体検知部20が例えば他車両101を注意物体として検知したとき、カメラ10の撮像画像100のうち、他車両101に対応する領域以外の領域を、他車両101に対応する領域と比較して、目立たなくする画像処理を行うので、注意物体以外の物体や背景と比べて、注意物体が目立つ画像を得ることができる。また、このとき生成される画像は、注意物体の領域と注意物体以外の領域との境界部が鮮明となり、注意物体の位置および外形を正確に示す画像となる。そして、このようにして画像処理が行われた画像がモニター40により表示されるので、乗員は、画像処理後の画像を見ることで、注意物体以外の物体や背景の画像に気をとられることなく、注意物体の存否や位置や外形を適切に知ることができる。この結果、乗員に対して、衝突に注意すべき注意物体以外に不要な注意を喚起することなく、注意物体の存在、位置および外形を適切に知らせることができる。   According to the vehicle mounting monitoring apparatus 1000 of the first embodiment of the present invention, the camera 10 captures a cautionary object to which the occupant should be careful of collision according to the manner in which the object approaches the host vehicle. Detection is performed from among objects reflected in the image 100. Further, when the caution object detection unit 20 detects the other vehicle 101 as the caution object, for example, a region other than the region corresponding to the other vehicle 101 in the captured image 100 of the camera 10 is compared with the region corresponding to the other vehicle 101. Then, since the image processing to make it inconspicuous is performed, it is possible to obtain an image in which the attention object is more conspicuous than the object other than the attention object and the background. In addition, the image generated at this time has a clear boundary between the region of the attention object and the region other than the attention object, and is an image that accurately indicates the position and outline of the attention object. Since the image processed in this way is displayed on the monitor 40, the occupant can watch the object other than the cautionary object and the background image by looking at the image after the image processing. Therefore, the presence / absence, position, and outer shape of the attention object can be appropriately known. As a result, it is possible to appropriately notify the occupant of the presence, position, and outer shape of the cautionary object without calling unnecessary attention other than the cautionary object to be aware of the collision.

また、本発明の第1の実施の形態の車両搭載用監視装置1000によれば、画像処理部30は、注意物体である他車両101に対応する領域以外の領域を、無地または無彩色の画像とする構成を有している。これにより、注意物体以外の物体や背景の画像を無地または無彩色の画像とすることができ、注意物体がより目立つ画像を得ることができる。この結果、乗員の注意を注意物体以外に喚起することを抑制できる。   In addition, according to the vehicle mounting monitoring apparatus 1000 of the first embodiment of the present invention, the image processing unit 30 displays a region other than the region corresponding to the other vehicle 101 that is the attention object, as a plain or achromatic image. The configuration is as follows. As a result, an object other than the caution object or an image of the background can be a plain or achromatic image, and an image in which the caution object is more conspicuous can be obtained. As a result, it is possible to prevent the occupant's attention from being aroused other than the attention object.

また、本発明の第1の実施の形態の車両搭載用監視装置1000によれば、注意物体を検知するに際して、まず、移動物体を検出し、移動物体のフレーム間の動きを動きベクトルで算出し、この動きベクトルに基づいて移動物体の自車両への接近速度を求めて、注意物体を検知するので、一定以上の接近速度で自車両に近づいてくる物体を注意物体として簡単に検知することができる。   In addition, according to the vehicle mounting monitoring apparatus 1000 of the first embodiment of the present invention, when detecting an attention object, first, the moving object is detected, and the motion between frames of the moving object is calculated using a motion vector. Since the approaching speed of the moving object to the host vehicle is determined based on the motion vector and the attention object is detected, an object approaching the host vehicle at a certain approach speed or more can be easily detected as the attention object. it can.

(第2の実施の形態)
以下、本発明の第2の実施の形態に係る車両搭載用監視装置について、図面を用いて説明する。
図9は、本発明の第2の実施の形態の車両搭載用監視装置1001の構成を示すブロック図である。
図9において、車両搭載用監視装置1001は、カメラ10Aと、注意物体検知部20Aと、画像処理部30と、モニター40とを備えている。
(Second Embodiment)
Hereinafter, a vehicle-mounted monitoring device according to a second embodiment of the present invention will be described with reference to the drawings.
FIG. 9 is a block diagram showing a configuration of a vehicle-mounted monitoring device 1001 according to the second embodiment of the present invention.
In FIG. 9, the vehicle-mounted monitoring device 1001 includes a camera 10 </ b> A, a cautionary object detection unit 20 </ b> A, an image processing unit 30, and a monitor 40.

図1と図9とを対比すると、本発明の第1の実施の形態の車両搭載用監視装置1000では、カメラ10は単一のカメラであるのに対して、本発明の第2の実施の形態の車両搭載用監視装置1001では、カメラ10Aは2つのカメラからなるステレオカメラを構成している点で相違する。   When FIG. 1 and FIG. 9 are compared, in the on-vehicle monitoring apparatus 1000 according to the first embodiment of the present invention, the camera 10 is a single camera, whereas the second embodiment of the present invention. In the vehicle-mounted monitoring apparatus 1001 of the embodiment, the camera 10A is different in that it constitutes a stereo camera composed of two cameras.

また、図1に示されるように、本発明の第1の実施の形態の車両搭載用監視装置1000の注意物体検知部20は、移動物体検出部21、動きベクトル算出部22および注意物体判定部23により構成されている。これに対して、図9に示されるように、本発明の第2の実施の形態の車両搭載用監視装置1001の注意物体検知部20Aは、移動物体検出部21、距離算出部24および注意物体判定部23Aにより構成されている。   As shown in FIG. 1, the caution object detection unit 20 of the vehicle-mounted monitoring apparatus 1000 according to the first embodiment of the present invention includes a moving object detection unit 21, a motion vector calculation unit 22, and a caution object determination unit. 23. On the other hand, as shown in FIG. 9, the caution object detection unit 20A of the vehicle-mounted monitoring device 1001 according to the second embodiment of the present invention includes a moving object detection unit 21, a distance calculation unit 24, and a caution object. It is comprised by the determination part 23A.

カメラ10Aは、基準カメラ11および参照用カメラ12を備え、これらのカメラからなるステレオカメラを構成する。カメラ10Aは、自車両の室内または室外に設置されており、自車両の周辺の所定範囲を被写体として撮像して、画像信号を生成する。基準カメラ11および参照用カメラ12は、所定の間隔を空けて配置されており、被写体を同時に撮像することができるように構成されている。なお、カメラ10Aは本発明の撮像部に相当する。   The camera 10A includes a reference camera 11 and a reference camera 12, and constitutes a stereo camera including these cameras. The camera 10 </ b> A is installed indoors or outdoors of the host vehicle, images a predetermined range around the host vehicle as a subject, and generates an image signal. The reference camera 11 and the reference camera 12 are arranged at a predetermined interval, and are configured so that a subject can be imaged simultaneously. The camera 10A corresponds to the imaging unit of the present invention.

注意物体検知部20Aは、上述の通り、移動物体検出部21と、距離算出部24と、注意物体判定部23Aとを備える。注意物体検知部20Aは、カメラ10の撮像画像に映る物体の中から、乗員が衝突に注意すべき注意物体を検知する。ここでは、第1の実施の形態と異なり、注意物体検知部20Aは、自車両から一定の距離内に近づく物体を、注意物体として検知する。   As described above, the caution object detection unit 20A includes the moving object detection unit 21, the distance calculation unit 24, and the caution object determination unit 23A. The attention object detection unit 20 </ b> A detects an attention object from which an occupant should be careful of a collision among objects reflected in a captured image of the camera 10. Here, unlike the first embodiment, the caution object detection unit 20A detects an object that approaches a certain distance from the host vehicle as a caution object.

移動物体検出部21は第1の実施の形態と同一の機能を有する。距離算出部24は、ステレオカメラを構成する基準カメラ11および参照用カメラ12により同時に撮像される2枚の画像に基づいて、移動物体検出部21により検出される移動物体と自車両との間の距離を算出する。   The moving object detection unit 21 has the same function as that of the first embodiment. The distance calculation unit 24 is based on the two images simultaneously captured by the reference camera 11 and the reference camera 12 constituting the stereo camera, and the distance between the moving object detected by the moving object detection unit 21 and the host vehicle. Calculate the distance.

注意物体判定部23Aは、距離算出部24により算出された距離に基づいて、移動物体が注意物体であるか否かを判定する。具体的には、注意物体判定部23Aは、距離算出部24により算出される移動物体と自車両との間の距離が予め設定された閾値以下であるか否かを判断し、閾値以下となった場合に当該移動物体が注意物体であると判定する。   The attention object determination unit 23A determines whether the moving object is the attention object based on the distance calculated by the distance calculation unit 24. Specifically, the attention object determination unit 23A determines whether or not the distance between the moving object calculated by the distance calculation unit 24 and the host vehicle is equal to or less than a preset threshold value, and is equal to or less than the threshold value. The moving object is determined to be an attention object.

次に、本発明の第2の実施の形態における車両搭載用監視装置1001の動作について、図に基づいて説明する。以下の説明では、第1の実施の形態と異なる処理を中心に説明する。   Next, the operation of the vehicle-mounted monitoring device 1001 according to the second embodiment of the present invention will be described with reference to the drawings. In the following description, processing different from that of the first embodiment will be mainly described.

まず、カメラ10Aが自車両周辺を被写体として撮像する。このとき、基準カメラ11および参照用カメラ12は被写体を同時に撮像する。次に、注意物体検知部20Aが、カメラ10の撮像画像に映る物体の中から、乗員が衝突に注意すべき注意物体を検知する。ここでは、注意物体検知部20Aは、自車両から一定の距離内に近づく物体を、注意物体として検知する。   First, the camera 10A takes an image of the vicinity of the host vehicle as a subject. At this time, the base camera 11 and the reference camera 12 simultaneously image the subject. Next, the caution object detection unit 20 </ b> A detects a caution object that the occupant should be aware of in a collision from among the objects shown in the captured image of the camera 10. Here, the caution object detection unit 20A detects an object approaching within a certain distance from the host vehicle as the caution object.

このとき、移動物体検出部21は、第1の実施の形態にて図3を用いて説明したように、カメラ10Aの撮像画像の中から移動物体を検出する。また、距離算出部24は、基準カメラ11および参照用カメラ12により同時に撮像される2枚の画像に基づいて、移動物体検出部21により検出される移動物体と車両との間の距離を算出する。   At this time, the moving object detection unit 21 detects a moving object from the captured image of the camera 10A, as described with reference to FIG. 3 in the first embodiment. Further, the distance calculation unit 24 calculates the distance between the moving object detected by the moving object detection unit 21 and the vehicle based on the two images simultaneously captured by the base camera 11 and the reference camera 12. .

また、注意物体判定部23Aは、距離算出部24により算出された距離に基づいて、移動物体が注意物体であるか否かを判定する。具体的には、注意物体判定部23Aは、距離算出部24により算出される移動物体と自車両との間の距離が予め設定された閾値以下であるか否かを判断し、閾値以下となった場合に当該移動物体が注意物体であると判定する。   The attention object determination unit 23A determines whether or not the moving object is the attention object based on the distance calculated by the distance calculation unit 24. Specifically, the attention object determination unit 23A determines whether or not the distance between the moving object calculated by the distance calculation unit 24 and the host vehicle is equal to or less than a preset threshold value, and is equal to or less than the threshold value. The moving object is determined to be an attention object.

次に、画像処理部30は、第1の実施の形態で図7を用いて説明したように、注意物体である他車両101に対応する領域以外の領域を無地の画像にすることで、他車両101に対応する領域以外の領域を他車両101に対応する領域と比較して目立たなくする画像処理を行う。なお、画像処理部30は、図8を用いて説明したように、注意物体に対応する領域以外の領域を無彩色としてもよい。   Next, as described with reference to FIG. 7 in the first embodiment, the image processing unit 30 converts the region other than the region corresponding to the other vehicle 101 that is the attention object into a plain image, Image processing that makes the region other than the region corresponding to the vehicle 101 inconspicuous in comparison with the region corresponding to the other vehicle 101 is performed. Note that the image processing unit 30 may set a region other than the region corresponding to the attention object to an achromatic color, as described with reference to FIG.

次に、画像処理部30により画像処理が行われた被写体の画像は、モニター40に入力される。そして、モニター40は、画像処理部30により処理が行われた画像を表示する。   Next, the image of the subject that has been subjected to image processing by the image processing unit 30 is input to the monitor 40. The monitor 40 displays the image processed by the image processing unit 30.

このような本発明の第2の実施の形態の車両搭載用監視装置1001によれば、注意物体を検知するに際して、まず、移動物体検出部21により移動物体を検出し、ステレオカメラを用いて移動物体と車両との距離を算出し、この距離に基づいて注意物体を検知するので、自車両から一定の距離内に近づいた物体を注意物体として簡単に検知することができる。   According to the on-vehicle monitoring apparatus 1001 according to the second embodiment of the present invention, when detecting an attention object, first, the moving object detection unit 21 detects the moving object and moves using the stereo camera. Since the distance between the object and the vehicle is calculated and the attention object is detected based on this distance, an object approaching within a certain distance from the host vehicle can be easily detected as the attention object.

(第3の実施の形態)
以下、本発明の第3の実施の形態に係る車両搭載用監視装置について、図面を用いて説明する。
図10は本発明の第3の実施の形態の車両搭載用監視装置1002の構成を示すブロック図である。図10において、車両搭載用監視装置1002は、カメラ10と、注意物体検知部20と、画像処理部30Aと、モニター40と、白線検出部50とを備えている。
(Third embodiment)
Hereinafter, a vehicle-mounted monitoring device according to a third embodiment of the present invention will be described with reference to the drawings.
FIG. 10 is a block diagram showing a configuration of a vehicle-mounted monitoring device 1002 according to the third embodiment of the present invention. In FIG. 10, the vehicle-mounted monitoring device 1002 includes a camera 10, a cautionary object detection unit 20, an image processing unit 30 </ b> A, a monitor 40, and a white line detection unit 50.

図1と図10とを対比すると、第3の実施の形態の車両搭載用監視装置1002には、白線検出部50が新たに追加して設けられている。   When FIG. 1 is compared with FIG. 10, a white line detection unit 50 is newly provided in the vehicle-mounted monitoring device 1002 according to the third embodiment.

白線検出部50はカメラ10により撮像される画像の中に、自車両が走行する道路上の白線が存在するか否かを検出する。具体的には、白線検出部50による白線検出処理は、例えば特開2006−134232号公報に開示されているように、カメラの撮像画像から路面上の白線を検出する画像処理プログラムによって行われる。この白線検出処理では、まず、撮像画像を輝度によって2値化し、2値化後の画像において路面上の白線に該当すると考えられる画素(以下、白線候補点という)を選出する。そして、白線候補点が直線的に並んでいれば、選出された白線候補点は路面上の白線であると判断する。ここで直線的に並んでいることの判断には例えばハフ変換などの手段が用いられる。   The white line detection unit 50 detects whether or not there is a white line on the road on which the host vehicle travels in the image captured by the camera 10. Specifically, white line detection processing by the white line detection unit 50 is performed by an image processing program that detects a white line on a road surface from an image captured by a camera, as disclosed in, for example, Japanese Patent Application Laid-Open No. 2006-134232. In this white line detection process, first, the captured image is binarized by luminance, and pixels that are considered to correspond to white lines on the road surface in the binarized image (hereinafter referred to as white line candidate points) are selected. If the white line candidate points are linearly arranged, it is determined that the selected white line candidate point is a white line on the road surface. Here, for example, a means such as a Hough transform is used to determine that the lines are arranged in a straight line.

画像処理部30Aは、注意物体検知部20が注意物体を検知するとともに、白線検出部50が白線を検出したとき、カメラ10の撮像画像のうち、注意物体および白線に対応する領域以外の領域を、注意物体および白線に対応する領域と比較して、目立たなくする画像処理を行う。   When the attention object detection unit 20 detects the attention object and the white line detection unit 50 detects the white line, the image processing unit 30A detects an area other than the area corresponding to the attention object and the white line in the captured image of the camera 10. Compared with the region corresponding to the attention object and the white line, image processing that makes it inconspicuous is performed.

次に、本発明の第3の実施の形態における車両搭載用監視装置1002の動作について、図に基づいて説明する。以下の説明では、第1の実施の形態と異なる処理を中心に説明する。   Next, the operation of the vehicle-mounted monitoring device 1002 according to the third embodiment of the present invention will be described with reference to the drawings. In the following description, processing different from that of the first embodiment will be mainly described.

注意物体検知部20が、カメラ10の撮像画像に映る物体の中から、注意物体を検知する。また、白線検出部50が、カメラ10により撮像される画像の中に、自車両が走行する道路上の白線が存在するか否かを検出する。白線検出部50による白線検出処理は、上述したように、カメラ10の撮像画像から路面上の白線を検出する画像処理プログラムによって行われる。   The caution object detection unit 20 detects the caution object from the objects shown in the captured image of the camera 10. Further, the white line detection unit 50 detects whether or not a white line on the road on which the host vehicle travels is present in the image captured by the camera 10. As described above, the white line detection processing by the white line detection unit 50 is performed by an image processing program that detects a white line on the road surface from an image captured by the camera 10.

次に、画像処理部30Aは、注意物体検知部20が接近物体を検知するとともに、白線検出部50が白線を検出したとき、カメラ10の撮像画像のうち、注意物体および白線に対応する領域以外の領域を、注意物体および白線に対応する領域と比較して、目立たなくする画像処理を行う。   Next, when the attention object detection unit 20 detects an approaching object and the white line detection unit 50 detects a white line, the image processing unit 30A includes a region other than the region corresponding to the attention object and the white line in the captured image of the camera 10. Is compared with the region corresponding to the attention object and the white line, and image processing is performed to make the region inconspicuous.

図11は、画像処理部30Aによる画像処理を説明するための図である。ここでは、図7での説明と同様に、注意物体検知部20は、他車両101を注意物体として検知したとする。図11に示されるように、画像処理部30Aは、カメラ10の撮像画像100のうち、注意物体である他車両101と白線104とに対応する領域以外の領域を無地の画像とすることで、他車両101および白線104に対応する領域以外の領域を他車両101および白線104に対応する領域と比較して目立たなくする画像処理を行う。なお、本実施形態においても、第1の実施形態と同様に、図8を用いて説明したように、画像処理部30Aは、他車両101および白線104以外を全て表示しないで無地の画像とするのではなく、他車両101および白線104以外の画像も表示しつつ、当該他車両101および白線104に対応する領域以外の領域を無彩色としてもよい。   FIG. 11 is a diagram for explaining image processing by the image processing unit 30A. Here, similarly to the description in FIG. 7, it is assumed that the caution object detection unit 20 detects the other vehicle 101 as the caution object. As shown in FIG. 11, the image processing unit 30 </ b> A sets a region other than the region corresponding to the other vehicle 101 and the white line 104, which are objects of attention, in the captured image 100 of the camera 10 as a plain image. Image processing that makes the region other than the region corresponding to the other vehicle 101 and the white line 104 inconspicuous in comparison with the region corresponding to the other vehicle 101 and the white line 104 is performed. In this embodiment as well, as described with reference to FIG. 8, the image processing unit 30 </ b> A does not display all but the other vehicle 101 and the white line 104, as in the first embodiment. Instead of displaying the image other than the other vehicle 101 and the white line 104, an area other than the area corresponding to the other vehicle 101 and the white line 104 may be achromatic.

次に、画像処理部30Aにより画像処理が行われた画像は、モニター40に入力される。そして、モニター40は、画像処理部30Aにより処理が行われた画像を表示する。   Next, the image subjected to the image processing by the image processing unit 30A is input to the monitor 40. The monitor 40 displays the image processed by the image processing unit 30A.

このような本発明の第3の実施の形態の車両搭載用監視装置1002によれば、カメラ10の撮像画像の中に、白線検出部50により自車両が走行する道路上の白線が存在するか否かを検出し、注意物体検知部20が注意物体を検知するとともに、白線検出部50が白線を検出したとき、画像処理部30Aにより、カメラ10の撮像画像のうち、注意物体および白線に対応する領域以外の領域を、注意物体および白線に対応する領域と比較して、目立たなくする画像処理を行う。これにより、注意物体と道路上の白線とが目立つ画像を得ることができるので、注意物体に加えて道路上の白線に対しても乗員の注意を喚起することができる。   According to the on-vehicle monitoring apparatus 1002 of the third embodiment of the present invention, whether there is a white line on the road on which the host vehicle travels by the white line detection unit 50 in the captured image of the camera 10. When the caution object detection unit 20 detects the caution object and the white line detection unit 50 detects the white line, the image processing unit 30A handles the caution object and the white line in the captured image of the camera 10. An area other than the area to be compared is compared with the area corresponding to the attention object and the white line, and image processing is performed to make the area less noticeable. As a result, an image in which the attention object and the white line on the road are conspicuous can be obtained, so that the occupant's attention can be given to the white line on the road in addition to the attention object.

以上、本発明の実施の形態を例示により説明したが、本発明の範囲はこれらに限定されるものではなく、請求項に記載された範囲内において目的に応じて変更・変形することが可能である。   The embodiments of the present invention have been described above by way of example, but the scope of the present invention is not limited to these embodiments, and can be changed or modified in accordance with the purpose within the scope of the claims. is there.

上記実施態様では、画像処理部30、30Aは、注意物体である他車両101に対応する領域以外を無地または無彩色の画像にして、注意物体に対応する領域以外の領域を、注意物体に対応する領域と比較して目立たなくする画像処理を行うと説明した。これに対して、画像処理部30、30Aは、注意物体に対応する領域以外の領域の輝度が、注意物体に対応する領域の輝度よりも低くなる画像処理を行ってもよい。これにより、注意物体以外の物体や背景と比べて、注意物体を明るくした画像を得ることができる。この結果、乗員の注意を注意物体以外に喚起することを抑制できる。   In the above embodiment, the image processing units 30 and 30A convert a region other than the region corresponding to the other vehicle 101 that is the attention object to a plain or achromatic image, and correspond to the region other than the region corresponding to the attention object to the attention object. It has been described that the image processing is made inconspicuous compared with the area to be performed. On the other hand, the image processing units 30 and 30A may perform image processing in which the luminance of the region other than the region corresponding to the attention object is lower than the luminance of the region corresponding to the attention object. As a result, it is possible to obtain an image in which the attention object is brighter than the object other than the attention object and the background. As a result, it is possible to prevent the occupant's attention from being aroused other than the attention object.

また、画像処理部30、30Aは、注意物体に対応する領域以外の領域を無地または無彩色の画像にするとともに、注意物体に対応する領域以外の領域の輝度を、注意物体に対応する領域の輝度よりも低くする画像処理を行ってもよい。これにより、注意物体以外の物体や背景と比べて、注意物体が明るく目立つ画像を得ることができる。この結果、乗員の注意を注意物体以外に喚起することを抑制できる。   In addition, the image processing units 30 and 30A make a region other than the region corresponding to the attention object a solid or achromatic image, and the luminance of the region other than the region corresponding to the attention object is set to the luminance of the region corresponding to the attention object. You may perform the image process made lower than a brightness | luminance. Thereby, it is possible to obtain an image in which the attention object is brighter and more conspicuous than the object other than the attention object and the background. As a result, it is possible to prevent the occupant's attention from being aroused other than the attention object.

以上のように、本発明は、乗員に対して、衝突に注意をすべき注意物体以外に不要な注意を喚起することなく、注意物体の存在、位置および外形を適切に知らせることができるという優れた効果を有し、例えば車両に搭載され、車両周辺を監視する車両用監視装置などに有用である。   As described above, the present invention is capable of appropriately notifying an occupant of the presence, position, and outer shape of a caution object without calling unnecessary caution other than the caution object that should be careful of the collision. For example, it is useful for a vehicle monitoring device that is mounted on a vehicle and monitors the periphery of the vehicle.

本発明の第1の実施の形態の車両搭載用監視装置の構成を示すブロック図The block diagram which shows the structure of the monitoring apparatus for vehicle mounting of the 1st Embodiment of this invention カメラにより撮像された画像の一例を示す図The figure which shows an example of the image imaged with the camera 移動物体の検出結果の一例を示す図A figure showing an example of the detection result of a moving object 注意物体の検知結果の一例を示す図Diagram showing an example of the detection result of a caution object (a) 動きベクトル算出部による動きベクトルの算出方法を説明するための図 (b) 動きベクトル算出部による動きベクトルの算出方法を説明するための図(A) The figure for demonstrating the calculation method of the motion vector by a motion vector calculation part (b) The figure for demonstrating the calculation method of the motion vector by a motion vector calculation part (a) 動きベクトル算出部による動きベクトルの算出方法を説明するための図 (b) 動きベクトル算出部による動きベクトルの算出方法を説明するための図(A) The figure for demonstrating the calculation method of the motion vector by a motion vector calculation part (b) The figure for demonstrating the calculation method of the motion vector by a motion vector calculation part 本発明の第1の実施の形態における画像処理部による画像処理を説明するための図The figure for demonstrating the image processing by the image process part in the 1st Embodiment of this invention 本発明の第1の実施の形態における画像処理部による画像処理の別の例を説明するための図The figure for demonstrating another example of the image processing by the image processing part in the 1st Embodiment of this invention 本発明の第2の実施の形態の車両搭載用監視装置の構成を示すブロック図The block diagram which shows the structure of the monitoring apparatus for vehicle mounting of the 2nd Embodiment of this invention. 本発明の第3の実施の形態の車両搭載用監視装置の構成を示すブロック図The block diagram which shows the structure of the monitoring apparatus for vehicle mounting of the 3rd Embodiment of this invention. 本発明の第3の実施の形態における画像処理部による画像処理を説明するための図The figure for demonstrating the image processing by the image process part in the 3rd Embodiment of this invention

符号の説明Explanation of symbols

10、10A カメラ
11 基準カメラ
12 参照用カメラ
20、20A 注意物体検知部
21 移動物体検出部
22 動きベクトル算出部
23、23A 注意物体判定部
24 距離算出部
30、30A 画像処理部
40 モニター
50 白線検出部
1000、1001、1002 車両搭載用監視装置
10, 10A camera 11 reference camera 12 reference camera 20, 20A attention object detection unit 21 moving object detection unit 22 motion vector calculation unit 23, 23A attention object determination unit 24 distance calculation unit 30, 30A image processing unit 40 monitor 50 white line detection 1000, 1001, 1002 Vehicle-mounted monitoring device

Claims (6)

乗物に搭載され、前記乗物周辺を監視するための乗物搭載用監視装置であって、
前記乗物周辺を被写体として撮像して画像信号を生成する撮影部と、
前記撮像部により撮像された画像に映る物体の中から、乗員が衝突に注意すべき注意物体を、前記物体の前記乗物に対する接近の態様に基づいて検知する注意物体検知部と、
前記注意物体検知部が前記注意物体を検知したとき、前記注意物体に対応する領域以外の領域を、前記注意物体に対応する領域と比較して目立たなくする画像処理を行う画像処理部と、
前記画像処理部により前記画像処理が行われた画像を表示する表示部と、
を備えたことを特徴とする乗物搭載用監視装置。
A vehicle mounting monitoring device mounted on a vehicle for monitoring the periphery of the vehicle,
An imaging unit that images the periphery of the vehicle as a subject and generates an image signal;
A cautionary object detection unit that detects a cautionary object to which a occupant should be careful of a collision among objects reflected in an image captured by the imaging unit, based on a manner in which the object approaches the vehicle;
An image processing unit that performs image processing to make a region other than the region corresponding to the caution object inconspicuous when the caution object detection unit detects the caution object;
A display unit that displays the image subjected to the image processing by the image processing unit;
A vehicle mounting monitoring device characterized by comprising:
前記画像処理部は、前記注意物体に対応する領域以外の領域を、無地または無彩色の画像とすることを特徴とする請求項1に記載の乗物搭載用監視装置。   The vehicle mounting monitoring apparatus according to claim 1, wherein the image processing unit sets a region other than the region corresponding to the attention object as a plain or achromatic image. 前記画像処理部は、前記注意物体に対応する領域以外の領域の輝度を、前記注意物体に対応する領域の輝度よりも低くすることを特徴とする請求項1または2に記載の乗物搭載用監視装置。   3. The vehicle mounting monitor according to claim 1, wherein the image processing unit makes the brightness of an area other than the area corresponding to the attention object lower than the brightness of the area corresponding to the attention object. apparatus. 前記注意物体検知部は、
前記画像信号のフレーム間の変化に基づいて、前記乗物に対して相対的に移動する移動物体を、前記撮像部により撮像された画像の中から検出する移動物体検出部と、
前記移動物体検出部により検出された前記移動物体のフレーム間の動きを示す動きベクトルを求める動きベクトル算出部と、を備え、
前記動きベクトル算出部により算出された前記動きベクトルに基づいて前記移動物体の前記乗物への接近速度を求め、この接近速度に基づいて前記移動物体の中から前記注意物体を検知することを特徴とする請求項1ないし3のいずれかに記載の乗物搭載用監視装置。
The attention object detection unit is
A moving object detection unit that detects a moving object that moves relative to the vehicle based on a change between frames of the image signal from an image captured by the imaging unit;
A motion vector calculation unit for obtaining a motion vector indicating a motion between frames of the moving object detected by the moving object detection unit,
An approach speed of the moving object to the vehicle is obtained based on the motion vector calculated by the motion vector calculation unit, and the attention object is detected from the moving object based on the approach speed. The vehicle mounting monitoring device according to any one of claims 1 to 3.
前記撮像部は、複数のカメラからなるステレオカメラで構成されており、
前記注意物体検知部は、
前記画像信号のフレーム間の変化に基づいて、前記乗物に対して相対的に移動する移動物体を、前記撮像部により撮像された画像の中から検出する移動物体検出部と、
前記ステレオカメラにより撮像される画像に基づいて、前記移動物体と前記乗物との間の距離を算出する距離算出部と、を備え、
前記距離算出部により算出された距離に基づいて、前記移動物体の中から前記注意物体を検知することを特徴とする請求項1ないし3のいずれかに記載の乗物搭載用監視装置。
The imaging unit is composed of a stereo camera composed of a plurality of cameras,
The attention object detection unit is
A moving object detection unit that detects a moving object that moves relative to the vehicle based on a change between frames of the image signal from an image captured by the imaging unit;
A distance calculation unit that calculates a distance between the moving object and the vehicle based on an image captured by the stereo camera;
The vehicle mounting monitoring apparatus according to claim 1, wherein the attention object is detected from the moving objects based on the distance calculated by the distance calculation unit.
前記撮像部により撮像された画像の中に、前記乗物が走行する道路上の白線が存在するか否かを検出する白線検出部を備え、
前記画像処理部は、前記注意物体検知部が前記注意物体を検知するとともに、前記白線検出部が前記白線を検出したとき、前記注意物体および前記白線に対応する領域以外の領域を、前記注意物体および前記白線に対応する領域と比較して目立たなくする画像処理を行うことを特徴とする請求項1ないし5のいずれかに記載の乗物搭載用監視装置。
A white line detection unit for detecting whether or not a white line on a road on which the vehicle travels exists in the image captured by the imaging unit;
The image processing unit detects an area other than the area corresponding to the attention object and the white line when the attention object detection section detects the attention object and the white line detection section detects the white line. 6. The vehicle mounting monitoring apparatus according to claim 1, wherein image processing is performed to make the image inconspicuous in comparison with an area corresponding to the white line.
JP2008207832A 2008-08-12 2008-08-12 Monitoring device to be mounted on vehicle Pending JP2010044561A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008207832A JP2010044561A (en) 2008-08-12 2008-08-12 Monitoring device to be mounted on vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008207832A JP2010044561A (en) 2008-08-12 2008-08-12 Monitoring device to be mounted on vehicle

Publications (1)

Publication Number Publication Date
JP2010044561A true JP2010044561A (en) 2010-02-25

Family

ID=42015903

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008207832A Pending JP2010044561A (en) 2008-08-12 2008-08-12 Monitoring device to be mounted on vehicle

Country Status (1)

Country Link
JP (1) JP2010044561A (en)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011108217A1 (en) * 2010-03-01 2011-09-09 本田技研工業株式会社 Vehicle perimeter monitoring device
WO2013042767A1 (en) * 2011-09-21 2013-03-28 本田技研工業株式会社 Apparatus for monitoring surroundings of vehicle
WO2013084317A1 (en) * 2011-12-07 2013-06-13 トヨタ自動車株式会社 Display control device
JPWO2011132388A1 (en) * 2010-04-19 2013-07-18 本田技研工業株式会社 Vehicle periphery monitoring device
EP2591984A3 (en) * 2011-11-08 2014-05-07 Delphi Technologies, Inc. Vehicle camera system with replay
JP2014116756A (en) * 2012-12-07 2014-06-26 Toyota Motor Corp Periphery monitoring system
CN107627957A (en) * 2016-07-19 2018-01-26 株式会社久保田 Operation Van
JP2020112698A (en) * 2019-01-11 2020-07-27 株式会社リコー Display control device, display device, display system, moving body, program, image generation method
CN113370896A (en) * 2020-02-21 2021-09-10 丰田自动车株式会社 Electronic mirror system for vehicle
WO2022070426A1 (en) * 2020-10-02 2022-04-07 日本電気株式会社 Information processing device, image transmission system, and information processing method
JP2022081286A (en) * 2020-11-19 2022-05-31 住友重機械工業株式会社 Periphery monitoring device
JP2023141646A (en) * 2022-03-24 2023-10-05 株式会社トヨタマップマスター Information processing device, coloring method, coloring program, and storage medium
DE102023132030A1 (en) * 2023-11-17 2025-05-22 Bayerische Motoren Werke Aktiengesellschaft Control device and method for controlling a digital rearview mirror of a motor vehicle

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011108217A1 (en) * 2010-03-01 2011-09-09 本田技研工業株式会社 Vehicle perimeter monitoring device
CN102783144A (en) * 2010-03-01 2012-11-14 本田技研工业株式会社 Surrounding Monitoring Devices for Vehicles
EP2544449A4 (en) * 2010-03-01 2014-01-01 Honda Motor Co Ltd DEVICE FOR MONITORING THE PERIMETER OF A VEHICLE
JP5503728B2 (en) * 2010-03-01 2014-05-28 本田技研工業株式会社 Vehicle periphery monitoring device
US8953840B2 (en) 2010-03-01 2015-02-10 Honda Motor Co., Ltd. Vehicle perimeter monitoring device
JPWO2011132388A1 (en) * 2010-04-19 2013-07-18 本田技研工業株式会社 Vehicle periphery monitoring device
WO2013042767A1 (en) * 2011-09-21 2013-03-28 本田技研工業株式会社 Apparatus for monitoring surroundings of vehicle
JPWO2013042767A1 (en) * 2011-09-21 2015-03-26 本田技研工業株式会社 Vehicle periphery monitoring device
EP2591984A3 (en) * 2011-11-08 2014-05-07 Delphi Technologies, Inc. Vehicle camera system with replay
WO2013084317A1 (en) * 2011-12-07 2013-06-13 トヨタ自動車株式会社 Display control device
JPWO2013084317A1 (en) * 2011-12-07 2015-04-27 トヨタ自動車株式会社 Display control device
JP2014116756A (en) * 2012-12-07 2014-06-26 Toyota Motor Corp Periphery monitoring system
CN107627957A (en) * 2016-07-19 2018-01-26 株式会社久保田 Operation Van
JP2020112698A (en) * 2019-01-11 2020-07-27 株式会社リコー Display control device, display device, display system, moving body, program, image generation method
US11752940B2 (en) 2019-01-11 2023-09-12 Ricoh Company, Ltd. Display controller, display system, mobile object, image generation method, and carrier means
CN113370896A (en) * 2020-02-21 2021-09-10 丰田自动车株式会社 Electronic mirror system for vehicle
CN113370896B (en) * 2020-02-21 2023-11-10 丰田自动车株式会社 Electronic mirror systems for vehicles
WO2022070426A1 (en) * 2020-10-02 2022-04-07 日本電気株式会社 Information processing device, image transmission system, and information processing method
JPWO2022070426A1 (en) * 2020-10-02 2022-04-07
JP7540497B2 (en) 2020-10-02 2024-08-27 日本電気株式会社 Information processing device, image transmission system, information processing method and program
US12518546B2 (en) 2020-10-02 2026-01-06 Nec Corporation Information processing apparatus, image transmission system, and information processing method
JP2022081286A (en) * 2020-11-19 2022-05-31 住友重機械工業株式会社 Periphery monitoring device
JP7488753B2 (en) 2020-11-19 2024-05-22 住友重機械工業株式会社 Periphery monitoring device
JP2023141646A (en) * 2022-03-24 2023-10-05 株式会社トヨタマップマスター Information processing device, coloring method, coloring program, and storage medium
DE102023132030A1 (en) * 2023-11-17 2025-05-22 Bayerische Motoren Werke Aktiengesellschaft Control device and method for controlling a digital rearview mirror of a motor vehicle

Similar Documents

Publication Publication Date Title
JP2010044561A (en) Monitoring device to be mounted on vehicle
JP5577398B2 (en) Vehicle periphery monitoring device
JP4173901B2 (en) Vehicle periphery monitoring device
JP5099451B2 (en) Vehicle periphery confirmation device
JP5639283B2 (en) Vehicle periphery monitoring device
EP2352136B1 (en) System for monitoring the area around a vehicle
US10866416B2 (en) Display control device and display control method
KR101888960B1 (en) Apparatus and method for measuring the flatness of the road
KR101093316B1 (en) Image Matching Method and System for Driving a Vehicle
WO2010058821A1 (en) Approaching object detection system
WO2010122828A1 (en) Vehicle surrounding monitoring device
CN104756172A (en) Reverse movement indicator device for vehicles
JP4687411B2 (en) Vehicle peripheral image processing apparatus and program
JP4872245B2 (en) Pedestrian recognition device
JP4644273B2 (en) Vehicle periphery monitoring device
JP4173902B2 (en) Vehicle periphery monitoring device
KR101117969B1 (en) Vehicle surrounding information service system
JP4528283B2 (en) Vehicle periphery monitoring device
JP5192007B2 (en) Vehicle periphery monitoring device
JP5172482B2 (en) Vehicle periphery monitoring device
JP5192009B2 (en) Vehicle periphery monitoring device
JP2011103058A (en) Erroneous recognition prevention device
JP2009126493A (en) Obstacle detection device
JP2009214790A (en) Apparatus and method for imaging, and apparatus and method for processing image
JP5157845B2 (en) Visual assistance device