[go: up one dir, main page]

JP2019075625A - Periphery monitoring device - Google Patents

Periphery monitoring device Download PDF

Info

Publication number
JP2019075625A
JP2019075625A JP2017198847A JP2017198847A JP2019075625A JP 2019075625 A JP2019075625 A JP 2019075625A JP 2017198847 A JP2017198847 A JP 2017198847A JP 2017198847 A JP2017198847 A JP 2017198847A JP 2019075625 A JP2019075625 A JP 2019075625A
Authority
JP
Japan
Prior art keywords
vehicle
image
tow vehicle
towed vehicle
tow
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017198847A
Other languages
Japanese (ja)
Other versions
JP7110577B2 (en
Inventor
哲也 丸岡
Tetsuya Maruoka
哲也 丸岡
渡邊 一矢
Kazuya Watanabe
一矢 渡邊
欣司 山本
Kinji Yamamoto
欣司 山本
いつ子 福島
Itsuko Fukushima
いつ子 福島
孝之 中所
Takayuki Nakadokoro
孝之 中所
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd filed Critical Aisin Seiki Co Ltd
Priority to JP2017198847A priority Critical patent/JP7110577B2/en
Priority to US16/754,436 priority patent/US11591018B2/en
Priority to CN201880060960.3A priority patent/CN111108023B/en
Priority to PCT/JP2018/037479 priority patent/WO2019073938A1/en
Publication of JP2019075625A publication Critical patent/JP2019075625A/en
Application granted granted Critical
Publication of JP7110577B2 publication Critical patent/JP7110577B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】被牽引車両の認識状況が把握しやすい周辺監視装置を提供する。【解決手段】周辺監視装置はCPUに、取得部44と、認識部46と、制御部50を備える。取得部は、被牽引車両が連結可能な牽引車両から当該牽引車両の後方領域を撮像した撮像画像を取得する。認識部は、撮像画像に基づき連結状態の被牽引車両を認識する。制御部は、認識部の認識結果に基づいて、被牽引車両が検出できているか否かを判定し、判定の結果に応じて、牽引車両または被牽引車両の状態を示す指標の表示態様を決定し表示する。【選択図】図4PROBLEM TO BE SOLVED: To provide a peripheral monitoring device in which a recognition status of a towed vehicle can be easily grasped. A peripheral monitoring device includes a CPU, an acquisition unit 44, a recognition unit 46, and a control unit 50. The acquisition unit acquires a captured image of the rear region of the towed vehicle from the towed vehicle to which the towed vehicle can be connected. The recognition unit recognizes the towed vehicle in the connected state based on the captured image. The control unit determines whether or not the towed vehicle can be detected based on the recognition result of the recognition unit, and determines the display mode of the index indicating the state of the towed vehicle or the towed vehicle according to the determination result. And display. [Selection diagram] FIG. 4

Description

本発明の実施形態は、周辺監視装置に関する。   Embodiments of the present invention relate to a perimeter monitoring device.

従来、被牽引車両(トレーラ)を牽引する牽引車両(トラクタ)が知られている。牽引車両の後部には、牽引ブラケットおよびカップリングボール(ヒッチボール)等で構成される牽引装置が設けられ、被牽引車両の先端には被牽引装置(カプラ)が設けられている。そして、ヒッチボールとカプラを接続することで、牽引車両は被牽引車両を旋回可能に牽引する。牽引車両に対して変化する被牽引車両の連結角度を、例えば、被牽引車両の前面に貼り付けた目標マークを牽引車両の後部に設けられたカメラで撮像し、画像処理により認識することで検出するシステムが知られている。   DESCRIPTION OF RELATED ART Conventionally, the tow vehicle (tractor) which pulls a tow vehicle (trailer) is known. At the rear of the tow vehicle, there is provided a tow device including a tow bracket and a coupling ball (hitch ball), and a tow device (coupler) is provided at the tip of the tow vehicle. Then, by connecting the hitch ball and the coupler, the tow vehicle can tow the tow vehicle so that the tow vehicle can turn. The connection angle of the towed vehicle, which changes with respect to the tow vehicle, is detected, for example, by imaging the target mark attached to the front of the tow vehicle with a camera provided at the rear of the tow vehicle and recognizing it by image processing. Systems are known.

米国特許出願公開第2014/0200759号明細書U.S. Patent Application Publication No. 2014/0200759

しかしながら従来技術の場合、システムが被牽引車両を認識できているか否か分からない場合があった。例えば、目標マークの周辺が暗く撮像した画像の品質が低い場合、画像処理による目標マークの認識(検出)が十分にできない場合がある。また、目標マークが汚れている場合、目標マーク自体の撮像が不能になる場合があり、この場合も目標マークの認識ができないことになる。このような場合で、撮像画像に被牽引車両が映っているにも拘わらず、システムでは被牽引車両の認識ができておらず、被牽引車両を含めた車両制御(処理)が中断されてしまう場合がある。このような場合、運転者は、なぜ制御が中断されているのか分からず、状況把握が困難になってしまう場合があった。そこで、被牽引車両の認識(検出)状況が把握しやすい周辺監視装置が提供できればシステムの制御(処理)状況を理解させやすく有意義である。   However, in the case of the prior art, it may not be known whether the system can recognize the towed vehicle. For example, when the quality of the image in which the periphery of the target mark is dark is low, the target mark may not be sufficiently recognized (detected) by image processing. In addition, when the target mark is dirty, imaging of the target mark itself may become impossible, and in this case as well, the target mark can not be recognized. In such a case, although the towed vehicle appears in the captured image, the system can not recognize the towed vehicle, and the vehicle control (processing) including the towed vehicle is interrupted. There is a case. In such a case, the driver may not understand why the control is interrupted, which may make it difficult to grasp the situation. Therefore, it is meaningful to easily understand the control (processing) state of the system if it is possible to provide a surrounding area monitoring device in which the recognition (detection) state of the towed vehicle can be easily grasped.

本発明の実施形態にかかる周辺監視装置は、例えば、被牽引車両が連結可能な牽引車両から当該牽引車両の後方領域を撮像した撮像画像を取得する取得部と、上記撮像画像に基づき連結状態の上記被牽引車両を認識する認識部と、上記認識部の認識結果に基づいて、上記被牽引車両が検出できているか否かを判定し、当該判定の結果に応じて、前記牽引車両または被牽引車両の状態を示す指標の表示態様を決定し表示させる制御部と、を備える。この構成によれば、例えば、被牽引車両が認識できているか否かが明示されるため、現在どのような制御状態であるか等の状況把握を運転者にさせやすくなる。   The periphery monitoring device according to an embodiment of the present invention, for example, an acquisition unit that acquires a captured image obtained by capturing a rear region of the tow vehicle from the tow vehicle to which the tow vehicle can be connected; It is determined whether or not the towed vehicle can be detected based on the recognition unit that recognizes the towed vehicle and the recognition result of the recognition unit, and the tow vehicle or the towed is determined according to the result of the determination. And a controller configured to determine and display a display mode of an indicator indicating a state of the vehicle. According to this configuration, for example, since it is clearly indicated whether or not the to-be-driven vehicle can be recognized, it becomes easy for the driver to grasp the situation such as what kind of control state it is.

また、実施形態にかかる周辺監視装置の上記制御部は、例えば、上記認識部が上記被牽引車両を認識できない場合、上記指標を非表示にするようにしてもよい。この構成によれば、例えば、被牽引車両を認識できていない状態(例えば、非接続の状態や見失いの状態等)であることを直感的に運転者に認識させやすくなる。   In addition, the control unit of the periphery monitoring device according to the embodiment may hide the index, for example, when the recognition unit can not recognize the towed vehicle. According to this configuration, for example, it becomes easy for the driver to intuitively recognize that the towed vehicle can not be recognized (for example, a disconnected state, a lost state, etc.).

また、実施形態にかかる周辺監視装置の上記制御部は、例えば、上記牽引車両の舵角に基づき上記牽引車両が後退する場合に当該牽引車両の現在の舵角に基づく移動位置予測線を上記撮像画像に前記指標として重畳表示するとともに、上記被牽引車両の認識時と非認識時とで上記移動位置予測線の表示態様を異ならせるようにしてもよい。この構成によれば、例えば、牽引車両を後退させる場合に、注目させやすい牽引車両の状態を示す指標としての移動位置予測線の表示態様が、被牽引車両の認識時と非認識時とで変化するので、被牽引車両を認識できていない状態(例えば、非接続の状態や見失いの状態等)であることを直感的に運転者にさらに認識させやすくなる。   The control unit of the periphery monitoring device according to the embodiment may, for example, capture the movement position prediction line based on the current steering angle of the tow vehicle when the tow vehicle moves backward based on the steer angle of the tow vehicle. The display mode of the movement position prediction line may be made different between the time of recognition of the towed vehicle and the time of non-recognition while being displayed superimposed on the image as the index. According to this configuration, for example, when moving the tow vehicle backward, the display mode of the movement position prediction line as an index indicating the state of the tow vehicle that is easy to draw attention changes between when the tow vehicle is recognized and when it is not recognized This makes it easier for the driver to intuitively recognize that the towed vehicle can not be recognized (for example, a disconnected state, a lost state, etc.).

また、実施形態にかかる周辺監視装置において、例えば、上記取得部は、上記牽引車両の周辺の画像をさらに取得し、上記制御部は、上記指標として上記被牽引車両を示す車両マークを表示させる場合、上記周辺の画像に基づく車両周辺画像における上記被牽引車両の表示対応位置に重畳表示させるようにしてもよい。この構成によれば、例えば、被牽引車両を認識部が認識できない場合で、指標の表示態様によって制御上、被牽引車両が非認識であることを運転者が理解できる場合でも、車両周辺画像内に含まれる被牽引車両の画像から当該被牽引車両の状態が確認できるため、車両周辺画像上で指標が表示されるべき位置を確認することで、被牽引車両の有無や被牽引車両が連結されている場合は連結角度等を認識させやすくなる。   In the surroundings monitoring device according to the embodiment, for example, the acquisition unit further acquires an image of the periphery of the tow vehicle, and the control unit displays a vehicle mark indicating the tow vehicle as the index. The display may be made to be superimposed on the display corresponding position of the towed vehicle in the vehicle peripheral image based on the peripheral image. According to this configuration, for example, when the recognition unit can not recognize the tow vehicle, the driver can understand that the tow vehicle is not recognized in control by the display mode of the index; Since the state of the to-be-towed vehicle can be confirmed from the image of the to-be-towed vehicle included in the vehicle, the presence or absence of the to-be-towed vehicle and the to-be-towed vehicle are connected by confirming the position where the index should be displayed When it is set, it becomes easy to recognize a connection angle etc.

図1は、実施形態にかかる周辺監視装置を搭載する牽引車両と被牽引車両の連結状態の一例を模式的に示す側面図である。FIG. 1 is a side view schematically showing an example of a connected state of a tow vehicle and a tow vehicle equipped with the periphery monitoring device according to the embodiment. 図2は、実施形態にかかる周辺監視装置を搭載する牽引車両と被牽引車両の連結状態の一例を模式的に示す上面図である。FIG. 2 is a top view schematically showing an example of a connected state of the tow vehicle and the tow vehicle on which the periphery monitoring device according to the embodiment is mounted. 図3は、実施形態にかかる周辺監視装置を含む周辺監視システムの構成の例示的なブロック図である。FIG. 3 is an exemplary block diagram of a configuration of a surrounding area monitoring system including the surrounding area monitoring device according to the embodiment. 図4は、実施形態にかかる周辺監視装置のCPUの構成の例示的なブロック図である。FIG. 4 is an exemplary block diagram of a CPU configuration of the periphery monitoring device according to the embodiment. 図5は、実施形態にかかる周辺監視装置を含む周辺監視システムの撮像部で撮像された牽引車両と被牽引車両との連結部の画像であり、牽引車両に対して被牽引車両が連結角度θで連結されているときの画像の一例を示す模式図である。FIG. 5 is an image of the connecting portion between the tow vehicle and the tow vehicle, which is captured by the imaging unit of the surrounding area monitoring system according to the embodiment, and the tow vehicle has a connection angle θ with respect to the tow vehicle. It is a schematic diagram which shows an example of the image when connected by two. 図6は、実施形態にかかる周辺監視装置において、被牽引車両が認識できない場合に被牽引車両を示す指標が非表示になっている場合を示す画像の一例を示す模式図である。FIG. 6 is a schematic view showing an example of an image showing a case where the index indicating the towed vehicle is not displayed when the towed vehicle can not be recognized in the periphery monitoring device according to the embodiment. 図7は、実施形態にかかる周辺監視装置において、被牽引車両が認識されている場合に被牽引車両を示す指標が表示されている場合を示す画像の一例を示す模式図である。FIG. 7 is a schematic view showing an example of an image showing a case where an indicator indicating a towed vehicle is displayed when the towed vehicle is recognized in the periphery monitoring device according to the embodiment. 図8は、実施形態にかかる周辺監視装置において、被牽引車両が認識できている場合に表示される被牽引車両を示す指標の表示態様の一例を示す模式図である。FIG. 8 is a schematic view showing an example of a display mode of an indicator indicating the towed vehicle displayed when the towed vehicle can be recognized in the periphery monitoring device according to the embodiment. 図9は、実施形態にかかる周辺監視装置において、被牽引車両が認識できない場合に表示される被牽引車両を示す指標の表示態様の一例を示す模式図である。FIG. 9 is a schematic view showing an example of a display mode of an indicator indicating the towed vehicle displayed when the towed vehicle can not be recognized in the periphery monitoring device according to the embodiment. 図10は、実施形態にかかる周辺監視装置において、被牽引車両が認識できない場合に表示される被牽引車両を示す指標の表示態様の他の例を示す模式図である。FIG. 10 is a schematic view showing another example of the display mode of the indicator indicating the towed vehicle displayed when the towed vehicle can not be recognized in the periphery monitoring device according to the embodiment. 図11は、実施形態にかかる周辺監視装置において、被牽引車両が認識できていない場合に表示される被牽引車両を示す指標と、後退時の牽引車両の移動位置予測線の表示態様の一例を示す模式図である。FIG. 11 is an example of an indicator indicating the towed vehicle displayed when the towed vehicle can not be recognized and a display mode of the movement position prediction line of the tow vehicle at the time of backward movement in the periphery monitoring device according to the embodiment; It is a schematic diagram shown. 図12は、実施形態にかかる周辺監視装置において、被牽引車両が認識できている場合に表示される被牽引車両を示す指標と、後退時の牽引車両の移動位置予測線の表示態様の一例を示す模式図である。FIG. 12 shows an example of an indicator indicating the towed vehicle displayed when the towed vehicle can be recognized and a display mode of the movement position prediction line of the tow vehicle at the time of backward movement in the periphery monitoring device according to the embodiment; It is a schematic diagram shown. 図13は、実施形態にかかる周辺監視装置による指標の表示処理手順の一例を説明するフローチャートである。FIG. 13 is a flowchart for explaining an example of a display processing procedure of the index by the periphery monitoring device according to the embodiment.

以下、本発明の例示的な実施形態が開示される。以下に示される実施形態の構成、ならびに当該構成によってもたらされる作用、結果、および効果は、一例である。本発明は、以下の実施形態に開示される構成以外によっても実現可能であるとともに、基本的な構成に基づく種々の効果や、派生的な効果のうち、少なくとも一つを得ることが可能である。   In the following, exemplary embodiments of the present invention are disclosed. The configurations of the embodiments shown below, and the operations, results, and effects provided by the configurations are examples. The present invention can be realized by configurations other than the configurations disclosed in the following embodiments, and at least one of various effects based on the basic configuration and derivative effects can be obtained. .

図1は、実施形態の周辺監視装置を搭載する牽引車両10および牽引車両10に牽引される被牽引車両12が示された側面図である。図1では、紙面左方向を牽引車両10を基準とする前方、紙面右方向を牽引車両10を基準とする後方としている。図2は、図1に示す牽引車両10および被牽引車両12の上面図である。また、図3は、牽引車両10に搭載される周辺監視装置を含む周辺監視システム100の構成の例示的なブロック図である。   FIG. 1 is a side view showing a tow vehicle 10 equipped with the periphery monitoring device of the embodiment and a tow vehicle 12 to be towed by the tow vehicle 10. In FIG. 1, the left direction in the drawing is the front with respect to the tow vehicle 10, and the right direction in the drawing is the rear with respect to the tow vehicle 10. FIG. 2 is a top view of the tow vehicle 10 and the tow vehicle 12 shown in FIG. Also, FIG. 3 is an exemplary block diagram of a configuration of a surrounding area monitoring system 100 including a surrounding area monitoring device mounted on the tow vehicle 10. As shown in FIG.

牽引車両10は、例えば、内燃機関(エンジン、図示されず)を駆動源とする自動車(内燃機関自動車)であってもよいし、電動機(モータ、図示されず)を駆動源とする自動車(電気自動車、燃料電池自動車等)であってもよいし、それらの双方を駆動源とする自動車(ハイブリッド自動車)であってもよい。牽引車両10は図1に示されるようなスポーツ用多目的車両(Sport Utility Vehicle:SUV)であってもよいし、車両の後ろ側に荷台が設けられている、いわゆる「ピックアップトラック」であってもよい。また、一般的な乗用車であってもよい。牽引車両10は、種々の変速装置を搭載することができるし、内燃機関や電動機を駆動するのに必要な種々の装置(システム、部品等)を搭載することができる。また、牽引車両10における車輪14(前輪14F、後輪14R)の駆動に関わる装置の方式や、数、レイアウト等は、種々に設定することができる。   The tow vehicle 10 may be, for example, an automobile (internal combustion engine automobile) whose source is an internal combustion engine (engine, not shown) or an automobile (electricity source) whose source is a motor (not shown). It may be a car, a fuel cell car, etc.), or may be a car (hybrid car) that uses both of them as a driving source. The tow vehicle 10 may be a sport utility vehicle (SUV) as shown in FIG. 1, or may be a so-called "pickup truck" provided with a platform behind the vehicle. Good. In addition, it may be a general passenger car. The tow vehicle 10 can carry various transmissions, and can carry various devices (systems, parts, etc.) necessary for driving an internal combustion engine or a motor. In addition, the system, number, layout, and the like of devices related to driving of the wheels 14 (front wheels 14F, rear wheels 14R) in the tow vehicle 10 can be set variously.

牽引車両10のリヤバンパ16の例えば車幅方向の中央部の下部からは、被牽引車両12を牽引するための牽引装置18(ヒッチ)が突出している。牽引装置18は牽引車両10の例えばフレームに固定されている。牽引装置18は、一例として、垂直方向(車両上下方向)に立設された先端部が球状のヒッチボール18aを備え、このヒッチボール18aに、被牽引車両12に固定された連結部材20の先端部に設けられたカプラ20aが覆い被さる。その結果、牽引車両10と被牽引車両12とが連結されるとともに、牽引車両10に対して被牽引車両12が車幅方向に揺動(旋回)可能となっている。つまり、ヒッチボール18aは、被牽引車両12(連結部材20)に前後左右の動きを伝え、また加速や減速のパワーを受け止めることになる。   A traction device 18 (hitch) for towing the towed vehicle 12 protrudes from a lower portion of, for example, a central portion in the vehicle width direction of the rear bumper 16 of the tow vehicle 10. The traction device 18 is fixed to, for example, the frame of the tow vehicle 10. As an example, the traction device 18 includes a hitch ball 18a having a spherical tip end erected vertically (in the vertical direction of the vehicle), and the tip end of the connecting member 20 fixed to the tow vehicle 12 to the hitch ball 18a. The coupler 20a provided in the part covers. As a result, the tow vehicle 10 and the tow vehicle 12 are connected, and the tow vehicle 12 can swing (turn) in the vehicle width direction with respect to the tow vehicle 10. In other words, the hitch ball 18a transmits the front / rear / left / right motion to the towed vehicle 12 (connection member 20) and receives the power of acceleration or deceleration.

被牽引車両12は、例えば、図1に示すように、搭乗空間、居住区間、収納空間等のうち少なくとも一つを含む箱形タイプであってもよいし、荷物(例えば、コンテナやボート等)を搭載する荷台タイプであってもよい。図1に示す被牽引車両12は、一例として一対のトレーラ車輪22を備える。図1の被牽引車両12は、駆動輪や操舵輪を含まない従動輪を備える従動車両である。   The towed vehicle 12 may be, for example, a box type including at least one of a boarding space, a living space, a storage space, etc. as shown in FIG. 1, or luggage (for example, a container, a boat, etc.) It may be a platform type on which the The towed vehicle 12 shown in FIG. 1 includes a pair of trailer wheels 22 as an example. The towed vehicle 12 of FIG. 1 is a driven vehicle provided with driven wheels and driven wheels that do not include steering wheels.

牽引車両10の後側のリヤハッチ10aの下方の壁部には、撮像部24が設けられている。撮像部24は、例えば、CCD(Charge Coupled Device)やCIS(CMOS Image Sensor)等の撮像素子を内蔵するデジタルカメラである。撮像部24は、所定のフレームレートで動画データ(撮像画像データ)を出力することができる。撮像部24は、広角レンズまたは魚眼レンズを有し、水平方向には例えば140°〜220°の範囲を撮像することができる。また、撮像部24の光軸は斜め下方に向けて設定されている。よって、撮像部24は、牽引車両10の後端部、連結部材20および被牽引車両12の少なくとも前端部を含む領域(例えば、二点鎖線で示す範囲、図1参照)を逐次撮影し、撮像画像データとして出力する。撮像部24によって撮像された撮像画像データは、被牽引車両12の認識および、牽引車両10と被牽引車両12の連結状態(例えば、連結角度、連結の有無等)の検出に用いることができる。この場合、撮像部24の撮像した撮像画像データに基づき牽引車両10と被牽引車両12との連結状態や連結角度が取得できるので、システム構成が簡略化できるとともに、演算処理や画像処理の負荷が軽減できる。なお、牽引車両10は、当該牽引車両10のフロントバンパ16aの上方に牽引車両10のフロントバンパ16aを含む前方領域を撮像する撮像部24aを備えている。そして、例えば、牽引車両10が前進走行可能な状態のときに、牽引車両10の前方の状況を示す画像を表示装置26に表示できるように構成されている。なお、牽引車両10は、側方を撮像する撮像部を備えてもよい。さらに、被牽引車両12の側方や後方に撮像部を備えてもよい。複数の撮像部で得られた撮像画像データに基づいて演算処理や画像処理を実行し、より広い視野角の画像を生成したり、牽引車両10を上方から見た仮想的な俯瞰画像(平面画像)を生成したりしてもよい。   An imaging unit 24 is provided on the lower wall of the rear hatch 10 a on the rear side of the tow vehicle 10. The imaging unit 24 is, for example, a digital camera that incorporates an imaging element such as a charge coupled device (CCD) or a CMOS image sensor (CIS). The imaging unit 24 can output moving image data (captured image data) at a predetermined frame rate. The imaging unit 24 has a wide-angle lens or a fisheye lens, and can image a range of, for example, 140 ° to 220 ° in the horizontal direction. Further, the optical axis of the imaging unit 24 is set obliquely downward. Therefore, the imaging unit 24 sequentially captures an image of an area including the rear end portion of the tow vehicle 10, the connection member 20, and at least the front end portion of the tow vehicle 12 (for example, the range indicated by a two-dot chain line; see FIG. 1) Output as image data. The captured image data captured by the imaging unit 24 can be used for recognition of the towed vehicle 12 and detection of the connection state (for example, connection angle, presence / absence of connection, etc.) of the tow vehicle 10 and the tow vehicle 12. In this case, since the connection state and connection angle of the tow vehicle 10 and the tow vehicle 12 can be acquired based on the captured image data captured by the imaging unit 24, the system configuration can be simplified, and the load of arithmetic processing and image processing can be obtained. It can be reduced. The tow vehicle 10 is provided with an imaging unit 24 a that images a front region including the front bumper 16 a of the tow vehicle 10 above the front bumper 16 a of the tow vehicle 10. Then, for example, when the tow vehicle 10 is capable of traveling forward, an image indicating the situation in front of the tow vehicle 10 can be displayed on the display device 26. In addition, the tow vehicle 10 may be provided with the imaging part which images a side. Furthermore, an imaging unit may be provided on the side or the rear of the driven vehicle 12. Arithmetic processing and image processing are executed based on captured image data obtained by a plurality of imaging units to generate an image with a wider viewing angle or a virtual overhead image (planar image when the towing vehicle 10 is viewed from above ) May be generated.

また、図3に示されるように、牽引車両10の車室内には、表示装置26や、音声出力装置28等が設けられている。表示装置26は、例えば、LCD(Liquid Crystal Display)や、OELD(Organic Electroluminescent Display)等である。音声出力装置28は、一例として、スピーカである。また、本実施形態では、一例として、表示装置26は、透明な操作入力部30(例えば、タッチパネル等)で覆われている。運転者(利用者)は、操作入力部30を介して表示装置26の画面に表示される映像(画像)を視認することができる。また、運転者は、表示装置26の画面に表示される映像(画像)に対応した位置で手指等により操作入力部30を触れたり押したり動かしたりして操作することで、操作入力(指示入力)を実行することができる。また、本実施形態では、一例として、表示装置26や、音声出力装置28、操作入力部30等は、ダッシュボードの車幅方向(左右方向)の中央部に位置されたモニタ装置32に設けられている。モニタ装置32は、スイッチや、ダイヤル、ジョイスティック、押しボタン等の操作入力部(図示されず)を有することができる。また、モニタ装置32とは異なる車室内の他の位置に音声出力装置(図示されず)を設けることができるし、モニタ装置32の音声出力装置28と他の音声出力装置から、音声を出力することができる。また、本実施形態では、一例として、モニタ装置32は、ナビゲーションシステムやオーディオシステムと兼用されているが、周辺監視装置用のモニタ装置を、これらシステムとは別に設けてもよい。   In addition, as shown in FIG. 3, a display device 26, an audio output device 28, and the like are provided in the cabin of the tow vehicle 10. The display device 26 is, for example, an LCD (Liquid Crystal Display), an OELD (Organic Electroluminescent Display), or the like. The audio output device 28 is a speaker as an example. Moreover, in the present embodiment, as an example, the display device 26 is covered with a transparent operation input unit 30 (for example, a touch panel or the like). The driver (user) can visually recognize the video (image) displayed on the screen of the display device 26 through the operation input unit 30. In addition, the driver operates the operation input unit 30 by touching, pushing or moving the operation input unit 30 with a finger or the like at a position corresponding to the image (image) displayed on the screen of the display device 26. ) Can be performed. Further, in the present embodiment, as an example, the display device 26, the voice output device 28, the operation input unit 30, and the like are provided in the monitor device 32 positioned at the center of the dashboard in the vehicle width direction (left and right direction). ing. The monitor device 32 can have an operation input unit (not shown) such as a switch, a dial, a joystick, or a push button. In addition, an audio output device (not shown) can be provided at another position in the vehicle compartment different from the monitor device 32, and audio is output from the audio output device 28 of the monitor device 32 and another audio output device. be able to. Further, in the present embodiment, the monitor device 32 is also used as a navigation system and an audio system as an example, but a monitor device for a periphery monitoring device may be provided separately from these systems.

表示装置26は、例えば、周辺監視システム100において、牽引車両10に連結される被牽引車両12が認識(検出)できているか否かが判定され、その判定の結果に応じて、牽引車両10または被牽引車両12の状態を示す指標を表示するとともに、被牽引車両12の認識(検出)状態に応じて指標の表示態様を変化させた表示を行うことができる。例えば、被牽引車両12が認識できている場合には、表示装置26の画面上の所定の領域に被牽引車両12の状態を示す指標としてトレーラアイコン(車両マーク)を表示することができる。また、別の例では、表示装置26に表示される牽引車両10の状態を示す情報(例えば、牽引車両10が後退移動するときに移動位置(方向)を示す移動位置予測線等)を被牽引車両12が認識されているか否かを示す指標として兼用して、被牽引車両12の認識時と非認識時とで表示形態を変化させて表示することができる。なお、表示装置26の表示内容の詳細は後述するが、表示装置26には、撮像部24で撮像した被牽引車両12に対応する画像や被牽引車両12の実画像が表示可能で、指標としてのトレーラアイコンや移動位置予測線等が、その画像や実像に対応付けられて表示される。   The display device 26 determines whether the towed vehicle 12 connected to the tow vehicle 10 can be recognized (detected) in, for example, the periphery monitoring system 100, and the tow vehicle 10 or the tow vehicle 10 according to the result of the determination. While displaying the index which shows the state of the towed vehicle 12, the display which changed the display mode of the index according to the recognition (detection) state of the towed vehicle 12 can be performed. For example, when the towed vehicle 12 can be recognized, a trailer icon (vehicle mark) can be displayed in a predetermined area on the screen of the display device 26 as an index indicating the state of the towed vehicle 12. In another example, information indicating the state of the tow vehicle 10 displayed on the display device 26 (for example, a movement position prediction line indicating a movement position (direction) when the tow vehicle 10 moves backward) is towed. The display mode can be changed and displayed between the time of recognition of the towed vehicle 12 and the time of non-recognition as an index indicating whether the vehicle 12 is recognized or not. Although details of the display content of the display device 26 will be described later, an image corresponding to the towed vehicle 12 captured by the imaging unit 24 and an actual image of the towed vehicle 12 can be displayed on the display device 26. The trailer icon, the movement position prediction line, and the like are displayed in association with the image and the real image.

また、牽引車両10の車室内には、表示装置26とは別の表示装置34が設けられていてもよい。表示装置34は、例えば、ダッシュボードの計器盤部に設けられてもよい。表示装置34の画面の大きさは、表示装置26の画面の大きさよりも小さくすることができる。表示装置34は、牽引車両10に連結された被牽引車両12が認識できた場合に表示される被牽引車両12を示すトレーラアイコンやマーク、メッセージを簡易的に示すことができる。表示装置34で表示される情報量は、表示装置26で表示される情報量より少なくてもよい。表示装置34は、例えば、LCDや、OELD等である。また、表示装置34は、LED等で構成されてもよい。   In addition, a display device 34 different from the display device 26 may be provided in the cabin of the tow vehicle 10. The display device 34 may be provided, for example, in the dashboard section of the dashboard. The size of the screen of the display device 34 can be smaller than the size of the screen of the display device 26. The display device 34 can simply show a trailer icon, a mark, and a message indicating the towed vehicle 12 displayed when the towed vehicle 12 connected to the tow vehicle 10 can be recognized. The amount of information displayed on the display device 34 may be smaller than the amount of information displayed on the display device 26. The display device 34 is, for example, an LCD, an OELD, or the like. Further, the display device 34 may be configured by an LED or the like.

また、周辺監視システム100(周辺監視装置)では、ECU36(Electronic Control Unit)や、モニタ装置32の他、舵角センサ38、シフトセンサ40等が、電気通信回線としての車内ネットワーク42を介して電気的に接続されている。車内ネットワーク42は、例えば、CAN(Controller Area Network)として構成されている。ECU36は、車内ネットワーク42を介して、舵角センサ38、シフトセンサ40等の検出結果や、操作入力部30等の操作信号等を受け取り、制御に反映させることができる。   Further, in the periphery monitoring system 100 (periphery monitoring device), in addition to the ECU 36 (Electronic Control Unit) and the monitor device 32, the steering angle sensor 38, the shift sensor 40 and the like are electrically connected via the in-vehicle network 42 as a telecommunication line. Connected. The in-vehicle network 42 is configured as, for example, a CAN (Controller Area Network). The ECU 36 can receive the detection results of the steering angle sensor 38, the shift sensor 40 and the like, the operation signal of the operation input unit 30 and the like via the in-vehicle network 42, and can reflect the result in control.

ECU36は、例えば、CPU36a(Central Processing Unit)や、ROM36b(Read Only Memory)、RAM36c(Random Access Memory)、SSD36d(Solid State Drive、フラッシュメモリ)、表示制御部36e、音声制御部36f等を有している。CPU36aは、例えば、表示装置26,34で表示される画像に関連した画像処理や、牽引車両10に連結された被牽引車両12の認識(検出)処理やその検出結果に基づく表示処理等、各種の演算処理および制御を実行することができる。CPU36aは、ROM36b等の不揮発性の記憶装置にインストールされ記憶されたプログラムを読み出し、当該プログラムにしたがって演算処理を実行することができる。RAM36cは、CPU36aでの演算で用いられる各種のデータを一時的に記憶する。また、表示制御部36eは、ECU36での演算処理のうち、主として、表示装置26,34で表示される画像データの合成等を実行する。また、音声制御部36fは、ECU36での演算処理のうち、主として、音声出力装置28で出力される音声データの処理を実行する。また、SSD36dは、書き換え可能な不揮発性の記憶部であって、ECU36の電源がオフされた場合にあってもデータを記憶することができる。なお、CPU36aや、ROM36b、RAM36c等は、同一パッケージ内に集積されうる。また、ECU36は、CPU36aに替えて、DSP(Digital Signal Processor)等の他の論理演算プロセッサや論理回路等が用いられる構成であってもよい。また、SSD36dに替えてHDD(Hard Disk Drive)が設けられてもよいし、SSD36dやHDDは、ECU36とは別に設けられてもよい。   The ECU 36 has, for example, a CPU 36a (Central Processing Unit), a ROM 36b (Read Only Memory), a RAM 36c (Random Access Memory), an SSD 36d (Solid State Drive, flash memory), a display control unit 36e, an audio control unit 36f, and the like. ing. The CPU 36a performs various processes such as image processing related to the image displayed on the display devices 26 and 34, recognition (detection) processing of the towed vehicle 12 connected to the tow vehicle 10, display processing based on the detection result, Calculation processing and control can be performed. The CPU 36a can read a program installed and stored in a non-volatile storage device such as the ROM 36b and execute arithmetic processing according to the program. The RAM 36c temporarily stores various data used in the calculation in the CPU 36a. In addition, the display control unit 36 e mainly performs, among the arithmetic processing in the ECU 36, composition of image data displayed on the display devices 26 and 34. Further, the voice control unit 36 f mainly performs the processing of voice data output from the voice output device 28 among the calculation processing in the ECU 36. The SSD 36 d is a rewritable non-volatile storage unit, and can store data even when the power of the ECU 36 is turned off. The CPU 36a, the ROM 36b, the RAM 36c, and the like can be integrated in the same package. Further, the ECU 36 may be configured to use another logical operation processor such as a DSP (Digital Signal Processor) or a logic circuit instead of the CPU 36a. Also, an HDD (Hard Disk Drive) may be provided instead of the SSD 36 d, and the SSD 36 d and the HDD may be provided separately from the ECU 36.

舵角センサ38は、例えば、牽引車両10のステアリングホイール等の操舵部の操舵量(牽引車両10の舵角)を検出するセンサである。舵角センサ38は、例えば、ホール素子などを用いて構成される。ECU36は、運転者による操舵部の操舵量や、自動操舵時の各車輪14の操舵量等を、舵角センサ38から取得して各種制御を実行する。なお、舵角センサ38は、操舵部に含まれる回転部分の回転角度を検出する。舵角センサ38は、角度センサの一例である。   The steering angle sensor 38 is, for example, a sensor that detects a steering amount of a steering unit such as a steering wheel of the tow vehicle 10 (a steering angle of the tow vehicle 10). The steering angle sensor 38 is configured using, for example, a Hall element or the like. The ECU 36 acquires the steering amount of the steering unit by the driver, the steering amount of each wheel 14 at the time of automatic steering, and the like from the steering angle sensor 38 and executes various controls. The steering angle sensor 38 detects the rotation angle of the rotating portion included in the steering unit. The steering angle sensor 38 is an example of an angle sensor.

シフトセンサ40は、例えば、変速操作部(例えば、シフトレバー)の可動部の位置を検出するセンサである。シフトセンサ40は、可動部としての、レバーや、アーム、ボタン等の位置を検出することができる。シフトセンサ40は、変位センサを含んでもよいし、スイッチとして構成されてもよい。   The shift sensor 40 is, for example, a sensor that detects the position of a movable portion of a shift operation unit (for example, a shift lever). The shift sensor 40 can detect the position of a lever, an arm, a button or the like as the movable portion. The shift sensor 40 may include a displacement sensor or may be configured as a switch.

なお、上述した各種センサ等の構成や、配置、電気的な接続形態等は、一例であって、種々に設定(変更)することができる。   The configuration, arrangement, electrical connection form and the like of the various sensors described above are merely examples, and can be set (changed) in various ways.

図4は、ECU36に含まれるCPU36aの構成の例示的なブロック図である。CPU36aは、牽引車両10に連結される被牽引車両12を認識したり、認識結果を示す指標を表示したり、その表示態様を変化させたりする処理を実現するための各種モジュールを備える。各種モジュールは、CPU36aがROM36b等の記憶装置にインストールされ記憶されたプログラムを読み出し、それを実行することで実現される。例えば、CPU36aは、図4に示されるように、取得部44、認識部46、画像変換部48、制御部50等のモジュールを備える。   FIG. 4 is an exemplary block diagram of the configuration of the CPU 36a included in the ECU 36. As shown in FIG. The CPU 36a includes various modules for realizing processing of recognizing the towed vehicle 12 connected to the tow vehicle 10, displaying an index indicating the recognition result, and changing the display mode. The various modules are realized by the CPU 36 a reading a program installed and stored in a storage device such as the ROM 36 b and executing the program. For example, as shown in FIG. 4, the CPU 36a includes modules such as an acquisition unit 44, a recognition unit 46, an image conversion unit 48, and a control unit 50.

取得部44は、被牽引車両12を認識しているか否かを示す指標として、例えば、トレーラアイコンを表示したり、被牽引車両12を認識していることを示すとともに牽引車両10の移動方向等を示すガイド線(例えば、目安線や移動位置予測線等)を表示したりするために用いる各種情報を取得する。取得部44は、例えば、画像取得部44a、舵角取得部44b、シフト位置取得部44c、連結角度取得部44d、監視要求取得部44e等を含む。   The acquisition unit 44 displays, for example, a trailer icon as an index indicating whether or not the towed vehicle 12 is recognized, and indicates that the tow vehicle 12 is recognized, and the moving direction of the tow vehicle 10, etc. Various pieces of information used to display a guide line (for example, a reference line, a movement position prediction line, etc.) indicating. The acquisition unit 44 includes, for example, an image acquisition unit 44a, a steering angle acquisition unit 44b, a shift position acquisition unit 44c, a connection angle acquisition unit 44d, a monitoring request acquisition unit 44e, and the like.

画像取得部44aは、牽引車両10の後部に設置された撮像部24が撮像する牽引車両10の後方画像(後方領域の画像)を取得する。図5は、撮像部24が撮橡した撮像画像データに基づく画像P(後方画像)の一例である。撮像部24は、牽引車両10の後部に固定され、撮像方向や撮像範囲が固定されている。そのため、撮像部24が撮像する画像Pの所定位置(図5の場合、下端側領域)には、牽引車両10のリヤバンパ16、牽引装置18(ヒッチボール18a)等が映ることになる。また、被牽引車両12が牽引車両10に連結されている場合、画像Pにおいて、リヤバンパ16等を基準に所定の領域に被牽引車両12の前方部の一部および連結部材20(カプラ20a)が映ることになる。図5に示す画像Pは、牽引車両10の牽引装置18(ヒッチボール18a)を支点として、連結部材20(被牽引車両12、カプラ20a)が、例えば矢印T1方向に旋回して(曲がって牽引されて)、連結角度θ(車両中心軸Mと連結中心軸Nの角度)となっている状態を示している。この場合、被牽引車両12は牽引車両10の運転席から見て左側に旋回している(曲がっている)ことになる。CPU36aは、この画像Pに画像処理を施すことにより、被牽引車両12の認識や連結角度θの検出を行うことができる。また、画像取得部44aは、牽引車両10のフロントバンパ16aに設けられた撮像部24aによって撮像された牽引車両10の前方画像を取得可能で、CPU36aは、例えば牽引車両10が前進走行する場合に撮像部24aで撮像した前方画像を表示装置26に表示することができる。なお、画像取得部44aは、さらに、牽引車両10の左右の側方画像を撮像する撮像部からの撮像画像データを取得してもよい。このように、画像取得部44aが後方画像に加え、前方画像、左右の側方画像を取得することにより、CPU36aは、牽引車両10の周辺状況を示す車両周辺画像(例えば、俯瞰画像)を生成することができる。   The image acquisition unit 44a acquires a rear image (image of a rear area) of the tow vehicle 10 captured by the imaging unit 24 installed at the rear of the tow vehicle 10. FIG. 5 is an example of an image P (rear image) based on captured image data captured by the imaging unit 24. The imaging unit 24 is fixed to the rear of the tow vehicle 10, and the imaging direction and the imaging range are fixed. Therefore, the rear bumper 16 of the tow vehicle 10, the tow unit 18 (hitch ball 18a), and the like appear at a predetermined position (lower end region in the case of FIG. 5) of the image P captured by the imaging unit 24. Further, when the towed vehicle 12 is connected to the tow vehicle 10, in the image P, a part of the front portion of the towed vehicle 12 and the connecting member 20 (coupler 20a) are in a predetermined area based on the rear bumper 16 and the like. It will be reflected. In the image P shown in FIG. 5, the connecting member 20 (the towed vehicle 12, the coupler 20 a) turns, for example, in the direction of the arrow T1 (bent and towed) with the towing device 18 (hitch ball 18 a) of the tow vehicle 10 as a fulcrum (The angle between the vehicle center axis M and the connection center axis N) is shown. In this case, the towed vehicle 12 is turning (turned) to the left as viewed from the driver's seat of the tow vehicle 10. The CPU 36a can perform recognition of the towed vehicle 12 and detection of the connection angle θ by performing image processing on the image P. In addition, the image acquisition unit 44a can acquire the forward image of the tow vehicle 10 captured by the imaging unit 24a provided in the front bumper 16a of the tow vehicle 10. The CPU 36a is, for example, when the tow vehicle 10 travels forward. The forward image captured by the imaging unit 24 a can be displayed on the display device 26. The image acquisition unit 44a may further acquire captured image data from an imaging unit that captures left and right side images of the tow vehicle 10. Thus, the CPU 36a generates a vehicle peripheral image (for example, a bird's-eye view image) indicating the peripheral situation of the tow vehicle 10 by acquiring the front image and the left and right side images in addition to the backward image by the image acquisition unit 44a. can do.

舵角取得部44bは、舵角センサ38の検出した牽引車両10の舵角を取得する。つまり、運転者がこれから牽引車両10(被牽引車両12)を走行させようとしている方向の舵角を取得する。また、シフト位置取得部44cは、シフトセンサ40が出力する変速操作部の可動部の位置に基づき、牽引車両10が前進可能状態か後退可能状態かを取得する。舵角取得部44bは、シフト位置取得部44cの取得結果を参照して、現在の舵角が前進可能状態時の舵角か後退可能状態時の舵角かを識別してもよい。連結角度取得部44dは、牽引車両10に被牽引車両12が連結されている場合の連結角度、つまり牽引車両10の車両中心軸Mに対する被牽引車両12の連結部材20(連結中心軸N)の角度を取得する。連結角度取得部44dは、画像取得部44aが取得した画像P(図5参照)に画像処理を施すことにより連結部材20(連結中心軸N)を検出することができる。そして、連結角度取得部44dは、車両中心軸Mに対する連結部材20(連結中心軸N)の旋回方向(矢印T1または矢印T2)の変位角を検出することにより牽引車両10と被牽引車両12との連結角度θを取得することができる。また、別の実施形態では、牽引装置18が角度検出センサを備える場合、連結角度取得部44dは、角度検出センサの検出値に基づき連結角度θを取得してもよい。   The steering angle acquisition unit 44 b acquires the steering angle of the tow vehicle 10 detected by the steering angle sensor 38. That is, the steering angle in the direction in which the driver is about to drive the tow vehicle 10 (towed vehicle 12) is acquired. Further, the shift position acquisition unit 44c acquires whether the tow vehicle 10 can move forward or backward based on the position of the movable portion of the shift operation unit output from the shift sensor 40. The steering angle acquisition unit 44b may identify whether the current steering angle is the steering angle in the forward possible state or the steering angle in the reverse possible state by referring to the acquisition result of the shift position acquisition unit 44c. The connection angle acquisition unit 44 d is a connection angle when the towed vehicle 12 is connected to the tow vehicle 10, that is, the connection member 20 (connection central axis N) of the tow vehicle 12 with respect to the vehicle central axis M of the tow vehicle 10. Get the angle. The connection angle acquisition unit 44d can detect the connection member 20 (connection center axis N) by performing image processing on the image P (see FIG. 5) acquired by the image acquisition unit 44a. The connection angle acquisition unit 44d detects the displacement angle of the turning direction (arrow T1 or arrow T2) of the connection member 20 (connection center axis N) with respect to the vehicle center axis M to detect the tow vehicle 10 and the tow vehicle 12 Can be obtained. In another embodiment, when the traction device 18 includes an angle detection sensor, the connection angle acquisition unit 44 d may acquire the connection angle θ based on the detection value of the angle detection sensor.

監視要求取得部44eは、周辺監視システム100に対して、被牽引車両12を認識しているか否かを監視する周辺監視モードへの移行が要求されているか否かを示す情報を取得する。監視要求取得部44eは、例えば、運転者が操作する操作入力部30を介して、周辺監視モードへ移行することを要求されているか否かの信号を受け付けることができる。   The monitoring request acquisition unit 44e acquires information indicating whether the shift to the periphery monitoring mode for monitoring whether the towed vehicle 12 is recognized is requested to the periphery monitoring system 100. The monitoring request acquisition unit 44e can receive, for example, via the operation input unit 30 operated by the driver, a signal indicating whether a shift to the periphery monitoring mode is requested.

認識部46は、画像取得部44aが取得した撮像部24で撮像した画像P(後方画像)に対して、周知の画像処理を施すことにより牽引車両10に連結可能な被牽引車両12の認識(検出)を行う。認識部46は、例えば、ROM36bやSSD36dに認憶されたサンプル形状との比較により被牽引車両12の形状認識を行い、画像P中の所定領域に被牽引車両12が存在すると判定した場合に、被牽引車両12が牽引車両10に連結されている、つまり、周辺監視システム100が被牽引車両12を認識していると見なすことができる。また、認識部46は、被牽引車両12の一部、例えば前端面に付された目標マークを画像P中の所定領域に検出した場合に、被牽引車両12が牽引車両10に連結されている、つまり認識していると見なすようにしてもよい。また、別の実施形態では、認識部46は、画像Pにおいて、牽引装置18と接続された棒状の連結部材20を検出することによって被牽引車両12が牽引車両10に連結されている、つまり認識していると見なすようにしてもよい。したがって、認識部46は、画像Pの中に、被牽引車両12、目標マークおよび連結部材20の少なくとも一つが検出できない揚合には、被牽引車両12が非認識(非検出〉状態であると判定する。なお、認識部46は、画像Pの中に、被牽引車両12、目標マークおよび連結部材20等の形状と一致する画像を検出した場合でも、その画像が所定領域(例えばリヤバンパ16を基準とする方向および位置)に含まれていない場合、被牽引車両12は牽引車両10の周辺に存在するものの牽引車両10に連結されていないと判定する。この場合も認識部46は、被牽引車両12が非認識(非検出)状態であると判定する。   The recognition unit 46 recognizes the towed vehicle 12 that can be connected to the tow vehicle 10 by performing known image processing on the image P (rear image) captured by the imaging unit 24 acquired by the image acquisition unit 44 a Detect). The recognition unit 46 recognizes the shape of the towed vehicle 12 by comparison with the sample shapes stored in, for example, the ROM 36 b or the SSD 36 d, and determines that the tow vehicle 12 is present in a predetermined area in the image P It can be considered that the towed vehicle 12 is connected to the tow vehicle 10, that is, the perimeter monitoring system 100 recognizes the tow vehicle 12. Further, when the recognition unit 46 detects a target mark attached to a part of the towed vehicle 12, for example, the front end face, in a predetermined area in the image P, the towed vehicle 12 is connected to the tow vehicle 10 In other words, it may be regarded as recognizing. In another embodiment, the recognition unit 46 detects the rod-like connecting member 20 connected to the pulling device 18 in the image P, whereby the towed vehicle 12 is connected to the towing vehicle 10, that is, the recognition It may be considered that Therefore, when the recognition unit 46 can not detect at least one of the towed vehicle 12, the target mark, and the connecting member 20 in the image P, the towing vehicle 12 is not recognized (not detected). Even when the recognition unit 46 detects an image in the image P that matches the shapes of the towed vehicle 12, the target mark, the connecting member 20, etc., the image may be displayed in a predetermined area (for example, the rear bumper 16). If it is not included in the reference direction and position), it is determined that the towed vehicle 12 exists in the periphery of the tow vehicle 10 but is not connected to the tow vehicle 10. Also in this case, the recognition unit 46 It is determined that the vehicle 12 is in a non-recognition (non-detection) state.

画像変換部48は、撮像部24が撮像した牽引車両10の後方画像の撮像画像データや撮像部24aが撮像した牽引車両10の前方画像の撮像画像データ、および左右の側方撮像部が撮像した左右の側方画像の撮像画像データ等を視点変換して合成することで、牽引車両10を上空から見下ろしたような俯瞰画像に変換することができる。図6、図7は、画像変換部48で変換された俯瞰画像P1と、撮像部24または撮像部24aで撮像された実画像P2(図6、図7の場合、撮像部24aで撮像された前方画像の実画像P2)と、が表示装置26の画面26aに並列表示されている一例を示している。周辺監視システム100の制御状態が周辺監視モードに移行した場合、表示装置26の画面26aは、通常表示されているナビゲーション画面やオーディオ画面から図6に示すような周辺監視画面に切り替えられる。俯瞰画像P1には、牽引車両10に対応する自車画像10pが表示されるとともに、撮像部24が撮像した撮像画像データに図5に示すように被牽引車両12が映っていた場合、トレーラ画像12pが含まれる。この場合、撮像部24から撮像した被牽引車両12を二次元データに変換すると後方に向かって延びたトレーラ画像12pとなる。なお、本実施形態の撮像部24が撮像した後方画像において牽引車両10は、リヤバンパ16および牽引装置18しか映らない。また、俯瞰画像P1を生成する場合に後方画像に加えて用いる前方画像や左右の側方画像にも牽引車両10の一部分しか含まれない。そのため各撮像画豫データからは自車画像10pに関する情報(形状データ)は取得できない。そのため、俯瞰画像P1を表示する場合、画像変換部48は、ROM36b等に予め保持された自車画像10pの表示データを読み出し、俯瞰画像P1(二次元データ)に重畳表示する。その結果、俯瞰画像P1(車両周辺画像)上で、自車画像10pとトレーラ画像12pとが連結されたような画像の表示が可能になる。なお、画像変換部48は、後方画像の撮像画像データのみを例えば、三次元データから二次元データに変換して、牽引車両10の後方部分を上空から見たような簡易的な俯瞰画像P1を生成して、表示装置26に表示してもよく、同様の効果を得ることができる。   The image conversion unit 48 is a captured image data of a rear image of the tow vehicle 10 captured by the imaging unit 24, a captured image data of a forward image of the tow vehicle 10 captured by the imaging unit 24a, and the left and right lateral imaging units By performing viewpoint conversion and combining the captured image data and the like of the left and right side images, it is possible to convert the tow vehicle 10 into an overhead image as viewed from above. 6 and 7 show the bird's-eye view image P1 converted by the image conversion unit 48 and the actual image P2 captured by the imaging unit 24 or the imaging unit 24a (in the case of FIGS. 6 and 7, the image captured by the imaging unit 24a An example is shown in which a real image P2) of a forward image is displayed in parallel on the screen 26a of the display device 26. When the control state of the periphery monitoring system 100 shifts to the periphery monitoring mode, the screen 26a of the display device 26 is switched from the navigation screen or audio screen normally displayed to the periphery monitoring screen as shown in FIG. When the towed vehicle 12 is shown in the captured image data captured by the imaging unit 24 as shown in FIG. 5 while the host vehicle image 10p corresponding to the towed vehicle 10 is displayed in the overhead image P1, the trailer image 12p is included. In this case, when the towed vehicle 12 captured by the imaging unit 24 is converted into two-dimensional data, it becomes a trailer image 12p extending backward. In the rear image captured by the imaging unit 24 of the present embodiment, only the rear bumper 16 and the traction device 18 appear in the tow vehicle 10. Moreover, in addition to a back image when producing | generating the bird's-eye view image P1, only a part of tow vehicle 10 is contained also in the front image and left and right side images which are used. Therefore, information (shape data) related to the vehicle image 10p can not be acquired from each captured image data. Therefore, when the overhead image P1 is displayed, the image conversion unit 48 reads the display data of the vehicle image 10p stored in advance in the ROM 36b or the like, and displays the readout data superimposed on the overhead image P1 (two-dimensional data). As a result, on the overhead image P1 (vehicle peripheral image), it is possible to display an image in which the vehicle image 10p and the trailer image 12p are connected. Note that the image conversion unit 48 converts, for example, only the captured image data of the rear image from three-dimensional data into two-dimensional data, and a simple overhead image P1 as viewed from above the rear portion of the tow vehicle 10 It may be generated and displayed on the display device 26, and similar effects can be obtained.

制御部50は、主として周辺監視モードを実行中の表示装置26の画面26aに重畳表示する要素の制御を実行するために、例えば、指標態様制御部50a、ガイド線生成部50b、表示切替部50c等のモジュールを含む。   The control unit 50 mainly performs, for example, an index mode control unit 50a, a guide line generation unit 50b, and a display switching unit 50c in order to execute control of elements to be superimposed and displayed on the screen 26a of the display device 26 in execution of the periphery monitoring mode. Etc modules.

指標態様制御部50aは、認識部46の認識結果に基づき、牽引車両10に連結された被牽引車両12が認識できているか否かを示す指標の表示制御を実行するとともに、被牽引車両12の認識状態に応じて指標の表示態様を変化させる制御を実行することができる。   The indicator mode control unit 50a executes display control of an indicator indicating whether or not the towed vehicle 12 connected to the tow vehicle 10 can be recognized based on the recognition result of the recognition unit 46, and Control can be performed to change the display mode of the index according to the recognition state.

図8〜図10は、指標態様制御部50aによって表示態様が制御される、牽引車両10に連結された被牽引車両12が認識できているか否かを示す指標52としてのトレーラアイコン52a(車両マーク)の表示例である。トレーラアイコン52aは、被牽引車両12が認識されている場合、図8に示すように、自車画像10pの後部に連結状態で表示される。この場合、トレーラアイコン52aが例えば、点灯表示されて自車画像10pにトレーラアイコン52aが連結されている状態が明示される。つまり、被牽引車両12が認識(検出)状態であることを明確に表示することができる。   8 to 10 show trailer icons 52a (vehicle marks as indicators 52 indicating whether or not the tow vehicle 12 connected to the tow vehicle 10 can be recognized whose display mode is controlled by the index mode control unit 50a). Is a display example of. When the towed vehicle 12 is recognized, the trailer icon 52a is displayed in a connected state at the rear of the vehicle image 10p, as shown in FIG. In this case, for example, the trailer icon 52a is lit and displayed, and a state in which the trailer icon 52a is connected to the vehicle image 10p is clearly indicated. That is, it can be clearly displayed that the towed vehicle 12 is in the recognition (detection) state.

図9は、認識部46において、牽引車両10に連結された被牽引車両12が認識できていない場合に表示されるトレーラアイコン52aである。この場合、トレーラアイコン52aを例えば点滅表示させることで、トレーラアイコン52aに注意を払いやすくしている。つまり、被牽引車両12が認識できない状態であることを明確に表示することができる。なお、被牽引車両12が認識できない場合、トレーラアイコン52aを非表示にしてもよい。被牽引車両12の連結状態の監視を主に行う周辺監視モードにおいて、牽引車両10に被牽引車両12が連結されていれば表示されるはずの自車画像10pとトレーラアイコン52aが、自車画像10pのみ表示されている(トレーラアイコン52aが非表示されている)ことにより、運転者に強い印象を与えやすくなり、被牽引車両12が非認識(非検出)状態であることをさらに認識させやすくなる。   FIG. 9 shows a trailer icon 52 a displayed when the towed vehicle 12 connected to the tow vehicle 10 can not be recognized in the recognition unit 46. In this case, the trailer icon 52a is displayed in a blinking manner, for example, to facilitate attention to the trailer icon 52a. That is, it can be clearly displayed that the towed vehicle 12 can not be recognized. If the towed vehicle 12 can not be recognized, the trailer icon 52a may be hidden. In the peripheral monitoring mode mainly performing monitoring of the connection state of the towed vehicle 12, the own vehicle image 10p and the trailer icon 52a that should be displayed if the towed vehicle 12 is connected to the tow vehicle 10 are the own vehicle images Since only 10p is displayed (the trailer icon 52a is not displayed), it is easy to give the driver a strong impression, and it is easier to recognize that the towed vehicle 12 is in the non-recognition (non-detection) state. Become.

図10は、認識部46において、牽引車両10に連結された被牽引車両12が認識できていない場合に表示される他のトレーラアイコン52aである。この場合、自車画像10pおよびトレーラアイコン52aは、図8の認識時と同様に表示されるが、トレーラアイコン52aの表示態様が認識時とは異なる。図10の例の場合、トレーラアイコン52aには、強調マーク52b、例えば「?」が付され、被牽引車両12が非認識状態であることを認識させやすくしている。なお、図9、図10に示す非認識時のトレーラアイコン52aの表示態様は一例であり、図8に示す認識時の表示態様との区別がつけば、適宜変更可能である。例えば、指標態様制御部50aは、トレーラアイコン52aの表示態様を変更する場合、トレーラアイコン52aの表示色を変更したり、表示輝度を変更(例えば低下)したり、透過率を変更(例えば透過度を高く)したりしてもよく、同様の効果を得ることができる。また、上述した表示態様を組み合わせてもよい。例えば、図9の例と図10の例を組み合わせ、点滅表示のトレーラアイコン52aに強調マーク52bを付加して、非認識であることをさらに強調するようにしてもよい。   FIG. 10 shows another trailer icon 52a displayed in the recognition unit 46 when the towed vehicle 12 connected to the tow vehicle 10 can not be recognized. In this case, the vehicle image 10p and the trailer icon 52a are displayed in the same manner as at the time of recognition in FIG. 8, but the display mode of the trailer icon 52a is different from that at the time of recognition. In the case of the example of FIG. 10, a highlight mark 52b, for example, "?" Is attached to the trailer icon 52a to make it easy to recognize that the towed vehicle 12 is in the non-recognition state. The display mode of the trailer icon 52a at the time of non-recognition shown in FIG. 9 and FIG. 10 is an example, and can be changed as appropriate if it is distinguished from the display mode at the time of recognition shown in FIG. For example, when changing the display mode of the trailer icon 52a, the index mode control unit 50a changes the display color of the trailer icon 52a, changes (for example, decreases) display brightness, or changes the transmittance (for example, transmittance) Can be high), and similar effects can be obtained. Also, the display modes described above may be combined. For example, the example of FIG. 9 and the example of FIG. 10 may be combined, and the highlight mark 52b may be added to the trailer icon 52a in the blinking display to further emphasize the non-recognition.

このような指標52(トレーラアイコン52a)は、認識部46によって被牽引車両12が認識されている場合、図7に示すように、表示装置26の画面26aの俯瞰画像P1(車両周辺画像)に表示される。前述したように、牽引車両10に被牽引車両12が連結されている場合、自車画像10pとトレーラ画像12pとの相対位置は定まる。そして、認識部46で被牽引車両12が認識できる場合、連結角度取得部44dは撮像画像データ上で認識されている被牽引車両12の牽引車両10に対する連結角度θを取得することができる。したがって、指標態様制御部50aは、牽引車両10と被牽引車両12との連結角度θにしたがい、俯瞰画像P1に表示されている自車画像10pに対する指標52(トレーラアイコン52a)の接続角度を変化させた状態で重畳表示することができる。図7の場合は、牽引車両10と被牽引車両12とが真っ直ぐに連結された直列状態(前後方向で牽引車両10の車両中心軸Mと被牽引車両12の連結中心軸Nとが重なっている状態:図5参照)の場合の自車画像10pとトレーラアイコン52aおよびトレーラ画像12pが表示されている。なお、この場合、自車画像10pに対して連結角度θで連結されているように表示されるトレーラ画像12pと、自車画像10pに対して連結角度θで連結したように表示されるトレーラアイコン52aとが重なって表示される。つまり、俯瞰画像P1(撮像画像)における被牽引車両12の表示対応位置にトレーラアイコン52aが重畳表示される。したがって、俯瞰画像P1を確認する運転者は、トレーラ画像12pとトレーラアイコン52aとが同じものを示していることが理解しやすく、周辺監視システム100が被牽引車両12を認識していることを違和感なく理解させやすくなる。このように、被牽引車両12を認識部46が認識できない場合で、トレーラアイコン52aの表示態様(例えば、非表示)によって制御上、被牽引車両12が非認識であることを運転者に理解させやすい。さらに、俯瞰画像P1上でトレーラアイコン52aが表示されるべき位置、すなわち、自車画像10pの後部のトレーラ画像12pの位置を確認することで、実際の被牽引車両12の有無や被牽引車両12が連結されている場合は、簡易的に連結角度θ等を認識させやすくなる。   Such an indicator 52 (trailer icon 52a) is displayed on the overhead image P1 (vehicle peripheral image) of the screen 26a of the display device 26 as shown in FIG. 7 when the towed vehicle 12 is recognized by the recognition unit 46. Is displayed. As described above, when the towed vehicle 12 is connected to the tow vehicle 10, the relative position between the own vehicle image 10p and the trailer image 12p is determined. Then, when the towed vehicle 12 can be recognized by the recognition unit 46, the connection angle acquiring unit 44d can acquire the connecting angle θ of the towed vehicle 12 recognized on the captured image data with respect to the tow vehicle 10. Therefore, the index mode control unit 50a changes the connection angle of the index 52 (trailer icon 52a) with respect to the vehicle image 10p displayed in the overhead image P1 according to the connection angle θ between the tow vehicle 10 and the tow vehicle 12 It can be superimposed and displayed in the state where it is made. In the case of FIG. 7, the tow vehicle 10 and the tow vehicle 12 are connected in a straight line in a straight state (the vehicle center axis M of the tow vehicle 10 and the connection center axis N of the tow vehicle 12 overlap in the front and rear direction) State: The vehicle image 10p, the trailer icon 52a and the trailer image 12p in the case of FIG. 5) are displayed. In this case, the trailer image 12p displayed as being connected to the host vehicle image 10p at a connection angle θ and the trailer icon displayed as connected to the host vehicle image 10p at a connection angle θ It is displayed overlapping with 52a. That is, the trailer icon 52a is superimposed on the display corresponding position of the towed vehicle 12 in the overhead image P1 (captured image). Therefore, the driver who confirms the overhead view image P1 can easily understand that the trailer image 12p and the trailer icon 52a indicate the same thing, and the sense of incongruity that the periphery monitoring system 100 recognizes the towed vehicle 12 Makes it easier to understand. In this manner, when the recognition unit 46 can not recognize the towed vehicle 12, the driver is made to understand that the towed vehicle 12 is not recognized in terms of control by the display mode (for example, non-display) of the trailer icon 52 a Cheap. Furthermore, by confirming the position where the trailer icon 52a is to be displayed on the bird's-eye view image P1, that is, the position of the trailer image 12p at the rear of the own vehicle image 10p, the presence or absence of the actual towed vehicle 12 and the towed vehicle 12 When it is connected, it becomes easy to recognize connection angle (theta) etc. simply.

一方、認識部46が被牽引車両12を認識できない場合、指標態様制御部50aは、指標52(トレーラアイコン52a)の表示態様を変化させる。例えば、図9で説明したように指標52(トレーラアイコン52a)を非表示とする。その結果、図6に示すように俯瞰画像P1は、図7の俯瞰画像P1と明確に区別することができる。図6と図7の比較から分かるように、周辺監視モードにおいて、牽引車両10に被牽引車両12が連結されていれば表示されるはずのトレーラアイコン52aが非表示となることにより、運転者に強い印象を与えやすくなり、被牽引車両12が非認識状態であることを認識させやすい。   On the other hand, when the recognition unit 46 can not recognize the towed vehicle 12, the index mode control unit 50a changes the display mode of the index 52 (trailer icon 52a). For example, as described in FIG. 9, the indicator 52 (trailer icon 52a) is not displayed. As a result, as shown in FIG. 6, the overhead image P1 can be clearly distinguished from the overhead image P1 of FIG. As can be seen from the comparison between FIG. 6 and FIG. 7, in the periphery monitoring mode, the trailer icon 52 a that should be displayed if the towed vehicle 12 is connected to the tow vehicle 10 is hidden. This makes it easy to give a strong impression, and makes it easy to recognize that the towed vehicle 12 is in the non-recognition state.

なお、前述したように、牽引車両10に被牽引車両12が連結されているにも拘わらず、周辺監視システム100において、認識部46が被牽引車両12を認識できない場合でも俯瞰画像P1でトレーラ画像12pが視認できる場合がある。つまり、被牽引車両12が画像処理で視認できないほどに撮像部24が撮像した後方画像の品質がよくない場合でも、不鮮明である可能性はあるがトレーラ画像12pが俯瞰画像P1で確認できることがある。その結果、運転者に俯瞰画像P1(車両周辺画像)を確認させることで、俯瞰画像P1内に含まれる被牽引車両12の画像から当該被牽引車両12の状態が確認できる。その結果、例えば、被牽引車両12の連結の有無やおおよその連結姿勢を認識させることができる。   As described above, the trailer image is an overhead image P1 even when the recognition unit 46 can not recognize the towed vehicle 12 in the surrounding area monitoring system 100 even though the towed vehicle 12 is connected to the tow vehicle 10. 12p may be visible. That is, even when the quality of the rear image captured by the imaging unit 24 is not good enough that the to-be-driven vehicle 12 can not be visually recognized in the image processing, the trailer image 12p may be able to be confirmed by the overhead image P1 although it may be unclear. . As a result, by allowing the driver to confirm the bird's-eye view image P1 (vehicle peripheral image), it is possible to confirm the state of the to-be-towed vehicle 12 from the image of the tow vehicle 12 contained in the bird's-eye view image P1. As a result, for example, the presence or absence of connection of the towed vehicle 12 and an approximate connection posture can be recognized.

指標態様制御部50aは、指標52(トレーラアイコン52a)を簡易的に表示するインジケータ54を俯瞰画像P1の一部や、その他、運転者が視認しやすい位置に表示するようにしてもよい。図6、図7の場合は、インジケータ54を俯瞰画像P1の右上位置に配置している。インジケータ54はトラクタインジケータ54aとトレーラインジケータ54bとからなり、認識部46が被牽引車両12を認識している場合には、図7に示すように、トラクタインジケータ54aとトレーラインジケータ54bとが、例えば点灯表示される。一方、認識部46が被牽引車両12を認識していない場合には、図6に示すように、トラクタインジケータ54aのみが例えば点灯表示される。この場合、例えば、俯瞰画像P1の輝度より高い輝度でインジケータ54を表示することで、被牽引車両12の認識状態を直感的に運転者に理解させやすくなる。   The index mode control unit 50a may display the indicator 54 for simply displaying the index 52 (trailer icon 52a) at a part of the overhead image P1 or at a position where the driver can easily view. In the case of FIG. 6, FIG. 7, the indicator 54 is arrange | positioned in the upper right position of the bird's-eye view image P1. The indicator 54 is composed of a tractor indicator 54a and a trailer indicator 54b. When the recognition unit 46 recognizes the towed vehicle 12, as shown in FIG. 7, the tractor indicator 54a and the trailer indicator 54b are lit, for example. Is displayed. On the other hand, when the recognition unit 46 does not recognize the towed vehicle 12, only the tractor indicator 54a is displayed, for example, as shown in FIG. In this case, for example, displaying the indicator 54 at a higher luminance than the luminance of the overhead image P1 makes it easy for the driver to intuitively understand the recognition state of the driven vehicle 12.

なお、認識部46は、撮像部24が撮像した後方画像に画像処理を施した結果、被牽引車両12が認識できない場合に、「非認識である」と判定する。つまり、認識部46は、被牽引車両12が牽引車両10に連結されているにも拘わらず認識できない場合と、牽引車両10に被牽引車両12が連結されていないため被牽引車両12が認識できない場合のいずれの場合においても「非認識である」と判定する。したがって、指標態様制御部50aは、トレーラアイコン52aやインジケータ54の表示態様によって、被牽引車両12が認識できていない事実を正確に運転者に通知することができる。   The recognition unit 46 determines “not recognized” when the towed vehicle 12 can not be recognized as a result of performing image processing on the rear image captured by the imaging unit 24. That is, the recognition unit 46 can not recognize the tow vehicle 12 because the tow vehicle 10 is not connected to the tow vehicle 10 and the tow vehicle 12 can not be recognized although the tow vehicle 12 is connected to the tow vehicle 10 In any case, it is determined as "not recognized". Therefore, the indicator mode control unit 50a can accurately notify the driver of the fact that the to-be-driven vehicle 12 can not be recognized by the display mode of the trailer icon 52a or the indicator 54.

図4に戻り、ガイド線生成部50bは、牽引車両10の現在の舵角に基づいて、牽引車両10を走行させた場合に牽引車両10や車輪14が進む方向を示す移動位置予測線や、牽引車両10の端部からの距離や車幅の目安を示す目安線等のガイド線を生成する。例えば、ガイド線生成部50bが、シフト位置取得部44cの取得結果に基づき、牽引車両10が後退走行可能な状態ではないことを示す信号を取得した場合(例えば、シフト位置がP(パーキング)、N(ニュートラル)、D(ドライブ)等)、図6、図7に示すように、実画像P2に牽引車両10の舵角に応じた方向に向く、ガイド線の一例である目安線56を生成する。目安線56は、例えば、牽引車両10の舵角に基づく進行方向に延びる牽引車両10の車幅ガイド線56aと、この車幅ガイド線56aの一部から車幅方向に突出する小片で表示される、牽引車両10のフロントバンパ16aからの前方離間距離を示す距離目安線56b,56c,56d等で構成されている。距離目安線56bはフロントバンパ16aから例えば0.5mの離間距離、距離目安線56cはフロントバンパ16aから例えば1.0mの離間距離、距離目安線56dはフロントバンパ16aから例えば2.5mの離間距離に相当する位置に表示される。なお、目安線56の表示態様は一例であり、例えば、距離目安線56b,56c,56dは、左右の車幅ガイド線56aを跨ぐように繋がった線で表示されてもよいし、距離目安線56b,56c,56dで区切られる領域の表示色を異ならせることで、距離感を認識させるようにしてもよい。また、目安線56の前方の長さは、適宜選択可能であり、2.5m以上でもよいし、2.5m未満でもよい。また、三本の距離目安線56b,56c,56dを示したが、三本未満でも四本以上でもよい。また、その間隔も変更可能である。   Returning to FIG. 4, the guide line generation unit 50 b is a movement position prediction line indicating a direction in which the tow vehicle 10 or the wheels 14 travel when the tow vehicle 10 is caused to travel based on the current steering angle of the tow vehicle 10. A guide line such as a reference line indicating the distance from the end of the tow vehicle 10 and the guide of the vehicle width is generated. For example, when the guide line generation unit 50b acquires a signal indicating that the tow vehicle 10 is not in a backward travelable state based on the acquisition result of the shift position acquisition unit 44c (for example, the shift position is P (parking)) N (Neutral), D (Drive), etc., as shown in FIG. 6 and FIG. 7, generates a reference line 56 which is an example of a guide line, which is directed to a direction according to the steering angle of the tow vehicle 10 in the real image P2. Do. The reference line 56 is displayed, for example, by a vehicle width guide line 56a of the tow vehicle 10 extending in the traveling direction based on the steering angle of the tow vehicle 10 and a small piece projecting in a vehicle width direction from a part of the vehicle width guide line 56a. The distance reference lines 56b, 56c, 56d and so on indicate the distance from the front bumper 16a of the tow vehicle 10 to the front. Distance reference line 56b is a distance of, for example, 0.5 m from front bumper 16a, distance reference line 56c is a distance of, for example, 1.0 m from front bumper 16a, distance reference line 56d is a distance of for example 2.5 m from front bumper 16a. Is displayed at the position corresponding to Note that the display mode of the reference line 56 is an example, and for example, the distance reference lines 56b, 56c, and 56d may be displayed as lines connected across the left and right vehicle width guide lines 56a, or the distance reference lines The sense of distance may be recognized by changing the display color of the area divided by 56b, 56c, 56d. Further, the length in front of the reference line 56 can be appropriately selected, and may be 2.5 m or more or less than 2.5 m. Also, although three distance reference lines 56b, 56c, 56d are shown, it may be less than three or four or more. Also, the interval can be changed.

図11、図12は、牽引車両10が後退走行可能状態の場合で、ガイド線生成部50bが生成するガイド線の一例である移動位置予測線58が表示装置26の画面26aの実画像P2に重畳表示される場合を示す表示例である。ガイド線生成部50bが、シフト位置取得部44cの取得結果に基づき、牽引車両10が後退走行可能な状態であることを示す信号(R(リバース)を示す信号)を取得した場合、図11、図12に示すように実画像P2に、牽引車両10が通る(牽引車両10の移動予測位置を示す)軌跡を示す移動位置予測線58を生成する。なお、移動位置予測線58は、牽引車両10の後輪14Rが移動する方向を示す軌跡を含むものであってもよい。以下の説明では、牽引車両10の後輪14Rが移動する軌跡を含む移動位置予測線58を一例として示す。移動位置予測線58は、例えば、牽引車両10の舵角に基づく後輪14Rの移動予測位置を示すタイヤ軌跡線58aと、牽引車両10のリヤバンパ16からの後方の離間距離を示す距離目安線58b,58c,58d等で構成されている。距離目安線58bはリヤバンパ16から例えば0.5mの離間距離、距離目安線58cはリヤバンパ16から例えば1.0mの離間距離、距離目安線58dはリヤバンパ16から例えば2.5mの離間距離に相当する位置を示す。また、他の実施形態では、牽引車両10の前後方向に延びる車両中心線の延長線を移動位置予測線58としてもよい。この場合、リヤバンパ16から後方に一本の線が延び、その線上に距離目安線58b,58c,58dと同様の線が付されるようにしてもよい。また、距離目安線58b,58c,58dは、リヤバンパ16や10のリヤコーナー部を模したものでもよい。   FIGS. 11 and 12 show the movement position prediction line 58, which is an example of a guide line generated by the guide line generation unit 50b, in the actual image P2 of the screen 26a of the display device 26 when the tow vehicle 10 is in the backward traveling possible state. It is a display example which shows the case where it is superimposed-displayed. When the guide line generation unit 50b acquires a signal (signal indicating R (reverse)) indicating that the tow vehicle 10 can travel backward based on the acquisition result of the shift position acquisition unit 44c, as illustrated in FIG. As shown in FIG. 12, a movement position prediction line 58 is generated in the actual image P <b> 2 to indicate the trajectory (which indicates the movement prediction position of the tow vehicle 10) of the tow vehicle 10. The movement position prediction line 58 may include a locus indicating the direction in which the rear wheel 14R of the tow vehicle 10 moves. In the following description, a movement position prediction line 58 including a locus along which the rear wheel 14R of the tow vehicle 10 moves is shown as an example. The movement position prediction line 58 is, for example, a tire locus line 58a indicating a movement prediction position of the rear wheel 14R based on the steering angle of the tow vehicle 10, and a distance reference line 58b indicating a distance behind the tow vehicle 10 from the rear bumper 16 , 58c, 58d and the like. The distance reference line 58b corresponds to a separation distance of, for example, 0.5 m from the rear bumper 16, the distance reference line 58c corresponds to a separation distance of, for example, 1.0 m from the rear bumper 16, and the distance reference line 58d corresponds to a separation distance of, for example, 2.5 m from the rear bumper 16. Indicates the position. In another embodiment, an extension line of a vehicle center line extending in the front-rear direction of the tow vehicle 10 may be used as the movement position prediction line 58. In this case, a line may extend rearward from the rear bumper 16, and a line similar to the distance reference lines 58b, 58c, and 58d may be attached thereto. Further, the distance reference lines 58 b, 58 c, 58 d may be similar to the rear corner portions of the rear bumpers 16 and 10.

本実施形態の場合、ガイド線生成部50bは、移動位置予測線58の表示態様を表示装置26の画面26a上で変化させることで認識部46の認識結果を運転者に提供することができる。図11は、周辺監視モードで、牽引車両10が後退走行可能な状態で、認識部46が被牽引車両12を認識できない場合の表示装置26の画面26aの表示例を示している。図11の場合、撮像部24が撮像した後方画像に被牽引車両12が映っているにも拘わらず、認識部46で被牽引車両12が認識できない場合である。したがって、俯瞰画像P1には、不明瞭ではあるが被牽引車両12に対応するトレーラ画像12pが右に旋回した姿勢で表示されている。また、実画像P2にも被牽引車両12が不明瞭ではあるが表示されている。俯瞰画像P1には、被牽引車両12が認識できていないことを示す指標52(トレーラアイコン52a)が表示されるとともに、トラクタインジケータ54aおよび非認識状態を示すトレーラインジケータ54bで構成されるインジケータ54が表示されている。この場合、指標52(トレーラアイコン52a)は、被牽引車両12が認識できず、連結角度θの検出ができないため、自車画像10pに対して直列の状態で例えば、輝度を自車画像10pより低下させた状態や透過率を自車画像10pより高くした状態で表示される。なお、牽引装置18等に角度検出センサ等が設けられている場合、認識部46で被牽引車両12が認識できないものの、連結角度θが検出可能な場合には、トレーラアイコン52aやトレーラインジケータ54bを連結角度θに応じて傾けた姿勢で表示するようにしてもよい。   In the case of the present embodiment, the guide line generation unit 50b can provide the driver with the recognition result of the recognition unit 46 by changing the display mode of the movement position prediction line 58 on the screen 26a of the display device 26. FIG. 11 illustrates a display example of the screen 26 a of the display device 26 when the recognition unit 46 can not recognize the towed vehicle 12 in a state where the tow vehicle 10 can travel backward in the periphery monitoring mode. In the case of FIG. 11, the towed vehicle 12 can not be recognized by the recognition unit 46 even though the towed vehicle 12 appears in the rear image captured by the imaging unit 24. Therefore, in the overhead image P1, the trailer image 12p corresponding to the to-be-drawn vehicle 12 is displayed in an attitude in which the trailer image 12p is turned to the right although it is unclear. In addition, although the tow vehicle 12 is unclear, it is also displayed on the actual image P2. An indicator 54 (trailer icon 52a) indicating that the towed vehicle 12 can not be recognized is displayed in the overhead image P1, and an indicator 54 including a tractor indicator 54a and a trailer indicator 54b indicating a non-recognition state is displayed. It is displayed. In this case, the indicator 52 (trailer icon 52a) can not recognize the towed vehicle 12 and can not detect the connection angle θ. Therefore, for example, in the state in series with the host vehicle image 10p, the luminance is higher than the host vehicle image 10p. It is displayed in a lowered state or in a state in which the transmittance is higher than the vehicle image 10p. When the pulling device 18 or the like is provided with an angle detection sensor or the like, although the towed vehicle 12 can not be recognized by the recognition unit 46, the trailer icon 52a or the trailer indicator 54b is used when the connection angle θ can be detected. It may be displayed in a posture inclined according to the connection angle θ.

この場合、周辺監視システム100は、認識部46が被牽引車両12を認識していないことを明確に示すために、実画像P2に被牽引車両12を連結していない場合に、後退時に表示されるような、所定の後方位置(例えば、2.5m)まで延びる通常表示態様の移動位置予測線58を表示する。つまり、距離目安線58b,58c,58dを含む移動位置予測線58が表示される。このような移動位置予測線58の通常表示が行われることで、画面26aを確認した運転者に周辺監視システム100が被牽引車両12を認識していないことを理解させやすくすることができる。なお、牽引車両10の周囲に被牽引車両12が存在しない場合も認識部46は被牽引車両12を認識できないので、ガイド線生成部50bは通常表示態様の移動位置予測線58を生成し、実画像P2に重畳表示する。   In this case, in order to clearly show that the recognition unit 46 does not recognize the towed vehicle 12, the surrounding area monitoring system 100 is displayed when the towed vehicle 12 is not connected to the real image P 2 at the time of backward movement. And the movement position prediction line 58 in the normal display mode extending to a predetermined rear position (for example, 2.5 m). That is, the movement position prediction line 58 including the distance reference lines 58b, 58c and 58d is displayed. By performing such a normal display of the movement position prediction line 58, it is possible to make it easy for the driver who has confirmed the screen 26a to understand that the surrounding area monitoring system 100 does not recognize the towed vehicle 12. Since the recognition unit 46 can not recognize the tow vehicle 12 even if the tow vehicle 12 does not exist around the tow vehicle 10, the guide line generation unit 50b generates the movement position prediction line 58 of the normal display mode. The superimposed image is displayed on the image P2.

一方、周辺監視モードに移行状態で、牽引車両10が後退走行可能なときに、認識部46が被牽引車両12を認識している場合、図12に示すように、俯瞰画像P1に、被牽引車両12に対応する明瞭なトレーラ画像12pが右に旋回した姿勢で表示される。また、実画像P2にも被牽引車両12が明瞭に表示される。また、俯瞰画像P1には、被牽引車両12が認識できていることを示す指標52(トレーラアイコン52a)が表示される。この場合、連結角度取得部44dは、画像処理により牽引車両10と被牽引車両12との連結角度θを得ることができるので、指標52(トレーラアイコン52a)は、連結角度θに対応した姿勢で自車画像10pに連結させて表示することができる。同様に、トラクタインジケータ54aおよび認識状態を示すトレーラインジケータ54bで構成されるインジケータ54も連結角度θに基づく連結姿勢で表示され得る。   On the other hand, when the recognition unit 46 recognizes the tow vehicle 12 when the tow vehicle 10 can travel backward in the state of transition to the periphery monitoring mode, as shown in FIG. A clear trailer image 12p corresponding to the vehicle 12 is displayed in the attitude of turning to the right. In addition, the towed vehicle 12 is clearly displayed on the actual image P2. Further, in the overhead image P1, an index 52 (trailer icon 52a) indicating that the towed vehicle 12 can be recognized is displayed. In this case, since the connection angle acquisition unit 44d can obtain the connection angle θ between the tow vehicle 10 and the tow vehicle 12 by image processing, the index 52 (trailer icon 52a) has a posture corresponding to the connection angle θ. It can be linked to the own vehicle image 10 p and displayed. Similarly, an indicator 54 configured of a tractor indicator 54a and a trailer indicator 54b indicating a recognition state may be displayed in a connected posture based on the connected angle θ.

この場合、周辺監視システム100は、認識部46が被牽引車両12を認識していることを明確に示すために、実画像P2に、被牽引車両12を連結している場合に表示されている被牽引車両12と重ならない後方位置(例えば、1.0m)まで延びる短縮表示態様の移動位置予測線58を表示する。この場合、移動位置予測線58は、距離目安線58cおよび距離目安線58cまで延びるタイヤ軌跡線58aのみが表示される。このような短縮表示態様の移動位置予測線58が表示されることで、画面26aを確認した運転者に周辺監視システム100が被牽引車両12を認識していることを理解させやすくすることができる。また、短縮表示態様の移動位置予測線58が被牽引車両12と重ならないため、実画像P2の視認性が向上し、認識されている被牽引車両12の連結姿勢や牽引車両10の後退時の進行方向を容易に認識させることができる。特に、被牽引車両12と重ならない短縮表示態様の移動位置予測線58のタイヤ軌跡線58aが適度な長さ(例えば1.0m)で表示されることで、タイヤ軌跡線58aの向きを認識させやすく、牽引車両10の向かう方向、つまり牽引車両10の現在の操舵方向(舵角方向)を理解させやすくすることができる。その結果、被牽引車両12を希望する方向に旋回させるためには、いずれの方向に舵角を変化させたらよいかの判断をさせやすくすることができる。   In this case, the surrounding area monitoring system 100 is displayed when the towed vehicle 12 is connected to the actual image P2 in order to clearly show that the recognition unit 46 recognizes the towed vehicle 12. A movement position prediction line 58 of a short display mode extending to a rear position (for example, 1.0 m) not overlapping the towed vehicle 12 is displayed. In this case, only the tire locus line 58a extending to the distance reference line 58c and the distance reference line 58c is displayed as the movement position prediction line 58. By displaying the movement position prediction line 58 in such a short display mode, it is possible to make it easy for the driver who has confirmed the screen 26 a to understand that the surrounding area monitoring system 100 recognizes the towed vehicle 12. . In addition, since the movement position prediction line 58 in the short display mode does not overlap the towed vehicle 12, the visibility of the actual image P2 is improved, and the recognized connection posture of the towed vehicle 12 and the backward movement of the towing vehicle 10 are realized. The traveling direction can be easily recognized. In particular, the tire locus line 58a of the movement position prediction line 58 in a shortened display mode not overlapping with the towed vehicle 12 is displayed with an appropriate length (for example, 1.0 m) to recognize the direction of the tire locus line 58a. This makes it easy to understand the direction in which the tow vehicle 10 is heading, that is, the current steering direction (steering angle direction) of the tow vehicle 10. As a result, in order to turn the driven vehicle 12 in a desired direction, it can be made easy to determine in which direction the steering angle should be changed.

図4に戻り、表示切替部50cは、監視要求取得部44eが周辺監視モードへの移行要求を取得した場合、表示装置26の画面26aを通常表示画面のナビゲーション画面やオーディオ画面から図7や図12に示すような周辺監視画面に切り替える。また、表示切替部50cは、監視要求取得部44eが周辺監視モードの終了要求を取得した場合には、周辺監視画面から通常表示画面に復帰させる。また、周辺監視モードにおいて、シフト位置取得部44cが検出した牽引車両10の進行方向に基づき、牽引車両10の進行方向に対応する撮像部24または撮像部24aで撮像した実画像P2を表示するように画面26aを切り替える。また、表示切替部50cは、認識部46の認識結果に基づき、指標52(トレーラアイコン52a)の表示態様やインジケータ54の表示態様、移動位置予測線58の表示態様を切り替える。   Returning to FIG. 4, when the monitor request acquisition unit 44e acquires a request for transition to the surrounding area monitor mode, the display switching unit 50c causes the screen 26a of the display device 26 to be displayed as shown in FIG. Switch to the peripheral monitoring screen as shown in 12. In addition, when the monitoring request acquisition unit 44e acquires the termination request of the periphery monitoring mode, the display switching unit 50c restores the periphery display screen to the normal display screen. In the periphery monitoring mode, the actual image P2 captured by the imaging unit 24 or the imaging unit 24a corresponding to the traveling direction of the tow vehicle 10 is displayed based on the traveling direction of the tow vehicle 10 detected by the shift position acquisition unit 44c. Switch the screen 26a to. The display switching unit 50 c switches the display mode of the indicator 52 (trailer icon 52 a), the display mode of the indicator 54, and the display mode of the movement position prediction line 58 based on the recognition result of the recognition unit 46.

上述のように構成される周辺監視システム100による周辺監視における表示処理手順の一例を図13のフローチャートを用いて説明する。   An example of a display processing procedure in periphery monitoring by the periphery monitoring system 100 configured as described above will be described using the flowchart in FIG.

まず、CPU36aは、監視要求取得部44eが運転者による例えば操作入力部30の操作による周辺監視モードへの移行要求を取得したか否かを確認する。監視要求取得部44eが周辺監視モードへの移行要求を取得していない場合(S100のNo)、CPU36aは一旦このフローを終了する。一方、監視要求取得部44eが周辺監視モードへの移行要求を取得している場合(S100のYes)、CPU36aは、画像取得部44aを介して撮像部24が撮像する後方画像および撮像部24aが撮像する前方画像を取得する(S102)。続いて、CPU36aは、画像取得部44aが取得した後方画像および牽引車両10の周辺を撮像した前方画像や側方画像を用いて俯瞰画像P1を生成するとともに、表示切替部50cにより周辺監視画面を表示する(S104)。すなわち、表示切替部50cは、周辺監視モードへの移行要求を受ける前まで表示装置26の画面26aに表示されていた通常表示画面(例えば、ナビゲーション画面やオーディオ画面)から例えば、図6に示すような俯瞰画像P1と実画像P2で構成される周辺監視画面に切り替える。   First, the CPU 36a checks whether the monitoring request acquisition unit 44e acquires a request for transition to the periphery monitoring mode by the driver operating the operation input unit 30, for example. If the monitoring request acquisition unit 44e has not acquired a request for transition to the periphery monitoring mode (No in S100), the CPU 36a once ends this flow. On the other hand, when the monitoring request acquisition unit 44e acquires the transition request to the surrounding area monitoring mode (Yes in S100), the CPU 36a receives the rear image captured by the imaging unit 24 via the image acquisition unit 44a and the imaging unit 24a. A forward image to be captured is acquired (S102). Subsequently, the CPU 36a generates a bird's-eye view image P1 using the rear image acquired by the image acquisition unit 44a and the front image or side image obtained by imaging the periphery of the tow vehicle 10, and the display switching unit 50c causes the periphery monitoring screen to be displayed. It displays (S104). That is, as shown in FIG. 6, for example, from the normal display screen (for example, the navigation screen or the audio screen) displayed on the screen 26a of the display device 26 before the display switching unit 50c receives the transition request to the periphery monitoring mode. It switches to the periphery monitoring screen comprised by the bird's-eye view image P1 and the real image P2.

続いて、CPU36aは舵角取得部44bを介して舵角センサ38が検出する牽引車両10の舵角を取得する(S106)。そして、CPU36aは、認識部46に画像取得部44aが取得した後方画像に対する画像処理を実行させ、被牽引車両12の認識を行わせる。そして、認識部46により被牽引車両12が認識できた場合(S108のYes)、CPU36aは、指標態様制御部50aに、画像変換部48が生成した俯瞰画像P1に対して、図8に示すような被牽引車両12を認識していることを示すトレーラアイコン52aを表示させる(S110)。なお、このとき、連結角度取得部44dは、図5で説明したように、牽引車両10に対する被牽引車両12の連結角度θを取得する。指標態様制御部50aは、連結角度取得部44dが取得した連結角度θに基づき、俯瞰画像P1上で表示するトレーラアイコン52aの自車画像10pに対する姿勢(接続角度)を決定し、自車画像10pとトレーラアイコン52aとが連結されている状態で表示する。また、指標態様制御部50aは、インジケータ54におけるトラクタインジケータ54aとトレーラインジケータ54bとの接続角度も連結角度取得部44dが取得した連結角度θに基づいて決定する。このように、認識部46によって被牽引車両12が認識できた場合で、例えば、牽引車両10と被牽引車両12との連結角度θ≒0の場合、俯瞰画像P1は、図7に示すような画像になる。また、連結角度θ≠0の場合、俯瞰画像P1は、図12に示すような画像になる。   Subsequently, the CPU 36a acquires the steering angle of the tow vehicle 10 detected by the steering angle sensor 38 via the steering angle acquisition unit 44b (S106). Then, the CPU 36a causes the recognition unit 46 to execute image processing on the rear image acquired by the image acquisition unit 44a, and causes the towed vehicle 12 to be recognized. Then, when the towed vehicle 12 can be recognized by the recognition unit 46 (Yes in S108), the CPU 36a causes the index mode control unit 50a to display the overhead image P1 generated by the image conversion unit 48 as shown in FIG. A trailer icon 52a indicating that the towed vehicle 12 is recognized is displayed (S110). At this time, as described in FIG. 5, the connection angle acquisition unit 44 d acquires the connection angle θ of the towed vehicle 12 with respect to the tow vehicle 10. The index mode control unit 50a determines the attitude (connection angle) of the trailer icon 52a displayed on the overhead image P1 with respect to the vehicle image 10p based on the connection angle θ acquired by the connection angle acquisition unit 44d, and the vehicle image 10p And the trailer icon 52a are displayed in a connected state. The index mode control unit 50a also determines the connection angle between the tractor indicator 54a and the trailer indicator 54b in the indicator 54 based on the connection angle θ acquired by the connection angle acquisition unit 44d. Thus, in the case where the towed vehicle 12 can be recognized by the recognition unit 46, for example, in the case where the connection angle θ between the tow vehicle 10 and the towed vehicle 12 is approximately 0, the overhead image P1 is as shown in FIG. It becomes an image. Further, in the case of the connecting angle θ ≠ 0, the overhead image P1 is an image as shown in FIG.

一方、認識部46により被牽引車両12が認識できない場合(S108のNo)、CPU36aは指標態様制御部50aにより、画像変換部48が生成した俯瞰画像P1において、被牽引車両12を認識していないことを示すようにトレーラアイコン52aを非表示にする(S112)。また、指標態様制御部50aは、俯瞰画像P1に被牽引車両12を認識していないことを示すトラクタインジケータ54aのみのインジケータ54を表示する(図6の俯瞰画像P1を参照)。なお、このとき、指標態様制御部50aは、図9や図10に示すような被牽引車両12を認識していないことを示すトレーラアイコン52aを俯瞰画像P1に表示するようにしてもよい(図11の俯瞰画像P1を参照)。   On the other hand, when the towed vehicle 12 can not be recognized by the recognition unit 46 (No in S108), the CPU 36a does not recognize the tow vehicle 12 in the overhead image P1 generated by the image conversion unit 48 by the index mode control unit 50a. The trailer icon 52a is hidden so as to indicate that (S112). Further, the index mode control unit 50a displays the indicator 54 of only the tractor indicator 54a indicating that the towed vehicle 12 is not recognized in the overhead image P1 (see the overhead image P1 in FIG. 6). At this time, the indicator mode control unit 50a may display a trailer icon 52a indicating that the towed vehicle 12 as shown in FIGS. 9 and 10 is not recognized in the overhead image P1 (see FIG. 11 overhead view image P1).

続いて、CPU36aは、シフト位置取得部44cの取得結果に基づき、牽引車両10が現在進行しようとしている方向(前進か後退)を確認する。運転者が牽引車両10を後退走行させようとして、変速操作部を「Rレンジ」に移動させていることを示す信号をシフト位置取得部44cが取得した場合で(S114のYes)、認識部46が被牽引車両12を認識している場合(S116のYes)、ガイド線生成部50bは、牽引時のガイド線を生成する(S118)。つまり、図12に示すような、例えば、牽引車両10の後方1.0mの位置まで延びる短縮表示態様の移動位置予測線58を生成する。この場合、ガイド線生成部50bは、舵角取得部44bが取得した牽引車両10の舵角に基づき、牽引車両10の旋回軌道を算出するとともに、牽引車両10の後輪14Rのタイヤ軌跡線58aを算出して移動位置予測線58の描画方向を決定する。一方、S116において、認識部46が被牽引車両12を認識してない場合(S116のNo)、ガイド線生成部50bは、非牽引時のガイド線を生成する(S120)。つまり、図11に示すような、例えば、牽引車両10の後方2.5mの位置まで延びる通常表示態様の移動位置予測線58を生成する。この場合も、ガイド線生成部50bは、舵角取得部44bが取得した牽引車両10の舵角に基づき、牽引車両10の旋回軌道を算出するとともに、牽引車両10の後輪14Rのタイヤ軌跡線58aを算出して移動位置予測線58の描画方向を決定する。ガイド線生成部50bによって移動位置予測線58が生成されたら、CPU36aは、後方を示す実画像P2に移動位置予測線58(ガイド線)を重畳し(S122)、図11や図12に示すような画面26aを表示装置26に表示する。   Subsequently, the CPU 36a confirms the direction (forward or backward) in which the towing vehicle 10 is currently going to advance, based on the acquisition result of the shift position acquisition unit 44c. In a case where the shift position acquisition unit 44c acquires a signal indicating that the driver is moving the tow vehicle 10 to the “R range” in an attempt to move the towing vehicle 10 backward (Yes in S114), the recognition unit 46 When the vehicle recognizes the towed vehicle 12 (Yes in S116), the guide line generation unit 50b generates a guide line at the time of towing (S118). That is, as shown in FIG. 12, for example, a movement position prediction line 58 in a shortened display mode extending to a position of 1.0 m behind the tow vehicle 10 is generated. In this case, the guide line generation unit 50b calculates the turning trajectory of the tow vehicle 10 based on the steering angle of the tow vehicle 10 acquired by the steering angle acquisition unit 44b, and the tire locus line 58a of the rear wheel 14R of the tow vehicle 10 To determine the drawing direction of the movement position prediction line 58. On the other hand, in S116, when the recognition unit 46 does not recognize the towed vehicle 12 (No in S116), the guide line generation unit 50b generates a guide line during non-traction (S120). That is, as shown in FIG. 11, for example, the movement position prediction line 58 in the normal display mode extending to a position 2.5 m behind the tow vehicle 10 is generated. Also in this case, the guide line generation unit 50b calculates the turning trajectory of the tow vehicle 10 based on the steering angle of the tow vehicle 10 acquired by the steering angle acquisition unit 44b, and the tire locus line of the rear wheel 14R of the tow vehicle 10 The drawing direction of the movement position prediction line 58 is determined by calculating 58a. When the movement position prediction line 58 is generated by the guide line generation unit 50b, the CPU 36a superimposes the movement position prediction line 58 (guide line) on the actual image P2 indicating the rear (S122), as shown in FIG. 11 and FIG. Screen 26 a is displayed on the display device 26.

そして、CPU36aは、監視要求取得部44eが周辺監視モードの終了要求を取得した場合(S124のYes)、例えば、運転者が操作入力部30により終了スイッチを操作した場合等、表示切替部50cにより、表示装置26の画面26aに通常表示画面を表示(復帰)させる(S126)。例えば、画面26aをナビゲーション画面やオーディオ画面に切り替え、一連の周辺監視処理を一旦終了させる。   Then, when the monitoring request acquisition unit 44e acquires the peripheral monitoring mode end request (Yes in S124), the CPU 36a causes the display switching unit 50c, for example, when the driver operates the end switch using the operation input unit 30. The normal display screen is displayed (returned) on the screen 26a of the display device 26 (S126). For example, the screen 26a is switched to a navigation screen or an audio screen, and the series of peripheral monitoring processing is temporarily ended.

S124において、監視要求取得部44eが周辺監視モードの終了要求を取得していない場合(S124のNo)、CPU36aは、S102に移行し、周辺監視処理を継続する。   In S124, when the monitoring request acquisition unit 44e does not acquire the peripheral monitoring mode end request (No in S124), the CPU 36a proceeds to S102 and continues the peripheral monitoring process.

S114において、運転者が牽引車両10を後退走行させようとしていない場合、つまり、変速操作部を「Rレンジ」以外に移動させていることを示す信号をシフト位置取得部44cが取得した場合で(S114のNo)、ガイド線生成部50bは、前方表示用の目安線56を生成し、前方の実画像P2に重畳表示する(S128)。すなわち、図6や図7に示すような画面26aを表示装置26に表示する。この場合もガイド線生成部50bは、舵角取得部44bが取得した牽引車両10の舵角に基づき、牽引車両10の旋回軌道を算出して目安線56の描画方向を決定する。CPU36aは、目安線56を画面26aに表示させた後、S124の処理に移行し、周辺監視処理を終了するか否かを決定し、上述した処理を実行する。   In S114, when the driver is not trying to cause the towing vehicle 10 to travel backward, that is, when the shift position acquisition unit 44c acquires a signal indicating that the shift operation unit is being moved to other than the “R range” ( The guide line generation unit 50b generates a reference line 56 for front display, and displays the reference line 56 superimposed on the front actual image P2 (S128). That is, the screen 26 a as shown in FIG. 6 or 7 is displayed on the display device 26. Also in this case, the guide line generation unit 50b calculates the turning trajectory of the tow vehicle 10 based on the steering angle of the tow vehicle 10 acquired by the steering angle acquisition unit 44b, and determines the drawing direction of the reference line 56. After displaying the reference line 56 on the screen 26a, the CPU 36a proceeds to the process of S124, determines whether or not to finish the periphery monitoring process, and executes the above-described process.

図13に示すフローチャートは一例であり、周辺監視システム100が被牽引車両12を認識されているか否かを示す情報を運転者に通知できればよく、処理ステップの入れ替えや増減等が適宜可能で、同様の効果を得ることができる。   The flowchart shown in FIG. 13 is an example, and it is sufficient if the driver can be notified of information indicating whether or not the surrounding area monitoring system 100 recognizes the towed vehicle 12, and processing steps can be replaced or increased or decreased as appropriate. You can get the effect of

このように、本実施形態の周辺監視システム100によれば、当該周辺監視システム100において被牽引車両12が認識できているか否かが明示されるため、周辺監視システム100の制御(処理)状況を理解させやすく、運転者に安心感を与えやすくなる。   As described above, according to the surroundings monitoring system 100 of the present embodiment, it is clearly indicated whether or not the towed vehicle 12 can be recognized in the surroundings monitoring system 100, so the control (processing) status of the surroundings monitoring system 100 can be It is easy to make it understand and it makes it easy to give the driver a sense of security.

上述した実施形態においては、周辺監視システム100が被牽引車両12を認識しているか否かを表示装置26を用いて通知する例を示したが、例えば、俯瞰画像P1に表示する内容を、表示装置34を用いて簡易的に表示してもよく、同様の効果を得ることができる。また、周辺監視システム100が被牽引車両12を認識しているか否かを通知する場合、上述したような視覚的な通知に加え、音声出力装置28を用いた音声による聴覚的通知を行ってもよく、運転者に周辺監視システム100における被牽引車両12の認識状態の把握をより明確に行わせることができる。   In the embodiment described above, an example is shown in which the display device 26 is used to notify whether or not the surrounding area monitoring system 100 recognizes the towed vehicle 12. However, for example, the content to be displayed on the overhead image P1 is displayed It may be simply displayed using the device 34, and the same effect can be obtained. Further, when the surrounding area monitoring system 100 notifies whether the towed vehicle 12 is recognized or not, in addition to the visual notification as described above, even if the auditory notification is performed by voice using the voice output device 28 As a result, the driver can more clearly grasp the recognition state of the towed vehicle 12 in the surrounding area monitoring system 100.

上述した実施形態において、表示装置26上で俯瞰画像P1の表示領域を実画像P2の表示領域より小さく表示する例を示したが、俯瞰画像P1を実画像P2より大きく表示してもよい。この場合、被牽引車両12の認識状態をより明確に運転者に理解させやすくすることができる。また、俯瞰画像P1を表示装置34に表示し、実画像P2のみを表示装置26に表示するようにしてもよい。この場合、実画像P2の表示領域を広く確保することが可能になり、実画像P2の視認性の向上ができる。また、表示装置34が運転中の運転者の視線をあまり動かさずに視認できる位置(例えばダッシュボードの計器盤部等)に配置されている場合には、俯瞰画像P1の視認性を向上することができる。また、表示装置26に俯瞰画像P1のみを表示してもよく、同様に、俯瞰画像P1の視認性を向上することができる。   Although the example which displays the display area of the bird's-eye view image P1 smaller than the display area of the real image P2 on the display device 26 is shown in the embodiment described above, the bird's-eye view image P1 may be displayed larger than the real image P2. In this case, the recognition state of the driven vehicle 12 can be more clearly understood by the driver. Further, the overhead image P1 may be displayed on the display device 34, and only the actual image P2 may be displayed on the display device 26. In this case, the display area of the real image P2 can be secured widely, and the visibility of the real image P2 can be improved. In addition, when the display device 34 is disposed at a position where the line of sight of the driver while driving can be viewed without much movement (for example, the dashboard panel portion of the dashboard), the visibility of the overhead image P1 should be improved. Can. Further, only the overhead image P1 may be displayed on the display device 26, and similarly, the visibility of the overhead image P1 can be improved.

本実施形態のCPU36aで実行される周辺監視プログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。   The peripheral monitoring program executed by the CPU 36a of the present embodiment is a file in an installable format or an executable format, and is a computer such as a CD-ROM, a flexible disk (FD), a CD-R, or a DVD (Digital Versatile Disk). It may be configured to be recorded and provided on a readable recording medium.

さらに、周辺監視プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、本実施形態で実行される周辺監視プログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。   Furthermore, the periphery monitoring program may be stored on a computer connected to a network such as the Internet and provided by being downloaded via the network. Further, the periphery monitoring program executed in the present embodiment may be configured to be provided or distributed via a network such as the Internet.

本発明の実施形態及び変形例を説明したが、これらの実施形態及び変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。   While the embodiments and variations of the present invention have been described, these embodiments and variations are presented as examples and are not intended to limit the scope of the invention. These novel embodiments can be implemented in various other forms, and various omissions, substitutions, and modifications can be made without departing from the scope of the invention. These embodiments and modifications thereof are included in the scope and the gist of the invention, and are included in the invention described in the claims and the equivalent scope thereof.

10…牽引車両、10p…自車画像、12…被牽引車両、12p…トレーラ画像、18…牽引装置、20…連結部材、24,24a…撮像部、26,34…表示装置、26a…画面、36…ECU、36a…CPU、44…取得部、44a…画像取得部、44b…舵角取得部、44c…シフト位置取得部、44d…連結角度取得部、44e…監視要求取得部、46…認識部、48…画像変換部、50…制御部、50a…指標態様制御部、50b…ガイド線生成部、50c…表示切替部、52…指標、52a…トレーラアイコン、54…インジケータ、54a…トラクタインジケータ、54b…トレーラインジケータ、56…目安線、58…移動位置予測線、100…周辺監視システム。   DESCRIPTION OF SYMBOLS 10 ... Tow vehicle, 10p ... Self-vehicle image, 12 ... Tow vehicle, 12p ... Trailer image, 18 ... Tow apparatus, 20 ... Connection member, 24, 24a ... Imaging part, 26, 34 ... Display apparatus, 26a ... Screen, 36: ECU, 36a: CPU, 44: acquisition unit, 44a: image acquisition unit, 44b: steering angle acquisition unit, 44c: shift position acquisition unit, 44d: connection angle acquisition unit, 44e: monitoring request acquisition unit, 46: recognition Reference numeral 48 image conversion unit 50 control unit 50a indicator mode control unit 50b guide line generation unit 50c display switching unit 52 indicator 52a trailer icon 54 indicator 54a tractor indicator , 54 b ... trailer indicator, 56 ... reference line, 58 ... movement position prediction line, 100 ... perimeter monitoring system.

Claims (4)

被牽引車両が連結可能な牽引車両から当該牽引車両の後方領域を撮像した撮像画像を取得する取得部と、
前記撮像画像に基づき連結状態の前記被牽引車両を認識する認識部と、
前記認識部の認識結果に基づいて、前記被牽引車両が検出できているか否かを判定し、当該判定の結果に応じて、前記牽引車両または前記被牽引車両の状態を示す指標の表示態様を決定し表示させる制御部と、
を備える周辺監視装置。
An acquisition unit configured to acquire a captured image obtained by imaging a rear region of the tow vehicle from the tow vehicle to which the tow vehicle can be connected;
A recognition unit that recognizes the towed vehicle in a connected state based on the captured image;
Whether or not the towed vehicle can be detected is determined based on the recognition result of the recognition unit, and a display mode of an indicator indicating the state of the tow vehicle or the towed vehicle according to the result of the determination A control unit to determine and display;
Peripheral monitoring device provided with
前記制御部は、前記認識部が前記被牽引車両を認識できない場合、前記指標を非表示にする請求項1に記載の周辺監視装置。   The surrounding area monitoring device according to claim 1, wherein the control unit hides the index when the recognition unit can not recognize the towed vehicle. 前記制御部は、前記牽引車両の舵角に基づき前記牽引車両が後退する場合に当該牽引車両の現在の舵角に基づく移動位置予測線を前記撮像画像に前記指標として重畳表示するとともに、前記被牽引車両の認識時と非認識時とで前記移動位置予測線の表示態様を異ならせる請求項1または請求項2に記載の周辺監視装置。   The control unit superimposes a movement position prediction line based on the current steering angle of the tow vehicle on the captured image as the index, when the tow vehicle moves backward based on the steer angle of the tow vehicle, and The surrounding area monitoring device according to claim 1 or 2, wherein the display mode of the movement position prediction line is made different between when the tow vehicle is recognized and when it is not recognized. 前記取得部は、前記牽引車両の周辺の画像をさらに取得し、
前記制御部は、前記指標として前記被牽引車両を示す車両マークを表示させる場合、前記周辺の画像に基づく車両周辺画像における前記被牽引車両の表示対応位置に重畳表示させる請求項1から請求項3のいずれか1項に記載の周辺監視装置。
The acquisition unit further acquires an image around the tow vehicle,
When displaying the vehicle mark indicating the towed vehicle as the index, the control unit causes the display corresponding position of the towed vehicle in the vehicle peripheral image based on the peripheral image to be superimposed and displayed. The surrounding area monitoring device according to any one of the above.
JP2017198847A 2017-10-10 2017-10-12 Perimeter monitoring device Active JP7110577B2 (en)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017198847A JP7110577B2 (en) 2017-10-12 2017-10-12 Perimeter monitoring device
US16/754,436 US11591018B2 (en) 2017-10-10 2018-10-05 Parking assistance device
CN201880060960.3A CN111108023B (en) 2017-10-10 2018-10-05 Parking assist apparatus
PCT/JP2018/037479 WO2019073938A1 (en) 2017-10-10 2018-10-05 Parking assistance device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017198847A JP7110577B2 (en) 2017-10-12 2017-10-12 Perimeter monitoring device

Publications (2)

Publication Number Publication Date
JP2019075625A true JP2019075625A (en) 2019-05-16
JP7110577B2 JP7110577B2 (en) 2022-08-02

Family

ID=66543322

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017198847A Active JP7110577B2 (en) 2017-10-10 2017-10-12 Perimeter monitoring device

Country Status (1)

Country Link
JP (1) JP7110577B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020204227A (en) * 2019-06-19 2020-12-24 日立建機株式会社 Rolling compaction machine
JP7806157B1 (en) * 2024-08-30 2026-01-26 本田技研工業株式会社 Control device, control method, and control program
JP7806158B1 (en) * 2024-08-30 2026-01-26 本田技研工業株式会社 Control device, control method, and control program

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002308029A (en) * 2001-04-09 2002-10-23 Matsushita Electric Ind Co Ltd Driving support device
JP2002359839A (en) * 2001-03-29 2002-12-13 Matsushita Electric Ind Co Ltd Rear view camera image display method and device
JP2005112004A (en) * 2003-10-02 2005-04-28 Nissan Motor Co Ltd Vehicle retraction support apparatus and method
JP2008149764A (en) * 2006-12-14 2008-07-03 Alpine Electronics Inc Vehicle periphery monitoring device
JP2012105158A (en) * 2010-11-11 2012-05-31 Mitsubishi Fuso Truck & Bus Corp Combination vehicle birds-eye-view display system
JP2015154406A (en) * 2014-02-18 2015-08-24 クラリオン株式会社 Peripheral monitoring device for towing vehicle

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002359839A (en) * 2001-03-29 2002-12-13 Matsushita Electric Ind Co Ltd Rear view camera image display method and device
JP2002308029A (en) * 2001-04-09 2002-10-23 Matsushita Electric Ind Co Ltd Driving support device
JP2005112004A (en) * 2003-10-02 2005-04-28 Nissan Motor Co Ltd Vehicle retraction support apparatus and method
JP2008149764A (en) * 2006-12-14 2008-07-03 Alpine Electronics Inc Vehicle periphery monitoring device
JP2012105158A (en) * 2010-11-11 2012-05-31 Mitsubishi Fuso Truck & Bus Corp Combination vehicle birds-eye-view display system
JP2015154406A (en) * 2014-02-18 2015-08-24 クラリオン株式会社 Peripheral monitoring device for towing vehicle

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020204227A (en) * 2019-06-19 2020-12-24 日立建機株式会社 Rolling compaction machine
JP7094247B2 (en) 2019-06-19 2022-07-01 日立建機株式会社 Rolling machine
JP7806157B1 (en) * 2024-08-30 2026-01-26 本田技研工業株式会社 Control device, control method, and control program
JP7806158B1 (en) * 2024-08-30 2026-01-26 本田技研工業株式会社 Control device, control method, and control program

Also Published As

Publication number Publication date
JP7110577B2 (en) 2022-08-02

Similar Documents

Publication Publication Date Title
US11648932B2 (en) Periphery monitoring device
JP7147300B2 (en) Traction support device
US20200086793A1 (en) Periphery monitoring device
US11591018B2 (en) Parking assistance device
WO2018061294A1 (en) Periphery monitoring device
CN112298038A (en) Periphery monitoring device
CN110001523B (en) Peripheral monitoring device
US11400974B2 (en) Towing assist device for notifying driver of backup conditions
US11420678B2 (en) Traction assist display for towing a vehicle
JP2018133712A (en) Perimeter monitoring device
WO2019073872A1 (en) Parking assistance device
WO2019073909A1 (en) Towing support device
CN111108745B (en) Peripheral monitoring device
JP7110577B2 (en) Perimeter monitoring device
JP6977318B2 (en) Peripheral display device
US10875577B2 (en) Traction assist apparatus
JP2019069719A (en) Parking support device
JP2019046086A (en) Periphery monitoring device
JP2019068326A (en) Periphery monitoring device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200910

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220124

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220621

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220704

R150 Certificate of patent or registration of utility model

Ref document number: 7110577

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150