[go: up one dir, main page]

JP2018182373A - Overhead video generation apparatus, overhead video display apparatus, overhead video generation method and program - Google Patents

Overhead video generation apparatus, overhead video display apparatus, overhead video generation method and program Download PDF

Info

Publication number
JP2018182373A
JP2018182373A JP2017073795A JP2017073795A JP2018182373A JP 2018182373 A JP2018182373 A JP 2018182373A JP 2017073795 A JP2017073795 A JP 2017073795A JP 2017073795 A JP2017073795 A JP 2017073795A JP 2018182373 A JP2018182373 A JP 2018182373A
Authority
JP
Japan
Prior art keywords
vehicle
reference object
image
overhead
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017073795A
Other languages
Japanese (ja)
Inventor
浅山 学
Manabu Asayama
学 浅山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2017073795A priority Critical patent/JP2018182373A/en
Priority to PCT/JP2018/008416 priority patent/WO2018186086A1/en
Priority to EP18781926.3A priority patent/EP3550829B1/en
Publication of JP2018182373A publication Critical patent/JP2018182373A/en
Priority to US16/374,760 priority patent/US10873720B2/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】車両と周辺との相対的な位置関係を適切に確認可能にすること。【解決手段】映像データ取得部42と、映像データ取得部42が取得した周辺映像に視点変換処理および車両を示す自車両アイコンを含む合成処理を行い、自車両から所定の表示範囲を表示する俯瞰映像を生成する俯瞰映像生成部44と、車両の周囲における表示範囲より遠方に存在する基準対象を検出する基準対象検出部45と、基準対象検出部45が検出した基準対象と自車との相対的な向きを特定する向き特定部46と、基準対象と自車との相対的な向きを示す情報を自車両アイコンを基準とした相対的な向きとして俯瞰映像生成部44が生成した俯瞰映像に重畳させた重畳映像を生成する重畳処理部47と、重畳処理部47が生成した重畳映像を表示パネル31に表示させる表示制御部48とを備えることを特徴とする。【選択図】図1PROBLEM TO BE SOLVED: To appropriately confirm a relative positional relationship between a vehicle and its surroundings. SOLUTION: A bird's-eye view of displaying a predetermined display range from an own vehicle by performing a viewpoint conversion process and a synthesis process including an own vehicle icon indicating a vehicle on a peripheral image acquired by the video data acquisition unit 42 and the video data acquisition unit 42. A bird's-eye view image generation unit 44 that generates an image, a reference object detection unit 45 that detects a reference object that exists farther than the display range around the vehicle, and a relative between the reference object and the own vehicle detected by the reference object detection unit 45. In the bird's-eye view image generated by the bird's-eye view image generation unit 44, the direction specifying unit 46 for specifying the target direction and the information indicating the relative direction between the reference target and the own vehicle are set as the relative orientation with respect to the own vehicle icon. It is characterized by including a superimposing processing unit 47 that generates a superimposing superimposed image and a display control unit 48 that displays the superimposing image generated by the superimposing processing unit 47 on the display panel 31. [Selection diagram] Fig. 1

Description

本発明は、俯瞰映像生成装置、俯瞰映像表示装置、俯瞰映像生成方法およびプログラムに関する。   BACKGROUND OF THE INVENTION Field of the Invention The present invention relates to an overhead view video generation device, an overhead view video display device, an overhead view video generation method and program.

車両の駐車時、運転者は、例えば、駐車区画線、車両止め、車道外側線、縁石などの基準対象に車両の向きを合わせて駐車する。車両の駐車時、車両の俯瞰映像を車両画像と共に表示して駐車を支援する車両周辺表示装置に関する技術が知られている(例えば、特許文献1、特許文献2参照)。特許文献1に記載の技術は、駐車領域間の境界線として白線が路面に描かれていない駐車場において、車幅方向に延びた車止めから隣接する駐車領域間の境界を設定し、俯瞰映像に重畳して表示する。特許文献2に記載の技術は、駐車枠の既定部分が表示範囲外にあるとき、駐車枠の延長線を示す延長線画像を俯瞰映像に重畳して表示する。   When the vehicle is parked, the driver parks the vehicle in a direction to the reference object such as, for example, a parking lot line, a vehicle stop, a roadway outside line, and a curb. There is known a technique related to a vehicle peripheral display device that supports parking by displaying a bird's-eye image of the vehicle together with a vehicle image when the vehicle is parked (see, for example, patent documents 1 and 2). In the parking lot in which a white line is not drawn on the road surface as a boundary between parking areas, the technology described in Patent Document 1 sets boundaries between adjacent parking areas from a car stop extending in the vehicle width direction Display superimposed. According to the technique described in Patent Document 2, when the predetermined portion of the parking frame is out of the display range, an extension line image indicating an extension line of the parking frame is superimposed and displayed on the overhead image.

特開2013−116696号公報JP, 2013-116696, A 特開2008−083990号公報JP, 2008-083990, A

特許文献1に記載された技術は、車幅方向に延びた車止めのように、隣接する駐車領域間の境界を示すものを必要とする。特許文献2に記載された技術は、駐車枠が車両方向に延びていることを必要とする。例えば、車両方向に延びていない直線状の枠線が表示範囲外に存在する場合、どちらの技術も適用することができない。このように、俯瞰映像において、車両と周辺との相対的な位置関係を適切に確認可能に表示することには改善の余地がある。   The technology described in Patent Document 1 requires a demarcation between adjacent parking areas, such as a car stop extending in the vehicle width direction. The technique described in Patent Document 2 requires the parking frame to extend in the vehicle direction. For example, when the straight frame line which does not extend in the vehicle direction exists out of the display range, neither technique can be applied. Thus, there is room for improvement in appropriately displaying the relative positional relationship between the vehicle and the surroundings in the overhead image so as to be able to be confirmed.

本発明は、上記に鑑みてなされたものであって、車両と周辺との相対的な位置関係を適切に確認可能にすることを目的とする。   The present invention has been made in view of the above, and it is an object of the present invention to appropriately confirm the relative positional relationship between a vehicle and the surroundings.

上述した課題を解決し、目的を達成するために、本発明に係る俯瞰映像生成装置は、車両の周辺を撮影する複数のカメラが撮影した周辺映像データを取得する映像データ取得部と、前記映像データ取得部が取得した周辺映像に視点変換処理および車両を示す自車両アイコンを含む合成処理を行い、前記車両から所定の表示範囲を表示する俯瞰映像を生成する俯瞰映像生成部と、前記車両の周囲における前記表示範囲より遠方に存在する基準対象を検出する基準対象検出部と、前記基準対象検出部が検出した基準対象と前記車両との相対的な向きを特定する向き特定部と、前記基準対象と前記車両との相対的な向きを示す情報を前記自車両アイコンを基準とした相対的な向きとして前記俯瞰映像生成部が生成した俯瞰映像に重畳させた重畳映像を生成する重畳処理部と、前記重畳処理部が生成した重畳映像を表示部に表示させる表示制御部とを備えることを特徴とする。   In order to solve the problems described above and achieve the object, the overhead view video image generating apparatus according to the present invention is an image data acquisition unit for acquiring surrounding image data captured by a plurality of cameras capturing an area around a vehicle; The overhead image generator for performing a viewpoint conversion process and a composition process including an own vehicle icon indicating a vehicle on the peripheral image acquired by the data acquisition unit, and generating an overhead image for displaying a predetermined display range from the vehicle; A reference object detection unit that detects a reference object that is located farther than the display range in the surroundings, a direction identification unit that specifies a relative direction between the reference object detected by the reference object detection unit and the vehicle A superimposed image obtained by superimposing the information indicating the relative orientation of the object and the vehicle on the overhead image generated by the overhead image generating unit as the relative orientation based on the host vehicle icon A superimposition processing unit to be generated, characterized by comprising a display control unit for displaying a superimposed image of the superposition processing unit has generated to the display unit.

本発明に係る俯瞰映像表示装置は、上記の俯瞰映像生成装置と、前記映像データ取得部に映像データを供給する撮影部、前記表示制御部が重畳映像を表示させる表示部、の少なくともどちらかを備えることを特徴とする。   The overhead view video display apparatus according to the present invention includes at least one of the above-described overhead view video generation apparatus, a photographing unit that supplies the video data to the video data acquisition unit, and a display unit that causes the display control unit to display superimposed images. It is characterized by having.

本発明に係る俯瞰映像生成方法は、車両の周辺を撮影する複数のカメラが撮影した周辺映像データを取得する映像データ取得ステップと、前記映像データ取得ステップで取得した周辺映像に視点変換処理および車両を示す自車両アイコンを含む合成処理を行い、前記車両から所定の表示範囲を表示する俯瞰映像を生成する俯瞰映像生成ステップと、前記車両の周囲における前記表示範囲より遠方に存在する基準対象を検出する基準対象検出ステップと、前記基準対象検出ステップで検出した基準対象と前記車両との相対的な向きを特定する向き特定ステップと、前記基準対象と前記車両との相対的な向きを示す情報を前記自車両アイコンを基準とした相対的な向きとして前記俯瞰映像生成ステップで生成した俯瞰映像に重畳させた重畳映像を生成する重畳処理ステップと、前記重畳処理ステップで生成した重畳映像を表示部に表示させる表示制御ステップとを含む。   The overhead view video generation method according to the present invention includes a video data acquisition step of acquiring surrounding video data captured by a plurality of cameras capturing the periphery of the vehicle, a viewpoint conversion process and vehicle conversion to the peripheral video acquired in the video data acquisition step. Performing a synthesis process including an own vehicle icon indicating the overhead view image generating step of generating an overhead view image for displaying a predetermined display range from the vehicle, and detecting a reference target located far from the display range around the vehicle Information indicating the relative orientation between the reference object and the vehicle, the direction identification step for identifying the relative orientation of the reference object and the vehicle detected in the reference object detection step; The superimposed image superimposed on the overhead-view image generated in the overhead-view image generation step as a relative direction based on the host vehicle icon It includes a superimposition processing step of forming, and a display control step of displaying the superimposed image generated by the superimposition processing step on a display unit.

本発明に係るプログラムは、車両の周辺を撮影する複数のカメラが撮影した周辺映像データを取得する映像データ取得ステップと、前記映像データ取得ステップで取得した周辺映像に視点変換処理および車両を示す自車両アイコンを含む合成処理を行い、前記車両から所定の表示範囲を表示する俯瞰映像を生成する俯瞰映像生成ステップと、前記車両の周囲における前記表示範囲より遠方に存在する基準対象を検出する基準対象検出ステップと、前記基準対象検出ステップで検出した基準対象と前記車両との相対的な向きを特定する向き特定ステップと、前記基準対象と前記車両との相対的な向きを示す情報を前記自車両アイコンを基準とした相対的な向きとして前記俯瞰映像生成ステップで生成した俯瞰映像に重畳させた重畳映像を生成する重畳処理ステップと、前記重畳処理ステップで生成した重畳映像を表示部に表示させる表示制御ステップとを俯瞰映像生成装置として動作するコンピュータに実行させる。   A program according to the present invention is an image data acquisition step for acquiring surrounding image data captured by a plurality of cameras that capture the periphery of the vehicle, and a viewpoint conversion process and a vehicle showing the surrounding image acquired in the image data acquisition step. An overhead image generation step of performing composition processing including a vehicle icon and generating an overhead image for displaying a predetermined display range from the vehicle, and a reference object for detecting a reference object located far from the display range around the vehicle The vehicle indicates information indicating the relative orientation between the reference object and the vehicle, and the direction identification step for identifying the relative orientation between the reference object and the vehicle detected in the reference object detection step. Generating a superimposed image superimposed on the overhead image generated in the overhead image generation step as a relative direction based on the icon A superimposition processing step to execute a display control step of displaying on the display unit a superimposed image generated by the superimposition processing step on a computer that acts as the overhead image generating apparatus.

本発明によれば、車両と周辺との相対的な位置関係を適切に確認可能にすることができるという効果を奏する。   According to the present invention, the relative positional relationship between the vehicle and the surroundings can be appropriately confirmed.

図1は、第一実施形態に係る俯瞰映像生成装置の構成例を示すブロック図である。FIG. 1 is a block diagram showing an example of the configuration of a bird's-eye view video generation apparatus according to the first embodiment. 図2は、第一実施形態に係る俯瞰映像生成装置で生成した俯瞰映像の一例を示す図である。FIG. 2 is a view showing an example of a bird's-eye view video generated by the bird's-eye view video generation device according to the first embodiment. 図3は、第一実施形態に係る俯瞰映像生成装置で生成した重畳映像の一例を示す図である。FIG. 3 is a view showing an example of a superimposed image generated by the overhead view video image generating apparatus according to the first embodiment. 図4は、第一実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。FIG. 4 is a view showing another example of the superimposed video generated by the overhead view video image generating apparatus according to the first embodiment. 図5は、第一実施形態に係る俯瞰映像生成装置における処理の流れを示すフローチャートである。FIG. 5 is a flowchart showing the flow of processing in the overhead view video image generating apparatus according to the first embodiment. 図6は、第一実施形態における、自車両と基準対象と表示範囲と撮影範囲との位置関係の一例を示す図である。FIG. 6 is a view showing an example of the positional relationship among the host vehicle, the reference object, the display range, and the imaging range in the first embodiment. 図7は、第一実施形態における、自車両と基準対象と表示範囲と撮影範囲との位置関係の他の例を示す図である。FIG. 7 is a diagram showing another example of the positional relationship between the host vehicle, the reference object, the display range, and the imaging range in the first embodiment. 図8は、第一実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。FIG. 8 is a diagram showing another example of the superimposed video generated by the overhead view video image generating apparatus according to the first embodiment. 図9は、第一実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。FIG. 9 is a view showing another example of the superimposed video generated by the overhead view video image generating apparatus according to the first embodiment. 図10は、第一実施形態における、自車両と基準対象と表示範囲と撮影範囲との位置関係の他の例を示す図である。FIG. 10 is a diagram showing another example of the positional relationship among the host vehicle, the reference object, the display range, and the imaging range in the first embodiment. 図11は、第二実施形態における、自車両と基準対象と表示範囲と撮影範囲との位置関係の一例を示す図である。FIG. 11 is a view showing an example of the positional relationship among the host vehicle, the reference object, the display range, and the photographing range in the second embodiment. 図12は、第二実施形態に係る俯瞰映像生成装置で生成した重畳映像の一例を示す図である。FIG. 12 is a diagram showing an example of a superimposed image generated by the overhead view video image generating apparatus according to the second embodiment. 図13は、第二実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。FIG. 13 is a view showing another example of the superimposed video generated by the overhead view video image generating apparatus according to the second embodiment. 図14は、第二実施形態における、自車両と基準対象と表示範囲と撮影範囲との位置関係の他の例を示す図である。FIG. 14 is a diagram showing another example of the positional relationship between the vehicle, the reference object, the display range, and the imaging range in the second embodiment. 図15は、第二実施形態に係る俯瞰映像生成装置で生成した俯瞰映像の一例を示す図である。FIG. 15 is a view showing an example of a bird's-eye view video generated by the bird's-eye view video generation device according to the second embodiment. 図16は、第三実施形態における、自車両と基準対象と表示範囲と撮影範囲との位置関係の一例を示す図である。FIG. 16 is a diagram showing an example of the positional relationship among the host vehicle, the reference object, the display range, and the imaging range in the third embodiment.

以下に添付図面を参照して、本発明に係る俯瞰映像生成装置40、俯瞰映像生成装置1、俯瞰映像生成方法およびプログラムの実施形態を詳細に説明する。なお、以下の実施形態により本発明が限定されるものではない。   DETAILED DESCRIPTION OF THE INVENTION Embodiments of the overhead view video generation device 40, the overhead view video generation device 1, the overhead view video generation method, and the program according to the present invention will be described in detail with reference to the attached drawings. Note that the present invention is not limited by the following embodiments.

[第一実施形態]
図1は、第一実施形態に係る俯瞰映像生成装置の構成例を示すブロック図である。俯瞰映像生成装置1は、車両の俯瞰映像100(図2参照)を生成する。俯瞰映像生成装置40および俯瞰映像生成装置1は、車両に搭載されている。俯瞰映像生成装置40および俯瞰映像生成装置1は、車両に載置されているものに加えて、可搬型で車両において利用可能な装置であってもよい。
First Embodiment
FIG. 1 is a block diagram showing an example of the configuration of a bird's-eye view video generation apparatus according to the first embodiment. The overhead view video generation device 1 generates an overhead view video 100 (see FIG. 2) of a vehicle. The overhead image generating device 40 and the overhead image generating device 1 are mounted on a vehicle. The overhead image generating device 40 and the overhead image generating device 1 may be portable and usable in a vehicle, in addition to those mounted on the vehicle.

図1を用いて、俯瞰映像生成装置1について説明する。俯瞰映像生成装置1は、前方カメラ(撮影部)11と、後方カメラ(撮影部)12と、左側方カメラ(撮影部)13と、右側方カメラ(撮影部)14と、表示パネル(表示部)31と、俯瞰映像生成装置40とを有する。   The overhead view video generation apparatus 1 will be described with reference to FIG. The overhead view video generation device 1 includes a front camera (shooting unit) 11, a rear camera (shooting unit) 12, a left side camera (shooting unit) 13, a right side camera (shooting unit) 14, and a display panel (display unit) 31) and an overhead view video generation device 40.

前方カメラ11は、車両の前方に配置され、車両の前方を中心とした周辺を撮影する。前方カメラ11は、例えば、180°程度の第一撮影範囲A1(図6参照)を撮影する。第一撮影範囲A1は、俯瞰映像100の表示範囲A(図6参照)より自車両Vの前方に広い範囲を含む。前方カメラ11は、撮影した映像を俯瞰映像生成装置40の映像データ取得部42へ出力する。   The front camera 11 is disposed in front of the vehicle and captures an area around the front of the vehicle. The front camera 11 shoots, for example, a first shooting range A1 (see FIG. 6) of about 180 °. The first shooting range A1 includes a wider range in front of the host vehicle V than the display range A (see FIG. 6) of the overhead image 100. The front camera 11 outputs the captured video to the video data acquisition unit 42 of the overhead video generating device 40.

後方カメラ12は、車両の後方に配置され、車両の後方を中心とした周辺を撮影する。後方カメラ12は、例えば、180°程度の第二撮影範囲A2(図6参照)を撮影する。第二撮影範囲A2は、俯瞰映像100の表示範囲Aより自車両Vの後方に広い範囲を含む。後方カメラ12は、撮影した映像を俯瞰映像生成装置40の映像データ取得部42へ出力する。   The rear camera 12 is disposed at the rear of the vehicle and captures an area around the rear of the vehicle. The rear camera 12 shoots a second shooting range A2 (see FIG. 6) of, for example, about 180 °. The second shooting range A2 includes a wider range behind the vehicle V than the display range A of the overhead image 100. The rear camera 12 outputs the captured video to the video data acquisition unit 42 of the overhead video generating device 40.

左側方カメラ13は、車両の左側方に配置され、車両の左側方を中心とした周辺を撮影する。左側方カメラ13は、例えば、180°程度の第三撮影範囲A3(図6参照)を撮影する。第三撮影範囲A3は、俯瞰映像100の表示範囲Aより自車両Vの左側方に広い範囲を含む。左側方カメラ13は、撮影した映像を俯瞰映像生成装置40の映像データ取得部42へ出力する。   The left side camera 13 is disposed on the left side of the vehicle and captures an image of the area around the left side of the vehicle. The left side camera 13 captures, for example, a third imaging range A3 (see FIG. 6) of about 180 °. The third shooting range A3 includes a wider range on the left side of the host vehicle V than the display range A of the overhead image 100. The left side camera 13 outputs the captured video to the video data acquisition unit 42 of the overhead video generating device 40.

右側方カメラ14は、車両の右側方に配置され、車両の右側方を中心とした周辺を撮影する。右側方カメラ14は、例えば、180°程度の第四撮影範囲A4(図6参照)を撮影する。第四撮影範囲A4は、俯瞰映像100の表示範囲Aより自車両Vの右側方に広い範囲を含む。右側方カメラ14は、撮影した映像を俯瞰映像生成装置40の映像データ取得部42へ出力する。   The right side camera 14 is disposed on the right side of the vehicle and captures an area around the right side of the vehicle. The right side camera 14 captures, for example, a fourth imaging range A4 (see FIG. 6) of about 180 °. The fourth shooting range A4 includes a wider range on the right side of the host vehicle V than the display range A of the overhead image 100. The right-side camera 14 outputs the captured video to the video data acquisition unit 42 of the overhead view video generation device 40.

前方カメラ11と後方カメラ12と左側方カメラ13と右側方カメラ14とで、車両の全方位を撮影する。   The front camera 11, the rear camera 12, the left side camera 13 and the right side camera 14 capture images of all directions of the vehicle.

表示パネル31は、例えば、液晶ディスプレイ(LCD:Liquid Crystal Display)または有機EL(Organic Electro−Luminescence)ディスプレイを含むディスプレイである。表示パネル31は、俯瞰映像生成装置1の俯瞰映像生成装置40から出力された映像信号に基づいて、俯瞰映像100(図2参照)または重畳映像100A(図3参照)を表示する。表示パネル31は、俯瞰映像生成装置1に専用のものであっても、例えば、ナビゲーションシステムを含む他のシステムと共同で使用するものであってもよい。表示パネル31は、運転者から視認容易な位置に配置されている。   The display panel 31 is a display including, for example, a liquid crystal display (LCD: Liquid Crystal Display) or an organic EL (Organic Electro-Luminescence) display. The display panel 31 displays the overhead image 100 (see FIG. 2) or the superimposed image 100A (see FIG. 3) based on the video signal output from the overhead image generating device 40 of the overhead image generating device 1. The display panel 31 may be dedicated to the overhead view video generation device 1 or may be used jointly with other systems including, for example, a navigation system. The display panel 31 is disposed at a position easily visible by the driver.

俯瞰映像生成装置40は、制御部41と、記憶部49とを有する。   The overhead view video generation device 40 includes a control unit 41 and a storage unit 49.

制御部41は、例えば、CPU(Central Processing Unit)などで構成された演算処理装置である。制御部41は、記憶部49に記憶されているプログラムをメモリにロードして、プログラムに含まれる命令を実行する。制御部41は、映像データ取得部42と、車両情報取得部43と、俯瞰映像生成部44と、基準対象検出部45と、向き特定部46と、重畳処理部47と、表示制御部48とを有する。制御部41には図示しない内部メモリが含まれ、内部メモリは制御部41におけるデータの一時記憶などに用いられる。   The control unit 41 is, for example, an arithmetic processing unit configured by a CPU (Central Processing Unit) or the like. The control unit 41 loads the program stored in the storage unit 49 into the memory and executes an instruction included in the program. The control unit 41 includes a video data acquisition unit 42, a vehicle information acquisition unit 43, an overhead video generation unit 44, a reference target detection unit 45, a direction identification unit 46, a superposition processing unit 47, and a display control unit 48. Have. The control unit 41 includes an internal memory (not shown), and the internal memory is used for temporary storage of data in the control unit 41 and the like.

映像データ取得部42は、車両の周辺を撮影した周辺映像データを取得する。より詳しくは、映像データ取得部42は、前方カメラ11と後方カメラ12と左側方カメラ13と右側方カメラ14とが出力した映像データを取得する。映像データ取得部42は、取得した映像データを俯瞰映像生成部44と基準対象検出部45とに出力する。各々のカメラから取得する映像データは、例えば毎秒30フレームの画像から構成される動画像である。   The video data acquisition unit 42 acquires peripheral video data obtained by photographing the periphery of a vehicle. More specifically, the video data acquisition unit 42 acquires video data output from the front camera 11, the rear camera 12, the left side camera 13, and the right side camera 14. The video data acquisition unit 42 outputs the acquired video data to the overhead video generation unit 44 and the reference target detection unit 45. Video data acquired from each camera is, for example, a moving image composed of images at 30 frames per second.

車両情報取得部43は、車両のギア操作情報など、俯瞰映像の表示開始のトリガとなる車両の状況を示す車両情報を、CAN(Controller Area Network)や車両の状態をセンシングする各種センサなどから取得する。車両情報取得部43は、例えば、後退トリガを取得する。車両情報取得部43は、例えば、車速情報を取得する。車両情報取得部43は、取得した車両情報を俯瞰映像生成部44に出力する。   The vehicle information acquisition unit 43 acquires vehicle information indicating the condition of the vehicle serving as a trigger to start displaying the overhead view image, such as gear operation information of the vehicle, from a controller area network (CAN) or various sensors that sense the condition of the vehicle. Do. The vehicle information acquisition unit 43 acquires, for example, a reverse trigger. The vehicle information acquisition unit 43 acquires, for example, vehicle speed information. The vehicle information acquisition unit 43 outputs the acquired vehicle information to the overhead view video generation unit 44.

俯瞰映像生成部44は、映像データ取得部42で取得した周辺映像から車両を上方から見下ろすように視点変換処理と車両を示す自車両アイコン110を含む合成処理とを行い、自車両Vから所定の表示範囲Aを表示する俯瞰映像100を生成する。より詳しくは、俯瞰映像生成部44は、前方カメラ11と後方カメラ12と左側方カメラ13と右側方カメラ14とで撮影した映像に基づいて、俯瞰映像100を生成する。俯瞰映像100を生成する方法は、公知のいずれの方法でもよく、限定されない。俯瞰映像生成部44は、生成した俯瞰映像100を重畳処理部47と表示制御部48とに出力する。   The overhead view video generation unit 44 performs viewpoint conversion processing and synthesis processing including the own vehicle icon 110 indicating the vehicle so as to look down the vehicle from above from the peripheral image acquired by the image data acquisition unit 42, and the predetermined processing from the own vehicle V is performed. A bird's-eye-view video 100 displaying the display range A is generated. More specifically, the overhead view video generation unit 44 generates the overhead view video 100 based on the images captured by the front camera 11, the rear side camera 12, the left side camera 13 and the right side camera 14. The method of generating the overhead view image 100 may be any known method and is not limited. The overhead view video generation unit 44 outputs the generated overhead view video 100 to the superimposition processing unit 47 and the display control unit 48.

俯瞰映像生成部44は、視点変換処理部441と、切出処理部442と、合成処理部443とを有する。   The overhead image generation unit 44 includes a viewpoint conversion processing unit 441, a clipping processing unit 442, and a combining processing unit 443.

視点変換処理部441は、映像データ取得部42で取得した周辺映像データに対して、自車両Vを上方から見下ろすように視点変換処理を行う。より詳しくは、視点変換処理部441は、前方カメラ11と後方カメラ12と左側方カメラ13と右側方カメラ14とで撮影した周辺映像データに基づいて、視点変換処理を行った映像を生成する。視点変換処理の方法は、公知のいずれの方法でもよく、限定されない。視点変換処理部441は、視点変換処理を行った周辺映像データを切出処理部442に出力する。   The viewpoint conversion processing unit 441 performs viewpoint conversion processing on the surrounding video data acquired by the video data acquisition unit 42 so as to look down on the host vehicle V from above. More specifically, the viewpoint conversion processing unit 441 generates an image on which viewpoint conversion processing has been performed, based on surrounding image data captured by the front camera 11, the rear camera 12, the left direction camera 13 and the right direction camera 14. The method of viewpoint conversion processing may be any known method and is not limited. The viewpoint conversion processing unit 441 outputs the peripheral video data subjected to the viewpoint conversion processing to the clipping processing unit 442.

切出処理部442は、視点変換処理を行った周辺映像データから所定の範囲の映像を切出す切出処理を行う。どの範囲を切出範囲とするかは、あらかじめ登録され記憶されている。切出処理部442は、切出処理を行った映像の映像データを合成処理部443に出力する。   The clipping processing unit 442 performs clipping processing on a video within a predetermined range from the peripheral video data subjected to the viewpoint conversion processing. Which range is to be cut out is registered and stored in advance. The clipping processing unit 442 outputs the video data of the video subjected to the clipping processing to the combining processing unit 443.

合成処理部443は、切出処理を行った映像データを合成する合成処理を行う。合成処理部443は、合成した映像に自車両アイコン110を表示した俯瞰映像100を生成する。   The combining processing unit 443 performs combining processing to combine the video data subjected to the clipping processing. The composition processing unit 443 generates the overhead view image 100 in which the vehicle icon 110 is displayed on the combined image.

基準対象検出部45は、車両の周囲における表示範囲Aより遠方に存在する基準対象Bを検出する。基準対象検出部45は、映像データ取得部42で取得した周辺映像に対して物体認識処理を行い、表示範囲Aより遠方に存在する基準対象Bを検出する。基準対象検出部45は、エッジ検出処理により、周辺映像から所定長さ以上の直線性を備えた被撮影物を基準対象Bとして検出してもよい。基準対象検出部45は、基準対象Bを記憶した認識辞書により、周辺映像から基準対象Bを検出してもよい。物体認識処理は、既存の白線検出処理や、認識辞書を用いた特定の物体検出処理などを用い、または併用してもよい。   The reference object detection unit 45 detects a reference object B present at a distance from the display range A around the vehicle. The reference target detection unit 45 performs an object recognition process on the peripheral video acquired by the video data acquisition unit 42, and detects the reference target B present far from the display range A. The reference object detection unit 45 may detect, as the reference object B, an object to be photographed having a linearity equal to or greater than a predetermined length from the peripheral image by edge detection processing. The reference target detection unit 45 may detect the reference target B from the surrounding image using a recognition dictionary storing the reference target B. The object recognition processing may use or be used in combination with existing white line detection processing, specific object detection processing using a recognition dictionary, or the like.

基準対象Bとは、所定長さ以上の直線性を備え、駐車時に自車両Vの向きを合わせる基準となる対象である。基準対象Bは、例えば、縁石、車両止め、駐車区画線、車道外側線、路面上に引かれた線である。基準対象Bは、方向性を有する。言い換えると、基準対象Bは、所定方向に沿った直線上に存在する。基準対象Bは、屈曲や湾曲せずに所定方向に沿ってまっすぐ延びている。物体認識処理は、基準対象Bとしての条件を備える対象物を検出する。   The reference target B is a target having linearity of a predetermined length or more and serving as a reference for aligning the direction of the host vehicle V at the time of parking. The reference object B is, for example, a curb, a vehicle stop, a parking lot line, a road outside line, and a line drawn on the road surface. The reference subject B is directional. In other words, the reference object B exists on a straight line along the predetermined direction. The reference object B extends straight along a predetermined direction without bending or curving. The object recognition process detects an object having a condition as a reference object B.

基準対象検出部45は、複数の基準対象Bを検出したとき、自車両Vからの距離が小さいものを基準対象Bとしてもよい。または、基準対象検出部45は、複数の基準対象Bを検出したとき、自車両Vの進行方向に存在する基準対象Bを選択してもよい。この場合、基準対象検出部45は、自車両Vの進行方向における周辺映像から基準対象Bを検出する。または、基準対象検出部45は、複数の基準対象Bを検出したとき、直線連続性の大きいものを基準対象Bとしてもよい。または、基準対象検出部45は、例えば、コの字型の駐車枠線を検出したとき、後方枠線を基準対象Bとしてもよい。   When the reference object detection unit 45 detects a plurality of reference objects B, the reference object detection unit 45 may set a reference object B having a small distance from the host vehicle V. Alternatively, the reference object detection unit 45 may select the reference object B present in the traveling direction of the host vehicle V when detecting a plurality of reference objects B. In this case, the reference object detection unit 45 detects the reference object B from the surrounding image in the traveling direction of the host vehicle V. Alternatively, when a plurality of reference objects B are detected, the reference object detection unit 45 may use one having a large linear continuity as the reference object B. Alternatively, the reference object detection unit 45 may set the rear frame line as the reference object B, for example, when a U-shaped parking frame line is detected.

自車両Vの進行方向における周辺映像とは、自車両Vの進行方向を向いた、前方カメラ11と後方カメラ12と左側方カメラ13と右側方カメラ14との少なくともいずれか一つが出力した映像データである。例えば、自車両Vの進行方向が後方のとき、後方カメラ12が撮影した映像データと、左側方カメラ13と右側方カメラ14とが撮影した映像データの中で車両の側後方の範囲の映像データである。   The peripheral image in the traveling direction of the own vehicle V means the image data output by at least one of the front camera 11, the rear camera 12, the left side camera 13 and the right side camera 14 facing the traveling direction of the own vehicle V It is. For example, when the traveling direction of the host vehicle V is the rear, video data of a range behind the vehicle among video data captured by the rear camera 12 and video data captured by the left side camera 13 and the right side camera 14 It is.

自車両Vの進行方向における周辺映像は、自車両Vと接触する可能性がより高い方向を向いたカメラが出力した映像データを優先してもよい。例えば、自車両Vの進行方向が後方のとき、後方カメラ12が撮影した映像データを、左側方カメラ13と右側方カメラ14とが撮影した映像データの中で車両の側後方の範囲の映像データより優先してもよい。または、例えば、自車両Vの進行方向が後方で操舵されているとき、後方カメラ12が撮影した映像データ、操舵方向の左側方カメラ13または右側方カメラ14が撮影した映像データの中で車両の側後方の範囲の映像データ、操舵方向とは反対方向の右側方カメラ14または左側方カメラ13が撮影した映像データの中で車両の側後方の範囲の映像データの順で優先してもよい。   The peripheral image in the traveling direction of the host vehicle V may give priority to the image data output from the camera that has turned in the direction in which the possibility of contact with the host vehicle V is higher. For example, when the traveling direction of the host vehicle V is the rear, the video data taken by the rear camera 12 is the video data of the range behind the vehicle among the video data taken by the left side camera 13 and the right side camera 14 It may be prioritized. Alternatively, for example, when the traveling direction of the host vehicle V is steered at the rear, the video data captured by the rear camera 12 or the video data captured by the left direction camera 13 or the right direction camera 14 in the steering direction The video data of the range behind the side and the video data captured by the right side camera 14 or the left side camera 13 in the direction opposite to the steering direction may be prioritized in order of the video data of the range behind the vehicle.

向き特定部46は、基準対象検出部45が検出した基準対象Bと自車両Vとの相対的な向きを特定する。より詳しくは、向き特定部46は、基準対象検出部45が検出した基準対象Bの映像データにおける向きおよび位置から、自車両Vに対する相対的な向きを特定する。例えば、向き特定部46は、基準対象検出部45が検出した基準対象Bの映像データにおける向きおよび位置と撮影したカメラの光軸の向きとに基づいて、自車両Vに対する相対的な向きを特定してもよい。例えば、向き特定部46は、基準対象検出部45が検出した基準対象Bの映像データにおける向きおよび位置と映像データの被撮影物の向きとに基づいて、自車両Vに対する相対的な向きを特定してもよい。自車両Vに対する相対的な向きとは、自車両の前後方向への延在方向Lに対する相対的な向きである。本実施形態では、基準対象Bの自車両Vに対する相対的な向きは、基準対象Bの延在方向と自車両Vの前後方向への延在方向Lの向きとの角度θとする。   The direction specifying unit 46 specifies the relative direction between the reference object B detected by the reference object detection unit 45 and the host vehicle V. More specifically, the direction specifying unit 46 specifies a relative direction with respect to the host vehicle V from the direction and the position in the image data of the reference object B detected by the reference object detection unit 45. For example, the direction specifying unit 46 specifies a relative direction with respect to the host vehicle V based on the direction and position in the image data of the reference object B detected by the reference object detection unit 45 and the direction of the optical axis of the captured camera. You may For example, the direction specifying unit 46 specifies a relative direction with respect to the host vehicle V based on the direction and position in the image data of the reference object B detected by the reference object detection unit 45 and the direction of the object to be photographed of the image data. You may The relative orientation with respect to the host vehicle V is a relative orientation with respect to the direction L of extension of the host vehicle in the front-rear direction. In the present embodiment, the relative orientation of the reference object B with respect to the vehicle V is an angle θ between the extension direction of the reference object B and the extension direction L in the front-rear direction of the vehicle V.

重畳処理部47は、基準対象Bと自車両Vとの相対的な向きを示す情報を自車両アイコン110を基準とした相対的な向きとして俯瞰映像生成部44が生成した俯瞰映像100に重畳させた重畳映像100Aを生成する。本実施形態では、重畳処理部47は、向き特定部46で検出した基準対象Bと自車両Vとの相対的な向きを示す情報を基準向きアイコン(向きを示す情報)120で示し、俯瞰映像100に重畳させた重畳映像100Aを生成する。より詳しくは、重畳処理部47は、重畳映像100Aにおいて、基準向きアイコン120と自車両Vの前後方向への延在方向Lの向きとの角度がθとなるように基準向きアイコン120を重畳する。   The superimposition processing unit 47 superimposes the information indicating the relative orientation of the reference object B and the host vehicle V on the overhead image 100 generated by the overhead image creation unit 44 as a relative orientation based on the host vehicle icon 110. The superimposed video 100A is generated. In the present embodiment, the superimposition processing unit 47 indicates the information indicating the relative orientation of the reference target B and the vehicle V detected by the orientation identification unit 46 by the reference orientation icon (information indicating the orientation) 120, and displays the overhead image A superimposed image 100A superimposed on the image 100 is generated. More specifically, the superimposition processing unit 47 superimposes the reference orientation icon 120 so that an angle between the reference orientation icon 120 and the direction of the extension direction L in the front-rear direction of the vehicle V is θ in the superimposed image 100A. .

基準向きアイコン120は、基準対象Bの向きを報知するアイコンである。本実施形態では、基準向きアイコン120は、基準対象Bの延在方向に沿って延びた破線である。   The reference orientation icon 120 is an icon for notifying of the orientation of the reference object B. In the present embodiment, the reference orientation icon 120 is a dashed line extending along the extension direction of the reference object B.

重畳処理部47は、基準向きアイコン120を、俯瞰映像100における自車両アイコン110に対し基準対象Bが存在する側に重畳させる。例えば、基準対象Bが自車両Vの後方に検出されたとき、重畳処理部47は、基準向きアイコン120を、俯瞰映像100における自車両アイコン110に対し後方である後方映像102に重畳させる。より詳しくは、例えば、基準対象Bが自車両Vの後方に検出されたとき、重畳処理部47は、基準向きアイコン120を、後方映像102の中心を基準として、言い換えると、後方映像102の中心を通過するように重畳させてもよい。例えば、基準対象Bが自車両Vの後方に検出されたとき、重畳処理部47は、基準向きアイコン120を、後方映像102のみを通過するように重畳させてもよい。例えば、基準対象Bが自車両Vの後方に検出されたとき、重畳処理部47は、基準向きアイコン120を、自車両アイコン110の進行方向側の端部から所定距離離れた位置を通過するように重畳させてもよい。   The superimposition processing unit 47 superimposes the reference orientation icon 120 on the side where the reference target B is present with respect to the host vehicle icon 110 in the overhead image 100. For example, when the reference target B is detected behind the host vehicle V, the superimposition processing unit 47 superimposes the reference orientation icon 120 on the rear image 102 that is the rear with respect to the host vehicle icon 110 in the overhead image 100. More specifically, for example, when the reference object B is detected behind the host vehicle V, the superimposition processing unit 47 sets the reference orientation icon 120 on the basis of the center of the rear image 102, in other words, the center of the rear image 102. May be superimposed to pass through. For example, when the reference target B is detected behind the host vehicle V, the superimposition processing unit 47 may superimpose the reference orientation icon 120 so that only the rear image 102 passes. For example, when the reference object B is detected behind the host vehicle V, the superimposition processing unit 47 passes the reference orientation icon 120 at a position away from the end on the traveling direction side of the host vehicle icon 110 by a predetermined distance. You may make it overlap.

または、重畳処理部47は、基準向きアイコン120を、自車両アイコン110の中心を基準として、言い換えると、自車両アイコン110の中心を通過するように重畳させてもよい。   Alternatively, the superimposition processing unit 47 may superimpose the reference direction icon 120 on the basis of the center of the host vehicle icon 110 so as to pass through the center of the host vehicle icon 110.

表示制御部48は、俯瞰映像100または重畳処理部47が生成した重畳映像100Aを表示パネル31に表示させる。   The display control unit 48 causes the display panel 31 to display the overhead image 100 or the superimposed image 100A generated by the superimposition processing unit 47.

図2ないし図4を用いて、俯瞰映像生成装置1で生成された俯瞰映像100と重畳映像100Aとについて説明する。図2は、第一実施形態に係る俯瞰映像生成装置で生成した俯瞰映像の一例を示す図である。図3は、第一実施形態に係る俯瞰映像生成装置で生成した重畳映像の一例を示す図である。図4は、第一実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。   The overhead image 100 and the superimposed image 100A generated by the overhead image generating device 1 will be described with reference to FIGS. 2 to 4. FIG. 2 is a view showing an example of a bird's-eye view video generated by the bird's-eye view video generation device according to the first embodiment. FIG. 3 is a view showing an example of a superimposed image generated by the overhead view video image generating apparatus according to the first embodiment. FIG. 4 is a view showing another example of the superimposed video generated by the overhead view video image generating apparatus according to the first embodiment.

図2を用いて、俯瞰映像100について説明する。俯瞰映像100は、縦長の矩形状である。俯瞰映像100は、前方映像101と後方映像102と左側方映像103と右側方映像104と、前方映像101と後方映像102と左側方映像103と右側方映像104とで囲まれた中央部に位置する自車両アイコン110とを含む。後方映像102には、被撮影物として車両止めB1と後方枠線B2とが表示されている。前方映像101と後方映像102と左側方映像103と右側方映像104と、自車両アイコン110とは、枠状の境界線で区切られていてもよい。自車両アイコン110は、自車両Vの位置と向きとを示す。運転者は、車両止めB1と後方枠線B2との位置と向きとがわかる。これにより、運転者は、車両止めB1と後方枠線B2とに合わせて自車両Vを操舵する。   The overhead view image 100 will be described with reference to FIG. The overhead view video 100 is in the shape of a vertically long rectangle. The overhead image 100 is located at a central portion surrounded by the front image 101, the rear image 102, the left side image 103, the right side image 104, the front image 101, the rear image 102, the left direction image 103, and the right side image 104. And an own vehicle icon 110. In the rear image 102, a vehicle stop B1 and a rear frame line B2 are displayed as objects to be photographed. The front image 101, the rear image 102, the left side image 103, the right side image 104, and the host vehicle icon 110 may be separated by a frame-like border. The host vehicle icon 110 indicates the position and the direction of the host vehicle V. The driver knows the position and the direction of the vehicle stop B1 and the rear frame line B2. Thus, the driver steers the vehicle V in accordance with the vehicle stop B1 and the rear frame line B2.

図2においては、前方映像101と後方映像102と左側方映像103と右側方映像104との境界を示す斜めの破線を説明のために図示しているが、実際に表示パネル31に表示される俯瞰映像100には当該破線は表示されなくてもよい。他の図も同様である。   In FIG. 2, diagonal broken lines indicating the boundaries between the front image 101, the rear image 102, the left side image 103, and the right side image 104 are illustrated for the sake of explanation, but they are actually displayed on the display panel 31. The broken line may not be displayed in the overhead image 100. The same applies to the other figures.

図3を用いて、重畳映像100Aについて説明する。重畳映像100Aは、俯瞰映像100と同じ縦長の矩形状である。重畳映像100Aは、俯瞰映像100と同じ前方映像101Aと後方映像102Aと左側方映像103Aと右側方映像104Aと自車両アイコン110と、重畳された基準向きアイコン120とを含む。基準向きアイコン120は、後方映像102Aに重畳されている。基準向きアイコン120は、基準対象Bである例えば後方枠線B2との向きを示す。基準向きアイコン120によって、運転者は、車両の進行方向に、基準向きアイコン120の向きに沿った基準対象Bが存在することがわかる。これにより、運転者は、基準向きアイコン120に合わせて自車両Vを操舵する。   The superimposed image 100A will be described with reference to FIG. The superimposed image 100A has the same rectangular shape as the overhead image 100, which is vertically long. The superimposed image 100A includes a front image 101A, a rear image 102A, a left direction image 103A, a right direction image 104A, an own vehicle icon 110, and a reference direction icon 120 superimposed as the overhead image 100. The reference orientation icon 120 is superimposed on the rear image 102A. The reference orientation icon 120 indicates the orientation with the reference object B, for example, the rear border B2. The reference orientation icon 120 indicates that the driver has a reference object B along the orientation of the reference orientation icon 120 in the traveling direction of the vehicle. Thus, the driver steers the vehicle V in accordance with the reference orientation icon 120.

図4を用いて、重畳映像100Aについて説明する。重畳映像100Aは、基準向きアイコン120が、自車両アイコン110の中心を通過するように重畳されている点で、図3に示す重畳映像100Aと異なる。   The superimposed image 100A will be described with reference to FIG. The superimposed image 100A differs from the superimposed image 100A illustrated in FIG. 3 in that the reference orientation icon 120 is superimposed so as to pass through the center of the host vehicle icon 110.

記憶部49は、俯瞰映像生成装置40における各種処理に要するデータおよび各種処理結果を記憶する。記憶部49は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ(Flash Memory)などの半導体メモリ素子、または、ハードディスク、光ディスクなどの記憶装置である。   The storage unit 49 stores data required for various processes in the overhead view video generation device 40 and various process results. The storage unit 49 is, for example, a semiconductor memory device such as a random access memory (RAM), a read only memory (ROM), a flash memory, or a storage device such as a hard disk or an optical disk.

次に、図5を用いて、俯瞰映像生成装置40における処理の流れについて説明する。図5は、第一実施形態に係る俯瞰映像生成装置における処理の流れを示すフローチャートである。   Next, the flow of processing in the overhead view video generation device 40 will be described using FIG. 5. FIG. 5 is a flowchart showing the flow of processing in the overhead view video image generating apparatus according to the first embodiment.

制御部41は、俯瞰映像表示を開始するか否かを判定する(ステップS11)。俯瞰映像表示を開始する判定の例として、制御部41は、後退トリガの有無に基づいて、俯瞰映像表示を開示するか否かを判定する。後退トリガとは、例えば、シフトポジションが「リバース」とされたことをいう。または、後退トリガとは、車両の進行方向が車両の前後方向の後方となったことをいう。制御部41は、後退トリガがない場合、俯瞰映像表示を開始しないと判定し(ステップS11でNo)、ステップS11の処理を再度実行する。制御部41は、後退トリガがある場合、俯瞰映像表示を開始すると判定し(ステップS11でYes)、ステップS12に進む。   The control unit 41 determines whether to start the overhead view image display (step S11). As an example of the determination to start the overhead view video display, the control unit 41 determines whether to disclose the overhead view video display based on the presence or absence of the backward trigger. The reverse trigger means, for example, that the shift position is "reverse". Alternatively, the reverse trigger means that the traveling direction of the vehicle is behind in the longitudinal direction of the vehicle. When there is no reverse trigger, the control unit 41 determines that the overhead view image display is not to be started (No in Step S11), and executes the process of Step S11 again. When the backward trigger is present, the control unit 41 determines to start the overhead view video display (Yes in step S11), and proceeds to step S12.

制御部41は、俯瞰映像100を生成し表示する(ステップS12)。より詳しくは、制御部41は、俯瞰映像生成部44で、映像データ取得部42が取得した周辺映像から車両を上方から見下ろすように視点変換を行った俯瞰映像100を生成させる。制御部41は、ステップS13に進む。   The control unit 41 generates and displays the overhead view video 100 (step S12). More specifically, the control unit 41 causes the overhead view video generation unit 44 to generate an overhead view video 100 obtained by performing viewpoint conversion so as to look down on the vehicle from above in the peripheral video acquired by the video data acquisition unit 42. The control unit 41 proceeds to step S13.

制御部41は、基準対象Bを検出したか否かを判定する(ステップS13)。より詳しくは、制御部41は、基準対象検出部45で基準対象Bが検出されたか否かを判定する。制御部41は、基準対象検出部45で基準対象Bが検出されたと判定した場合(ステップS13でYes)、ステップS14に進む。制御部41は、基準対象検出部45で基準対象Bが検出されていないと判定した場合(ステップS13でNo)、ステップS18に進む。   The control unit 41 determines whether the reference target B has been detected (step S13). More specifically, the control unit 41 determines whether the reference target B is detected by the reference target detection unit 45. When the control unit 41 determines that the reference object B is detected by the reference object detection unit 45 (Yes in step S13), the process proceeds to step S14. When the control unit 41 determines that the reference target B is not detected by the reference target detection unit 45 (No in step S13), the process proceeds to step S18.

制御部41は、基準対象Bが俯瞰映像100の表示範囲Aに存在するか否かを判定する(ステップS14)。より詳しくは、制御部41は、基準対象検出部45で基準対象Bが検出された位置が、俯瞰映像100の表示範囲Aに含まれるか否かを判定する。制御部41は、基準対象Bが俯瞰映像100の表示範囲Aに含まれると判定した場合(ステップS14でYes)、ステップS18に進む。制御部41は、基準対象Bが俯瞰映像100の表示範囲Aに含まれないと判定した場合(ステップS14でNo)、ステップS15に進む。   The control unit 41 determines whether the reference target B is present in the display range A of the overhead view video 100 (step S14). More specifically, the control unit 41 determines whether or not the position at which the reference object B is detected by the reference object detection unit 45 is included in the display range A of the overhead image 100. If the control unit 41 determines that the reference target B is included in the display range A of the overhead view video 100 (Yes in step S14), the process proceeds to step S18. If the control unit 41 determines that the reference target B is not included in the display range A of the overhead view video 100 (No in step S14), the process proceeds to step S15.

制御部41は、相対的な向きを特定する(ステップS15)。より詳しくは、制御部41は、向き特定部46で、基準対象検出部45が検出した基準対象Bの映像データにおける向きおよび位置から、自車両Vに対する相対的な向きを特定させる。制御部41は、ステップS16に進む。   The control unit 41 specifies a relative direction (step S15). More specifically, the control unit 41 causes the direction specifying unit 46 to specify a relative direction with respect to the host vehicle V based on the direction and the position of the video data of the reference object B detected by the reference object detection unit 45. The control unit 41 proceeds to step S16.

制御部41は、重畳映像100Aを生成する(ステップS16)。より詳しくは、制御部41は、重畳処理部47で、基準向きアイコン120を自車両アイコン110を基準とした相対的な向きとして俯瞰映像生成部44が生成した俯瞰映像100に重畳させた重畳映像100Aを生成させる。制御部41は、重畳処理部47で、基準向きアイコン120を、俯瞰映像100における自車両アイコン110に対し基準対象Bが存在する側に重畳させる。または、制御部41は、重畳処理部47で、基準向きアイコン120を、自車両アイコン110の中心を通過するように重畳させてもよい。制御部41は、ステップS17に進む。   The control unit 41 generates the superimposed image 100A (step S16). More specifically, the control unit 41 causes the superimposition processing unit 47 to superimpose the reference orientation icon 120 on the overhead view video 100 generated by the overhead view video generation unit 44 as a relative orientation based on the host vehicle icon 110. Generate 100A. The control unit 41 causes the superimposition processing unit 47 to superimpose the reference orientation icon 120 on the side where the reference target B exists with respect to the host vehicle icon 110 in the overhead image 100. Alternatively, the control unit 41 may cause the superposition processing unit 47 to superimpose the reference orientation icon 120 so as to pass through the center of the host vehicle icon 110. The control unit 41 proceeds to step S17.

制御部41は、重畳映像100Aを表示する(ステップS17)。より詳しくは、制御部41は、表示制御部48で、重畳処理部47が生成した重畳映像100Aを表示パネル31に表示させる。制御部41は、ステップS19に進む。   The control unit 41 displays the superimposed image 100A (step S17). More specifically, the control unit 41 causes the display control unit 48 to display the superimposed image 100A generated by the superimposition processing unit 47 on the display panel 31. The control unit 41 proceeds to step S19.

制御部41は、俯瞰映像100を表示する(ステップS18)。より詳しくは、制御部41は、表示制御部48で、俯瞰映像生成部44が生成した俯瞰映像100を表示パネル31に表示させる。制御部41は、ステップS19に進む。   The control unit 41 displays the overhead view image 100 (step S18). More specifically, the control unit 41 causes the display control unit 48 to display the overhead view video 100 generated by the overhead view video generation unit 44 on the display panel 31. The control unit 41 proceeds to step S19.

制御部41は、俯瞰映像表示を終了するか否かを判定する(ステップS19)。より詳しくは、制御部41は、後退終了トリガの有無に基づいて、俯瞰映像100の表示と重畳映像100Aの表示を含む俯瞰映像表示を終了するか否かを判定する。後退終了トリガとは、例えば、シフトポジションが「リバース」から他のポジションとなったことをいう。ステップS19においては、表示されている映像は俯瞰映像100または重畳映像100Aである。制御部41は、後退終了トリガがある場合、俯瞰映像100または重畳映像100Aの表示を終了すると判定し(ステップS19でYes)、処理を終了する。制御部41は、後退終了トリガがない場合、俯瞰映像100または重畳映像100Aの表示を終了しないと判定し(ステップS19でNo)、ステップS12の処理を再度実行する。   The control unit 41 determines whether to end the overhead view video display (step S19). More specifically, the control unit 41 determines whether to end the overhead video display including the display of the overhead video 100 and the display of the superimposed video 100A based on the presence or absence of the reverse end trigger. The reverse end trigger means, for example, that the shift position has changed from "reverse" to another position. In step S19, the displayed video is overhead view video 100 or superimposed video 100A. When the reverse end trigger is present, the control unit 41 determines to end the display of the overhead view video 100 or the superimposed video 100A (Yes in step S19), and ends the process. When there is no reverse termination trigger, the control unit 41 determines that the display of the overhead view video 100 or the superimposed video 100A is not finished (No in step S19), and executes the processing in step S12 again.

このようにして、俯瞰映像生成装置1は、俯瞰映像100の表示範囲Aより遠方に基準対象Bが検出されると、基準向きアイコン120を重畳した重畳映像100Aを表示パネル31に表示させる映像信号を出力する。表示パネル31は、俯瞰映像生成装置1から出力された映像信号に基づいて、例えば、ナビゲーション画面とともに重畳映像100Aを表示する。   In this manner, when the reference object B is detected farther than the display range A of the overhead video 100, the overhead video image generating apparatus 1 causes the display panel 31 to display the superimposed video 100A on which the reference orientation icon 120 is superimposed. Output The display panel 31 displays, for example, the superimposed image 100A together with the navigation screen on the basis of the video signal output from the overhead view video generation device 1.

例えば、車両の後退時、後方に車両止めB1と後方枠線B2とが存在する場合の一例を、図2ないし図4、図6ないし図10を用いて説明する。本実施形態では、隣接する駐車位置を区画する区画線は存在していない。図6は、第一実施形態における、自車両と基準対象と表示範囲と撮影範囲との位置関係の一例を示す図である。図7は、第一実施形態における、自車両と基準対象と表示範囲と撮影範囲との位置関係の他の例を示す図である。図8は、第一実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。図9は、第一実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。図10は、第一実施形態における、自車両と基準対象と表示範囲と撮影範囲との位置関係の他の例を示す図である。   For example, when the vehicle is moving backward, an example in the case where the vehicle stop B1 and the rear frame line B2 exist in the rear will be described with reference to FIGS. 2 to 4 and 6 to 10. In the present embodiment, there is no dividing line that divides adjacent parking positions. FIG. 6 is a view showing an example of the positional relationship among the host vehicle, the reference object, the display range, and the imaging range in the first embodiment. FIG. 7 is a diagram showing another example of the positional relationship between the host vehicle, the reference object, the display range, and the imaging range in the first embodiment. FIG. 8 is a diagram showing another example of the superimposed video generated by the overhead view video image generating apparatus according to the first embodiment. FIG. 9 is a view showing another example of the superimposed video generated by the overhead view video image generating apparatus according to the first embodiment. FIG. 10 is a diagram showing another example of the positional relationship among the host vehicle, the reference object, the display range, and the imaging range in the first embodiment.

まず、車両が駐車位置の近傍に位置して、シフトポジションが「リバース」とされる。車両情報取得部43は、後退トリガを取得する。このとき、図6に示すように、自車両Vと車両止めB1と後方枠線B2とが離れているものとする。車両止めB1と後方枠線B2とは、第一撮影範囲A2に存在し、俯瞰映像100の表示範囲Aより遠方に存在している。本実施形態では、基準対象検出部45において、自車両Vの進行方向に存在し、直線連続性の大きいものが基準対象Bとする。このため、本実施形態では、後方枠線B2が基準対象物Bとされる。基準対象Bである後方枠線B2の延在方向と自車両Vの前後方向への延在方向Lの向きとの角度はθ1である。   First, the vehicle is positioned near the parking position, and the shift position is set to "reverse". The vehicle information acquisition unit 43 acquires a reverse trigger. At this time, as shown in FIG. 6, it is assumed that the host vehicle V, the vehicle stop B1, and the rear frame line B2 are separated. The vehicle stop B1 and the rear frame line B2 exist in the first imaging range A2 and are located farther than the display range A of the overhead image 100. In the present embodiment, in the reference object detection unit 45, a reference object B that exists in the traveling direction of the host vehicle V and has a large linear continuity is used. Therefore, in the present embodiment, the rear frame line B2 is set as the reference object B. The angle between the extending direction of the rear frame line B2 which is the reference object B and the direction of the extending direction L in the front-rear direction of the vehicle V is θ1.

ステップS11において、制御部41は、後退トリガがあり、俯瞰映像表示を開始すると判定する。そして、ステップS12において、制御部41は、俯瞰映像生成部44で、俯瞰映像100を生成させる。   In step S11, the control unit 41 determines that there is a reverse trigger and the overhead image display is to be started. Then, in step S12, the control unit 41 causes the overhead view video generation unit 44 to generate the overhead view video 100.

ステップS13において、制御部41は、基準対象Bとして例えば後方枠線B2とを検出したと判定する。   In step S13, the control unit 41 determines that, for example, the rear frame line B2 is detected as the reference target B.

そして、ステップS14において、制御部41は、基準対象Bは俯瞰映像100の表示範囲Aに存在しないと判定される。そして、ステップS15において、制御部41は、基準対象Bの相対的な向きを特定する。そして、ステップS16において、制御部41は、基準向きアイコン120を俯瞰映像100に重畳させた重畳映像100Aを生成する。そして、ステップS17において、制御部41は、生成した重畳映像100Aを表示パネル31に表示させる。   Then, in step S14, the control unit 41 determines that the reference target B does not exist in the display range A of the overhead image 100. Then, in step S15, the control unit 41 specifies the relative orientation of the reference object B. Then, in step S16, the control unit 41 generates a superimposed image 100A in which the reference orientation icon 120 is superimposed on the overhead image 100. Then, in step S17, the control unit 41 causes the display panel 31 to display the generated superimposed image 100A.

例えば、制御部41は、図3に示すような重畳映像100Aを表示パネル31に表示させる。基準向きアイコン120は、後方映像102Aに重畳されている。基準向きアイコン120と自車両Vの前後方向への延在方向Lの向きとの角度はθ1である。   For example, the control unit 41 causes the display panel 31 to display the superimposed image 100A as shown in FIG. The reference orientation icon 120 is superimposed on the rear image 102A. The angle between the reference orientation icon 120 and the direction of the extension direction L in the front-rear direction of the host vehicle V is θ1.

または、例えば、制御部41は、図4に示すような重畳映像100Aを表示パネル31に表示させてもよい。基準向きアイコン120は、自車両アイコン110の中心を通過するように重畳されている。基準向きアイコン120と自車両Vの前後方向への延在方向Lの向きとの角度はθ1である。   Alternatively, for example, the control unit 41 may cause the display panel 31 to display the superimposed image 100A as illustrated in FIG. 4. The reference orientation icon 120 is superimposed so as to pass through the center of the host vehicle icon 110. The angle between the reference orientation icon 120 and the direction of the extension direction L in the front-rear direction of the host vehicle V is θ1.

図6に示す状態から、自車両Vが後退して、自車両Vと基準対象Bとが近づいた状態を、図7に示す。車両止めB1と後方枠線B2とは、第一撮影範囲A2に存在し、俯瞰映像100の表示範囲Aより遠方に存在している。基準対象Bの延在方向と自車両Vの前後方向への延在方向Lの向きとの角度はθ2である。角度θ2は、角度θ1より大きい。   FIG. 7 shows a state in which the host vehicle V and the reference object B approach each other as the host vehicle V retreats from the state shown in FIG. The vehicle stop B1 and the rear frame line B2 exist in the first imaging range A2 and are located farther than the display range A of the overhead image 100. The angle between the extension direction of the reference object B and the direction of the extension direction L in the front-rear direction of the vehicle V is θ2. The angle θ2 is larger than the angle θ1.

ステップS13において、制御部41は、基準対象Bを検出したと判定する。そして、ステップS14において、制御部41は、基準対象Bは俯瞰映像100の表示範囲Aに存在しないと判定される。そして、ステップS15において、制御部41は、基準対象Bの相対的な向きを特定する。そして、ステップS16において、制御部41は、基準向きアイコン120を俯瞰映像100に重畳させた重畳映像100Aを生成する。そして、ステップS17において、制御部41は、生成した重畳映像100Aを表示パネル31に表示させる。   In step S13, the control unit 41 determines that the reference target B has been detected. Then, in step S14, the control unit 41 determines that the reference target B does not exist in the display range A of the overhead image 100. Then, in step S15, the control unit 41 specifies the relative orientation of the reference object B. Then, in step S16, the control unit 41 generates a superimposed image 100A in which the reference orientation icon 120 is superimposed on the overhead image 100. Then, in step S17, the control unit 41 causes the display panel 31 to display the generated superimposed image 100A.

例えば、制御部41は、図8に示すような重畳映像100Aを表示パネル31に表示させる。基準向きアイコン120は、後方映像102Aに重畳されている。基準向きアイコン120と自車両Vの前後方向への延在方向Lの向きとの角度はθ2である。   For example, the control unit 41 causes the display panel 31 to display the superimposed image 100A as shown in FIG. The reference orientation icon 120 is superimposed on the rear image 102A. The angle between the reference orientation icon 120 and the direction of the extension direction L in the front-rear direction of the vehicle V is θ2.

または、例えば、制御部41は、図9に示すような重畳映像100Aを表示パネル31に表示させる。基準向きアイコン120は、自車両アイコン110の中心を通過するように重畳されている。基準向きアイコン120と自車両Vの前後方向への延在方向Lの向きとの角度はθ2である。   Alternatively, for example, the control unit 41 causes the display panel 31 to display a superimposed image 100A as illustrated in FIG. The reference orientation icon 120 is superimposed so as to pass through the center of the host vehicle icon 110. The angle between the reference orientation icon 120 and the direction of the extension direction L in the front-rear direction of the vehicle V is θ2.

図7に示す状態から、自車両Vが後退して、自車両Vが基準対象Bの近傍に位置する状態を、図10に示す。車両止めB1と後方枠線B2とは、第一撮影範囲A2に存在し、俯瞰映像100の表示範囲Aに存在している。基準対象Bの延在方向と自車両Vの前後方向への延在方向Lの向きとの角度は90°である。   FIG. 10 shows a state in which the host vehicle V is moved backward from the state shown in FIG. The vehicle stop B1 and the rear frame line B2 exist in the first imaging range A2 and exist in the display range A of the overhead image 100. The angle between the extension direction of the reference object B and the direction of the extension direction L in the front-rear direction of the host vehicle V is 90 °.

ステップS13において、制御部41は、基準対象Bを検出したと判定する。そして、ステップS14において、制御部41は、基準対象Bは俯瞰映像100の表示範囲Aに存在すると判定される。そして、ステップS18において、制御部41は、俯瞰映像100を表示パネル31に表示させる。   In step S13, the control unit 41 determines that the reference target B has been detected. Then, in step S14, the control unit 41 determines that the reference target B is present in the display range A of the overhead view video 100. Then, in step S18, the control unit 41 causes the display panel 31 to display the overhead image 100.

例えば、制御部41は、図2に示すような俯瞰映像100を表示パネル31に表示させる。後方映像102には、被撮影物として車両止めB1と後方枠線B2とが表示されている。表示パネル31に表示される映像が重畳映像100Aから俯瞰映像100に切り替わることで、基準向きアイコン120に代わって、被撮影物として車両止めB1と後方枠線B2とが表示されている。   For example, the control unit 41 causes the display panel 31 to display the overhead view image 100 as shown in FIG. In the rear image 102, a vehicle stop B1 and a rear frame line B2 are displayed as objects to be photographed. By switching the video displayed on the display panel 31 from the superimposed video 100A to the overhead video 100, a vehicle stop B1 and a rear frame line B2 are displayed as an object to be photographed, instead of the reference orientation icon 120.

上述したように、俯瞰映像100の表示範囲Aより遠方に基準対象Bが検出されると、基準向きアイコン120を重畳した重畳映像100Aを表示パネル31に表示させる。このように、本実施形態は、俯瞰映像100の表示範囲Aより遠方の基準対象Bの向きを表示することができる。本実施形態は、車両と周辺との相対的な位置関係を適切に確認可能にすることができる。   As described above, when the reference target B is detected at a distance further than the display range A of the overhead view video 100, the superimposed image 100A on which the reference orientation icon 120 is superimposed is displayed on the display panel 31. As described above, the present embodiment can display the orientation of the reference object B that is farther than the display range A of the overhead image 100. This embodiment can appropriately confirm the relative positional relationship between the vehicle and the surroundings.

本実施形態によれば、自車両アイコン110に対する基準向きアイコン120の向きによって、自車両Vが基準対象Bの向きに合っているかや、どれくらいずれているかを確認することができる。特に、駐車時には、自車両アイコン110に対する基準向きアイコン120の向きの変化によって、自車両Vが基準対象Bの向きに合っているかや、どれくらいずれているかを確認しながら、自車両Vが適切な向きとなるように操作することができる。   According to the present embodiment, the orientation of the reference orientation icon 120 with respect to the host vehicle icon 110 makes it possible to check whether or not the host vehicle V matches the orientation of the reference target B. In particular, at the time of parking, the change of the direction of the reference orientation icon 120 with respect to the host vehicle icon 110 makes it possible to check that the host vehicle V is suitable for the direction of the reference target B and how much it is. It can be manipulated to be oriented.

本実施形態は、基準向きアイコン120を、自車両アイコン110に対し基準対象Bが存在する側に重畳させる。本実施形態によれば、基準向きアイコン120の表示位置によって、基準対象Bが存在する方向を確認可能にすることができる。   In the present embodiment, the reference orientation icon 120 is superimposed on the side where the reference target B exists with respect to the host vehicle icon 110. According to the present embodiment, the display position of the reference orientation icon 120 makes it possible to confirm the direction in which the reference object B is present.

特に、基準向きアイコン120を、自車両アイコン110に対し基準対象Bが存在する側の映像の中心を通過するように重畳させてもよい。例えば、基準対象Bが自車両Vの後方に検出されたとき、重畳処理部47は、基準向きアイコン120を、後方映像102の中心を通過するように重畳させてもよい。このように基準向きアイコン120を表示することで、自車両アイコン110に対する基準向きアイコン120の向きが変化した際に、自車両Vと基準対象Bとの相対的な向きと向きの変化とを把握しやすい表示にすることができる。   In particular, the reference orientation icon 120 may be superimposed on the host vehicle icon 110 so as to pass through the center of the image on the side where the reference target B exists. For example, when the reference object B is detected behind the host vehicle V, the superimposition processing unit 47 may superimpose the reference orientation icon 120 so as to pass through the center of the rear image 102. By displaying the reference orientation icon 120 in this manner, when the orientation of the reference orientation icon 120 with respect to the host vehicle icon 110 changes, the relative orientation and the change of the orientation of the host vehicle V and the reference target B are grasped You can make it easy to display.

本実施形態は、基準向きアイコン120を、自車両アイコン110の中心を通過するように重畳させてもよい。本実施形態によれば、自車両アイコン110に重畳して基準向きアイコン120が表示されているので、自車両Vと基準対象Bの向きとをより容易に認識できる表示にすることができる。   In the present embodiment, the reference orientation icon 120 may be superimposed so as to pass through the center of the host vehicle icon 110. According to the present embodiment, since the reference orientation icon 120 is displayed superimposed on the host vehicle icon 110, it is possible to make it possible to display the orientation of the host vehicle V and the reference target B more easily.

[第二実施形態]
図11ないし図15を参照しながら、本実施形態に係る俯瞰映像生成装置1について説明する。図11は、第二実施形態における、自車両と基準対象と表示範囲と撮影範囲との位置関係の一例を示す図である。図12は、第二実施形態に係る俯瞰映像生成装置で生成した重畳映像の一例を示す図である。図13は、第二実施形態に係る俯瞰映像生成装置で生成した重畳映像の他の例を示す図である。図14は、第二実施形態における、自車両と基準対象と表示範囲と撮影範囲との位置関係の他の例を示す図である。図15は、第二実施形態に係る俯瞰映像生成装置で生成した俯瞰映像の一例を示す図である。俯瞰映像生成装置1は、基本的な構成は第一実施形態の俯瞰映像生成装置1と同様である。以下の説明においては、俯瞰映像生成装置1と同様の構成要素には、同一の符号または対応する符号を付し、その詳細な説明は省略する。
Second Embodiment
The overhead view video image generating apparatus 1 according to the present embodiment will be described with reference to FIGS. 11 to 15. FIG. 11 is a view showing an example of the positional relationship among the host vehicle, the reference object, the display range, and the photographing range in the second embodiment. FIG. 12 is a diagram showing an example of a superimposed image generated by the overhead view video image generating apparatus according to the second embodiment. FIG. 13 is a view showing another example of the superimposed video generated by the overhead view video image generating apparatus according to the second embodiment. FIG. 14 is a diagram showing another example of the positional relationship between the vehicle, the reference object, the display range, and the imaging range in the second embodiment. FIG. 15 is a view showing an example of a bird's-eye view video generated by the bird's-eye view video generation device according to the second embodiment. The basic configuration of the overhead view video generation device 1 is the same as that of the overhead view video generation device 1 of the first embodiment. In the following description, the same reference numerals or the corresponding reference numerals are given to the same constituent elements as the overhead view video generation device 1, and the detailed description thereof is omitted.

本実施形態では、自車両Vが基準対象Bである車道外側線B3に沿って縦列駐車するものとする。自車両Vを駐車しようとしているスペースを挟んで、他車両V1と他車両V2とが存在している。   In the present embodiment, it is assumed that the vehicle V is parked in parallel along the roadway outside line B3 which is the reference object B. The other vehicle V1 and the other vehicle V2 exist across the space where the vehicle V is to be parked.

基準対象検出部45は、映像データ取得部42で取得した周辺映像に対して物体認識処理を行い、表示範囲Aより遠方に存在する基準対象Bとして車道外側線B3を検出する。   The reference object detection unit 45 performs an object recognition process on the peripheral image acquired by the image data acquisition unit 42, and detects a roadway outside line B3 as a reference object B present at a distance from the display range A.

例えば、基準対象Bが自車両Vの左後方に検出されたとき、重畳処理部47は、基準向きアイコン120を、俯瞰映像100における自車両アイコン110に対し左後方である後方映像102と左側方映像103とに重畳させる。より詳しくは、例えば、基準対象Bが自車両Vの左後方に検出されたとき、重畳処理部47は、基準向きアイコン120を、後方映像102Aと左側方映像103Aとの境界線の中点を通過するように重畳させてもよい。例えば、基準対象Bが自車両Vの左後方に検出されたとき、重畳処理部47は、基準向きアイコン120を、自車両アイコン110の左後端部から所定距離離れた位置を通過するように重畳させてもよい。   For example, when the reference target B is detected at the left rear of the host vehicle V, the superimposition processing unit 47 sets the reference orientation icon 120 to the left image and the rear image 102 that is the left rear with respect to the host vehicle icon 110 in the overhead image 100 It is superimposed on the image 103. More specifically, for example, when the reference object B is detected at the left rear of the host vehicle V, the superimposition processing unit 47 sets the reference orientation icon 120 to the middle point of the boundary between the rear image 102A and the left side image 103A. It may be superimposed to pass through. For example, when the reference object B is detected at the left rear of the host vehicle V, the superimposition processing unit 47 passes the reference orientation icon 120 a position away from the left rear end of the host vehicle icon 110 by a predetermined distance. You may make it overlap.

または、重畳処理部47は、基準向きアイコン120を、自車両アイコン110の中心を通過するように重畳させてもよい。   Alternatively, the superimposition processing unit 47 may superimpose the reference orientation icon 120 so as to pass through the center of the host vehicle icon 110.

例えば、車両の縦列駐車時、左後方に基準対象Bである車道外側線B3が存在する場合の一例を、図11ないし図15を用いて説明する。   For example, when parallel parking of a vehicle, a roadway outside line B3 which is a reference object B is present at the left rear will be described with reference to FIGS.

まず、車両が駐車位置の近傍に位置して、シフトポジションが「リバース」とされる。車両情報取得部43は、後退トリガを取得する。このとき、図11に示すように、自車両Vと車道外側線B3とが離れているものとする。車道外側線B3は、第二撮影範囲A2と第三撮影範囲A3とにまたがって存在し、俯瞰映像100の表示範囲Aより遠方に存在している。車道外側線B3の延在方向と自車両Vの前後方向への延在方向Lの向きとの角度はθ3である。   First, the vehicle is positioned near the parking position, and the shift position is set to "reverse". The vehicle information acquisition unit 43 acquires a reverse trigger. At this time, as shown in FIG. 11, it is assumed that the host vehicle V and the roadway outer line B3 are separated. The roadway outer line B3 exists across the second imaging range A2 and the third imaging range A3 and is located farther than the display range A of the overhead image 100. The angle between the extending direction of the roadway outer line B3 and the direction of the extending direction L in the front-rear direction of the vehicle V is θ3.

ステップS11において、制御部41は、後退トリガがあり、俯瞰映像表示を開始すると判定する。そして、ステップS12において、制御部41は、俯瞰映像生成部44で、俯瞰映像100を生成させる。   In step S11, the control unit 41 determines that there is a reverse trigger and the overhead image display is to be started. Then, in step S12, the control unit 41 causes the overhead view video generation unit 44 to generate the overhead view video 100.

ステップS13において、制御部41は、車道外側線B3を基準対象Bとして検出したと判定する。そして、ステップS14において、制御部41は、車道外側線B3は俯瞰映像100の表示範囲Aに存在しないと判定される。そして、ステップS15において、制御部41は、車道外側線B3の相対的な向きを特定する。そして、ステップS16において、制御部41は、基準向きアイコン120を俯瞰映像100に重畳させた重畳映像100Aを生成する。そして、ステップS17において、制御部41は、生成した重畳映像100Aを表示パネル31に表示させる。   In step S13, the control unit 41 determines that the roadway outside line B3 is detected as the reference target B. Then, in step S14, the control unit 41 determines that the roadway outer line B3 does not exist in the display range A of the overhead image 100. And control part 41 specifies relative direction of roadway outside line B3 in Step S15. Then, in step S16, the control unit 41 generates a superimposed image 100A in which the reference orientation icon 120 is superimposed on the overhead image 100. Then, in step S17, the control unit 41 causes the display panel 31 to display the generated superimposed image 100A.

例えば、制御部41は、図12に示すような重畳映像100Aを表示パネル31に表示させる。基準向きアイコン120は、後方映像102Aと左側方映像103Aとに重畳されている。基準向きアイコン120と自車両Vの前後方向への延在方向Lの向きとの角度はθ3である。   For example, the control unit 41 causes the display panel 31 to display a superimposed image 100A as shown in FIG. The reference orientation icon 120 is superimposed on the rear image 102A and the left side image 103A. The angle between the reference orientation icon 120 and the direction of the extension direction L in the front-rear direction of the vehicle V is θ3.

または、例えば、制御部41は、図13に示すような重畳映像100Aを表示パネル31に表示させてもよい。基準向きアイコン120は、自車両アイコン110の中心を通過するように重畳されている。基準向きアイコン120と自車両Vの前後方向への延在方向Lの向きとの角度はθ3である。図13において、自車両Vの前後方向への延在方向Lと重畳映像100Aの左枠線とは平行であるので、角度θ3は、基準向きアイコン120と左枠線との角度として図示している。   Alternatively, for example, the control unit 41 may cause the display panel 31 to display a superimposed image 100A as shown in FIG. The reference orientation icon 120 is superimposed so as to pass through the center of the host vehicle icon 110. The angle between the reference orientation icon 120 and the direction of the extension direction L in the front-rear direction of the vehicle V is θ3. In FIG. 13, the extending direction L of the own vehicle V in the front-rear direction is parallel to the left border of the superimposed image 100A, so the angle θ3 is illustrated as an angle between the reference orientation icon 120 and the left border. There is.

図11に示す状態から、自車両Vが後退して、自車両Vが車道外側線B3の近傍に位置する状態を、図14に示す。車道外側線B3は、第一撮影範囲A1と第二撮影範囲A2と第三撮影範囲A3とにまたがって存在し、俯瞰映像100の表示範囲Aに存在している。他車両V1は、表示範囲Aに存在し、かつ、第一撮影範囲A1に存在している。他車両V2は、表示範囲Aに存在しかつ第二撮影範囲A2に存在している。車道外側線B3の延在方向と自車両Vの前後方向への延在方向Lの向きとの角度はθ4である。   FIG. 14 shows a state in which the host vehicle V is retracted from the state shown in FIG. 11 and the host vehicle V is located near the roadway outer line B3. The roadway outer line B3 exists across the first imaging range A1, the second imaging range A2, and the third imaging range A3, and exists in the display range A of the overhead image 100. The other vehicle V1 exists in the display range A, and exists in the first imaging range A1. The other vehicle V2 exists in the display range A and exists in the second imaging range A2. The angle between the extending direction of the roadway outer line B3 and the direction of the extending direction L in the front-rear direction of the vehicle V is θ4.

ステップS13おいて、制御部41は、車道外側線B3を検出したと判定する。そして、ステップS14において、制御部41は、車道外側線B3は俯瞰映像100の表示範囲Aに存在すると判定される。そして、ステップS18において、制御部41は、俯瞰映像100を表示パネル31に表示させる。   In step S13, the control unit 41 determines that the roadway outside line B3 has been detected. Then, in step S14, the control unit 41 determines that the roadway outer line B3 exists in the display range A of the overhead image 100. Then, in step S18, the control unit 41 causes the display panel 31 to display the overhead image 100.

例えば、制御部41は、図15に示すような俯瞰映像100を表示パネル31に表示させる。後方映像102と左側方映像103とには、被撮影物として車道外側線B3が表示されている。他車両V1と他車両V2とが表示されている。表示パネル31に表示される映像が重畳映像100Aから俯瞰映像100に切り替わることで、基準向きアイコン120に代わって、被撮影物として車道外側線B3が表示されている。   For example, the control unit 41 causes the display panel 31 to display the overhead view image 100 as shown in FIG. A roadway outside line B3 is displayed on the rear image 102 and the left direction image 103 as an object to be photographed. Another vehicle V1 and another vehicle V2 are displayed. By switching the video displayed on the display panel 31 from the superimposed video 100A to the overhead video 100, a roadway outside line B3 is displayed as an object to be photographed instead of the reference orientation icon 120.

上述したように、俯瞰映像100の表示範囲Aより遠方に車道外側線B3が検出されると、基準向きアイコン120を重畳した重畳映像100Aを表示パネル31に表示させる。このように、本実施形態は、俯瞰映像100の表示範囲Aより遠方の車道外側線B3の向きを表示することができる。本実施形態は、縦列駐車時であっても、車両と周辺との相対的な位置関係を適切に確認可能にすることができる。   As described above, when the roadway outside line B3 is detected farther than the display range A of the overhead view video 100, the display panel 31 displays the superimposed video 100A on which the reference orientation icon 120 is superimposed. Thus, the present embodiment can display the direction of the roadway outer line B3 farther from the display range A of the overhead image 100. The present embodiment can appropriately confirm the relative positional relationship between the vehicle and the surroundings even in parallel parking.

[第三実施形態]
図16を参照しながら、本実施形態に係る俯瞰映像生成装置1について説明する。図16は、第三実施形態における、自車両と基準対象と表示範囲と撮影範囲との位置関係の一例を示す図である。
Third Embodiment
The overhead view video image generating apparatus 1 according to the present embodiment will be described with reference to FIG. FIG. 16 is a diagram showing an example of the positional relationship among the host vehicle, the reference object, the display range, and the imaging range in the third embodiment.

本実施形態では、狭い路地で、自車両Vが基準対象Bである車道外側線B3に沿って縦列駐車するものとする。車道外側線B3と向かい合って反対側の車道外側線B4が存在している。車道外側線B3と車道外側線B4との間隔はdである。自車両Vを駐車しようとしているスペースを挟んで、他車両V1と他車両V2とが存在している。   In the present embodiment, it is assumed that parallel parking is performed along a roadway outer line B3 which is the reference target B, in a narrow alley. A roadway outside line B4 opposite to the roadside line B3 is present. The distance between the roadway outer line B3 and the roadway outer line B4 is d. The other vehicle V1 and the other vehicle V2 exist across the space where the vehicle V is to be parked.

基準対象検出部45は、映像データ取得部42で取得した周辺映像に対して物体認識処理を行い、表示範囲Aより遠方に存在する基準対象Bとして車道外側線B3を検出する。車道外側線B4は、自車両Vの進行方向とは反対側に存在しているため、基準対象Bとして検出されない。   The reference object detection unit 45 performs an object recognition process on the peripheral image acquired by the image data acquisition unit 42, and detects a roadway outside line B3 as a reference object B present at a distance from the display range A. The roadway outer line B4 is not detected as the reference object B because it is on the opposite side to the traveling direction of the host vehicle V.

または、基準対象検出部45は、映像データ取得部42で取得した周辺映像に対して物体認識処理を行い、表示範囲Aより遠方に存在する基準対象Bであって、自車両Vにより近い車道外側線B3を検出する。車道外側線B4は、車道外側線B3より自車両Vまでの距離が遠いため、基準対象Bとして検出されない。   Alternatively, the reference object detection unit 45 performs an object recognition process on the peripheral image acquired by the image data acquisition unit 42, and is a reference object B that is farther from the display range A and is closer to the host vehicle V Detect line B3. The roadway outside line B4 is not detected as the reference object B because the distance to the host vehicle V is longer than the roadway outside line B3.

このようにして、基準対象検出部45で基準対象Bとして車道外側線B3が検出されるので、第二実施形態と同様にフローチャートに沿った処理が実行されて、俯瞰映像100または重畳映像100Aが表示パネル31に表示される。   Thus, since the roadway outside line B3 is detected as the reference object B by the reference object detection unit 45, the processing according to the flowchart is executed as in the second embodiment, and the overhead image 100 or the superimposed image 100A is It is displayed on the display panel 31.

上述したように、本実施形態は、狭い路地での縦列駐車時であっても、車両と周辺との相対的な位置関係を適切に確認可能にすることができる。   As described above, this embodiment can appropriately confirm the relative positional relationship between the vehicle and the surroundings even when parallel parking is performed in a narrow alley.

さて、これまで本発明に係る俯瞰映像生成装置1について説明したが、上述した実施形態以外にも種々の異なる形態にて実施されてよいものである。   By the way, although the overhead view video image generating apparatus 1 according to the present invention has been described, the present invention may be implemented in various different modes other than the above-described embodiment.

図示した俯瞰映像生成装置1の各構成要素は、機能概念的なものであり、必ずしも物理的に図示の如く構成されていなくてもよい。すなわち、各装置の具体的形態は、図示のものに限られず、各装置の処理負担や使用状況などに応じて、その全部または一部を任意の単位で機能的または物理的に分散または統合してもよい。   Each component of the overhead view image generation device 1 shown in the drawings is functionally conceptual, and may not necessarily be physically configured as shown in the drawings. That is, the specific form of each device is not limited to the illustrated one, and all or a part thereof is functionally or physically dispersed or integrated in an arbitrary unit according to the processing load and use condition of each device, etc. May be

俯瞰映像生成装置1の構成は、例えば、ソフトウェアとして、メモリにロードされたプログラムなどによって実現される。上記実施形態では、これらのハードウェアまたはソフトウェアの連携によって実現される機能ブロックとして説明した。すなわち、これらの機能ブロックについては、ハードウェアのみ、ソフトウェアのみ、または、それらの組み合わせによって種々の形で実現できる。   The configuration of the overhead view video generation device 1 is realized by, for example, a program loaded into a memory as software. The above embodiment has been described as a functional block realized by cooperation of these hardware or software. That is, these functional blocks can be realized in various forms by hardware only, software only, or a combination thereof.

上記した構成要素には、当業者が容易に想定できるもの、実質的に同一のものを含む。さらに、上記した構成は適宜組み合わせが可能である。また、本発明の要旨を逸脱しない範囲において構成の種々の省略、置換または変更が可能である。   The above-described components include those which can be easily conceived by those skilled in the art and those substantially the same. Furthermore, the configurations described above can be combined as appropriate. In addition, various omissions, substitutions, or modifications of the configuration are possible without departing from the scope of the present invention.

重畳処理部47は、基準向きアイコン120を、基準対象Bと自車両Vとの距離に応じて表示態様を変化させて重畳させてもよい。例えば、基準向きアイコン120は、基準対象Bと自車両Vとの距離に応じて、太さと色と線種の少なくともいずれかを変えてもよい。基準向きアイコン120は、基準対象Bと自車両Vとの距離が近いほど、太い線で表示してもよい。基準向きアイコン120は、基準対象Bと自車両Vとの距離が近いほど、濃い色で表示してもよい。基準向きアイコン120は、基準対象Bと自車両Vとの距離が遠いときは破線で表示し、近いときは実線で表示してもよい。   The superimposition processing unit 47 may superimpose the reference orientation icon 120 by changing the display mode in accordance with the distance between the reference target B and the host vehicle V. For example, the reference orientation icon 120 may change at least one of the thickness, the color, and the line type in accordance with the distance between the reference object B and the host vehicle V. The reference orientation icon 120 may be displayed as a thicker line as the distance between the reference target B and the host vehicle V is shorter. The reference orientation icon 120 may be displayed in a darker color as the distance between the reference object B and the host vehicle V is shorter. The reference orientation icon 120 may be displayed as a broken line when the distance between the reference object B and the host vehicle V is long, and may be displayed as a solid line when the distance is short.

重畳処理部47は、基準向きアイコン120を、基準対象Bと自車両Vとの相対的な向きに応じて表示態様を変化させて重畳させてもよい。例えば、基準向きアイコン120は、基準対象Bの延在方向に対する自車両Vの向きに応じて、太さと色と線種の少なくともいずれかを変えてもよい。基準向きアイコン120は、基準対象Bの延在方向に対する自車両Vの向きのズレが所定値より大きいときは薄い線で示し、基準対象Bの延在方向に対して自車両Vの向きのズレが小さくなるにつれて太くした線で表示してもよい。基準向きアイコン120は、基準対象Bの延在方向に対する自車両Vの向きのズレが所定値より大きいときは赤い色で示し、基準対象Bの延在方向に対して自車両Vの向きのズレが小さくなるにつれて緑色へと変化するように表示してもよい。基準向きアイコン120は、基準対象Bの延在方向に対する自車両Vの向きのズレが所定値より大きいときは破線で表示し、基準対象Bの延在方向に対して自車両Vの向きのズレが小さくなるにつれて実線へと変化させるように表示してもよい。   The superimposition processing unit 47 may superimpose the reference orientation icon 120 by changing the display mode in accordance with the relative orientation of the reference object B and the host vehicle V. For example, the reference orientation icon 120 may change at least one of thickness, color, and line type in accordance with the orientation of the host vehicle V with respect to the extension direction of the reference object B. The reference orientation icon 120 is indicated by a thin line when the deviation of the orientation of the vehicle V with respect to the extension direction of the reference object B is larger than a predetermined value, and the deviation of the orientation of the vehicle V with respect to the extension direction of the reference object B It may be displayed as a thick line as the The reference orientation icon 120 is displayed in red when the deviation of the orientation of the vehicle V with respect to the extension direction of the reference object B is larger than a predetermined value, and the deviation of the orientation of the vehicle V with respect to the extension direction of the reference object B It may be displayed to change to green as 小 さ く な る becomes smaller. The reference orientation icon 120 is displayed as a broken line when the deviation of the orientation of the vehicle V with respect to the extension direction of the reference object B is larger than a predetermined value, and the deviation of the orientation of the vehicle V with respect to the extension direction of the reference object B It may be displayed to be changed to a solid line as becomes smaller.

基準対象Bの延在方向に対して自車両Vの向きのズレがゼロになると、基準対象Bの延在方向に対して自車両Vの向きが合う。基準対象Bの延在方向に対して自車両Vの向きが合うとは、基準対象Bの延在方向に対して自車両Vの向きが平行になったとき、または、垂直になったときである。言い換えると、基準対象Bの延在方向に対して自車両Vの向きが合うとは、基準対象Bに対して自車両Vの向きが正しい向きになったときである。   When the deviation of the direction of the vehicle V is zero with respect to the extending direction of the reference object B, the direction of the vehicle V matches with the extending direction of the reference object B. The orientation of the host vehicle V being aligned with the extension direction of the reference target B is when the orientation of the host vehicle V becomes parallel or perpendicular to the extension direction of the reference target B is there. In other words, that the direction of the vehicle V matches the extending direction of the reference object B is when the direction of the vehicle V with respect to the reference object B is correct.

自車両アイコン110は、自車両Vの進行方向の端部、言い換えると、基準向きアイコン120と向きを合せる自車両Vの対象部を着色して表示してもよい。これにより、重畳映像100Aによって、基準対象Bと自車両Vとの向きの確認がより容易になる。基準向きアイコン120と向きを合せる対象部は、自車両Vの進行方向と基準対象Bとの相対的な位置関係や、撮影データに対して画像処理を行い、周囲の被撮影物との位置関係によって特定してもよい。または、基準向きアイコン120と向きを合せる対象部は、ユーザが表示パネル31に表示された自車両アイコン110上で選択した部分を対象部として特定してもよい。   The own vehicle icon 110 may color and display an end of the traveling direction of the own vehicle V, in other words, a target portion of the own vehicle V whose direction matches the reference orientation icon 120. This makes it easier to check the directions of the reference object B and the host vehicle V by the superimposed image 100A. The target unit that aligns with the reference orientation icon 120 performs a relative positional relationship between the traveling direction of the host vehicle V and the reference target B, and image processing on shooting data, and a positional relationship with surrounding objects to be photographed. It may be specified by Alternatively, a target unit whose orientation matches the reference orientation icon 120 may specify, as a target unit, a portion selected on the host vehicle icon 110 displayed on the display panel 31 by the user.

基準向きアイコン120は、破線で構成されるものとして説明したが、これに限定されない。基準向きアイコン120は、例えば、帯状の図形でもよい。   Although the reference orientation icon 120 has been described as being configured by a dashed line, it is not limited thereto. The reference orientation icon 120 may be, for example, a strip shape.

1 俯瞰映像生成装置
11 前方カメラ(撮影部)
12 後方カメラ(撮影部)
13 左側方カメラ(撮影部)
14 右側方カメラ(撮影部)
31 表示パネル(表示部)
40 俯瞰映像生成装置
41 制御部
42 映像データ取得部
43 車両情報取得部
44 俯瞰映像生成部
441 視点変換処理部
442 切出処理部
443 合成処理部
45 基準対象検出部
46 向き特定部
47 重畳処理部
48 表示制御部
49 記憶部
100 俯瞰映像
100A 重畳映像
110 自車両アイコン
120 基準向きアイコン(向きを示す情報)
1 1 Video generation device 11 Front camera (shooting unit)
12 Rear camera (shooting unit)
13 Left side camera (shooting unit)
14 Right side camera (shooting unit)
31 Display panel (display section)
DESCRIPTION OF SYMBOLS 40 overhead view video generation apparatus 41 control part 42 video data acquisition part 43 vehicle information acquisition part 44 overhead view video generation part 441 viewpoint conversion processing part 442 clipping processing part 443 combining processing part 45 reference object detection part 46 direction identification part 47 superimposition processing part 48 display control unit 49 storage unit 100 overhead view image 100A superimposed image 110 own vehicle icon 120 reference orientation icon (information indicating orientation)

Claims (10)

車両の周辺を撮影する複数のカメラが撮影した周辺映像データを取得する映像データ取得部と、
前記映像データ取得部が取得した周辺映像に視点変換処理および車両を示す自車両アイコンを含む合成処理を行い、前記車両から所定の表示範囲を表示する俯瞰映像を生成する俯瞰映像生成部と、
前記車両の周囲における前記表示範囲より遠方に存在する基準対象を検出する基準対象検出部と、
前記基準対象検出部が検出した基準対象と前記車両との相対的な向きを特定する向き特定部と、
前記基準対象と前記車両との相対的な向きを示す情報を前記自車両アイコンを基準とした相対的な向きとして前記俯瞰映像生成部が生成した俯瞰映像に重畳させた重畳映像を生成する重畳処理部と、
前記重畳処理部が生成した重畳映像を表示部に表示させる表示制御部と、
を備えることを特徴とする俯瞰映像生成装置。
A video data acquisition unit that acquires peripheral video data captured by a plurality of cameras that capture the periphery of the vehicle;
An overhead view video generation unit that performs viewpoint conversion processing and synthesis processing including a host vehicle icon indicating a vehicle on the peripheral video acquired by the video data acquisition unit, and generates an overhead video displaying a predetermined display range from the vehicle;
A reference target detection unit configured to detect a reference target located far from the display range around the vehicle;
A direction specifying unit that specifies a relative direction between the reference object detected by the reference object detection unit and the vehicle;
Superimposing processing for generating a superimposed image in which information indicating the relative orientation of the reference object and the vehicle is superimposed on the overhead image generated by the overhead image generating unit as the relative orientation based on the host vehicle icon Department,
A display control unit that causes a display unit to display the superimposed image generated by the superposition processing unit;
A bird's-eye view image generation apparatus comprising:
前記重畳処理部は、前記基準対象と前記車両との相対的な向きを示す情報を、前記自車両アイコンに対し前記基準対象が存在する側に重畳させる、
請求項1に記載の俯瞰映像生成装置。
The superimposition processing unit superimposes information indicating the relative orientations of the reference object and the vehicle on the side where the reference object exists with respect to the host vehicle icon.
The overhead view image generation apparatus according to claim 1.
前記重畳処理部は、前記基準対象と前記車両との相対的な向きを示す情報を、前記自車両アイコンの中心を基準として重畳させる、
請求項1に記載の俯瞰映像生成装置。
The superimposition processing unit superimposes information indicating the relative orientations of the reference object and the vehicle with reference to the center of the host vehicle icon.
The overhead view image generation apparatus according to claim 1.
前記基準対象検出部は、前記車両の周囲における前記表示範囲より遠方に基準対象が複数存在する場合は前記車両から最も近い基準対象を選択する、
請求項1から3のいずれか一項に記載の俯瞰映像生成装置。
The reference object detection unit selects a reference object closest to the vehicle when there are a plurality of reference objects located farther from the display range around the vehicle.
The bird's-eye view image production | generation apparatus as described in any one of Claim 1 to 3.
前記基準対象検出部は、前記車両の周囲における前記表示範囲より遠方に基準対象が複数存在する場合は前記車両の進行方向に存在する基準対象を選択する、
請求項1から4のいずれか一項に記載の俯瞰映像生成装置。
The reference object detection unit selects a reference object existing in the traveling direction of the vehicle if there are a plurality of reference objects located farther from the display range around the vehicle.
The bird's-eye view image production | generation apparatus as described in any one of Claims 1-4.
前記重畳処理部は、前記基準対象と自車との相対的な向きを示す情報を、前記基準対象と自車との距離に応じて表示態様を変化させて重畳させる、
請求項1から5のいずれか一項に記載の俯瞰映像生成装置。
The superimposition processing unit superimposes information indicating the relative orientation between the reference object and the vehicle, changing a display mode according to the distance between the reference object and the vehicle.
The bird's-eye view image generation apparatus according to any one of claims 1 to 5.
前記重畳処理部は、前記基準対象と自車との相対的な向きを示す情報を、前記基準対象と自車との相対的な向きに応じて表示態様を変化させて重畳させる、
請求項1から6のいずれか一項に記載の俯瞰映像生成装置。
The superimposition processing unit superimposes information indicating the relative orientations of the reference object and the vehicle, changing a display mode according to the relative orientations of the reference object and the vehicle.
The bird's-eye view image generation apparatus according to any one of claims 1 to 6.
請求項1から7のいずれか一項に記載の俯瞰映像生成装置と、
前記映像データ取得部に映像データを供給する撮影部、前記表示制御部が重畳映像を表示させる表示部、の少なくともどちらかを備える、俯瞰映像表示装置。
An overhead-view image generation apparatus according to any one of claims 1 to 7,
An overhead view video display apparatus comprising: at least one of a photographing unit for supplying video data to the video data acquisition unit; and a display unit for causing the display control unit to display a superimposed video.
車両の周辺を撮影する複数のカメラが撮影した周辺映像データを取得する映像データ取得ステップと、
前記映像データ取得ステップで取得した周辺映像に視点変換処理および車両を示す自車両アイコンを含む合成処理を行い、前記車両から所定の表示範囲を表示する俯瞰映像を生成する俯瞰映像生成ステップと、
前記車両の周囲における前記表示範囲より遠方に存在する基準対象を検出する基準対象検出ステップと、
前記基準対象検出ステップで検出した基準対象と前記車両との相対的な向きを特定する向き特定ステップと、
前記基準対象と前記車両との相対的な向きを示す情報を前記自車両アイコンを基準とした相対的な向きとして前記俯瞰映像生成ステップで生成した俯瞰映像に重畳させた重畳映像を生成する重畳処理ステップと、
前記重畳処理ステップで生成した重畳映像を表示部に表示させる表示制御ステップと、
を含む俯瞰映像生成方法。
An image data acquisition step of acquiring surrounding image data captured by a plurality of cameras capturing an area around the vehicle;
An overhead video generation step of performing viewpoint conversion processing and synthesis processing including a host vehicle icon indicating a vehicle on the peripheral video acquired in the video data acquisition step, and generating an overhead video displaying a predetermined display range from the vehicle;
A reference object detection step of detecting a reference object located far from the display range around the vehicle;
A direction specifying step of specifying a relative direction between the reference object detected in the reference object detection step and the vehicle;
Superimposing processing for generating a superimposed image in which information indicating the relative orientation of the reference object and the vehicle is superimposed on the overhead image generated in the overhead image generation step as the relative orientation based on the host vehicle icon Step and
A display control step of causing the display unit to display the superimposed video generated in the superimposing processing step;
An overhead video generation method including
車両の周辺を撮影する複数のカメラが撮影した周辺映像データを取得する映像データ取得ステップと、
前記映像データ取得ステップで取得した周辺映像に視点変換処理および車両を示す自車両アイコンを含む合成処理を行い、前記車両から所定の表示範囲を表示する俯瞰映像を生成する俯瞰映像生成ステップと、
前記車両の周囲における前記表示範囲より遠方に存在する基準対象を検出する基準対象検出ステップと、
前記基準対象検出ステップで検出した基準対象と前記車両との相対的な向きを特定する向き特定ステップと、
前記基準対象と前記車両との相対的な向きを示す情報を前記自車両アイコンを基準とした相対的な向きとして前記俯瞰映像生成ステップで生成した俯瞰映像に重畳させた重畳映像を生成する重畳処理ステップと、
前記重畳処理ステップで生成した重畳映像を表示部に表示させる表示制御ステップと、
を俯瞰映像生成装置として動作するコンピュータに実行させるためのプログラム。
An image data acquisition step of acquiring surrounding image data captured by a plurality of cameras capturing an area around the vehicle;
An overhead video generation step of performing viewpoint conversion processing and synthesis processing including a host vehicle icon indicating a vehicle on the peripheral video acquired in the video data acquisition step, and generating an overhead video displaying a predetermined display range from the vehicle;
A reference object detection step of detecting a reference object located far from the display range around the vehicle;
A direction specifying step of specifying a relative direction between the reference object detected in the reference object detection step and the vehicle;
Superimposing processing for generating a superimposed image in which information indicating the relative orientation of the reference object and the vehicle is superimposed on the overhead image generated in the overhead image generation step as the relative orientation based on the host vehicle icon Step and
A display control step of causing the display unit to display the superimposed video generated in the superimposing processing step;
A program for causing a computer that operates as a bird's-eye view video generation device to execute.
JP2017073795A 2017-04-03 2017-04-03 Overhead video generation apparatus, overhead video display apparatus, overhead video generation method and program Pending JP2018182373A (en)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017073795A JP2018182373A (en) 2017-04-03 2017-04-03 Overhead video generation apparatus, overhead video display apparatus, overhead video generation method and program
PCT/JP2018/008416 WO2018186086A1 (en) 2017-04-03 2018-03-05 Bird's-eye-view video generation device, bird's-eye-view video display device, bird's-eye-view video generation method, and program
EP18781926.3A EP3550829B1 (en) 2017-04-03 2018-03-05 Bird's-eye-view video generation device, bird's-eye-view video display device, bird's-eye-view video generation method, and program
US16/374,760 US10873720B2 (en) 2017-04-03 2019-04-04 Bird's-eye view video generation device, bird's-eye view video display device, bird's-eye view video generation method, and non-transitory storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017073795A JP2018182373A (en) 2017-04-03 2017-04-03 Overhead video generation apparatus, overhead video display apparatus, overhead video generation method and program

Publications (1)

Publication Number Publication Date
JP2018182373A true JP2018182373A (en) 2018-11-15

Family

ID=64276109

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017073795A Pending JP2018182373A (en) 2017-04-03 2017-04-03 Overhead video generation apparatus, overhead video display apparatus, overhead video generation method and program

Country Status (1)

Country Link
JP (1) JP2018182373A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113163137A (en) * 2021-04-29 2021-07-23 众立智能科技(深圳)有限公司 Method and system for realizing multi-picture superposition of Haisi coding and decoding chip
JP2022013827A (en) * 2020-07-03 2022-01-18 ホンダ リサーチ インスティテュート ヨーロッパ ゲーエムベーハー Method for supporting user of supporting system, supporting system, and vehicle equipped with such system

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022013827A (en) * 2020-07-03 2022-01-18 ホンダ リサーチ インスティテュート ヨーロッパ ゲーエムベーハー Method for supporting user of supporting system, supporting system, and vehicle equipped with such system
JP7755775B2 (en) 2020-07-03 2025-10-17 本田技研工業株式会社 Method for assisting a user of an assistance system, assistance system and vehicle equipped with such a system
CN113163137A (en) * 2021-04-29 2021-07-23 众立智能科技(深圳)有限公司 Method and system for realizing multi-picture superposition of Haisi coding and decoding chip

Similar Documents

Publication Publication Date Title
US10873720B2 (en) Bird's-eye view video generation device, bird's-eye view video display device, bird's-eye view video generation method, and non-transitory storage medium
JP2019186853A (en) Vehicle display control device, vehicle display system, vehicle display control method, and program
WO2017110144A1 (en) Overhead view video image generation device, overhead view video image generation system, overhead view video image generation method, and program
JP2018142884A (en) Bird's eye video creation device, bird's eye video creation system, bird's eye video creation method, and program
JP2015074254A (en) Parking assistance device
US11021105B2 (en) Bird's-eye view video generation device, bird's-eye view video generation method, and non-transitory storage medium
JP2015009646A (en) Driving support device
JP6656359B2 (en) Parking assist display control device and parking assist display control method
EP3731138B1 (en) Image processing device and image processing method
JP6152261B2 (en) Car parking frame recognition device
JP2014182543A (en) Device and method for switching display of vehicle rearward image
JP2018182373A (en) Overhead video generation apparatus, overhead video display apparatus, overhead video generation method and program
JP6032141B2 (en) Travel road marking detection device and travel road marking detection method
JP2009071659A (en) Parking assistance system
JP6852556B2 (en) Bird's-eye view image generation device, bird's-eye view image display system, bird's-eye view image generation method and program
JP7075273B2 (en) Parking support device
JP6148848B2 (en) In-vehicle image processing device
JP6730619B2 (en) Overhead video generation device, overhead video display device, overhead video generation method and program
JP6730618B2 (en) Overhead video generation device, overhead video display device, overhead video generation method and program
JP2010165299A (en) White line detector
JP2017163345A (en) VEHICLE DISPLAY CONTROL DEVICE, VEHICLE DISPLAY SYSTEM, VEHICLE DISPLAY CONTROL METHOD, AND PROGRAM
JP5943207B2 (en) Video display device for vehicle parking operation support
JP6400352B2 (en) Vehicle periphery display device
JP6621969B2 (en) Rear side image control apparatus and rear side image control method
JP6816686B2 (en) Bird's-eye view image generation device, bird's-eye view image generation system, bird's-eye view image generation method and program