[go: up one dir, main page]

JP2020088511A - Display device, display method, and display program - Google Patents

Display device, display method, and display program Download PDF

Info

Publication number
JP2020088511A
JP2020088511A JP2018217593A JP2018217593A JP2020088511A JP 2020088511 A JP2020088511 A JP 2020088511A JP 2018217593 A JP2018217593 A JP 2018217593A JP 2018217593 A JP2018217593 A JP 2018217593A JP 2020088511 A JP2020088511 A JP 2020088511A
Authority
JP
Japan
Prior art keywords
display
image
angle
vehicle
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018217593A
Other languages
Japanese (ja)
Other versions
JP7166725B2 (en
Inventor
信範 工藤
Akinori Kudo
信範 工藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alpine Electronics Inc
Original Assignee
Alpine Electronics Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alpine Electronics Inc filed Critical Alpine Electronics Inc
Priority to JP2018217593A priority Critical patent/JP7166725B2/en
Publication of JP2020088511A publication Critical patent/JP2020088511A/en
Application granted granted Critical
Publication of JP7166725B2 publication Critical patent/JP7166725B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】 表示アングルに応じた撮像画像を表示するとき後方画像の左右を反転した画像を表示することができる表示装置を提供する。【解決手段】 本発明の表示装置100は、車両の全方位を撮像する撮像部110と、ユーザーからの操作情報を受け取る入力部120と、撮像画像を表示する表示部130と、記憶部140と、各部を制御する制御部150とを含んで構成される。制御部150は、撮像された画像を表示部130に表示するときの表示アングルを決定し、当該表示アングルに基づき撮像された画像の中から画像を切り出し、切り出された画像の左右が反転した反転画像に加工する。さらに制御部150は、表示アングルが車両の後方を示すとき、反転された後方画像を表示部130に表示させる制御を行う。【選択図】 図3PROBLEM TO BE SOLVED: To provide a display device capable of displaying an image in which the left and right sides of a rear image are inverted when displaying a captured image according to a display angle. A display device 100 of the present invention includes an imaging unit 110 that captures an omnidirectional image of a vehicle, an input unit 120 that receives operation information from a user, a display unit 130 that displays captured images, and a storage unit 140. , A control unit 150 that controls each unit. The control unit 150 determines a display angle when displaying the captured image on the display unit 130, cuts out an image from the captured image based on the display angle, and inverts the cut out image to the left and right. Process into an image. Further, the control unit 150 controls the display unit 130 to display the inverted rear image when the display angle indicates the rear of the vehicle. [Selection diagram] Fig. 3

Description

本発明は、撮像カメラにより撮像された車両周辺の画像を表示する表示装置に関する。 The present invention relates to a display device that displays an image around a vehicle captured by an imaging camera.

近年、車両には、種々の撮像カメラが搭載されている。例えば、運転支援のために自車周辺の障害物等を検出するために撮像カメラを搭載したり、走行中の事故等の事象を記録するために撮像カメラを搭載したり、ドアミラー等の光学式ミラーの代わりに撮像カメラを搭載している。 In recent years, various imaging cameras are mounted on vehicles. For example, an imaging camera is installed to detect obstacles around the vehicle for driving assistance, an imaging camera is installed to record events such as an accident while driving, and an optical system such as a door mirror is installed. An imaging camera is installed instead of a mirror.

例えば、特許文献1に開示される車両周辺視認装置は、魚眼レンズ等の広い視野範囲を有するカメラで車両周辺を撮像し、その撮像された画像をドアミラーの鏡像の代わりに、あるいは鏡像と一緒に用いることで、ドアミラーの鏡像で見るときよりも死角の少ない画像を運転者に提供している。この際、車両後方を撮像した画像をそのまま表示すると、運転者がドアミラーで見たときの鏡像と上下の位置関係が逆になるので、この違和感を無くすために、ドアミラーの鏡像に対応するように、車両後方の画像の反転処理を行っている。また、特許文献2は、全方位カメラを使用した周辺画像表示装置に関し、ユーザー操作に応じて表示画像の切替えを可能にしている。 For example, the vehicle periphery visual recognition device disclosed in Patent Document 1 captures an image of the vehicle periphery with a camera having a wide field of view such as a fisheye lens, and uses the captured image instead of a mirror image of a door mirror or together with the mirror image. This provides the driver with an image with less blind spots than when looking at the mirror image of the door mirror. At this time, if the image of the rear of the vehicle is displayed as it is, the positional relationship between the mirror image and the vertical direction when the driver looks at the door mirror is reversed, so in order to eliminate this discomfort, it is necessary to correspond to the mirror image of the door mirror. , The image of the rear of the vehicle is reversed. Further, Patent Document 2 relates to a peripheral image display device using an omnidirectional camera, and enables switching of display images in accordance with user operation.

特開2006−50246号公報JP, 2006-50246, A 特開2013−034142号公報JP, 2013-034142, A

撮像カメラシステムの中には、車両の全方位(360度)を撮像する全方位カメラシステムが一般的になりつつある。例えば、魚眼レンズのような視野範囲(約180度)が広い撮像カメラを2つ用意し、一方の撮像カメラで自車前方を撮像し、他方の撮像カメラで自車後方を撮像したり、全方位を撮像可能なドライブレコーダなども実用化されている。 Among imaging camera systems, an omnidirectional camera system that images all directions (360 degrees) of a vehicle is becoming common. For example, two imaging cameras with a wide field of view (about 180 degrees) like a fisheye lens are prepared, one of the imaging cameras images the front of the vehicle, and the other imaging camera images the rear of the vehicle, or omnidirectional. Drive recorders and the like capable of capturing images have also been put into practical use.

このような全方位カメラシステムを用いた従来の表示装置の概要を図1に示す。図1(A)に示すように、撮像カメラ10は、例えば、車両Mのフロントガラス20の上部に取り付けられ、車両Mの前方、側方、後方の全方位(360度)を、略水平方向に撮像する。全方位を撮像した画像の中から表示アングルに応じた画像が切り出され、切り出された画像が車内に設置されたディスプレイ30に表示される。ユーザーは、ディスプレイ30のタッチパネルをフリック操作することで表示アングルを決定することができる。例えば、図1(B)のようにユーザーが左方向にフリック操作Lをすると、その方向および移動量に応じて表示アングルが切替えられ、図1(C)に示すように、ディスプレイ30に表示される撮像画像を、前方、右側方、後方、左側方、前方へと右回りに移動させることができる。このような表示機能により、ユーザーは、確認したい方向や表示アングルの微調整を簡単に行うことができる。 An outline of a conventional display device using such an omnidirectional camera system is shown in FIG. As shown in FIG. 1A, the image pickup camera 10 is attached to, for example, an upper portion of a windshield 20 of the vehicle M, and the omnidirectional (360 degrees) in the front, side, and rear of the vehicle M is substantially horizontal. To image. An image corresponding to the display angle is cut out from the images picked up in all directions, and the cut out image is displayed on the display 30 installed in the vehicle. The user can determine the display angle by flicking the touch panel of the display 30. For example, when the user performs a flick operation L to the left as shown in FIG. 1(B), the display angle is switched according to the direction and the amount of movement, and is displayed on the display 30 as shown in FIG. 1(C). The captured image can be moved clockwise to the front, right side, rear side, left side, and front side. With such a display function, the user can easily fine-tune the direction and the display angle to be confirmed.

従来のカメラシステム(リアカメラ、サイドカメラ後方ビュー、ルームカメラ、ドライブレコーダのカメラ等)では、後方画像を表示する場合、基本的には後方画像の左右を反転した反転画像に加工処理して表示している。ディスプレイ上の後方画像の視認は、運転者がルームミラーやサイドミラーの鏡像を視認する場合と同じであり、両者の親和性/整合性を保つ為に後方画像を反転処理し、あたかもミラー越しに見ているような画像としている。 With conventional camera systems (rear camera, side camera rear view, room camera, drive recorder camera, etc.), when displaying a rear image, basically the rear image is processed and displayed as an inverted image with the left and right reversed. is doing. Visual confirmation of the rear image on the display is the same as when the driver visually recognizes the mirror image of the rearview mirror or the side mirror. In order to maintain the compatibility/matching of the two, the rear image is processed in reverse, as if through the mirror. The image is as you see it.

しかし、上記した全方位カメラシステムを用いた表示装置では、表示アングルに応じて画像をシームレスに切替えるようにするため、後方画像の左右反転の処理が行われずに、単純に撮影方向のままの画像を表示するに過ぎなかった。つまり、後方画像を表示すると、図2(A)に示すように、シームレスの切替えを優先させるが故に撮像画像がそのまま表示され、車室内での運転者の感覚では、左右を混同してしまい、非常に危険な場合がある。本来、車室内の運転者の感覚を考慮すれば、図2(B)に示すように、左右反転した後方画像を表示すべきである。このように従来の全方位カメラシステムを用いた表示装置は、車載機器としての運転者にとっての配慮に欠け、安全性において大きな課題があった。 However, in the display device using the omnidirectional camera system described above, in order to seamlessly switch the image according to the display angle, the process of horizontally flipping the rear image is not performed, and the image is simply in the shooting direction. Was just displayed. That is, when the rear image is displayed, the captured image is displayed as it is because the seamless switching is prioritized, as shown in FIG. 2A, and the left and right are confused by the driver's sense in the vehicle interior. It can be very dangerous. Originally, in consideration of the driver's feeling in the vehicle interior, a left-right inverted rear image should be displayed as shown in FIG. As described above, the display device using the conventional omnidirectional camera system lacks consideration for the driver as an in-vehicle device and has a serious problem in safety.

本発明は、このような従来の課題を解決するものであり、表示アングルに応じた撮像画像を表示するとき、後方画像の左右を反転した画像を表示することができる表示装置、表示方法および表示プログラムを提供することを目的とする。 The present invention is to solve such a conventional problem, and when displaying a captured image according to a display angle, a display device, a display method, and a display capable of displaying an image in which the rear image is horizontally reversed. The purpose is to provide the program.

本発明に係る表示装置は、少なくとも車両の前方および後方を撮像する撮像手段と、表示手段と、撮像された画像を前記表示手段に表示させるときの表示アングルを決定する決定手段と、前記表示アングルに基づき前記撮像された画像の中から画像を切り出す切り出し手段と、前記切り出された画像をその左右が反転した反転画像に加工する加工手段と、前記表示アングルに応じて切り出された画像を前記表示手段に表示させ、かつ前記表示アングルが車両後方を示すとき、反転された後方画像を前記表示手段に表示させる表示制御手段とを有する。 A display device according to the present invention includes at least image pickup means for picking up images of the front and the rear of a vehicle, display means, deciding means for deciding a display angle when the picked-up image is displayed on the display means, and the display angle. A cutout unit that cuts out an image from the captured image based on the above, a processing unit that processes the cutout image into an inverted image in which the left and right sides thereof are reversed, and the image cut out according to the display angle is displayed. Display control means for displaying the inverted rear image on the display means when the display angle indicates the rear of the vehicle.

ある実施態様では、前記表示制御手段は、表示アングルが車両前方を示すとき、反転していない切り出し画像を前記表示手段に表示させる。ある実施態様では、前記切り出し手段は、前記表示アングルに対応する第1の切り出し画像と、表示アングルと反対方向の第2の切り出し画像を切り出し、前記加工手段は、第1の切り出し画像および第2の切り出し画像の一方を反転画像に加工し、前記表示制御手段は、第1の切り出し画像および第2の切り出し画像を前記表示手段に同時に表示させる。ある実施態様では、前記表示制御手段は、前記表示アングルに基づき第1の切り出し画像または第2の切り出し画像を拡大させる。ある実施態様では、前記表示制御手段は、前記表示アングルに基づき第1の切り出し画像または第2の切り出し画像を縮小させる。ある実施態様では、前記表示制御手段は、前記表示手段の背景画面に第1または第2の切り出し画像を表示させ、前記背景画面に含まれる前景画面に第2または第1の切り出し画像を表示させる。ある実施態様では、前記表示制御手段は、前記背景画面に非反転の前方画像を表示させ、前記前景画面に反転の後方画像を表示させる。ある実施態様では、表示装置はさらに、前記表示アングルに基づき表示モードを決定する表示モード決定手段を含み、前記表示制御手段は、前記表示モード決定手段により決定された表示モードに基づき切り出し画像の表示サイズを制御する。ある実施態様では、前記表示モードは、フロントビューモードおよびリアビューモードを含み、前記表示制御手段は、フロントビューモードのとき車両前方の画像を拡大し、リアビューモードのとき車両後方の画像を拡大する。ある実施態様では、前記表示制御手段は、フロントビューモードのとき前記背景画面をメイン表示、前記前景画面をサブ表示にし、リアビューモードのとき前記背景画面をサブ表示、前記前景画面をメイン表示にする。ある実施態様では、前記表示制御手段は、フロントビューモードからリアビューモードに切替える際、車両後方の画像を段階的または連続的に拡大する。ある実施態様では、前記前景画面のサイズを段階的または連続的に拡大する。ある実施態様では、前記表示制御手段は、リアビューモードからフロントビューモードに切替える際、車両後方の画像を段階的または連続的に縮小する。ある実施態様では、前記前景画面のサイズを段階的または連続的に縮小する。ある実施態様では、表示装置はさらに、ユーザーの操作情報を入力する入力手段を含み、前記決定手段は、前記入力手段から入力された操作情報に基づき表示アングルを決定する。ある実施態様では、前記入力手段は、前記表示手段に搭載されたタッチパネルを含み、前記決定手段は、前記タッチパネル上で操作された方向および移動量に基づき表示アングルを決定する。ある実施態様では、前記前景画面は、ルームミラーを模した形状を有する。ある実施態様では、前記撮像手段は、車両の全方位を撮像する撮像カメラを含み、前記表示アングルは車両の全方位を示すことが可能であり、前記表示制御手段は、前記表示アングルに対応する画像を前記表示手段に表示させる。 In one embodiment, the display control unit causes the display unit to display a clipped image that is not inverted when the display angle indicates the front of the vehicle. In one embodiment, the cutout unit cuts out a first cutout image corresponding to the display angle and a second cutout image in a direction opposite to the display angle, and the processing unit sets the first cutout image and the second cutout image. One of the cutout images is processed into an inverted image, and the display control means causes the display means to simultaneously display the first cutout image and the second cutout image. In one embodiment, the display control unit enlarges the first cutout image or the second cutout image based on the display angle. In one embodiment, the display control unit reduces the first clipped image or the second clipped image based on the display angle. In one embodiment, the display control unit causes the background screen of the display unit to display the first or second cutout image, and causes the foreground screen included in the background screen to display the second or first cutout image. .. In one embodiment, the display control means displays a non-inverted front image on the background screen and an inverted rear image on the foreground screen. In one embodiment, the display device further includes a display mode determination unit that determines a display mode based on the display angle, and the display control unit displays the cutout image based on the display mode determined by the display mode determination unit. Control size. In one embodiment, the display modes include a front view mode and a rear view mode, and the display control means magnifies an image in front of the vehicle in the front view mode and magnifies an image in the rear of the vehicle in the rear view mode. In one embodiment, the display control means displays the background screen as a main display and the foreground screen as a sub display in the front view mode, and displays the background screen as a sub display and the foreground screen as a main display in the rear view mode. .. In one embodiment, the display control unit enlarges the image behind the vehicle stepwise or continuously when switching from the front view mode to the rear view mode. In one embodiment, the size of the foreground screen is increased stepwise or continuously. In one embodiment, the display control unit reduces the image behind the vehicle stepwise or continuously when switching from the rear view mode to the front view mode. In one embodiment, the size of the foreground screen is reduced stepwise or continuously. In one embodiment, the display device further includes input means for inputting operation information of the user, and the determining means determines the display angle based on the operation information input from the input means. In one embodiment, the input unit includes a touch panel mounted on the display unit, and the determination unit determines the display angle based on a direction and a movement amount operated on the touch panel. In one embodiment, the foreground screen has a shape simulating a room mirror. In one embodiment, the image pickup unit includes an image pickup camera that picks up images of all directions of the vehicle, the display angle can indicate all directions of the vehicle, and the display control unit corresponds to the display angle. The image is displayed on the display means.

本発明に係る表示方法は、少なくとも車両の前方および後方を撮像する撮像手段と、撮像された画像を表示可能な表示手段とを含む表示装置のものであって、撮像された画像を前記表示手段に表示するときの表示アングルを決定するステップと、前記表示アングルに基づき前記撮像された画像の中から画像を切り出すステップと、前記切り出された画像をその左右が反転した反転画像に加工するステップと、前記表示アングルに応じて切り出された画像を前記表示手段に表示し、かつ前記表示アングルが車両後方を示すとき、反転された後方画像を前記表示手段に表示するステップとを有する。 A display method according to the present invention is that of a display device including at least an image pickup means for picking up an image of a front side and a rear side of a vehicle, and a display means capable of displaying the picked-up image. A step of determining a display angle when displaying the image, a step of cutting out an image from the imaged image based on the display angle, and a step of processing the cut out image into a reversed image in which the left and right sides thereof are reversed. A step of displaying an image cut out according to the display angle on the display means, and displaying an inverted rear image on the display means when the display angle indicates the rear of the vehicle.

本発明に係る表示プログラムは、少なくとも車両の前方および後方を撮像する撮像手段と、撮像された画像を表示可能な表示手段と、前記表示手段を制御する制御手段とを含む表示装置の前記制御手段が実行するものであって、撮像された画像を前記表示手段に表示するときの表示アングルを決定するステップと、前記表示アングルに基づき前記撮像された画像の中から画像を切り出すステップと、前記切り出された画像をその左右が反転した反転画像に加工するステップと、前記表示アングルに応じて切り出された画像を前記表示手段に表示し、かつ前記表示アングルが車両後方を示すとき、反転された後方画像を前記表示手段に表示するステップとを有する。 A display program according to the present invention is the control means for a display device, which includes at least image pickup means for picking up images of the front and rear of the vehicle, display means for displaying the picked-up image, and control means for controlling the display means. Determining the display angle when the captured image is displayed on the display means, cutting out the image from the captured image based on the display angle, and cutting out the image. The processed image into an inverted image in which the left and right are inverted, and an image cut out according to the display angle is displayed on the display means, and when the display angle indicates the rear of the vehicle, the inverted rear Displaying the image on the display means.

本発明によれば、表示アングルが車両後方を示すときに、反転した後方画像を表示させるようにしたので、運転者は、自身の感覚に整合した画像を認識することができ、それ故、車両後方の画像を確認する際の安全性を向上させることができる。 According to the present invention, when the display angle indicates the rear of the vehicle, the inverted rear image is displayed, so that the driver can recognize the image that matches his or her sense, and therefore the vehicle can be recognized. It is possible to improve safety when checking the rear image.

従来の全方位カメラシステムを用いた表示装置の概要を説明する図である。It is a figure explaining the outline of the display using the conventional omnidirectional camera system. 従来の表示装置の課題を説明する図である。It is a figure explaining the subject of the conventional display device. 本発明の実施例に係る全方位カメラシステムを用いた表示装置の一構成例を示すブロック図である。It is a block diagram which shows one structural example of the display apparatus using the omnidirectional camera system which concerns on the Example of this invention. 本発明の実施例に係る表示制御プログラムの機能的な構成を示す図である。It is a figure which shows the functional structure of the display control program which concerns on the Example of this invention. 本実施例の操作情報検出部の動作例を説明する図である。It is a figure explaining the example of operation of the operation information primary detecting element of this example. 表示アングルと表示モードとの関係を説明する図である。It is a figure explaining the relationship between a display angle and a display mode. 図7(A)は、フロントビューモードのときの背景画面と前景画面の表示サイズ例を示し、図7(B)は、リアビューモードのときの背景画面と前景画面の表示サイズ例を示す。7A shows an example of display sizes of the background screen and foreground screen in the front view mode, and FIG. 7B shows an example of display sizes of the background screen and foreground screen in the rear view mode. 本発明の実施例による表示制御を行った場合の表示アングル、表示モード、背景画面および前景画面の関係を説明するためのテーブルである。6 is a table for explaining a relationship among a display angle, a display mode, a background screen, and a foreground screen when display control is performed according to the embodiment of the present invention. 本発明の実施例に係る表示装置の具体的な撮像画像の表示例を説明する図である。It is a figure explaining the example of a display of the specific picked-up image of the display concerning the example of the present invention. 本発明の実施例に係る前景画面の表示サイズを段階的に拡大または縮小する例を示す図である。FIG. 8 is a diagram showing an example of gradually increasing or decreasing the display size of the foreground screen according to the embodiment of the present invention.

次に、本発明の実施の形態について説明する。ある実施の形態では、表示装置は、車両の360度の全方位を撮像可能な撮像カメラと、撮像された全方位の撮像画像の中から、ユーザー操作によって選択された表示アングルに対応する撮像画像を切り出し、これをディスプレイに表示する機能とを備えている。撮像カメラの数や取り付け位置は任意であるが、例えば、車両のフロントガラスの上部に撮像カメラを取り付けることで、車両の前方、側方、車室内を含む全方位を撮像することができる。また、1つの例として、全方位を撮像可能なドライブレコーダの撮像カメラを利用することができる。撮像画像を表示するディスプレイは、任意であり、例えば、専用のモニターであってもよいし、ナビゲーション装置等の車載装置に利用されるディスプレイと共用されるものであってもよいし、車両のインスツルメンツパネル内のディスプレイであっても良いし、車両周辺用のディスプレイであってもよい。 Next, an embodiment of the present invention will be described. In one embodiment, the display device includes an imaging camera capable of imaging all directions of the vehicle in 360 degrees, and a captured image corresponding to a display angle selected by a user operation from the captured omnidirectional captured images. It has a function of cutting out and displaying it on the display. Although the number of image pickup cameras and the mounting positions thereof are arbitrary, for example, by attaching the image pickup cameras to the upper part of the windshield of the vehicle, it is possible to pick up images in all directions including the front, side, and inside of the vehicle. Further, as one example, an imaging camera of a drive recorder that can image in all directions can be used. The display for displaying the captured image is arbitrary, and may be, for example, a dedicated monitor, may be shared with a display used for an in-vehicle device such as a navigation device, or may be a vehicle instrument. It may be a display in the panel or a display for the periphery of the vehicle.

図3は、本発明の実施例に係る表示装置の構成を示すブロック図である。本実施例の表示装置100は、車両の全方位を撮像可能な撮像部110と、ユーザーからの入力を受け取る入力部120と、撮像部110で撮像された画像を表示可能な表示部130と、種々のデータやソフトウエア等を記憶可能な記憶部140と、各部を制御する制御部150とを含んで構成される。表示装置100が他の電子機器の表示出力を兼ねる場合には、表示装置100は、他の電子機器と接続するためのインターフェースを備えることができる。 FIG. 3 is a block diagram showing the configuration of the display device according to the embodiment of the present invention. The display device 100 of the present embodiment includes an image capturing unit 110 capable of capturing an image of all directions of a vehicle, an input unit 120 receiving an input from a user, a display unit 130 capable of displaying an image captured by the image capturing unit 110, It is configured to include a storage unit 140 capable of storing various data and software, and a control unit 150 controlling each unit. When the display device 100 also serves as a display output of another electronic device, the display device 100 may include an interface for connecting to another electronic device.

撮像部110は、例えば、車両の全方位を撮像することができる1つまたは複数の撮像カメラを含む。車両の全方位とは、車両の前方、左右の側方、後方を含む。撮像部110の取付け位置は、車外、または車内のいずれでもよく、例えば、図1に示すように、車両Mのフロントガラス20の上部に取り付けることができ、その取り付けられた位置から、前方、側方、後方の全方位を撮像する。この場合、後方の撮像画像には、運転席、助手席および後部座席等の車室内の空間が含まれる。撮像部110によって撮像された画像は、制御部150に提供され、そこで必要な画像処理が施される。また、撮像された画像または加工された画像は、記憶部140に保持することができる。 The image capturing unit 110 includes, for example, one or a plurality of image capturing cameras capable of capturing images of all directions of the vehicle. The omnidirectional direction of the vehicle includes the front, left and right sides, and the rear of the vehicle. The mounting position of the imaging unit 110 may be outside or inside the vehicle. For example, as shown in FIG. 1, the imaging unit 110 can be mounted on the upper part of the windshield 20 of the vehicle M, and the front side and the side from the mounting position. In all directions, one direction and the other direction are imaged. In this case, the captured image at the rear includes the interior space of the vehicle such as the driver's seat, the passenger seat, and the rear seat. The image captured by the image capturing unit 110 is provided to the control unit 150, where necessary image processing is performed. Further, the captured image or the processed image can be held in the storage unit 140.

入力部120は、ユーザーからの入力を受け取り、これを制御部150に提供する。入力部120は、例えば、表示部130に搭載されたタッチパネル、リモコン、操作ボタン、音声入力などを含む。本実施例の1つの態様では、ユーザーは、表示部130のタッチパネルを操作して、表示部130に表示される撮像画像の表示アングルを指示する。勿論、ユーザーは、他の入力方法によって表示アングルの指示を行うことも可能である。 The input unit 120 receives an input from the user and provides it to the control unit 150. The input unit 120 includes, for example, a touch panel mounted on the display unit 130, a remote controller, operation buttons, voice input, and the like. In one mode of this embodiment, the user operates the touch panel of the display unit 130 to instruct the display angle of the captured image displayed on the display unit 130. Of course, the user can also instruct the display angle by another input method.

表示部130は、車内の任意の位置に取り付けられ、撮像部110で撮像された画像を表示することができる。表示部130は、例えば、液晶や有機EL等のディスプレイパネルと、当該ディスプレイパネル上に積層されたタッチパネルとを含む。タッチパネルは、ユーザーの指等の接触やその移動を検出し、この検出結果を制御部150へ伝える。つまり、ユーザーは、タッチパネル上でフリック操作により入力を指示することができる。 The display unit 130 is attached at an arbitrary position inside the vehicle and can display the image captured by the image capturing unit 110. The display unit 130 includes, for example, a display panel such as liquid crystal or organic EL, and a touch panel stacked on the display panel. The touch panel detects the contact of the user's finger or the like and the movement thereof, and transmits the detection result to the control unit 150. That is, the user can instruct the input by flicking on the touch panel.

記憶部140は、撮像部110で撮像された画像を一時記憶したり、撮像画像から切り取られた画像や、左右反転等の加工された画像等を一時記憶することができる。また、記憶部140は、表示装置100の動作に必要なソフトウエアやデータ等を記憶することもできる。 The storage unit 140 can temporarily store the image captured by the image capturing unit 110, the image cut from the captured image, the image processed by left-right inversion, and the like. The storage unit 140 can also store software, data, and the like necessary for the operation of the display device 100.

制御部150は、表示装置100の各部を制御し、例えば、ROM/RAM等を含むマイクロプロセッサまたはマイクロコンピュータを備え、そこに搭載された表示制御プログラムを実行することで表示装置100の各部を制御する。図4に、表示制御プログラムの機能的な構成を示す。本実施例に係る表示制御プログラム200は、操作情報検出部210、表示アングル決定部220、表示モード決定部230、画像切り出し部240、画像加工部250、および表示制御部260を含んで構成される。 The control unit 150 controls each unit of the display device 100, and includes, for example, a microprocessor or a microcomputer including a ROM/RAM or the like, and controls each unit of the display device 100 by executing a display control program installed therein. To do. FIG. 4 shows a functional configuration of the display control program. The display control program 200 according to the present embodiment includes an operation information detection unit 210, a display angle determination unit 220, a display mode determination unit 230, an image cutout unit 240, an image processing unit 250, and a display control unit 260. ..

操作情報検出部210は、ユーザーが撮像画像の表示アングルを指示するために入力した操作情報を検出する。1つの態様では、操作情報検出部210は、ユーザーが表示部130のタッチパネル上をフリック操作したときの操作情報を検出する。例えば、図5(A)、(B)に示すように、操作情報検出部210は、ユーザーのフリック操作の水平方向の成分とその移動量を検出する。図5(A)の例では、ユーザーがほぼ水平方向に指を距離Lだけ移動させており、操作情報検出部210は、距離Lを水平方向の移動量として検出する。図5(B)の例では、ユーザーが幾分斜め方向に指を距離Lだけ移動させており、操作情報検出部210は、Lcosθを水平方向の移動量として検出する。 The operation information detection unit 210 detects operation information input by the user to instruct the display angle of the captured image. In one aspect, the operation information detection unit 210 detects operation information when the user performs a flick operation on the touch panel of the display unit 130. For example, as shown in FIGS. 5A and 5B, the operation information detection unit 210 detects the horizontal component of the user's flick operation and the amount of movement thereof. In the example of FIG. 5A, the user has moved the finger in a substantially horizontal direction by a distance L, and the operation information detection unit 210 detects the distance L as a horizontal movement amount. In the example of FIG. 5B, the user has moved his/her finger in a diagonal direction by a distance L, and the operation information detection unit 210 detects L cos θ as a horizontal movement amount.

他の態様では、操作情報検出部210は、音声入力やリモコン操作などから操作情報を検出するようにしてもよい。例えば、「90度回転して表示」、「車両の右側方を表示」、「車両の後方を表示」等の音声入力があった場合には、操作情報検出部210は、入力された音声を解析し、当該解析結果から操作情報を検出する。 In another aspect, the operation information detection unit 210 may detect operation information from voice input, remote control operation, or the like. For example, when there is a voice input such as “display rotated 90 degrees”, “display right side of vehicle”, “display rear of vehicle”, the operation information detection unit 210 outputs the input voice. Analysis is performed and operation information is detected from the analysis result.

表示アングル決定部220は、操作情報検出部210により検出された検出結果に基づき撮像画像の表示アングルを決定する。表示アングルは、全方位360度で撮像されたパノラマ画像の中から、表示部130に表示させる画像の角度または方位を表す。表示アングルは、例えば、図6に示すように、自車前方の方向を0度とし、そこから時計方向に360度で規定される。表示アングルのデフォルト値(初期値)は、例えば、0度に設定され、この場合、電源投入時または表示装置100が起動されたとき、360度のパノラマ画像の中から表示アングルが0度の画像が切り出され、これが表示部130に表示される。 The display angle determination unit 220 determines the display angle of the captured image based on the detection result detected by the operation information detection unit 210. The display angle represents the angle or azimuth of the image displayed on the display unit 130 from the panoramic image captured in all directions of 360 degrees. For example, as shown in FIG. 6, the display angle is defined as 0 degree in the front direction of the host vehicle and 360 degrees clockwise from the direction. The default value (initial value) of the display angle is set to, for example, 0 degree, and in this case, when the power is turned on or when the display device 100 is started, an image with a display angle of 0 degree is selected from the 360 degree panoramic image. Is cut out and displayed on the display unit 130.

表示アングル決定部220は、例えば、図5に示すようなフリック操作が検出された場合、予め用意されたアルゴリズム等に従い、その操作方向と移動量を表示アングルに変換する。例えば、フリック操作が図5(A)に示すように左側の移動であれば、表示アングルは、0度から時計方向に、フリックの移動量に対応する角度で決定される。また、操作情報検出部210が「90度回転して表示」のような音声を入力した場合には、表示アングル決定部220は、現在の表示アングルから時計方向に90度回転した角度を表示アングルに決定する。 For example, when a flick operation as shown in FIG. 5 is detected, the display angle determination unit 220 converts the operation direction and the movement amount into a display angle according to an algorithm prepared in advance. For example, when the flick operation is a leftward movement as shown in FIG. 5A, the display angle is determined from 0 degree in a clockwise direction at an angle corresponding to the movement amount of the flick. Further, when the operation information detection unit 210 inputs a voice such as “rotate by 90° and display”, the display angle determination unit 220 causes the display angle to be 90° clockwise from the current display angle. To decide.

表示モード決定部230は、表示アングル決定部220により決定された表示アングルに基づき表示部130の表示モードを決定する。本実施例では、表示モード決定部230は、表示アングルに基づきフロントビューモードまたはリアビューモードのいずれかに決定する。一例として、図6に示すように、表示アングルの0度が車両前方である場合、表示アングルが270度〜90度の範囲であるときフロントビューモード、90度〜270度であるときリアビューモードになる。 The display mode determination unit 230 determines the display mode of the display unit 130 based on the display angle determined by the display angle determination unit 220. In this embodiment, the display mode determination unit 230 determines either the front view mode or the rear view mode based on the display angle. As an example, as shown in FIG. 6, when 0 degree of the display angle is in front of the vehicle, the front view mode is set when the display angle is in the range of 270 degrees to 90 degrees, and the rear view mode is set when the display angle is 90 degrees to 270 degrees. Become.

本実施例の1つの実施態様では、表示部130に撮像画像を表示する場合、2つの撮像画像がピクチャーインピクチャー(PinP)形式で同時に表示される。PinP形式の一例を図7(A)、(B)に示す。同図に示すように、ディスプレイ132の全体が背景画面134に割り当てられ、背景画面134の中に前景画面136が割り当てられる。背景画面134には、自車前方の撮像画像が表示され、前景画面136には、自車後方の撮像画像が表示される。本例では、前景画面136は、ルームミラーの形状を呈しており、前景画面136には、車室内の運転席や助手席を含む車内空間の後方画像が表示される。背景画面134と前景画面136とが重複する領域は、前景画面136の後方画像が表示され、前方画像は、後方画像によって遮蔽される。なお、後述するように前景画面136には、常に左右が反転された後方画像が表示されるが、背景画面134には、左右が反転されていない前方画面が表示される。 In one embodiment of this embodiment, when displaying a captured image on the display unit 130, two captured images are simultaneously displayed in a picture-in-picture (PinP) format. An example of the PinP format is shown in FIGS. As shown in the figure, the entire display 132 is assigned to the background screen 134, and the foreground screen 136 is assigned to the background screen 134. A captured image of the front of the vehicle is displayed on the background screen 134, and a captured image of the rear of the vehicle is displayed on the foreground screen 136. In this example, the foreground screen 136 has the shape of a rearview mirror, and the rear image of the vehicle interior space including the driver's seat and the passenger seat in the vehicle interior is displayed on the foreground screen 136. In a region where the background screen 134 and the foreground screen 136 overlap, a rear image of the foreground screen 136 is displayed, and the front image is covered by the rear image. As will be described later, the foreground screen 136 always displays a left-right inverted rear image, while the background screen 134 displays a front-left image that is not horizontally inverted.

フロントビューモードのとき、図7(A)に示すように、前方画像を表示する背景画面134が見易くなるようにするため、背景画面134は、比較的大きな表示面積を持つメイン表示になり、後方画像を表示する前景画面136は、比較的小さな表示面積を持つサブ表示になる。他方、リアビューモードのときは、この関係が反転し、図7(B)に示すように、後方画像を表示する前景画面136が見易くなるようにするため、前景画面136は、比較的大きな表示面積を持つメイン表示に切替わり、背景画面134は、比較的小さな表示面積を持つサブ表示に切替わる。 In the front view mode, as shown in FIG. 7A, in order to make the background screen 134 displaying the front image easy to see, the background screen 134 becomes a main display having a relatively large display area and The foreground screen 136 displaying an image becomes a sub-display having a relatively small display area. On the other hand, in the rear view mode, this relationship is reversed, and as shown in FIG. 7B, the foreground screen 136 for displaying the rear image is made easier to see, so that the foreground screen 136 has a relatively large display area. Is switched to the main display, and the background screen 134 is switched to the sub-display having a relatively small display area.

画像切り出し部240は、表示アングル決定部220により決定された表示アングルに基づき、撮像部110で撮像された全方位のパノラマ画像の中から表示すべき画像の切り出しを行う。本例では、画像切り出し部240は、背景画面134と前景画面136のそれぞれに前方画像および後方画像を表示させるため、それぞれに対応する1組の画像の切り出しを行う。ここで、第1の切り出し画像は、表示アングルに対応する画像であり、第2の切り出し画像は、第1の切り出し画像と反対方向の画像、つまり、表示アングルと180度異なる方向の画像である。例えば、表示アングルが30度であれば、第1の切り出し画像は、表示アングルが30度に対応し、第2の切り出し画像は、表示アングルが210度に対応する。切り出す画像の大きさは、表示部130の表示範囲との関係等から予め設定される。 The image cutout unit 240 cuts out an image to be displayed from the omnidirectional panoramic images captured by the image capturing unit 110, based on the display angle determined by the display angle determination unit 220. In this example, the image cutout unit 240 cuts out a set of images corresponding to the front image and the rear image in order to display the front image and the rear image on the background screen 134 and the foreground screen 136, respectively. Here, the first clipped image is an image corresponding to the display angle, and the second clipped image is an image in a direction opposite to the first clipped image, that is, an image in a direction different from the display angle by 180 degrees. .. For example, if the display angle is 30 degrees, the first clipped image corresponds to the display angle of 30 degrees, and the second clipped image corresponds to the display angle of 210 degrees. The size of the image to be cut out is set in advance from the relationship with the display range of the display unit 130 and the like.

画像切り出し部240により切り出された第1および第2の切り出し画像は、画像加工部250へ提供される。画像加工部250は、第1および第2の切り出し画像について、トリミング加工、サイズ調整、左右が反転する反転処理等を行う。表示制御部260は、背景画面134および前景画面136に表示される第1および第2の切り出し画像の制御を行う。図8のテーブルに、表示制御部260による表示制御の内容を示す。 The first and second cutout images cut out by the image cutout unit 240 are provided to the image processing unit 250. The image processing unit 250 performs trimming processing, size adjustment, left-right inversion processing, and the like on the first and second clipped images. The display control unit 260 controls the first and second cutout images displayed on the background screen 134 and the foreground screen 136. The contents of display control by the display control unit 260 are shown in the table of FIG.

先ず、表示アングルが0〜90度のとき、表示モードはフロントビューモードである。フロントビューモードでは、背景画面134がメイン表示となり、背景画面134には、表示アングルに応じて切り出された第1の切り出し画像が表示される。第1の切り出し画像は、左右が反転されていない前方画像である。他方、前景画面136はサブ表示となり、前景画面136には、表示アングルと180と異なる方向で切り出された第2の切り出し画像が表示される。第2の切り出し画像は、左右が反転された後方画像である。 First, when the display angle is 0 to 90 degrees, the display mode is the front view mode. In the front view mode, the background screen 134 is the main display, and the background screen 134 displays the first cutout image cut out according to the display angle. The first clipped image is a front image that is not horizontally reversed. On the other hand, the foreground screen 136 becomes a sub-display, and the foreground screen 136 displays a second cutout image cut out in a direction different from the display angle and 180. The second clipped image is a rearward image in which the left and right are inverted.

表示アングルが90〜180度のとき、表示モードはリアビューモードである。リアビューモードでは、ルームミラーの形状を呈した前景画面136がメイン表示となり、前景画面136には、表示アングルに応じて切り出された第1の切り出し画像が表示される。このとき、第1の切り出し画像は、左右が反転された後方画像である。他方、背景画面134はサブ表示となり、背景画面134には、表示アングルと180と異なる方向で切り出された第2の切り出し画像が表示される。このとき、第2の切り出し画像は、左右が反転されていない前方画像である。 When the display angle is 90 to 180 degrees, the display mode is the rear view mode. In the rear view mode, the foreground screen 136 having the shape of a rearview mirror is the main display, and the foreground screen 136 displays the first cutout image cut out according to the display angle. At this time, the first clipped image is a rear image in which the left and right are inverted. On the other hand, the background screen 134 becomes a sub-display, and the background screen 134 displays a second cutout image cut out in a direction different from the display angle and 180. At this time, the second clipped image is a front image in which the left and right are not inverted.

表示アングルが180〜270度のとき、表示モードはリアビューモードであり、90〜180度のときと同様の表示制御が行われる。表示アングルが270〜0度のとき、表示モードはフロントビューモードであり、0〜90度のときの同様の表示制御が行われる。 When the display angle is 180 to 270 degrees, the display mode is the rear view mode, and the same display control as when it is 90 to 180 degrees is performed. When the display angle is 270 to 0 degrees, the display mode is the front view mode, and the same display control is performed when the display angle is 0 to 90 degrees.

次に、本実施例の表示装置100の具体的な表示動作を、図9に示す画面遷移図を参照して説明する。表示装置100が起動されると、表示アングル決定部220は、初期設定(例えば、0度)を表示アングルと決定し、表示モード決定部230は、フロントビューモードを決定する。その結果、ディスプレイ132の背景画面134がメイン表示となり、そこに自車の前方画像が表示される。ルームミラー形状の前景画面136には、自車後方の反転画像が表示される。 Next, a specific display operation of the display device 100 of this embodiment will be described with reference to the screen transition diagram shown in FIG. When the display device 100 is activated, the display angle determination unit 220 determines the initial setting (for example, 0 degree) as the display angle, and the display mode determination unit 230 determines the front view mode. As a result, the background screen 134 of the display 132 becomes the main display, and the front image of the vehicle is displayed there. A reverse image of the rear of the vehicle is displayed on the rear-view mirror-shaped foreground screen 136.

この状態から、例えば、ユーザーが左方向にフリック操作をすると、その方向および移動量が検出され、それに応じて、0度から時計方向に回転した表示アングルが決定され、そこで、第1および第2の切り出し画像が切り出され、背景画面134には、第1の切り出し画像の非反転の前方画像が表示され、前景画面136には、第2の切り出し画像の反転された後方画像が表示される。 From this state, for example, when the user performs a flick operation to the left, the direction and the amount of movement are detected, and the display angle rotated clockwise from 0 degree is determined accordingly. Of the first clipped image is displayed on the background screen 134, and an inverted rear image of the second clipped image is displayed on the foreground screen 136.

ユーザーがさらに左方向にフリック操作を継続すると、表示アングルがさらに時計方向に進み、背景画面134には表示アングルに応じた非反転の前方画像が表示され、前景画面136には、それと正反対の反転された後方画像が表示される。 When the user further continues the flick operation to the left, the display angle advances further in the clockwise direction, a non-inverted forward image corresponding to the display angle is displayed on the background screen 134, and the opposite image is inverted on the foreground screen 136. The displayed rear image is displayed.

ある実施態様では、表示アングルが一定角度に到達すると、それ以降、前景画面136のサイズを段階的に、あるいは連続的に拡大する。例えば、表示アングルが75度に到達すると、図10(A)〜(D)に示すように、75度から90度まで間、前景画面136のサイズが段階的に拡大される。あるいは、前景画面136のサイズが連続的で拡大さえる。 In one embodiment, when the display angle reaches a certain angle, the size of the foreground screen 136 is gradually increased thereafter. For example, when the display angle reaches 75 degrees, as shown in FIGS. 10A to 10D, the size of the foreground screen 136 is gradually increased from 75 degrees to 90 degrees. Alternatively, the size of the foreground screen 136 is continuous and can be enlarged.

左方向のフリック操作がさらに継続され、表示アングルが90度に到達すると、表示モードがフロントビューモードからリアビューモードに切替わる。このとき、前景画面136が図10(D)に示すように、サブ表示からメイン表示に完全に切替えられ、背景画面134がメイン表示からサブ表示に完全に切替えられる。 When the leftward flick operation is further continued and the display angle reaches 90 degrees, the display mode is switched from the front view mode to the rear view mode. At this time, the foreground screen 136 is completely switched from the sub display to the main display, and the background screen 134 is completely switched from the main display to the sub display, as shown in FIG.

左方向のフリック操作がさらに継続されると、メイン表示の前景画面136には、表示アングルに対応する反転された後方画像が表示され、サブ表示の背景画面134には、非反転の前方画像が表示される。表示アングルが90〜270度の範囲では、前景画面136の表示サイズは一定である。 When the leftward flick operation is further continued, the inverted rear image corresponding to the display angle is displayed on the foreground screen 136 of the main display, and the non-inverted front image is displayed on the background screen 134 of the sub display. Is displayed. When the display angle is in the range of 90 to 270 degrees, the display size of the foreground screen 136 is constant.

左方向のフリック操作がさらに継続され、表示アングルが270度に到達すると、表示モードがリアビューモードからフロントビューモードに切替わる。前景画面136は、メイン表示からサブ表示に切替えられ、背景画面134は、サブ表示からメイン表示に切替えられる。1つの実施態様では、例えば、表示アングルが270度から285度の間は、図10(E)〜(H)に示すように、前景画面136のサイズが段階的に、あるいは連続的に小さくされる。 When the leftward flick operation is further continued and the display angle reaches 270 degrees, the display mode is switched from the rear view mode to the front view mode. The foreground screen 136 is switched from the main display to the sub display, and the background screen 134 is switched from the sub display to the main display. In one embodiment, for example, when the display angle is between 270 degrees and 285 degrees, the size of the foreground screen 136 is reduced stepwise or continuously as shown in FIGS. It

左方向のフリック操作がさらに継続され、表示アングルが285〜0度の範囲では、背景画面134に表示アングルに対応する非反転の前方画像が表示され、前景画面136には、それと180度異なる方向の反転された後方画像が表示される。上記の表示制御は、ユーザーがフリック操作を右方向に行い、表示アングルを反時計方向に回転させた場合にも同様に行われる。 When the leftward flick operation is further continued and the display angle is in the range of 285 to 0 degrees, the non-inverted front image corresponding to the display angle is displayed on the background screen 134, and the foreground screen 136 is displayed in a direction different by 180 degrees. The inverted rear image of is displayed. The above display control is similarly performed when the user performs a flick operation to the right and rotates the display angle counterclockwise.

このように本実施例によれば、シームレスな表示アングルの移動を保ちつつ、リアモードに切替わったときに、左右反転された後方画像を表示させることができる。これにより、ユーザーの利便性を損なうことなく、ルームミラーで鏡像をみたときの映像との整合性を保ち、運転者に誤解や混乱を生じさせることなく、安全に寄与する表示機能を提供することができる。 As described above, according to the present embodiment, it is possible to display the horizontally-reversed rear image when switching to the rear mode while maintaining the seamless movement of the display angle. This will provide a display function that contributes to safety without compromising the convenience of the user, maintaining the consistency with the image when looking at the mirror image with the room mirror, and causing no misunderstanding or confusion to the driver. You can

上記実施例では、車両の全方位を撮像し、その中から任意の画像を表示する例を示したが、これに限らず、本発明は、少なくとも車両の前方と後方を撮像し、前方および後方の中から任意の画像を表示できるようにしてもよい。 In the above-described embodiment, an example is shown in which all directions of the vehicle are imaged and an arbitrary image is displayed, but the present invention is not limited to this, and the present invention captures at least the front and the rear of the vehicle, and the front and the rear. An arbitrary image may be displayed from among the above.

上記実施例では、270〜90度の範囲をフロンビューモードに設定し、90〜270度の範囲をリアビューモードに設定したが、これは一例であり、その範囲は任意に適宜設定することが可能である。例えば、自車の前方を撮像する前方カメラと、自車の後方を撮像する後方カメラを搭載する場合には、フロントビューモードは、前方カメラの視野範囲に応じた角度に設定され(例えば、300〜60度)、リアビューモードは、後方カメラの視野範囲に応じた角度に設定される(例えば、190〜260度)。 In the above embodiment, the range of 270 to 90 degrees is set to the front view mode, and the range of 90 to 270 degrees is set to the rear view mode. However, this is an example, and the range can be arbitrarily set arbitrarily. Is. For example, when a front camera that captures the front of the vehicle and a rear camera that captures the rear of the vehicle are installed, the front view mode is set to an angle according to the view range of the front camera (for example, 300 The rear view mode is set to an angle according to the visual field range of the rear camera (for example, 190 to 260 degrees).

また、上記実施例は、背景画面とその中に表示される前景画面とを含むPinP形式を例示したが、必ずしもPinP形式を用いず、1つの画面で非反転前方画像から反転後方画像への切替え表示を行うようにしてもよい。例えば、フロントビューモードにおいて、表示アングルに対応する非反転の前方画像を表示し、リアビューモードにおいて、表示アングルに対応する反転の後方画像を表示する。 Further, although the above-described embodiment exemplifies the PinP format including the background screen and the foreground screen displayed therein, the PinP format is not always used, and the non-inverted front image is switched to the inverted rear image on one screen. You may make it display. For example, a non-inverted front image corresponding to the display angle is displayed in the front view mode, and an inverted rear image corresponding to the display angle is displayed in the rear view mode.

さらに上記実施例では、撮像カメラを車両のフロントガラスの上部に取り付け、車両の後方画像として車室内の画像を表示する例を示したが、これに限らず、撮像カメラは、ドアミラー、車両の前方、後方、側方のいずれかに取り付けられるものであってもよい。そして、後方画像は、必ずしも車室内の画像に限らず、自車両の後方の空間を撮像した画像であってもよい。上記実施例では、ディスプレイの画面全体を背景画面とし、ルームミラー形状を前景画面としたが、背景画面および前景画面の形状や大きさは任意に設定することが可能である。 Further, in the above-described embodiment, the example in which the image pickup camera is attached to the upper part of the windshield of the vehicle and the image of the vehicle interior is displayed as the rear image of the vehicle is shown. It may be attached to either the rear or the side. The rear image is not necessarily the image inside the vehicle interior, but may be an image of the space behind the vehicle. In the above embodiment, the entire screen of the display is the background screen and the room mirror shape is the foreground screen, but the shapes and sizes of the background screen and the foreground screen can be set arbitrarily.

以上、本発明の好ましい実施の形態について詳述したが、本発明は、特定の実施形態に限定されるものではなく、特許請求の範囲に記載された発明の要旨の範囲において、種々の変形、変更が可能である。 Although the preferred embodiments of the present invention have been described above in detail, the present invention is not limited to the specific embodiments, and various modifications are made within the scope of the gist of the invention described in the claims. It can be changed.

100:表示装置 110:撮像部
120:入力部 130:表示部
132:ディスプレイ 134:背景画面
136:前景画面 140:記憶部
150:制御部 200:表示制御プログラム
100: display device 110: imaging unit 120: input unit 130: display unit 132: display 134: background screen 136: foreground screen 140: storage unit 150: control unit 200: display control program

Claims (20)

少なくとも車両の前方および後方を撮像する撮像手段と、
表示手段と、
撮像された画像を前記表示手段に表示させるときの表示アングルを決定する決定手段と、
前記表示アングルに基づき前記撮像された画像の中から画像を切り出す切り出し手段と、
前記切り出された画像をその左右が反転した反転画像に加工する加工手段と、
前記表示アングルに応じて切り出された画像を前記表示手段に表示させ、かつ前記表示アングルが車両後方を示すとき、反転された後方画像を前記表示手段に表示させる表示制御手段と、
を有する表示装置。
Imaging means for imaging at least the front and rear of the vehicle;
Display means,
Determining means for determining a display angle when the captured image is displayed on the display means;
Cropping means for cropping an image from the captured image based on the display angle,
Processing means for processing the clipped image into an inverted image in which the left and right are inverted,
Display control means for displaying an image cut out according to the display angle on the display means, and for displaying an inverted rear image on the display means when the display angle indicates the rear of the vehicle;
Display device having a.
前記表示制御手段は、表示アングルが車両前方を示すとき、反転していない切り出し画像を前記表示手段に表示させる、請求項1に記載の表示装置。 The display device according to claim 1, wherein the display control unit causes the display unit to display a clipped image that is not inverted when the display angle indicates the front of the vehicle. 前記切り出し手段は、前記表示アングルに対応する第1の切り出し画像と、表示アングルと反対方向の第2の切り出し画像を切り出し、
前記加工手段は、第1の切り出し画像および第2の切り出し画像の一方を反転画像に加工し、
前記表示制御手段は、第1の切り出し画像および第2の切り出し画像を前記表示手段に同時に表示させる、請求項1または2に記載の表示装置。
The cutout unit cuts out a first cutout image corresponding to the display angle and a second cutout image in a direction opposite to the display angle,
The processing means processes one of the first clipped image and the second clipped image into a reverse image,
The display device according to claim 1, wherein the display control unit causes the display unit to simultaneously display the first clipped image and the second clipped image.
前記表示制御手段は、前記表示アングルに基づき第1の切り出し画像または第2の切り出し画像を拡大させる、請求項3に記載の表示装置。 The display device according to claim 3, wherein the display control unit enlarges the first clipped image or the second clipped image based on the display angle. 前記表示制御手段は、前記表示アングルに基づき第1の切り出し画像または第2の切り出し画像を縮小させる、請求項3または4に記載の表示装置。 The display device according to claim 3, wherein the display control unit reduces the first clipped image or the second clipped image based on the display angle. 前記表示制御手段は、前記表示手段の背景画面に第1または第2の切り出し画像を表示させ、前記背景画面に含まれる前景画面に第2または第1の切り出し画像を表示させる、請求項3ないし5いずれか1つに記載の表示装置。 4. The display control means causes the background screen of the display means to display the first or second cutout image, and causes the foreground screen included in the background screen to display the second or first cutout image. 5. The display device according to any one of 5. 前記表示制御手段は、前記背景画面に非反転の前方画像を表示させ、前記前景画面に反転の後方画像を表示させる、請求項6に記載の表示装置。 7. The display device according to claim 6, wherein the display control unit displays a non-inverted front image on the background screen and an inverted rear image on the foreground screen. 表示装置はさらに、前記表示アングルに基づき表示モードを決定する表示モード決定手段を含み、
前記表示制御手段は、前記表示モード決定手段により決定された表示モードに基づき切り出し画像の表示サイズを制御する、請求項1ないし7いずれか1つに記載の表示装置。
The display device further includes display mode determination means for determining a display mode based on the display angle,
The display device according to claim 1, wherein the display control unit controls the display size of the cutout image based on the display mode determined by the display mode determination unit.
前記表示モードは、フロントビューモードおよびリアビューモードを含み、
前記表示制御手段は、フロントビューモードのとき車両前方の画像を拡大し、リアビューモードのとき車両後方の画像を拡大する、請求項8に記載の表示装置。
The display modes include a front view mode and a rear view mode,
The display device according to claim 8, wherein the display control unit enlarges an image in front of the vehicle in the front view mode and enlarges an image in the rear of the vehicle in the rear view mode.
前記表示制御手段は、フロントビューモードのとき前記背景画面をメイン表示、前記前景画面をサブ表示にし、リアビューモードのとき前記背景画面をサブ表示、前記前景画面をメイン表示にする、請求項9に記載の表示装置。 10. The display control means displays the background screen as a main display and the foreground screen as a sub display in the front view mode, and displays the background screen as a sub display and the foreground screen as a main display in the rear view mode. Display device described. 前記表示制御手段は、フロントビューモードからリアビューモードに切替える際、車両後方の画像を段階的または連続的に拡大する、請求項9に記載の表示装置。 10. The display device according to claim 9, wherein the display control unit enlarges an image behind the vehicle stepwise or continuously when switching from the front view mode to the rear view mode. 前記前景画面のサイズを段階的または連続的に拡大する、請求項11に記載の表示装置。 The display device according to claim 11, wherein the size of the foreground screen is increased stepwise or continuously. 前記表示制御手段は、リアビューモードからフロントビューモードに切替える際、車両後方の画像を段階的または連続的に縮小する、請求項9ないし12いずれか1つに記載の表示装置。 13. The display device according to claim 9, wherein the display control unit reduces the image behind the vehicle stepwise or continuously when switching from the rear view mode to the front view mode. 前記前景画面のサイズを段階的または連続的に縮小する、請求項13に記載の表示装置。 The display device according to claim 13, wherein the size of the foreground screen is reduced stepwise or continuously. 表示装置はさらに、ユーザーの操作情報を入力する入力手段を含み、
前記決定手段は、前記入力手段から入力された操作情報に基づき表示アングルを決定する、請求項1に記載の表示装置。
The display device further includes input means for inputting user operation information,
The display device according to claim 1, wherein the determination unit determines the display angle based on the operation information input from the input unit.
前記入力手段は、前記表示手段に搭載されたタッチパネルを含み、
前記決定手段は、前記タッチパネル上で操作された方向および移動量に基づき表示アングルを決定する、請求項15に記載の表示装置。
The input means includes a touch panel mounted on the display means,
The display device according to claim 15, wherein the determination unit determines the display angle based on a direction operated on the touch panel and a movement amount.
前記前景画面は、ルームミラーを模した形状を有する、請求項6に記載の表示装置。 The display device according to claim 6, wherein the foreground screen has a shape imitating a rearview mirror. 前記撮像手段は、車両の全方位を撮像する撮像カメラを含み、
前記表示アングルは車両の全方位を示すことが可能であり、
前記表示制御手段は、前記表示アングルに対応する画像を前記表示手段に表示させる、請求項1ないし17いずれか1つに記載の表示装置。
The image pickup means includes an image pickup camera for picking up images of all directions of the vehicle,
The display angle can indicate all directions of the vehicle,
18. The display device according to claim 1, wherein the display control unit causes the display unit to display an image corresponding to the display angle.
少なくとも車両の前方および後方を撮像する撮像手段と、撮像された画像を表示可能な表示手段とを含む表示装置の表示方法であって、
撮像された画像を前記表示手段に表示するときの表示アングルを決定するステップと、
前記表示アングルに基づき前記撮像された画像の中から画像を切り出すステップと、
前記切り出された画像をその左右が反転した反転画像に加工するステップと、
前記表示アングルに応じて切り出された画像を前記表示手段に表示し、かつ前記表示アングルが車両後方を示すとき、反転された後方画像を前記表示手段に表示するステップと、
を有する表示方法。
A display method for a display device, comprising at least an image pickup means for picking up images of a front side and a rear side of a vehicle, and a display means capable of displaying the picked-up image,
Determining a display angle when the captured image is displayed on the display means;
Cutting out an image from the captured image based on the display angle,
Processing the clipped image into an inverted image in which the left and right are inverted,
Displaying the image cut out according to the display angle on the display means, and displaying the inverted rear image on the display means when the display angle indicates the rear of the vehicle,
A display method having.
少なくとも車両の前方および後方を撮像する撮像手段と、撮像された画像を表示可能な表示手段と、前記表示手段を制御する制御手段とを含む表示装置の前記制御手段が実行する表示プログラムであって、
撮像された画像を前記表示手段に表示するときの表示アングルを決定するステップと、
前記表示アングルに基づき前記撮像された画像の中から画像を切り出すステップと、
前記切り出された画像をその左右が反転した反転画像に加工するステップと、
前記表示アングルに応じて切り出された画像を前記表示手段に表示し、かつ前記表示アングルが車両後方を示すとき、反転された後方画像を前記表示手段に表示するステップと、
を有する表示プログラム。
A display program executed by the control means of a display device including at least image pickup means for picking up an image of the front and rear of the vehicle, a display means capable of displaying the picked-up image, and a control means for controlling the display means. ,
Determining a display angle when the captured image is displayed on the display means;
Cutting out an image from the captured image based on the display angle,
Processing the cropped image into a reversed image in which the left and right are reversed,
Displaying the image cut out according to the display angle on the display means, and displaying the inverted rear image on the display means when the display angle indicates the rear of the vehicle,
A display program having.
JP2018217593A 2018-11-20 2018-11-20 Display device, display method and display program Active JP7166725B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018217593A JP7166725B2 (en) 2018-11-20 2018-11-20 Display device, display method and display program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018217593A JP7166725B2 (en) 2018-11-20 2018-11-20 Display device, display method and display program

Publications (2)

Publication Number Publication Date
JP2020088511A true JP2020088511A (en) 2020-06-04
JP7166725B2 JP7166725B2 (en) 2022-11-08

Family

ID=70909038

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018217593A Active JP7166725B2 (en) 2018-11-20 2018-11-20 Display device, display method and display program

Country Status (1)

Country Link
JP (1) JP7166725B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115742962A (en) * 2022-11-25 2023-03-07 重庆长安汽车股份有限公司 Panoramic image control method and device

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03250879A (en) * 1990-02-28 1991-11-08 Matsushita Electric Ind Co Ltd Video recording and playback device
JP2000118300A (en) * 1998-10-09 2000-04-25 Fujitsu Ten Ltd On-vehicle image pickup device
JP2010137697A (en) * 2008-12-11 2010-06-24 Honda Motor Co Ltd Drive assisting device for vehicle
JP2013034142A (en) * 2011-08-03 2013-02-14 Nippon Seiki Co Ltd Peripheral image display device
JP2013055416A (en) * 2011-09-01 2013-03-21 Alpine Electronics Inc Exterior video provision system
WO2013175753A1 (en) * 2012-05-22 2013-11-28 三菱電機株式会社 Image processing device

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03250879A (en) * 1990-02-28 1991-11-08 Matsushita Electric Ind Co Ltd Video recording and playback device
JP2000118300A (en) * 1998-10-09 2000-04-25 Fujitsu Ten Ltd On-vehicle image pickup device
JP2010137697A (en) * 2008-12-11 2010-06-24 Honda Motor Co Ltd Drive assisting device for vehicle
JP2013034142A (en) * 2011-08-03 2013-02-14 Nippon Seiki Co Ltd Peripheral image display device
JP2013055416A (en) * 2011-09-01 2013-03-21 Alpine Electronics Inc Exterior video provision system
WO2013175753A1 (en) * 2012-05-22 2013-11-28 三菱電機株式会社 Image processing device

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115742962A (en) * 2022-11-25 2023-03-07 重庆长安汽车股份有限公司 Panoramic image control method and device
CN115742962B (en) * 2022-11-25 2024-05-14 重庆长安汽车股份有限公司 Panoramic image control method and device

Also Published As

Publication number Publication date
JP7166725B2 (en) 2022-11-08

Similar Documents

Publication Publication Date Title
US9706175B2 (en) Image processing device, image processing system, and image processing method
US8937558B2 (en) Image generating apparatus and image display system
US8941737B2 (en) Image generating apparatus and image display system
JP5627253B2 (en) Image processing apparatus, electronic apparatus, and image processing method
US11336839B2 (en) Image display apparatus
US8836787B2 (en) Image generating apparatus and image display system
JP2015193280A (en) Vehicle control apparatus and vehicle control method
US20120287282A1 (en) Image processing apparatus, image processing system, and image processing method
JPH05139209A (en) Visual information supply device
US20130250097A1 (en) Method for displaying background screen in navigation device
CN110525341B (en) Vehicle periphery display device
JP2016168877A (en) Vehicle visual recognition device
JP2009006974A (en) Side mirror device and side mirror system
JP4888831B2 (en) Vehicle periphery monitoring device
JP6118936B2 (en) Image processing device
JP2020088511A (en) Display device, display method, and display program
JP2008162308A (en) VEHICLE IMAGING DEVICE AND VEHICLE IMAGE PROCESSING DEVICE
KR102005551B1 (en) A parking assisting system
JP2007145041A (en) Vehicle periphery visual recognition device
JP2006020141A (en) Display controller
JP2016141303A (en) Visibility support device
JP6105416B2 (en) Display device
JP2006005451A (en) In-vehicle monitoring device
JP2014216925A (en) Vehicle periphery image generation device
JP6783420B2 (en) Display control device and display control method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210322

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220316

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220330

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220914

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221014

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221025

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221025

R150 Certificate of patent or registration of utility model

Ref document number: 7166725

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150