JP2012217000A - 画像表示システム、画像生成装置及び画像生成方法 - Google Patents

Abstract

【課題】シフト位置の切替操作に関わらず俯瞰画像を表示し続けることで、車両の周囲の状況を確認することができる画像表示システム、画像生成装置及び画像生成方法を提供する。
【解決手段】画像表示システム１２０は、車両に配置されたカメラ５１，５２，５３で得られる撮影画像に基づいて車両及び車両の周囲を仮想視点から見た様子を示す合成画像を生成する合成画像生成部３４と、車両の変速位置のシフトレバーのシフト位置を検出するシフト位置信号受信部１３と、シフト位置信号受信部１３によって検出されたシフト位置に応じて合成画像を表示するディスプレイ２１と、シフト位置が変更されてからの時間を計測する計測部１４と、を備え、合成画像表示状態でシフト位置が変更された場合、その際に計測部１４で計測された計測時間が所定時間に達しないうちに元のシフト位置に戻された場合は、合成画像を切り替えずにその表示を維持する。
【選択図】図１

Description

本発明は、車両において画像を表示する技術に関する。

従来より、自動車などの車両に搭載され、車載カメラで得られる撮影画像に基づいて車両の周囲の領域を示す周辺画像を車室内のディスプレイに表示する画像表示システムが知られている。この画像表示システムを利用することにより、ユーザ（代表的にはドライバ）は車両の周囲の様子をほぼリアルタイムに把握することができる。

例えば、運転席の逆側となるフロントフェンダの外側領域は運転席から死角となりやすく、車体と障害物との間のクリアランスをユーザが把握しにくい。これに対して、画像表示システムを利用すれば、車両の側方に配置された車載カメラの撮影画像に基づいてフロントフェンダの外側領域を示す周辺画像を車室内のディスプレイに表示できる。これにより、車両の幅寄せを行う場合などにおいて、運転席の逆側の車体と障害物との間のクリアランスをユーザが容易に確認できることとなる。

なお、車両の変速装置のシフトレバーのシフト位置が後退位置にあるときに車両の周辺画像及び後方撮影画像を表示する画像表示システムが知られている（例えば、特許文献１）。この画像表示システムでは、車両後退時に車両の周辺及び後方を周辺画像及び後方撮影画像を用いて確認することができる。

特開２０１０−２２１９８０号公報

駐車時のようにシフト位置を後退位置と前進位置との間で頻繁に切り替える場合には、車両前進時に車両の周辺及び前方の状況を周辺画像及び前方撮影画像を用いて確認する必要が生じる場合がある。しかしながら、上記のような画像表示システムでは、シフト位置を後退位置から前進位置に切り替えた場合、地図画像のような周辺画像及び前方撮影画像以外の画像に切り替えられるため、車両前進時に車両の周辺及び前方の状況を周辺画像及び前方撮影画像を用いて確認することができなかった。なお、シフト位置が前進位置の場合に地図画像を含むナビゲーション装置の画像を表示するのは、通常の車両運転時（走行時）においてユーザはナビゲーション装置の画像を確認したいという要求を満たすためである。

本発明の目的は、シフト位置の切替操作に関わらず俯瞰画像を表示し続けることで、車両の周囲の状況を確認することができる画像表示システム、画像生成装置及び画像生成方法を提供することである。

本発明による画像表示システムは、車両に搭載される画像表示システムであって、車両に配置されたカメラと、カメラで得られる撮影画像に基づいて車両及び車両の周囲を仮想視点から見た様子を示す合成画像を生成する合成画像生成手段と、車両の変速位置のシフトレバーのシフト位置を検出するシフト位置検出手段と、シフト位置検出手段によって検出されたシフト位置に応じて合成画像を表示する合成画像表示手段と、シフト位置が変更されてからの時間を計測する計測手段と、を備え、合成画像表示状態でシフト位置が変更された場合、その際に計測手段で計測された計測時間が所定時間に達しないうちに元のシフト位置に戻された場合は、合成画像を切り替えずにその表示を維持する。

本発明による画像生成装置は、撮影画像に基づいて車両及び車両の周囲を仮想視点から見た様子を示す合成画像を生成する合成画像生成手段と、車両の変速位置のシフトレバーのシフト位置を検出するシフト位置検出手段からのシフトポジション信号を受信するシフト位置信号受信手段と、シフト位置検出手段によって検出されたシフト位置に応じて合成画像を表示する合成画像表示手段と、シフト位置が変更されてからの時間を計測する計測手段と、を備え、合成画像表示状態でシフト位置が変更された場合、その際に計測手段で計測された計測時間が所定時間に達しないうちに元のシフト位置に戻された場合は、合成画像を切り替えずにその表示を維持する。

本発明による画像表示方法は、車両に配置されたカメラで得られる撮影画像に基づいて車両及び車両の周囲を仮想視点から見た様子を示す合成画像を生成し、車両の変速位置のシフトレバーのシフト位置を検出し、検出されたシフト位置に応じて合成画像を表示し、シフト位置が変更されてからの時間を計測し、合成画像表示状態でシフト位置が変更された場合、その際に計測された計測時間が所定時間に達しないうちに元のシフト位置に戻された場合は、合成画像を切り替えずにその表示を維持する、ステップを有する。

本発明によれば、シフト位置の切替操作に関わらず俯瞰画像を表示し続けることで、車両の周囲の状況を確認することができる。

第１の実施の形態の画像表示システムの構成例を示す図である。 車載カメラが車両に配置される位置を示す図である。 （Ａ）及び（Ｂ）は、画像結合部によって生成される結合画像の説明図である。 ソナーシステムの構成を主に示す図である。 クリアランスソナーが車両に配置される位置を示す図である。 合成画像を生成する手法を説明する図である。 画像表示システムの動作モードの遷移を示す図である。 画像切替処理の一例の説明図である。 ガイド線の付加及び消去の一例の説明図である。 画像切替処理時における画像表示システムの処理例の説明図である。 第２の実施の形態の画像表示システムの構成例を示す図である。 画像配置処理の一例の説明図である。 画像配置処理のタイムチャートである。 画像配置処理時における画像表示システムの処理例の説明図である。

＜第１の実施の形態＞
＜１−１．システム構成＞
図１は、本発明の実施の形態の画像表示システム１２０の構成を示すブロック図である。この画像表示システム１２０は、車両（本実施の形態では、自動車）に搭載されるものであり、車両の周囲を撮影して画像を生成して車室内に表示する機能を有している。画像表示システム１２０のユーザ（代表的にはドライバ）は、この画像表示システム１２０を利用することにより、当該車両の周囲の様子をほぼリアルタイムに把握できるようになっている。

図１に示すように、画像表示システム１２０は、車両の周囲の様子を示す周辺画像を生成する画像生成装置１００と、車両に乗車するユーザに対して各種情報を表示するナビゲーション装置２０とを主に備えている。画像生成装置１００で生成された周辺画像は、ナビゲーション装置２０において表示される。

ナビゲーション装置２０は、ユーザに対しナビゲーション案内を行うものであり、タッチパネル機能を備えた液晶などのディスプレイ２１と、ユーザが操作を行うハードスイッチなどの操作部２２と、装置全体を制御する制御部２３とを備えている。ディスプレイ２１の画面がユーザから視認可能なように、ナビゲーション装置２０は車両のインストルメントパネルなどに設置される。

ユーザの各種の指示は、操作部２２とタッチパネルとしてのディスプレイ２１とによって受け付けられる。制御部２３は、ＣＰＵ、ＲＡＭ及びＲＯＭなどを備えたコンピュータであり、所定のプログラムに従ってＣＰＵが演算処理を行うことでナビゲーション機能を含む各種の機能が実現される。ナビゲーション装置２０は、画像生成装置１００と通信可能に接続され、画像生成装置１００との間で各種の制御信号の送受信や、画像生成装置１００で生成された画像の受信が可能となっている。

ディスプレイ２１には、制御部２３の制御により、通常は、ナビゲーション装置２０単体の機能によって、ナビゲーション案内用の車両の周辺の地図画像が表示される。地図画像は、ナビゲーション装置２０が備えるハードディスクなどに予め記憶されている。また、ナビゲーション装置２０が備えるＧＰＳ装置によって車両の位置（緯度、経度）が取得され、この車両の位置に基づいて、車両の周辺の地図画像がディスプレイ２１に表示される。表示する地図画像の縮尺はユーザの操作部２２の操作に応じて変更可能である。

一方で、画像表示システム１２０の動作モードを変更した場合は、画像生成装置１００で生成された車両の周囲の様子を示す周辺画像が、ディスプレイ２１に表示される。これにより、ナビゲーション装置２０は、画像生成装置１００で生成された周辺画像を受信して表示する表示装置としても機能する。

画像生成装置１００は、画像を生成する機能を有するＥＣＵ（Electronic Control Unit）である本体部１０と、車両の周囲を撮影する撮影部５とを備えている。本体部１０は、車両の所定の位置に配置され、撮影部５で車両の周囲を撮影して得られる撮影画像に基づいてディスプレイ２１に表示するための周辺画像を生成する。

撮影部５は、本体部１０に電気的に接続され、本体部１０からの信号に基づいて動作する。撮影部５は、車載カメラであるフロントカメラ５１、サイドカメラ５２、及び、バックカメラ５３を備えている。各車載カメラ５１〜５３は、レンズと撮像素子とを備えており電子的に画像を取得する。

これらの複数の車載カメラ５１〜５３は、車両の異なる位置にそれぞれ配置される。図２は、車載カメラ５１〜５３が車両９に配置される位置を示す図である。

図２に示すように、フロントカメラ５１は、車両９の前端にあるナンバープレート取付位置の近傍に設けられ、その光軸５１ａは車両９の直進方向に向けられている。バックカメラ５３は、車両９の後端にあるナンバープレート取付位置の近傍に設けられ、その光軸５３ａは車両９の直進方向の逆方向に向けられている。これらフロントカメラ５１やバックカメラ５３の取り付け位置は、左右中央であることが望ましいが、左右中央から左右方向に多少ずれた位置であってもよい。また、サイドカメラ５２は左右のサイドミラー９３にそれぞれ設けられ、その光軸５２ａは車両９の左右方向（直進方向に直交する方向）に沿って車両９の外側に向けられている。

これらの車載カメラ５１〜５３のレンズとしては魚眼レンズなどが採用されており、車載カメラ５１〜５３は１８０度以上の画角θを有している。このため、車載カメラは、それぞれの光軸を中心として、斜め下方や斜め上方の範囲の視野も撮影画像に移すことができる。撮影部５は、４つの車載カメラ５１〜５３を利用することで車両９の全周囲の撮影が可能となっている。

図１に戻り、画像生成装置１００の本体部１０は、装置全体を制御する制御部１と、撮影部５の４つの車載カメラ５１〜５３それぞれの撮影画像を入力する入力端子４９と、表示用の周辺画像を生成する画像生成部３と、ナビゲーション装置２０との間で通信を行うナビ通信部４２を主に備えている。

ナビゲーション装置２０の操作部２２やディスプレイ２１によって受け付けられたユーザからの各種の指示は、制御信号としてナビ通信部４２によって受け付けられて制御部１に入力される。また、画像生成装置１００は、表示内容を切り替える指示をユーザから受け付ける要求手段としての切替スイッチ４３を備えている。この切替スイッチ４３からもユーザの指示を示す信号が制御部１に入力される。これにより、画像生成装置１００は、ナビゲーション装置２０に対するユーザの操作、及び、切替スイッチ４３に対するユーザの操作の双方に応答した動作が可能となっている。切替スイッチ４３は、ユーザが操作しやすいように、本体部１０とは別に車両の適位置に配置される。

画像生成部３は、各種の画像処理が可能なハードウェア回路であり、入力端子４９を介して撮影部５から入力される撮影画像を処理し、ディスプレイ２１に表示するための周辺画像を生成する。画像生成部３は、画像結合部３０、メモリ３１、画像調整部３２、合成画像生成部３４、画像配置部３５、画像切替部３６、ガイド線付加部３７及びガイド線処理部を主な構成要素として備えている。

画像結合部３０は、撮影部５で取得された撮影画像を１枚の結合画像に結合する。図３の（Ａ）及び図３の（Ｂ）は、画像結合部３０によって生成される結合画像Ｐｃｎの説明図である。撮影部５のフロントカメラ５１、サイドカメラ５２及びバックカメラ５３で同時に撮影が行われると、車両９の前方、左側方、右側方及び後方をそれぞれ示す４つの撮影画像Ｐ１〜Ｐ４が取得される。画像結合部３０は、これら４枚の撮影画像Ｐ１〜Ｐ４を結合することによって、図３の（Ｂ）に示すような結合画像Ｐｃｎを生成する。画像結合部３０によって生成された結合画像Ｐｃｎは、メモリ３１に格納される。

画像調整部３２は、画像結合部３０にて生成された結合画像Ｐｃｎを表示に利用するための調整を行うものである。具体的には、画像調整部３２は、結合画像Ｐｃｎに含まれる撮影画像Ｐ１〜Ｐ４に対して、歪み補正、拡大縮小、及び、切り出しなどの画像処理を行う。画像調整部３２は、画像選択部３３を備える。画像選択部３３は、結合画像Ｐｃｎに含まれる撮影画像Ｐ１〜Ｐ４の切り出し処理の際に、切り出し範囲、すなわちディスプレイ２１への表示範囲を選択する。

合成画像生成部３４は、結合画像Ｐｃｎに基づいて、車両の周囲の任意の仮想視点からみた車両の周囲の領域を示す合成画像を生成する。合成画像生成部３４が合成画像を生成する手法については後述する。

画像調整部３２により表示用に調整された撮影画像、及び合成画像生成部３４により生成された合成画像は、ナビ通信部４２によってナビゲーション装置２０に出力される。その際に、画像配置部３５は、以下に説明する画像表示システム１２０の動作モードに応じて、画面上の所定の表示位置にこれらの画像を配置した表示画像を生成し、ナビゲーション装置２０へ出力する。これにより、被写体像として車両の周囲の少なくとも一部の領域を含む周辺画像がナビゲーション装置２０のディスプレイ２１に表示されることになる。

本明細書において、「周辺画像」とは、車両の周囲の少なくとも一部の領域を示す画像を意味し、表示用に調整された撮影画像、及び、合成画像の双方を含む概念である。表示用に調整された撮影画像は、取得された車載カメラ５１〜５３のレンズの位置を視点とし、その視点からみた周辺画像となる。また、合成画像は、車両の周囲の任意の位置に設定された仮想視点からみた周辺画像となる。

画像切替部３６は、後述するように、切替スイッチ４３からのユーザ要求に応じて、車両の変速装置のシフトレバーのシフト位置が後退位置にあるときに合成画像及び撮影画像Ｐ４を含む第１の画像をディスプレイ２１の表示画面に表示し、シフト位置が後退位置から前進位置に切り替わると、ディスプレイ２１の表示画面の表示を、第１の画像から、合成画像及び撮影画像Ｐ１を含む第２の画像に切り替える（「後退前進切替時の画像切替」）。また、画像切替部３６は、後述するように、シフト位置が前進位置にある状態で第２の画像を表示する時間が所定の時間に到達すると、ディスプレイ２１の表示画面の表示を、第２の画像から、合成画像及び撮影画像Ｐ１，Ｐ４以外の画像を含む地図データ等の第３の画像に切り替える。

ガイド線付加部３７は、後述するように、画像に各種ガイド線を付加する。ガイド線は、車両端が通過する軌跡を示す予想進路線、車両後端を示す距離目安線、車両後端に垂直後退した場合の進路を示す車幅平行線、ステアリングを左右に最大にきった場合の車両の予測軌跡を示す駐車ガイド線等とすることができる。ガイド線処理部３８は、ガイド線付加部３７が画像に付加したガイド線を消去し、かつ、画像をディスプレイ２１の表示画面に表示する際にガイド線付加部３７がガイド線を画像に付加するのを禁止する。

制御部１は、ＣＰＵ、ＲＡＭ及びＲＯＭなどを備えたコンピュータであり、所定のプログラムに従ってＣＰＵが演算処理を行うことで各種の制御機能が実現される。図中に示す、画像制御部１１、表示制御部１２、シフト位置信号受信部１３、計測部１４、ユーザ要求信号受信部１５、領域選択部１６、優先度設定部１７、検知信号受信部１８及び状態信号受信部１９は、このようにして実現される制御部１の機能のうちの一部を示している。

画像制御部１１は、画像生成部３によって実行される画像処理に係る制御を行う。例えば、画像制御部１１は、合成画像生成部３４が生成する合成画像の生成に必要な各種パラメータなどを指示する。

表示制御部１２は、ナビゲーション装置２０のディスプレイ２１に表示する表示内容に係る制御を行う。例えば、画像表示システム１２０の動作モードの変更に応じて、ディスプレイ２１の表示内容を切り替える。

シフト位置信号受信部１３は、後述するシフト位置信号を受信することによって、シフトレバーのシフト位置に応じた画像をディスプレイ２１の表示画面に表示するよう画像生成部３に指示する。

計測部１４は、シフト位置が前進位置にある状態で上記第２の画像を表示する時間を計測する。ユーザ要求信号受信部１５は、上記後退前進切替時の画像切替の要求、シフト位置が前進位置にある状態で上記第２の画像を表示する時間の延長の要求等の各種ユーザ要求信号を切替スイッチ４３から受信する。

領域選択部１６は、車両の周囲に設定される複数の周辺領域のうちから、ユーザに示すべき周辺領域を選択する。優先度設定部１７は、ユーザに示すべき周辺領域が複数ある場合に、それらの優先度を設定する。検知信号受信部１８は、後述する検知信号を受信することによって、障害物が所定の範囲内（車両の周囲）にあるか否か検知する。状態信号受信部１９は、後述する停止信号を受信することによって、車両の走行状態に応じた画像をディスプレイ２１の表示画面に表示するよう画像生成部３に指示する。

画像生成装置１００の本体部１０は、不揮発性メモリ４０、カード読取部４４、及び、信号入力部４１をさらに備えており、これらは制御部１に接続されている。

不揮発性メモリ４０は、電源オフ時においても記憶内容を維持可能なフラッシュメモリなどである。不揮発性メモリ４０には、視点データ４ａが記憶されている。視点データ４ａは、合成画像の仮想視点を定める際に利用される。

カード読取部４４は、可搬性の記録媒体であるメモリカードＭＣの読み取りを行う。カード読取部４４は、メモリカードＭＣの着脱が可能なカードスロットを備えており、そのカードスロットに装着されたメモリカードＭＣに記録されたデータを読み取る。カード読取部４４で読み取られたデータは、制御部１に入力される。メモリカードＭＣは、種々のデータを記憶可能なフラッシュメモリなどであり、画像生成装置１００はメモリカードＭＣに記憶された種々のデータを利用できる。例えば、メモリカードＭＣにプログラムを記憶させ、これを読み出すことで、制御部１の機能を実現するプログラム（ファームウェア）を更新することが可能である。

また、信号入力部４１は、車両に設けられた各種装置からの信号を入力する。この信号入力部４１を介して、画像表示システム１２０の外部からの信号が制御部１に入力される。本実施の形態では、ソナーシステム７ａ、シフトセンサ７ｂ、舵角センサ７ｃ及び車速センサ７ｄからの信号が信号入力部４１を介して制御部１に入力される。

障害物検知手段としてのソナーシステム７からは、後述するように、障害物の位置及び車両と障害物との間の距離を含む検出結果が入力される。シフト位置検出手段としてのシフトセンサ７１からは、車両の変速装置のシフトレバーの操作の位置、すなわち、”Ｐ（駐車）”，”Ｄ（前進）”，”Ｎ（中立）”，”Ｒ（後退）”などのシフトポジションを示すシフト位置信号が入力される。舵角センサ７２からは、ドライバによるステアリングホイールの操作角を示す操作角信号が入力される。車両状態検出手段としての車速センサ７３からは、車両の停止状態又は移動状態を検出する、車速パルスに基づく状態信号が入力される。

＜１−２．ソナーシステム＞
図４は、ソナーシステム７ａの構成を主に示す図である。図４に示すように、ソナーシステム７は、システム全体を統括するソナー制御部７０と、複数のクリアランスソナー７２と、車内に警告音を発するブザー７１と、を備える。

クリアランスソナー７２は、超音波を発信し、その超音波が障害物で反射した反射波を受信することによって車両の周囲に存在する障害物を検出する。また、クリアランスソナー７２は、超音波を発信してから戻ってくるまでの時間に基づいて車両と障害物との間の距離を測定することができる。

各クリアランスソナー７２の検出結果は、ソナー制御部７０に入力され、車両と障害物との間の距離に応じてブザー７１から警告音が出力される。これにより、ユーザは、車両の周囲に障害物が存在するか否か把握することができる。

図５は、複数のクリアランスソナー７２が車両９に配置される位置を示す図である。複数のクリアランスソナー７２は、車両９の前方の左右端部及び車両９の後方の左右端部にそれぞれ設けられている。

各クリアランスソナー７２は、車両９の周辺の一部の周辺領域Ａ１〜Ａ４に向けて超音波を発信する。具体的には、車両９の前方の左端部に設けられるクリアランスソナー７２は、車両９の前方左側に設定される周辺領域（「前方左側領域」）Ａ１に向けて超音波を発信する。また、車両９の前方の右端部に設けられるクリアランスソナー７２は、車両９の前方右側に設定される周辺領域（「前方右側領域」）Ａ２に向けて超音波を発信する。また、車両９の後方の左端部に設けられるクリアランスソナー７２は、車両９の後方左側に設定される周辺領域（「後方左側領域」）Ａ３に向けて超音波を発信する。さらに、車両９の後方の右端部に設けられるクリアランスソナー７２は、車両９の後方右側に設定される周辺領域（「後方右側領域」）Ａ４に向けて超音波を発信する。

これら４つの周辺領域Ａ１〜Ａ４は、車両９に対して相対的に固定されて予め設定される。このようなクリアランスソナー７２の配置により、ソナーシステム７では、４つの周辺領域Ａ１〜Ａ４に存在する障害物を検出することができる。ソナーシステム７は、障害物を検出したクリアランスソナー７２の位置に基づいて、検出した障害物の位置が４つの周辺領域Ａ１〜Ａ４のいずれであるかを把握することができる。さらに、ソナーシステム７は、車両と障害物との間の距離を測定することができる。

このような障害物の位置及び車両と障害物との間の距離を含むソナーシステム７の検出結果は、図４に示すように、ソナー制御部７０から画像生成装置１００の制御部１に信号入力部４１を介して入力される。そして、このソナーシステム７の検出結果は、制御部１の検知信号受信部１５等で利用される。

＜１−３．画像合成処理＞
次に、画像生成部３の合成画像生成部３４が、撮影部５で得られた複数の撮影画像Ｐ１〜Ｐ４に基づいて車両９及び車両９の周辺を任意の仮想視点からみた様子を示す合成画像を生成する手法について説明する。図６は、合成画像を生成する手法を説明するための図である。

上述の通り、撮影部５のフロントカメラ５１、サイドカメラ５２及びバックカメラ５３で同時に撮影が行われると、車両９の前方、左側方、右側方及び後方をそれぞれ示す４つの撮影画像Ｐ１〜Ｐ４が取得される。撮影部５で取得される４つの撮影画像Ｐ１〜Ｐ４を結合した結合画像Ｐｃｎには、撮影時点の車両９の全周囲を示す情報が含まれている。

次に、結合画像Ｐｃｎの各画素が、仮想的な三次元空間における立体曲面ＴＳに投影される。立体曲面ＴＳは、例えば略半球状（お椀形状）をしており、その中心部分（お椀の底部分）が車両９が存在する位置として定められている。結合画像Ｐｃｎの各画素の位置とこの立体曲面ＴＳの各画素の位置とは予め対応関係が定められている。このため、立体曲面ＴＳの各画素の値は、この対応関係と結合画像Ｐｃｎに含まれる各画素の値とに基づいて決定できる。

結合画像Ｐｃｎの各画素の位置と立体曲面ＴＳの各画素の位置との対応関係は、車両９における４つの車載カメラ５１〜５３の配置（相互間距離、地上高さ、光軸角度等）に依存する。この対応関係を示すテーブルデータは、不揮発性メモリ４０に予め記憶されている。

また、不揮発性メモリ４０に予め記憶された車体の形状やサイズを示すデータが利用され、車両９の三次元形状を示すポリゴンのモデルが仮想的に構成される。構成された車両９のモデルは、立体曲面ＴＳが設定される三次元空間において、車両９の位置と定められた略半球状の中心部分に配置される。

さらに、立体曲面ＴＳが存在する三次元空間に対して、制御部１により仮想視点ＶＰが設定される。仮想視点ＶＰは、視点位置と視野方向とで規定され、この三次元空間における車両９の近傍に相当する任意の視点位置に任意の視野方向に向けて設定される。

そして、設定された仮想視点ＶＰに応じて、立体曲面ＴＳにおける必要な領域が画像として切り出される。仮想視点ＶＰと、立体曲面ＴＳにおける必要な領域との関係は予め定められており、テーブルデータとして不揮発性メモリ４０等に予め記憶されている。一方で、設定された仮想視点ＶＰに応じてポリゴンのモデルに関してレンダリングがなされ、その結果となる二次元の車両の像が、切り出された画像に対して重畳される。これにより、車両９及びその車両９の周囲を任意の仮想視点ＶＰからみた様子を示す合成画像が生成されることになる。

例えば、視点位置が車両９の位置の略中央の直上で、視野方向が直下方向とした仮想視点ＶＰａを設定した場合は、車両９の略直上から車両９を見下ろすように、車両９及び車両９の周囲の領域を示す合成画像ＣＰａが生成される。また、図中に示すように、視点位置が車両９の位置の左後方で、視野方向が車両９における略前方方向とした仮想視点ＶＰｂを設定した場合は、車両９の左後方からその周辺全体を見渡すように、車両９及び車両９の周囲の領域を示す合成画像ＣＰｂが生成される。

なお、実際に合成画像を生成する場合においては、立体曲面ＴＳの全ての画素の値を決定する必要はなく、設定された仮想視点ＶＰに対応して必要となる領域の画素の値のみを撮影画像Ｐ１〜Ｐ４に基づいて決定することで、処理速度を向上できる。画像表示システム１２０では、このような合成画像生成部３４の機能を利用することで、車両９の周囲の任意の視点からみた合成画像を生成して、ディスプレイ２１に表示する。

＜１−４．動作モード＞
次に、画像表示システム１２０の動作モードについて説明する。図７は、画像表示システム１２０の動作モードの遷移を示す図である。画像表示システム１２０は、ナビモードＭ０、フロントモードＭ１、サイドモードＭ２、及び、バックモードＭ３の３つの動作モードを有している。これらの動作モードは、ドライバの車両９への操作や車両９の走行状態に応じて制御部１の制御により切り替えられるようになっている。

ナビモードＭ０は、ナビゲーション装置２０の機能により、ナビゲーション案内を行う動作モードである。ナビモードＭ０では、画像生成装置１００の機能が利用されず、ナビゲーション装置２０単体の機能でディスプレイ２１に各種の表示がなされる。具体的には、ディスプレイ２１には、車両９の周辺の地図画像ＮＰが主に表示される。

これに対し、フロントモードＭ１、サイドモードＭ２及びバックモードＭ３は、画像生成装置１００の機能を利用して、周辺画像をディスプレイ２１に表示して、車両の周囲の状況をリアルタイムでユーザに示す動作モードである。

フロントモードＭ１は、車両９の前方を表示する動作モードであり、見通しの悪い交差点への進入時などに利用される。ディスプレイ２１の第２表示位置Ｌ２には、フロントカメラ５１で取得されて表示用に調整した撮影画像（以下、「フロント画像」という。）ＳＰ１が表示される。このフロント画像ＳＰ１は、車両９の前方の視点（フロントカメラ５１のレンズ位置）からみた周辺画像である。フロントモードＭ１では、表示中の周辺画像（すなわち、フロント画像）ＳＰ１の視点が車両９の前方であることを示すアイコンＣ１が表示される。

また、第１表示位置Ｌ１には、合成画像生成部３４により生成された、車両９の略直上から車両９を見下ろすように車両９とその周辺の領域を示す合成画像ＣＰａが表示される。

サイドモードＭ２は、車両９の側方を表示する動作モードであり、幅寄せを行う場合などに利用される。ディスプレイ２１の第３表示位置Ｌ３及び第４表示位置Ｌ４には、サイドカメラ５２で取得されて表示用に調整した撮影画像（以下、「サイド画像」という。）ＳＰ２が表示される。このサイド画像ＳＰ２は、車両９の側方の視点（サイドカメラ５２のレンズ位置）からみた周辺画像である。サイドモードＭ２では、表示中の周辺画像（すなわち、サイド画像）ＳＰ２の視点が車両９の側方であることを示すアイコンＣ２が表示される。

また、バックモードＭ３は、車両９の後方を表示する動作モードであり、後退時に利用される。ディスプレイ２１の第２表示位置Ｌ２には、バックカメラ５３で取得されて表示用に調整した撮影画像（以下、「バック画像」という。）ＳＰ３が表示される。このバック画像ＳＰ３は、車両９の後方の視点（バックカメラ５３のレンズ位置）からみた周辺画像である。バックモードＭ３では、表示中の周辺画像（すなわち、バック画像）ＳＰ３の視点が車両９の後方であることを示すアイコンＣ３が表示される。

また、第１表示位置Ｌ１には、合成画像生成部３４により生成された、車両９の略直上から車両９を見下ろすように車両９とその周囲の領域を示す合成画像ＣＰａが表示される。

ナビモードＭ０において、ナビゲーション装置２０の操作部２２に所定の操作がなされると、フロントモードＭ１及びサイドモードＭ２のうちの最後に有効化された動作モード（いわゆる、ラストモード）に切り替わる。フロントモードＭ１とサイドモードＭ２とは、切替スイッチ４３を押下するごとに切り替えられる。また、フロントモードＭ１あるいはサイドモードＭ２において、ナビゲーション装置２０の操作部２２に所定の操作がなされると、ナビモードＭ０に戻る。

また、バックモードＭ３以外の動作モードにおいて、シフトセンサ７１から入力されるシフトポジションが”Ｒ（後退）”となったときは、バックモードＭ３に切り替えられる。すなわち、シフトポジションが”Ｒ（後退）”の場合は、車両９は後退する状態であるため、車両９の後方を主に示すバックモードＭ３に切り替えられる。また、バックモードＭ３の場合に、シフトポジションが”Ｒ（後退）”以外となったときは、バックモードＭ３に切り替えられる直前の動作モードに戻ることになる。

このように画像表示システム１２０は、複数の動作モードを切り替えることで、複数の視点からみた周辺画像を切り替えてディスプレイ２１に表示可能となっている。なお、サイドミラーが格納されている場合には、正常なサイド画像ＳＰ２を撮影することができない。したがって、サイドミラー格納時には、フロントモードＭ１やバックモードＭ３からサイドモードＭ２への切り換えが禁止される。

なお、フロントモードＭ１における合成画像ＣＰａには、予想進路線Ｓ１が付加され、フロントモードＭ１におけるフロント画像ＳＰ１には、予想進路線Ｓ１，Ｓ２が付加され、バックモードＭ３における合成画像ＣＰａには、予想進路線Ｓ３，Ｓ４及び距離目安線Ｍが付加され、バックモードＭ３におけるバック画像ＳＰ３には、予想進路線Ｓ４、距離目安線Ｍ及び車幅平行線Ｈが付加されている。

＜１−５．画像切替処理＞
次に、画像切替処理を行うときの画像表示システム１２０の処理について説明する。以後の説明における処理は、切替スイッチ４３により、上記後退前進切替時の画像切替の要求に関するユーザ要求信号を受信している場合について行われる。

図８は、画像切替の一例の説明図である。車両が所定速度以下（駐車を行うような低速度）でシフトポジションが「Ｒ」になると、図８に示すように、ディスプレイ２１の表示画面に合成画像ＣＰａ及びバック画像ＳＰ３を含む後退動作を支援するのに適した画像が表示される。この状態において、シフトポジションが「Ｒ」から「Ｄ」に切り替わると、合成画像ＣＰａ及びフロント画像ＳＰ１を含む画像に表示が切り替わる。その後、シフトポジションが「Ｄ」から「Ｒ」に切り替わると、合成画像ＣＰａ及びバック画像ＳＰ３を含む画像に表示が切り替わる。

上述のようなシフトポジションが「Ｄ」のときにディスプレイ２１の表示画面に合成画像ＣＰａ及びフロント画像ＳＰ１を含む画像が表示されている状態で、計測部１４が計測したその状態の継続時間が所定の時間を経過すると、ディスプレイ２１の表示画面は、地図画像ＮＰに切り替わる。なお、合成画像ＣＰａ、フロント画像ＳＰ１及びバック画像ＳＰ３以外の画像を含む他の画像（第３の画像）に切り替えてもよい。

また、切替スイッチ４３により、合成画像ＣＰａ及びフロント画像ＳＰ１を含む画像の表示時間の延長要求に関するユーザ要求信号が送信された場合は、合成画像ＣＰａ及びフロント画像ＳＰ１を含む画像の表示時間を所定の延長時間だけ延長し、所定の延長時間が経過した後に、ディスプレイ２１の表示画面を地図画像ＮＰに切り替える。尚、所定の延長時間内にシフトポジションが「Ｄ」から「Ｒ」に切り替わると、合成画像ＣＰａ及びバック画像ＳＰ３を含む画像に表示が切り替わり、同じ処理が繰り返される。また、この場合の合成画像ＣＰａ及びフロント画像ＳＰ１を含む画像の表示時間は、上記延長時間を加えた時間長とすれば、ユーザの延長操作の意志を反映させたものになる。

また、ソナーシステム７ａにより障害物を検知した場合、合成画像ＣＰａ及びフロント画像ＳＰ１を含む画像の表示時間を所定の延長時間だけ延長し、所定の延長時間が経過した後に、ディスプレイ２１の表示画面を地図画像ＮＰに切り替える。尚、この場合、ソナーによる障害物検知が解除されてから所定時間経過した時点まで延長すれば、障害物による運転への影響を考えた表示とすることができる。また、所定の延長時間内にシフトポジションが「Ｄ」から「Ｒ」に切り替わると、合成画像ＣＰａ及びバック画像ＳＰ３を含む画像に表示が切り替わり、同じ処理が繰り返される。

＜１−６．ガイド線の付加及び消去処理＞
次に、ガイド線を付加し又は消去するときの画像表示システム１２０の処理について説明する。図９は、ガイド線の付加及び消去の一例の説明図である。車両が停止した状態において、切替スイッチ４３からの切替信号により、バックモードＭ３におけるディスプレイ２１の表示画面のバック画像ＳＰ３をフロント画像ＳＰ１に切り替わると、ガイド線処理部３８は、合成画像ＣＰａから予想進路線Ｓ３，Ｓ４及び距離目安線Ｍを消去し、ガイド線付加部３７がフロント画像ＳＰ１にガイド線を付加するのを禁止する。

それに対し、車両が停止した状態において、切替スイッチ４３からの切替信号により、バックモードＭ３におけるディスプレイ２１の表示画面のフロント画像ＳＰ１をバック画像ＳＰ３に切り替わると、ガイド線付加部３７は、合成画像ＣＰａに予想進路線Ｓ３，Ｓ４及び距離目安線Ｍを付加し、バック画像ＳＰ３に予想進路線Ｓ４、距離目安線Ｍ及び車幅平行線Ｈを付加する。

また、バックモードＭ３におけるディスプレイ２１の表示画面にフロント画像ＳＰ１を表示した状態で車両が停止状態から移動状態になると、ガイド線付加部３７は、合成画像ＣＰａに予想進路線Ｓ３，Ｓ４及び距離目安線Ｍを付加する。

それに対し、バックモードＭ３におけるディスプレイ２１の表示画面にフロント画像ＳＰ１を表示した状態で車両が移動状態から停止状態になると、ガイド線消去又は禁止部３７は、合成画像ＣＰａから予想進路線Ｓ３，Ｓ４及び距離目安線Ｍを消去する。

続いて、図１０を参照して、後退前進切替時の画像遷移処理について説明する。なお、図１０を参照して説明する処理は、車両が所定速度以下（駐車を行うような低速度）でシフトポジションが「Ｒ」になると実行される。

オペレーションＡＡにおいて、表示制御部１２は、後に説明する合成画像ＣＰａ及びフロント画像ＳＰ１を含む画像の表示時間Ｔを初期値Ｔ０に設定する（初期化）。オペレーションＡＢにおいて、画像配置部３５は、合成画像ＣＰａ及びバック画像ＳＰ３を選択し、ナビゲーション装置２０へ出力する表示画像上に配置する。表示画像は、画像生成装置１００によってナビゲーション装置２０へ出力される。ナビゲーション装置２０は、画像生成装置１００から出力された表示画像をディスプレイ２１へ表示する。

オペレーションＡＣにおいて、シフト位置信号受信部１３は、シフトポジションが「Ｒ」から「Ｒ」以外（例えば、「Ｄ」）に切り替わったか否か判断する。シフトポジションが「Ｒ」から「Ｒ」以外（例えば、「Ｄ」）に切り替わった場合、オペレーションＡＤにおいて、表示制御部１２は、計測部１４の計測値ｔ（自走式タイマで常時カウントアップされる）をゼロにリセットした後に計測部１４による合成画像ＣＰａ及びフロント画像ＳＰ１を含む画像を表示している時間（計測値ｔ）の計測を開始し、それに対し、シフトポジションが「Ｒ」から「Ｒ」以外（例えば、「Ｄ」）に切り替わらない場合、オペレーションＡＢに戻る。

オペレーションＡＤの後、オペレーションＡＥにおいて、画像配置部３５は、合成画像ＣＰａ及びフロント画像ＳＰ１を選択し、ナビゲーション装置２０へ出力する表示画像上に配置する。表示画像は、画像生成装置１００によってナビゲーション装置２０へ出力される。ナビゲーション装置２０は、画像生成装置１００から出力された表示画像をディスプレイ２１へ表示する。

オペレーションＡＦにおいて、シフト位置信号受信部１３は、シフトポジションが「Ｒ」以外（例えば、「Ｄ」）から「Ｒ」に切り替わったか否か判断する。シフトポジションが「Ｒ」以外（例えば、「Ｄ」）から「Ｒ」に切り替わらなかった場合、オペレーションＡＧにおいて、オペレーションＡＧにおいて、表示制御部１２は、合成画像ＣＰａ及びフロント画像ＳＰ１を含む画像の表示時間Ｔを所定の延長時間ΔＴだけ延長する延長操作が切替スイッチ４３等によって行われたか否か判断し、それに対し、シフトポジションが「Ｒ」以外（例えば、「Ｄ」）から「Ｒ」に切り替わった場合、オペレーションＡＢに戻る。

オペレーションＡＧで延長操作があった場合、オペレーションＡＨにおいて、表示制御部１２は、表示時間Ｔに延長時間ΔＴを加算し、オペレーションＡＩにおいて、探知信号受信部１８は、ソナーシステム７ａにより障害物を検知したか否か判断する。なお、オペレーションＡＧで延長操作がなかった場合、そのままオペレーションＡＩに進む。

オペレーションＡＩで障害物を検知した場合、オペレーションＡＪにおいて、表示制御部１２は計測値ｔをゼロにリセットし、オペレーションＡＥに戻り、それに対し、オペレーションＡＩで障害物を検知しない場合、オペレーションＡＫにおいて、表示制御部１２は、計測値ｔが表示時間Ｔを経過したか否か判断する。計測値ｔが表示時間Ｔを経過した場合、画像切替部３６は、ディスプレイ２１の表示を地図画像ＮＰに切り替え、それに対し、計測値ｔが表示時間Ｔを経過していない場合、オペレーションＡＥに戻る。

＜２．第２の実施の形態＞
＜２−１．システム構成＞
続いて第２の実施の形態について説明する。第２の実施の形態では、アクセサリー（ＡＣＣ）スイッチがオンになり、オープニング画面を表示した後に切替スイッチ４３からのユーザ要求に応じて、フロント画像ＳＰ１、左右のサイド画像ＳＰ２及びバック画像ＳＰ３を取得してから合成画像ＣＰａを形成するまでの間に、車両のサイドミラーで確認しにくいために運転者の死角となりやすい左側のサイド画像ＳＰ２をフロント画像ＳＰ１とともにディスプレイ２１の表示画面に表示し、合成画像ＣＰａが形成された後に合成画像ＣＰａ及びフロント画像ＳＰ１をディスプレイ２１の表示画面に表示する。

ＡＣＣスイッチをオンにし、フロント画像ＳＰ１、サイド画像ＳＰ２及びバック画像ＳＰ３を取得してから合成画像ＣＰａの生成が完了するまでの間にオープニング画像をディスプレイ２１の表示画面に表示した場合、この間に車両の周辺を確認するためのフロント画像ＳＰ１、サイド画像ＳＰ２、バック画像ＳＰ３及び合成画像ＣＰａのいずれも表示画面に表示することができないので、画像を用いて車両の周辺を確認することができない。

本実施の形態によれば、フロント画像ＳＰ１、サイド画像ＳＰ２及びバック画像ＳＰ３を取得してから合成画像ＣＰａの生成が完了するまでの間に、車両のサイドミラーで確認しにくいために運転者の死角となりやすい左側のサイド画像ＳＰ２をフロント画像ＳＰ１とともにディスプレイ２１の表示画面に表示しているので、左側のサイド画像ＳＰ２及びフロント画像ＳＰ１を用いて車両の周辺、特に、運転者の死角となりやすい車両のを確認することができる。

図１１は、第２の実施の形態の画像表示システム１２０の構成例を示す図である。図１に示す構成要素と同一の構成要素については同一の参照符号を付する。同一の参照符号が付された構成要素の動作は特に説明しない限り同じである。また、図１１に示す構成要素やその機能を他の実施例が備えていてもよい。

ＡＣＣスイッチ４５は、車両に備えられたエンジン始動用のキーシリンダーと電気的に一体に構成されている。また、ナビゲーション装置２０が備えるハードディスクなどには、オープニング画像が予め記憶されている。

＜２−２．画像配置処理＞
次に、左側のサイド画像ＳＰ２及びフロント画像ＳＰ１を配置するときの画像表示システム１２０の処理について説明する。図１２は、画像配置処理の一例の説明図であり、図１３は、画像配置処理のタイムチャートである。ＡＣＣスイッチ４５がオンになってから時間ｔ１が経過すると、ディスプレイ２１の表示画面にはオープニング画面ＯＰが表示される。

時間ｔ２（＞ｔ１）になると、フロント画像ＳＰ１、サイド画像ＳＰ２及びバック画像ＳＰ３が取得され、合成画像ＣＰａの生成を開始するとともに、左側のサイド画像ＳＰ２及びフロント画像ＳＰ１をディスプレイ２１の表示画面に表示する。時間ｔ３（＞ｔ２）になると、画像表示システム１２０が起動し、時間ｔ４（＞ｔ３）になると、合成画像ＣＰａの生成が終了する。したがって、左側のサイド画像ＳＰ２及びフロント画像ＳＰ１が時間ｔ４−ｔ２だけ表示され、画像表示システム１２０を起動してから合成画像ＣＰａを表示するまでのマージンΔはｔ４−ｔ３となる。

続いて、図１４を参照して、画像配置における画像表示システム１２０の処理を説明する。なお、他の実施態様においては、下記のオペレーションＢＡ〜ＢＨの各オペレーションはステップであってもよい。

オペレーションＢＡにおいて、車載カメラ５１〜５３は、それぞれ撮影画像Ｐ１〜Ｐ４を撮影する。オペレーションＢＢにおいて、画像結合部３０は、これらの画像Ｐ１〜Ｐ４を結合した結合画像Ｐｃｎを生成し、メモリ３１に格納する。オペレーションＢＣにおいて、合成画像生成部３４は、結合画像Ｐｃｎに基づいて合成画像ＣＰａの生成を開始する。

オペレーションＢＤにおいて、画像配置部３５は、現在の画像表示システム１２０の動作モードに従って、左側のサイド画像ＳＰ２及びフロント画像ＳＰ３を選択し、ナビゲーション装置２０へ出力する表示画像上に配置する。表示画像は、画像生成装置１００によってナビゲーション装置２０へ出力される。オペレーションＢＥにおいて、ナビゲーション装置２０は、画像生成装置１００から出力された表示画像をディスプレイ２１へ表示する。

オペレーションＢＦにおいて、合成画像ＣＰａの生成が終了したか否か判断する。合成画像ＣＰａの生成が終了した場合、オペレーションＢＧにおいて、画像配置部３５は、現在の画像表示システム１２０の動作モードに従って、合成画像ＣＰａ及びフロント画像ＳＰ３を選択し、ナビゲーション装置２０へ出力する表示画像上に配置する。表示画像は、画像生成装置１００によってナビゲーション装置２０へ出力される。オペレーションＢＨにおいて、ナビゲーション装置２０は、画像生成装置１００から出力された表示画像をディスプレイ２１へ表示する。

３４ 合成画像生成部
３６ 画像切替部
１００ 画像生成装置
１２０ 画像表示システム

Claims (6)

1. 車両に搭載される画像表示システムであって、
   車両に配置されたカメラと、
   前記カメラで得られる撮影画像に基づいて車両及び車両の周囲を仮想視点から見た様子を示す合成画像を生成する合成画像生成手段と、
   車両の変速位置のシフトレバーのシフト位置を検出するシフト位置検出手段と、
   前記シフト位置検出手段によって検出されたシフト位置に応じて合成画像を表示する合成画像表示手段と、
   シフト位置が変更されてからの時間を計測する計測手段と、
   を備え、
   前記合成画像表示状態でシフト位置が変更された場合、その際に前記計測手段で計測された計測時間が所定時間に達しないうちに元のシフト位置に戻された場合は、前記合成画像を切り替えずにその表示を維持することを特徴とする画像表示システム。
2. 前記合成画像表示状態におけるシフト位置の変更は、後退位置からその他の位置への変更である請求項１に記載の画像表示システム。
3. シフト位置が前進位置にある状態で前記合成画像を表示する時間の延長要求を行う要求手段を更に備え、
   前記画像切替手段は、前記延長要求に応じて前記合成画像を表示する時間を延長する請求項２に記載の画像表示システム。
4. 障害物が所定の範囲内にあるか否か検知する障害物検知手段を更に備え、
   前記表示切替手段は、障害物を検知した場合、前記合成画像を表示する時間を延長する請求項２又は３に記載の画像表示システム。
5. 撮影画像に基づいて車両及び車両の周囲を仮想視点から見た様子を示す合成画像を生成する合成画像生成手段と、
   車両の変速位置のシフトレバーのシフト位置を検出するシフト位置検出手段からのシフトポジション信号を受信するシフト位置信号受信手段と、
   前記シフト位置検出手段によって検出されたシフト位置に応じて合成画像を表示する合成画像表示手段と、
   シフト位置が変更されてからの時間を計測する計測手段と、
   を備え、
   合成画像表示状態でシフト位置が変更された場合、その際に前記計測手段で計測された計測時間が所定時間に達しないうちに元のシフト位置に戻された場合は、前記合成画像を切り替えずにその表示を維持することを特徴とする画像生成装置。
6. 車両に配置されたカメラで得られる撮影画像に基づいて車両及び車両の周囲を仮想視点から見た様子を示す合成画像を生成し、
   車両の変速位置のシフトレバーのシフト位置を検出し、
   検出されたシフト位置に応じて合成画像を表示し、
   シフト位置が変更されてからの時間を計測し、
   合成画像表示状態でシフト位置が変更された場合、その際に計測された計測時間が所定時間に達しないうちに元のシフト位置に戻された場合は、前記合成画像を切り替えずにその表示を維持する、
   ステップを有することを特徴とする画像表示方法。

Images