図1に示すように、本実施形態に係る周辺監視装置10は、画像取得部100と、環境取得部102と、マッチング処理部110と、評価部120と、画像処理部140とを備えている。マッチング処理部110は、視差点数算出部111と、信頼度点数算出部112とを備えている。評価部120は、閾値算出部121と、評価値算出部122と、判定部123とを備えている。
周辺監視装置10は、A/D変換回路、I/O、CPU、RAM、ROM、画像メモリ等を含む電子制御ユニット(ECU)であり、CPUは、予め格納されたプログラムを実行することによって、上記の各部の機能を実現する。CPUに替えて、またはCPUとともに、デジタル処理回路を書き込んだFPGA(Field-Programmable Gate Array)等を備えていてもよい。
撮像装置21、22、および環境測定装置23から出力される信号は、デジタル信号に変換されて、周辺監視装置10のCPUに入力される。周辺監視装置10は、入力信号に基づいて画像処理を行い、画像データや制御信号を報知装置161、表示装置162、運転制御装置163等の外部装置160に出力する。
画像取得部100は、一対の撮像装置21、22が撮影した画像を取得し、これによって対象物を異なる位置から撮影した複数の画像を取得することができる。撮像装置21,22は、CCDやCMOSセンサ、あるいは赤外線カメラ等のイメージセンサを内蔵したステレオカメラである。撮像装置21、22は、車両のルームミラーの背後に、車幅方向において所定の基線長で取り付けられている。撮像装置21、22は、通常の走行状態において車両前方の道路や先行車両等を含む周辺環境を撮影する。
撮像装置21は、基準画像Toを出力し、撮像装置22は、参照画像Tcを出力する。撮像装置21及び撮像装置22は、互いに同期が取れており、同一タイミングで周辺環境を撮影し、一対のアナログ画像To,Tcを画像取得部100へ出力する。
環境測定装置23は、撮像装置21,22が撮影する周辺環境について環境条件値を測定する装置である。環境測定装置23によって測定される環境条件値は、撮影される画像に影響する環境条件値であることが好ましく、例えば、照度、温度、湿度等を挙げることができる。本実施形態では、環境測定装置23が照度計である場合を例示して説明する。
環境測定装置23は、撮像装置21,22が画像を撮影した時刻において、撮像環境の照度を測定し、照度データとして環境取得部102に出力する。
画像取得部100は、A/D変換回路により、撮像装置21,22から入力された一対のアナログ画像To,Tcを、それぞれ所定の輝度階調のデジタル画像に変換して、マッチング処理部110に出力する。環境取得部102は、環境測定装置23が測定した照度データを取得し、デジタルデータに変換して評価部120の閾値算出部121に出力する。
マッチング処理部110は、画像取得部100が取得した複数の画像To,Tcに基づいて、マッチング処理を行う。画像To,Tcに基づいて、視差点数算出部111は視差点数Pを算出し、信頼度点数算出部112は信頼度点数Rを算出する。視差点数Pおよび信頼度点数Rは、評価値算出部122に出力される。
視差点数算出部111は、基準画像Toおよび参照画像Tcを、所定の画素領域に分割する。そして、基準画像Toの各画素領域PBoごとに、参照画像Tc中においてその画素領域PBoに対応するエピポーララインEPLを設定し、画素領域PBoと、エピポーララインEPL上に存在する参照画像Tc中の画素領域PBcの輝度パターンとを比較する。画素領域PBoと画素領域PBcの比較に際しては、例えば、SAD(sum of absolute difference)、SSD(Sum of Squared Difference)等の評価関数を用いることができる。また、マッチング手法としては、限定されないが、SGM(Semi-Global Matching)法を好適に用いることができる。
視差点数算出部111は、基準画像Toおよび参照画像Tcの画素領域のうち、視差の算出が可能な画素領域の個数を視差点数Pとして算出する。さらに、視差点数算出部111は、視差を算出可能な各画素領域について視差を算出し、視差の値と、視差画像と、画像取得部100から取得した画像データ(撮像画像)とを画像処理部140に出力する。
信頼度点数算出部112は、基準画像Toおよび参照画像Tcの画素領域のうち、認識信頼性の高い画素領域の個数を信頼度点数Rとして算出する。ここで、認識信頼性が高いとは、その画素領域に撮影されている対象物の認識性が高いことを意味する。その画素領域に撮影されている対象物の認識性が低いと、信頼度点数Rは小さくなり、基準画像To上の探索対象となる画素領域に類似する参照画像Tc上の画素領域を探索することが困難となる。その画素領域に撮影されている対象物の認識性が高いと、信頼度点数Rは大きくなり、基準画像To上の対象画素領域に類似する参照画像Tc上の画素領域を探索することが容易となる。例えば、画素領域の輝度が高過ぎたり、低過ぎたりする場合には、その画素領域に撮影されている対象物の認識性が低くなり、信頼度点数Rは小さくなる。
信頼度点数Rは、以下に例示的に説明する信頼度フラグを用いて算出することができる。まず、SGM法を用いて、基準画像To上の対象画素と、参照画像Tc上の探索画素領域との類似度f(D)を算出する。縦軸を類似度f(D)、横軸を視差値Dとしてプロットすると、例えば、図2のように、1つの最小値(図2中のkminで示す)と、複数の極小値(図2中のk1〜k5で示す)が現れる。
図2のグラフにおいて、複数の極小値k1〜k5における類似度f(D)の値に対して、最小値kminにおける類似度f(D)の値が突出しているほど、信頼度フラグはON状態になりやすい。信頼度点数算出部112は、複数の極小値k1〜k5における類似度f(D)の平均値faと、最小値kminにおける類似度fminとを用いて、FR=|fmin−fa|の値を算出する。そして、信頼度点数算出部112は、FRの値が所定値以上である場合に、信頼度フラグはON状態であると判定し、FRの値が所定値未満である場合に、信頼度フラグはOFF状態であると判定する。信頼度点数算出部112は、信頼度フラグがON状態である画素領域の個数を信頼度点数Rとして算出する。
評価値算出部122は、視差点数Pと信頼度点数Rとを用いて、下記式(1)に示す評価値Eを算出し、判定部123に出力する。
E=R/P … (1)
ワイパー等の障害物が撮影された場合には、その障害物によって遮蔽された画素領域について、信頼度点数Rの数値が小さくなる。例えば、図3(a)に示すように、基準画像Toにはワイパーが撮像されていないのに対し、図3(b)に示すように、参照画像TcにワイパーWが撮像された場合には、図3(b)に示すWに含まれる画素領域において認識信頼性が低くなり、信頼度点数Rが低くなる。このような場合、例えば、評価値として、信頼度点数Rを全画素数Pallで除した数値(R/Pall)を用いると、評価値は著しく小さくなる。
これに対して、本実施形態では、評価値算出部122は、上記式(1)に示す評価値Eを算出する。図3(a)(b)のような場合には、図3(b)に示すWに含まれる画素領域においては、視差を算出するための画素領域を見つけることができないため、Wに含まれる画素領域の分だけ視差点数Pの値も小さくなる。また、図3(b)に示すWに含まれる画素領域は、輝度が低下して認識信頼性が低くなっており、マッチング処理に利用できないため、Wに含まれる画素領域の分だけ信頼度点数Rの値も小さくなる。信頼度点数Rと視差点数Pの双方が小さくなるため、評価値Eは、それほど小さくならない。
閾値算出部121は、照度データに基づいて、第1閾値X1および第2閾値X2を算出し、判定部123に出力する。評価値Eの値は、撮像環境の照度(明るさの指標)によって全体的に変化するため、撮像環境の照度に応じて閾値X1、X2を適切に変更することが好ましい。明るい環境では、評価値Eの値が全体的に上昇し、暗い環境では、評価値Eの値が全体的に下降する。閾値算出部121は、環境取得部102から取得した照度に基づいて閾値X1および閾値X2を算出する。このため、照度が高い場合には、閾値X1および閾値X2を比較的高い値に設定し、照度が低い場合には、閾値X1および閾値X2を比較的低い値に設定することができる。
例えば、夜間に走行する車両が暗い環境から市街地などの明るい環境に移動した場合には、撮像環境の照度が著しく上昇する。一方、昼間に走行する車両が明るい環境からトンネルなどの暗い環境に移動すると、撮像環境の照度が著しく下降する。閾値算出部121は、このような照度の変化が計測された場合には、閾値X1および閾値X2を再算出するように構成されていてもよい。
判定部123は、評価値Eと、閾値X1,X2とを用いて、撮像環境が悪化したか否かを判定する。判定部123は、撮像環境が悪化していないと判定した場合には、画像処理部140に画像処理を指示する。判定部123は、さらに、撮像環境の悪化の程度を判定可能に構成することもできる。例えば、判定部123は、撮像環境の悪化の程度が大きいと判定した場合には、異常の報知や運転制御の停止指示を行い、撮像環境の悪化の程度が小さいと判定した場合には、画像処理部140に画像処理を指示するように構成されていてもよい。
画像処理部140は、視差点数算出部111から入力された、視差の値と、視差画像と、撮像画像とを用いて画像処理を行い、画像データや制御信号を外部装置160の表示装置162や運転制御装置163に出力する。
図4に、周辺監視装置10によって実施される周辺監視方法の一部を構成する、周辺監視装置10が行う演算処理のフローチャートを示す。画像取得部100は、画像取得ステップ(ステップS101)を実行し、撮像装置21,22から一対のアナログ画像To,Tc取得してデジタル画像に変換する。環境取得部102は、環境測定装置23が測定した照度データを取得し(ステップS101)、デジタルデータに変換する。
マッチング処理部110は、マッチング処理ステップ(ステップS102)を行う。具体的には、視差点数算出部111は、視差点数Pを算出し、信頼度点数算出部112は、信頼度点数Rを算出する(ステップS102)。
評価部120は、評価ステップ(ステップS103〜ステップS124)を行う。具体的には、評価値算出部122は、視差点数Pと信頼度点数Rとを用いて、上記式(1)に基づいて評価値Eを算出する(ステップS102)。閾値算出部121は、ステップS101において取得した照度データに基づいて、第1閾値X1および第2閾値X2を算出(ステップS103)する。
判定部123は、評価値Eと、閾値X1,X2とを用いて、撮像環境が悪化したか否かを判定し(ステップS104、ステップS106)、撮像環境の悪化の程度を「悪環境1」と「悪環境2」にランク設定する。「悪環境1」は、悪化の程度が比較的低く、画像処理が可能な第1段階に相当する。「悪環境2」は、悪化の程度が比較的高く、画像処理が不可能な第2段階に相当する。
「悪環境1」のランク設定および設定解除は、評価値Eと閾値X1との大小関係によって直ちに実行される。「悪環境2」のランク設定および解除は、評価値Eと閾値X2との大小関係と、カウンタ数b、カウンタ数gと閾値Y1,Y2との比較との双方によって実行される。閾値Y1,Y2は、周辺監視装置10に予め記憶されている。
判定部123は、評価値Eと閾値X1とを比較し(ステップS104)、E<X1の場合には、撮像環境が「悪環境1」にあると判定し(ステップS105)、悪環境1にランク設定する。E≧X1の場合には、判定部123は、撮像環境が悪化していないと判定し、現在、悪環境1にランク設定中である場合には悪環境1の設定を解除した上で(ステップS111)、画像処理部140に画像処理を指示する(ステップS131)。
ステップS105において悪環境1にランク設定した後、判定部123は、評価値Eと閾値X2とを比較し(ステップS106)、E<X2の場合には、カウンタ数をb=b+1に更新する(ステップS107)。さらに、ステップS108では、判定部123は、カウンタ数bがb≧Y1を満たしていることを条件に、「悪環境2」のランク設定を行う(ステップS109)。「悪環境2」のランク設定は、画像処理が不可能な状態であるから、判定部123は、画像処理部140に画像処理を指示することなく、報知装置161や運転制御装置163に対して、異常の報知や運転制御の停止に関する指示を行い(ステップS131)、処理を終了する。
すなわち、判定部123は、撮像環境の悪化の程度が「悪環境1」であると判定された後に、E<X2を満たす評価値Eを所定のデータ数以上取得したことを条件として、撮像環境の悪化の程度は、「悪環境2」であると判定する。この場合、判定部123は、画像処理部140に画像処理を指示することなく、報知装置161や運転制御装置163に対して、異常の報知や運転制御の停止に関する指示を行い(ステップS131)、処理を終了する。
ステップS106で、E≧X2の場合には、ステップS121に移行し、判定部123は、現在、悪環境2にランク設定中であるか否かを判定する。悪環境2に設定中である場合には、判定部123は、カウンタ数をg=g+1に更新し(ステップS122)、ステップS123に移行する。ステップS123では、判定部123は、カウンタ数gがg≧Y2を満たしていることを条件に、「悪環境2」のランク設定を解除した上で(ステップS124)、画像処理部140に画像処理を指示する(ステップS131)。
カウンタ数gがg<Y2の場合には、判定部123は、「悪環境2」の設定解除を行うことなく、演算処理を終了する。ステップS121において、悪環境2に設定中でない場合には、判定部123は、画像処理部140に画像処理を指示する(ステップS131)。
すなわち、判定部123は、撮像環境の悪化の程度が「悪環境2」であると判定された後に、E≧X2をみたす評価値Eを所定のデータ数以上取得したことを条件として、撮像環境の悪化の程度についての「悪環境2」の設定を解除する。
以上説明した本実施形態によれば、以下の効果を奏する。
評価値算出部122は、評価値Eを上記式(1)に基づいて算出する。このため、障害物が撮像される等によって一部の画素領域でのみ輝度が大きく低下し、認識信頼性の高い画素領域の個数が減少する等によって信頼度点数Rが小さくなった場合に、評価値Eが小さくなり過ぎないようにすることができる。その結果、一部の画素領域でのみ輝度が大きく低下しても周辺環境を認識できるような場合に、判定部123において「撮像環境が悪化した」と判定されたり、その判定の結果、周辺監視装置による画像処理や車両の制御が停止されたりすることを抑制することができる。
閾値算出部121は、撮像装置21,22が撮影した複数の画像の照度に基づいて閾値X1,X2を算出するため、撮像環境の明るさによって全体的に変化する評価値Eの値に応じて適切な閾値X1,X2を算出することができる。その結果、周辺監視装置による画像処理や車両の制御が不適切に停止されることを抑制することができる。
判定部123は、撮像環境の悪化の程度が第1段階であると判定された後に、E<X2を満たす評価値Eを所定のデータ数以上取得したことを条件として、撮像環境の悪化の程度は、画像処理が不可能な第2段階(悪環境2)であると判定する。このため、一時的に撮像環境が悪化した場合に、周辺監視装置による画像処理や車両の制御が不適切に停止されることを抑制することができる。
判定部123は、撮像環境の悪化の程度が第2段階(悪環境2)であると判定された後に、E≧X2をみたす評価値Eを所定のデータ数以上取得したことを条件として、第2段階(悪環境2)の設定を解除する。このため、一時的に撮像環境が改善した場合に、周辺監視装置が誤作動して不適切に画像処理や車両の制御が実行されることを抑制することができる。
・なお、上記の実施形態では、距離検出装置、撮像装置等の計測装置と、報知装置、表示装置、運転制御装置等とを含まない周辺監視装置を例示して説明したが、これに限定されない。周辺監視装置は上記の装置等を含んでいてもよく、さらには、一体化されていてもよい。
・評価値算出部122は、第2の評価値として、信頼度点数Rを全画素数Pallで除した評価値:E2=R/Pallを算出してもよい。さらには、判定部123は、上記式(1)の評価値Eと、第2の評価値E2の双方を用いて撮像環境の悪化を判定するものであってもよい。判定部123において第2の評価値E2を用いた評価を併せて実行することによって、撮像環境悪化の影響が画像全体に表れている場合を的確に検知して、周辺監視装置10が誤作動して不適切に画像処理や車両の制御が実行されることを抑制することができる。