[go: up one dir, main page]

JP5089545B2 - 道路境界検出判断装置 - Google Patents

道路境界検出判断装置 Download PDF

Info

Publication number
JP5089545B2
JP5089545B2 JP2008237878A JP2008237878A JP5089545B2 JP 5089545 B2 JP5089545 B2 JP 5089545B2 JP 2008237878 A JP2008237878 A JP 2008237878A JP 2008237878 A JP2008237878 A JP 2008237878A JP 5089545 B2 JP5089545 B2 JP 5089545B2
Authority
JP
Japan
Prior art keywords
road
boundary
dimensional object
area
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008237878A
Other languages
English (en)
Other versions
JP2010072807A (ja
Inventor
拓久哉 中
竜彦 門司
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Astemo Ltd
Original Assignee
Hitachi Automotive Systems Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Automotive Systems Ltd filed Critical Hitachi Automotive Systems Ltd
Priority to JP2008237878A priority Critical patent/JP5089545B2/ja
Priority to PCT/JP2009/060975 priority patent/WO2010032523A1/ja
Priority to US12/920,405 priority patent/US8411900B2/en
Priority to EP09814368.8A priority patent/EP2336999B1/en
Publication of JP2010072807A publication Critical patent/JP2010072807A/ja
Application granted granted Critical
Publication of JP5089545B2 publication Critical patent/JP5089545B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • G06V20/647Three-dimensional objects by matching two-dimensional images to three-dimensional objects
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/10Path keeping
    • B60W30/12Lane keeping

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、車両に搭載された複数の撮像装置によって立体物で区切られた道路境界を検出して車両の走行領域を判断する装置、特にオクルージョンや撮像画像が不明瞭のため道路境界に相当する立体物の検出が困難である場合にも対応できる道路境界検出判断装置に関する。
従来から、自動車の安全運転を確保するために運転者に警報を与えたり、操作支援を行ったりするASV(Advanced Safety Vehicle:先進安全自動車)に関して、技術開発が進められている。ASVには、特に自動車の道路からの逸脱を防止するために、道路の境界を検出することが必要である。そこで、自動車に搭載したカメラを用いて、車道を規定する路面上の車線や道路鋲などの道路標示を検出する方法がよく用いられる。
しかし、高速道路や整備された道路には道路標示の存在を期待できるが、幅員の狭い道路や整備途中の道路では、車道外側線の外側には道路標示のない場合が多い。また、カーブ半径の短い道路では、道路湾曲部の車線がカメラに映りにくいため、道路の境界を判断するのが困難である。そのため、車線や道路鋲等の道路標示だけでなく、歩車道分離ブロック、歩道、生垣、ガードレール、側壁、ポール等の立体物からも、道路の境界を判断する必要がある。
カメラを用いて、立体物で区切られた道路境界を検出する方法として、2台以上の複数のカメラを用いる方法がある。例えば、特許文献1には、2台のカメラから得たステレオ画像を基に撮像領域中の立体物の路面からの高さを算出し、ガードレールや側壁等の連続する立体物を検出することにより、道路境界を検出する方法が提案されている。
また、特許文献2には、2台のカメラを用い平面投影ステレオ法による路肩検出装置及び方法が開示されている。平面投影ステレオ法では、一方のカメラで得た画像中のすべてのものが道路平面に存在すると仮定し、これを他方のカメラからの見た画像に変換する。変換された画像は、道路平面に相当する部分は変形せず、立体物に相当する部分のみ変形した画像になっている。この変換された画像と他方のカメラで得た画像と比較することにより、道路平面上の立体物を検出できるのである。
特開平11−213138号公報 特開2003−233899号公報
上記の特許文献1に記載された手法では、立体物の路面からの高さを算出するためにはステレオ画像間の対応点探索を行う必要があるが、明るさが低下する等の環境変化によって画像中の立体物のエッジや濃淡パターンが不明瞭になると、一般的に対応点探索の精度が低下する。また、立体物の高さが低い場合や遠方に存在する場合では、画像に映る立体物が小さくなり、立体物の路面からの高さを求めるのが困難となる。特許文献1の技術では、こうした立体物の高さの得られない道路では、立体物で区切られた道路境界を得ることが難しくなるという問題が生じる。
また、特許文献2に記載された手法では、車両の走行する道路平面を予め知っておく必要があり、勾配変化の多い道路に適用する場合や遠方にある立体物で区切られた道路境界を検知することが難しいという問題が生じる。
本発明は、上記のような従来技術の問題の解決を課題として、環境変化に強く、遠方の立体物で区切られた道路境界も検出可能な道路境界検出判断装置を提供することを目的とする。
上記課題を解決するために、本発明の道路境界検出判断装置は、自車両の走行する道路の境界の立体物を検出し判断する車載装置であって、前記道路領域を撮像する2台以上のカメラを有する画像取得部と、前記画像取得部によって得られた画像に基づいて撮像領域の3次元距離情報を取得する距離データ取得部と、前記距離データ取得部によって得られた3次元距離情報に基づいて前記道路領域に存在する立体物の高さを検出して道路境界を検出する道路境界検出部と、前記道路境界検出部において、道路境界に相当する立体物の高さを検出できた第1の道路領域と、道路境界に相当する立体物の高さを検出できなかった第2の道路領域について、前記画像を変換して前記第1の道路領域の境界に相当する立体物及び第2の道路領域の境界に相当する立体物が同じであるか否かを判断する同一境界判断部とを備え、前記同一境界判断部が前記第1及び第2の道路領域の境界に相当する立体物が同じであると判断した場合には、前記第2の道路領域を第1の道路領域に再設定することを特徴とする。
本発明によれば、環境の明るさ変化や遠方に存在することによって画像中の立体物のエッジや濃淡パターンが不明瞭になる場合、また、オクルージョンが発生して立体物の3次元距離データを一部検出できない場合等において、既に求まっている立体物の画像情報を基にして画像中から立体物の探索を行うことにより、立体物で区切られた道路境界を検出し判断することができる。
以下、道路境界検出装置の実施の形態について、図を参照して説明する。
<実施例1>
図1は、実施例1の道路境界検出判断装置の構成を示すブロック図である。道路境界検出判断装置1は、左カメラ100、右カメラ101と、同時刻のタイミングで撮像した左カメラ100と右カメラ101との画像を保存する画像取得部102を備える。道路境界検出判断装置1は、更に画像取得部102に保存された2つの画像から左右カメラの撮像領域の3次元距離データを取得する距離データ取得部103と、距離データ取得部103によって得られた3次元距離データに基づき道路境界を検出する道路境界検出部104と、道路境界検出部104の出力と画像取得部102の出力から道路境界の位置と高さを出力する同一境界判断部105を備える。
図2は、左カメラ100と右カメラ101を搭載した自車両110を示す。自車両の進行方向に対して、左カメラ100は左側に、右カメラ101は右側に設置される。通常はフロントウィンドウの内側に設置されるが、左右のヘッドライトカバー内に設置してもよいし、また、フロントグリル部に設置してもよい。左右カメラ100, 101の光軸間長さ及び路面からの高さは、自車両110の種類に応じて適宜設定する。また、左右カメラ100, 101の視野角が所定量だけ重なるように設置する。
画像取得部102は、左右カメラ100, 101に対し、同時刻のタイミングで撮像するよう撮像タイミング信号を出力し、電子シャッター若しくはメカニカルシャッターによって所定の露光時間後に左右カメラ100, 101との画像データを取得してメモリに保存する。
距離データ取得部103は、左右カメラ100, 101で撮像した領域の3次元距離データを算出してメモリに保存する。3次元距離データは、三角測量の原理に基づき3次元空間中のある点の左右画像間での対応付けを行うことで算出する。画像間の対応付けには、輝度差の総和SAD(Sum of Absolute Difference)、輝度差の2乗和SSD(Sum of Squared Difference)、正規化相関マッチング法や位相限定相関法等の方法がよく用いられ、サブピクセル精度での対応付けを行うことにより、3次元距離データの精度を向上することができる。なお、3次元距離データの座標系は、図2に示すように、進行方向をZ軸202、自車両110の幅方向をX軸200、高さ方向をY軸201とし、原点は左右カメラ設置位置の中心とする。(この座標系を以下「世界座標系」という。)
道路境界検出部104は、距離データ取得部103によって算出された3次元距離データに基づいて、道路境界に相当する立体物が存在するかを判定する部である。図3は右カメラ101によって撮像された画像であり、この画像に写る縁石320の検出例を、以下、説明する。なお、図15〜図18は、実施例1の処理の流れを示すフローチャートである。
図4はXZ平面を真上から眺めた俯瞰図であり、黒点は距離データ取得部によって算出された3次元距離データ(図15のS02参照)の位置を示す。3次元距離データは左右カメラ100, 101の視野範囲内に分布しており、一般的に自車両遠方側に比べて近傍側のデータ数が多い。この3次元距離データ分布から道路境界に相当する立体物を検出するために、図4に示すようにZ軸方向に所定間隔毎に区切った領域(この領域を以下「短冊」という。)を設ける(図15のS03参照)。そして、短冊毎に道路境界の検出処理を行う。短冊幅の長さは適宜設定してよいが、自車両110の幅に相当する長さに設定することが望ましい。また、自車両110の車速に応じ(X軸方向の)長さを変えてもよい。
次に、短冊に含まれる3次元距離データから道路形状を求める(図15のS04参照)方法を説明する。図5は3次元距離データをYZ平面に投影した図であり、横軸が奥行き方向のZ軸202、縦軸が高さ方向のY軸201である。黒点は、図4と同様に3次元距離データの位置を示す。短冊番号W1の短冊中に含まれる3次元距離データをX軸Y軸で張られるXY平面に投影すると、図6に示すデータ分布が得られる。この分布から次式で表される道路モデルに従って道路形状を推定する。
Figure 0005089545
式1は、1次方程式で表わされる道路モデルであり、a及びbはパラメータである。パラメータの算出方法は種々のものがあるが、例えばXY平面上のデータ分布に対してハフ変換を用いる場合は、ハフ空間の所定領域で投票数が最大となるa及びbを選択すればよい。さらに、ハフ変換で算出された値を初期値とし、M推定法によってa及びbを再探索し、はずれ値の影響を減らす方法を用いるのがよい。また、一次方程式ではなく多次元方程式を道路モデルに用いてもよい。
式1の道路モデルを前記データ分布に当てはめた結果は、図6に示された直線400である。この算出された道路モデルに対して、所定高さ以上の立体形状が進行方向に対して左右それぞれ存在するかどうかを探索する。探索方法としては、例えば図7に示すように、直線400をX軸、直線400に直行する直線402を新たにY’軸とし、所定高さ以上のデータ群が存在するかを探索すればよい。探索した結果、図7に示された斜線領域401に左側の道路境界に相当する立体物の存在を確認する。
上記処理を短冊毎に繰り返し実行することにより、左右道路境界に相当する立体物の高さ及び位置を検出する(図16のS08参照)。そして、短冊毎に左右道路境界に相当する立体物の検出状況に応じて、左右に分けたそれぞれに、立体物の検出できた領域を第1の道路領域に(図16のS14参照)、立体物を検出できない場合は第2の道路領域に(図16のS15参照)分類する。
図8は、上記処理によって検出された道路境界に相当する立体物の3次元距離データの分布を示すもので、左右に左右道路境界に相当する立体物の3次元距離データの分布310, 311が認められる。図9は、図8に示された検出結果に対応した短冊毎の分類結果を示す。以上に記載したようにして得られた短冊毎の道路境界に相当する立体物の高さと位置、そして分類結果のデータを、メモリに保存する。
同一境界判断部105は、道路境界検出部104の分類結果に基づき、画像取得部102で得られた画像における第1の道路領域に相当する画像と第2の道路領域に相当する画像との比較を行うことにより、第2の道路領域に第1の道路領域と同一の立体物が存在するかを判断する部である。取得した画像毎にこの推定処理を行うため、立体物がオクルージョンによって隠されている場合にも道路境界を推定することが可能である。
次に、同一境界判断部の処理の流れを説明する。まず、道路境界検出部の処理結果から第2の道路領域に分類された短冊を探索する(図17のS18参照)。該当する短冊が見つかった場合、左右カメラ100, 101から得られた画像を、該当する短冊の手前に位置する(又は該当する短冊から所定数の短冊間に含まれる)第1の道路領域の立体物を正面に見る画像に、それぞれ射影変換する(図17のS19参照)。前記画像を変換することにより、消失点に向って第1及び第2の道路領域に相当する画像が小さくなって比較が難しくなる問題を解消することができる。さらに、第1及び第2の道路領域に相当する画像の位置関係を水平にすることで、比較を容易にすることができる。その変換式を次に示す。
Figure 0005089545
Figure 0005089545
ここで、u, vは変換前の画像位置、u', v'は変換後の画像位置、λは固有値を表す。射影変換行列Hの要素をh11からh33の変数で表す。
そして、射影変換行列Hは、次式によって算出することができる。
Figure 0005089545
ここで、行列Aはカメラに装着したレンズの焦点距離、画像中心、画素サイズからなる3行3列の内部パラメータ行列である。行列Rとベクトルtは、それぞれ世界座標系に対するカメラの姿勢に関する3行3列の回転行列とカメラの3次元位置である。行列A、行列R、ベクトルtは、左右カメラ100, 101に対してそれぞれ用意されており、工場出荷前に行われるカメラ校正によって予め値が既知である。ただし、車両搭載後のカメラ校正で値が変更された場合は最新の値を用いることにする。
行列R'とベクトルt'は、前記の該当する短冊の手前に位置する(又は該当する短冊から所定数の短冊間に含まれる)第1の道路領域の立体物を正面に見るようにカメラの姿勢及び3次元位置を仮想的に移動した場合の回転行列と3次元位置を表している。この仮想カメラの姿勢は、例えば、第2の道路領域に分類された短冊より1つ手前にある短冊に存在する立体物にカメラ光軸が向くようにする。これを図10に示された例について言えば、短冊番号W4に存在する立体物の3次元距離データをXZ平面に投影したデータのよる直線334に対して直角で、かつ(式1)の道路モデルに平行となる直線331に対し、光軸が重なるように又は平行となるように仮想カメラの向きを設定すればよい。
図10に示した例では、仮想カメラの3次元位置は、短冊番号W4に存在する立体物の3次元距離データの重心位置332を注視位置とし、この注視位置332を、前記設定したカメラ光軸が通り、自車両のカメラから前記注視位置までの距離に等しくなる位置333に設定している。つまり、直線331において、直線330の長さに等しい位置333にカメラの3次元位置を設定すればよい。
このように、(式4)によって、射影変換行列Hを算出することができる。ただし、短冊に存在する立体物の3次元距離データ数が所定数より少ない場合は、更に一つ手前の短冊に含まれる立体物の3次元距離データを用いるのがよい。
図11及び図12は、射影変換で画像変換する例を示す。図11は右カメラ101から取得した画像であり、道路境界検出部104によって検出された道路境界に相当する立体物は、図11に示された画像中の斜線部410, 411で表されている。図12は、図11の斜線部410で示す領域の立体物について、短冊番号W4の立体物を正面に見るように射影変換した画像を示す。以上のように変換することによって、消失点に向って小さくなる立体物の画像の変化を抑えることができ、更に第1の道路領域と第2の道路領域の画像位置を水平にすることができる。
次に、射影変換した画像において、立体物を検知しない第2の道路領域に相当する画像領域の所定位置に、所定サイズのテンプレートを設定する(図17のS20参照)。テンプレートサイズの設定としては、前記第2の道路領域に隣接する短冊の一つ手前にある短冊(第1の道路領域)に存在する立体物の画像中の縦幅を、一辺の長さとする正方形にするのがよい。テンプレート位置については、この射影変換した画像における第1の道路領域に、水平方向で隣接する第2の道路領域に設定すればよい。
このように設定したテンプレートを、探索範囲である第1の道路領域に相当する画像領域内で動かし、このテンプレート内の画像とこの第1の道路領域に相当する画像領域内との類似度を算出する(図17のS21参照)。
この類似度の最大値が所定値より高い場合、類似度の最大となるテンプレート位置に対応する第1の道路領域に存在する立体物と同じ高さの立体物が、テンプレートを設定した画像位置に存在すると推定する(図18のS23参照)。また、左右カメラ100, 101から得られる画像毎に前記テンプレートマッチング処理を行い、左右どちらか一方の類似度が所定値を上回る場合にも、前記と同様に類似度が最大となるテンプレート位置に対応する第1の道路領域に存在する立体物と同じ高さの立体物が存在すると判断する。
以上の処理をテンプレートの設定位置をずらしながら、第2の道路領域に設定された短冊に相当する画像領域全体にわたって処理を行う。もし一度でも類似度の最大値が所定値を上回った場合は、その短冊を第2の道路領域から第1の道路領域に再設定する(図18のS25参照)。
この類似度の最大値が所定値より小さい場合は、道路領域に相当する立体物が存在しないと判断する(図18のS26参照)。
以上の処理を全ての第2の道路領域に分類された短冊に対して実行することにより、3次元距離データで検出できなかった道路境界に相当する立体物の位置と高さを推定する(図18のS28参照)。なお、類似度としては、コントラストや明度の変化に強い相関係数を用いるのがよい。これに限らず、フーリエ変換等のテクスチャーを示す尺度を用いてもよい。
図13は、テンプレートを設定する例のテンプレート設定領域420と探索範囲421を示す。テンプレートは、第2の道路領域に分類されている短冊番号W5の画像領域中に設定され、探索範囲421とテンプレートマッチングを行って、類似度の最大値が所定値を上回るか否かを判定する。この判定が済むと、テンプレートの設定領域を、図13において右側にずらし、再度探索範囲421とテンプレートマッチングを行う。なお、テンプレートの設定領域を右側にずらす際に、前回の設定領域と所定範囲を被らせるようにしてもよい。
また、上記処理において、立体物のXZ平面上の位置(X, Z)を推定するには、例えば図14に示されたように、射影変換行列を求める際に算出したXZ平面上の直線334と、テンプレート位置に対応する視線をXZ平面に投影した直線340との交点341の座標とするのがよい。ただし、短冊番号W4内の3次元距離データだけではなく、他の第1の道路領域に相当する短冊の3次元距離データもXZ平面に投影し、この投影データに当てはめた高次方程式と直線340との交点の座標としてもよい。
以上のようにして、道路境界検出部104と同一境界判断部105により、自車両の進行方向に存在する道路境界に相当する立体物の高さと位置を検出することができる。以上、実施例1は、左右2台のカメラを用いる形態であるが、2台を超える数のカメラがある場合では、その中の2台のカメラを組み合わせることにより、実施例1を拡張して適用することが可能である。
<実施例2>
次に、実施例2の道路境界検出判断装置について説明する。図19は、実施例2の道路境界検出判断装置の構成を示すブロック図である。実施例2は、図1に示された実施例1の道路境界検出判断装置に対して、自車両110の運動情報を取得する運動情報取得部123と、移動軌跡を推定する移動軌跡推定部124、更に自車両110の道路からの逸脱を検知する道路境界逸脱判断部125と、運転者に警報を与える警報部が加わった構成である。以下、各部の詳細を説明する。
運動情報取得部123は、自車両110に搭載された車速センサ120、舵角センサ121、加速度・ヨーレートセンサ122の信号を取得する部であり、CAN(Control Area Network)、FlexRayなどの通信プロトコルに則り、所定の時間間隔で信号の送受信を行う。ただし、本発明は、上記の通信プロトコルに制限されるものではなく、他の通信プロトコルを用いてもよい。
移動軌跡推定部124は、運動情報取得部123によって取得された自車両の車速、舵角、加速度・ヨーレートに基づいて、自車両の所定時間後までの移動軌跡を推定する部である。移動軌跡の推定には、自車両の車両ダイナミクスに基づく車両運動モデルを用いる。車両運動モデルを用いた移動軌跡の推定には、所定時間までの数値積分を行う必要があるが、各種センサの信号に含まれる計測誤差が蓄積して推定誤差が肥大化してしまうおそれがある。
これに対して、例えばGPS(Global Positioning System)から得られる位置情報を付加することにより、推定誤差の低減が可能である。推定される移動軌跡の位置情報は、図2に示されたX軸200、Y軸201、Z軸202からなる世界座標系におけるXZ平面上の点とする。なお、道路境界検出部104で推定された道路モデルに、移動軌跡を投影するようにしてもよい。また、本発明は、移動軌跡推定法に限定されるものではなく、他の推定法を用いてもよい。
本移動軌跡推定部124によって推定された移動軌跡の位置情報は、メモリに保存される。なお、メモリには、短冊毎に一つの移動軌跡の位置情報を保存してもよいし、所定時間毎の位置情報を保存してもよい。
道路境界逸脱判断部125は、移動軌跡推定部124で推定された移動軌跡の位置情報と、道路境界検出部104と同一境界判断部105とによって得られた左右道路境界に相当する立体物の位置情報とに基づいて、自車両が道路境界を逸脱するか否かを判断する部である。図20は、逸脱判断を行う例を示す。移動軌跡推定部124で推定された移動軌跡316が道路境界検出部104と同一境界判断部105とによって検出及び推定された左側道路境界に相当する立体物315の位置を横切る様子を示している。
以下、図20を参照して判断処理内容を説明する。まず、左右道路境界の立体物を横切る移動軌跡の位置318を推定する。それから、次式により、横切り位置318までの走行距離Lと車速vより、境界を横切るまでの横切り時間tcを算出する。
Figure 0005089545
さらに、横切り位置318の連続推定回数Ncをカウントする。この連続推定回数Ncは、運転者のハンドル操作による舵角の微小振動や、車速センサ120、加速度・ヨーレートセンサ122の出力信号に含まれるノイズによって移動軌跡が振動し、横切りの誤判断を低下する目的で設定する。
横切り時間tcが所定値より短く、連続推定回数Ncが所定値より大きい場合、自車両の道路逸脱の可能性が高いと判断する。なお、横切り時間tcに関する所定値は、所定の減速度で横切り位置までに停止するのに必要な時間と、運転者の障害物を認知・判断して回避又は制動操作を行う一連の動作にかかる時間の統計値に基づいて設定することが望ましい。こうして、道路境界逸脱判断部によって逸脱防止のための警報を出すか出さないかの判断がなされる。
警報部126は、道路境界逸脱判断部125の判断結果に基づいて、運転者に警報を出す部分である。警報としては、自車両に搭載されているスピーカを利用した警報音や警報ランプの点灯が望ましい。また、ハンドルを加振させるようにしてもよい。なお、本発明は、上記の警報の与え方に限定されるものではなく、他の方法を用いるようにしてもよい。
以上のとおり、実施例2は、運転者に道路逸脱警報を与えることにより、道路逸脱を未然に防ぐことが可能となる。
実施例1の道路境界検出判断装置のブロック図。 車両に搭載された左右カメラの配置と座標系。 図2に示された右カメラで進行方向を撮像した画像の一例。 車両に搭載された左右カメラで撮像した画像による3次元距離データをXZ平面へ投影した画像と、Z方向で所定間隔毎に区分された領域である短冊。 車両に搭載された左右カメラで撮像した画像による3次元距離データをYZ平面へ投影した画像と、Z方向で区分された領域である短冊。 短冊に含まれる3次元距離データの分布と検出された道路形状。 短冊に含まれる3次元距離データの分布と検出された道路境界に相当する立体物。 道路境界に相当する立体物の3次元位置距離データのXZ平面上の分布状況。 短冊番号と左右道路境界に相当する立体物の検出状況の一例。 立体物の3次元位置データの重心と仮想視点のXZ平面上の位置。 車両の右カメラから取得した画像の一例と、検出された道路境界に相当する立体物。 図11における左側の道路境界に相当する立体物の領域410を正面に見る画像に変換した画像の一例。 テンプレートの設定領域とテンプレートマッチングの探索範囲。 立体物の推定位置(X,Z)を求める方法。 実施例1の動作のフローチャートの一部。 実施例1の動作のフローチャートの一部。 実施例1の動作のフローチャートの一部。 実施例1の動作のフローチャートの一部。 実施例2の動作のフローチャートの一部。 道路境界から逸脱するシーン。
符号の説明
100…左カメラ、101…右カメラ、102…画像取得部、103…距離データ取得部、104…道路境界検出部、105…同一境界判断部、110…自車両、120…車速センサ、121…舵角センサ、122…加速度・ヨーレートセンサ、123…運動情報取得部、124…移動軌跡推定部、125…道路境界逸脱判断部、126…警報部、
200…X軸、201…Y軸、202…Z軸、
300…3次元距離データ、301…短冊、305…短冊301に含まれる3次元距離データ、310…左側道路境界に相当する立体物データ、311…右側道路境界に相当する立体物データ、315…検出及び推定された左側道路境界に相当する立体物データ、316…短冊毎の自車両の移動軌跡位置、317…移動軌跡の点列、320…縁石、330…注視位置までの距離、331…仮想視点位置と注視位置との距離、332…注視位置、333…仮想視点位置、334…短冊W4に含まれる3次元距離データのXZ投影点に対する直線当てはめ結果、340…類似度が最大になるテンプレート位置に対応するXZ平面に投影した視線、341…立体物の推定位置、
400…道路形状、401…道路境界に相当する立体物、402…Y’軸、403…X’軸、410…右画面における左側道路境界に相当する立体物データ、411…右画面における右側道路境界に相当する立体物データ、420…テンプレート設定領域、421…探索範囲

Claims (6)

  1. 自車両の走行する道路の境界の立体物を検出し判断する車載装置であって、
    前記道路領域を撮像する2台以上のカメラを有する画像取得部と、
    前記画像取得部によって得られた画像に基づいて撮像領域の3次元距離情報を取得する距離データ取得部と、
    前記距離データ取得部によって得られた3次元距離情報に基づいて前記道路領域に存在する立体物の高さを検出して道路境界を検出する道路境界検出部と、
    前記道路境界検出部において、道路境界に相当する立体物の高さを検出できた第1の道路領域と、道路境界に相当する立体物の高さを検出できなかった第2の道路領域について、前記画像を変換して前記第1の道路領域の境界に相当する立体物及び第2の道路領域の境界に相当する立体物が同じであるか否かを判断する同一境界判断部とを備え、
    前記同一境界判断部が前記第1及び第2の道路領域の境界に相当する立体物が同じであると判断した場合には、前記第2の道路領域を第1の道路領域に再設定することを特徴とする道路境界検出判断装置。
  2. 請求項1に記載された道路境界検出判断装置において、
    前記道路境界検出部は、前記3次元距離情報に基づいて前記自車両から前方に向かって所定間隔毎に道路形状を検出し、かかる検出された道路形状に対して前記所定間隔内の所定領域に高さが所定値以上の立体物が存在するかを判定し、該立体物が存在すると判定された場合、該立体物の3次元位置と高さを算出して前記所定領域を第1の道路領域に分類し、該立体物が存在しないと判定された場合には、前記所定領域を第2の道路領域に分類することを特徴とする道路境界検出判断装置。
  3. 請求項2に記載された道路境界検出判断装置において、
    前記同一境界判断部は、前記道路境界検出部によって検出された第2の道路領域に分類された前記所定の領域の手前の第1の道路領域に分類された前記領域の境界に相当する立体物の3次元距離情報と前記道路形状とに基づいて前記画像を射影変換によって前記立体物を仮想的に正面から見た画像に変換することを特徴とする道路境界検出判断装置。
  4. 請求項3に記載された道路境界検出判断装置において、
    前記同一境界判断部は、前記第1の道路領域に分類された領域の遠方側の画像位置に接する前記第2の道路領域に分類された領域の画像の所定領域をテンプレートとし、該テンプレートと前記第1の道路領域に分類された領域の境界に相当する立体物を含む所定領域内の画像との類似度を算出し、該類似度の最大値が所定値より高い場合、該類似度の最大となるテンプレート位置に対応する立体物が前記第2の道路領域に分類された前記領域に存在すると判断することを特徴とする道路境界検出判断装置。
  5. 請求項4に記載された道路境界検出判断装置において、
    前記類似度として、相関係数を用いることを特徴とする道路境界検出判断装置。
  6. 請求項1から5のいずれか一つの請求項に記載された道路境界検出判断装置において、
    前記自車両の運動情報を取得する運動情報取得部と、
    前記運動情報取得部によって得られた運動情報に基づいて所定時間後までの前記自車両の移動軌跡を推定する移動軌跡推定部と、
    前記推定された移動軌跡並びに前記道路境界検出部及び前記同一境界判断部によって検出された道路境界に相当する立体物との横切る位置を探索し、該横切る位置が存在する場合には該横切る位置までの距離と前記自車両の速度に基づいて運転者に警報を与える警報部と、を備えることを特徴とする道路境界検出判断装置。
JP2008237878A 2008-09-17 2008-09-17 道路境界検出判断装置 Expired - Fee Related JP5089545B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2008237878A JP5089545B2 (ja) 2008-09-17 2008-09-17 道路境界検出判断装置
PCT/JP2009/060975 WO2010032523A1 (ja) 2008-09-17 2009-06-10 道路境界検出判断装置
US12/920,405 US8411900B2 (en) 2008-09-17 2009-06-10 Device for detecting/judging road boundary
EP09814368.8A EP2336999B1 (en) 2008-09-17 2009-06-10 Device for detecting/judging road boundary

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008237878A JP5089545B2 (ja) 2008-09-17 2008-09-17 道路境界検出判断装置

Publications (2)

Publication Number Publication Date
JP2010072807A JP2010072807A (ja) 2010-04-02
JP5089545B2 true JP5089545B2 (ja) 2012-12-05

Family

ID=42039368

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008237878A Expired - Fee Related JP5089545B2 (ja) 2008-09-17 2008-09-17 道路境界検出判断装置

Country Status (4)

Country Link
US (1) US8411900B2 (ja)
EP (1) EP2336999B1 (ja)
JP (1) JP5089545B2 (ja)
WO (1) WO2010032523A1 (ja)

Families Citing this family (53)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5068779B2 (ja) * 2009-02-27 2012-11-07 現代自動車株式会社 車両周囲俯瞰画像表示装置及び方法
JP5269755B2 (ja) 2009-12-10 2013-08-21 株式会社日立製作所 人横断支援車両システム及び人横断支援方法
JP5161936B2 (ja) * 2010-08-11 2013-03-13 株式会社パスコ データ解析装置、データ解析方法、及びプログラム
US9959595B2 (en) 2010-09-21 2018-05-01 Mobileye Vision Technologies Ltd. Dense structure from motion
US9280711B2 (en) 2010-09-21 2016-03-08 Mobileye Vision Technologies Ltd. Barrier and guardrail detection using a single camera
US9118816B2 (en) * 2011-12-06 2015-08-25 Mobileye Vision Technologies Ltd. Road vertical contour detection
JP5389002B2 (ja) * 2010-12-07 2014-01-15 日立オートモティブシステムズ株式会社 走行環境認識装置
EP2574958B1 (en) 2011-09-28 2017-02-22 Honda Research Institute Europe GmbH Road-terrain detection method and system for driver assistance systems
DE102011084554A1 (de) * 2011-10-14 2013-04-18 Robert Bosch Gmbh Verfahren zur Darstellung eines Fahrzeugumfeldes
DE112012004354T5 (de) * 2011-10-18 2014-07-10 Hitachi Construction Machinery Co., Ltd. Vorrichtung zum Überwachen der Umgebung von Maschinerie
US9297641B2 (en) 2011-12-12 2016-03-29 Mobileye Vision Technologies Ltd. Detection of obstacles at night by analysis of shadows
DE102011056671A1 (de) * 2011-12-20 2013-06-20 Conti Temic Microelectronic Gmbh Bestimmung eines Höhenprofils einer Fahrzeugumgebung mittels einer 3D-Kamera
DE102012101085A1 (de) 2012-02-10 2013-08-14 Conti Temic Microelectronic Gmbh Bestimmung einer Beschaffenheit einer Fahrbahnoberfläche mittels einer 3D-Kamera
JP5820774B2 (ja) * 2012-06-21 2015-11-24 株式会社豊田中央研究所 路面境界推定装置及びプログラム
DE112013003541B4 (de) * 2012-08-15 2018-10-25 International Business Machines Corporation Verfahren, Programm und System zur Merkmalextraktion
US9256791B2 (en) 2012-12-04 2016-02-09 Mobileye Vision Technologies Ltd. Road vertical contour detection
CN104050654B (zh) 2013-03-11 2017-06-09 株式会社理光 道路边缘检测方法和装置
TWI498831B (zh) * 2013-10-15 2015-09-01 Nat Univ Chung Hsing 產生可變形狀之適應性動態區域之系統與其控制方法
DE102013223367A1 (de) 2013-11-15 2015-05-21 Continental Teves Ag & Co. Ohg Verfahren und Vorrichtung zur Bestimmung eines Fahrbahnzustands mittels eines Fahrzeugkamerasystems
EP3751459A1 (en) 2013-12-04 2020-12-16 Mobileye Vision Technologies Ltd. Adjusting velocity of a vehicle for a curve
EP2899669A1 (en) 2014-01-22 2015-07-29 Honda Research Institute Europe GmbH Lane relative position estimation method and system for driver assistance systems
US9298993B2 (en) * 2014-02-27 2016-03-29 Xerox Corporation On-street vehicle parking occupancy estimation via curb detection
US9834207B2 (en) 2014-04-15 2017-12-05 GM Global Technology Operations LLC Method and system for detecting, tracking and estimating stationary roadside objects
JP6374695B2 (ja) * 2014-04-28 2018-08-15 日立建機株式会社 路肩検出システムおよび鉱山用運搬車両
JP6046666B2 (ja) * 2014-06-24 2016-12-21 トヨタ自動車株式会社 走路境界推定装置及び走路境界推定方法
KR101637716B1 (ko) * 2014-11-03 2016-07-07 현대자동차주식회사 차량의 장애물 위치 인식 장치 및 방법
KR20160054825A (ko) * 2014-11-07 2016-05-17 현대모비스 주식회사 주행 가능 공간 판단 장치 및 방법
WO2016113904A1 (ja) * 2015-01-16 2016-07-21 株式会社日立製作所 3次元情報算出装置、3次元情報算出方法、および自律移動装置
JP6358160B2 (ja) * 2015-04-17 2018-07-18 トヨタ自動車株式会社 走行路面検出装置及び走行路面検出方法
CA2994645C (en) * 2015-08-04 2019-05-07 Nissan Motor Co., Ltd. Step detection device and step detection method
KR102079882B1 (ko) * 2015-08-04 2020-02-20 닛산 지도우샤 가부시키가이샤 단차 검출 장치 및 단차 검출 방법
JP6485280B2 (ja) * 2015-08-10 2019-03-20 日産自動車株式会社 段差検出装置及び段差検出方法
DE102016201304A1 (de) * 2016-01-28 2017-08-03 Robert Bosch Gmbh Vorrichtung und Verfahren zum Erfassen eines Randsteins in einer Umgebung eines Fahrzeugs sowie System zur Randsteinkontrolle für ein Fahrzeug
US9852631B2 (en) 2016-03-04 2017-12-26 Conduent Business Services, Llc Mobile on-street parking occupancy detection
EP3217374A1 (en) * 2016-03-10 2017-09-13 Volvo Car Corporation Method and system for estimating a boundary of a road technical field
TWI608448B (zh) * 2016-03-25 2017-12-11 晶睿通訊股份有限公司 計數流道設定方法、具有計數流道設定功能的影像監控系統、及其相關的電腦可讀取媒體
JP6834330B2 (ja) * 2016-10-12 2021-02-24 日産自動車株式会社 走路境界検出方法及び走路境界検出装置
KR102518537B1 (ko) * 2016-12-16 2023-04-07 현대자동차주식회사 운전자 지원 장치 및 그의 차선 정보 제공 방법
US11200433B2 (en) 2017-05-03 2021-12-14 Mobileye Vision Technologies Ltd. Detection and classification systems and methods for autonomous vehicle navigation
CN107926264A (zh) * 2017-10-23 2018-04-20 北京勇搏科技有限公司 一种基于无人驾驶技术的收割机
CN108182412A (zh) * 2017-12-29 2018-06-19 百度在线网络技术(北京)有限公司 用于检测图像类型的方法及装置
JP7344744B2 (ja) * 2019-10-09 2023-09-14 日産自動車株式会社 路側端検出方法、及び、路側端検出装置
JP7359715B2 (ja) 2020-02-14 2023-10-11 株式会社Soken 道路形状推定装置
US11584371B2 (en) 2020-07-15 2023-02-21 Toyota Research Institute, Inc. Systems and methods for using R-functions and semi-analytic geometry for lane keeping in trajectory planning
CN112000757B (zh) * 2020-08-25 2024-05-28 北京四维图新科技股份有限公司 道路边界处理方法及电子设备
KR20230154470A (ko) * 2021-03-15 2023-11-08 모셔널 에이디 엘엘씨 궤적 검사기
CN113869129B (zh) * 2021-08-31 2024-10-01 广州文远知行科技有限公司 一种路肩检测方法、装置及存储介质
US20250044455A1 (en) * 2022-02-10 2025-02-06 Pioneer Corporation Information processing device, control method, program, and storage medium
JP7572980B2 (ja) * 2022-02-15 2024-10-24 ウーブン・バイ・トヨタ株式会社 道路端推定装置、道路端推定方法及び道路端推定用コンピュータプログラム
CN117058213A (zh) * 2022-05-07 2023-11-14 长沙行深智能科技有限公司 一种路沿检测方法、装置、终端设备和存储介质
CN118411684A (zh) * 2023-01-30 2024-07-30 华为技术有限公司 路沿检测方法、装置、系统、计算机可读存储介质及车辆
US12509074B2 (en) * 2023-03-23 2025-12-30 Torc Robotics, Inc. Systems and methods for high precision lane-keeping by autonomous vehicles
CN119379902B (zh) * 2024-09-24 2025-11-14 湖南三一中益机械有限公司 一种施工道路的建模方法、系统、工程机械及电子设备

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05265547A (ja) * 1992-03-23 1993-10-15 Fuji Heavy Ind Ltd 車輌用車外監視装置
JP3324821B2 (ja) * 1993-03-12 2002-09-17 富士重工業株式会社 車輌用車外監視装置
JP3866328B2 (ja) * 1996-06-06 2007-01-10 富士重工業株式会社 車両周辺立体物認識装置
JP3516856B2 (ja) * 1998-01-30 2004-04-05 富士重工業株式会社 車外監視装置
JP3633368B2 (ja) * 1999-05-19 2005-03-30 日産自動車株式会社 障害物検出装置
DE19926559A1 (de) * 1999-06-11 2000-12-21 Daimler Chrysler Ag Verfahren und Vorrichtung zur Detektion von Objekten im Umfeld eines Straßenfahrzeugs bis in große Entfernung
US6801244B2 (en) * 2000-02-29 2004-10-05 Kabushiki Kaisha Toshiba Obstacle detection apparatus and method
JP3759429B2 (ja) * 2001-05-23 2006-03-22 株式会社東芝 障害物検出装置及びその方法
JP3897337B2 (ja) 2002-02-08 2007-03-22 株式会社東芝 路肩検出装置及び方法
JP3786618B2 (ja) * 2002-03-25 2006-06-14 株式会社東芝 画像処理装置及びその方法
JP3697435B2 (ja) * 2002-09-20 2005-09-21 富士重工業株式会社 車外監視装置
JP4328692B2 (ja) * 2004-08-11 2009-09-09 国立大学法人東京工業大学 物体検出装置
JP3937414B2 (ja) * 2004-08-11 2007-06-27 本田技研工業株式会社 平面検出装置及び検出方法
JP4650079B2 (ja) * 2004-11-30 2011-03-16 日産自動車株式会社 物体検出装置、および方法
CN101167085B (zh) * 2005-04-18 2011-11-23 英特尔公司 通过跟踪行人从视频序列进行三维道路布局估计
JP4797794B2 (ja) * 2006-05-24 2011-10-19 日産自動車株式会社 歩行者検出装置および歩行者検出方法
JP2009053818A (ja) * 2007-08-24 2009-03-12 Toshiba Corp 画像処理装置及びその方法

Also Published As

Publication number Publication date
EP2336999A1 (en) 2011-06-22
EP2336999B1 (en) 2020-04-22
EP2336999A4 (en) 2013-10-30
US20110063097A1 (en) 2011-03-17
US8411900B2 (en) 2013-04-02
JP2010072807A (ja) 2010-04-02
WO2010032523A1 (ja) 2010-03-25

Similar Documents

Publication Publication Date Title
JP5089545B2 (ja) 道路境界検出判断装置
EP2933790B1 (en) Moving object location/attitude angle estimation device and moving object location/attitude angle estimation method
US8564657B2 (en) Object motion detection system based on combining 3D warping techniques and a proper object motion detection
JP4420011B2 (ja) 物体検知装置
CN111046743B (zh) 一种障碍物信息标注方法、装置、电子设备和存储介质
CN106663193B (zh) 用于路缘检测和行人危险评估的系统和方法
US20190188498A1 (en) Image Processing Method For Recognizing Ground Marking And System For Detecting Ground Marking
CN108647638A (zh) 一种车辆位置检测方法及装置
JP2010198552A (ja) 運転状況監視装置
JP2012075060A (ja) 画像処理装置及びそれを用いた撮像装置
JP6520740B2 (ja) 物体検出方法、物体検出装置、およびプログラム
EP4020111A1 (en) Vehicle localisation
JP6547785B2 (ja) 物標検出装置
JP2018048949A (ja) 物体識別装置
JP6044084B2 (ja) 移動物体位置姿勢推定装置及び方法
WO2023090170A1 (ja) 画像処理装置
CN115943287B (zh) 车辆姿态推断系统及车辆姿态推断方法
JP6115429B2 (ja) 自車位置認識装置
US12183041B2 (en) Vehicle and control method thereof
CN107430821A (zh) 图像处理装置
JP2011204150A (ja) 車車間通信処理方法および車車間通信処理装置
WO2021145032A1 (ja) 周辺車両位置推定システム、周辺車両位置推定プログラム
KR101380318B1 (ko) 카메라의 캘리브레이션 장치 및 방법
KR20190066396A (ko) 이종 카메라를 이용한 충돌 경고 방법 및 장치
CN111465818B (zh) 图像处理设备、图像处理方法、程序和信息处理系统

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20100115

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120904

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120911

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150921

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5089545

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees