[go: up one dir, main page]

JP2011006005A - 駐車時における運転支援装置及び方法 - Google Patents

駐車時における運転支援装置及び方法 Download PDF

Info

Publication number
JP2011006005A
JP2011006005A JP2009152993A JP2009152993A JP2011006005A JP 2011006005 A JP2011006005 A JP 2011006005A JP 2009152993 A JP2009152993 A JP 2009152993A JP 2009152993 A JP2009152993 A JP 2009152993A JP 2011006005 A JP2011006005 A JP 2011006005A
Authority
JP
Japan
Prior art keywords
vehicle
parking frame
parking
image
parallelism
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009152993A
Other languages
English (en)
Other versions
JP5464324B2 (ja
Inventor
Yusuke Numata
裕介 沼田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Corp
Original Assignee
Kyocera Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Corp filed Critical Kyocera Corp
Priority to JP2009152993A priority Critical patent/JP5464324B2/ja
Publication of JP2011006005A publication Critical patent/JP2011006005A/ja
Application granted granted Critical
Publication of JP5464324B2 publication Critical patent/JP5464324B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Abstract

【課題】簡単な演算処理及び装置構成により駐車枠線に対する自車両の姿勢を検出可能とした駐車時における運転支援装置及び方法を提供することが課題である。
【解決手段】車両100に搭載された撮像装置1により撮像された車両後方の広角撮像画像を用いて、駐車スペース30の左右駐車枠線L1、L2に対する自車両姿勢を検出する駐車時における運転支援装置であって、前記撮像画像から前記左右駐車枠線L1、L2に該当する2本の線形画像を抽出する駐車枠線検出手段と、前記撮像画像の水平方向若しくは垂直方向に対する前記2本の線形画像の傾きθ1とθ2を算出し、該傾きθ1とθ2の相対関係に基づいて前記左右駐車枠線L1、L2に対する車体平行度を検出する車体平行度検出手段と、を備える。
【選択図】図3

Description

本発明は、車両に搭載された撮像装置により撮像された車両後方の撮像画像に基づいて、駐車スペースの左右駐車枠線に対する自車両の姿勢を検出可能とした駐車時における運転支援装置及び方法に関するものである。
車両の運転を支援する技術の一つとして、車載カメラにより車両外部を撮像して撮像画像を車内のモニタに表示したり、画像処理して必要な情報を運転者に提示するようにした技術が知られている。特に駐車時において、車両後方は視認し難いため、例えば駐車スペースに並列駐車する場合など、運転者が左右の駐車枠線を認識することは困難であり、またこの駐車枠線に平行に車両をバックさせることは非常に難しかった。
そこで、車両後方に車載カメラを設置し、車載カメラで撮像した画像を車内のモニタ上に表示することで、ミラーを見ることなく車両後方の様子を運転者に知らせるようにした運転支援装置が普及し始めている。
さらに近年は、これに加えて車載カメラで撮像された画像に所定の画像処理を行って必要な情報を運転者にわかり易く表示するようにした運転支援装置も提案されている。
例えば特許文献1(特開平10−83500号公報)には、車体底面に複数の画像センサを取り付けて路面を撮影し、白線と自車との相対位置関係を計算して車内のディスプレイ上に表示する技術が開示されている。
また、特許文献2(特開平11−334470号公報)には、車載カメラで撮像した画像に、ハンドル舵角に応じたタイヤの予測軌跡を重ねて表示し、車両の進む先を運転者に知らせることを可能とした運転支援装置が開示されている。
特開平10−83500号公報 特開平11−334470号公報
しかしながら従来技術では、後方の駐車枠線を認識するために車体底面に新たに車載カメラを設置したり車載カメラの台数を増加する必要があり、コストが増大してしまうという問題があった。また、車体底面にカメラを設置した場合、車体底面から路面までの距離が近いことから撮影範囲が狭くなり車両直下の白線しか認識されないという問題があった。さらに、車載カメラの取り付け位置に関しても、車体底部に泥はね等で撮像装置の受光窓が汚されて画質を低下させる惧れがある。さらにまた、従来技術では白線と自車両との相対位置関係を計算して求めるようにしているが、演算処理が複雑化するという問題があった。
また、ハンドル舵角の変化に基づいて自車両の姿勢を検知する技術においては、舵角センサが高価であり、舵角センサのセンサ情報を用いてタイヤの進行方向の予測軌跡を計算する処理ユニットも必要となり、コスト増大を招くという問題があった。
そのため本発明においては、簡単な演算処理及び装置構成により駐車枠線に対する自車両の姿勢を検出可能とした駐車時における運転支援装置及び方法を提供することが課題である。
上記課題を解決するため、車両に搭載された撮像装置により撮像された車両後方の広角撮像画像を用いて、駐車スペースの左右駐車枠線に対する自車両姿勢を検出する駐車時における運転支援装置であって、
前記撮像画像から前記左右駐車枠線に該当する2本の線形画像を抽出する駐車枠線検出手段と、
前記撮像画像の水平方向若しくは垂直方向に対する前記2本の線形画像の傾きθ1とθ2を算出し、該傾きθ1とθ2の相対関係に基づいて前記左右駐車枠線に対する車体平行度を検出する車体平行度検出手段と、を備えることを特徴とする。
本発明によれば、左右駐車枠線と自車両との相対位置関係を直接検出することを行なわずに、左右2本の駐車枠線の傾きθ1、θ2の相対関係に基づいて車両の駐車枠線に対する車体平行度を検出するようにしているため、簡単に且つ精度良く車両の姿勢を検出することが可能となる。尚、車体平行度とは、左右駐車枠線と車両の向き(車軸に垂直な向き)との平行の度合いをいう。また、傾きθ1とθ2の相対関係は、例えば、傾きθ1とθ2がプラスマイナスをもつ数値で表される場合、傾きθ1+θ2の値で表される。この場合、θ1+θ2が0に近づくほど車体平行度は平行に近づくものである。しかしながら、傾きθ1とθ2の相対関係は上記に限定されるものではない。他の例として、傾きθ1とθ2の絶対値の差分で表すようにしても良い。この場合、傾きθ1とθ2の絶対値の差分が0に近づくほど車体平行度は平行に近づくこととなる。尚、水平方向若しくは垂直方向に対する2本の線形画像の傾きθ1、θ2は、水平方向若しくは垂直方向に対する2本の線形画像の垂線の傾きとしてもよい。
また、車両後方に一台の撮像装置を設置するのみで車体平行度を検出できるため、新たに複数の撮像装置を設置する必要がなく画像処理部の追加のみで実施が可能であり、安価な装置とすることができる。さらにまた、既存のバックカメラ(リアビューカメラ)を用いることもでき、より一層コスト低減が図れる。
また、前記撮像装置の光軸と前記車両の向きが角度θ3を有する時に、前記車体平行度検出手段に予め角度θ3を設定しておき、前記傾きθ1とθ2の相対関係と前記角度θ3とに基づいて前記左右駐車枠線に対する車体平行度を検出することを特徴とする。
このように、撮像装置の光軸と車両の向きの角度θ3を予め設定しておくことで、光軸が車両の向きに対して傾いている場合でも、精度良く車体平行度を検出可能である。
また、前記撮像画像から前記車両の写り込み部分を含む駐車スペース以外の部分を除外し、垂直方向に対して下方側は左右幅が広く上方側に向けて左右幅が狭くなる形状の処理対象エリアを取得するエリア部読出し手段を備え、該エリア部読出し手段で取得した処理対象エリア内で前記車体平行度検出手段により車体平行度を検出することを特徴とする。
このように、広角撮像画像に映し出された駐車スペースに応じて処理対象エリアを設定し、この処理対象エリア内のみで車体平行度を検出することで、必要なエリアのみを画像処理することとなり処理時間が短縮化される。
さらに、前記駐車枠線検出手段は、前記撮像画像を垂直方向に圧縮して前記線形画像の角度を増幅するようにしたことを特徴とする。
車両と左右駐車枠線が平行に近づいてくると駐車枠線の傾きθ1、θ2が近い値となってしまうため、撮像画像を垂直方向に圧縮して線形画像の角度を増幅することにより高感度で車体平行度を検出することが可能となる。
さらにまた、前記駐車枠線検出手段は、前記抽出された2本の線形画像を垂直方向の上下端より所定の画素分だけ削除して、垂直方向に伸びる線形画像のみを残すようにしたことを特徴とする。
このように、抽出された2本の線形画像を垂直方向の上下端より所定の画素分だけ削除することにより、略垂直方向に伸びる左右駐車枠線のみを残すことができ、水平方向の駐車枠線との区別ができ誤認識を防止できる。
また、前記駐車枠線検出手段は、前記撮像画像から3本以上の複数の線形画像が抽出された時に、該撮像画像の中央からの距離が近い2本の線形画像を選択するようにしたことを特徴とする。
このように、複数の駐車枠線が検出された時に、撮像画像の中央からの距離が近い2本の線形画像を選択することにより、駐車しようとする駐車スペースの左右駐車枠線を確実に検出することが可能となる。尚、複数の駐車枠線が検出された場合に左右駐車枠線に該当する線形画像を選択する手段は上記した手段に限定されるものではない。他の手段としては、例えば抽出された複数の線形画像の面積に基づいて左右駐車枠線を選択する手段、傾きθ1、θ2にしきい値を設けて、θ1、θ2が夫々しきい値から外れるものについては除外し、残った線形画像を左右駐車枠線として選択する手段、などが挙げられる。
また、前記車体平行度検出手段は、前記駐車枠線検出手段で抽出された2本の線形画像の平均直線からなる第1の仮想線と、前記車両の中心線の延長線となる第2の仮想線とのズレを検出し、前記駐車スペースに対する前記車両の車幅方向のズレを検出することを特徴とする。
これにより、車体平行度のみではなく駐車スペースに対する車両の車幅方向のズレを検出することができ、適切な位置に車両を駐車することが可能となる。
さらに、前記車体平行度検出手段で検出された車体平行度に基づいて、前記車両のハンドル操作を促す信号を出力することを特徴とする。
これにより、車両の運転者がリアルタイムで自車両の姿勢を把握することができ、適正な運転操作を行なうことが可能となる。前記信号とは、例えば車内モニタ上に表示するマークや文字、又は車内スピーカから出力する音声等が挙げられる。
また、車両に搭載された撮像装置により撮像された車両後方の広角撮像画像を用いて、駐車スペースの左右駐車枠線に対する自車両姿勢を検出する駐車時における運転支援方法であって、
前記撮像画像を画像処理部に入力し、
前記画像処理部にて、前記撮像画像に2値化処理を含む画像処理を行った後、前記左右駐車枠線に該当する2本の線形画像を抽出し、前記撮像画像の水平方向若しくは垂直方向に対する前記2本の線形画像の傾きθ1とθ2を算出し、該傾きθ1とθ2の相対関係に基づいて前記左右駐車枠線に対する車体平行度を検出するようにしたことを特徴とする。
以上記載のごとく本発明によれば、左右駐車枠線と自車両との相対位置関係を直接検出することを行なわずに、左右2本の駐車枠線の傾きθ1、θ2の相対関係に基づいて車両の駐車枠線に対する車体平行度を検出するようにしているため、簡単に且つ精度良く車両の姿勢を検出することが可能となる。
また、車両後方に一台の撮像装置を設置するのみで車体平行度を検出できるため、新たに複数の撮像装置を設置する必要がなく安価な装置とすることができる。さらにまた、既存のバックカメラを用いることもでき、より一層コスト低減が図れる。
また、撮像装置の光軸と車両の向きの角度θ3を予め設定しておくことで、光軸が車両の向きに対して傾いている場合でも、精度良く車体平行度を検出可能である。
また、広角撮像画像に映し出された駐車スペースに応じて処理対象エリアを設定し、この処理対象エリア内のみで車体平行度を検出することで、必要なエリアのみを画像処理することとなり処理時間が短縮化される。
さらに、撮像画像を垂直方向に圧縮して線形画像の角度を増幅することにより高感度で車体平行度を検出することが可能となる。
さらにまた、抽出された2本の線形画像を垂直方向の上下端より所定の画素分だけ削除することにより、略垂直方向に伸びる左右駐車枠線のみを残すことができ、水平方向の駐車枠線との区別ができ誤認識を防止できる。
また、2本の線形画像の平均直線からなる第1の仮想線と、車両の中心線の延長線となる第2の仮想線とのズレを検出することで、車体平行度のみではなく駐車スペースに対する車両の車幅方向のズレを検出することができ、適切な位置に車両を駐車することが可能となる。
さらに、車体平行度に基づいて車両のハンドル操作を促す信号を出力することにより、車両の運転者がリアルタイムで自車両の姿勢を把握することができ、適正な運転操作を行なうことが可能となる。
本発明の実施形態に係る運転支援装置のブロック構成図である。 撮像画像における処理対象エリアを示す図である。 車体平行度の検出を説明する図で、(a)は駐車枠線と車両の位置関係を示す図、(b)は(a)の状態における撮像装置の撮像画像を示す図である。 光軸と車両が平行でない場合の車体平行度の検出を説明する図で、(a)は駐車枠線と車両の位置関係を示す図、(b)は(a)の状態における撮像装置の撮像画像を示す図である。 圧縮処理を説明する図で、(a)は圧縮前の画像を示す図、(b)は圧縮後の画像を示す図である。 図5とは別の圧縮処理を説明する図で、(a)は圧縮前の画像を示す図、(b)は圧縮後の画像を示す図である。 図6の圧縮処理を説明する図で、(a)は圧縮前の画素イメージ図、(b)は圧縮後の画素イメージ図である。 図6の圧縮処理を説明するフロー図である。 表示マークを合成した撮像画像を示す図である。 車両と駐車スペースのズレ検出を説明する図で、(a)は駐車枠線と車両の位置関係を示す図、(b)は(a)の状態における撮像装置の撮像画像を示す図である。 車両と駐車スペースのズレ検出の処理を説明するフロー図である。 本発明の実施形態に係る運転支援方法の処理を示すフロー図である。
以下、図面を参照して本発明の好適な実施例を例示的に詳しく説明する。但しこの実施例に記載されている構成部品の形状等は、この発明の範囲をそれに限定する趣旨ではなく、単なる説明例に過ぎない。
本発明の実施形態に係る運転支援装置は、路面に描かれた駐車枠線(例えば白線)に対する自車両の姿勢を検知するもので、具体的には、駐車スペースの左右の駐車枠線に対する自車両の角度(車軸に垂直な車体角度)を検知するものである。
図1は本発明の実施形態に係る運転支援装置のブロック構成図である。
撮像装置1は、車両の外部後方の画像を撮像する装置である。該撮像装置1は、レンズ1a、又はレンズとプリズムやミラーとの組み合わせからなる光学素子と、CCD1bやCMOS等の固体撮像素子とを備えており、レンズ1a等に入った入射光が、離れた位置にある撮像素子に伝達されるように構成してもよい。また、該撮像装置1はカラー又はモノクロのデジタルカメラ(車載カメラ)であり、例えば車両後部に設置されたリアビューカメラが用いられる。好適には、撮像装置1は広角レンズを備えて広角視野を有するものとする。撮像装置1は一台または複数台設置されるが、好適には一台の装置を用いる。また、該撮像素子1は不図示のCPU、フレームメモリを備えており、撮像画像をメモリに蓄積して適宜画像処理部10に送信するようになっている。
AFE(アナログ・フロントエンド)部2は、CDS(Correlated Double Sampling:相関二重サンプリング)回路3、AD変換手段4等を備える。撮像装置1の固体撮像素子から出力された画像信号は、CDS回路3にてノイズの一部を除去した後、AD変換手段4でA/D変換され、これらを含む一連の処理によりデジタル信号である画像データに変換される。
画像処理部10は、輝度信号処理手段11と、色信号処理手段12と、画像保存手段(メモリ)13と、遅延回路14と、画像合成手段15と、エリア部読出し手段16と、駐車枠線検出手段17と、車体平行度検出手段18と、表示マーク選択手段19と、表示マーク読出し手段(メモリ)20と、を備える。
輝度信号処理手段11は、色信号と輝度信号を分離した画像データのうち輝度信号を用いてオフセットやゲインの調整、ガンマ変換、鮮鋭化処理等の輝度信号処理を行い、輝度信号の高域成分を抽出して画像の輪郭を強調するものである。
色信号処理手段12は、色信号と輝度信号を分離した画像データのうち色信号を用いてオフセットやゲインの調整、ガンマ変換、ホワイトバランス処理(AWB処理等)等の色信号処理を行うものである。
画像保存手段13は、輝度信号処理手段11で処理された輝度信号と、色信号処理手段12で処理された色信号とが合成された画像データを保存する手段である。
遅延回路14は、エリア部読出し手段16から表示マーク読出し手段20までの処理時間に対応する時間分、前記画像保存手段13からの画像データを遅延させる手段である。
画像合成手段15は、前記画像保存手段13に保存された画像データと、エリア部読出し手段16から表示マーク読出し手段20までの処理を行って得られた表示マークとを合成する手段である。
エリア部読出し手段16は、前記画像保存手段13に保存された画像データから、バンパー38が映し出されたエリアや空又は遠方等の駐車枠線とは関係のないエリアを除外して、駐車スペース30に該当する処理対象エリアA(図2参照)のみを読み出す手段である。図2に示すように、処理対象エリアAは、垂直方向に対して下方側は左右幅が広く上方側に向けて左右幅が狭くなる形状を有することが好ましい。
駐車枠線検出手段17は、前記画像保存手段13に保存された画像データ、又は前記エリア部読出し手段16にて処理対象エリアAのみを読み出した画像データに対して、2値化処理、フィルタ処理、ラベリング処理、ハフ変換処理、圧縮処理等を適宜選択して行い、駐車枠線に該当する2本の線形画像を検出する手段である。
車体平行度検出手段18は、前記駐車枠線検出手段17にて検出された2本の線形画像の傾きの相対関係を算出して、この相対関係に基づいて、車両(車軸に垂直な向き)と左右駐車枠線の平行度を検出する手段である。
表示マーク選択手段19は、前記車体平行度検出手段18にて検出された車両と左右駐車枠線の平行度に基づいて、運転者に対して提示する表示マークを選択する手段である。
表示マーク読出し手段(メモリ)20は、複数の表示マーク(文字を含む)が保存されており、適宜読み出すようにした手段である。
モニタ21は、車内の運転者が視認できる位置に設置され、例えば液晶画面が用いられるが、プラズマ画面等の他の表示デバイスを用いることもできる。モニタ21上には、画像保存手段13に保存された撮像画像や、画像合成手段15により該画像に表示マークを合成した画像などが表示される。該モニタ21は新規に取り付けたものであってもよいが、好適には既存の車両搭載型のGPS用モニタ等を共用してもよい。
図3は本発明の実施形態に係る運転支援方法を説明する図である。図3(a)に示されるように、例えば道路40に対して垂直方向に駐車スペース30が配置されており、並列駐車を行なう場合、ハンドルを操作して車両100の向きを変化させながら、車体角度が左右の駐車枠線L1、L2に平行になるように運転して駐車スペース30に駐車する。その際に、車両100の前部101は駐車スペース30に向いていず、後部102が駐車スペース30に向くこととなる。車両100の後部102には、撮像装置1が設置されている。
図3(a)は、車両100を駐車スペース30に駐車する途中の状態である。左右の駐車枠線L1、L2に対する車体角度は斜めになっており、このとき撮像装置1により図3(b)に示されるような撮像画像が得られる。
撮像装置1により得られた図3(b)の撮像画像は、AFE部2を介して画像処理部10に入力される。画像処理部10では、輝度信号処理部11、色信号処理部12にて所定の処理を行って画像保存手段13に保存された撮像画像から、駐車枠線検出手段17にて駐車枠線に該当する2本の線形画像L1、L2を認識する。そして、車体平行度検出手段18では、撮像画像に任意の点を設定しておき、該任意の点から前記認識した2本の線形画像L1、L2に下ろした垂線と、撮像画像の水平方向若しくは垂直方向との傾きθ1、θ2を検出し、これらの傾きθ1、θ2の相対関係に基づいて車両100の駐車枠線L1、L2に対する姿勢を検知する。
図3に示す本実施形態において、傾きθ1、θ2の相対関係とは、傾きθ1とθ2がプラスマイナスをもつ数値で表された時、傾きθ1+θ2の式で表される。この場合、θ1+θ2の値が0に近づくほど車体平行度は平行に近づき、θ1+θ2の値が大きくなるほど車体平行度は角度が大きくなる。
即ち、この2つの傾きがθ1+θ2=0となっている場合に、車両100が駐車枠線L1、L2に対して平行になっていると判定する。前記任意の点は、例えば図示されるように画面隅部とする。θ1は左の駐車枠線L1の垂線と画面端の角度(傾き)であり、θ2は右の駐車枠線L2の垂線と画面端の角度(傾き)である。前記画面端とは画面上枠の水平方向線である。θ1とθ2はプラスマイナスをもった値としているため、θ1+θ2の式により駐車枠線L1、L2の傾きθ1、θ2の相対関係が得られるものである。また、θ1+θ2=0とならない場合は、車両100と駐車枠線L1、L2が角度を持っていると判定し、そのθ1+θ2の値によって駐車枠線L1、L2に対する車両100の角度を検知する。
尚、傾きθ1とθ2の相対関係は上記に限定されるものではない。他の例として、傾きθ1とθ2の相対関係を、傾きθ1とθ2の絶対値の差分で表すようにしても良い。この場合、傾きθ1とθ2の絶対値の差分が0に近づくほど車体平行度は平行に近づくこととなる。また、傾きθ1とθ2は、水平方向若しくは垂直方向に対する駐車枠線L1、L2の傾きとしてもよいし、水平方向若しくは垂直方向に対する駐車枠線L1、L2の垂線の傾きとしてもよい。
尚、上記した処理は、撮像装置1の光軸と車両100の向きが平行であることを前提としている。
図4(a)に示すように、撮像装置1の光軸L3と車両100の向きL6が平行でない場合は、図4(b)に示されるように、予め撮像装置1の光軸L3と車両100の向きの角度θ3を画像処理部10に登録しておき、左の駐車枠線L1の傾きθ1と、右の駐車枠線L2の傾きθ2の差が、撮像装置1の光軸L3と車両100の角度θ3となる時に車両100が駐車枠線L1、L2に対して平行になっていると判定する。即ちθ1+θ2=θ3となる場合に車両100が駐車枠線L1、L2に対して平行になっているものとする。従って、θ1+θ2=θ3とならない場合は、車両100が駐車枠線L1、L2に対して平行ではなく、そのθ1+θ2の値と、θ3の値がどのくらい離れているかによって駐車枠線L1、L2に対する車両100の姿勢(傾き)を検知する。
また、別の方法として、撮像装置1の光軸L3と車両100の向きが平行でない場合、予め左右の駐車枠線L1、L2と車両100を平行に設置し、撮像装置1により左右の駐車枠線L1、L2を撮像することで撮像装置1の光軸傾きを判別するようにしてもよい。
図5は、駐車枠線検出手段18における圧縮処理を説明する図である。
図5(a)に示すように、車両100と駐車枠線L1、L2が平行に近づいてくると、撮像画像水平方向若しくは垂直方向に対する駐車枠線L1、L2の垂線傾きθ1、θ2が近い値となり、車両100と駐車枠線L1、L2の角度検出の難易度が高くなってくる。そこで、図5(b)に示すように、左右の駐車枠線L1、L2を検出する際に垂直方向に圧縮処理した画像をもとに左右の駐車枠線L1’、L2’を検出する。この圧縮処理は、画像保存手段13に保存された画像をそのまま圧縮処理してもよいし、駐車枠線検出手段17にて2値化処理した後に圧縮処理してもよい。また、圧縮処理する際に、取り込んだ画像に対して1/Nに縦方向圧縮する場合は、Nライン毎にメモリに書き込みを行なうようにする。
図5(a)に示すように画像を垂直方向に圧縮していない場合と、図5(b)に示すように画像を垂直方向に圧縮した場合を比べると明らかなように、圧縮した画像は、撮像画像水平方向若しくは垂直方向に対する駐車枠線L1、L2の垂線傾きθ1’、θ2’が増幅されて大きな値として算出される。このように、撮像画像を垂直方向に圧縮処理することでより精度良く駐車枠線L1、L2と車両100の平行度を検出することが可能となる。
図6乃至図8は、駐車枠線検出手段18における別の圧縮処理を説明する図である。
エリア部読出し手段16にて処理対象エリアAのみを抽出し、駐車枠線検出手段18にて2値化処理した2値化画像は図6(a)に示すようになる。この画像では、水平方向の駐車枠線L4と、左右の垂直方向の駐車枠線L1、L2とが存在する場合がある。そこで、水平方向の駐車枠線L4と左右の駐車枠線L1、L2の区別や誤認識防止のために、駐車枠線の画面縦方向のみを垂直方向から圧縮することで、垂直方向の距離が短い略水平方向の駐車枠線L4は消えることとなり、図6(b)に示されるように略垂直方向に伸びる駐車枠線L1、L2のみを残すことが可能となる。ここでいう圧縮とは、駐車枠線L1、L2、L4を垂直方向の上下端から所定の画素分を削除することをいう。
図8に示す圧縮処理のフローを参照して、具体的な処理を説明する。
まず、撮像装置1で撮像された撮像画像を駐車枠線検出手段18にて2値化処理する(S11)。このとき、撮像装置1で撮像され画像処理部10の画像保存手段13に保存された画像をそのまま2値化処理してもよいし、エリア部読出し手段16にて処理対象エリアAのみを抽出された画像を2値化処理してもよい。
2値化処理した画像を図7(a)に示す。この画像において、画素1列毎に縦方向に走査し(S12)、白から黒又は黒から白に変化する白画素を検出する(S13)。そして、検出された白画素を黒画素に変化させる処理を行なう(S14)。このとき、白画素から黒画素に変化させる画素数は適宜決められるが、予め水平方向の駐車枠線L4の縦方向距離に対応する画素数を取得しておき、この画素数分だけ白画素から黒画素に変化させる処理を行なうことが好ましい。圧縮処理後の画像を図7(b)に示す。
図9は、モニタ21上に表示マーク51、52を表示したモニタ画面を示す。
上記した駐車枠線検出手段18、車体平行度検出手段19によって車両100の左右駐車枠線L1、L2に対する姿勢が検出されたら、該検出された姿勢に応じて運転者に注意喚起を行なう表示マークをモニタ21上に表示する。これは、車両100の姿勢に対応して表示マーク読出し手段20に予め複数の表示マークが登録されており、表示マーク選択手段19にて前記検出された姿勢に基づいて対応する表示マークを表示マーク読出し手段20から選択し、該選択された表示マークを画像合成手段15に送る。画像合成手段15では、画像保存手段13に保存された画像と前記表示マークとを合成して、モニタ21に表示する。例えば、図9(a)に示すようにハンドルを右に回すように促すマーク51と、「ハンドル右へ」という文字とを撮像画像上に表示したり、(b)に示すように、ハンドルをそのままの状態にしておくように促すマーク52と、「ハンドルそのまま」という文字とを撮像画像上に表示する。これは、表示マーク又は文字の何れか一方であってもよいし、モニタ21ではなく車内スピーカを用いて音声により出力する構成としてもよい。
図11は、左右駐車枠線L1、L2に対する車両の車幅方向の相対位置(ズレ)を検出する処理を説明するフロー図である。図11を参照して、以下にフローを説明する。
図10(a)に示すように車両100と駐車枠線L1、L2が平行であることが検知されても、車両100の中心線(光軸)L3と駐車スペース30の中心線35との間にズレがあると、車両100が駐車スペース30の端に駐車されることとなってしまう。
そこで、まず車両100の光軸(第2の仮想線)L3の任意の測定ポイントP1を算出し(S21)、次いで左右の駐車枠線L1、L2の平均直線(第1の仮想線)L5を求め、該平均直線L5の任意の測定ポイントP2を算出し(S22)、各測定ポイントP1、P2の距離を算出することによって駐車スペース30に対する車両100の車幅方向の相対位置を検出する(S23)。該検出された相対位置は、表示マーク選択手段19、表示マーク読出し手段20によりズレの有無、ズレの大きさ等を示す表示マークや文字をモニタ21上に表示して運転者に通知することが好ましい。尚、上記した処理においては、撮像装置1の光軸L3が車両100の中心に合致していることを前提としているが、光軸L3が車両100の中心からずれている場合には、予めそのずれ量を取得して登録しておき、このずれ量を考慮に入れて各測定ポイントP1、P2の距離を算出するとよい。
次に、図12を参照して、本発明の実施形態に係る運転支援方法のフローを説明する。
まず、撮像装置1により車両100の外部後方の画像を撮像し、撮像画像を取り込む(S1)。取り込んだ撮像画像は、AFE部2にてノイズの一部を除去した後、A/D変換され、これらを含む一連の処理によりデジタル信号の画像データ(以下、画像と称する)に変換される。
この画像は画像処理部10に入力され、該画像は輝度信号と色信号に分離されて輝度信号処理手段11と色信号処理手段12にて夫々処理された後、輝度信号と色信号が合成されて画像保存手段13に保存される。
画像保存手段13に保存された画像は、エリア部読出し手段16にて、図2に示すようにバンパー38を除外し、車両100の進行方向手前(画面下)側は左右幅が広く、進行方向奥(画面上)側に向けて左右幅が狭くなる形状のエリアのみを処理対象エリアAとして取得する(S2)。尚、このエリア部読出し手段16は必須の構成ではなく、全画像を用いて以下の処理を行うようにしてもよい。
処理対象エリアAに対して、駐車枠線検出手段17にて、2値化処理や各種フィルタ処理を実施し、左右の駐車枠線L1、L2のみを抽出する(S3)。ここで2値化処理とは、予め設定された所定の輝度閾値に基づいて濃淡のある画像を白と黒の2階調に変換する周知の処理であり、これにより図6(a)に示すような画像が得られる。また、各種フィルタ処理は、図5に示す圧縮処理や、図6乃至図8に示す圧縮処理等である。
2値化処理、圧縮処理を実施した画像に対してラベリング処理を行い、左の駐車枠線L1と右の駐車枠線L2の分類をする(S4)。
ここで、駐車枠線が2本以上検出されたか否かを判断し(S5)、駐車枠線が1本しか検出されない場合又は全く検出されない場合には、画像取り込み(S1)に戻る。駐車枠線が2本以上検出された場合には、ハフ変換を行なって左右の駐車枠線L1、L2に各々近似直線を算出する(S6)。
尚、複数の駐車枠線が検出された時には、撮像画像の中央からの距離が近い2本の線形画像を選択するとよい。複数の駐車枠線が検出された場合に左右駐車枠線に該当する線形画像を選択する方法は上記した方法に限定されるものではなく、他にも、抽出された複数の線形画像の面積に基づいて左右駐車枠線L1、L2を選択する方法、左右駐車枠線L1、L2の傾きθ1、θ2にしきい値を設けて、θ1、θ2が夫々しきい値から外れるものについては除外し、残った線形画像を左右駐車枠線L1、L2として選択する方法、などが用いられる。
そして、車体平行度検出手段18にて、左右の駐車枠線L1、L2における各近似直線の垂線と、画像水平方向との傾きθ1、θ2を算出する。左右の駐車枠線L1、L2の傾きθ1、θ2の相対関係を算出し、この相対関係に基づいて車両100と駐車枠線L1、L2との平行度を検出する(S7)。
このとき、車両100に対して撮像装置1の光軸L3が平行である場合には、傾きθ1、θ2の相対関係にのみ基づいて車両100の平行度を検出し、車両100に対して撮像装置1の光軸L3が傾いている場合には、予め光軸L3と車両100の向きの角度θ3を画像処理部10に登録しておき、角度θ3を考慮して車体平行度を検出する。
車体平行度検出手段18には、予め平行度しきい値が設定されており、検出された平行度と平行度しきい値とを比較し(S8)、検出された平行度が平行度しきい値以下である場合には、車両100が駐車スペース30に略平行であると判断し、表示マーク選択手段19にてハンドル操作完了表示を選択し、表示マーク読出し手段20にて該当する表示マーク(文字を含む)を読出し、画像合成手段15にて画像保存手段13に保存されていた撮像画像と、前記表示マークとを合成してモニタ21に表示する(S10)。
一方、検出された平行度が平行度しきい値より大である場合には(S8)、車両100が駐車スペース30に対して傾いていると判断し、表示マーク選択手段19にてハンドル方向表示を選択し、表示マーク読出し手段20にて該当する表示マーク(文字を含む)を読出し、画像合成手段15にて画像保存手段13に保存されていた撮像画像と、前記表示マークとを合成してモニタ21に表示して、運転者にハンドル操作を喚起する。
本発明の実施形態によれば、左右の駐車枠線L1、L2と自車両100との相対位置関係を直接検出することを行なわずに、左右2本の駐車枠線L1、L2の画面水平方向又は垂直方向に対する傾きθ1、θ2の相対関係に基づいて車両100の駐車枠線L1、L2に対する車体平行度を検出するようにしているため、簡単に且つ精度良く車両の姿勢を検出することが可能となる。
また、車両後方に一台の撮像装置1を設置するのみで車体平行度を検出できるため、新たに複数の撮像装置を設置する必要がなく画像処理部10の追加のみで実施が可能であり、安価な装置とすることができる。さらにまた、既存のバックカメラ(リアビューカメラ)を用いることもでき、より一層コスト低減が図れる。
また、撮像装置1の光軸L3と車両100の向きの角度θ3を予め設定しておくことで、光軸L3が車両100の向きに対して傾いている場合でも、精度良く車体平行度を検出可能である。
また、広角撮像画像に映し出された駐車スペース30に応じて処理対象エリアAを設定し、この処理対象エリアA内のみで車体平行度を検出することで、必要なエリアのみを画像処理することとなり処理時間が短縮化される。
さらに、車両100と左右の駐車枠線L1、L2が平行に近づいてくると傾きθ1、θ2が近い値となってしまうため、撮像画像を垂直方向に圧縮して線形画像の角度を増幅することにより高感度で車体平行度を検出することが可能となる。
さらにまた、抽出された2本の駐車枠線L1、L2を垂直方向の上下端より所定の画素分だけ削除することにより、略垂直方向に伸びる左右の駐車枠線L1、L2のみを残すことができ、水平方向の駐車枠線L4との区別ができ誤認識を防止できる。
また、駐車枠線L1、L2の平均直線からなる第1の仮想線L5と、車両の中心線の延長線となる第2の仮想線(光軸)L3とのズレを検出することで、車体平行度のみではなく駐車スペース30に対する車両100の車幅方向のズレを検出することができ、適切な位置に車両100を駐車することが可能となる。
さらに、車体平行度に基づいて車両100のハンドル操作を促す信号51、52を出力することにより、車両100の運転者がリアルタイムで自車両の姿勢を把握することができ、適正な運転操作を行なうことが可能となる。
本発明は、簡単な演算処理及び装置構成により駐車枠線に対する自車両の姿勢を検出可能としたため、車両後部に車載カメラが設置された車両全般に好適に適用可能である。
1 撮像装置
2 AFE部
10 画像処理部
11 輝度信号処理手段
12 色信号処理手段
13 画像保存手段
14 遅延回路
15 画像合成手段
16 エリア部読出し手段
17 駐車枠線検出手段
18 車体平行度検出手段
19 表示マーク選択手段
20 表示マーク読出し手段
21 モニタ
30 駐車スペース
100 車両
L1 左駐車枠線
L2 右駐車枠線
L3 光軸

Claims (9)

  1. 車両に搭載された撮像装置により撮像された車両後方の広角撮像画像を用いて、駐車スペースの左右駐車枠線に対する自車両姿勢を検出する駐車時における運転支援装置であって、
    前記撮像画像から前記左右駐車枠線に該当する2本の線形画像を抽出する駐車枠線検出手段と、
    前記撮像画像の水平方向若しくは垂直方向に対する前記2本の線形画像の傾きθ1とθ2を算出し、該傾きθ1とθ2の相対関係に基づいて前記左右駐車枠線に対する車体平行度を検出する車体平行度検出手段と、を備えることを特徴とする駐車時における運転支援装置。
  2. 前記撮像装置の光軸と前記車両の向きが角度θ3を有する時に、前記車体平行度検出手段に予め角度θ3を設定しておき、前記傾きθ1とθ2の相対関係と前記角度θ3とに基づいて前記左右駐車枠線に対する車体平行度を検出することを特徴とする請求項1記載の駐車時における運転支援装置。
  3. 前記撮像画像から前記車両の写り込み部分を含む駐車スペース以外の部分を除外し、垂直方向に対して下方側は左右幅が広く上方側に向けて左右幅が狭くなる形状の処理対象エリアを取得するエリア部読出し手段を備え、該エリア部読出し手段で取得した処理対象エリア内で前記車体平行度検出手段により車体平行度を検出することを特徴とする請求項1若しくは2記載の駐車時における運転支援装置。
  4. 前記駐車枠線検出手段は、前記撮像画像を垂直方向に圧縮して前記線形画像の角度を増幅するようにしたことを特徴とする請求項1乃至3の何れかに記載の駐車時における運転支援装置。
  5. 前記駐車枠線検出手段は、前記抽出された2本の線形画像を垂直方向の上下端より所定の画素分だけ削除して、垂直方向に伸びる線形画像のみを残すようにしたことを特徴とする請求項1乃至4の何れかに記載の駐車時における運転支援装置。
  6. 前記駐車枠線検出手段は、前記撮像画像から3本以上の複数の線形画像が抽出された時に、該撮像画像の中央からの距離が近い2本の線形画像を選択するようにしたことを特徴とする請求項1乃至5の何れかに記載の駐車時における運転支援装置。
  7. 前記車体平行度検出手段は、前記駐車枠線検出手段で抽出された2本の線形画像の平均直線からなる第1の仮想線と、前記車両の中心線の延長線となる第2の仮想線とのズレを検出し、前記駐車スペースに対する前記車両の車幅方向のズレを検出することを特徴とする請求項1乃至6の何れかに記載の駐車時における運転支援装置。
  8. 前記車体平行度検出手段で検出された車体平行度に基づいて、前記車両のハンドル操作を促す信号を出力することを特徴とする請求項1乃至7の何れかに記載の駐車時における運転支援装置。
  9. 車両に搭載された撮像装置により撮像された車両後方の広角撮像画像を用いて、駐車スペースの左右駐車枠線に対する自車両姿勢を検出する駐車時における運転支援方法であって、
    前記撮像画像を画像処理部に入力し、
    前記画像処理部にて、前記撮像画像に2値化処理を含む画像処理を行った後、前記左右駐車枠線に該当する2本の線形画像を抽出し、前記撮像画像の水平方向若しくは垂直方向に対する前記2本の線形画像の傾きθ1とθ2を算出し、該傾きθ1とθ2の相対関係に基づいて前記左右駐車枠線に対する車体平行度を検出するようにしたことを特徴とする駐車時における運転支援方法。
JP2009152993A 2009-06-26 2009-06-26 駐車時における運転支援装置及び方法 Expired - Fee Related JP5464324B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009152993A JP5464324B2 (ja) 2009-06-26 2009-06-26 駐車時における運転支援装置及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009152993A JP5464324B2 (ja) 2009-06-26 2009-06-26 駐車時における運転支援装置及び方法

Publications (2)

Publication Number Publication Date
JP2011006005A true JP2011006005A (ja) 2011-01-13
JP5464324B2 JP5464324B2 (ja) 2014-04-09

Family

ID=43563197

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009152993A Expired - Fee Related JP5464324B2 (ja) 2009-06-26 2009-06-26 駐車時における運転支援装置及び方法

Country Status (1)

Country Link
JP (1) JP5464324B2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014083829A1 (ja) * 2012-11-27 2014-06-05 日産自動車株式会社 車両用加速抑制装置及び車両用加速抑制方法
US9117122B2 (en) 2013-06-04 2015-08-25 Hyundai Motor Company Apparatus and method for matching parking-lot outline
WO2016067535A1 (ja) * 2014-10-29 2016-05-06 株式会社デンソー 駐車支援装置
CN105741605A (zh) * 2014-12-26 2016-07-06 爱信精机株式会社 停车辅助装置
WO2018186086A1 (ja) * 2017-04-03 2018-10-11 株式会社Jvcケンウッド 俯瞰映像生成装置、俯瞰映像表示装置、俯瞰映像生成方法およびプログラム
JP2018195971A (ja) * 2017-05-17 2018-12-06 株式会社Jvcケンウッド 俯瞰映像生成装置、俯瞰映像表示装置、俯瞰映像生成方法およびプログラム
JP2018195976A (ja) * 2017-05-17 2018-12-06 株式会社Jvcケンウッド 俯瞰映像生成装置、俯瞰映像表示装置、俯瞰映像生成方法およびプログラム
WO2019021524A1 (ja) * 2017-07-25 2019-01-31 株式会社Jvcケンウッド 表示制御装置、表示制御システム、表示制御方法及び表示制御プログラム
CN111160172A (zh) * 2019-12-19 2020-05-15 深圳佑驾创新科技有限公司 泊车位检测方法、装置、计算机设备和存储介质

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003063339A (ja) * 2001-08-24 2003-03-05 Matsushita Electric Ind Co Ltd 駐車支援装置
JP2008068828A (ja) * 2006-09-15 2008-03-27 Toyota Motor Corp 操舵ギヤ比の自動変更により駐車操舵が支援される車輌
JP2008162426A (ja) * 2006-12-28 2008-07-17 Aisin Seiki Co Ltd 駐車支援装置
JP2008179253A (ja) * 2007-01-24 2008-08-07 Nissan Motor Co Ltd 駐車支援装置及び駐車支援方法
JP2008213647A (ja) * 2007-03-02 2008-09-18 Aisin Aw Co Ltd 駐車支援方法及び駐車支援装置
JP2008269139A (ja) * 2007-04-18 2008-11-06 Sanyo Electric Co Ltd 運転支援システム並びに車両
JP2008273495A (ja) * 2007-04-30 2008-11-13 Hyundai Motor Co Ltd 自動車の駐車案内方法
JP2009117971A (ja) * 2007-11-02 2009-05-28 Denso Corp 車両周辺監視装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003063339A (ja) * 2001-08-24 2003-03-05 Matsushita Electric Ind Co Ltd 駐車支援装置
JP2008068828A (ja) * 2006-09-15 2008-03-27 Toyota Motor Corp 操舵ギヤ比の自動変更により駐車操舵が支援される車輌
JP2008162426A (ja) * 2006-12-28 2008-07-17 Aisin Seiki Co Ltd 駐車支援装置
JP2008179253A (ja) * 2007-01-24 2008-08-07 Nissan Motor Co Ltd 駐車支援装置及び駐車支援方法
JP2008213647A (ja) * 2007-03-02 2008-09-18 Aisin Aw Co Ltd 駐車支援方法及び駐車支援装置
JP2008269139A (ja) * 2007-04-18 2008-11-06 Sanyo Electric Co Ltd 運転支援システム並びに車両
JP2008273495A (ja) * 2007-04-30 2008-11-13 Hyundai Motor Co Ltd 自動車の駐車案内方法
JP2009117971A (ja) * 2007-11-02 2009-05-28 Denso Corp 車両周辺監視装置

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014083829A1 (ja) * 2012-11-27 2014-06-05 日産自動車株式会社 車両用加速抑制装置及び車両用加速抑制方法
JP5846318B2 (ja) * 2012-11-27 2016-01-20 日産自動車株式会社 車両用加速抑制装置及び車両用加速抑制方法
US9117122B2 (en) 2013-06-04 2015-08-25 Hyundai Motor Company Apparatus and method for matching parking-lot outline
US20170228605A1 (en) * 2014-10-29 2017-08-10 Denso Corporation Parking assistance apparatus
JP2016088104A (ja) * 2014-10-29 2016-05-23 株式会社デンソー 駐車支援装置
WO2016067535A1 (ja) * 2014-10-29 2016-05-06 株式会社デンソー 駐車支援装置
US10268905B2 (en) 2014-10-29 2019-04-23 Denso Corporation Parking assistance apparatus
CN105741605A (zh) * 2014-12-26 2016-07-06 爱信精机株式会社 停车辅助装置
CN105741605B (zh) * 2014-12-26 2020-01-24 爱信精机株式会社 停车辅助装置
WO2018186086A1 (ja) * 2017-04-03 2018-10-11 株式会社Jvcケンウッド 俯瞰映像生成装置、俯瞰映像表示装置、俯瞰映像生成方法およびプログラム
JP2018195971A (ja) * 2017-05-17 2018-12-06 株式会社Jvcケンウッド 俯瞰映像生成装置、俯瞰映像表示装置、俯瞰映像生成方法およびプログラム
JP2018195976A (ja) * 2017-05-17 2018-12-06 株式会社Jvcケンウッド 俯瞰映像生成装置、俯瞰映像表示装置、俯瞰映像生成方法およびプログラム
WO2019021524A1 (ja) * 2017-07-25 2019-01-31 株式会社Jvcケンウッド 表示制御装置、表示制御システム、表示制御方法及び表示制御プログラム
CN111160172A (zh) * 2019-12-19 2020-05-15 深圳佑驾创新科技有限公司 泊车位检测方法、装置、计算机设备和存储介质
CN111160172B (zh) * 2019-12-19 2024-04-16 武汉佑驾创新科技有限公司 泊车位检测方法、装置、计算机设备和存储介质

Also Published As

Publication number Publication date
JP5464324B2 (ja) 2014-04-09

Similar Documents

Publication Publication Date Title
JP5464324B2 (ja) 駐車時における運転支援装置及び方法
KR101417571B1 (ko) 물체 식별 장치
CN103764448B (zh) 图像处理装置及图像处理方法
US10078789B2 (en) Vehicle parking assist system with vision-based parking space detection
US7317813B2 (en) Vehicle vicinity image-processing apparatus and recording medium
JP4359710B2 (ja) 車両周辺監視装置、車両、車両周辺監視用プログラム、車両周辺監視方法
JP5054612B2 (ja) 接近物検出装置および接近物検出方法
US9367751B2 (en) Object detection device for area around vehicle
JP2008174028A (ja) 対象物検出システム、及び対象物検出方法
JP2008027309A (ja) 衝突判定システム、及び衝突判定方法
JP5505764B2 (ja) 車載カメラ装置のキャリブレーション支援方法及びキャリブレーション支援装置、並びに車載カメラ装置
WO2014054752A1 (ja) 画像処理装置及び車両前方監視装置
JP2014106739A (ja) 車載画像処理装置
JP2005285011A (ja) 人間認識システム、及び画像処理装置
JP2001111989A (ja) 車載用撮像装置
JP2006318062A (ja) 画像処理装置、画像処理方法、および画像処理用プログラム
JP2006318060A (ja) 画像処理装置、画像処理方法、および画像処理用プログラム
JP2008026998A (ja) 障害物位置算出システム、及び障害物位置算出方法
JP2006318059A (ja) 画像処理装置、画像処理方法、および画像処理用プログラム
US12126941B2 (en) Rearward image displaying device and rearward image displaying method
JPH1141521A (ja) 撮像装置および車間距離計測装置ならびに車間距離計測方法
JP2007018451A (ja) 道路区画線検出装置
JP2006127058A (ja) 対象物認識システム及び画像処理装置
JP2008028478A (ja) 障害物検出システム、及び障害物検出方法
JP2008026999A (ja) 障害物検出システム、及び障害物検出方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120406

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130416

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130617

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131217

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140107

R150 Certificate of patent or registration of utility model

Ref document number: 5464324

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees