JP2002279411A - 運転注意力検出装置および居眠り運転検出装置 - Google Patents
運転注意力検出装置および居眠り運転検出装置Info
- Publication number
- JP2002279411A JP2002279411A JP2001082904A JP2001082904A JP2002279411A JP 2002279411 A JP2002279411 A JP 2002279411A JP 2001082904 A JP2001082904 A JP 2001082904A JP 2001082904 A JP2001082904 A JP 2001082904A JP 2002279411 A JP2002279411 A JP 2002279411A
- Authority
- JP
- Japan
- Prior art keywords
- eye
- detection
- detecting
- driver
- attention
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
- A61B5/18—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Heart & Thoracic Surgery (AREA)
- Molecular Biology (AREA)
- Hospice & Palliative Care (AREA)
- Psychiatry (AREA)
- Psychology (AREA)
- Social Psychology (AREA)
- Physics & Mathematics (AREA)
- Developmental Disabilities (AREA)
- Biophysics (AREA)
- Pathology (AREA)
- Biomedical Technology (AREA)
- Child & Adolescent Psychology (AREA)
- Medical Informatics (AREA)
- Educational Technology (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Auxiliary Drives, Propulsion Controls, And Safety Devices (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Eye Examination Apparatus (AREA)
- Image Processing (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Abstract
撮影し、この画像全体から眼の位置位置検出回路15に
より眼の位置を検出する。撮影した各画像データ毎に、
眼の位置検出回路15による眼の検出が成功したかどう
かを判定し、その成功回数をカウントアップし、タイマ
により計測された所定時間に対する前記カウントアップ
した眼の検出OK数、すなわち眼の検出OK率を、眼の
検出OK時間率演算回路19が演算する。この眼の検出
OK率の演算結果から、運転注意力検出回路21が運転
者の注意力を検出する。
Description
像データを処理して運転注意力や居眠り状態を検出する
運転注意力検出装置および居眠り運転検出装置に関す
る。
えば特開平10−40361号や特開平10−1436
69号公報に記載されたようなものがある。これら公報
記載のものは、運転者の顔画像から眼の位置を検出し、
その後、眼の追跡をしながら開閉眼検出を行い、眼を閉
じている時間が所定以上になったことを判定して居眠り
状態を検出している。
た従来の技術では、運転注意力が高く安全確認などを頻
繁に行っているような状況下では、顔の動きが大きくか
つ速くなるため、眼を正しく捉え続けることが難しくな
り、眼の検出精度や、眼の追跡精度が悪化することにな
る。このため、単位時間当たりで考えると、少ない開閉
眼判定結果や、誤った眼の開度値を用いた居眠り検出を
行わざるを得なくなり、居眠り検出精度を高く維持でき
なくなって、誤警報を発生する可能性がある。
検出精度を向上させることを目的としている。
に、請求項1の発明は、運転者の顔の画像データを処理
して運転注意力を検出する運転注意力検出装置におい
て、前記運転者の顔画像を撮影する画像撮影手段と、こ
の画像撮影手段が撮影した画像全体から眼の位置を検出
する眼の位置検出手段と、前記撮影した各画像データ毎
に、前記眼の位置検出手段による眼の検出が成功したか
どうかを判定し、その成功回数をカウントアップする眼
の検出OK数積算手段と、所定時間を計測する所定時間
計測手段と、この所定時間計測手段による所定時間計測
値に対する前記眼の検出OK数積算手段による眼の検出
OK数積算値に基づく眼の検出OK率を演算する眼の検
出OK率演算手段と、この眼の検出OK率演算手段の演
算結果から運転者の注意力を検出する運転注意力検出手
段とを有する構成としてある。
タを処理して運転注意力を検出する運転注意力検出装置
において、前記運転者の顔画像を撮影する画像撮影手段
と、この画像撮影手段が撮影した画像全体から眼の位置
を検出する眼の位置検出手段と、前記画像全体からの眼
の位置検出手段で検出した眼の位置を基準に少なくとも
片方の眼を含む領域を設定する所定領域設定手段と、こ
の所定領域設定手段が設定した所定領域内において眼の
位置を検出する所定領域内眼の位置検出手段と、前記撮
影した各画像データ毎に、前記所定領域内眼の位置検出
手段による眼の検出が成功したかどうかを判定し、その
成功回数をカウントアップする眼の検出OK数積算手段
と、所定時間を計測する所定時間計測手段と、この所定
時間計測手段による所定時間計測値に対する前記眼の検
出OK数積算手段による眼の検出OK数積算値に基づく
眼の検出OK率を演算する眼の検出OK率演算手段と、
この眼の検出OK率演算手段の演算結果から運転者の注
意力を検出する運転注意力検出手段とを有する構成とし
てある。
において、所定領域設定手段による所定領域の設定を、
マニュアル操作により解除する解除手段を設けた構成と
してある。
において、所定領域設定手段による所定領域の設定を、
眼の検出OK率演算手段による眼の検出OK率の演算結
果により解除する解除手段を設けた構成としてある。
タを処理して運転注意力を検出する運転注意力検出装置
において、前記運転者の顔画像を撮影する画像撮影手段
と、この画像撮影手段が撮影した画像全体から眼の位置
を検出する眼の位置検出手段と、この眼の位置検出手段
で検出した眼の位置を基準に眼の追跡領域を設定し、前
記撮影した各画像データ毎に眼の追跡領域を更新する眼
の追跡処理手段と、この眼の追跡処理手段による眼の追
跡処理が正しく行われているかどうかを確認しながら眼
の追跡時間を積算していく眼の追跡時間積算手段と、所
定時間を計測する所定時間計測手段と、この所定時間計
測手段による所定時間計測値に対する前記眼の追跡時間
積算手段による眼の追跡時間積算値に基づく眼の追跡時
間率を演算する眼の追跡時間率演算手段と、この眼の追
跡時間率演算手段の演算結果から運転者の注意力を検出
する運転注意力検出手段とを有する構成としてある。
ずれかの発明の構成において、運転注意力検出手段に車
両状態検出センサの信号を入力し、車両の走行状態に応
じて運転注意力判定基準を切り替えるようにした構成と
してある。
ずれかの発明の構成において、運転注意力検出手段に個
人データの記憶内容を入力し、運転行動の個人情報に応
じて運転注意力判定基準を切り替えるようにした構成と
してある。
ずれかの発明の構成において、運転注意力検出手段に車
室内光環境計測センサの信号を入力し、車室内の光環境
の悪化を推定して眼の検出ができないことを判定するよ
うにした構成としてある。
タを処理して居眠り運転を検出する居眠り運転検出装置
において、前記運転者の顔画像を撮影する画像撮影手段
と、この画像撮影手段が撮影した画像全体から眼の位置
を検出する眼の位置検出手段と、前記撮影した各画像デ
ータ毎に、前記眼の位置検出手段による眼の検出が成功
したかどうかを判定し、その成功回数をカウントアップ
する眼の検出OK数積算手段と、所定時間を計測する所
定時間計測手段と、この所定時間計測手段による所定時
間計測値に対する前記眼の検出OK数積算手段による眼
の検出OK数積算値に基づく眼の検出OK率を演算する
眼の検出OK率演算手段と、この眼の検出OK率演算手
段の演算結果から運転者の注意力を検出する運転注意力
検出手段と、前記眼の位置検出手段により眼の位置検出
に成功したときに眼の開度値を算出する眼の開度値算出
手段と、この眼の開度値算出手段によって得られる値を
用いて開閉眼判定を行う開閉眼判定手段と、この開閉眼
判定手段の開閉眼判定結果に基づいて、前記運転注意力
検出手段が検出した運転注意力に応じた居眠り検出を行
う居眠り運転検出手段とを有する構成としてある。
ータを処理して居眠り運転を検出する居眠り運転検出装
置において、前記運転者の顔画像を撮影する画像撮影手
段と、この画像撮影手段が撮影した画像全体から眼の位
置を検出する眼の位置検出手段と、前記画像全体からの
眼の位置検出手段で検出した眼の位置を基準に少なくと
も片方の眼を含む領域を設定する所定領域設定手段と、
この所定領域設定手段が設定した所定領域内において眼
の位置を検出する所定領域内眼の位置検出手段と、前記
撮影した各画像データ毎に、前記所定領域内眼の位置検
出手段による眼の検出が成功したかどうかを判定し、そ
の成功回数をカウントアップする眼の検出OK数積算手
段と、所定時間を計測する所定時間計測手段と、この所
定時間計測手段による所定時間計測値に対する前記眼の
検出OK数積算手段による眼の検出OK数積算値に基づ
く眼の検出OK率を演算する眼の検出OK率演算手段
と、この眼の検出OK率演算手段の演算結果から運転者
の注意力を検出する運転注意力検出手段と、前記所定領
域内眼の位置検出定手段により眼の検出に成功したとき
に眼の開度値を算出する眼の開度値算出手段と、この眼
の開度値算出手段によって得られる値を用いて開閉眼判
定を行う開閉眼判定手段と、この開閉眼判定手段の開閉
眼判定結果に基づいて、前記運転注意力検出手段が検出
した運転注意力に応じた居眠り検出を行う居眠り検出手
段とを有する構成としてある。
ータを処理して居眠り運転を検出する居眠り運転検出装
置において、前記運転者の顔画像を撮影する画像撮影手
段と、この画像撮影手段が撮影した画像全体から眼の位
置を検出する眼の位置検出手段と、この眼の位置検出手
段で検出した眼の位置を基準に眼の追跡領域を設定し、
前記撮影した各画像データ毎に眼の追跡領域を更新する
眼の追跡処理手段と、この眼の追跡処理手段による眼の
追跡処理が正しく行われているかどうかを確認しながら
眼の追跡時間を積算していく眼の追跡時間積算手段と、
所定時間を計測する所定時間計測手段と、この所定時間
計測手段による所定時間計測値に対する前記眼の追跡時
間積算手段による眼の追跡時間積算値に基づく眼の追跡
時間率を演算する眼の追跡時間率演算手段と、この眼の
追跡時間率演算手段の演算結果から運転者の注意力を検
出する運転注意力検出手段と、眼の追跡処理が正しく行
われているときに眼の開度値を算出する眼の開度値算出
手段と、この眼の開度値算出手段によって得られる値を
用いて開閉眼判定を行う開閉眼判定手段と、この開閉眼
判定手段の開閉眼判定結果に基づいて、前記運転注意力
検出手段が検出した運転注意力に応じた居眠り検出を行
う居眠り検出手段とを有する構成としてある。
ける眼の検出OK率を演算して運転注意力を検出するよ
うにしたため、安全確認などによって顔が頻繁に動いて
いる状態を判定でき、運転注意力を高精度に検出するこ
とができる。
眼の位置検出を初期状態に限定し、以降の処理は検出し
た眼を含む所定領域内で行うようにしたため、眼の位置
検出処理を短時間で行うことができ、眼の検出精度も向
上させることができる。
段による所定領域の設定をマニュアル操作による解除す
る解除手段を設け、画像全体からの眼の位置検出を任意
に行えるようにしたため、運転者の姿勢の崩れや、運転
者の交替などで眼の位置がズレてしまった場合に対応さ
せることができる。
段による所定領域の設定を眼の検出OK率の演算結果に
より解除する解除手段を設け、画像全体からの眼の位置
検出を自動的に行えるようにしたため、運転者の姿勢の
崩れや、運転者の交替などで眼の位置がズレてしまった
場合に対応させることができる。
眼の位置検出を初期状態に限定し、以降の処理は眼の追
跡処理に切り替えるようにしたため、眼の検出処理を短
時間で行うことができ、請求項1およびび2で用いてい
る眼の検出OK率と同等の意味合いを持つ眼の追跡時間
率を高い精度で演算することができる。
手段に車両状態検出センサの信号を入力し、車両の走行
状態に応じて運転注意力判定基準を切り替えるようにし
たため、市街地走行など安全確認頻度が高い場合と、高
速道路走行など比較的安全確認頻度が低い場合とを区別
することができ、運転注意力の検出精度をさらに向上さ
せることができる。
手段に個人データの記憶内容を入力し、運転行動の個人
情報に応じて運転注意力判定基準を切り替えるようにし
たため、各種走行シーンに応じた運転者の安全確認頻度
や確認方法の個人差に対応することができ、運転注意力
の検出精度をさらに向上させることができる。
手段に車室内光環境計測センサの信号を入力し、車室内
の光環境の悪化を推定して眼の検出ができないことを判
定するようにしたため、運転注意力の検出精度をさらに
向上させることができる。
る眼の検出OK率を演算して運転注意力を検出するよう
にしたため、安全確認などによって顔が頻繁に動いてい
る状態を判定でき、運転注意力を高精度に検出すること
ができるとともに、運転注意力に応じて居眠り検出を行
えるようにしたため、安全確認などで顔の動く頻度が高
いときは居眠り検出レベルを下げ、顔の動く頻度が低下
したときには居眠り検出レベルを上げることで、居眠り
検出精度を向上させることができる。
の眼の位置検出を初期状態に限定し、以降の処理は検出
した眼を含む所定領域内で行うようにしたため、眼の位
置検出処理を短時間で行うことができ、眼の検出精度も
向上させることができるとともに、運転注意力に応じた
居眠り検出を行えるようにしたため、安全確認などで顔
の動く頻度が高いときは居眠り検出レベルを下げ、顔の
動く頻度が低下したときには居眠り検出レベルを上げる
ことで、居眠り検出精度を向上させることができる。
の眼の位置検出を初期状態に限定し、以降の処理は眼の
追跡処理に切り替えるようにしたため、眼の検出処理を
短時間で行うことができ、請求項1およびび2で用いて
いる眼の検出OK率と同等の意味合いを持つ眼の追跡時
間率を高い精度で演算することができるとともに、運転
注意力に応じた居眠り検出を行えるようにしたため、安
全確認などで顔の動く頻度が高いときは居眠り検出レベ
ルを下げ、顔の動く頻度が低下したときには居眠り検出
レベルを上げることで、居眠り検出精度を向上させるこ
とができる。
面に基づき説明する。
運転注意力検出装置の全体構成図である。自動車1のイ
ンストルメントパネル3には、運転者5の顔部分を正面
から撮影する画像撮影手段としてのTVカメラ7が設置
されている。TVカメラ7には、A−D変換器9,画像
メモリ11,画像データ演算回路13,眼の位置検出手
段としての眼の位置検出回路15,眼の検出OK数積算
手段および眼の検出OK率演算手段を含む眼の検出OK
時間率演算回路19,運転注意力検出手段としての運転
注意力検出回路21が順次接続されている。
は、A−D変換器9を介してデジタル量の入力画像デー
タとして画像メモリ11に入力され格納される。
1に格納された画像データに対して前処理を行いコンピ
ュータ処理に適した状態にデータ変換を行う。眼の位置
検出回路15は、画像データ演算回路13で変換された
画像データを対象として運転者5の眼の位置を検出す
る。眼の検出OK時間率演算回路19は、時系列的に取
り込まれる各画像データの眼の検出OK時間率を演算す
る。運転注意力検出回路21は、眼の検出OK時間率演
算回路19の演算結果に基づいて運転注意力を検出す
る。
置検出回路15,眼の検出OK時間率演算回路19,運
転注意力検出回路21は、CPU,ROM,RAMなど
からなるマイクロコンピュータで構成され、このマイク
ロコンピュータは、所定時間を計測する所定時間計測手
段としての図示しないタイマを内蔵している。
の動作の流れを、図2のフローチャートおよび図3〜5
の説明図を用いて説明する。TVカメラ7で撮影された
画像が、A−D変換器9および画像メモリ11を経て画
像データ演算回路13に入力される。ここで、所定時間
を計測するタイマをスタートさせ(ステップ201)、
画像全体からの眼の位置検出を眼の位置検出回路15で
行い、検出に成功したか否かを眼の検出OK時間率演算
回路19により判定する(ステップ202)。
明すると、同図(a)に示すように、運転者5が車両前
方を注視しているときは、眼の存在する領域がある領域
内に留まり、また、眼の形や眉,鼻,口などとの相対位
置関係も定義付けて眼の位置検出をすることができる。
一方図3(b)に示すように、運転者5が安全確認など
により車両前方以外を見ているときは、前述した定義付
けられた条件では眼の検出ができない状態となる。
の位置検出に成功したときは、眼の検出OK時間率演算
回路19における眼の検出OKカウンタのカウントアッ
プを行う(ステップ203)。逆に、ステップ202で
眼の位置検出に失敗したときは、運転者5が前を見てい
なかったものとし、タイマによる所定時間が経過したか
どうか判定する(ステップ204)。
は、前記ステップ202に戻り同様の処理を繰り返す。
上記ステップ204で、所定時間が経過したと判定され
た場合は、所定時間内での眼の検出OK積算値に基づき
判定された眼の検出OK率を眼の検出OK時間率演算回
路19で演算し(ステップ205)、この演算結果を用
いて運転者5の運転注意力を検出する(ステップ20
6)。
5を用いて説明する。図4は所定区間Nの1フレーム毎
の眼の検出結果を示したものである。OKと表示してい
るものは、図3(a)のように運転者5が前を見ている
状態にあったため、滞りなく眼の位置検出ができた場合
であり、NGと表示しているものは、図3(b)のよう
に運転者5が前方以外を見ている状態にあったため、眼
の位置検出ができなかった場合である。
定時間内の眼の位置検出のOK回数を積算することで行
う。その時系列変化を示したものが図5である。図5の
横軸は所定区間毎の経過時間、縦軸は所定区間内での眼
の検出OK度数を示している。
示すると図5のような関係になる。図5に示すような所
定区間の眼の検出OK率(所定区間内での眼の検出OK
度数)を用いることにより、運転者5が前を注視してい
る時間比率が分かり、よって、運転者5が周囲に常に気
を配り安全確認を行っている状態では眼の検出OK率
が、100%近くの値を示すことはない。
安全確認頻度が減少する環境下になると、顔の動きが少
なくなることから所定区間内の眼の検出OK率が高い状
態が続くので、運転者5の注意力が低下していると判定
することができ、またこの場合居眠り運転になり易い環
境下にあるとも言える。このように運転注意力が低下し
ている場合には、音声やディスプレイ表示などにより警
報を出力して運転者5に報知する。
後は、眼の検出OKカウンタをクリアするとともに、タ
イマのリセットを行った後(ステップ207)、ステッ
プ202に戻って次の所定時間の運転注意力の検出に移
行する。
間Nにおける眼の検出OK度数を演算した上で、運転者
5の運転注意力を検出しているので、安全確認などによ
って顔が頻繁に動いている状態を判定でき、運転注意力
を高精度に検出することができる。
転注意力検出装置の動作の流れを、図6に示すフローチ
ャートおよび図7の説明図を用いて説明する。この第2
の実施形態は、第1の実施形態による前記図1と同様の
構成であるが、この場合、眼の位置検出回路15は、画
像全体から検出した眼の位置を基準に少なくとも片方の
眼を含む領域を設定する所定領域設定手段と、この所定
領域設定手段が設定した所定領域内において眼の位置を
検出する所定領域内眼の位置検出手段を含んでいる。
ャートに対し、ステップ602とステップ603を追加
して画像全体からの眼の位置検出処理を初期状態に限定
し、図7(a)および(b)に示すような前方を見ている
状態での眼を含む所定領域Sを設定し、眼の検出範囲を
限定することで、眼の位置検出処理の高速化を図るとと
もに、眼の検出精度を向上させている。
図6のフローチャートの追加および変更ステップの内容
を説明する。プログラムの起動後、図2のフローチャー
トと同様に所定時間を計測するタイマをスタートさせ
(ステップ601)、画像全体からの眼の位置検出を眼
の位置検出回路15により行った後(ステップ60
2)、検出された眼の位置を基準に所定領域Sを眼の位
置検出回路15により設定する(ステップ603)。
として眼の位置検出を繰り返し、所定領域S内での眼の
位置検出に成功したかどうかを、眼の検出OK時間率演
算回路19により判定する(ステップ604)。ここ
で、眼の位置検出に成功した場合には、眼の検出OKカ
ウンタのカウントアップを行って(ステップ605)所
定時間経過したかを判断し(ステップ606)、逆に眼
の位置検出に失敗した場合には、所定時間経過したかの
判断に移行する(ステップ606)。以降の処理につい
ては、図2のフローチャートと同様の動作であるため、
説明は省略する。
全体からの眼の位置検出を初期状態のみに限定し、以降
の処理は検出した眼を含む所定領域S内で行うようにし
たため、眼の位置検出処理を短時間で行うことができる
とともに、眼の検出精度も向上させることができる。
の動作の流れを、図8のフローチャートを用いて説明す
る。図8のフローチャートは、図6のフローチャートに
対し、ステップ804を追加している。構成としては、
所定領域Sの設定をマニュアル操作によりキャンセル
(解除)できる解除手段としてのリセットスイッチを設
けている。所定領域Sの設定を解除することで、運転者
5の姿勢の崩れや、運転者5の交替などで眼の位置がズ
レてしまった場合に対応することができる。
図8のフローチャートの追加ステップの内容を説明す
る。運転者5の姿勢が崩れたときや、運転者5が交替し
たときなどに、リセットスイッチを操作することによっ
て、ステップ804でリセットスイッチの操作を認識
し、ステップ802に戻って画像全体からの眼の位置検
出を再度行い、眼を含む所定領域Sの設定に移行する
(ステップ803)。
流れを、図9および図10のフローチャートを用いて説
明する。図9および図10のフローチャートは、図6の
フローチャートに対し、ステップ904,ステップ90
8,ステップ1002,ステップ1003を追加して、
眼の検出OK率の演算結果により、所定領域の設定を自
動的にキャンセル(解除)できるようにすることで、運
転者5の姿勢の崩れや、運転者5の交替などで眼の位置
がズレてしまった場合に対応することができる。すなわ
ち、この場合、眼の検出OK時間率演算回路19は、所
定領域Sの設定を解除する解除手段を含んでいる。
図9および図10のフローチャートの追加ステップの内
容を説明する。運転者5の姿勢が崩れたときや、運転者
5が交替したときなどにより、既に設定されている所定
領域S内に眼が定常的に入らなくなったことを、所定時
間毎に眼の検出OK率が0かどうかで判定し(ステップ
1002)、眼の検出OK率が0と判定されたときに、
その状況の発生数をカウントアップする(ステップ10
03)。
時間発生回数が所定値を越えたと判定されたときは(ス
テップ904)、眼の検出OK率”0”カウンタをクリ
アした後(ステップ908)、画像全体からの眼の位置
検出を再度行い(ステップ902)、眼を含む所定領域
Sを設定に移行する(ステップ903)。
す運転注意力検出装置の全体構成図である。この装置
は、図1の構成における眼の検出OK時間率演算回路1
9に代えて、眼の追跡時間率演算手段としての眼の追跡
時間率演算回路23を設けている。この眼の追跡時間率
演算回路23は、撮影した各画像データ毎に眼の追跡領
域を更新する眼の追跡処理手段および、眼の追跡処理手
段による眼の追跡処理が正しく行われているかどうかを
確認しながら眼の追跡時間を積算していく眼の追跡時間
積算手段を含んでいる。前記した眼の追跡時間率演算手
段は、所定時間計測手段であるタイマの所定時間計測値
に対する眼の追跡時間積算手段による眼の追跡時間積算
値に基づき眼の追跡時間率を演算する。
転注意力検出装置の動作の流れを、図12のフローチャ
ートおよび図13,図14,図15の説明図を用いて説
明する。まず、所定時間を計測するタイマをスタートさ
せ(ステップ1101)、所定時間が経過したかどうか
を判定する(ステップ1102)。ここで所定時間経過
していないと判定されたときは、眼の追跡領域が設定さ
れているかどうかを眼の追跡時間率演算回路23により
判定する(ステップ1103)。
方の眼を含む横長の小さめの短形領域Tで定義してい
る。この追跡領域Tは、車両の振動など、ちょっとした
眼の位置の動きに対応できる大きさとしている。ステッ
プ1103で眼の追跡領域が設定されていないと判定さ
れた場合は、画像全体からの眼の位置検出処理を行う
(ステップ1104)。
どうかを判定する(ステップ1105)。例えば運転者
が横を見ているような場合は、眼の検出が当然正常には
行われないため、ステップ1102に戻り、次の画像デ
ータを対象とした眼の位置検出処理を行う。逆に、ステ
ップ1105で眼が正しく検出できた場合は、眼の追跡
領域を設定する(ステップ1106)。
いて説明する。眼の位置の検出直後、つまり第1フレー
ムでは図13(a)に示すように、検出した眼の位置を
中央にして眼の追跡領域が設定される。その後、眼の追
跡状態が正常かどうかが判定され(ステップ110
7)、正常と判定されたときは、眼の追跡時間の積算を
行い(ステップ1108)、ステップ1102に戻る。
ップ1102からステップ1103ステップ1107ま
での処理を繰り返す。このループが一回転することによ
り、次に取り込んだ画像データ、つまり、眼の追跡を始
めて第2フレームの処理に移っていることになり、図1
3(b)に示すようになる。図13(b)の眼の追跡領
域Tは、第1フレームで設定された位置にあるのに対
し、現在の眼の位置は2フレーム目に取り込まれた画像
データであるため、顔の動きなどにより眼の中心点は目
の追跡領域Tに対しズレてくる。しかし、眼が眼の追跡
領域T内にある限り眼の追跡は行うことができる。
る場合は、同様の処理を繰り返す。図13(c),
(d)は、第3フレーム,第4フレームでそれぞれ取り
込まれる顔画像データでの眼の位置と眼の追跡領域Tと
の位置関係を示したものである。また、ステップ110
7で眼の追跡が正しく行われていないと判定された場合
は、眼の追跡領域Tをクリアし(ステップ1109)、
ステップ1102に戻る。
は、眼の追跡領域T内に、運転者5が車両前方を見てい
るときの眼の特徴量(大きさ、形、濃度値など)を持つ
データが存在するか否かで行うことができる。ステップ
1109で眼の追跡領域をクリアしてステップ1102
に戻り、ステップ1103に移行した場合は、ステップ
1104に移行して再度画像全体からの眼の位置検出処
理を行うことになる。
ステップ1102でタイマによる計測時間が所定時間経
過と判定されたときは、所定時間における眼の追跡時間
率を眼の追跡時間率演算回路23により演算する(ステ
ップ1110)。この演算方法を図14を用いて説明す
る。
されるまでは、初期状態や、眼の追跡状態に入っても眼
を見失ってしまった場合に回る眼の位置検出ループA
と、眼の検出に成功し、眼の追跡が正常に行われている
ときに回る眼の追跡ループBがある。図14の白と黒の
バー状で示したものは、白い部分が、眼の検出処理でル
ープAを回っている時間を表しており、黒い部分が、眼
の追跡処理でループBを回っている時間を表している。
の眼の追跡時間の積算を行っており、ステップ1110
では、所定時間に占める眼の追跡時間の積算値の割合を
求めている。所定時間の眼の追跡時間率の演算後は、運
転注意力の検出を行うが(ステップ1111)、この検
出処理は、図15に示す所定区間毎の経過時間における
眼の追跡時間率の変化で行っている。
5の覚醒度が低下してきたときに、安全確認などの頻度
が低下し顔の動きが少なくなることを、眼の追跡時間率
が高くなる傾向で捕らえている。その後、眼の追跡時間
の積算値をクリアし、タイマのリセットを行い(ステッ
プ1112)、各所定時間の眼の追跡時間率を演算す
る。
体からの眼の位置検出を初期状態のみに限定し、以降の
処理は眼の追跡処理に切り替えるので、眼の検出処理を
短時間で行うことができ、第1の実施形態で用いている
眼の検出OK率と同等の意味合いを持つ眼の追跡時間率
を高い精度で演算することができる。
す運転注意力検出装置の全体構成図である。この実施形
態は、第1の実施形態の構成に、車速センサや、運転者
5の操作状態を検出するアクセル,ブレーキ,ステアリ
ングの各センサや、ナビゲーションシステムなどからな
る車両状態検出センサ25を追加したものである。車両
状態検出センサ25からの信号を、運転注意力検出回路
21に入力することにより、安全確認の頻度が高い市街
地走行と、比較的安全確認頻度が低い高速道路走行とを
区別し、これにより運転注意力の検出精度をさらに高め
ることが可能となる。
す運転注意力検出装置の全体構成図である。この実施形
態は、図16に示した第4の実施形態の構成に、個人デ
ータメモリ27を追加したものである。運転注意力検出
回路21に、車両状態検出センサ25の信号と、個人デ
ータメモリ27の記憶内容とを入力し、車両の走行状態
や運転行動の個人情報に応じて運転注意力判定基準を切
り替えられるようにし、各走行シーンに応じた運転者5
の安全確認頻度や確認方法の個人差に対応することで、
さらに運転注意力の検出精度を高めることが可能とな
る。
出センサ25を設けずに、個人データメモリ27の記憶
内容のみを運転注意力検出回路21に入力するようにし
ても構わない。
す運転注意力検出装置の全体構成図である。この実施形
態は、図16に示した第4の実施形態の構成に、照度セ
ンサ,天候を推定する気圧計,方位計,日時を把握する
ためのカレンダ機能付きの時計などからなる車室内光環
境センサ29を追加したものである。運転注意力検出回
路21に、車両状態検出センサ25の信号と、車室内光
環境センサ29の信号を入力し、車両の走行状態に合わ
せ車室内の光環境の悪化を推定し、眼の検出ができない
原因が運転者5の顔の動き以外にあることを判定するこ
とで、さらに運転注意力の検出精度を高めることが可能
となる。
構成に追加して設け、車両状態検出センサ25の信号、
個人データメモリ27の記憶内容および車室内光環境セ
ンサ29の信号を運転注意力検出回路21にそれぞれ入
力するようにしても構わない。また、図18の構成にお
いて、車両状態検出センサ25を設けずに、車室内光環
境センサ29の信号のみを運転注意力検出回路21に入
力するようにしても構わない。さらに、上記した図16
ないし図18にて図1に対して追加したそれぞれの構成
は、図11に示してある眼の追跡時間率を演算する第3
の実施形態に追加して構成してもよい。
す居眠り運転検出装置の全体構成図で、図20はその動
作を示すフローチャートである。この実施形態は、図1
1に示した第3の実施形態に係わる運転注意力検出装置
に、眼の位置検出回路15により眼の位置検出に成功し
たときに眼の開度値を算出する眼の開度値算出手段とし
ての眼の開度値算出回路31と、この眼の開度値算出回
路31によって得られる値を用いて開閉眼判定を行う開
閉眼判定手段としての開閉眼判定回路33と、この開閉
眼判定回路33の開閉眼判定結果に基づいて、運転注意
力検出回路21が検出した運転注意力に応じた居眠り検
出を行う居眠り検出手段としての居眠り検出回路35と
を追加して設けている。
た第3の実施形態に係わる運転注意力検出装置のフロー
チャートに、ステップ1807,ステップ1810,ス
テップ1811を追加し、居眠り運転検出装置に適応さ
せたものである。
構成要素は、図1に示した第1の実施形態に追加しても
よく、したがって図20にて追加したステップ処理は、
第1の実施形態および第2の実施形態にも対応できるも
のである。また、前記した図16ないし図18にて図1
に対して追加したそれぞれの構成を、図19に追加して
設けても構わない。
のフローチャートである図12と異なるステップのみを
説明する。ステップ1807では、眼の追跡領域内で捕
らえられる眼のデータの開度値の算出処理を行う。ステ
ップ1810では、ステップ1807で求めた眼の開度
値を用いて開閉眼判定を行う。ステップ1811ではス
テップ1813で所定時間毎に検出される運転注意力に
応じた居眠り検出を行う。
せることにより、安全確認などの頻度が低下して眼の追
跡時間率が高くなったときに居眠り検出精度を上げ、ま
た安全確認などの頻度が高く眼の追跡時間率が低いとき
は居眠り検出精度を下げることで、高い居眠り検出精度
が確保でき、警報出力する際の誤警報を防止することが
できる。
開度値の算出、開閉眼の判定方法、覚醒度の判定方法
は、本出願人による「特開平10−40361号」や
「特開平10−143669号」公報により周知である
ため詳細の説明は省略している。
出装置の全体構成図である。
チャートである。
出方法に関する説明図で、(a)は運転者が前方を注視
している状態の画像、(b)は運転者が前方以外を見て
いる状態の画像である。
眼の検出結果を示した眼の検出OK率の演算方法に関す
る説明図である。
時間に対する所定区間内での眼の検出OK度数を示す説
明図である。
検出装置の動作を示すフローチャートである。
に関する説明図で、(a)は運転者が前方を注視してい
る状態の画像、(b)は運転者が前方以外を見ている状
態の画像である。
示すフローチャートである。
示すフローチャートである。
を示すフローチャートである。
検出装置の全体構成図である。
ーチャートである。
域の設定、追跡方法に関する説明図である。
る眼の検出処理時間と眼の追跡処理時間とを示した眼の
追跡時間率の演算方法に関する説明図である。
の経過時間に対する所定区間内での眼の追跡時間率を示
す説明図である。
検出装置の全体構成図である。
検出装置の全体構成図である。
検出装置の全体構成図である。
検出装置の全体構成図である。
ーチャートである。
設定手段,所定領域内眼の位置検出手段) 19 眼の検出OK時間率演算回路(眼の検出OK数積
算手段、眼の検出OK率演算手段) 21 運転注意力検出回路(運転注意力検出手段) 23 眼の追跡時間率演算回路(眼の追跡処理手段、眼
の追跡時間積算手段、眼の追跡時間率演算手段) 25 車両状態検出センサ 27 個人データメモリ 29 車室内光環境計測センサ 31 眼の開度値算出回路(眼の開度値算出手段) 33 開閉眼判定回路(開閉眼判定手段) 35 居眠り検出回路(居眠り検出手段)
Claims (11)
- 【請求項1】 運転者の顔の画像データを処理して運転
注意力を検出する運転注意力検出装置において、前記運
転者の顔画像を撮影する画像撮影手段と、この画像撮影
手段が撮影した画像全体から眼の位置を検出する眼の位
置検出手段と、前記撮影した各画像データ毎に、前記眼
の位置検出手段による眼の検出が成功したかどうかを判
定し、その成功回数をカウントアップする眼の検出OK
数積算手段と、所定時間を計測する所定時間計測手段
と、この所定時間計測手段による所定時間計測値に対す
る前記眼の検出OK数積算手段による眼の検出OK数積
算値に基づく眼の検出OK率を演算する眼の検出OK率
演算手段と、この眼の検出OK率演算手段の演算結果か
ら運転者の注意力を検出する運転注意力検出手段とを有
することを特徴とする運転注意力検出装置。 - 【請求項2】 運転者の顔の画像データを処理して運転
注意力を検出する運転注意力検出装置において、前記運
転者の顔画像を撮影する画像撮影手段と、この画像撮影
手段が撮影した画像全体から眼の位置を検出する眼の位
置検出手段と、前記画像全体からの眼の位置検出手段で
検出した眼の位置を基準に少なくとも片方の眼を含む領
域を設定する所定領域設定手段と、この所定領域設定手
段が設定した所定領域内において眼の位置を検出する所
定領域内眼の位置検出手段と、前記撮影した各画像デー
タ毎に、前記所定領域内眼の位置検出手段による眼の検
出が成功したかどうかを判定し、その成功回数をカウン
トアップする眼の検出OK数積算手段と、所定時間を計
測する所定時間計測手段と、この所定時間計測手段によ
る所定時間計測値に対する前記眼の検出OK数積算手段
による眼の検出OK数積算値に基づく眼の検出OK率を
演算する眼の検出OK率演算手段と、この眼の検出OK
率演算手段の演算結果から運転者の注意力を検出する運
転注意力検出手段とを有することを特徴とする運転注意
力検出装置。 - 【請求項3】 所定領域設定手段による所定領域の設定
を、マニュアル操作により解除する解除手段を設けたこ
とを特徴とする請求項2記載の運転注意力検出装置。 - 【請求項4】 所定領域設定手段による所定領域の設定
を、眼の検出OK率演算手段による眼の検出OK率の演
算結果により解除する解除手段を設けたことを特徴とす
る請求項2記載の運転注意力検出装置。 - 【請求項5】 運転者の顔の画像データを処理して運転
注意力を検出する運転注意力検出装置において、前記運
転者の顔画像を撮影する画像撮影手段と、この画像撮影
手段が撮影した画像全体から眼の位置を検出する眼の位
置検出手段と、この眼の位置検出手段で検出した眼の位
置を基準に眼の追跡領域を設定し、前記撮影した各画像
データ毎に眼の追跡領域を更新する眼の追跡処理手段
と、この眼の追跡処理手段による眼の追跡処理が正しく
行われているかどうかを確認しながら眼の追跡時間を積
算していく眼の追跡時間積算手段と、所定時間を計測す
る所定時間計測手段と、この所定時間計測手段による所
定時間計測値に対する前記眼の追跡時間積算手段による
眼の追跡時間積算値に基づく眼の追跡時間率を演算する
眼の追跡時間率演算手段と、この眼の追跡時間率演算手
段の演算結果から運転者の注意力を検出する運転注意力
検出手段とを有することを特徴とする運転注意力検出装
置。 - 【請求項6】 運転注意力検出手段に車両状態検出セン
サの信号を入力し、車両の走行状態に応じて運転注意力
判定基準を切り替えるようにしたことを特徴とする請求
項1ないし5のいずれかに記載の運転注意力検出装置。 - 【請求項7】 運転注意力検出手段に個人データの記憶
内容を入力し、運転行動の個人情報に応じて運転注意力
判定基準を切り替えるようにしたことを特徴とする請求
項1ないし6のいずれかに記載の運転注意力検出装置。 - 【請求項8】 運転注意力検出手段に車室内光環境計測
センサの信号を入力し、車室内の光環境の悪化を推定し
て眼の検出ができないことを判定するようにしたことを
特徴とする請求項1ないし7のいずれかに記載の運転注
意力検出装置。 - 【請求項9】 運転者の顔の画像データを処理して居眠
り運転を検出する居眠り運転検出装置において、前記運
転者の顔画像を撮影する画像撮影手段と、この画像撮影
手段が撮影した画像全体から眼の位置を検出する眼の位
置検出手段と、前記撮影した各画像データ毎に、前記眼
の位置検出手段による眼の検出が成功したかどうかを判
定し、その成功回数をカウントアップする眼の検出OK
数積算手段と、所定時間を計測する所定時間計測手段
と、この所定時間計測手段による所定時間計測値に対す
る前記眼の検出OK数積算手段による眼の検出OK数積
算値に基づく眼の検出OK率を演算する眼の検出OK率
演算手段と、この眼の検出OK率演算手段の演算結果か
ら運転者の注意力を検出する運転注意力検出手段と、前
記眼の位置検出手段により眼の位置検出に成功したとき
に眼の開度値を算出する眼の開度値算出手段と、この眼
の開度値算出手段によって得られる値を用いて開閉眼判
定を行う開閉眼判定手段と、この開閉眼判定手段の開閉
眼判定結果に基づいて、前記運転注意力検出手段が検出
した運転注意力に応じた居眠り検出を行う居眠り運転検
出手段とを有することを特徴とする居眠り運転検出装
置。 - 【請求項10】 運転者の顔の画像データを処理して居
眠り運転を検出する居眠り運転検出装置において、前記
運転者の顔画像を撮影する画像撮影手段と、この画像撮
影手段が撮影した画像全体から眼の位置を検出する眼の
位置検出手段と、前記画像全体からの眼の位置検出手段
で検出した眼の位置を基準に少なくとも片方の眼を含む
領域を設定する所定領域設定手段と、この所定領域設定
手段が設定した所定領域内において眼の位置を検出する
所定領域内眼の位置検出手段と、前記撮影した各画像デ
ータ毎に、前記所定領域内眼の位置検出手段による眼の
検出が成功したかどうかを判定し、その成功回数をカウ
ントアップする眼の検出OK数積算手段と、所定時間を
計測する所定時間計測手段と、この所定時間計測手段に
よる所定時間計測値に対する前記眼の検出OK数積算手
段による眼の検出OK数積算値に基づく眼の検出OK率
を演算する眼の検出OK率演算手段と、この眼の検出O
K率演算手段の演算結果から運転者の注意力を検出する
運転注意力検出手段と、前記所定領域内眼の位置検出定
手段により眼の検出に成功したときに眼の開度値を算出
する眼の開度値算出手段と、この眼の開度値算出手段に
よって得られる値を用いて開閉眼判定を行う開閉眼判定
手段と、この開閉眼判定手段の開閉眼判定結果に基づい
て、前記運転注意力検出手段が検出した運転注意力に応
じた居眠り検出を行う居眠り検出手段とを有することを
特徴とする居眠り運転検出装置。 - 【請求項11】 運転者の顔の画像データを処理して居
眠り運転を検出する居眠り運転検出装置において、前記
運転者の顔画像を撮影する画像撮影手段と、この画像撮
影手段が撮影した画像全体から眼の位置を検出する眼の
位置検出手段と、この眼の位置検出手段で検出した眼の
位置を基準に眼の追跡領域を設定し、前記撮影した各画
像データ毎に眼の追跡領域を更新する眼の追跡処理手段
と、この眼の追跡処理手段による眼の追跡処理が正しく
行われているかどうかを確認しながら眼の追跡時間を積
算していく眼の追跡時間積算手段と、所定時間を計測す
る所定時間計測手段と、この所定時間計測手段による所
定時間計測値に対する前記眼の追跡時間積算手段による
眼の追跡時間積算値に基づく眼の追跡時間率を演算する
眼の追跡時間率演算手段と、この眼の追跡時間率演算手
段の演算結果から運転者の注意力を検出する運転注意力
検出手段と、眼の追跡処理が正しく行われているときに
眼の開度値を算出する眼の開度値算出手段と、この眼の
開度値算出手段によって得られる値を用いて開閉眼判定
を行う開閉眼判定手段と、この開閉眼判定手段の開閉眼
判定結果に基づいて、前記運転注意力検出手段が検出し
た運転注意力に応じた居眠り検出を行う居眠り検出手段
とを有することを特徴とする居眠り運転検出装置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2001082904A JP3812355B2 (ja) | 2001-03-22 | 2001-03-22 | 運転注意力検出装置および居眠り運転検出装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2001082904A JP3812355B2 (ja) | 2001-03-22 | 2001-03-22 | 運転注意力検出装置および居眠り運転検出装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2002279411A true JP2002279411A (ja) | 2002-09-27 |
| JP3812355B2 JP3812355B2 (ja) | 2006-08-23 |
Family
ID=18938788
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2001082904A Expired - Fee Related JP3812355B2 (ja) | 2001-03-22 | 2001-03-22 | 運転注意力検出装置および居眠り運転検出装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP3812355B2 (ja) |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005013626A (ja) * | 2003-06-27 | 2005-01-20 | Nissan Motor Co Ltd | 覚醒状態検出装置 |
| JP2009143373A (ja) * | 2007-12-13 | 2009-07-02 | Denso Corp | 車両用操作入力装置 |
| KR101829850B1 (ko) * | 2010-03-01 | 2018-03-29 | 아이플루언스, 인크. | 공간적으로 제어된 장면 조명을 위한 시스템 및 방법 |
| US10417512B2 (en) | 2015-07-06 | 2019-09-17 | Denso Corporation | Driver abnormality detection device and driver abnormality detection method |
| CN111566711A (zh) * | 2018-01-09 | 2020-08-21 | 五十铃自动车株式会社 | 驾驶状态判定装置及驾驶状态判定方法 |
| JP2022045115A (ja) * | 2020-09-08 | 2022-03-18 | Joyson Safety Systems Japan株式会社 | 運転者監視方法及び運転者監視装置 |
-
2001
- 2001-03-22 JP JP2001082904A patent/JP3812355B2/ja not_active Expired - Fee Related
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005013626A (ja) * | 2003-06-27 | 2005-01-20 | Nissan Motor Co Ltd | 覚醒状態検出装置 |
| JP2009143373A (ja) * | 2007-12-13 | 2009-07-02 | Denso Corp | 車両用操作入力装置 |
| KR101829850B1 (ko) * | 2010-03-01 | 2018-03-29 | 아이플루언스, 인크. | 공간적으로 제어된 장면 조명을 위한 시스템 및 방법 |
| US10417512B2 (en) | 2015-07-06 | 2019-09-17 | Denso Corporation | Driver abnormality detection device and driver abnormality detection method |
| CN111566711A (zh) * | 2018-01-09 | 2020-08-21 | 五十铃自动车株式会社 | 驾驶状态判定装置及驾驶状态判定方法 |
| JP2022045115A (ja) * | 2020-09-08 | 2022-03-18 | Joyson Safety Systems Japan株式会社 | 運転者監視方法及び運転者監視装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP3812355B2 (ja) | 2006-08-23 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US7835834B2 (en) | Method of mitigating driver distraction | |
| JP5974915B2 (ja) | 覚醒度検出装置、および覚醒度検出方法 | |
| US7423540B2 (en) | Method of detecting vehicle-operator state | |
| JP6647423B2 (ja) | 運転支援装置および運転支援方法 | |
| JP5585648B2 (ja) | 覚醒度判定装置、覚醒度判定方法及びプログラム | |
| JP5636102B2 (ja) | 乗員検知装置 | |
| JP6103383B2 (ja) | 車両運転評価システム | |
| US10604160B2 (en) | Driver condition detection system | |
| JP6090129B2 (ja) | 視認領域推定装置 | |
| JP6730096B2 (ja) | 乗員状態監視装置 | |
| JPH07117593A (ja) | 車両用警報装置 | |
| JP2007207274A (ja) | 発進報知装置 | |
| JP5498183B2 (ja) | 行動検出装置 | |
| CN110025324A (zh) | 状态推断装置、状态推断方法以及记录介质 | |
| JP4173083B2 (ja) | 覚醒状態判定装置及び覚醒状態判定方法 | |
| JP3012226B2 (ja) | 居眠り運転防止装置 | |
| JP3039327B2 (ja) | 車両走行状態検出装置及び居眠り運転警報装置 | |
| JP2007082594A (ja) | 疲労検出装置 | |
| JP2002279411A (ja) | 運転注意力検出装置および居眠り運転検出装置 | |
| JP3984863B2 (ja) | 発進報知装置 | |
| JP2014048885A (ja) | 注意力低下検出システム | |
| JP2019074964A (ja) | 運転不能状態予測装置及び運転不能状態予測システム | |
| JP2022029911A (ja) | 車載装置及び運転支援方法 | |
| JP7677226B2 (ja) | 情報処理装置、情報処理システム、情報処理方法、及び情報処理プログラム | |
| CN119302636A (zh) | 一种活体遗留检测方法、装置、电子设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20051212 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20051220 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060217 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060509 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060522 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090609 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100609 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110609 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120609 Year of fee payment: 6 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120609 Year of fee payment: 6 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130609 Year of fee payment: 7 |
|
| LAPS | Cancellation because of no payment of annual fees |