[go: up one dir, main page]

JP2009045418A - 眠気判定装置,プログラムおよび眠気判定方法 - Google Patents

眠気判定装置,プログラムおよび眠気判定方法 Download PDF

Info

Publication number
JP2009045418A
JP2009045418A JP2007276551A JP2007276551A JP2009045418A JP 2009045418 A JP2009045418 A JP 2009045418A JP 2007276551 A JP2007276551 A JP 2007276551A JP 2007276551 A JP2007276551 A JP 2007276551A JP 2009045418 A JP2009045418 A JP 2009045418A
Authority
JP
Japan
Prior art keywords
sleepiness
distance
drowsiness
facial expression
degree
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007276551A
Other languages
English (en)
Other versions
JP4458146B2 (ja
Inventor
Sadasuke Kimura
禎祐 木村
Noriyuki Ozaki
憲幸 尾崎
Kenji Ishida
健二 石田
Kahori Uchiyama
佳保里 内山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2007276551A priority Critical patent/JP4458146B2/ja
Priority to US12/068,770 priority patent/US8045766B2/en
Publication of JP2009045418A publication Critical patent/JP2009045418A/ja
Application granted granted Critical
Publication of JP4458146B2 publication Critical patent/JP4458146B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

【課題】 眠気の度合の判定を阻害する外乱要因の影響を受けずに、眠気を判定することができる技術を提供する。
【解決手段】 本発明の居眠り防止システム1は、運転者3の顔画像を撮影する撮影装置10と、顔画像に基づいて眠気の度合を判定する眠気判定装置20と、警報装置30,首元空調装置40,シートベルト振動装置50,および,ブレーキ制御装置60と、から構成される。
眠気判定装置20は、撮影装置10により撮影された画像から算出された左右の口角の距離,眉と目の距離,頭部傾き角度,眉頭の中点と目頭の中点間の距離,眉頭間の距離,鼻下端の中点と目頭の中点間の距離,口端の中点と目頭の中点間の距離,下唇下端と目頭の中点間の距離,上まぶたと下まぶた間の距離,左右鼻孔外側端間の距離,上唇上端と目頭の中点間の距離に基づいて眠気の有無を判断し、その判断結果の組み合わせにより眠気の度合を判定する。
【選択図】図2

Description

本発明は、対象者の顔面の動作に基づいて眠気の度合を判定する眠気判定装置,プログラムおよび眠気判定方法に関する。
従来から、車両の運転者の居眠り運転を防止するため、車両内に搭載したカメラで運転者の顔を撮影し、得られた画像を処理して眠気の度合を判定する装置が提案されている。
このような装置では、得られた画像から運転者の目を特定し、その目の開度,視線などを検出して、それらに基づいて居眠り状態であるか否かを判定することが一般的である。例えば、目の開度を連続的に検出することで、目の開度の検出精度を向上して対象者が居眠り状態であることを検出する装置が提案されている(特許文献1参照)。
特開平11−66304号公報
しかし、目の動きは、車両の走行している環境によって変化することが多い。例えば、運転者の目に日光が射した場合、眠気に関わらず通常より目を細める動作を行うことがある。また、高速道路と街中とでは眠気に関わらず運転手のミラーの確認頻度は異なる。
目の動きは対象者の眠気とは直接的に関連するものの、上述したように眠気の度合の判定を阻害する外乱要因も多く、目のみで眠気の度合を判定するためには、数多くの外乱対策をとる必要があった。
本発明は、このような問題に鑑みてなされたものであり、眠気の度合の判定を阻害する外乱要因の影響を受けずに、眠気を判定することができる眠気判定装置,プログラムおよび眠気判定方法を提供することを目的とする。
上述した問題を解決するためになされた請求項1に記載の眠気判定装置は、左右の口角の距離,眉と目の距離,頭部傾き角度,眉頭の中点と目頭の中点間の距離,眉頭間の距離,鼻下端の中点と目頭の中点間の距離,口端の中点と目頭の中点間の距離,下唇下端と目頭の中点間の距離,上まぶたと下まぶた間の距離,鼻下左右両端間の距離,上唇上端と目頭の中点間の距離,の各表情情報うち、少なくとも2つ以上を取得し、取得された前記表情情報それぞれに基づいて眠気の有無または程度を判断し、該判断の結果の組み合わせに基づいて眠気の度合を判定することを特徴とする。
通常、眠気の度合が変化すると、顔の表情が変化する。図1に、表情を変化させる11の表情筋を示す。図中の矢印は、各表情筋が収縮した場合の皮膚の動作方向を示す。眠気の度合が変化すると、各表情筋が弛緩・収縮することにより皮膚が移動し、表情が変化する。また、眠気が強くなると、頭部を直立して維持することが困難になり、頭部が傾いてしまう。
よって、眠気に伴う表情筋の動きを反映する顔特徴点間の距離および頭部の傾きを測定することで、眠気の度合を判定することができる。
上述した構成の眠気判定装置であれば、左右の口角の距離,眉と目の距離,頭部傾き角度,眉頭の中点と目頭の中点間の距離,眉頭間の距離,鼻下端の中点と目頭の中点間の距離,口端の中点と目頭の中点間の距離,下唇下端と目頭の中点間の距離,上まぶたと下まぶた間の距離,鼻下左右両端間の距離,上唇上端と目頭の中点間の距離,の表情情報のうち、いずれか2つ以上の表情情報に基づいて眠気の度合を判定することができる。そのため、眠気の度合の判定に、目の情報以外も利用することができる。よって、目の情報の取得を阻害する外乱要因の影響を受けた場合も眠気の度合を判定することができる。
また、上述した眠気判定装置では、上述した表情情報それぞれに基づく眠気の有無または程度の判断結果を、少なくとも2つ以上組み合わせて眠気の度合を判定する。上述した各情報は、後述する[眠気表情特徴の眠気の度合に対する傾向を確認する試験]で示すように、それぞれ変化が現れる眠気の度合が異なる。例えば、左右の口角の距離は軽度の眠気にて変化が発生し、眉と目の距離は中度の眠気にて変化が発生し、頭部傾き角度は強度の眠気にて変化が発生する。そのため、それらの情報を組み合わせて眠気の度合を判定することで、眠気の度合いを複数の段階にて判定することができることから、単一の情報に基づく眠気の判定に比べて、眠気の度合をより詳細に判定することができる。
ところで、取得した表情情報に基づいて眠気の有無または程度を判断する具体的な方法は特に限定されない。例えば、取得した表情情報に示される距離や角度の値が予め定められた基準範囲内にあるか否かにより眠気を判断する方法が考えられる。また、それ以外の方法で眠気を判断する構成としては、請求項2に記載したように、覚醒時に取得された表情情報と、眠気を判断すべきタイミングで取得された表情情報とを比較することで眠気の有無または程度を判断し、その結果の組み合わせから眠気の度合を判定する構成が考えられる。
このように構成された眠気判定装置であれば、覚醒時との比較により表情が変化したことを検出できるので、眠気の有無または程度の判断を適切に行うことができる。
なお、上述した表情情報を取得する具体的な方法については特に限定されない。例えば、電極を顔面に貼り付け、上述した表情筋の動作の大きさに比例して発生する微弱な電気を検出して、上述した各表情情報を検出することが考えられる。
また、上述した方法以外の方法で眠気を判断する方法としては、対象者の顔を撮影し、その顔画像を画像処理することで上述した各表情情報を検出する方法が考えられる。そのためには、請求項1または請求項2に記載の構成を、請求項3に記載の眠気判定装置のように構成するとよい。
この眠気判定装置は、顔画像を示す画像データに基づいて、少なくとも顔面の構成要素の位置または頭部の傾き角度を示す位置・角度情報を検出し、該位置・角度情報に基づいて、前記表情情報を取得するように構成されている。
このように構成された眠気判定装置であれば、撮影手段により撮影された顔画像を示す画像データに基づいて、眠気の度合を判定することができる。よって、上述した各表情情報を検出するための電極などを、眠気の度合を判定する対象者に直接取り付けることなく、簡便に眠気の度合を判定することができる。
また、請求項3に記載した眠気判定装置は、請求項4に記載した眠気判定装置のように、撮影手段を備えた車両に搭載されて用いられるものであってもよい。この場合は、撮影手段により撮影された顔画像を示す画像データに基づいて、上述した位置・角度情報を検出し、該位置・角度情報に基づいて前記表情情報を取得し、それらに基づいて眠気の度合を判定するように構成するとよい。
このように構成された眠気判定装置であれば、車両に搭載して用いることができるので、車両の運転者を対象として眠気の度合を判定することができる。
なお、眠気の度合の判定結果に応じて運転者の居眠りを防止する動作を行う装置を車両に備え、その装置と連携することで、運転者の居眠りを防止することができる。例えば、上記眠気判定装置をカーナビゲーションシステムと連携して、眠気の度合の判定結果に応じた画面表示および音声出力をすることが考えられる。また、眠気の度合の判定結果に応じて、運転者に送風する装置,シートベルトを振動させる装置,ブレーキを制御する装置などを動作させてもよい。
また、上述した表情情報に基づいて判断された眠気の有無または程度から眠気の度合を判定する具体的な方法は特に限定されない。例えば、表情情報それぞれから眠気の有無を判断し、その判断結果における眠気有りと眠気なしの数に応じて眠気の度合を判定してもよい。そのためには、請求項1から4のいずれかに記載の眠気判定装置を、請求項5に記載した眠気判定装置のように構成するとよい。
この眠気判定装置は、表情情報それぞれに基づいて眠気の有無を判断し、この判断された表情情報のうち、眠気有りと判断された表情情報の割合に応じて眠気の度合を判定する。
このように構成された眠気判定装置は、眠気の判断を行った表情情報のうち、眠気有りと判断されたものの割合に応じて眠気の度合を判定する。よって、すべての表情情報に基づく眠気の判断の結果を判定結果に反映することができる。その結果、ある表情情報が、眠気を伴わない表情の変化によって眠気有りと誤って判断された場合であっても、眠気の度合の判定は他の表情情報による判断結果と合わせて行われるため、眠気の度合が誤って判定されることを抑制できる。
また、上述したものと異なる方法で眠気の度合を判定するために、表情情報それぞれから眠気の程度を判断し、その判断結果から眠気の度合を判定してもよい。そのためには、請求項1から4のいずれかに記載の眠気判定装置を、請求項6に記載した眠気判定装置のように構成するとよい。
この眠気判定装置は、表情情報それぞれに基づいて眠気の程度を判断し、この眠気の程度の組み合わせに基づいて眠気の度合を判定する。
このように構成された眠気判定装置であれば、各表情情報の眠気の程度を複数段階に分類した高次の情報に基づいて眠気の度合を判定できるので、より適切に眠気の度合を判定することができる。なお、眠気の程度に関する判断結果の具体的な取り扱いとしては、例えば、眠気の程度を数値に変換し、全ての表情情報における数値の平均値,最頻値などから眠気の度合と判定することが考えられる。
また、請求項7に記載の眠気判定装置のような方法で眠気の度合を判定してもよい。
この眠気判定装置は、左右の口角の距離,眉と目の距離,頭部傾き角度のうち少なくとも2つ以上を取得するものであって、前記頭部傾き角度に基づいて眠気ありと判断することを条件Aとし、前記眉と目の距離に基づいて眠気ありと判断することを条件Bとし、前記左右の口角の距離に基づいて眠気ありと判断することを条件Cとする。そして、この眠気判定装置は、これらの条件に基づいて眠気の度合を判定する。
具体的には、前記条件Aが満たされる場合に強度眠気と判定する。また、前記条件Bが満たされると共に、前記条件Aが満たされない場合に、前記強度眠気よりも眠気の度合が低い中度眠気と判定する。また、前記条件Cが満たされると共に、前記条件Aおよび前記条件Bが満たされない場合に、前記中度眠気よりも眠気の度合が低い軽度眠気と判定する。そして、前記条件A,条件B,条件Cのいずれも満たされない場合に、眠気なしと判定する。
上述したように、左右の口角の距離は軽度の眠気にて変化が発生し、眉と目の距離は中度の眠気にて変化が発生し、頭部傾き角度は強度の眠気にて変化が発生する。よって、このような方法で眠気の度合を判定する眠気判定装置であれば、表情情報取得手段が左右の口角の距離,眉と目の距離,頭部傾き角度のいずれについても情報を取得する場合には、強度眠気,中度眠気,軽度眠気,眠気なし,の4段階で眠気の度合を判定することができる。また、表情情報取得手段が、上述した情報のうち2つを取得する場合には、強度眠気,中度眠気,軽度眠気,のうちいずれか2つと、眠気なしとの3段階で眠気の度合を判定することができる。
また、請求項8に記載のプログラムは、請求項1から請求項7のいずれかに記載の表情情報取得手段および眠気判定手段として機能させるための処理手順を、コンピュータシステムに実行させるためのプログラムである。
このようなプログラムにより制御されるコンピュータシステムは、請求項1から請求項7のいずれかに記載の眠気判定装置の一部を構成することができる。
なお、上述したプログラムは、コンピュータシステムによる処理に適した命令の順番付けられた列からなるものであって、各種記録媒体や通信回線を介して、眠気判定装置やこれを利用するユーザに提供されるものである。
また、請求項9に記載の眠気判定方法は、左右の口角の距離,眉と目の距離,頭部傾き角度,眉頭の中点と目頭の中点間の距離,眉頭間の距離,鼻下端の中点と目頭の中点間の距離,口端の中点と目頭の中点間の距離,下唇下端と目頭の中点間の距離,上まぶたと下まぶた間の距離,鼻下左右両端間の距離,上唇上端と目頭の中点間の距離,のうち、少なくとも2つ以上に基づいて眠気の有無または程度を判断して、該判断の結果の組み合わせに基づいて眠気の度合を判定する方法である。
このような方法により眠気の度合の判定を行う場合、請求項1から請求項7のいずれかに記載の眠気判定装置と同様の作用,効果を得ることができる。
[実施例1]
(1.1)全体構成
実施例1における居眠り防止システム1は、車両2に搭載されて用いられるものであり、図2に示すように、運転者3の顔画像を撮影する撮影装置10と、顔画像に基づいて眠気の度合を判定する眠気判定装置20と、判定された眠気の度合に応じて居眠り運転による事故防止のための動作を行う複数の装置(警報装置30,首元空調装置40,シートベルト振動装置50,および,ブレーキ制御装置60)と、から構成される。
これらのうち、撮影装置10は、車両2における運転者3の正面方向にて運転者3に向けて配置されており、運転者3の正面の顔画像を所定の時間間隔(例えば、1/30s)で撮影するように構成されている。
また、眠気判定装置20は、図3に示すように、制御部21,受信部22,入力部23,記憶部24,出力部25,などを備えている。
この眠気判定装置20の制御部21は、記憶部24に記憶されているプログラムに従って、眠気判定装置20全体を制御する。
また、この制御部21は、撮影装置10により撮影された顔画像を示す画像データを受信部22より受信する毎に、内蔵するメモリ(以降、「内蔵メモリ」という)にその画像データを記憶させる。その後、その画像データに基づいて、後述する制御部メイン処理,覚醒時データ収集処理,運転時データ収集処理,表情情報取得処理,眠気判定処理を行う。そして、眠気判定処理において、眠気の度合を眠気レベル0(眠気なし),眠気レベル1(軽度眠気),眠気レベル2(中度眠気),眠気レベル3(強度眠気),のいずれかと判定する。
入力部23は、後述する制御部メイン処理を開始するための開始ボタン,居眠り防止システム1の全ての処理および動作を終了させる終了ボタンなどを備えている。
記憶部24は、データを記憶する記憶領域として、制御部21を制御するプログラム用の記憶領域、後述する各種データを記憶するための記憶領域などを有している。
出力部25は、制御部21により判定された眠気の度合に応じて、警報装置30,首元空調装置40,シートベルト振動装置50,および,ブレーキ制御装置60に対し、以下に記す居眠り防止の動作をさせるための信号を出力する。
上述した装置のうち、警報装置30は、ディスプレイおよびスピーカを備えている。この警報装置30は、制御部21により判定された眠気の度合に応じて、運転者3に居眠り運転の注意を促す表示(例えば、眠気レベル1と判定された場合は「早めに休憩を取りましょう」、眠気レベル2と判定された場合は「注意してください」、眠気レベル3と判定された場合は「運転を中止してください」など)をディスプレイに出力すると共に、上述した表示内容をスピーカにて音声で出力する。
また、首元空調装置40は、運転者3のシートにおけるヘッドレストに配置されており、制御部21により眠気レベル1〜3のいずれかであると判定されたときに、運転者3の首元に送風する。
また、シートベルト振動装置50は、シートベルトの引き込み機構に備えられており、制御部21により眠気レベル2または眠気レベル3であると判定されたときに、シートベルトを振動させる。
また、ブレーキ制御装置60は、ブレーキを自動的に作動させる装置である。これは、制御部21により眠気レベル3であると判定されたときに、ブレーキを作動させ、車両の走行を強制的に停止させたり、順次減速させたりする。
(1.2)眠気判定装置20の制御部21による処理
以下に、実施例1における居眠り防止システム1の眠気判定装置20が備える制御部21により実行される各種処理について説明する。
(1.2.1)制御部メイン処理
以下に、制御部21による制御部メイン処理の処理手順を、図4に基づいて説明する。この制御部メイン処理は、入力部23に備えられた開始ボタンを押すことによって開始される。
この制御部メイン処理では、まず、覚醒時における運転者3の顔面の情報を収集する覚醒時データ収集処理を行う(ステップ1、以降ステップをSと記載する)。ここでは、運転者3の眠気を判定する基準となる覚醒時の顔面の情報として、L1b,L2b,αb,θbを収集する。この覚醒時データ収集処理について詳しくは後述する。なお、ここでいうL1とは、左右の口角の距離情報であり、L2とは、眉と目の距離情報であり、αとは、頭部の前後への傾き角度情報であり、θとは、頭部の左右への傾き角度情報である。
次に、運転者3の顔面の情報を収集する運転時データ収集処理を行う(S2)。ここでは運転者3の顔面の情報として、L1d,L2d,αd,θdを収集する。この運転時データ収集処理について詳しくは後述する。
次に、運転者3の眠気の度合を判定する眠気判定処理を行う(S3)。
ここでは、まず、S1において算出されたL1b,L2b,αb,θbと、S2において算出されたL1d,L2d,αd,θdとを比較することで、L1,L2,α,θそれぞれに基づく眠気の有無を判断する。
そして、その判断結果の組み合わせにより、眠気レベル0(眠気なし),眠気レベル1(軽度眠気),眠気レベル2(中度眠気),眠気レベル3(強度眠気)のいずれかに眠気の度合を判定する。この眠気判定処理について詳しくは後述する。
次に、入力部23の終了ボタンが押されたか否かがチェックされる(S4)。終了ボタンが押されていなければ(S4:NO)、処理がS2に戻る。一方、終了ボタンが押されていれば(S4:YES)、本処理を終了する。
なお、この制御部メイン処理は、車両2におけるエンジン等の動力部が停止して車両全体の制御が終了した際にも終了する。
(1.2.2)覚醒時データ収集処理
以下に、制御部21による覚醒時データ収集処理の処理手順を、図5に基づいて説明する。この覚醒時データ収集処理は、制御部メイン処理のS1にて実行される。
この覚醒時データ収集処理では、まず、データの初期化を行う(S21)。ここでは、この時点で制御部21の内蔵メモリに記憶されている画像データの削除と、記憶部24に記憶されている各種データの削除と、を行う。
次に、変数iを0に設定する(S22)。
次に、運転者3の顔面の情報を検出する表情情報取得処理を行う(S23)。ここでは、撮影装置10により撮影された顔画像を示す画像データに基づき、L1,L2,α,θを、所定の回数(m回)算出し、記憶部24に記憶する。このとき、記憶部24には、L1,L2,α,θがそれぞれm個ずつ記憶されている。
なお、L1は、左右の口角の距離であり、眠気を感じると口周りが緩むことで小さくなる。また、L2は、左目頭および左目尻の中心点と、左眉中心と、の距離(以降、単に「眉目間の距離」という)であり、眠気を感じると大きくなる。また、αは、頭部の前後への傾きを示す角度である。また、θは、頭部の左右への傾きを示す角度である。この表情情報取得処理について詳しくは後述する。
次に、S23にて算出されたm個のL1,L2,α,θに基づき、その代表値L1a,L2a,αa,θaを算出する(S24)。
ここでは、まず、記憶部24に記憶されたL1,L2,α,θをすべて読み出す。そして、L1,L2,α,θそれぞれにおける度数分布に基づき、眠気の亢進に伴い値が小さくなるL1に関しては、累積相対度数が最小値より5%に該当する値をL1aとして算出する。一方、眠気の亢進に伴い値が大きくなるL2,α,θに関しては、累積相対度数が最大値より5%に該当する値をL2a,αa,θaとして算出する。
そして、このように算出されたL1a,L2a,αa,θaそれぞれの値を記憶部24に記憶し、記憶部24に記憶されていたL1,L2,α,θを削除する。記憶部24には、上述したL1a,L2a,αa,θaの値がそれぞれ複数個記憶できるようになっており、S24にて上述した値が算出される毎に、記憶部24に記憶される上述した値それぞれの個数は1つずつ増加していくこととなる。
その後、変数iをインクリメント(i=i+1)して(S25)、変数iが所定数n未満ならば(S26:YES)、処理がS23に戻る。一方、変数iが所定数n未満でなければ(S26:NO)、処理がS27に移行する。このとき、記憶部24には、L1a,L2a,αa,θaがそれぞれn個ずつ記憶されている。
次に、後述する眠気判定処理で用いられるL1b,L2b,αb,θbを算出する(S27)。
このS27では、S24にて記憶部24に記憶されたL1a,L2a,αa,θaを全て読み出し、それぞれの正規分布を作成する。これらの正規分布における平均値をμ,標準偏差をσとしたときに、眠気の亢進に伴い値が小さくなるL1に対応するL1aに関しては、μ−2σに該当する値をL1bとして算出する。一方、眠気の亢進に伴い値が大きくなるL2,α,θに対応するL2a,αa,θaに関しては、μ+2σに該当する値をそれぞれL2b,αb,θbとして算出する。
そして、このように算出したL1b,L2b,αb,θbそれぞれの値を記憶部24に記憶し、記憶部24に記憶されていたL1a,L2a,αa,θaを削除する。
その後、本処理を終了して、制御部メイン処理に戻る。
(1.2.3)運転時データ取得処理
以下に、制御部21による運転時データ収集処理の処理手順を、図6に基づいて説明する。この覚醒時データ収集処理は、制御部メイン処理のS2にて実行される。
この運転時データ収集処理では、まず、運転者3の顔面の情報を検出する表情情報取得処理を行う(S31)。ここでは、覚醒時データ収集処理のS23と同様に、m個のL1,L2,α,θを取得する。この表情情報取得処理について、詳しくは後述する。
次に、S31にて算出されたL1,L2,α,θに基づき、その代表値L1d,L2d,αd,θdを算出する(S32)。
ここでは、まず、記憶部24に記憶されたL1,L2,α,θをすべて読み出す。そして、L1,L2,α,θそれぞれにおける度数分布に基づき、眠気の亢進に伴い値が小さくなるL1に関しては、累積相対度数が最小値より5%に該当する値をL1dとして算出する。一方、眠気の亢進に伴い値が大きくなるL2,α,θに関しては、累積相対度数が最大値より5%に該当する値をL2d,αd,θdとして算出する。
そして、このように算出されたL1d,L2d,αd,θdそれぞれの値を記憶部24に記憶し、記憶部24に記憶されていたL1,L2,α,θを削除する。
その後、本処理を終了して、制御部メイン処理に戻る。
(1.2.4)表情情報取得処理
以下に、制御部21による表情情報取得処理の処理手順を、図7に基づいて説明する。この表情情報取得処理は、覚醒時データ収集処理におけるS23,運転時データ収集処理におけるS31にて実行される。
この表情情報取得処理では、まず、変数jを0に設定する(S41)。
次に、撮影装置10により撮影された顔画像を示す画像データを受信部22より取得する(S42)。
次に、S42にて取得した画像データに基づき、顔面の構成要素の位置・角度を示す位置・角度情報を検出する(S43)。
ここでは、図8に示すように、左目頭(x1,y1,z1),右目頭(x2,y2,z2),左目尻(x3,y3,z3),左眉頭(x4,y4,z4),右眉頭(x5,y5,z5),左眉中心上端(x6,y6,z6),左鼻孔外側端(右鼻孔と反対側に位置する端部)(x7,y7,z7),右鼻孔外側端(左鼻孔と反対側に位置する端部)(x8,y8,z8),左口角(x9,y9,z9),右口角(x10,y10,z10),下唇下端(x11,y11,z11),上まぶた(x12,y12,z12),下まぶた(x13,y13,z13),上唇上端(x14,y14,z14)の各顔特徴点の位置と、頭部の前後への傾き角度情報αおよび頭部の左右への傾き角度情報θと、を検出する。なお、上述したαおよびθは、頭部が前後,左右のいずれに傾いた場合であっても、正の値として検出する。
上述した位置・角度情報は、顔画像を示す画像データから検出するが、実用化を考慮して1台のカメラで撮影した画像を用いて処理できることを前提とし、その画像から顔特徴点を検出してそれらの間の距離を検出する方法を採る。
顔特徴点の検出は、形状抽出やパターン照合を用いて画像上の2次元座標を検出する方法が一般的であるが、本実施例では顔向きが変化した場合でも正確に特徴点間距離を検出する必要があるため、顔特徴点は3次元座標として検出する。具体的には、AAM(Active Appearance Model)を用いて、1台のカメラで撮影した顔画像から特徴点の3次元座標を検出し、その座標から特徴量となる顔特徴点間の距離を計算する。AAMとは、多数の特徴点からなる形態およびテクスチャ情報を持つ2次元モデル(図9(a)参照)と、形態のみからなる3次元モデル(図9(b)参照)とを用いて、画像にこれらのモデルをフィッティングさせていくことにより特徴点の3次元座標および頭部の傾きの角度を検出する手法である。
次に、S43による検出結果に基づいて、左右の口角の距離情報L1および眉と目の距離情報L2を、後述する計算式にて算出し、S43にて検出されたαおよびθと共に記憶部24に記憶する(S44)。
上述した各情報のうち、L1は、左右の口角の距離であり、次に示す式で計算される。
L1=[(x9−x102+(y9−y102+(z9−z102]0.5
また、L2は、眉と目の距離(左目頭と左目尻の中心と、左眉中心上端と、の距離)であり、次に示す式で計算される。
L2=[(x6−(x1+x3)/2)2+(y6−(y1+y3)/2)2+(z6−(z1+z3)/2)2]0.5
そして、このように算出したL1,L2およびS43で検出したα,θそれぞれの値を記憶部24に記憶する。記憶部24には、上述した値がそれぞれ複数個記憶できるようになっており、S44にてL1,L2が算出される毎に、記憶部24に記憶されるL1,L2,α,θそれぞれの個数は1つずつ増加していくこととなる。
このS44の後、変数jをインクリメント(j=j+1)して(S45)、変数jが所定数m未満ならば(S46:YES)、処理がS42に戻る。一方、変数jが所定数m未満でなければ(S46:NO)、本処理が終了する。
(1.2.5)眠気判定処理
以下に、制御部21による眠気判定処理の処理手順を、図10に基づいて説明する。この眠気判定処理は、制御部メイン処理のS3にて実行される。
この眠気判定処理では、まず、変数L1f,L2f,αf,θfを0に設定する(S61)。
次に、覚醒時データ収集処理のS27において算出されたL1bの値と、運転時データ収集処理のS32において算出されたL1dの値と、を比較する(S62)。
このとき、L1dの値がL1bの値以下であれば(S62:YES)、つまり、覚醒時と比較して左右口角間の距離が小さくなっていれば、変数L1fを1に設定し(S63)、処理がS64へ移行する。一方、L1dの値がL1bの値以下でなければ(S62:NO)、処理がS64へ移行する。
次に、覚醒時データ収集処理のS27において算出されたL2bの値と、運転時データ収集処理のS32において算出されたL2dの値と、を比較する(S64)。
このとき、L2dの値がL2bの値以上であれば(S64:YES)、つまり、覚醒時と比較して眉目間の距離が大きくなっていれば、変数L2fを1に設定し(S65)、処理がS66へ移行する。一方、L2dの値がL2bの値以上でなければ(S64:NO)、処理がS66へ移行する。
次に、覚醒時データ収集処理のS27において算出されたαbの値と、運転時データ収集処理のS32において算出されたαdの値と、を比較する(S66)。
このとき、αdの値がαbの値以上であれば(S66:YES)、つまり、覚醒時と比較して頭部の前後への傾きが大きくなっていれば、変数αfを1に設定し(S67)、処理がS68へ移行する。一方、上述した条件を満たさなければ、(S66:NO)、変数αfを変更することなく、処理がS68へ移行する。
次に、覚醒時データ収集処理のS27において算出されたθbの値と、運転時データ収集処理のS32において算出されたθdの値と、を比較する(S68)。
このとき、θdの値がθbの値以上であれば(S68:YES)、つまり、覚醒時と比較して頭部の左右への傾きが大きくなっていれば、変数θfを1に設定し(S69)、処理がS70へ移行する。一方、上述した条件を満たさなければ、(S68:NO)、変数θfを変更することなく、処理がS70へ移行する。
次に、変数L1f,L2f,αf,θfがいずれも0であれば(S70:YES)、眠気レベル0(眠気なし)と判定し(S71)、処理がS77に移行する。一方、変数L1f,L2f,αf,θfがいずれも0でなければ(S70:NO)、処理がS72に移行する。
次に、変数L2f,αf,θfがいずれも0であれば(S72:YES)、眠気レベル1(軽度眠気)と判定し(S73)、処理がS77に移行する。一方、変数L2f,αf,θfがいずれも0でなければ(S72:NO)、処理がS74に移行する。
次に、変数αf,θfいずれも0であれば(S74:YES)、眠気レベル2(中度眠気)と判定し(S75)、処理がS77に移行する。一方、変数αf,θfがいずれも0でなければ(S74:NO)、眠気レベル3(強度眠気)と判定する(S76)。
次に、判定された眠気の度合に基づいて、警報装置30,首元空調装置40,シートベルト振動装置50,および,ブレーキ制御装置60に動作を行わせる信号を出力部25に出力させる(S77)。ここでは、眠気レベル0と判定された場合には上述したいずれの装置にも動作を行わせない。眠気レベル1と判定された場合には、警報装置30および首元空調装置40に動作を行わせる。眠気レベル2と判定された場合には、警報装置30,首元空調装置40,および,シートベルト振動装置50に動作を行わせる。眠気レベル3と判定された場合には、それら全ての装置に動作を行わせる。
次に、記憶部24からL1d,L2d,αd,θdを削除する(S78)。その後、本処理を終了して、制御部メイン処理に戻る。
(1.3)効果
このように構成された実施例1における眠気判定装置20であれば、左右の口角の距離,眉と目の距離,および,頭部傾き角度に基づいて眠気の度合を判定することができる。そのため、眠気の度合の判定に、目の開度などの目の情報を必要としない。よって、目の情報の取得を阻害する外乱要因の影響を受けないので、目の開度,瞳孔径,視線などの目の情報のみに基づいては眠気の度合が判定できない場合であっても、眠気の度合を判定することができる。
また、上述した眠気判定装置20であれば、撮影装置10により撮影された顔画像を示す画像データに基づいて、眠気の度合を判定することができる。よって、左右の口角の距離,眉と目の距離,頭部傾き角度を検出するための電極などを、眠気の度合を判定する対象者に直接取り付けることなく、簡便に眠気の度合を判定することができる。
さらに、左右の口角の距離は軽度の眠気にて変化が発生し、眉と目の距離は中度の眠気にて変化が発生し、頭部傾き角度は強度の眠気にて変化が発生する。よって、このような方法で眠気の度合を判定する眠気判定装置20であれば、強度眠気,中度眠気,軽度眠気,および,眠気なし,の4段階で眠気の度合を判定することができる。
また、上述したこのように構成された居眠り防止システム1は、車両2に搭載して用いることができるので、車両2の運転者3を対象として眠気の度合を判定することができる。
また、上述した居眠り防止システム1においては、眠気判定装置20が警報装置30と連携しており、眠気の度合の判定結果に応じた画面表示および音声出力を行う。また、眠気の度合の判定結果に応じて、首元空調装置40,シートベルト振動装置50,ブレーキ制御装置60が動作する。そのため、運転者3に対して眠気の度合に応じた適切な居眠り防止対応を行うことができ、居眠り運転による事故を未然に防止できる。
(1.4)対応関係
以上説明した実施形態において、図7におけるS43,S44が本発明における表情情報取得手段であり、図10の眠気判定処理が本発明における眠気判定手段であり、撮影装置10が本発明における撮影手段である。
[実施例2]
(2.1)全体構成
実施例2における居眠り防止システム1は、基本的に実施例1と同じ構成である。しかしながら、制御部21による処理が一部変更されているため、変更された処理を以下に示す。
(2.2)制御部21による処理
以下に、実施例2における居眠り防止システム1の眠気判定装置20が備える制御部21により実行される各種処理について説明する。この実施例2は、上述した実施例1と比べて、制御部メイン処理,覚醒時データ収集処理,運転時データ収集処理,および,眠気判定処理の処理方法が異なる。
(2.2.1)制御部メイン処理
以下に、実施例2における制御部メイン処理の処理手順を、図11に基づいて説明する。この制御部メイン処理は、入力部23に備えられた開始ボタンを押すことによって開始される。
この制御部メイン処理では、まず、覚醒時における運転者3の顔面の情報を収集する覚醒時データ収集処理2を行う(S101)。ここでは、運転者3の眠気を判定する基準となる覚醒時の顔面の情報として、L1a,L2a,αa,θaをそれぞれn個ずつ取得する。実施例2における覚醒時データ収集処理について詳しくは後述する。
次に、運転者3の顔面の情報を取得する運転時データ収集処理を行う(S102)。ここでは運転者3の顔面の情報として、L1d,L2d,αd,θdをそれぞれn個ずつ取得する。実施例2における運転時データ収集処理について詳しくは後述する。
次に、運転者3の眠気の度合を判定する眠気判定処理を行う(S103)。
ここでは、S101において算出されたL1a,L2a,αa,θaそれぞれn個と、S102において算出されたL1d,L2d,αd,θdそれぞれn個と、に基づき、対応のあるt検定を行う。その検定結果に基づいて、左右の口角の距離情報L1,眉と目の距離情報L2,頭部の前後への傾き角度情報α,および,頭部の左右への傾き角度情報θそれぞれに基づく眠気の有無を判断し、その判断結果の組み合わせにより眠気の度合を判定する。実施例2における眠気判定処理について詳しくは後述する。
次に、入力部23の終了ボタンが押されたか否かがチェックされる(S104)。終了ボタンが押されていなければ(S104:NO)、処理がS102に戻る。一方、終了ボタンが押されていれば(S104:YES)、本処理を終了する。
なお、この制御部メイン処理は、車両2におけるエンジン等の動力部が停止して車両全体の制御が終了した際にも終了する。
(2.2.2)覚醒時データ収集処理
以下に、実施例2における覚醒時データ収集処理の処理手順を、図12に基づいて説明する。
この覚醒時データ収集処理において、S121〜S126の処理は、実施例1の覚醒時データ収集処理におけるS21〜S26と同様の処理である。S126にて変数iが所定数n未満でなければ(S126:NO)、実施例1の覚醒時データ収集処理のS27に該当する処理を行うことなく、本処理を終了して、制御部メイン処理に戻る。
なお、実施例1においては、覚醒時データ収集処理が終了した時点で、記憶部24にはL1b,L2b,αb,θbが記憶されていたが、実施例2においては、この時点で、記憶部24にL1a,L2a,αa,θaがそれぞれn個ずつ記憶されているという点で異なる。
(2.2.3)運転時データ収集処理
以下に、実施例2における運転時データ収集処理の処理手順を、図13に基づいて説明する。この運転時データ収集処理は、制御部メイン処理のS102にて実行される。
この運転時データ収集処理では、まず、変数kを0に設定する(S141)。
次に、実施例1にて述べた表情情報取得処理を行い、m個のL1,L2,α,θを算出する(S142)。
次に、S142にて算出されたm個のL1,L2,α,θに基づき、その代表値L1d,L2d,αd,θdを算出する(S143)。ここでは、実施例1の運転時データ収集処理のS32と同様の処理を行って代表値を算出する。
そして、このように算出したL1d,L2d,αd,θdそれぞれの値を記憶部24に記憶する。記憶部24には、上述した値がそれぞれ複数個記憶できるようになっており、S143にて上述した値を算出する毎に、記憶部24に記憶されるそれぞれの値の数は1つずつ増加していくこととなる。
その後、変数kをインクリメント(k=k+1)して(S144)、変数kが所定数n未満ならば(S145:YES)、処理がS142に戻る。一方、変数kが所定数n未満でなければ(S145:NO)、本処理を終了して、制御部メイン処理に戻る。このとき、記憶部24には、L1d,L2d,αd,θdがそれぞれn個ずつ記憶されている。
(2.2.4)眠気判定処理
以下に、実施例2における眠気判定処理の処理手順を、図14に基づいて説明する。この眠気判定処理は、制御部メイン処理のS103にて実行される。
この眠気判定処理では、まず、変数L1f,L2f,αf,θfを0に設定する(S161)。
次に、覚醒時データ収集処理のS124において算出されたL1aの値n個と、運転時データ収集処理のS143において算出されたL1dの値n個と、に基づいて、対応のあるt検定を行う(S162)。この眠気判定処理において、対応のあるt検定の有意水準は5%とする。
このとき、L1dの平均がL1aの平均に対して有意に小さければ(S162:YES)、つまり、覚醒時と比較して左右口角間の距離が小さくなっていれば、変数L1fを1に設定し(S163)、処理がS164へ移行する。一方、L1dの平均がL1aの平均に対して有意に小さくなければ(S162:NO)、処理がS164へ移行する。
次に、覚醒時データ収集処理のS124において算出されたL2aの値n個と、運転時データ収集処理のS143において算出されたL2dの値n個と、に基づいて、対応のあるt検定を行う(S164)。
このとき、L2dの平均がL2aの平均に対して有意に大きければ(S164:YES)、つまり、覚醒時と比較して眉目間の距離が大きくなっていれば、変数L2fを1に設定し(S165)、処理がS166へ移行する。一方、L1dの平均がL1aの平均に対して有意に大きくなければ(S164:NO)、処理がS166へ移行する。
次に、覚醒時データ収集処理のS124において算出されたαaの値n個と、運転時データ収集処理のS143において算出されたαdの値n個と、に基づいて、対応のあるt検定を行う(S166)。
このとき、αdの平均がαaの平均に対して有意に大きければ(S166:YES)、つまり、覚醒時と比較して頭部の前後への傾きが大きくなっていれば、変数αfを1に設定し(S167)、処理がS168へ移行する。一方、上述した条件を満たさなければ(S166:NO)、変数αfを変更することなく、処理がS168へ移行する。
次に、覚醒時データ収集処理のS124において算出されたθaの値n個と、運転時データ収集処理のS143において算出されたθdの値n個と、に基づいて、対応のあるt検定を行う(S168)。
このとき、θdの平均がθaの平均に対して有意に大きければ(S168:YES)、つまり、覚醒時と比較して頭部の左右への傾きが大きくなっていれば、変数θfを1に設定し(S169)、処理がS170へ移行する。一方、上述した条件を満たさなければ(S168:NO)、変数θfを変更することなく、処理がS170へ移行する。
次に、変数L1f,L2f,αf,θfがいずれも0であれば(S170:YES)、眠気レベル0(眠気なし)と判定し(S171)、処理がS177に移行する。一方、変数L1f,L2f,αf,θfがいずれも0でなければ(S170:NO)、処理がS172に移行する。
次に、変数L2f,αf,θfがいずれも0であれば(S172:YES)、眠気レベル1(軽度眠気)と判定し(S173)、処理がS177に移行する。一方、変数L2f,αf,θfがいずれも0でなければ(S172:NO)、処理がS174に移行する。
次に、変数αf,θfがいずれも0であれば(S174:YES)、眠気レベル2(中度眠気)と判定し(S175)、処理がS177に移行する。一方、変数αf,θfがいずれも0でなければ(S174:NO)、眠気レベル3(強度眠気)と判定する(S176)。
次に、判定された眠気の度合に基づいて、警報装置30,首元空調装置40,シートベルト振動装置50,および,ブレーキ制御装置60に動作を行わせる信号を出力部25に出力させる(S177)。ここでは、実施例1の眠気判定処理のS77と同様の処理を行う。
次に、記憶部24からL1d,L2d,αd,θdを削除する(S178)。その後、本処理を終了して、制御部メイン処理に戻る。
(2.3)効果
実施例2に記載の眠気判定装置20または居眠り防止システム1においても、実施例1と同様の効果を得ることができる。さらに本実施例2においては、眠気判定処理において、眠気の有無の判断(S170,S172,S174)を対応のあるt検定にて行っているため、その判定結果がより信頼性の高いものとなっており、上述した実施例1と比べて誤判定を少なくすることができる。
(2.4)対応関係
以上説明した実施形態において、図7におけるS43,S44が本発明における表情情報取得手段であり、図14の眠気判定処理が本発明における眠気判定手段であり、撮影装置10が本発明における撮影手段である。
[実施例3]
(3.1)全体構成
実施例3における居眠り防止システム1は、基本的に実施例1と同じ構成である。しかしながら、制御部21による処理が異なるため、その処理を以下に説明する。
(3.2)制御部21による処理
以下に、実施例3における居眠り防止システム1の眠気判定装置20が備える制御部21により実行される各種処理について説明する。
(3.2.1)制御部メイン処理
以下に、実施例3における制御部メイン処理の処理手順を、図15に基づいて説明する。この制御部メイン処理は、入力部23に備えられた開始ボタンを押すことによって開始される。
この制御部メイン処理では、まず、表情情報取得処理を行う(S201)。ここでは、撮影装置10が撮影した運転者3の顔画像に基づいて、表情情報として左右の口角の距離(L1),眉と目の距離(L2),眉頭の中点と目頭の中点間の距離(L3),眉頭間の距離(L4),鼻下端の中点と目頭の中点間の距離(L5),口端の中点と目頭の中点間の距離(L6),下唇下端と目頭の中点間の距離(L7),上まぶたと下まぶた間の距離(L8),鼻下左右両端間の距離(L9),上唇上端と目頭の中点間の距離(L10),頭部の前後への傾き角度(α),頭部の左右への傾き角度(θ)の各表情情報を算出して、記憶部24に記憶する。この表情情報取得処理について、詳しくは後述する。なお、このS201にて算出された表情情報は、S201が実行されるごとに記憶部24に蓄積される。
次に、規定の時間が経過したか否かがチェックされる(S202)。規定の時間(例えば、5min)経過していなければ(S202:NO)、所定の時間(例えば、5s)待機した後、処理がS201に戻る。一方、規定の時間経過していれば(S202:YES)、処理がS203に移行する。
次に、眠気を判定する基準となる覚醒時情報を算出する(S203)。ここでは、S201にて記憶部24に複数回記憶された各表情情報をすべて読み出す。そして、読み出された各表情情報それぞれによって正規分布を作る。このとき、L1,L8およびL9は、眠気が亢進するにつれて値が小さくなるため、基準となる覚醒時情報の値を小さく設定する。よって、L1,L8およびL9に関しては、平均値をμ,標準偏差をσとしたときに、μ−2σに該当する値をL1,L8,L9それぞれの覚醒時情報として記憶部24に記憶する。一方、L2〜L7,L10,α,θに関しては、それぞれにより作られる正規分布におけるμ+2σに該当する値をL2〜L7,L10,α,θそれぞれの覚醒時情報として記憶部24に記憶する。
次に、表情情報取得処理を行う(S204)。ここでは、上述したS201と同様に、各表情情報を算出し、記憶部24に記憶する。
次に、運転者3の眠気の度合を判定する眠気判定処理を行う(S205)。ここでは、S203で算出された覚醒時情報と、S204で算出された表情情報と、を記憶部24から読み出して比較し、眠気の度合を判定する。この眠気判定処理について、詳しくは後述する。
その後、S204で算出された表情情報を記憶部24から消去し、処理がS204に戻る。
なお、本処理は、入力部23の終了ボタンが押された場合,および,車両2におけるエンジン等の動力部が停止して車両全体の制御が終了した場合に終了する。
(3.2.2)表情情報取得処理
以下に、実施例3における表情情報取得処理の処理手順を、図16に基づいて説明する。この表情情報取得処理は、制御部メイン処理におけるS201,S204にて実行される。
この表情情報取得処理では、まず、撮影装置10により撮影された顔画像を示す画像データを受信部22より取得する(S221)。
次に、S221にて取得した画像データに基づき、顔面の構成要素の位置・角度を示す位置・角度情報を検出する(S222)。ここでは、実施例1の表情情報取得処理のS43と同様に、AAMを用いて、左目頭(x1,y1,z1),右目頭(x2,y2,z2),左目尻(x3,y3,z3),左眉頭(x4,y4,z4),右眉頭(x5,y5,z5),左眉中心上端(x6,y6,z6),左鼻孔外側端(右鼻孔と反対側に位置する端部)(x7,y7,z7),右鼻孔外側端(左鼻孔と反対側に位置する端部)(x8,y8,z8),左口角(x9,y9,z9),右口角(x10,y10,z10),下唇下端(x11,y11,z11),上まぶた(x12,y12,z12),下まぶた(x13,y13,z13),上唇上端(x14,y14,z14)の各位置と、頭部の前後への傾き角度情報αおよび頭部の左右への傾き角度情報θと、を検出する。なお、上述したαおよびθは、頭部が前後,左右のいずれに傾いた場合であっても、正の値として検出する。
次に、S222による検出結果に基づいて、上述した表情情報L1〜L10を算出する(S223)。
上述した表情情報のうち、L1は、左右の口角の距離(左口角と右口角との距離)であり、上述した左口角と右口角とに基づき、次に示す式で計算される。
L1=[(x9−x102+(y9−y102+(z9−z102]0.5
また、L2は、眉と目の距離(左目頭と左目尻の中心と、左眉中心上端と、の距離)であり、次に示す式で計算される。
L2=[(x6−(x1+x3)/2)2+(y6−(y1+y3)/2)2+(z6−(z1+z3)/2)2]0.5
また、L3は、眉頭の中点と目頭の中点間の距離(左眉頭と右眉頭の中心と、左目頭と右目頭の中心と、の距離)であり、次に示す式で計算される。
L3=[((x4+x5)/2−(x1+x2)/2)2+((y4+y5)/2−(y1+y2)/2)2+((z4+z5)/2−(z1+z2)/2)2]0.5
また、L4は、眉頭間の距離(左眉頭と右眉頭との距離)であり、次に示す式で計算される。
L4=[(x4−x52+(y4−y52+(z4−z52]0.5
また、L5は、鼻下端の中点と目頭の中点間の距離(左鼻孔外側端と右鼻孔外側端の中心と、左目頭と右目頭の中心と、の距離)であり、次に示す式で計算される。
L5=[((x7+x8)/2−(x1+x2)/2)2+((y7+y8)/2−(y1+y2)/2)2+((z7+z8)/2−(z1+z2)/2)2]0.5
また、L6は、口端の中点と目頭の中点間の距離(左口角と右口角の中心と、左目頭と右目頭の中心と、の距離)であり、次に示す式で計算される。
L6=[((x9+x10)/2−(x1+x2)/2)2+((y9+y10)/2−(y1+y2)/2)2+((z9+z10)/2−(z1+z2)/2)2]0.5
また、L7は、下唇下端と目頭の中点間の距離(下唇下端と、左目頭と右目頭の中心と、の距離)であり、次に示す式で計算される。
L7=[(x11−(x1+x2)/2)2+(y11−(y1+y2)/2)2+(z11−(z1+z2)/2)2]0.5
また、L8は、上まぶたと下まぶた間の距離であり、次に示す式で計算される。
L8=[(x12−x132+(y12−y132+(z12−z132]0.5
また、L9は、鼻下左右両端間の距離(左鼻孔外側端と、右鼻孔外側端と、の距離)であり、次に示す式で計算される。
L9=[(x7−x82+(y7−y82+(z7−z82]0.5
なお、鼻孔の外側端間の距離に替えて、左右の鼻翼の外側端間の距離をL9として用いてもよい。その場合は、上述したS222にて、左右それぞれの鼻翼の外側端の位置を検出する構成とするとよい。
また、L10は、上唇上端と目頭の中点間の距離(上唇上端と、左目頭と右目頭の中心と、の距離)であり、次に示す式で計算される。
L10=[(x14−(x1+x2)/2)2+(y14−(y1+y2)/2)2+(z14−(z1+z2)/2)2]0.5
このようにして算出したL1〜L10およびS223で検出したα,θそれぞれの値を記憶部24に記憶する。その後、本処理を終了して、制御部メイン処理に戻る。
(3.2.3)眠気判定処理
以下に、実施例3における眠気判定処理の処理手順を、図17に基づいて説明する。この眠気判定処理は、制御部メイン処理のS205にて実行される。
この眠気判定処理が開始されると、まず、表情情報それぞれにおける眠気の有無を判断する(S241)。ここでは、制御部メイン処理のS203で算出したL1〜L10,α,θそれぞれの覚醒時情報と、S204で算出した表情情報L1〜L10,α,θそれぞれとを比較し、眠気の有無を判断する。
なお、表情情報と覚醒時情報との比較と眠気の有無の対応関係を表1に示す。
この表1の対応関係に従って、眠気の有無を判断する。
次に、S241で判断した表情情報のうち、眠気有りと判断された表情情報の数が7以上か否かチェックする(S242)。
眠気有りと判断された表情情報の数が7以上であれば(S242:YES)、眠気レベルを3(強度眠気)と判定し(S243)、処理がS249に移行する。一方、7以上でなければ(S242:NO)、処理がS244に移行する。
次に、眠気有りと判断された表情情報の数が5以上か否かチェックする(S244)。
眠気有りと判断された表情情報の数が5以上であれば(S244:YES)、眠気レベルを2(中度眠気)と判定し(S245)、処理がS249に移行する。一方、5以上でなければ(S244:NO)、処理がS246に移行する。
次に、眠気有りと判断された表情情報の数が3以上か否かチェックする(S246)。眠気有りと判断された表情情報の数が3以上であれば(S246:YES)、眠気レベルを1(軽度眠気)と判定する(S247)。一方、3以上でなければ(S246:NO)、眠気レベルを0(眠気無し)と判定する(S248)。その後、処理がS249に移行する。
次に、判定された眠気の度合に基づいて、警報装置30,首元空調装置40,シートベルト振動装置50,および,ブレーキ制御装置60に動作を行わせる信号を出力部25に出力させる(S249)。ここでは、実施例1の眠気判定処理のS77と同様の処理を行う。その後、本処理を終了して、制御部メイン処理に戻る。
(3.3)効果
実施例3に記載の居眠り防止システム1においても、実施例1および実施例2と同様に、目の情報のみに基づいては眠気の度合が判定できない場合であっても、顔面の表情の動きを検出する電極などを、眠気の度合を判定する対象者に直接取り付けることなく、簡便に眠気の度合を判定することができる。
さらに、本実施例においては、実施例1,2と比較して多数の表情情報に基づいて眠気を判定しているため、その判定結果がより信頼性の高いものとなる。
(3.4)対応関係
以上説明した実施形態において、図16におけるS222,S223が本発明における表情情報取得手段であり、図17の眠気判定処理が本発明における眠気判定手段であり、撮影装置10が本発明における撮影手段である。
[実施例4]
(4.1)全体構成
実施例4における居眠り防止システム1は、基本的に実施例3と同じ構成であり、制御部メイン処理,表情情報取得処理は実施例3と同様の処理であるが、実施例3における眠気判定処理の処理に替えて、以下に説明する眠気判定処理が実行される。
(4.2)眠気判定処理
以下に、実施例4における居眠り防止システム1の制御部21により実行される眠気判定処理を、図18に基づいて説明する。本処理は、実施例3の制御部メイン処理のS205にて実行される。
この眠気判定処理では、まず、顔傾きが覚醒時情報より大きいか否かを判定する(S261)。具体的には、制御部メイン処理のS203で算出したα,θの覚醒時情報と、S204で算出した表情情報α,θとをそれぞれ比較し、表情情報α,θのいずれか一方でも覚醒時情報より大きければ(S261:YES)、眠気レベルを3(強度眠気)と判定し(S262)、処理がS268に移行する。一方、表情情報α,θのいずれも覚醒時情報より大きくなければ(S261:NO)、処理がS263に移行する。
次に、眉と目の距離が覚醒時情報より大きいか否かを判定する(S263)。具体的には、制御部メイン処理のS203で算出したL2の覚醒時情報と、S204で算出した表情情報L2とを比較し、表情情報L2が覚醒時情報より大きければ(S263:YES)、眠気レベルを2(中度眠気)と判定し(S264)、処理をS268に移行する。一方、表情情報L2が覚醒時情報より大きくなければ(S263:NO)、処理がS265に移行する。
次に、口角間距離が覚醒時情報より小さいか否かを判定する(S265)。具体的には、制御部メイン処理のS203で算出したL1の覚醒時情報と、S204で算出した表情情報L1とを比較し、表情情報L1が覚醒時情報より小さければ(S265:YES)、眠気レベルを1(軽度眠気)と判定する(S266)。一方、表情情報L1が覚醒時情報より小さくなければ(S265:NO)、眠気レベルを0(眠気無し)と判定する(S267)。その後、処理がS268に移行する。
次に、判定された眠気の度合に基づいて、警報装置30,首元空調装置40,シートベルト振動装置50,および,ブレーキ制御装置60に動作を行わせる信号を出力部25に出力させる(S268)。ここでは、実施例1の眠気判定処理のS77と同様の処理を行う。その後、本処理を終了して、制御部メイン処理に戻る。
(4.3)効果
実施例4に記載の居眠り防止システム1においても、実施例1〜実施例3と同様に、目の情報のみに基づいては眠気の度合が判定できない場合であっても、顔面の表情の動きを検出する電極などを、眠気の度合を判定する対象者に直接取り付けることなく、簡便に眠気の度合いを判定することができる。
[変形例]
以上、本発明の実施例について説明したが、本発明は、上記各実施例に何ら限定されることはなく、本発明の技術的範囲に属する限り種々の形態をとり得ることはいうまでもない。
例えば、上記各実施例においては、撮影装置10により撮影した顔画像を示す画像データに基づいて、顔面の動作を取得する構成について例示した。しかし、顔面の動作を取得できれば、その具体的な構成は特に限定されない。
例えば、電極を顔面に貼り付け、顔の筋肉が動くときにその力の大きさに比例して発生する微弱な電気を検出して、口周り緩み,眉上がり,頭部傾きなどを取得してもよい。
また、上記各実施例において、眠気判定装置20による処理は、入力部23に備えられた開始ボタンを押すことによって開始される構成を例示したが、それ以外の条件を満たすことによって開始される構成としても良い。
例えば、車両2におけるエンジン等の動力部が起動した際に同時に処理を開始する構成や、車両内に車両の進行速度を測定する車速センサが備えられており、車速センサが所定の速度(例えば、30km/h)を超えたことを検出したときに処理を開始する構成などが考えられる。
また、上記各実施例において、頭部の傾きに関する情報として、前後頭部傾き角度情報αと左右頭部傾き角度情報θとをいずれも取得する構成を例示した。しかし、いずれか一方のみを取得する構成としてもよい。
また、上記各実施例においては、左右の口角の距離,眉と目の距離,頭部傾き角度,眉頭の中点と目頭の中点間の距離,眉頭間の距離,鼻下端の中点と目頭の中点間の距離,口端の中点と目頭の中点間の距離,下唇下端と目頭の中点間の距離,上まぶたと下まぶた間の距離,鼻下左右両端間の距離,上唇上端と目頭の中点間の距離,のうちいずれかの表情情報に基づいて眠気の度合を判定する構成について例示した。しかし、視線などを検出して、それらに基づいて眠気の有無を検出し、その検出結果と、上述した情報とを組み合わせて眠気の度合を判定してもよい。
また、上記実施例3においては、眠気判定処理で説明したように、12の表情情報それぞれに基づいて眠気の有無を判断し、眠気有りと判断された表情情報の数に応じて眠気の度合を判定する構成を例示した。しかしながら、眠気の有無を判断する表情情報は12に限定されず、また、眠気の度合のしきい値となる数も7,5,3に限定されない。
また、上述した眠気判定処理は、各表情情報に基づいて、眠気の有無ではなく、眠気の程度を判断するように構成してもよい。その場合、眠気の度合は、眠気の程度の平均により判定してもよいし、眠気の程度の最頻値により判定してもよい。なお、眠気の程度は、覚醒時情報と比較してどの程度乖離しているかによって判断するとよい。
また、上記実施例4においては、頭部傾き角度(顔傾き),眉と目の距離,左右の口角間距離に基づいて眠気の度合を判定する構成を例示したが、その他の表情情報を用いて眠気の度合を判定してもよい。また、覚醒時情報と表情情報との比較は、統計的検定を用いた有意性判定による比較でもよい。
[眠気表情特徴の眠気の度合に対する傾向を確認する試験]
以下に、上述した眠気表情特徴の眠気の度合に対する傾向を確認するための試験を説明する。
本試験では、まず、対象者が覚醒状態から居眠り状態となるまでの顔面の変化を連続的に撮影した。そして、評価者がその撮影した映像を見て対象者の眠気のレベルを官能評価でレベル0〜5に分類し、それぞれの眠気のレベルにおいて、左右口角の距離,眉目間の距離,前後の頭部傾き,左右の頭部傾き,眉頭の中点と目頭の中点間の距離,眉頭間の距離,鼻下端の中点と目頭の中点間の距離,口端の中点と目頭の中点間の距離,下唇下端と目頭の中点間の距離,上まぶたと下まぶた間の距離,左鼻孔外側端と右鼻孔外側端の距離,上唇上端と目頭の中点間の距離をそれぞれ10回程度測定した。
眠気のレベルは、全く眠くなさそうな状態をレベル0,やや眠そうな状態をレベル1,眠そうな状態をレベル2,かなり眠そうな状態をレベル3,耐え難いほど眠そうな状態をレベル4,眠っている状態をレベル5とした。
上述したもののうち、左右口角の距離,眉目間の距離,前後の頭部傾き,左右の頭部傾き,の測定結果のグラフを図19(a)〜(d)に示す。各グラフは、横軸に眠気のレベル、縦軸に左右目頭間を10とした場合の相対距離を示す。
太枠で囲まれた部分は、各測定結果において、眠気のレベル0の測定結果とその他のレベルの測定結果とに関して、対応のあるt検定を行い、有意の差があると判定された部分である。なお、口角の間の距離および頭部傾きは有意水準5%、眉目間の距離は有意水準1%にて検定した。
図19から分かるように、口角間の距離は眠気のレベル1から有意の差があり、眉目間の距離は眠気のレベル3から有意の差があり、頭部傾きは眠気のレベル5から有意の差が表れた。
このように、口周り緩み,眉上がり,頭部傾きは、それぞれ変化が表れる眠気の度合が異なる。よって、これらの表情特徴を組み合わせることによって、それらを単独で用いたときと比べてより多くの段階に眠気の度合を分けて判定することができる。
また、眉頭の中点と目頭の中点間の距離,眉頭間の距離,鼻下端の中点と目頭の中点間の距離,口端の中点と目頭の中点間の距離,下唇下端と目頭の中点間の距離,上まぶたと下まぶた間の距離,左鼻孔外側端と右鼻孔外側端の距離,上唇上端と目頭の中点間の距離,の測定結果のグラフを図20〜図27に示す。図20〜図24および図27では、眠気の亢進に応じて各距離が大きくなっていき、図25および図26では、眠気の亢進に応じて距離が小さくなっていくことが示されている。よって、上述した各実施例のような手法で眠気の度合が判定できることが分かる。
表情筋を示す図 居眠り防止システムを示す側面図 眠気判定装置を示すブロック図 実施例1の制御部メイン処理の手順を示すフローチャート 実施例1の覚醒時データ収集処理の手順を示すフローチャート 実施例1の運転時データ収集処理の手順を示すフローチャート 実施例1の表情情報取得処理の手順を示すフローチャート 顔特徴点を示す図 AAMの2Dモデルと3Dモデルとを示す図 実施例1の眠気判定処理の手順を示すフローチャート 実施例2の制御部メイン処理の手順を示すフローチャート 実施例2の覚醒時データ収集処理の手順を示すフローチャート 実施例2の運転時データ収集処理の手順を示すフローチャート 実施例2の眠気判定処理の手順を示すフローチャート 実施例3の制御部メイン処理の手順を示すフローチャート 実施例3の表情情報取得処理の手順を示すフローチャート 実施例3の眠気判定処理の手順を示すフローチャート 実施例4の眠気判定処理の手順を示すフローチャート 眠気表情特徴の眠気の度合に対する傾向を確認する試験の結果 眉頭の中点と目頭の中点間の距離と、眠気レベルの関係 眉頭間の距離と、眠気レベルの関係 鼻下端の中点と目頭の中点間の距離と、眠気レベルの関係 口端の中点と目頭の中点間の距離と、眠気レベルの関係 下唇下端と目頭の中点間の距離と、眠気レベルの関係 上まぶたと下まぶた間の距離と、眠気レベルの関係 左鼻孔外側端と右鼻孔外側端間の距離と、眠気レベルの関係 上唇上端と目頭の中点間の距離と、眠気レベルの関係
符号の説明
1…居眠り防止システム、2…車両、3…運転者、10…撮影装置、20…眠気判定装置、21…制御部、22…受信部、23…入力部、24…記憶部、25…出力部、30…警報装置、40…首元空調装置、50…シートベルト振動装置、60…ブレーキ制御装置。

Claims (9)

  1. 表情情報A〜Kのうち、少なくとも2つ以上を取得する表情情報取得手段と、
    前記表情情報取得手段により取得された前記表情情報それぞれに基づいて眠気の有無または程度を判断し、該判断の結果の組み合わせに基づいて眠気の度合を判定する眠気判定手段と、を備える
    ことを特徴とする眠気判定装置。
    (A)左右の口角の距離
    (B)眉と目の距離
    (C)頭部傾き角度
    (D)眉頭の中点と目頭の中点間の距離
    (E)眉頭間の距離
    (F)鼻下端の中点と目頭の中点間の距離
    (G)口端の中点と目頭の中点間の距離
    (H)下唇下端と目頭の中点間の距離
    (I)上まぶたと下まぶた間の距離
    (J)鼻下左右両端間の距離
    (K)上唇上端と目頭の中点間の距離
  2. 前記眠気判定手段は、覚醒時に取得された前記表情情報と、眠気を判断すべきタイミングで取得された前記表情情報と、を比較することで眠気の有無または程度を判断し、該判断の結果の組み合わせに基づいて眠気の度合を判定する
    ことを特徴とする請求項1に記載の眠気判定装置。
  3. 前記表情情報取得手段は、顔画像を示す画像データに基づいて、少なくとも顔面の構成要素の位置または頭部の傾き角度を示す位置・角度情報を検出し、該位置・角度情報に基づいて、前記表情情報を取得する
    ことを特徴とする請求項1または請求項2に記載の眠気判定装置。
  4. 車両に搭載されて用いられるものであって、
    前記表情情報取得手段は、該車両に備えられた撮影手段により撮影された前記画像データに基づいて、前記位置・角度情報を検出する
    ことを特徴とする請求項3に記載の眠気判定装置。
  5. 前記眠気判定手段は、前記表情情報取得手段により取得された前記表情情報それぞれに基づいて眠気の有無を判断し、該判断された前記表情情報のうち、眠気有りと判断された前記表情情報の割合に応じて眠気の度合を判定する
    ことを特徴とする請求項1から請求項4のいずれかに記載の眠気判定装置。
  6. 前記眠気判定手段は、前記表情情報取得手段により取得された前記表情情報それぞれに基づいて眠気の程度を判断し、該眠気の程度の組み合わせに基づいて眠気の度合を判定する
    ことを特徴とする請求項1から請求項4のいずれかに記載の眠気判定装置。
  7. 前記眠気判定手段は、
    前記左右の口角の距離,前記眉と目の距離,前記頭部傾き角度,の各表情情報うち、少なくとも2つ以上の前記表情情報を取得し、
    前記頭部傾き角度に基づいて眠気ありと判断することを条件Aとし、前記眉と目の距離に基づいて眠気ありと判断することを条件Bとし、前記左右の口角の距離に基づいて眠気ありと判断することを条件Cとし、
    前記条件Aが満たされる場合には、眠気の度合を、強度眠気と判定し、
    前記条件Bが満たされると共に、前記条件Aが満たされない場合には、眠気の度合を、前記強度眠気よりも眠気の度合が低い中度眠気と判定し、
    前記条件Cが満たされると共に、前記条件Aおよび前記条件Bが満たされない場合には、眠気の度合を、前記中度眠気よりも眠気の度合が低い軽度眠気と判定し、
    前記条件A,条件B,条件Cのいずれも満たされない場合には、眠気なしと判定する
    ことを特徴とする請求項1から請求項4のいずれかに記載の眠気判定装置。
  8. 請求項1から7のいずれかに記載の表情情報取得手段および眠気判定手段として機能させるための処理手順を、コンピュータシステムに実行させるためのプログラム。
  9. 左右の口角の距離,眉と目の距離,頭部傾き角度,眉頭の中点と目頭の中点間の距離,眉頭間の距離,鼻下端の中点と目頭の中点間の距離,口端の中点と目頭の中点間の距離,下唇下端と目頭の中点間の距離,上まぶたと下まぶた間の距離,鼻下左右両端間の距離,上唇上端と目頭の中点間の距離,のうち、少なくとも2つ以上を取得して、
    該取得された前記2つ以上の情報それぞれに基づいて眠気の有無または程度を判断して、該判断の結果の組み合わせに基づいて眠気の度合を判定する
    ことを特徴とする眠気判定方法。
JP2007276551A 2007-02-16 2007-10-24 眠気判定装置およびプログラム Expired - Fee Related JP4458146B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007276551A JP4458146B2 (ja) 2007-02-16 2007-10-24 眠気判定装置およびプログラム
US12/068,770 US8045766B2 (en) 2007-02-16 2008-02-12 Device, program, and method for determining sleepiness

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2007036386 2007-02-16
JP2007191098 2007-07-23
JP2007276551A JP4458146B2 (ja) 2007-02-16 2007-10-24 眠気判定装置およびプログラム

Publications (2)

Publication Number Publication Date
JP2009045418A true JP2009045418A (ja) 2009-03-05
JP4458146B2 JP4458146B2 (ja) 2010-04-28

Family

ID=40498193

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007276551A Expired - Fee Related JP4458146B2 (ja) 2007-02-16 2007-10-24 眠気判定装置およびプログラム

Country Status (1)

Country Link
JP (1) JP4458146B2 (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011128966A (ja) * 2009-12-18 2011-06-30 Denso Corp 顔特徴点検出装置および眠気検出装置
JP2012203551A (ja) * 2011-03-24 2012-10-22 Komatsu Ltd 居眠り抑制システム及びダンプトラック
WO2012160830A1 (ja) * 2011-05-26 2012-11-29 パナソニック株式会社 眠気推定装置及び眠気推定方法
JP2014515847A (ja) * 2011-03-25 2014-07-03 ティーケー ホールディングス インク. 運転者覚醒度判定システム及び方法
JP2017205368A (ja) * 2016-05-20 2017-11-24 マツダ株式会社 ドライバ状態検出装置
CN109717830A (zh) * 2019-01-22 2019-05-07 中国科学院苏州生物医学工程技术研究所 基于眼动及头动参数监测的疲劳检测及促醒系统
JP2019087170A (ja) * 2017-11-10 2019-06-06 アルパイン株式会社 瞼開閉判定装置および眠気検知装置
US10552694B2 (en) 2017-12-22 2020-02-04 Toyota Jidosha Kabushiki Kaisha Drowsiness estimating apparatus
WO2020188788A1 (ja) * 2019-03-20 2020-09-24 三菱電機株式会社 覚醒度推定装置、自動運転支援装置および覚醒度推定方法
JP2021007717A (ja) * 2019-07-03 2021-01-28 本田技研工業株式会社 乗員観察装置、乗員観察方法、及びプログラム
JPWO2023144950A1 (ja) * 2022-01-27 2023-08-03

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011128966A (ja) * 2009-12-18 2011-06-30 Denso Corp 顔特徴点検出装置および眠気検出装置
JP2012203551A (ja) * 2011-03-24 2012-10-22 Komatsu Ltd 居眠り抑制システム及びダンプトラック
JP2014515847A (ja) * 2011-03-25 2014-07-03 ティーケー ホールディングス インク. 運転者覚醒度判定システム及び方法
WO2012160830A1 (ja) * 2011-05-26 2012-11-29 パナソニック株式会社 眠気推定装置及び眠気推定方法
JP2012245091A (ja) * 2011-05-26 2012-12-13 Panasonic Corp 眠気推定装置及び眠気推定方法
US9105172B2 (en) 2011-05-26 2015-08-11 Panasonic Corporation Drowsiness-estimating device and drowsiness-estimating method
JP2017205368A (ja) * 2016-05-20 2017-11-24 マツダ株式会社 ドライバ状態検出装置
JP2019087170A (ja) * 2017-11-10 2019-06-06 アルパイン株式会社 瞼開閉判定装置および眠気検知装置
US10552694B2 (en) 2017-12-22 2020-02-04 Toyota Jidosha Kabushiki Kaisha Drowsiness estimating apparatus
CN109717830A (zh) * 2019-01-22 2019-05-07 中国科学院苏州生物医学工程技术研究所 基于眼动及头动参数监测的疲劳检测及促醒系统
CN109717830B (zh) * 2019-01-22 2021-09-17 中国科学院苏州生物医学工程技术研究所 基于眼动及头动参数监测的疲劳检测及促醒系统
WO2020188788A1 (ja) * 2019-03-20 2020-09-24 三菱電機株式会社 覚醒度推定装置、自動運転支援装置および覚醒度推定方法
JPWO2020188788A1 (ja) * 2019-03-20 2021-10-14 三菱電機株式会社 覚醒度推定装置、自動運転支援装置および覚醒度推定方法
JP7175381B2 (ja) 2019-03-20 2022-11-18 三菱電機株式会社 覚醒度推定装置、自動運転支援装置および覚醒度推定方法
JP2021007717A (ja) * 2019-07-03 2021-01-28 本田技研工業株式会社 乗員観察装置、乗員観察方法、及びプログラム
JPWO2023144950A1 (ja) * 2022-01-27 2023-08-03
WO2023144950A1 (ja) * 2022-01-27 2023-08-03 三菱電機株式会社 調整装置、顔向き推定装置、および、調整方法

Also Published As

Publication number Publication date
JP4458146B2 (ja) 2010-04-28

Similar Documents

Publication Publication Date Title
JP4458146B2 (ja) 眠気判定装置およびプログラム
JP4259585B2 (ja) 眠気判定装置,プログラムおよび眠気判定方法
JP6695503B2 (ja) 車両の運転者の状態を監視するための方法及びシステム
US8433095B2 (en) Drowsiness detector
CN104573623B (zh) 人脸检测装置、方法
US8369608B2 (en) System and method for detecting drowsy facial expressions of vehicle drivers under changing illumination conditions
JP5326521B2 (ja) 覚醒状態判断装置及び覚醒状態判断方法
CN101916496B (zh) 一种司机驾驶姿势检测的系统和方法
US20080212828A1 (en) Device, program, and method for determining sleepiness
CN106965675B (zh) 一种货车集群智能安全作业系统
WO2020078465A1 (zh) 驾驶状态分析方法和装置、驾驶员监控系统、车辆
CN105701445A (zh) 判定装置及判定方法
JP6573193B2 (ja) 判定装置、判定方法、および判定プログラム
JP2016539446A (ja) 動作と、顔面と、目及び口形状の認知を通じた2段階に亘っての居眠り運転の防止装置
CN110448316A (zh) 数据处理装置及方法、监测系统、唤醒系统以及记录介质
CN105069976A (zh) 一种疲劳检测和行驶记录综合系统及疲劳检测方法
JP2010204984A (ja) 運転支援装置
JP6689470B1 (ja) 情報処理装置、プログラム及び情報処理方法
US11077814B2 (en) Occupant eye(s) observation device
WO2019176492A1 (ja) 算出システム、情報処理装置、運転支援システム、指標算出方法、コンピュータプログラム、及び記憶媒体
JPH0796768A (ja) 前方注視度検知装置
JP7550879B2 (ja) 睡眠検出装置及び睡眠検出システム
Singhal et al. Drowsiness detection and alert system using dlib
CN113827244B (zh) 驾驶员视线方向的检测方法、监控方法、系统和装置
JP2019179370A (ja) 車速制御装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090708

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090721

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090924

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091020

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100119

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100201

R151 Written notification of patent or utility model registration

Ref document number: 4458146

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130219

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140219

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees