JP2005091085A - 非接触型関節角度計測システム - Google Patents
非接触型関節角度計測システム Download PDFInfo
- Publication number
- JP2005091085A JP2005091085A JP2003322991A JP2003322991A JP2005091085A JP 2005091085 A JP2005091085 A JP 2005091085A JP 2003322991 A JP2003322991 A JP 2003322991A JP 2003322991 A JP2003322991 A JP 2003322991A JP 2005091085 A JP2005091085 A JP 2005091085A
- Authority
- JP
- Japan
- Prior art keywords
- finger
- upper limb
- model
- shape
- joint angle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Length Measuring Devices With Unspecified Measuring Means (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
【課題】 上肢手指の運動に応じて変化する関節の関節角度を、身体部位に非接触の状態で計測可能なを提供することを課題とする。
【解決手段】 計測システム1は、人間の手指Hを撮像し、手指Hの形状データ3を取得し、さらに手指Hの運動を感知することが可能な撮像部5と、撮像部5と接続し、取得された形状データ3及び感知された手指Hの運動に係る運動検出信号6を信号変換処理する信号処理制御部7と、信号処理された形状データ3及び運動検出信号6を信号処理制御部7から受付けるコンピュータ本体8、モニタディスプレイ9、及びキーボード10を含んで構成される処理制御部2とを主に具備して構成されている。そして、手指Hの動きに連動させて、形状データ3に基づいて生成された3Dモデルを連動するように制御し、制御に応じて変化する3Dモデルの個々の関節角度を計測することができる。
【選択図】 図1
【解決手段】 計測システム1は、人間の手指Hを撮像し、手指Hの形状データ3を取得し、さらに手指Hの運動を感知することが可能な撮像部5と、撮像部5と接続し、取得された形状データ3及び感知された手指Hの運動に係る運動検出信号6を信号変換処理する信号処理制御部7と、信号処理された形状データ3及び運動検出信号6を信号処理制御部7から受付けるコンピュータ本体8、モニタディスプレイ9、及びキーボード10を含んで構成される処理制御部2とを主に具備して構成されている。そして、手指Hの動きに連動させて、形状データ3に基づいて生成された3Dモデルを連動するように制御し、制御に応じて変化する3Dモデルの個々の関節角度を計測することができる。
【選択図】 図1
Description
本発明は、非接触型関節角度計測システムに関するものであり、特に、上肢手指の運動に応じて変化する関節の関節角度を、予め生成した上肢手指の三次元モデルを連動制御することにより、上肢手指に非接触の状態で計測することが可能な非接触型関節角度計測システムに関するものである。
従来から、人間の身体部位の運動、特に上肢手指の運動を計測するための手法及びシステムの開発が数多く為されている。このとき、上肢手指の運動を認識及び特定するために、時々刻々変化する上肢手指の各関節の関節位置及び該関節の関節角度を計測することが行われている。そして、各関節の関節角度等を把握することにより、上肢手指の全体の運動を捉えることができ、例えば、医療介護分野、及びロボット制御分野などの幅広い分野において活用が行われている。
ここで、上肢手指の関節の関節角度を計測するためのシステムとして、予め複数のセンサによって形成された専用の計測グローブを手指に装着し、上肢手指の運動に応じて変化するセンサの信号をリアルタイムで読取ることにより、上肢手指の運動(すなわち、関節角度及びその変化量の計測)を認識することが可能なものが知られている。さらに、周囲の背景と光学的に異なる輝度を有する発光性のマーカーを上肢手指に複数装着し、運動に伴って変位するマーカーの位置をカメラなどの撮像装置によって捉えながら、関節位置や関節角度を計測し、上肢手指の運動を情報として取得することが可能なシステムが既に開示されている(例えば、特許文献1参照)。
上記構成のシステムにより、上肢手指に装着された複数のマーカーの位置が三角測量の原理を利用して特定され、上肢手指の運動が三次元的に認識されることになる。このとき、マーカーによる運動の検出と同時に、筋肉を構成する筋繊維の活動電位(筋電)を測定するための装置を同様に上肢手指に取付け、筋電図の記録を取得することがある。そして、係る筋電図及び取得されたマーカーの三次元位置に関するデータに基づいて、特定の運動において上肢手指のどの身体部位の動きが活発に活動しているのかを、より明確とすることを可能とするシステムも開示されている。これにより、被験者自身が運動させる身体部位(または、筋肉)を意識して運動させたり、或いは無意識的に運動する身体部位に関する情報を得ることができる。そして、これによる身体部位の運動を視覚情報として捉えることもできるようになる。なお、マーカーを利用する計測の手法は、特に肘や膝などの比較的広範に稼働する関節の運動及び関節角度を計測することに、特に適している。
一方、コンピュータを利用した画像解析に係る技術の向上に伴い、身体部位の運動の様子を動画に撮像した画像イメージを利用し、身体部位の運動について解析を行う研究も多く知られている。このとき、例えば、計測対象となる人体の身体部位の一部を、撮像イメージに基づいてモデル化し、構築されたモデルを利用して、各種の身体部位の運動能力を計測するものが行われている。(例えば、特許文献2参照)。上記構成の計測システムによれば、認識対象となる身体部位に対し、撮像イメージを撮像するためのカメラ等の撮像手段は非接触の状態にある。そのため、上述の計測グローブや発光性のマーカー等を装着する計測システムの手法と異なり、原則として被験者による身体部位の運動を阻害することがない。加えて、画像イメージからモデルを構築する際、併せて取得される身体部位の長さ、輪郭形状、凹凸の程度、及び手指の模様などの付帯的な情報を取得し、直線や曲線などを用いて近似的に画面上に表示することが可能となり、三次元的に生成されたモデルの精度が向上することとなる。また、一般に知られたカメラ等の撮像手段を利用する以外に、正確な距離を測定するために利用されているレーザスキャナー装置を身体部位の形状を特定するものが知られている(特許文献3参照)。
さらに、人間の手を直接計測対象とする研究も数多く行われている(例えば、非特許文献1参照)。これによると、物体をつかんだり、離したりするなどの操作をする際の手指の動き及び形状を推定するために、手指の各関節の回転角度または屈曲角度に基づく推定が行われる。ここで、手指の形状は、複数台のカメラから得られる多視点画像を、撮像された入力イメージとして使用し、該多視点画像によって取得される身体部位の輪郭に基づいてモデルを構築し、予め作成されたモデルと、作成されたモデルとをフィッティング処理することで、関節角度の推定を行うことができるものである。
ところで、人間の種々の身体部位に関する統計的なデータが取られており、種々の分野における基礎資料として活用されている(非特許文献2)。これにより、特に現代の日本人の標準的な身体部位の寸法が、年齢別及び男女別等に分けてそれぞれ分類され、上肢手指等に関する詳細データを入手することができる。
しかしながら、上述の種々の計測手法及びシステムは、以下のような問題を生じることがあった。例えば、計測グローブを利用するものは、半身麻痺などの症状を呈する患者の手指の運動を捉えるものに適していなかった。すなわち、運動機能の低下した上肢手指に取付ける場合、係る計測グローブ自体の装着が困難となり、また計測グローブの重量や装着によって上肢手指にかかる負担によって自然な状態での運動の計測ができないことがあった。
加えて、計測グローブやマーカー等を利用して計測するものは、計測対象となる手指等に計測グローブやマーカー等のセンサ機器を、接触または貼着させる必要があった。そのため、前述した肘や膝などの関節の可動範囲が広いものは、マーカー等の貼着が困難とならず、身体部位の運動を阻害するおそれが少なかった。ところが、手指、特に指先などの細かな身体部位の動きを計測しようとする場合、マーカーのサイズによっては、係る部位への装着が困難となったり、筋繊維の活動電位を検出するためのセンサが狭小な場所に凝集して配されることとなり、身体部位の運動を大きく制限することがあった。その結果、正確な身体部位の運動を認識することができないケースがあった。
加えて、複数のマーカーを手指に装着して関節角度の計測を行う場合、計測の基準位置のキャリブレーションや補正を図る必要があり、準備に多くの時間を要することがあった。加えて、手指にマーカーを装着した場合、手指の動作の態様(例えば、物体を把持する動作など)によっては、マーカーがマーカー位置検出用のカメラの撮像範囲から隠れることがあり、運動の検出が十分に行われないことがあった。
さらに、非特許文献1において示された手法によって手指形状の推定を行うものは、計測のために複数のカメラシステムを用意する必要があり、十分な計測精度を保つためには、システム全体が大型化する傾向が強く、コストが肥大化することが予想されていた。
そこで、本発明は、上記実情に鑑み、特に上肢手指の運動に応じて変化する関節の関節角度を、身体部位に非接触の状態で計測可能な非接触型関節角度計測システムの提供を課題とするものである。
上記の課題を解決するため、本発明の非接触型関節角度計測システムは、「人間の上肢手指の形状に関する形状データを取得する形状取得手段と、前記形状取得手段によって取得された前記形状データを利用し、前記上肢手指の各々の身体部位の身体長さ及び前記身体部位を連結する関節の関節位置を特定し、前記身体長さ及び前記関節位置に基づいて、前記上肢手指の仮想的な三次元モデルを生成する三次元モデル生成手段と、前記上肢手指の運動を感知し、検出する運動検出手段と、生成された前記三次元モデルを、前記上肢手指の運動に合わせて制御する連動制御手段と、前記連動制御手段によって制御される前記三次元モデルを利用し、前記上肢手指の関節角度を計測する関節角度計測手段と」を主に具備するものから構成されている。
ここで、形状取得手段とは、関節角度を計測する対象となる人間の上肢手指の主として外観形状を取得するものであり、例えば、従来から周知の技術として利用される撮像機器(デジタルカメラまたはビデオカメラなど)を用いることが可能である。また、上肢手指の外観形状を高精細のデータとして取得するために、レーザ光線を利用したレーザスキャニング装置を用いるものや、二つのビデオカメラを所定の間隔をおいて並列に配置し、対象となる上肢手指を複眼によって立体的に捉えることを可能にするものであっても構わない。
さらに、三次元モデル生成手段とは、前述の形状取得手段によって取得された上肢手指に係る形状データに基づいて、主に上肢手指の輪郭を検出し、身体部位の長さ、及び関節位置を特定し、コンピュータ等の表示画面に仮想的な三次元画像として表示可能な三次元モデルを生成するものである。ここで、三次元モデルは、関節位置が特定されているため、各関節の可動範囲を容易に予測することができ、取得対象となる上肢手指と略同一の動きをするように変化させる制御を行うことが可能となっている。
したがって、本発明の非接触型関節角度計測システムによれば、形状取得手段によって取得された上肢手指の形状データに基づいて、係る上肢手指の三次元モデルを仮想的に生成し、さらに上肢手指の運動に伴って三次元モデルの動きが連動するような制御が行われる。これにより、上肢手指の動きを的確に再現可能な三次元モデルが生成される。このとき、運動検出手段によって検出された上肢手指の運動に対応させて、係る三次元モデルの動きを連動させることにより、これに伴って変化する三次元モデルの関節角度を得ることが可能となる。すなわち、三次元モデルの個々の関節角度は、計測対象となる上肢手指の関節角度を示すこととなり、実際の上肢手指の関節角度を上肢手指に非接触の状態で把握することが可能となる。その結果、上肢手指の身体部位の運動を阻害することなく、人間の上肢手指の自然な運動を捉えることができるようになる。
さらに、本発明にかかる非接触型関節角度計測システムは、上記構成に加え、「前記上肢手指の基本三次元モデルが記憶された基本モデル記憶手段をさらに具備し、前記三次元モデル生成手段は、前記形状取得手段によって取得された前記形状データを利用し、記憶された前記基本三次元モデルを変形し、前記三次元モデルを構築する基本モデル変形手段を」さらに具備するものであっても構わない。
したがって、本発明の非接触型関節角度計測システムによれば、形状データに基づいて生成される三次元モデルは、予め平均化された各身体部位の身体長さや関節位置など値によって構築され、記憶された基本三次元モデルをベースとして生成されている。すなわち、予め大まかな手指の形状に沿って構築された基本三次元モデルを、形状データに基づいて徐々に変形させながら、被験者の上肢手指の形状にフィットするような変形処理が行われる。その結果、被験者(ここでは、上肢手指の形状データの取得が行われた者)に特徴的な外観形状を有する三次元モデルが生成されることになる。つまり、形状データに基づいて全くのゼロに近い状態から三次元モデルを生成することに比べ、予めおおよその形状が構築された基本三次元モデルに対して、修正及び変更を施すことにより、各々の被験者に固有の三次元モデルを容易に生成することができるようになる。その結果、三次元モデルの生成に係る処理の負担を軽減することができる。
さらに、本発明にかかる非接触型関節角度計測システムは、上記構成に加え、「前記基本三次元モデルは、前記身体長さ、前記関節位置、前記関節の可動範囲、及び前記身体長さの比率に係るデータを含み、統計的に算出された標準化データに基づいて構築されている」ものであっても構わない。
ここで、標準化データとは、前述した非特許文献2等に記述されているような人体の各身体部位の身体長さや関節位置、身体長さの比率等(例えば、人差し指の第一関節の長さ:第二関節の長さ:第三関節の長さ)を、複数の人間を調査サンプルとしてそれぞれのデータの収集を行い、統計的な処理を行うことによって得られたものであり、例えば、現在の日本人の平均的な体型等が示されるものである。なお、日本人以外に、欧米人の体型やアフリカ系民族の体型等の人種別に標準化データを備え、これに対応可能とするものであってもよい。さらに、人種別の他に、男女別、年齢別、及び地域別などに分類されたものを適宜取捨選択することにより、基本三次元モデルを構築するための三次元モデルを選択するものであっても構わない。その結果、対象となる被験者の人種や年齢等の諸条件に合わせて基本三次元モデルが適宜選択され、三次元モデルの生成がさらに容易になる。
したがって、本発明の非接触型関節角度計測システムによれば、基本三次元モデルが、人種、男女、及び年齢別等に標準化して分類された標準化データに基づいて構築されている。これにより、基本三次元モデルがさらに形状データに近似する可能性が高くなり、例えば、現代の日本人の平均的な体格を示すことができるようになる。その結果、取得された形状データと基本三次元モデルと間での変位量が小さくなり、基本モデル変形手段における基本三次元モデルの変形量が小さくなる。その結果、被験者の手指の形状に沿った三次元モデルの生成がさらに容易となる。
さらに、本発明にかかる非接触型関節角度計測システムは、上記構成に加え、「前記連動制御手段は、運動する前記上肢手指の輪郭形状を抽出し、認識する輪郭抽出手段と、抽出された前記上肢手指の前記輪郭形状に基づいて、生成された前記三次元モデルを前記上肢手指の運動に同期させて制御する同期制御手段と」をさらに具備するものであっても構わない。
したがって、本発明の非接触型関節角度計測システムによれば、運動検出手段によって検出された上肢手指の輪郭形状に同期させて、生成された三次元モデルの連動制御が行われる。これにより、上肢手指の運動の状態が輪郭形状によって容易に把握することが可能となる。
さらに、本発明にかかる非接触型関節角度計測システムは、上記構成に加え、「前記形状取得手段は、前記運動検出手段としての機能を兼備する」ものであっても構わない。
したがって、本発明の非接触型関節角度計測システムによれば、形状取得手段及び運動検出手段の双方の機能を兼ね備えた同一構成のものを利用することができる。すなわち、上肢手指の形状を取得するためのカメラ等の撮像機器に、上肢手指の運動を検出する機能を持たせることにより、システム全体の構成を簡略化、かつコンパクトにすることができる。
本発明の効果として、マーカー等を上肢手指に装着する必要がなく、手指の形状の取得及び運動の検出を非接触の状態で行うことが可能となり、上肢手指の関節角度の計測を容易に行うことができる。また、従来のマーカーの場合、上肢手指の様態によってマーカー位置の検出が困難であった状況であっても、上肢手指の輪郭形状に基づいて運動の検出及び三次元モデルへの連動制御が可能となるため、関節角度の計測が制限されることが少なくなる。
以下、本発明の一実施形態の非接触型関節角度計測システム1(以下、単に「計測システム1」と称す)について、図1乃至図6に基づいて説明する。ここで、図1は本実施形態の計測システム1の概略構成を示す説明図であり、図2は計測システム1における処理制御部2の機能的構成を示すブロック図であり、図3及び図4は処理制御部2の処理の流れを示すフローチャートであり、図5及び図6は計測システム1における上肢手指の形状データ3の取得及び三次元モデル4(以下、「3Dモデル4」と称す)の生成及び3Dモデル4の連動制御を模式的に示す説明図である。
本実施形態の計測システム1は、図1及び図2に示すように、人間の手指Hを撮像し、手指Hの輪郭形状12を含む形状データ3を取得し、さらに手指Hの運動を感知することが可能な撮像部5と、撮像部5と電気的に接続し、取得された形状データ3及び感知された手指Hの運動に係る運動検出信号6を信号変換処理する信号処理制御部7と、信号処理された形状データ3及び運動検出信号6を信号処理制御部7から受付けるコンピュータ本体8、モニタディスプレイ9、及びキーボード10を含んで構成される処理制御部2とを主に具備して構成されている。
さらに、具体的に説明すると、撮像部5は前面5aに設けられたレンズ部11を介して手指Hを画像データとして撮像し、手指Hの輪郭形状12等の形状データ3を取得するための形状撮像手段13と、周囲または背景に対して動く手指Hの三次元的な運動を検知する運動検知手段14とを主に具備して構成されている。ここで、撮像部5は、市販のビデオカメラなどの画像入力機器を利用することが可能である。また、運動検知手段14は、特に限定するものではないが、手指Hの背景を予め一色(例えば、ブルー)に統一し、係る背景色との色の変化及び時間などの変化によって手指Hの運動を検出するものや、或いはレンズ部11の近傍に設けられた赤外線発光部(図示しない)から赤外線を照射し、係る赤外線の反射によって手指Hの運動の状態を感知するものなどが挙げられる。
一方、処理制御部2の主要構成を為すコンピュータ本体8は、図2に示すように、撮像部5から送出された手指Hに係る形状データ3及び運動に係る運動検出信号6を信号変換処理する信号処理制御部7を介して撮像部5と接続され、信号処理制御部7から送出された変換処理済みの形状データ3及び運動検出信号6を受付けるインターフェイス部15と、インターフェイス部15を介して受付けた形状データ3に基づいて、手指Hにおける関節位置KPを特定する関節位置特定手段16、手指Hの各指の長さ及び位置等を特定する手指位置特定手段17、及び手指Hの全体の外観を輪郭形状12を特定する輪郭検出手段18を有する形状取得手段19と、日本人の平均的な体型に基づいて算出された人間の身体部位のそれぞれの標準値を記録した非特許文献2等に示されたデータ集に基づいて記憶された標準化データSDを利用して構築された基本3DモデルBMを記憶する記憶手段21と、記憶された基本3DモデルBM及び取得された形状データ3によって特定された手指Hの関節位置KP等の手指Hの情報に基づいて、基本3DモデルBMを構築する各値に修正を施し、基本3DモデルBMの変形を行う基本モデル変形手段23を有し、手指Hを所有する被験者(図示しない)の個人情報PIの一部を構成する3Dモデル4を生成する3Dモデル生成手段24と、生成された3Dモデル4を視覚的に認識可能に表示するための信号処理を行い、モニタディスプレイ9に3Dモデル4を表示する表示制御手段25とを具備している。
さらに、生成された3Dモデル4と、撮像部5によって撮像され、運動検知手段14によって検知された手指Hの運動を信号処理制御部7及びインターフェイス部15を介して受付け、撮像された手指Hの画像データから手指Hの輪郭形状12を認識及び検出する輪郭検出手段26を有し、手指Hの周囲背景の変化から手指Hの動きを検出する運動検出手段27と、生成された3Dモデル4及び運動検出手段27に基づいて、生成した3Dモデル4を手指Hの運動に同期させた状態で、モニタディスプレイ9に表示するための制御を行う連動制御手段28と、連動制御手段28によって同期制御された3Dモデル4のそれぞれの関節の関節角度JAを計測する関節角度計測手段29と、キーボード10と接続し、コンピュータ本体8を含む処理制御部2を操作するための操作制御手段22を主に具備して構成されている。ここで、連動制御手段28は本発明の同期制御手段の機能を兼備している。
次に本実施形態の計測システム1の処理制御部2の処理の流れについて図3及び図4に基づいて説明する。始めに、稼働状態にある計測システム1の処理制御部2は、新規に手指Hを撮像し、形状データ3の取得をするか否かを示す旨の入力の有無を検出する(ステップS1)。ここで、例えば、過去に被験者(図示しない)の手指Hに係る形状データ3の既に取得が行われ、被験者に対する形状データ3に基づく個々の3Dモデル4の構築が行われている場合(ステップS1においてNO)、形状データ3の取得及び3Dモデル4の生成に係る以降の処理(ステップS2乃至ステップS8)をキャンセルし、記憶手段21に記憶されている個人情報PIから以前に構築された3Dモデル4を読込み(なお、読込処理に係るステップの図示はここでは省略する)、ステップS9の処理に移行する。
一方、新たに手指Hの形状データ3を取得する場合(ステップS1においてYES)、撮像部5によって手指Hの撮像を行う(ステップS2:図5(a)参照)。このとき、手指Hの各指F1等を開いた状態の掌の映像を取込むことが撮像された画像データの処理及び手指Hと周囲の背景との境界を明確に区別するために特に好ましい。そして、撮像された手指Hの画像データから手指Hの輪郭形状12を検出し、手指Hの各指F1等の長さ及び各指の位置等の特定、及び関節位置KPの特定を行い、形状データ3を取得する(ステップS3乃至ステップS5)。
さらに具体的に説明すると、撮像部5によって撮像された画像データは、信号処理制御部7及びインターフェイス部15を介してコンピュータ本体8の形状取得手段19に送出される。ここで、ステップS3における輪郭形状12を検出する手法としては、周知技術として知られている単純二値化により手指Hとそれ以外の部分の境界を明瞭にし、手指Hの部分のみを抽出するものや、その他、ソベルフィルターを用いる手法、及びガウシアンフィルターを用いる方法などを例示することができる。さらに、ステップS4における手指位置等の特定は、抽出した輪郭形状12に応じ各指F1等の指先Tや付け根Rの付近の画像データから、近似曲線を描き、得られた頂点を形状データ3における指先T及び付け根Rに設定することによって行われる。ここで、描かれる近似曲線には、三次回帰曲線が利用されている。また、ステップS5における関節位置KPの特定は、得られた指先T及び付け根Rの位置に基づいて、記憶手段21に記憶されている標準化データSDの値により、日本人の平均的な骨格の標本の比率に応じて推定される。これにより、各指の第一関節、第二関節、及び第三関節の比率が計算され、各指の骨格を連結する関節の関節位置KPが求められる(図5(b)参照)。
その後、標準化データSDに基づいて構築され、予め記憶手段21に記憶されている基本3DモデルBMを抽出し(ステップS6)、取得された形状データ3の輪郭形状12と基本3DモデルBMを重合わせながら関節位置KP及び各指の位置(指先T及び付け根R)の調整を行い、基本3DモデルBMの変形を行い(ステップS7)、3Dモデル4の生成を行う(ステップS8)。このとき、予め記憶された基本3DモデルBMは、手指にかかる関節に相当する部分を有し、関節を曲げることによって基本3DモデルBMを画面上で変化させることができるように、3Dモデル4は生成され表示される(ステップS8)。
そして、処理制御部2は、手指Hの運動の検出を行う(ステップS9)。ここで、撮像部5の運動検知手段14によって手指Hの運動(例えば、図6(a)における矢印K)が検知されると(ステップS9においてYES)、撮像された手指Hの画像データを二値化し、動きを伴う手指Hの輪郭形状12を運動検出手段27に含まれる輪郭検出手段26によって検出する(ステップS10)。一方、手指Hの運動が検知されない場合(ステップS9においてNO)、ステップS9の処理を継続する。
その後、手指Hの運動を検出し、手指Hの輪郭形状12を取得したコンピュータ本体8は、生成した3Dモデル4と、取得した手指Hの輪郭形状12との間に変位差が生じているか、否かの判断を行う(ステップS11)。すなわち、生成された3Dモデル4との間に位置、向き、及び姿勢などに変位差、換言すれば”ずれ”がある場合(ステップS11においてYES)、”ずれ”をなくすように、3Dモデル4を撮像された手指Hの形状に近づけるように連動(マッチング)させる制御を行う(ステップS12)。これにより、3Dモデル4は、撮像された手指Hと同じ動き(図6(b)における矢印K’)をし、最終的に同一の態様を採ることになる。一方、3Dモデル4との間に変位差が無い場合(ステップS11においてNO)、ステップS12の処理をキャンセルする。
そして、3Dモデル4及び手指Hの形状が連動した状態で、特定された3Dモデルの関節位置KPにおけるそれぞれの関節角度JAの計測を行う(ステップS13)。このとき、一般に手指Hの指の動作速度は非常に小さいため、撮像された画像データのフレーム間では、関節角度JAの変化は、ほとんど変化しないと仮定することにより、3Dモデル4の変形も係る範囲に納めた状態で変形させることができ、関節角度JAを推測することができる。
その後、計測された関節角度JAの値を記憶手段21に記憶する(ステップS14)とともに、モニタディスプレイ9に変形後の3Dモデル4を表示することが行われる(ステップS15)。そして、手指Hの運動が継続して検知されるか否かが判断され(ステップS16)、手指Hの運動が検知されない(ステップS16においてNO)、すなわち、撮像部5によって撮像される手指Hが動いていない、或いは撮像部5の撮像範囲から手指Hが外れている場合などは、システム終了を指示する旨の有無を検出する(ステップS17)。一方、手指Hの運動が継続して検知される場合は、ステップS10の処理に戻り、新たに手指Hの輪郭形状12を検出し、再び3Dモデル4との変位差を判断することより、新たな手指Hの状態の関節角度JAを計測することを繰返す。
その後、システム終了を指示する旨を検出する場合(ステップS17においてYES)、システムを終了する(ステップS18)。一方、システム終了を指示する旨を検出しない場合(ステップS17においてNO)、ステップS9の処理に移り、手指Hの運動の検知を継続する。
上記に示したように、本実施形態の計測システム1によれば、計測対象となる手指Hに非接触の状態で、手指Hの各関節の関節角度JAを計測することができる。すなわち、従来のマーカー等のセンサ類を用いた計測手法と比して、マーカーを装着する手間や時間及びマーカーに要するコスト等を削減することができる。加えて、手指Hの輪郭形状12に基づいて仮想的に生成された3Dモデル4を利用して、実際の手指Hの関節角度JAを推定することができる。
以下に本発明の計測システム1を利用して手指Hの関節角度JAを計測することにより、応用が期待される技術分野について、1)医療分野、2)制御工学分野、3)人間の技術の熟達度等の計測分野を例にして簡潔に説明する。
例えば、1)医療分野においては、手指等に障害を有する人の機能回復の程度を経験的ではなく、数量的に示す目的に利用することができる。脳卒中などの脳機能に関連する疾病や交通事故などによる脊髄損傷に起因する半身不随の患者の場合、リハビリテーション治療によって四肢のしびれや低下した運動機能の回復を図ることが行われている。このとき、リハビリテーション治療は、理学療法士や作業療法士の指導及び施術によって、患者の四肢に適度な負荷を繰り返し加えることにより、筋肉の硬直や腱の癒着をほぐすことを行っている。しかしながら、理学療法士等による患者の運動機能の回復の判断は、主に経験に基づいて行われることが多く、正確でないことがあった。そこで、本発明の計測システム1を適用し、手指Hの関節角度JAを精細に計測することにより、患者の手指Hの運動機能の回復の程度をリアルタイムでモニターすることが可能となる。さらに、手指Hに対して非接触の状態で計測可能であるため、運動機能の低下した患者であっても正確な計測を行うことができる。また、予め個々の患者の各指F1等の長さや太さ、指先Tや付け根Rの位置、及び関節位置KPが予めパラメータ化して記憶することが可能であり、定期的に運動機能の回復程度を観察する必要のあるリハビリテーション施設などに特に適している。
さらに、2)制御工学分野では、人間が行う物体の組み立て作業などの手指の動きを本発明の計測システム1を利用して計測することにより、人間型多指ハンドを有するロボットの動作教示を行うことができる。ここで、ロボットの多指ハンドにどのような動きをさせるかを制御することは、アクチュエータ等をどのような位置で、どれだけの速さで移動させるかを決定する必要がある。さらに、制御する指が複数ある場合には、それぞれの指の干渉がないように考慮する必要があり、特に細かな作業では、さらに複雑な制御が要求される。そこで、本発明の計測システム1を利用して、ロボットへの動作の教示を行うことにより、制御プログラムの作成に係る時間を大幅に短縮することが期待できる。
また、3)人間の技術の熟達度等の計測分野においては、人間の技術の習得の度合いを数量的に示し、保存することができる。例えば、理学療法士などが行うリハビリテーション訓練に係る手技を本発明の計測システム1を利用して、動作を計測することができる。現在は、理学療法士等のセラピストを養成する際に、優れた技術を有するセラピストが指導教官として訓練生を指導することがあり、ほぼマンツーマンでの教育が行われることがある。ところが、係るマンツーマン教育を常に実施することは、時間的及び人材的な制約の点から困難である。また、一人で繰り返し訓練を行うことは、誤った治療方法でリハビリテーションの対象となる手技を行ってしまうクセが習慣化することがある。
そこで、本発明の計測システム1を利用することで、リハビリテーション訓練を行う訓練者の手技を関節角度JAの計測によって認識し、理想的なリハビリテーション訓練の手技との比較をすることで、上級者と初級者との比較を容易とすることで、効率的な訓練を実現させることができるようになる。加えて、日本の古来から伝承される、いわゆる「匠の技」を保存することも可能となる。特に、人間国宝などに指定される優れた技量を有する人物の手技を計測し、数量化することにより、後世にわたって名匠と呼ばれる人々の技術を記録しておくことができるようになる。また、近年に入り、伝統工芸の職人の数も不足し、後継者不足の問題が危惧されるようになっている。そこで、係る手指Hの手技を記録することにより、後継者不足の解消及び匠の技の伝承を行うことが可能となる。
以上、本発明について好適な実施形態を挙げて説明したが、本発明はこれらの実施形態に限定されるものではなく、以下に示すように、本発明の要旨を逸脱しない範囲において、種々の改良及び設計の変更が可能である。
すなわち、本実施形態の計測システム1において、手指Hの形状データ3を取得し、手指Hの運動を検知するものとして、単眼カメラからなる撮像部5を用いるものを示したが、これに限定されるものではなく、例えば、図7に示すように、レーザスキャナー装置30を利用する計測システム31を構成したものであっても構わない。ここで、レーザスキャナー装置30は、図3に示すように、レーザ照射部32から照射されるレーザ光線33を手指Hの表面に当て、そのレーザ光線33の反射率をレーザ受光部34によって検出することにより、手指Hの形状データ3を取得するものである。レーザ光線33及びレーザスキャナー装置30は、物体の三次元形状を正確に取得することが可能なものであり、現在では幅広い分野で活用がされている周知の技術及び装置である。それにより、より精細な被験者の手指Hに係る3Dモデル4を生成することができるようになる。なお、この場合、手指Hの運動を検知する運動検出手段(及び運動検知手段)としては、本実施形態で示したように単眼のカメラからなる撮像部5を備える必要がある。また、以後の処理の流れ及び構成は、前述した本実施形態の計測システム1と略同一であり、同一構成については同一番号を付すとともに、簡略化のため詳細な説明は省略する。
一方、図8に示すように、単眼のカメラ40a,40bを二つ並列させたような撮像部40を有する計測システム41を構築するものであってもよい。ここで、二つのカメラ40a,40bは100mm程度の間隔Lをもって離間している。そして、係る二つのカメラ40a等によってそれぞれ対象となる手指Hを撮像し、その視差により手指Hまでの距離を算出し、さらに算出された距離に応じて決定される縮尺率により、手指Hの立体形状を算出することができる。この結果、手指Hの立体形状に係る情報を容易に習得することができ、以降の3Dモデル4の生成をさらに容易に行うことができる。特に、複雑な形状の対象を撮像する場合において、通常は3Dモデル4と実際の手指Hとの動きを連動して制御することが困難な場合であっても、対象の三次元情報(X軸、Y軸、Z軸)の情報が既に習得されているため、高精度に制御を行いやすい。その結果、手指Hの運動に伴って変化する3Dモデル4の連動制御が行いやすくなる。
さらに、手指Hの形状及び運動を検知する場合、特に背景及び撮像の際の照明等について言及するものでないが、例えば、手指Hの背景を一色に統一し、手指Hと背景との境界を明確にする構成を有していても構わない。例えば、赤系のフィルタ若しくは赤外光を利用し、さらに手指Hの背景を黒色にすることにより、手指Hと背景とのコントラストを強調することができ、これにより、形状データ3の取得が容易となる。一方、青または緑系のフィルタを使用し、手指Hの背景を白色にすることによっても、コントラストを強調することができる。これにより、手指Hの輪郭形状を容易に取得することができるとともに、手指Hの表面の「しわ」や「指紋」等の凹凸の把握が可能となる。これにより、さらに精細な立体的な情報を得ることができるようになる。
1,31,41 計測システム(非接触型関節角度計測システム)
2 処理制御部
3 形状データ
4 3Dモデル(三次元モデル)
5,40 撮像部(形状取得手段、運動検出手段)
12 輪郭形状
13 形状撮像手段
14 運動検知手段
16 関節位置特定手段(形状取得手段)
17 手指位置特定手段(形状取得手段)
18 輪郭検出手段(形状取得手段)
19 形状取得手段
21 記憶手段
22 操作制御手段
23 基本モデル変形手段
24 3Dモデル生成手段(三次元モデル生成手段)
26 輪郭検出手段(運動検出手段)
27 運動検出手段(運動検出手段)
28 連動制御手段
29 関節角度計測手段
30 レーザスキャナー装置(形状取得手段)
BM 基本3Dモデル(基本三次元モデル)
H 手指
JA 関節角度
KP 関節位置
SD 標準化データ
2 処理制御部
3 形状データ
4 3Dモデル(三次元モデル)
5,40 撮像部(形状取得手段、運動検出手段)
12 輪郭形状
13 形状撮像手段
14 運動検知手段
16 関節位置特定手段(形状取得手段)
17 手指位置特定手段(形状取得手段)
18 輪郭検出手段(形状取得手段)
19 形状取得手段
21 記憶手段
22 操作制御手段
23 基本モデル変形手段
24 3Dモデル生成手段(三次元モデル生成手段)
26 輪郭検出手段(運動検出手段)
27 運動検出手段(運動検出手段)
28 連動制御手段
29 関節角度計測手段
30 レーザスキャナー装置(形状取得手段)
BM 基本3Dモデル(基本三次元モデル)
H 手指
JA 関節角度
KP 関節位置
SD 標準化データ
Claims (5)
- 人間の上肢手指の形状に関する形状データを取得する形状取得手段と、
前記形状取得手段によって取得された前記形状データを利用し、前記上肢手指の各々の身体部位の身体長さ及び前記身体部位を連結する関節の関節位置を特定し、前記身体長さ及び前記関節位置に基づいて、前記上肢手指の仮想的な三次元モデルを生成する三次元モデル生成手段と、
前記上肢手指の運動を感知し、検出する運動検出手段と、
生成された前記三次元モデルを、前記上肢手指の運動に合わせて制御する連動制御手段と、
前記連動制御手段によって制御される前記三次元モデルを利用し、前記上肢手指の関節角度を計測する関節角度計測手段と
を具備することを特徴とする非接触型関節角度計測システム。 - 前記上肢手指の基本三次元モデルが記憶された基本モデル記憶手段をさらに具備し、
前記三次元モデル生成手段は、
前記形状取得手段によって取得された前記形状データを利用し、記憶された前記基本三次元モデルを変形し、前記三次元モデルを構築する基本モデル変形手段をさらに具備することを特徴とする請求項1に記載の非接触型関節角度計測システム。 - 前記基本三次元モデルは、
前記身体長さ、前記関節位置、前記関節の可動範囲、及び前記身体長さの比率に係るデータを含み、統計的に算出された標準化データに基づいて構築されていることを特徴とする請求項2に記載の非接触型関節角度計測システム。 - 前記連動制御手段は、
運動する前記上肢手指の輪郭形状を抽出し、認識する輪郭抽出手段と、
抽出された前記上肢手指の前記輪郭形状に基づいて、生成された前記三次元モデルを前記上肢手指の運動に同期させて制御する同期制御手段と
をさらに具備することを特徴とする請求項1乃至請求項3のいずれか一つに記載の非接触型関節角度計測システム。 - 前記形状取得手段は、
前記運動検出手段としての機能を兼備することを特徴とする請求項1乃至請求項4のいずれか一つに記載の非接触型関節角度計測システム。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2003322991A JP2005091085A (ja) | 2003-09-16 | 2003-09-16 | 非接触型関節角度計測システム |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2003322991A JP2005091085A (ja) | 2003-09-16 | 2003-09-16 | 非接触型関節角度計測システム |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2005091085A true JP2005091085A (ja) | 2005-04-07 |
Family
ID=34454195
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2003322991A Pending JP2005091085A (ja) | 2003-09-16 | 2003-09-16 | 非接触型関節角度計測システム |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2005091085A (ja) |
Cited By (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2012009517A3 (en) * | 2010-07-15 | 2012-04-19 | Edward Dickson Campbell | Techniques for providing hand-based personality inventories |
| KR20120071223A (ko) * | 2010-12-22 | 2012-07-02 | 한국전자통신연구원 | 모션 캡처 장치 및 방법 |
| KR101216065B1 (ko) | 2011-09-16 | 2012-12-27 | 한국과학기술원 | 마커 장갑의 움직임을 3차원으로 인식하는 카메라 기반 원격조정 장치로 자원 개발 로봇을 구동하는 시스템 |
| WO2013051681A1 (ja) * | 2011-10-07 | 2013-04-11 | 国立大学法人筑波大学 | 手指形状推定装置、手指形状推定方法、及び手指形状推定プログラム |
| WO2015053896A1 (en) * | 2013-10-11 | 2015-04-16 | Intel Corporation | 3d object tracking |
| JP2017144048A (ja) * | 2016-02-17 | 2017-08-24 | 国立研究開発法人産業技術総合研究所 | 物体の把持姿勢を推定するための方法及び装置 |
| CN108498102A (zh) * | 2018-05-31 | 2018-09-07 | 北京上达医疗科技有限公司 | 康复训练方法及装置、存储介质、电子设备 |
| JP2018195267A (ja) * | 2017-05-22 | 2018-12-06 | キヤノン株式会社 | 情報処理装置、情報処理装置の制御方法及びプログラム |
| CN111142663A (zh) * | 2019-12-27 | 2020-05-12 | 恒信东方文化股份有限公司 | 一种手势识别方法及手势识别系统 |
| US11157080B2 (en) | 2014-09-10 | 2021-10-26 | Sony Corporation | Detection device, detection method, control device, and control method |
| CN114004329A (zh) * | 2020-07-28 | 2022-02-01 | 辉达公司 | 物体交接的机器学习控制 |
| KR20220117682A (ko) | 2021-02-17 | 2022-08-24 | 영남대학교 산학협력단 | 관절 가동 범위 측정 방법 및 장치 |
-
2003
- 2003-09-16 JP JP2003322991A patent/JP2005091085A/ja active Pending
Cited By (21)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2012009517A3 (en) * | 2010-07-15 | 2012-04-19 | Edward Dickson Campbell | Techniques for providing hand-based personality inventories |
| KR20120071223A (ko) * | 2010-12-22 | 2012-07-02 | 한국전자통신연구원 | 모션 캡처 장치 및 방법 |
| KR101587962B1 (ko) | 2010-12-22 | 2016-01-28 | 한국전자통신연구원 | 모션 캡처 장치 및 방법 |
| KR101216065B1 (ko) | 2011-09-16 | 2012-12-27 | 한국과학기술원 | 마커 장갑의 움직임을 3차원으로 인식하는 카메라 기반 원격조정 장치로 자원 개발 로봇을 구동하는 시스템 |
| WO2013051681A1 (ja) * | 2011-10-07 | 2013-04-11 | 国立大学法人筑波大学 | 手指形状推定装置、手指形状推定方法、及び手指形状推定プログラム |
| JPWO2013051681A1 (ja) * | 2011-10-07 | 2015-03-30 | 国立大学法人 筑波大学 | 手指形状推定装置、手指形状推定方法、及び手指形状推定プログラム |
| WO2015053896A1 (en) * | 2013-10-11 | 2015-04-16 | Intel Corporation | 3d object tracking |
| US9142022B2 (en) | 2013-10-11 | 2015-09-22 | Intel Corporation | 3D object tracking |
| CN105518748A (zh) * | 2013-10-11 | 2016-04-20 | 英特尔公司 | 3d对象跟踪 |
| US11157080B2 (en) | 2014-09-10 | 2021-10-26 | Sony Corporation | Detection device, detection method, control device, and control method |
| JP2017144048A (ja) * | 2016-02-17 | 2017-08-24 | 国立研究開発法人産業技術総合研究所 | 物体の把持姿勢を推定するための方法及び装置 |
| JP2018195267A (ja) * | 2017-05-22 | 2018-12-06 | キヤノン株式会社 | 情報処理装置、情報処理装置の制御方法及びプログラム |
| CN108498102A (zh) * | 2018-05-31 | 2018-09-07 | 北京上达医疗科技有限公司 | 康复训练方法及装置、存储介质、电子设备 |
| CN108498102B (zh) * | 2018-05-31 | 2023-12-29 | 北京上达医疗科技有限公司 | 康复训练方法及装置、存储介质、电子设备 |
| CN111142663A (zh) * | 2019-12-27 | 2020-05-12 | 恒信东方文化股份有限公司 | 一种手势识别方法及手势识别系统 |
| CN111142663B (zh) * | 2019-12-27 | 2024-02-02 | 恒信东方文化股份有限公司 | 一种手势识别方法及手势识别系统 |
| CN114004329A (zh) * | 2020-07-28 | 2022-02-01 | 辉达公司 | 物体交接的机器学习控制 |
| JP2022024952A (ja) * | 2020-07-28 | 2022-02-09 | エヌビディア コーポレーション | 物体引渡しの機械学習制御 |
| JP7619784B2 (ja) | 2020-07-28 | 2025-01-22 | エヌビディア コーポレーション | 物体引渡しの機械学習制御 |
| CN114004329B (zh) * | 2020-07-28 | 2026-01-09 | 辉达公司 | 物体交接的机器学习控制 |
| KR20220117682A (ko) | 2021-02-17 | 2022-08-24 | 영남대학교 산학협력단 | 관절 가동 범위 측정 방법 및 장치 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US9727779B2 (en) | Motion information processing apparatus | |
| CN105832343B (zh) | 多维视觉手功能康复定量评估系统和评估方法 | |
| KR100331693B1 (ko) | 핸드포인팅장치 | |
| CA2731775C (en) | 3d monocular visual tracking therapy system for the rehabilitation of human upper limbs | |
| US10849532B1 (en) | Computer-vision-based clinical assessment of upper extremity function | |
| KR101930652B1 (ko) | 보행 해석 시스템 및 기록 매체에 기록된 컴퓨터 프로그램 | |
| Seo et al. | A comparative study of in-field motion capture approaches for body kinematics measurement in construction | |
| US20150003687A1 (en) | Motion information processing apparatus | |
| JP2779448B2 (ja) | 手話言語変換装置 | |
| Placidi et al. | Overall design and implementation of the virtual glove | |
| Weiss Cohen et al. | Hand rehabilitation assessment system using leap motion controller | |
| JP2022527007A (ja) | 運動障害疾患分析用の補助撮影装置、制御方法及び装置 | |
| KR20120017948A (ko) | 모션캡쳐 기반의 자세분석을 통한 재활 장치 및 이에 따른 재활 방법 | |
| JP2005091085A (ja) | 非接触型関節角度計測システム | |
| CN109344694A (zh) | 一种基于三维人体骨架的人体基本动作实时识别方法 | |
| CN115761901B (zh) | 一种骑马姿势检测评估方法 | |
| JP2016035651A (ja) | 在宅リハビリテーションシステム | |
| JP2002000584A (ja) | 関節可動域検査訓練システム | |
| Jain et al. | Human computer interaction–Hand gesture recognition | |
| Sosa et al. | Improved front-view tracking of human skeleton from Kinect data for rehabilitation support in Multiple Sclerosis | |
| JP2002063579A (ja) | 画像解析装置及びその方法 | |
| Ángel-López et al. | Kinematic hand analysis using motion capture technology | |
| CN112571426B (zh) | 3d体态检测分析系统及方法 | |
| JP2014117409A (ja) | 身体関節位置の計測方法および装置 | |
| JP2023001003A (ja) | 心肺蘇生術訓練プログラム、心肺蘇生術訓練方法、心肺蘇生術訓練装置、心肺蘇生術訓練システム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050803 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050823 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20060110 |