本発明の1つの目的は、以前知り合った人の名前の取得を支援するスマートグラスを提供することである。
本発明の他の目的は、見知らぬ人の情報を取得する機会を人に与えるスマートグラスを提供することである。
本発明のもう1つの目的は、翻訳機能を備えるスマートグラスを提供することである。
上記目的を達成するために、本発明に係るスマートグラスは、フレーム及びレンズを有するグラス本体を含むほか、画像取得装置、検出装置、認証装置及び情報出力装置をさらに含む。前記画像取得装置は、前記グラス本体に設置され、環境画像を取得する。前記検出装置は、前記画像取得装置に通信可能に接続され、前記環境画像を取得するとともに、前記環境画像から顔画像及び/又は外国語画像を抽出する。前記認証装置は、前記検出装置に通信可能に接続され、前記顔画像及び/又は外国語画像を認証して前記顔画像に対応するID情報及び/又は前記外国語画像に対応する母国語情報を取得する。前記情報出力装置は、前記グラス本体に設置され、前記検出装置に通信可能に接続され、前記ID情報及び/又は母国語情報と、前記顔画像、前記外国語画像及び前記環境画像のうちの少なくとも1つと、を特定のユーザに再生する。
さらに、前記ID情報、前記母国語情報は、音声、画像、動画及び文字のうちの少なくとも1つの形態で前記ユーザに再生される。
さらに、前記スマートグラスは、前記グラス本体に設置され、前記画像取得装置に通信可能に接続される第1通信モジュールをさらに含む。前記第1通信モジュールは、前記グラス本体から離れて設置されるプロセッサに通信可能に接続されるとともに、前記画像取得装置で取得した前記環境画像を前記プロセッサに送信する。前記検出装置及び前記認証装置は、前記プロセッサ内に含まれる。
さらに、前記プロセッサは、携帯電話に属する。
さらに、前記検出装置及び前記認証装置は、前記グラス本体に設置される。
さらに、前記認証装置は、前記顔画像が第1比較画像に対して予め設定された類似度以上の場合、前記第1比較画像が有するID情報を、前記顔画像に対応する前記ID情報として取得し、前記外国語画像が第2比較画像に対して予め設定された類似度以上の場合、前記第2比較画像が有する母国語情報を、前記外国語画像に対応する前記母国語情報として取得する。
さらに、前記スマートグラスは、ローカル又はクラウドにある検索データベースをさらに含む。前記検索データベースには、前記顔画像と比較するための第1比較画像と、前記外国語画像と比較するための第2比較画像が記録されている。
さらに、前記検索データベースは、完全に共有する前記顔画像、取得権限内における特定範囲内で共有する前記顔画像、受動的に受信した前記顔画像及び主体的に撮像した前記顔画像のうちの少なくとも1つの顔画像を前記第1比較画像として記録する。
さらに、前記スマートグラスは、特定のユーザのみが権限を有して前記顔画像を取得又は共有し、前記権限を有する前記ユーザが取得権限内において特定範囲内で共有する前記顔画像を取得するように設定されるパブリッククラウドをさらに含む。
さらに、前記画像取得装置は、前記パブリッククラウドと通信する第2通信モジュールをさらに含む。前記第2通信モジュールは、ブルートゥース、WIFI、3Gプロトコル又は4Gプロトコルのうちの少なくとも1つの通信プロトコルを用いる。
さらに、前記画像取得装置の属するスマートグラスのユーザは、前記顔画像を主体的に撮像し、対応する前記ID情報を前記顔画像に手動で追加することで、前記ユーザの携帯電話の電話帳の1件のエントリー情報を前記第1比較画像として生成する。
さらに、前記スマートグラスは、前記グラス本体から離れて設置され、前記検出装置に通信可能に接続される情報入力装置をさらに含む。前記情報入力装置は、前記顔画像を取得可能であり、対応する前記ID情報を追加した後に検索データベースに記録する。
さらに、前記スマートグラスは、前記グラス本体から離れて設置され、前記情報出力装置に通信可能に接続されるブルートゥースイヤホンをさらに含む。前記ブルートゥースイヤホンは、前記ID情報を前記ユーザに再生する。
さらに、前記情報出力装置は、第1案内モジュールを含む。前記第1案内モジュールは、前記画像取得装置又は前記検出装置に通信可能に接続されて前記環境画像を取得し、前記ID情報と共に、当該ID情報に対応する顔画像を前記環境画像に表示し、これにより、前記情報出力装置は前記環境画像付きの前記ID情報を前記ユーザに表示する。
さらに、前記情報出力装置は、第2案内モジュールを含む。前記第2案内モジュールは、前記画像取得装置に通信可能に接続され、前回取得された前記環境画像を取得し、前記ID情報と共に、当該ID情報に対応する顔画像を前記環境画像に表示し、これにより、前記情報出力装置は前記環境画像付きの前記ID情報を前記ユーザに表示する。
さらに、前記ID情報と共に、当該ID情報に対応する顔画像を矢印で前記環境画像に表示する。
さらに、前記情報出力装置は、第3案内モジュールを含む。前記第3案内モジュールは、前記認証装置及び前記検出装置にそれぞれ通信可能に接続され、認証された各前記顔画像の間の相対的位置情報を取得し、取得された各前記顔画像に対応する各前記ID情報を前記相対的位置情報にしたがって並べ、これにより、前記情報出力装置が並べられた前記ID情報を前記ユーザに表示する。
さらに、前記情報出力装置は、運動センサを有する第4案内モジュールを含む。前記運動センサは、前記認証装置及び前記画像取得装置にそれぞれ通信可能に接続され、前記顔画像の属する前記環境画像と前回取得された前記環境画像との変化情報を取得し、前記変化情報付きの前記ID情報を前記ユーザに再生する。
さらに、前記情報出力装置は、第5案内モジュールを含む。前記第5案内モジュールは、前記認証装置及び前記画像取得装置にそれぞれ通信可能に接続され、前記顔画像の属する前記環境画像を取得するとともに、前記環境画像の他の部分に対して前記顔画像をハイライト表示したり、前記顔画像に対して前記環境画像の他の部分をぼかし処理したりし、かかる処理後の前記環境画像を前記ユーザに表示する。
さらに、前記環境画像は、前記ユーザの視野外の領域の一部である。
さらに、前記画像取得装置は、カメラを含む。
さらに、前記ユーザは、前記画像取得装置の属するスマートグラスのユーザ又は他のスマートグラスのユーザである。
さらに、前記画像取得装置は、ユーザからの指示によって周囲環境を主体的に撮像して環境画像を取得する。
さらに、前記画像取得装置は、送信された環境画像をユーザからの指示によって受動的に受信する。
本発明では、以前知り合って名前が思い出せない知人に会った場合、本発明の画像取得装置がユーザからの指示によって周囲環境を主体的に撮像し、知人の顔画像を含む環境画像を取得し、検出装置及び認証装置が名前を含む知人のID情報を認証してユーザに送信し、これにより、社会的活動やビジネス活動の利便性を高めることができる。
さらに、本発明では、見知らぬ人に会った場合、本発明の画像取得装置が最初のユーザからの指示によって周囲環境を主体的に撮像し、見知らぬ人の顔画像を含む環境画像を取得して別のユーザに送信する。別のユーザは、送信された環境画像を受動的に受信し、検出装置や認証装置により前記見知らぬ人を認証、すなわち、識別した場合、名前を含む見知らぬ人のID情報を最初のユーザにフィードバックし、これにより、社会的活動の利便性を高めることができる。
さらに、本発明では、画像取得装置で取得した環境画像に外国語画像が含まれると、検出装置が外国語画像を検出して認証装置によって認証し、認証した後にそれに対応する母国語情報をユーザに再生する。画像から文字をどのように認証、翻訳するのかについては、従来技術において説明されているので、その詳細は省略する。
以下、本発明の目的、利点及び特徴をより明確にするため、図面と実施形態を用いて詳細に説明する。
図1は、本発明の一実施形態におけるスマートグラスの平面図である。図1に示すスマートグラス10は、フレーム12及びレンズ14からなるグラス本体と、画像取得装置16と、検出装置18と、認証装置20と、情報出力装置22とを含む。なお、画像取得装置16は、上記グラス本体、例えば、フレーム12又はレンズ14に設置される。
図2のフローチャートに示すように、画像取得装置16は、環境画像を取得するためのものであり、例えば、カメラのみで構成されていてもよく、カメラを含む装置で構成されていてもよい。検出装置18、認証装置20及び情報出力装置22は、画像取得装置16と同様に、グラス本体に設置される。なお、他の実施形態では、図6に示すように、検出装置18及び認証装置20は、グラス本体に装備されていなくてもよい。すなわち、検出装置18及び認証装置20は、グラス本体の外部に設置されていてもよい。
検出装置18は、上記画像取得装置16に通信可能に接続される。そして、検出装置18は、上述した環境画像を取得し、当該環境画像から顔画像を検出して抽出する。認証装置20は、上記検出装置18に通信可能に接続され、上記顔画像を認証して、当該顔画像に対応するID情報を取得する。
情報出力装置22は、上記検出装置18に通信可能に接続され、上記ID情報、母国語情報を、単独で特定のユーザに再生したり、ID情報、母国語情報を、顔画像、外国語画像及び環境画像のうちの少なくとも1つと組み合わせて、特定のユーザに再生したりする。すなわち、情報出力装置22から出力される情報は、ID情報を必ず含む他に、顔画像や環境画像をさらに含んでもよい。また、環境画像の翻訳時には、情報出力装置22から出力される情報は、母国語情報を必ず含む他に、外国語画像や環境画像をさらに含んでもよい。
なお、情報の組み合わせについては、後述するID情報と顔画像や環境画像との組み合わせ状態としてもよく、顔画像を外国語画像に替えるとともにID情報を母国語情報に替えてもよい。例えば、一人の見知らぬ人又は名前を忘れた知人のみを認証する場合、単純にID情報をユーザに提供するだけでもよい。また、認証する人が複数の場合、ユーザが混乱しないように、ID情報を顔画像や環境画像に組み合わせる必要があり、その詳細については後述する。
本発明では、以前知り合って名前が思い出せない知人に会った場合、画像取得装置16は、ユーザからの指示によって周囲環境を主体的に撮像し、知人の顔画像を含む環境画像を取得する。検出装置18及び認証装置20は、名前を含む知人のID情報を認証してユーザに送信し、これにより、社会的活動やビジネス活動の利便性を高めることができる。見知らぬ人に会った場合、本発明の画像取得装置16は、最初のユーザからの指示によって周囲環境を主体的に撮像し、見知らぬ人の顔画像を含む環境画像を取得して別のユーザに送信する。別のユーザは、送信された環境画像を受動的に受信し、検出装置18や認証装置20により見知らぬ人を認証、すなわち、識別した場合、名前を含む見知らぬ人のID情報を最初のユーザにフィードバックし、これにより、社会的活動の利便性を高めることができる。なお、ユーザは、画像取得装置16が属するスマートグラス10のユーザであってもよいし、他のスマートグラス10のユーザであってもよい。画像取得装置16は、ユーザが画像取得装置16の属するスマートグラス10のユーザの場合、ユーザからの指示によって周囲環境を主体的に撮像して環境画像を取得し、一方、ユーザが他のスマートグラス10のユーザの場合、送信された環境画像を他のスマートグラス10のユーザからの指示によって受動的に受信する。
上述したような認証の必要な人が少ない場合には、例えば、文字のような簡単な方法でユーザに再生してもよい。一方、認証の必要な人が多い場合には、例えば、音声、画像、動画及び文字を組み合わせた方法でユーザに提示してもよい。
図1に示すように、検出装置18及び認証装置20は、グラス本体に設置される。本発明におけるスマートグラス10は、図1で示される実施形態と異なる構成として配置されてもよい。例えば、他の実施形態では、図6に示すように、スマートグラス10は、グラス本体に設置されて画像取得装置16に通信可能に接続される第1通信モジュールを含む。第1通信モジュールは、グラス本体から離れて設置されるプロセッサに通信可能に接続され、画像取得装置16で取得した環境画像をプロセッサに送信することが主となる。検出装置18及び認証装置20は、上記プロセッサ内に含まれる。本実施形態では、検出装置18及び認証装置20は、スマートグラス10に外付けされるため、スマートグラス10の重さを効果的に減らすことができる。一実施形態では、上記プロセッサは携帯電話に属し、すなわち、携帯電話のプロセッサにより顔画像を検出、認証する。このようにすることで、演算能力に余裕がある携帯電話の場合、携帯電話のプロセッサの利用効率の向上に非常に有利である。
顔の認証方法としては、従来技術には様々な技術がある。本発明の認証技術では、顔画像が第1比較画像に対して予め設定された類似度以上の場合、第1比較画像が有するID情報を、顔画像に対応するID情報として抽出する。また、同様に、外国語画像が第2比較画像に対して予め設定された類似度以上の場合、第2比較画像が有する母国語情報を、外国語画像に対応する母国語情報として抽出する。このように、予め設定された類似度を絶えずに設定することで、認証速度及び認証効率を向上させることができる。
上述した第1比較画像は、検索データベースに記録されている。この検索データベースは、ローカル又はクラウド上に選択可能に設置されてもよい。検索データベースにおける第1比較画像は、完全に共有する顔画像、取得権限内における特定範囲内で共有する顔画像、受動的に受信した顔画像及び主体的に撮像した顔画像、である。ここでは、完全に共有する顔画像はだれでも取得可能であり、特定範囲内で共有する顔画像は、権限のあるユーザのみが取得可能なものである。また、受動的に受信した顔画像は、例えば、上述したように、見知らぬ人の場合に他のユーザから送信された顔画像である。権限が必要な場合は、パブリッククラウドの場合を含む。この際、各スマートグラス10は1つの端末に相当する。パブリッククラウドは、特定のユーザのみが権限を有して顔画像を取得、共有し、当該権限を有するユーザが取得権限内において特定範囲内で共有する顔画像を取得するように設定される。パブリッククラウドの設置により、ユーザは友達の知人のID情報を早急に取得することができるほか、フレンド登録による友達共有も可能になる。グラス本体において、グラス本体に設置される画像取得装置16は、パブリッククラウドと通信する第2通信モジュールを有する。また、上記第2通信モジュールは、ブルートゥース(登録商標)、WIFI、3Gプロトコル又は4Gプロトコルのうちの少なくとも1つの通信プロトコルを用いる。第2通信モジュールにより、画像取得装置16は自身で撮像した写真/画像をパブリッククラウドにアップロードすることができる。
上述した、携帯電話のプロセッサによって顔画像を検出、認証する場合、画像取得装置16の属するスマートグラス10のユーザは、1つの顔画像を主体的に撮像し、対応するID情報を顔画像に手動で追加する。例えば、ID情報は、名前が李四、勤務先が中国科学院であってもよい。顔画像及びID情報から、ユーザの携帯電話の電話帳の1件のエントリー情報を、第1比較画像として生成する。この場合、携帯電話に記録されている電話帳は検索データベースとして機能する。普通の人の電話帳のエントリー数は数百件を超えないため、名前が思い出せない知人の認証に対して、顔認証の効率や正確率を大幅に向上させることができる。
本発明におけるスマートグラス10は、グラス本体から離れて設置される情報入力装置をさらに含む。情報入力装置は、例えば、ブルートゥース(登録商標)で検出装置18に通信可能に接続される。情報入力装置は、顔画像を取得可能であり、対応するID情報を追加した後に検索データベースに記録する。例えば、情報入力装置は、顔を撮像するための携帯電話のカメラ及びID情報を追加するためのキーボードである。顔を撮像してID情報を追加することにより、上記電話帳のエントリー情報を1件生成して携帯電話に記録する。情報入力装置は、グラス本体から離れて設置されることで、着用時における重さを減らしてユーザの利便性を向上させる。
なお、本発明に係るスマートグラス10は、グラス本体から離れて設置されるブルートゥース(登録商標)イヤホンをさらに含んでもよい。ブルートゥース(登録商標)イヤホンは、情報出力装置22に通信可能に接続され、上述したID情報をユーザに再生する。ユーザは顔認証を必要としない場合、分離型ブルートゥース(登録商標)イヤホンを取り外すことができる。これにより、スマートグラス10を続けて着用してスマートグラス10の他の機能を使用することができる。
本発明は、顔を認証した後、図6に示すように、ユーザが認証情報をどのように正確に受信するか、及び、認証情報の読み易さをどのように向上させるか、について、以下のいくつかの技術案を提供している。
第1実施形態では、上記情報出力装置22は、第1案内モジュールを含む。第1案内モジュールは、画像取得装置16又は検出装置18に通信可能に接続されて環境画像を取得し、ID情報と共に、当該ID情報に対応する顔画像を環境画像に表示する。これにより、情報出力装置22は、環境画像付きのID情報をユーザに表示する。本実施形態では、情報出力装置22から出力された環境画像には、ID情報で示された顔画像が含まれる。こうすることで、ID情報で示される顔画像と環境画像との有機的結合を実現することができる。
第2実施形態では、情報出力装置22は、第2案内モジュールを含む。第2案内モジュールは、画像取得装置16に通信可能に接続され、前回取得された環境画像を取得し、ID情報と共に、当該ID情報に対応する顔画像を環境画像に表示する。これにより、情報出力装置22は、環境画像付きのID情報をユーザに表示する。同様に、本実施形態では、情報出力装置22から出力された環境画像には、ID情報で示される顔画像が含まれる。本実施形態は、環境画像が前回取得された環境画像である点で第1実施形態と異なっている。
上記第1実施形態及び第2実施形態では、ID情報と共に、当該ID情報に対応する顔画像を矢印で示して環境画像に表示する。顔を速やかに認証可能な場合、既存の環境画像をID情報に適切に組み合わせたり、前回取得された環境画像をID情報に適切に組み合わせたりする。この2つの技術案は、いずれもユーザがID情報を取得した場合に、当該ID情報を環境画像にほぼ対応させるためのものである。例えば、認証時間が長い場合でも、既存の環境画像とID情報とを組み合わせると、認証待ちの人が置かれている環境が変わっている可能性があるため、既存の環境画像は参考としての意味がほぼなくなる。なお、認証時間が長い場合、前回取得された環境画像とID情報とを組み合わせることで、ユーザは認証すべき人を速やかに見つけ出すことができる。
第3実施形態では、情報出力装置22は、第3案内モジュールを含む。第3案内モジュールは、認証装置20及び検出装置18に通信可能に接続され、認証された各顔画像の間の相対的位置情報を取得するとともに、取得された各顔画像に対応する各ID情報を相対的位置情報にしたがって並べる。これにより、情報出力装置22は、並べられた各ID情報をユーザに表示する。本実施形態では、環境画像を提供することなく、認証待ちの人の相対的位置情報に基づいてID情報を並べる。なお、認証対象が一人のみの場合にID情報をユーザにそのまま再生すればよいが、認証対象が複数の場合に、複数のID情報によるユーザの混同を防止するために本実施形態の第3案内モジュールを設置する。
第4実施形態では、情報出力装置22は、運動センサを有する第4案内モジュールを含む。運動センサは、認証装置20及び画像取得装置16にそれぞれ通信可能に接続され、顔画像の属する環境画像と前回取得された環境画像との変化情報を取得するとともに、変化情報付きのID情報をユーザに再生する。本実施形態は、特に待ち合わせの場合に適する。本実施形態では、第1比較画像を有して人と待ち合わせる場合、運動センサにより変化情報を取得可能であるため、待ち合わせ相手がユーザの視野にいなくても、本実施形態に係るスマートグラス10は待ち合わせ相手の大まかな位置情報を提供することができ、その結果、ユーザが待ち合わせ相手を迅速かつ容易に見つけ出すことができる。
第5実施形態では、情報出力装置22は第5案内モジュールを含む。第5案内モジュールは、認証装置20及び画像取得装置16にそれぞれ通信可能に接続され、顔画像の属する環境画像を取得するとともに、環境画像の他の部分に対して顔画像をハイライト表示したり、又は、顔画像に対して環境画像の他の部分をぼかし処理したりし、さらに、かかる処理後の環境画像をユーザに表示する。ぼかし処理又はハイライト表示により、認証情報(ID情報、ID情報+画像)の読み易さを向上させることができる。
当然ながら、他の実施形態では、上記第1実施形態〜第5実施形態の案内モジュール(第1案内モジュール、第2案内モジュール、第3案内モジュール、第4案内モジュール、第5案内モジュール)のうちの少なくとも2つを組み合わせてもよい。
一実施形態では、環境画像は、ユーザの視野外の領域の一部であってもよい。このように、スマートグラス10はユーザの視野と重ならなくてもよい。例えば、ユーザは、認証待ちの人と直面することなく、スマートグラス10をはずして顔を認証してもよい。本実施形態によれば、特別な状況でのユーザによる顔認証を容易にする。
一実施形態では、スマートグラス10は、人を撮像し、音声又は名刺をこの人の情報として記録し、情報を処理した後にスマートグラス10のメモリに記録する。顔認証機能を起動すると、スマートグラス10のカメラで目前の人を走査する。このときのスマートグラス10のレンズ式表示装置は、この人の関連ID情報を表示するようになる。ID情報の情報量は、設定によって決定される。さらに、スマートグラス10のイヤホンは、再生言語提示を設定することで、ID情報の取得速度や正確度を向上させることができる。
図3は、本発明に係るスマートグラス10の1つのシステムを示すフローチャートである。図3において、各ユーザは1つのクラウドを有し、サーバーは上述したパブリッククラウドに相当し、各クラウドの共有する写真を第1比較画像として収集し、検出装置18及び認証装置20を含む携帯電話に通信可能に接続される。図3のグラスは、検出装置18及び認証装置20を除く部分であり、顔認証、文字認証(翻訳)及び画像認証(例えば、1つの画像と比較される画像との差異)に用いられる。
図4は、本発明の一実施形態に係るスマートグラス10による、顔認証のための第1比較画像の生成処理を示すフローチャートである。スマートグラス10は、ビッグデータ又は排他的なプライベートクラウドデータによって顔認証を実現してもよい。図4に示すフローチャートでは、スマートグラス10のクライアント端末がクラウドでアカウントを登録して排他的なプライベートクラウドホスティングを得て、顔画像及びID情報を取得した後にクラウドサーバーにそのまま送信するか、又はブルートゥース(登録商標)、WIFIもしくは携帯電話のネットワークを介してクラウドサーバーに送信し、サーバーによって処理、認証されたデータをユーザのクラウドに記録する。ユーザに顔認証が必要な場合には、無線ネットワークによりクラウドから関連データを抽出して顔と情報の照合を実現する。また、グループ化されたビッグデータを構築してもよい。例えば、同じ会社や同じフレンド登録において1つのパブリッククラウドホスティングが共有され、すべてのスマートグラス10個体のプライベートクラウドホスティングは、関連データをパブリッククラウドホスティングに選択可能に記録してもよい。こうすることで、友達や同僚は各自の知人グループを共有し、同僚や友達の社会的活動範囲を広げることができる。
図5は、本発明の一実施形態に係るスマートグラス10による顔認証及び文字認証の処理を示すフローチャートである。クラウドサーバー又はスマートグラス10の自体のストレージス領域には、複数の国の言語と中国語との対訳情報を含む言語データベースが設定される。スマートグラス10のユーザは、外国語画像における関連文字内容をカメラで走査するか、又は外部からの音声放送を音声受信装置で受信し、処理チップによって処理を行った後に言語データベースに記録されている情報と照合し、外国語と中国語との対訳を実現する。また、対訳結果をフィードバックした後、ディスプレイで文字を表示したりイヤホンで音声を再生したりすることでユーザに関連情報を表示する。
本発明の実施形態は、ハードウェアにおいて、又は、一つ以上のプロセッサ上で作動するソフトウェアモジュール、又はそれらの組み合わせとして実現できる。つまり、当業者は、マイクロプロセッサ又はデジタル信号プロセッサ(DSP)を、上記の機能の幾つか、又はすべてを実現するための実際に使用できるということは理解するであろう。また、本発明は、ここに記述されている方法の一部又はすべてを行うためのデバイス又は装置プログラム(例えば、コンピュータプログラム及びコンピュータプログラム製品)としても具現化できる。本発明を具現化するそのようなプログラムは、コンピュータ読み取り可能媒体上に記録でき、又は、例えば、一つ以上の信号の形態であってよい。そのような信号は、インターネット・ウェブサイトからダウンロード可能なデータ信号であってもよく、又はキャリア信号上で提供されてもよく、又は任意の他の形態であってもよい。
以上、本発明の複数の実施形態を例示的かつ詳細に説明したが、本発明の原理と一致する他の変形又は変更が、本発明の精神及び範囲を逸脱することなく、本発明から直接的に決定、派生されることは、当業者に認定されるであろう。したがって、本発明の範囲は、他のあらゆる変形又は変更を含むと理解される。