相互参照
本願は、出願番号がCN201410475165.4であって、出願日が2014年9月14日である中国特許出願に基づき優先権を主張し、当該中国特許出願のすべての内容を本願に援用する。
本願は、コンピュータ技術分野に関し、特にビデオのブラウジング方法及びその装置に関する。
インターネットの発展に伴い、インターネットのビデオがよく使用されている。ビデオを取得した場合、ビデオを素早くブラウジングしてビデオの内容を確認する必要があるため、如何にビデオを素早くブラウジングすることはよく注目された問題になる。
ビデオが連続の画像フレームからなるので、ビデオのキーフレームを抽出する過程において、端末は、ビデオを少なくとも2つのショットに分割して、各ショットの境界に基づいて、画像品質とビデオ内容の変更とに基づいて、各ショットについて一組のキーフレームを選出し、これらのキーフレームをスクリーンに適当なレートで再生させ、ビデオのブラウジングを実現することができる。
本願の発明者は、本発明を実現する過程において、従来技術が少なくとも以下の欠陥を有すると見出した。即ち、端末は、ショットの境界に基づいてキーフレームを抽出する必要があり、ビデオが1つの連続的なショットである場合、ビデオからキーフレームを抽出できなくなる。
本願の発明は、連続的なショットからなるビデオからキーフレームを抽出できないことによるビデオをブラウジングすることができない問題点を解決するために、ビデオのブラウジング方法及びその装置を提供する。
本発明の実施例の第1の形態によれば、
ビデオにおける現在の画像フレームと直前の画像フレームとを比較して、前記現在の画像フレームに含まれるターゲットブロックと前記直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得するステップと、
前記ターゲットブロック情報が予め定められた条件を満たす場合、前記現在の画像フレームをキーフレームとして決定するステップと、
前記現在の画像フレームの直後の画像フレームを現在の画像フレームとして決定し、前記ビデオにおける現在の画像フレームと直前の画像フレームとを比較してターゲットブロック情報を取得するステップを、前記ビデオにおける最後の画像フレームが比較されるまで継続して実行するステップと、
決定された少なくとも1つのキーフレームを再生させるステップと、を含むビデオのブラウジング方法を提供する。
好ましくは、前記ビデオにおける現在の画像フレームと直前の画像フレームとを比較してターゲットブロック情報を取得するステップは、
前記直前の画像フレームにおけるターゲットブロックと、前記現在の画像フレームにおけるターゲットブロックとを比較させるステップと、
前記現在の画像フレームには、前記直前の画像フレームが備えない少なくとも1つのターゲットブロックが含まれた場合、当該備えない各ターゲットブロックを、新たに追加されたターゲットブロックとして決定し、前記新たに追加されたターゲットブロックに対して、確定されたキーフレームの個数に1を加算してなるフラグ情報を設定し、各新たに追加されたターゲットブロックのターゲットブロック情報を取得するステップと、
前記現在の画像フレームには、前記直前の画像フレームが備える少なくとも1つのターゲットブロックが含まれた場合、当該備える各ターゲットブロックを既存ターゲットブロックとして決定し、前記現在の画像フレームにおける前記既存ターゲットブロックの前記直前の画像フレームにおける対応するターゲットブロックに対する移動情報を計算し、各既存ターゲットブロックのターゲットブロック情報を取得するステップと、
前記直前の画像フレームには、前記現在の画像フレームが備えない少なくとも1つのターゲットブロックが含まれた場合、当該備えない各ターゲットブロックを消失ターゲットブロックとして決定し、各消失ターゲットブロックのターゲットブロック情報を取得するステップと、を含む。
好ましくは、前記ターゲットブロック情報が予め定められた条件を満たす場合、前記現在の画像フレームをキーフレームとして決定するステップは、
前記現在の画像フレームのターゲットブロック情報から、前記既存ターゲットブロックの移動の回数と、移動の変位と、到達した領域との少なくとも1つを含む各既存ターゲットブロックのそれぞれの移動情報を読み取るステップと、
移動条件を満たす移動情報の数量が予め設定された閾値より大きいか否かを検出するステップと、
前記移動条件を満たす移動情報の数量が前記予め設定された閾値より大きいと検出したと、前記現在の画像フレームを前記キーフレームとして決定するステップと、を含む。
好ましくは、前記ターゲットブロック情報が予め定められた条件を満たす場合、前記現在の画像フレームをキーフレームとして決定するステップは、
前記現在の画像フレームのターゲットブロック情報から、各ターゲットブロックのフラグ情報を読み取るステップと、
各フラグ情報に前記消失ターゲットブロックのフラグ情報と同一のフラグ情報を有するか否かを検出するステップと、
前記消失ターゲットブロックのフラグ情報と同一のフラグ情報を有しないと検出した場合、前記現在の画像フレームを前記キーフレームとして決定するステップと、を含む。
好ましくは、前記ビデオのブラウジング方法は、
前記ビデオにおける各画像フレーム及び前記画像フレームを撮影するときのGPS情報と、加速度情報と、感度ISO情報との少なくとも1つを含むセンサ情報を取得するステップと、
前記センサ情報に基づいてスクリーニング条件を満たさない画像フレームを捨て、前記ビデオにおける現在の画像フレームと直前の画像フレームとを比較してターゲットブロック情報を取得するステップをトリガーするステップと、をさらに含む。
好ましくは、前記ターゲットブロック情報が予め定められた条件を満たす場合、前記現在の画像フレームをキーフレームとして決定するステップが、
前記現在の画像フレームに人物が含まれた場合、前記直前の画像フレームの人物姿勢情報に対して前記現在の画像フレームが変化するか否かを検出し、且つ前記現在の画像フレームにおける前記人物以外のターゲットブロック情報が前記予め定められた条件を満たすか否かを検出するステップと、
前記人物姿勢情報が変化したと検出し、且つ前記現在の画像フレームにおいる前記人物以外のターゲットブロック情報が前記予め定められた条件を満たした場合、前記現在の画像フレームをキーフレームとして決定するステップと、を含む。
本発明の実施例の第2の形態によれば、
ビデオにおける現在の画像フレームと直前の画像フレームとを比較して、前記現在の画像フレームに含まれるターゲットブロックと前記直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得するように構成される画像比較モジュールと、
前記画像比較モジュールが取得した前記ターゲットブロック情報が予め定められた条件を満たす場合、前記現在の画像フレームをキーフレームとして決定するように構成される画像決定モジュールと、
前記現在の画像フレームの直後の画像フレームを現在の画像フレームとして決定し、前記ビデオにおける現在の画像フレームと直前の画像フレームとを比較してターゲットブロック情報を取得する操作を、前記ビデオにおける最後の画像フレームが比較されるまで継続して実行するように構成される操作実行モジュールと、
前記画像決定モジュールが決定した少なくとも1つのキーフレームを再生させるように構成される画像再生モジュールと、を有するビデオのブラウジング装置を提供する。
好ましくは、前記画像比較モジュールは、
前記直前の画像フレームにおけるターゲットブロックを前記現在の画像フレームにおけるターゲットブロックと比較させるように構成されるターゲット比較サブモジュールと、
前記ターゲット比較サブモジュールによって前記現在の画像フレームには、前記直前の画像フレームが備えない少なくとも1つのターゲットブロックが含まれた場合、当該備えない各ターゲットブロックを新たに追加されたターゲットブロックとして決定し、前記新たに追加されたターゲットブロックに対して、決定されたキーフレームの個数に1を加算してなるフラグ情報を設定し、各新たに追加されたターゲットブロックのターゲットブロック情報を取得するように構成される第1決定サブモジュールと、
前記ターゲット比較サブモジュールによって前記現在の画像フレームには、前記直前の画像フレームが備える少なくとも1つのターゲットブロックが含まれた場合、当該備える各ターゲットブロックを既存ターゲットブロックとして決定し、前記現在の画像フレームにおける前記既存ターゲットブロックの前記直前の画像フレームにおける対応するターゲットブロックに対する移動情報を計算し、各既存ターゲットブロックのターゲットブロック情報を取得するように構成される第2決定サブモジュールと、
前記ターゲット比較サブモジュールによって前記直前の画像フレームには、前記現在の画像フレームが備えない少なくとも1つのターゲットブロックが含まれた場合、当該備えない各ターゲットブロックを消失ターゲットブロックとして決定し、各消失ターゲットブロックのターゲットブロック情報を取得するように構成される第3決定サブモジュールと、を有する。
好ましくは、前記画像決定モジュールは、
前記現在の画像フレームのターゲットブロック情報から、前記既存ターゲットブロックの移動の回数と、移動の変位と、到達した領域との少なくとも1つを含む各既存ターゲットブロックのそれぞれの移動情報を読み取るように構成される第1読取サブモジュールと、
移動条件を満たす移動情報の数量が予め設定された閾値より大きいか否かを検出するように構成される第1検出サブモジュールと、
前記第1検出サブモジュールによって前記移動条件を満たす移動情報の数量が前記予め設定された閾値より大きいと検出した場合、前記現在の画像フレームを前記キーフレームとして決定するように構成される第4決定サブモジュールと、を有する。
好ましくは、前記画像決定モジュールは、
前記現在の画像フレームのターゲットブロック情報から、各ターゲットブロックのそれぞれのフラグ情報を読み取るように構成される第2読取サブモジュールと、
各フラグ情報に前記消失ターゲットブロックのフラグ情報と同一のフラグ情報を有するか否かを検出するように構成される第2検出サブモジュールと、
前記第2検出サブモジュールによって前記消失ターゲットブロックのフラグ情報と同一のフラグ情報を有しないと検出した場合、前記現在の画像フレームを前記キーフレームとして決定するように構成される第5決定サブモジュールと、を有する。
好ましくは、前記ビデオのブラウジング装置は、
前記ビデオにおける各画像フレーム及び前記画像フレームを撮影するときのGPS情報と、加速度情報と、感度ISO情報との少なくとも1つを含むセンサ情報を取得するように構成される情報取得モジュールと、
前記情報取得モジュールが取得したセンサ情報に基づいてスクリーニング条件を満たさない画像フレームを捨て、前記ビデオにおける現在の画像フレームと直前の画像フレームとを比較してターゲットブロック情報を取得する操作の実行をトリガーするように構成される画像スクリーニングモジュールと、をさらに有する。
好ましくは、前記画像決定モジュールは、
前記現在の画像フレームに人物が含まれた場合、前記直前の画像フレームの人物姿勢情報に対して前記現在の画像フレームが変化するか否かを検出し、且つ前記現在の画像フレームにおける前記人物以外のターゲットブロック情報が前記予め定められた条件を満たすか否かを検出するように構成される第3検出サブモジュールと、
前記第3検出サブモジュールによって前記人物姿勢情報が変化したと検出し、且つ前記現在の画像フレームにおいる前記人物以外のターゲットブロック情報が前記予め定められた条件を満たした場合、前記現在の画像フレームをキーフレームとして決定するように構成される第6決定サブモジュールと、を有する。
本発明の実施例の第3の形態によれば、
プロセッサと、
プロセッサが実行できる命令を記憶するためのメモリとを有し、
前記プロセッサは、
ビデオにおける現在の画像フレームと直前の画像フレームとを比較して、前記画像フレームに含まれるターゲットブロックと前記直前の画像フレームに含まれるターゲットブロックとを比較させて得られる情報であるターゲットブロック情報を取得し、
前記ターゲットブロック情報が予め定められた条件を満たす場合、前記現在の画像フレームをキーフレームとして決定し、
前記現在の画像フレームの直後の画像フレームを現在の画像フレームとして決定し、前記ビデオにおける現在の画像フレームと直前の画像フレームとを比較してターゲットブロック情報を取得するステップを、前記ビデオにおける最後の画像フレームが比較されるまで継続して実行し、
決定された少なくとも1つのキーフレームを再生させるように構成されるビデオのブラウジング装置を提供する。
本発明の実施例が提供する技術方案は、以下の有益な効果を有する。
ビデオにおける現在の画像フレームと直前の画像フレームとを比較することによって、現在の画像フレームに含まれるターゲットブロックと直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得し、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定する。このため、ショットの境界に基づいてキーフレームを決定する必要がなく、ビデオにおける現在の画像フレームのターゲットブロックを比較することによってターゲットブロック情報を取得することができ、ターゲットブロック情報に基づいてキーフレームをスクリーニングすることができるので、連続的なショットからキーフレームを抽出できないことによるビデオをブラウジングできない問題点を解決することができ、ビデオの再生効率を向上させる効果が得られる。
以上の一般的な説明及び後述の詳細な説明は、例示的なものに過ぎず、本発明を限定するものではないことを理解すべきである。
ここで、図面は明細書に組み込んで本明細書の一部とし、本発明に合致する実施例を示すとともに、明細書とともに本発明の原理を説明する。
例示的な実施例に係るビデオのブラウジング方法のプロチャートである。
例示的な他の1つの実施例に係るビデオのブラウジング方法のプロチャートである。
例示的な実施例に係るビデオのブラウジング装置のブロック図である。
例示的な実施例に係るビデオのブラウジング装置のブロック図である。
例示的な実施例に係るビデオのブラウジング用の装置のブロック図である。
以下、図面に示される例示された実施例に対して詳しく説明する。以下の説明は、図面に関するときに、特定な声明以外、各図面における同一の数字は、同一又は類似な要素を表す。以下に例示された実施例において説明された実施形態は、本発明と一致する全ての実施形態ではない。逆に、それらは、特許請求の範囲に記載の本発明のある局面と一致する装置及び方法の例だけである。
図1は例示的な実施例に係るビデオのブラウジング方法のプロチャートであり、当該ビデオのブラウジング方法は、端末に用いられる。図1に示すように、当該ビデオのブラウジング方法は以下のステップを含む。
ステップ101において、ビデオにおける現在の画像フレームと、直前の画像フレームとを比較して、現在の画像フレームに含まれるターゲットブロックと直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得する。
画像フレームはビデオの単位画面である。ターゲットブロックは、画像フレームにおける内容を分割してなるものであり、少なくとも1つの物体を含んでもよいし、1つの物体の一部を含んでもよい。本実施例において、ターゲットブロックの分割方式が限定されない。ターゲットブロック情報は、ビデオにおける現在の画像フレームのターゲットブロックと、直前の画像フレームのターゲットブロックとを比較して得る情報である。
ステップ102において、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームがキーフレームとして決定される。
キーフレームは、ビデオ全体に物体が存在する1つの画像フレーム、または物体の運動におけるキー動作が存在する1つの画像フレームであり、ビデオにおけるある時間帯のビデオ内容を示すことができる。
画像フレーム内の物体をターゲットブロックで示すことができ、且つターゲットブロック情報が、隣接する2つの画像フレームのターゲットブロックの変化を示すことができるので、端末は、ターゲットブロック情報に基づいて画像フレームがキーフレームであるか否かを検出でき、ビデオから少なくとも1つのキーフレームを抽出できる。
ステップ103において、現在の画像フレームの直後の画像フレームを現在の画像フレームとして決定され、ビデオにおける現在の画像フレームと直前の画像フレームとを比較してターゲットブロック情報を取得するステップを、ビデオにおける最後の画像フレームが比較されるまで継続して実行する。
ビデオにおける全てのキーフレームを抽出するために、端末は、全ての画像フレームを比較する必要があるので、現在の画像フレームを比較した後、直後の画像フレームを新たな現在の画像フレームとして決定し、当該現在の画像フレームを新たな直前の画像フレームとして決定し、ステップ101をビデオにおける最後の画像フレームが現在の画像フレームとして比較されるまで継続して実行し、検出のプロチャートを完了させる。
ステップ104において、決定された少なくとも1つのキーフレームを再生させる。
各キーフレームのそれぞれが1つの時間帯のビデオ内容を示すことができるので、端末において、決定された少なくとも1つのキーフレームを適切なフレーム速度で順番に再生させることによって、ビデオが表す有効的な情報を縮減せずに、ビデオの再生時間を圧縮できる。このため、ビデオ内容に対する快速ブラウジングを実現でき、ビデオの再生効率を向上できる。
以上により、本願発明のビデオのブラウジング方法は、ビデオにおける現在の画像フレームと、直前の画像フレームとを比較することによって、現在の画像フレームに含まれるターゲットブロックと直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得し、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定する。このため、ショットの境界に基づいてキーフレームを決定する必要がなく、ビデオにおける現在の画像フレームのターゲットブロックを比較することによってターゲットブロック情報を取得でき、ターゲットブロック情報に基づいてキーフレームをスクリーニングすることができるので、連続的なショットからキーフレームを抽出できないことによるビデオをブラウジングすることができない問題点を解決でき、ビデオの再生効率を向上できる効果が得られる。
図2は例示的な他の1つの実施例に係るビデオのブラウジング方法のプロチャートであり、当該ビデオのブラウジング方法は、端末に用いられる。図2に示すように、当該ビデオのブラウジング方法は、以下のステップを含む。
ステップ201において、ビデオにおける各画像フレーム及び画像フレームを撮影するときのGPS(Global PosItIonIng System)情報と、加速度情報と、感度ISO情報との少なくとも1つを含むセンサ情報を取得し、センサ情報に基づいてスクリーニング条件を満たさない画像フレームを捨て、ステップ202をリカードする。
本実施例において、ステップ201は選択可能なステップである。即ち、端末は、カメラによってビデオを撮影し、ビデオを取得した後ステップ202を実行可能である。或は、端末は、ビデオを取得した後、ビデオにおける画像フレームをスクリーニングし、捨て条件を満たした画像フレームを捨てることにより、捨て条件を満たす画像フレームに対する処理によるリソースの無駄を減少でき、ビデオの単位画面である画像フレームに対する処理効率を向上できる。
端末は、画像フレームに対してスクリーニング操作を実行させる必要があると、カメラでビデオを撮影するとき、センサで各画像フレームのGPS情報と、加速度情報と、感度ISO情報との少なくとも1つであるセンサ情報を収集し、センサ情報に基づいて各画像フレームが捨て条件を満たすか否かを検出することができる。
また、端末は、センサ情報に応じて捨て条件を設定することができる。センサ情報がGPS情報である場合、撮影シーンは移動中にビデオを撮影することになることが可能である。端末は長時間同一の地理位置に止まると、このときに撮影された画像フレームが重複する可能性があるので、捨て条件は、移動中にビデオを撮影するとき、GPS情報と直前の画像フレームのGPS情報との間の距離がGPS閾値より小さいと設定される。センサ情報が加速度情報である場合、撮影シーンは移動中にビデオを撮影することになることが可能である。端末の移動の加速度が早いと、撮影された画像フレームが不明瞭になるので、捨て条件は、加速度が加速度閾値より大きいと設定される。センサ情報がISO情報である場合、ISOが高いと、撮影された画像フレームにノイズが多いので、捨て条件は、ISOがISO閾値より大きいと設定される。センサ情報が、GPS情報と、加速度情報と、ISO情報との少なくとも2つを含む場合、端末は、各センサ情報に対応する捨て条件を合併することができ、センサ情報における少なくとも1つが捨て条件を満たした場合、当該画像フレームを捨てる。
ステップ202において、ビデオにおける現在の画像フレームと、直前の画像フレームとを比較して、現在の画像フレームに含まれるターゲットブロックと直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得する。
ターゲットブロックは、画像フレームにおける内容を分割してなるものであり、画像フレームに対する分割方式によって確定され、少なくとも1つの物体を含んでもよいし、1つの物体の一部を含んでもよい。また、端末は、画像フレームを均等に分割することができる。例えば、端末は、画像フレームを長さ方向においてM個に均等に分割し、幅方向においてN個に均等に分割することにより、M×N個のターゲットブロックが得られる。或は、端末は、画像フレームにおける注目された最小ターゲットに応じてターゲットブロックを分割することができ、即ち、各ターゲットブロックのそれぞれが、少なくとも1つの最小ターゲットを含む。或は、端末は、開発者の経験値によってターゲットブロックを分割することができる。本実施例において、ターゲットブロックの分割方式が限定されない。
現在の画像フレームのターゲットブロックを取得した後、端末は、当該現在の画像フレームのターゲットブロックと直前の画像フレームのターゲットブロックとを比較し、隣接する2つの画像フレームのターゲットブロックの変化を示すターゲットブロック情報を取得することができる。
本実施例において、ビデオにおける現在の画像フレームと、直前の画像フレームとを比較してターゲットブロック情報を取得するステップは、以下の通りである。
1)直前の画像フレームにおけるターゲットブロックと、現在の画像フレームにおけるターゲットブロックとを比較する。
2)現在の画像フレームには、直前の画像フレームが備えない少なくとも1つのターゲットブロックが含まれた場合、当該備えない各ターゲットブロックを新たに追加されたターゲットブロックと決定し、新たに追加されたターゲットブロックに対して、決定されたキーフレームの個数に1を加算してなるフラグ情報を設定し、各新たに追加されたターゲットブロックのターゲットブロック情報を取得する。
3)現在の画像フレームには、直前の画像フレームが備える少なくとも1つのターゲットブロックが含まれた場合、当該備える各ターゲットブロックを既存ターゲットブロックとして決定し、現在の画像フレームにおける既存ターゲットブロックの直前の画像フレームにおける対応するターゲットブロックに対する移動情報を計算し、各既存ターゲットブロックのターゲットブロック情報を取得する。
4)直前の画像フレームには、現在の画像フレームが備えない少なくとも1つのターゲットブロックが含まれない場合、当該備えない各ターゲットブロックを消失ターゲットブロックとして決定し、各消失ターゲットブロックのターゲットブロック情報を取得する。
また、現在の画像フレームにおけるターゲットブロックと直前の画像フレームにおけるターゲットブロックとの特徴を比較することができる。当該特徴は、色ヒストグラムであってもよし、色ヒストグラムとテクスチャ特徴であってもよい。比較方式はユークリッド距離を使用することができる。ターゲットブロックの比較は、後述する3つの結果を有する。
第1結果
現在の画像フレームには、直前の画像フレームが備えない少なくとも1つのターゲットブロックを含み、このとき、端末は、当該備えない少なくとも1つのターゲットブロックを新たに追加されたターゲットブロックとして決定し、マークのために、当該新たに追加されたターゲットブロックに対してフラグ情報を設定する。
その中に、端末は、新たに追加されたターゲットブロックのフラグ情報を既に決定されたキーフレームの個数に1を加算してなるものに設定できる。例えば、k個目の画像フレームの前に、既にs個のキーフレームが決定された場合、k個目の画像フレームにおける新たに追加されたターゲットブロックのフラグ情報を(s+1)に設定することができる。k個目の画像フレームがキーフレームではない場合、(k+1)個目の画像フレームにおける新たに追加されたターゲットブロックのフラグも、(s+1)に設定することができる。即ち、s個目のキーフレームと、(s+1)個目のキーフレームとの間の画像フレームにおける新たに追加されたターゲットブロックのフラグ情報の全ては、(s+1)である。
また、端末は、ターゲットブロックの位置と標識等の情報を取得し、標識と、フラグ情報と、位置等の情報を当該新たに追加されたターゲットブロックのターゲットブロック情報として決定することが好ましい。
第2結果
現在の画像フレームには、直前の画像フレームが備える少なくとも1つのターゲットブロックを含み、このとき、端末は、当該備える少なくとも1つのターゲットブロックを既存ターゲットブロックとして決定し、既存ターゲットブロックの移動情報を取得することができる。
その中に、移動情報は、当該現在の画像フレームにおけるターゲットブロックの直前の画像フレームにおける対応するターゲットブロックに対する移動の変位と、当該現在の画像フレームにおけるターゲットブロックの直前の画像フレームにおける対応するターゲットブロックに対する移動の回数と、当該現在の画像フレームにおけるターゲットブロックが到達した領域との少なくとも1つを使用することができる。
例えば、移動情報が移動の変位を含む場合、例え直前の画像フレームにおける当該ターゲットブロックの座標が(10センチ、13センチ)であり、現在の画像フレームにおける当該ターゲットブロックの座標が(10センチ、15センチ)である場合、当該ターゲットブロックの変位が2センチである。移動情報が移動の回数を含む場合、例え直前の画像フレームにおける当該ターゲットブロックの移動の回数が2であり、且つ現在の画像フレームにおける当該ターゲットブロックの位置と直前の画像フレームにおける位置が同一ではない場合、当該ターゲットブロックの移動の回数が3であると決定する。移動情報が到達した領域を含む場合、当該ターゲットブロックが現在の画像フレームの中央領域に位置する場合、当該ターゲットブロックの到達した領域が中央領域であると決定する。
端末は、当該ターゲットブロックの標識とフラグ情報を取得し、標識と、フラグ情報と、移動情報とを当該既存ターゲットブロックのターゲットブロック情報として決定することができることが好ましい。
第3結果
直前の画像フレームには、現在の画像フレームが備えない少なくとも1つのターゲットブロックを含み、このとき、端末は、当該備えない少なくとも1つのターゲットブロックを消失ターゲットブロックとして決定し、当該ターゲットブロックの標識と、フラグ情報と、移動情報とを当該消失ターゲットブロックのターゲットブロック情報として決定することができる。
ステップ203において、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定する。
キーフレームは、ビデオ全体において物体が存在する1つの画像フレーム、または物体の運動におけるキー動作が存在する1つの画像フレームであり、ビデオにおける1つの時間帯のビデオ内容を表す。画像フレームにおける物体がターゲットブロックで表すことができ、且つターゲットブロック情報が、隣接する2つの画像フレームのターゲットブロックの変化を示すことができるので、端末は、ターゲットブロック情報に基づいて現在の画像フレームがキーフレームであるか否かを検出し、ビデオから少なくとも1つのキーフレームを抽出することができる。
その中に、端末は、ターゲットブロック情報に基づいてキーフレームを決定することができる。本実施例において、ターゲットブロック情報がそれぞれ移動情報とフラグ情報とを含むことを例としてキーフレームを決定するプロチャートを説明する。
第1に、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定するステップは、以下のステップを含む。
1)現在の画像フレームのターゲットブロック情報から、既存ターゲットブロックの移動の回数と、移動の変位と、到達した領域との少なくとも1つを含む各既存ターゲットブロックの移動情報を読み取るステップ。
2)移動条件を満たす移動情報の数量が予め設定された閾値より大きいか否かを検出するステップ。
3)移動条件を満たす移動情報の数量が予め設定された閾値より大きいと検出したと、現在の画像フレームをキーフレームとして決定するステップ。
上記のキーフレームを決定する方法は、前景ターゲットが移動し且つ背景がほとんど変化しないシーンに適応し、或は、背景がズームし且つ前景ターゲットを有しないシーンに適応する。
移動情報は、移動の回数と、移動の変位と、到達した領域との少なくとも1つであるので、移動情報が異なると、移動情報が対応する移動条件も異なる。例えば、移動情報が移動の回数を含む場合、移動条件を移動の回数が回数の閾値より大きいことに設定することができる。移動情報が移動の変位を含む場合、移動条件を移動の変位が変位の閾値より大きいことに設定することができる。移動情報が到達した領域を含む場合、移動条件を目的領域に設定することができる。移動情報が、移動の回数と、移動の変位と、到達した領域との少なくとも2つを含む場合、各移動情報に対応する移動条件を合併し、移動情報における各移動情報が全て各自の移動条件を満たした場合、当該移動情報が移動条件を満たす場合決定する。
例えば、移動条件は、移動の回数が4回を超え且つターゲット領域が中央領域であることになると、端末は、ある移動情報に記憶された移動の回数が5回であり且つ到達した領域が中央領域であることを検出したとき、当該移動情報が移動条件を満たす場合決定する。
移動情報が移動条件を満たした場合決定した後、端末は、さらに移動条件を満たした移動情報の数量を算出し、算出された回数が予め設定された閾値より大きいか否かを検出することができる。端末は、算出された回数が予め設定された閾値より大きいと検出したと、直前のキーフレームに対して、現在の画像フレームにおける多数のターゲットブロックのターゲット情報が変化したと決定し、現在の画像フレームをキーフレームとして決定することができる。端末は、算出された回数が予め設定された閾値より小さいと検出したと、直前のキーフレームに対して、現在の画像フレームにおける少数のターゲットブロックのターゲット情報が変化したと決定し、現在の画像フレームをキーフレームとして決定しないことができる。
第2に、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定するステップは、以下のステップを含む。
1)現在の画像フレームのターゲットブロック情報から各ターゲットブロックのフラグ情報を読み取る。
2)各フラグ情報に消失ターゲットブロックのフラグ情報と同一のフラグ情報を有するか否かを検出する。
3)消失ターゲットブロックのフラグ情報と同一のフラグ情報を有しないと検出した場合、現在の画像フレームをキーフレームとして決定する。
上記のキーフレームを決定する方法は、背景が予め設定された速度で移動し且つ前景ターゲットを有しないシーンに適応し、或は、背景が予め設定された速度で移動し且つ前景ターゲットが変化しないシーンに適応する。
ターゲットブロック情報にフラグ情報をさらに含むので、現在の画像フレームにおけるあるフラグ情報が完全に消失した場合、当該画像フレームをキーフレームとして決定する。フラグ情報が完全に消失したか否かを検出する場合、端末は、現在の画像フレームにおける消失ターゲットブロックのフラグ情報を取得し、現在の画像フレームが含む各フラグ情報に消失ターゲットブロックのフラグ情報と同一のフラグ情報を有するか否かを検出することができる。端末は、現在の画像フレームが含む各フラグ情報に消失ターゲットブロックのフラグ情報と同一のフラグ情報を有しないと検出した場合、当該フラグ情報が完全に消失したと決定する。端末は、現在の画像フレームが含む各フラグ情報に消失ターゲットブロックのフラグ情報と同一のフラグ情報を有すると検出した場合、当該フラグ情報が完全に消失しなかったと決定する。
人物を含む画像フレームについて、時々、人物の微細的な姿勢の変化を取得することが必要である。このとき、端末は、人物をターゲットブロックに分割して検出する場合、ターゲットブロック情報の変化が大きくないので、重要な画像フレームが非キーフレームに誤決定され、重要な情報の紛失が発生する可能性がある。
このため、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定ステップは、以下のステップを含む。
1)現在の画像フレームに人物が含まれた場合、直前の画像フレームの人物姿勢情報に対して現在の画像フレームが変化するか否かを検出し、且つ現在の画像フレームにおける人物以外のターゲットブロック情報が予め定められた条件を満たすか否かを検出するステップ。
2)人物姿勢情報が変化したと検出し、且つ現在の画像フレームにおける人物以外のターゲットブロック情報が予め定められた条件を満たした場合、現在の画像フレームをキーフレームとして決定するステップ。
端末は、現在の画像フレームにおける人物と背景を分離し、人物姿勢を分析し、背景をターゲットブロックに分割し、ターゲットブロック情報に基づいて検出し、分析結果と検出結果に基づいて画像がキーフレームであるか否かを決定することができる。その中に、人物姿勢情報は、顔表情または人物姿勢を含む。
人物姿勢を分析するための端末の方法は、複数あり、例えば、ASM(Active Shape Model)アルゴリズム、またはAAM(Active Appearance Model)アルゴリズムを使用して顔の特徴点の位置を特定し、主な器官の特徴を抽出し、表情に従って特徴を分類する。端末は、現在の画像フレームにおける特徴表情の分類と、直前の画像フレームにおける特徴表情の分類とが異なると検出した場合、当該現在の画像フレームをキーフレームとして決定する。端末のターゲットブロック情報に対する検出処理は上記の検出処理と同じなので、ここに省略する。
補足説明として、端末は、センサ情報に基づいてキーフレームを決定してもよい。例えば、センサ情報がGPS情報である場合、GPS情報と、直前の画像フレームのGPS情報とを比較し、GPS情報と直前の画像フレームのGPS情報との距離がGPS閾値より大きい場合、当該GPS情報が対応する現在の画像フレームをキーフレームとして決定することができる。
ステップ204において、現在の画像フレームの直後の画像フレームを現在の画像フレームとして決定し、ステップ202を、ビデオにおける最後の画像フレームが比較されるまで継続して実行する。
ビデオにおける全てのキーフレームを抽出するために、端末は、全ての画像フレームを比較することが必要であるので、現在の画像フレームが比較された後、現在の画像フレームの直後の画像フレームを新たな現在の画像フレームとして決定すると共に、当該現在の画像フレームを新たな現在の画像フレームの直前の画像フレームとして決定し、ステップ202をビデオにおける最後の画像フレームを現在の画像フレームとして比較されるまで継続して実行し、検出処理を完了する。
ステップ205において、決定された少なくとも1つのキーフレームを再生させる。
各キーフレームのそれぞれが1つの時間帯のビデオ内容を表すことができるので、端末には、決定された少なくとも1つのキーフレームを適切なフレーム速度で順番に再生させることによって、ビデオが表す有効情報が減縮めずに、ビデオの再生時間を圧縮することができる。このため、ビデオ内容に対する快速ブラウジングを実現でき、ビデオの再生効率を向上できる。
端末は、少なくとも1つのキーフレームを記憶することにより、ビデオが短いビデオに変換されることが好ましい。
以上により、本発明のビデオのブラウジング方法は、ビデオにおける現在の画像フレームと直前の画像フレームとを比較することにより、現在の画像フレームに含まれるターゲットブロックと直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得し、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定する。このため、ショットの境界に基づいてキーフレームを確定する必要がなく、ビデオにおける画像フレームのターゲットブロックを比較してターゲットブロック情報が取得され、ターゲットブロック情報に基づいてキーフレームをスクリーニングすることができるので、連続的なショットからキーフレームを抽出できないことによるビデオをブラウジングできない問題点を解決することができ、ビデオの再生効率を向上させる効果が得られる。
また、ビデオにおける各画像フレーム及び画像フレームを撮影するときのセンサ情報を取得し、センサ情報に基づいてスクリーニング条件を満たさない画像フレームを捨てることにより、捨て条件を満たす画像フレームに対する処理による資源の無駄を減少することができ、画像フレームに対する処理効率を向上させることができる。
図3は、例示的な実施例に係るビデオのブラウジング装置のブロック図であり、当該ビデオのブラウジング装置は、端末に用いられる。図3に示すように、当該ビデオのブラウジング装置は、ビデオにおける現在の画像フレームと、直前の画像フレームとを比較して、現在の画像フレームに含まれるターゲットブロックと直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得するように構成される画像比較モジュール310と、画像比較モジュール310が取得したターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定するように構成される画像決定モジュール320と、現在の画像フレームの直後の画像フレームを現在の画像フレームとして決定し、ビデオにおける現在の画像フレームと直前の画像フレームとを比較してターゲットブロック情報を取得する操作を、ビデオにおける最後の画像フレームが比較されるまで継続して実行するように構成される操作実行モジュール330と、画像決定モジュール320が決定された少なくとも1つのキーフレームを再生させるように構成される画像再生モジュール340とを有する。
以上により、本発明のビデオのブラウジング装置は、ビデオにおける現在の画像フレームと、直前の画像フレームとを比較することにより、現在の画像フレームに含まれるターゲットブロックと直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得し、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定する。このため、ショットの境界に基づいてキーフレームを決定する必要がなく、ビデオにおける画像フレームのターゲットブロックを比較することにより、ターゲットブロック情報を取得することができ、ターゲットブロック情報に基づいてキーフレームをスクリーニングすることができるので、連続的なショットからキーフレームを抽出できないことによるビデオをブラウジングできない問題点を解決することができ、ビデオの再生効率を向上させる効果が得られる。
図4は、例示的な実施例に係るビデオのブラウジング装置のブロック図であり、当該ビデオのブラウジング装置は、端末に用いられる。図4に示すように、当該ビデオのブラウジング装置は、ビデオにおける現在の画像フレームと、直前の画像フレームとを比較して、現在の画像フレームに含まれるターゲットブロックと直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得するように構成される画像比較モジュール310と、画像比較モジュール310が取得したターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定するように構成される画像決定モジュール320と、現在の画像フレームの直後の画像フレームを現在の画像フレームとして決定し、ビデオにおける現在の画像フレームと直前の画像フレームとを比較してターゲットブロック情報を取得する操作を、ビデオにおける最後の画像フレームが比較されるまで継続して実行するように構成される操作実行モジュール330と、画像決定モジュール320が決定された少なくとも1つのキーフレームを再生させるように構成される画像再生モジュール340とを有する。
画像比較モジュール310は、直前の画像フレームにおけるターゲットブロックを現在の画像フレームにおけるターゲットブロックと比較するように構成されるターゲット比較サブモジュール311と、ターゲット比較サブモジュール311によって現在の画像フレームに、直前の画像フレームが備えない少なくとも1つのターゲットブロックが含まれたと検出した場合、当該備えない各ターゲットブロックを新たに追加されたターゲットブロックとして決定し、新たに追加されたターゲットブロックに対して、決定されたキーフレームの個数に1を加算してなるフラグ情報を設定し、各新たに追加されたターゲットブロックのターゲットブロック情報を取得するように構成される第1決定サブモジュール312と、ターゲット比較サブモジュール311によって現在の画像フレームには、直前の画像フレームが備える少なくとも1つのターゲットブロックが含まれたと検出した場合、当該備える各ターゲットブロックを既存ターゲットブロックとして決定し、現在の画像フレームにおける既存ターゲットブロックの直前の画像フレームにおける対応するターゲットブロックに対する移動情報を計算し、各既存ターゲットブロックのターゲットブロック情報を取得するように構成される第2決定サブモジュール313と、ターゲット比較サブモジュール311によって直前の画像フレームには、現在の画像フレームが備えない少なくとも1つのターゲットブロックが含まれたと検出した場合、当該備えない各ターゲットブロックを消失ターゲットブロックとして決定し、各消失ターゲットブロックのターゲットブロック情報を取得するように構成される第3決定サブモジュール314と、を有することが好ましい。
画像決定モジュール320は、現在の画像フレームのターゲットブロック情報から、既存ターゲットブロックの移動の回数と、移動の変位と、到達した領域との少なくとも1つを含む各既存ターゲットブロックの移動情報を読み取るように構成される第1読取サブモジュール321と、移動条件を満たす移動情報の数量が予め設定された閾値より大きいか否かを検出するように構成される第1検出サブモジュール322と、第1検出サブモジュール322によって移動条件を満たす移動情報の数量が予め設定された閾値より大きいと検出した場合、現在の画像フレームをキーフレームとして決定するように構成される第4決定サブモジュール323とを有することが好ましい。
画像決定モジュール320は、現在の画像フレームのターゲットブロック情報から、各ターゲットブロックのフラグ情報を読み取るように構成される第2読取サブモジュール324と、各フラグ情報に消失ターゲットブロックのフラグ情報と同一のフラグ情報を有するか否かを検出するように構成される第2検出サブモジュール325と、第2検出サブモジュール325によって消失ターゲットブロックのフラグ情報と同一のフラグ情報を有しないと検出した場合、現在の画像フレームをキーフレームとして決定するように構成される第5決定サブモジュール326とを有することが好ましい。
ビデオのブラウジング装置は、ビデオにおける各画像フレーム及び画像フレームを撮影するときのGPS情報と、加速度情報と、感度ISO情報との少なくとも1つを含むセンサ情報を取得するように構成される情報取得モジュール350と、情報取得モジュール350が取得したセンサ情報に基づいてスクリーニング条件を満たさない画像フレームを捨て、ビデオにおける現在の画像フレームと、直前の画像フレームとを比較してターゲットブロック情報を取得する操作をトリガーするように構成される画像スクリーニングモジュール360とをさらに有することが好ましい。
画像決定モジュール320は、現在の画像フレームに人物が含まれた場合、直前の画像フレームにおける人物姿勢情報に対して現在の画像フレームが変化するか否かを検出し、且つ現在の画像フレームにおける人物以外のターゲットブロック情報が予め定められた条件を満たすか否かを検出するように構成される第3検出サブモジュール327と、第3検出サブモジュール327によって人物姿勢情報が変化したと検出し、且つ現在の画像フレームにおける人物以外のターゲットブロック情報が予め定められた条件を満たした場合、現在の画像フレームをキーフレームとして決定するように構成される第6決定サブモジュール328とを有することが好ましい。
以上により、本発明のビデオのブラウジング装置は、ビデオにおける現在の画像フレームと直前の画像フレームとを比較させることにより、現在の画像フレームに含まれるターゲットブロックと直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得し、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定するように構成される。このため、ショットの境界に基づいてキーフレームを決定する必要がなく、ビデオにおける画像フレームのターゲットブロックを比較することによってターゲットブロック情報を取得することができ、ターゲットブロック情報に基づいてキーフレームをスクリーニングすることができるので、連続的なショットからキーフレームを抽出できないことによるビデオをブラウジングできない問題点を解決でき、ビデオの再生効率を向上させる効果が得られる。
また、ビデオにおける各画像フレーム及び画像フレームを撮影するときのセンサ情報を取得し、センサ情報に基づいてスクリーニング条件を満たさない画像フレームを捨てることによって、捨て条件を満たす画像フレームに対する処理による資源の無駄を減少でき、画像フレームに対する処理効率を向上させることができる。
上記の実施例における装置について、各个モジュールが実行する操作の具体的な方式は、関連する方法の実施例において詳しく説明されたので、ここに省略する。
図5は例示的な実施例に係るビデオのブラウジング装置500のブロック図である。例えば、装置500は、携帯電話、コンピューター、デジタル放送端末、メッセージ送受信機器、ゲームコントロール、タブレットデバイス、医療機器、フィットネス機器、パーソナルデジタルアシスタントなどであってもよい。
図5に示すように、装置500は、プロセスアセンブリ502、メモリ504と、電源アセンブリ506、マルチメディアアセンブリ508、オーディオアセンブリ510、入力/出力(I/O)インターフェース512、センサアセンブリ514、及び通信アセンブリ516のような1つ以上のアセンブリを含んでよい。
プロセスアセンブリ502は、一般的には装置500全体の操作を制御するものであり、例えば、表示、電話呼び出し、データ通信、カメラ操作、及び記録操作と関連する操作を制御する。プロセスアセンブリ502は、1つ以上のプロセッサ518を含み、これらによって指令を実行することにより、上記方法の全部、或は一部のステップを実現するようにしてもよい。なお、プロセスアセンブリ502は、1つ以上のモジュールを含み、これらによってプロセスアセンブリ502と他のアセンブリの間のインタラクションを容易にするようにしてもよい。例えば、プロセスアセンブリ502は、マルチメディアモジュールを含み、これらによってマルチメディアアセンブリ508とプロセスアセンブリ502の間のインタラクションを容易にするようにしてもよい。
メモリ504は、各種類のデータを記憶することにより装置500の操作を支援するように構成される。これらのデータの例は、装置500において操作されるいずれのアプリケーションプログラム又は方法の命令、連絡対象データ、電話帳データ、メッセージ、画像、ビデオ等を含む。メモリ504は、いずれの種類の揮発性メモリ、不揮発性メモリ記憶デバイスまたはそれらの組み合わせによって実現されてもよく、例えば、SRAM(Static Random Access Memory)、EEPROM(Electrically Erasable Programmable Read−Only Memory)、EPROM(Erasable Programmable Read Only Memory)、PROM( Programmable ROM)、ROM(Read Only Member)、磁気メモリ、フラッシュメモリ、磁気ディスク、或いは光ディスクである。
電源アセンブリ506は、装置500の多様なアセンブリに電力を供給する。電源アセンブリ506は、電源管理システム、1つ以上の電源、及び装置500のための電力の生成、管理及び割り当てに関連する他のアセンブリを含んでもよい。
マルチメディアアセンブリ508は、前記装置500とユーザの間に1つの出力インターフェイスを提供するスクリーンを含む。上記実施例において、スクリーンは液晶モニター(LCD)とタッチパネル(TP)を含んでもよい。スクリーンがタッチパネルを含むことにより、スクリーンはタッチスクリーンとして実現されることができ、ユーザからの入力信号を受信することができる。タッチパネルは1つ以上のタッチセンサを含んでおり、タッチ、スライド、及びタッチパネル上のジェスチャを検出することができる。前記タッチセンサは、タッチ、或はスライドの動作の境界だけでなく、前記タッチ、或はスライド操作に係る継続時間及び圧力も検出できる。上記実施例において、マルチメディアアセンブリ508は、1つのフロントカメラ、及び/又はリアカメラを含む。装置500が、例えば撮影モード、或はビデオモード等の操作モードにある場合、フロントカメラ、及び/又はリアカメラは外部からマルチメディアデータを受信できる。フロントカメラとリアカメラのそれぞれは、1つの固定型の光レンズ系、或は可変焦点距離と光学ズーム機能を有するものであってもよい。
オーディオアセンブリ510は、オーディオ信号を入出力するように構成されてもよい。例えば、オーディオアセンブリ510は、1つのマイク(MIC)を含み、装置500が、例えば呼出しモード、記録モード、及び音声認識モード等の操作モードにある場合、マイクは外部のオーディオ信号を受信することができる。受信されたオーディオ信号は、さらにメモリ504に記憶されたり、通信アセンブリ516を介して送信されたりされる。上記実施例において、オーディオアセンブリ510は、オーディオ信号を出力するための1つのスピーカーをさらに含む。
I/Oインターフェイス512は、プロセスアセンブリ502と周辺インターフェイスモジュールの間にインターフェイスを提供するものであり、上記周辺インターフェイスモジュールは、キーボード、クリックホイール、ボタン等であってもよい。これらのボタンは、ホームボタン、ボリュームボタン、起動ボタン、ロッキングボタンを含んでもよいが、これらに限定されない。
センサアセンブリ514は、装置500に各方面の状態に対する評価を提供するための1つ以上のセンサを含む。例えば、センサアセンブリ514は、装置500のON/OFF状態、装置500のディスプレイとキーパッドのようなアセンブリの相対的な位置決めを検出できる。また、例えば、センサアセンブリ514は、装置500、或は装置500の1つのアセンブリの位置変更、ユーザと装置500とが接触しているか否か、装置500の方位、又は加速/減速、装置500の温度の変化を検出できる。センサアセンブリ514は、何れの物理的接触がない状態にて付近の物体の存在を検出するための近接センサを含んでもよい。センサアセンブリ514は、撮影アプリケーションに適用するため、CMOS、又はCCD図像センサのような光センサを含んでもよい。上記実施例において、当該センサアセンブリ514は、加速度センサ、ジャイロスコープセンサ、磁気センサ、圧力センサ、及び温度センサをさらに含んでもよい。
通信アセンブリ516は、装置500と他の機器の間に有線、又は無線形態の通信を提供する。装置500は、例えばWiFi、2G、3G、或はこれらの組み合わせのような、通信規格に基づいた無線ネットワークに接続されてもよい。1つの例示的な実施例において、通信アセンブリ516は、放送チャンネルを介して外部の放送管理システムからの放送信号、又は放送に関連する情報を受信する。1つの例示的な実施例において、前記通信アセンブリ516は、近距離無線通信(NFC)モジュールをさらに含むことにより、近距離通信を推進するようにする。例えば、NFCモジュールは、RFID(Radio Frequency IDentification)技術、IrDA(Infrared Data Association)技術、UWB(Ultra Wide Band)技術、BT(Bluetooth)技術、他の技術に基づいて実現できる。
例示的な実施例において、装置500は、1つ以上のASIC(Application Specific Integrated Circuit)、DSP(Digital Signal Processor)、DSPD(Digital Signal Processing Device)、PLD(Programmable Logic Device)、FPGA(Field−Programmable Gate Array)、コントローラ、マイクロコントローラ、マイクロプロセッサ、または他の電子部品によって実現されるものであり、上記方法を実行する。
例示的な実施例では、さらに、指令を含むコンピュータ読み取り可能な非一時的な記憶媒体、例えば、指令を含むメモリ504を提供しており、装置500のプロセッサ518により前記指令を実行して上記方法を実現する。例えば、コンピュータ読み取り可能な非一時的な記憶媒体は、ROM、RAM、CD−ROM、磁気テープ、フロッピーディスク、および光データ記憶デバイスなどであってもよい。
当業者にとって、明細書を考慮してこの発明を実施した後、本発明のその他の実施の形態を容易に想到し得ることができる。本願は、本発明のいかなる変形、用途又は適応的変化をカバーすることを目的とし、これら変形、用途又は適応的変化は、本発明の一般的原理に従うとともに、本発明に開示されていない本技術分野における公知の常識又は慣用の技術手段を含む。明細書及び実施例は、例示的なものに過ぎず、本発明の本当の範囲及び主旨は、特許請求の範囲に含まれる。
本発明は、以上のように説明すると共に図面に示された正確な構造に限られず、その要旨を逸脱しない範囲内で各種の補正及び変更を行うことができると理解すべきである。本発明の範囲は、特許請求の範囲のみで限定される。
相互参照
本願は、出願番号がCN201410475165.4であって、出願日が2014年9月14日である中国特許出願に基づき優先権を主張し、当該中国特許出願のすべての内容を本願に援用する。
本願は、コンピュータ技術分野に関し、特にビデオのブラウジング方法、その装置、プログラム及び記録媒体に関する。
インターネットの発展に伴い、インターネットのビデオがよく使用されている。ビデオを取得した場合、ビデオを素早くブラウジングしてビデオの内容を確認する必要があるため、如何にビデオを素早くブラウジングすることはよく注目された問題になる。
ビデオが連続の画像フレームからなるので、ビデオのキーフレームを抽出する過程において、端末は、ビデオを少なくとも2つのショットに分割して、各ショットの境界に基づいて、画像品質とビデオ内容の変更とに基づいて、各ショットについて一組のキーフレームを選出し、これらのキーフレームをスクリーンに適当なレートで再生させ、ビデオのブラウジングを実現することができる。
本願の発明者は、本発明を実現する過程において、従来技術が少なくとも以下の欠陥を有すると見出した。即ち、端末は、ショットの境界に基づいてキーフレームを抽出する必要があり、ビデオが1つの連続的なショットである場合、ビデオからキーフレームを抽出できなくなる。
本願の発明は、連続的なショットからなるビデオからキーフレームを抽出できないことによるビデオをブラウジングすることができない問題点を解決するために、ビデオのブラウジング方法、その装置、プログラム及び記録媒体を提供する。
本発明の実施例の第1の形態によれば、
ビデオにおける現在の画像フレームと直前の画像フレームとを比較して、前記現在の画像フレームに含まれるターゲットブロックと前記直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得するステップと、
前記ターゲットブロック情報が予め定められた条件を満たす場合、前記現在の画像フレームをキーフレームとして決定するステップと、
前記現在の画像フレームの直後の画像フレームを現在の画像フレームとして決定し、前記ビデオにおける現在の画像フレームと直前の画像フレームとを比較してターゲットブロック情報を取得するステップを、前記ビデオにおける最後の画像フレームが比較されるまで継続して実行するステップと、
決定された少なくとも1つのキーフレームを再生させるステップと、を含むビデオのブラウジング方法を提供する。
好ましくは、前記ビデオにおける現在の画像フレームと直前の画像フレームとを比較してターゲットブロック情報を取得するステップは、
前記直前の画像フレームにおけるターゲットブロックと、前記現在の画像フレームにおけるターゲットブロックとを比較させるステップと、
前記現在の画像フレームには、前記直前の画像フレームが備えない少なくとも1つのターゲットブロックが含まれた場合、当該備えない各ターゲットブロックを、新たに追加されたターゲットブロックとして決定し、前記新たに追加されたターゲットブロックに対して、確定されたキーフレームの個数に1を加算してなるフラグ情報を設定し、各新たに追加されたターゲットブロックのターゲットブロック情報を取得するステップと、
前記現在の画像フレームには、前記直前の画像フレームが備える少なくとも1つのターゲットブロックが含まれた場合、当該備える各ターゲットブロックを既存ターゲットブロックとして決定し、前記現在の画像フレームにおける前記既存ターゲットブロックの前記直前の画像フレームにおける対応するターゲットブロックに対する移動情報を計算し、各既存ターゲットブロックのターゲットブロック情報を取得するステップと、
前記直前の画像フレームには、前記現在の画像フレームが備えない少なくとも1つのターゲットブロックが含まれた場合、当該備えない各ターゲットブロックを消失ターゲットブロックとして決定し、各消失ターゲットブロックのターゲットブロック情報を取得するステップと、を含む。
好ましくは、前記ターゲットブロック情報が予め定められた条件を満たす場合、前記現在の画像フレームをキーフレームとして決定するステップは、
前記現在の画像フレームのターゲットブロック情報から、前記既存ターゲットブロックの移動の回数と、移動の変位と、到達した領域との少なくとも1つを含む各既存ターゲットブロックのそれぞれの移動情報を読み取るステップと、
移動条件を満たす移動情報の数量が予め設定された閾値より大きいか否かを検出するステップと、
前記移動条件を満たす移動情報の数量が前記予め設定された閾値より大きいと検出したと、前記現在の画像フレームを前記キーフレームとして決定するステップと、を含む。
好ましくは、前記ターゲットブロック情報が予め定められた条件を満たす場合、前記現在の画像フレームをキーフレームとして決定するステップは、
前記現在の画像フレームのターゲットブロック情報から、各ターゲットブロックのフラグ情報を読み取るステップと、
各フラグ情報に前記消失ターゲットブロックのフラグ情報と同一のフラグ情報を有するか否かを検出するステップと、
前記消失ターゲットブロックのフラグ情報と同一のフラグ情報を有しないと検出した場合、前記現在の画像フレームを前記キーフレームとして決定するステップと、を含む。
好ましくは、前記ビデオのブラウジング方法は、
前記ビデオにおける各画像フレーム及び前記画像フレームを撮影するときのGPS情報と、加速度情報と、感度ISO情報との少なくとも1つを含むセンサ情報を取得するステップと、
前記センサ情報に基づいてスクリーニング条件を満たさない画像フレームを捨て、前記ビデオにおける現在の画像フレームと直前の画像フレームとを比較してターゲットブロック情報を取得するステップをトリガーするステップと、をさらに含む。
好ましくは、前記ターゲットブロック情報が予め定められた条件を満たす場合、前記現在の画像フレームをキーフレームとして決定するステップが、
前記現在の画像フレームに人物が含まれた場合、前記直前の画像フレームの人物姿勢情報に対して前記現在の画像フレームが変化するか否かを検出し、且つ前記現在の画像フレームにおける前記人物以外のターゲットブロック情報が前記予め定められた条件を満たすか否かを検出するステップと、
前記人物姿勢情報が変化したと検出し、且つ前記現在の画像フレームにおいる前記人物以外のターゲットブロック情報が前記予め定められた条件を満たした場合、前記現在の画像フレームをキーフレームとして決定するステップと、を含む。
本発明の実施例の第2の形態によれば、
ビデオにおける現在の画像フレームと直前の画像フレームとを比較して、前記現在の画像フレームに含まれるターゲットブロックと前記直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得するように構成される画像比較モジュールと、
前記画像比較モジュールが取得した前記ターゲットブロック情報が予め定められた条件を満たす場合、前記現在の画像フレームをキーフレームとして決定するように構成される画像決定モジュールと、
前記現在の画像フレームの直後の画像フレームを現在の画像フレームとして決定し、前記ビデオにおける現在の画像フレームと直前の画像フレームとを比較してターゲットブロック情報を取得する操作を、前記ビデオにおける最後の画像フレームが比較されるまで継続して実行するように構成される操作実行モジュールと、
前記画像決定モジュールが決定した少なくとも1つのキーフレームを再生させるように構成される画像再生モジュールと、を有するビデオのブラウジング装置を提供する。
好ましくは、前記画像比較モジュールは、
前記直前の画像フレームにおけるターゲットブロックを前記現在の画像フレームにおけるターゲットブロックと比較させるように構成されるターゲット比較サブモジュールと、
前記ターゲット比較サブモジュールによって前記現在の画像フレームには、前記直前の画像フレームが備えない少なくとも1つのターゲットブロックが含まれた場合、当該備えない各ターゲットブロックを新たに追加されたターゲットブロックとして決定し、前記新たに追加されたターゲットブロックに対して、決定されたキーフレームの個数に1を加算してなるフラグ情報を設定し、各新たに追加されたターゲットブロックのターゲットブロック情報を取得するように構成される第1決定サブモジュールと、
前記ターゲット比較サブモジュールによって前記現在の画像フレームには、前記直前の画像フレームが備える少なくとも1つのターゲットブロックが含まれた場合、当該備える各ターゲットブロックを既存ターゲットブロックとして決定し、前記現在の画像フレームにおける前記既存ターゲットブロックの前記直前の画像フレームにおける対応するターゲットブロックに対する移動情報を計算し、各既存ターゲットブロックのターゲットブロック情報を取得するように構成される第2決定サブモジュールと、
前記ターゲット比較サブモジュールによって前記直前の画像フレームには、前記現在の画像フレームが備えない少なくとも1つのターゲットブロックが含まれた場合、当該備えない各ターゲットブロックを消失ターゲットブロックとして決定し、各消失ターゲットブロックのターゲットブロック情報を取得するように構成される第3決定サブモジュールと、を有する。
好ましくは、前記画像決定モジュールは、
前記現在の画像フレームのターゲットブロック情報から、前記既存ターゲットブロックの移動の回数と、移動の変位と、到達した領域との少なくとも1つを含む各既存ターゲットブロックのそれぞれの移動情報を読み取るように構成される第1読取サブモジュールと、
移動条件を満たす移動情報の数量が予め設定された閾値より大きいか否かを検出するように構成される第1検出サブモジュールと、
前記第1検出サブモジュールによって前記移動条件を満たす移動情報の数量が前記予め設定された閾値より大きいと検出した場合、前記現在の画像フレームを前記キーフレームとして決定するように構成される第4決定サブモジュールと、を有する。
好ましくは、前記画像決定モジュールは、
前記現在の画像フレームのターゲットブロック情報から、各ターゲットブロックのそれぞれのフラグ情報を読み取るように構成される第2読取サブモジュールと、
各フラグ情報に前記消失ターゲットブロックのフラグ情報と同一のフラグ情報を有するか否かを検出するように構成される第2検出サブモジュールと、
前記第2検出サブモジュールによって前記消失ターゲットブロックのフラグ情報と同一のフラグ情報を有しないと検出した場合、前記現在の画像フレームを前記キーフレームとして決定するように構成される第5決定サブモジュールと、を有する。
好ましくは、前記ビデオのブラウジング装置は、
前記ビデオにおける各画像フレーム及び前記画像フレームを撮影するときのGPS情報と、加速度情報と、感度ISO情報との少なくとも1つを含むセンサ情報を取得するように構成される情報取得モジュールと、
前記情報取得モジュールが取得したセンサ情報に基づいてスクリーニング条件を満たさない画像フレームを捨て、前記ビデオにおける現在の画像フレームと直前の画像フレームとを比較してターゲットブロック情報を取得する操作の実行をトリガーするように構成される画像スクリーニングモジュールと、をさらに有する。
好ましくは、前記画像決定モジュールは、
前記現在の画像フレームに人物が含まれた場合、前記直前の画像フレームの人物姿勢情報に対して前記現在の画像フレームが変化するか否かを検出し、且つ前記現在の画像フレームにおける前記人物以外のターゲットブロック情報が前記予め定められた条件を満たすか否かを検出するように構成される第3検出サブモジュールと、
前記第3検出サブモジュールによって前記人物姿勢情報が変化したと検出し、且つ前記現在の画像フレームにおいる前記人物以外のターゲットブロック情報が前記予め定められた条件を満たした場合、前記現在の画像フレームをキーフレームとして決定するように構成される第6決定サブモジュールと、を有する。
本発明の実施例の第3の形態によれば、
プロセッサと、
プロセッサが実行できる命令を記憶するためのメモリとを有し、
前記プロセッサは、
ビデオにおける現在の画像フレームと直前の画像フレームとを比較して、前記画像フレームに含まれるターゲットブロックと前記直前の画像フレームに含まれるターゲットブロックとを比較させて得られる情報であるターゲットブロック情報を取得し、
前記ターゲットブロック情報が予め定められた条件を満たす場合、前記現在の画像フレームをキーフレームとして決定し、
前記現在の画像フレームの直後の画像フレームを現在の画像フレームとして決定し、前記ビデオにおける現在の画像フレームと直前の画像フレームとを比較してターゲットブロック情報を取得するステップを、前記ビデオにおける最後の画像フレームが比較されるまで継続して実行し、
決定された少なくとも1つのキーフレームを再生させるように構成されるビデオのブラウジング装置を提供する。
本発明の実施例の第4の形態によれば、プロセッサに実行されることにより、第ビデオのブラウジング方法を実現するプログラムを提供する。
本発明の実施例の第5の形態によれば、上記のプログラムが記録された記録媒体を提供する。
本発明の実施例が提供する技術方案は、以下の有益な効果を有する。
ビデオにおける現在の画像フレームと直前の画像フレームとを比較することによって、現在の画像フレームに含まれるターゲットブロックと直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得し、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定する。このため、ショットの境界に基づいてキーフレームを決定する必要がなく、ビデオにおける現在の画像フレームのターゲットブロックを比較することによってターゲットブロック情報を取得することができ、ターゲットブロック情報に基づいてキーフレームをスクリーニングすることができるので、連続的なショットからキーフレームを抽出できないことによるビデオをブラウジングできない問題点を解決することができ、ビデオの再生効率を向上させる効果が得られる。
以上の一般的な説明及び後述の詳細な説明は、例示的なものに過ぎず、本発明を限定するものではないことを理解すべきである。
ここで、図面は明細書に組み込んで本明細書の一部とし、本発明に合致する実施例を示すとともに、明細書とともに本発明の原理を説明する。
例示的な実施例に係るビデオのブラウジング方法のプロチャートである。
例示的な他の1つの実施例に係るビデオのブラウジング方法のプロチャートである。
例示的な実施例に係るビデオのブラウジング装置のブロック図である。
例示的な実施例に係るビデオのブラウジング装置のブロック図である。
例示的な実施例に係るビデオのブラウジング用の装置のブロック図である。
以下、図面に示される例示された実施例に対して詳しく説明する。以下の説明は、図面に関するときに、特定な声明以外、各図面における同一の数字は、同一又は類似な要素を表す。以下に例示された実施例において説明された実施形態は、本発明と一致する全ての実施形態ではない。逆に、それらは、特許請求の範囲に記載の本発明のある局面と一致する装置及び方法の例だけである。
図1は例示的な実施例に係るビデオのブラウジング方法のプロチャートであり、当該ビデオのブラウジング方法は、端末に用いられる。図1に示すように、当該ビデオのブラウジング方法は以下のステップを含む。
ステップ101において、ビデオにおける現在の画像フレームと、直前の画像フレームとを比較して、現在の画像フレームに含まれるターゲットブロックと直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得する。
画像フレームはビデオの単位画面である。ターゲットブロックは、画像フレームにおける内容を分割してなるものであり、少なくとも1つの物体を含んでもよいし、1つの物体の一部を含んでもよい。本実施例において、ターゲットブロックの分割方式が限定されない。ターゲットブロック情報は、ビデオにおける現在の画像フレームのターゲットブロックと、直前の画像フレームのターゲットブロックとを比較して得る情報である。
ステップ102において、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームがキーフレームとして決定される。
キーフレームは、ビデオ全体に物体が存在する1つの画像フレーム、または物体の運動におけるキー動作が存在する1つの画像フレームであり、ビデオにおけるある時間帯のビデオ内容を示すことができる。
画像フレーム内の物体をターゲットブロックで示すことができ、且つターゲットブロック情報が、隣接する2つの画像フレームのターゲットブロックの変化を示すことができるので、端末は、ターゲットブロック情報に基づいて画像フレームがキーフレームであるか否かを検出でき、ビデオから少なくとも1つのキーフレームを抽出できる。
ステップ103において、現在の画像フレームの直後の画像フレームを現在の画像フレームとして決定され、ビデオにおける現在の画像フレームと直前の画像フレームとを比較してターゲットブロック情報を取得するステップを、ビデオにおける最後の画像フレームが比較されるまで継続して実行する。
ビデオにおける全てのキーフレームを抽出するために、端末は、全ての画像フレームを比較する必要があるので、現在の画像フレームを比較した後、直後の画像フレームを新たな現在の画像フレームとして決定し、当該現在の画像フレームを新たな直前の画像フレームとして決定し、ステップ101をビデオにおける最後の画像フレームが現在の画像フレームとして比較されるまで継続して実行し、検出のプロチャートを完了させる。
ステップ104において、決定された少なくとも1つのキーフレームを再生させる。
各キーフレームのそれぞれが1つの時間帯のビデオ内容を示すことができるので、端末において、決定された少なくとも1つのキーフレームを適切なフレーム速度で順番に再生させることによって、ビデオが表す有効的な情報を縮減せずに、ビデオの再生時間を圧縮できる。このため、ビデオ内容に対する快速ブラウジングを実現でき、ビデオの再生効率を向上できる。
以上により、本願発明のビデオのブラウジング方法は、ビデオにおける現在の画像フレームと、直前の画像フレームとを比較することによって、現在の画像フレームに含まれるターゲットブロックと直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得し、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定する。このため、ショットの境界に基づいてキーフレームを決定する必要がなく、ビデオにおける現在の画像フレームのターゲットブロックを比較することによってターゲットブロック情報を取得でき、ターゲットブロック情報に基づいてキーフレームをスクリーニングすることができるので、連続的なショットからキーフレームを抽出できないことによるビデオをブラウジングすることができない問題点を解決でき、ビデオの再生効率を向上できる効果が得られる。
図2は例示的な他の1つの実施例に係るビデオのブラウジング方法のプロチャートであり、当該ビデオのブラウジング方法は、端末に用いられる。図2に示すように、当該ビデオのブラウジング方法は、以下のステップを含む。
ステップ201において、ビデオにおける各画像フレーム及び画像フレームを撮影するときのGPS(Global PosItIonIng System)情報と、加速度情報と、感度ISO情報との少なくとも1つを含むセンサ情報を取得し、センサ情報に基づいてスクリーニング条件を満たさない画像フレームを捨て、ステップ202をリカードする。
本実施例において、ステップ201は選択可能なステップである。即ち、端末は、カメラによってビデオを撮影し、ビデオを取得した後ステップ202を実行可能である。或は、端末は、ビデオを取得した後、ビデオにおける画像フレームをスクリーニングし、捨て条件を満たした画像フレームを捨てることにより、捨て条件を満たす画像フレームに対する処理によるリソースの無駄を減少でき、ビデオの単位画面である画像フレームに対する処理効率を向上できる。
端末は、画像フレームに対してスクリーニング操作を実行させる必要があると、カメラでビデオを撮影するとき、センサで各画像フレームのGPS情報と、加速度情報と、感度ISO情報との少なくとも1つであるセンサ情報を収集し、センサ情報に基づいて各画像フレームが捨て条件を満たすか否かを検出することができる。
また、端末は、センサ情報に応じて捨て条件を設定することができる。センサ情報がGPS情報である場合、撮影シーンは移動中にビデオを撮影することになることが可能である。端末は長時間同一の地理位置に止まると、このときに撮影された画像フレームが重複する可能性があるので、捨て条件は、移動中にビデオを撮影するとき、GPS情報と直前の画像フレームのGPS情報との間の距離がGPS閾値より小さいと設定される。センサ情報が加速度情報である場合、撮影シーンは移動中にビデオを撮影することになることが可能である。端末の移動の加速度が早いと、撮影された画像フレームが不明瞭になるので、捨て条件は、加速度が加速度閾値より大きいと設定される。センサ情報がISO情報である場合、ISOが高いと、撮影された画像フレームにノイズが多いので、捨て条件は、ISOがISO閾値より大きいと設定される。センサ情報が、GPS情報と、加速度情報と、ISO情報との少なくとも2つを含む場合、端末は、各センサ情報に対応する捨て条件を合併することができ、センサ情報における少なくとも1つが捨て条件を満たした場合、当該画像フレームを捨てる。
ステップ202において、ビデオにおける現在の画像フレームと、直前の画像フレームとを比較して、現在の画像フレームに含まれるターゲットブロックと直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得する。
ターゲットブロックは、画像フレームにおける内容を分割してなるものであり、画像フレームに対する分割方式によって確定され、少なくとも1つの物体を含んでもよいし、1つの物体の一部を含んでもよい。また、端末は、画像フレームを均等に分割することができる。例えば、端末は、画像フレームを長さ方向においてM個に均等に分割し、幅方向においてN個に均等に分割することにより、M×N個のターゲットブロックが得られる。或は、端末は、画像フレームにおける注目された最小ターゲットに応じてターゲットブロックを分割することができ、即ち、各ターゲットブロックのそれぞれが、少なくとも1つの最小ターゲットを含む。或は、端末は、開発者の経験値によってターゲットブロックを分割することができる。本実施例において、ターゲットブロックの分割方式が限定されない。
現在の画像フレームのターゲットブロックを取得した後、端末は、当該現在の画像フレームのターゲットブロックと直前の画像フレームのターゲットブロックとを比較し、隣接する2つの画像フレームのターゲットブロックの変化を示すターゲットブロック情報を取得することができる。
本実施例において、ビデオにおける現在の画像フレームと、直前の画像フレームとを比較してターゲットブロック情報を取得するステップは、以下の通りである。
1)直前の画像フレームにおけるターゲットブロックと、現在の画像フレームにおけるターゲットブロックとを比較する。
2)現在の画像フレームには、直前の画像フレームが備えない少なくとも1つのターゲットブロックが含まれた場合、当該備えない各ターゲットブロックを新たに追加されたターゲットブロックと決定し、新たに追加されたターゲットブロックに対して、決定されたキーフレームの個数に1を加算してなるフラグ情報を設定し、各新たに追加されたターゲットブロックのターゲットブロック情報を取得する。
3)現在の画像フレームには、直前の画像フレームが備える少なくとも1つのターゲットブロックが含まれた場合、当該備える各ターゲットブロックを既存ターゲットブロックとして決定し、現在の画像フレームにおける既存ターゲットブロックの直前の画像フレームにおける対応するターゲットブロックに対する移動情報を計算し、各既存ターゲットブロックのターゲットブロック情報を取得する。
4)直前の画像フレームには、現在の画像フレームが備えない少なくとも1つのターゲットブロックが含まれない場合、当該備えない各ターゲットブロックを消失ターゲットブロックとして決定し、各消失ターゲットブロックのターゲットブロック情報を取得する。
また、現在の画像フレームにおけるターゲットブロックと直前の画像フレームにおけるターゲットブロックとの特徴を比較することができる。当該特徴は、色ヒストグラムであってもよし、色ヒストグラムとテクスチャ特徴であってもよい。比較方式はユークリッド距離を使用することができる。ターゲットブロックの比較は、後述する3つの結果を有する。
第1結果
現在の画像フレームには、直前の画像フレームが備えない少なくとも1つのターゲットブロックを含み、このとき、端末は、当該備えない少なくとも1つのターゲットブロックを新たに追加されたターゲットブロックとして決定し、マークのために、当該新たに追加されたターゲットブロックに対してフラグ情報を設定する。
その中に、端末は、新たに追加されたターゲットブロックのフラグ情報を既に決定されたキーフレームの個数に1を加算してなるものに設定できる。例えば、k個目の画像フレームの前に、既にs個のキーフレームが決定された場合、k個目の画像フレームにおける新たに追加されたターゲットブロックのフラグ情報を(s+1)に設定することができる。k個目の画像フレームがキーフレームではない場合、(k+1)個目の画像フレームにおける新たに追加されたターゲットブロックのフラグも、(s+1)に設定することができる。即ち、s個目のキーフレームと、(s+1)個目のキーフレームとの間の画像フレームにおける新たに追加されたターゲットブロックのフラグ情報の全ては、(s+1)である。
また、端末は、ターゲットブロックの位置と標識等の情報を取得し、標識と、フラグ情報と、位置等の情報を当該新たに追加されたターゲットブロックのターゲットブロック情報として決定することが好ましい。
第2結果
現在の画像フレームには、直前の画像フレームが備える少なくとも1つのターゲットブロックを含み、このとき、端末は、当該備える少なくとも1つのターゲットブロックを既存ターゲットブロックとして決定し、既存ターゲットブロックの移動情報を取得することができる。
その中に、移動情報は、当該現在の画像フレームにおけるターゲットブロックの直前の画像フレームにおける対応するターゲットブロックに対する移動の変位と、当該現在の画像フレームにおけるターゲットブロックの直前の画像フレームにおける対応するターゲットブロックに対する移動の回数と、当該現在の画像フレームにおけるターゲットブロックが到達した領域との少なくとも1つを使用することができる。
例えば、移動情報が移動の変位を含む場合、例え直前の画像フレームにおける当該ターゲットブロックの座標が(10センチ、13センチ)であり、現在の画像フレームにおける当該ターゲットブロックの座標が(10センチ、15センチ)である場合、当該ターゲットブロックの変位が2センチである。移動情報が移動の回数を含む場合、例え直前の画像フレームにおける当該ターゲットブロックの移動の回数が2であり、且つ現在の画像フレームにおける当該ターゲットブロックの位置と直前の画像フレームにおける位置が同一ではない場合、当該ターゲットブロックの移動の回数が3であると決定する。移動情報が到達した領域を含む場合、当該ターゲットブロックが現在の画像フレームの中央領域に位置する場合、当該ターゲットブロックの到達した領域が中央領域であると決定する。
端末は、当該ターゲットブロックの標識とフラグ情報を取得し、標識と、フラグ情報と、移動情報とを当該既存ターゲットブロックのターゲットブロック情報として決定することができることが好ましい。
第3結果
直前の画像フレームには、現在の画像フレームが備えない少なくとも1つのターゲットブロックを含み、このとき、端末は、当該備えない少なくとも1つのターゲットブロックを消失ターゲットブロックとして決定し、当該ターゲットブロックの標識と、フラグ情報と、移動情報とを当該消失ターゲットブロックのターゲットブロック情報として決定することができる。
ステップ203において、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定する。
キーフレームは、ビデオ全体において物体が存在する1つの画像フレーム、または物体の運動におけるキー動作が存在する1つの画像フレームであり、ビデオにおける1つの時間帯のビデオ内容を表す。画像フレームにおける物体がターゲットブロックで表すことができ、且つターゲットブロック情報が、隣接する2つの画像フレームのターゲットブロックの変化を示すことができるので、端末は、ターゲットブロック情報に基づいて現在の画像フレームがキーフレームであるか否かを検出し、ビデオから少なくとも1つのキーフレームを抽出することができる。
その中に、端末は、ターゲットブロック情報に基づいてキーフレームを決定することができる。本実施例において、ターゲットブロック情報がそれぞれ移動情報とフラグ情報とを含むことを例としてキーフレームを決定するプロチャートを説明する。
第1に、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定するステップは、以下のステップを含む。
1)現在の画像フレームのターゲットブロック情報から、既存ターゲットブロックの移動の回数と、移動の変位と、到達した領域との少なくとも1つを含む各既存ターゲットブロックの移動情報を読み取るステップ。
2)移動条件を満たす移動情報の数量が予め設定された閾値より大きいか否かを検出するステップ。
3)移動条件を満たす移動情報の数量が予め設定された閾値より大きいと検出したと、現在の画像フレームをキーフレームとして決定するステップ。
上記のキーフレームを決定する方法は、前景ターゲットが移動し且つ背景がほとんど変化しないシーンに適応し、或は、背景がズームし且つ前景ターゲットを有しないシーンに適応する。
移動情報は、移動の回数と、移動の変位と、到達した領域との少なくとも1つであるので、移動情報が異なると、移動情報が対応する移動条件も異なる。例えば、移動情報が移動の回数を含む場合、移動条件を移動の回数が回数の閾値より大きいことに設定することができる。移動情報が移動の変位を含む場合、移動条件を移動の変位が変位の閾値より大きいことに設定することができる。移動情報が到達した領域を含む場合、移動条件を目的領域に設定することができる。移動情報が、移動の回数と、移動の変位と、到達した領域との少なくとも2つを含む場合、各移動情報に対応する移動条件を合併し、移動情報における各移動情報が全て各自の移動条件を満たした場合、当該移動情報が移動条件を満たす場合決定する。
例えば、移動条件は、移動の回数が4回を超え且つターゲット領域が中央領域であることになると、端末は、ある移動情報に記憶された移動の回数が5回であり且つ到達した領域が中央領域であることを検出したとき、当該移動情報が移動条件を満たす場合決定する。
移動情報が移動条件を満たした場合決定した後、端末は、さらに移動条件を満たした移動情報の数量を算出し、算出された回数が予め設定された閾値より大きいか否かを検出することができる。端末は、算出された回数が予め設定された閾値より大きいと検出したと、直前のキーフレームに対して、現在の画像フレームにおける多数のターゲットブロックのターゲット情報が変化したと決定し、現在の画像フレームをキーフレームとして決定することができる。端末は、算出された回数が予め設定された閾値より小さいと検出したと、直前のキーフレームに対して、現在の画像フレームにおける少数のターゲットブロックのターゲット情報が変化したと決定し、現在の画像フレームをキーフレームとして決定しないことができる。
第2に、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定するステップは、以下のステップを含む。
1)現在の画像フレームのターゲットブロック情報から各ターゲットブロックのフラグ情報を読み取る。
2)各フラグ情報に消失ターゲットブロックのフラグ情報と同一のフラグ情報を有するか否かを検出する。
3)消失ターゲットブロックのフラグ情報と同一のフラグ情報を有しないと検出した場合、現在の画像フレームをキーフレームとして決定する。
上記のキーフレームを決定する方法は、背景が予め設定された速度で移動し且つ前景ターゲットを有しないシーンに適応し、或は、背景が予め設定された速度で移動し且つ前景ターゲットが変化しないシーンに適応する。
ターゲットブロック情報にフラグ情報をさらに含むので、現在の画像フレームにおけるあるフラグ情報が完全に消失した場合、当該画像フレームをキーフレームとして決定する。フラグ情報が完全に消失したか否かを検出する場合、端末は、現在の画像フレームにおける消失ターゲットブロックのフラグ情報を取得し、現在の画像フレームが含む各フラグ情報に消失ターゲットブロックのフラグ情報と同一のフラグ情報を有するか否かを検出することができる。端末は、現在の画像フレームが含む各フラグ情報に消失ターゲットブロックのフラグ情報と同一のフラグ情報を有しないと検出した場合、当該フラグ情報が完全に消失したと決定する。端末は、現在の画像フレームが含む各フラグ情報に消失ターゲットブロックのフラグ情報と同一のフラグ情報を有すると検出した場合、当該フラグ情報が完全に消失しなかったと決定する。
人物を含む画像フレームについて、時々、人物の微細的な姿勢の変化を取得することが必要である。このとき、端末は、人物をターゲットブロックに分割して検出する場合、ターゲットブロック情報の変化が大きくないので、重要な画像フレームが非キーフレームに誤決定され、重要な情報の紛失が発生する可能性がある。
このため、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定ステップは、以下のステップを含む。
1)現在の画像フレームに人物が含まれた場合、直前の画像フレームの人物姿勢情報に対して現在の画像フレームが変化するか否かを検出し、且つ現在の画像フレームにおける人物以外のターゲットブロック情報が予め定められた条件を満たすか否かを検出するステップ。
2)人物姿勢情報が変化したと検出し、且つ現在の画像フレームにおける人物以外のターゲットブロック情報が予め定められた条件を満たした場合、現在の画像フレームをキーフレームとして決定するステップ。
端末は、現在の画像フレームにおける人物と背景を分離し、人物姿勢を分析し、背景をターゲットブロックに分割し、ターゲットブロック情報に基づいて検出し、分析結果と検出結果に基づいて画像がキーフレームであるか否かを決定することができる。その中に、人物姿勢情報は、顔表情または人物姿勢を含む。
人物姿勢を分析するための端末の方法は、複数あり、例えば、ASM(Active Shape Model)アルゴリズム、またはAAM(Active Appearance Model)アルゴリズムを使用して顔の特徴点の位置を特定し、主な器官の特徴を抽出し、表情に従って特徴を分類する。端末は、現在の画像フレームにおける特徴表情の分類と、直前の画像フレームにおける特徴表情の分類とが異なると検出した場合、当該現在の画像フレームをキーフレームとして決定する。端末のターゲットブロック情報に対する検出処理は上記の検出処理と同じなので、ここに省略する。
補足説明として、端末は、センサ情報に基づいてキーフレームを決定してもよい。例えば、センサ情報がGPS情報である場合、GPS情報と、直前の画像フレームのGPS情報とを比較し、GPS情報と直前の画像フレームのGPS情報との距離がGPS閾値より大きい場合、当該GPS情報が対応する現在の画像フレームをキーフレームとして決定することができる。
ステップ204において、現在の画像フレームの直後の画像フレームを現在の画像フレームとして決定し、ステップ202を、ビデオにおける最後の画像フレームが比較されるまで継続して実行する。
ビデオにおける全てのキーフレームを抽出するために、端末は、全ての画像フレームを比較することが必要であるので、現在の画像フレームが比較された後、現在の画像フレームの直後の画像フレームを新たな現在の画像フレームとして決定すると共に、当該現在の画像フレームを新たな現在の画像フレームの直前の画像フレームとして決定し、ステップ202をビデオにおける最後の画像フレームを現在の画像フレームとして比較されるまで継続して実行し、検出処理を完了する。
ステップ205において、決定された少なくとも1つのキーフレームを再生させる。
各キーフレームのそれぞれが1つの時間帯のビデオ内容を表すことができるので、端末には、決定された少なくとも1つのキーフレームを適切なフレーム速度で順番に再生させることによって、ビデオが表す有効情報が減縮めずに、ビデオの再生時間を圧縮することができる。このため、ビデオ内容に対する快速ブラウジングを実現でき、ビデオの再生効率を向上できる。
端末は、少なくとも1つのキーフレームを記憶することにより、ビデオが短いビデオに変換されることが好ましい。
以上により、本発明のビデオのブラウジング方法は、ビデオにおける現在の画像フレームと直前の画像フレームとを比較することにより、現在の画像フレームに含まれるターゲットブロックと直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得し、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定する。このため、ショットの境界に基づいてキーフレームを確定する必要がなく、ビデオにおける画像フレームのターゲットブロックを比較してターゲットブロック情報が取得され、ターゲットブロック情報に基づいてキーフレームをスクリーニングすることができるので、連続的なショットからキーフレームを抽出できないことによるビデオをブラウジングできない問題点を解決することができ、ビデオの再生効率を向上させる効果が得られる。
また、ビデオにおける各画像フレーム及び画像フレームを撮影するときのセンサ情報を取得し、センサ情報に基づいてスクリーニング条件を満たさない画像フレームを捨てることにより、捨て条件を満たす画像フレームに対する処理による資源の無駄を減少することができ、画像フレームに対する処理効率を向上させることができる。
図3は、例示的な実施例に係るビデオのブラウジング装置のブロック図であり、当該ビデオのブラウジング装置は、端末に用いられる。図3に示すように、当該ビデオのブラウジング装置は、ビデオにおける現在の画像フレームと、直前の画像フレームとを比較して、現在の画像フレームに含まれるターゲットブロックと直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得するように構成される画像比較モジュール310と、画像比較モジュール310が取得したターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定するように構成される画像決定モジュール320と、現在の画像フレームの直後の画像フレームを現在の画像フレームとして決定し、ビデオにおける現在の画像フレームと直前の画像フレームとを比較してターゲットブロック情報を取得する操作を、ビデオにおける最後の画像フレームが比較されるまで継続して実行するように構成される操作実行モジュール330と、画像決定モジュール320が決定された少なくとも1つのキーフレームを再生させるように構成される画像再生モジュール340とを有する。
以上により、本発明のビデオのブラウジング装置は、ビデオにおける現在の画像フレームと、直前の画像フレームとを比較することにより、現在の画像フレームに含まれるターゲットブロックと直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得し、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定する。このため、ショットの境界に基づいてキーフレームを決定する必要がなく、ビデオにおける画像フレームのターゲットブロックを比較することにより、ターゲットブロック情報を取得することができ、ターゲットブロック情報に基づいてキーフレームをスクリーニングすることができるので、連続的なショットからキーフレームを抽出できないことによるビデオをブラウジングできない問題点を解決することができ、ビデオの再生効率を向上させる効果が得られる。
図4は、例示的な実施例に係るビデオのブラウジング装置のブロック図であり、当該ビデオのブラウジング装置は、端末に用いられる。図4に示すように、当該ビデオのブラウジング装置は、ビデオにおける現在の画像フレームと、直前の画像フレームとを比較して、現在の画像フレームに含まれるターゲットブロックと直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得するように構成される画像比較モジュール310と、画像比較モジュール310が取得したターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定するように構成される画像決定モジュール320と、現在の画像フレームの直後の画像フレームを現在の画像フレームとして決定し、ビデオにおける現在の画像フレームと直前の画像フレームとを比較してターゲットブロック情報を取得する操作を、ビデオにおける最後の画像フレームが比較されるまで継続して実行するように構成される操作実行モジュール330と、画像決定モジュール320が決定された少なくとも1つのキーフレームを再生させるように構成される画像再生モジュール340とを有する。
画像比較モジュール310は、直前の画像フレームにおけるターゲットブロックを現在の画像フレームにおけるターゲットブロックと比較するように構成されるターゲット比較サブモジュール311と、ターゲット比較サブモジュール311によって現在の画像フレームに、直前の画像フレームが備えない少なくとも1つのターゲットブロックが含まれたと検出した場合、当該備えない各ターゲットブロックを新たに追加されたターゲットブロックとして決定し、新たに追加されたターゲットブロックに対して、決定されたキーフレームの個数に1を加算してなるフラグ情報を設定し、各新たに追加されたターゲットブロックのターゲットブロック情報を取得するように構成される第1決定サブモジュール312と、ターゲット比較サブモジュール311によって現在の画像フレームには、直前の画像フレームが備える少なくとも1つのターゲットブロックが含まれたと検出した場合、当該備える各ターゲットブロックを既存ターゲットブロックとして決定し、現在の画像フレームにおける既存ターゲットブロックの直前の画像フレームにおける対応するターゲットブロックに対する移動情報を計算し、各既存ターゲットブロックのターゲットブロック情報を取得するように構成される第2決定サブモジュール313と、ターゲット比較サブモジュール311によって直前の画像フレームには、現在の画像フレームが備えない少なくとも1つのターゲットブロックが含まれたと検出した場合、当該備えない各ターゲットブロックを消失ターゲットブロックとして決定し、各消失ターゲットブロックのターゲットブロック情報を取得するように構成される第3決定サブモジュール314と、を有することが好ましい。
画像決定モジュール320は、現在の画像フレームのターゲットブロック情報から、既存ターゲットブロックの移動の回数と、移動の変位と、到達した領域との少なくとも1つを含む各既存ターゲットブロックの移動情報を読み取るように構成される第1読取サブモジュール321と、移動条件を満たす移動情報の数量が予め設定された閾値より大きいか否かを検出するように構成される第1検出サブモジュール322と、第1検出サブモジュール322によって移動条件を満たす移動情報の数量が予め設定された閾値より大きいと検出した場合、現在の画像フレームをキーフレームとして決定するように構成される第4決定サブモジュール323とを有することが好ましい。
画像決定モジュール320は、現在の画像フレームのターゲットブロック情報から、各ターゲットブロックのフラグ情報を読み取るように構成される第2読取サブモジュール324と、各フラグ情報に消失ターゲットブロックのフラグ情報と同一のフラグ情報を有するか否かを検出するように構成される第2検出サブモジュール325と、第2検出サブモジュール325によって消失ターゲットブロックのフラグ情報と同一のフラグ情報を有しないと検出した場合、現在の画像フレームをキーフレームとして決定するように構成される第5決定サブモジュール326とを有することが好ましい。
ビデオのブラウジング装置は、ビデオにおける各画像フレーム及び画像フレームを撮影するときのGPS情報と、加速度情報と、感度ISO情報との少なくとも1つを含むセンサ情報を取得するように構成される情報取得モジュール350と、情報取得モジュール350が取得したセンサ情報に基づいてスクリーニング条件を満たさない画像フレームを捨て、ビデオにおける現在の画像フレームと、直前の画像フレームとを比較してターゲットブロック情報を取得する操作をトリガーするように構成される画像スクリーニングモジュール360とをさらに有することが好ましい。
画像決定モジュール320は、現在の画像フレームに人物が含まれた場合、直前の画像フレームにおける人物姿勢情報に対して現在の画像フレームが変化するか否かを検出し、且つ現在の画像フレームにおける人物以外のターゲットブロック情報が予め定められた条件を満たすか否かを検出するように構成される第3検出サブモジュール327と、第3検出サブモジュール327によって人物姿勢情報が変化したと検出し、且つ現在の画像フレームにおける人物以外のターゲットブロック情報が予め定められた条件を満たした場合、現在の画像フレームをキーフレームとして決定するように構成される第6決定サブモジュール328とを有することが好ましい。
以上により、本発明のビデオのブラウジング装置は、ビデオにおける現在の画像フレームと直前の画像フレームとを比較させることにより、現在の画像フレームに含まれるターゲットブロックと直前の画像フレームに含まれるターゲットブロックとを比較して得る情報であるターゲットブロック情報を取得し、ターゲットブロック情報が予め定められた条件を満たす場合、現在の画像フレームをキーフレームとして決定するように構成される。このため、ショットの境界に基づいてキーフレームを決定する必要がなく、ビデオにおける画像フレームのターゲットブロックを比較することによってターゲットブロック情報を取得することができ、ターゲットブロック情報に基づいてキーフレームをスクリーニングすることができるので、連続的なショットからキーフレームを抽出できないことによるビデオをブラウジングできない問題点を解決でき、ビデオの再生効率を向上させる効果が得られる。
また、ビデオにおける各画像フレーム及び画像フレームを撮影するときのセンサ情報を取得し、センサ情報に基づいてスクリーニング条件を満たさない画像フレームを捨てることによって、捨て条件を満たす画像フレームに対する処理による資源の無駄を減少でき、画像フレームに対する処理効率を向上させることができる。
上記の実施例における装置について、各个モジュールが実行する操作の具体的な方式は、関連する方法の実施例において詳しく説明されたので、ここに省略する。
図5は例示的な実施例に係るビデオのブラウジング装置500のブロック図である。例えば、装置500は、携帯電話、コンピューター、デジタル放送端末、メッセージ送受信機器、ゲームコントロール、タブレットデバイス、医療機器、フィットネス機器、パーソナルデジタルアシスタントなどであってもよい。
図5に示すように、装置500は、プロセスアセンブリ502、メモリ504と、電源アセンブリ506、マルチメディアアセンブリ508、オーディオアセンブリ510、入力/出力(I/O)インターフェース512、センサアセンブリ514、及び通信アセンブリ516のような1つ以上のアセンブリを含んでよい。
プロセスアセンブリ502は、一般的には装置500全体の操作を制御するものであり、例えば、表示、電話呼び出し、データ通信、カメラ操作、及び記録操作と関連する操作を制御する。プロセスアセンブリ502は、1つ以上のプロセッサ518を含み、これらによって指令を実行することにより、上記方法の全部、或は一部のステップを実現するようにしてもよい。なお、プロセスアセンブリ502は、1つ以上のモジュールを含み、これらによってプロセスアセンブリ502と他のアセンブリの間のインタラクションを容易にするようにしてもよい。例えば、プロセスアセンブリ502は、マルチメディアモジュールを含み、これらによってマルチメディアアセンブリ508とプロセスアセンブリ502の間のインタラクションを容易にするようにしてもよい。
メモリ504は、各種類のデータを記憶することにより装置500の操作を支援するように構成される。これらのデータの例は、装置500において操作されるいずれのアプリケーションプログラム又は方法の命令、連絡対象データ、電話帳データ、メッセージ、画像、ビデオ等を含む。メモリ504は、いずれの種類の揮発性メモリ、不揮発性メモリ記憶デバイスまたはそれらの組み合わせによって実現されてもよく、例えば、SRAM(Static Random Access Memory)、EEPROM(Electrically Erasable Programmable Read−Only Memory)、EPROM(Erasable Programmable Read Only Memory)、PROM( Programmable ROM)、ROM(Read Only Member)、磁気メモリ、フラッシュメモリ、磁気ディスク、或いは光ディスクである。
電源アセンブリ506は、装置500の多様なアセンブリに電力を供給する。電源アセンブリ506は、電源管理システム、1つ以上の電源、及び装置500のための電力の生成、管理及び割り当てに関連する他のアセンブリを含んでもよい。
マルチメディアアセンブリ508は、前記装置500とユーザの間に1つの出力インターフェイスを提供するスクリーンを含む。上記実施例において、スクリーンは液晶モニター(LCD)とタッチパネル(TP)を含んでもよい。スクリーンがタッチパネルを含むことにより、スクリーンはタッチスクリーンとして実現されることができ、ユーザからの入力信号を受信することができる。タッチパネルは1つ以上のタッチセンサを含んでおり、タッチ、スライド、及びタッチパネル上のジェスチャを検出することができる。前記タッチセンサは、タッチ、或はスライドの動作の境界だけでなく、前記タッチ、或はスライド操作に係る継続時間及び圧力も検出できる。上記実施例において、マルチメディアアセンブリ508は、1つのフロントカメラ、及び/又はリアカメラを含む。装置500が、例えば撮影モード、或はビデオモード等の操作モードにある場合、フロントカメラ、及び/又はリアカメラは外部からマルチメディアデータを受信できる。フロントカメラとリアカメラのそれぞれは、1つの固定型の光レンズ系、或は可変焦点距離と光学ズーム機能を有するものであってもよい。
オーディオアセンブリ510は、オーディオ信号を入出力するように構成されてもよい。例えば、オーディオアセンブリ510は、1つのマイク(MIC)を含み、装置500が、例えば呼出しモード、記録モード、及び音声認識モード等の操作モードにある場合、マイクは外部のオーディオ信号を受信することができる。受信されたオーディオ信号は、さらにメモリ504に記憶されたり、通信アセンブリ516を介して送信されたりされる。上記実施例において、オーディオアセンブリ510は、オーディオ信号を出力するための1つのスピーカーをさらに含む。
I/Oインターフェイス512は、プロセスアセンブリ502と周辺インターフェイスモジュールの間にインターフェイスを提供するものであり、上記周辺インターフェイスモジュールは、キーボード、クリックホイール、ボタン等であってもよい。これらのボタンは、ホームボタン、ボリュームボタン、起動ボタン、ロッキングボタンを含んでもよいが、これらに限定されない。
センサアセンブリ514は、装置500に各方面の状態に対する評価を提供するための1つ以上のセンサを含む。例えば、センサアセンブリ514は、装置500のON/OFF状態、装置500のディスプレイとキーパッドのようなアセンブリの相対的な位置決めを検出できる。また、例えば、センサアセンブリ514は、装置500、或は装置500の1つのアセンブリの位置変更、ユーザと装置500とが接触しているか否か、装置500の方位、又は加速/減速、装置500の温度の変化を検出できる。センサアセンブリ514は、何れの物理的接触がない状態にて付近の物体の存在を検出するための近接センサを含んでもよい。センサアセンブリ514は、撮影アプリケーションに適用するため、CMOS、又はCCD図像センサのような光センサを含んでもよい。上記実施例において、当該センサアセンブリ514は、加速度センサ、ジャイロスコープセンサ、磁気センサ、圧力センサ、及び温度センサをさらに含んでもよい。
通信アセンブリ516は、装置500と他の機器の間に有線、又は無線形態の通信を提供する。装置500は、例えばWiFi、2G、3G、或はこれらの組み合わせのような、通信規格に基づいた無線ネットワークに接続されてもよい。1つの例示的な実施例において、通信アセンブリ516は、放送チャンネルを介して外部の放送管理システムからの放送信号、又は放送に関連する情報を受信する。1つの例示的な実施例において、前記通信アセンブリ516は、近距離無線通信(NFC)モジュールをさらに含むことにより、近距離通信を推進するようにする。例えば、NFCモジュールは、RFID(Radio Frequency IDentification)技術、IrDA(Infrared Data Association)技術、UWB(Ultra Wide Band)技術、BT(Bluetooth)技術、他の技術に基づいて実現できる。
例示的な実施例において、装置500は、1つ以上のASIC(Application Specific Integrated Circuit)、DSP(Digital Signal Processor)、DSPD(Digital Signal Processing Device)、PLD(Programmable Logic Device)、FPGA(Field−Programmable Gate Array)、コントローラ、マイクロコントローラ、マイクロプロセッサ、または他の電子部品によって実現されるものであり、上記方法を実行する。
例示的な実施例では、さらに、指令を含むコンピュータ読み取り可能な非一時的な記憶媒体、例えば、指令を含むメモリ504を提供しており、装置500のプロセッサ518により前記指令を実行して上記方法を実現する。例えば、コンピュータ読み取り可能な非一時的な記憶媒体は、ROM、RAM、CD−ROM、磁気テープ、フロッピーディスク、および光データ記憶デバイスなどであってもよい。
当業者にとって、明細書を考慮してこの発明を実施した後、本発明のその他の実施の形態を容易に想到し得ることができる。本願は、本発明のいかなる変形、用途又は適応的変化をカバーすることを目的とし、これら変形、用途又は適応的変化は、本発明の一般的原理に従うとともに、本発明に開示されていない本技術分野における公知の常識又は慣用の技術手段を含む。明細書及び実施例は、例示的なものに過ぎず、本発明の本当の範囲及び主旨は、特許請求の範囲に含まれる。
本発明は、以上のように説明すると共に図面に示された正確な構造に限られず、その要旨を逸脱しない範囲内で各種の補正及び変更を行うことができると理解すべきである。本発明の範囲は、特許請求の範囲のみで限定される。