JP2012023580A - Retrieved image display method and retrieved image reproduction device - Google Patents
Retrieved image display method and retrieved image reproduction device Download PDFInfo
- Publication number
- JP2012023580A JP2012023580A JP2010160201A JP2010160201A JP2012023580A JP 2012023580 A JP2012023580 A JP 2012023580A JP 2010160201 A JP2010160201 A JP 2010160201A JP 2010160201 A JP2010160201 A JP 2010160201A JP 2012023580 A JP2012023580 A JP 2012023580A
- Authority
- JP
- Japan
- Prior art keywords
- appearance
- time
- remaining
- image
- display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Television Signal Processing For Recording (AREA)
Abstract
【課題】動画像データから検索された画像の再生において、利用者の負担を軽減する。
【解決手段】検索画像再生機器1は、検索された画像の出現時点より前から動画像の再生を開始する。検索された画像の出現時点までの残り時間、出現位置、出現寸法などの検索された画像の出現に関する情報を動画と共に表示することにより、検索された画像がいつ、どこに、どのくらいの大きさで現れるかが分かる。検索された画像の出現以降は、動画の視聴が邪魔されないように検索された画像の出現に関する情報を出現時点で消去されるように出力する。
【選択図】図1[PROBLEMS] To reduce a user's burden in reproducing an image retrieved from moving image data.
A retrieval image reproduction device starts reproduction of a moving image from before the current time when the retrieved image appears. By displaying information about the appearance of the searched image such as the remaining time, appearance position, and appearance size of the searched image along with the video, the searched image appears when, where, and in what size I understand. After the appearance of the searched image, information regarding the appearance of the searched image is output so as to be erased at the present time so that viewing of the moving image is not disturbed.
[Selection] Figure 1
Description
本発明は、動画像データから検索された画像を再生する仕組みに関する。 The present invention relates to a mechanism for reproducing an image retrieved from moving image data.
近年、HD(Hard Disk)やDVD(Digital Versatile Disk)などのディジタルメディアを用いたディジタル映像機器が増加している。これらのディジタル機器はビデオテープなどのアナログメディアを用いた従来のアナログ映像機器と比較して、動画像データからの映像の検索と、検索該当箇所の再生を迅速に行なうことが容易となる。ここで、検索された画像を含む動画像を再生して視聴する際には、検索された画像からの再生では、検索された画像の前の画像とのつながりが正しく理解できないため、検索された画像が出現している間のみならず、検索された画像が出現する前から動画像を再生する必要がある。 In recent years, digital video equipment using digital media such as HD (Hard Disk) and DVD (Digital Versatile Disk) is increasing. Compared with conventional analog video equipment using analog media such as videotapes, these digital equipment can easily search for video from moving image data and quickly reproduce the relevant part of the search. Here, when a moving image including the searched image is played back and viewed, since the connection from the searched image to the previous image cannot be correctly understood in the playback from the searched image, the search is performed. It is necessary to reproduce the moving image not only while the image appears but also before the searched image appears.
特許文献1には、ユーザが任意に指定したフレーム画像を元に検索を行ない、指定画像のみならず、指定画像が含まれるシーン全体の再生を行えることが開示されている。
また、特許文献2には、検索された画像の少し手前から再生を行うことが開示されている。 Japanese Patent Application Laid-Open No. 2004-228561 discloses that reproduction is performed slightly before the searched image.
しかし、上記特許文献では、利用者は、検索された画像の出現時点より前から再生された動画像から検索された画像がいつ、どこに、どのくらいの大きさで現れるのか不明なまま該当する画像を探し続けなければならない。 However, in the above-mentioned patent document, the user can display the corresponding image without knowing when, where, and in what size the image retrieved from the moving image reproduced from before the current retrieval of the retrieved image appears. I have to keep looking.
また、検索された画像の出現時点以降、検索された画像が強調表示されていれば認識できるが、動画の視聴が邪魔されてしまう。 Moreover, although it can recognize if the searched image is highlighted after the present appearance time of the searched image, viewing of a moving image will be disturbed.
上記課題を鑑みて、本発明では、一例として特許請求の範囲に記載の構成とする。本構成では、検索された画像の出現時点より前から再生された動画像において、検索された画像がいつ、どこに、どのくらいの大きさで現れるのかが分かるように、検索された画像の出現に関する情報を表示する。また、検索された画像の出現時点以降は、動画の視聴が邪魔されないように、検索された画像の出現に関する情報を消去する。 In view of the above problems, the present invention is configured as described in the claims as an example. In this configuration, information on the appearance of the searched image so that it can be understood when, where, and in what size the searched image appears in the moving image reproduced from before the current point of the searched image. Is displayed. In addition, after the current appearance of the searched image, the information related to the appearance of the searched image is deleted so that the viewing of the moving image is not disturbed.
本発明によれば、利用者は、検索された画像の出現時点より前から再生された動画像について、出現時点までの残り時間、出現位置、出現寸法などの情報を予見して視聴することができる。また、検索された画像の出現時点以降は、検索された画像の出現に関する情報は表示されず、動画の視聴が邪魔されない。 According to the present invention, a user can foresee and watch information such as the remaining time, appearance position, appearance size, etc. up to the current point in time for a moving image reproduced from before the current point of the searched image. it can. In addition, after the current appearance of the searched image, information regarding the appearance of the searched image is not displayed, and viewing of the moving image is not disturbed.
以下、本発明を実施するための形態について説明する。 まず、本実施例における検索画像再生機器1の概略構成について図1を用いて説明する。
Hereinafter, modes for carrying out the present invention will be described. First, a schematic configuration of the search
図1に示す様に本実施例の検索画像再生機器1は、制御装置11と、記録装置12と、通信装置13と、入力装置14と、出力装置15と、表示装置16と、動画像再生装置17とを有している。
As shown in FIG. 1, the search
制御装置11は、記録装置12が保持している処理プログラムを実行し、機器全体の動作を制御する。
The
記録装置12は、検索画像再生機器1の動作を制御する処理プログラム、データを管理するデータベース、動画像データなどを記録する。記録装置12の例としては、ディスク、テープ、半導体などがある。記録装置12が保持する処理プログラムには、機器制御処理部121と、検索結果管理処理部122と、出現時点取得処理部1221と、出現位置取得処理部1222と、出現寸法取得処理部1223と、再生開始時点決定処理部123と、出現残時間算出処理部124と、統合表示処理部125と、出現残時間表示処理部1251と、出現位置表示処理部1252と、出現寸法表示処理部1253と、検索処理部126とがある。また、記録装置12は、検索された画像の出現に関する情報である出現情報を管理する出現情報データベース1224を有している。また、記録装置12は、検索対象として動画像データ127を有している。
The
機器制御処理部121は、検索画像再生機器1の各装置を連携させ、検索画像再生機器として動作させる。例えば、動画像データから、特定の画像と特徴が一致する部分や、キーワードに関連する画像を含む部分を検索する画像検索機能や、検索された画像を含む動画像データの一部を出現情報を表示しながら再生する検索画像再生機能などを実現する。
The device
検索処理部126は、動画像データ127から、特定の画像と特徴が一致する部分や、キーワードに関連する画像を含む部分を検索する。
The
検索結果管理処理部122は、検索結果に関する情報を管理し、出現時点取得処理部1221と、出現位置取得処理部1222と、出現寸法取得処理部1223と、出現情報データベース1224とを管理する。出現時点取得処理部1221は、検索された画像が出現する時点である出現時点を取得する。出現位置取得処理部1222は、検索された画像が出現する位置である出現位置を取得する。出現寸法取得処理部1223は、検索された画像が出現する寸法である出現寸法を取得する。
The search result
なお、本実施形態では、時点とは、動画像データにおけるある瞬間を指す。 In the present embodiment, the time point refers to a certain moment in the moving image data.
再生開始時点決定処理部123は、出現時点より早い時点を、所定の方法により導出し、動画像の再生開始時点として決定する。
The playback start time
出現残時間算出処理部124は、再生中の動画像データの現在時点から出現時点までの残り時間である出現残時間を算出する。
The remaining appearance time
統合表示処理部125は、出現情報を表示すべく、出現残時間表示処理部1251と、出現位置表示処理部1252と、出現寸法表示処理部1253とを管理する。出現残時間表示処理部1251は、出現残時間の表示処理を行う。出現位置表示処理部1252は、出現位置の表示処理を行う。出現寸法表示処理部1253は、出現寸法の表示処理を行う。
The integrated
なお、本実施形態では、各種表示処理部が行なう表示処理とは、表示装置16にて所望の画像が表示されるように、出力装置15に画像データを出力する処理である。
In the present embodiment, display processing performed by various display processing units is processing for outputting image data to the
また、本実施形態では、出現残時間の表示処理とは、出現残時間が減っていく様子を示すための表示処理である。 In the present embodiment, the remaining appearance time display process is a display process for showing how the remaining appearance time decreases.
通信装置13は、ネットワークを介して他の機器と通信を行う。通信方式の例としては、USB(Universal Serial Bus)、IEEE1394(Institute of Electrical and Electronic Engineers 1394)、イーサネット(登録商標)、無線LAN(Local Area Network)、HDMI(High-Definition Multimedia Interface)などがある。
The
入力装置14は、利用者が検索画像再生機器1を操作するインタフェイス装置である。入力装置14の例としては、ボタン、スイッチ、キー、ダイアル、スティック、マウス、リモートコントローラ、タッチパネルなどがある。
The
出力装置15は、利用者に提供するための画像データを出力する。
The
表示装置16は、利用者に動画像再生画面や機器操作用画面を表示する。表示装置17の例としては、液晶パネル、プラズマディスプレイパネル、有機ELパネルなどがある。なお、表示装置17は、検索画像再生機器1内に備えられていなくとも、PCやHDDレコーダのように機器に外付けで接続して出力装置16経由で用いてもよい。
The
動画像再生装置17は、動画像データ127の再生処理を行ない、出力装置15を介して表示装置16に動画像の再生画面を表示させる。
The moving
次に、本発明の実施形態における出現情報データベース1224の例を図2を用いて説明する。
Next, an example of the
図2に示す様に本実施例の出現情報データベース1224は、検索ID12241と出現時点12242と出現位置12243と出現寸法12244を対応づけて保存している。
As shown in FIG. 2, the
図2では、検索IDがno.1の検索結果として、動画像データの先頭から1時間37分28秒経過した時点に、横軸座標120、縦軸座標465を左上端として位置する、横幅300、縦幅200で示される矩形領域に、検索された画像が出現したことが示されている。 In FIG. 2, as a search result with the search ID no. 1, the horizontal axis coordinate 120 and the vertical axis coordinate 465 are located at the upper left corner when 1 hour 37 minutes 28 seconds have elapsed from the beginning of the moving image data. It is shown that the searched image appears in the rectangular area indicated by the vertical width 200.
また、検索IDがno.2の検索結果として、動画像データのチャプター4の先頭から2分17秒経過した時点に、横軸座標が300、縦軸座標が600の位置を中心とした半径100の円形領域と、横軸座標が500、縦軸座標が800の位置を中心とした半径150の円形領域の2箇所に、検索された画像が出現したことが示されている。
Also, as a search result with a search ID of No. 2, the radius 100 centered on the position where the horizontal axis coordinate is 300 and the vertical axis coordinate is 600 when 2 minutes and 17 seconds elapse from the beginning of
また、検索IDがno.3の検索結果として、2010年1月17日の18時19分28秒に、画像ファイルであるabcde.jpgの画像データが示すように、検索された画像が出現したことが示されている。 Also, as a search result with search ID no.3, the searched image appeared at 18:19:28 on January 17, 2010, as shown by the image data of the image file abcde.jpg. It has been shown.
動画像データから星型の図形を検索する場合の例を用いて説明する。(a)は、検索された画像の出現時点における動画像データの表示画面を示している。星型の図形が含まれているため検索に該当したが、星型以外の図形も含まれている。(b)は、(a)から星型の図形のみを抽出した表示画面データである。(b)を画像ファイルとして出現情報データベース1224で管理しておけば、星型の図形の出現位置、出現寸法のみならず、星型の図形が出現した時の星型の図形の色や傾きなどの情報も得ることができる。
A description will be given using an example in which a star-shaped figure is searched from moving image data. (a) shows a display screen of moving image data at the time when the searched image appears. The search is applicable because it contains star-shaped figures, but non-star figures are also included. (b) is display screen data obtained by extracting only a star-shaped figure from (a). If (b) is managed as an image file in the
次に、本発明の実施形態における、検索された画像を含む動画像データの一部を出現情報を表示しながら再生する検索画像再生機能実行時の検索画像再生機器1の動作について、図3を用いて説明する。
Next, FIG. 3 shows the operation of the search
図3では、検索処理部126が、利用者の指示に従って、特定の画像と特徴が一致する部分や、キーワードに関連する画像を含む部分を、動画像データ127から検索し終えた状態からの動作を示している。例えば、特定の画像と特徴が一致する画像の検索では、利用者が指定した検索用画像の特徴量を調べ、動画像データ中の画像で特徴量が近い画像を検索する。キーワードに関連する画像の検索では、利用者が指定したキーワードが示す名前、色、形、大きさなどの画像以外の情報と動画像のメタデータを元に、キーワードに関連する画像を動画像から検索する。
In FIG. 3, the operation from a state in which the
利用者が、検索画像の再生を指示すると、まず、検索結果管理処理部122が、検索処理部126が行なった検索処理の結果から、検索された画像の出現に関する情報を取得して、出現情報データベース1224に保存する(ステップ1001)。例えば、出現時点取得処理部1221は、検索された画像が出現する時点である出現時点を取得し、出現位置取得処理部1222は、検索された画像が出現する位置である出現位置を取得し、出現寸法取得処理部1223は、検索された画像が出現する寸法である出現寸法を取得する。
When the user instructs the reproduction of the search image, first, the search result
次に、再生開始時点決定処理部123が、出現時点より早い時点を、所定の方法により導出し、動画像の再生開始時点として決定する(ステップ1002)。再生開始時点の導出方法の例としては、出現時点より一定秒数(例えば30秒)前の時点を算出する方法や、出現時点が含まれるシーンの先頭の時点を用いる方法や、出現時点が含まれるチャプタの先頭の時点を用いる方法などがある。他の導出方法によって得られた時点でも構わない。
Next, the playback start time
次に、動画像再生装置17が、ステップ1002で決定された開始時点を先頭として動画像データ127の再生を開始する(ステップ1003)。
Next, the moving
次に、出現残時間算出処理部124が、再生中の動画像データ127の現在再生時点から出現時点までの残り時間である出現残時間を、一定時間おき(例えば1秒ごと)に算出する(ステップ1004)。
Next, the remaining appearance time
機器制御処理部121は、ステップ1004で算出された出現残時間を含む出現情報を表示するべきか否かを判断し(ステップ1005)、出現情報を表示するべきだと判断すれば(ステップ1005のYes)、統合表示処理部125に出現情報の表示を更新させる(ステップ1006)。この時、出現情報が表示されていなければ、統合表示処理部125は出現情報の表示を開始する。
The device
機器制御処理部121は、ステップ1005で出現情報を表示するべきでないと判断すれば(ステップ1005のNo)、統合表示処理部125に出現情報の表示を消去させる(ステップ1007)。この時、既に出現情報の表示が消去されていれば、統合表示処理部125は何も行なわない。
If it is determined in
ここで、出現情報を表示するべきか否かの判断方法の例としては、出現残時間が0になったら表示を止める方法や、出現残時間が1秒以下になったら表示を止める方法など、出現残時間を元に表示を止める方法がある。出現残時間が0になる時点に検索された画像が出現するため、その時点か、それより数秒前から出現情報の表示を止めることにより、動画像の再生表示において検索された画像の邪魔をしない効果が得られる。出現残時間が0になる瞬間の出現情報が表示されなくても、その数秒前までの、出現残時間が減っていく様子を含む出現情報の変化から、利用者は、検索された画像が出現するおおよその時点、位置、寸法などを把握可能である。他の判断方法を用いてもよい。 Here, examples of how to determine whether or not to display the appearance information include a method for stopping the display when the remaining appearance time becomes 0, a method for stopping the display when the remaining appearance time becomes 1 second or less, etc. There is a method to stop the display based on the remaining appearance time. Since the searched image appears when the remaining appearance time becomes 0, by stopping the display of the appearance information from that time or a few seconds before that, it does not disturb the searched image in the playback display of moving images An effect is obtained. Even if the appearance information at the moment when the remaining appearance time becomes 0 is not displayed, the user can see the searched image from the change in appearance information including the appearance remaining time until a few seconds before that. It is possible to grasp the approximate time, position, dimensions, etc. Other determination methods may be used.
また、出現情報を表示するべきか否かの判断方法の別の例としては、利用者による出現情報の表示指示または消去指示に従う方法がある。この場合は、消去されている出現情報を利用者の指示に従って表示したり、表示されている出現情報を利用者の指示に従って消去したりする。図3には、利用者による指示が、ステップ1004とステップ1005の間になされた場合の例を示しているが、ステップ1004からステップ1008を繰り返す間であれば、他のタイミングでも良い。
As another example of a method for determining whether or not to display appearance information, there is a method according to a display instruction or deletion instruction for appearance information by a user. In this case, the deleted appearance information is displayed according to the user's instruction, or the displayed appearance information is deleted according to the user's instruction. FIG. 3 shows an example in which an instruction by the user is given between
出現残時間を元に表示を止める方法と、利用者による出現情報の表示指示または消去指示に従う方法を、組み合わせて用いても良い。この場合は、例えば、出現残時間が1秒以下になった時点で出現情報を消去し、その後、利用者が表示指示を行なったことを検知して、再度、出現情報を表示することが可能となる。 You may use combining the method of stopping a display based on appearance remaining time, and the method according to the display instruction | indication or deletion instruction | indication of appearance information by a user. In this case, for example, it is possible to delete the appearance information when the remaining appearance time becomes 1 second or less, and then detect that the user has made a display instruction and display the appearance information again. It becomes.
また、統合表示処理部125の処理は、出現残時間表示処理部1251による出現残時間の表示処理、出現位置表示処理部1252による出現位置の表示処理、出現寸法表示処理部1253による出現寸法の表示処理、またはこれらの組合せにより実現される。
In addition, the integrated
次に、機器制御処理部121が、動画像の再生を終了するべきか否かを判断し(ステップ1008)、動画像の再生を終了するべきでないと判断すれば(ステップ1008のNo)、ステップ1004に戻る。動画像の再生を終了するべきと判断すれば(ステップ1008のYes)、動画像再生装置17に動画像データ127の再生を停止させて(ステップ1009)、検索画像再生機能を終了する。
Next, if the device
ここで、動画像の再生を終了するべきか否かの判断方法の例としては、動画像データの最後まで再生し終えたら終了する方法や、出現時点が含まれるシーンの最後まで再生し終えたら終了する方法や、利用者の再生停止指示があった場合に終了する方法などがある。他の判断方法を用いてもよい。図3には、利用者による指示が、ステップ1008の直前になされた場合の例を示しているが、ステップ1004からステップ1008を繰り返す間であれば、他のタイミングでも良い。
Here, as an example of a method for determining whether or not to end the reproduction of the moving image, there are a method of ending when the reproduction of the moving image data is completed, or a reproduction of the moving image data until the end of the scene including the current time There are a method of ending and a method of ending when a user gives an instruction to stop playback. Other determination methods may be used. FIG. 3 shows an example in which an instruction by the user is given immediately before
以下、本発明を実施するための第1の形態について説明する。本実施例では、三角型の図形が星型の図形に変化する動画像データから星型の図形を検索し、出現情報として出現残時間を数字で表示する場合の例を図4を用いて説明する。 Hereinafter, a first embodiment for carrying out the present invention will be described. In this embodiment, an example in which a star-shaped figure is searched from moving image data in which a triangular figure changes to a star-shaped figure and the remaining appearance time is displayed as numbers as appearance information will be described with reference to FIG. To do.
(a)は、元の動画像データの一部を時系列に並べ、動画像データの表示が変化する様子の例を示した図である。(b)は、ステップ1004、ステップ1005、ステップ1006、ステップ1008が繰り返されることで、統合表示処理部125により付加された出現情報の表示が更新されていく様子の例を示した図である。(a)、(b)共に、上段は、動画像データの先頭から0時間1分13秒が経過した時点、中段は、動画像データの先頭から0時間1分15秒が経過した時点、下段は、動画像データの先頭から0時間1分20秒が経過した時点(検索された画像の出現時点)の表示画面例である。
(a) is the figure which showed the example of a mode that a part of original moving image data was arranged in time series, and the display of moving image data changes. (b) is a diagram showing an example of a state in which the display of the appearance information added by the integrated
図4では、(b)の各画像の左上に、出現情報として数字が表示されている。数字は出現時点までの残り時間(秒)を示しており、時間の経過と共に減っている。出現時点では数字は0となる。 In FIG. 4, numbers are displayed as appearance information on the upper left of each image of (b). The number indicates the remaining time (seconds) until the present time, and decreases with the passage of time. At the time of departure, the number is zero.
この出現情報により、利用者は、出現時点までの残り時間を把握することができる。 With this appearance information, the user can grasp the remaining time up to the current point of departure.
なお、時間の経過と共に減っていく数字を表示し、出現時点に数字が0になる速度で数字を減らすならば、他の様式で出現情報を表示してもよい。例えば、出現情報の数字の単位は秒でなくても良いし、表示位置は任意で良い。 Note that the appearance information may be displayed in other manners as long as the numbers decrease with the passage of time, and the numbers are reduced at a speed at which the number becomes zero at the present time. For example, the number unit of the appearance information may not be seconds, and the display position may be arbitrary.
以下、本発明を実施するための第2の形態について説明する。本実施例では、白抜きの星型図形が左から右に移動して塗潰した星型図形に変化する動画像データから、塗潰した星型図形が表示された画像を検索し、出現情報として出現残時間を帯状のグラフで表示する場合の例を図5を用いて説明する。なお、実施例1と重複する個所については、説明を省略する。 The second embodiment for carrying out the present invention will be described below. In this embodiment, an image in which a filled star shape is displayed is searched from moving image data in which a white star shape moves from left to right and changes to a filled star shape. An example in which the remaining appearance time is displayed as a belt-like graph will be described with reference to FIG. Note that description of portions that are the same as those in the first embodiment is omitted.
図5では、(b)の各画像の左上に、出現情報として帯状のグラフが表示されている。塗潰された帯の横幅は再生開始時点からの経過時間、白抜きの帯の横幅は出現時点までの残り時間を示している。時間の経過と共に塗潰された帯の横幅は増え、白抜きの帯の横幅は減っている。出現時点では白抜き帯が消える。 In FIG. 5, a band-shaped graph is displayed as appearance information at the upper left of each image of (b). The width of the painted band indicates the elapsed time from the start of reproduction, and the width of the white band indicates the remaining time up to the present time. As time passes, the width of the painted band increases and the width of the white band decreases. At the time of departure, the white band disappears.
この出現情報により、利用者は、出現時点までの残り時間が減少する度合いを把握することができる。 From this appearance information, the user can grasp the degree to which the remaining time until the departure time decreases.
なお、他の様式で出現情報を表示してもよい。例えば、帯の色は任意で良いし、帯の替わりに棒や線を用いても良い。 Note that the appearance information may be displayed in other manners. For example, the color of the band may be arbitrary, and a bar or a line may be used instead of the band.
以下、本発明を実施するための第3の形態について説明する。本実施例では、三角型の図形が星型の図形に変化する動画像データから星型の図形を検索し、出現情報として出現残時間を円状のグラフで表示する場合の例を図6を用いて説明する。なお、実施例1と重複する個所については、説明を省略する。 Hereinafter, a third mode for carrying out the present invention will be described. In this embodiment, an example in which a star-shaped figure is searched from moving image data in which a triangular figure changes to a star-shaped figure and the remaining appearance time is displayed as a circular graph as appearance information is shown in FIG. It explains using. Note that description of portions that are the same as those in the first embodiment is omitted.
図6では、(b)の各画像の左上に、出現情報として円状のグラフが表示されている。白抜き部分の面積は再生開始時点からの経過時間、塗潰された部分の面積は出現時点までの残り時間を示している。時間の経過と共に白抜き部分の面積は増え、塗潰された部分の面積は減っている。出現時点では塗潰された部分が消える。 In FIG. 6, a circular graph is displayed as appearance information at the upper left of each image of (b). The area of the white portion indicates the elapsed time from the start of reproduction, and the area of the painted portion indicates the remaining time up to the present time. As time passes, the area of the white portion increases and the area of the painted portion decreases. At the present time, the painted area disappears.
この出現情報により、利用者は、出現時点までの残り時間が減少する度合いを把握することができる。 From this appearance information, the user can grasp the degree to which the remaining time until the departure time decreases.
なお、他の様式で出現情報を表示してもよい。例えば、円状のグラフの色は任意で良いし、円状のグラフでなくアナログ時計の表示を用いても良いし、線だけが回転するように表示してもよい。 Note that the appearance information may be displayed in other manners. For example, the color of the circular graph may be arbitrary, may be displayed using an analog clock instead of the circular graph, or may be displayed so that only the line rotates.
以下、本発明を実施するための第4の形態について説明する。本実施例では、三角型の図形が星型の図形に変化する動画像データから星型の図形を検索し、出現情報として出現残時間を弧状の線で表示する場合の例を図7を用いて説明する。なお、実施例1と重複する個所については、説明を省略する。 Hereinafter, a fourth embodiment for carrying out the present invention will be described. In this embodiment, an example in which a star-shaped figure is searched from moving image data in which a triangular figure changes to a star-shaped figure and the remaining appearance time is displayed as an arcuate line as appearance information is shown in FIG. I will explain. Note that description of portions that are the same as those in the first embodiment is omitted.
図7では、(b)の各画像の左上に、出現情報として弧状の線が表示されている。線は出現時点までの残り時間を示している。時間の経過と共に弧状の線の長さが短くなり、出現時点では弧状の線が消える。 In FIG. 7, an arc-shaped line is displayed as appearance information at the upper left of each image of (b). The line shows the time remaining until the present time. With the passage of time, the length of the arcuate line becomes shorter, and at the present time the arcuate line disappears.
この出現情報により、利用者は、出現時点までの残り時間が減少する度合いを把握することができる。 From this appearance information, the user can grasp the degree to which the remaining time until the departure time decreases.
なお、時間の経過と共に縮小する線を表示し、出現時点に線が消える速度で線を縮小させるならば、他の様式で出現情報を表示してもよい。例えば、弧状の線でなくても直線でも良いし、実線でなくても点線でも良い。 Note that the appearance information may be displayed in another manner as long as a line that is reduced with the passage of time is displayed, and the line is reduced at a speed at which the line disappears at the present time. For example, a straight line may be used instead of an arcuate line, or a dotted line may be used instead of a solid line.
以下、本発明を実施するための第5の形態について説明する。本実施例では、三角型の図形の横に星型の図形が現れる動画像データから星型の図形を検索し、出現情報として出現残時間と出現位置と出現寸法を二重図形で表示する場合の例を図8、図9を用いて説明する。なお、実施例1と重複する個所については、説明を省略する。 The fifth embodiment for carrying out the present invention will be described below. In this embodiment, a star-shaped figure is searched from moving image data in which a star-shaped figure appears next to a triangular figure, and the remaining appearance time, appearance position, and appearance size are displayed as double figures as appearance information. An example will be described with reference to FIGS. Note that description of portions that are the same as those in the first embodiment is omitted.
図8では、(b)の各画像の右側に、出現情報として二重円が表示されている。外側の円形領域の境界線と内側の円形領域の境界線との間の距離は出現時点までの残り時間を示している。時間の経過と共に内側の円が大きくなり、出現時点では内側と外側の円形領域が一致する。また、外側の円は、出現位置と出現寸法を示している。 In FIG. 8, a double circle is displayed as appearance information on the right side of each image of (b). The distance between the boundary line of the outer circular area and the boundary line of the inner circular area indicates the remaining time up to the present time. The inner circle becomes larger as time passes, and the inner and outer circular regions coincide at the start. The outer circle indicates the appearance position and the appearance dimension.
図9では、(b)の各画像の右側に、出現情報として二重の角丸矩形が表示されている。外側の角丸矩形領域の境界線と内側の角丸矩形領域の境界線との間の距離は出現時点までの残り時間を示している。時間の経過と共に外側の角丸矩形が小さくなり、出現時点では内側と外側の角丸矩形領域が一致する。また、内側の角丸矩形は、出現位置と出現寸法を示している。 In FIG. 9, a double rounded rectangle is displayed as appearance information on the right side of each image of (b). The distance between the boundary line of the outer rounded rectangular area and the boundary line of the inner rounded rectangular area indicates the remaining time until the current point of departure. As the time elapses, the outer rounded rectangle becomes smaller, and the inner and outer rounded rectangular regions coincide with each other at the present time. Further, the inner rounded rectangle indicates the appearance position and the appearance size.
この出現情報により、利用者は、出現時点までの残り時間が減少する度合いを把握することができる。また、利用者は、出現時点前からおおよその出現位置と出現寸法を把握することができる。 From this appearance information, the user can grasp the degree to which the remaining time until the departure time decreases. In addition, the user can grasp the approximate appearance position and appearance size from before the present time.
なお、出現位置と出現寸法を示す表示領域と、時間の経過と共に大きさが変化する領域である残時間表示領域とを表示し、出現時点に、残時間表示領域がなくなるようにすれば、他の様式で出現情報を表示してもよい。 In addition, if the display area showing the appearance position and the appearance size and the remaining time display area that changes in size with the passage of time are displayed so that the remaining time display area disappears at the present time, other Appearance information may be displayed in the following manner.
以下、本発明を実施するための第6の形態について説明する。本実施例では、三角型の図形の横に星型の図形が現れる動画像データから星型の図形を検索し、出現情報として出現残時間と出現位置を4つの印で表示する場合の例を図10を用いて説明する。なお、実施例1と重複する個所については、説明を省略する。 The sixth embodiment for carrying out the present invention will be described below. In this embodiment, an example in which a star-shaped figure is searched from moving image data in which a star-shaped figure appears next to a triangular figure, and the remaining appearance time and the appearance position are displayed as appearance information with four marks. This will be described with reference to FIG. Note that description of portions that are the same as those in the first embodiment is omitted.
図10では、(b)の各画像の右側に、出現情報として4つの印が表示されている。4つの印同士の互いの距離は出現時点までの残り時間を示している。出現時点で4つの印が重なるように、時間の経過と共に4つの印が1点に向かって移動する。4つの印が向かう1点は、出現位置を示している。また、下段の出現時点の図では、出現情報の表示を消去している。 In FIG. 10, four marks are displayed as appearance information on the right side of each image of (b). The distance between the four marks indicates the remaining time until the present time. The four marks move toward one point with the passage of time so that the four marks overlap at the time of departure. One point to which the four marks go indicates the appearance position. In addition, the appearance information display is erased in the current figure on the lower stage.
すなわち、4つの印で示される領域は出現残時間表示領域であるとともに、出現位置を示す表示領域となる。そして、当該出現残時間表示領域は、時間の経過と共に大きさが変化して、出現時点では、消える。 That is, the area indicated by the four marks is a remaining appearance time display area and a display area indicating the appearance position. The remaining appearance time display area changes in size with the passage of time, and disappears at the time of appearance.
この出現情報により、利用者は、出現時点までの残り時間が減少する度合いを把握することができる。また、利用者は、出現時点前からおおよその出現位置を把握することができる。また、出現時点では出現情報が消えるため、出現情報の表示に邪魔されることなく検索された画像を視聴できる。 From this appearance information, the user can grasp the degree to which the remaining time until the departure time decreases. In addition, the user can grasp the approximate appearance position from before the current departure time. Further, since the appearance information disappears at the present time, the searched image can be viewed without being disturbed by the display of the appearance information.
なお、他の様式で出現情報を表示してもよい。例えば、印は2つ以上であれば良いし、印は三角形に限らない。 Note that the appearance information may be displayed in other manners. For example, the number of marks may be two or more, and the marks are not limited to triangles.
以下、本発明を実施するための第7の形態について説明する。本実施例では、三角型の図形の横に星型の図形が現れる動画像データから星型の図形を検索し、出現情報として出現残時間と出現位置と出現寸法を角丸矩形で表示する場合の例を図11を用いて説明する。なお、実施例1と重複する個所については、説明を省略する。 The seventh embodiment for carrying out the present invention will be described below. In this embodiment, a star-shaped figure is searched from moving image data in which a star-shaped figure appears next to a triangular figure, and the remaining appearance time, appearance position, and appearance size are displayed as rounded rectangles as appearance information. An example will be described with reference to FIG. Note that description of portions that are the same as those in the first embodiment is omitted.
図11では、(b)の各画像の右側に、出現情報として角丸矩形が表示されている。角丸矩形の大きさは出現時点までの残り時間を示している。出現時点で角丸矩形が消えるように、時間の経過と共に角丸矩形が縮む。縮んでいく角丸矩形の中心は、出現位置を示している。最初に表示された角丸矩形の位置と寸法は、出現位置と出現寸法を示している。また、下段の出現時点の図では、出現情報の表示を消去している。 In FIG. 11, a rounded rectangle is displayed as appearance information on the right side of each image of (b). The size of the rounded rectangle indicates the remaining time up to the present time. The rounded rectangle shrinks with the passage of time so that the rounded rectangle disappears at the start time. The center of the rounded rectangle that shrinks indicates the appearance position. The position and size of the rounded rectangle displayed first indicate the appearance position and the appearance size. In addition, the appearance information display is erased in the current figure on the lower stage.
すなわち、角丸矩形で示される領域は出現残時間表示領域であり、最初に表示される出現残時間表示領域は、出現位置及び出現寸法を示す表示領域となる。そして、当該出現残時間表示領域は、時間の経過と共に大きさが変化して、出現時点では、消える。 That is, the area indicated by the rounded rectangle is the remaining appearance time display area, and the remaining appearance time display area displayed first is a display area indicating the appearance position and the appearance size. The remaining appearance time display area changes in size with the passage of time, and disappears at the time of appearance.
この出現情報により、利用者は、出現時点までの残り時間が減少する度合いを把握することができる。また、利用者は、出現時点前からおおよその出現位置と出現寸法を把握することができる。また、出現時点では出現情報が消えるため、出現情報の表示に邪魔されることなく検索された画像を視聴できる。 From this appearance information, the user can grasp the degree to which the remaining time until the departure time decreases. In addition, the user can grasp the approximate appearance position and appearance size from before the present time. Further, since the appearance information disappears at the present time, the searched image can be viewed without being disturbed by the display of the appearance information.
なお、他の様式で出現情報を表示してもよい。例えば、角丸矩形でなくても円形でも良いし、実線でなくても点線でも良い。 Note that the appearance information may be displayed in other manners. For example, the shape may be a circle that is not a rounded rectangle, or a dotted line that is not a solid line.
以下、本発明を実施するための第8の形態について説明する。本実施例では、何も表示されていない状態から星型の図形が2つ現れる動画像データから星型の図形を検索し、出現情報として出現残時間を帯状のグラフで表示し、別な出現情報として出現位置と出現寸法を出現時の画像データを用いた画像で表示する場合の例を図12を用いて説明する。なお、実施例1と重複する個所については、説明を省略する。 Hereinafter, an eighth embodiment for carrying out the present invention will be described. In this embodiment, a star-shaped figure is searched from moving image data in which two star-shaped figures appear from a state where nothing is displayed, and the remaining appearance time is displayed as a band-like graph as appearance information. An example of displaying an appearance position and an appearance dimension as information as an image using image data at the time of appearance will be described with reference to FIG. Note that description of portions that are the same as those in the first embodiment is omitted.
図12では、(b)の各画像の左上に、出現情報として帯状のグラフが表示されている。帯状のグラフの説明は実施例2と同様であるため省略する。 In FIG. 12, a band-shaped graph is displayed as appearance information at the upper left of each image of (b). The description of the strip-shaped graph is the same as that in the second embodiment, and is omitted.
(b)の各画像の中央および右側には、別の出現情報として、出現時の画像から星型の図形の枠線を抽出した画像が表示されている。出現時の画像から抽出した画像は、出現位置と出現寸法を正確に示しており、出現時点で出現した図形と一致する。出現時点までは、枠線のみを抽出した状態で時間の経過に合わせて点滅を繰り返す。 In the center and the right side of each image of (b), an image obtained by extracting a star-shaped figure frame line from the image at the time of appearance is displayed as other appearance information. The image extracted from the image at the time of appearance accurately indicates the position of appearance and the size of the appearance, and matches the figure that appears at the time of appearance. Up to the present time, blinking is repeated as time passes with only the frame line extracted.
この出現情報により、利用者は、出現時点までの残り時間が減少する度合いを把握することができる。また、利用者は、正確な出現位置と出現寸法を把握することができる。また、利用者は、検索された画像の正確な形も把握することができる。また、枠線のみの画像が点滅することで、利用者は、再生時点では実際の動画像データではまだ表示されていないことを把握できる。 From this appearance information, the user can grasp the degree to which the remaining time until the departure time decreases. Moreover, the user can grasp | ascertain an exact appearance position and appearance dimension. The user can also grasp the exact shape of the searched image. Further, since the image of only the frame line blinks, the user can grasp that the actual moving image data is not yet displayed at the time of reproduction.
なお、出現時の動画像データを加工した画像を表示するならば、他の様式で出現情報を表示してもよい。例えば、枠線を抽出した画像ではなく色彩を薄めた画像を用いてもよいし、点滅させずに色彩を変化させても良い。 If an image obtained by processing moving image data at the time of appearance is displayed, the appearance information may be displayed in another manner. For example, an image with a thin color may be used instead of an image from which a frame line is extracted, or the color may be changed without blinking.
以上説明した本発明の実施形態では、検索画像再生機器1が検索処理部126を有し、画像検索機能を実行して得た出現情報を出現情報データベース1224に保存する場合の例を挙げて説明したが、外部の別の機器に画像検索機能を実行させ、通信装置13を介して得た出現情報を出現情報データベース1224に保存しても良い。
In the embodiment of the present invention described above, an example in which the search
この場合は、検索画像再生機器1が検索処理部126を有する必要がないため、検索画像再生機器1の演算処理負荷を減らすことができる。また、より高速な演算が可能な外部の別の機器により短時間に検索処理を終えることができるため、待ち時間による利用者の負担が減る。
In this case, the search
また、本発明の各実施形態を組み合わせて実施しても良い。 Moreover, you may implement combining each embodiment of this invention.
本発明の実施形態によれば、検索画像再生機器は、検索された画像の出現時点より前から動画像の再生を開始し、出現時点までの残り時間、出現位置、出現寸法などの情報と共に表示されるように出力する。このため、動画像データから検索された画像の再生において、利用者は、検索された画像の出現時点より前から再生された動画像を、出現時点までの残り時間、出現位置、出現寸法などの情報を予見して視聴することができるため、利用者の負担が軽減される。 According to the embodiment of the present invention, the search image playback device starts playback of a moving image from the time when the searched image is displayed, and displays it together with information such as the remaining time until the current output time, the appearance position, and the appearance size. To output. For this reason, in the reproduction of the image retrieved from the moving image data, the user can reproduce the moving image reproduced from before the current retrieval time of the retrieved image, such as the remaining time until the current time of appearance, the appearance position, the appearance size, etc. Since the information can be foreseen and viewed, the burden on the user is reduced.
例えば、利用者は、2時間の長さの映画コンテンツから、「ABC」という文字列が含まれる画像を検索するとする。検索された画像の出現時点から再生すると、どういう経緯で「ABC」が使われているか理解しづらいため、その時点を含むチャプターの先頭から再生する。視聴者は、そのチャプター中のどこかで「ABC」という文字列が表示されることは分かっているが、出現に関する情報がないと、チャプター再生中ずっと(例えば20分間)動画を注視して、いつ、画面のどこに、どのくらいの大きさで現れるのか不明なまま「ABC」の文字列を探し続けなければならない。本発明の実施形態によれば、出現時点までの残り時間、出現位置、出現寸法などの情報を予見して視聴することができるため、このような利用者の負担が軽減される。 For example, it is assumed that the user searches for an image including the character string “ABC” from the movie content having a length of 2 hours. Playing from the beginning of the retrieved image, it is difficult to understand how "ABC" is used, so it is played from the beginning of the chapter that includes that point. The viewer knows that the string “ABC” will appear somewhere in the chapter, but if there ’s no information about the appearance, the viewer will watch the video throughout the chapter (for example, 20 minutes) You have to keep looking for the string "ABC" without knowing when and where on the screen and how big it will appear. According to the embodiment of the present invention, it is possible to foresee and view information such as the remaining time, appearance position, appearance size, etc. up to the present time, so the burden on the user is reduced.
また、例えば、20人のグループが出演した音楽番組から、顔を知らないが名前を知っている1人の画像を、人名で検索するとする。人名と顔画像を関連付けたデータベースを用いることで検索は可能だが、検索された画像を含む部分が再生されるだけでは、利用者にとっては20人中の誰が該当しているのか分からない。該当する人物がハイライト表示されていれば誰が該当しているのかは分かるが、動画の視聴が邪魔されてしまう。本発明の実施形態によれば、利用者は、出現時点より前から視聴しつつ、出現時点までの残り時間、出現位置、出現寸法などの出現情報を把握でき、かつ、出現時点では出現情報が消えるため、検索した人物の画像を視聴する際に邪魔されることもない。また、利用者は、出現情報を表示するよう指示を出すことで、再度、出現情報を表示させて出現位置を確認することができる。 Also, for example, it is assumed that one person who does not know his face but knows his name from a music program in which a group of 20 people appeared is searched by person name. Searching is possible by using a database that associates names and face images, but it is difficult for the user to know who the 20 people are by simply playing the part containing the searched image. If the corresponding person is highlighted, it can be known who corresponds to it, but the viewing of the video is disturbed. According to the embodiment of the present invention, the user can grasp the appearance information such as the remaining time, the appearance position, the appearance size, etc. until the present time while viewing from before the present time, and the appearance information is present at the present time. Since it disappears, it is not disturbed when viewing the image of the searched person. In addition, the user can confirm the appearance position by displaying the appearance information again by issuing an instruction to display the appearance information.
1…検索画像再生機器、11…制御装置、12…記録装置、13…通信装置、14…入力装置、15…出力装置、16…表示装置、17…動画像再生装置。
DESCRIPTION OF
Claims (12)
前記検索された画像が出現する時点である出現時点の前から前記動画像データの再生を開始するステップと、
前記出現時点までの残り時間である出現残時間の経過を表示するステップとを有することを特徴とする検索画像表示方法。 A search image display method for displaying an image searched from moving image data,
Starting the reproduction of the moving image data from before the current time point at which the searched image appears;
And a step of displaying the passage of the remaining appearance time which is the remaining time up to the present time.
前記検索された画像が出現する時点である出現時点を取得する出現時点取得手段と、
前記出現時点の前から前記動画像データの再生を開始する動画像再生手段と、
前記出現時点までの残り時間である出現残時間を算出する出現残時間算出手段と、
前記出現残時間の経過を表示する出現残時間表示手段とを有することを特徴とする検索画像再生機器。 A retrieval image reproduction device for reproducing an image retrieved from moving image data,
An outgoing current time acquisition means for acquiring an outgoing current time when the searched image appears;
Moving image reproduction means for starting reproduction of the moving image data before the current time point,
A remaining appearance time calculating means for calculating a remaining appearance time which is a remaining time until the current time point,
A search image reproduction device comprising: a remaining appearance time display means for displaying the passage of the remaining appearance time.
前記出現位置を表示する出現位置表示手段とをさらに有し、
前記出現残時間の経過と前記出現位置とをあわせて表示することを特徴とする請求項10に記載の検索画像再生機器。 Appearance position acquisition means for acquiring an appearance position that is a position where the searched image appears;
It further has an appearance position display means for displaying the appearance position,
The search image reproduction device according to claim 10, wherein the elapsed appearance time and the appearance position are displayed together.
前記出現寸法を表示する出現寸法表示手段とをさらに有し、
前記出現残時間の経過と前記出現位置と前記出現寸法とをあわせて表示することを特徴とする請求項11に記載の検索画像再生機器。 Appearance dimension acquisition means for acquiring an appearance dimension that is a dimension in which the searched image appears;
And further having an appearance dimension display means for displaying the appearance dimension,
The search image reproduction device according to claim 11, wherein the elapsed appearance time, the appearance position, and the appearance size are displayed together.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2010160201A JP5534989B2 (en) | 2010-07-15 | 2010-07-15 | Search image display method and search image playback device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2010160201A JP5534989B2 (en) | 2010-07-15 | 2010-07-15 | Search image display method and search image playback device |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2012023580A true JP2012023580A (en) | 2012-02-02 |
| JP5534989B2 JP5534989B2 (en) | 2014-07-02 |
Family
ID=45777464
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2010160201A Active JP5534989B2 (en) | 2010-07-15 | 2010-07-15 | Search image display method and search image playback device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP5534989B2 (en) |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005354412A (en) * | 2004-06-10 | 2005-12-22 | Canon Inc | Image processing apparatus and control apparatus |
| JP2010045765A (en) * | 2008-07-17 | 2010-02-25 | Canon Inc | Reproducing apparatus |
-
2010
- 2010-07-15 JP JP2010160201A patent/JP5534989B2/en active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005354412A (en) * | 2004-06-10 | 2005-12-22 | Canon Inc | Image processing apparatus and control apparatus |
| JP2010045765A (en) * | 2008-07-17 | 2010-02-25 | Canon Inc | Reproducing apparatus |
Also Published As
| Publication number | Publication date |
|---|---|
| JP5534989B2 (en) | 2014-07-02 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11733854B2 (en) | Method for generating and reproducing multimedia content, electronic device for performing same, and recording medium in which program for executing same is recorded | |
| JP5499331B2 (en) | Streaming media trick play | |
| EP2104938B1 (en) | Apparatus for processing audio and/or video data and method to be run on said apparatus | |
| CN101102489B (en) | Information processing device and method | |
| US8837919B2 (en) | Information processing apparatus, information processing method, and program | |
| EP1381224A2 (en) | Method and system for display and manipulation of thematic segmentation in the analysis and presentation of film and video | |
| JP2013118649A (en) | System and method for presenting comments with media | |
| JP6270309B2 (en) | Display control device, recording control device, and display control method | |
| CN106027926A (en) | Image display apparatus and method of controlling the same | |
| JP5701017B2 (en) | Movie playback apparatus, movie playback method, computer program, and storage medium | |
| US20170243611A1 (en) | Method and system for video editing | |
| JP5534989B2 (en) | Search image display method and search image playback device | |
| CN113132778B (en) | Method and device for playing video, electronic equipment and readable storage medium | |
| JP2009087520A (en) | Recording/reproducing system | |
| JP2006252678A (en) | Operation history display apparatus and method, and program | |
| CN101388989B (en) | Recording apparatus and method, and recording medium | |
| JP4987653B2 (en) | Electronic apparatus and image display method | |
| JP2008312025A (en) | Video image content data reproduction apparatus | |
| JP4974838B2 (en) | Guide information providing system and video playback apparatus | |
| JP4930621B2 (en) | Playlist creating apparatus, method thereof, dubbing list creating apparatus, and method thereof | |
| JP2005094709A5 (en) | ||
| JP2014078912A (en) | Moving image reproducer, control method of the same, program and recording medium | |
| JP2001296947A (en) | Video playback device, video playback method, and computer-readable recording medium storing video playback program | |
| JP2005032297A (en) | Playback apparatus | |
| JP2008059671A (en) | Information recording / reproducing apparatus and playlist generating method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20120517 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130225 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130225 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140117 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140121 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140228 |
|
| RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20140310 |
|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20140317 |
|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20140318 |
|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20140319 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140408 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140422 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 5534989 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |