JP2000059740A - 動き判定装置、その方法および画像情報変換装置 - Google Patents
動き判定装置、その方法および画像情報変換装置Info
- Publication number
- JP2000059740A JP2000059740A JP22822198A JP22822198A JP2000059740A JP 2000059740 A JP2000059740 A JP 2000059740A JP 22822198 A JP22822198 A JP 22822198A JP 22822198 A JP22822198 A JP 22822198A JP 2000059740 A JP2000059740 A JP 2000059740A
- Authority
- JP
- Japan
- Prior art keywords
- motion
- class
- detecting
- image signal
- signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0135—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
- H04N7/0137—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes dependent on presence/absence of motion, e.g. of motion zones
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0125—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level one of the standards being a high definition standard
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Television Systems (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Analysis (AREA)
Abstract
い、また、動き判定をクラスとして使用して画像信号を
異なる走査線構造のものへ変換する。 【解決手段】 入力画像の部分画像に関して検出された
フレーム間差分FrGがしきい値th1、th2、th
3とそれぞれ比較される。部分画像の空間アクティビテ
ィとしてのダイナミックレンジDRが検出され、しきい
値th4と比較される。空間勾配SGsum からしきい値
th1、th2、th3が生成される。比較結果がアン
ドゲート10とクラス決定部11により処理され、4段
階の動きクラスMDが決定される。さらに、動きクラス
MDが多数決判定されることによって、最終的な動きク
ラスMJが生成される。
Description
判定装置、その方法および画素情報変換装置に関する。
構造へ変換する画像信号変換装置、ディジタル画像信号
を圧縮する高能率符号化等の画像処理において、画像の
注目部分の静止、動きを判定する動き判定が使用され
る。従来の動き判定装置では、画像部分(例えば1フレ
ームの画像を細分化したブロック)についてフレーム間
差分の絶対値の和を求め、絶対値の和の大小によって、
画像部分の動きの有無を判定するようにしていた。すな
わち、フレーム間差分の絶対値和が大きい時には、画像
部分に動きがありと決定し、これが小さい時には、静止
と決定している。
止および動きの2段階の判定であるために、静止画像に
対する処理を行った部分と動き画像に対する処理を行っ
た部分との境界で、画質の差が目立つ問題があった。ま
た、フレーム間差分のみを用いた判定は、誤った判定の
おそれがある。すなわち、フレーム間差分が大きい場合
でも、フィールド内アクティビティが大きいと、実際に
は、静止画像に近い場合があり、逆に、フレーム間差分
が小さい場合でも、フィールド内のアクティビティが無
いと実際には,動画に近い場合がある。さらに、フレー
ム間差分とフィールド内アクティビティとの関係が線形
であることを用いた動き判定方法として、勾配法が知ら
れている。しかしながら、勾配法の場合では、フィール
ド内のアクティビティの大小に応じて、動き判定を容易
とするなどの柔軟性を持たせることができない問題があ
る。
りのおそれを少なくし、複数段階の判定結果を発生する
ことが可能な動き判定装置、その方法および画像情報変
換装置を提供することにある。
画像信号の部分画像に関して動きを検出する動き判定装
置において、部分画像に関するフレーム間差分を検出す
る第1の検出手段と、部分画像に関する空間アクティビ
ティを検出する第2の検出手段と、第1、第2および第
3のしきい値をそれぞれ発生するしきい値発生手段と、
第1の検出手段により検出されたフレーム間差分を少な
くとも第1および第2のしきい値とそれぞれ比較する第
1および第2の比較手段と、第2の検出手段により検出
された空間アクティビティを第3のしきい値と比較する
第3の比較手段と、第1、第2および第3の比較手段の
比較結果が供給され、部分画像の動きの程度を少なくと
も3段階で示す動きクラスを決定する手段とからなるこ
とを特徴とする動き判定装置である。
像に関して動きを検出する動き判定方法において、部分
画像に関するフレーム間差分を検出する第1の検出のス
テップと、部分画像に関する空間アクティビティを検出
する第2の検出のステップと、第1、第2および第3の
しきい値をそれぞれ発生するステップと、第1の検出ス
テップにより検出されたフレーム間差分を少なくとも第
1および第2のしきい値とそれぞれ比較するステップ
と、第2の検出ステップにより検出された空間アクティ
ビティを第3のしきい値と比較するステップと、比較に
より得られた比較結果が供給され、部分画像の動きの程
度を少なくとも3段階で示す動きクラスを決定するステ
ップとからなることを特徴とする動き判定方法である。
線構造の異なる複数の出力画像信号を形成するようにし
た画像情報変換装置において、出力画像信号の生成すべ
き画素の周辺に位置する入力画像信号の複数の第1の画
素を選択する第1のデータ選択手段と、出力画像信号の
生成すべき画素の周辺に位置する入力画像信号の複数の
第2の画素を選択する第2のデータ選択手段と、出力画
像信号の生成すべき画素の周辺に位置する入力画像信号
の複数の第3の画素を選択する第3のデータ選択手段
と、予め取得されている推定式係数を記憶するメモリ手
段と、第1のデータ選択手段で選択された複数の第1の
画素と推定式係数の線形推定式によって、出力画像信号
の画素を生成する信号生成手段と、第2のデータ選択手
段で選択された複数の第2の画素に基づいて、空間クラ
スを形成し、第3のデータ選択手段で選択された複数の
第3の画素に基づいて、動きクラスを形成し、空間クラ
スと動きクラスとを統合したクラス情報に対応して推定
式係数を信号生成手段に供給するクラス決定手段と、信
号生成手段に対して接続され、変換画像を指定された走
査線構造へ変換するための走査変換手段とを有し、動き
クラスを形成するための動き判定部は、複数の第3の画
素からなる部分画像に関するフレーム間差分を検出する
第1の検出手段と、部分画像に関する空間アクティビテ
ィを検出する第2の検出手段と、第1、第2および第3
のしきい値をそれぞれ発生するしきい値発生手段と、第
1の検出手段により検出されたフレーム間差分を少なく
とも第1および第2のしきい値とそれぞれ比較する第1
および第2の比較手段と、第2の検出手段により検出さ
れた空間アクティビティを第3のしきい値と比較する第
3の比較手段と、第1、第2および第3の比較手段の比
較結果が供給され、部分画像の動きの程度を少なくとも
3段階で示す動きクラスを決定する手段とからなること
を特徴とする画像情報変換装置である。
ティビティ(例えばダイナミックレンジ)との両方を参
照して動き判定するので、フレーム間差分のみを使用す
るのと比較してより正確に動き判定を行うことができ
る。また、3段階以上の動きの程度を判別するので、動
き判定の結果に基づいて画像処理を行うと、動/静の2
段階の動き判定と比較して、より自然な結果を得ること
が可能となる。
いて図面を参照して説明する。図1および図2は、この
発明の一実施形態の構成を示す。図1の構成は、入力デ
ィジタル画像信号から動きクラスMJを発生する部分で
あり、図2は、動きクラスMJから多数決判定によって
最終的な動きクラスMDを発生する部分である。すなわ
ち、図1に示す部分と図2に示す部分とが直列に接続さ
れることによって、一実施形態が構成される。
入力端子1からの入力ディジタル画像信号がタップ構築
回路2に供給される。一例として、入力ディジタル画像
信号がインターレス信号であって、タップ構築回路2で
は、図3に示す50個の画素が動き判定に使用するタッ
プとして選択され、選択されたタップが出力される。図
3は、t−1,t、t+1と時間的に連続する3フィー
ルドの空間的に同一部分の画像を示している。図3中の
ドットが所定周波数でサンプリングされることが得られ
る画素を示す。例えば1画素は、8ビットの輝度値であ
る。
続する3ラインのそれぞれから対応する位置の5個のタ
ップが選択される。同様に、時間t+1のフィールドで
は、時間的に連続する3ラインのそれぞれから対応する
位置の5個のタップが選択される。これらのフィールド
のタップの空間的な位置が同一である。また、現在(時
間t)のフィールドでは、時間的に連続する4ラインの
それぞれから対応する位置の5個のタップが選択され
る。インターレス方式であるために、これらの4ライン
は、t−1およびt+1のフィールドのタップとは、空
間的に1ラインずれている。そして、図3において、×
で示す位置が注目点であり、この注目点に関しての動き
判定がなされる。
ンジDR検出回路3、フレーム間差分FrG検出回路4
および空間勾配SGsum 検出回路5が接続される。ダイ
ナミックレンジDR検出回路3に対して比較器6が接続
され、ダイナミックレンジDRとしきい値th4が比較
される。フレーム間差分FrG検出回路4に対して比較
器7,8,9が接続される。比較器7では、ダイナミッ
クレンジDRとしきい値th1とが比較され、比較器8
および9では、ダイナミックレンジDRとしきい値th
2およびth3とがそれぞれ比較される。
値より大きい時に、"1" の出力を発生し、そうでない時
に、"0" の出力を発生する。例えばFrG≧th1の時
には、比較器7の出力が"1" となり、FrG<th1の
時には、その出力が"0" となる。空間勾配SGsum 検出
回路5に対しては、しきい値発生部12が接続される。
しきい値発生部12については後述する。
ビティの一例である。タップ構築回路2からの50個の
タップの画素値の最大値MAXと最小値MINの差がダ
イナミックレンジDRとされる。すなわち、DR=MA
X−MINである。しきい値th4は、ダイナミックレ
ンジDRの大きさを判定するためのものである。
ルドの15個のタップの画素値のそれぞれと、t+1の
フィールドの空間的に同一位置の15個のタップの画素
値との差分を求め、求まった15個のフレーム間差分を
絶対値に変換し、さらに、フレーム間差分の絶対値を合
計した値である。一般的には、フレーム間差分FrGが
大きいほど、フレーム間の動きが大きいものと判定され
る。
の空間勾配SG(t−1)、tのフィールドの空間勾配
SGt、t+1のフィールドの空間勾配SG(t+1)
の合計値である。これらの空間勾配も、ダイナミックレ
ンジDRと同様に空間アクティビティの一つである。各
フィールドの空間勾配は、それぞれの画素と隣接画素と
の差分の絶対値を求め、差分の絶対値を合計した値であ
る。例えばt−1のフィールドにおいて、左上コーナー
の画素の場合では、その真下の画素と右側の画素とが隣
接画素であり、自分の画素値と各隣接画素の画素値の差
分が計算される。同様に、他の画素に関しても、垂直方
向および水平方向における隣接画素との差分値が計算さ
れる。そして、15個の画素に関する差分値を合計する
ことによって、t−1のフィールドの空間勾配SG(t
−1)が求められる。他のフィールドの空間勾配SGt
およびSG(t+1)も同様に求められる。
0に供給され、アンドゲート10の出力LV3が動きク
ラスMJ決定部11に供給される。比較器8の出力LV
2および比較器9の出力LV3が動きクラスMJ決定部
11に供給される。MJ決定部11は、LV1,LV
2,LV3を受け取って2ビットの動きクラスMJを出
力する。動きクラスMJは、0,1,2,3の値をとり
うる。動きクラス0から動きクラス3に向かって、注目
点の動きが大きいことを表す。
によって動きクラスMJを決定し、動きクラスMJを出
力端子13に出力する。図4は、LV1,LV2,LV
3から動きクラスMJを決定する場合の論理を示す。
LV2="0" 動きクラス0 上記以外(LV3=LV2=LV1="0" ) しきい値発生部12は、図5に示すように、空間勾配S
Gsum の大きさに従って変化するしきい値th1、th
2、th3を発生する。各しきい値の変化の仕方が独立
であるが、空間勾配SGsum が大きくなるに従って各し
きい値も大きくなる傾向を有する。発生したしきい値t
h1、th2およびth3が上述した比較器7、8、9
に対してそれぞれ供給され、フレーム間差分FrGと比
較される。それによって、上述した条件に従って図5に
示すように、4種類の動きクラスMJが決定される。
配SGsum が供給される区間判定回路21および区間内
位置判定回路22と、区間判定回路21の出力に対応し
たパラメータを出力するメモリ23と、区間内位置判定
回路22の出力とメモリ23からのパラメータを受け取
ってしきい値th1を発生するth1計算回路24とが
設けられている。図5に示すように、空間勾配SGsum
のA0、A1、A2、A3で示す値によって、4個の区
間が規定される。3個の区間(A0−A1)(A1−A
2)(A2−A3)は、互いに等しい幅とされる。ま
た、SGsum >A3以上の区間では、しきい値th1、
th2、th3の値が飽和したものとされる。区間判定
回路21によって、4個の区間の内の1つの区間が決定
される。
それぞれと対応するしきい値レベルB10、B11、B
12、B13が規定され、これらのレベルがメモリ23
から出力される。例えば区間(A0−A1)の場合で
は、レベルB10およびB11がメモリ23からしきい
値計算回路24に対して出力される。3個の各区間の中
は、均等に例えば64分割される。区間内位置判定回路
22は、区間内の位置を決定する。区間内の位置が決定
されると、しきい値計算回路24は、線形補間によっ
て、しきい値th1を発生する。例えば区間(A0−A
1)内の位置では、その位置に応じた係数をレベルB1
0およびB11に対してそれぞれ乗算し、乗算結果を加
算することによって、しきい値th1が得られる。
定回路31、区間内位置判定回路32、メモリ33およ
び計算回路34が設けられる。しきい値th3を発生す
るために、区間判定回路41、区間内位置判定回路4
2、メモリ43および計算回路44が設けられる。これ
らの構成は、上述したしきい値th1を発生するための
構成と同様に動作する。但し、メモリ34には、しきい
値th2用のレベルB20、B21、B22、B23が
格納され、メモリ44には、しきい値th3用のレベル
B30、B31、B32、B33が格納されている。
決定された動きクラスMJに対して、図2に示す構成に
よって多数決判定処理を行う。この多数決判定処理は、
動きクラスの孤立点を除去し、また、近傍の動きクラス
に整合した動きクラスするために行われる。多数決判定
処理を付加することによって、出力画像中の破綻を少な
くすることができる。タップ構築回路52は、入力動き
クラスと、ライン遅延回路53からの1ライン前の動き
クラスと、フィールド遅延回路54からの1フィールド
前の動きクラスと、フィールド遅延回路54およびライ
ン遅延回路55を通ることで形成された前フィールドで
且つ1ライン前の動きクラスとから多数決判定のための
タップを構築する。
P0の近傍に位置する複数のタップの一例を示す。すな
わち、各タップは、入力ディジタル画像信号の画素に対
する注目点の位置(図3参照)に対応している。また、
注目点P0が存在する現行ラインと同一フィールド内の
1ライン上(−1Hライン)と、現行ラインより空間的
に1ライン上の前フィールドのライン(−263Hライ
ン)と、現行ラインより空間的に1ライン下の前フィー
ルドのライン(−262Hライン)とが示されている。
ライン上のタップP1、−263Hライン上のタップP
aが選択される。タップPaの左右のタップPbが選択
される。タップP1より一つのタップを飛ばした左右の
位置のタップP3が選択される。注目点のタップP0よ
り一つのタップを飛ばした左側のタップP2が選択され
る。注目点のタップP0の下側の位置に対して左右のタ
ップPcが選択される。このように選択されたタップ数
は、全てで10個存在する。
タップの内で、モードに応じて多数決判定に使用するタ
ップを選択することが可能とされている。モードは、入
力ディジタル画像信号の絵柄、動きの程度等に応じてユ
ーザが選択する。図7は、モードの種類と各モードで選
択されるタップを示す。モード0、モード1、モード
2、モード3の4通りのモードと、各モードに関して、
フィールド内処理とフレーム間処理とが設定される。従
って、選択されるタップの組み合わせとしては、全てで
8種類存在する。
理の場合には、注目点のタップP0のみが使用され、フ
レーム間処理の場合では、P0およびPaのタップが使
用される。最も複雑なモード3では、フィールド内処理
の場合には、P0、P1、P2、P3の5個のタップが
使用され、フレーム間処理の場合には、P0、P1、P
2、P3、Pb、Pcの9個のタップが使用される。
52からは、モードに応じて選択されタップの動きクラ
スがクラス毎に出力される。動きクラス3の個数がカウ
ンタ56によってカウントされ、動きクラス2の個数が
カウンタ57によってカウントされ、動きクラス1の個
数がカウンタ58によってカウントされる。カウンタ5
6、57、58のそれぞれのカウント値が比較器59、
60、61に供給される。
トされた動きクラス3の個数をしきい値thr3と比較す
る。比較器60は、カウンタ57によりカウントされた
動きクラス2の個数をしきい値thr2と比較する。比較器
61は、カウンタ58によりカウントされた動きクラス
1の個数をしきい値thr1と比較する。比較器59、6
0、61は、それぞれカウント値がしきい値以上の時
に"1" であり、そうでない時に"0" である比較出力CD
3、CD2、CD1を発生する。比較器59、60、6
1のそれぞれの出力CD3、CD2、CD1が動きクラ
スMD決定部62に供給される。動きクラス決定部62
は、比較出力CD3、CD2、CD1を受け取って最終
的な動きクラスMDを決定する。
定の論理を示す。CD3="1" の場合では、MD=3と
動きクラスが決定される。CD3="0" 、CD2="1"
の場合では、MD=2と動きクラスが決定される。CD
3="0" 、CD2="0" 、CD1="1" の場合では、M
D=1と動きクラスが決定される。CD3="0" 、CD
2="0" 、CD1="0" の場合では、MD=0と動きク
ラスが決定される。このように決定された2ビットの動
きクラスMDが出力される。しきい値thr1、thr2、thr3
は、それぞれ適切に設定された固定値である。
理について図9のフローチャートを参照して説明する。
動きクラスMJが決定された後に、ステップST1にお
いて、モードに応じたタップが構築される。ステップS
T2において、各タップの動きクラスを取得する。ステ
ップST3では、動きクラス3の個数がしきい値thr3以
上か否かが決定される。そうであれば、ステップST4
において、MD=3と動きクラスが決定される。
ないと、ステップST5において、動きクラス2の個数
がしきい値thr2以上か否かが決定される。そうであれ
ば、ステップST6において、MD=2と動きクラスが
決定される。ステップST5の結果が否定であれば、ス
テップST7において、動きクラス1の個数がしきい値
thr1以上か否かが決定される。そうであれば、ステップ
ST8において、MD=1と動きクラスが決定される。
ステップST7の結果が否定であれば、MD=0と決定
される。以上で処理が終了する。
画像信号変換装置における動きクラスの生成に対して適
用することができる。この画像信号変換装置は、SD
(Standard Definition )信号が入力され、HD(High
Definition )信号を出力するものである。また、HD
画素を生成する場合、生成するHD画素の近傍にある、
SD画素をクラス分割し、それぞれのクラス毎に予測係
数値を学習により獲得することで、より真値に近いHD
画素を得るものである。図10は、このような手法によ
る画像信号変換装置である。
信号)が第1のタップ選択回路101、第2のタップ選
択回路103および第3のタップ選択回路104に供給
される。第1のタップ選択回路101は、予測に使用す
るSD画素(予測タップと称する)を選択するものであ
る。第2のタップ選択回路103は、生成するHD画素
の近傍のSD画素のレベル分布のパターンに対応するク
ラス分類に使用するSD画素(空間クラスタップと称す
る)を選択するものである。第3のタップ選択回路10
4は、生成するHD画素の近傍のSD画素に基づいて動
きに対応するクラス分類に使用するSD画素(動きクラ
スタップと称する)を選択するものである。
れた予測タップが推定予測演算回路102に供給され
る。第2のタップ選択回路103により選択された空間
クラスタップが空間クラス検出回路105に供給され
る。空間クラス検出回路105は、空間クラスを検出す
る。検出された空間クラスがクラス合成回路107に供
給される。第3のタップ選択回路104により選択され
た動きクラスタップが動きクラス検出回路106に供給
される。動きクラス検出回路106は、動きクラスを検
出する。検出された動きクラスがクラス合成回路107
に供給される。クラス合成回路107によって、空間ク
ラスおよび動きクラスが統合され、最終的なクラスコー
ドが形成される。
して、アドレスとして供給され、係数メモリ108から
クラスコードに対応する係数データが読出される。係数
データと予測タップとが推定予測演算回路102に供給
される。推定予測演算回路102では、予測タップ(5
25i信号の画素)と予測係数との線形推定式を用いて
出力映像信号(525p信号)のデータを算出する。推
定予測演算回路102は、現存ライン上のデータ(ライ
ンデータL1)と、生成ライン上のデータ(ラインデー
タL2)を出力する。同時に、推定予測演算回路102
は、水平方向で2倍の数の画素を出力する。525i信
号は、ライン数が525本のインターレス信号を意味
し、525p信号は、ライン数が525本のプログレッ
シブ(ノンインターレス)信号を意味する。
タL1、L2が線順次変換回路109に供給される。線
順次変換回路109は、ライン倍速の処理を行う。推定
予測演算回路102は、525i信号から525p信号
を生成するので、水平周期は、525i信号と同一であ
る。線順次変換回路109は、水平周期を2倍とするラ
イン倍速処理を行う。線順次変換回路109から525
p信号が取り出される。
大することによって、525i信号と525p信号との
画素の配置を示すものである。大きなドットが525i
信号の画素であり、小さいドットが出力される525p
信号の画素である。この関係は、図11以外の他の図面
においても同様である。図11は、あるフレーム(F)
の奇数(O)フィールドの画素配置である。他のフィー
ルド(偶数フィールド)では、525i信号のラインが
空間的に0.5ラインずれたものとなる。図11ら分か
るように、525i信号のラインと同一位置のラインデ
ータL1および525i信号の上下のラインの中間位置
のラインデータL2を形成し、また、各ラインの水平方
向の画素数を2倍とする。従って、推定予測演算回路1
02によって、525p信号の4画素のデータが同時的
に生成される。
を用いて示すものである。推定予測演算回路102によ
って、ラインデータL1およびL2が同時に生成され
る。ラインデータL1には、順にa1,a2,a3,・
・・のラインが含まれ、ラインデータL2には、順にb
1,b2,b3,・・・のラインが含まれる。線順次変
換回路109は、各ラインのデータを時間軸方向に1/
2に圧縮し、圧縮されたデータをスイッチング回路によ
って交互に選択することによって、線順次出力(a0,
b0,a1,b1,・・・)を形成する。
スプレイに供給される。CRTディスプレイは、出力映
像信号(525p信号)を表示することが可能なよう
に、その同期系が構成されている。入力映像信号として
は、放送信号、またはVTR等の再生装置の再生信号が
供給される。すなわち、この一実施形態をテレビジョン
受像機に内蔵することができる。
より選択されるタップ(SD画素)を示す。図13は、
時間的に連続するフレームF−1の奇数フィールドo
(F−1/oと表記する)、F−1の偶数フィールド
(F−1/e)、F/o、F/eのそれぞれの垂直方向
の画素の配列を示す。
ラインデータL1およびL2を予測する時の空間クラス
タップは、このフィールドF/oの次のフィールドF/
eに含まれ、生成すべき525p信号の画素と空間的に
近傍位置の入力画素T1およびT2と、フィールドF/
oに含まれ、生成すべき525p信号の画素の近傍の入
力画素T3,T4,T5と、前のフィールドF−1/e
の入力画素T6,T7である。フィールドF/eのライ
ンデータL1およびL2を予測する時も同様にタップが
選択される。なお、ラインデータL1の画素を予測する
モード1では、T7の画素をクラスタップとして選択せ
ず、ラインデータL2の画素を予測するモード2では、
T4の画素をクラスタップとして選択しないようにして
も良い。
装置は、動きクラス検出回路106に対して適用され
る。従って、タップ選択回路104により選択されるタ
ップ、すなわち、動きクラスタップは、図3に示すよう
な50個のSD画素である。そして、前述したように、
最終的な動きクラスMDが決定され、これが動きクラス
としてクラス合成回路107に供給される。
ラスタップが空間クラス検出回路105に供給される。
空間クラス検出回路105は、選択された空間クラスタ
ップのレベル分布のパターンを検出する。この場合、各
画素8ビットのSDデータを2ビットのSDデータへ圧
縮するような処理を行う。一例として、ADRC(Adap
tive Dynamic Range Coding )によって、空間クラスタ
ップのSD画素のデータが圧縮される。なお、情報圧縮
手段としては、ADRC以外にDPCM(予測符号
化)、VQ(ベクトル量子化)等の圧縮手段を用いても
良い。
ecoder)向け高能率符号化用に開発された適応的再量子
化法であるが、信号レベルの局所的なパターンを短い語
長で効率的に表現できるので、ADRCを空間クラス分
類のコード発生に使用している。ADRCは、空間クラ
スタップのダイナミックレンジをDR、ビット割当を
n、空間クラスタップの画素のデータレベルをL、再量
子化コードをQとして、以下の式(1)により、最大値
MAXと最小値MINとの間を指定されたビット長で均
等に分割して再量子化を行う。
のパターンと525p信号の関係を学習することによ
り、取得された予測係数が各クラス毎に記憶されてい
る。予測係数は、線形推定式により525i信号を52
5p信号へ変換するための情報である。なお、予測係数
の取得方法については後述する。
アドレスから、そのクラスの予測係数が読出される。こ
の予測係数は、推定予測演算回路102に供給される。
推定予測演算回路102は、タップ選択回路101から
の予測タップ(画素値)T1,T2,・・・Tiと、予
測係数w1 ,w2 ,・・・wiとの線形1次結合式(式
(2))の演算を行うことにより、ラインデータL1、
L2を算出する。但し、ラインデータL1およびL2と
の間では、使用する予測係数が相違する。
められた上で、予測係数メモリ108に記憶しておき、
入力される予測タップおよび読出された予測係数に基づ
いて演算が行われ、入力されたデータに対応する出力デ
ータを形成して出力することにより、入力データを単に
補間処理したのとは異なり、高画質のプログレッシブ方
式の映像信号を出力することができる。
データの作成方法(学習)について図14を用いて説明
する。係数データを学習によって得るためには、まず、
既に知られているHD画像(525p信号)に対応し、
HD画像の1/4の画素数のSD画像を2次元間引きフ
ィルタ120によって形成する。例えばHDデータの垂
直方向の画素を垂直間引きフィルタによりフィールド内
の垂直方向の周波数が1/2になるように間引き処理
し、さらに水平間引きフィルタにより、HDデータの水
平方向の画素を間引き処理することにより、SDデータ
を得る。
号がタップ選択回路121、タップ選択回路122およ
びタップ選択回路123にそれぞれ供給される。これら
のタップ選択回路は、図10に示す信号変換装置におけ
るタップ選択回路101、103、104と同様に、予
測タップ、空間クラスタップ、動きクラスタップを選択
する。タップ選択回路121からの予測タップが正規方
程式加算回路127に供給される。タップ選択回路12
2からの空間クラスタップが空間クラス検出回路124
に供給される。タップ選択回路123からの動きクラス
タップが動きクラス検出回路125に供給される。
105と同様に、空間クラス検出回路124は、空間ク
ラスタップのデータをADRCにより圧縮し、空間クラ
スコードを発生する。また、動きクラス検出回路125
は、信号変換装置における動きクラス検出回路106と
同様に、動きクラスタップから動きクラスコードを発生
する。空間クラスコードと動きクラスコードとがクラス
合成回路126によって合成され、最終的なクラスが形
成される。クラス合成回路126からのクラスコードが
正規方程式加算回路127へ供給される。
のために、複数個のSD画素からHD画素への変換式の
学習とその予測式を用いた信号変換について述べる。以
下に、説明のために学習をより一般化してn画素による
予測を行う場合について説明する。予測タップとして選
択されるSD画素のレベルをそれぞれx1 、‥‥、xn
とし、HD画素レベルをyとしたとき、クラス毎に係数
データw1 、‥‥、wn によるnタップの線形推定式を
設定する。これを下記の式(3)に示す。学習前は、w
i が未定係数である。
ータ数がmの場合、式(3)にしたがって、以下に示す
式(4)が設定される。
らないので、誤差ベクトルeの要素を以下の式(5)で
定義して、式(6)を最小にする予測係数を求める。い
わゆる、最小自乗法による解法である。
を求める。それは以下の式(7)を`0' にするよう
に、各係数wi を求めればよい。
i を定義すると、式(7)は、行列を用いて式(10)
へ書き換えられる。
ている。図14中の正規方程式加算回路127は、クラ
ス合成回路126から供給されたクラス情報と、タップ
選択回路121から供給された予測タップと、生成しよ
うとするプログレッシブ画像の画素(教師信号)を用い
て、この正規方程式の加算を行う。
終了した後、正規方程式加算回路127は、予測係数決
定部128に正規方程式データを出力する。予測係数決
定部128は、正規方程式を掃き出し法等の一般的な行
列解法を用いて、wi について解き、予測係数を算出す
る。予測係数決定部128は、算出された予測係数を予
測係数メモリ129に書込む。
メモリ129には、クラス毎に、プログレッシブ画像の
注目画素yを推定するための、統計的にもっとも真値に
近い推定ができる予測係数が格納される。予測係数メモ
リ129に格納された予測係数は、上述の画像情報変換
装置において、予測係数メモリ108にロードされる。
ンターレス画像のデータからプログレッシブ画像のデー
タを生成するための予測係数の学習が終了する。
て、他の走査線構造の出力画像信号を生成する場合に対
してもこの発明を適用できる。例えば図15に示すよう
に、525i信号を1050i(ライン数1050本の
インターレス)信号へ変換する場合に対しても同様にこ
の発明を適用できる。
く、空間アクティビティを反映した動き判定を行うの
で、動き判定を正確に行うことができる。例えばフレー
ム間差分が大きい場合であっても、フィールド内のアク
ティビティが大きいことから、静止画に近い場合を検出
したり、フレーム間差分が小さくも、アクティビティが
無い時に動画に近い情報を検出できる。また、単なる動
きと静止の2段階判定ではなく、3段階以上に動きの程
度を判定するので、動き判定に基づいて画像処理を行っ
た時に、処理後の画像が不自然になることを防止するこ
とができる。
は、入力映像信号の複数画素に基づいてクラスを検出
し、各クラスで最適となる推定予測式を用いて画素値を
生成するので、従来の画像情報変換装置と比較して、静
止画、動画とも高画質とすることができる。さらに、動
きの情報をクラスの情報に取り込むので、静止画/動画
の検出と、検出による切り替えが不要とでき、切り替え
時に画質の相違が目立つことを防止でき、また、動き検
出の誤りによる劣化を大幅に少なくできる。
部ブロック図である。
一部ブロック図である。
するタップを示す略線図である。
を決定する論理を示す略線図である。
するための略線図である。
数決判定処理に使用するタップを示す略線図である。
数決判定処理のモードを示す略線図である。
を決定する論理を示す略線図である。
数決判定処理の流れを示すフローチャートである。
例のブロック図である。
するための略線図である。
る。
と、空間クラスタップの一例を示す略線図である。
すブロック図である。
明するための略線図である。
ム間差分検出回路、5・・・空間勾配検出回路、6,
7,8,9・・・比較器、11・・・動きクラス決定
部、101、102、104・・・タップ選択回路、1
08・・・係数メモリ、109・・・線順次変換回路
Claims (9)
- 【請求項1】 入力画像信号の部分画像に関して動きを
検出する動き判定装置において、 部分画像に関するフレーム間差分を検出する第1の検出
手段と、 上記部分画像に関する空間アクティビティを検出する第
2の検出手段と、 第1、第2および第3のしきい値をそれぞれ発生するし
きい値発生手段と、 上記第1の検出手段により検出されたフレーム間差分を
少なくとも上記第1および第2のしきい値とそれぞれ比
較する第1および第2の比較手段と、 上記第2の検出手段により検出された空間アクティビテ
ィを上記第3のしきい値と比較する第3の比較手段と、 上記第1、第2および第3の比較手段の比較結果が供給
され、上記部分画像の動きの程度を少なくとも3段階で
示す動きクラスを決定する手段とからなることを特徴と
する動き判定装置。 - 【請求項2】 請求項1において、 上記動きクラスを決定する手段は、 上記フレーム間差分が上記第1のしきい値より大きく、
且つ上記空間アクティビティが上記第3のしきい値より
大き時に、動きクラスを第1の動きクラスに決定し、 上記第1のクラスではなく、上記フレーム間差分が上記
第2のしきい値より大きい時に、動きクラスを第2の動
きクラスに決定し、 上記第1および第2のクラスではない時に、動きクラス
を第3の動きクラスに決定することを特徴とする動き判
定装置。 - 【請求項3】 請求項1において、 上記しきい値発生手段は、空間アクティビティによって
適応的に変化する第1、第2および第3のしきい値を発
生することを特徴とする動き判定装置。 - 【請求項4】 請求項1において、 上記動きクラスを決定する手段により決定された動きク
ラスに対して多数決判定の処理を行うようにしたことを
特徴とする動き判定装置。 - 【請求項5】 入力画像信号の部分画像に関して動きを
検出する動き判定方法において、 部分画像に関するフレーム間差分を検出する第1の検出
のステップと、 上記部分画像に関する空間アクティビティを検出する第
2の検出のステップと、 第1、第2および第3のしきい値をそれぞれ発生するス
テップと、 上記第1の検出ステップにより検出されたフレーム間差
分を少なくとも上記第1および第2のしきい値とそれぞ
れ比較するステップと、 上記第2の検出ステップにより検出された空間アクティ
ビティを上記第3のしきい値と比較するステップと、 上記比較により得られた比較結果が供給され、上記部分
画像の動きの程度を少なくとも3段階で示す動きクラス
を決定するステップとからなることを特徴とする動き判
定方法。 - 【請求項6】 入力画像信号から走査線構造の異なる複
数の出力画像信号を形成するようにした画像情報変換装
置において、 出力画像信号の生成すべき画素の周辺に位置する入力画
像信号の複数の第1の画素を選択する第1のデータ選択
手段と、 出力画像信号の生成すべき画素の周辺に位置する入力画
像信号の複数の第2の画素を選択する第2のデータ選択
手段と、 出力画像信号の生成すべき画素の周辺に位置する入力画
像信号の複数の第3の画素を選択する第3のデータ選択
手段と、 予め取得されている推定式係数を記憶するメモリ手段
と、 上記第1のデータ選択手段で選択された複数の第1の画
素と上記推定式係数の線形推定式によって、出力画像信
号の画素を生成する信号生成手段と、 上記第2のデータ選択手段で選択された複数の第2の画
素に基づいて、空間クラスを形成し、上記第3のデータ
選択手段で選択された複数の第3の画素に基づいて、動
きクラスを形成し、上記空間クラスと上記動きクラスと
を統合したクラス情報に対応して上記推定式係数を上記
信号生成手段に供給するクラス決定手段と、 上記信号生成手段に対して接続され、変換画像を指定さ
れた走査線構造へ変換するための走査変換手段とを有
し、 上記動きクラスを形成するための動き判定部は、 上記複数の第3の画素からなる部分画像に関するフレー
ム間差分を検出する第1の検出手段と、 上記部分画像に関する空間アクティビティを検出する第
2の検出手段と、 第1、第2および第3のしきい値をそれぞれ発生するし
きい値発生手段と、 上記第1の検出手段により検出されたフレーム間差分を
少なくとも上記第1および第2のしきい値とそれぞれ比
較する第1および第2の比較手段と、 上記第2の検出手段により検出された空間アクティビテ
ィを上記第3のしきい値と比較する第3の比較手段と、 上記第1、第2および第3の比較手段の比較結果が供給
され、上記部分画像の動きの程度を少なくとも3段階で
示す動きクラスを決定する手段とからなることを特徴と
する画像情報変換装置。 - 【請求項7】 請求項6において、 インターレス方式入力画像信号からプログレッシブ方式
出力画像信号を形成するようにしたことを特徴とする画
像情報変換装置。 - 【請求項8】 請求項6において、 さらに、水平方向に上記入力画像信号の2倍の画素数の
出力画像信号を生成することを特徴とする画像情報変換
装置。 - 【請求項9】 請求項6において、 上記予測係数は、上記線形推定式によって、出力画像信
号の画素を生成した時に、生成された値と上記画素の真
値との誤差を最小とするように、上記クラス情報毎に予
め学習によって求めることを特徴とする画像情報変換装
置。
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP22822198A JP4193233B2 (ja) | 1998-08-12 | 1998-08-12 | 動き判定装置、その方法および画像情報変換装置 |
| US09/371,356 US6201833B1 (en) | 1998-08-12 | 1999-08-10 | Motion determining apparatus, method thereof, and picture information converting apparatus |
| KR19990033122A KR100633715B1 (ko) | 1998-08-12 | 1999-08-12 | 움직임 판정 장치, 그 방법, 및 화상 정보 변환 장치 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP22822198A JP4193233B2 (ja) | 1998-08-12 | 1998-08-12 | 動き判定装置、その方法および画像情報変換装置 |
Publications (3)
| Publication Number | Publication Date |
|---|---|
| JP2000059740A true JP2000059740A (ja) | 2000-02-25 |
| JP2000059740A5 JP2000059740A5 (ja) | 2005-09-08 |
| JP4193233B2 JP4193233B2 (ja) | 2008-12-10 |
Family
ID=16873081
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP22822198A Expired - Fee Related JP4193233B2 (ja) | 1998-08-12 | 1998-08-12 | 動き判定装置、その方法および画像情報変換装置 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US6201833B1 (ja) |
| JP (1) | JP4193233B2 (ja) |
| KR (1) | KR100633715B1 (ja) |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1294724C (zh) * | 2003-09-19 | 2007-01-10 | 北京航星网讯技术开发有限公司 | 被监测对象“动变静”图像传输报警装置 |
| US7627198B2 (en) | 2003-05-29 | 2009-12-01 | Sony Corporation | Information signal processing device and processing method, codebook generating device and generating method, and program for executing the methods |
| US7684635B2 (en) | 2003-06-27 | 2010-03-23 | Sony Corporation | Signal processing device, and signal processing method, and program, and recording medium |
| US7821572B2 (en) | 2003-06-06 | 2010-10-26 | Sony Corporation | Apparatus and method for processing information signal, apparatus and method for producing coefficient, apparatus and method for producing lookup table, program for performing each method, and medium recording each program |
| US7844136B2 (en) | 2003-05-29 | 2010-11-30 | Sony Corporation | Apparatus and method for generating coefficients, apparatus and method for generating class configuration, informational signal processing apparatus, and programs for performing these methods |
Families Citing this family (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4168490B2 (ja) * | 1998-09-03 | 2008-10-22 | ソニー株式会社 | 動き判定装置、その方法および画像情報変換装置 |
| US6987866B2 (en) * | 2001-06-05 | 2006-01-17 | Micron Technology, Inc. | Multi-modal motion estimation for video sequences |
| FR2851397B1 (fr) * | 2003-02-14 | 2005-05-13 | Canon Europa Nv | Procede et dispositif d'analyse de sequences video dans un reseau de communication |
| CN107923745B (zh) * | 2015-08-26 | 2021-07-23 | 住友建机株式会社 | 挖土机的测量装置 |
Family Cites Families (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US4651211A (en) * | 1986-01-17 | 1987-03-17 | Rca Corporation | Video signal motion detecting apparatus |
| JPH082106B2 (ja) * | 1986-11-10 | 1996-01-10 | 国際電信電話株式会社 | 動画像信号のハイブリツド符号化方式 |
| JP2830111B2 (ja) | 1989-07-21 | 1998-12-02 | ソニー株式会社 | 高能率符号化装置 |
| IT1241184B (it) * | 1990-03-02 | 1993-12-29 | Cselt Centro Studi Lab Telecom | Perfezionamenti ai sistemi ibridi di codifica di segnali video. |
| US5497203A (en) * | 1991-10-30 | 1996-03-05 | Mitsubishi Denki Kabushiki Kaisha | Motion detection circuit for high definition television based on muse |
| JPH05344493A (ja) * | 1992-06-10 | 1993-12-24 | Victor Co Of Japan Ltd | 動画像符号化装置 |
| JP2591441B2 (ja) * | 1993-09-28 | 1997-03-19 | 日本電気株式会社 | 動画像信号の動ベクトル検出装置 |
| US5903481A (en) | 1994-09-09 | 1999-05-11 | Sony Corporation | Integrated circuit for processing digital signal |
-
1998
- 1998-08-12 JP JP22822198A patent/JP4193233B2/ja not_active Expired - Fee Related
-
1999
- 1999-08-10 US US09/371,356 patent/US6201833B1/en not_active Expired - Lifetime
- 1999-08-12 KR KR19990033122A patent/KR100633715B1/ko not_active Expired - Fee Related
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7627198B2 (en) | 2003-05-29 | 2009-12-01 | Sony Corporation | Information signal processing device and processing method, codebook generating device and generating method, and program for executing the methods |
| US7844136B2 (en) | 2003-05-29 | 2010-11-30 | Sony Corporation | Apparatus and method for generating coefficients, apparatus and method for generating class configuration, informational signal processing apparatus, and programs for performing these methods |
| US7821572B2 (en) | 2003-06-06 | 2010-10-26 | Sony Corporation | Apparatus and method for processing information signal, apparatus and method for producing coefficient, apparatus and method for producing lookup table, program for performing each method, and medium recording each program |
| US7684635B2 (en) | 2003-06-27 | 2010-03-23 | Sony Corporation | Signal processing device, and signal processing method, and program, and recording medium |
| CN1294724C (zh) * | 2003-09-19 | 2007-01-10 | 北京航星网讯技术开发有限公司 | 被监测对象“动变静”图像传输报警装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP4193233B2 (ja) | 2008-12-10 |
| KR100633715B1 (ko) | 2006-10-13 |
| US6201833B1 (en) | 2001-03-13 |
| KR20000017281A (ko) | 2000-03-25 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR100638500B1 (ko) | 정보 신호 처리 장치, 화상 정보 변환 장치, 및 화상 디스플레이 장치 | |
| JP4147632B2 (ja) | 画像情報変換装置、画像情報変換方法、およびテレビジョン受像機 | |
| JP4193233B2 (ja) | 動き判定装置、その方法および画像情報変換装置 | |
| JP4168490B2 (ja) | 動き判定装置、その方法および画像情報変換装置 | |
| JP4131048B2 (ja) | 画像情報変換装置、変換方法および画像表示装置 | |
| JP3946781B2 (ja) | 画像情報変換装置及び方法 | |
| JP4140091B2 (ja) | 画像情報変換装置および画像情報変換方法 | |
| JP4470324B2 (ja) | 画像信号変換装置および方法 | |
| JP2000083225A (ja) | 予測演算装置および画像情報変換装置 | |
| JP4078719B2 (ja) | 画像情報変換装置、変換方法および画像表示装置 | |
| JP3480011B2 (ja) | 画像情報変換装置 | |
| JP3480015B2 (ja) | 画像データの生成装置および生成方法 | |
| JP4305688B2 (ja) | 画像処理装置および方法、並びに記録媒体 | |
| JP4310847B2 (ja) | 画像情報変換装置および変換方法 | |
| JP4123587B2 (ja) | 画像情報処理装置および方法 | |
| JP3800638B2 (ja) | 画像情報変換装置および方法 | |
| JP4174891B2 (ja) | 画像情報変換装置および方法 | |
| JPWO2000067480A1 (ja) | 画像信号変換装置および方法 | |
| JP4042121B2 (ja) | 画像情報処理装置及び画像情報処理方法 | |
| JP2000092454A (ja) | 画像情報変換装置および画像情報変換方法 | |
| JP4193236B2 (ja) | 画像情報変換装置、画像情報変換方法、およびテレビジョン受像機 | |
| JP2000134586A (ja) | 画像情報変換装置および画像表示装置 | |
| JP2000059738A (ja) | 画像データ変換装置及び画像データ変換方法 | |
| JP2000083223A (ja) | 画像情報変換装置および画像情報変換方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050310 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050310 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070918 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071109 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080902 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080915 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111003 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121003 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131003 Year of fee payment: 5 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| LAPS | Cancellation because of no payment of annual fees |