[go: up one dir, main page]

JP4231565B2 - 画像情報エンコーディングシステム - Google Patents

画像情報エンコーディングシステム Download PDF

Info

Publication number
JP4231565B2
JP4231565B2 JP35079297A JP35079297A JP4231565B2 JP 4231565 B2 JP4231565 B2 JP 4231565B2 JP 35079297 A JP35079297 A JP 35079297A JP 35079297 A JP35079297 A JP 35079297A JP 4231565 B2 JP4231565 B2 JP 4231565B2
Authority
JP
Japan
Prior art keywords
output
image
value
comparator
signal indicating
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP35079297A
Other languages
English (en)
Other versions
JPH11205796A5 (ja
JPH11205796A (ja
Inventor
暁 山内
Original Assignee
テキサス インスツルメンツ インコーポレイテツド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by テキサス インスツルメンツ インコーポレイテツド filed Critical テキサス インスツルメンツ インコーポレイテツド
Priority to JP35079297A priority Critical patent/JP4231565B2/ja
Priority to US09/212,763 priority patent/US6678324B1/en
Publication of JPH11205796A publication Critical patent/JPH11205796A/ja
Publication of JPH11205796A5 publication Critical patent/JPH11205796A5/ja
Application granted granted Critical
Publication of JP4231565B2 publication Critical patent/JP4231565B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、画像信号のエンコーダに関し、特に、MPEGに適用し得るエンコード技術に関する。
【0002】
【従来の技術及びその課題】
従来のMPEGエンコーダのエンコード方法を図1で説明すると、ピクチャ並べ換え部1が入力オリジナル画像の符号化順序を入れ替え、動き推定部2が画像の時間方向の動きを推定し、定めた符号化モードで検出した動きベクトルを出力する。差分演算部3は、動き推定部2の出力である「圧縮前の画像」と動き予測された圧縮画像との差を出力する。DCT部4はその差分出力をDCTし、量子化部5は、バッファ10の利用率より算出したビットレート制御値を用いてそのDCT出力を量子化する。可変長符号化部6は量子化値を可変長符号に変換する。逆量子化部7は量子化値に対し前述のビットレート制御値を用いて逆量子化を行い、IDCT部8で逆DCTされる。多重化部9は可変長符号化6及び動き推定部2からの出力を多重化してバッファ10へ送り、バッファ10はその入力を格納し、そのデータをビットストリームとして出力する。加算部11はIDCT部8の出力と動き予測部13の出力を加算して出力する。メモリ12は圧縮画像を格納する。動き予測部13は圧縮画像、動きベクトル、符号化モードを用いて最適な動きを予測し出力する。
【0003】
上述の様に従来のMPEGエンコード方法では、量子化の為のビットレート制御値をバッファ10の利用率のみを用いて算出しており、そのため画像の状況(動きの早い画像、静止化している画像など)とは無関係に量子化してしまい、視覚的に良好な画像圧縮ができなかった。例えば、入力画像が、図2のように背景に噴水があって多量の水の動きがあり、その前に人間が立ち止っている画像の場合、人間の視覚特性を考慮すると、噴水の水に対しては「動く物体」であるため画像のボケは目立たないが、立ち止っている人間に対しては静止画であるため画像のボケは目立つ。従来のMPEGエンコード方法では、水の部分に対する動き推定及び予測が難しい為に、差分演算部3からの差分出力が多くなり、DCT部からも多量の情報量が発生する。このような状況において、バッファ10の利用率を一定に保つようにビットレート制御が行われるために、量子化部5においてこれをコントロールする。即ち、量子化ステップが粗くなり、量子化部5の出力については多量の情報とならないようにフィードバックが働く。ここでフィードバックのパラメータとなるバッファの利用率は、例えば15枚の画像の平均等を取る為、量子化ステップの粗さは水の部分でも人間の顔の部分でも区別されず、人間の顔がボケてしまい、視覚的に「良くない絵」になってしまう。
【0004】
【課題を達成するための手段及び作用】
本発明のエンコード方法においては、静止している画像部分等の視覚的に高画質化が望まれる画像分を検出し、その画像部分の量子化ステップの粗さを変えることを特徴とする。更に、その検出を動きベクトルと画像誤差値を用いて行う。
【0005】
【実施例】
本発明の実施例を図面を参照して説明する。
図1は一実施例に係るMPEGエンコーダのブロック図であり、その特徴部分は高画質化部分検出部20とビットレート制御値補正部21を設けた点にある。即ち、高画質化部分検出部20は、動き推定部2からの動きベクトル値および画像誤差値を用いて視覚的に高画質化が望まれる部分を検出し、検出結果を出力する。ビットレート制御値補正部21は、バッファ10からの出力であるバッファ使用率と高画質化部分検出部20からの出力とに基いてビットレート制御値を算出し、量子化部5へ出力する。ここで、画像誤差値とは、現時点で圧縮を行う「圧縮前の画像」(動き推定部2の出力)とピクチャ蓄積部12の出力の「圧縮前の画像」を動きベクトル補正した結果の画像との差分である。
又、MPEGエンコーダではマクロブロックと呼ばれるある領域ごとに動きベクトル、画像誤差出力が出力される為、高画質化部分検出部20での検出結果はある決まった大きさの領域ごとに判定される。この高画質化部分検出部20について以下に詳述する。
【0006】
図3に高画質化部分検出部20の一例に係るブロック図を示す。入力された動きベクトルはABS30により絶対値化され、大小判定用のコンパレータ31及び32に入力する。コンパレータ31の正側入力は規準ベクトル値1となっており、ABS30の出力がこの規準ベクトル値1より少ないとコンパレータ31は「静止部」と判定し出力する。コンパレータ32は、その負側出力が規準ベクトル2となっており、ABS30の出力がこの規準ベクトル値2より大きいと、コンパレータ32は「動き量の大きな部分」と判定し出力する。同様に画像誤差値についても大小判定用のコンパレータ33及び34に接続されており、コンパレータ33は「誤差量の少ない部分」、コンパレータ34は「誤差量の大きい部分」と判定し出力する。コンパレータ31乃至34の出力は論理積部35及び36へ夫々入力する。論理積部35はコンパレータ34と32の出力の論理積をとり、「動き量が大きく、誤差も大きい部分」を判定する。又、論理積部36はコンパレータ33と31の出力の論理積をとり、「静止部で誤差が少ない部分」を判定する。ここで静止部とは必ずしもベクター量=0ではなく、「非常に動きが少ない」旨を表現する。
【0007】
時間方向フィルタ37は、時間方向のフィルタリングにより論理積部35の出力である「静止部で誤差が少ない部分」の検出精度を向上させている。動画部比率検出部38は、論理積部36の検出した「動きが大きく、誤差も多い部分」の数をカウントし、一画面当りの発生量が所定の値よりも多いと「動画部多数」の信号を出力する。ここで、論理積部35の検出する「動きが大きく、誤差も多い部分」は前述の従来技術の入力画像の部分で述べた水の部分に相当し、そのような画像が多いことを動画部比率検出部38が判定する。
本実施例では、動画部比率検出部38は一画像分の比率を検出し、その結果を次の画像用に出力する。論理積部39は、動画部比率検出部38と時間方向フィルタ37の出力に基き、「一画面の内に“動きが大きく誤差も多い部分”が一定以上存在し、現在圧縮(量子化)する部分が、“静止部で誤差が少ない”」を判定し出力する。この出力が高画質化部分を表わす。この判定結果に基き、ビットレート制御値補正部21は、バッファ使用率から算出するビットレート制御値をさらに1/2と小さくし、量子化部5へ出力する。その結果、量子化ステップが細かくなり、静止画部のボケが少なくなる。
【0008】
図4は高画質化検出部20の他の例を示すブロック図であり、図3の例に比し第2フィルタとして画像内補間フィルター40が追加されている。フィルター40は、論理積部39が「高画質化部分でない」と判定してもその部分に接する周辺に「高画質化部分」がある場合には「高画質化部分」として補正するための補間用のフィルターである。このフィルターを設けることにより、静止画と動画を含んだ処理ブロックに対してもより高画質化処理が可能となる。
MPEGエンコーダの他の実施例として、図1に示したMPEGエンコーダの高画質化部分検出部20の入力として、画像誤差値、動きベクトルに加え、動き推定部2からの符号化モードの信号が入力され得る。図5にその詳細を示すが、設定部50が規準ベクトル値1を設定する部分である。この設定部50は符号化モードにより規準ベクトルを変化させ、非常にゆっくりな動き画像に対しても論理積部31が静止画を判定できるようにしている。例えば「動きベクトル」を動き推定部2が検出する際に、2つの時間的に離れた画像から検出するが、その2つの画像の時間差に比例して規準ベクトル値を増加させる。
上述の様に本発明を実施例に関し説明したが、本発明はそれらに限定されるものではない。
【0009】
【発明の効果】
本発明のMPEGエンコーダは、静止している画像の部分と動いている画像の部分とを検出し、その静止している画像部分に対して量子化ステップを細かくすることにより、静止している画像部分の圧縮による画像劣化を減少できる。
【図面の簡単な説明】
【図1】本発明の一実施例に係るMPEGエンコーダのブロック図。
【図2】入力画像の一例を説明する図。
【図3】図1の高画質化部分検出部20のブロック図。
【図4】図1の高画質化部分検出部20の他の例のブロック図。
【図5】本発明の他の実施例に係るMPEGエンコーダの高画質化部分検出部20のブロック図。
【符号の説明】
2 動き推定部
20 高画質化部分検出部
21 ビットレート制御値補正部

Claims (3)

  1. 動きベクトル値と画像誤差値とに基づいて高画質が望まれる画像部分を検出する回路と、
    上記検出結果とバッファ使用率とに基づいてビットレート制御値を算出する回路と、
    上記ビットレート制御値に基づいて量子化ステップの粗さを変える回路と、
    を有し、
    上記画像部分を検出する回路が、
    動きベクトルの絶対値を出力する絶対値回路と、
    第1の基準値と画像誤差値とを比較して画像の誤差量が少ない部分を示す第1の信号を出力するための第1のコンパレータと、
    第2の基準値と画像誤差値とを比較して画像の誤差量が多い部分を示す第2の信号を出力するための第2のコンパレータと、
    第1の基準ベクトル値と上記動きベクトルの絶対値とを比較して動き量が小さい部分を示す第3の信号を出力するための第3のコンパレータと、
    第2の基準ベクトル値と上記動きベクトルの絶対値とを比較して動き量が大きい部分を示す第4の信号を出力するための第4のコンパレータと、
    上記第2のコンパレータの出力と第4のコンパレータの出力との論理積を得る第1の論理積部と、
    上記第1のコンパレータの出力と第3のコンパレータの出力との論理積を得る第2の論理積部と、
    上記第1の論理積部の出力に接続され、その出力信号の一画像分の頻度に応じて動画部が多数であることを示す信号を出力する動画部比率検出回路と、
    上記第2の論理積部の出力に接続され、その出力信号を時間軸方向に伸張して出力する時間方向フィルタと、
    上記動画部比率検出回路の出力と上記時間方向フィルタの出力とを受けて高画質が望まれる上記画像部分を示す信号を出力する第3の論理積部と、
    を備える、
    画像情報エンコーディングシステム。
  2. 上記第3の論理積部の出力に接続され、当該出力信号の前後の信号に応じて入力した出力信号を高画質が望まれる画像部分を示す信号に補正する第2のフィルタを更に有する請求項1に記載の画像情報エンコーディングシステム。
  3. 上記画像誤差値を生成するための2つの画像の時間差に比例して上記第1の基準ベクトル値を増加させる設定部を更に有する請求項1又は2に記載の画像情報エンコーディングシステム。
JP35079297A 1997-12-19 1997-12-19 画像情報エンコーディングシステム Expired - Fee Related JP4231565B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP35079297A JP4231565B2 (ja) 1997-12-19 1997-12-19 画像情報エンコーディングシステム
US09/212,763 US6678324B1 (en) 1997-12-19 1998-12-16 Image information encoding system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP35079297A JP4231565B2 (ja) 1997-12-19 1997-12-19 画像情報エンコーディングシステム

Publications (3)

Publication Number Publication Date
JPH11205796A JPH11205796A (ja) 1999-07-30
JPH11205796A5 JPH11205796A5 (ja) 2005-07-07
JP4231565B2 true JP4231565B2 (ja) 2009-03-04

Family

ID=18412909

Family Applications (1)

Application Number Title Priority Date Filing Date
JP35079297A Expired - Fee Related JP4231565B2 (ja) 1997-12-19 1997-12-19 画像情報エンコーディングシステム

Country Status (2)

Country Link
US (1) US6678324B1 (ja)
JP (1) JP4231565B2 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6115420A (en) * 1997-03-14 2000-09-05 Microsoft Corporation Digital video signal encoder and encoding method
JP4256574B2 (ja) * 2000-08-04 2009-04-22 富士通株式会社 画像信号符号化方法および画像信号符号化装置
JP4769392B2 (ja) * 2001-09-25 2011-09-07 キヤノン株式会社 信号処理装置
US7473911B2 (en) * 2002-07-30 2009-01-06 Applied Materials, Israel, Ltd. Specimen current mapper
US7769083B2 (en) 2003-06-19 2010-08-03 Panasonic Corporation Image processing and transmission using high and low compression ratios depending on image change conditions
JP2005318180A (ja) * 2004-04-28 2005-11-10 Funai Electric Co Ltd ハードディスクレコーダ、映像記録装置
JP4335779B2 (ja) * 2004-10-28 2009-09-30 富士通マイクロエレクトロニクス株式会社 符号化装置およびこれを用いた録画装置、並びに符号化方法および録画方法
US8976857B2 (en) * 2011-09-23 2015-03-10 Microsoft Technology Licensing, Llc Quality-based video compression
JP2013146001A (ja) * 2012-01-16 2013-07-25 Olympus Imaging Corp 撮像装置
KR102209292B1 (ko) * 2015-11-04 2021-01-29 삼성전자 주식회사 멀티미디어 시스템에서 데이터 제공 방법 및 장치

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2068751C (en) * 1991-05-24 1998-05-19 Tokumichi Murakami Image coding system
JP3258840B2 (ja) * 1994-12-27 2002-02-18 シャープ株式会社 動画像符号化装置および領域抽出装置
WO1996028937A1 (fr) * 1995-03-09 1996-09-19 Sony Corporation Methode et dispositif de codage de signaux-images
JPH09121358A (ja) * 1995-10-25 1997-05-06 Matsushita Electric Ind Co Ltd 画像符号化及び復号化装置と方法
KR100188701B1 (ko) * 1996-01-08 1999-06-01 윤종용 가변속 고속 재생기능을 갖는 가변 비트율 동화상복호화장치
KR100203710B1 (ko) * 1996-04-30 1999-06-15 전주범 비트 발생량 조절기능을 갖는 영상 부호화 시스템
KR100238066B1 (ko) * 1996-06-26 2000-01-15 윤종용 양자화활동도를 이용한 비트 발생량 제어방법 및 그 영상 부호화장치
JPH1079948A (ja) * 1996-09-03 1998-03-24 Mitsubishi Electric Corp 画像符号化装置
US6118817A (en) * 1997-03-14 2000-09-12 Microsoft Corporation Digital video signal encoder and encoding method having adjustable quantization

Also Published As

Publication number Publication date
US6678324B1 (en) 2004-01-13
JPH11205796A (ja) 1999-07-30

Similar Documents

Publication Publication Date Title
JP2970417B2 (ja) 動画像符号化方式
JP2882287B2 (ja) 動画像符号化装置
JP3960451B2 (ja) シーン特性検出型動画像符号化装置
CN1679341A (zh) 用于提高效率和差错恢复能力的内容自适应多重描述运动补偿
JP2000505615A (ja) ブロックベースのビデオコーディングシステムにおける動的コーディング速度制御
US20050152450A1 (en) Coding apparatus and method, program, and recording medium
JP4231565B2 (ja) 画像情報エンコーディングシステム
JP2000165884A (ja) フィ―ルド/フレ―ムに対する決定ステップ及び運動ベクトルdctを有するビデオピクチャ圧縮及びコ―ディング
KR100229796B1 (ko) 열화영상에 대한 보상기능을 갖는 영상 복호화 시스템
JPS59141887A (ja) 動画像信号の予測符号化装置
JPH11177993A (ja) 動画像符号化装置
KR100203294B1 (ko) 동영상부호화시스템에서의 노이즈 감소를 위한 필터링방법 및 장치
JP2002204449A (ja) 量子化単位設定装置及び量子化単位設定方法、符号化装置及び符号化方法並びに情報記録媒体
JP2001008207A (ja) 動画像符号化装置及びその方法
JP2574572B2 (ja) 画像符号化方法及び画像符号化装置
KR100595144B1 (ko) 적응형 양자화 제어 방법.
JP2891250B2 (ja) 動画像符号化方法および装置
JPS61140291A (ja) 動画像信号の動静分離装置
JPH0818952A (ja) 画像信号符号化装置
JP2604762B2 (ja) 画像符号化装置
JP3861347B2 (ja) フィルタ装置およびフィルタリング方法
JP4359273B2 (ja) 符号化モード選択方法
JP3191433B2 (ja) 高能率符号化装置
KR0148142B1 (ko) 동화상복호화시스템의 영상데이타 분석장치
JP4469643B2 (ja) 画像処理回路

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041109

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041109

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060801

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20061101

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20061107

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070731

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20071031

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20071105

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071129

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20071221

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080321

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080509

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081202

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081208

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111212

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111212

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121212

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121212

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131212

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees