JP3990055B2 - 画像符号化・復号システムおよび画像符号化・復号方法並びに画像符号化装置および画像復号装置並びに画像符号化方法および画像復号方法並びに画像符号化・復号装置 - Google Patents
画像符号化・復号システムおよび画像符号化・復号方法並びに画像符号化装置および画像復号装置並びに画像符号化方法および画像復号方法並びに画像符号化・復号装置 Download PDFInfo
- Publication number
- JP3990055B2 JP3990055B2 JP31150398A JP31150398A JP3990055B2 JP 3990055 B2 JP3990055 B2 JP 3990055B2 JP 31150398 A JP31150398 A JP 31150398A JP 31150398 A JP31150398 A JP 31150398A JP 3990055 B2 JP3990055 B2 JP 3990055B2
- Authority
- JP
- Japan
- Prior art keywords
- information
- encoding
- image
- unit
- decoding
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Error Detection And Correction (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression Of Band Width Or Redundancy In Fax (AREA)
Description
(目次)
発明の属する技術分野
従来の技術(図62〜図68)
発明が解決しようとする課題
課題を解決するための手段
発明の実施の形態
(A)一実施形態の説明(図1〜図38)
(B)第1変形例の説明(図39〜図41)
(C)第2変形例の説明(図42〜図48)
(D)第3変形例の説明(図49〜図58)
(E)その他(図59〜図61)
発明の効果
【0002】
【発明の属する技術分野】
本発明は、静止画像や動画像等の画像情報(画像データ)を高能率に圧縮(符号化)および復元(復号)するための技術に関し、特に、誤りが存在する通信(伝送)路あるいは蓄積媒体等を通じて符号化情報に誤りが発生するような場合に用いて好適な、画像符号化・復号システム並びに画像符号化装置および画像復号装置並びに画像符号化方法および画像復号方法並びに画像符号化・復号装置に関する。
【0003】
【従来の技術】
図62は従来の画像通信システム(画像符号化・復号システム)の基本構成を示すブロック図で、この図62に示すシステム1aは、画像符号化装置100として符号化部101及び多重化102をそなえるとともに、画像復号装置200として多重化復号部201及び復号部202をそなえており、これらの各装置100,200が所定の伝送路(通信路)300を介して相互に接続された構成となっている。
【0004】
ここで、画像符号化装置100において、符号化部101は、入力画像信号Fを予測符号化や変換符号化,ベクトル量子化等の所定の符号化方式(アルゴリズム)で、画像データを1つ以上の画素から成るブロック単位で符号化するもので、量子化ステップサイズやDCT(離散コサイン変換)係数などの所定の符号化パラメータe1,e2,...,ex(xは自然数)を計算してその符号化パラメータe1,e2,...,exを符号化情報として出力するようになっている。
【0005】
なお、符号化パラメータe1,e2,...,exは、スカラ量とは限らず、例えば2次元動きベクトルであったり、ブロック変換符号化の場合の変換計数(次元数は1次元以上)であったりする。また、符号化部101において復号結果も参照して符号化を行なう場合は、例えば図63に示すような構成になる。即ち、符号化部101から出力された符号化パラメータe1,e2,...,exは、画像復号装置200における復号部202と同一の構成(復号アルゴリズム)を有する局所復号部103で復号され、その復号結果F′が符号化部101に入力されて参照される。
【0006】
さらに、多重化部102は、上記の符号化部101で得られた符号化パラメータe1,e2,...,exを多重化するもので、具体的には、符号化パラメータe1,e2,...,exについて、所定のシンタクス〔伝送フォーマット:情報をビット列に並べ、受信側でビット列を符号化情報に変換(多重化復号)することができるような文法〕に従って可変長符号または固定長符号に変換してビット列を伝送路300へ出力する。
【0007】
例えば図64に示すように、多重化部102は、ビット列の先頭や、ブロック符号化であればブロックラインの先頭、可変長符号または固定長符号などの途中において、同期回復可能なユニークワード400(同期信号)を付加し(同期回復可能なユニークワードからユニークワードまでの間をパケットと呼ぶこともある)、可変長符号化または固定長符号化された符号化パラメータe1,e2,...,exやその他の画像に関する情報などを付加してビット列を作成する。
【0008】
一方、画像復号装置200(受信側)において、多重化復号部201は、伝送路300から入力されるビット列から符号化パラメータe1,e2,...,exを多重化復号するものであるが、通常、伝送路300において誤りが付加される(符号誤りが発生する)ため、多重化復号した符号化パラメータは、例えばe1′,e2 ′,...,ex ′となり、必ずしも元の符号化パラメータe1,...,ex と同一にはならない。
【0009】
また、復号部202は、この多重化復号部201により多重化復号された符号化パラメータe1′,e2 ′,...,ex ′を基に画像データを復号するもので、その復号結果が再生画像信号F″として出力される。
ここで、現在、よく知られた画像符号化・復号技術の具体例としては、下記▲1▼,▲2▼に示すような国際標準化された動画像についての技術がある。
【0010】
▲1▼ISO/IEC JTC1/SC29/WG11 N2202(MPEG4) のSimple Profile
▲2▼ITU-T Recommendation H.263
次に、これらの技術を代表的な従来技術として説明する。
図65は上記▲2▼に関する画像符号化・復号システムの要部の構成例を示すブロック図で、この図65に示すシステム1bは、画像伝送装置500と画像伝送装置600とが伝送路300を介して相互に接続されており、それぞれが、送信系(画像符号化装置:video coder)500A,600Aとして、符号化部(source coder)501,601,多重化部(video multiplex coder) 502,602,送信バッファ(transmission buffer) 503,603,符号化制御部(coding controller) 504,604をそなえるとともに、受信系(画像復号装置:video decoder)500B,600Bとして、受信バッファ(receiving buffer)505,605,多重化復号部(video multiplex decoder) 506,606,復号部(source decoder)507,607をそなえて構成されている。
【0011】
ここで、画像符号化装置500A(600A)において、符号化部501(601)は、前記の符号化部101に相当し、入力画像信号(ビデオ信号:フレーム)Fを所定の符号化単位(1画素以上を有するブロック単位)で動き補償,予測誤差信号の離散コサイン変換,量子化等の所定の符号化処理を行なうことにより符号化パラメータe1,e2,...,exを得るもので、例えば図66に示すように構成される。
【0012】
そして、この符号化部501(601)では、入力画像信号Fと、入力画像信号Fと可変遅延フレームメモリ710で可変遅延した出力(動き補償,あるいはフレーム間の予測値)との差分(予測誤差)値を予測誤差計算部701で計算した値とが、符号化制御部504(604)からのスイッチ部702のスイッチ703の制御によって適応的に選択され、変換部705にてDCTなどの直交変換が行なわれたのち、量子化部706にて係数(DCT係数等)の量子化が行なわれる。
【0013】
また、このとき、符号化部501(601)では、図63により前述したような、次の符号化単位に対する符号化のための局所復号が行なわれる。即ち、逆量子化部707,逆変換部708を通じて量子化値(予測誤差)qが復号され、その復号結果が加算部709で予測値(スイッチ部702のスイッチ704を介して供給される1フレーム前の加算部709での加算結果)と加算されて可変遅延フレームメモリ710に蓄積される。
【0014】
以上のような符号化処理を通じて、予測の種類p,動きベクトルv,量子化パラメータqz,量子化値q,量子化ステップサイズqz等が上記の符号化パラメータe1,e2,...,exとして得られ、多重化部502(602)へ出力される。
次に、上記の多重化部502(602)は、前記の多重化部102に相当し、所定のシンタクス(伝送フォーマット)に従って、例えば図67に示すように、上記の予測の種類p,動きベクトルv,量子化パラメータqz,量子化値q,量子化ステップサイズqz等から成る符号化パラメータe1,e2,...,exをバイナリの可変長符号に変換し、所定の同期信号(後述するヘッダ)や入力画像の解像度等の情報を付加して符号化ビット列を作成することにより、符号化パラメータe1,e2,...,exを多重化するものである。
【0015】
具体的には、上述のごとく符号化パラメータe1,e2,...,exバイナリのビット列に変換した後、同じフレーム内のラインスキャン順に隣接しているブロックの符号化パラメータei(ただし、i=1〜x)を集め、前記▲1▼の符号化・復号技術では、例えば図68に示すようなフォーマットを有するビデオパケットと呼ばれるパケット800が、この多重化部502(602)で作成される。
【0016】
ここで、パケット800間の境界には必ず“Resync-Marker" と呼ばれるユニークワード801(同期信号:可変長符号化によるビット列が混在していても、必ず唯一のコードとして見い出すことのできるコード)が付加され、誤りが発生してそのパケット800が廃棄されても、次のパケット800のユニークワード801によって再同期をとることが可能になっている。
【0017】
また、このパケット800中には、例えば、マクロブロック(ブロックを複数集めたもの:標準化では4つのブロックの集まりをマクロブロックという)の位置を示す情報(macro block number) 802や量子化パラメータ(quant scale) 803,拡張コード(HEC)804,動き情報と直流成分などの情報(Motion&Header Information)805,この情報805と以降の情報とを区切る情報(Motion Marker)806,交流成分等の情報(Texture Information)807が適宜に搭載される。なお、ユニークワード801以外の情報801〜807の搭載順(出力順)は図68に示すものとは異なる場合もある。
【0018】
次に、上記の送信バッファ503(603)は、この多重化部502(602)で得られた符号化ビット列を一時的に保持するものであり、符号化制御部104は、伝送路300のビットレートが一定であったりして、伝送情報量(符号量)を制御する必要がある場合に、この送信バッファ503(603)の残量をパラメータとして符号化部501(601)での量子化の粗さを制御したり、多重化部502(602)にてその制御結果の多重化などを行なわせたりするものである。
【0019】
一方、画像復号装置600A(600B)において、受信バッファ505(605)は、伝送路300を通じて伝送されてきた符号化ビット列を受信して保持するものであり、多重化復号部506(606)は、前記の多重化復号部201に相当し、図65により上述した多重化部502(602)とは逆に、受信バッファ505(605)で保持されている符号化ビット列を前記のシンタクスに従って予測の種類p,動きベクトルv,量子化パラメータqz,量子化値q,量子化ステップサイズqz等から成る符号化パラメータe1,e2,...,ex(e1′,e2 ′,...,ex ′)に変換するものである。
【0020】
そして、復号部507(607)は、前記の復号部202に相当し、多重化復号部506(606)で得られた符号化パラメータe1,e2,...,ex(e1′,e2 ′,...,ex ′)を基に画像データを復号して再生画像信号を出力するものである。
上述のごとく構成された画像符号化・復号システム1bでは、符号化部501(601)において、予測符号化や変換符号化,ベクトル量子化等の所定の符号化方式で入力画像信号を符号化することにより、画像信号(画像データ)がもつ時間的,空間的な冗長度を削減して画像情報量を大幅に削減(画像圧縮)した上で、伝送路300を通じて伝送し、対向する復号部607(507)において、伝送されてきた画像データを復元して再生するので、伝送路300の帯域を有効に利用することができる。
【0021】
なお、1つの装置(例えば、パーソナルコンピュータ等)内で画像データを符号化して復号するような場合(画像データを伝送しない場合)は、符号化された画像データ(符号化パラメータe1,e2,...,ex)をハードディスク等の蓄積媒体に蓄積しておき、この蓄積媒体に蓄積された画像データを必要に応じて読み出して復号・再生することになる。ただし、この場合も、蓄積媒体を通じて誤りが符号化パラメータe1,...,ex に付加される可能性がある。
【0022】
【発明が解決しようとする課題】
ところで、上記のような画像符号化・復号システム1a,1bでは、符号化により所定の圧縮率が得られるが、その符号化方式が高能率であるほど、伝送路300(あるいは蓄積媒体)から受ける誤りの影響が大きい。即ち、画像データの符号化は上述したように画像信号のもつ時間的,空間的な冗長性を利用して行なわれるため、符号化された画像データ(符号化パラメータe1,e2,...,ex) に対して、たとえ部分的にでも誤りが発生すると、誤った部分を起点として時間的,空間的に誤りが伝播してしまい、正しい復号結果(再生画像)が得られなくなってしまう。
【0023】
そこで、従来より、このような誤り対策として、通信路符号化(誤り訂正符号)による誤り訂正を行なったり、予測符号化を行なう場合は予測係数値を小さくすることによって誤りの伝播を抑圧したりすることが考えられているが、いずれも、有効な対策にはなっていないのが現状であり、誤りに対する十分な耐性を確保できていない。
【0024】
本発明は、このような課題に鑑み創案されたもので、同じ符号化情報を有するブロックについての情報を符号化側から復号側へ渡すことで、一部のブロックの符号化情報に誤りが発生しても他のブロックの符号化情報から正しい値を得ることができるようにして、誤りに対する耐性を従来よりも向上させて再生画像の画質の悪化を最小限に抑えて、高品質な再生画像を得られるようにすることを目的とする。
【0025】
【課題を解決するための手段】
上記の目的を達成するために、本発明の画像符号化・復号システム(請求項1)は、画像データを符号化する画像符号化装置と、該画像符号化装置で符号化された画像データを復号して再生する画像復号装置とをそなえ、上記の画像符号化装置が、画像データを1つ以上の画素から成るブロック単位で符号化することによりそのブロックについて所定の符号化情報を得る符号化部と、この符号化部により得られた複数ブロックについての符号化情報のうち、どのブロックが同じ符号化情報を有しているかを表す共通情報を生成する共通情報生成部とをそなえるとともに、上記の画像復号装置が、上記の画像符号化装置の共通情報生成部で生成された共通情報に基づいて符号化情報の誤りを訂正する誤り訂正部と、この誤り訂正部により誤り訂正された符号化情報を復号して画像データを再生する復号部とをそなえていることを特徴としている。
【0026】
ここで、本画像符号化・復号システムは、上記の画像復号装置が、上記の誤り訂正部において誤り訂正不可能な符号化情報の再誤り訂正に必要な情報についての再送出要求を上記の画像符号化装置に行なう再送出要求部をそなえるとともに、上記の画像符号化装置が、上記の画像復号装置の再送出要求部からの再送出要求に応じた情報のみを上記の画像復号装置へ再送出する再送出部をそなえていてもよい(請求項2)。
【0027】
また、本発明の画像符号化・復号方法(請求項3)は、画像データを1つ以上の画素から成るブロック単位で符号化することによりそのブロックについて所定の符号化情報を得る符号化ステップと、この符号化ステップにより得られた複数ブロックについての符号化情報のうちどのブロックが同じ符号化情報を有しているかを表す共通情報を生成する共通情報生成ステップとをそなえるとともに、この共通情報生成ステップで生成された共通情報に基づいて符号化情報の誤りを訂正する誤り訂正ステップと、この誤り訂正ステップにより誤り訂正された符号化情報を復号して画像データを再生する復号ステップとをそなえて成ることを特徴としている。
【0028】
次に、本発明の画像符号化装置(請求項4)は、画像データを1つ以上の画素から成るブロック単位で符号化することによりそのブロックについて所定の符号化情報を得る符号化部と、この符号化部により得られた複数ブロックについての符号化情報のうちどのブロックが同じ符号化情報を有しているかを表す共通情報を生成する共通情報生成部と、少なくともこの共通情報生成部で生成された共通情報を画像復号装置へ送出する送出部とをそなえていることを特徴としている。
【0029】
ここで、上記の共通情報生成部は、複数ブロックでの符号化情報の発生頻度についてのヒストグラムを作成し、このヒストグラムにおいて発生頻度が所定値以下の符号化情報を粗く量子化してゆく、あるいは、そのヒストグラムにおいて近隣の符号化情報に修正してゆく、もしくは、近隣ブロックの符号化情報に修正してゆくことにより、符号化情報の共通化を行なって、上記の共通情報を生成するように構成されていてもよい(請求項5〜7)。
【0030】
また、上記の送出部は、同じ符号化情報を有するブロックを複数のパケットデータに分散して送出するように構成されていてもよいし(請求項8)、上記の共通情報を複数回送出するように構成されていてもよい(請求項9)。
さらに、本画像符号化装置は、画像復号装置から誤り訂正不可能な符号化情報の再誤り訂正に必要な情報についての再送出要求を受けると、その再送出要求に応じた情報のみを上記の画像復号装置へ再送出する再送出部をそなえていてもよい(請求項10)。
【0031】
次に、本発明の画像復号装置(請求項11)は、画像符号化装置において画像データを1つ以上の画素から成るブロック単位で符号化することによりそのブロックについて所定の符号化情報が得られるとともに複数ブロックについての符号化情報のうちどのブロックが同じ符号化情報を有しているかを表す共通情報が得られる場合に、少なくとも、その共通情報を画像符号化装置から受信する受信部と、この受信部で受信された共通情報に基づいて符号化情報の誤りを訂正する誤り訂正部と、この誤り訂正部により誤り訂正された符号化情報を復号して画像データを再生する復号部とをそなえていることを特徴としている。
【0032】
ここで、上記の誤り訂正部は、符号化情報に誤りのあることが予め分かっている場合は、上記の共通情報に基づいて誤りのある符号化情報と同じ符号化情報を有する他のブロックを特定し、そのブロックの符号化情報を上記誤りのあるブロックの符号化情報として出力することにより、符号化情報の誤りを訂正するように構成されていてもよい(請求項12)。
【0033】
また、上記の誤り訂正部は、符号化情報に誤りのあることが予め分からない場合は、上記の共通情報に基づいて同じ符号化情報を有するべき複数のブロックを特定し、その複数のブロックの各符号化情報を比較することによって誤りを検出してその誤りを訂正するように構成されていてもよい(請求項13)。
さらに、上記の誤り訂正部は、上記共通情報またはブロックの識別情報もしくは両方の信頼性を判定し、信頼性の低い情報についてはその信頼性の低い情報以外の情報から正しい情報を推定するように構成されていてもよい(請求項14)。
【0034】
また、本画像復号装置は、上記の誤り訂正部において誤り訂正不可能な符号化情報の再誤り訂正に必要な情報についての再送出要求を画像符号化装置に行なう再送出要求部をそなえていてもよい(請求項15)。
次に、本発明の画像符号化方法(請求項16)は、画像データを1つ以上の画素から成るブロック単位で符号化することによりそのブロックについて所定の符号化情報を得る符号化ステップと、この符号化ステップにより得られた複数ブロックについての符号化情報のうちどのブロックが同じ符号化情報を有しているかを表す共通情報を生成する共通情報生成ステップと、少なくともこの共通情報生成ステップで生成された共通情報を復号側へ送出する送出ステップとをそなえて成ることを特徴としている。
【0035】
また、本発明の画像復号方法(請求項17)は、画像データを1つ以上の画素から成るブロック単位で符号化することによりそのブロックについて所定の符号化情報が得られるとともに複数ブロックについての符号化情報のうちどのブロックが同じ符号化情報を有しているかを表す共通情報が符号化側で得られる場合に、少なくとも、その共通情報を符号化側から受信する受信ステップと、この受信ステップで受信した共通情報に基づいて符号化情報の誤りを訂正する誤り訂正ステップと、この誤り訂正ステップにより誤り訂正された符号化情報を復号して画像データを再生する復号ステップとをそなえて成ることを特徴としている。
【0036】
さらに、本発明の画像符号化・復号装置(請求項18)は、画像データを符号化する画像符号化装置と、この画像符号化装置に対向して設けられた画像符号化・復号装置で符号化された画像データを復号して再生する画像復号装置とをそなえた装置において、上記の画像符号化装置が、画像データを1つ以上の画素から成るブロック単位で符号化することにより或るブロックについて所定の符号化情報を得る符号化部と、この符号化部により得られた複数ブロックについての符号化情報のうちどのブロックが同じ符号化情報を有しているかを表す共通情報を生成する共通情報生成部とをそなえるとともに、上記の画像復号装置が、上記の対向する画像符号化・復号装置で生成される、この画像符号化・復号装置での画像データの符号化により得られた複数ブロックについての符号化情報のうちどのブロックが同じ符号化情報を有しているを表す共通情報に基づいて符号化情報の誤りを訂正する誤り訂正部と、この誤り訂正部により誤り訂正された符号化情報を復号して該画像データを再生する復号部とをそなえていることを特徴としている。
【0037】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態を説明する。
(A)本発明の一実施形態の説明
図1は本発明の一実施形態としての画像通信システム(画像符号化・復号システム)の構成を示すブロック図で、この図1に示すシステム1も、画像データを符号化する画像符号化装置2と、この画像符号化装置2で符号化された画像データを復号して再生する画像復号装置3とをそなえて構成されており、これらの画像符号化装置2と画像復号装置3とが画像通信用の所望の伝送路4(有線でも無線でもよい)を介して相互に接続されている。
【0038】
さらに、この図1に示すように、上記の画像符号化装置2は、その要部の機能に着目すると、符号化部21,共通化部22および多重化部23等をそなえて構成されており、上記の画像復号装置3は、その要部の機能に着目すると、多重化復号部31,誤り検出/訂正部32および復号部33等をそなえて構成されている。
【0039】
ここで、まず、画像符号化装置2において、符号化部21は、入力画像信号(画像データ)Fを所定のブロック(1画素以上の画素の集まり:矩形でも非矩形でもよい)に分割し、そのブロック単位で入力画像信号Fを予測符号化や変換符号化,ベクトル量子化等の所定の符号化方式(アルゴリズム)で符号化することにより、量子化パラメータ(量子化ステップサイズ)や量子化値,DCT係数,テクスチャ,色,動画像の場合は動き補償ベクトルなどの所定の符号化パラメータe1,e2,...,ex(xは自然数)を計算してその符号化パラメータe1,e2,...,exを符号化情報として出力するものである。なお、この場合も、符号化パラメータe1,...,ex は、スカラ量とは限らず、例えば2次元動きベクトルであったり、ブロック変換符号化の場合の変換係数(次元数は1次元以上)であったりする。
【0040】
また、共通化部(共通情報生成部)22は、基本的に、この符号化部21で得られた符号化パラメータe1,e2,...,exを所定の共通化単位で各符号化パラメータe1,e2,...,ex毎に共通化して(共通化しない場合もある)、その共通化結果として符号化パラメータek1,ek2,...,ekx を出力するとともに、この共通化の過程でどのブロックが共通なパラメータ(同じ符号化情報)を有しているかを表す共通化情報(共通情報)ecomを計算(生成)して出力するものである。
【0041】
ここで、共通化とは、複数のブロックにわたり、例えば、或る符号化パラメータek1,ek2,...,ekx に関し、似た値であればできるだけ復号画像の劣化を抑えるようにしつつ、同じ値になるように計算し直すことである。なお、上記の共通化単位は、例えば図2(a)〜図2(d)にそれぞれ網かけ部で示すように、複数フレームのそれぞれ一部分のブロック(複数フレームの近隣あるいは非近隣ブロック)であってもよいし、1フレームのみ,複数フレーム,1フレームの一部分のみのいずれであってもよい。
【0042】
また、共通化後の符号化パラメータek1,ek2,...,ekx は、例えば、符号化部21において共通化後の符号化パラメータ ek1を用いて符号化パラメータe2の計算を行なわなければならないような場合(共通化部22で符号化パラメータek1,ek2,...,ekx の共通化を行なう場合)には、図1中に破線で示すように、再度、符号化部21に入力される。
【0043】
さらに、多重化部23は、上記の共通化部22で得られた共通化後の符号化パラメータek1,ek2,...,ekx の多重化と共通化情報ecomの多重化とを行なうもので、具体的には、後述するように、符号化パラメータek1,ek2,...,ekx 及び共通化情報ecomを、それぞれ、所定のシンタクス(伝送フォーマット)に従って可変長符号(または固定長符号)に変換することにより、符号化ビット列を生成するようになっている。なお、得られた符号化ビット列は後述するようにパケット化されて伝送路4を介し画像復号装置3へ送出される。つまり、この多重化部23は、少なくとも上記の共通化部22で生成された共通化情報ecomを画像復号装置3へ送出する送出部としての機能を果たしている。
【0044】
一方、画像復号装置3において、多重化復号部31は、伝送路4を通じて画像符号化装置2から伝送されてくる符号化ビット列(符号化パラメータek1,ek2,...,ekx +共通化情報ecom)を受信して、その符号化ビット列に対して上記の多重化部23による多重化処理とは逆の処理を施すことにより、伝送路4から受信した符号化ビット列を多重化復号して符号化前の値(符号化パラメータ ek1′,ek2′,...,ekx′及び共通化情報ecom′)を得るものである。つまり、この多重化復号部31は、少なくとも画像符号化装置2の共通化部22で得られた共通化情報ecomを画像符号化装置2から受信する受信部としての機能を果たしている。
【0045】
ここで、この場合も、符号化パラメータ ek1′,ek2′,...,ekx′及び共通化情報ecom′は、伝送路4により誤りが付加されているので、必ずしも、元の符号化パラメータek1,ek2,...,ekx 及び共通化情報ecomと一致しないが、本実施形態では、少なくとも、共通化情報ecomについては、誤り検出/訂正部において後述するようにして受信した共通化情報ecom′から復元(推定)できるようになっている。
【0046】
また、誤り検出/訂正部32は、上記の多重化復号部32で得られた共通化情報ecom′から元の共通化情報ecomを復元(推定)して、通常の誤り訂正符号による誤り訂正ではなく、その共通化情報ecomに基づいて上記の符号化パラメータ ek1′,ek2′,...,ekx′の誤りを訂正することにより、誤り訂正後の符号化パラメータ ek1″,ek2″,...,ekx″を得るものである。なお、得られた符号化パラメータ ek1″,ek2″,...,ekx″は、誤り訂正前の符号化パラメータ ek1′,ek2′,...,ekx′よりも誤りの数は少ないが、必ずしも、完全に元の共通化後の符号化パラメータek1,ek2,...,ekx と一致しない場合もある。
【0047】
そして、復号部33は、この誤り検出/訂正部32で誤り訂正された符号化パラメータ ek1″,ek2″,...,ekx″を復号して画像データFを再生する(再生画像信号Fk′を得る)ものである。
以下、上記の各部21〜23及び31〜33のうち、本実施形態の要部である共通化部22,多重化部23および誤り検出/訂正部32に着目して、それぞれの動作を項目別に詳述する。
【0048】
(1)共通化部22の動作説明
共通化部22では、基本的に、図3に示すようなフローチャート(アルゴリズム)に従って動作することにより、複数ブロックにわたって符号化パラメータe1,e2,...,exの共通化を行ない、共通化情報ecomを生成する。
即ち、まず、図2により前述したような共通化単位である、1フレーム中あるいは複数フレーム中の全てのブロックまたは一部分(分割部分)のブロックを集める。なお、このようなブロックの収集は公知のセグメンテーション方法で行なってもよい。
【0049】
そして、このような単位で得た各ブロック(ブロック番号n:nは自然数)の符号化パラメータei(ただし、i=1〜x)をe(n)(単に「e」と表記することもある)、共通化後の符号化パラメータをek(n)(単に「ek」と表記することもある)、共通化情報をecomと表記すると、共通化前の符号化パラメータeのとりうる値はm種類(mはm≦nを満足する自然数)存在することになる(ステップA1)。
【0050】
次に、共通化部22は、上記の符号化パラメータeについて共通化を行なって、m種類の値をu種類(ただし、uはu<mを満足する自然数)にする(ステップA2)。つまり、この共通化部22は、符号化パラメータeを共通化することで、伝送すべき符号化パラメータeの量を削減するとともに、同じ情報(符号化パラメータe)をもつブロックを増やして同じ情報をもつブロックが必ず複数分存在するようにしているのである。
【0051】
このときの具体的な共通化方法としては、例えば、
▲1▼複数ブロックでの符号化パラメータeの発生(出現)頻度についての統計量を調べて共通化を行なう方法
▲2▼公知のクラスタリングを行なって共通化を行なう方法
▲3▼或るブロックの周囲のブロックの符号化パラメータeについて似ているか否かを調べて似ているブロックについて共通化を行なう方法
等がある。
【0052】
そして、共通化部22は、上記の共通化により得られた符号化パラメータek(n)(以下、単に「符号化パラメータek」と表記することもある)と、上記の共通化の過程で計算(生成)される共通化情報ecomとを出力する(ステップA3:共通情報生成ステップ)。例えば、共通化を行なった結果、各ブロックの或る符号化パラメータekの値が、図4(a)に示すような状態になっており、各ブロックのブロック番号(識別情報)が図4(b)に示すように割り当てられていたとすると、共通化部22は、図4(a)に示す各符号化パラメータekを出力するとともに、共通化情報ecomとして、図5(a)に示すような、符号化パラメータ値とその符号化パラメータ値をもったブロックのブロック番号とを対応付けた(つまり、同じ符号化パラメータ値をもつブロックがどのブロックであるかを示す)テーブル(ecomtable)5を生成して出力する。
【0053】
次に、上記の共通化方法▲1▼〜▲3▼について、より詳細に説明する。
(1.1)共通化方法▲1▼の説明
上記の共通化方法▲1▼は、共通化部22が、例えば図6に示すフローチャート(アルゴリズム)に従って動作することにより実現される。即ち、共通化を行ないたいnブロックの符号化パラメータをe、共通化後の符号化パラメータ(出力)をek、共通化情報をecomとするとともに、符号化パラメータeについての発生頻度ヒストグラムをH(m)、この発生頻度ヒストグラムH(m)における発生頻度数についての閾値をth1としたとき(ステップA4)、まず、共通化部22は、符号化パラメータe(n)の値の発生頻度についての統計をとりヒストグラムH(m)を作成する(ステップA5)。
【0054】
例えば、符号化パラメータeの一種である量子化パラメータの或る1画面での値が図12(a)に示すような状態になっているとすると、共通化部22は、1画面内の各ブロックの量子化パラメータ値を調べてそれぞれの発生頻度を調べ、図12(b)に示すような発生頻度ヒストグラムH(m)(単に「ヒストグラムH」と表記することもある)を作成する。
【0055】
次に、共通化部22は、このヒストグラムH(m)の度数が上記の閾値th1以下となる符号化パラメータeを共通化についてブロック数が足りないとしてチェックする(例えば、閾値th1=3とすると、図12では発生頻度が“2”である量子化パラメータ値“4”をチェックする)一方、共通な符号化パラメータeを共通化情報ecomとして生成する(テーブル5に記述する:ステップA6)。
【0056】
そして、共通化部22は、チェックした符号化パラメータeが存在するか否かを判定し(ステップA7)、存在しなければ、符号化パラメータeと共通化情報ecom(テーブル5)をそれぞれ出力する(ステップA7のNOルートからステップA8)一方、存在すれば、チェックした符号化パラメータeのみに関して粗く量子化して符号化パラメータekとし(ステップA9)、再度、ヒストグラムHを作成して、チェックした(発生頻度が閾値th1以下の)符号化パラメータeが存在しなくなるまで(ステップA7でNOと判定されるまで)、上記のステップA6以降の処理を繰り返す。
【0057】
ここで、上記のステップA9における量子化は例えば図9に示すようにして行なわれる。即ち、量子化のパラメータをq,量子化前の符号化パラメータ(発生頻度が閾値th1以下の符号化パラメータ)をe,量子化後の符号化パラメータをekとすると(ステップA9−1)、共通化部22は、まず、量子化パラメータqで符号化パラメータeを除算して0.5を加算した値を四捨五入整数化し、得られた値(temp)に、再度、量子化パラメータqを乗算したものを符号化パラメータekとする(ステップA9−2)。
【0058】
例えば、パラメータqの値を“2”とし、図12により前述したように発生頻度が閾値th1以下の符号化パラメータ値“4”を量子化することを考えると、4/2+0.5=2.5となり、四捨五入すると“3”であるので、符号化パラメータekは3×2=6となる。このようにして、ヒストグラムHにおいて、発生頻度が閾値th1以下の符号化パラメータeを粗く量子化してゆくことによって、閾値th1以下の符号化パラメータeは他の閾値th1よりも発生頻度の高い符号化パラメータeに共通化されてゆく。
【0059】
つまり、共通化部22は、複数ブロックでの符号化パラメータeの発生頻度についてのヒストグラムHを作成し、そのヒストグラムHにおいて発生頻度が所定値th1以下の符号化パラメータeを粗く量子化してゆくことにより、符号化パラメータeの共通化を行なって、共通情報ecomを生成するのである。従って、極めて単純な計算で符号化パラメータeの共通化を行なうことが可能である。
【0060】
なお、上記の例は、符号化パラメータeがスカラ量の場合であるが、2次元以上のベクトル量の場合でも、そのベクトルの各要素について同様の量子化を実行すれば共通化が可能である。
ところで、上記のステップA9の代わりに、例えば図7に示すステップA9′あるいは図8に示すステップA9″を実行することによっても、符号化パラメータeの共通化を行なうことが可能である。
【0061】
即ち、図7では、チェックした符号化パラメータeをヒストグラム近隣の値に直す。例えば、図10に示すように、ヒストグラムH,閾値th2,量子化前の符号化パラメータ(の値)e,量子化した符号化パラメータ(の値)ekとすると(ステップA9′−1)、共通化部22は、ヒストグラムHを参照し、符号化パラメータeの近隣で度数が閾値th2以上の値k1 (ただし、k1 =1〜m)のうち、符号化パラメータeに最も近い値(e−k1 の絶対値が最も小さい値)k1 を符号化パラメータekとする(ステップA9′−2)。
【0062】
つまり、この場合の共通化部22は、複数ブロックでの符号化パラメータeの発生頻度についてのヒストグラムHを作成し、そのヒストグラムHにおいて発生頻度が所定値th1以下の符号化パラメータeをヒストグラムHにおいて近隣の符号化パラメータeに修正してゆくことにより、符号化パラメータeの共通化を行なって、共通化情報ecomを生成するのである。従って、この場合は、上記のように粗く量子化する場合よりも確実に符号化パラメータeの共通化を行なうことが可能である。
【0063】
一方、図8では、チェックした符号化パラメータeを近隣ブロックの値に直す。例えば、時間的または空間的に周囲に存在するu個のブロックの符号化パラメータer(u)(単に「er」と表記することもある),量子化前の符号化パラメータ(の値)e,量子化した符号化パラメータ(の値)ekとすると(ステップA9″−1)、共通化部22は、これら周囲のブロックにおいて、符号化パラメータeに一番近い値〔er(k2 )−eの絶対値が最も小さい値:ただし、k2 =1〜u〕となる符号化パラメータer(k2 )値を符号化パラメータekとする(ステップA9″−2)。
【0064】
つまり、この場合の共通化部22は、複数ブロックでの符号化パラメータeの発生頻度についてのヒストグラムHを作成し、そのヒストグラムHにおいて該発生頻度が所定値th1以下の符号化パラメータを近隣ブロックの符号化パラメータerに修正してゆくことにより、符号化パラメータeの共通化を行なって、共通情報ecomを生成するのである。従って、この場合も、確実に符号化パラメータeの共通化を行なうことができる。
【0065】
なお、共通化部22は、図6に示すフローチャート(アルゴリズム)に代えて、図13に示すフローチャート(アルゴリズム:ステップB1〜B3)に従って動作してもよい。即ち、共通化を行ないたい単位nブロックの符号化パラメータをe、符号化パラメータのヒストグラムをH、共通化後の符号化パラメータ(出力)をek、共通化情報をecomとすると(ステップB1)、共通化部22は、まず、符号化パラメータeのヒストグラムHを作成し(ステップB2)。
【0066】
次に、共通化部22は、このヒストグラムHの度数が閾値th1以下となる符号化パラメータeを共通化についてブロック数が足りないとしてチェックし、その符号化パラメータeとブロック番号とを共通化情報ecomに書き込み、その共通化情報ecomとともに符号化パラメータeを符号化パラメータekとして出力する(ステップB3)。なお、閾値th1を超えている符号化パラメータeについても、前記と同様に共通情報ecomに書き込まれる。この場合の共通情報ecomは例えば図14(a)に示すようになり、ブロック数が足りない(ブロック数が1つの)符号化パラメータeについても、共通化情報ecom(テーブル5)に書き込まれている。
【0067】
つまり、この場合の共通化部22は、ヒストグラムHの度数が閾値th1以下となる符号化パラメータeが存在しても前記のような共通化は行なわずに、その共通化できない符号化パラメータeをもつブロックに関する情報を共通情報ecomに書き込んで出力するのである。従って、この場合は、既存の画像符号化装置2(符号化部21)に対して共通化部22を追加するだけでよいので、汎用性の向上に寄与する。
【0068】
なお、この場合、後述するように、共通化できなかった符号化パラメータeをもつブロックについては多重化部23から複数回伝送される。
(1.2)共通化方法▲2▼の説明
上記の共通化方法▲2▼は、共通化部22が図15に示すフローチャート(アルゴリズム:ステップC1〜C4)に従って動作することにより実現される。即ち、この場合も、共通化を行ないたい単位nブロックの符号化パラメータをe、共通化後の符号化パラメータ(出力)をek、共通化情報をecomとするとともに、符号化パラメータのクラスタ結果をC(k)、或るクラスタにおける符号化パラメータeの数についての閾値をth3とすると、まず、共通化部22は、nブロックの符号化パラメータeに対して、k平均クラスタリング法(k個のクラスタすなわち平均に個体を配置する処理:「画像解析ハンドブック」p641−p652参照)などの公知の方法でクラスタリングを行なう。これにより、当初、m種類存在していた符号化パラメータeがk3 種類(ただし、k3 <m)となる(ステップC1)。
【0069】
次に、共通化部22は、各符号化パラメータeがどのクラスタに属するかを表すクラスタ結果C(k3 )を算出し(ステップC2)、そのクラスタ結果C(k3 )に基づいて、符号化パラメータeの数が閾値th3よりも小さいクラスタについてはクラスタの重心が最も近い別のクラスタに融合させて共通化を行なう(ステップC3)。
【0070】
そして、共通化部22は、各クラスタ内のブロック番号などの情報を共通化情報ecomとして生成・出力するとともに、符号化パラメータeの属するクラスタCの重心(または代表値)を共通化後の符号化パラメータekとして出力する(ステップC4)。
このように、公知のクラスタリングを用いて共通化を行なえば、クラスタリング自体の計算に時間がかかる可能性はあるものの、符号化パラメータeが2次元以上のベクトル値であっても、共通化による歪み(劣化)が上記の共通化方法▲1▼及び後述する共通化方法▲3▼に比べて小さくなるという利点がある。
【0071】
(1.3)共通化方法▲3▼の説明
上記の共通化方法▲3▼は、共通化部22が、例えば図16に示すフローチャート(アルゴリズム:ステップD1〜D4)に従って動作することによって実現される。即ち、この場合も、共通化を行ないたい単位nブロックの符号化パラメータをe、共通化後の符号化パラメータ(出力)をek、共通化情報をecomとするとともに、ブロックの分割数をu1,u2,・・・,ui(u1〜uiはそれぞれ自然数)、符号化パラメータe間の差についての閾値をth4とすると(ステップD1)、共通化部22は、まず、共通化を行ないたいnブロックを空間的,時間的にさらにu1個(ブロック)に分割し、その分割ブロックにおいて、それぞれブロックの符号化パラメータ(の値)eの差が閾値th4以内であれば、その平均値で共通化する(ステップD2)。
【0072】
共通化できなかった場合、共通化部22は、さらに、分割ブロックをさらにu2個に分割して、上記のステップD1と同様の処理を行なう(ステップD3)。そして、共通化部22は、ブロックが分割できなくなるまで分割数をu3,・・・,uiとして上記のようなブロック分割・共通化(平均化)を行ない、ブロックが分割できなくなった時点で、残りのブロックについては、強制的に平均値をとって共通化して、もしくは、共通化せずに、共通化情報ecomと共通化後の符号化パラメータekを出力する。
【0073】
例えば、共通化を行ないたいブロックの符号化パラメータeが図17に示すような状態になっていると仮定すると、共通化部22は、例えば図18(a)〜図18(d)に示すように、ブロックを分割(細分化)してゆき、各分割ブロック毎に符号化パラメータeの共通化を行ない、共通化毎にそのときの符号化パラメータeとその符号化パラメータeが属するブロック番号〔図18(a)〜図18(d)中に示す“1-1",“2-1" 〜“2-4",“3-1" 〜“3-16",“4-1"〜“4-64"〕とを、図19に示すように共通化情報ecom(テーブル5)に書き込んでゆく。
【0074】
つまり、この場合の共通化部22は、時間的あるいは空間的に近隣のブロックについて符号化パラメータeをまとめる際、分割の粗さに応じてブロック番号を付けたもの〔図18(a)〜図18(d)参照〕を参照し、これに従い、近隣ブロックが全て同じ符号化パラメータ(値)eである場合にはできるだけ粗い分割単位のブロック番号を付けて上記の共通化情報ecomを作成するのである。これにより、共通化情報ecom自体の情報量が大幅に削減され、共通化情報ecomの伝送に必要な容量(帯域)が大幅に削減される。
【0075】
また、この場合は、近隣ブロックだけを参照してゆくので共通化処理の処理時間も短縮される。
(2)多重化部23の動作説明
次に、画像符号化装置2における多重化部23の動作について詳述する。本多重化部23は、基本的に、例えば図20に示すようなフローチャート(アルゴリズム:ステップE1〜E3)に従って動作する。即ち、多重化部23は、上記の共通化部22で共通化を行なった単位nブロックの符号化パラメータekおよび共通化情報ecomが入力されると(ステップE1)、符号化パラメータekおよび共通化情報ecomをそれぞれ多重化(所定のシンタクスに従ってビット列に変換)し(ステップE2)、多重化した共通化情報ecomを少なくとも1度以上符号化パラメータekに付加して出力する(ステップE3:送出ステップ)。
【0076】
具体的には、例えば図21に示すように、共通化情報をecom〔ecom(q,x) 〕、多重化のために可変長(または固定長)符号化した共通化情報をecommux 、符号化パラメータをek(n)、多重化のために可変長(または固定長)符号化した符号化パラメータをekmux(m)(単に、「ekmux」と表記することもある)とすると〔ただし、この場合、nはブロック数、mはパケット数、qはとりうる符号化パラメータekの数、xは値qをとるブロック番号のデータ(つまり、上記のecom(q,x) は符号化パラメータekの値qとブロック番号の順番xを要素とした配列を表す)とする:ステップE4〕、多重化部23は、まず、共通化情報ecomtable(q,x)(単に、「ecomtable 」と表記することもある)を可変長(または固定長)符号化し、共通化情報ecommux を得る(ステップE5)。
【0077】
例えば、符号化(多重化)前の共通化情報ecomが図5(a)に示したような状態であった場合、多重化部23は、図5(b)に示すように、符号化パラメータekのブロック番号のコード(ビット列)を、順次、同じ符号化パラメータekのグループ単位で所定の区切りコード6を挿入しながら出力することにより、多重化した共通化情報ecommux を得る。
【0078】
なお、このとき、多重化部23は、例えば図22に示すように、ブロック番号のコードだけでなく、符号化パラメータ(の値)ekも挿入した共通化情報ecommux を得るようにしてもよい。
また、多重化部23は、所定数m個のパケットになるべく同じ値(符号化パラメータek)をもつブロックが他のパケットに搭載されるように、各ブロックをm個(ただし、m≧2の自然数)のパケットに分散して搭載する(つまり、1つのパケットにはなるべく異なる符号化パラメータekをもつブロックを搭載する)。
【0079】
例えば、上記のように共通化情報ecomが図5(a)に示すような状態であり、生成すべきパケット数m=3であると仮定すると、多重化部23は、例えば図23(a),図23(b)に示すように、3つのパケット(パケット番号“1”〜“3”)に、同じ符号化パラメータekをもつブロックを分散して搭載する。このとき、ブロックの順番がバラバラになるので、パケットにはブロック番号も搭載する(搭載位置は任意の位置でよい)。ただし、同じ符号化パラメータ(値)ekをもつブロックがk4 個よりも少ない場合、多重化部23は、同じブロック番号を複数のパケットに重複して記述する(以上、ステップE6)。これにより、同じ符号化パラメータekを有するブロックが誤り等によりまとめて欠落してしまう確率が大幅に低減される。
【0080】
ここで、このステップE6の処理は、例えば図24に示すフローチャート(ステップE61〜E71を実行することにより実現される。ただし、この図24において、uは共通化情報ecom(q,x) の符号化パラメータ値q検索用のカウンタ値、iはブロック番号x検索用のカウンタ値、jはパケット番号用のカウンタ値である。
【0081】
まず、多重化部23は、上記の各カウンタ値u,i,jを初期化(u=1,i=1,j=1)し(ステップE61)、1番目のパケット(ekmux(1))に、共通化情報ecom(1,1) が示す情報、即ち、符号化パラメータ値“1”の1番目のブロックのブロック番号“1”を付加(搭載)する(ステップE62)。そして、多重化部23は、カウンタ値i,jをそれぞれ1つインクリメントしたのち(ステップE63)、カウンタ値j>パケット数mになっているかどうかを判定する(ステップE64)。
【0082】
この結果、カウンタ値j>パケット数mとなっていれば(ステップE64でYESと判定されれば)、多重化部23は、カウンタ値jを初期化(j=1)して情報搭載対象のパケット番号を1番目のパケット(ekmux(1))とする(ステップE65)が、カウンタ値j≦パケット数mであれば、そのまま、情報搭載対象のパケット番号を次(j番目)のパケット(ekmux(j))とする(ステップE64のNOルート)。
【0083】
そして、多重化部23は、値q(=u)の符号化パラメータekがもう存在しないかどうかを判定し(ステップE65)、存在すれば、その符号化パラメータ値uの次のブロック番号をパケット(ekmux(j))に付加する(ステップE65のNOルートからステップE62)。つまり、多重化部23は、同じ符号化パラメータ値uのブロック番号が存在しなくなるまで、共通化情報ecomの同じ符号化パラメータuとなるブロック番号を順に検索してゆき、各ブロック番号をそれぞれ異なるパケット(ekmux(j))に付加してゆくのである。
【0084】
そして、値q(=u)の符号化パラメータekが存在しなくなると、多重化部23は、次に、カウンタ値i≦k4 となっているか(つまり、同じ符号化パラメータ値uをもつブロックがk個よりも少ないかどうか)を判定し(ステップE66)、少なくなければ(i>kであれば)、カウンタ値uを1つインクリメントし(検索対象を次の符号化パラメータ値のブロック番号にし:ステップE67のNOルートからステップE69)、カウンタ値iを初期化(i=1)する(ステップE70)。
【0085】
このとき、カウンタ値u>符号化パラメータ値qとなっていれば(ステップE71でYES判定されれば)、多重化部23は、共通化情報ecom(q,x) の全ての情報(ブロック)をパケットに搭載し終えたことになるので、処理を終えるが、カウンタ値u≦符号化パラメータ値qとなっていれば(ステップE71でNOと判定されれば)、未搭載のブロックがまだあるので、全てのブロックを搭載し終えるまで上記のステップE62からの処理を繰り返す。
【0086】
ところで、上記のステップE67において、カウンタ値i≦k4 の場合、即ち、同じ符号化パラメータ値uをもつブロックがk4 個よりも少ない場合、多重化部23は、共通化情報ecom(u,1) が示す情報、即ち、既に付加済みの同じ符号化パラメータ値uの最初のブロック番号を、既に付加したパケットとは異なるパケットに重複して付加する(ステップE67のYESルートからステップE68)。
【0087】
以上のような処理により、例えば、k4 =2で、共通化情報ecomが図14(a)に示したような状態であったとすると〔網かけ部に示すように符号化パラメータek=4,6のブロック(ブロック番号=7,34)がそれぞれ1個しかなかった場合〕、多重化部23は、図14(b)に示すように、同じ符号化パラメータekのブロック番号を順に異なるパケットに搭載してゆき、図14(b)中の網かけ部で示すように、1個しかないブロック番号7,34についてはそれぞれ異なるパケットに重複して搭載することになる。
【0088】
次に、多重化部23は、このようにして、多重化した符号化パラメータekmuxを作成すると、図21に示すように、符号化パラメータekmuxに共通化情報ecommux を付加して符号化ビット列を作成する(ステップE7)。例えば、多重化部23は、符号化パラメータek〔=ek1(n),ek2(n),...,ekx(n)〕を用いてパケット(例えば図68により前述したビデオパケット800等)をk個作成し、図25に示すように、その先頭に共通化情報ecommux を付加する。
【0089】
なお、この共通化情報ecommux の付加位置は、可能であれば各パケットの途中(境界)でもよいし最後でもよい。また、複数分付加することによって複数回伝送されるようにしてもよい。このように共通化情報ecomを複数回伝送すれば、画像復号装置3が共通化情報ecom(ecom ′) を正常に受け取れないといった状況の発生確率が大幅に低減される。
【0090】
さらに、共通化情報ecommux が複数得られる場合は、例えば図26に示すように、パケット内に搭載されている情報がどの共通化情報ecommux に基づく情報であるかを表す情報(共通化情報ecommux に固有の番号Lやv)を各パケットのどこかに搭載する、もしくは、図27に示すように、共通化情報ecommux に、その共通化情報ecommux に基づく情報を有しているパケットがどのパケットであるかを表す情報(パケット番号)を搭載することによって、復号側(画像復号装置3)でどのパケットに対してどの共通化情報ecommux を使用すべきかを識別できるようにしてもよい。
【0091】
(3)多重化復号部31の動作説明
次に、画像復号装置3における多重化復号部31の動作について詳述する。多重化復号部31では、基本的に、画像符号化装置2の多重化部31の処理とは逆の処理が行なわれる。即ち、例えば図28に示すように、伝送路4を通じて画像符号化装置2から符号化ビット列(符号化パラメータekmux及び共通化情報ecommux )を受信すると(ステップF1:受信ステップ)、その符号化ビット列を画像符号化装置2での符号化(可変長もしくは固定長符号化)前の値(符号化パラメータek′及び共通化情報ecom′)に戻す(ステップF2)。
【0092】
なお、この多重化復号後の符号化パラメータek′及び共通化情報ecom′は、それぞれ、前述したように、伝送路4を伝送されることによって誤りが付加されており、必ずしも元の符号化パラメータekmux及び共通化情報ecomとは一致しないことを表している。
(4)誤り検出/訂正部32の動作説明
次に、画像復号装置3における多重化復号部32の動作について詳述する。多重化復号部32は、基本的に、例えば図29に示すようなフローチャート(アルゴリム:ステップG1〜G7)に従って動作する。即ち、誤り検出/訂正部32は、多重化復号部31から多重化復号後の符号化パラメータek′及び共通化情報ecom′を受信すると(ステップG1)、まず、共通化情報ecom′の値が信頼できるかどうかを判定する(ステップG2)。
【0093】
この結果、信頼できれば(ステップG3でYESと判定されれば)、誤り検出/訂正部32は、次の処理に移行し、信頼できなければ(ステップG3でNOと判定されれば)、信頼できる値を推定して正しい共通化情報ecom′を復元して(ステップG4)から次の処理に移行する。なお、共通化情報ecom′の信頼性の判定方法および推定・復元方法の詳細については後述する。
【0094】
そして、誤り検出/訂正部32は、このようにして信頼できる共通化情報ecom′を得ると、次に、符号化パラメータek′に誤りの有ることが予め分かっているか否かを判定する(ステップG5)。なお、誤りの有無は、例えば、多重化復号部31の前段での符号化ビット列に対する通常の誤り訂正符号、または、多重化復号部31での多重化復号時の復号不能ビット列の検出などによって検出される。
【0095】
上記の判定の結果、符号化パラメータek′に誤りの有ることが予め分かっている場合、誤り検出/訂正部32は、共通化情報ecom′において同じ値をもつ他の誤りの無いブロックの符号化パラメータek′を参照して、誤りの有る符号化パラメータek′を参照した誤りの無い符号化パラメータek′に置き換えることで、誤り訂正を行なう(ステップG5のYESルートからステップG6:誤り訂正ステップ)。
【0096】
例えば図30に示すように、誤り訂正符号により或るブロックの符号化パラメータek′(k1)に誤りがあることが分かっており、誤り訂正符号により同じ値をもつ他のブロックの符号化パラメータek′(k2)に誤りが検出されなかった場合(ステップG61)、誤り検出/訂正部32は、ek′(k1)=ek′(k2)とすることにより、符号化パラメータek′(k1)の誤りを訂正する(ステップG62)。
【0097】
つまり、上記の誤り検出/訂正部32は、符号化パラメータek′に誤りの有ることが予め分かっている場合、共通化情報ecom′に基づいて誤りのある符号化パラメータek′と同じ符号化パラメータek′を有する他のブロックを特定し、そのブロックの符号化パラメータを誤りのあるブロックの符号化パラメータek′として出力することにより、符号化パラメータek′の誤りを訂正するのである。従って、極めて簡易な処理で確実な誤り訂正を行なうことができている。
【0098】
一方、符号化パラメータek′に誤りの有ることが予め分からない場合、誤り検出/訂正部32は、図29に示すように、共通化情報ecom′を用いて同一値をもつべき複数のブロックの符号化パラメータ(値)ek′(k1),・・・,ek′(kn)を比較し(ステップG5のNOルートからステップG7)、正しい値ek″(k1),・・・,ek″(kn)を得て出力する(ステップG7:誤り訂正ステップ)。
【0099】
例えば、誤り訂正符号によっても誤りが分からない場合、図31に示すように、誤り検出/訂正部32は、誤り訂正符号により誤りが検出されない同一値をもつべき複数ブロックの各符号化パラメータek′(k1),・・・,.ek′(kn)を参照し(ステップG71)、一番発生頻度の高い値(つまり多数決をとった値)を正しい値ek″(k1),・・・,ek″(kn)とする(ステップG72)。
【0100】
つまり、誤り検出/訂正部32は、符号化パラメータek′に誤りのあることが予め分からない場合、共通化情報ecom′に基づいて同じ符号化パラメータek′を有するべき複数のブロックを特定し、これらの複数のブロックの各符号化パラメータek′を比較することによって誤りを検出してその誤りを訂正するのである。従って、符号化符号化パラメータek′に誤りのあることが予め分からない場合にも確実に対応することができる。
【0101】
以上のようにして誤り訂正された符号化パラメータek″(k1),・・・,ek″(kn)は、それぞれ、復号部33へ入力され、復号部33において、所定の復号処理(復号ステップ)が施されることによって再生画像信号Fk′が得られる。
なお、上述したような誤り訂正処理は、共通化情報ecom′が複数回伝送されてくる場合、共通化情報ecom′にも適用することができる。即ち、上記の処理において、符号化パラメータek′を共通化情報ecom′に置き換えれば、共通化情報ecom′に誤りがあることが分かっている場合、分からない場合のいずれの場合にも、正しい共通化情報ecom′を得る(復元する)ことができる。
【0102】
(4.1)共通化情報ecom′の信頼性の判定方法および推定・復元方法の説明まず、共通化情報ecom′の信頼性の判定方法(図29のステップG3の具体例)について説明する。誤り検出/訂正部32は、例えば図32に示すように、受信したパラメータ(共通化情報ecom′) を param′(k1),...,param′(kn)、受信パラメータ param′(k1),...,param′(kn)の発生頻度についての閾値をthaとすると(ステップH1)、誤り訂正符号による誤りが発見されなかったパラメータ param′(k1),...,param′(kn)の発生頻度を調べる(ステップH2)。
【0103】
この結果、一番発生頻度が高いパラメータ param′(kr)(ただし、r=1〜n)の値Aの発生頻度HAと、次に発生頻度が高いパラメータ param′(kr)の値Bの発生頻度HAとの差が閾値tha以内なら、値Aは発生頻度が高い値であるが、次に発生頻度が高い値Bとの差が小さいので(信頼性が高い場合は例えば発生頻度HAが突出した状態になっているはずである)、受信したパラメータ param′(k1),...,param′(kn)(=共通化情報ecom′) は信頼性が低いと判定する(ステップH3)。
【0104】
次に、共通化情報ecom′の推定・復元方法(図29のステップG4の具体例)について説明する。誤り検出訂正部32は、上記の信頼性判定の結果、受信した共通化情報ecomが信頼できないと判定すると、共通化情報ecom′の他の信頼できる部分の情報、あるいは、符号化パラメータek′、もしくは、ブロック番号情報block(n)(単に「block 」と表記することもある)、あるいはその両方を参照して、信頼できない部分の値を推定する。
具体的には、例えば図33に示すように、共通化情報をecom′、符号化パラメータをek′(n)、前記のビデオパケットなどビット列に含まれる、符号化パラメータ′ek(n)に対応したブロック番号情報をblock(n)とすると(ステップJ1)、誤り検出/訂正部32は、まず、共通化情報ecom′の信頼できない部分が、グループ分けされたブロック番号情報block(n)のうちの或る1つのグループのブロック番号情報block(n)であるか否かをチェックする(ステップJ2)。
【0105】
この結果、信頼できない部分は共通化情報ecom′の或る1つのグループのブロック番号情報のみであった場合(ステップJ2でYESと判定された場合)、誤り検出/訂正部32は、信頼できる共通化情報ecom′のブロック番号情報block(n)以外の番号情報が信頼できない部分のブロック番号情報block(n)であるとすることにより、信頼できない部分のブロック番号情報block(n)を推定・復元する(ステップJ3)。
【0106】
例えば、図34に示すように、共通化情報ecom′に含まれるべき全ブロック番号情報block(n)のうちの或る一部のグループのブロック番号情報block(n)の信頼性が低く欠落した(図34中に「×」印で示す)場合には、全ブロック番号情報block(n)と、共通化情報ecom′の他グループに含まれるブロック番号情報block(n)(図34中に「○」印で示す)との対応を調べれば、残った(対応のとれない)ブロック番号情報block(n)(図34中ではブロック番号“3”〜“5”,“14”)が欠落したブロック番号情報block(n)であると推定することができる。
【0107】
一方、共通化情報ecom′の信頼できない部分が複数グループにわたる場合(ステップJ2でNOと判定された場合)、誤り検出/訂正部32は、信頼できる共通化情報ecom′のブロック番号(情報)block に対応する符号化パラメータek′を参照して、同じ符号化パラメータek′となるブロック番号block を探し、そのブロック番号block を信頼できないブロック番号として推定する(ステップJ4)。
【0108】
例えば、図35に示すように、共通化情報ecom′の複数グループでブロック番号block が欠落した(図35中に「×」印で示す)場合、誤り検出/訂正部32は、信頼できる共通化情報ecom′のブロック番号block と符号化パラメータek′との対応(図35中の実線参照)を調べることで、どの符号化パラメータek′がどのグループに属するかを特定して(例えば、値“1”の符号化パラメータek′は全てグループ“1”に属し、値“5”の符号化パラメータek′は全てグループ“2”に属することが分かる)、対応するブロック番号block (図35中の丸付き数字参照)を欠落した部分のブロック番号block として推定する。
【0109】
なお、このような推定手法は、共通化情報ecom′の信頼できない部分が1つのグループのみの場合にも行なってもよい(図33中の破線ルート参照)。また、上述した信頼性の判定は、共通化情報ecom′ではなく、ブロック番号(情報)block を用いて行なってもよい。この場合は、図32中のパラメータparam ′(k1),...,param′(kn)をブロック番号block(1)〜block(n)に置き換えて実行することにより、ブロック番号block の信頼性を判定することになる。
【0110】
そして、このようにブロック番号block の信頼性を判定した結果、信頼性が低いと判定された場合、誤り検出/訂正部32は、次のようにして信頼できないブロック番号block の値を推定する。即ち、誤り検出/訂正部32は、図36に示すように、共通化情報ecom′,符号化パラメータek′及びブロック番号情報block を基に(ステップK1)、信頼できる共通化情報ecom′のブロック番号block に対応するグループを参照し、同じ符号化パラメータek′となるブロック番号block を探して、信頼できないブロック番号情報block の値を推定する(ステップK2)。
【0111】
例えば、図37中に「×」印で示すように、一部のブロック番号block が信頼性が低く欠落した場合、誤り検出/訂正部32は、信頼できる共通化情報ecom′のブロック番号block と各グループに属する同じ符号化パラメータek′との対応関係を調べる(図37中の実線参照)ことにより、欠落したブロック番号block を推定・復元する(図37中の丸付き数字参照)。
【0112】
なお、誤り検出/訂正部32では、上述したような共通化情報ecom′の信頼性判定およびブロック番号情報block の信頼性判定をそれぞれ行なってもよい。つまり、本実施形態の誤り検出/訂正部32は、共通化情報ecom′またはブロック番号情報block もしくは両方の信頼性を判定し、信頼性の低い情報についてはその信頼性の低い情報以外の情報から正しい情報を推定するのである。これにより、誤り訂正処理の精度や信頼性が大幅に向上している。
【0113】
以上のように、本実施形態の画像符号化・復号システム1によれば、画像データを或るブロック単位で符号化したときに、どのブロックが同じ符号化パラメータekを有しているかを表す共通化情報ecomを生成して画像復号装置3へ提供するので、画像復号装置3では、復号すべき受信符号化パラメータek′に誤りがあっても、上記の共通化情報ecomから誤りのある符号化パラメータek′がどのブロックの符号化パラメータek′と同じ(共通)であるかを認識し、他ブロックの符号化パラメータek′を用いて誤りを訂正することができる。
【0114】
従って、符号化パラメータek′の誤りに対する耐性が大幅に向上し、高精度な復号処理を行なうことができるので、常に、再生画像の画質の悪化を最小限に抑えて、高品質な再生画像を得ることができる。特に、携帯端末等を用いた無線画像通信等のように伝送路4によって大きな誤りが生じるようなシステムに適用することは極めて有効であると考えられる。
【0115】
また、画像符号化装置2では、共通化情報ecomを、上述した共通化方法▲1▼〜▲3▼のいずれかの方法で、符号化パラメータeの共通化を行なって生成するので、同じ符号化パラメータe(ek)を有するブロック数を増やして異なる符号化パラメータe(ek)の伝送量を削減することができ、符号化パラメータekの誤りに対する耐性がさらに向上している(見かけ上の誤り率がさらに低減されている)。
【0116】
さらに、画像符号化装置2からは、多重化部23により、同じ符号化パラメータekを有するブロックを複数のパケットに分散して伝送(送出)するので、同じ符号化パラメータekを有するブロックが誤り等によりまとめて欠落してしまう確率が大幅に低減されており、画像復号装置3では、誤り検出/訂正部32において誤り訂正を確実に行なうことができ、復号部33での復号処理の信頼性の向上にも大いに寄与している。
【0117】
また、画像符号化装置2からは共通化情報ecomを複数回伝送するようにすれば、画像復号装置3が共通化情報ecom(ecom ′) を正常に受け取れないといった状況の発生確率が大幅に低減されるので、画像復号装置3では、共通化情報ecom′に基づく誤り訂正を確実に行なうことができ、これにより、復号処理の信頼性を大幅に向上させることができる。
【0118】
なお、上述した実施形態では、画像符号化装置2が局所復号を行なわないタイプのものについて説明したが、例えば図38に示すように、局所復号部24をそなえて、符号化パラメータekをこの局所復号部24で復号して再生画像信号Fkを得、得られた再生画像信号Fkを参照して符号化部21が符号化を行なうタイプのものでも、上記と同様の作用効果が得られる。
【0119】
ただし、このように局所復号が行なわれる場合は、過去の符号化パラメータekと現在の符号化パラメータekとの差分情報しか画像復号装置3へ伝送されないので、図38中に示すように、画像復号装置3の復号部33は、過去に復号した再生画像信号Fk′を用いて現在の符号化パラメータek″の復号を行なう構成となっている。
【0120】
(B)第1変形例の説明
ところで、上述した実施形態では、符号化部21において共通化されていない符号化パラメータe(e1,...,ex)が得られるが、例えば図39に示すように、符号化部21Aにて既に共通化された符号化パラメータek1,...,ekx (ek)が得られる場合がある。例えば、符号化部21Aにおいて、動き補償のブロックサイズを画像変化の激しさに応じて可変にして符号化すれば、複数ブロックからなる大きなブロックについては1つの動き補償ベクトル(例えば、ek1)が得られることになるので、その動き補償ベクトルek1 は既に複数ブロックにわたって共通化された値であるとみなせる。
【0121】
なお、このような可変動き補償ブロックサイズ方法は、例えば、特許第2618915号,特許第2618916号,特許第2702718号および特許第2716702号などの各特許公報に記載されており、以下に、これらの各特許公報に記載された技術について簡単に述べておく。
▲1▼特許第2618915号
画像データ中のエッジ個数が所定の閾値よりも小さくなるまで、動き補償のためのブロックサイズを小さく分割してゆくことにより、エッジの多い画像変化の激しい部分についてはブロックサイズを小さくする。
【0122】
▲2▼特許第2618916号
画像データを複数の小ブロックに分割し、その小ブロック中のエッジ個数が所定の閾値よりも大きければ、1ブロック中のエッジ個数が閾値よりも小さくなるまで、小ブロックを結合してゆくことにより、エッジの多い画像変化の激しい部分についてはブロックサイズを小さくする。
【0123】
▲3▼特許第2702718号
或る所要のブロックサイズのブロックについて動き補償を行なった結果として得られる予測誤差が所定の閾値よりも大きければ、その予測誤差が閾値よりも小さくなるまでブロックサイズを小さくして動き補償を行ない、最小ブロックサイズまでブロックサイズを小さくしても予測誤差が閾値よりも小さくならず、動き補償を行なうのに適さないほど画像変化の激しい部分については、フレーム内符号化を行なう。
【0124】
▲4▼特許第2716702号
隣接する複数の小ブロック同士についての予測誤差のうちのいずれかが所定の閾値よりも大きくなるまで、小ブロックを結合してブロックサイズを大きくしてゆくことにより、画像変化の激しい部分についてはブロックサイズを小さくする。
【0125】
このような場合、共通化部22Aでは、既に共通化された符号化パラメータekが符号化部21Aから入力されるので、前述したような共通化は行なわずに、入力された符号化パラメータekから、上述した実施形態と同様の共通化情報ecomを生成して符号化パラメータekとともに出力する。
即ち、図40に示すように、共通化を行なった単位nブロックの符号化パラメータをek、共通化情報をecomとすると(ステップL1)、共通化部22Aは、既に共通化された符号化パラメータekから、どのブロックが同じ(共通の)符号化パラメータekを有しているかを表す共通化情報ecomを計算し(ステップL2)、既に共通化された符号化パラメータekと生成した共通化情報ecomとを多重化部23へ出力する(ステップL3)。
【0126】
なお、図39において、符号化部21Aおよび共通化部22A以外の部分(図1中の符号と同一符号を付した部分)は、いずれも、図1により前述した部分と同一もしくは同様である。
従って、本第1変形例においても、図1により前述したシステム1と同様の作用効果が得られるほか、この場合は、共通化部22Aにて共通化を行なう必要が無いので、共通化情報ecomの生成処理を高速化することが可能である。
【0127】
なお、本第1変形例においても、画像符号化装置2は、例えば図41に示すように、局所復号部24をそなえて、符号化パラメータekをこの局所復号部24で復号して再生画像信号Fkを得、得られた再生画像信号Fkを参照して符号化部21Aが符号化を行なうタイプのものにしてもよく、この場合も、上記と同様の作用効果が得られるほか、このタイプの画像符号化装置2に特有の利点も得られる。
【0128】
(C)第2変形例の説明
図42は上述した実施形態の第2変形例を示すブロック図であるが、この図42に示す画像符号化・復号システム1は、図1に示すものに比して、多重化復号部31および誤り検出/訂正部32に代えて、多重化分離部311,誤り検出/訂正部312及び多重化変換部313をそなえた多重化復号部31Aが設けられている点が異なる。
【0129】
ここで、多重化復号部31Aにおいて、多重化分離部(受信部)311は、伝送路4を通じて画像符号化装置2(多重化部23)から伝送されてくるビット列〔符号化パラメータek′(ek1 ′,..., ekx ′) および共通化情報ecom′〕を受信して、少なくとも符号化パラメータek′を多重化分離することにより、多重化復号前の符号化パラメータ(多重化符号化値) muxek′(muxe1′,...,muxex′) (可変長符号もしくは固定長符号)を得るものである。なお、共通化情報ecom′については、誤り検出/訂正部312が参照できる状態であれば、多重化分離してもしなくてもどちらでもよい。
【0130】
また、誤り検出/訂正部312は、共通化情報ecom′を用いて、同じ値をもつべき多重化符号化値 muxek′のビット〔もしくは値(符号)そのもの〕を比較することにより、多重化符号化値 muxek′の誤りを検出し、その誤りを訂正して、多重化符号化値 muxek″を得るものであり、多重化変換部313は、この誤り検出/訂正部312で誤り訂正された多重化符号化値 muxek″を元の符号化パラメータek′に変換することにより多重化復号するものである。
【0131】
つまり、本第2変形例の画像復号装置3は、前述したように多重化復号後の符号化パラメータ(値)ek′に対して誤り訂正を施すのではなく、多重化復号前の多重化符号化値 muxek′に対してビット単位(ビット単位が無理な場合は値そのものの単位)で誤り訂正を施すことができるようになっているのである。
以下、上述のごとく構成された本第2変形例の多重化復号部31Aの動作について、図43に示すフローチャート(ステップM1〜M5)を参照しながら詳述する。
【0132】
まず、多重化復号前(途中)の、共通化を行なった単位nブロックの符号化パラメータek′の多重化符号化値をmuxek ′、誤り訂正した符号化パラメータek′の多重化復号値をek″、(多重化復号した)共通化情報をecom′とすると(ステップM1)、多重化分離部311が、受信ビット列の多重化分離を行なって、多重化符号化値 muxek′および共通化情報ecom′を得る(ステップM2)。
【0133】
そして、誤り検出/訂正部312では、同じ符号化パラメータek′をもつべき多重化符号化値 muxek′(共通化情報ecom′から特定できる) が誤りの存在しない状態でそれぞれ同一のビット値をもつならば〔同じ符号化パラメータek′に対して同じ可変長(又は固定長)符号化を行なっているならば〕、多重化符号化値 muxek′(k1),...,muxek′(ku)はビット毎の比較が可能であるので、多重化符号化値 muxek′(k1),...,muxek′(ku)をビット毎に比較(ビット毎が不可能な場合は値をそのまま比較)する(ステップM3)。
【0134】
この比較の結果、他と異なるビット(または値)が有れば、そのビット(または値)は誤っているものとして、ビット毎に正しいビット、あるいは正しい値を選択し、誤り訂正した多重化符号化値 muxek″を得る(ステップM4)。そして、得られた多重化符号化値 muxek″は、多重化変換部313において多重化復号されて、多重化復号値ek″が得られる(ステップM5)。
【0135】
具体的には、例えば図44に示すように、多重化分離部311にて多重化分離された同一値をもつべき多重化符号化値 muxek′(k1),...,muxek′(ku)が受信されると(ステップM6)、その多重化符号化値 muxek′(k1),...,muxek′(ku)をビット毎に検査(比較)して、誤り訂正符号による誤りが発見されなかったもののうち、一番発生頻度が高い値(0か1)を、誤り訂正後の多重化符号化値 muxek″(k1),...,muxek″(ku)の値とする(ステップM7)。
【0136】
なお、ビット毎ではなく、多重化符号化値muxek ′そのものを検査するには、図30もしくは図31に示したフローチャート(アルゴリズム)おいて、符号化パラメータek′を多重化符号化値muxek ′に置き換えたアルゴリズムを実行すればよい。
以上のように、本第2変形例における画像符号化・復号システム1によれば、画像復号装置3において、多重化復号後の符号化パラメータ(値)ek′に対して誤り訂正を施すのではなく、多重化復号前の多重化符号化値 muxek′に対してビット単位で(他のビットの誤りと切り離して)誤り訂正を施すことができるので、図1により前述したシステム1と同様の作用効果が得られるほか、誤り訂正の効率が向上するという利点が得られる。
【0137】
ところで、上述した誤り検出/訂正部312においても、前述した誤り検出/訂正部32(図1参照)と同様に、共通化情報ecom′(もしくは、ブロック番号情報block )の信頼性を判定して、信頼性が低い場合には、信頼性の低い部分を推定・復元することができる。ただし、信頼性の低い部分の推定・復元方法については、図33〜図37により前述した方法おいて、符号化パラメータek′を多重化符号化値muxek ′に置き換えればよいだけであるので、ここでは、その詳細な説明は省略し、信頼性の判定方法についてのみ説明する。
【0138】
即ち、誤り検出/訂正部312は、例えば図45(a)に示すように、受信したパラメータ(共通化情報ecom′もしくはブロック番号情報block ) を param′(k1),...,param′(kn)、受信パラメータ param′(k1),...,param′(kn)の発生頻度についての閾値をthaとすると(ステップH1)、受信パラメータ param′(k1),...,param′(kn)をビット毎に検査して、誤り訂正符号による誤りが発見されなかったものの発生頻度EA(0か1)を調べる(ステップH2′)。
【0139】
そして、誤り検出/訂正部312は、調べた発生頻度EAと全パラメータ param′(k1),...,param′(kn)の発生頻度の総数ETとの差が或る閾値thaよりも小さければ、信頼性が低いと判定する(ステップH3′)。なお、このステップH3′では、図45(b)に示すステップH3″を行なってもよい。即ち、この場合は、発生頻度EAの、全パラメータ param′(k1),...,param′(kn)の発生頻度の総数ETに占める割合(EA/ET)が或る閾値thaを超えたら、信頼性が低いと判定する。
【0140】
これにより、本第2変形例においても、誤り訂正処理の信頼性が向上し、画像データの復号処理の信頼性が向上する。
なお、本第2変形例では、図42に示す画像符号化装置2は、図1により前述したものと同じタイプ(基本タイプ)のものになっているが、例えば、図46に示すように局所復号部24をそなえたタイプ、図47に示すように符号化時点で既に共通化された符号化パラメータekが得られるタイプ、図48に示すように、図47に示す構成にさらに局所復号部24を付加したタイプのいずれを適用することも可能である。そして、いずれのタイプを適用しても、上記と同様の作用効果が得られるとともに、前述したような各タイプに特有の利点が得られる。
【0141】
(D)第3変形例の説明
図49は前述した実施形態の第3変形例を示すブロック図であるが、この図49に示す画像符号化・復号システム1は、図1に示すものに比して、画像符号化装置2に、蓄積部25,通知受信/再伝送部26及び再伝送送信部27が設けられるとともに、画像復号装置3に、蓄積部34,通知部35及び再伝送受信部36が設けられ、これらの各部25〜27及び34〜36によって、誤り検出/訂正部32で誤り訂正不可能な符号化パラメータek′があったときの情報の再伝送を行なう再伝送部6が形成されている点が異なる。
【0142】
ここで、画像復号装置3において、蓄積部34は、誤り検出/訂正部32にて、前述したように誤りの検出/訂正を行なって正しい値を得ようとしても、符号化パラメータek′等の或る情報について誤っていると判定された部分が多すぎて信頼性が低く、そのままでは復号部33で復号不可能になるような場合に、誤り検出/訂正部32で受信された情報を棄却せずに蓄積するためのものである。
【0143】
また、通知部(再送出要求部)35は、上記ように誤り検出/訂正部32において復号不可能と判断された場合に、画像符号化装置2側へその旨を通知するためのものであるが、ここでは、誤り検出/訂正部32において誤り訂正不可能な符号化パラメータek′の再誤り訂正に必要な情報についてのみを再伝送してもらうための要求(再送出要求)画像符号化装置2に行なうようになっている。なお、この要求(通知)は、伝送路4を通じて行なってもよいし、再伝送専用の伝送路(有線でも無線でもよい)、あるいは、通知専用の伝送路(有線でも無線でもよい)を通じて行なってもよい。
【0144】
再伝送受信部36は、この通知部35の通知によって画像符号化装置2から再伝送されてくる情報を受信するものである。
一方、画像符号化装置2において、蓄積部25は、通知部34からの通知に応じていつでも再伝送を行なえるように、符号化パラメータekや共通化情報ecomを蓄積しておくものであり、通知受信/再伝送部26は、上記の通知部35からの通知(要求)を受信するとともに、その要求に応じた情報を蓄積部25から読み出して再伝送送信部27へ出力するものである。
【0145】
そして、再伝送送信部(再送出部)27は、この通知受信/再伝送部26から受信された情報、つまり、画像復号装置3の通知部35からの要求に応じた情報のみを画像復号装置3へ送信(再送出)するものである。なお、この情報の送信も、伝送路4を使用して行なってもよいし、専用の伝送路(有線でも無線でもよい)を通じて行なってもよい。
【0146】
以下、上述のごとく構成された本第3変形例の画像符号化・復号システム1の動作について詳述する。ただし、再伝送部6以外の部分(図1中に示す符号と同一符号を付した部分)は、それぞれ、図1により前述したものと同一もしくは同様のものであるので、それらの動作については省略し、以下では、再伝送部6に着目した動作について、図50に示すフローチャート(ステップN1〜N7)を参照しながら説明する。
【0147】
まず、誤り検出/訂正部32において、誤り訂正の結果、信頼性が低く復号不可能な情報(符号化パラメータek′)が検出されると(ステップN1)、その情報が蓄積部34に蓄積される(使用しないなら蓄積しなくてもよい)。なお、誤り訂正可能であった情報については復号部33に出力されている。ここで、誤り検出/訂正部32において全ての情報について誤り訂正が可能であった場合、あるいは、通知部35による通知が所定回数を超えている場合、もしくは、伝送路4〔又は再伝送(通知)専用の伝送路〕の伝送容量に余裕が無い場合、または、誤り検出/訂正部32の誤り検出/訂正処理能力に余裕が無い場合には、通知部35による通知は行なわずに処理を終える(ステップN2)。
【0148】
なお、伝送路4〔又は再伝送(通知)専用の伝送路〕に余裕がない場合とは、所定のビットレートを使い切っており、回線が混雑するなどして再伝送に時間がかかる場合等であり、処理能力に余裕が無い場合とは、蓄積部34の容量に余裕が無い場合や復号部33における遅延が大きくて実用的な画像通信に耐えられない場合等である。
【0149】
次に、誤り訂正(復号)不可能な情報が存在する場合には、その情報の種類(符号化パラメータekや共通化情報ecom,グループ番号,ブロック番号,誤りビットの位置など)を通知部35に通知し(ステップN3)、通知部35は、再伝送してほしい情報(一部分または全て)のみを画像符号化装置2(通知受信/再伝送部26)に要求する(ステップN4)。
【0150】
通知受信/再伝送部26は、この要求を受けると、必要な情報を蓄積部25から取り出して再伝送送信部27に出力する(ステップN5)。再伝送送信部27は、受け取った情報を画像復号装置3(再伝送受信部36)を伝送する(ステップN6)。再伝送受信部36は、受信した再伝送情報を誤り検出/訂正部32へ出力する。誤り検出/訂正部32は、この再伝送情報及び蓄積部34に蓄積された情報を用いて(あるいは再伝送情報のみを用いて)、再度、誤り検出/訂正処理を行ない(ステップN7)、上記のステップN2にて上述したような条件が満足されるまで、最初(ステップN1)からの処理を繰り返す。
【0151】
これにより、誤り訂正不可能な情報量が大幅に削減されるので、復号部33において復号不可能な情報量も大幅に削減され、この結果、極めて高品質な再生画像信号Fk′を得ることができる。また、本第3変形例では、情報の再伝送を必要とする場合にも、必要最小限の情報のみを再伝送するので、再伝送情報量を大幅に削減して、伝送路4〔又は再伝送(通知)専用の伝送路〕の帯域の有効利用に大いに寄与する。
【0152】
なお、本第3変形例でも、図49に示す画像符号化装置2は、例えば、図51に示すように局所復号部24をそなえたタイプ、図52に示すように符号化時点で既に共通化された符号化パラメータekが得られるタイプ、図53に示すように、図52に示す構成にさらに局所復号部24を付加したタイプのいずれを適用することも可能である。そして、いずれのタイプを適用しても、上記と同様の作用効果が得られるとともに、前述したような各タイプに特有の利点が得られる。
【0153】
また、図49に示す画像復号装置3は、上記の各タイプの画像符号化装置2に対して、例えば図54〜図57に示すように、符号化パラメータek′そのものではなく多重化分離後の多重化符号化値 muxek′に対して誤り検出/訂正を行なう多重化復号部31Aをそなえたタイプのものにしてもよく、この場合は、さらに、このタイプの多重化復号装置3に特有の利点が得られる。
【0154】
なお、画像復号装置3をこのように多重化復号部31Aをそなえたタイプのものにした場合、前述したようにビット毎(あるいは値そのもの)の検査を行なうことができるので、上述した再伝送処理は例えば図58に示すようにして行なうことができる。
即ち、誤り訂正不可能な情報があった場合、誤り検出/訂正部312が、その情報の種類と誤りビットの番号(位置情報)を通知部35に通知する(ステップP1)。すると、通知部35は、要求のあった情報の種類と誤りビットの位置情報とを単体(ビット毎)あるいは複数ビットまとめて、識別情報(要求番号)7を付けて画像符号化装置2(通知受信/再伝送部26)側へ要求(伝送)する(ステップP2)。
【0155】
そして、画像符号化装置3では、この要求が通知受信/再伝送部26で受信されると、要求された情報を蓄積部25から取り出して再伝送送信部27へ出力し、再伝送送信部27にて、通知部35から要求された情報の識別情報7と同じ識別情報7を付けて画像復号装置3へ情報の再伝送を行なう(ステップP3)。従って、この場合は、ビット毎に再誤り訂正に必要な情報を伝送することができるので、再伝送時の伝送情報量をさらに削減することができる。なお、値そのものを検査する場合は、再伝送対象のビットが値になるだけで、上記と同様の手順である。
【0156】
(E)その他
上述した実施形態及び各変形例では、いずれも、画像符号化装置2で符号化した画像データを伝送路4を通じて画像復号装置3へ伝送し画像復号装置3において符号化された画像データを再生する、画像通信システム1を例にして説明したが、例えば図59に示すように、画像符号化装置2で符号化(圧縮)した画像データを蓄積媒体8に蓄積しておき、必要に応じてこの蓄積媒体8に蓄積された画像データを適宜に読み出して再生するようなシステム1′(例えば、1つのパーソナルコンピュータで画像データを圧縮して蓄積しておき、必要に応じて復号・再生するような場合)でも、上述した実施形態及び各変形例と同様の作用効果が得られる。
【0157】
即ち、このようなシステム1′の場合、蓄積媒体8に情報(符号化パラメータek)を蓄積するときや蓄積媒体8から情報を読み出すときなどに、情報に誤りが生じる可能性があるが、この場合も、上述した実施形態及び各変形例と同様に、共通化情報ecomによりその誤りを効率良く訂正することができるので、誤り耐性を大幅に向上させることができ、極めて高品質な再生画像を得ることができる。
【0158】
なお、図59では蓄積媒体8と蓄積部25とが個別に設けられているが、これらの蓄積媒体8と蓄積部25とにそれぞれ蓄積される情報の内容は、多重化部23を通したか通さないかの違いだけであるので、図60に示すように蓄積媒体8′として共通化した方が、装置規模を縮小することができる。ただし、この場合、再伝送する情報については多重化されてなくてよいので、再伝送部6に多重化復号部32と同様の機能をもった多重化復号部28が必要になる(画像符号化装置2,画像復号装置3のいずれに設けてもよい)。
【0159】
また、図59及び図60にはいずれも第3変形例にて前述した再伝送部6が設けられている場合の構成を示しているが、勿論、再伝送部6が設けられていないタイプのシステムでも同様である。
さらに、この場合も、図59に示す画像符号化装置2には、例えば、前記の局所復号部24をそなえたタイプ(例えば、図51参照)、符号化時点で既に共通化された符号化パラメータekが得られるタイプ(例えば、図52参照)、このタイプにさらに局所復号部24を付加したタイプ(例えば、図53参照)のいずれを適用することも可能であるし、画像復号装置3には、多重化分離後の多重化符号化値 muxek′に対して誤り検出/訂正を行なう多重化復号部31Aをそなえたタイプ(例えば、図54〜57参照)のものを適用することが可能である。
【0160】
また、上述したシステム1(1′)では、いずれも、説明の便宜上、画像符号化装置2及び画像復号装置3がそれぞれ符号化専用及び復号専用の装置として構成されている場合を例にしているが、実際には、例えば図61に示すように、相互に対向して設けられた画像伝送装置2A,3Aに、それぞれ、上述した画像符号化装置2及び画像復号装置3が設けられて、各画像伝送装置2A,3Aが画像符号化・復号装置として符号化及び復号の両機能を有しているのが通常である。
【0161】
即ち、この場合も、各画像伝送装置2A,3Aは、それぞれ、画像符号化装置2として、符号化部21(又は21A),共通化部22(又は22A)及び多重化23をそなえ、画像復号装置3として、多重化復号部31(又は31A),誤り検出/訂正部32及び復号部33をそなえ、対向する画像伝送装置3A,2Aの共通化部22(又は22A)で生成されて伝送されてくる共通化情報ecom′を用いて符号化パラメータek′の誤り訂正を行なう。
【0162】
さらに、上述したシステム1(1′)では、画像符号化装置2に共通化情報ecomを送信するための機能(多重化部23)が設けられ、画像復号装置3に共通化情報ecom′を受信するための機能(多重化復号部31,多重化分離部311)が設けられているが、本発明はこれに限定されず、少なくとも、画像復号装置3が共通化情報ecom′を共通化部22(22A)から受け取ることができるような構成になっていればよい。
【0163】
そして、本発明は上述した実施形態及び各変形例に限定されるものではなく、本発明の趣旨を逸脱しない範囲で種々変形して実施することができる。
【0164】
【発明の効果】
以上詳述したように、本発明によれば、画像データを或るブロック単位で符号化したときに、どのブロックが同じ符号化情報を有しているかを表す共通情報を生成して復号側へ提供するので、復号側では、復号すべき符号化情報に誤りがあっても、上記の共通情報から誤りのある符号化情報がどのブロックの符号化情報と同じであるかを認識し、他ブロックの符号化情報を用いて誤りを訂正することができる。従って、符号化情報の誤りに対する耐性が大幅に向上し、高精度な復号処理を行なうことができ、これにより、常に、再生画像の画質の悪化を最小限に抑えて、高品質な再生画像を得ることができる(請求項1,3,4,11,16〜18)。
【0165】
ここで、符号化側において、上記の共通情報を、複数ブロックでの符号化情報の発生頻度についてのヒストグラムを作成し、このヒストグラムにおいて発生頻度が所定値以下の符号化情報を粗く量子化してゆく、あるいは、そのヒストグラムにおいて近隣の符号化情報に修正してゆく、もしくは、近隣ブロックの符号化情報に修正してゆくことにより、符号化情報の共通化を行なって生成するようにすれば、同じ符号化情報を有するブロック数を増やして異なる符号化情報の送出量を削減することができるので、符号化情報の誤りに対する耐性をさらに向上させることができる(請求項5〜7)。
【0166】
また、符号化側からは、同じ符号化情報を有するブロックを複数のパケットデータに分散して送出するようにすれば、同じ符号化情報を有するブロックが誤り等によりまとめて欠落してしまう確率が大幅に低減されるので、上記の誤り訂正を確実に行なうことができ、復号側での復号処理の信頼性の向上に大いに寄与する(請求項8)。
【0167】
さらに、符号化側からは上記の共通情報を複数回送出するようにすれば、復号側が共通情報を正常に受け取れないといった状況の発生確率を大幅に低減することができるので、復号側では、上記の共通化情報に基づく誤り訂正を確実に行なうことができ、これにより、復号処理の信頼性を大幅に向上させることができる(請求項9)。
【0168】
また、復号側において誤り訂正不可能な符号化情報があった場合は、その符号化情報の再誤り訂正に必要な情報についての再送出要求を符号化側に行ない、符号化側からはその要求のあった情報のみを復号側へ再送出するようにすれば、誤り訂正能時の再送出情報量を大幅に削減することができる(請求項2,10,15)。
【0169】
さらに、上記の誤り訂正は、符号化情報に誤りのあることが予め分かっている場合、上記の共通情報に基づいて誤りのある符号化情報と同じ符号化情報を有する他のブロックを特定し、そのブロックの符号化情報を上記誤りのあるブロックの符号化情報として出力することによって行なえば、極めて簡易な処理で確実に実現することができる(請求項12)。
【0170】
また、符号化情報に誤りのあることが予め分からない場合は、上記の共通情報に基づいて同じ符号化情報を有するべき複数のブロックを特定し、これらの複数のブロックの各符号化情報を比較することによって誤りを検出してその誤りを訂正するようにすれば、符号化情報に誤りのあることが予め分からない場合にも確実に対応することができる(請求項13)。
【0171】
さらに、誤り訂正の際、共通情報またはブロックの識別情報もしくはその両方の信頼性を判定し、信頼性の低い情報についてはその信頼性の低い情報以外の情報から正しい情報を推定するようにすれば、誤り訂正処理の精度や信頼性を大幅に向上させることができる(請求項14)。
【図面の簡単な説明】
【図1】本発明の一実施形態としての画像通信システム(画像符号化・復号システム)の構成を示すブロック図である。
【図2】(a)〜(d)はいずれも本実施形態の画像符号化装置において共通化を行なう単位ブロックを説明するための図である。
【図3】本実施形態の画像符号化装置における共通化部の動作を説明するためのフローチャートである。
【図4】(a)は或るブロックの符号化パラメータ値の一例を示す図であり、(b)は対応するブロック番号の一例を示す図である。
【図5】(a)は本実施形態にかかる共通化情報の一例を示す図であり、(b)は本実施形態にかかる多重化共通化情報の一例を示す図である。
【図6】本実施形態の共通化部の詳細動作を説明するためのフローチャートである。
【図7】図6に示すフローチャートの変形例を説明するための図である。
【図8】図6に示すフローチャートの変形例を説明するための図である。
【図9】本実施形態の共通化部の詳細動作の具体例を説明するためのフローチャートである。
【図10】本実施形態の共通化部の詳細動作の他の具体例を説明するためのフローチャートである。
【図11】本実施形態の共通化部の詳細動作の他の具体例を説明するためのフローチャートである。
【図12】(a),(b)はいずれも本実施形態の共通化部による発生頻度ヒストグラムの作成例を説明するための図である。
【図13】本実施形態の共通化部の他の詳細動作を説明するためのフローチャートである。
【図14】(a)は本実施形態にかかる共通化情報の一例を示す図であり、(b)は(a)を基にしたパケット作成時の処理を説明するための図である。
【図15】本実施形態の共通化部の他の詳細動作を説明するためのフローチャートである。
【図16】本実施形態の共通化部の他の詳細動作を説明するためのフローチャートである。
【図17】本実施形態にかかる或るブロックの符号化パラメータ値の一例を示す図である。
【図18】(a)〜(d)はいずれも図17に示すブロックに対するブロック分割処理を説明するための図である。
【図19】本実施形態のブロック分割処理により得られる共通化情報の一例を示す図である。
【図20】本実施形態の画像符号化装置における多重化部の動作を説明するためのフローチャートである。
【図21】本実施形態の多重化部の詳細動作を説明するためのフローチャートである。
【図22】本実施形態にかかる多重化共通化情報の他の一例を示す図である。
【図23】(a),(b)はいずれも本実施形態の多重化部の動作を説明するための図である。
【図24】本実施形態の多重化部の詳細動作を説明するためのフローチャートである。
【図25】本実施形態の多重化部の動作を説明するための図である。
【図26】本実施形態の多重化部の動作を説明するための図である。
【図27】本実施形態の多重化部の動作を説明するための図である。
【図28】本実施形態の画像復号装置における多重化復号部の動作を説明するためのフローチャートである。
【図29】本実施形態の画像復号装置における誤り検出/訂正部の動作を説明するためのフローチャートである。
【図30】本実施形態の誤り検出/訂正部の動作を説明するためのフローチャートである。
【図31】本実施形態の誤り検出/訂正部の動作を説明するためのフローチャートである。
【図32】本実施形態の誤り検出/訂正部による信頼性判定処理を説明するためのフローチャートである。
【図33】本実施形態の誤り検出/訂正部による情報推定処理を説明するためのフローチャートである。
【図34】本実施形態の誤り検出/訂正部による情報推定処理を説明するための図である。
【図35】本実施形態の誤り検出/訂正部による情報推定処理を説明するための図である。
【図36】本実施形態の誤り検出/訂正部による他の情報推定処理を説明するためのフローチャートである。
【図37】本実施形態の誤り検出/訂正部による情報推定処理を説明するための図である。
【図38】図1に示す画像符号化・復号システムの他の構成例を示すブロック図である。
【図39】本実施形態の画像符号化・復号システムの第1変形例を示すブロック図である。
【図40】第1変形例における画像符号化・復号システムの共通化部の動作を説明するためのフローチャートである。
【図41】図40に示す画像符号化・復号システムの他の構成例を示すブロック図である。
【図42】本実施形態の画像符号化・復号システムの第2変形例を示すブロック図である。
【図43】第2変形例の画像符号化・復号システムの多重化復号部の動作を説明するためのフローチャートである。
【図44】第2変形例における画像符号化・復号システムの多重化復号部の動作を説明するためのフローチャートである。
【図45】(a),(b)はいずれも第2変形例の多重化復号部における信頼性判定処理を説明するためのフローチャートである。
【図46】図42に示す画像符号化・復号システムの他の構成例を示すブロック図である。
【図47】図42に示す画像符号化・復号システムの他の構成例を示すブロック図である。
【図48】図42に示す画像符号化・復号システムの他の構成例を示すブロック図である。
【図49】本実施形態の画像符号化・復号システムの第3変形例を示すブロック図である。
【図50】第3変形例における画像符号化・復号システムの再伝送部の動作を説明するためのフローチャートである。
【図51】図49に示す画像符号化・復号システムの他の構成例を示すブロック図である。
【図52】図49に示す画像符号化・復号システムの他の構成例を示すブロック図である。
【図53】図49に示す画像符号化・復号システムの他の構成例を示すブロック図である。
【図54】図49に示す画像符号化・復号システムの他の構成例を示すブロック図である。
【図55】図49に示す画像符号化・復号システムの他の構成例を示すブロック図である。
【図56】図49に示す画像符号化・復号システムの他の構成例を示すブロック図である。
【図57】図49に示す画像符号化・復号システムの他の構成例を示すブロック図である。
【図58】図54〜図57に示す画像符号化・復号システムにおける再伝送の動作を説明するためのフローチャートである。
【図59】符号化後の画像データを蓄積する場合の画像符号化・復号システムの構成例を示すブロック図である。
【図60】図59に示す画像符号化・復号システムの他の構成例を示すブロック図である。
【図61】 本発明の一実施形態としての画像符号化・復号装置の構成を示すブロック図である。
【図62】従来の画像通信システム(画像符号化・復号システム)の基本構成を示すブロック図である。
【図63】図61に示す画像符号化・復号システムの変形例を示すブロック図である。
【図64】従来の画像符号化・復号システムにおける多重化部の出力例を示す図である。
【図65】従来の画像符号化・復号システムの要部の構成例を示すブロック図である。
【図66】図64に示す符号化部の構成例を示すブロック図である。
【図67】図64に示す多重化部の機能を説明するための図である。
【図68】ビデオパケットのフォーマット例を示す図である。
【符号の説明】
1 画像通信システム(画像符号化・復号システム)
2 画像符号化装置
3 画像復号装置
2A,3A 画像伝送装置(画像符号化・復号装置)
4 伝送路
5 共通化情報(共通情報)
6 再伝送部
7 識別情報(要求番号)
8,8′ 蓄積媒体
21,21A 符号化部
22,22A 共通化部(共通情報生成部)
23 多重化部(送出部)
24 局所復号部
25,34 蓄積部
26 通知受信/再伝送部
27 再伝送送信部(再送出部)
31 多重化復号部(受信部)
31A 多重化復号部
32,312 誤り検出/訂正部
33 復号部
35 通知部(再送出要求部)
36 再伝送受信部
311 多重化分離部(受信部)
313 多重化変換部
Claims (18)
- 画像データを符号化する画像符号化装置と、該画像符号化装置で符号化された画像データを復号して再生する画像復号装置とをそなえた画像符号化・復号システムにおいて、
該画像符号化装置が、
該画像データを1つ以上の画素から成るブロック単位で符号化することにより、該ブロックについて所定の符号化情報を得る符号化部と、
該符号化部により得られた複数ブロックについての符号化情報のうち、どのブロックが同じ符号化情報を有しているかを表す共通情報を生成する共通情報生成部とをそなえるとともに、
該画像復号装置が、
該画像符号化装置の該共通情報生成部で生成された該共通情報に基づいて該符号化情報の誤りを訂正する誤り訂正部と、
該誤り訂正部により誤り訂正された符号化情報を復号して該画像データを再生する復号部とをそなえていることを特徴とする、画像符号化・復号システム。 - 該画像復号装置が、
該誤り訂正部において誤り訂正不可能な符号化情報の再誤り訂正に必要な情報について再送出要求を該画像符号化装置に行なう再送出要求部をそなえるとともに、
該画像符号化装置が、
該画像復号装置の該再送出要求部からの該再送出要求に応じた情報のみを該画像復号装置へ再送出する再送出部をそなえていることを特徴とする、請求項1記載の画像符号化・復号システム。 - 画像データを1つ以上の画素から成るブロック単位で符号化することにより、該ブロックについて所定の符号化情報を得る符号化ステップと、
該符号化ステップにより得られた複数ブロックについての符号化情報のうち、どのブロックが同じ符号化情報を有しているかを表す共通情報を生成する共通情報生成ステップと、
該共通情報生成ステップで生成された該共通情報に基づいて該符号化情報の誤りを訂正する誤り訂正ステップと、
該誤り訂正ステップにより誤り訂正された符号化情報を復号して該画像データを再生する復号ステップとをそなえて成ることを特徴とする、画像符号化・復号方法。 - 画像データを1つ以上の画素から成るブロック単位で符号化することにより、該ブロックについて所定の符号化情報を得る符号化部と、
該符号化部により得られた複数ブロックについての符号化情報のうち、どのブロックが同じ符号化情報を有しているかを表す共通情報を生成する共通情報生成部と、
少なくとも該共通情報生成部で生成された該共通情報を画像復号装置へ送出する送出部とをそなえていることを特徴とする、画像符号化装置。 - 該共通情報生成部が、
複数ブロックでの符号化情報の発生頻度についてのヒストグラムを作成し、当該ヒストグラムにおいて該発生頻度が所定値以下の符号化情報を粗く量子化してゆくことにより、該符号化情報の共通化を行なって、該共通情報を生成するように構成されていることを特徴とする、請求項4記載の画像符号化装置。 - 該共通情報生成部が、
複数ブロックでの符号化情報の発生頻度についてのヒストグラムを作成し、当該ヒストグラムにおいて該発生頻度が所定値以下の符号化情報を当該ヒストグラムにおいて近隣の符号化情報に修正してゆくことにより、該符号化情報の共通化を行なって、該共通情報を生成するように構成されていることを特徴とする、請求項4記載の画像符号化装置。 - 該共通情報生成部が、
複数ブロックでの符号化情報の発生頻度についてのヒストグラムを作成し、当該ヒストグラムにおいて該発生頻度が所定値以下の符号化情報を近隣ブロックの符号化情報に修正してゆくことにより、該符号化情報の共通化を行なって、該共通情報を生成するように構成されていることを特徴とする、請求項4記載の画像符号化装置。 - 該送出部が、
同じ符号化情報を有するブロックを複数のパケットデータに分散して送出するように構成されていることを特徴とする、請求項4〜7のいずれか1項に記載の画像符号化装置。 - 該送出部が、
該共通情報を複数回送出するように構成されていることを特徴とする、請求項4〜7のいずれか1項に記載の画像符号化装置。 - 画像復号装置から誤り訂正不可能な符号化情報の再誤り訂正に必要な情報についての再送出要求を受けると、当該再送出要求に応じた情報のみを該画像復号装置へ再送出する再送出部をそなえていることを特徴とする、請求項4〜9のいずれか1項に記載の画像符号化装置。
- 画像符号化装置において画像データを1つ以上の画素から成るブロック単位で符号化することにより該ブロックについて所定の符号化情報が得られるとともに複数ブロックについての符号化情報のうちどのブロックが同じ符号化情報を有しているかを表す共通情報が得られる場合に、少なくとも、該共通情報を該画像符号化装置から受信する受信部と、
該受信部で受信された該共通情報に基づいて該符号化情報の誤りを訂正する誤り訂正部と、
該誤り訂正部により誤り訂正された符号化情報を復号して該画像データを再生する復号部とをそなえていることを特徴とする、画像復号装置。 - 該誤り訂正部が、
該符号化情報に誤りのあることが予め分かっている場合は、該共通情報に基づいて当該誤りのある符号化情報と同じ符号化情報を有する他のブロックを特定し、当該他のブロックの符号化情報を上記誤りのあるブロックの符号化情報として出力することにより、該符号化情報の誤りを訂正するように構成されていることを特徴とする、請求項11記載の画像復号装置。 - 該誤り訂正部が、
該符号化情報に誤りのあることが予め分からない場合は、該共通情報に基づいて同じ符号化情報を有するべき複数のブロックを特定し、当該複数のブロックの各符号化情報を比較することによって誤りを検出して当該誤りを訂正するように構成されていることを特徴とする、請求項11記載の画像復号装置。 - 該誤り訂正部が、
該共通情報または該ブロックの識別情報もしくは両方の信頼性を判定し、信頼性の低い情報については当該信頼性の低い情報以外の情報から正しい情報を推定するように構成されていることを特徴とする、請求項11〜13のいずれか1項に記載の画像復号装置。 - 該誤り訂正部において誤り訂正不可能な符号化情報の再誤り訂正に必要な情報についての再送出要求を画像符号化装置に行なう再送出要求部をそなえていることを特徴とする、請求項11〜14のいずれか1項に記載の画像復号装置。
- 画像データを1つ以上の画素から成るブロック単位で符号化することにより、該ブロックについて所定の符号化情報を得る符号化ステップと、
該符号化ステップにより得られた複数ブロックについての符号化情報のうち、どのブロックが同じ符号化情報を有しているかを表す共通情報を生成する共通情報生成ステップと、
少なくとも該共通情報生成ステップで生成された該共通情報を復号側へ送出する送出ステップとをそなえて成ることを特徴とする、画像符号化方法。 - 画像データを1つ以上の画素から成るブロック単位で符号化することにより該ブロックについて所定の符号化情報が得られるとともに複数ブロックについての符号化情報のうちどのブロックが同じ符号化情報を有しているかを表す共通情報が符号化側で得られる場合に、少なくとも、該共通情報を該符号化側から受信する受信ステップと、
該受信ステップで受信した該共通情報に基づいて該符号化情報の誤りを訂正する誤り訂正ステップと、
該誤り訂正ステップにより誤り訂正された符号化情報を復号して該画像データを再生する復号ステップとをそなえて成ることを特徴とする、画像復号方法。 - 画像データを符号化する画像符号化装置と、該画像符号化装置に対向して設けられた画像符号化・復号装置で符号化された画像データを復号して再生する画像復号装置とをそなえた画像符号化・復号装置において、
該画像符号化装置が、
該画像データを1つ以上の画素から成るブロック単位で符号化することにより、該ブロックについて所定の符号化情報を得る符号化部と、
該符号化部により得られた複数ブロックについての符号化情報のうち、どのブロックが同じ符号化情報を有しているかを表す共通情報を生成する共通情報生成部とをそなえるとともに、
該画像復号装置が、
上記の対向する画像符号化・復号装置で生成される、当該画像符号化・復号装置での画像データの符号化により得られた複数ブロックについての符号化情報のうちどのブロックが同じ符号化情報を有しているを表す共通情報に基づいて該符号化情報の誤りを訂正する誤り訂正部と、
該誤り訂正部により誤り訂正された符号化情報を復号して該画像データを再生する復号部とをそなえていることを特徴とする、画像符号化・復号装置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP31150398A JP3990055B2 (ja) | 1998-10-30 | 1998-10-30 | 画像符号化・復号システムおよび画像符号化・復号方法並びに画像符号化装置および画像復号装置並びに画像符号化方法および画像復号方法並びに画像符号化・復号装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP31150398A JP3990055B2 (ja) | 1998-10-30 | 1998-10-30 | 画像符号化・復号システムおよび画像符号化・復号方法並びに画像符号化装置および画像復号装置並びに画像符号化方法および画像復号方法並びに画像符号化・復号装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2000138931A JP2000138931A (ja) | 2000-05-16 |
| JP3990055B2 true JP3990055B2 (ja) | 2007-10-10 |
Family
ID=18018028
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP31150398A Expired - Fee Related JP3990055B2 (ja) | 1998-10-30 | 1998-10-30 | 画像符号化・復号システムおよび画像符号化・復号方法並びに画像符号化装置および画像復号装置並びに画像符号化方法および画像復号方法並びに画像符号化・復号装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP3990055B2 (ja) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7827467B2 (en) * | 2006-01-04 | 2010-11-02 | Nokia Corporation | Method for checking of video encoder and decoder state integrity |
| KR101365444B1 (ko) * | 2007-11-19 | 2014-02-21 | 삼성전자주식회사 | 영상의 해상도의 조정을 통하여 동영상을 효율적으로부호화/복호화하는 방법 및 장치 |
| TWI686085B (zh) * | 2012-11-29 | 2020-02-21 | 日商索尼半導體解決方案公司 | 攝像裝置及圖像感測器之資料傳送方法、資訊處理裝置及資訊處理方法以及程式 |
-
1998
- 1998-10-30 JP JP31150398A patent/JP3990055B2/ja not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2000138931A (ja) | 2000-05-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US6876705B2 (en) | Systems and methods for decoding of partially corrupted reversible variable length code (RVLC) intra-coded macroblocks and partial block decoding of corrupted macroblocks in a video decoder | |
| JP5007322B2 (ja) | ビデオ符号化方法 | |
| US6339658B1 (en) | Error resilient still image packetization method and packet structure | |
| EP0493128B1 (en) | Image processing apparatus | |
| Apostolopoulos | Error-resilient video compression via multiple state streams | |
| US20070291836A1 (en) | Frame level multimedia decoding with frame information table | |
| EP1793613A2 (en) | Picture encoding method and apparatus and picture decoding method and apparatus | |
| CN1277517A (zh) | 用于视频分组传输的无线通信系统 | |
| KR20050035539A (ko) | 개선된 효율 및 에러 복구를 위한 컨텐츠-적응형의 다수의설명 움직임 보상 방법 | |
| US8300959B2 (en) | Transport stream structure of image data having additional information inserted, and method and apparatus for transmission and reception thereof | |
| WO2003007536A1 (en) | Method for detection and recovery of errors in the frame | |
| EP1501228A1 (en) | Encoded packet transmission/reception method, device thereof, and program | |
| US8199817B2 (en) | Method for error concealment in decoding of moving picture and decoding apparatus using the same | |
| EP1158812A2 (en) | Method for detecting errors in a video signal | |
| US6804299B2 (en) | Methods and systems for reducing requantization-originated generational error in predictive video streams using motion compensation | |
| US20060090118A1 (en) | Coding a data stream with unequal error protection | |
| KR20010108318A (ko) | 동화상 부호화 장치 및 동화상 복호화 장치 | |
| JP3990055B2 (ja) | 画像符号化・復号システムおよび画像符号化・復号方法並びに画像符号化装置および画像復号装置並びに画像符号化方法および画像復号方法並びに画像符号化・復号装置 | |
| US7324698B2 (en) | Error resilient encoding method for inter-frames of compressed videos | |
| EP1303918A1 (en) | Signal coding | |
| US6356661B1 (en) | Method and device for robust decoding of header information in macroblock-based compressed video data | |
| JP2002027483A (ja) | 画像符号化装置、画像復号化装置および記憶媒体 | |
| Katsaggelos et al. | Error resilience and concealment in video coding | |
| US20040258163A1 (en) | Video communication system and video coding method | |
| JP3408957B2 (ja) | 可変長符号化データ伝送装置、送信側装置、受信側装置およびその方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050816 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070608 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070626 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070719 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100727 Year of fee payment: 3 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100727 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110727 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110727 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120727 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120727 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130727 Year of fee payment: 6 |
|
| LAPS | Cancellation because of no payment of annual fees |