[go: up one dir, main page]

JP2018107500A - 符号化装置、符号化方法及びプログラム、復号装置、復号方法及びプログラム - Google Patents

符号化装置、符号化方法及びプログラム、復号装置、復号方法及びプログラム Download PDF

Info

Publication number
JP2018107500A
JP2018107500A JP2016249173A JP2016249173A JP2018107500A JP 2018107500 A JP2018107500 A JP 2018107500A JP 2016249173 A JP2016249173 A JP 2016249173A JP 2016249173 A JP2016249173 A JP 2016249173A JP 2018107500 A JP2018107500 A JP 2018107500A
Authority
JP
Japan
Prior art keywords
control information
encoding
image
tile
boundary
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016249173A
Other languages
English (en)
Inventor
真悟 志摩
Shingo Shima
真悟 志摩
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016249173A priority Critical patent/JP2018107500A/ja
Priority to PCT/JP2017/044662 priority patent/WO2018116924A1/ja
Priority to RU2020134731A priority patent/RU2749536C2/ru
Priority to KR1020217018705A priority patent/KR20210077799A/ko
Priority to KR1020197019989A priority patent/KR20190094407A/ko
Priority to CN201780079211.0A priority patent/CN110115038A/zh
Priority to EP17882573.3A priority patent/EP3562160A4/en
Priority to RU2019122137A priority patent/RU2019122137A/ru
Publication of JP2018107500A publication Critical patent/JP2018107500A/ja
Priority to US16/446,362 priority patent/US20190306515A1/en
Priority to US17/100,591 priority patent/US20210076051A1/en
Priority to RU2021116192A priority patent/RU2760909C1/ru
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】タイル境界の連続性を考慮して、適応的にタイル境界のインループフィルタ処理を適用できるようにする符号化装置を提供する。【解決手段】複数のタイルによって構成される複数の境界に対して、境界に隣接する画素をフィルタ処理するか否かを決定する決定手段103と、決定手段による決定に基づいて、境界に隣接する画素をフィルタ処理するか否かを示す制御情報を、複数の境界うちの少なくとも2つに対して符号化する符号化手段111と、を有する。【選択図】図1

Description

本発明は符号化装置、符号化方法及びプログラム、復号装置、復号方法及びプログラムおよび画像符号データに関し、特にブロック境界におけるフィルタリング処理に関する。
動画像の圧縮記録の符号化方式として、HEVC(High Efficiency Video Coding)符号化方式(以下、HEVCと記す)が知られている。HEVCには、1フレームを複数の矩形状の領域に分割して符号化・復号の並列処理等を可能にする、Tile(タイル)と呼ばれる手法が採用されている。タイルを用いることにより、符号化・復号の並列処理による高速化を実現すると共に画像符号化装置・画像復号装置が備えるメモリ容量を削減することが可能となっている。
また、HEVCでは符号化された画像の画質を向上させるため、デブロッキングフィルタやサンプルアダプティブオフセットといったインループフィルタ処理も採用されている。こうしたインループフィルタ処理はタイルの境界をまたいだ画素に対しても適用することが可能であるが、タイルの境界をまたいだ画素に対してインループフィルタ処理を適用すると、符号化・復号の並列処理に支障をきたす場合がある。そのため、HEVCではタイルの境界をまたいだ画素に対してインループフィルタ処理を適用するか否かを選択することができるloop_filter_across_tiles_enabled_flagシンタックス要素が採用されている。上記シンタックス要素が1の場合にはタイル境界に対するインループフィルタの適用を可能にし、0の場合にはタイル境界に対するインループフィルタの適用を禁止にするといった具合である。これにより、並列実装性を重視する場合には上記シンタックス要素を0とし、タイル境界の画質を重視する場合には上記シンタックス要素を1とすることができる。
近年、VR(Virutal Reality)技術の発達に伴い、360°映像を複数のカメラで撮影し、撮影した画像を圧縮・符号化するユースケースが生まれている。360°映像の撮影方法として、6台のカメラで上下左右前後の各方向の画像を撮影し合成する手法がある(非特許文献1)。こうして撮影された画像は、撮影された6枚の画像を並び替えて合成して1枚の画像とし、圧縮・符号化される。並び替えについては、図9(a)のようにサイコロを展開するように並べる手法や、図9(b)〜(d)のように合体後の画像の面積が最小となるよう、長方形にさらに並び替える手法が検討されている(非特許文献2)。図9(a)のような手法では、左と前、前と右など隣接した画像の境界が常に連続しているが、合体後の画像の四隅に無駄な領域が発生してする。一方で、図9(b)〜(d)のような手法では、合体後の画像に無駄な領域は発生しないが、隣接した画像の境界の中に連続している境界と不連続な境界が混在する。
JVET 寄書 JVET−C0021 インターネット<http://phenix.int−evry.fr/jvet/doc_end_user/documents/3_Geneva/wg11/> JVET 寄書 JVET−D0022 インターネット<http://phenix.int−evry.fr/jvet/doc_end_user/documents/4_Chengdu/wg11/>
前述のデブロッキングフィルタやサンプルアダプティブオフセットに代表されるインループフィルタを用いることは符号化効率の観点から有効であると考えられている。また、前述の図9(b)〜(d)のように複数のカメラで撮影して合成された画像、すなわち画像の境界の中に連続している境界と不連続な境界が混在する画像を符号化する場合、各カメラで撮影された画像をタイルに対応づけて符号化するのが自然である。しかしながらHEVCに代表される既存の手法では、画像内の全てのタイル境界に対して一様にインループフィルタ処理を適用するか否かしか選択することができない。すなわち、連続したタイル境界、不連続なタイル境界の区別なくインループフィルタを適用するか否かしか選択することができない。その場合、不連続なタイル境界を優先してインループフィルタの不適用を選択すると、本来インループフィルタ処理によって画質向上が期待できる連続したタイル境界に対してインループフィルタを適用することができない。一方、連続したタイル境界を優先してインループフィルタの適用を選択すると、不連続なタイル境界に対してインループフィルタを適用することになり、不連続なタイル境界周辺に不必要な画質劣化を生じさせてしまう。したがって、本発明は上述した課題を解決するためになされたものであり、タイル境界の連続性を考慮して、適応的にタイル境界のインループフィルタ処理を適用できるようにすることを目的としている。
前述の問題点を解決するため、本発明の符号化装置は以下の構成を有する。すなわち、複数のタイルを有する画像を符号化するための符号化装置において、前記複数のタイルによって構成される複数の境界に対して、当該境界に隣接する画素をフィルタ処理するか否かを決定する決定手段と、前記決定手段による決定に基づいて、境界に隣接する画素をフィルタ処理するか否かを示す制御情報を、前記複数の境界うちの少なくとも2つに対して符号化する符号化手段と、を有することを特徴とする。
さらに、本発明の復号装置は以下の構成を有する。すなわち、複数のタイルを有する画像をビットストリームから復号するための復号装置において、画像を復号する復号手段と、前記複数のタイルによって構成される複数の境界に対して、当該境界に隣接する画素をフィルタ処理するか否かを示す制御情報をビットストリームから生成する生成手段と、前記生成手段によって生成された制御情報に基づいて、少なくとも複数の境界に隣接する画素をフィルタリング処理するか否かを決定する決定手段と、前記決定手段によってフィルタリング処理すると決定された境界に対してフィルタリング処理する処理手段とを有することを特徴とする。
タイル境界ごとにインループフィルタ処理を適用するか否かを適応的に選択することができるようになる。
画像符号化装置の構成を示すブロック図 画像復号装置の構成を示すブロック図 (a)〜(b)、タイル境界の連続性とインループフィルタ処理の対象画素の関係の一例を示す図 画像符号化装置における画像符号化処理を示すフローチャート 画像符号化装置および画像復号装置におけるインループフィルタ処理を示すフローチャート (a)〜(b)画像符号化装置によって生成され、画像復号装置によって復号されるビットストリーム構造の一例を示す図 画像復号装置における復号処理を示すフローチャート 画像符号化装置、画像復号装置に適用可能なコンピュータのハードウェア構成例を示すブロック図 (a)〜(d)複数のカメラで撮影された画像を並び替え、1枚の画像とする配置例を示す図 (a)〜(c)画像符号化装置によって生成され、画像復号装置によって復号されるビットストリームのタイル分割情報およびフィルタ制御情報に関するシンタックスを表す図。
以下、添付の図面を参照して、本発明をその好適な実施形態に基づいて詳細に説明する。なお、以下の実施形態において示す構成は一例に過ぎず、本発明は図示された構成に限定されるものではない。
以下、本発明の符号化側の実施形態を、図面を用いて説明する。本実施形態では特に図9(b)に示された画像を入力して符号化する場合について説明する。
図1は本実施形態の画像符号化装置を示すブロック図である。図1の各ブロックは、全てハードウェアとして構成されてもよいし、一部または全てのブロックがソフトウエアによって構成されてもよい。
図1において、端子101は画像データを入力する端子である。
タイル分割部102は、入力画像のタイル分割方法を決定し、分割する処理を行う。
フィルタ制御情報生成部103は、各タイル境界の画素に対して後述のインループフィルタ処理を行うか否かについての情報である、フィルタ制御情報を生成し、出力する。
予測部104は、ブロック単位の画像データに対し、フレーム内予測であるイントラ予測やフレーム間予測であるインター予測などを行い、予測画像データを生成する。さらに、入力された画像データと前記予測画像データから予測誤差を算出し、出力する。また、予測に必要な情報、例えば予測モード等の情報も予測誤差と併せて出力される。以下ではこの予測に必要な情報を予測情報と呼称する。
変換・量子化部105は、前記予測誤差をブロック単位で直交変換して変換係数を得、さらに量子化を行い、量子化係数を得る。
逆量子化・逆変換部106は、変換・量子化部105から出力された量子化係数を逆量子化して変換係数を再生し、さらに逆直交変換して予測誤差を再生する。
フレームメモリ108は、再生された画像データを格納しておくメモリである。
画像再生部107は、予測部104から出力された予測情報に基づいて、フレームメモリ108を適宜参照して予測画像データを生成し、生成された予測画像データと入力された予測誤差とから再生画像データを生成し、出力する。
インループフィルタ部109は、再生画像に対し、デブロッキングフィルタやサンプルアダプティブオフセットなどのインループフィルタ処理を行い、フィルタ処理された画像を出力する。
符号化部110は、変換・量子化部105から出力された量子化係数および予測部104から出力された予測情報を符号化して、符号データを生成し出力する。
統合符号化部111は、タイル分割部102やフィルタ制御情報生成部103からの出力を符号化して、ヘッダに格納するヘッダ符号データを生成する。生成されたヘッダ符号データは、符号化部110から出力された符号データととともに、ビットストリームを形成して出力する
端子112は、統合符号化部111で生成されたビットストリームを外部に出力する端子である。
図1に示す画像符号化装置における画像の符号化処理を以下に説明する。本実施形態では動画像データをフレーム単位に入力する構成となっているが、1フレーム分の静止画像データを入力する構成としても構わない。
端子101から入力された1フレーム分の画像データはタイル分割部102に入力される。端子101において入力される画像データはN枚(N≧3)の画像を並び替えて合成された1フレーム分の画像データとする。N枚(N≧3)の画像の配置は回転した画像の配置も含むものとする。本実施の形態では、何枚分の画像がどのように配置されて合成されているかを示す情報を取得してもよい。
タイル分割部102は、入力画像のタイル分割方法を決定し、決定した分割方法に基づいて入力された画像データをタイル単位に分割して予測部104に出力する。すなわち、また、決定したタイル分割方法をタイル分割情報としてフィルタ制御情報生成部103および統合符号化部111に出力する。タイル分割の決定方法は特に限定されず、入力された画像の特性を用いても良いし、上記のように何枚分の画像がどのように配置されて合成されているかを示す情報を用いても良いし、ユーザからの入力によって決定しても良い。本実施の形態では、入力された1フレーム分の画像データは、合成されたN枚の画像の境界に沿って分割され、N個(N≧3)のタイルによってM個(M≧2)のタイルの境界を有する画像データが構成されるものとして説明する。例えば、図9(b)に示されたような画像の符号化を行う場合、前・右・後・下・左・上のそれぞれの画像を個別のタイルに対応付ける、すなわち6つのタイルから構成される画像を符号化する、といった具合である。
次に、フィルタ制御情報生成部103は、各タイル境界に対してインループフィルタ処理を行うか否かを決定し、その情報をフィルタ制御情報として、インループフィルタ部109および統合符号化部111に出力する。フィルタ制御情報の決定方法は特に限定されず、入力された画像の特性を用いても良いし、ユーザからの入力によって決定しても良い。また、フィルタ制御情報生成部103は、外部から入力されたまたは内部で算出されたタイル分割状態に関する情報および各タイル境界の連続性に関する情報に基づいて決定しても構わない。例えば、図9(b)に示されたような画像の符号化を行う場合、タイル分割部102によって6つのタイルから構成される画像を符号化することが決定される。この場合、画像の上部に存在している2つの垂直方向のタイル境界(「前」と「右」の間、「右」と「後」の間)および画像の左部に存在している1つの水平方向のタイル境界(「前」と「下」の間)は画素値が連続している。一方でそれ以外の4つのタイル境界においては画素が連続していないことになる。その場合、フィルタ制御情報生成部103は、画素が連続している3つのタイル境界についてはインループフィルタ処理を行い、残りの4つの不連続なタイル境界についてはインループフィルタ処理を行わないことを示す情報をフィルタ制御情報として出力する。
統合符号化部111では、タイル分割情報やフィルタ制御情報を符号化し、それぞれタイル分割情報符号およびフィルタ制御情報符号を生成する。符号化の方法は特に指定しないが、ゴロム符号化、算術符号化、ハフマン符号化などを用いることができる。
予測部104は、タイル分割部102から入力されたタイル単位の画像データを複数のブロックに分割し、ブロック単位の予測処理が実行される。予測処理の結果、予測誤差が生成され、変換・量子化部105に入力される。また、予測部104は予測情報を生成し、符号化部110および画像再生部107に出力する。
変換・量子化部105は、入力された予測誤差に直交変換・量子化を行い、量子化係数を生成する。生成された量子化係数は符号化部110および逆量子化・逆変換部106に入力される。
逆量子化・逆変換部106は、入力された量子化係数を逆量子化して変換係数を再生し、さらに再生された変換係数を逆直交変換して予測誤差を再生し、画像再生部107に出力する。
画像再生部107は、予測部104から入力される予測情報に基づいて、フレームメモリ108を適宜参照し、予測画像を再生する。そして再生された予測画像と逆量子化・逆変換部106から入力された再生された予測誤差から画像データを再生し、フレームメモリ108に入力し、格納する。
インループフィルタ部109は、フレームメモリ108から再生画像を読み出し、フィルタ対象のブロック位置およびフィルタ制御情報103から入力されたフィルタ制御情報に基づいて、デブロッキングフィルタなどのインループフィルタ処理を行う。そして、フィルタ処理された画像を再びフレームメモリ108に入力し、再格納する。このフィルタ処理された画像は予測部104におけるインター予測などに用いられる。
本実施形態でのインループフィルタ処理について、図3を用いて説明する。フィルタ対象のブロックの位置およびフィルタ制御情報に基づいて、下記のいずれかのフィルタ処理を行う。ここではタイル境界におけるフィルタ処理についてのみ説明するが、タイル境界以外の画素位置におけるフィルタ処理は、既存の画像符号化方式に基づいて実施されるものとする。また、ここでは説明を容易にするため、ブロックサイズを4×4ブロックとするが、これに限定されない。
図3(a)は2つの4×4ブロックの境界をまたいでデブロッキングフィルタ処理を行う場合の一例である。外枠300の内部には、4×4画素の2つのブロックが存在し、角丸長方形301に囲まれた各ブロックのタイル境界に隣接する3画素、合計6画素に対してフィルタ処理が実行されるものとする。図3(a)に示す左側のブロックはタイル0に属しており、右側のブロックはタイル1に属している。すなわち左右のブロックは異なるタイルに属しているブロックであり、左右のブロックの境界はタイルの境界でもある。このタイル境界は図9(b)の上部(例えば「前」と「右」の間)などでみられるような画素値が連続したタイル境界であるものとする。この場合、フィルタ制御情報生成部103からは画素が連続したタイル境界にはインループ処理を行うことを示すフィルタ制御情報が入力されるため、○の記号で示された6画素全てがフィルタ処理の対象となり、6画素全てに対しフィルタ処理が行われる。
一方、図3(b)は図3(a)と異なり、左右のタイルの境界は、図9(b)の下部(例えば「左」と「上」の間)などでみられるような画素値が不連続なタイル境界であるものとする。この場合、フィルタ制御情報生成部103からは画素が不連続なタイル境界にはインループ処理を行わないことを示すフィルタ制御情報が入力されるため、×の記号で示された6画素全てがフィルタ処理の対象とならない。よって、この6画素に対してはフィルタ処理が行われない。
本実施形態ではデブロッキングフィルタについて言及したが、アダプティブループフィルタやサンプルアダプティブオフセットといった他のインループフィルタ処理についても同様の制御を行っても構わない。また、本実施形では左右のブロック間のフィルタ処理について説明したが、上下のブロック間においても同様の処理が行われる。さらには、各ブロック3画素がフィルタリング処理される例を示したが、処理される画素数はこれに限定されない。例えば、左側のブロックは3画素、右側のブロックは2画素など、それぞれのブロックで処理対象となる画素数が異なる非対称なフィルタリング処理を行うことも可能である。
図1に戻り、符号化部110では、ブロック単位で、変換・量子化部105で生成された量子化係数、予測部104から入力された予測情報をエントロピー符号化し、符号データを生成する。エントロピー符号化の方法は特に指定しないが、ゴロム符号化、算術符号化、ハフマン符号化などを用いることができる。生成された符号データは統合符号化部111に出力される。
統合符号化部111では、符号化処理に先駆けて生成されたタイル分割情報符号やフィルタ制御情報符号、符号化部で生成された符号データなどを多重化してビットストリームが形成される。最終的に、端子112から外部に出力される。
図6(a)に符号化されたタイル分割情報およびフィルタ制御情報を含んだビットストリームの例を示す。タイル分割情報はタイル分割情報符号として、フィルタ制御情報はフィルタ制御情報符号としてシーケンス、ピクチャ等のヘッダのいずれかに含まれる。本実施形態では図6(a)に示されるようにピクチャのヘッダ部分に含まれるものとする。図10(a)はこれらの符号を含んだピクチャのヘッダ部分のシンタックスの構成の一例を表す図である。tiles_enabled_flagはタイル分割の有無を示す符号であり、本実施形態では図9(b)に示す画像を入力し、6つのタイルに分割する場合について説明しているので、この値は1となる。entoropy_coding_sync_enabled_flagは本実施形態とは関係しないため説明を省略する。num_tile_columns_minus1は水平方向のタイル数から1を減じた値を示している。本実施形態では水平方向に3つのタイルが存在しているので、この値は2となる。一方、num_tile_rows_minus1は垂直方向のタイル数から1を減じた値を示している。本実施形態では垂直方向に2つのタイルが存在しているので、この値は1となる。uniform_spacing_flagは各タイルのサイズ(垂直・水平方向の画素数)が一致しているか否かを示す符号であり、本実施形態では全てのタイルのサイズが一致しているため、この値は1となる。なお、この値が0の時、すなわち全てのタイルサイズが一致していない場合は、それぞれのタイルの横・縦のサイズを示すcolumn_width_minus1およびrow_height_minus1を符号化するが、本実施形態では説明を省略する。loop_filter_aross_tiles_enabled_flagはタイル境界のインループフィルタ処理を可能にするか否かを示す符号であるが、本実施形態では一部の境界でインループフィルタ処理を可能とするので、この値を1とする。
以下のシンタックスは上記loop_filter_across_tiles_enabled_flagが1の時のみ符号化する。loop_filter_across_tiles_control_flagはそれぞれのタイル境界に対して、インループフィルタ処理を行うか否かを示す情報を個別に符号化するか否かを示す符号である。本実施形態では個別にインループフィルタ処理の可否を設定する必要があるため、この値を1とする。
さらに以下のシンタックスは上記loop_filter_across_tiles_control_flagが1の時のみ符号化する。loop_filter_across_bottom_tile_boundary_enabled_flagは当該タイルの下側のタイル境界に対しインループフィルタ処理を行うか否かを示す符号である。本実施形態では、下側にタイル境界を有したタイルは上側の行の3つ(前、右、後)存在しているため、この符号は3回符号化される。すなわち、loop_filter_across_bottom_tile_boundary_enabled_flagは上下の2つのタイル間によって構成される境界ごとに符号化される。「前」のタイルの下側のタイル境界は連続した境界であるため、1つ目のこの値はインループフィルタ処理を行うことを示す1となる。一方で、「右」および「後」のタイルの下側のタイル境界は不連続な境界であるため、2つ目および3つ目のこの値はインループフィルタ処理を行わないことを示す0となる。なお、下側の行の3つ(下、左、上)のタイルについては、loop_filter_across_bottom_tile_boundary_enabled_flagは符号化されない。次にloop_filter_across_right_tile_boundary_enabled_flagは当該タイルの右側のタイル境界に対しインループフィルタ処理を行うか否かを示す符号である。すなわち、loop_filter_across_right_tile_boundary_enabled_flagは、左右の2つのタイル間によって構成される境界ごとに符号化される。本実施形態では、右側にタイル境界を有したタイルは4つ(前、右、下、左)存在しているため、この符号は4回符号化される。「前」および「右」のタイルの右側のタイル境界は連続した境界であるため、1つ目および2つ目のこの値はインループフィルタ処理を行うことを示す1となる。一方で、「下」および「左」のタイルの右側のタイル境界は不連続な境界であるため、3つ目および4つ目のこの値はインループフィルタ処理を行わないことを示す0となる。なお、最も右側の列に存在するタイル(後、上)については、loop_filter_across_right_tile_boundary_enabled_flagは符号化されない。すなわち、loop_filter_across_bottom_tile_boundary_enabled_flagは、画像の内部のタイル境界について符号化される。同様にloop_filter_across_right_tile_boundary_enabled_flagは、画像の内部のタイル境界について符号化される。そして、画像の外周を構成するタイルの境界については符号化されない。
図4は、本実施形態に係る画像符号化装置における符号化処理を示すフローチャートである。
まず、ステップS401にて、タイル分割部102は、入力画像のタイル分割方法を決定し、決定した分割方法に基づいて入力された画像データをタイル単位に分割する。また決定したタイル分割方法をタイル分割情報とし、タイル分割情報は統合符号化部111によって符号化される。
ステップS402にて、フィルタ制御情報生成部103は各タイル境界の画素に対して、インループフィルタ処理を行うか否かを決定し、その情報をフィルタ制御情報とし、フィルタ制御情報も統合符号化部111によって符号化される。
ステップS403にて、予測部104は、入力されたタイル単位の画像データを複数のブロックに切り出し、ブロック単位でイントラ予測ないしはインター予測を行い、予測情報および予測画像データを生成する。さらに入力された画像データと前記予測画像データから予測誤差を算出する。
ステップS404にて、変換・量子化部105は、ステップS403で算出された予測誤差を直交変換して変換係数を生成し、さらに量子化を行い、量子化係数を生成する。
ステップS405にて、逆量子化・逆変換部106は、ステップS404で生成された量子化係数を逆量子化・逆直交変換し、予測誤差を再生する。
ステップS406にて、画像再生部107はステップS403で生成された予測情報に基づいて予測画像を再生する。さらに再生された予測画像とステップS405で生成された予測誤差とから画像データを再生する。
ステップS407にて、符号化部110は、ステップS403で生成された予測情報およびステップS404で生成された量子化係数を符号化し、符号データを生成する。また、他の符号データも含め、ビットストリームを生成する。
ステップS408にて、画像符号化装置は、タイル内の全てのブロックの符号化が終了したか否かの判定を行い、終了していればステップS409に進み、そうでなければ次のブロックを対象として、ステップS403に戻る。
ステップS409にて、画像符号化装置は、フレーム内の全てのタイルの符号化が終了したか否かの判定を行い、終了していればステップS410に進み、そうでなければ次のタイルを対象として、ステップS403に戻る。
ステップS410にて、インループフィルタ部109はステップS406で再生された画像データに対し、インループフィルタ処理を行い、フィルタ処理された画像を生成し、処理を終了する。
図5はステップS410におけるインループフィルタ処理の詳細を示すフローチャートである。
まず、ステップS501にて、インループフィルタ部109はインループフィルタ対象の画素の位置から、対象画素がタイル境界に存在するか否かを判定する。タイル境界に存在していると判定されればS502に進み、そうでなければS503に進む。S501において、タイル境界に存在する、という意味は、画像内部のタイル境界に存在する、ということを指す。
ステップS502にて、インループフィルタ部109は、タイル境界に存在する対象画素がフィルタリングの対象となるか否かをステップS402で生成されたフィルタ制御情報に基づいて判定する。フィルタリングをすると判定されればS503に進み、そうでなければS504に進む。
ステップS503にて、インループフィルタ部109は、対象画素に対してインループフィルタ処理を行う。
ステップS504にて、インループフィルタ部109は、全ての画素のインループフィルタ処理が終了したか否かの判定を行い、終了していればステップS505に進み、そうでなければ次の画素を対象として、ステップS501に戻る。
ステップS505にて、インループフィルタ部109は、全ての種類のインループフィルタ処理が終了したか否かの判定を行う。終了していれば、インループフィルタ処理を終了し、そうでなければ次の種類のインループフィルタ処理を対象としてステップS501に戻る。
例えば、HEVCにおいては、デブロッキングフィルタ、サンプルアダプティブオフセットといった2つのインループフィルタ処理が定義されているが、それらの切り替えを本ステップで実行する。具体的には、まずは全画素を対象としたデブロッキングフィルタ処理を実施し、その後サンプルアダプティブオフセット処理へ切り替えてステップS501に戻る。また、サンプルアダプティブオフセット処理も終了した場合はインループフィルタ処理を終了する。本実施形態ではHEVC同様のデブロッキングフィルタ・サンプルアダプティブオフセットといった2つのインループフィルタ処理を実行するものとしているが、他のインループフィルタ処理(例えばアダプティブループフィルタなど)を実行しても構わない。またインループフィルタ処理の順序はこれらに限定されない。
以上の構成と動作により、特にステップS410において、タイル境界ごとにインループフィルタ処理の適用可否を制御可能にしたことで、タイル境界の連続性に応じてタイル境界にインループフィルタ処理を適用するか否かを選択することができる。結果として、画素が連続したタイル境界においては、インループフィルタ処理を適用し、画素が不連続のタイル境界においては引ループフィルタ処理を適用しないことができるようになるため、画質を向上させることができる。
なお、本実施形態では図6(a)に示すように、タイル分割情報およびフィルタ制御情報をピクチャヘッダ部分で符号化するものとしたが、符号化される位置はこれに限定されない。図6(b)に示されるように画像のシーケンスヘッダ部分で符号化されても良いし、他の位置で符号化されても構わない。
なお、本実施形態では図10(a)に示されるようなシンタックスの構成を持つビットストリームを符号化するものとしたが、ビットストリームの構成はこれに限定されない。例えば、図10(b)のようなシンタックスの構成を持つことも可能である。図10(a)は各タイル境界に対して、フィルタ制御情報を符号化していたが、図10(b)は全ての水平方向のタイル境界、そして垂直方向のタイル境界に対してそれぞれ共通のフィルタ制御情報を符号化する場合の例を示している。loop_filter_across_horizontal_tile_boundary_enabled_flagは画像内の全ての垂直方向のタイル境界に対しインループフィルタ処理を行うか否かを示すフラグである。すなわち、loop_filter_across_horizontal_tile_boundary_enabled_flagは、水平方向の複数のタイル境界に共通の水平方向制御情報である。また、loop_filter_across_vertical_tile_boundary_enabled_flagは画像内の全ての水平方向のタイル境界に対しインループフィルタを行うか否かを示すフラグである。すなわち、loop_filter_across_vertical_tile_boundary_enabled_flagは、垂直方向の複数のタイル境界に共通の垂直方向制御情報である。例えば、図9(d)に示される画像が入力された場合、前者(…horizontal…flag)を1とし、後者(…vertical…flag)を0とすることで、より少ない符号量でタイル境界に対するフィルタリング制御を実現することができる。すなわち、図10(b)のシンタックス構成を有するフラグは、ある方向(水平方向あるいは垂直方向)に対して複数のタイルが配置された画像の場合、それぞれのタイルの境界におけるインループフィルタ処理の適用可否が同じ場合に効果的である。また、図10(a)、(b)の変形例として、タイル境界の水平あるいは垂直のうちの一方向を図10(b)のフラグを用いてインループフィルタ処理の適用可否を設定してもよい。そして、その他の方向を図(a)のようにそれぞれのタイル境界ごとにフラグを割り当ててインループフィルタ処理の適用可否を設定してもよい。
また、図10(c)のようなシンタックス構成を持つことも可能である。図10(c)はloop_filter_across_tiles_control_idcをフィルタ制御情報として符号化することを特徴としている。loop_filter_across_tiles_control_idcは特定のタイルの配置方法に対応したインデックスを示している。例えばフィルタ制御情報として、「1」を図9(b)、「2」を図9(c)、「3」を図9(d)などと対応付けるインデックスが符号化される。図10(c)のシンタックス構成は、1フレームの画像を構成するために合成される6つの画像の配置が、例えば図9(b)〜(d)のように、いくつかの形式に定められる場合に有効である。図10(c)のシンタックス構成の場合、画像復号装置は、各インデックスに対応する図9(b)〜(d)の配置における、各タイルの境界についてのインループフィルタ処理の適用可否を把握しておく必要がある。これにより、複数のタイル配置方法にも対応しつつ、より少ない符号量でタイル境界に対するフィルタリング制御を実現することができる。
また、本実施形態では矩形状のタイルの境界に対するフィルタリングを制御するものとしたが、制御の対象はこれに限定されない。矩形以外の形状をとることもできるスライスの境界に対するフィルタリングを同様に制御することも可能であるし、タイルやスライス以外の新しい処理単位に対して適用することも可能である。
また、本実施形態では既存のHEVCに基づいてタイルは矩形状であることを前提としていたが、タイルおよび他の処理単位が三角形など他の形状をとることとなっても適用することは可能である。
図2は、本発明の実施形態に係る画像復号装置の構成を示すブロック図である。本実施形態では、画像符号化装置において生成された符号化データの復号処理について説明する。図2の各ブロックは、全てハードウェアとして構成されてもよいし、一部または全てのブロックがソフトウエアによって構成されてもよい。
端子201は符号化されたビットストリームを入力する端子である。分離復号部202は、ビットストリームから復号処理に関する情報、係数に関する符号データに分離し、さらにビットストリームのヘッダ部に存在する符号データを分離し、復号する。本実施形態では、復号処理によってタイル分割情報およびフィルタ制御情報を再生し、後段に出力する。すなわち、分離復号部202は、図1の統合符号化部111と逆の動作を行う。
復号部203は、分離復号部202から出力された符号データを復号し、量子化係数および予測情報を再生する。
逆量子化・逆変換部204は、図1の逆量子化・逆変換部106と同様に、ブロック単位で量子化係数を入力し、逆量子化を行って変換係数を得、さらに逆直交変換を行い、予測誤差を再生する。
フレームメモリ207少なくとも1フレーム分の画像を記憶するメモリであり、再生されたピクチャの画像データを格納しておく。
画像再生部205は、図1の画像再生部107と同様に、入力された予測情報に基づいてフレームメモリ207を適宜参照して予測画像データを生成する。そして、この予測画像データと逆量子化・逆変換部204で再生された予測誤差から再生画像データを生成し、出力する。
インループフィルタ部206は、図1のインループフィルタ部109と同様に、再生画像に対し、デブロッキングフィルタなどのインループフィルタ処理を行い、フィルタ処理された画像を出力する。
端子208は、フィルタ処理された画像データを外部に出力する。
図2に示す画像復号装置における画像の復号処理を以下に説明する。本実施形態では、図1の画像符号化装置で生成されたビットストリームを復号する。
図2において、端子201から入力されたビットストリームは分離復号部202に入力される。分離復号部202は、ビットストリームから復号処理に関する情報、係数に関する符号データを分離し、さらにビットストリームのヘッダ部に存在する符号データを復号する。具体的には、復号処理によってタイル分割情報およびフィルタ制御情報が再生される。本実施形態では、まず、図6(a)に示されるビットストリームのピクチャヘッダからタイル分割情報の符号およびフィルタ制御情報の符号を抽出して復号する。なお、以下の説明としては、ピクチャヘッダ部分は図10(a)に示されたシンタックス構成を用いているものとする。まず、tiles_enabled_flag符号を復号し、タイル分割が用いられていることを示す1という値を得る。entoropy_coding_sync_enabled_flagは本実施形態とは関係しないため説明を省略する。次にnum_tile_columns_minus1符号を復号し、水平方向に3つのタイルが存在していることを示す2という値を得る。さらにnum_tile_rows_minus1符号を復号し、垂直方向に2つのタイルが存在していることを示す1という値を得る。続いてuniform_spacing_flag符号を復号し、各タイルのサイズ(垂直・水平方向の画素数)が一致していることを示す1いう値を得る。次にloop_filter_aross_tiles_enabled_flag符号を復号し、タイル境界のインループフィルタ処理を可能にすることを示す1という値を得る。
loop_filter_across_tiles_enabled_flagが1であるため、さらにシンタックスの復号を続ける。loop_filter_across_tiles_control_flag符号を復号し、それぞれのタイル境界に対して、インループフィルタ処理を行うことを示す1という値を得る。
loop_filter_across_tiles_control_flagが1であるため、さらにシンタックスの復号を続ける。loop_filter_across_bottom_tile_boundary_enabled_flag符号を復号し、各タイルの下側のタイル境界に対しインループフィルタ処理を行うか否かを示す情報を得る。本実施形態では、下側にタイル境界を有した3つのタイル(前、右、後)に対して、それぞれ1、0、0という値を情報として得る。次にloop_filter_across_right_tile_boundary_enabled_flag符号を復号し、各タイルの右側のタイル境界に対しインループフィルタ処理を行うか否かを示す情報を得る。本実施形態では、右側にタイル境界を有したタイルは4つのタイル(前、右、下、左)に対して、それぞれ1、1、0、0という値を情報として得る。このようにして得られたフィルタ制御情報はインループフィルタ部206に出力される。続いて、ピクチャデータのブロック単位の符号データを再生し、復号部203に出力する。
復号部203では、符号データを復号し、量子化係数および予測情報を再生する。再生された量子化係数は逆量子化・逆変換部204に出力され、再生された予測情報は画像再生部205に出力される。
逆量子化・逆変換部204は、入力された量子化係数に対し逆量子化を行って直交変換係数を生成し、さらに逆直交変換を施して予測誤差を再生する。再生された予測情報は画像再生部205に出力される。
画像再生部205は、復号部203から入力された予測情報に基づいて、フレームメモリ207を適宜参照し、予測画像を再生する。この予測画像と逆量子化・逆変換部204から入力された予測誤差から画像データを再生し、フレームメモリ207に入力し、格納する。格納された画像データは予測の際の参照に用いられる。
インループフィルタ部206は、図1の109同様、フレームメモリ207から再生画像を読み出し、分離復号部202から入力されたフィルタ制御情報に基づき、デブロッキングフィルタなどのインループフィルタ処理を行う。そして、フィルタ処理された画像は再びフレームメモリ207に入力される。本実施形態でのインループフィルタ処理は、図1の画像符号化装置におけるインループフィルタ処理と同一であるため、詳しい説明は省略する。
インループフィルタ部206にてフィルタ処理された画像は再びフレームメモリ207に格納され、最終的には端子208から外部に出力される。
図7は、図2の画像復号装置における画像の復号処理を示すフローチャートである。
まず、ステップS701にて、分離復号部202は、ビットストリームから復号処理に関する情報や係数に関する符号データに分離して、ヘッダ部分の符号データを復号し、タイル分割情報やフィルタ制御情報を再生する。
ステップS702にて、復号部203は、ステップS701で分離された符号データを復号し、量子化係数および予測情報を再生する。
ステップS703にて、逆量子化・逆変換部204は、ブロック単位で量子化係数に対し逆量子化を行って変換係数を得、さらに逆直交変換を行い、予測誤差を再生する。
ステップS704にて、画像再生部205は、ステップS702で生成された予測情報に基づいて予測画像を再生する。さらに再生された予測画像とステップS703で生成された予測誤差から画像データを再生する。
ステップS705にて、画像再生部205あるいは画像復号装置の不図示の制御部は、タイル内の全てのブロックの復号が終了したか否かの判定を行う。終了していればステップS706に進み、そうでなければ次のブロックを対象として、ステップS702に戻る。
ステップS706にて、画像再生部205あるいは画像復号装置の不図示の制御部は、フレーム内の全てのタイルの符号化が終了したか否かの判定を行う。終了していればステップS707に進み、そうでなければ次のタイルを対象として、ステップS702に戻る。
ステップS707にて、インループフィルタ部206はステップS704で再生された画像データに対し、インループフィルタ処理を行い、フィルタ処理された画像を生成し、処理を終了する。
インループフィルタ処理の詳細を示すフローチャートは画像符号化装置における処理を示す図5と同一であるため、説明を省略する。
以上の構成と動作により、図1の画像符号化装置において生成された、タイル境界の連続性に応じてタイル境界にインループフィルタ処理を適用するか否かを選択することができるようになったビットストリームを復号することができる。
なお、本実施形態では、図6(a)に示すように、タイル分割情報およびフィルタ制御情報がピクチャヘッダ部分に含まれているビットストリームを復号するものとしたが、情報の符号化位置はこれに限定されない。図6(b)に示されるように画像のシーケンスヘッダ部分で符号化されていても良いし、他の位置で符号化されていても構わない。
なお、本実施形態では図10(a)に示されるようなシンタックスの構成を持つビットストリームの復号について示したが、復号するビットストリームの構成はこれに限定されない。例えば図10(b)のようなシンタックスの構成を持つビットストリームを復号しても良い。図10(b)は全ての水平方向のタイル境界および垂直方向のタイル境界に対して共通のフィルタ制御情報が符号化されている場合の例を示している。例えば、図9(d)に示される画像が実施形態1の符号化装置で符号化されて生成されたビットストリームを復号する場合、前者(…horizontal…flag)を復号して1という値、後者(…vertical…flag)を復号して0という値を得る。これにより、全ての水平方向のタイル境界に対してインループフィルタ処理を行い、全ての垂直方向のタイル境界に対してはインループフィルタ処理を行わないというフィルタ制御情報をより少ない符号量で符号化されたビットストリームを復号することができる。
さらには、図10(c)のようなシンタックス構成を持つビットストリームを復号することも可能である。図10(c)ではloop_filter_across_tiles_control_idcによって示されるインデックスを特定のタイル配置方法と対応させることができる。例えば1を図9(b)、2を図9(c)、3を図9(d)などと対応付ける、といった具合である。これにより、より多様なタイル配置方法にも対応しつつ、より少ない符号量でタイル境界に対するフィルタリング制御を実現したビットストリームを復号することができる。
図1、図2に示した各処理部はハードウェアでもって構成しているものとして上記実施形態では説明した。しかし、これらの図に示した各処理部で行う処理をコンピュータプログラムでもって構成しても良い。
図8は、上記各実施形態に係る画像符号化装置および画像復号装置に適用可能なコンピュータのハードウェアの構成例を示すブロック図である。
CPU801は、RAM802やROM803に格納されているコンピュータプログラムやデータを用いてコンピュータ全体の制御を行うと共に、上記各実施形態に係る画像処理装置が行うものとして上述した各処理を実行する。即ち、CPU801は、図1、図2に示した各処理部として機能することになる。
RAM802は、外部記憶装置806からロードされたコンピュータプログラムやデータ、I/F(インターフェース)807を介して外部から取得したデータなどを一時的に記憶するためのエリアを有する。更に、RAM802は、CPU801が各種の処理を実行する際に用いるワークエリアを有する。即ち、RAM802は、例えば、フレームメモリとして割り当てたり、その他の各種のエリアを適宜提供したりすることができる。
ROM803には、本コンピュータの設定データや、ブートプログラムなどが格納されている。操作部804は、キーボードやマウスなどにより構成されており、本コンピュータのユーザが操作することで、各種の指示をCPU801に対して入力することができる。表示部805は、CPU801による処理結果を表示する。また表示部805は例えば液晶ディスプレイで構成される。
外部記憶装置806は、ハードディスクドライブ装置に代表される、大容量情報記憶装置である。外部記憶装置806には、OS(オペレーティングシステム)や、図1、図2に示した各部の機能をCPU801に実現させるためのコンピュータプログラムが保存されている。更には、外部記憶装置806には、処理対象としての各画像データが保存されていても良い。
外部記憶装置806に保存されているコンピュータプログラムやデータは、CPU801による制御に従って適宜、RAM802にロードされ、CPU801による処理対象となる。I/F807には、LANやインターネット等のネットワーク、投影装置や表示装置などの他の機器を接続することができ、本コンピュータはこのI/F807を介して様々な情報を取得したり、送出したりすることができる。808は上述の各部を繋ぐバスである。
上述の図4、図5、および図7に示すフローチャートの処理は、ROM803に格納されたプログラムをRAM802へ読み出し、そのプログラムに基づいてCPUによって実行される。
上述したように、本発明により、タイル境界ごとにインループフィルタ処理を適用するか否かを選択することができるようになる。そのため、特に連続しているタイル境界の画質を向上させることが可能になり、符号化効率をさらに向上させることができる。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給する。そして、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は静止画・動画の符号化・復号を行う符号化装置・復号装置に用いられる。特に、タイル分割およびインループフィルタ処理を使用する符号化方式および復号方式に適用が可能である。
101、112、201、208 端子
102 タイル分割部
103 フィルタ制御情報生成部
104 予測部
105 変換・量子化部
106、204 逆量子化・逆変換部
107、205 画像再生部
108、207 フレームメモリ
109、206 インループフィルタ部
110 符号化部
111 統合符号化部
202 分離復号部
203 復号部

Claims (18)

  1. 複数のタイルを有する画像を符号化するための符号化装置において、
    前記複数のタイルによって構成される複数の境界に対して、当該境界に隣接する画素をフィルタ処理するか否かを決定する決定手段と、
    前記決定手段による決定に基づいて、境界に隣接する画素をフィルタ処理するか否かを示す制御情報を、前記複数の境界うちの少なくとも2つに対して符号化する符号化手段と、を有することを特徴とする符号化装置。
  2. 前記複数のタイルは矩形状であり、少なくとも2つの境界を構成することを特徴とする請求項1に記載の符号化装置。
  3. 前記符号化手段は、2つのタイル間によって構成される境界ごとに前記制御情報を符号化することを特徴とする請求項1に記載の符号化装置。
  4. 前記符号化手段は、制御情報として、水平方向の境界に隣接する画素をフィルタ処理するか否かを示す水平方向の制御情報および垂直方向の境界に隣接する画素をフィルタするか否かを示す垂直方向の制御情報を符号化
    ことを特徴とする請求項1に記載の符号化装置。
  5. 前記水平方向の制御情報は、水平方向の複数のタイル境界に共通の制御情報であることを特徴とする請求項4に記載の符号化装置。
  6. 前記垂直方向の制御情報は、垂直方向の複数のタイル境界に共通の制御情報であることを特徴とする請求項4に記載の符号化装置。
  7. 前記制御情報は、1フレームの画像を構成するために合成される複数の画像の配置に対応するインデックスであることを特徴とする請求項1に記載の符号化装置。
  8. 複数のタイルを有する画像をビットストリームから復号するための復号装置において、
    画像を復号する復号手段と、
    前記複数のタイルによって構成される複数の境界に対して、当該境界に隣接する画素をフィルタ処理するか否かを示す制御情報をビットストリームから生成する生成手段と、
    前記生成手段によって生成された制御情報に基づいて、少なくとも複数の境界に隣接する画素をフィルタ処理するか否かを決定する決定手段と、
    前記決定手段によってフィルタ処理すると決定された境界に対してフィルタ処理する処理手段とを有することを特徴とする復号装置。
  9. 前記複数のタイルは矩形状であり、少なくとも2つの境界を構成することを特徴とする請求項8に記載の復号装置。
  10. 前記生成手段は、2つのタイル間によって構成される境界ごとに前記制御情報を生成することを特徴とする請求項8に記載の復号装置。
  11. 前記生成手段は、制御情報として、水平方向の境界に隣接する画素をフィルタ処理するか否かを示す水平方向の制御情報および垂直方向の境界に隣接する画素をフィルタするか否かを示す垂直方向の制御情報を生成することを特徴とする請求項8に記載の復号装置。
  12. 前記水平方向の制御情報は、水平方向の複数のタイル境界に共通の制御情報であることを特徴とする請求項11に記載の復号装置。
  13. 前記垂直方向の制御情報は、垂直方向の複数のタイル境界に共通の制御情報であることを特徴とする請求項11に記載の復号装置。
  14. 前記制御情報は、1フレームの画像を構成するために合成される複数の画像の配置に対応するインデックスであることを特徴とする請求項8に記載の復号装置。
  15. 複数のタイルを有する画像を符号化するための符号化方法において、
    前記複数のタイルによって構成される複数の境界に対して、当該境界に隣接する画素をフィルタ処理するか否かを決定する決定ステップと、
    前記決定ステップにおける決定に基づいて、境界に隣接する画素をフィルタ処理するか否かを示す制御情報を、前記複数の境界うちの少なくとも2つに対して符号化する符号化ステップと、を有することを特徴とする符号化方法。
  16. 複数のタイルを有する画像をビットストリームから復号するための復号方法において、
    画像を復号する復号ステップと、
    前記複数のタイルによって構成される複数の境界に対して、当該境界に隣接する画素をフィルタ処理するか否かを示す制御情報をビットストリームから生成する生成ステップと、
    前記生成ステップにおいて生成された制御情報に基づいて、少なくとも複数の境界に隣接する画素をフィルタ処理するか否かを決定する決定ステップと、
    前記決定ステップにおいてフィルタ処理すると決定された境界に対してフィルタ処理する処理ステップとを有することを特徴とする復号方法。
  17. 請求項1ないし請求項7のいずれか一項に記載の符号化装置の処理をコンピュータに実行させるためのプログラム。
  18. 請求項8ないし請求項14のいずれか一項に記載の復号装置の処理をコンピュータに実行させるためのプログラム。
JP2016249173A 2016-12-22 2016-12-22 符号化装置、符号化方法及びプログラム、復号装置、復号方法及びプログラム Pending JP2018107500A (ja)

Priority Applications (11)

Application Number Priority Date Filing Date Title
JP2016249173A JP2018107500A (ja) 2016-12-22 2016-12-22 符号化装置、符号化方法及びプログラム、復号装置、復号方法及びプログラム
CN201780079211.0A CN110115038A (zh) 2016-12-22 2017-12-13 编码设备、编码方法和程序、解码设备、解码方法和程序
RU2020134731A RU2749536C2 (ru) 2016-12-22 2017-12-13 Устройство кодирования, способ кодирования и запоминающий носитель, устройство декодирования, способ декодирования и запоминающий носитель
KR1020217018705A KR20210077799A (ko) 2016-12-22 2017-12-13 부호화 장치, 부호화 방법 및 프로그램
KR1020197019989A KR20190094407A (ko) 2016-12-22 2017-12-13 부호화 장치, 부호화 방법 및 프로그램, 복호 장치, 복호 방법 및 프로그램
PCT/JP2017/044662 WO2018116924A1 (ja) 2016-12-22 2017-12-13 符号化装置、符号化方法及びプログラム、復号装置、復号方法及びプログラム
EP17882573.3A EP3562160A4 (en) 2016-12-22 2017-12-13 ENCODING DEVICE, METHOD AND PROGRAM, AND DECODING DEVICE, METHOD AND PROGRAM
RU2019122137A RU2019122137A (ru) 2016-12-22 2017-12-13 Устройство кодирования, способ кодирования и запоминающий носитель, устройство декодирования, способ декодирования и запоминающий носитель
US16/446,362 US20190306515A1 (en) 2016-12-22 2019-06-19 Coding apparatus, coding method, decoding apparatus, and decoding method
US17/100,591 US20210076051A1 (en) 2016-12-22 2020-11-20 Coding apparatus, coding method, decoding apparatus, and decoding method
RU2021116192A RU2760909C1 (ru) 2016-12-22 2021-06-04 Способ кодирования

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016249173A JP2018107500A (ja) 2016-12-22 2016-12-22 符号化装置、符号化方法及びプログラム、復号装置、復号方法及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021009909A Division JP2021064979A (ja) 2021-01-25 2021-01-25 符号化装置、符号化方法及びプログラム、復号装置、復号方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2018107500A true JP2018107500A (ja) 2018-07-05

Family

ID=62627539

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016249173A Pending JP2018107500A (ja) 2016-12-22 2016-12-22 符号化装置、符号化方法及びプログラム、復号装置、復号方法及びプログラム

Country Status (7)

Country Link
US (2) US20190306515A1 (ja)
EP (1) EP3562160A4 (ja)
JP (1) JP2018107500A (ja)
KR (2) KR20210077799A (ja)
CN (1) CN110115038A (ja)
RU (3) RU2749536C2 (ja)
WO (1) WO2018116924A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200141651A (ko) * 2019-06-11 2020-12-21 건국대학교 산학협력단 기계 학습 모델에 기초한 블록 체인을 이용한 hevc 분산형 복호화 방법, 장치 및 시스템
JP2022524626A (ja) * 2019-03-11 2022-05-09 華為技術有限公司 エンコーダ、デコーダ及び対応する方法

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10999602B2 (en) 2016-12-23 2021-05-04 Apple Inc. Sphere projected motion estimation/compensation and mode decision
WO2018131813A1 (en) * 2017-01-10 2018-07-19 Samsung Electronics Co., Ltd. Method and apparatus for generating metadata for 3d images
US11259046B2 (en) 2017-02-15 2022-02-22 Apple Inc. Processing of equirectangular object data to compensate for distortion by spherical projections
US10924747B2 (en) 2017-02-27 2021-02-16 Apple Inc. Video coding techniques for multi-view video
TW201842768A (zh) 2017-04-06 2018-12-01 美商松下電器(美國)知識產權公司 編碼裝置、解碼裝置、編碼方法及解碼方法
KR20190118660A (ko) * 2017-04-06 2019-10-18 파나소닉 인텔렉츄얼 프로퍼티 코포레이션 오브 아메리카 부호화 장치, 복호 장치, 부호화 방법 및 복호 방법
US11093752B2 (en) 2017-06-02 2021-08-17 Apple Inc. Object tracking in multi-view video
US20190005709A1 (en) * 2017-06-30 2019-01-03 Apple Inc. Techniques for Correction of Visual Artifacts in Multi-View Images
US10754242B2 (en) 2017-06-30 2020-08-25 Apple Inc. Adaptive resolution and projection format in multi-direction video
EP3857897B1 (en) * 2018-10-12 2024-08-21 Huawei Technologies Co., Ltd. Apparatus and method for deblocking filter in video coding
MY207067A (en) * 2019-01-02 2025-01-28 Apple Inc Image signal encoding/decoding method and device for same
JP7200074B2 (ja) * 2019-09-20 2023-01-06 Kddi株式会社 画像復号装置、画像復号方法及びプログラム
CN114270834B (zh) * 2019-09-20 2025-05-02 Jvc建伍株式会社 图像转换装置以及图像解码装置
CN118474362A (zh) 2019-11-18 2024-08-09 Lg电子株式会社 图像编码/解码方法、比特流生成方法和数据发送方法
KR102870769B1 (ko) 2019-11-18 2025-10-14 엘지전자 주식회사 루프 필터링을 제어하기 위한 영상 코딩 장치 및 방법
CN120475156A (zh) * 2020-02-14 2025-08-12 Lg电子株式会社 图像编码/解码方法以及发送比特流的方法
CN112970252A (zh) * 2020-07-24 2021-06-15 深圳市大疆创新科技有限公司 视频编解码的方法和装置
CN120113238A (zh) * 2022-10-24 2025-06-06 联发科技股份有限公司 环路滤波中位置感知重建的方法和装置
US12387301B2 (en) * 2023-02-16 2025-08-12 Inuitive Ltd. Method for filling missing disparity values of pixels comprised in an image

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013111593A1 (ja) * 2012-01-27 2013-08-01 パナソニック株式会社 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置及び画像符号化復号装置
JP2014534738A (ja) * 2011-10-28 2014-12-18 クゥアルコム・インコーポレイテッドQualcomm Incorporated タイル境界を越えるループフィルタリング制御
JP2016165074A (ja) * 2015-03-06 2016-09-08 富士通株式会社 動画像符号化装置、動画像符号化方法及びプログラム

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101170701B (zh) * 2007-11-16 2010-10-27 四川虹微技术有限公司 视频编解码系统中去块滤波方法及装置
JP5748463B2 (ja) * 2010-12-02 2015-07-15 キヤノン株式会社 符号化装置およびプログラム
US10244239B2 (en) * 2010-12-28 2019-03-26 Dolby Laboratories Licensing Corporation Parameter set for picture segmentation
KR101893664B1 (ko) * 2011-10-31 2018-08-30 미쓰비시덴키 가부시키가이샤 동화상 복호 장치
US9749661B2 (en) * 2012-01-18 2017-08-29 Qualcomm Incorporated Sub-streams for wavefront parallel processing in video coding
JP6222576B2 (ja) * 2012-03-21 2017-11-01 サン パテント トラスト 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、および画像符号化復号装置
KR102539065B1 (ko) * 2013-01-04 2023-06-01 지이 비디오 컴프레션, 엘엘씨 효율적인 확장가능한 코딩 개념
KR20200045012A (ko) * 2013-07-15 2020-04-29 소니 주식회사 상호작용성을 위한 모션-구속된 타일 세트들 sei 메시지의 확장들
CN105723712B (zh) * 2013-10-14 2019-06-28 韩国电子通信研究院 基于多层的图像编码/解码方法和设备
US10038919B2 (en) * 2014-05-29 2018-07-31 Apple Inc. In loop chroma deblocking filter
CN106664443B (zh) * 2014-06-27 2020-03-24 皇家Kpn公司 根据hevc拼贴视频流确定感兴趣区域
US10136132B2 (en) * 2015-07-21 2018-11-20 Microsoft Technology Licensing, Llc Adaptive skip or zero block detection combined with transform size decision
US10390039B2 (en) * 2016-08-31 2019-08-20 Microsoft Technology Licensing, Llc Motion estimation for screen remoting scenarios
US10735725B2 (en) * 2016-09-14 2020-08-04 Microsoft Technology Licensing, Llc Boundary-intersection-based deblock filtering
US20180098090A1 (en) * 2016-10-04 2018-04-05 Mediatek Inc. Method and Apparatus for Rearranging VR Video Format and Constrained Encoding Parameters
US10368080B2 (en) * 2016-10-21 2019-07-30 Microsoft Technology Licensing, Llc Selective upsampling or refresh of chroma sample values
US11095877B2 (en) * 2016-11-30 2021-08-17 Microsoft Technology Licensing, Llc Local hash-based motion estimation for screen remoting scenarios

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014534738A (ja) * 2011-10-28 2014-12-18 クゥアルコム・インコーポレイテッドQualcomm Incorporated タイル境界を越えるループフィルタリング制御
WO2013111593A1 (ja) * 2012-01-27 2013-08-01 パナソニック株式会社 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置及び画像符号化復号装置
JP2016165074A (ja) * 2015-03-06 2016-09-08 富士通株式会社 動画像符号化装置、動画像符号化方法及びプログラム

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022524626A (ja) * 2019-03-11 2022-05-09 華為技術有限公司 エンコーダ、デコーダ及び対応する方法
JP2022524837A (ja) * 2019-03-11 2022-05-10 華為技術有限公司 エンコーダ、デコーダ及び対応する方法
JP7401554B2 (ja) 2019-03-11 2023-12-19 華為技術有限公司 エンコーダ、デコーダ及び対応する方法
JP7485689B2 (ja) 2019-03-11 2024-05-16 華為技術有限公司 エンコーダ、デコーダ及び対応する方法
US12267490B2 (en) 2019-03-11 2025-04-01 Huawei Technologies Co., Ltd. Tile level filtering in video coding
US12294699B2 (en) 2019-03-11 2025-05-06 Huawei Technologies Co., Ltd. Sub-picture motion vectors in video coding
US12425582B2 (en) 2019-03-11 2025-09-23 Huawei Technologies Co., Ltd. Sub-picture level filtering in video coding
KR20200141651A (ko) * 2019-06-11 2020-12-21 건국대학교 산학협력단 기계 학습 모델에 기초한 블록 체인을 이용한 hevc 분산형 복호화 방법, 장치 및 시스템
KR102296987B1 (ko) * 2019-06-11 2021-09-02 건국대학교 산학협력단 기계 학습 모델에 기초한 블록 체인을 이용한 hevc 분산형 복호화 방법, 장치 및 시스템

Also Published As

Publication number Publication date
RU2760909C1 (ru) 2021-12-01
EP3562160A4 (en) 2020-05-13
WO2018116924A1 (ja) 2018-06-28
US20190306515A1 (en) 2019-10-03
EP3562160A1 (en) 2019-10-30
KR20210077799A (ko) 2021-06-25
RU2019122137A (ru) 2021-01-22
US20210076051A1 (en) 2021-03-11
KR20190094407A (ko) 2019-08-13
CN110115038A (zh) 2019-08-09
RU2019122137A3 (ja) 2021-01-22
RU2020134731A3 (ja) 2021-04-07
RU2020134731A (ru) 2020-11-06
RU2749536C2 (ru) 2021-06-15

Similar Documents

Publication Publication Date Title
RU2760909C1 (ru) Способ кодирования
KR102895367B1 (ko) 서브픽처들을 갖는 비디오 스트림을 인코딩 및 디코딩하기 위한 방법 및 장치
US10750192B2 (en) Image coding apparatus, image coding method, image decoding apparatus, image decoding method, and storage medium
KR102043581B1 (ko) 화상 코딩 장치, 화상을 코딩하는 방법, 화상 디코딩 장치, 화상을 디코딩하는 방법 및 컴퓨터 판독가능 매체
US9826245B2 (en) Method, apparatus and recording medium for encoding/decoding using parallel processing of image tiles
CN110603809A (zh) 用于视频编码或解码的设备和方法
KR20190118125A (ko) 병렬 또는 분산 처리를 위한 화면 분할 정보를 제공하는 방법 및 이를 이용한 장치
US10158863B2 (en) Image coding apparatus, image coding method, and recording medium, and image decoding apparatus, image decoding method, and recording medium
JP2013219607A (ja) 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP2021064979A (ja) 符号化装置、符号化方法及びプログラム、復号装置、復号方法及びプログラム
TWI834910B (zh) 影像編碼裝置、影像編碼方法及程式、影像解碼裝置、影像解碼方法及程式
HK40121315A (zh) 图像编码设备、图像解码设备、图像编码方法和图像解码方法
HK40121314A (zh) 图像编码设备、图像解码设备、图像编码方法和图像解码方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191120

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200825

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201023

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201124

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210525