WO2014189300A1 - Method and apparatus for coding video supporting plurality of layers - Google Patents
Method and apparatus for coding video supporting plurality of layers Download PDFInfo
- Publication number
- WO2014189300A1 WO2014189300A1 PCT/KR2014/004566 KR2014004566W WO2014189300A1 WO 2014189300 A1 WO2014189300 A1 WO 2014189300A1 KR 2014004566 W KR2014004566 W KR 2014004566W WO 2014189300 A1 WO2014189300 A1 WO 2014189300A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- phase shift
- component
- prediction
- phase
- reference layer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/186—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/182—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
- H04N19/33—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the spatial domain
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/59—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
Definitions
- the present invention relates to video compression techniques, and more particularly, to a method and apparatus for performing video coding that supports multiple layers.
- High efficiency image compression techniques can be used to solve these problems caused by high resolution and high quality image data.
- An inter-screen prediction technique for predicting pixel values included in the current picture from a picture before or after the current picture using an image compression technique an intra prediction technique for predicting pixel values included in a current picture using pixel information in the current picture
- the present invention provides a method and apparatus for encoding / decoding an enhancement layer by performing interlayer prediction in scalable video coding.
- the present invention provides a resampling method and apparatus for compensating for phase difference in scalable video coding.
- an image decoding method supporting a plurality of layers may include deriving a reference layer sample position from a reference layer picture used for inter-layer prediction of a current layer picture, resampling the reference layer picture based on the reference layer sample position, and resampling And generating a prediction sample of the current block by performing interlayer prediction on the current block of the current layer picture based on a reference layer picture.
- the deriving of the reference layer sample position may include: in the reference layer corresponding to a top-left sample position of the current block based on information on a phase offset for compensating a phase difference between layers. Sample location can be derived.
- the information on the phase shift may include at least one of a phase shift for a luma component and a phase shift for a chroma component.
- an image decoding apparatus supporting a plurality of layers.
- the image decoding apparatus derives a reference layer sample position from a reference layer picture used for inter-layer prediction of a current layer picture, resamples the reference layer picture based on the reference layer sample position, and resamples the reference layer picture.
- a predictor configured to generate predictive samples of the current block by performing interlayer prediction on a current block of the current layer picture based on a picture.
- the predictor may derive the reference layer sample position corresponding to the top-left sample position of the current block based on information on a phase offset to compensate for the phase difference between layers.
- the information on the phase shift may include at least one of a phase shift for a luma component and a phase shift for a chroma component.
- the phase shift may be compensated for by inducing the phase shift to compensate for the phase difference that may occur during the resampling process. error) can be reduced.
- the prediction accuracy can be increased by reducing the error in resampling according to the phase difference, and the encoding / decoding efficiency can be improved.
- FIG. 1 is a block diagram schematically illustrating an encoding apparatus according to an embodiment of the present invention.
- FIG. 2 is a block diagram schematically illustrating a decoding apparatus according to an embodiment of the present invention.
- FIG. 3 is a diagram illustrating a resampling method for an inter-layer reference picture for compensating a difference between resampling phases between layers according to an embodiment of the present invention.
- FIG. 4 is a flowchart schematically illustrating a method for performing interlayer prediction using a resampling method for compensating for a resampling phase difference between layers in a scalable video coding structure according to an embodiment of the present invention.
- first and second may be used to describe various configurations, but the configurations are not limited by the terms. The terms are used to distinguish one configuration from another.
- first configuration may be referred to as the second configuration, and similarly, the second configuration may also be referred to as the first configuration.
- each component shown in the embodiments of the present invention are independently shown to represent different characteristic functions, and do not mean that each component is made of separate hardware or one software component unit.
- each component is listed as a component for convenience of description, and at least two of the components may form one component, or one component may be divided into a plurality of components to perform a function.
- the integrated and separated embodiments of each component are also included in the scope of the present invention without departing from the spirit of the present invention.
- the components may not be essential components for performing essential functions in the present invention, but may be optional components for improving performance.
- the present invention can be implemented including only the components essential for implementing the essentials of the present invention except for the components used for improving performance, and the structure including only the essential components except for the optional components used for improving performance. Also included in the scope of the present invention.
- Encoding and decoding of video that supports multiple layers in a bitstream is called scalable coding. Since there is a strong correlation between the plurality of layers, the prediction may be performed by using this correlation to remove redundant elements of data and to improve the encoding performance of the image. Performing prediction of the current layer to be predicted by using information of another layer is referred to as inter-layer prediction or inter-layer prediction in the following.
- At least one of the resolution, frame rate, and color format may be different from each other, and the up-sampling or downsampling of a layer may be performed to adjust the resolution when inter layer prediction is performed. Resampling such as down sampling may be performed.
- FIG. 1 is a block diagram schematically illustrating an encoding apparatus according to an embodiment of the present invention.
- the encoding apparatus 100 includes an encoder 100a for an upper layer and an encoder 100b for a lower layer.
- the upper layer may be represented by a current layer or an enhancement layer and the lower layer may be represented by a reference layer or a base layer.
- the upper layer and the lower layer may have at least one of a resolution, a frame rate, and a color format. When a resolution change is necessary to perform inter-layer prediction, upsampling or downsampling of a layer may be performed.
- the encoder 100a of the upper layer includes a splitter 110, a predictor 100, an intra prediction unit 121, an inter prediction unit 122, an inter layer prediction unit 123, and a transformer 130. , Quantization unit 140, reordering unit 150, entropy encoding unit 160, inverse quantization unit 170, inverse transform unit 180, filter unit 190 and memory 195, and MUX 197. can do.
- the encoder 100b of the lower layer includes a splitter 111, a predictor 125, an intra prediction unit 126, an inter prediction unit 127, a transform unit 131, a quantizer 141, and a rearrangement.
- the unit 151 may include an entropy encoding unit 161, an inverse quantization unit 171, an inverse transform unit 181, a filter unit 191, and a memory 196.
- the encoder may be implemented by the image encoding method described in the following embodiments of the present invention, but operations in some components may not be performed to reduce the complexity of the encoding apparatus or for fast real time encoding.
- some limited number of methods are used without selecting the optimal intra intra coding method using all intra prediction modes in order to perform encoding in real time.
- a method of selecting one intra prediction mode among them as a final intra prediction mode using the intra prediction mode of the image may be used.
- the unit of a block processed by the encoding apparatus may be a coding unit that performs encoding, a prediction unit that performs prediction, or a transformation unit that performs transformation.
- a coding unit may be represented by a term such as a coding unit (CU), a prediction unit is a prediction unit (PU), and a transformation unit is a transform unit (TU).
- the splitters 110 and 111 divide a layer image into a combination of a plurality of coding blocks, prediction blocks, and transform blocks, and one of the coding blocks, prediction blocks, and transform blocks according to a predetermined criterion (for example, a cost function). You can split the layer by selecting the combination of. For example, to split a coding unit in a layer image, a recursive tree structure such as a quad tree structure may be used.
- a recursive tree structure such as a quad tree structure may be used.
- the meaning of the coding block may be used not only as a block for encoding but also as a block for decoding.
- the prediction block may be a unit for performing prediction such as intra prediction or inter prediction.
- the block for performing intra prediction may be a block having a square shape such as 2N ⁇ 2N or N ⁇ N.
- Predictive block partitioning is performed by using 2NxN, Nx2N, or asymmetric Asymmetric Motion Partitioning (AMP), which splits a square or square type prediction block into the same form. There is a way.
- the transform unit 115 may change a method of performing the transform.
- the prediction units 120 and 125 of the encoders 100a and 100b may include the intra prediction units 121 and 126 performing intra prediction and the inter prediction unit performing inter prediction. (122, 126).
- the predictor 120 of the higher layer encoder 100a further includes an inter-layer predictor 123 that performs prediction on the upper layer by using information of the lower layer.
- the prediction units 120 and 125 may determine whether to use inter prediction or intra prediction on the prediction block.
- the processing unit in which the prediction is performed and the processing block in which the prediction method is determined may be different. For example, in performing intra prediction, a prediction mode is determined based on a prediction block, and a process of performing prediction may be performed based on a transform block.
- the residual value (residual block) between the generated prediction block and the original block may be input to the transformers 130 and 131.
- prediction mode information and motion vector information used for prediction may be encoded by the entropy encoder 130 together with the residual value and transmitted to the decoding apparatus.
- the original block may be encoded as it is and transmitted to the decoder without performing prediction through the prediction units 120 and 125.
- PCM Pulse Coded Modulation
- the intra prediction units 121 and 126 may generate an intra prediction block based on reference pixels present around the current block (the block to be predicted).
- the intra prediction mode may include a directional prediction mode using reference pixel information according to a prediction direction and a non-directional mode using no directional information when performing prediction.
- the mode for predicting luma information and the mode for predicting color difference information may be different.
- intra prediction mode information or predicted luma signal information may be used. If the reference pixel is not available, the prediction block may be generated by replacing the unavailable reference pixel with another pixel.
- the prediction block may include a plurality of transform blocks. If the prediction block has the same size as the transform block when the intra prediction is performed, pixels present on the left side of the prediction block, pixels present on the upper left side, and top Intra-prediction of the prediction block may be performed based on the pixels present in the. However, when the prediction block is different from the size of the transform block when the intra prediction is included, and a plurality of transform blocks are included in the prediction block, the intra prediction is performed using a reference pixel determined based on the transform block. can do.
- the intra prediction method may generate a prediction block after applying a mode dependent intra smoothing (MDIS) filter to a reference pixel according to the intra prediction mode.
- MDIS mode dependent intra smoothing
- the type of MDIS filter applied to the reference pixel may be different.
- the MDIS filter is an additional filter applied to the predicted block in the picture by performing the intra prediction and may be used to reduce the residual present in the predicted block in the picture generated after performing the prediction with the reference pixel.
- filtering on a reference pixel and some columns included in the predicted block in the screen may perform different filtering according to the direction of the intra prediction mode.
- the inter prediction units 122 and 127 may perform prediction by referring to information of a block included in at least one of a previous picture or a subsequent picture of the current picture.
- the inter prediction units 122 and 127 may include a reference picture interpolator, a motion predictor, and a motion compensator.
- the reference picture interpolation unit may receive reference picture information from the memories 195 and 196 and generate pixel information of an integer pixel or less in the reference picture.
- a DCT-based 8-tap interpolation filter having different filter coefficients may be used to generate pixel information of integer pixels or less in units of 1/4 pixels.
- a DCT-based interpolation filter having different filter coefficients may be used to generate pixel information of an integer pixel or less in units of 1/8 pixels.
- the inter prediction units 122 and 127 may perform motion prediction based on the reference picture interpolated by the reference picture interpolator.
- various methods such as a full search-based block matching algorithm (FBMA), a three step search (TSS), and a new three-step search algorithm (NTS) may be used.
- the motion vector may have a motion vector value of 1/2 or 1/4 pixel units based on the interpolated pixels.
- the inter prediction units 122 and 127 may perform prediction on the current block by applying one inter prediction method among various inter prediction methods.
- various methods such as a skip method, a merge method, and an MVP (Motion Vector Prediction) method, may be used as the inter prediction method.
- a skip method a merge method
- MVP Motion Vector Prediction
- motion information that is, information such as an index of a reference picture, a motion vector, and a residual signal
- residuals may not be generated, transformed, quantized, or transmitted.
- the interlayer prediction unit 123 performs interlayer prediction for predicting an upper layer by using information of a lower layer.
- the inter-layer prediction unit 123 uses inter-layer texture prediction and inter-layer inter prediction by using textures of lower layers, intra prediction mode information, motion information, and syntax information. ), Inter-layer syntax prediction, and the like.
- Inter-layer texture prediction means using the texture of the reference block in the lower layer as a prediction sample of the current block of the upper layer.
- the texture of the reference block may be scaled by upsampling.
- Inter-layer texture prediction includes the intra BL and upsampled lower layers, which upsample the reconstructed values of the reference blocks in the lower layers and encode the residuals with the current blocks using the upsampled reference blocks as predictions for the current block.
- Intra-prediction of the upper layer may be performed using intra-prediction mode information of the lower layer.
- the intra-prediction mode of the lower layer may be referred to as a BL intra mode.
- Inter-layer motion prediction is also called inter-layer inter prediction, and according to inter-layer motion prediction, prediction of a current block of an upper layer may be performed using motion information of a lower layer.
- the motion information may include a motion vector and a reference picture index.
- the inter-layer prediction unit 123 may also perform inter-layer syntax prediction for predicting or generating a texture of the current block by using syntax information of the lower layer.
- the syntax information of the lower layer used for the prediction of the current block may be information about an intra prediction mode, motion information, and the like.
- the prediction of the current block is performed by using the difference image generated as a difference value between the reconstructed image of the upper layer and the upsampled reconstructed image of the lower layer. Can be.
- inter-layer prediction As an example of the inter-layer prediction, the inter-layer texture prediction, the inter-layer motion prediction, the inter-layer syntax prediction, and the inter-layer differential prediction have been described, but the inter-layer prediction applicable to the present invention is not limited thereto.
- a residual block including residual information which is a difference between the predicted block generated by the predictors 120 and 125 and the reconstructed block of the predicted block, is generated, and the residual block is input to the transformers 130 and 131.
- the transform units 130 and 131 may transform the residual block using a transform method such as a discrete cosine transform (DCT) or a discrete sine transform (DST). Whether DCT or DST is applied to transform the residual block may be determined based on intra prediction mode information of the prediction block used to generate the residual block and size information of the prediction block. That is, the transformers 130 and 131 may apply the transformation method differently according to the size of the prediction block and the prediction method.
- a transform method such as a discrete cosine transform (DCT) or a discrete sine transform (DST).
- DCT discrete cosine transform
- DST discrete sine transform
- the quantizers 140 and 141 may quantize the values transformed by the transformers 130 and 131 into the frequency domain.
- the quantization coefficient may change depending on the block or the importance of the image.
- the values calculated by the quantizers 140 and 141 may be provided to the dequantizers 170 and 17 and the reordering units 150 and 151.
- the reordering units 150 and 151 may reorder coefficient values with respect to the quantized residual value.
- the reordering units 150 and 151 may change the two-dimensional block shape coefficients into a one-dimensional vector form through a coefficient scanning method.
- the realignment units 150 and 151 may scan DC coefficients to coefficients in the high frequency region by using a Zig-Zag scan method and change them into one-dimensional vectors.
- a vertical scan method for scanning two-dimensional block shape coefficients in a column direction, not a zig-zag scan method, and a horizontal scan method for scanning two-dimensional block shape factors in a row direction Can be used. That is, according to the size of the transform block and the intra prediction mode, it is possible to determine which scan method among zigzag-scan, vertical scan and horizontal scan is used.
- the entropy encoders 160 and 161 may perform entropy encoding based on the values calculated by the reordering units 150 and 151. Entropy encoding may use various encoding methods such as, for example, Exponential Golomb, Context-Adaptive Variable Length Coding (CAVLC), and Context-Adaptive Binary Arithmetic Coding (CABAC).
- Exponential Golomb Context-Adaptive Variable Length Coding
- CABAC Context-Adaptive Binary Arithmetic Coding
- the entropy encoders 160 and 161 transmit residual value coefficient information, block type information, prediction mode information, partition unit information, prediction block information, and the like of the coding blocks from the reordering units 150 and 151 and the predictors 120 and 125. Entropy encoding may be performed based on a predetermined encoding method by receiving various information such as unit information, motion vector information, reference frame information, interpolation information of a block, and filtering information. In addition, the entropy encoder 160 or 161 may entropy-encode coefficient values of coding units input from the reordering unit 150 or 151.
- the entropy encoders 160 and 161 may encode the intra prediction mode information of the current block by performing binarization on the intra prediction mode information.
- the entropy encoder 160 or 161 may include a codeword mapping unit for performing such a binarization operation, and may perform different binarization according to the size of a prediction block for performing intra prediction.
- the codeword mapping unit the codeword mapping table may be adaptively generated or stored in advance through a binarization operation.
- the entropy encoders 160 and 161 may express prediction mode information in the current screen using a codenum mapping unit for performing codenum mapping and a codeword mapping unit for performing codeword mapping. In the codenum mapping unit and the codeword mapping unit, a codenum mapping table and a codeword mapping table may be generated or stored.
- the inverse quantizers 170 and 171 and the inverse transformers 180 and 181 inverse quantize the quantized values in the quantizers 140 and 141 and inversely transform the converted values in the transformers 130 and 131.
- the residual values generated by the inverse quantizers 170 and 171 and the inverse transformers 180 and 181 may be predicted by the motion estimator, the motion compensator, and the intra prediction unit included in the predictors 120 and 125. It may be combined with the prediction block to generate a reconstructed block.
- the filters 190 and 191 may include at least one of a deblocking filter, an offset corrector, and an adaptive loop filter (ALF).
- a deblocking filter may include at least one of a deblocking filter, an offset corrector, and an adaptive loop filter (ALF).
- ALF adaptive loop filter
- the deblocking filter may remove block distortion caused by boundaries between blocks in the reconstructed picture.
- it may be determined whether to apply a deblocking filter to the current block based on the pixels included in several columns or rows included in the block.
- a strong filter or a weak filter may be applied according to the required deblocking filtering strength.
- horizontal filtering and vertical filtering may be performed in parallel when vertical filtering and horizontal filtering are performed.
- the offset correction unit may correct the offset with respect to the original image on a pixel-by-pixel basis for the deblocking image.
- the pixels included in the image are divided into a predetermined number of areas, and then, an area to be offset is determined, an offset is applied to the corresponding area, or offset considering the edge information of each pixel. You can use this method.
- the adaptive loop filter may perform filtering based on a value obtained by comparing the filtered reconstructed image with the original image. After dividing the pixels included in the image into at least one group, one filter to be applied to the group may be determined and filtering may be performed for each group.
- the filter units 190 and 191 may apply only the deblocking filter, only the deblocking filter and the ALF, or may apply only the deblocking filter and the offset correction unit without applying all of the deblocking filter, the ALF, and the offset correction unit.
- the memories 195 and 196 may store reconstructed blocks or pictures calculated by the filters 190 and 191, and the stored reconstructed blocks or pictures may be provided to the predictors 120 and 125 when performing inter prediction. have.
- the information output from the entropy encoder 100b of the lower layer and the information output from the entropy encoder 100a of the upper layer may be multiplexed by the MUX 197 and output as a bitstream.
- the MUX 197 may be included in the encoder 100b of the lower layer or may be implemented as an independent device or module separate from the encoder 100.
- FIG. 2 is a block diagram schematically illustrating a decoding apparatus according to an embodiment of the present invention.
- the decoding apparatus 200 includes a decoder 200a of an upper layer and a decoder 200b of a lower layer.
- the decoder 200a of the upper layer includes an entropy decoder 210, a reordering unit 220, an inverse quantization unit 230, an inverse transform unit 240, a prediction unit 250, a filter unit 260, and a memory 270. ) May be included.
- the lower layer decoding unit 200b includes an entropy decoding unit 211, a reordering unit 221, an inverse quantization unit 231, an inverse transform unit 241, a prediction unit 251, a filter unit 261, and a memory 271. ) May be included.
- the DEMUX 280 may demultiplex information for each layer and transmit the information to the decoders 200a and 200b for each layer.
- the input bitstream may be decoded in a procedure opposite to that of the encoding apparatus.
- the entropy decoders 210 and 211 may perform entropy decoding in a procedure opposite to that of the entropy encoder in the encoding apparatus.
- Information for generating a prediction block among the information decoded by the entropy decoders 210 and 211 is provided to the predictors 250 and 251, and the residual value of the entropy decoding performed by the entropy decoder is the reordering unit 220 or 221. Can be entered.
- the entropy decoders 210 and 211 may perform inverse transform using at least one of CABAC and CAVLC.
- the entropy decoders 210 and 211 may decode information related to intra prediction and inter prediction performed by the encoding apparatus.
- the entropy decoding unit may include a codeword mapping unit and include a codeword mapping table for generating a received codeword as an intra prediction mode number.
- the codeword mapping table may be stored in advance or generated adaptively.
- a codenum mapping unit for performing codenum mapping may be additionally provided.
- the reordering units 220 and 221 may reorder the bitstreams entropy decoded by the entropy decoding units 210 and 211 based on a method of rearranging the bitstreams by the encoder. Coefficients expressed in the form of a one-dimensional vector can be rearranged by restoring the coefficients in a two-dimensional block form.
- the reordering unit may be realigned by receiving information related to coefficient scanning performed by the encoder and performing reverse scanning based on the scanning order performed by the encoder.
- the inverse quantization units 230 and 231 may perform inverse quantization based on quantization parameters provided by the encoding apparatus and coefficient values of the rearranged block.
- the inverse transformers 240 and 241 may perform inverse DCT and inverse DST on the DCT and DST performed by the transformers 130 and 131 with respect to the quantization result performed by the encoding apparatus.
- the inverse transform may be performed based on a transmission unit determined by the encoding apparatus.
- the DCT and DST may be selectively performed by the transform unit of the encoding apparatus according to a plurality of pieces of information, such as a prediction method, a size and a prediction direction of the current block, and the inverse transform unit 225 of the decoding apparatus may be performed by the transform unit of the encoding apparatus.
- Inverse transformation may be performed based on the transformation information. When the transform is performed, the transform may be performed based on the coding block rather than the transform block.
- the prediction units 250 and 251 may generate the prediction blocks based on the prediction block generation related information provided by the entropy decoding units 210 and 211 and previously decoded blocks or picture information provided by the memories 270 and 271. .
- the predictors 250 and 251 may include a prediction unit determiner, an inter prediction unit, and an intra prediction unit.
- the prediction unit discriminator receives various information such as prediction unit information input from the entropy decoder, prediction mode information of the intra prediction method, and motion prediction related information of the inter prediction method, and distinguishes the prediction block from the current coding block. It is possible to determine whether to perform this inter prediction or intra prediction.
- the inter prediction unit uses information required for inter prediction of the current prediction block provided by the encoding apparatus to the current prediction block based on information included in at least one of a previous picture or a subsequent picture of the current picture including the current prediction block. Inter prediction can be performed. Whether the motion prediction method of the prediction block included in the coding block is skip mode, merge mode, or AMVP mode to perform inter prediction. Can be determined.
- the intra prediction unit may generate a prediction block based on pixel information in the current picture.
- intra prediction may be performed based on intra prediction mode information of the prediction block provided by the encoding apparatus.
- the intra prediction unit is an MDIS filter that performs filtering on the reference pixels of the current block, a reference pixel interpolator which generates reference pixels in pixel units smaller than an integer value by interpolating the reference pixels, and filters when the prediction mode of the current block is DC mode. It may include a DC filter for generating a prediction block through.
- the predictor 250 of the upper layer decoder 200a may further include an inter-layer predictor that performs inter-layer prediction for predicting an upper layer by using information of the lower layer.
- the inter-layer prediction unit uses inter-layer texture prediction, inter-layer inter prediction, and inter-layer prediction by using textures of lower layers, intra prediction mode information, motion information, and syntax information. Inter-layer syntax prediction may be performed.
- prediction may be performed using the texture of the reference block in the lower layer as a prediction value of the current block of the upper layer.
- the texture of the reference block can be scaled by upsampling.
- Inter-layer texture prediction includes the intra BL and upsampled base layers that upsample the reconstructed values of the reference blocks in the lower layers and encode residuals with the current blocks using the upsampled reference blocks as predictions for the current block. Is stored in memory and uses the stored base layer as a reference index.
- Intra-prediction of the upper layer may be performed using intra-prediction mode information of the lower layer, and in this case, the intra-prediction mode of the lower layer may be expressed as a BL intra mode.
- prediction of a current block of an upper layer may be performed using motion information of a lower layer.
- the inter-layer prediction unit may also perform inter-layer syntax prediction for predicting or generating a texture of the current block using syntax information of the lower layer.
- the syntax information of the lower layer used for the prediction of the current block may be information about an intra prediction mode, motion information, and the like.
- the inter-layer prediction unit may perform differential prediction between layers predicting the current block by using the difference image generated as a difference value between the reconstructed image of the upper layer and the resampled image of the lower layer.
- inter-layer prediction As an example of the inter-layer prediction, the inter-layer texture prediction, the inter-layer motion prediction, the inter-layer syntax prediction, and the inter-layer differential prediction have been described, but the inter-layer prediction applicable to the present invention is not limited thereto.
- the reconstructed block or picture may be provided to the filter units 260 and 261.
- the filter units 260 and 261 may include a deblocking filter, an offset corrector, and an ALF.
- the deblocking filter of the decoding apparatus may receive the deblocking filter related information provided by the encoding apparatus and perform the deblocking filtering on the corresponding block in the decoding apparatus.
- the offset correction unit may perform offset correction on the reconstructed image based on the type of offset correction and offset value information applied to the image during encoding.
- the adaptive loop filter may perform filtering based on a value obtained by comparing the restored image with the original image after performing the filtering.
- the ALF may be applied to the coding unit based on the ALF application information, the ALF coefficient information, and the like provided from the encoding apparatus. Such ALF information may be provided included in a specific parameter set.
- the memories 270 and 271 may store the reconstructed picture or block to be used as the reference picture or the reference block, and output the reconstructed picture.
- the encoding apparatus and the decoding apparatus may encode three or more layers instead of two layers.
- a plurality of encoders for a higher layer and a decoder for a higher layer may be provided in correspondence to the number of upper layers. Can be.
- the current layer predicts the current layer by using a decoded picture of a reference layer (or reference layer) used for inter-layer prediction as a reference picture. Samples can be generated.
- the decoded reference layer picture may be matched to the scalability of the current layer.
- Resampling may be performed and then used as a reference picture for inter-layer prediction of the current layer. Resampling means up-sampling or downsampling samples of a reference layer picture according to a picture size of a current layer.
- the current layer refers to a layer on which current encoding or decoding is performed, and may be an enhancement layer or an upper layer.
- the reference layer refers to a layer referenced by the current layer for inter-layer prediction and may be a base layer or a lower layer.
- the picture of the reference layer (ie, the reference picture) used for inter-layer prediction of the current layer may be referred to as an inter-layer reference picture.
- the SHVC standard defines a resampling filter (eg, an upsampling filter) used for resampling in a decoding process, but a resampling filter (eg, a downsampling filter) used in a resampling process in a coding process.
- a resampling filter eg, a downsampling filter
- different (arbitrary) resampling filters may be used in the encoding of layers, and resampling filters defined in the standard are used in the decoding of layers.
- a different resampling filter may be used during encoding and decoding, there is a case where the phase between the sample of the reference layer (base layer) picture and the sample of the current layer (enhancement layer) picture does not match during decoding. May occur.
- the resampling filter (upsampling filter) of the decoding process defined in the current SHVC standard is designed on the assumption that a phase difference does not occur with the resampling filter (downsampling filter) of the coding process. If an undefined resampling filter is used, a phase difference occurs between the current layer and the reference layer when resampling is performed during decoding.
- the present invention provides a method for compensating the phase difference between the current layer and the reference layer that may occur during the resampling process of the inter-layer reference picture.
- FIG. 3 is a diagram illustrating a resampling method for an inter-layer reference picture for compensating a difference between resampling phases between layers according to an embodiment of the present invention.
- the current block 315 of the current layer picture 310 to be predicted is the current block 315 using the interlayer reference picture 320.
- the predictive sample values of may be obtained.
- the interlayer reference picture 320 may be resampled according to the size of the current layer picture 310.
- a resampling process for the interlayer reference picture 320 according to an embodiment of the present invention will be described in detail.
- a sample position (xRef, yRef) of the reference layer picture 320 corresponding to the sample position (xP, yP) of the current layer picture 310 to be predicted may be derived.
- the reference layer sample positions (xRef, yRef) may be derived as sample positions with 1/16 accuracy.
- Equation 1 shows that the reference layer sample positions (xRef, yRef) are derived to a 1/16 accuracy reference sample position.
- (xRef16, yRef16) means a reference layer sample position in units of 1/16 samples corresponding to the sample positions (xP, yP) of the current layer picture 310.
- phase values (xPhase, yPhase) of the resampling filter used in the resampling process may be derived using Equation 2 using reference layer sample positions (xRef16, yRef16) in units of 1/16 samples.
- phase difference between layers when inducing reference layer sample positions (xRef16 and yRef16) in units of 1/16 samples, phase difference between layers may be compensated.
- the phase difference between layers may be compensated using phase offset information for compensating the phase difference between layers.
- Reference layer sample positions xRef16 and yRef16 in units of 1/16 samples for deriving the reference layer sample positions xRef and yRef with 1/16 accuracy may be calculated as shown in Equations 3 and 4 below.
- Equation 3 shows an equation for deriving reference layer sample positions (xRef16 and yRef16) in units of 1/16 samples for a luma component.
- the reference layer sample positions (xRef16 and yRef16) of the 1/16 sample unit for the luminance component may be derived based on phase shift information for compensating the phase difference between the layers for the luminance component.
- Equation 4 shows an equation for deriving reference layer sample positions (xRef16 and yRef16) in units of 1/16 samples for a chroma component.
- reference layer sample positions xRef16 and yRef16 in units of 1/16 samples with respect to the color difference component may be derived based on phase shift information for compensating the phase difference between layers with respect to the color difference component.
- (xP, yP) represents a sample position of the current layer picture 310, and indicates the position of the sample at the top left in the current block 315 of the current layer picture 310. it means.
- luma_phase_offseX, luma_phase_offseY, chorma_phase_offseX, and chroma_phase_offseY are variable values for compensating for phase differences between layers during resampling.
- luma_phase_offseX and luma_phase_offseY may be variable values for compensating for phase differences between layers in the case of luminance components
- chorma_phase_offseX and chroma_phase_offseY may be variable values for compensating for phase differences between layers in the case of chrominance components.
- variable values luma_phase_offseX, luma_phase_offseY, chorma_phase_offseX, and chroma_phase_offseY for compensating for the phase difference between the current layer and the reference layer may be determined in picture units or slice units, and are signaled through the picture parameter set, slice header, etc. for each determined unit. Can be.
- Equation 5 scaleFactorX and scaleFactorY may be defined as in Equation 5.
- Equation 3 addX and addY may be defined as in Equation 6.
- scaledW may be defined as 1.5 * PicWRL or 2.0 * PicWRL
- scaledH may be defined as 1.5 * PicHRL or 2.0 * PicHRL.
- PicWRL can be defined as the width of the reference layer
- PicHRL can be defined as the height of the reference layer.
- phase shift information such as chroma_phase_offsetY may be used.
- phase shift information on the chrominance component may be used, or phase shift information on the luminance component may be used.
- phase shift information for a chrominance component such as addX, addY, phaseX, phaseY, chroma_phase_offsetX, chroma_phase_offsetY, is 1/2 of each of the phase shift information addX, addY, phaseX, phaseY, luma_phase_offsetX, luma_phase_offsetY values for the luminance component. Can be induced.
- the current layer picture 310 is based on the reference layer sample positions (xRef, yRef) and phase values (xPhase, yPhase) derived using 1/16 accuracy sample positions (xRef16, yRef16). Interpolation may be performed on the sample positions (xP, yP) of
- an 8-tap filter may be used as the luminance component in the interpolation process, and a 4-tap filter may be used as the chrominance component.
- Different filter coefficients may be used for each phase value.
- Table 1 shows an example of 8-tap filters (filter coefficients) for luminance components according to 1/16 phases used in the resampling process
- Table 2 shows 1/16 phases used in the resampling process.
- An example of a 4-tap filter (filter coefficient) for the chrominance component is shown.
- the sample positions of the current layer picture 310 using filter coefficients as shown in Tables 1 and 2 above.
- resampled sample values resampled interlayer reference picture
- the obtained resampled interlayer reference picture may be used to perform interlayer prediction (motion compensation) on the current block 315 of the current layer picture 310, and as a result, the current block 315 may be performed. Prediction sample values may be obtained.
- phase offset information for compensating for phase difference between layers may be provided in units of pictures, Signaling was determined in units of slices, and the reference layer sample position was derived based on the signaled phase shift information.
- phase shift information on the luminance component and the phase shift information on the color difference component may be signaled, respectively, or the phase shift information on the color difference component may be derived based on the phase shift information on the luminance component.
- phase shift information for compensating for phase difference between layers of color difference components according to an embodiment of the present invention.
- phase shift information for the chrominance component 1) using the phase shift information for the luminance component as phase shift information for the chrominance component, 2) the phase for the luminance component 3) a method of deriving phase shift information for a color difference component based on the shift information; and 3) signaling whether there is a difference between phase shift information for a luminance component and phase shift information for a color difference component.
- the phase shift information for the color difference component can be used as the same value as the phase shift information for the luminance component. For example, when deriving a reference layer sample position (xRef16, yRef16) in units of 1/16 samples corresponding to the current sample position (xP, yP) of the current layer picture, both the reference component position for the luminance component and the chrominance component It can be calculated using Equation 3.
- the phase shift information for the color difference component may be derived from the phase shift information for the luminance component using a predetermined condition.
- the phase shift for the color difference component may be derived using arithmetic conditions such as dividing or multiplying the phase shift for the luminance component by a specific value (for example, 1/2, 1/4, etc.).
- phase shift information for the chrominance component 3) a method of deriving phase shift information for the chrominance component by signaling whether there is a difference between phase shift information for the luminance component and phase shift information for the chrominance component
- phase shift for the chrominance component is the same as the phase shift for the luminance component may be signaled through a picture parameter set, a slice header, and the like.
- phase shift for the chrominance component and the luminance component are the same, the phase shift for the luminance component can be used as the phase shift for the chrominance component.
- phase shift for the chrominance component and the luminance component may be signaled, or the phase shift difference between the luminance component and the chrominance component may be signaled.
- Table 3 shows an example of syntax for determining phase shift information for compensating for phase difference between layers in picture units and signaling the same through a picture parameter set.
- luma_phase_offsetX represents the x-axis component phase value of the luminance component luma.
- luma_phase_offsetY represents a y-axis component phase value of the luminance component luma.
- isSameLumaPhaseX indicates whether the x-axis component phase value of the chrominance component chroma is equal to the x-axis component phase value of the luminance component luma.
- An isSameLumaPhaseX value of 1 indicates that the x-axis component phase value of the chrominance component (chroma) is equal to the x-axis component phase value of the luminance component (luma). It is different from the x-axis component phase value of the luminance component luma.
- isSameLumaPhaseY indicates whether or not the y-axis component phase value of the chrominance component chroma is equal to the y-axis component phase value of the luminance component luma.
- isSameLumaPhaseY value of 1 indicates that the y-axis component phase value of the chrominance component (chroma) is equal to y-axis component phase value of the luminance component (luma).
- isSameLumaPhaseY value of 0 indicates that the y-axis component phase value of the chrominance component (chroma) It is different from the y-axis component phase value of the luminance component luma.
- chroma_phase_offsetX represents the x-axis component phase value of the chroma component (chroma).
- chroma _phase_offsetY represents a y-axis component phase value of a chrominance component (chroma).
- Table 4 shows another example of syntax for determining phase shift information for compensating for phase difference between layers in picture units and signaling the same through a picture parameter set.
- luma_phase_offsetX represents the x-axis component phase value of the luminance component luma.
- luma_phase_offsetY represents a y-axis component phase value of the luminance component luma.
- isSameLumaPhaseX indicates whether the x-axis component phase value of the chrominance component chroma is equal to the x-axis component phase value of the luminance component luma.
- An isSameLumaPhaseX value of 1 indicates that the x-axis component phase value of the chrominance component (chroma) is equal to the x-axis component phase value of the luminance component (luma);
- an isSameLumaPhaseX value of 0 indicates that the x-axis component phase value of the chrominance component It is different from the x-axis component phase value of the luminance component luma.
- isSameLumaPhaseY indicates whether or not the y-axis component phase value of the chrominance component chroma is equal to the y-axis component phase value of the luminance component luma.
- isSameLumaPhaseY value of 1 indicates that the y-axis component phase value of the chrominance component (chroma) is equal to y-axis component phase value of the luminance component (luma).
- isSameLumaPhaseY value of 0 indicates that the y-axis component phase value of the chrominance component (chroma) It is different from the y-axis component phase value of the luminance component luma.
- delta_phase_offsetX represents luma_phase_offsetX-chroma_phase_offsetX value.
- delta_phase_offsetY represents a luma_phase_offsetY-chorma_phase_offsetY value.
- FIG. 4 is a flowchart schematically illustrating a method for performing interlayer prediction using a resampling method for compensating for a resampling phase difference between layers in a scalable video coding structure according to an embodiment of the present invention.
- the method of FIG. 4 may be performed by the encoder of FIG. 1 and the decoder of FIG. 2, and more specifically, by the predictor of the encoder of FIG. 1 and the predictor of the decoder of FIG. 2.
- the decoding apparatus will be described as performing the interlayer prediction method according to the embodiment of the present invention.
- the scalable video coding structure may include a plurality of layers. For example, it may include a current layer on which current decoding is performed and a reference layer used for inter-layer prediction of the current layer.
- the current layer may be an enhancement layer
- the reference layer may be a base layer or a lower layer that provides lower scalability than the current layer.
- the decoding apparatus derives a reference layer sample position from a reference layer picture used for interlayer prediction of a current layer picture (S400).
- the reference layer sample position is a sample position in the reference layer picture corresponding to the top-left sample position of the current block in the current layer picture, and may be a sample position used when resampling the reference layer.
- phase difference between layers may occur during the resampling process
- the phase difference between the layers should be compensated for during the resampling process.
- the reference layer sample position may be derived based on phase offset information for compensating for phase differences between layers.
- the phase shift information may include at least one of phase shift information on the luminance component and phase shift information on the color difference component.
- the decoding apparatus may induce a reference layer sample position in units of 1/16 samples, and may match phases between layers by compensating phase shifts for reference layer sample positions in units of 1/16 samples.
- the decoding apparatus may derive the reference layer sample position in units of 1/16 samples whose phase shift is compensated by using Equations 3 to 6.
- the decoding apparatus may induce a reference layer sample position based on phase shift information on the luminance component or the chrominance component according to the color component of the reference layer picture.
- the decoding apparatus may derive a reference layer sample position of a 1/16 sample unit for the luminance component based on phase shift information on the luminance component. Can be obtained as shown in 3.
- the decoding apparatus may derive a reference layer sample position in units of 1/16 samples for the chrominance component based on phase shift information on the chrominance component. It can be obtained as
- Phase shift information for compensating the phase difference between layers may be signaled from the encoding apparatus.
- the encoding apparatus may determine the phase shift in a picture unit, a slice unit, and the like, and signal information about the phase shift to the decoding apparatus through the picture parameter set, the slice header, and the like for each determined unit.
- the encoding apparatus may signal phase shift information for the luminance component and phase shift information for the color difference component, respectively, and phase shift information for the color difference component based on the phase shift information for the luminance component.
- Information may be signaled that may lead to.
- the decoding apparatus may obtain phase shift information for the luminance component and phase shift information for the chrominance component based on the phase shift information signaled by the encoding apparatus.
- the decoding apparatus may use the phase shift value for the luminance component as the phase shift value for the color difference component.
- the decoding apparatus may derive the phase shift value for the color difference component based on the phase shift value for the luminance component. For example, certain conditions can be used to derive from the phase shift value for the luminance component.
- the predetermined condition may be an operation condition such as dividing or multiplying a phase shift value for the luminance component by a specific value (for example, 1/2, 1/4, etc.).
- the decoding apparatus may obtain variation information on the luminance component and the chrominance component based on flag information indicating whether the phase shift value for the luminance component and the phase shift value for the chrominance component are the same. For example, if the flag information indicates that the phase shift values for the chrominance component and the luminance component are the same (for example, when the flag value is 1), the decoding apparatus sets the phase shift value for the luminance component to the phase for the chrominance component. Can be used as a mutation value. If the flag information indicates that the phase shift values for the chrominance component and the luminance component are not the same (for example, when the flag value is 0), the decoding apparatus sets the phase shift value for the chrominance component to the picture parameter set and slice.
- the encoding apparatus may signal the syntax as in Table 3 or Table 4, and the decoding apparatus may acquire the variation information on the luminance component and the chrominance component through the syntax.
- the decoding apparatus resamples the reference layer picture based on the reference layer sample position (S410).
- the decoding apparatus may derive the phase value of the resampling filter used in the resampling process.
- the phase value may be derived using a reference layer sample position in units of 1/16 samples.
- the phase value may be calculated as in Equation 2 above.
- the decoding apparatus may interpolate the upper left sample position of the current block of the current layer picture based on the derived reference layer sample position and phase value.
- the decoding apparatus may interpolate the luminance component sample using, for example, an 8-tap interpolation filter as shown in Table 1 above.
- the decoding apparatus may perform interpolation on a chrominance component sample using, for example, a 4-tap interpolation filter as shown in Table 2 above.
- the decoding apparatus may obtain interpolated sample values by performing interpolation on the upper left sample of the current block using different interpolation filter coefficients according to the reference layer sample position and phase value.
- the decoding apparatus may obtain resampled sample values (resampled interlayer reference picture) for the reference layer picture from the interpolated sample values.
- the decoding apparatus may perform interlayer prediction on the current block of the current layer picture based on the resampled sample values (resampled interlayer reference picture), and as a result, may generate prediction samples of the current block (S420). .
- the decoding apparatus may reconstruct the current block based on the prediction samples of the current block generated through the inter-layer prediction and the residual samples of the current block.
- the residual samples of the current block may be derived based on the prediction samples of the current blocks generated through the above-described steps S400 to S420, and after transform / quantization is performed on the residual samples of the current block.
- the result can be entropy encoded.
- the phase difference that occurs during the resampling process may be compensated by inducing the phase shift so as to compensate the phase difference that may occur during the resampling process It is possible to reduce the error (error).
- the prediction accuracy can be increased by reducing the error in resampling according to the phase difference, and the encoding / decoding efficiency can be improved.
- the method according to the present invention described above may be stored in a computer-readable recording medium that is produced as a program for execution on a computer, and examples of the computer-readable recording medium include ROM, RAM, CD-ROM, magnetic tape , Floppy disks, optical data storage devices, and the like, and also include those implemented in the form of carrier waves (eg, transmission over the Internet).
- the computer readable recording medium can be distributed over network coupled computer systems so that the computer readable code is stored and executed in a distributed fashion.
- functional programs, codes, and code segments for implementing the method can be easily inferred by programmers in the art to which the present invention belongs.
- the methods are described based on a flowchart as a series of steps or blocks, but the present invention is not limited to the order of steps, and certain steps may occur in a different order or at the same time than other steps described above. Can be. Also, one of ordinary skill in the art appreciates that the steps shown in the flowcharts are not exclusive, that other steps may be included, or that one or more steps in the flowcharts may be deleted without affecting the scope of the present invention. I can understand.
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
Description
본 발명은 비디오 압축 기술에 관한 것으로, 더 구체적으로는 멀티 레이어를 지원하는 비디오 코딩을 수행하는 방법 및 장치에 관한 것이다.The present invention relates to video compression techniques, and more particularly, to a method and apparatus for performing video coding that supports multiple layers.
최근 HD(High Definition) 영상 및 UHD(Ultra High Definition) 영상과 같은 고해상도, 고품질의 영상에 대한 수요가 다양한 응용 분야에서 증가하고 있다. 영상 데이터가 고해상도, 고품질이 될수록 기존의 영상 데이터에 비해 상대적으로 데이터량이 증가하기 때문에 기존의 유무선 광대역 회선과 같은 매체를 이용하여 영상 데이터를 전송하거나 기존의 저장 매체를 이용해 저장하는 경우, 전송 비용과 저장 비용이 증가하게 된다. 영상 데이터가 고해상도, 고품질화 됨에 따라 발생하는 이러한 문제들을 해결하기 위해서는 고효율의 영상 압축 기술들이 활용될 수 있다.Recently, the demand for high resolution and high quality images such as high definition (HD) and ultra high definition (UHD) images is increasing in various applications. As the video data becomes higher resolution and higher quality, the amount of data increases relative to the existing video data. Therefore, when the video data is transmitted or stored using a medium such as a conventional wired / wireless broadband line, The storage cost will increase. High efficiency image compression techniques can be used to solve these problems caused by high resolution and high quality image data.
영상 압축 기술로 현재 픽쳐의 이전 또는 이후 픽쳐로부터 현재 픽쳐에 포함된 화소값을 예측하는 화면 간 예측 기술, 현재 픽쳐 내의 화소 정보를 이용하여 현재 픽쳐에 포함된 화소값을 예측하는 화면 내 예측 기술, 출현 빈도가 높은 값에 짧은 부호를 할당하고 출현 빈도가 낮은 값에 긴 부호를 할당하는 엔트로피 부호화 기술 등 다양한 기술이 존재하고 이러한 영상 압축 기술을 이용해 영상 데이터를 효과적으로 압축하여 전송 또는 저장할 수 있다.An inter-screen prediction technique for predicting pixel values included in the current picture from a picture before or after the current picture using an image compression technique, an intra prediction technique for predicting pixel values included in a current picture using pixel information in the current picture, Various techniques exist, such as an entropy encoding technique for allocating a short code to a high frequency of appearance and a long code to a low frequency of appearance, and the image data can be effectively compressed and transmitted or stored.
본 발명은 스케일러블 비디오 코딩에서 인터 레이어 예측을 수행하여 인핸스먼트 레이어를 부호화/복호화하는 방법 및 장치를 제공한다. The present invention provides a method and apparatus for encoding / decoding an enhancement layer by performing interlayer prediction in scalable video coding.
본 발명은 스케일러블 비디오 코딩에서 위상 차이를 보상하는 리샘플링 방법 및 장치를 제공한다. The present invention provides a resampling method and apparatus for compensating for phase difference in scalable video coding.
본 발명의 일 실시예에 따르면, 복수의 레이어를 지원하는 영상 복호화 방법이 제공된다. 상기 영상 복호화 방법은 현재 레이어 픽처의 인터 레이어 예측을 위해 사용되는 레퍼런스 레이어 픽처로부터 레퍼런스 레이어 샘플 위치를 유도하는 단계, 상기 레퍼런스 레이어 샘플 위치를 기반으로 상기 레퍼런스 레이어 픽처에 대해 리샘플링하는 단계 및 상기 리샘플링된 레퍼런스 레이어 픽처를 기반으로 상기 현재 레이어 픽처의 현재 블록에 대한 인터 레이어 예측을 수행하여 상기 현재 블록의 예측 샘플을 생성하는 단계를 포함한다. According to an embodiment of the present invention, an image decoding method supporting a plurality of layers is provided. The image decoding method may include deriving a reference layer sample position from a reference layer picture used for inter-layer prediction of a current layer picture, resampling the reference layer picture based on the reference layer sample position, and resampling And generating a prediction sample of the current block by performing interlayer prediction on the current block of the current layer picture based on a reference layer picture.
상기 레퍼런스 레이어 샘플 위치를 유도하는 단계는, 레이어 간 위상 차이를 보상하기 위한 위상 변이(phase offset)에 대한 정보를 기반으로 상기 현재 블록의 좌상단(top-left) 샘플 위치에 대응하는 상기 레퍼런스 레이어 내 샘플 위치를 유도할 수 있다. The deriving of the reference layer sample position may include: in the reference layer corresponding to a top-left sample position of the current block based on information on a phase offset for compensating a phase difference between layers. Sample location can be derived.
상기 위상 변이에 대한 정보는 휘도 성분(luma component)에 대한 위상 변이 및 색차 성분(chroma component)에 대한 위상 변이 중 적어도 하나를 포함할 수 있다. The information on the phase shift may include at least one of a phase shift for a luma component and a phase shift for a chroma component.
본 발명의 다른 실시예에 따르면, 복수의 레이어를 지원하는 영상 복호화 장치가 제공된다. 상기 영상 복호화 장치는 현재 레이어 픽처의 인터 레이어 예측을 위해 사용되는 레퍼런스 레이어 픽처로부터 레퍼런스 레이어 샘플 위치를 유도하고, 상기 레퍼런스 레이어 샘플 위치를 기반으로 상기 레퍼런스 레이어 픽처에 대해 리샘플링하고, 상기 리샘플링된 레퍼런스 레이어 픽처를 기반으로 상기 현재 레이어 픽처의 현재 블록에 대한 인터 레이어 예측을 수행하여 상기 현재 블록의 예측 샘플을 생성하는 예측부를 포함한다. According to another embodiment of the present invention, an image decoding apparatus supporting a plurality of layers is provided. The image decoding apparatus derives a reference layer sample position from a reference layer picture used for inter-layer prediction of a current layer picture, resamples the reference layer picture based on the reference layer sample position, and resamples the reference layer picture. And a predictor configured to generate predictive samples of the current block by performing interlayer prediction on a current block of the current layer picture based on a picture.
상기 예측부는, 레이어 간 위상 차이를 보상하기 위한 위상 변이(phase offset)에 대한 정보를 기반으로 상기 현재 블록의 좌상단(top-left) 샘플 위치에 대응하는 상기 레퍼런스 레이어 샘플 위치를 유도할 수 있다. The predictor may derive the reference layer sample position corresponding to the top-left sample position of the current block based on information on a phase offset to compensate for the phase difference between layers.
상기 위상 변이에 대한 정보는 휘도 성분(luma component)에 대한 위상 변이 및 색차 성분(chroma component)에 대한 위상 변이 중 적어도 하나를 포함할 수 있다. The information on the phase shift may include at least one of a phase shift for a luma component and a phase shift for a chroma component.
본 발명의 실시예에 따른 리샘플링 방법을 이용하여 인터 레이어 예측을 수행할 경우, 위상 변이를 유도하여 리샘플링 과정에서 발생할 수 있는 위상 차이를 보상하여 줄 수 있으므로, 리샘플링 시 발생하는 위상 차이에 따른 오차(error)를 감소시킬 수 있다. 또한, 본 발명의 실시예에 따르면 위상 차이에 따른 리샘플링 시 오차를 감소시킴으로써 예측 정확도를 높일 수 있고, 부호화/복호화 효율을 향상시킬 수 있다.In the case of performing interlayer prediction using the resampling method according to an embodiment of the present invention, the phase shift may be compensated for by inducing the phase shift to compensate for the phase difference that may occur during the resampling process. error) can be reduced. In addition, according to the embodiment of the present invention, the prediction accuracy can be increased by reducing the error in resampling according to the phase difference, and the encoding / decoding efficiency can be improved.
도 1은 본 발명의 일 실시예에 따른 부호화 장치를 개략적으로 도시한 블록도이다.1 is a block diagram schematically illustrating an encoding apparatus according to an embodiment of the present invention.
도 2는 본 발명의 일 실시예에 따른 복호화 장치를 개략적으로 도시한 블록도이다.2 is a block diagram schematically illustrating a decoding apparatus according to an embodiment of the present invention.
도 3은 본 발명의 일 실시예에 따른 레이어 간 리샘플링 위상 차이를 보상하는 인터 레이어 레퍼런스 픽처에 대한 리샘플링 방법을 설명하기 위해 도시된 도면이다.3 is a diagram illustrating a resampling method for an inter-layer reference picture for compensating a difference between resampling phases between layers according to an embodiment of the present invention.
도 4는 본 발명의 실시예에 따른 스케일러블 비디오 코딩 구조에서 레이어 간 리샘플링 위상 차이를 보상하기 위한 리샘플링 방법을 이용하여 인터 레이어 예측을 수행하는 방법을 개략적으로 나타내는 순서도이다.FIG. 4 is a flowchart schematically illustrating a method for performing interlayer prediction using a resampling method for compensating for a resampling phase difference between layers in a scalable video coding structure according to an embodiment of the present invention.
이하, 도면을 참조하여 본 발명의 실시 형태에 대하여 구체적으로 설명한다. 본 명세서의 실시예를 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 명세서의 요지를 흐릴 수 있다고 판단되는 경우에는 해당 설명을 생략할 수도 있다.EMBODIMENT OF THE INVENTION Hereinafter, embodiment of this invention is described concretely with reference to drawings. In describing the embodiments of the present specification, when it is determined that a detailed description of a related well-known configuration or function may obscure the gist of the present specification, the description may be omitted.
본 명세서에서 어떤 구성 요소가 다른 구성 요소에 “연결되어” 있다거나 “접속되어” 있다고 언급된 때에는, 그 다른 구성 요소에 직접적으로 연결되어 있거나 또는 접속되어 있는 것을 의미할 수도 있고, 중간에 다른 구성 요소가 존재하는 것을 의미할 수도 있다. 아울러, 본 명세서에서 특정 구성을 “포함”한다고 기술하는 내용은 해당 구성 이외의 구성을 배제하는 것이 아니며, 추가적인 구성이 본 발명의 실시 또는 본 발명의 기술적 사상의 범위에 포함될 수 있음을 의미한다.When a component is referred to herein as being “connected” or “connected” to another component, it may mean that it is directly connected to or connected to that other component, or another component in between. It may also mean that an element exists. In addition, the description "includes" a specific configuration in this specification does not exclude a configuration other than the configuration, it means that additional configuration may be included in the scope of the technical spirit of the present invention or the present invention.
제1, 제2 등의 용어는 다양한 구성들을 설명하는데 사용될 수 있지만, 상기 구성들은 상기 용어에 의해 한정되지 않는다. 상기 용어들은 하나의 구성을 다른 구성으로부터 구별하는 목적으로 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성은 제2 구성으로 명명될 수 있고, 유사하게 제2 구성도 제1 구성으로 명명될 수 있다.Terms such as first and second may be used to describe various configurations, but the configurations are not limited by the terms. The terms are used to distinguish one configuration from another. For example, without departing from the scope of the present invention, the first configuration may be referred to as the second configuration, and similarly, the second configuration may also be referred to as the first configuration.
또한 본 발명의 실시예에 나타나는 구성부들은 서로 다른 특징적인 기능을 나타내기 위해 독립적으로 도시되는 것으로, 각 구성부들이 분리된 하드웨어나 하나의 소프트웨어 구성 단위로 이루어짐을 의미하지 않는다. 즉, 각 구성부는 설명의 편의상 각각의 구성부로 나열하여 포함한 것으로 각 구성부 중 적어도 두 개의 구성부가 하나의 구성부를 이루거나, 하나의 구성부가 복수 개의 구성부로 나뉘어져 기능을 수행할 수 있다. 각 구성부의 통합된 실시예 및 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리 범위에 포함된다.In addition, the components shown in the embodiments of the present invention are independently shown to represent different characteristic functions, and do not mean that each component is made of separate hardware or one software component unit. In other words, each component is listed as a component for convenience of description, and at least two of the components may form one component, or one component may be divided into a plurality of components to perform a function. The integrated and separated embodiments of each component are also included in the scope of the present invention without departing from the spirit of the present invention.
또한, 일부의 구성 요소는 본 발명에서 본질적인 기능을 수행하는 필수적인 구성 요소는 아니고 단지 성능을 향상시키기 위한 선택적 구성 요소일 수 있다. 본 발명은 단지 성능 향상을 위해 사용되는 구성 요소를 제외한 본 발명의 본질을 구현하는데 필수적인 구성부만을 포함하여 구현될 수 있고, 단지 성능 향상을 위해 사용되는 선택적 구성 요소를 제외한 필수 구성 요소만을 포함한 구조도 본 발명의 권리범위에 포함된다.In addition, some of the components may not be essential components for performing essential functions in the present invention, but may be optional components for improving performance. The present invention can be implemented including only the components essential for implementing the essentials of the present invention except for the components used for improving performance, and the structure including only the essential components except for the optional components used for improving performance. Also included in the scope of the present invention.
비트스트림 내 복수의 레이어(multi-layer)를 지원하는 비디오의 부호화 및 복호화를 스케일러블 코딩(scalable coding)이라고 한다. 복수의 레이어 간에는 강한 연관성(correlation)이 존재하기 때문에 이런 연관성을 이용하여 예측을 수행하면 데이터의 중복 요소를 제거할 수 있고 영상의 부호화 성능을 향상시킬 수 있다. 다른 레이어의 정보를 이용하여 예측의 대상이 되는 현재 레이어의 예측을 수행하는 것을 이하에서는 레이어 간 예측(inter-layer prediction) 혹은 인터 레이어 예측이라고 표현한다. Encoding and decoding of video that supports multiple layers in a bitstream is called scalable coding. Since there is a strong correlation between the plurality of layers, the prediction may be performed by using this correlation to remove redundant elements of data and to improve the encoding performance of the image. Performing prediction of the current layer to be predicted by using information of another layer is referred to as inter-layer prediction or inter-layer prediction in the following.
복수의 레이어들은 해상도, 프레임 레이트(frame rate), 컬러 포맷(color format) 중 적어도 하나가 서로 다를 수 있으며, 인터 레이어 예측 시 해상도의 조절을 위하여 레이어의 업샘플링(up-sampling) 또는 다운샘플링(down sampling)과 같은 리샘플링(resampling)이 수행될 수 있다.At least one of the resolution, frame rate, and color format may be different from each other, and the up-sampling or downsampling of a layer may be performed to adjust the resolution when inter layer prediction is performed. Resampling such as down sampling may be performed.
도 1은 본 발명의 일 실시예에 따른 부호화 장치를 개략적으로 도시한 블록도이다.1 is a block diagram schematically illustrating an encoding apparatus according to an embodiment of the present invention.
본 발명에 따른 부호화 장치(100)는 상위 레이어에 대한 부호화부(100a)와 하위 레이어에 대한 부호화부(100b)를 포함한다.The
상위 레어어는 현재 레이어 또는 인핸스먼트 레이어(enhancement layer)로 표현될 수 있으며, 하위 레이어는 참조 레이어(reference layer) 또는 베이스 레이어(base layer)로 표현될 수 있다. 상위 레이어와 하위 레이어는 해상도, 프레임 레이트, 컬러 포맷 중 적어도 하나가 서로 다를 수 있다. 레이어 간 예측을 수행하기 위하여 해상도 변경이 필요한 경우 레이어의 업샘플링 또는 다운샘플링이 수행될 수 있다.The upper layer may be represented by a current layer or an enhancement layer and the lower layer may be represented by a reference layer or a base layer. The upper layer and the lower layer may have at least one of a resolution, a frame rate, and a color format. When a resolution change is necessary to perform inter-layer prediction, upsampling or downsampling of a layer may be performed.
상위 레이어의 부호화부(100a)는 분할부(110), 예측부(100), 화면 내 예측부(121), 화면 간 예측부(122), 레이어 간 예측부(123), 변환부(130), 양자화부(140), 재정렬부(150), 엔트로피 부호화부(160), 역양자화부(170), 역변환부(180), 필터부(190) 및 메모리(195) 및 MUX(197)를 포함할 수 있다.The
하위 레이어의 부호화부(100b)는 분할부(111), 예측부(125), 화면 내 예측부(126), 화면 간 예측부(127), 변환부(131), 양자화부(141), 재정렬부(151), 엔트로피 부호화부(161), 역양자화부(171), 역변환부(181), 필터부(191) 및 메모리(196)를 포함할 수 있다.The
부호화부는 이하의 본 발명의 실시예에서 설명하는 영상 부호화 방법에 의해 구현될 수 있으나, 일부의 구성부에서의 동작은 부호화 장치의 복잡도를 낮추기 위해 또는 빠른 실시간 부호화를 위해 수행되지 않을 수 있다. 예를 들어, 예측부에서 화면 내 예측을 수행함에 있어서, 실시간으로 부호화를 수행하기 위해 모든 화면 내 예측 모드 방법을 사용하여 최적의 화면 내 부호화 방법을 선택하는 방법을 사용하지 않고 일부의 제한적인 개수의 화면 내 예측 모드를 사용하여 그 중에서 하나의 화면 내 예측 모드를 최종 화면 내 예측 모드로 선택하는 방법이 사용될 수 있다. 또 다른 예로 화면 내 예측 또는 화면 간 예측을 수행함에 있어 사용되는 예측 블록의 형태를 제한적으로 사용하도록 하는 것도 가능하다. The encoder may be implemented by the image encoding method described in the following embodiments of the present invention, but operations in some components may not be performed to reduce the complexity of the encoding apparatus or for fast real time encoding. For example, in performing the intra prediction in the prediction unit, some limited number of methods are used without selecting the optimal intra intra coding method using all intra prediction modes in order to perform encoding in real time. A method of selecting one intra prediction mode among them as a final intra prediction mode using the intra prediction mode of the image may be used. As another example, it is possible to limit the use of the type of prediction block used in performing intra prediction or inter prediction.
부호화 장치에서 처리되는 블록의 단위는 부호화를 수행하는 부호화 단위, 예측을 수행하는 예측 단위, 변환을 수행하는 변환 단위가 될 수 있다. 부호화 단위는 CU(Coding Unit), 예측 단위는 PU(Prediction Unit), 변환 단위는 TU(Transform Unit)라는 용어로 표현될 수 있다.The unit of a block processed by the encoding apparatus may be a coding unit that performs encoding, a prediction unit that performs prediction, or a transformation unit that performs transformation. A coding unit may be represented by a term such as a coding unit (CU), a prediction unit is a prediction unit (PU), and a transformation unit is a transform unit (TU).
분할부(110, 111)에서는 레이어 영상을 복수의 부호화 블록, 예측 블록 및 변환 블록의 조합으로 분할하고 소정의 기준(예를 들어, 비용 함수)으로 그 중 하나의 부호화 블록, 예측 블록 및 변환 블록의 조합을 선택하여 레이어를 분할할 수 있다. 예를 들어, 레이어 영상에서 부호화 단위를 분할하기 위해서는 쿼드 트리 구조(QuadTree Structure)와 같은 재귀적인 트리 구조를 사용할 수 있다. 이하, 본 발명의 실시예에서는 부호화 블록의 의미를 부호화를 하는 블록이라는 의미뿐만 아니라 복호화를 수행하는 블록이라는 의미로도 사용할 수 있다.The
예측 블록은 화면 내 예측 또는 화면 간 예측과 같은 예측을 수행하는 단위가 될 수 있다. 화면 내 예측을 수행하는 블록은 2Nx2N, NxN과 같은 정사각형 형태의 블록일 수 있다. 화면 간 예측을 수행하는 블록으로는 2Nx2N, NxN과 같은 정사각형의 형태 또는 정사각형 형태의 예측 블록을 동일한 형태로 이분할한 형태인 2NxN, Nx2N 또는 비대칭 형태인 AMP (Asymmetric Motion Partitioning)를 사용한 예측 블록 분할 방법이 있다. 예측 블록의 형태에 따라 변환부(115)에서는 변환을 수행하는 방법이 달라질 수 있다.The prediction block may be a unit for performing prediction such as intra prediction or inter prediction. The block for performing intra prediction may be a block having a square shape such as 2N × 2N or N × N. Predictive block partitioning is performed by using 2NxN, Nx2N, or asymmetric Asymmetric Motion Partitioning (AMP), which splits a square or square type prediction block into the same form. There is a way. Depending on the shape of the prediction block, the transform unit 115 may change a method of performing the transform.
부호화부(100a, 100b)의 예측부(120, 125)는 화면 내 예측(intra prediction)을 수행하는 화면 내 예측부(121, 126)와 화면 간 예측(inter prediction)을 수행하는 화면 간 예측부(122, 126)를 포함할 수 있다. 상위 레이어 부호화부(100a)의 예측부(120)는 하위 레이어의 정보를 이용하여 상위 레이어에 대한 예측을 수행하는 레이어 간 예측부(123)를 더 포함한다. The
예측부(120, 125)는 예측 블록에 대해 화면 간 예측을 사용할 것인지 또는 화면 내 예측을 수행할 것인지를 결정할 수 있다. 예측이 수행되는 처리 단위와 예측 방법이 정해지는 처리 블록의 단위는 다를 수 있다. 예를 들어, 화면 내 예측을 수행함에 있어서 예측 모드는 예측 블록을 기준으로 결정되고, 예측을 수행하는 과정은 변환 블록을 기준으로 수행될 수도 있다. 생성된 예측 블록과 원본 블록 사이의 잔차값(잔차 블록)은 변환부(130, 131)로 입력될 수 있다. 또한, 예측을 위해 사용한 예측 모드 정보, 움직임 벡터 정보 등은 잔차값과 함께 엔트로피 부호화부(130)에서 부호화되어 복호화 장치에 전달될 수 있다.The
PCM(Pulse Coded Modulation) 부호화 모드를 사용할 경우, 예측부(120, 125)를 통해 예측을 수행하지 않고, 원본 블록을 그대로 부호화하여 복호화부에 전송하는 것도 가능하다.When using the Pulse Coded Modulation (PCM) coding mode, the original block may be encoded as it is and transmitted to the decoder without performing prediction through the
화면 내 예측부(121, 126)에서는 현재 블록(예측 대상이 되는 블록)의 주변에 존재하는 참조 픽셀을 기초로 화면 내 예측된 블록을 생성할 수 있다. 화면 내 예측 방법에서 화면 내 예측 모드는 참조 픽셀 정보를 예측 방향에 따라 사용하는 방향성 예측 모드와 예측을 수행 시 방향성 정보를 사용하지 않는 비방향성 모드를 가질 수 있다. 루마 정보를 예측하기 위한 모드와 색차 정보를 예측하기 위한 모드는 종류가 상이할 수 있다. 색차 정보를 예측하기 위해 루마 정보를 예측한 화면 내 예측 모드 정보 또는 예측된 루마 신호 정보를 활용할 수 있다. 만약, 참조 픽셀이 가용하지 않는 경우, 가용하지 않은 참조 픽셀을 다른 픽셀로 대체하여 사용하여 예측 블록을 생성할 수 있다.The
예측 블록은 복수개의 변환 블록을 포함할 수 있는데, 화면 내 예측을 수행 시 예측 블록의 크기와 변환 블록의 크기가 동일할 경우, 예측 블록의 좌측에 존재하는 픽셀, 좌측 상단에 존재하는 픽셀, 상단에 존재하는 픽셀을 기초로 예측 블록에 대한 화면 내 예측을 수행할 수 있다. 하지만, 화면 내 예측을 수행 시 예측 블록의 크기와 변환 블록의 크기가 상이하여 예측 블록의 내부에 복수의 변환 블록이 포함되는 경우, 변환 블록을 기준으로 결정된 참조 픽셀을 이용하여 화면 내 예측을 수행할 수 있다. The prediction block may include a plurality of transform blocks. If the prediction block has the same size as the transform block when the intra prediction is performed, pixels present on the left side of the prediction block, pixels present on the upper left side, and top Intra-prediction of the prediction block may be performed based on the pixels present in the. However, when the prediction block is different from the size of the transform block when the intra prediction is included, and a plurality of transform blocks are included in the prediction block, the intra prediction is performed using a reference pixel determined based on the transform block. can do.
화면 내 예측 방법은 화면 내 예측 모드에 따라 참조 화소에 MDIS(Mode Dependent Intra Smoothing) 필터를 적용한 후 예측 블록을 생성할 수 있다. 참조 픽셀에 적용되는 MDIS 필터의 종류는 상이할 수 있다. MDIS 필터는 화면 내 예측이 수행되어 화면 내 예측된 블록에 적용되는 추가의 필터로서 참조 픽셀과 예측을 수행 후 생성된 화면 내 예측된 블록에 존재하는 잔차를 줄이는데 사용될 수 있다. MDIS 필터링을 수행함에 있어 참조 픽셀과 화면 내 예측된 블록에 포함된 일부 열에 대한 필터링은 화면 내 예측 모드의 방향성에 따라 다른 필터링을 수행할 수 있다.The intra prediction method may generate a prediction block after applying a mode dependent intra smoothing (MDIS) filter to a reference pixel according to the intra prediction mode. The type of MDIS filter applied to the reference pixel may be different. The MDIS filter is an additional filter applied to the predicted block in the picture by performing the intra prediction and may be used to reduce the residual present in the predicted block in the picture generated after performing the prediction with the reference pixel. In performing MDIS filtering, filtering on a reference pixel and some columns included in the predicted block in the screen may perform different filtering according to the direction of the intra prediction mode.
화면 간 예측부(122, 127)는 현재 픽쳐의 이전 픽쳐 또는 이후 픽쳐 중 적어도 하나의 픽쳐에 포함된 블록의 정보를 참조하여 예측을 수행할 수 있다. 화면 간 예측부(122, 127)에는 참조 픽쳐 보간부, 움직임 예측부, 움직임 보상부가 포함될 수 있다.The
참조 픽쳐 보간부에서는 메모리(195, 196)로부터 참조 픽쳐 정보를 제공받고 참조 픽쳐에서 정수 화소 이하의 화소 정보를 생성할 수 있다. 루마 화소의 경우, 1/4 화소 단위로 정수 화소 이하의 화소 정보를 생성하기 위해 필터 계수를 달리하는 DCT 기반의 8탭 보간 필터(DCT-based Interpolation Filter)가 사용될 수 있다. 색차 신호의 경우 1/8 화소 단위로 정수 화소 이하의 화소 정보를 생성하기 위해 필터 계수를 달리하는 DCT 기반의 4탭 보간 필터(DCT-based Interpolation Filter)가 사용될 수 있다.The reference picture interpolation unit may receive reference picture information from the
화면 간 예측부(122, 127)는 참조 픽쳐 보간부에 의해 보간된 참조 픽쳐를 기초로 움직임 예측을 수행할 수 있다. 움직임 벡터를 산출하기 위한 방법으로 FBMA(Full search-based Block Matching Algorithm), TSS(Three Step Search), NTS(New Three-Step Search Algorithm) 등 다양한 방법이 사용될 수 있다. 움직임 벡터는 보간된 화소를 기초로 1/2 또는 1/4 화소 단위의 움직임 벡터 값을 가질 수 있다. 화면 간 예측부(122, 127)에서는 여러 가지 화면 간 예측 방법 중 하나의 화면 간 예측 방법을 적용하여 현재 블록에 대한 예측을 수행할 수 있다. The
화면 간 예측 방법으로는 예를 들어, 스킵(Skip) 방법, 머지(Merge) 방법, MVP(Motion Vector Prediction) 방법 등 다양한 방법이 사용될 수 있다. For example, various methods, such as a skip method, a merge method, and an MVP (Motion Vector Prediction) method, may be used as the inter prediction method.
화면 간 예측에 있어서 움직임 정보 즉, 참조 픽쳐의 인덱스, 움직임 벡터, 레지듀얼 신호 등의 정보는 엔트로피 부호화되어 복호화부에 전달된다. 스킵 모드가 적용되는 경우에는 레지듀얼을 생성, 변환, 양자화, 전송하지 않을 수 있다.In inter prediction, motion information, that is, information such as an index of a reference picture, a motion vector, and a residual signal, is entropy coded and transmitted to a decoder. When the skip mode is applied, residuals may not be generated, transformed, quantized, or transmitted.
레이어 간 예측부(123)는 하위 레이어의 정보를 이용하여 상위 레이어를 예측하는 레이어 간 예측을 수행한다. 레이어 간 예측부(123)는 하위 레이어의 텍스처, 화면 내 예측 모드 정보, 움직임 정보, 신택스 정보 등을 이용하여 레이어 간 텍스처 예측(inter-layer texture prediction), 레이어 간 움직임 예측(inter-layer inter prediction), 레이어 간 신택스 예측(inter-layer syntax prediction) 등을 수행할 수 있다. The
레이어 간 텍스처 예측은 하위 레이어 내 참조 블록의 텍스처를 상위 레이어의 현재 블록의 예측값(prediction sample)으로 이용하는 것을 의미하며, 이때, 참조 블록의 텍스처는 업샘플링에 의해 스케일링될 수 있다. Inter-layer texture prediction means using the texture of the reference block in the lower layer as a prediction sample of the current block of the upper layer. In this case, the texture of the reference block may be scaled by upsampling.
레이어 간 텍스처 예측에는 하위 레이어 내 참조 블록의 복원된 값을 업샘플링하고 업샘플링된 참조 블록을 현재 블록에 대한 예측값으로 사용하여 현재 블록과의 잔차값을 부호화하는 인트라 BL 방식과 업샘플링된 하위 레이어를 메모리에 저장하고 저장된 하위 레이어를 참조 인덱스로 사용하는 참조 인덱스 방식이 있을 수 있다. Inter-layer texture prediction includes the intra BL and upsampled lower layers, which upsample the reconstructed values of the reference blocks in the lower layers and encode the residuals with the current blocks using the upsampled reference blocks as predictions for the current block. There may be a reference index method that stores the in memory and uses the stored lower layer as a reference index.
하위 레이어의 화면 내 예측 모드 정보를 이용하여 상위 레이어의 화면 내 예측이 수행될 수 있으며, 이 때 하위 레이어의 화면 내 예측 모드를 BL 인트라 모드로 칭할 수 있다. Intra-prediction of the upper layer may be performed using intra-prediction mode information of the lower layer. In this case, the intra-prediction mode of the lower layer may be referred to as a BL intra mode.
레이어 간 움직임 예측은 인터 레이어 인터 예측이라고도 하며, 레이어 간 움직임 예측에 따르면 하위 레이어의 움직임 정보를 이용하여 상위 레이어의 현재 블록에 대한 예측을 수행할 수 있다. 움직임 정보는 움직임 벡터 및 참조 픽쳐 인덱스를 포함할 수 있다.Inter-layer motion prediction is also called inter-layer inter prediction, and according to inter-layer motion prediction, prediction of a current block of an upper layer may be performed using motion information of a lower layer. The motion information may include a motion vector and a reference picture index.
또한, 레이어 간 예측부(123)는 하위 레이어의 신택스 정보를 이용하여 현재 블록의 텍스처를 예측하거나 생성하는 레이어 간 신택스 예측을 수행할 수도 있다. 이때, 현재 블록의 예측에 이용하는 하위 레이어의 신택스 정보는 화면 내 예측 모드에 관한 정보, 움직임 정보 등일 수 있다.The
또 다른 레이어 간 예측의 일 예로, 레이어 간 차분 예측에 따르면 상위 레이어의 복원 영상과 하위 레이어의 복원 영상을 업샘플링한 영상의 차이값으로 생성된 차분 영상을 이용하여 현재 블록에 대한 예측이 수행될 수 있다. As another example of inter-layer prediction, according to the difference prediction between layers, the prediction of the current block is performed by using the difference image generated as a difference value between the reconstructed image of the upper layer and the upsampled reconstructed image of the lower layer. Can be.
레이어 간 예측의 예로서, 레이어 간 텍스처 예측, 레이어 간 움직임 예측, 레이어 간 신택스 예측 및 레이어 간 차분 예측이 설명되었으나, 본 발명에서 적용할 수 있는 레이어 간 예측은 이에 한정되지 않는다.As an example of the inter-layer prediction, the inter-layer texture prediction, the inter-layer motion prediction, the inter-layer syntax prediction, and the inter-layer differential prediction have been described, but the inter-layer prediction applicable to the present invention is not limited thereto.
예측부(120, 125)에서 생성된 예측 블록과 예측 블록의 복원 블록과 차이 값인 잔차값(Residual) 정보를 포함하는 잔차 블록이 생성되며, 잔차 블록은 변환부(130, 131)에 입력된다. A residual block including residual information, which is a difference between the predicted block generated by the
변환부(130, 131)에서는 잔차 블록을 DCT(Discrete Cosine Transform) 또는 DST(Discrete Sine Transform)와 같은 변환 방법을 사용하여 변환시킬 수 있다. 잔차 블록을 변환하기 위해 DCT를 적용할지 DST를 적용할지는 잔차 블록을 생성하기 위해 사용된 예측 블록의 화면 내 예측 모드 정보 및 예측 블록의 크기 정보를 기초로 결정할 수 있다. 즉, 변환부(130, 131)에서는 예측 블록의 크기 및 예측 방법에 따라 변환 방법을 다르게 적용할 수 있다.The
양자화부(140, 141)는 변환부(130, 131)에서 주파수 영역으로 변환된 값들을 양자화할 수 있다. 블록에 따라 또는 영상의 중요도에 따라 양자화 계수는 변할 수 있다. 양자화부(140, 141)에서 산출된 값은 역양자화부(170, 17)와 재정렬부(150, 151)에 제공될 수 있다.The
재정렬부(150, 151)는 양자화된 잔차 값에 대해 계수 값의 재정렬을 수행할 수 있다. 재정렬부(150, 151)는 계수 스캐닝(Coefficient Scanning) 방법을 통해 2차원의 블록 형태 계수를 1차원의 벡터 형태로 변경할 수 있다. 예를 들어, 재정렬부(150, 151)에서는 지그-재그 스캔(Zig-Zag Scan)방법을 이용하여 DC 계수부터 고주파수 영역의 계수까지 스캔하여 1차원 벡터 형태로 변경시킬 수 있다. 변환 블록의 크기 및 화면 내 예측 모드에 따라 지그-재그 스캔 방법이 아닌 2차원의 블록 형태 계수를 열 방향으로 스캔하는 수직 스캔 방법, 2차원의 블록 형태 계수를 행 방향으로 스캔하는 수평 스캔 방법이 사용될 수 있다. 즉, 변환 블록의 크기 및 화면 내 예측 모드에 따라 지그-재그 스캔, 수직 방향 스캔 및 수평 방향 스캔 중 어떠한 스캔 방법이 사용될지 여부를 결정할 수 있다.The
엔트로피 부호화부(160, 161)는 재정렬부(150, 151)에 의해 산출된 값들을 기초로 엔트피 부호화를 수행할 수 있다. 엔트로피 부호화는 예를 들어, 지수 골롬(Exponential Golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)와 같은 다양한 부호화 방법을 사용할 수 있다.The
엔트로피 부호화부(160, 161)는 재정렬부(150, 151) 및 예측부(120, 125)로부터 부호화 블록의 잔차값 계수 정보 및 블록 타입 정보, 예측 모드 정보, 분할 단위 정보, 예측 블록 정보 및 전송 단위 정보, 움직임 벡터 정보, 참조 프레임 정보, 블록의 보간 정보, 필터링 정보 등 다양한 정보를 제공받아 소정의 부호화 방법을 기초로 엔트로피 부호화를 수행할 수 있다. 또한, 엔트로피 부호화부(160, 161)에서는 재정렬부(150, 151)에서 입력된 부호화 단위의 계수값을 엔트로피 부호화할 수 있다. The
엔트로피 부호화부(160, 161)에서는 화면 내 예측 모드 정보에 대한 이진화를 수행하여 현재 블록의 화면 내 예측 모드 정보를 부호화할 수 있다. 엔트로피 부호화부(160, 161)에는 이러한 이진화 동작을 수행하기 위한 코드워드 매핑부가 포함될 수 있고, 화면 내 예측을 수행하는 예측 블록의 크기에 따라 이진화를 다르게 수행할 수 있다. 코드워드 매핑부에서는 코드워드 매핑 테이블이 이진화 동작을 통해 적응적으로 생성되거나 미리 저장되어 있을 수 있다. 또 다른 실시예로 엔트로피 부호화부(160, 161)에서 코드넘 매핑을 수행하는 코드넘 매핑부와 코드워드 매핑을 수행하는 코드워드 매핑부를 이용하여 현재 화면 내 예측 모드 정보를 표현할 수 있다. 코드넘 매핑부와 코드워드 매핑부에서는 코드넘 매핑 테이블과 코드워드 매핑 테이블이 생성되거나 저장되어 있을 수 있다.The
역양자화부(170, 171) 및 역변환부(180, 181)에서는 양자화부(140, 141)에서 양자화된 값들을 역양자화하고 변환부(130, 131)에서 변환된 값들을 역변환 한다. 역양자화부(170, 171) 및 역변환부(180, 181)에서 생성된 잔차값(Residual)은 예측부(120, 125)에 포함된 움직임 추정부, 움직임 보상부 및 화면 내 예측부를 통해서 예측된 예측 블록과 합쳐져 복원 블록(Reconstructed Block)을 생성할 수 있다.The
필터부(190, 191)는 디블록킹 필터, 오프셋 보정부, ALF(Adaptive Loop Filter) 중 적어도 하나를 포함할 수 있다. The
디블록킹 필터는 복원된 픽쳐에서 블록간의 경계로 인해 생긴 블록 왜곡을 제거할 수 있다. 디블록킹을 수행할지 여부를 판단하기 위해 블록에 포함된 몇 개의 열 또는 행에 포함된 픽셀을 기초로 현재 블록에 디블록킹 필터 적용할지 여부를 판단할 수 있다. 블록에 디블록킹 필터를 적용하는 경우 필요한 디블록킹 필터링 강도에 따라 강한 필터(Strong Filter) 또는 약한 필터(Weak Filter)를 적용할 수 있다. 또한 디블록킹 필터를 적용함에 있어 수직 필터링 및 수평 필터링을 수행시 수평 방향 필터링 및 수직 방향 필터링이 병행처리가 되도록 할 수 있다.The deblocking filter may remove block distortion caused by boundaries between blocks in the reconstructed picture. In order to determine whether to perform deblocking, it may be determined whether to apply a deblocking filter to the current block based on the pixels included in several columns or rows included in the block. When the deblocking filter is applied to the block, a strong filter or a weak filter may be applied according to the required deblocking filtering strength. In addition, in applying the deblocking filter, horizontal filtering and vertical filtering may be performed in parallel when vertical filtering and horizontal filtering are performed.
오프셋 보정부는 디블록킹을 수행한 영상에 대해 픽셀 단위로 원본 영상과의 오프셋을 보정할 수 있다. 특정 픽쳐에 대한 오프셋 보정을 수행하기 위해 영상에 포함된 픽셀을 일정한 수의 영역으로 구분한 후 오프셋을 수행할 영역을 결정하고 해당 영역에 오프셋을 적용하는 방법 또는 각 픽셀의 에지 정보를 고려하여 오프셋을 적용하는 방법을 사용할 수 있다.The offset correction unit may correct the offset with respect to the original image on a pixel-by-pixel basis for the deblocking image. In order to perform offset correction for a specific picture, the pixels included in the image are divided into a predetermined number of areas, and then, an area to be offset is determined, an offset is applied to the corresponding area, or offset considering the edge information of each pixel. You can use this method.
ALF(Adaptive Loop Filter)는 필터링한 복원 영상과 원래의 영상을 비교한 값을 기초로 필터링을 수행할 수 있다. 영상에 포함된 픽셀을 적어도 하나 이상의 그룹으로 나눈 후 해당 그룹에 적용될 하나의 필터를 결정하여 그룹마다 차별적으로 필터링을 수행할 수 있다. The adaptive loop filter (ALF) may perform filtering based on a value obtained by comparing the filtered reconstructed image with the original image. After dividing the pixels included in the image into at least one group, one filter to be applied to the group may be determined and filtering may be performed for each group.
필터부(190, 191)는 디블록킹 필터, ALF, 오프셋 보정부를 모두 적용하지 않고 디블록킹 필터만 적용하거나 디블록킹 필터와 ALF만 적용하거나 디블록킹 필터와 오프셋 보정부 만을 적용할 수도 있다.The
메모리(195, 196)는 필터부(190, 191)를 통해 산출된 복원 블록 또는 픽쳐를 저장할 수 있고, 저장된 복원 블록 또는 픽쳐는 화면 간 예측을 수행 시 예측부(120, 125)에 제공될 수 있다.The
하위 레이어의 엔트로피 부호화부(100b)에서 출력되는 정보와 상위 레이어의 엔트로피 부호화부(100a)에서 출력되는 정보는 MUX(197)에서 멀티플렉싱되어 비트스트림으로 출력될 수 있다.The information output from the
MUX(197)는 하위 레이어의 부호화부(100b)에 포함될 수도 있고, 부호화부(100)와는 별도의 독립적인 장치 또는 모듈로 구현될 수 있다. The
도 2는 본 발명의 일 실시예에 따른 복호화 장치를 개략적으로 도시한 블록도이다.2 is a block diagram schematically illustrating a decoding apparatus according to an embodiment of the present invention.
도 2에 도시된 바와 같이, 복호화 장치(200)는 상위 레이어의 복호화부(200a)와 하위 레이어의 복호화부(200b)를 포함한다.As shown in FIG. 2, the
상위 레이어의 복호화부(200a)는 엔트로피 복호화부(210), 재정렬부(220), 역양자화부(230), 역변환부(240), 예측부(250), 필터부(260), 메모리(270)를 포함될 수 있다.The
하위 레이어의 복호화부(200b)는 엔트로피 디코딩부(211), 재정렬부(221), 역양자화부(231), 역변환부(241), 예측부(251), 필터부(261), 메모리(271)를 포함할 수 있다.The lower
부호화 장치로부터 복수의 레이어를 포함하는 비트스트림이 전송되면, DEMUX(280)는 레이어 별로 정보를 디멀티플렉싱하여 각 레이어별 복호화부(200a, 200b)로 전달할 수 있다. 입력된 비트스트림은 부호화 장치와 반대의 절차로 복호화 될 수 있다.When a bitstream including a plurality of layers is transmitted from the encoding apparatus, the
엔트로피 복호화부(210, 211)는 부호화 장치의 엔트로피 부호화부에서 엔트로피 부호화를 수행한 것과 반대의 절차로 엔트로피 복호화를 수행할 수 있다. 엔트로피 복호화부(210, 211)에서 복호화된 정보 중 예측 블록을 생성하기 위한 정보는 예측부(250, 251)로 제공되고 엔트로피 복호화부에서 엔트로피 복호화를 수행한 잔차값은 재정렬부(220, 221)로 입력될 수 있다.The
엔트로피 복호화부(210, 211)에서도 엔트로피 부호화부(160, 161)와 마찬가지로 CABAC 또는 CAVLC 중 적어도 하나의 방법을 사용하여 역 변환을 수행할 수 있다.Like the
엔트로피 복호화부(210, 211)에서는 부호화 장치에서 수행된 화면 내 예측 및 화면 간 예측에 관련된 정보를 복호화할 수 있다. 엔트로피 복호화부에는 코드워드 매핑부가 포함되어 수신된 코드워드를 화면 내 예측 모드 번호로 생성하기 위한 코드워드 매핑 테이블을 포함될 수 있다. 코드워드 매핑 테이블은 미리 저장되어 있거나 적응적으로 생성될 수 있다. 코드넘 매핑 테이블을 사용할 경우, 코드넘 매핑을 수행하기 위한 코드넘 매핑부가 추가적으로 구비될 수 있다.The
재정렬부(220, 221)는 엔트로피 복호화부(210, 211)에서 엔트로피 복호화된 비트스트림을 부호화부에서 재정렬한 방법을 기초로 재정렬을 수행할 수 있다. 1 차원 벡터 형태로 표현된 계수들을 다시 2 차원의 블록 형태의 계수로 복원하여 재정렬할 수 있다. 재정렬부에서는 부호화부에서 수행된 계수 스캐닝에 관련된 정보를 제공받고 해당 부호화부에서 수행된 스캐닝 순서에 기초하여 역으로 스캐닝하는 방법을 통해 재정렬을 수행할 수 있다. The
역양자화부(230, 231)는 부호화 장치에서 제공된 양자화 파라미터와 재정렬된 블록의 계수 값을 기초로 역양자화를 수행할 수 있다. The
역변환부(240, 241)는 부호화 장치에서 수행한 양자화 결과에 대해 변환부(130, 131)에서 수행한 DCT 및 DST에 대해 역 DCT 및 역 DST를 수행할 수 있다. 역변환은 부호화 장치에서 결정된 전송 단위를 기초로 수행될 수 있다. 부호화 장치의 변환부에서는 DCT와 DST는 예측 방법, 현재 블록의 크기 및 예측 방향 등 복수의 정보에 따라 선택적으로 수행될 수 있고, 복호화 장치의 역변환부(225)에서는 부호화 장치의 변환부에서 수행된 변환 정보를 기초로 역변환을 수행할 수 있다. 변환 수행 시 변환 블록이 아닌 부호화 블록을 기준으로 변환을 수행할 수 있다.The
예측부(250, 251)는 엔트로피 복호화부(210, 211)에서 제공된 예측 블록 생성 관련 정보와 메모리(270, 271)에서 제공된 이전에 복호화된 블록 또는 픽쳐 정보를 기초로 예측 블록을 생성할 수 있다.The
예측부(250, 251)는 예측 단위 판별부, 화면 간 예측부 및 화면 내 예측부를 포함할 수 있다. The
예측 단위 판별부는 엔트로피 복호화부에서 입력되는 예측 단위 정보, 화면 내 예측 방법의 예측 모드 정보, 화면 간 예측 방법의 움직임 예측 관련 정보 등 다양한 정보를 입력 받고 현재 부호화 블록에서 예측 블록을 구분하고, 예측 블록이 화면 간 예측을 수행하는지 아니면 화면 내 예측을 수행하는지 여부를 판별할 수 있다. The prediction unit discriminator receives various information such as prediction unit information input from the entropy decoder, prediction mode information of the intra prediction method, and motion prediction related information of the inter prediction method, and distinguishes the prediction block from the current coding block. It is possible to determine whether to perform this inter prediction or intra prediction.
화면 간 예측부는 부호화 장치에서 제공된 현재 예측 블록의 화면 간 예측에 필요한 정보를 이용해 현재 예측 블록이 포함된 현재 픽쳐의 이전 픽쳐 또는 이후 픽쳐 중 적어도 하나의 픽쳐에 포함된 정보를 기초로 현재 예측 블록에 대한 화면 간 예측을 수행할 수 있다. 화면 간 예측을 수행하기 위해 부호화 블록을 기준으로 해당 부호화 블록에 포함된 예측 블록의 움직임 예측 방법이 스킵 모드(Skip Mode), 머지 모드(Merge 모드), AMVP 모드(AMVP Mode) 중 어떠한 방법인지 여부를 판단할 수 있다.The inter prediction unit uses information required for inter prediction of the current prediction block provided by the encoding apparatus to the current prediction block based on information included in at least one of a previous picture or a subsequent picture of the current picture including the current prediction block. Inter prediction can be performed. Whether the motion prediction method of the prediction block included in the coding block is skip mode, merge mode, or AMVP mode to perform inter prediction. Can be determined.
화면 내 예측부는 현재 픽쳐 내의 화소 정보를 기초로 예측 블록을 생성할 수 있다. 예측 블록이 화면 내 예측을 수행한 예측 블록인 경우, 부호화 장치에서 제공된 예측 블록의 화면 내 예측 모드 정보를 기초로 화면 내 예측을 수행할 수 있다. 화면 내 예측부는 현재 블록의 참조 화소에 필터링을 수행하는 MDIS 필터, 참조 화소를 보간하여 정수값 이하의 화소 단위의 참조 화소를 생성하는 참조 화소 보간부, 현재 블록의 예측 모드가 DC 모드일 경우 필터링을 통해서 예측 블록을 생성하는 DC 필터를 포함할 수 있다. The intra prediction unit may generate a prediction block based on pixel information in the current picture. When the prediction block is a prediction block that performs intra prediction, intra prediction may be performed based on intra prediction mode information of the prediction block provided by the encoding apparatus. The intra prediction unit is an MDIS filter that performs filtering on the reference pixels of the current block, a reference pixel interpolator which generates reference pixels in pixel units smaller than an integer value by interpolating the reference pixels, and filters when the prediction mode of the current block is DC mode. It may include a DC filter for generating a prediction block through.
상위 레이어 복호화부(200a)의 예측부(250)는 하위 레이어의 정보를 이용하여 상위 레이어를 예측하는 레이어 간 예측을 수행하는 레이어 간 예측부를 더 포함할 수 있다. The
레이어 간 예측부는 하위 레이어의 텍스처, 화면 내 예측 모드 정보, 움직임 정보, 신택스 정보 등을 이용하여 레이어 간 텍스처 예측(inter-layer texture prediction), 레이어 간 움직임 예측(inter-layer inter prediction), 레이어 간 신택스 예측(inter-layer syntax prediction) 등을 수행할 수 있다. The inter-layer prediction unit uses inter-layer texture prediction, inter-layer inter prediction, and inter-layer prediction by using textures of lower layers, intra prediction mode information, motion information, and syntax information. Inter-layer syntax prediction may be performed.
레이어 간 텍스처 예측에 따라 하위 레이어 내 참조 블록의 텍스처를 상위 레이어의 현재 블록의 예측값으로 이용하는 예측이 수행될 수 있다. 참조 블록의 텍스처는 업샘플링에 의해 스케일링될 수 있다. According to the inter-layer texture prediction, prediction may be performed using the texture of the reference block in the lower layer as a prediction value of the current block of the upper layer. The texture of the reference block can be scaled by upsampling.
레이어 간 텍스처 예측에는 하위 레이어 내 참조 블록의 복원된 값을 업샘플링하고 업샘플링된 참조 블록을 현재 블록에 대한 예측값으로 사용하여 현재 블록과의 잔차값을 부호화하는 인트라 BL 방식과 업샘플링된 베이스 레이어를 메모리에 저장하고 저장된 베이스 레이어를 참조 인덱스로 사용하는 참조 인덱스 방식이 있다. Inter-layer texture prediction includes the intra BL and upsampled base layers that upsample the reconstructed values of the reference blocks in the lower layers and encode residuals with the current blocks using the upsampled reference blocks as predictions for the current block. Is stored in memory and uses the stored base layer as a reference index.
하위 레이어의 화면 내 예측 모드 정보를 이용하여 상위 레이어의 화면 내 예측이 수행될 수 있으며, 이 때 하위 레이어의 화면 내 예측 모드를 BL 인트라 모드로 표현할 수 있다. Intra-prediction of the upper layer may be performed using intra-prediction mode information of the lower layer, and in this case, the intra-prediction mode of the lower layer may be expressed as a BL intra mode.
레이어 간 움직임 예측에 따르면 하위 레이어의 움직임 정보를 이용하여 상위 레이어의 현재 블록에 대한 예측을 수행할 수 있다. According to inter-layer motion prediction, prediction of a current block of an upper layer may be performed using motion information of a lower layer.
또한, 레이어 간 예측부는 하위 레이어의 신택스 정보를 이용하여 현재 블록의 텍스처를 예측하거나 생성하는 레이어 간 신택스 예측을 수행할 수도 있다. 이때, 현재 블록의 예측에 이용하는 하위 레이어의 신택스 정보는 화면 내 예측 모드에 관한 정보, 움직임 정보 등일 수 있다.The inter-layer prediction unit may also perform inter-layer syntax prediction for predicting or generating a texture of the current block using syntax information of the lower layer. In this case, the syntax information of the lower layer used for the prediction of the current block may be information about an intra prediction mode, motion information, and the like.
또한, 레이어 간 예측부는 상위 레이어의 복원 영상과 하위 레이어의 복원 영상을 업샘플링한 영상의 차이값으로 생성된 차분 영상을 이용하여 현재 블록을 예측하는 레이어 간 차분 예측을 수행할 수도 있다.In addition, the inter-layer prediction unit may perform differential prediction between layers predicting the current block by using the difference image generated as a difference value between the reconstructed image of the upper layer and the resampled image of the lower layer.
레이어 간 예측의 예로서, 레이어 간 텍스처 예측, 레이어 간 움직임 예측, 레이어 간 신택스 예측 및 레이어 간 차분 예측이 설명되었으나, 본 발명에서 적용할 수 있는 레이어 간 예측은 이에 한정되지 않는다.As an example of the inter-layer prediction, the inter-layer texture prediction, the inter-layer motion prediction, the inter-layer syntax prediction, and the inter-layer differential prediction have been described, but the inter-layer prediction applicable to the present invention is not limited thereto.
복원된 블록 또는 픽쳐는 필터부(260, 261)로 제공될 수 있다. 필터부(260, 261)는 디블록킹 필터, 오프셋 보정부, ALF를 포함할 수 있다.The reconstructed block or picture may be provided to the
부호화 장치로부터 해당 블록 또는 픽쳐에 디블록킹 필터를 적용하였는지 여부에 대한 정보 및 디블록킹 필터를 적용하였을 경우, 강한 필터를 적용하였는지 또는 약한 필터를 적용하였는지에 대한 정보를 제공받을 수 있다. 복호화 장치의 디블록킹 필터에서는 부호화 장치에서 제공된 디블록킹 필터 관련 정보를 제공받고 복호화 장치에서 해당 블록에 대한 디블록킹 필터링을 수행할 수 있다. Information about whether a deblocking filter is applied to the corresponding block or picture and when the deblocking filter is applied to the block or picture may be provided from the encoding apparatus as to whether a strong filter or a weak filter is applied. The deblocking filter of the decoding apparatus may receive the deblocking filter related information provided by the encoding apparatus and perform the deblocking filtering on the corresponding block in the decoding apparatus.
오프셋 보정부는 부호화시 영상에 적용된 오프셋 보정의 종류 및 오프셋 값정보 등을 기초로 복원된 영상에 오프셋 보정을 수행할 수 있다.The offset correction unit may perform offset correction on the reconstructed image based on the type of offset correction and offset value information applied to the image during encoding.
ALF(adaptive loop filter)는 필터링을 수행 후 복원된 영상과 원래의 영상을 비교한 값을 기초로 필터링을 수행할 수 있다. 부호화 장치로부터 제공된 ALF 적용 여부 정보, ALF 계수 정보 등을 기초로 부호화 단위에 ALF를 적용할 수 있다. 이러한 ALF 정보는 특정한 파라메터 셋에 포함되어 제공될 수 있다.The adaptive loop filter (ALF) may perform filtering based on a value obtained by comparing the restored image with the original image after performing the filtering. The ALF may be applied to the coding unit based on the ALF application information, the ALF coefficient information, and the like provided from the encoding apparatus. Such ALF information may be provided included in a specific parameter set.
메모리(270, 271)는 복원된 픽쳐 또는 블록을 저장하여 참조 픽쳐 또는 참조 블록으로 사용할 수 있도록 할 수 있고 또한 복원된 픽쳐를 출력할 수 있다. The
부호화 장치 및 복호화 장치는 두 개의 레이어가 아닌 세 개 이상의 레이어에 대한 인코딩을 수행할 수 있으며, 이 경우 상위 레이어에 대한 부호화부 및 상위 레이어에 대한 복호화부는 상위 레이어의 개수에 대응하여 복수 개로 마련될 수 있다.The encoding apparatus and the decoding apparatus may encode three or more layers instead of two layers. In this case, a plurality of encoders for a higher layer and a decoder for a higher layer may be provided in correspondence to the number of upper layers. Can be.
상술한 바와 같이, 멀티 레이어 구조를 지원하는 SHVC(Scalable High Efficiency Video Codec) 기술에서는 레이어 간에 강한 연관성이 존재하기 때문에 이런 연관성을 이용하여 예측을 수행하면 데이터의 중복 요소를 제거할 수 있고 영상의 부호화 성능을 향상시킬 수 있다. As described above, in the scalable high efficiency video codec (SHVC) technology that supports the multi-layer structure, since there is a strong association between layers, prediction using this association can remove redundant elements of data and encode an image. It can improve performance.
따라서, 부호화/복호화 되는 현재 레이어(인핸스먼트 레이어)의 픽처(영상)를 예측할 경우, 현재 레이어의 정보를 이용한 인터 예측 혹은 인트라 예측뿐만 아니라, 다른 레이어의 정보를 이용한 인터 레이어 예측을 수행할 수 있다. Therefore, when predicting a picture (image) of a current layer (enhanced layer) to be encoded / decoded, not only inter prediction or intra prediction using information of the current layer, but also inter layer prediction using information of another layer may be performed. .
인터 레이어 예측을 수행할 경우, 현재 레이어는 인터 레이어 예측을 위해 사용되는 레퍼런스 레이어(reference layer, 혹은 참조 레이어)의 디코딩된 픽처를 레퍼런스 픽처(reference picture, 혹은 참조 픽처)로 사용하여 현재 레이어의 예측 샘플을 생성할 수 있다. When performing inter-layer prediction, the current layer predicts the current layer by using a decoded picture of a reference layer (or reference layer) used for inter-layer prediction as a reference picture. Samples can be generated.
이때, 현재 레이어와 레퍼런스 레이어는 해상도, 프레임 레이트, 컬러 포맷, 시점 중 적어도 하나가 서로 다를 수 있기 때문에(즉, 레이어 간 스케일러빌리티 차이 때문에), 디코딩된 레퍼런스 레이어 픽처는 현재 레이어의 스케일러빌리티에 맞게 리샘플링(resampling)이 수행된 다음 현재 레이어의 인터 레이어 예측을 위한 레퍼런스 픽처로 사용될 수 있다. 리샘플링은 현재 레이어의 픽처 크기에 맞게 레퍼런스 레이어 픽처의 샘플들을 업샘플링(up-sampling) 또는 다운 샘플링(down sampling)하는 것을 의미한다. In this case, since the current layer and the reference layer may have at least one of a resolution, a frame rate, a color format, and a viewpoint (ie, due to scalability differences between layers), the decoded reference layer picture may be matched to the scalability of the current layer. Resampling may be performed and then used as a reference picture for inter-layer prediction of the current layer. Resampling means up-sampling or downsampling samples of a reference layer picture according to a picture size of a current layer.
본 발명에서, 현재 레이어는 현재 부호화 혹은 복호화가 수행되는 레이어를 말하며, 인핸스먼트 레이어 또는 상위 레이어일 수 있다. 레퍼런스 레이어는 현재 레이어가 인터 레이어 예측을 위해 참조하는 레이어를 말하며, 베이스 레이어 또는 하위 레이어일 수 있다. 현재 레이어의 인터 레이어 예측을 위해 사용되는 레퍼런스 레이어의 픽처(즉, 레퍼런스 픽처)는 인터 레이어 레퍼런스 픽처로 지칭될 수 있다. In the present invention, the current layer refers to a layer on which current encoding or decoding is performed, and may be an enhancement layer or an upper layer. The reference layer refers to a layer referenced by the current layer for inter-layer prediction and may be a base layer or a lower layer. The picture of the reference layer (ie, the reference picture) used for inter-layer prediction of the current layer may be referred to as an inter-layer reference picture.
일반적으로, SHVC 표준에서는 복호화 과정에서의 리샘플링 시 사용되는 리샘플링 필터(예컨대, 업샘플링 필터)에 대해서는 정의하고 있으나, 부호화 과정에서의 리샘플링 시 사용되는 리샘플링 필터(예컨대, 다운 샘플링 필터)에 대해서는 정의하고 있지 않다. 따라서, 레이어들의 부호화 과정에서는 각각 다른 (임의의) 리샘플링 필터가 사용될 수 있고, 레이어들의 복호화 과정에서는 표준에 정의된 리샘플링 필터가 사용된다. 이러한 경우, 부호화와 복호화 과정에서 각기 다른 리샘플링 필터가 사용될 수 있으므로, 복호화 시 레퍼런스 레이어(베이스 레이어) 픽처의 샘플과 현재 레이어(인핸스먼트 레이어) 픽처의 샘플 간의 위상(phase)이 일치하지 않는 경우가 발생할 수 있다. In general, the SHVC standard defines a resampling filter (eg, an upsampling filter) used for resampling in a decoding process, but a resampling filter (eg, a downsampling filter) used in a resampling process in a coding process. Not. Thus, different (arbitrary) resampling filters may be used in the encoding of layers, and resampling filters defined in the standard are used in the decoding of layers. In this case, since a different resampling filter may be used during encoding and decoding, there is a case where the phase between the sample of the reference layer (base layer) picture and the sample of the current layer (enhancement layer) picture does not match during decoding. May occur.
다시 말해, 현재 SHVC 표준에 정의되어 있는 복호화 과정의 리샘플링 필터(업샘플링 필터)는 부호화 과정의 리샘플링 필터(다운 샘플링 필터)와 위상 차이가 발생하지 않는다는 가정하에 설계되어 있기 때문에, 부호화 과정에서 표준에 정의되지 않은 리샘플링 필터를 사용했을 경우 복호화 과정에서 리샘플링 수행 시 현재 레이어와 레퍼런스 레이어 사이에 위상 차이가 발생하게 된다. In other words, the resampling filter (upsampling filter) of the decoding process defined in the current SHVC standard is designed on the assumption that a phase difference does not occur with the resampling filter (downsampling filter) of the coding process. If an undefined resampling filter is used, a phase difference occurs between the current layer and the reference layer when resampling is performed during decoding.
상기와 같은 문제점을 해결하기 위해서, 본 발명에서는 인터 레이어 레퍼런스 픽처의 리샘플링 과정에서 발생할 수 있는 현재 레이어와 레퍼런스 레이어 사이의 위상 차이를 보상해 주는 방법을 제공한다. In order to solve the above problems, the present invention provides a method for compensating the phase difference between the current layer and the reference layer that may occur during the resampling process of the inter-layer reference picture.
도 3은 본 발명의 일 실시예에 따른 레이어 간 리샘플링 위상 차이를 보상하는 인터 레이어 레퍼런스 픽처에 대한 리샘플링 방법을 설명하기 위해 도시된 도면이다. 3 is a diagram illustrating a resampling method for an inter-layer reference picture for compensating a difference between resampling phases between layers according to an embodiment of the present invention.
도 3을 참조하면, 현재 레이어에 대해 인터 레이어 예측을 수행할 경우, 예측 대상이 되는 현재 레이어 픽처(310)의 현재 블록(315)은 인터 레이어 레퍼런스 픽처(320)를 이용하여 현재 블록(315)의 예측 샘플 값들을 획득할 수 있다. Referring to FIG. 3, when interlayer prediction is performed on a current layer, the
이때, 인터 레이어 레퍼런스 픽처(320)는 현재 레이어 픽처(310)의 크기에 맞게 리샘플링될 수 있다. 이하에서는 본 발명의 일 실시예에 따른 인터 레이어 레퍼런스 픽처(320)에 대한 리샘플링 과정에 대해 보다 구체적으로 설명한다. In this case, the
먼저, 예측 대상이 되는 현재 레이어 픽처(310)의 샘플 위치 (xP, yP)에 대응하는 레퍼런스 레이어 픽처(320)의 샘플 위치 (xRef, yRef)를 유도할 수 있다. 이때, 레퍼런스 레이어 샘플 위치 (xRef, yRef)는 1/16 정확도의 샘플 위치로 유도될 수 있다. First, a sample position (xRef, yRef) of the
수학식 1은 레퍼런스 레이어 샘플 위치 (xRef, yRef)를 1/16 정확도 레퍼런스 샘플 위치로 유도한 것을 나타낸다. Equation 1 shows that the reference layer sample positions (xRef, yRef) are derived to a 1/16 accuracy reference sample position.
수학식 1
여기서, (xRef16, yRef16)은 현재 레이어 픽처(310)의 샘플 위치 (xP, yP)에 대응하는 1/16 샘플 단위의 레퍼런스 레이어 샘플 위치를 의미한다. Here, (xRef16, yRef16) means a reference layer sample position in units of 1/16 samples corresponding to the sample positions (xP, yP) of the
그리고, 리샘플링 과정에서 사용되는 리샘플링 필터의 위상 값 (xPhase, yPhase)은 1/16 샘플 단위의 레퍼런스 레이어 샘플 위치 (xRef16, yRef16)를 이용하여 수학식 2와 같이 유도할 수 있다.The phase values (xPhase, yPhase) of the resampling filter used in the resampling process may be derived using Equation 2 using reference layer sample positions (xRef16, yRef16) in units of 1/16 samples.
수학식 2
본 발명의 일 실시예에 따르면 1/16 샘플 단위의 레퍼런스 레이어 샘플 위치 (xRef16, yRef16)를 유도할 때, 레이어 간 위상 차이를 보상해 줄 수 있다. 예를 들어, 레이어 간 위상 차이는 레이어 간 위상 차이를 보상하기 위한 위상 변이(phase offset) 정보를 이용하여 보상할 수 있다. According to an embodiment of the present invention, when inducing reference layer sample positions (xRef16 and yRef16) in units of 1/16 samples, phase difference between layers may be compensated. For example, the phase difference between layers may be compensated using phase offset information for compensating the phase difference between layers.
레퍼런스 레이어 샘플 위치 (xRef, yRef)를 1/16 정확도로 유도하기 위한1/16 샘플 단위의 레퍼런스 레이어 샘플 위치 (xRef16, yRef16)는 수학식 3 및 수학식 4와 같이 계산될 수 있다. Reference layer sample positions xRef16 and yRef16 in units of 1/16 samples for deriving the reference layer sample positions xRef and yRef with 1/16 accuracy may be calculated as shown in Equations 3 and 4 below.
수학식 3은 휘도 성분(luma component)에 대한 1/16 샘플 단위의 레퍼런스 레이어 샘플 위치 (xRef16, yRef16)를 유도하는 식을 나타낸 것이다. 이때, 휘도 성분에 대한 1/16 샘플 단위의 레퍼런스 레이어 샘플 위치 (xRef16, yRef16)는 휘도 성분에 대한 레이어 간 위상 차이를 보상하기 위한 위상 변이 정보를 기반으로 유도될 수 있다. Equation 3 shows an equation for deriving reference layer sample positions (xRef16 and yRef16) in units of 1/16 samples for a luma component. In this case, the reference layer sample positions (xRef16 and yRef16) of the 1/16 sample unit for the luminance component may be derived based on phase shift information for compensating the phase difference between the layers for the luminance component.
수학식 3
수학식 4는 색차 성분(chroma component)에 대한 1/16 샘플 단위의 레퍼런스 레이어 샘플 위치 (xRef16, yRef16)를 유도하는 식을 나타낸 것이다. 이때, 색차 성분에 대한 1/16 샘플 단위의 레퍼런스 레이어 샘플 위치 (xRef16, yRef16)는 색차 성분에 대한 레이어 간 위상 차이를 보상하기 위한 위상 변이 정보를 기반으로 유도될 수 있다.Equation 4 shows an equation for deriving reference layer sample positions (xRef16 and yRef16) in units of 1/16 samples for a chroma component. In this case, reference layer sample positions xRef16 and yRef16 in units of 1/16 samples with respect to the color difference component may be derived based on phase shift information for compensating the phase difference between layers with respect to the color difference component.
수학식 4
상기 수학식 3 및 수학식 4에서, (xP, yP)는 현재 레이어 픽처(310)의 샘플 위치를 나타낸 것으로, 현재 레이어 픽처(310)의 현재 블록(315)에서 가장 좌상단에 있는 샘플의 위치를 의미한다. In equations (3) and (4), (xP, yP) represents a sample position of the
shiftX = 16, shiftY = 16일 수 있다. shiftX = 16, shiftY = 16.
luma_phase_offseX, luma_phase_offseY, chorma_phase_offseX 및 chroma_phase_offseY는 리샘플링 과정에서 레이어 간 위상 차이를 보상하기 위한 변수 값이다. 예컨대, luma_phase_offseX 및 luma_phase_offseY는 휘도 성분일 경우에 레이어 간 위상 차이를 보상하기 위한 변수 값이고, chorma_phase_offseX 및 chroma_phase_offseY는 색차 성분일 경우에 레이어 간 위상 차이를 보상하기 위한 변수 값일 수 있다. 이때, 현재 레이어와 레퍼런스 레이어 사이의 위상 차이를 보상하기 위한 변수 값(luma_phase_offseX, luma_phase_offseY, chorma_phase_offseX 및 chroma_phase_offseY)은 픽처 단위 또는 슬라이스 단위로 결정될 수 있으며, 결정된 단위 별로 픽처 파라미터 세트, 슬라이스 헤더 등을 통해 시그널링될 수 있다. luma_phase_offseX, luma_phase_offseY, chorma_phase_offseX, and chroma_phase_offseY are variable values for compensating for phase differences between layers during resampling. For example, luma_phase_offseX and luma_phase_offseY may be variable values for compensating for phase differences between layers in the case of luminance components, and chorma_phase_offseX and chroma_phase_offseY may be variable values for compensating for phase differences between layers in the case of chrominance components. In this case, the variable values luma_phase_offseX, luma_phase_offseY, chorma_phase_offseX, and chroma_phase_offseY for compensating for the phase difference between the current layer and the reference layer may be determined in picture units or slice units, and are signaled through the picture parameter set, slice header, etc. for each determined unit. Can be.
상기 수학식 3 및 수학식 4에서, scaleFactorX와 scaleFactorY는 수학식 5와 같이 정의될 수 있다. In Equations 3 and 4, scaleFactorX and scaleFactorY may be defined as in Equation 5.
수학식 5
상기 수학식 3 및 수학식 4에서, addX와 addY는 수학식 6과 같이 정의될 수 있다. In Equations 3 and 4, addX and addY may be defined as in Equation 6.
수학식 6
상기 수학식 5 및 수학식 6에서, scaledW는 1.5 * PicWRL 또는 2.0 * PicWRL 로 정의되고, scaledH는 1.5 * PicHRL 또는 2.0 * PicHRL로 정의될 수 있다. PicWRL은 레퍼런스 레이어의 넓이, PicHRL은 레퍼런스 레이어의 높이로 정의될 수 있다. In Equations 5 and 6, scaledW may be defined as 1.5 * PicWRL or 2.0 * PicWRL, and scaledH may be defined as 1.5 * PicHRL or 2.0 * PicHRL. PicWRL can be defined as the width of the reference layer, PicHRL can be defined as the height of the reference layer.
상술한 바와 같이, 레퍼런스 레이어 샘플 위치를 유도할 때, 레이어 간 위상 차이를 보상하기 위해서, 수학식 3 내지 수학식 6에 표현된 바와 같이, addX, addY, phaseX, phaseY, luma_phase_offsetX, luma_phase_offsetY, chroma_phase_offsetX, chroma_phase_offsetY 등과 같은 위상 변이 정보를 사용할 수 있다. As described above, in order to compensate for the phase difference between layers when deriving a reference layer sample position, as expressed in Equations 3 to 6, addX, addY, phaseX, phaseY, luma_phase_offsetX, luma_phase_offsetY, chroma_phase_offsetX, Phase shift information such as chroma_phase_offsetY may be used.
여기서, 색차 성분에 대한 1/16 샘플 단위의 레퍼런스 레이어 샘플 위치를 유도할 때, 색차 성분에 대한 위상 변이 정보를 사용할 수도 있으며, 또는 휘도 성분에 대한 위상 변이 정보를 이용할 수도 있다. 예를 들어, 색차 성분에 대한 위상 변이 정보, 예컨대 addX, addY, phaseX, phaseY, chroma_phase_offsetX, chroma_phase_offsetY는 휘도 성분에 대한 위상 변이 정보 addX, addY, phaseX, phaseY, luma_phase_offsetX, luma_phase_offsetY 값들 각각의 1/2로 유도될 수 있다. Here, when inducing a reference layer sample position of a 1/16 sample unit with respect to the chrominance component, phase shift information on the chrominance component may be used, or phase shift information on the luminance component may be used. For example, phase shift information for a chrominance component, such as addX, addY, phaseX, phaseY, chroma_phase_offsetX, chroma_phase_offsetY, is 1/2 of each of the phase shift information addX, addY, phaseX, phaseY, luma_phase_offsetX, luma_phase_offsetY values for the luminance component. Can be induced.
다음으로, 상술한 바와 같이, 1/16 정확도의 샘플 위치 (xRef16, yRef16)를 이용하여 유도된 레퍼런스 레이어 샘플 위치 (xRef, yRef)와 위상 값 (xPhase, yPhase)을 기반으로 현재 레이어 픽처(310)의 샘플 위치 (xP, yP)에 대해 보간(interpolation)을 수행할 수 있다. Next, as described above, the
이때, 보간 과정에서 휘도 성분은 8 탭(8-tap) 필터를 사용할 수 있으며, 색차 성분은 4 탭(4-tap) 필터를 사용할 수 있다. 그리고 각 위상 값마다 서로 다른 필터 계수(filter coefficients)를 사용할 수 있다. In this case, an 8-tap filter may be used as the luminance component in the interpolation process, and a 4-tap filter may be used as the chrominance component. Different filter coefficients may be used for each phase value.
표 1은 리샘플링 과정에서 사용되는 1/16 위상에 따른 휘도 성분에 대한 8 탭(8-tap) 필터(필터 계수)의 일예를 나타낸 것이고, 표 2는 리샘플링 과정에서 사용되는 1/16 위상에 따른 색차 성분에 대한 4 탭(4-tap) 필터(필터 계수)의 일예를 나타낸 것이다. Table 1 shows an example of 8-tap filters (filter coefficients) for luminance components according to 1/16 phases used in the resampling process, and Table 2 shows 1/16 phases used in the resampling process. An example of a 4-tap filter (filter coefficient) for the chrominance component is shown.
표 1
표 2
상술한 바와 같이, 레퍼런스 레이어 샘플 위치 (xRef, yRef)와 위상 값 (xPhase, yPhase)을 기반으로 상기 표 1 및 표 2에 도시된 바와 같은 필터 계수를 사용하여 현재 레이어 픽처(310)의 샘플 위치 (xP, yP)에 대해 보간을 수행함으로써, 리샘플링된 샘플 값들(리샘플링된 인터 레이어 레퍼런스 픽처)을 획득할 수 있다. 획득된 리샘플링된 인터 레이어 레퍼런스 픽처를 이용하여 현재 레이어 픽처(310)의 현재 블록(315)에 대한 인터 레이어 예측(움직임 보상(motion compensation))을 수행할 수 있고, 그 결과 현재 블록(315)의 예측 샘플 값들을 획득할 수 있다. As described above, based on the reference layer sample positions (xRef, yRef) and phase values (xPhase, yPhase), the sample positions of the
상술한 바와 같이, 인터 레이어 레퍼런스 픽처에 대한 리샘플링 과정에서의 레이어 간 위상 차이를 보상하기 위해서, 본 발명의 일 실시예에서는 레이어 간 위상 차이를 보상하기 위한 위상 변이(phase offset) 정보를 픽처 단위, 슬라이스 단위 등으로 결정하여 시그널링하고, 시그널링된 위상 변이 정보를 기반으로 레퍼런스 레이어 샘플 위치를 유도하였다. As described above, in order to compensate for the phase difference between layers in the resampling process for the interlayer reference picture, according to an embodiment of the present invention, phase offset information for compensating for phase difference between layers may be provided in units of pictures, Signaling was determined in units of slices, and the reference layer sample position was derived based on the signaled phase shift information.
이때, 휘도 성분에 대한 위상 변이 정보와 색차 성분에 대한 위상 변이 정보를 각각 시그널링할 수도 있으며, 또는 휘도 성분에 대한 위상 변이 정보를 기반으로 색차 성분에 대한 위상 변이 정보를 유도할 수도 있다. In this case, the phase shift information on the luminance component and the phase shift information on the color difference component may be signaled, respectively, or the phase shift information on the color difference component may be derived based on the phase shift information on the luminance component.
이하에서는 본 발명의 실시예에 따른 색차 성분에 대한 레이어 간 위상 차이를 보상하기 위한 위상 변이 정보를 유도하는 방법에 대해 설명한다. Hereinafter, a method of deriving phase shift information for compensating for phase difference between layers of color difference components according to an embodiment of the present invention will be described.
본 발명의 실시예에 따른 색차 성분에 대한 위상 변이 정보를 유도하는 방법에는, 1) 휘도 성분에 대한 위상 변이 정보를 그대로 색차 성분에 대한 위상 변이 정보로 사용하는 방법, 2) 휘도 성분에 대한 위상 변이 정보를 기반으로 색차 성분에 대한 위상 변이 정보를 유도하는 방법, 3) 휘도 성분에 대한 위상 변이 정보와 색차 성분에 대한 위상 변이 정보 사이에 차이가 있는지 여부를 시그널링하여 색차 성분에 대한 위상 변이 정보를 유도하는 방법이 있다. In the method for deriving the phase shift information for the chrominance component according to an embodiment of the present invention, 1) using the phase shift information for the luminance component as phase shift information for the chrominance component, 2) the phase for the luminance component 3) a method of deriving phase shift information for a color difference component based on the shift information; and 3) signaling whether there is a difference between phase shift information for a luminance component and phase shift information for a color difference component. There is a way to derive.
1) 휘도 성분에 대한 위상 변이 정보를 그대로 색차 성분에 대한 위상 변이 정보로 사용하는 방법1) Method of using phase shift information on luminance component as phase shift information on color difference component
색차 성분에 대한 위상 변이 정보는, 휘도 성분에 대한 위상 변이 정보와 동일한 값으로 사용할 수 있다. 예를 들어, 현재 레이어 픽처의 현재 샘플 위치 (xP, yP)에 대응하는 1/16 샘플 단위의 레퍼런스 레이어 샘플 위치 (xRef16, yRef16)를 유도할 때, 휘도 성분 및 색차 성분에 대한 레퍼런스 샘플 위치 모두 수학식 3을 이용하여 계산될 수 있다. The phase shift information for the color difference component can be used as the same value as the phase shift information for the luminance component. For example, when deriving a reference layer sample position (xRef16, yRef16) in units of 1/16 samples corresponding to the current sample position (xP, yP) of the current layer picture, both the reference component position for the luminance component and the chrominance component It can be calculated using Equation 3.
2) 휘도 성분에 대한 위상 변이 정보를 기반으로 색차 성분에 대한 위상 변이 정보를 유도하는 방법2) A method of deriving the phase shift information on the chrominance component based on the phase shift information on the luminance component
색차 성분에 대한 위상 변이 정보는, 소정의 조건을 이용하여 휘도 성분에 대한 위상 변이 정보로부터 유도될 수 있다. 예컨대, 색차 성분에 대한 위상 변이는 휘도 성분에 대한 위상 변이를 특정 값(예를 들어, 1/2, 1/4 등)으로 나누거나, 곱하는 등의 연산 조건을 이용하여 유도될 수 있다. The phase shift information for the color difference component may be derived from the phase shift information for the luminance component using a predetermined condition. For example, the phase shift for the color difference component may be derived using arithmetic conditions such as dividing or multiplying the phase shift for the luminance component by a specific value (for example, 1/2, 1/4, etc.).
3) 휘도 성분에 대한 위상 변이 정보와 색차 성분에 대한 위상 변이 정보 사이에 차이가 있는지 여부를 시그널링하여 색차 성분에 대한 위상 변이 정보를 유도하는 방법3) a method of deriving phase shift information for the chrominance component by signaling whether there is a difference between phase shift information for the luminance component and phase shift information for the chrominance component
색차 성분에 대한 위상 변이가 휘도 성분에 대한 위상 변이와 동일한지 여부를 픽처 파라미터 세트, 슬라이스 헤더 등을 통해 시그널링할 수 있다.Whether the phase shift for the chrominance component is the same as the phase shift for the luminance component may be signaled through a picture parameter set, a slice header, and the like.
만일 색차 성분과 휘도 성분에 대한 위상 변이가 동일하면, 휘도 성분에 대한 위상 변이를 색차 성분에 대한 위상 변이로 사용할 수 있다.If the phase shift for the chrominance component and the luminance component are the same, the phase shift for the luminance component can be used as the phase shift for the chrominance component.
그렇지 않고 색차 성분과 휘도 성분에 대한 위상 변이가 다르면, 색차 성분에 대한 위상 변이를 시그널링하거나, 또는 휘도 성분과 색차 성분 간의 위상 변이 차이를 시그널링 할 수 있다. Otherwise, if the phase shift for the chrominance component and the luminance component is different, the phase shift for the chrominance component may be signaled, or the phase shift difference between the luminance component and the chrominance component may be signaled.
표 3은 레이어 간 위상 차이를 보상하기 위한 위상 변이 정보를 픽처 단위로 결정하고, 이를 픽처 파라미터 세트를 통해 시그널링하는 신택스(syntax)의 일예를 나타낸 것이다. Table 3 shows an example of syntax for determining phase shift information for compensating for phase difference between layers in picture units and signaling the same through a picture parameter set.
표 3
표 3을 참조하면, luma_phase_offsetX는 휘도 성분(luma)의 x 축 성분 위상 값을 나타낸다. luma_phase_offsetY는 휘도 성분(luma)의 y 축 성분 위상 값을 나타낸다.Referring to Table 3, luma_phase_offsetX represents the x-axis component phase value of the luminance component luma. luma_phase_offsetY represents a y-axis component phase value of the luminance component luma.
isSameLumaPhaseX는 색차 성분(chroma)의 x 축 성분 위상 값이 휘도 성분(luma)의 x 축 성분 위상 값과 같은지 여부를 나타낸다. isSameLumaPhaseX 값이 1이면 색차 성분(chroma)의 x 축 성분 위상 값이 휘도 성분(luma)의 x 축 성분 위상 값과 같음을 나타내고, isSameLumaPhaseX 값이 0이면 색차 성분(choroma)의 x 축 성분 위상 값이 휘도 성분(luma)의 x 축 성분 위상 값과 다름을 나타낸다. isSameLumaPhaseX indicates whether the x-axis component phase value of the chrominance component chroma is equal to the x-axis component phase value of the luminance component luma. An isSameLumaPhaseX value of 1 indicates that the x-axis component phase value of the chrominance component (chroma) is equal to the x-axis component phase value of the luminance component (luma). It is different from the x-axis component phase value of the luminance component luma.
isSameLumaPhaseY는 색차 성분(chroma)의 y 축 성분 위상 값이 휘도 성분(luma)의 y 축 성분 위상 값과 같은지 여부를 나타낸다. isSameLumaPhaseY 값이 1이면 색차 성분(chroma)의 y 축 성분 위상 값이 휘도 성분(luma)의 y 축 성분 위상 값과 같음을 나타내고, isSameLumaPhaseY 값이 0이면 색차 성분(chroma)의 y 축 성분 위상 값이 휘도 성분(luma)의 y 축 성분 위상 값과 다름을 나타낸다.isSameLumaPhaseY indicates whether or not the y-axis component phase value of the chrominance component chroma is equal to the y-axis component phase value of the luminance component luma. isSameLumaPhaseY value of 1 indicates that the y-axis component phase value of the chrominance component (chroma) is equal to y-axis component phase value of the luminance component (luma). isSameLumaPhaseY value of 0 indicates that the y-axis component phase value of the chrominance component (chroma) It is different from the y-axis component phase value of the luminance component luma.
chroma_phase_offsetX는 색차 성분(chroma)의 x 축 성분 위상 값을 나타낸다. chroma _phase_offsetY는 색차 성분(chroma)의 y 축 성분 위상 값을 나타낸다. chroma_phase_offsetX represents the x-axis component phase value of the chroma component (chroma). chroma _phase_offsetY represents a y-axis component phase value of a chrominance component (chroma).
표 4는 레이어 간 위상 차이를 보상하기 위한 위상 변이 정보를 픽처 단위로 결정하고, 이를 픽처 파라미터 세트를 통해 시그널링하는 신택스(syntax)의 다른 예를 나타낸 것이다. Table 4 shows another example of syntax for determining phase shift information for compensating for phase difference between layers in picture units and signaling the same through a picture parameter set.
표 4
표 4를 참조하면, luma_phase_offsetX는 휘도 성분(luma)의 x 축 성분 위상 값을 나타낸다. luma_phase_offsetY는 휘도 성분(luma)의 y 축 성분 위상 값을 나타낸다. Referring to Table 4, luma_phase_offsetX represents the x-axis component phase value of the luminance component luma. luma_phase_offsetY represents a y-axis component phase value of the luminance component luma.
isSameLumaPhaseX는 색차 성분(chroma)의 x 축 성분 위상 값이 휘도 성분(luma)의 x 축 성분 위상 값과 같은지 여부를 나타낸다. isSameLumaPhaseX 값이 1이면 색차 성분(chroma)의 x 축 성분 위상 값이 휘도 성분(luma)의 x 축 성분 위상 값과 같음을 나타내고, isSameLumaPhaseX 값이 0이면 색차 성분(choroma)의 x 축 성분 위상 값이 휘도 성분(luma)의 x 축 성분 위상 값과 다름을 나타낸다. isSameLumaPhaseX indicates whether the x-axis component phase value of the chrominance component chroma is equal to the x-axis component phase value of the luminance component luma. An isSameLumaPhaseX value of 1 indicates that the x-axis component phase value of the chrominance component (chroma) is equal to the x-axis component phase value of the luminance component (luma); an isSameLumaPhaseX value of 0 indicates that the x-axis component phase value of the chrominance component It is different from the x-axis component phase value of the luminance component luma.
isSameLumaPhaseY는 색차 성분(chroma)의 y 축 성분 위상 값이 휘도 성분(luma)의 y 축 성분 위상 값과 같은지 여부를 나타낸다. isSameLumaPhaseY 값이 1이면 색차 성분(chroma)의 y 축 성분 위상 값이 휘도 성분(luma)의 y 축 성분 위상 값과 같음을 나타내고, isSameLumaPhaseY 값이 0이면 색차 성분(chroma)의 y 축 성분 위상 값이 휘도 성분(luma)의 y 축 성분 위상 값과 다름을 나타낸다.isSameLumaPhaseY indicates whether or not the y-axis component phase value of the chrominance component chroma is equal to the y-axis component phase value of the luminance component luma. isSameLumaPhaseY value of 1 indicates that the y-axis component phase value of the chrominance component (chroma) is equal to y-axis component phase value of the luminance component (luma). isSameLumaPhaseY value of 0 indicates that the y-axis component phase value of the chrominance component (chroma) It is different from the y-axis component phase value of the luminance component luma.
delta_phase_offsetX는 luma_phase_offsetX - chroma_phase_offsetX 값을 나타낸다. delta_phase_offsetY는 luma_phase_offsetY - chorma_phase_offsetY 값을 나타낸다. delta_phase_offsetX represents luma_phase_offsetX-chroma_phase_offsetX value. delta_phase_offsetY represents a luma_phase_offsetY-chorma_phase_offsetY value.
도 4는 본 발명의 실시예에 따른 스케일러블 비디오 코딩 구조에서 레이어 간 리샘플링 위상 차이를 보상하기 위한 리샘플링 방법을 이용하여 인터 레이어 예측을 수행하는 방법을 개략적으로 나타내는 순서도이다. FIG. 4 is a flowchart schematically illustrating a method for performing interlayer prediction using a resampling method for compensating for a resampling phase difference between layers in a scalable video coding structure according to an embodiment of the present invention.
도 4의 방법은 상술한 도 1의 부호화 장치 및 도 2의 복호화 장치에서 수행될 수 있으며, 보다 구체적으로 도 1의 부호화 장치의 예측부 및 도 2의 복호화 장치의 예측부에서 수행될 수 있다. 또한, 도 4에서는 설명의 편의를 위해 복호화 장치에서 본 발명의 실시예에 따른 인터 레이어 예측 방법이 수행되는 것으로 설명하도록 한다. The method of FIG. 4 may be performed by the encoder of FIG. 1 and the decoder of FIG. 2, and more specifically, by the predictor of the encoder of FIG. 1 and the predictor of the decoder of FIG. 2. In addition, in FIG. 4, for convenience of description, the decoding apparatus will be described as performing the interlayer prediction method according to the embodiment of the present invention.
스케일러블 비디오 코딩 구조에서는 복수의 레이어들을 포함할 수 있다. 예를 들어, 현재 복호화가 수행되는 현재 레이어와 현재 레이어의 인터 레이어 예측을 위해 사용되는 레퍼런스 레이어를 포함할 수 있다. 현재 레이어는 인핸스먼트 레이어일 수 있으며, 레퍼런스 레이어는 베이스 레이어 또는 현재 레이어 보다 낮은 스케일러빌리티를 제공하는 하위 레이어일 수 있다. The scalable video coding structure may include a plurality of layers. For example, it may include a current layer on which current decoding is performed and a reference layer used for inter-layer prediction of the current layer. The current layer may be an enhancement layer, and the reference layer may be a base layer or a lower layer that provides lower scalability than the current layer.
도 4를 참조하면, 복호화 장치는 현재 레이어 픽처의 인터 레이어 예측을 위해 사용되는 레퍼런스 레이어 픽처로부터 레퍼런스 레이어 샘플 위치를 유도한다(S400). Referring to FIG. 4, the decoding apparatus derives a reference layer sample position from a reference layer picture used for interlayer prediction of a current layer picture (S400).
레퍼런스 레이어 샘플 위치는 현재 레이어 픽처 내 현재 블록의 좌상단(top-left) 샘플 위치에 대응하는 레퍼런스 레이어 픽처 내 샘플 위치이며, 레퍼런스 레이어에 대한 리샘플링 시 사용되는 샘플 위치일 수 있다. The reference layer sample position is a sample position in the reference layer picture corresponding to the top-left sample position of the current block in the current layer picture, and may be a sample position used when resampling the reference layer.
상술한 바와 같이, 리샘플링 과정에서 레이어 간 위상 차이가 발생할 수 있으므로, 리샘플링 과정에서 레이어 간 위상 차이를 보상해 주어야 한다. As described above, since the phase difference between layers may occur during the resampling process, the phase difference between the layers should be compensated for during the resampling process.
따라서, 레퍼런스 레이어 샘플 위치는 레이어 간 위상 차이를 보상하기 위한 위상 변이(phase offset) 정보를 기반으로 유도될 수 있다. 위상 변이 정보는 휘도 성분에 대한 위상 변이 정보 및 색차 성분에 대한 위상 변이 정보 중 적어도 하나를 포함할 수 있다. Accordingly, the reference layer sample position may be derived based on phase offset information for compensating for phase differences between layers. The phase shift information may include at least one of phase shift information on the luminance component and phase shift information on the color difference component.
예를 들어, 복호화 장치는 1/16 샘플 단위로 레퍼런스 레이어 샘플 위치를 유도할 수 있으며, 1/16 샘플 단위의 레퍼런스 레이어 샘플 위치에 대해 위상 변이를 보상해 줌으로써 레이어 간 위상을 일치시킬 수 있다. 상술한 바와 같이, 복호화 장치는 상기 수학식 3 내지 수학식 6을 이용하여 위상 변이가 보상된 1/16 샘플 단위의 레퍼런스 레이어 샘플 위치를 유도할 수 있다. For example, the decoding apparatus may induce a reference layer sample position in units of 1/16 samples, and may match phases between layers by compensating phase shifts for reference layer sample positions in units of 1/16 samples. As described above, the decoding apparatus may derive the reference layer sample position in units of 1/16 samples whose phase shift is compensated by using Equations 3 to 6.
이때, 복호화 장치는 레퍼런스 레이어 픽처의 색 성분에 따라서 휘도 성분 또는 색차 성분에 대한 위상 변이 정보를 기반으로 레퍼런스 레이어 샘플 위치를 유도할 수 있다. 예컨대, 레퍼런스 레이어 픽처의 색 성분이 휘도 성분일 경우, 복호화 장치는 휘도 성분에 대한 위상 변이 정보를 기반으로 휘도 성분에 대한 1/16 샘플 단위의 레퍼런스 레이어 샘플 위치를 유도할 수 있으며, 상기 수학식 3에서와 같이 구할 수 있다. 레퍼런스 레이어 픽처의 색 성분이 색차 성분일 경우, 복호화 장치는 색차 성분에 대한 위상 변이 정보를 기반으로 색차 성분에 대한 1/16 샘플 단위의 레퍼런스 레이어 샘플 위치를 유도할 수 있으며, 상기 수학식 4에서와 같이 구할 수 있다.In this case, the decoding apparatus may induce a reference layer sample position based on phase shift information on the luminance component or the chrominance component according to the color component of the reference layer picture. For example, when the color component of the reference layer picture is a luminance component, the decoding apparatus may derive a reference layer sample position of a 1/16 sample unit for the luminance component based on phase shift information on the luminance component. Can be obtained as shown in 3. When the color component of the reference layer picture is a chrominance component, the decoding apparatus may derive a reference layer sample position in units of 1/16 samples for the chrominance component based on phase shift information on the chrominance component. It can be obtained as
레이어 간 위상 차이를 보상하기 위한 위상 변이 정보는 부호화 장치로부터 시그널링될 수 있다. 부호화 장치는 위상 변이를 픽처 단위, 슬라이스 단위 등으로 결정하고, 결정된 단위 별로 픽처 파라미터 세트, 슬라이스 헤더 등을 통해 위상 변이에 대한 정보를 복호화 장치로 시그널링할 수 있다. 위상 변이 정보를 시그널링할 때, 부호화 장치는 휘도 성분에 대한 위상 변이 정보와 색차 성분에 대한 위상 변이 정보를 각각 시그널링할 수도 있으며, 휘도 성분에 대한 위상 변이 정보를 기반으로 색차 성분에 대한 위상 변이 정보를 유도할 수 있는 정보를 시그널링할 수도 있다. Phase shift information for compensating the phase difference between layers may be signaled from the encoding apparatus. The encoding apparatus may determine the phase shift in a picture unit, a slice unit, and the like, and signal information about the phase shift to the decoding apparatus through the picture parameter set, the slice header, and the like for each determined unit. When signaling the phase shift information, the encoding apparatus may signal phase shift information for the luminance component and phase shift information for the color difference component, respectively, and phase shift information for the color difference component based on the phase shift information for the luminance component. Information may be signaled that may lead to.
상술한 바와 같이, 복호화 장치는 부호화 장치에 의해 시그널링된 위상 변이 정보를 기반으로 휘도 성분에 대한 위상 변이 정보 및 색차 성분에 대한 위상 변이 정보를 획득할 수 있다. As described above, the decoding apparatus may obtain phase shift information for the luminance component and phase shift information for the chrominance component based on the phase shift information signaled by the encoding apparatus.
예를 들어, 복호화 장치는 휘도 성분에 대한 위상 변이 값을 그대로 색차 성분에 대한 위상 변이 값으로 사용할 수 있다. For example, the decoding apparatus may use the phase shift value for the luminance component as the phase shift value for the color difference component.
또는, 복호화 장치는 휘도 성분에 대한 위상 변이 값을 기반으로 색차 성분에 대한 위상 변이 값을 유도할 수 있다. 예컨대, 소정의 조건을 이용하여 휘도 성분에 대한 위상 변이 값으로부터 유도할 수 있다. 소정의 조건은 휘도 성분에 대한 위상 변이 값을 특정 값(예를 들어, 1/2, 1/4 등)으로 나누거나, 곱하는 등의 연산 조건일 수 있다. Alternatively, the decoding apparatus may derive the phase shift value for the color difference component based on the phase shift value for the luminance component. For example, certain conditions can be used to derive from the phase shift value for the luminance component. The predetermined condition may be an operation condition such as dividing or multiplying a phase shift value for the luminance component by a specific value (for example, 1/2, 1/4, etc.).
또는, 복호화 장치는 휘도 성분에 대한 위상 변이 값과 색차 성분에 대한 위상 변이 값이 동일한지 여부를 지시하는 플래그 정보를 기반으로 휘도 성분 및 색차 성분에 대한 변이 정보를 획득할 수 있다. 예컨대, 상기 플래그 정보가 색차 성분과 휘도 성분에 대한 위상 변이 값이 동일한 것으로 지시하면(예를 들어, 플래그 값이 1인 경우), 복호화 장치는 휘도 성분에 대한 위상 변이 값을 색차 성분에 대한 위상 변이 값으로 사용할 수 있다. 상기 플래그 정보가 색차 성분과 휘도 성분에 대한 위상 변이 값이 동일하지 않은 것으로 지시하면(예를 들어, 플래그 값이 0인 경우), 복호화 장치는 색차 성분에 대한 위상 변이 값을 픽처 파라미터 세트, 슬라이스 헤더 등으로부터 획득하거나, 또는 색차 성분에 대한 위상 변이 값과 휘도 성분에 대한 위상 변이 값 간의 차이를 기반으로 획득할 수 있다. 일예로, 부호화 장치는 상기 표 3 또는 상기 표 4에서와 같은 신택스를 시그널링할 수 있고, 복호화 장치는 상기 신택스를 통해 휘도 성분 및 색차 성분에 대한 변이 정보를 획득할 수 있다.Alternatively, the decoding apparatus may obtain variation information on the luminance component and the chrominance component based on flag information indicating whether the phase shift value for the luminance component and the phase shift value for the chrominance component are the same. For example, if the flag information indicates that the phase shift values for the chrominance component and the luminance component are the same (for example, when the flag value is 1), the decoding apparatus sets the phase shift value for the luminance component to the phase for the chrominance component. Can be used as a mutation value. If the flag information indicates that the phase shift values for the chrominance component and the luminance component are not the same (for example, when the flag value is 0), the decoding apparatus sets the phase shift value for the chrominance component to the picture parameter set and slice. It may be obtained from a header or the like, or based on a difference between the phase shift value for the color difference component and the phase shift value for the luminance component. For example, the encoding apparatus may signal the syntax as in Table 3 or Table 4, and the decoding apparatus may acquire the variation information on the luminance component and the chrominance component through the syntax.
복호화 장치는 레퍼런스 레이어 샘플 위치를 기반으로 레퍼런스 레이어 픽처에 대해 리샘플링을 수행한다(S410).The decoding apparatus resamples the reference layer picture based on the reference layer sample position (S410).
보다 구체적으로, 복호화 장치는 리샘플링 과정에서 사용되는 리샘플링 필터의 위상 값을 유도할 수 있다. 위상 값은 1/16 샘플 단위의 레퍼런스 레이어 샘플 위치를 이용하여 유도할 수 있다. 예컨대, 위상 값은 상기 수학식 2와 같이 계산될 수 있다. More specifically, the decoding apparatus may derive the phase value of the resampling filter used in the resampling process. The phase value may be derived using a reference layer sample position in units of 1/16 samples. For example, the phase value may be calculated as in Equation 2 above.
다음으로, 복호화 장치는 상기에서 유도된 레퍼런스 레이어 샘플 위치와 위상 값을 기반으로 현재 레이어 픽처의 현재 블록의 좌상단 샘플 위치에 대해 보간을 수행할 수 있다. Next, the decoding apparatus may interpolate the upper left sample position of the current block of the current layer picture based on the derived reference layer sample position and phase value.
이때, 휘도 성분의 경우, 복호화 장치는 예컨대, 상기 표 1에서와 같은 8 탭 보간 필터를 이용하여 휘도 성분 샘플에 대해 보간을 수행할 수 있다. 색차 성분의 경우, 복호화 장치는 예컨대, 상기 표 2에서와 같은 4 탭 보간 필터를 이용하여 색차 성분 샘플에 대해 보간을 수행할 수 있다. In this case, in the case of the luminance component, the decoding apparatus may interpolate the luminance component sample using, for example, an 8-tap interpolation filter as shown in Table 1 above. In the case of a chrominance component, the decoding apparatus may perform interpolation on a chrominance component sample using, for example, a 4-tap interpolation filter as shown in Table 2 above.
다시 말해, 복호화 장치는 레퍼런스 레이어 샘플 위치 및 위상 값에 따라 다른 보간 필터 계수를 사용하여 현재 블록의 좌상단 샘플에 대해 보간을 수행함으로써 보간된 샘플 값들을 획득할 수 있다. In other words, the decoding apparatus may obtain interpolated sample values by performing interpolation on the upper left sample of the current block using different interpolation filter coefficients according to the reference layer sample position and phase value.
다음으로, 복호화 장치는 보간된 샘플 값들로부터 레퍼런스 레이어 픽처에 대한 리샘플링된 샘플 값들(리샘플링된 인터 레이어 레퍼런스 픽처)을 획득할 수 있다. Next, the decoding apparatus may obtain resampled sample values (resampled interlayer reference picture) for the reference layer picture from the interpolated sample values.
복호화 장치는 리샘플링된 샘플 값들(리샘플링된 인터 레이어 레퍼런스 픽처)을 기반으로 현재 레이어 픽처의 현재 블록에 대해 인터 레이어 예측을 수행할 수 있고, 그 결과 현재 블록의 예측 샘플들을 생성할 수 있다(S420). The decoding apparatus may perform interlayer prediction on the current block of the current layer picture based on the resampled sample values (resampled interlayer reference picture), and as a result, may generate prediction samples of the current block (S420). .
복호화 장치는 상기와 같은 인터 레이어 예측을 통해 생성된 현재 블록의 예측 샘플들과, 현재 블록의 잔차 샘플들을 기반으로 현재 블록을 복원할 수 있다. The decoding apparatus may reconstruct the current block based on the prediction samples of the current block generated through the inter-layer prediction and the residual samples of the current block.
한편, 부호화 과정에서는 상술한 단계 S400 ~ S420을 통해 생성된 현재 블록의 예측 샘플들을 기반으로 현재 블록의 잔차 샘플들을 유도할 수 있으며, 현재 블록의 잔차 샘플들에 대해 변환/양자화를 수행한 후 그 결과를 엔트로피 부호화할 수 있다. Meanwhile, in the encoding process, the residual samples of the current block may be derived based on the prediction samples of the current blocks generated through the above-described steps S400 to S420, and after transform / quantization is performed on the residual samples of the current block. The result can be entropy encoded.
상술한 바와 같은 본 발명의 실시예에 따른 리샘플링 방법을 이용하여 인터 레이어 예측을 수행할 경우, 위상 변이를 유도하여 리샘플링 과정에서 발생할 수 있는 위상 차이를 보상하여 줄 수 있으므로, 리샘플링 시 발생하는 위상 차이에 따른 오차(error)를 감소시킬 수 있다. 또한, 본 발명의 실시예에 따르면 위상 차이에 따른 리샘플링 시 오차를 감소시킴으로써 예측 정확도를 높일 수 있고, 부호화/복호화 효율을 향상시킬 수 있다. When the inter-layer prediction is performed using the resampling method according to the embodiment of the present invention as described above, the phase difference that occurs during the resampling process may be compensated by inducing the phase shift so as to compensate the phase difference that may occur during the resampling process It is possible to reduce the error (error). In addition, according to the embodiment of the present invention, the prediction accuracy can be increased by reducing the error in resampling according to the phase difference, and the encoding / decoding efficiency can be improved.
상술한 본 발명에 따른 방법은 컴퓨터에서 실행되기 위한 프로그램으로 제작되어 컴퓨터가 읽을 수 있는 기록 매체에 저장될 수 있으며, 컴퓨터가 읽을 수 있는 기록 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있으며, 또한 캐리어 웨이브(예를 들어 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다.The method according to the present invention described above may be stored in a computer-readable recording medium that is produced as a program for execution on a computer, and examples of the computer-readable recording medium include ROM, RAM, CD-ROM, magnetic tape , Floppy disks, optical data storage devices, and the like, and also include those implemented in the form of carrier waves (eg, transmission over the Internet).
컴퓨터가 읽을 수 있는 기록 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다. 그리고, 상기 방법을 구현하기 위한 기능적인(function) 프로그램, 코드 및 코드 세그먼트들은 본 발명이 속하는 기술분야의 프로그래머들에 의해 용이하게 추론될 수 있다.The computer readable recording medium can be distributed over network coupled computer systems so that the computer readable code is stored and executed in a distributed fashion. In addition, functional programs, codes, and code segments for implementing the method can be easily inferred by programmers in the art to which the present invention belongs.
상술한 실시예들에서, 방법들은 일련의 단계 또는 블록으로서 순서도를 기초로 설명되고 있으나, 본 발명은 단계들의 순서에 한정되는 것은 아니며, 어떤 단계는 상술한 바와 다른 단계와 다른 순서로 또는 동시에 발생할 수 있다. 또한, 당해 기술 분야에서 통상의 지식을 가진 자라면 순서도에 나타난 단계들이 배타적이지 않고, 다른 단계가 포함되거나, 순서도의 하나 또는 그 이상의 단계가 본 발명의 범위에 영향을 미치지 않고 삭제될 수 있음을 이해할 수 있을 것이다.In the above embodiments, the methods are described based on a flowchart as a series of steps or blocks, but the present invention is not limited to the order of steps, and certain steps may occur in a different order or at the same time than other steps described above. Can be. Also, one of ordinary skill in the art appreciates that the steps shown in the flowcharts are not exclusive, that other steps may be included, or that one or more steps in the flowcharts may be deleted without affecting the scope of the present invention. I can understand.
이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 발명에 개시된 실시 예들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시 예에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호범위는 특허청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다. The above description is merely illustrative of the technical idea of the present invention, and those skilled in the art to which the present invention pertains may make various modifications and changes without departing from the essential characteristics of the present invention. Therefore, the embodiments disclosed in the present invention are not intended to limit the technical idea of the present invention but to describe the present invention, and the scope of the technical idea of the present invention is not limited by these embodiments. The protection scope of the present invention should be interpreted by the claims, and all technical ideas within the equivalent scope should be interpreted as being included in the scope of the present invention.
Claims (20)
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US14/890,255 US10349063B2 (en) | 2013-05-24 | 2014-05-22 | Method and apparatus for coding video supporting plurality of layers |
| CN201480028877.XA CN105230018B (en) | 2013-05-24 | 2014-05-22 | Method and apparatus for encoding video supporting multiple layers |
Applications Claiming Priority (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR10-2013-0059332 | 2013-05-24 | ||
| KR20130059332 | 2013-05-24 | ||
| KR10-2014-0061080 | 2014-05-21 | ||
| KR20140061080A KR20140138538A (en) | 2013-05-24 | 2014-05-21 | Method and apparatus for multi-layer video coding |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2014189300A1 true WO2014189300A1 (en) | 2014-11-27 |
Family
ID=51933796
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/KR2014/004566 Ceased WO2014189300A1 (en) | 2013-05-24 | 2014-05-22 | Method and apparatus for coding video supporting plurality of layers |
Country Status (1)
| Country | Link |
|---|---|
| WO (1) | WO2014189300A1 (en) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2015168581A1 (en) * | 2014-05-01 | 2015-11-05 | Arris Enterprises, Inc. | Reference layer and scaled reference layer offsets for scalable video coding |
| US10165289B2 (en) | 2014-03-18 | 2018-12-25 | ARRIS Enterprise LLC | Scalable video coding using reference and scaled reference layer offsets |
| US10341685B2 (en) | 2014-01-03 | 2019-07-02 | Arris Enterprises Llc | Conditionally parsed extension syntax for HEVC extension processing |
| US10785492B2 (en) | 2014-05-30 | 2020-09-22 | Arris Enterprises Llc | On reference layer and scaled reference layer offset parameters for inter-layer prediction in scalable video coding |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20080267289A1 (en) * | 2006-01-11 | 2008-10-30 | Huawei Technologies Co., Ltd. | Method And Device For Performing Interpolation In Scalable Video Coding |
| KR20090003321A (en) * | 2005-07-21 | 2009-01-09 | 엘지전자 주식회사 | Method of encoding and decoding video signal |
| KR20090006215A (en) * | 2005-04-01 | 2009-01-14 | 엘지전자 주식회사 | Scalable video signal encoding and decoding method |
| US20110211122A1 (en) * | 2006-01-06 | 2011-09-01 | Microsoft Corporation | Resampling and picture resizing operations for multi-resolution video coding and decoding |
| US20120213296A1 (en) * | 2005-03-18 | 2012-08-23 | Shijun Sun | Methods and Systems for Picture Up-sampling |
-
2014
- 2014-05-22 WO PCT/KR2014/004566 patent/WO2014189300A1/en not_active Ceased
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20120213296A1 (en) * | 2005-03-18 | 2012-08-23 | Shijun Sun | Methods and Systems for Picture Up-sampling |
| KR20090006215A (en) * | 2005-04-01 | 2009-01-14 | 엘지전자 주식회사 | Scalable video signal encoding and decoding method |
| KR20090003321A (en) * | 2005-07-21 | 2009-01-09 | 엘지전자 주식회사 | Method of encoding and decoding video signal |
| US20110211122A1 (en) * | 2006-01-06 | 2011-09-01 | Microsoft Corporation | Resampling and picture resizing operations for multi-resolution video coding and decoding |
| US20080267289A1 (en) * | 2006-01-11 | 2008-10-30 | Huawei Technologies Co., Ltd. | Method And Device For Performing Interpolation In Scalable Video Coding |
Cited By (16)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11363301B2 (en) | 2014-01-03 | 2022-06-14 | Arris Enterprises Llc | Conditionally parsed extension syntax for HEVC extension processing |
| US11102514B2 (en) | 2014-01-03 | 2021-08-24 | Arris Enterprises Llc | Conditionally parsed extension syntax for HEVC extension processing |
| US12225237B2 (en) | 2014-01-03 | 2025-02-11 | Arris Enterprises Llc | Conditionally parsed extension syntax for HEVC extension processing |
| US10341685B2 (en) | 2014-01-03 | 2019-07-02 | Arris Enterprises Llc | Conditionally parsed extension syntax for HEVC extension processing |
| US11343540B2 (en) | 2014-01-03 | 2022-05-24 | Arris Enterprises Llc | Conditionally parsed extension syntax for HEVC extension processing |
| US11317121B2 (en) | 2014-01-03 | 2022-04-26 | Arris Enterprises Llc | Conditionally parsed extension syntax for HEVC extension processing |
| US10412399B2 (en) | 2014-03-18 | 2019-09-10 | Arris Enterprises Llc | Scalable video coding using reference and scaled reference layer offsets |
| US10750194B2 (en) | 2014-03-18 | 2020-08-18 | Arris Enterprises Llc | Scalable video coding using reference and scaled reference layer offsets |
| US11394986B2 (en) | 2014-03-18 | 2022-07-19 | Arris Enterprises Llc | Scalable video coding using reference and scaled reference layer offsets |
| US10165289B2 (en) | 2014-03-18 | 2018-12-25 | ARRIS Enterprise LLC | Scalable video coding using reference and scaled reference layer offsets |
| US9986251B2 (en) | 2014-05-01 | 2018-05-29 | Arris Enterprises Llc | Reference layer and scaled reference layer offsets for scalable video coding |
| US10652561B2 (en) | 2014-05-01 | 2020-05-12 | Arris Enterprises Llc | Reference layer and scaled reference layer offsets for scalable video coding |
| WO2015168581A1 (en) * | 2014-05-01 | 2015-11-05 | Arris Enterprises, Inc. | Reference layer and scaled reference layer offsets for scalable video coding |
| US11375215B2 (en) | 2014-05-01 | 2022-06-28 | Arris Enterprises Llc | Reference layer and scaled reference layer offsets for scalable video coding |
| US11218712B2 (en) | 2014-05-30 | 2022-01-04 | Arris Enterprises Llc | On reference layer and scaled reference layer offset parameters for inter-layer prediction in scalable video coding |
| US10785492B2 (en) | 2014-05-30 | 2020-09-22 | Arris Enterprises Llc | On reference layer and scaled reference layer offset parameters for inter-layer prediction in scalable video coding |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| WO2020071830A1 (en) | Image coding method using history-based motion information, and device therefor | |
| WO2020071829A1 (en) | History-based image coding method, and apparatus thereof | |
| WO2016052977A1 (en) | Method and apparatus for processing video signal | |
| WO2019117634A1 (en) | Image coding method on basis of secondary transform and device therefor | |
| WO2018066959A1 (en) | Method and apparatus for processing video signal | |
| WO2017039256A1 (en) | Method and device for processing video signal | |
| WO2017082443A1 (en) | Method and apparatus for adaptively predicting image using threshold value in image coding system | |
| WO2019117639A1 (en) | Image coding method on basis of transformation and device therefor | |
| WO2016085231A1 (en) | Video signal processing method and device | |
| WO2020096425A1 (en) | Image signal encoding/decoding method, and device for same | |
| WO2016137166A1 (en) | Method for processing image on basis of intra prediction mode and device therefor | |
| WO2016159610A1 (en) | Method and apparatus for processing video signal | |
| WO2016114583A1 (en) | Method and device for processing video signal | |
| WO2015034215A1 (en) | Scalable video signal encoding/decoding method and apparatus | |
| WO2017188565A1 (en) | Image decoding method and device in image coding system | |
| WO2016048092A1 (en) | Method and device for processing video signal | |
| WO2015009021A1 (en) | Method and apparatus for encoding/decoding scalable video signal | |
| WO2016122253A1 (en) | Method and apparatus for processing video signals | |
| WO2016064123A1 (en) | Method and apparatus for processing video signal | |
| WO2020141831A2 (en) | Image coding method and apparatus using intra block copy prediction | |
| WO2015009009A1 (en) | Scalable video signal encoding/decoding method and device | |
| WO2016122251A1 (en) | Method and apparatus for processing video signals | |
| WO2020141932A1 (en) | Inter prediction method and apparatus using cpr-based mmvd | |
| WO2015037922A1 (en) | Method and apparatus for encoding/decoding scalable video signal | |
| WO2014189300A1 (en) | Method and apparatus for coding video supporting plurality of layers |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| WWE | Wipo information: entry into national phase |
Ref document number: 201480028877.X Country of ref document: CN |
|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 14800533 Country of ref document: EP Kind code of ref document: A1 |
|
| WWE | Wipo information: entry into national phase |
Ref document number: 14890255 Country of ref document: US |
|
| NENP | Non-entry into the national phase |
Ref country code: DE |
|
| 32PN | Ep: public notification in the ep bulletin as address of the adressee cannot be established |
Free format text: NOTING OF LOSS OF RIGHTS PURSUANT TO RULE 112(1) EPC (EPO FORM 1205 DATED 16/03/2016) |
|
| 122 | Ep: pct application non-entry in european phase |
Ref document number: 14800533 Country of ref document: EP Kind code of ref document: A1 |