WO2019142836A1 - 符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム - Google Patents
符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム Download PDFInfo
- Publication number
- WO2019142836A1 WO2019142836A1 PCT/JP2019/001150 JP2019001150W WO2019142836A1 WO 2019142836 A1 WO2019142836 A1 WO 2019142836A1 JP 2019001150 W JP2019001150 W JP 2019001150W WO 2019142836 A1 WO2019142836 A1 WO 2019142836A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- correction
- image data
- raw image
- signal level
- optical black
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/46—Embedding additional information in the video signal during the compression process
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
- H04N9/646—Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/40—Picture signal circuits
- H04N1/407—Control or modification of tonal gradation or of extreme levels, e.g. background level
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/60—Colour correction or control
- H04N1/6027—Correction or control of colour gradation or colour contrast
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/76—Circuitry for compensating brightness variation in the scene by influencing the image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/82—Camera processing pipelines; Components thereof for controlling camera response irrespective of the scene brightness, e.g. gamma correction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/86—Camera processing pipelines; Components thereof for processing colour signals for controlling the colour saturation of colour signals, e.g. automatic chroma control circuits
Definitions
- the present invention relates to an encoding apparatus, a decoding apparatus, an encoding method, a decoding method, an encoding program, and a decoding program.
- a technique for performing gradation correction on RAW image data is disclosed.
- the optical black of the output from the image pickup device is not zero, if the above-described gradation correction with ⁇ or the like is performed and coding is performed in order to suppress dark part coding distortion, optical black is zero. In comparison, the degree of dark area encoding distortion suppression by tone correction is reduced.
- An encoding apparatus includes a correction unit that performs gray-scale correction on RAW image data from an image sensor having optical black based on a gamma coefficient and the value of the optical black. And an encoding unit that encodes the tone-corrected RAW image data that has been subjected to the tone correction by the correction unit.
- a decoding device acquires encoded RAW image data obtained by encoding gradation-corrected RAW image data that has been subjected to gradation correction based on a gamma coefficient and an optical black value.
- An acquisition unit a decoding unit that decodes the encoded RAW image data acquired by the acquisition unit into the gradation correction RAW image data, and the gamma correction unit that decodes the gradation correction RAW image data decoded by the decoding unit.
- an inverse correction unit that outputs RAW image data before gradation correction by performing gradation inverse correction on the basis of the coefficient and the value of the optical black.
- An encoding method is a correction process of correcting RAW image data from an imaging element having optical black based on a gamma coefficient and the value of the optical black. And an encoding process for encoding the gradation corrected RAW image data that has been subjected to the gradation correction by the correction process.
- a decoding method acquires encoded RAW image data obtained by encoding gradation-corrected RAW image data that has been subjected to gradation correction based on a gamma coefficient and an optical black value.
- Inverse correction processing is performed to perform reverse gradation correction based on the coefficient and the value of the optical black, and output RAW image data before the gradation correction.
- FIG. 1 is a block diagram showing an example of the hardware configuration of the information processing apparatus.
- FIG. 2 is a block diagram of a functional configuration example of the encoding apparatus according to the first embodiment.
- FIG. 3 is an explanatory view showing an example of the data structure of the encoding tone correction RAW image data.
- FIG. 4 is a block diagram showing a configuration example of the encoding unit.
- FIG. 5 is a flowchart illustrating an example of an encoding process procedure by the encoding apparatus.
- FIG. 6 is a block diagram showing an example of a functional configuration of the decoding apparatus.
- FIG. 7 is a block diagram showing a configuration example of the decoding unit.
- FIG. 8 is a flow chart showing an example of the decoding processing procedure by the decoding device.
- FIG. 1 is a block diagram showing an example of the hardware configuration of the information processing apparatus.
- FIG. 2 is a block diagram of a functional configuration example of the encoding apparatus according to the first embodiment.
- FIG. 9 is a graph showing the input / output characteristics of gradation correction when the optical black value is not used.
- FIG. 10 is a graph showing gain characteristics of gradation correction when the optical black value is not used.
- FIG. 11 is a graph showing the input / output characteristics of gradation inverse correction when the optical black value is not used.
- FIG. 12 is a graph showing an input / output characteristic 1 of gradation correction when an optical black value is used.
- FIG. 13 is a graph showing gain characteristics in the input / output characteristic 1 of gradation correction when the optical black value is used.
- FIG. 14 is a graph showing an input / output characteristic 1 of gradation inverse correction in the case of using an optical black value.
- FIG. 15 is a graph showing an input / output characteristic 2 of gradation correction when an optical black value is used.
- FIG. 16 is a graph showing gain characteristics in the input / output characteristic 2 of gradation correction when the optical black value is used.
- FIG. 17 is a graph showing the input / output characteristic 2 of gradation inverse correction in the case of using an optical black value.
- FIG. 18 is a graph showing an input / output characteristic 3 of gradation correction when an optical black value is used.
- FIG. 19 is a graph showing gain characteristics in the input / output characteristic 3 of gradation correction when the optical black value is used.
- FIG. 20 is a graph showing the input / output characteristic 3 of gradation inverse correction in the case of using an optical black value.
- FIG. 21 is a graph showing the input / output characteristic 4 of the tone correction when the optical black value is used.
- FIG. 22 is a graph showing gain characteristics in the input / output characteristic 4 of gradation correction when the optical black value is used.
- FIG. 23 is a graph showing the input / output characteristic 4 of gradation inverse correction in the case of using an optical black value.
- FIG. 24 is a graph showing an input / output characteristic 5 of gradation correction when an optical black value is used.
- FIG. 25 is a graph showing gain characteristics in the input / output characteristic 5 of gradation correction when the optical black value is used.
- FIG. 26 is a graph showing the input / output characteristic 5 of gradation inverse correction in the case of using an optical black value.
- FIG. 27 is a graph showing an input / output characteristic 6 of gradation correction when an optical black value is used.
- FIG. 28 is a graph showing gain characteristics in the input / output characteristic 6 of gradation correction when the optical black value is used.
- FIG. 29 is a graph showing the input / output characteristic 6 of gradation inverse correction in the case of using an optical black value.
- FIG. 30 is a graph showing an input / output characteristic 7 of gradation correction when an optical black value is used.
- FIG. 31 is a graph showing gain characteristics in the input / output characteristic 7 of gradation correction when the optical black value is used.
- FIG. 32 is a graph showing the input / output characteristic 7 of gradation inverse correction in the case of using an optical black value.
- FIG. 33 is a graph showing an input / output characteristic 8 of gradation correction when an optical black value is used.
- FIG. 34 is a graph showing gain characteristics in the input / output characteristic 8 of gradation correction when the optical black value is used.
- FIG. 35 is a graph showing the input / output characteristic 8 of gradation inverse correction in the case of using an optical black value.
- FIG. 36 is a graph showing an input / output characteristic 9 of gradation correction when an optical black value is used.
- FIG. 37 is a graph showing gain characteristics in the input / output characteristic 9 of gradation correction when the optical black value is used.
- FIG. 38 is a graph showing the input / output characteristic 9 of gradation inverse correction in the case of using an optical black value.
- FIG. 1 is a block diagram showing an example of the hardware configuration of the information processing apparatus.
- the information processing apparatus 100 is an apparatus including one or both of an encoding apparatus and a decoding apparatus.
- the information processing apparatus 100 may be, for example, an imaging device such as a digital camera or a digital video camera, or may be a personal computer, a tablet, a smartphone, or a game machine.
- the information processing apparatus 100 includes a processor 101, a storage device 102, an operation device 103, an LSI (Large Scale Integration) 104, an imaging unit 105, and a communication IF (Interface) 106. These are connected by a bus 108.
- the processor 101 controls the information processing apparatus 100.
- the storage device 102 is a work area of the processor 101.
- the storage device 102 is a non-temporary or temporary storage medium that stores various programs and data. Examples of the storage device 102 include a read only memory (ROM), a random access memory (RAM), a hard disk drive (HDD), and a flash memory.
- the operating device 103 operates data. Examples of the operation device 103 include a button, a switch, and a touch panel.
- the LSI 104 is an integrated circuit that executes specific processing such as image processing such as color interpolation, white balance adjustment, contour emphasis, gamma correction, gradation conversion, coding processing, decoding processing, compression / decompression processing, and the like.
- the imaging unit 105 images a subject to generate RAW image data.
- the imaging unit 105 includes an imaging optical system 151, an imaging element 153 having a color filter 152, and a signal processing circuit 154.
- the imaging optical system 151 is configured of, for example, a plurality of lenses including a zoom lens and a focus lens. Note that the imaging optical system 151 is illustrated by a single lens in FIG. 1 for the sake of simplicity.
- the imaging element 153 is a device for imaging (shooting) an image of an object formed by the light flux that has passed through the imaging optical system 151.
- the imaging device 153 may be a solid-state imaging device of a progressive scanning method (for example, a CCD (Charge Coupled Device) image sensor), or a solid-state imaging device of an XY address method (for example, a Complementary Metal Oxide Semiconductor (CMOS) image sensor) It may be
- each pixel of the imaging element 153 On the light receiving surface of the imaging element 153, pixel groups 160 having photoelectric conversion units are arranged in a matrix. Then, in each pixel of the imaging element 153, a plurality of types of color filters 152 that transmit light of different color components are arranged according to a predetermined color arrangement. Therefore, each pixel of the imaging element 153 outputs an electrical signal corresponding to each color component by color separation in the color filter 152.
- color filters 152 of red (R), green (G) and blue (B) are periodically arranged on the light receiving surface in accordance with the Bayer arrangement of 2 rows and 2 columns.
- G and B pixels are alternately arranged in the odd rows of the color array of the imaging device 153, and R and G pixels are alternately arranged in the even rows of the color array.
- the green pixels are arranged in a checkered pattern throughout the color arrangement.
- the imaging device 153 can acquire color RAW image data at the time of shooting.
- the pixel group 160 arranged in a two-dimensional array in the imaging element 153 is configured of an effective pixel area 161 and an optical black pixel area 162.
- the effective pixel area 161 is a pixel area that actually receives light, amplifies the signal charge generated by photoelectric conversion, and outputs the amplified signal charge to the signal processing circuit 154.
- the optical black pixel area 162 is a pixel area for outputting an optical black to be a reference of the black level.
- the optically black pixel area 162 is provided, for example, on the outer periphery of the effective pixel area 161.
- the optical black pixel area 162 is provided, for example, to subtract and correct thermal noise and the like generated in the imaging device 153.
- the signal processing circuit 154 performs analog signal processing (correlated double sampling, black level correction, etc.), A / D conversion processing, digital signal processing (defective pixel correction, etc.) on the image signal input from the imaging device 153. And) sequentially.
- Raw image data output from the signal processing circuit 154 is input to the LSI 104 or the storage device 102.
- the communication IF 106 connects to an external device via a network to transmit and receive data.
- FIG. 2 is a block diagram of a functional configuration example of the encoding apparatus according to the first embodiment.
- the encoding apparatus 200 includes a tone correction unit 201, an encoding unit 202, a recording unit 203, and a setting unit 204.
- the gradation correction unit 201, the encoding unit 202, the recording unit 203, and the setting unit 204 are realized by causing the processor 101 to execute a program stored in the storage device 102, or by the LSI 104. Function.
- the tone correction unit 201 performs tone correction on the RAW image data.
- RAW image data is image data of a pixel value that is linear to the intensity of light from the imaging device 153 that photoelectrically converts light from a subject obtained through the color filter 152.
- RAW image data is image data that has not undergone image processing such as gamma correction, demosaicing, white balance adjustment, and color conversion.
- the data amount of the RAW image data is larger than the data on which the above-described image processing and encoding processing (also referred to as compression processing) are performed.
- the RAW image data may be a still image or one frame of a moving image.
- the tone correction unit 201 performs tone correction on the RAW image data from the image sensor 153 having the optical black pixel area 162 based on the value of the gamma coefficient (gamma value) and the value of the optical black. For example, the tone correction unit 201 performs tone correction using ⁇ or the like on the RAW image data based on the optical black value.
- the tone correction unit 201 may execute noise reduction processing (NR processing) at the time of tone correction. The details of tone correction by the tone correction unit 201 will be described later.
- the encoding unit 202 encodes the RAW image data (hereinafter, referred to as gradation corrected RAW image data) subjected to the gradation correction by the gradation correction unit 201, and encodes the encoded gradation corrected RAW image data (hereinafter, referred to as an encoded floor. Output the tone correction RAW image data).
- the encoding unit 202 encodes the gradation correction RAW image data into an I picture by intraframe coding.
- the encoding unit 202 converts the gradation correction RAW image data into an I picture or another gradation correction RAW by intra-frame prediction encoding.
- the tone correction RAW image data is encoded into a P picture or a B picture by interframe predictive coding with reference to the image data.
- the encoding unit 202 performs tone correction using ⁇ or the like based on the optical black value, and adds optical value to the header information of the coded tone correction RAW image data in addition to the ⁇ value used in decoding and reproduction. Grant As a result, the decrease in the degree of suppression of dark area encoding distortion due to gradation correction is eliminated.
- the recording unit 203 records the encoded tone correction RAW image data in the storage device 102.
- the setting unit 204 sets the value of the gamma coefficient, the calculated temporary gain, and the exposure value, and outputs the set value to the tone correction unit 201. Details of the setting unit 204 will be described later in the third and fourth embodiments.
- FIG. 3 is an explanatory view showing an example of the data structure of the encoding tone correction RAW image data.
- the encoded tone correction RAW image data 300 includes header information 301 and an encoded data sequence 302.
- the header information 301 is information provided by the encoding unit 202.
- the header information 301 includes image format information 311 and control information 312.
- the encoded data sequence 302 is a data sequence obtained by encoding the tone correction RAW image data.
- the image format information 311 includes the size of tone correction RAW image data before encoding, the size of encoding tone correction RAW image data, identification information for specifying a color arrangement pattern, and tone correction RAW image data before encoding Includes the number of pixels of
- the control information 312 includes the type of encoded tone correction RAW image data (I picture, P picture, or B picture), identification information of a reference frame, gamma value 321 when tone correction is performed, black It includes an optical black value 322 serving as a level reference, a calculated temporary gain 323, a first pouch width 324, a second pouch width 325, and a tone correction identifier 326.
- the tone correction identifier 326 is an identifier that specifies an algorithm for performing tone correction.
- the tone correction identifier 326 enables the decoding apparatus to specify which algorithm the coded tone correction RAW image data 300 has been subjected to tone correction.
- FIG. 4 is a block diagram showing an exemplary configuration of the encoding unit 202.
- the encoding unit 202 includes a first accumulation unit 401, a subtraction unit 402, an orthogonal transformation unit 403, a quantization unit 404, a variable length encoding unit 405, an inverse quantization unit 406, and an inverse orthogonal transformation unit 407. , An addition unit 408, a second storage unit 409, a motion detection unit 410, and a motion compensation unit 411.
- the first accumulation unit 401 accumulates the tone correction RAW image data output from the tone correction unit 201.
- the tone correction RAW image data accumulated in the first accumulation unit 401 is output to the subtraction unit 402 in the order of input as image data to be encoded. Note that the tone correction RAW image data for which encoding has been completed is sequentially deleted from the first storage unit 401.
- the subtractor unit 402 When generating a P picture or a B picture, the subtractor unit 402 generates a difference signal between a component frame of the input original image (tone correction RAW image data) and a later-described predicted value generated by the motion compensation unit 411 ( Output prediction error value). In addition, when generating the I picture, the subtraction unit 402 outputs the component frame of the input original image as it is.
- the orthogonal transformation unit 403 performs orthogonal transformation on the original image input through the subtraction unit 402 when generating an I picture. Further, when generating a P picture or a B picture, the orthogonal transform unit 403 performs an orthogonal transform on the above-described difference signal.
- the quantization unit 404 converts the block-based frequency coefficient (orthogonal transformation coefficient) input from the orthogonal transformation unit 403 into a quantization coefficient.
- the output of the quantization unit 404 is input to the variable length coding unit 405 and the dequantization unit 406, respectively.
- variable-length coding unit 405 performs variable-length coding on the quantization coefficient and the motion vector from the motion detection unit 410, and outputs coded tone correction RAW image data (I picture, P picture, B picture).
- the inverse quantization unit 406 inversely quantizes the quantization coefficient in block units, which are units of encoding, to decode frequency coefficients.
- the inverse orthogonal transformation unit 407 performs inverse orthogonal transformation on the frequency coefficient decoded by the inverse quantization unit 406 to decode a prediction error value (or an original image).
- the addition unit 408 adds the decoded prediction error value and a later-described prediction value generated by the motion compensation unit 411.
- the decoded value (reference frame) of the picture output from the adding unit 408 is stored in the second storage unit 409. It is to be noted that reference frames not referred to in subsequent motion compensation prediction are sequentially erased from the second accumulation unit 409.
- the motion detection unit 410 uses the reference frame of the second storage unit 409 to detect a motion vector for predicting gradation correction RAW image data to be encoded.
- the motion vector is output to the motion compensation unit 411 and the variable length coding unit 405.
- the motion compensation unit 411 outputs, based on the motion vector and the reference frame, a prediction value obtained by predicting the tone correction RAW image data to be encoded in block units.
- the predicted value is output to the subtracting unit 402 and the adding unit 408.
- FIG. 5 is a flowchart showing an example of an encoding process procedure by the encoding apparatus 200.
- the encoding apparatus 200 receives the input of the RAW image data output from the imaging device 153 having the optical black pixel area 162 (step S501), and the gradation correction unit 201 uses the gradation correction algorithm to use the RAW
- the image data is subjected to tone correction (step S502).
- the encoding apparatus 200 causes the encoding unit 202 to encode the tone correction RAW image data (step S503). Then, the encoding apparatus 200 causes the recording unit 203 to store the encoded tone correction RAW image data 300 in the storage device 102 (step S504).
- FIG. 6 is a block diagram showing an example of a functional configuration of the decoding apparatus.
- the decoding device 600 includes an acquisition unit 601, a decoding unit 602, and a gradation inverse correction unit 603.
- the acquiring unit 601, the decoding unit 602, and the gradation reverse correction unit 603 are functions implemented by causing the processor 101 to execute a program stored in the storage device 102, or by a function realized by the LSI 104. is there.
- the acquisition unit 601 acquires the encoded tone correction RAW image data 300 encoded by the encoding device 200.
- the acquisition unit 601 receives the encoded tone correction RAW image data 300 transmitted from the encoding device 200.
- the acquisition unit 601 reads the encoded tone correction RAW image data 300 stored in the storage device 102.
- the decoding unit 602 decodes the encoded tone correction RAW image data 300 into tone correction RAW image data using the control information 312. Specifically, for example, the decoding unit specifies a reference frame according to the type (I picture, P picture, B picture) of the coded tone correction RAW image data 300, and the coded tone correction RAW image data Decode 300 into gradation corrected RAW image data.
- the tone reverse correction unit 603 performs tone reverse correction on the tone correction RAW image data decoded by the decoding unit 602, and restores the RAW image data before the tone correction. Specifically, for example, with reference to the tone correction identifier 326 of the control information 312, the tone reverse correction unit 603 specifies the tone correction algorithm applied to the RAW image data, and the specified tone correction algorithm Execute the gradation inverse correction algorithm corresponding to.
- the tone reverse correction unit 603 may execute noise reduction processing (NR processing) at the time of tone reverse correction.
- NR processing noise reduction processing
- FIG. 7 is a block diagram showing a configuration example of the decoding unit 602.
- the decoding unit 602 includes a variable-length code decoding unit 701, an inverse quantization unit 702, an inverse orthogonal transformation unit 703, an addition unit 704, a third accumulation unit 705, and a motion compensation unit 706.
- variable-length code decoding unit 701 decodes the input coded tone correction RAW image data 300, and outputs quantization coefficients and motion vectors.
- the decoded quantization coefficient is input to the inverse quantization unit 702, and the decoded motion vector is input to the motion compensation unit 706.
- the inverse quantization unit 702 inversely quantizes the quantization coefficient in units of blocks to decode frequency coefficients.
- the inverse orthogonal transformation unit 703 performs inverse orthogonal transformation on the frequency coefficient decoded by the inverse quantization unit 702 to decode a prediction error value (or a signal of an original image).
- the addition unit 704 adds the decoded prediction error value and the prediction value generated by the motion compensation unit 706 to output the decoded image data in units of blocks. Then, the image data output from the addition unit 704 is output as gradation correction RAW image data, and is input to the third storage unit 705.
- the third accumulation unit 705 accumulates the decoded value of the image as a reference frame. Note that image data not referred to in subsequent motion compensation prediction is sequentially deleted from the third storage unit 705.
- the motion compensation unit 706 outputs, to the addition unit 704, a predicted value obtained by predicting an image to be decoded in units of blocks based on the motion vector and the reference frame.
- FIG. 8 is a flowchart showing an example of a decoding process procedure by the decoding device 600.
- the decoding apparatus 600 acquires the encoded tone correction RAW image data 300 by the acquisition unit 601 (step S801), and the decoding unit 602 decodes the encoded tone correction RAW image data 300 into the gradation correction RAW image data. (Step S2102). Then, the decoding apparatus 600 restores the RAW image data by performing the gradation inverse correction on the decoded gradation correction RAW image data by the gradation inverse correction unit 603 (step S 803).
- FIG. 9 Specific example of tone correction and tone reverse correction
- FIGS. 9 to 17 Specific examples of tone correction by the tone correction unit 201 according to the first embodiment and tone reverse correction by the tone reverse correction unit 603 will be described with reference to FIGS. 9 to 17.
- FIG. 9 The tone correction and the tone reverse correction without using the optical black value are shown in the graphs of FIGS. 9 to 11 for comparison with the first embodiment, and the tone correction 1 and the tone reverse correction 1 of the first embodiment are shown.
- FIGS. 12 to 14 are shown in FIGS.
- FIG. 9 is a graph showing the input / output characteristics of gradation correction when the optical black value is not used.
- the horizontal axis is the signal level (input signal level E) of the RAW image data from the imaging device 153, and the vertical axis is the signal level of the gradation correction RAW image data (output signal level E ').
- the input signal level E in FIG. 9 is the signal level of the RAW image data from the imaging element 153 which does not have the optical black pixel area 162.
- the signal level is, for example, a voltage value indicating the luminance of the pixel in the effective pixel area 161, and is normalized in the range of 0.0 to 1.0. Pixels with low signal levels are dark pixels, and pixels with high signal levels are bright pixels. Also, OB (optical black) is an optical black value.
- the gradation correction algorithm showing the input / output characteristic graph 900 of FIG. 9 is expressed by the following equation (1).
- E is the signal level (input signal level) of RAW image data
- E ′ is the signal level (output signal level) of tone correction RAW image data
- OETF [] is a tone correction function
- ⁇ is a gamma value.
- tone correction is performed in a section SC9 where the input signal level is from 0.0 to the optical black value OB.
- RAW image data is encoded, in order to encode dark areas and bright areas uniformly, when gamma correction is performed in the development stage, dark areas are emphasized, and as the compression rate by encoding is higher, encoding distortion is more noticeable.
- FIG. 10 is a graph showing gain characteristics of gradation correction when the optical black value is not used.
- the gain is the degree of emphasis of the input signal level E.
- the gain characteristic graph 1000 of the tone correction when the optical black value is not used is expressed by the following equation (2) by the differentiation of the equation (1).
- G is the gain of the input signal level E.
- the value of the gain G in the section SC9 where the input signal level E is from 0.0 to the optical black value OB is larger than the value of the gain G of the optical black value OB. That is, the gain of the pixel in the section SC9 in which the input signal level E, which becomes invalid after development processing, is from 0.0 to the optical black value OB is large. Therefore, the gain in the section above the optical black value OB effective as an image after development processing becomes smaller, and the coding distortion suppression effect becomes smaller.
- FIG. 11 is a graph showing the input / output characteristics of gradation inverse correction when the optical black value is not used.
- the horizontal axis is the signal level (input signal level E ') of the tone correction RAW image data
- the vertical axis is the signal level of the RAW image data subjected to tone reverse correction from the tone correction RAW image data (output signal level E).
- the output signal level E in FIG. 11 is the signal level of the RAW image data from the image sensor 153 which does not have the optical black pixel area 162 and is restored by the gradation inverse correction.
- the signal level is, for example, a voltage value indicating the luminance of the pixel in the effective pixel area 161 as in FIG. 9, and is normalized in the range of 0.0 to 1.0. Pixels with low signal levels are dark pixels, and pixels with high signal levels are bright pixels.
- the gradation inverse correction algorithm showing the input / output characteristic graph 1100 of FIG. 10 is expressed by the following equation (3).
- E ′ is the signal level (input signal level) of the tone correction RAW image data
- E is the signal level (output signal level) of the restored RAW image data
- EOTF [] is the tone inverse correction function
- ⁇ is the gamma It is a value.
- FIG. 12 is a graph showing an input / output characteristic 1 of gradation correction when an optical black value is used.
- the tone correction unit 201 does not execute tone correction for an input signal level E lower than the optical black value OB.
- the output signal level E ′ is 0.0 and the input signal level E is 0.0 in the section SC9 where the input signal level E is from 0.0 to the optical black value OB. It rises from the optical black value OB, and when the input signal level E is 1.0, the output signal level E 'takes a maximum value.
- the gradation correction algorithm showing the input / output characteristic graph 1200 of FIG. 12 is expressed by the following equation (4).
- E is the signal level of the RAW image data (input signal level)
- E ′ is the signal level of the tone correction RAW image data (output signal level)
- OETF [] is the tone correction function
- OB is the optical black value
- ⁇ is a gamma value.
- the tone correction unit 201 outputs the tone correction identifier 326 indicating the tone correction algorithm of Expression (4) to the encoding unit 202, and the encoding unit 202 outputs the tone correction identifier 326 from the tone correction unit 201.
- FIG. 13 is a graph showing gain characteristics in the input / output characteristic 1 of gradation correction when the optical black value is used.
- the gain characteristic graph 1300 of the input signal level E in tone correction in the case of using the optical black value OB is expressed by the following equation (5) by differentiation of the equation (4).
- G is the gain of the input signal level E.
- the gain characteristic graph 1300 since the value of the gain G in the section from the input signal level E to 0.0 to the optical black value OB is 0.0, the dark portion 0.0 to the optical black value OB The input signal level E of the section SC9 is not emphasized.
- the value of the gain G takes the maximum value at the optical black value OB, the coding distortion suppression effect is increased by increasing the gain in the section above the optical black value OB effective as an image after development processing. Can.
- the dark part may be expressed brightly for the purpose of making it easy to see the pattern of the dark part.
- distortion of a dark part generated between the encoding unit 202 and the decoding unit 602 is easily noticeable.
- the gain G of the dark part in the tone correction distortion of the dark part generated between the encoding unit 202 and the decoding unit 602 is suppressed.
- the dark area is expressed brightly for the purpose of making it easy to see the pattern of the dark area during the development processing and image adjustment, the distortion of the dark area becomes less noticeable.
- FIG. 14 is a graph showing an input / output characteristic 1 of gradation inverse correction in the case of using an optical black value.
- the gradation inverse correction algorithm showing the input / output characteristic graph 1400 of FIG. 14 is expressed by the following equation (6).
- E ′ is the signal level (input signal level) of the tone correction RAW image data
- E is the signal level (output signal level) of the restored RAW image data
- EOTF [] is the tone inverse correction function.
- the gain in the section above the optical black value OB effective as an image after development processing can be increased by increasing the size.
- characteristic example 2 of gradation correction in the case of using an optical black value will be described using FIGS.
- the characteristic example 1 of gradation correction when the optical black value OB is used the state is not restored in the section SC12 which is the bright part of the output signal level E ′ in the input / output characteristic graph 1200 of FIG.
- characteristic example 2 of gradation correction in the case of using the optical black value OB as in the example 1 of characteristic of gradation correction in the case of using the optical black value OB, the original black reproducibility is enhanced. Improve the reproducibility of bright areas while suppressing blackout.
- FIG. 15 is a graph showing an input / output characteristic 2 of gradation correction when an optical black value is used.
- the gradation correction unit 201 is the same as the first input / output characteristic of gradation correction when the optical black value OB is used. No tone correction is performed for input signal levels E which are lower than the optical black value OB.
- the output signal level E ′ is 0.0 and the input signal level E is optical in the section SC9 where the input signal level E is from 0.0 to the optical black value. It rises from the target black value OB, the input signal level E is 1.0, and the output signal level E 'is 1.0, the upper limit.
- the gradation correction algorithm showing the input / output characteristic graph 1500 of FIG. 15 is expressed by the following equation (7).
- E is the signal level of the RAW image data (input signal level)
- E ′ is the signal level of the tone correction RAW image data (output signal level)
- OETF [] is the tone correction function
- OB is the optical black value
- ⁇ is a gamma value.
- the tone correction unit 201 outputs the tone correction identifier 326 indicating the tone correction algorithm of Equation (7) to the encoding unit 202, and the encoding unit 202 outputs the tone correction identifier 326 from the tone correction unit 201.
- FIG. 16 is a graph showing gain characteristics in the input / output characteristic 2 of gradation correction when the optical black value is used.
- the gain characteristic graph 1600 of the input signal level E in tone correction in the case of using the optical black value OB is expressed by the following equation (8) by differentiation of the equation (7).
- G is the gain of the input signal level E. Since the value of the gain G of the section SC9 from the input signal level E of 0.0 to the optical black value OB is 0.0, the input signal of the section SC9 from the dark portion 0.0 to the optical black value OB Level E is not emphasized. In addition, since the gain G takes the maximum value (infinity) at the optical black value OB, the coding distortion suppression effect is achieved by increasing the gain in the section above the optical black value OB effective as an image after development processing. Can be increased.
- the gain G of the dark portion is increased by the gradation correction to generate between the encoding unit 202 and the decoding unit 602.
- the distortion of the dark part is suppressed.
- the dark area is expressed brightly for the purpose of making it easy to see the pattern of the dark area during the development processing and image adjustment, the distortion of the dark area becomes less noticeable.
- FIG. 17 is a graph showing the input / output characteristic 2 of gradation inverse correction in the case of using an optical black value.
- the gradation inverse correction algorithm showing the input / output characteristic graph 1700 of FIG. 17 is expressed by the following equation (9).
- E ′ is the signal level (input signal level) of the tone correction RAW image data
- E is the signal level (output signal level) of the restored RAW image data
- EOTF [] is the tone inverse correction function.
- the minimum value of the output signal level E is the optical black value OB, so the output signal level
- the color of the pixel in section SC11 from E being from 0.0 to optical black value OB is not reproduced, and coding distortion is suppressed by increasing the gain in the section above optical black value OB effective as an image after development processing The effect can be increased.
- a section SC14 in which the input signal level E ′ does not exist as in the input / output characteristic graph 1400 of FIG. 14 does not exist in the input / output characteristic graph 1700 of FIG. That is, in the input / output characteristic example 2 of gradation correction when the optical black value OB is used, it is possible to improve the color reproducibility of the pixels in the bright area.
- the optical black value as in the input / output characteristic example 2 of the tone correction in the case of using the optical black value of the first embodiment is an example of maximizing the gain G of OB.
- differences from the first embodiment will be mainly described, and the same configuration and the same processing contents as those of the first embodiment are also applied to the second embodiment, and the description thereof will be omitted.
- FIG. 18 is a graph showing an input / output characteristic 3 of gradation correction when an optical black value is used.
- the gradation correction unit 201 Perform negative tone correction, ie negative 1 / ⁇ correction, for input signal level E lower than optical black value OB, and positive tone correction for input signal level E greater than optical black value OB, ie , Perform a positive 1 / ⁇ correction.
- the waveform 1801 in the section SC9 is a waveform obtained by negative 1 / ⁇ correction
- the waveform 1802 in the section above the optical black value OB is positive. It is a waveform obtained by 1 / ⁇ correction.
- the gradation correction algorithm showing the input / output characteristic graph 1800 of FIG. 18 is expressed by the following equation (10).
- E is the signal level of the RAW image data (input signal level)
- E ′ is the signal level of the tone correction RAW image data (output signal level)
- OETF [] is the tone correction function
- OB is the optical black value
- ⁇ is a gamma value.
- the equation in the case where the condition is E ⁇ OB is a negative 1 / ⁇ correction equation
- the equation in the case where the condition is OB ⁇ E is a positive 1 / ⁇ correction equation
- the tone correction unit 201 outputs the tone correction identifier 326 indicating the tone correction algorithm of Equation (10) to the encoding unit 202, and the encoding unit 202 outputs the tone correction identifier 326 from the tone correction unit 201.
- FIG. 19 is a graph showing gain characteristics in the input / output characteristic 3 of gradation correction when the optical black value is used.
- the gain characteristic graph 1900 of the input signal level E in tone correction in the case of using the optical black value OB is expressed by the following equation (11) by differentiation of the equation (10).
- the gain G is the gain of the input signal level E.
- the gain G takes a minimum value when the input signal level E is 0.0 and increases from 0.0 and becomes a maximum value in the optical black value OB. It will be (infinity).
- the section SC19 is a section from the optical black value OB to the value 2OB of the input signal level E which is twice the optical black value OB.
- the gain G takes the maximum value (infinity) with the optical black value OB in the section SC19, decreases from the optical black value OB, and becomes the minimum value with 2OB. That is, the waveform 1901 indicating the gain characteristic of the section SC9 and the waveform 1902 indicating the gain characteristic of the section SC19 are line symmetrical with respect to the optical black value OB.
- the optical black value OB becomes the maximum value of the gain G in the sections SC9 and SC19 which are dark parts. Further, in the section SC9 and the section SC19, the gain G is attenuated as the input signal level E is separated from the optical black value OB. Therefore, the coding distortion suppression effect can be increased by increasing the gain in the section above the optical black value OB effective as an image after development processing, and noise generated in the dark part can be reduced.
- the waveforms 1901 and 1902 are line symmetrical with respect to the optical black value OB, noise near the optical black value OB with noise on the side where the input signal level E is smaller than the optical black value OB (minus direction)
- the noise reduction process cancels out the noise on the side (plus direction) of the side where the input signal level E is larger than the optical black value OB and the noise is reduced, so that it is possible to suppress the blackout.
- the distortion of the dark part generated between the encoding unit 202 and the decoding unit 602 is suppressed by increasing the gain G of the dark part by the tone correction.
- the distortion of the dark area becomes less noticeable.
- FIG. 20 is a graph showing the input / output characteristic 3 of gradation inverse correction in the case of using an optical black value.
- the tone reverse correction unit 603 performs positive tone reverse correction, that is, positive ⁇ correction, on the value ⁇ or more of the specific input signal level E ′ of the tone correction RAW image data, and the input signal lower than ⁇ Perform negative tone reversal correction, ie, negative gamma correction, on the level.
- a section SC201 is a section from an input signal level E 'of 0.0 to ⁇ shown in equation (10), and a section SC202 is a section from an input signal level E' of ⁇ to 1.0.
- waveform 2001 of section SC201 is a waveform obtained by negative ⁇ correction
- waveform 2002 of section SC202 is a waveform obtained by positive ⁇ correction .
- the gradation inverse correction algorithm showing the input / output characteristic graph 2000 of FIG. 20 is expressed by the following equation (12).
- E ′ is the signal level (input signal level) of the tone correction RAW image data
- E is the signal level (output signal level) of the restored RAW image data
- EOTF [] is the tone inverse correction function.
- the equation when the condition is E ′ ⁇ is a negative ⁇ correction equation
- the equation when the condition is ⁇ ⁇ E ′ is a positive ⁇ correction equation.
- the coding distortion suppression effect in the vicinity of the optical black value OB in the restored RAW image data subjected to the gradation inverse correction can be increased, and the noise generated in the dark part is reduced. As a result, color reproducibility can be improved.
- the third embodiment is an example in which the gain of the bright portion is increased in the second embodiment.
- differences from the second embodiment will be mainly described, and the same configuration and the same processing contents as those of the second embodiment are also used in the third embodiment, and the description thereof will be omitted.
- FIG. 21 is a graph showing the input / output characteristic 4 of the tone correction when the optical black value is used.
- the gradation correction unit 201 performs negative gradation correction for an input signal level E lower than the optical black value OB, ie, negative.
- the offset 1 / ⁇ correction is performed, and the positive tone correction, that is, the positive offset 1 / ⁇ correction is performed on the input signal level E that is equal to or higher than the optical black value OB.
- the waveform 2101 in the section SC9 is a waveform obtained by the negative offset 1 / ⁇ correction
- the waveform 2102 in the section above the optical black value OB is positive.
- the gradation correction algorithm showing the input / output characteristic graph 2100 of FIG. 21 is expressed by the following equation (13).
- E is the signal level of the RAW image data (input signal level)
- E ′ is the signal level of the tone correction RAW image data (output signal level)
- OETF [] is the tone correction function
- OB is the optical black value
- ⁇ is a gamma value
- g is a calculated provisional gain.
- the tone correction unit 201 outputs the tone correction identifier 326 indicating the tone correction algorithm of Expression (13) to the encoding unit 202, and the encoding unit 202 outputs the tone correction identifier 326 from the tone correction unit 201.
- FIG. 22 is a graph showing gain characteristics in the input / output characteristic 4 of gradation correction when the optical black value is used.
- the gain characteristic graph 2200 of the input signal level E in gradation correction when the optical black value OB is used is expressed by the following equation (14) by the differentiation of the equation (13).
- the gain G is the gain of the input signal level E. Specifically, for example, in the gain characteristic graph 2200, in the section SC9, the gain G takes a minimum value when the input signal level E is 0.0 and increases from 0.0 and becomes a maximum value in the optical black value OB. It is estimated temporary gain g which is The calculation provisional gain is a value set by the setting unit 204.
- the gain G takes a calculated provisional gain g at which the input signal level E is the maximum at the optical black value OB in the interval SC19, decreases from the optical black value OB, and becomes the minimum at 2OB. That is, the waveform 2201 showing the gain characteristic of the section SC9 and the waveform 2202 showing the gain characteristic of the section SC19 are line symmetrical with respect to the optical black value OB.
- the gain characteristic graph 2200 can be compared to the gain characteristic graph 1900 by the input signal of the bright portion. The level goes up. Therefore, it is possible to emphasize pixels in the vicinity of the optical black value OB and to emphasize pixels on the bright part side by tone correction.
- FIG. 23 is a graph showing the input / output characteristic 4 of gradation inverse correction in the case of using an optical black value.
- the tone reverse correction unit 603 performs positive tone reverse correction, that is, positive offset ⁇ correction, on the value OUT [1] of the specific input signal level E ′ of the tone correction RAW image data or more, 1) perform negative tone inverse correction, ie, negative offset ⁇ correction, for input signal levels lower than 1).
- a section SC231 is a section from an input signal level E 'of 0.0 to OUT [1] shown in the equation (13), and a section SC232 is a section from an input signal level E' of OUT [1] to 1.0. It is an interval.
- the waveform 2301 of the section SC231 is a waveform obtained by the negative offset ⁇ correction
- the waveform 2302 of the section SC232 is a waveform obtained by the positive offset ⁇ correction It is.
- the gradation inverse correction algorithm showing the input / output characteristic graph 2300 of FIG. 23 is expressed by the following equation (15).
- E ′ is the signal level (input signal level) of the tone correction RAW image data
- E is the signal level (output signal level) of the restored RAW image data
- EOTF [] is the tone inverse correction function.
- the equation in the case where the condition is E ′ ⁇ OUT [1] is a negative offset ⁇ correction equation
- the equation in the case where the condition is OUT [1] ⁇ E ′ is a positive offset It is a formula of ⁇ correction.
- the setting unit 204 may set the calculation gain G OB to the gradation reverse correction unit 603 instead of the calculation temporary gain g (the following equation (16)).
- the calculation gain G OB in the gradation reverse correction unit 603, it is possible to improve the reproducibility of the optical black or bright part which is a dark part in the original RAW image data by gradation reverse correction.
- the fourth embodiment is an example in which the calculated temporary gain g of the third embodiment is provided with an input signal level E of a fixed width including an optical black value.
- differences from the third embodiment will be mainly described, and the same configuration and processing contents as those of the third embodiment are also applied to the fourth embodiment, and the description thereof will be omitted.
- FIG. 24 is a graph showing an input / output characteristic 5 of gradation correction when an optical black value is used.
- the setting unit 204 sets a constant pouch width D including the optical black value OB. At the input signal level E of the pouch width D, the same gain G is obtained.
- the range of the input signal level E in the pouch width D from P1 (0.0 ⁇ P1 ⁇ OB) to the optical black value OB is the first pouch width D1 and the value of the input signal level E in the pouch width D.
- a range from the optical black value OB to P2 (OB ⁇ P2) is taken as a second pouch width D2.
- the porch width D is a range in which the gain G of the input signal level E is constant.
- the gradation correction unit 201 executes negative gradation correction, that is, negative offset 1 / ⁇ correction, in a section SC24 in which the value of the input signal level E is from 0.0 to P1, and the value of the input signal level E Performs tone correction in which the gain G is constant for a section with a porch width D, and performs positive tone correction, that is, positive offset 1 / ⁇ correction, in a section where the value of the input signal level E is P2 or more. Run.
- the waveform 2401 of the section SC24 is a waveform obtained by negative offset 1 / ⁇ correction
- the waveform 2402 of the porch width D section has a constant gain G
- the waveform 2403 in the section where the value of the input signal level E is P2 or more is a waveform obtained by the positive offset 1 / ⁇ correction.
- the tone correction algorithm showing the input / output characteristic graph 2400 of FIG. 24 is expressed by the following equation (17).
- E is the signal level of the RAW image data (input signal level)
- E ′ is the signal level of the tone correction RAW image data (output signal level)
- OETF [] is the tone correction function
- OB is the optical black value
- ⁇ is a gamma value
- g is a calculated provisional gain.
- IN [1] is a first pouch width D1
- IN [2] is a second pouch width D2.
- the equation when the condition is E ⁇ OB is a negative offset 1 / ⁇ correction equation, and the condition is IN [1] ⁇ E ⁇ IN [2], that is, the pouch width D
- the equation in a certain case is tone correction in which the gain G is constant, and the equation in the case where the condition is IN [2] ⁇ E is a positive offset 1 / ⁇ correction equation.
- the tone correction unit 201 outputs the tone correction identifier 326 indicating the tone correction algorithm of Expression (17) to the encoding unit 202, and the encoding unit 202 outputs the tone correction identifier from the tone correction unit 201.
- 326 is assigned as control information 312 in the header information 301.
- FIG. 25 is a graph showing gain characteristics in the input / output characteristic 5 of gradation correction when the optical black value is used.
- the gain characteristic graph 2500 of the input signal level E in tone correction in the case of using the optical black value OB is expressed by the following equation (18) by differentiation of the equation (17).
- the gain G is the gain of the input signal level E.
- the gain G takes a minimum value when the input signal level E is 0.0, and increases from 0.0 to P1 at the right end of the pouch width D Becomes the calculated provisional gain g which is the maximum value.
- the calculation temporary gain g is a value set by the setting unit 204.
- the gain G is constant at the calculated temporary gain g at the pouch width D.
- the gain G decreases from the optical black value OB at P2 or more, which is the left end of the pouch width D.
- noise in the vicinity of the optical black value OB can be stored.
- the black expressive power can be enhanced as the compression rate is higher.
- the second pouch width D2 is variable according to the exposure amount set by the setting unit 204. Specifically, the optical black value OB is fixed and the position of P2 is changed. For example, by setting the exposure amount to underexposure in the setting unit 204, P2 is changed in the direction in which the input signal level E becomes larger, and the second pouch width P2 becomes wider.
- the second pouch width D2 can be expanded or contracted according to the exposure amount, and pixels in the vicinity of the optical black value can be emphasized according to the exposure amount.
- FIG. 26 is a graph showing the input / output characteristic 5 of gradation inverse correction in the case of using an optical black value.
- the tone reverse correction unit 603 performs positive tone reverse correction, that is, positive offset ⁇ correction, on the value OUT [2] of the specific input signal level E ′ of the tone correction RAW image data or more, 1)
- the gradation reverse correction in which the gain G becomes constant for more than OUT [2] and the negative tone reverse correction, that is, negative offset ⁇ correction, are performed for input signal levels lower than OUT [1].
- Section SC261 is a section from input signal level E 'of 0.0 to OUT [1] shown in the equation (16), section SC262 is from input signal level E' of OUT [1] to OUT [2] The section SC263 is a section from 1.0 to 1.0 of the input signal level E ′.
- the waveform 2301 of the section SC261 is a waveform obtained by the negative offset ⁇ correction
- the waveform 2602 of the section SC262 is a gray scale inverse where the gain G becomes constant.
- the waveform is obtained by the correction
- the waveform 2603 in the section SC263 is a waveform obtained by the positive offset ⁇ correction.
- the gradation inverse correction algorithm showing the input / output characteristic graph 2600 of FIG. 26 is expressed by the following equation (19).
- E ′ is the signal level (input signal level) of the tone correction RAW image data
- E is the signal level (output signal level) of the restored RAW image data
- EOTF [] is the tone inverse correction function.
- the equation in the case where the condition is E ′ ⁇ OUT [1] is the equation for negative offset ⁇ correction
- ⁇ E ′ is an expression of positive offset ⁇ correction.
- the fifth embodiment shows an example in which the positive slope of the section from 0 to OB of the input signal level E in the input / output characteristic graph is fixed.
- differences from the third embodiment will be mainly described, and the same configuration and processing contents as those of the third embodiment are also applied to the fifth embodiment, and the description thereof will be omitted.
- FIG. 27 is a graph showing an input / output characteristic 6 of gradation correction when an optical black value is used.
- the gradation correction unit 201 determines the floor where the positive inclination is constant for the input signal level E lower than the optical black value OB.
- a tone correction is performed, and a positive tone correction, that is, a positive offset 1 / ⁇ correction is performed on the input signal level E which is equal to or higher than the optical black value OB.
- the waveform 2701 of the section SC9 is a linear waveform in which the output signal level E ′ increases with the increase of the input signal level E. That is, in the section SC9, there is a direct proportional relationship between the input signal level E and the output signal level E '.
- the waveform 2702 of the section SC27 (OB ⁇ E) equal to or higher than the optical black value OB is a waveform obtained by the positive offset 1 / ⁇ correction.
- the tone correction unit 201 performs tone correction fitting so that the output signal level E ′ is 1.0 when the input signal level E is 1.0.
- the gradation correction algorithm showing the input / output characteristic graph 2700 of FIG. 27 is expressed by the following equation (20).
- E is the signal level of the RAW image data (input signal level)
- E ′ is the signal level of the tone correction RAW image data (output signal level)
- OETF [] is the tone correction function
- OB is the optical black value
- ⁇ is a gamma value.
- S is a fixed value indicating the slope of the waveform 2701 of the section SC9.
- the slope S may be a positive value.
- ⁇ is a fitting coefficient that can be adjusted by the setting unit 204. Specifically, for example, the setting unit 204 can adjust the fitting coefficient ⁇ according to the increase or decrease of the ISO sensitivity in the information processing apparatus 100.
- the equation for the condition E ⁇ OB is the equation for gradation correction such that the positive slope is constant with respect to the input signal level E, and the equation for the condition OB ⁇ E. Is a positive offset 1 / ⁇ correction equation.
- the tone correction unit 201 outputs the tone correction identifier 326 indicating the tone correction algorithm of Equation (20) to the encoding unit 202, and the encoding unit 202 outputs the tone correction identifier 326 from the tone correction unit 201.
- FIG. 28 is a graph showing gain characteristics in the input / output characteristic 6 of gradation correction when the optical black value is used.
- the gain characteristic graph 2800 of the input signal level E in tone correction in the case of using the optical black value OB is expressed by the following equation (21) by differentiation of the equation (20).
- the gain G is the gain of the input signal level E. Specifically, for example, in the gain characteristic graph 2800, the gain G takes a constant value in the section SC9.
- the distortion of the dark part generated between the encoding unit 202 and the decoding unit 602 is suppressed by increasing the gain G of the dark part by the tone correction.
- the distortion of the dark area becomes less noticeable.
- FIG. 29 is a graph showing the input / output characteristic 6 of gradation inverse correction in the case of using an optical black value.
- the tone reversal correction unit 603 performs tone reversal correction such that the positive slope is constant for an input signal level E ′ lower than the optical black value OB, and is negative for an input signal level E ′ lower than ⁇ . Tone inverse correction, ie, negative ⁇ correction.
- a section SC291 is a section from an input signal level E ′ of 0.0 to ⁇ shown in equation (10), and a section SC292 is a section from an input signal level E ′ from ⁇ to 1.0.
- the waveform 2901 in the section SC291 is a waveform obtained by tone reversal correction such that the positive slope is constant, and the waveform 2902 in the section SC292 is positive. Is a waveform obtained by the ⁇ correction of
- the gradation inverse correction algorithm showing the input / output characteristic graph 2900 of FIG. 29 is expressed by the following equation (22).
- E ′ is the signal level (input signal level) of the tone correction RAW image data
- E is the signal level (output signal level) of the restored RAW image data
- EOTF [] is the tone inverse correction function.
- the equation when the condition is E ′ ⁇ is an equation of gradation reverse correction such that the positive inclination becomes constant for the input signal level E lower than the optical black value OB
- the equation when the condition is ⁇ ⁇ E ′ is a positive ⁇ correction equation.
- the tone reverse correction unit 603 detects the tone correction identifier 326 indicating the equation (20) in the control information 312, the tone reverse correction unit 603 executes the tone reverse correction of the equation (22).
- tone reversal correction such that the positive slope becomes constant in section SC201
- the coding distortion suppression effect in the vicinity of the optical black value OB in the tone reversal corrected corrected RAW image data can be increased. Since the noise generated in the dark part can be reduced, the color reproducibility can be improved.
- the sixth embodiment shows an example in which two fitting coefficients are used in the fifth embodiment.
- the fitting coefficient ⁇ can be adjusted in a section where the input signal level E is OB or more (OB ⁇ E) in the input / output characteristic graph 2700.
- different fitting coefficients are used in sections SC9 where the input signal level E is less than OB (E ⁇ OB) and in sections where OB or more (OB ⁇ E).
- differences from the fifth embodiment will be mainly described, and the same configuration and processing contents as those of the fifth embodiment are also applied to the sixth embodiment, and the description thereof will be omitted.
- FIG. 30 is a graph showing an input / output characteristic 7 of gradation correction when an optical black value is used.
- the gradation correction unit 201 is positive with respect to the input signal level E lower than the optical black value OB.
- Gradation correction is performed such that the slope is constant, and positive gradation correction, that is, positive offset 1 / ⁇ correction is performed for an input signal level E that is equal to or greater than the optical black value OB.
- the waveform 3001 of the section SC9 is a linear waveform in which the output signal level E ′ increases with the increase of the input signal level E, and the optical black value OB
- the waveform 3002 in the above section is a waveform obtained by positive offset 1 / ⁇ correction.
- the tone correction unit 201 performs tone correction fitting so that the output signal level E ′ is 1.0 when the input signal level E is 1.0.
- the gradation correction algorithm showing the input / output characteristic graph 3000 of FIG. 30 is expressed by the following equation (23).
- E is the signal level of the RAW image data (input signal level)
- E ′ is the signal level of the tone correction RAW image data (output signal level)
- OETF [] is the tone correction function
- OB is the optical black value
- ⁇ is a gamma value.
- ⁇ 2 is a fitting coefficient different from ⁇ 1 and depends on ⁇ 1.
- the setting unit 204 can adjust the fitting coefficient ⁇ in accordance with the increase or decrease of the ISO sensitivity in the information processing apparatus 100. Thereby, the adjustment of the input / output characteristic graph 3000 is possible with the fitting coefficient ⁇ 1 in the section SC9, and the adjustment of the input / output characteristic graph 3000 is performed with the fitting coefficient ⁇ 2 of a value different from the fitting coefficient ⁇ 1 in the section SC27 of OB ⁇ E. It becomes possible.
- the equation in the case where the condition is E ⁇ OB is a tone correction equation such that the positive slope becomes constant with respect to the input signal level E, and the equation in the case where the condition is OB ⁇ E. Is a positive offset 1 / ⁇ correction equation.
- the tone correction unit 201 outputs the tone correction identifier 326 indicating the tone correction algorithm of Expression (23) to the encoding unit 202, and the encoding unit 202 outputs the tone correction identifier 326 from the tone correction unit 201.
- FIG. 31 is a graph showing gain characteristics in the input / output characteristic 7 of gradation correction when the optical black value is used.
- the gain characteristic graph 3100 of the input signal level E in tone correction in the case of using the optical black value OB is expressed by the following equation (24) by differentiation of the equation (23).
- the gain G is the gain of the input signal level E. Specifically, for example, in the gain characteristic graph 3100, the gain G takes a constant value in the section SC9.
- the distortion of the dark part generated between the encoding unit 202 and the decoding unit 602 is suppressed by increasing the gain G of the dark part by the tone correction.
- the distortion of the dark area becomes less noticeable.
- FIG. 32 is a graph showing the input / output characteristic 7 of gradation inverse correction in the case of using an optical black value.
- the tone reversal correction unit 603 performs tone reversal correction such that the positive slope is constant for an input signal level E lower than the optical black value OB, and negative tones for an input signal level lower than ⁇ . Perform an inverse correction, ie a negative gamma correction.
- a section SC321 is a section from 0.0 to ⁇ in the input signal level E '
- a section SC292 is a section from ⁇ to 1.0 in the input signal level E'.
- waveform 3201 of section SC321 is a waveform obtained by negative ⁇ correction
- waveform 3202 of section SC322 is a waveform obtained by positive ⁇ correction .
- the gradation inverse correction algorithm showing the input / output characteristic graph 3200 of FIG. 32 is expressed by the following equation (25).
- E ′ is the signal level (input signal level) of the tone correction RAW image data
- E is the signal level (output signal level) of the restored RAW image data
- EOTF [] is the tone inverse correction function.
- the equation in the case where the condition is E ′ ⁇ is an equation of gradation reverse correction such that the positive inclination becomes constant for the input signal level E lower than the optical black value OB
- the equation when the condition is ⁇ ⁇ E ′ is a positive ⁇ correction equation.
- the tone reverse correction unit 603 detects the tone correction identifier 326 indicating the equation (23) in the control information 312, the tone reverse correction unit 603 executes the tone reverse correction of the equation (25).
- the coding distortion suppression effect near the optical black value OB in the tone reversal corrected corrected RAW image data can be increased. Since the noise generated in the dark part can be reduced, the color reproducibility can be improved.
- the seventh embodiment is another example of the second embodiment, and the input and output of gradation correction in the case of using the optical black value of the first embodiment while reproducing the input signal level E equal to or less than the optical black value OB. As shown in Characteristic Example 2, the gain G of the optical black value OB is maximized.
- differences from the second embodiment will be mainly described, and the same configuration and processing contents as those of the second embodiment are also applied to the seventh embodiment, and the description thereof will be omitted.
- FIG. 33 is a graph showing an input / output characteristic 8 of gradation correction when an optical black value is used.
- the gradation correction unit 201 is different from the input / output characteristics example 1 and 2 of gradation correction when an optical black value is used.
- Perform negative tone correction, ie negative 1 / ⁇ correction, for input signal level E lower than optical black value OB, and positive tone correction for input signal level E greater than optical black value OB, ie Perform a positive 1 / ⁇ correction.
- the waveform 3301 of the section SC9 is a waveform obtained by negative 1 / ⁇ correction
- the waveform 3302 of the section of the optical black value OB or more is positive. It is a waveform obtained by 1 / ⁇ correction.
- the gradation correction algorithm showing the input / output characteristic graph 3300 of FIG. 33 is expressed by the following equation (26).
- E is the signal level of the RAW image data (input signal level)
- E ′ is the signal level of the tone correction RAW image data (output signal level)
- OETF [] is the tone correction function
- OB is the optical black value
- ⁇ is a gamma value
- ⁇ is a fitting coefficient that can be adjusted by the setting unit 204.
- the setting unit 204 can adjust the fitting coefficient ⁇ according to the increase or decrease of the ISO sensitivity in the information processing apparatus 100.
- the equation in the case where the condition is E ⁇ OB is a negative 1 / ⁇ correction equation
- the equation in the case where the condition is OB ⁇ E is a positive 1 / ⁇ correction equation
- the tone correction unit 201 outputs the tone correction identifier 326 indicating the tone correction algorithm of Expression (26) to the encoding unit 202, and the encoding unit 202 outputs the tone correction identifier 326 from the tone correction unit 201.
- FIG. 34 is a graph showing gain characteristics in the input / output characteristic 8 of gradation correction when the optical black value is used.
- the gain characteristic graph 3400 of the input signal level E in tone correction in the case of using the optical black value OB is expressed by the following equation (27) by differentiation of the equation (26).
- the gain G is the gain of the input signal level E. Specifically, for example, in the gain characteristic graph 3400, the gain G takes a minimum value at an input signal level E of 0.0 in a section SC9, and increases from 0.0 to a maximum value at the optical black value OB. It will be (infinity).
- FIG. 35 is a graph showing the input / output characteristic 8 of gradation inverse correction in the case of using an optical black value.
- the tone reverse correction unit 603 performs positive tone reverse correction, that is, positive ⁇ correction, on the value ⁇ or more of the specific input signal level E ′ of the tone correction RAW image data, and the input signal lower than ⁇ Perform negative tone reversal correction, ie, negative gamma correction, on the level.
- a section SC351 is a section from 0.0 to ⁇ in the input signal level E ′
- a section SC352 is a section from ⁇ to 1.0 in the input signal level E ′.
- waveform 3501 of section SC351 is a waveform obtained by negative ⁇ correction
- waveform 3502 of section SC352 is a waveform obtained by positive ⁇ correction .
- the gradation inverse correction algorithm showing the input / output characteristic graph 3500 of FIG. 35 is expressed by the following equation (28).
- E ′ is the signal level (input signal level) of the tone correction RAW image data
- E is the signal level (output signal level) of the restored RAW image data
- EOTF [] is the tone inverse correction function.
- the equation when the condition is E ′ ⁇ is a negative ⁇ correction equation
- the equation when the condition is ⁇ ⁇ E ′ is a positive ⁇ correction equation.
- the coding distortion suppression effect in the vicinity of the optical black value OB can be increased in the restored RAW image data subjected to gradation reverse correction, and noise generated in the dark portion can be reduced. As a result, color reproducibility can be improved.
- the eighth embodiment shows an example in which two fitting coefficients are used in the seventh embodiment. Specifically, for example, in the seventh embodiment, it is possible to adjust the fitting coefficient ⁇ in a section SC27 where the input signal level E is OB or more (OB ⁇ E) in the input / output characteristic graph 3300. In the eighth embodiment, different fitting coefficients are used in each of the section SC9 where the input signal level E is less than OB (E ⁇ OB) and the section SC27 where OB or more (OB ⁇ E). In the eighth embodiment, differences from the seventh embodiment will be mainly described, and the same configuration and processing contents as those of the seventh embodiment are also applied to the eighth embodiment, and the description thereof will be omitted.
- FIG. 36 is a graph showing an input / output characteristic 9 of gradation correction when an optical black value is used.
- the tone correction unit 201 performs negative tone correction, ie, negative 1 / ⁇ correction, on the input signal level E lower than the optical black value OB, and the input signal level E equal to or higher than the optical black value OB.
- Perform a positive tone correction i.e., a positive 1 / .gamma.
- waveform 3601 of section SC9 is a waveform obtained by negative 1 / ⁇ correction
- waveform 3602 of section SC27 of optical black value OB or more is positive.
- the gradation correction algorithm showing the input / output characteristic graph 3600 of FIG. 36 is expressed by the following equation (29).
- E is the signal level of the RAW image data (input signal level)
- E ′ is the signal level of the tone correction RAW image data (output signal level)
- OETF [] is the tone correction function
- OB is the optical black value
- ⁇ is a gamma value
- ⁇ 1 and ⁇ 2 are adjustable fitting coefficients.
- ⁇ 2 is a fitting coefficient different from ⁇ 1 and depends on ⁇ 1.
- the setting unit 204 can adjust the fitting coefficient ⁇ in accordance with the increase or decrease of the ISO sensitivity in the information processing apparatus 100. Thereby, the adjustment of the input / output characteristic graph 3600 is possible with the fitting coefficient ⁇ 1 in the section SC9, and the adjustment of the input / output characteristic graph 3600 is performed with the fitting coefficient ⁇ 2 of a value different from the fitting coefficient ⁇ 1 in the section SC27 of OB ⁇ E. It becomes possible.
- the equation for the condition E ⁇ OB is a negative 1 / ⁇ correction equation
- the equation for the condition OB ⁇ E is a positive 1 / ⁇ correction equation
- the tone correction unit 201 outputs the tone correction identifier 326 indicating the tone correction algorithm of Expression (29) to the encoding unit 202, and the encoding unit 202 outputs the tone correction identifier 326 from the tone correction unit 201.
- FIG. 37 is a graph showing gain characteristics in the input / output characteristic 9 of gradation correction when the optical black value is used.
- the gain characteristic graph 3700 of the input signal level E in tone correction in the case of using the optical black value OB is expressed by the following equation (30) by differentiation of the equation (29).
- the gain G is the gain of the input signal level E. Specifically, for example, in the gain characteristic graph 3700, the gain G takes a minimum value when the input signal level E is 0.0 at the interval SC9, and increases from 0.0 to a maximum value at the optical black value OB. It will be (infinity).
- FIG. 38 is a graph showing the input / output characteristic 9 of gradation inverse correction in the case of using an optical black value.
- the tone reverse correction unit 603 performs positive tone reverse correction, that is, positive ⁇ correction, on the value ⁇ or more of the specific input signal level E ′ of the tone correction RAW image data, and the input signal lower than ⁇ Perform negative tone reversal correction, ie, negative gamma correction, on the level.
- a section SC381 is a section from an input signal level E 'of 0.0 to ⁇ shown in equation (10), and a section SC382 is a section from an input signal level E' of ⁇ to 1.0.
- waveform 3801 in section SC381 is a waveform obtained by negative ⁇ correction
- waveform 3802 in section SC382 is a waveform obtained by positive ⁇ correction .
- the gradation inverse correction algorithm showing the input / output characteristic graph 3800 of FIG. 38 is expressed by the following equation (31).
- E ′ is the signal level (input signal level) of the tone correction RAW image data
- E is the signal level (output signal level) of the restored RAW image data
- EOTF [] is the tone inverse correction function.
- the equation when the condition is E ′ ⁇ is a negative ⁇ correction equation
- the equation when the condition is ⁇ ⁇ E ′ is a positive ⁇ correction equation.
- the coding distortion suppression effect in the vicinity of the optical black value OB can be increased in the restored RAW image data subjected to gradation inverse correction, and noise generated in the dark portion can be reduced. As a result, color reproducibility can be improved.
- the present embodiment it is possible to suppress dark part encoding distortion due to tone correction.
- the encoding unit 202 and the decoding unit 602 can be obtained by increasing the gain G of the dark area by tone correction. Distortion of the dark part that occurs between As a result, even when the dark area is expressed brightly for the purpose of making it easy to see the pattern of the dark area during the development processing and image adjustment, the distortion of the dark area becomes less noticeable. Also, the original RAW image data can be restored by the gradation inverse correction.
- DESCRIPTION OF SYMBOLS 100 information processing apparatus, 153 imaging device, 161 effective pixel area, 162 optical black pixel area, 200 encoding apparatus, 201 gradation correction part, 202 encoding part, 203 recording part, 204 setting part, 312 control information, 326 Gradation correction identifier, 600 decoding device, 601 acquisition unit, 602 decoding unit, 603 gradation inverse correction unit
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
- Facsimile Image Signal Circuits (AREA)
Abstract
符号化装置は、光学的黒を有する撮像素子からのRAW画像データを、ガンマ係数と前記光学的黒の値とに基づいて階調補正する補正部と、前記補正部によって階調補正された階調補正RAW画像データを符号化する符号化部と、を有する。復号装置は、ガンマ係数と光学的黒の値とに基づいて階調補正された階調補正RAW画像データが符号化された符号化RAW画像データを取得する取得部と、前記取得部によって取得された符号化RAW画像データを前記階調補正RAW画像データに復号する復号部と、前記復号部によって復号された前記階調補正RAW画像データを、前記ガンマ係数と前記光学的黒の値とに基づいて階調逆補正して、階調補正前のRAW画像データを出力する逆補正部と、を有する。
Description
本出願は、平成30年(2018年)1月16日に出願された日本出願である特願2018-5212の優先権を主張し、その内容を参照することにより、本出願に取り込む。
本発明は、符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラムに関する。
RAW画像データに階調補正を施す技術が開示されている。しかしながら、撮像素子からの出力の光学的黒がゼロでないとき、暗部符号化歪抑制のため、上述したような√γ等による階調補正を施して符号化すると、光学的黒がゼロの場合に比べて、階調補正による暗部符号化歪抑制の度合が低減する。
本願において開示される発明の一側面となる符号化装置は、光学的黒を有する撮像素子からのRAW画像データを、ガンマ係数と前記光学的黒の値とに基づいて階調補正する補正部と、前記補正部によって階調補正された階調補正RAW画像データを符号化する符号化部と、を有する。
本願において開示される発明の一側面となる復号装置は、ガンマ係数と光学的黒の値とに基づいて階調補正された階調補正RAW画像データが符号化された符号化RAW画像データを取得する取得部と、前記取得部によって取得された符号化RAW画像データを前記階調補正RAW画像データに復号する復号部と、前記復号部によって復号された前記階調補正RAW画像データを、前記ガンマ係数と前記光学的黒の値とに基づいて階調逆補正して、階調補正前のRAW画像データを出力する逆補正部と、を有する。
本願において開示される発明の一側面となる符号化方法は、光学的黒を有する撮像素子からのRAW画像データを、ガンマ係数と前記光学的黒の値とに基づいて階調補正する補正処理と、前記補正処理によって階調補正された階調補正RAW画像データを符号化する符号化処理と、を実行する。
本願において開示される発明の一側面となる復号方法は、ガンマ係数と光学的黒の値とに基づいて階調補正された階調補正RAW画像データが符号化された符号化RAW画像データを取得する取得処理と、前記取得処理によって取得された符号化RAW画像データを前記階調補正RAW画像データに復号する復号処理と、前記復号処理によって復号された前記階調補正RAW画像データを、前記ガンマ係数と前記光学的黒の値とに基づいて階調逆補正して、階調補正前のRAW画像データを出力する逆補正処理と、を実行する。
<情報処理装置のハードウェア構成例>
図1は、情報処理装置のハードウェア構成例を示すブロック図である。情報処理装置100は、符号化装置および復号装置のいずれか一方、または両方を含む装置である。情報処理装置100は、たとえば、デジタルカメラやデジタルビデオカメラなどの撮像装置であってもよく、パーソナルコンピュータやタブレット、スマートフォン、ゲーム機でもよい。
図1は、情報処理装置のハードウェア構成例を示すブロック図である。情報処理装置100は、符号化装置および復号装置のいずれか一方、または両方を含む装置である。情報処理装置100は、たとえば、デジタルカメラやデジタルビデオカメラなどの撮像装置であってもよく、パーソナルコンピュータやタブレット、スマートフォン、ゲーム機でもよい。
情報処理装置100は、プロセッサ101と、記憶デバイス102と、操作デバイス103と、LSI(Large Scale Integration)104と、撮像ユニット105と、通信IF(Interface)106と、を有する。これらは、バス108により接続されている。プロセッサ101は、情報処理装置100を制御する。記憶デバイス102は、プロセッサ101の作業エリアとなる。
記憶デバイス102は、各種プログラムやデータを記憶する非一時的なまたは一時的な記録媒体である。記憶デバイス102としては、たとえば、ROM(Read Only Memory)、RAM(Random Access Memory)、HDD(Hard Disk Drive)、フラッシュメモリがある。操作デバイス103は、データを操作する。操作デバイス103としては、たとえば、ボタン、スイッチ、タッチパネルがある。
LSI104は、色補間、ホワイトバランス調整、輪郭強調、ガンマ補正、階調変換などの画像処理や符号化処理、復号処理、圧縮伸張処理など、特定の処理を実行する集積回路である。
撮像ユニット105は、被写体を撮像してRAW画像データを生成する。撮像ユニット105は、撮像光学系151と、カラーフィルタ152を有する撮像素子153と、信号処理回路154と、を有する。
撮像光学系151は、たとえば、ズームレンズやフォーカスレンズを含む複数のレンズで構成されている。なお、簡単のため、図1では撮像光学系151を1枚のレンズで図示する。
撮像素子153は、撮像光学系151を通過した光束による被写体の結像を撮像(撮影)するデバイスである。撮像素子153は、順次走査方式の固体撮像素子(たとえば、CCD(Charge Coupled Device)イメージセンサ)であってもよく、XYアドレス方式の固体撮像素子(たとえば、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ)であってもよい。
撮像素子153の受光面には、光電変換部を有する画素群160がマトリクス状に配列されている。そして、撮像素子153の各画素には、それぞれが異なる色成分の光を透過させる複数種類のカラーフィルタ152が所定の色配列に従って配置される。そのため、撮像素子153の各画素は、カラーフィルタ152での色分解によって各色成分に対応する電気信号を出力する。
実施例1では、たとえば、赤色(R)、緑色(G)、青色(B)のカラーフィルタ152が2行2列のベイヤ配列にしたがって受光面に周期的に配置されている。一例として、撮像素子153の色配列の奇数行にはG,Bの画素が交互に並ぶとともに、色配列の偶数行にはR,Gの画素が交互に並んでいる。そして、色配列の全体では緑色画素が市松模様をなすように配置されている。これにより、撮像素子153は、撮影時にカラーのRAW画像データを取得することができる。
なお、撮像素子153において2次元アレイ状に配列された画素群160は、有効画素領域161と、光学的黒画素領域162と、により構成される。有効画素領域161は、実際に光を受光し光電変換によって生成された信号電荷を増幅して信号処理回路154に出力する画素領域である。
光学的黒画素領域162は、黒レベルの基準になる光学的黒を出力するための画素領域である。光学的黒画素領域162は、たとえば、有効画素領域161の外周に設けられる。光学的黒画素領域162は、たとえば、撮像素子153で発生した熱ノイズなどを減算補正するために設けられる。
信号処理回路154は、撮像素子153から入力される画像信号に対して、アナログ信号処理(相関二重サンプリング、黒レベル補正など)と、A/D変換処理と、デジタル信号処理(欠陥画素補正など)とを順次実行する。信号処理回路154から出力されるRAW画像データは、LSI104または記憶デバイス102に入力される。通信IF106は、ネットワークを介して外部装置と接続し、データを送受信する。
<符号化装置の機能的構成例>
図2は、実施例1にかかる符号化装置の機能的構成例を示すブロック図である。符号化装置200は、階調補正部201と、符号化部202と、記録部203と、設定部204と、を有する。階調補正部201、符号化部202、記録部203、および設定部204は、具体的には、たとえば、記憶デバイス102に記憶されたプログラムをプロセッサ101に実行させることにより、または、LSI104により実現される機能である。
図2は、実施例1にかかる符号化装置の機能的構成例を示すブロック図である。符号化装置200は、階調補正部201と、符号化部202と、記録部203と、設定部204と、を有する。階調補正部201、符号化部202、記録部203、および設定部204は、具体的には、たとえば、記憶デバイス102に記憶されたプログラムをプロセッサ101に実行させることにより、または、LSI104により実現される機能である。
階調補正部201は、RAW画像データを階調補正する。RAW画像データは、カラーフィルタ152を介して得られた被写体からの光を光電変換する撮像素子153からの光の強度に線形な画素値の画像データである。換言すれば、RAW画像データは、ガンマ補正、デモザイク処理、ホワイトバランス調整、および色変換処理のような画像処理が施されていない画像データである。RAW画像データのデータ量は、上述した画像処理や符号化処理(圧縮処理ともいう)が実行されたデータに比べて大きい。なお、RAW画像データは、静止画でもよく、動画像の1フレームでもよい。
階調補正部201は、光学的黒画素領域162を有する撮像素子153からのRAW画像データを、ガンマ係数の値(ガンマ値)と光学的黒の値とに基づいて階調補正する。たとえば、階調補正部201は、当該RAW画像データについて光学的黒値を基準に√γ等による階調補正を実行する。階調補正部201は、階調補正に際し、ノイズリダクション処理(NR処理)を実行してもよい。なお、階調補正部201による階調補正の詳細は後述する。
符号化部202は、階調補正部201によって階調補正されたRAW画像データ(以下、階調補正RAW画像データ)を符号化し、符号化された階調補正RAW画像データ(以下、符号化階調補正RAW画像データ)を出力する。符号化部202は、階調補正RAW画像データが静止画である場合、フレーム内符号化により、階調補正RAW画像データをIピクチャに符号化する。
また、符号化部202は、階調補正RAW画像データが動画像の1フレームである場合、フレーム内予測符号化により、階調補正RAW画像データをIピクチャに、または、他の階調補正RAW画像データを参照してフレーム間予測符号化により階調補正RAW画像データをPピクチャまたはBピクチャに符号化する。
撮像素子153からの出力である光学的黒の値がゼロでない場合、暗部符号化歪抑制のために単に√γ等による階調補正を施すと、光学的黒値がゼロの場合に比べて、階調補正による暗部符号化歪の抑制度合が小さくなる。符号化部202は、光学的黒値を基準に√γ等による階調補正を実行し、符号化階調補正RAW画像データのヘッダ情報に、復号再生時に用いるγ値に加えて光学的黒値を付与する。これにより、階調補正による暗部符号化歪の抑制度合の低下を解消する。
記録部203は、符号化階調補正RAW画像データを記憶デバイス102に記録する。設定部204は、ガンマ係数の値や算定仮ゲイン、露出値を設定し、階調補正部201に出力する。設定部204の詳細は、実施例3、実施例4で後述する。
<符号化階調補正RAW画像データのデータ構造例>
図3は、符号化階調補正RAW画像データのデータ構造例を示す説明図である。符号化階調補正RAW画像データ300は、ヘッダ情報301と符号化データ列302とを有する。ヘッダ情報301は、符号化部202により付与される情報である。ヘッダ情報301は、画像形式情報311と制御情報312とを含む。符号化データ列302は、階調補正RAW画像データを符号化したデータ列である。
図3は、符号化階調補正RAW画像データのデータ構造例を示す説明図である。符号化階調補正RAW画像データ300は、ヘッダ情報301と符号化データ列302とを有する。ヘッダ情報301は、符号化部202により付与される情報である。ヘッダ情報301は、画像形式情報311と制御情報312とを含む。符号化データ列302は、階調補正RAW画像データを符号化したデータ列である。
ヘッダ情報301の各要素について具体的に説明する。画像形式情報311は、符号化前の階調補正RAW画像データのサイズ、符号化階調補正RAW画像データのサイズ、色配列のパターンを特定する識別情報、符号化前の階調補正RAW画像データの画素数を含む。
制御情報312は、符号化階調補正RAW画像データの種類(Iピクチャ、Pピクチャ、Bピクチャのいずれか)、参照フレームの識別情報のほか、階調補正を施したときのガンマ値321、黒レベルの基準となる光学的黒値322、算定仮ゲイン323、第1ポーチ幅324、第2ポーチ幅325、階調補正識別子326を含む。
算定仮ゲイン323については、実施例3および実施例4で後述する。第1ポーチ幅324および第2ポーチ幅325については、実施例4で後述する。階調補正識別子326は、階調補正を実行するアルゴリズムを特定する識別子である。階調補正識別子326により、復号装置は、符号化階調補正RAW画像データ300が、どのアルゴリズムにより階調補正されたかを特定することができる。
<符号化部202の構成例>
図4は、符号化部202の構成例を示すブロック図である。符号化部202は、第1蓄積部401と、減算部402と、直交変換部403と、量子化部404と、可変長符号化部405と、逆量子化部406と、逆直交変換部407と、加算部408と、第2蓄積部409と、動き検出部410と、動き補償部411と、を有する。
図4は、符号化部202の構成例を示すブロック図である。符号化部202は、第1蓄積部401と、減算部402と、直交変換部403と、量子化部404と、可変長符号化部405と、逆量子化部406と、逆直交変換部407と、加算部408と、第2蓄積部409と、動き検出部410と、動き補償部411と、を有する。
第1蓄積部401は、階調補正部201から出力される階調補正RAW画像データを蓄積する。第1蓄積部401に蓄積された階調補正RAW画像データは、符号化対象の画像データとして入力順に減算部402へ出力される。なお、符号化の完了した階調補正RAW画像データは第1蓄積部401から順次消去される。
減算部402は、PピクチャまたはBピクチャを生成するときには、入力された原画像(階調補正RAW画像データ)の成分フレームと、動き補償部411で生成された後述の予測値との差分信号(予測誤差値)を出力する。また、減算部402は、Iピクチャを生成するときには、入力された原画像の成分フレームをそのまま出力する。
直交変換部403は、Iピクチャを生成するときには、減算部402をスルーして入力された原画像に対して直交変換を行う。また、直交変換部403は、PピクチャまたはBピクチャを生成するときには、上述した差分信号に対して直交変換をおこなう。
量子化部404は、直交変換部403から入力されたブロック単位の周波数係数(直交変換係数)を量子化係数に変換する。量子化部404の出力は、可変長符号化部405および逆量子化部406にそれぞれ入力される。
可変長符号化部405は、量子化係数や、動き検出部410からの動きベクトルを可変長符号化し、符号化階調補正RAW画像データ(Iピクチャ、Pピクチャ、Bピクチャ)を出力する。
逆量子化部406は、符号化の単位であるブロック単位で量子化係数を逆量子化して周波数係数を復号する。逆直交変換部407は、逆量子化部406で復号された周波数係数を逆直交変換して予測誤差値(または原画像)を復号する。
加算部408は、復号された予測誤差値と、動き補償部411で生成された後述の予測値とを加算する。そして、加算部408から出力されたピクチャの復号値(参照フレーム)は第2蓄積部409に蓄積される。なお、以後の動き補償予測で参照されない参照フレームは第2蓄積部409から順次消去される。
動き検出部410は、第2蓄積部409の参照フレームを用いて、符号化対象の階調補正RAW画像データを予測するための動きベクトルを検出する。動きベクトルは、動き補償部411および可変長符号化部405に出力される。
動き補償部411は、動きベクトルおよび参照フレームに基づいて、符号化対象の階調補正RAW画像データをブロック単位で予測した予測値を出力する。この予測値は、減算部402および加算部408に出力される。
なお、或るブロックについて動き補償予測を行う場合、符号化対象の階調補正RAW画像データが予測値と完全に一致すると動きベクトルのみが符号化される。また、符号化対象の階調補正RAW画像データが予測値と部分的に一致する場合、動きベクトルと差分画像が符号化される。また、符号化対象の階調補正RAW画像データが予測値からすべて外れる場合には、ブロック全体分の画像がすべて符号化される。
<符号化処理手順例>
図5は、符号化装置200による符号化処理手順例を示すフローチャートである。符号化装置200は、光学的黒画素領域162を有する撮像素子153から出力されたRAW画像データの入力を受け付け(ステップS501)、階調補正部201により、階調補正アルゴリズムを用いて、当該RAW画像データを階調補正する(ステップS502)。
図5は、符号化装置200による符号化処理手順例を示すフローチャートである。符号化装置200は、光学的黒画素領域162を有する撮像素子153から出力されたRAW画像データの入力を受け付け(ステップS501)、階調補正部201により、階調補正アルゴリズムを用いて、当該RAW画像データを階調補正する(ステップS502)。
つぎに、符号化装置200は、符号化部202により、階調補正RAW画像データを符号化する(ステップS503)。そして、符号化装置200は、記録部203により、符号化階調補正RAW画像データ300を記憶デバイス102に格納する(ステップS504)。
<復号装置の機能的構成例>
図6は、復号装置の機能的構成例を示すブロック図である。復号装置600は、取得部601と、復号部602と、階調逆補正部603と、を有する。取得部601、復号部602、および階調逆補正部603は、具体的には、たとえば、記憶デバイス102に記憶されたプログラムをプロセッサ101に実行させることにより、または、LSI104により実現される機能である。
図6は、復号装置の機能的構成例を示すブロック図である。復号装置600は、取得部601と、復号部602と、階調逆補正部603と、を有する。取得部601、復号部602、および階調逆補正部603は、具体的には、たとえば、記憶デバイス102に記憶されたプログラムをプロセッサ101に実行させることにより、または、LSI104により実現される機能である。
取得部601は、符号化装置200によって符号化された符号化階調補正RAW画像データ300を取得する。復号装置600が符号化装置200と通信可能である場合、取得部601は、符号化装置200から送信されてくる符号化階調補正RAW画像データ300を受信する。復号装置600が符号化装置200と同一装置内に実装されている場合、取得部601は、記憶デバイス102に格納された符号化階調補正RAW画像データ300を読み出す。
復号部602は、制御情報312を用いて符号化階調補正RAW画像データ300を階調補正RAW画像データに復号する。具体的には、たとえば、復号部は、符号化階調補正RAW画像データ300の種類(Iピクチャ、Pピクチャ、Bピクチャ)に応じて、参照フレームを特定し、符号化階調補正RAW画像データ300を階調補正RAW画像データに復号する。
階調逆補正部603は、復号部602によって復号された階調補正RAW画像データを階調逆補正し、階調補正前のRAW画像データに復元する。具体的には、たとえば、階調逆補正部603は、制御情報312の階調補正識別子326を参照して、RAW画像データに施された階調補正アルゴリズムを特定し、特定した階調補正アルゴリズムに対応する階調逆補正アルゴリズムを実行する。階調逆補正部603は、階調逆補正に際し、ノイズリダクション処理(NR処理)を実行してもよい。
<復号部602の構成例>
図7は、復号部602の構成例を示すブロック図である。復号部602は、可変長符号復号部701と、逆量子化部702と、逆直交変換部703と、加算部704と、第3蓄積部705、動き補償部706を有している。
図7は、復号部602の構成例を示すブロック図である。復号部602は、可変長符号復号部701と、逆量子化部702と、逆直交変換部703と、加算部704と、第3蓄積部705、動き補償部706を有している。
可変長符号復号部701は、入力される符号化階調補正RAW画像データ300を復号し、量子化係数や、動きベクトルを出力する。なお、復号された量子化係数は逆量子化部702に入力され、復号された動きベクトルは動き補償部706に入力される。
逆量子化部702は、ブロック単位で量子化係数を逆量子化して周波数係数を復号する。逆直交変換部703は、逆量子化部702で復号された周波数係数を逆直交変換して予測誤差値(または原画像の信号)を復号する。
加算部704は、復号された予測誤差値と動き補償部706で生成された予測値とを加算することで、復号された画像データをブロック単位で出力する。そして、加算部704から出力された画像データは階調補正RAW画像データとして出力されるとともに、第3蓄積部705に入力される。
第3蓄積部705は、画像の復号値を参照フレームとして蓄積する。なお、以後の動き補償予測で参照されない画像データは第3蓄積部705から順次消去される。動き補償部706は、動きベクトルおよび参照フレームに基づいて、復号対象の画像をブロック単位で予測した予測値を加算部704に出力する。
<復号処理手順例>
図8は、復号装置600による復号処理手順例を示すフローチャートである。復号装置600は、取得部601により、符号化階調補正RAW画像データ300を取得し(ステップS801)、復号部602により、符号化階調補正RAW画像データ300を階調補正RAW画像データに復号する(ステップS2102)。そして、復号装置600は、階調逆補正部603により、復号された階調補正RAW画像データを階調逆補正して、RAW画像データを復元する(ステップS803)。
図8は、復号装置600による復号処理手順例を示すフローチャートである。復号装置600は、取得部601により、符号化階調補正RAW画像データ300を取得し(ステップS801)、復号部602により、符号化階調補正RAW画像データ300を階調補正RAW画像データに復号する(ステップS2102)。そして、復号装置600は、階調逆補正部603により、復号された階調補正RAW画像データを階調逆補正して、RAW画像データを復元する(ステップS803)。
<階調補正および階調逆補正の具体例>
つぎに、実施例1にかかる階調補正部201による階調補正および階調逆補正部603による階調逆補正の具体例について、図9~図17を用いて説明する。本実施例1との比較のため、光学的黒値を用いない階調補正および階調逆補正を図9~図11のグラフに示し、実施例1の階調補正1および階調逆補正1を図12~図14に示し、実施例1の階調補正2および階調逆補正2を図15~図17に示す。
つぎに、実施例1にかかる階調補正部201による階調補正および階調逆補正部603による階調逆補正の具体例について、図9~図17を用いて説明する。本実施例1との比較のため、光学的黒値を用いない階調補正および階調逆補正を図9~図11のグラフに示し、実施例1の階調補正1および階調逆補正1を図12~図14に示し、実施例1の階調補正2および階調逆補正2を図15~図17に示す。
(光学的黒値を用いない場合の階調補正の特性)
図9は、光学的黒値を用いない場合の階調補正の入出力特性を示すグラフである。横軸は、撮像素子153からのRAW画像データの信号レベル(入力信号レベルE)であり、縦軸は、階調補正RAW画像データの信号レベル(出力信号レベルE´)である。以降、図12、図15、図18、図21、図24でも同様である。ただし、図9の入力信号レベルEは、光学的黒画素領域162を有しない撮像素子153からのRAW画像データの信号レベルである。
図9は、光学的黒値を用いない場合の階調補正の入出力特性を示すグラフである。横軸は、撮像素子153からのRAW画像データの信号レベル(入力信号レベルE)であり、縦軸は、階調補正RAW画像データの信号レベル(出力信号レベルE´)である。以降、図12、図15、図18、図21、図24でも同様である。ただし、図9の入力信号レベルEは、光学的黒画素領域162を有しない撮像素子153からのRAW画像データの信号レベルである。
また、信号レベルとは、たとえば、有効画素領域161内の画素の輝度を示す電圧値であり、0.0~1.0の範囲で正規化される。信号レベルが小さい画素は暗い画素、信号レベルが大きい画素は明るい画素を示す。また、OB(オプティカルブラック)は、光学的黒値である。
図9の入出力特性グラフ900を示す階調補正アルゴリズムは、下記式(1)で表現される。
E´=OETF[E]=E1/γ・・・・・(1)
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、γはガンマ値である。
入出力特性グラフ900において、入力信号レベルが0.0から光学的黒値OBまでの区間SC9について階調補正が実行される。RAW画像データを符号化する場合、暗部および明部を均等に符号化するため、現像段階でガンマ補正を施すと、暗部が強調され、符号化による圧縮率が高いほど符号化歪みが目立つ。
図10は、光学的黒値を用いない場合の階調補正のゲイン特性を示すグラフである。ゲインとは、入力信号レベルEの強調度である。光学的黒値を用いない場合の階調補正のゲイン特性グラフ1000は、式(1)の微分により、下記式(2)で表現される。
G={OETF[E]}’=(1/γ)×E{(1/γ)-1}・・・・・(2)
Gは、入力信号レベルEのゲインである。ゲイン特性グラフ1000において、入力信号レベルEが0.0から光学的黒値OBまでの区間SC9のゲインGの値が光学的黒値OBのゲインGの値よりも大きい。すなわち、現像処理後は無効となる入力信号レベルEが0.0から光学的黒値OBまでの区間SC9の画素のゲインが大きい。したがって、現像処理後に画像として有効な光学的黒値OB以上の区間におけるゲインが小さくなり符号化歪抑制効果が小さくなる。
図11は、光学的黒値を用いない場合の階調逆補正の入出力特性を示すグラフである。横軸は、階調補正RAW画像データの信号レベル(入力信号レベルE´)であり、縦軸は、階調補正RAW画像データから階調逆補正されたRAW画像データの信号レベル(出力信号レベルE)である。
以降、図14、図17、図20、図23、図26でも同様である。ただし、図11の出力信号レベルEは、階調逆補正により復元された、光学的黒画素領域162を有しない撮像素子153からのRAW画像データの信号レベルである。また、信号レベルとは、図9と同様、たとえば、有効画素領域161内の画素の輝度を示す電圧値であり、0.0~1.0の範囲で正規化される。信号レベルが小さい画素は暗い画素、信号レベルが大きい画素は明るい画素を示す。
図10の入出力特性グラフ1100を示す階調逆補正アルゴリズムは、下記式(3)で表現される。
E=EOTF[E´]=Eγ・・・・・(3)
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数、γはガンマ値である。
(光学的黒値を用いた場合の階調補正の特性例1)
つぎに、図12~図14を用いて、光学的黒値を用いた場合の階調補正の特性例1について説明する。
つぎに、図12~図14を用いて、光学的黒値を用いた場合の階調補正の特性例1について説明する。
図12は、光学的黒値を用いた場合の階調補正の入出力特性1を示すグラフである。入出力特性グラフ1200では、階調補正部201が、光学的黒値OBよりも低い入力信号レベルEについて階調補正を実行しない。換言すれば、図12の入出力特性グラフ1200では、入力信号レベルEが0.0から光学的黒値OBまでの区間SC9で出力信号レベルE´が0.0であり、入力信号レベルEが光学的黒値OBから立ち上がり、入力信号レベルEが1.0で出力信号レベルE´が最大値をとる。
図12の入出力特性グラフ1200を示す階調補正アルゴリズムは、下記式(4)で表現される。
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、OBは光学的黒値、γはガンマ値である。階調補正部201は、式(4)の階調補正アルゴリズムを示す階調補正識別子326を符号化部202に出力し、符号化部202は、階調補正部201からの階調補正識別子326をヘッダ情報301内の制御情報312として付与する。
図13は、光学的黒値を用いた場合の階調補正の入出力特性1におけるゲイン特性を示すグラフである。光学的黒値OBを用いた場合の階調補正における入力信号レベルEのゲイン特性グラフ1300は、式(4)の微分により、下記式(5)で表現される。
Gは、入力信号レベルEのゲインである。ゲイン特性グラフ1300において、入力信号レベルEが0.0から光学的黒値OBまでの区間のゲインGの値が0.0であるため、暗部である0.0から光学的黒値OBまでの区間SC9の入力信号レベルEが強調されない。また、光学的黒値OBでゲインGの値が最大値をとるため、現像処理後に画像として有効な光学的黒値OB以上の区間におけるゲインを大きくすることで符号化歪抑制効果を大きくすることができる。
現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現することがある。このとき、符号化部202と復号部602との間で生じる暗部の歪が目立ち易くなる。階調補正で暗部のゲインGを大きくすることで、符号化部202と復号部602との間で生じる暗部の歪が抑制される。これにより、現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現しても、暗部の歪が目立ち難くなる。
図14は、光学的黒値を用いる場合の階調逆補正の入出力特性1を示すグラフである。図14の入出力特性グラフ1400を示す階調逆補正アルゴリズムは、下記式(6)で表現される。
E=EOTF[E´]=(E´)γ+OB・・・・・(6)
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数である。階調逆補正部603は、制御情報312に式(4)を示す階調補正識別子326を検出した場合、式(6)の階調逆補正を実行する。
入出力特性グラフ1400において、復元されたRAW画像データでは、出力信号レベルEの最小値が光学的黒値OBであるため、現像処理後に画像として有効な光学的黒値OB以上の区間におけるゲインを大きくすることで符号化歪抑制効果を大きくすることができる。
(光学的黒値を用いた場合の階調補正の特性例2)
つぎに、図15~図17を用いて、光学的黒値を用いた場合の階調補正の特性例2について説明する。光学的黒値OBを用いた場合の階調補正の特性例1では、図12の入出力特性グラフ1200において、出力信号レベルE´の明部である区間SC12で復元されない状態となる。光学的黒値OBを用いた場合の階調補正の特性例2では、光学的黒値OBを用いた場合の階調補正の特性例1のように、本来の黒の再現性が高くして黒浮きを抑制しつつ、明部の再現性の向上を図る。
つぎに、図15~図17を用いて、光学的黒値を用いた場合の階調補正の特性例2について説明する。光学的黒値OBを用いた場合の階調補正の特性例1では、図12の入出力特性グラフ1200において、出力信号レベルE´の明部である区間SC12で復元されない状態となる。光学的黒値OBを用いた場合の階調補正の特性例2では、光学的黒値OBを用いた場合の階調補正の特性例1のように、本来の黒の再現性が高くして黒浮きを抑制しつつ、明部の再現性の向上を図る。
図15は、光学的黒値を用いた場合の階調補正の入出力特性2を示すグラフである。光学的黒値OBを用いた場合の階調補正の入出力特性例2では、光学的黒値OBを用いた場合の階調補正の入出力特性例1と同様、階調補正部201が、光学的黒値OBよりも低い入力信号レベルEについて階調補正を実行しない。
換言すれば、図15の入出力特性グラフ1500では、入力信号レベルEが0.0から光学的黒値までの区間SC9で出力信号レベルE´が0.0であり、入力信号レベルEが光学的黒値OBから立ち上がり、入力信号レベルEが1.0で出力信号レベルE´が上限である1.0をとる。
図15の入出力特性グラフ1500を示す階調補正アルゴリズムは、下記式(7)で表現される。
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、OBは光学的黒値、γはガンマ値である。階調補正部201は、式(7)の階調補正アルゴリズムを示す階調補正識別子326を符号化部202に出力し、符号化部202は、階調補正部201からの階調補正識別子326をヘッダ情報301内の制御情報312として付与する。
このように、出力信号レベルE´の最大値を1.0としたことにより、入出力特性グラフ1200に比べて、明部での色再現性の向上を図ることができる。
図16は、光学的黒値を用いた場合の階調補正の入出力特性2におけるゲイン特性を示すグラフである。光学的黒値OBを用いた場合の階調補正における入力信号レベルEのゲイン特性グラフ1600は、式(7)の微分により、下記式(8)で表現される。
Gは、入力信号レベルEのゲインである。入力信号レベルEが0.0から光学的黒値OBまでの区間SC9のゲインGの値が0.0であるため、暗部である0.0から光学的黒値OBまでの区間SC9の入力信号レベルEが強調されない。また、光学的黒値OBでゲインGの値が最大値(無限大)をとるため、現像処理後に画像として有効な光学的黒値OB以上の区間におけるゲインを大きくすることで符号化歪抑制効果を大きくすることができる。
また、光学的黒値を用いた場合の階調補正の入出力特性例1と同様、階調補正で暗部のゲインGを大きくすることで、符号化部202と復号部602との間で生じる暗部の歪が抑制される。これにより、現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現しても、暗部の歪が目立ち難くなる。
図17は、光学的黒値を用いる場合の階調逆補正の入出力特性2を示すグラフである。図17の入出力特性グラフ1700を示す階調逆補正アルゴリズムは、下記式(9)で表現される。
E=EOTF[E´]=(1-OB)×(E´)γ+OB・・・・・(9)
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数である。階調逆補正部603は、制御情報312に式(7)を示す階調補正識別子326を検出した場合、式(9)の階調逆補正を実行する。
光学的黒値OBを用いた場合の階調補正の入出力特性例1と同様、復元されたRAW画像データでは、出力信号レベルEの最小値が光学的黒値OBであるため、出力信号レベルEが0.0から光学的黒値OBまでの区間SC11の画素の色は再現されず、現像処理後に画像として有効な光学的黒値OB以上の区間におけるゲインを大きくすることで符号化歪抑制効果を大きくすることができる。
また、図14の入出力特性グラフ1400のような入力信号レベルE´が存在しない区間SC14が、図17の入出力特性グラフ1700には存在しない。すなわち、光学的黒値OBを用いた場合の階調補正の入出力特性例2では、明部の画素の色再現性の向上を図ることができる。
実施例2は、光学的黒値OB以下の入力信号レベルEを再現しつつ、実施例1の光学的黒値を用いた場合の階調補正の入出力特性例2のように光学的黒値OBのゲインGを最大化する例である。実施例2では、実施例1との相違点を中心に説明し、実施例1と同一構成および同一処理内容については、実施例2でも流用し、かつ、その説明を省略する。
図18は、光学的黒値を用いた場合の階調補正の入出力特性3を示すグラフである。光学的黒値を用いた場合の階調補正の入出力特性例3では、光学的黒値を用いた場合の階調補正の入出力特性例1,2と異なり、階調補正部201が、光学的黒値OBよりも低い入力信号レベルEについて負の階調補正、すなわち、負の1/γ補正を実行し、光学的黒値OB以上の入力信号レベルEについて正の階調補正、すなわち、正の1/γ補正を実行する。
具体的には、たとえば、入出力特性グラフ1800のうち、区間SC9の波形1801は、負の1/γ補正により得られる波形であり、光学的黒値OB以上の区間の波形1802は、正の1/γ補正により得られる波形である。
図18の入出力特性グラフ1800を示す階調補正アルゴリズムは、下記式(10)で表現される。
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、OBは光学的黒値、γはガンマ値である。
式(10)のうち、条件がE<OBである場合の式が負の1/γ補正の式であり、条件がOB≦Eである場合の式が正の1/γ補正の式である。階調補正部201は、式(10)の階調補正アルゴリズムを示す階調補正識別子326を符号化部202に出力し、符号化部202は、階調補正部201からの階調補正識別子326をヘッダ情報301内の制御情報312として付与する。
区間SC9において負の1/γ補正を実行することで、階調補正されたRAW画像データでの光学的黒値OB付近の色再現性の向上を図ることができる。すなわち、入出力特性グラフ1800の光学的黒値OB付近において、光学的黒値OBよりも入力信号レベルEが小さい側(マイナス方向)のノイズと光学的黒値OBよりも入力信号レベルEが大きい側(プラス方向)のノイズとがノイズリダクション処理で相殺されるため、実施例1よりも効率的にノイズを除去することができる。したがって、階調補正されたRAW画像データの光学的黒値OB付近の黒浮きを抑制し、色再現性の向上を図ることができる。
図19は、光学的黒値を用いた場合の階調補正の入出力特性3におけるゲイン特性を示すグラフである。光学的黒値OBを用いた場合の階調補正における入力信号レベルEのゲイン特性グラフ1900は、式(10)の微分により、下記式(11)で表現される。
Gは、入力信号レベルEのゲインである。具体的には、たとえば、ゲイン特性グラフ1900では、ゲインGは、区間SC9において、入力信号レベルEが0.0で最小値をとり、0.0から増加して光学的黒値OBで最大値(無限大)となる。
区間SC19を、光学的黒値OBから光学的黒値OBの2倍となる入力信号レベルEの値2OBまでの区間とする。ゲインGは、区間SC19において、入力信号レベルEが光学的黒値OBで最大値(無限大)をとり、光学的黒値OBから減少して2OBで最小値となる。すなわち、区間SC9のゲイン特性を示す波形1901と区間SC19のゲイン特性を示す波形1902は、光学的黒値OBに対して線対称である。
これにより、暗部となる区間SC9および区間SC19において、光学的黒値OBがゲインGの最大値となる。また、区間SC9および区間SC19において、入力信号レベルEが光学的黒値OBから離間するほどゲインGが減衰する。したがって、現像処理後に画像として有効な光学的黒値OB以上の区間におけるゲインを大きくすることで符号化歪抑制効果を大きくすることができるとともに、当該暗部で発生するノイズを低減することができる。
また、波形1901,1902が光学的黒値OBに対し線対称であることから、光学的黒値OB付近において、光学的黒値OBよりも入力信号レベルEが小さい側(マイナス方向)のノイズと光学的黒値OBよりも入力信号レベルEが大きい側(プラス方向)のノイズとがノイズリダクション処理で相殺されてノイズが低減されるため、黒浮きを抑制することができる。
また、実施例1と同様、階調補正で暗部のゲインGを大きくすることで、符号化部202と復号部602との間で生じる暗部の歪が抑制される。これにより、現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現しても、暗部の歪が目立ち難くなる。
図20は、光学的黒値を用いる場合の階調逆補正の入出力特性3を示すグラフである。階調逆補正部603は、階調補正RAW画像データの特定の入力信号レベルE´の値β以上について正の階調逆補正、すなわち、正のγ補正を実行し、βよりも低い入力信号レベルについて負の階調逆補正、すなわち、負のγ補正を実行する。
区間SC201を、入力信号レベルE´が0.0から式(10)に示したβまでの区間とし、区間SC202を、入力信号レベルE´がβから1.0までの区間とする。具体的には、たとえば、入出力特性グラフ2000のうち、区間SC201の波形2001は、負のγ補正により得られる波形であり、区間SC202の波形2002は、正のγ補正により得られる波形である。
図20の入出力特性グラフ2000を示す階調逆補正アルゴリズムは、下記式(12)で表現される。
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数である。式(12)のうち、条件がE´<βである場合の式が負のγ補正の式であり、条件がβ≦E´である場合の式が正のγ補正の式である。階調逆補正部603は、制御情報312に式(10)を示す階調補正識別子326を検出した場合、式(12)の階調逆補正を実行する。
区間SC201において負のγ補正を実行することで、階調逆補正された復元RAW画像データでの光学的黒値OB付近の符号化歪抑制効果を大きくできるとともに、当該暗部で発生するノイズを低減することができるので、色再現性の向上を図ることができる。
実施例3は、実施例2において、明部のゲインを上昇させる例である。実施例3では、実施例2との相違点を中心に説明し、実施例2と同一構成および同一処理内容については、実施例3でも流用し、かつ、その説明を省略する。
図21は、光学的黒値を用いた場合の階調補正の入出力特性4を示すグラフである。光学的黒値を用いた場合の階調補正の入出力特性例4では、階調補正部201が、光学的黒値OBよりも低い入力信号レベルEについて負の階調補正、すなわち、負のオフセット1/γ補正を実行し、光学的黒値OB以上の入力信号レベルEについて正の階調補正、すなわち、正のオフセット1/γ補正を実行する。
具体的には、たとえば、入出力特性グラフ2100のうち、区間SC9の波形2101は、負のオフセット1/γ補正により得られる波形であり、光学的黒値OB以上の区間の波形2102は、正のオフセット1/γ補正により得られる波形である。
図21の入出力特性グラフ2100を示す階調補正アルゴリズムは、下記式(13)で表現される。
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、OBは光学的黒値、γはガンマ値、gは算定仮ゲインである。式(13)のうち、条件がE<OBである場合の式が負のオフセット1/γ補正の式であり、条件がOB≦Eである場合の式が正のオフセット1/γ補正の式である。階調補正部201は、式(13)の階調補正アルゴリズムを示す階調補正識別子326を符号化部202に出力し、符号化部202は、階調補正部201からの階調補正識別子326をヘッダ情報301内の制御情報312として付与する。
図22は、光学的黒値を用いた場合の階調補正の入出力特性4におけるゲイン特性を示すグラフである。光学的黒値OBを用いた場合の階調補正における入力信号レベルEのゲイン特性グラフ2200は、式(13)の微分により、下記式(14)で表現される。
Gは、入力信号レベルEのゲインである。具体的には、たとえば、ゲイン特性グラフ2200では、ゲインGは、区間SC9において、入力信号レベルEが0.0で最小値をとり、0.0から増加して光学的黒値OBで最大値である算定仮ゲインgとなる。算定仮ゲインは、設定部204によって設定される値である。
ゲインGは、区間SC19において、入力信号レベルEが光学的黒値OBで最大値である算定仮ゲインgをとり、光学的黒値OBから減少して2OBで最小値となる。すなわち、区間SC9のゲイン特性を示す波形2201と区間SC19のゲイン特性を示す波形2202は、光学的黒値OBに対して線対称である。
また、光学的黒値OBでのゲインGの値を実施例2の無限大から算定仮ゲインgへオフセットしたことにより、ゲイン特性グラフ2200は、ゲイン特性グラフ1900に比べて、明部の入力信号レベルが高くなる。したがって、階調補正により光学的黒値OB付近の画素を強調し、かつ、明部側の画素を強調することができる。
図23は、光学的黒値を用いる場合の階調逆補正の入出力特性4を示すグラフである。階調逆補正部603は、階調補正RAW画像データの特定の入力信号レベルE´の値OUT[1]以上について正の階調逆補正、すなわち、正のオフセットγ補正を実行し、OUT[1]よりも低い入力信号レベルについて負の階調逆補正、すなわち、負のオフセットγ補正を実行する。
区間SC231を、入力信号レベルE´が0.0から式(13)に示したOUT[1]までの区間とし、区間SC232を、入力信号レベルE´がOUT[1]から1.0までの区間とする。具体的には、たとえば、入出力特性グラフ2300のうち、区間SC231の波形2301は、負のオフセットγ補正により得られる波形であり、区間SC232の波形2302は、正のオフセットγ補正により得られる波形である。
図23の入出力特性グラフ2300を示す階調逆補正アルゴリズムは、下記式(15)で表現される。
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数である。式(15)のうち、条件がE´<OUT[1]である場合の式が負のオフセットγ補正の式であり、条件がOUT[1]≦E´である場合の式が正のオフセットγ補正の式である。階調逆補正部603は、制御情報312に式(13)を示す階調補正識別子326を検出した場合、式(15)の階調逆補正を実行する。
区間SC231において負のオフセットγ補正を実行することで、階調逆補正されたRAW画像データでの光学的黒値OB付近の色再現性の向上を図ることができる。また、明部のゲインも高くなるため、階調補正により明部側の画素を強調することができる。
また、設定部204は、算定仮ゲインgに替えて、算定ゲインGOBを階調逆補正部603に設定してもよい(下記式(16))。算定ゲインGOBを階調逆補正部603に設定することにより、階調逆補正で元のRAW画像データにおける暗部である光学的黒や明部の再現性の向上を図ることができる。
GOB=C×g・・・・・(16)
実施例4は、実施例3の算定仮ゲインgに光学的黒値を含む一定幅の入力信号レベルEを設けた例である。実施例4では、実施例3との相違点を中心に説明し、実施例3と同一構成および同一処理内容については、実施例4でも流用し、かつ、その説明を省略する。
図24は、光学的黒値を用いた場合の階調補正の入出力特性5を示すグラフである。光学的黒値を用いた場合の階調補正の入出力特性例5では、設定部204により、光学的黒値OBを含む一定のポーチ幅Dが設定される。ポーチ幅Dの入力信号レベルEでは同一ゲインGとなる。
ポーチ幅Dのうち入力信号レベルEの値がP1(0.0<P1<OB)から光学的黒値OBまでの範囲を第1ポーチ幅D1、ポーチ幅Dのうち入力信号レベルEの値が光学的黒値OBからP2(OB≦P2)までの範囲を第2ポーチ幅D2とする。ポーチ幅Dは、入力信号レベルEのゲインGが一定となる範囲である。
階調補正部201が、入力信号レベルEの値が0.0からP1までの区間SC24について、負の階調補正、すなわち、負のオフセット1/γ補正を実行し、入力信号レベルEの値がポーチ幅Dの区間について、ゲインGが一定となる階調補正を実行し、入力信号レベルEの値がP2以上の区間について、正の階調補正、すなわち、正のオフセット1/γ補正を実行する。
具体的には、たとえば、入出力特性グラフ2400のうち、区間SC24の波形2401は、負のオフセット1/γ補正により得られる波形であり、ポーチ幅Dの区間の波形2402は、ゲインGが一定となる階調補正により得られる波形であり、入力信号レベルEの値がP2以上の区間の波形2403は、正のオフセット1/γ補正により得られる波形である。
図24の入出力特性グラフ2400を示す階調補正アルゴリズムは、下記式(17)で表現される。
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、OBは光学的黒値、γはガンマ値、gは算定仮ゲインである。また、IN[1]は、第1ポーチ幅D1、IN[2]は第2ポーチ幅D2である。
式(17)のうち、条件がE<OBである場合の式が負のオフセット1/γ補正の式であり、条件がIN[1]≦E<IN[2]、すなわち、ポーチ幅Dである場合の式がゲインGが一定となる階調補正であり、条件がIN[2]≦Eである場合の式が正のオフセット1/γ補正の式である。階調補正部201は、式(17)の階調補正アルゴリズムを示す階調補正識別子326を符号化部202に出力して、符号化部202は、階調補正部201からの階調補正識別子326をヘッダ情報301内の制御情報312として付与する。
図25は、光学的黒値を用いた場合の階調補正の入出力特性5におけるゲイン特性を示すグラフである。光学的黒値OBを用いた場合の階調補正における入力信号レベルEのゲイン特性グラフ2500は、式(17)の微分により、下記式(18)で表現される。
Gは、入力信号レベルEのゲインである。具体的には、たとえば、ゲイン特性グラフ2500では、ゲインGは、区間SC24において、入力信号レベルEが0.0で最小値をとり、0.0から増加してポーチ幅Dの右端であるP1で最大値である算定仮ゲインgとなる。算定仮ゲインgは、設定部204によって設定される値である。
ゲインGは、ポーチ幅Dにおいて算定仮ゲインgで一定となる。そして、ゲインGは、ポーチ幅Dの左端であるP2以上において、光学的黒値OBから減少する。第1ポーチ幅D1を設定したことにより、光学的黒値OB付近のノイズを保存することができる。また、第2ポーチ幅D2を設定したことにより、圧縮率が高いほど黒の表現力を高めることができる。
また、第2ポーチ幅D2は、設定部204によって設定される露出量により可変となる。具体的には、光学的黒値OBは固定であり、P2の位置が変更される。たとえば、設定部204において露出量を露出アンダーに設定することにより、P2は入力信号レベルEが大きくなる方向に変更され、第2ポーチ幅P2が広くなる。
一方、設定部204において露出量を露出オーバーに設定することにより、P2は入力信号レベルEが小さくなる方向に変更され、第2ポーチ幅P2が狭くなる。このように、露出量に応じて、第2ポーチ幅D2を伸縮することができ、露出量に応じて光学的黒値付近の画素を強調することができる。
図26は、光学的黒値を用いる場合の階調逆補正の入出力特性5を示すグラフである。階調逆補正部603は、階調補正RAW画像データの特定の入力信号レベルE´の値OUT[2]以上について正の階調逆補正、すなわち、正のオフセットγ補正を実行し、OUT[1]以上OUT[2]未満についてゲインGが一定となる階調逆補正、OUT[1]よりも低い入力信号レベルについて負の階調逆補正、すなわち、負のオフセットγ補正を実行する。
区間SC261を、入力信号レベルE´が0.0から式(16)に示したOUT[1]までの区間とし、区間SC262を、入力信号レベルE´がOUT[1]からOUT[2]までの区間とし、区間SC263を、入力信号レベルE´がOUT[2]から1.0までの区間とする。
具体的には、たとえば、入出力特性グラフ2600のうち、区間SC261の波形2301は、負のオフセットγ補正により得られる波形であり、区間SC262の波形2602は、ゲインGが一定となる階調逆補正により得られる波形であり、区間SC263の波形2603は、正のオフセットγ補正により得られる波形である。
図26の入出力特性グラフ2600を示す階調逆補正アルゴリズムは、下記式(19)で表現される。
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数である。式(19)のうち、条件がE´<OUT[1]である場合の式が負のオフセットγ補正の式であり、条件がIn[1]≦E<In[2]である場合の式がゲインGが一定となる階調逆補正の式であり、条件がOUT[2]≦E´である場合の式が正のオフセットγ補正の式である。階調逆補正部603は、制御情報312に式(17)を示す階調補正識別子326を検出した場合、式(19)の階調逆補正を実行する。
区間SC261において負のオフセットγ補正を実行することで、階調逆補正されたRAW画像データでの光学的黒値OB付近の色再現性の向上を図ることができる。また、明部のゲインも高くなるため、階調補正により明部側の画素を強調することができる。
実施例5は、入出力特性グラフにおいて入力信号レベルEが0からOBまでの区間の正の傾きを一定にした場合の例を示す。実施例5では、実施例3との相違点を中心に説明し、実施例3と同一構成および同一処理内容については、実施例5でも流用し、かつ、その説明を省略する。
図27は、光学的黒値を用いた場合の階調補正の入出力特性6を示すグラフである。光学的黒値を用いた場合の階調補正の入出力特性例6では、階調補正部201が、光学的黒値OBよりも低い入力信号レベルEについて正の傾きが一定となるような階調補正を実行し、光学的黒値OB以上の入力信号レベルEについて正の階調補正、すなわち、正のオフセット1/γ補正を実行する。
具体的には、たとえば、入出力特性グラフ2700のうち、区間SC9の波形2701は、入力信号レベルEの増加に伴って出力信号レベルE´が増加する線形な波形である。すなわち、区間SC9では、入力信号レベルEおよび出力信号レベルE´の間には正比例の関係がある。光学的黒値OB以上の区間SC27(OB≦E)の波形2702は、正のオフセット1/γ補正により得られる波形である。階調補正部201は、入力信号レベルEが1.0のときに出力信号レベルE´が1.0となるように階調補正でフィッティングする。
図27の入出力特性グラフ2700を示す階調補正アルゴリズムは、下記式(20)で表現される。
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、OBは光学的黒値、γはガンマ値である。Sは、区間SC9の波形2701の傾きを示す固定値である。傾きSは、図27では、たとえば、S=4である。傾きSは正の値であればよい。αは、設定部204で調整可能なフィッティング係数である。具体的には、たとえば、設定部204は、情報処理装置100でのISO感度の増減に応じてフィッティング係数αを調整することが可能である。
式(20)のうち、条件がE<OBである場合の式が入力信号レベルEについて正の傾きが一定となるような階調補正の式であり、条件がOB≦Eである場合の式が正のオフセット1/γ補正の式である。階調補正部201は、式(20)の階調補正アルゴリズムを示す階調補正識別子326を符号化部202に出力し、符号化部202は、階調補正部201からの階調補正識別子326をヘッダ情報301内の制御情報312として付与する。
図28は、光学的黒値を用いた場合の階調補正の入出力特性6におけるゲイン特性を示すグラフである。光学的黒値OBを用いた場合の階調補正における入力信号レベルEのゲイン特性グラフ2800は、式(20)の微分により、下記式(21)で表現される。
Gは、入力信号レベルEのゲインである。具体的には、たとえば、ゲイン特性グラフ2800では、ゲインGは、区間SC9において、一定の値をとる。
また、実施例1と同様、階調補正で暗部のゲインGを大きくすることで、符号化部202と復号部602との間で生じる暗部の歪が抑制される。これにより、現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現しても、暗部の歪が目立ち難くなる。
図29は、光学的黒値を用いる場合の階調逆補正の入出力特性6を示すグラフである。階調逆補正部603は、光学的黒値OBよりも低い入力信号レベルE´について正の傾きが一定となるような階調逆補正を実行し、βよりも低い入力信号レベルE´について負の階調逆補正、すなわち、負のγ補正を実行する。
区間SC291を、入力信号レベルE´が0.0から式(10)に示したβまでの区間とし、区間SC292を、入力信号レベルE´がβから1.0までの区間とする。具体的には、たとえば、入出力特性グラフ2900のうち、区間SC291の波形2901は、正の傾きが一定となるような階調逆補正により得られる波形であり、区間SC292の波形2902は、正のγ補正により得られる波形である。
図29の入出力特性グラフ2900を示す階調逆補正アルゴリズムは、下記式(22)で表現される。
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数である。式(22)のうち、条件がE´<βである場合の式が光学的黒値OBよりも低い入力信号レベルEについて正の傾きが一定となるような階調逆補正の式であり、条件がβ≦E´である場合の式が正のγ補正の式である。階調逆補正部603は、制御情報312に式(20)を示す階調補正識別子326を検出した場合、式(22)の階調逆補正を実行する。
区間SC201において正の傾きが一定となるような階調逆補正を実行することで、階調逆補正された復元RAW画像データでの光学的黒値OB付近の符号化歪抑制効果を大きくできるとともに、当該暗部で発生するノイズを低減することができるので、色再現性の向上を図ることができる。
実施例6は、実施例5において、フィッティング係数を2個用いる例を示す。具体的には、たとえば、実施例5では、入出力特性グラフ2700において入力信号レベルEがOB以上(OB≦E)となる区間で、フィッティング係数であるαを調整可能とした。実施例6では、入力信号レベルEがOB未満(E<OB)となる区間SC9およびOB以上(OB≦E)となる区間の各々で、異なるフィッティング係数を用いる。実施例6では、実施例5との相違点を中心に説明し、実施例5と同一構成および同一処理内容については、実施例6でも流用し、かつ、その説明を省略する。
図30は、光学的黒値を用いた場合の階調補正の入出力特性7を示すグラフである。光学的黒値を用いた場合の階調補正の入出力特性例7では、入出力特性例6と同様、階調補正部201が、光学的黒値OBよりも低い入力信号レベルEについて正の傾きが一定となるような階調補正を実行し、光学的黒値OB以上の入力信号レベルEについて正の階調補正、すなわち、正のオフセット1/γ補正を実行する。
具体的には、たとえば、入出力特性グラフ3000のうち、区間SC9の波形3001は、入力信号レベルEの増加に伴って出力信号レベルE´が増加する線形な波形であり、光学的黒値OB以上の区間の波形3002は、正のオフセット1/γ補正により得られる波形である。階調補正部201は、入力信号レベルEが1.0のときに出力信号レベルE´が1.0となるように階調補正でフィッティングする。
図30の入出力特性グラフ3000を示す階調補正アルゴリズムは、下記式(23)で表現される。
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、OBは光学的黒値、γはガンマ値である。α1は、調整可能なフィッティング係数であり、区間SC9の波形3001の正の傾きを示す。α1は、図30では、たとえば、α1=2である。α1は正の値であればよい。α2は、α1とは異なるフィッティング係数であり、α1に依存する。
設定部204は、情報処理装置100でのISO感度の増減に応じてフィッティング係数αを調整することが可能である。これにより、区間SC9においてフィッティング係数α1で入出力特性グラフ3000の調整が可能となり、かつ、OB≦Eの区間SC27においてフィッティング係数α1とは異なる値のフィッティング係数α2で入出力特性グラフ3000の調整が可能となる。
式(23)のうち、条件がE<OBである場合の式が入力信号レベルEについて正の傾きが一定となるような階調補正の式であり、条件がOB≦Eである場合の式が正のオフセット1/γ補正の式である。階調補正部201は、式(23)の階調補正アルゴリズムを示す階調補正識別子326を符号化部202に出力し、符号化部202は、階調補正部201からの階調補正識別子326をヘッダ情報301内の制御情報312として付与する。
図31は、光学的黒値を用いた場合の階調補正の入出力特性7におけるゲイン特性を示すグラフである。光学的黒値OBを用いた場合の階調補正における入力信号レベルEのゲイン特性グラフ3100は、式(23)の微分により、下記式(24)で表現される。
Gは、入力信号レベルEのゲインである。具体的には、たとえば、ゲイン特性グラフ3100では、ゲインGは、区間SC9において、一定の値をとる。
また、実施例1と同様、階調補正で暗部のゲインGを大きくすることで、符号化部202と復号部602との間で生じる暗部の歪が抑制される。これにより、現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現しても、暗部の歪が目立ち難くなる。
図32は、光学的黒値を用いる場合の階調逆補正の入出力特性7を示すグラフである。階調逆補正部603は、光学的黒値OBよりも低い入力信号レベルEについて正の傾きが一定となるような階調逆補正を実行し、βよりも低い入力信号レベルについて負の階調逆補正、すなわち、負のγ補正を実行する。
区間SC321を、入力信号レベルE´が0.0から式(10)に示したβまでの区間とし、区間SC292を、入力信号レベルE´がβから1.0までの区間とする。具体的には、たとえば、入出力特性グラフ3200のうち、区間SC321の波形3201は、負のγ補正により得られる波形であり、区間SC322の波形3202は、正のγ補正により得られる波形である。
図32の入出力特性グラフ3200を示す階調逆補正アルゴリズムは、下記式(25)で表現される。
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数である。式(25)のうち、条件がE´<βである場合の式が光学的黒値OBよりも低い入力信号レベルEについて正の傾きが一定となるような階調逆補正の式であり、条件がβ≦E´である場合の式が正のγ補正の式である。階調逆補正部603は、制御情報312に式(23)を示す階調補正識別子326を検出した場合、式(25)の階調逆補正を実行する。
区間SC321において正の傾きが一定となるような階調逆補正を実行することで、階調逆補正された復元RAW画像データでの光学的黒値OB付近の符号化歪抑制効果を大きくできるとともに、当該暗部で発生するノイズを低減することができるので、色再現性の向上を図ることができる。
実施例7は、実施例2の他の例であり、光学的黒値OB以下の入力信号レベルEを再現しつつ、実施例1の光学的黒値を用いた場合の階調補正の入出力特性例2のように光学的黒値OBのゲインGを最大化する例である。実施例7では、実施例2との相違点を中心に説明し、実施例2と同一構成および同一処理内容については、実施例7でも流用し、かつ、その説明を省略する。
図33は、光学的黒値を用いた場合の階調補正の入出力特性8を示すグラフである。光学的黒値を用いた場合の階調補正の入出力特性例8では、光学的黒値を用いた場合の階調補正の入出力特性例1,2と異なり、階調補正部201が、光学的黒値OBよりも低い入力信号レベルEについて負の階調補正、すなわち、負の1/γ補正を実行し、光学的黒値OB以上の入力信号レベルEについて正の階調補正、すなわち、正の1/γ補正を実行する。
具体的には、たとえば、入出力特性グラフ3300のうち、区間SC9の波形3301は、負の1/γ補正により得られる波形であり、光学的黒値OB以上の区間の波形3302は、正の1/γ補正により得られる波形である。
図33の入出力特性グラフ3300を示す階調補正アルゴリズムは、下記式(26)で表現される。
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、OBは光学的黒値、γはガンマ値、αは、設定部204で調整可能なフィッティング係数である。具体的には、たとえば、設定部204は、情報処理装置100でのISO感度の増減に応じてフィッティング係数αを調整することが可能である。
式(26)のうち、条件がE<OBである場合の式が負の1/γ補正の式であり、条件がOB≦Eである場合の式が正の1/γ補正の式である。階調補正部201は、式(26)の階調補正アルゴリズムを示す階調補正識別子326を符号化部202に出力し、符号化部202は、階調補正部201からの階調補正識別子326をヘッダ情報301内の制御情報312として付与する。
区間SC9において負の1/γ補正を実行することで、階調補正されたRAW画像データでの光学的黒値OB付近の色再現性の向上を図ることができる。すなわち、入出力特性グラフ3300の光学的黒値OB付近において、光学的黒値OBよりも入力信号レベルEが小さい側(マイナス方向)のノイズと光学的黒値OBよりも入力信号レベルEが大きい側(プラス方向)のノイズとがノイズリダクション処理で相殺されるため、実施例1よりも効率的にノイズを除去することができる。したがって、階調補正されたRAW画像データの光学的黒値OB付近の黒浮きを抑制し、色再現性の向上を図ることができる。
図34は、光学的黒値を用いた場合の階調補正の入出力特性8におけるゲイン特性を示すグラフである。光学的黒値OBを用いた場合の階調補正における入力信号レベルEのゲイン特性グラフ3400は、式(26)の微分により、下記式(27)で表現される。
Gは、入力信号レベルEのゲインである。具体的には、たとえば、ゲイン特性グラフ3400では、ゲインGは、区間SC9において、入力信号レベルEが0.0で最小値をとり、0.0から増加して光学的黒値OBで最大値(無限大)となる。
また、階調補正で暗部のゲインGを大きくすることで、符号化部202と復号部602との間で生じる暗部の歪が抑制される。これにより、現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現しても、暗部の歪が目立ち難くなる。
図35は、光学的黒値を用いる場合の階調逆補正の入出力特性8を示すグラフである。階調逆補正部603は、階調補正RAW画像データの特定の入力信号レベルE´の値β以上について正の階調逆補正、すなわち、正のγ補正を実行し、βよりも低い入力信号レベルについて負の階調逆補正、すなわち、負のγ補正を実行する。
区間SC351を、入力信号レベルE´が0.0から式(10)に示したβまでの区間とし、区間SC352を、入力信号レベルE´がβから1.0までの区間とする。具体的には、たとえば、入出力特性グラフ3500のうち、区間SC351の波形3501は、負のγ補正により得られる波形であり、区間SC352の波形3502は、正のγ補正により得られる波形である。
図35の入出力特性グラフ3500を示す階調逆補正アルゴリズムは、下記式(28)で表現される。
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数である。式(28)のうち、条件がE´<βである場合の式が負のγ補正の式であり、条件がβ≦E´である場合の式が正のγ補正の式である。階調逆補正部603は、制御情報312に式(26)を示す階調補正識別子326を検出した場合、式(28)の階調逆補正を実行する。
区間SC351において負のγ補正を実行することで、階調逆補正された復元RAW画像データでの光学的黒値OB付近の符号化歪抑制効果を大きくできるとともに、当該暗部で発生するノイズを低減することができるので、色再現性の向上を図ることができる。
実施例8は、実施例7において、フィッティング係数を2個用いる例を示す。具体的には、たとえば、実施例7では、入出力特性グラフ3300において入力信号レベルEがOB以上(OB≦E)となる区間SC27で、フィッティング係数であるαを調整可能とした。実施例8では、入力信号レベルEがOB未満(E<OB)となる区間SC9およびOB以上(OB≦E)となる区間SC27の各々で、異なるフィッティング係数を用いる。実施例8では、実施例7との相違点を中心に説明し、実施例7と同一構成および同一処理内容については、実施例8でも流用し、かつ、その説明を省略する。
図36は、光学的黒値を用いた場合の階調補正の入出力特性9を示すグラフである。光学的黒値を用いた場合の階調補正の入出力特性例9では、入出力特性例8と同様、光学的黒値を用いた場合の階調補正の入出力特性例1,2と異なり、階調補正部201が、光学的黒値OBよりも低い入力信号レベルEについて負の階調補正、すなわち、負の1/γ補正を実行し、光学的黒値OB以上の入力信号レベルEについて正の階調補正、すなわち、正の1/γ補正を実行する。
具体的には、たとえば、入出力特性グラフ3600のうち、区間SC9の波形3601は、負の1/γ補正により得られる波形であり、光学的黒値OB以上の区間SC27の波形3602は、正の1/γ補正により得られる波形である。
図36の入出力特性グラフ3600を示す階調補正アルゴリズムは、下記式(29)で表現される。
ただし、EはRAW画像データの信号レベル(入力信号レベル)、E´は階調補正RAW画像データの信号レベル(出力信号レベル)、OETF[]は階調補正関数、OBは光学的黒値、γはガンマ値、α1およびα2は調整可能なフィッティング係数である。α2は、α1とは異なるフィッティング係数であり、α1に依存する。
設定部204は、情報処理装置100でのISO感度の増減に応じてフィッティング係数αを調整することが可能である。これにより、区間SC9においてフィッティング係数α1で入出力特性グラフ3600の調整が可能となり、かつ、OB≦Eの区間SC27においてフィッティング係数α1とは異なる値のフィッティング係数α2で入出力特性グラフ3600の調整が可能となる。
式(29)のうち、条件がE<OBである場合の式が負の1/γ補正の式であり、条件がOB≦Eである場合の式が正の1/γ補正の式である。階調補正部201は、式(29)の階調補正アルゴリズムを示す階調補正識別子326を符号化部202に出力し、符号化部202は、階調補正部201からの階調補正識別子326をヘッダ情報301内の制御情報312として付与する。
区間SC9において負の1/γ補正を実行することで、階調補正されたRAW画像データでの光学的黒値OB付近の色再現性の向上を図ることができる。すなわち、入出力特性グラフ3600の光学的黒値OB付近において、光学的黒値OBよりも入力信号レベルEが小さい側(マイナス方向)のノイズと光学的黒値OBよりも入力信号レベルEが大きい側(プラス方向)のノイズとがノイズリダクション処理で相殺されるため、実施例1よりも効率的にノイズを除去することができる。したがって、階調補正されたRAW画像データの光学的黒値OB付近の黒浮きを抑制し、色再現性の向上を図ることができる。
図37は、光学的黒値を用いた場合の階調補正の入出力特性9におけるゲイン特性を示すグラフである。光学的黒値OBを用いた場合の階調補正における入力信号レベルEのゲイン特性グラフ3700は、式(29)の微分により、下記式(30)で表現される。
Gは、入力信号レベルEのゲインである。具体的には、たとえば、ゲイン特性グラフ3700では、ゲインGは、区間SC9において、入力信号レベルEが0.0で最小値をとり、0.0から増加して光学的黒値OBで最大値(無限大)となる。
また、階調補正で暗部のゲインGを大きくすることで、符号化部202と復号部602との間で生じる暗部の歪が抑制される。これにより、現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現しても、暗部の歪が目立ち難くなる。
図38は、光学的黒値を用いる場合の階調逆補正の入出力特性9を示すグラフである。階調逆補正部603は、階調補正RAW画像データの特定の入力信号レベルE´の値β以上について正の階調逆補正、すなわち、正のγ補正を実行し、βよりも低い入力信号レベルについて負の階調逆補正、すなわち、負のγ補正を実行する。
区間SC381を、入力信号レベルE´が0.0から式(10)に示したβまでの区間とし、区間SC382を、入力信号レベルE´がβから1.0までの区間とする。具体的には、たとえば、入出力特性グラフ3800のうち、区間SC381の波形3801は、負のγ補正により得られる波形であり、区間SC382の波形3802は、正のγ補正により得られる波形である。
図38の入出力特性グラフ3800を示す階調逆補正アルゴリズムは、下記式(31)で表現される。
ただし、E´は階調補正RAW画像データの信号レベル(入力信号レベル)、Eは復元されたRAW画像データの信号レベル(出力信号レベル)、EOTF[]は階調逆補正関数である。式(31)のうち、条件がE´<βである場合の式が負のγ補正の式であり、条件がβ≦E´である場合の式が正のγ補正の式である。階調逆補正部603は、制御情報312に式(29)を示す階調補正識別子326を検出した場合、式(31)の階調逆補正を実行する。
区間SC381において負のγ補正を実行することで、階調逆補正された復元RAW画像データでの光学的黒値OB付近の符号化歪抑制効果を大きくできるとともに、当該暗部で発生するノイズを低減することができるので、色再現性の向上を図ることができる。
以上説明したように、本実施例によれば、階調補正による暗部符号化歪を抑制することができる。また、たとえば、現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現する場合、階調補正で暗部のゲインGを大きくすることで、符号化部202と復号部602との間で生じる暗部の歪を抑制することができる。これにより、現像処理や画像調整時に、暗部の絵柄を見易くする等の理由で暗部を明るく表現しても、暗部の歪が目立ち難くなる。また、階調逆補正により元のRAW画像データに復元することができる。
100 情報処理装置、153 撮像素子、161 有効画素領域、162 光学的黒画素領域、200 符号化装置、201 階調補正部、202 符号化部、203 記録部、204 設定部、312 制御情報、326 階調補正識別子、600 復号装置、601 取得部、602 復号部、603 階調逆補正部
Claims (27)
- 光学的黒を有する撮像素子からのRAW画像データを、ガンマ係数と前記光学的黒の値とに基づいて階調補正する補正部と、
前記補正部によって階調補正された階調補正RAW画像データを符号化する符号化部と、
を有する符号化装置。 - 請求項1に記載の符号化装置であって、
前記符号化部は、前記符号化部によって前記階調補正RAW画像データから符号化された符号化データと、前記ガンマ係数、前記光学的黒の値、および前記補正部による階調補正の種類を示す識別子を含む制御情報と、を含むデータを出力する、符号化装置。 - 請求項1に記載の符号化装置であって、
前記補正部は、前記ガンマ係数と、前記RAW画像データの前記光学的黒の値以上の入力信号レベルと、に基づいて、前記RAW画像データを階調補正する、符号化装置。 - 請求項3に記載の符号化装置であって、
前記補正部は、前記光学的黒の値の入力信号レベルよりも低い入力信号レベルを用いずに、前記RAW画像データを階調補正する、符号化装置。 - 請求項4に記載の符号化装置であって、
前記補正部は、前記RAW画像データの入力信号レベルの前記光学的黒の値から最大値までの範囲で前記RAW画像データを階調補正することにより、前記階調補正RAW画像データの出力信号レベルの最小値から最大値までの範囲で前記階調補正RAW画像データを出力する、符号化装置。 - 請求項3に記載の符号化装置であって、
前記補正部は、前記RAW画像データの前記光学的黒の値以上の入力信号レベルについて階調補正を実行し、前記RAW画像データの前記光学的黒の値よりも低い入力信号レベルについて負の階調補正を実行する、符号化装置。 - 請求項6に記載の符号化装置であって、
前記補正部は、前記光学的黒の値の入力信号レベルを含む第1区間内の入力信号レベルの値が前記光学的黒の値に近づくほど、前記入力信号レベルの強調度を示すゲインが増加するというゲイン特性に基づいて、前記RAW画像データを階調補正する、符号化装置。 - 請求項7に記載の符号化装置であって、
前記補正部は、前記ゲイン特性において前記光学的黒の値の入力信号レベルに設定された仮ゲインに基づいて、前記RAW画像データを階調補正する、符号化装置。 - 請求項8に記載の符号化装置であって、
前記補正部は、前記仮ゲインが前記光学的黒の値の入力信号レベルを含む第2区間内で一定となる前記ゲイン特性に基づいて、前記RAW画像データを階調補正する、符号化装置。 - 請求項9に記載の符号化装置であって、
露出量に基づいて、前記第2区間を設定する設定部を有し、
前記補正部は、前記仮ゲインが前記設定部によって設定された前記第2区間内で一定と前記ゲイン特性に基づいて、前記RAW画像データを階調補正する、符号化装置。 - 請求項3に記載の符号化装置であって、
前記補正部は、前記RAW画像データの前記光学的黒の値よりも低い第1区間の入力信号レベルと前記第1区間の出力信号レベルとの間の正比例の関係に基づいて前記第1区間における入力信号レベルについて階調補正を実行し、前記RAW画像データの前記光学的黒の値から最大値までの範囲である第2区間における入力信号レベルについて階調補正を実行する、符号化装置。 - 請求項11に記載の符号化装置であって、
前記補正部は、前記第2区間の範囲で前記RAW画像データを階調補正することにより、出力信号レベルの前記光学的黒に対応する値から最大値までの範囲で前記階調補正RAW画像データを出力するように調整されたフィッティング係数に基づいて、前記第2区間における入力信号レベルについて階調補正を実行する、符号化装置。 - 請求項11に記載の符号化装置であって、
前記補正部は、前記正比例の関係を規定する第1フィッティング係数に基づいて前記第1区間における入力信号レベルについて階調補正を実行し、前記第2区間の範囲で前記RAW画像データを階調補正することにより、出力信号レベルの前記光学的黒に対応する値から最大値までの範囲で前記階調補正RAW画像データを出力するように調整された第2フィッティング係数に基づいて、前記第2区間における入力信号レベルについて階調補正を実行する、符号化装置。 - 請求項6に記載の符号化装置であって、
前記補正部は、前記RAW画像データの前記光学的黒の値から最大値までの範囲で前記RAW画像データを階調補正することで出力信号レベルの前記光学的黒に対応する値から最大値までの範囲で前記階調補正RAW画像データを出力するように調整されたフィッティング係数に基づいて、前記RAW画像データの前記光学的黒の値から最大値までの範囲における入力信号レベルについて階調補正を実行する、符号化装置。 - 請求項6に記載の符号化装置であって、
前記補正部は、前記RAW画像データの前記光学的黒の値よりも低い入力信号レベルについて第1フィッティング係数に基づいて負の階調補正を実行し、前記RAW画像データの前記光学的黒の値から最大値までの範囲における入力信号レベルについて第2フィッティング係数に基づいて階調補正を実行し、
前記第2フィッティング係数は、前記RAW画像データの前記光学的黒の値から最大値までの範囲で前記RAW画像データを階調補正することで出力信号レベルの前記光学的黒に対応する値から最大値までの範囲で前記階調補正RAW画像データを出力するように調整可能であり、かつ、前記第1フィッティング係数に依存する、符号化装置。 - ガンマ係数と光学的黒の値とに基づいて階調補正された階調補正RAW画像データが符号化された符号化RAW画像データを取得する取得部と、
前記取得部によって取得された符号化RAW画像データを前記階調補正RAW画像データに復号する復号部と、
前記復号部によって復号された前記階調補正RAW画像データを、前記ガンマ係数と前記光学的黒の値とに基づいて階調逆補正して、階調補正前のRAW画像データを出力する逆補正部と、
を有する復号装置。 - 請求項16に記載の復号装置であって、
前記取得部は、前記ガンマ係数、前記光学的黒の値、および前記逆補正部による階調逆補正の種類を示す識別子を含む制御情報を取得し、
前記逆補正部は、前記制御情報に基づいて、前記階調補正RAW画像データを階調逆補正する、復号装置。 - 請求項16に記載の復号装置であって、
前記逆補正部は、前記ガンマ係数と前記光学的黒の値とに基づいて、前記RAW画像データの出力信号レベルが前記光学的黒の値の出力信号レベル以上となるように、前記階調補正RAW画像データを階調逆補正する、復号装置。 - 請求項18に記載の復号装置であって、
前記逆補正部は、前記階調補正RAW画像データの階調逆補正により、前記光学的黒の値の出力信号レベルよりも低い出力信号レベルの画像データを出力しない、復号装置。 - 請求項19に記載の復号装置であって、
前記逆補正部は、前記階調補正RAW画像データの入力信号レベルの最小値から最大値までの範囲で前記階調補正RAW画像データを階調逆補正することにより、出力信号レベルの前記光学的黒の値から上限までの区間で前記RAW画像データを出力する、復号装置。 - 請求項18に記載の復号装置であって、
前記逆補正部は、前記階調補正RAW画像データの所定の入力信号レベル以上について階調逆補正を実行し、前記階調補正RAW画像データの前記所定の入力信号レベルよりも低い入力信号レベルについて負の階調逆補正を実行する、復号装置。 - 請求項21に記載の復号装置であって、
前記取得部は、前記ガンマ係数の値、前記光学的黒の値、前記RAW画像データを前記ガンマ係数の値と前記光学的黒の値とに基づいて階調補正する際に前記光学的黒の値の入力信号レベルに設定された仮ゲイン、および前記逆補正部による階調逆補正の種類を示す識別子を含む制御情報を取得し、
前記逆補正部は、前記制御情報に基づいて、前記階調逆補正および前記負の階調逆補正を実行する、復号装置。 - 請求項22に記載の復号装置であって、
前記制御情報は、前記仮ゲインが一定となる入力信号レベルの範囲を含み、
前記逆補正部は、前記制御情報に基づいて、前記階調逆補正および前記負の階調逆補正を実行する、復号装置。 - 光学的黒を有する撮像素子からのRAW画像データを、ガンマ係数と前記光学的黒の値とに基づいて階調補正する補正処理と、
前記補正処理によって階調補正された階調補正RAW画像データを符号化する符号化処理と、
を実行する符号化方法。 - ガンマ係数と光学的黒の値とに基づいて階調補正された階調補正RAW画像データが符号化された符号化RAW画像データを取得する取得処理と、
前記取得処理によって取得された符号化RAW画像データを前記階調補正RAW画像データに復号する復号処理と、
前記復号処理によって復号された前記階調補正RAW画像データを、前記ガンマ係数と前記光学的黒の値とに基づいて階調逆補正して、階調補正前のRAW画像データを出力する逆補正処理と、
を実行する復号方法。 - 請求項24に記載の符号化方法をプロセッサに実行させる符号化プログラム。
- 請求項25に記載の復号方法をプロセッサに実行させる復号プログラム。
Priority Applications (11)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202311512979.6A CN117579835A (zh) | 2018-01-16 | 2019-01-16 | 编码装置、解码装置、编码方法、解码方法、编码程序及解码程序 |
| US16/962,785 US11146772B2 (en) | 2018-01-16 | 2019-01-16 | Encoder, decoder, encoding method, decoding method, and recording medium |
| EP19741066.5A EP3742736A4 (en) | 2018-01-16 | 2019-01-16 | CODING DEVICE, DECODING DEVICE, CODING METHOD, DECODING METHOD, CODING PROGRAM AND DECODING PROGRAM |
| JP2019566488A JP7226337B2 (ja) | 2018-01-16 | 2019-01-16 | 符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム |
| CN201980019570.6A CN111886872B (zh) | 2018-01-16 | 2019-01-16 | 编码装置、解码装置、编码方法、解码方法、以及记录介质 |
| CN202311512390.6A CN117579834A (zh) | 2018-01-16 | 2019-01-16 | 编码装置、解码装置、编码方法、解码方法、编码程序及解码程序 |
| US17/480,727 US11895447B2 (en) | 2018-01-16 | 2021-09-21 | Encoder, decoder, encoding method, decoding method, and recording medium |
| JP2023016588A JP2023052939A (ja) | 2018-01-16 | 2023-02-07 | 符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム |
| US18/515,575 US20240089419A1 (en) | 2018-01-16 | 2023-11-21 | Encoder, decoder, encoding method, decoding method, and recording medium |
| JP2024173028A JP2025000917A (ja) | 2018-01-16 | 2024-10-02 | 符号化装置 |
| US18/954,932 US20250088615A1 (en) | 2018-01-16 | 2024-11-21 | Encoder, decoder, encoding method, decoding method, and recording medium |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018005212 | 2018-01-16 | ||
| JP2018-005212 | 2018-01-16 |
Related Child Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| US16/962,785 A-371-Of-International US11146772B2 (en) | 2018-01-16 | 2019-01-16 | Encoder, decoder, encoding method, decoding method, and recording medium |
| US17/480,727 Continuation US11895447B2 (en) | 2018-01-16 | 2021-09-21 | Encoder, decoder, encoding method, decoding method, and recording medium |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2019142836A1 true WO2019142836A1 (ja) | 2019-07-25 |
Family
ID=67302289
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/JP2019/001150 Ceased WO2019142836A1 (ja) | 2018-01-16 | 2019-01-16 | 符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム |
Country Status (5)
| Country | Link |
|---|---|
| US (4) | US11146772B2 (ja) |
| EP (1) | EP3742736A4 (ja) |
| JP (3) | JP7226337B2 (ja) |
| CN (3) | CN117579834A (ja) |
| WO (1) | WO2019142836A1 (ja) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP7226337B2 (ja) * | 2018-01-16 | 2023-02-21 | 株式会社ニコン | 符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム |
| JP2024122091A (ja) * | 2023-02-28 | 2024-09-09 | キヤノン株式会社 | 情報処理装置およびその制御方法 |
| JP7780601B1 (ja) | 2024-09-12 | 2025-12-04 | レノボ・シンガポール・プライベート・リミテッド | 情報処理システム、情報処理装置、及び制御方法 |
Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPS6437178A (en) * | 1987-08-01 | 1989-02-07 | Sharp Kk | Digital video camera |
| JP2004129065A (ja) * | 2002-10-04 | 2004-04-22 | Fuji Photo Film Co Ltd | デジタルカメラ |
| JP2005101866A (ja) * | 2003-09-24 | 2005-04-14 | Sharp Corp | 画像圧縮方法、画像圧縮装置、撮像装置、処理箇所特定方法、処理箇所特定器及びコンピュータプログラム |
| JP2006270478A (ja) | 2005-03-24 | 2006-10-05 | Fuji Photo Film Co Ltd | ディジタル・カメラ,画像再生装置およびそれらの制御方法ならびに画像再生装置を制御するプログラム |
| JP2008109505A (ja) * | 2006-10-26 | 2008-05-08 | Canon Inc | 画像処理装置、画像処理装置の制御方法、コンピュータプログラム、及び記憶媒体 |
| JP4372686B2 (ja) * | 2002-07-24 | 2009-11-25 | パナソニック株式会社 | 撮像システム |
| JP2009302739A (ja) * | 2008-06-11 | 2009-12-24 | Fujifilm Corp | 全方位撮像装置及び全方位画像の撮像制御方法 |
| JP2010124114A (ja) * | 2008-11-18 | 2010-06-03 | Nikon Corp | デジタルカメラおよび画像データ処理プログラム |
| JP2011188083A (ja) * | 2010-03-05 | 2011-09-22 | Sony Corp | 情報処理装置、情報処理方法、プログラム、及び光学顕微鏡を搭載した撮像装置 |
| JP2018005212A (ja) | 2016-06-30 | 2018-01-11 | エルジー ディスプレイ カンパニー リミテッド | フレキシブル有機発光ダイオード表示装置 |
Family Cites Families (24)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5926562A (en) * | 1995-06-23 | 1999-07-20 | Fuji Photo Film Co., Ltd. | Image processing method using reference values to determine exposure state |
| US6978045B1 (en) * | 1998-10-02 | 2005-12-20 | Minolta Co., Ltd. | Image-processing apparatus |
| JP2001037178A (ja) * | 1999-07-16 | 2001-02-09 | Okuma Corp | 電動機の回転子 |
| US6738510B2 (en) * | 2000-02-22 | 2004-05-18 | Olympus Optical Co., Ltd. | Image processing apparatus |
| US7643675B2 (en) * | 2003-08-01 | 2010-01-05 | Microsoft Corporation | Strategies for processing image information using a color information data structure |
| JP4366485B2 (ja) * | 2004-09-22 | 2009-11-18 | カシオ計算機株式会社 | 撮像装置、画像処理方法及びプログラム |
| KR20080102117A (ko) * | 2006-03-20 | 2008-11-24 | 소니 가부시끼 가이샤 | 화상신호처리장치 및 화상신호처리방법 |
| JP4867554B2 (ja) * | 2006-09-29 | 2012-02-01 | カシオ計算機株式会社 | 電子カメラ、撮像制御プログラム及び撮像制御方法 |
| JP4797949B2 (ja) * | 2006-11-24 | 2011-10-19 | ソニー株式会社 | 撮像装置、画像処理装置、方法およびプログラム |
| JP4835525B2 (ja) * | 2007-07-04 | 2011-12-14 | ソニー株式会社 | 画像処理装置、画像処理方法及びプログラム |
| JP4976266B2 (ja) * | 2007-12-05 | 2012-07-18 | 株式会社リコー | 画像処理装置、画像処理方法及びプログラム |
| RU2504011C2 (ru) * | 2009-03-13 | 2014-01-10 | Долби Лабораторис Лайсэнзин Корпорейшн | Многоуровневое сжатие видеоизображения с расширенным динамическим диапазоном, визуальным динамическим диапазоном и широкой цветовой гаммой |
| JP5589585B2 (ja) * | 2009-07-07 | 2014-09-17 | ソニー株式会社 | 画像処理装置、画像処理方法およびプログラム |
| WO2012147018A2 (en) * | 2011-04-28 | 2012-11-01 | Koninklijke Philips Electronics N.V. | Apparatuses and methods for hdr image encoding and decoding |
| US9854247B2 (en) * | 2012-07-09 | 2017-12-26 | Nikon Corporation | Moving image compression device, moving image decoding device, image compression device, image decoding device, imaging device, and non-transitory medium storing program |
| US9596390B2 (en) * | 2013-04-23 | 2017-03-14 | Olympus Corporation | Imaging apparatus, imaging method, and computer-readable recording medium |
| US10356442B2 (en) * | 2013-11-01 | 2019-07-16 | Sony Corporation | Image processing apparatus and method |
| JP6242171B2 (ja) * | 2013-11-13 | 2017-12-06 | キヤノン株式会社 | 画像処理装置、画像処理方法、プログラム |
| CN107077726B (zh) * | 2014-10-27 | 2019-04-09 | 杜比实验室特许公司 | 使用扩展颜色范围的内容映射 |
| AU2015207825A1 (en) * | 2015-07-28 | 2017-02-16 | Canon Kabushiki Kaisha | Method, apparatus and system for encoding video data for selected viewing conditions |
| CN108521859B (zh) * | 2015-11-24 | 2020-09-22 | 皇家飞利浦有限公司 | 用于处理多个hdr图像源的装置和方法 |
| JP6652301B2 (ja) * | 2016-01-27 | 2020-02-19 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
| JP7213616B2 (ja) * | 2017-12-26 | 2023-01-27 | 株式会社Preferred Networks | 情報処理装置、情報処理プログラム及び情報処理方法。 |
| JP7226337B2 (ja) * | 2018-01-16 | 2023-02-21 | 株式会社ニコン | 符号化装置、復号装置、符号化方法、復号方法、符号化プログラム、および復号プログラム |
-
2019
- 2019-01-16 JP JP2019566488A patent/JP7226337B2/ja active Active
- 2019-01-16 US US16/962,785 patent/US11146772B2/en active Active
- 2019-01-16 CN CN202311512390.6A patent/CN117579834A/zh active Pending
- 2019-01-16 WO PCT/JP2019/001150 patent/WO2019142836A1/ja not_active Ceased
- 2019-01-16 CN CN201980019570.6A patent/CN111886872B/zh active Active
- 2019-01-16 EP EP19741066.5A patent/EP3742736A4/en active Pending
- 2019-01-16 CN CN202311512979.6A patent/CN117579835A/zh active Pending
-
2021
- 2021-09-21 US US17/480,727 patent/US11895447B2/en active Active
-
2023
- 2023-02-07 JP JP2023016588A patent/JP2023052939A/ja active Pending
- 2023-11-21 US US18/515,575 patent/US20240089419A1/en not_active Abandoned
-
2024
- 2024-10-02 JP JP2024173028A patent/JP2025000917A/ja active Pending
- 2024-11-21 US US18/954,932 patent/US20250088615A1/en active Pending
Patent Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPS6437178A (en) * | 1987-08-01 | 1989-02-07 | Sharp Kk | Digital video camera |
| JP4372686B2 (ja) * | 2002-07-24 | 2009-11-25 | パナソニック株式会社 | 撮像システム |
| JP2004129065A (ja) * | 2002-10-04 | 2004-04-22 | Fuji Photo Film Co Ltd | デジタルカメラ |
| JP2005101866A (ja) * | 2003-09-24 | 2005-04-14 | Sharp Corp | 画像圧縮方法、画像圧縮装置、撮像装置、処理箇所特定方法、処理箇所特定器及びコンピュータプログラム |
| JP2006270478A (ja) | 2005-03-24 | 2006-10-05 | Fuji Photo Film Co Ltd | ディジタル・カメラ,画像再生装置およびそれらの制御方法ならびに画像再生装置を制御するプログラム |
| JP2008109505A (ja) * | 2006-10-26 | 2008-05-08 | Canon Inc | 画像処理装置、画像処理装置の制御方法、コンピュータプログラム、及び記憶媒体 |
| JP2009302739A (ja) * | 2008-06-11 | 2009-12-24 | Fujifilm Corp | 全方位撮像装置及び全方位画像の撮像制御方法 |
| JP2010124114A (ja) * | 2008-11-18 | 2010-06-03 | Nikon Corp | デジタルカメラおよび画像データ処理プログラム |
| JP2011188083A (ja) * | 2010-03-05 | 2011-09-22 | Sony Corp | 情報処理装置、情報処理方法、プログラム、及び光学顕微鏡を搭載した撮像装置 |
| JP2018005212A (ja) | 2016-06-30 | 2018-01-11 | エルジー ディスプレイ カンパニー リミテッド | フレキシブル有機発光ダイオード表示装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111886872B (zh) | 2023-12-01 |
| JP7226337B2 (ja) | 2023-02-21 |
| US11895447B2 (en) | 2024-02-06 |
| CN117579834A (zh) | 2024-02-20 |
| EP3742736A1 (en) | 2020-11-25 |
| US20240089419A1 (en) | 2024-03-14 |
| JP2023052939A (ja) | 2023-04-12 |
| EP3742736A4 (en) | 2021-12-08 |
| CN117579835A (zh) | 2024-02-20 |
| US20210014464A1 (en) | 2021-01-14 |
| US11146772B2 (en) | 2021-10-12 |
| CN111886872A (zh) | 2020-11-03 |
| JP2025000917A (ja) | 2025-01-07 |
| JPWO2019142836A1 (ja) | 2021-01-28 |
| US20220006993A1 (en) | 2022-01-06 |
| US20250088615A1 (en) | 2025-03-13 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN101911701B (zh) | 用于图像配准和视频编码的共享的块比较架构 | |
| JP4799438B2 (ja) | 画像記録装置、画像記録方法、画像符号化装置、及びプログラム | |
| KR101241662B1 (ko) | 화상 데이터 처리 장치, 화상 데이터 처리 방법 및 기록매체 | |
| JP4682990B2 (ja) | カメラ画像圧縮処理装置及び圧縮処理方法 | |
| JP2025000917A (ja) | 符号化装置 | |
| US11336896B2 (en) | Image encoding apparatus and image decoding apparatus, methods of controlling the same, and non-transitory computer-readable storage medium | |
| JP3783238B2 (ja) | 撮像システム、画像処理装置、符号化装置、符号化方法及びランダムノイズを除去する方法 | |
| JP6906324B2 (ja) | 符号化装置、符号化方法、及び、プログラム | |
| JP2015023498A (ja) | 画像符号化装置、画像符号化方法およびプログラム | |
| US10516896B2 (en) | Encoding device, encoding method, and storage medium | |
| JP5165084B2 (ja) | 画像符号化装置 | |
| WO2016171006A1 (ja) | 符号化装置および符号化方法、並びに、復号装置および復号方法 | |
| JP5213604B2 (ja) | 撮像装置 | |
| JP6152642B2 (ja) | 動画像圧縮装置、動画像復号装置およびプログラム | |
| KR100771138B1 (ko) | 촬영 장치 및 영상 보정 방법 | |
| JP2017200199A (ja) | 動画像圧縮装置、動画像復号装置およびプログラム | |
| JP2008103928A (ja) | 撮像装置 | |
| JP2017059999A (ja) | 撮像装置および撮像装置における符号化方法 | |
| JP2022108084A (ja) | 符号化装置、制御方法、並びにプログラム | |
| JP2011029690A (ja) | 電子カメラ及び画像符号化方法 | |
| JP2006197181A (ja) | 固体撮像素子の信号処理装置および信号処理方法、並びに画像処理装置 | |
| JP2019036992A (ja) | 圧縮装置、復号装置およびプログラム | |
| JP2012099943A (ja) | 画像処理装置、画像処理方法及びプログラム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 19741066 Country of ref document: EP Kind code of ref document: A1 |
|
| ENP | Entry into the national phase |
Ref document number: 2019566488 Country of ref document: JP Kind code of ref document: A |
|
| NENP | Non-entry into the national phase |
Ref country code: DE |
|
| ENP | Entry into the national phase |
Ref document number: 2019741066 Country of ref document: EP Effective date: 20200817 |