[go: up one dir, main page]

WO2009060970A1 - 信号処理装置及び信号処理プログラム - Google Patents

信号処理装置及び信号処理プログラム Download PDF

Info

Publication number
WO2009060970A1
WO2009060970A1 PCT/JP2008/070373 JP2008070373W WO2009060970A1 WO 2009060970 A1 WO2009060970 A1 WO 2009060970A1 JP 2008070373 W JP2008070373 W JP 2008070373W WO 2009060970 A1 WO2009060970 A1 WO 2009060970A1
Authority
WO
WIPO (PCT)
Prior art keywords
histogram
video signal
section
signal processing
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2008/070373
Other languages
English (en)
French (fr)
Inventor
Masao Sambongi
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to CN200880114699.7A priority Critical patent/CN101849405B/zh
Publication of WO2009060970A1 publication Critical patent/WO2009060970A1/ja
Priority to US12/770,955 priority patent/US8724898B2/en
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/40Picture signal circuits
    • H04N1/407Control or modification of tonal gradation or of extreme levels, e.g. background level
    • H04N1/4072Control or modification of tonal gradation or of extreme levels, e.g. background level dependent on the contents of the original
    • H04N1/4074Control or modification of tonal gradation or of extreme levels, e.g. background level dependent on the contents of the original using histograms
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4318Generation of visual interfaces for content selection or interaction; Content or additional data rendering by altering the content in the rendering process, e.g. blanking, blurring or masking an image region
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/57Control of contrast or brightness
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence

Definitions

  • the present invention relates to gradation conversion processing of a video signal, and more particularly to an image signal processing apparatus and image signal processing program that perform gradation conversion processing using a histogram of the video signal. .
  • BACKGROUND ART In the signal processing of imaging systems such as current digital still cameras and video cameras, processing of converting the gradation of video signals is often performed.
  • As one method of gradation conversion processing there is a method of calculating gradation conversion characteristics using a histogram of a video signal. For example, in Japanese Patent Application Laid-Open No.
  • the characteristic of the content is determined based on the information obtained from the histogram of the input video signal, and the contrast adjustment according to the characteristic of the content is performed. It is possible.
  • the histogram is the same, the subject information of the video signal may be different, and the processing may be insufficient with the same gradation conversion characteristic.
  • the video signal is a portrait and a landscape, at the time of the portrait, as the gradation conversion characteristic to the face area, one not emphasizing the contrast so much is preferred, and when the scene is the contrast, the contrast is enhanced to some extent Is preferred.
  • the present invention is capable of high-quality tone conversion processing according to the characteristics of a video signal. It is an object of the present invention to provide an
  • the signal processing apparatus that converts the gray level of the video signal from the imaging system and outputs it comprises: feature quantity calculation means for calculating the feature quantity of the video signal; and a histogram when obtaining the histogram of the video signal.
  • a section setting control stage which sets a section of pixel values in a histogram according to the feature amount, and a gradation which calculates a gradation conversion characteristic using a histogram obtained using the section set by the section setting control unit Conversion characteristic calculation means; and gradation conversion means for performing step conversion on the video signal using the gradation conversion characteristics.
  • FIG. 1 is a block diagram of a signal processing apparatus according to a first embodiment.
  • FIG. 2 is a block diagram of the section setting unit.
  • FIG. 3 is a block diagram of the feature quantity calculation unit.
  • FIG. 4A is a diagram showing a histogram before changing the number of sections.
  • FIG. 4B is a diagram showing the histogram after changing the number of sections.
  • FIG. 5A is a diagram showing a histogram before changing the section width.
  • FIG. 5B is a diagram showing the histogram after changing the interval width.
  • FIG. 6A shows an example of a histogram.
  • FIG. 6B is a diagram showing gradation conversion characteristics.
  • FIG. 7A shows an example of a histogram.
  • FIG. 7B is a diagram showing the histogram after changing the section width.
  • FIG. 7C is a diagram showing the histogram after changing the number of sections.
  • FIG. 8A shows an example of a histogram.
  • FIG. 8B is a diagram showing the gradation conversion characteristics for the histogram of FIG. 8A.
  • Figure 8C shows one of the histograms It is a figure which shows an example.
  • FIG. 8D is a diagram showing the gradation conversion characteristics for the histogram of FIG. 8C.
  • FIG. 9 is a flowchart of software according to the first embodiment.
  • FIG. 10 is a block diagram of a signal processing device according to a second embodiment.
  • FIG. 11 is a flowchart regarding software according to the second embodiment.
  • FIG. 12 is a block diagram of a signal processing device according to a third embodiment.
  • FIG. 13 is a flowchart regarding software according to a third embodiment.
  • BEST MODE FOR CARRYING OUT THE INVENTION FIG. 1 is a block diagram of a signal processing apparatus according to a first embodiment.
  • CCD charge coupled device
  • the video signal from the A / D 105 is transferred to the signal processing unit 108 via the buffer 106.
  • the signal from the buffer (buffer memory) 106 is also transferred to the imaging control unit 10a.
  • the diaphragm 101, AF motor photographing control unit 107 (autofocus motor) 102 is connected to the contact and CCD 104.
  • the signal processing unit 108 is connected to the section setting unit 109 and the feature amount calculation unit 110.
  • the section setting unit 109 is connected to the gradation conversion characteristic calculation unit 112.
  • the feature amount calculation unit 110 is connected to the section control unit 111.
  • the section control unit 111 is connected to the section setting unit 109.
  • the tone conversion characteristic calculation unit 112 is connected to the tone conversion unit 113.
  • the tone conversion unit 113 is connected to the compression unit 114.
  • the compression unit 114 is connected to the output unit 115.
  • a control unit II 6 such as a microcomputer includes a photographing control unit 107, a signal processing unit 108, A section setting unit 109, a feature amount calculation unit 110, a section control unit 111, a gradation conversion characteristic calculation unit 112, a gradation conversion unit 113, and a compression unit 114 are bidirectionally connected. Furthermore, an external I / F unit (interface unit) 117 provided with a power switch, shutter button, and an interface for switching between various modes at the time of shooting is also bidirectionally connected to the control unit 116.
  • I / F unit interface unit
  • the signal processing device After setting the shooting conditions such as ISO sensitivity and exposure via the external I / F unit 117, the signal processing device enters the pre-shooting mode by pressing the shutter button (not shown) halfway.
  • the A / D 105 converts a video signal captured through the lens system 100, the aperture 101, the force filter 103, and the CCD 104 into a digital signal and transfers the digital signal to the buffer 106.
  • the CCD 104 is assumed to be a single-plate CCD of RGB primary colors, and the number of gradations (bit length) of the signal by the A / D 105 is, eg, it (40%).
  • the video signal in the buffer 106 is transferred to the photographing control unit 107.
  • the imaging control unit 107 detects contrast information in the AF area of the video signal, and controls the AF motor 102 so as to maximize this, thereby obtaining a focusing signal and acquiring distance information.
  • the distance to the main subject is measured using an external infrared sensor (not shown), and the AF motor 102 is controlled accordingly to obtain distance information at the in-focus position.
  • the photographing control unit 107 controls the electronic shutter speed of the aperture stop 101 and the CCD 104 and the like so as to obtain appropriate exposure using a luminance level in a signal and a luminance sensor (not shown).
  • the main photographing is performed.
  • the actual photographing is performed based on the focusing condition and the exposure condition obtained by the photographing control unit 107, and the information at the time of photographing is transferred to the control unit 116.
  • the video signal in the buffer 106 is transferred to the signal processing unit 108.
  • the signal processing unit 108 reads the video signal of the single plate state on the buffer 106 under the control of the control unit 116, and performs three-plate state of each pixel RGB in which well-known interpolation processing, white balance processing, etc. are performed. Generate a video signal of
  • the video signal processed by the signal processing unit 108 is transferred to the section setting unit 109, the feature amount calculation unit 110 and the gradation conversion unit 113.
  • the section setting unit 109 divides the possible range of the signal value (pixel value) of the video signal transferred from the signal processing unit 108 into a plurality of sections, and calculates the frequency of the signal value contained in each section. Calculate the histogram (frequency distribution) based on the calculation result.
  • FIG. 2 shows an example of a configuration of the section setting unit 109, which comprises a buffer 200, a section number adjustment section 201, and a section width adjustment section 202.
  • the signal processing unit 108 transfers the video signal to the puffer 200.
  • the section number adjustment unit 201 adjusts the number of sections of the signal value of the video signal transferred from the buffer 200 based on the control of the section control unit 111.
  • FIG. 4 shows an explanatory view of the change in the number of sections of the histogram.
  • FIG. 4A shows the histogram of the video signal transferred to the buffer 200.
  • the number of columns (rectangles) constituting this histogram, that is, the number of sections, is equal to the bit length (the number of gradations) of the input signal, for example, 12 bits (4096).
  • the luminance value (i) of a pixel as a signal value on the horizontal axis in FIGS. 4A and 4B may be either an RGB signal value or a Y signal value.
  • Fig. 4B shows a histogram in which the number of intervals is changed from Fig. 4A.
  • the histogram whose number of sections has been changed is transferred to the section width adjustment unit 202.
  • the interval width adjustment unit 202 adjusts the interval width of the histogram using the histogram transferred from the interval number adjustment unit 201 and the video signal transferred from the buffer 200 based on the control of the interval control unit 111.
  • FIG. 5A and Fig. 5B show an explanatory view of the change of the section width of the histogram.
  • FIG. 5A shows the histogram transferred from the section number adjustment unit 201.
  • the section width adjustment unit 202 changes the section width of this histogram as shown in FIG. 5B to make the section width nonuniform. Since the total number of signal values is constant, the total area of a plurality of columns constituting the histogram is maintained before and after changing the section width. Also, the area of a column (that is, the product of the frequency value and the section width) constituting the histogram corresponds to the number of signal values (the number of pixels) included in the section of the column.
  • the histogram whose section width has been changed is transferred to the gradation conversion characteristic calculation unit 112.
  • the configuration in which both the number of sections adjustment unit 201 and the section width adjustment unit 202 are provided is shown here, either configuration may be used.
  • the widths of the columns that make up the histogram are equal at all locations, and with the configuration with only the section width adjustment unit 202, the number of sections is a predetermined number determined in advance. Calculate the histogram.
  • the feature amount calculation unit 110 calculates a feature amount for the video signal transferred from the signal processing unit 108, and transfers the information to the section control unit 111.
  • the section control unit 111 controls the number of sections and the section width in the section setting unit 109 based on the transferred information. The processing methods of the feature amount calculation unit 110 and the section control unit 111 will be described later.
  • the tone conversion characteristic calculation unit 112 uses the histogram transferred from the section setting unit 109 to calculate a tone conversion characteristic (also referred to as a tone conversion function or a tone curve).
  • a tone conversion characteristic also referred to as a tone conversion function or a tone curve.
  • One method of calculating the gradation conversion characteristic is to use the cumulative histogram shown in FIG. 6B as the gradation conversion characteristic.
  • Fig. 6A shows the histogram transferred from the interval setting unit 109
  • Fig. 6B shows the result of accumulating the histogram (accumulated histogram).
  • the vertical axis t (k) in FIG. 6B represents the output luminance value with respect to the input luminance value on the horizontal axis.
  • the input luminance value is the luminance value before gradation conversion
  • the output luminance value is the luminance value after gradation conversion.
  • the value of k represents the section number, and is related to the number of sections of the histogram. Gradation conversion using this gradation conversion characteristic can smooth the histogram and enhance the contrast.
  • the gradation conversion characteristic calculated by the gradation conversion characteristic calculation unit 112 is transferred to the gradation conversion unit 113. Will be sent.
  • the tone conversion unit 113 performs tone conversion processing on the video signal transferred from the signal processing unit 108 using the tone conversion characteristic transferred from the tone conversion characteristic calculation unit 112.
  • the gradation conversion process may be performed on each of the RGB signals, or may be performed on the Y signal (luminance signal).
  • the video signal subjected to gradation conversion processing by the gradation conversion unit 113 is transferred to the compression unit 114.
  • the compression unit 114 compresses the video signal transferred from the gradation conversion unit 113 by using known JPEG and the like, and transfers the compressed signal to the output unit 115.
  • the output unit 115 records and stores compressed signals on a memory card or the like, or displays video signals on an external display.
  • FIG. 3 shows an example of the configuration of the feature quantity calculation unit 110, which comprises a buffer 300, a histogram calculation unit 301, a bit luminance calculation unit 302, and a main subject calculation unit 303.
  • the signal processing unit 108 transfers the video signal to the buffer 300.
  • the buffer 300 transfers the video signal to the histogram calculation unit 301, the bit luminance calculation unit 302, and the main subject calculation unit 303.
  • a histogram calculation unit 301 calculates a histogram similar to that of FIG. 4A as a feature amount or characteristic of the video signal transferred from the buffer 300.
  • the histogram calculation unit 301 includes number calculation means for calculating the number of the signal values included in each section.
  • the histogram calculated here is different from the histogram calculated by the section setting unit 109 and transferred to the gradation conversion characteristic calculation unit 112, and is calculated with a predetermined number of sections and a uniform section width. Do.
  • the bit luminance calculation unit 302 calculates the average luminance value and the bit length indicating the gradation as the coverage amount of the video signal transferred from the buffer 300.
  • G signal or ⁇ signal is used to calculate the average luminance value.
  • the main subject calculation unit 303 extracts the main subject as the feature amount of the video signal transferred from the puffer 300, and calculates a histogram or an average luminance value and a variance value at the location.
  • the main subject is a face
  • the face area is extracted using a known face detection method.
  • a predetermined area in the AF area may be set as the main subject.
  • Each feature amount is transferred to the interval control unit 111, and control of the number of intervals and interval width of the histogram is performed. I do.
  • the feature value calculation unit 110 may be configured to include at least one or two of the histogram calculation unit 301, the bit luminance calculation unit 302, and the main subject calculation unit 303.
  • FIG. 7 is an explanatory view of control of the section width and the number of sections based on the information of the histogram performed by the section control unit 111.
  • a histogram as shown in Fig. 7A is obtained from the video signal as the feature quantity
  • the frequency of (2) is larger than the frequency of the other sections in the frequency (0) in each section. (Or maximum or maximum).
  • the section control unit 111 can detect a section whose frequency is larger than the frequency of other sections, and calculate the signal value of the section as information (feature amount) of the histogram.
  • the number of sections of the histogram is 2, it becomes Q ⁇ k?
  • the tone conversion characteristics are calculated from such a histogram, the change in the tone conversion characteristics becomes sharp around the luminance value where the frequency of the histogram is high, and as a result of the tone conversion processing, the contrast of the input video signal is It may be over-emphasized and result in an unnatural image.
  • the section width or the number of sections may be set in accordance with the number of pixels included in each of the adjacent sections and the information (feature amount) of the histogram.
  • the section width of the section of the luminance value of (2) whose frequency is larger than the frequency of other sections is increased, and the section width is decreased in the section around the section.
  • the section control unit 111 can calculate a steep characteristic from the tone conversion characteristic calculated from the histogram, and change the number of sections or the section width at that position. For example, steep characteristics can be determined using the second-order difference value of the gradation conversion characteristic as shown in FIG. 6B. Using the output luminance value t (k), the value of the second-order difference in the section k is calculated as in the following equation (2).
  • the section control unit 111 sets a predetermined threshold value, and if the absolute value of the second-order difference in equation (2) is larger than the threshold, the section where the absolute value of the second-order difference is larger than the threshold is the floor. Increase the section width or decrease the number of sections so that they do not exist in the tone conversion characteristics.
  • the average luminance value and the bit length may be used as feature quantities.
  • the histogram of the video signal has a peak in the low luminance part and can be as shown in Fig. 8A. 1) The quality of the video signal is high.
  • the gradation conversion characteristic is steep and the gradation conversion processing is performed when the value is less than the predetermined value, the contrast may be emphasized and the gradation and the pi may be noticeable.
  • the interval control unit 111 sets a threshold according to the feature amount so that the frequency of the histogram or the number of pixels included in each of the plurality of sections satisfies a predetermined condition with the threshold. Set the number of sections or the width of sections in.
  • a certain threshold
  • control of the number of sections or the section width is performed so that the frequency becomes equal to or less than the threshold.
  • the parameter o of (ri) is subject information as a feature amount obtained from the main subject calculation unit 303.
  • the tone conversion characteristic is calculated with a small threshold value and contrast is not enhanced, and when the subject is a landscape, a tone conversion characteristic with a large threshold value is calculated. can do.
  • optimal gradation conversion processing can be performed according to the video signal, and a high quality video signal can be calculated.
  • processing by hardware is assumed, but it is not necessary to be limited to such a configuration.
  • the software is stored as a program in a computer readable storage medium.
  • the computer has, for example, a microprocessor and memory.
  • the program comprises program code (instructions) for causing a computer to perform the following steps.
  • FIG. 9 shows a flowchart concerning processing executed by the software (program) of the first embodiment.
  • the header information is read in step S1, and the video signal is input in step S2.
  • step S3 corresponding to the signal processing unit 108
  • predetermined signal processing is performed
  • step S5 corresponding to the feature amount calculation unit 110
  • the feature amount is calculated from the video signal, and corresponds to the section setting unit 109.
  • step S4 To calculate the histogram used in step S4 to calculate a gradation conversion characteristic based on information from step S 5 that.
  • the tone conversion characteristics are calculated in step S6 corresponding to the tone conversion characteristic calculation unit 112, and the tone conversion processing is performed on the video signal in step S7 corresponding to the tone conversion unit 113.
  • step S8 it is determined whether the process has been performed on all the pixels. If the process has been performed on all the pixels, the process ends.
  • FIG. 10 is a block diagram of a signal processing device according to a second embodiment.
  • the same names and numbers are assigned to the same components as in the first embodiment.
  • the signal processing unit 108 is connected to the local region extraction unit 123.
  • the local region extraction unit 123 is connected to the section setting unit 120 and the gradation conversion unit 122 for reading.
  • the section setting unit 120 is connected to the gradation conversion characteristic calculation unit 121.
  • the tone conversion characteristic calculation unit 121 is connected to the tone conversion unit 122.
  • the tone conversion unit 122 is connected to the compression unit 114.
  • a control unit 116 such as a microcomputer is bi-directionally connected to the section setting unit 120, the gradation conversion characteristic calculation unit 121, and the gradation conversion unit 122.
  • the differences from the first embodiment will be mainly described.
  • the video signal is transferred from the signal processing unit 108 to the local region extraction unit 123.
  • the local region extraction unit 123 extracts a local region centered on the focus pixel in the video signal, and transfers the video signal of the local region to the section setting unit 120 and the gradation conversion unit 122.
  • the section setting unit 120 calculates a histogram based on the control of the section control unit 111 with respect to the video signal of the local region transferred as in the section setting unit 109.
  • the calculated histogram in the local region is transferred to the gradation conversion characteristic calculation unit 121, and the gradation conversion characteristic in the local region is calculated in the same manner as the gradation conversion characteristic calculation unit 112.
  • the calculated tone conversion characteristics are transferred to the tone converter 122.
  • the tone conversion unit 122 performs tone conversion processing on the local region of the video signal transferred from the local region extraction unit 123. Alternatively, tone conversion processing may be performed on the target pixel in the local region.
  • processing by hardware is assumed, but it is not necessary to be limited to such a configuration.
  • a configuration is possible in which the video signal from the CCD 104 is output to a computer as unprocessed raw data, together with ISO sensitivity information and header information such as the video signal size, and separately processed by software.
  • the software is stored as a program in a computer readable storage medium.
  • the computer has, for example, a microprocessor and memory.
  • the program comprises program code (instructions) for causing a computer to perform the following steps.
  • FIG. 11 shows a flow chart regarding software processing (program) of the second embodiment.
  • the header information is read in step S1, and the video signal is input in step S2.
  • step S3 corresponding to the signal processing unit 108
  • predetermined signal processing is performed, and in step S10 corresponding to the local region extraction unit 123, a local region centered on the pixel of interest is extracted.
  • step S5 corresponding to the feature amount calculation unit 110, the feature amount is calculated from the video signal, and in step S11 corresponding to the section setting unit 120, local used in calculation of gradation conversion characteristics based on the information from step S5. Calculate the histogram in the area.
  • step S12 The tone conversion characteristics are calculated in step S12 corresponding to the tone conversion characteristic calculation unit 121, and the tone conversion processing is performed on the local region of the video signal in step S13 corresponding to the tone conversion unit 122.
  • step S8 it is determined whether all pixels have been processed. If all pixels have been processed, the process ends.
  • FIG. 12 is a block diagram of the signal processing device of the third embodiment.
  • the same names and numbers are assigned to the same components as in the first embodiment. Hereinafter, only differences from the first embodiment will be described.
  • the signal processing unit 108 is connected to the local region extraction unit 123.
  • the local region extraction unit 123 is connected to the feature amount calculation unit 130, the section setting unit 132, and the gradation conversion unit 122.
  • the feature amount calculation unit 130 is connected to the section control unit 131, and the section control unit 131 is connected to the section setting unit 132.
  • the section setting unit 132 is connected to the gradation conversion characteristic calculation unit 121.
  • the tone conversion characteristic calculation unit 121 is connected to the tone conversion unit 122.
  • the P-key conversion unit 122 is connected to the compression unit 114.
  • a control unit 116 such as a microcomputer is bi-directionally connected to the section setting unit 132, the gradation conversion characteristic calculation unit 121, and the gradation conversion unit 122.
  • the differences from the first embodiment will be mainly described.
  • the video signal is transferred from the local region extraction unit 123 to the feature amount calculation unit 130. Similar to the feature amount calculation unit 110, the feature amount calculation unit 130 calculates feature amounts in local regions of the video signal. The feature amount is transferred to the section control unit 131.
  • the section setting unit 132 calculates a histogram based on the control of the section control unit 131 with respect to the transferred video signal of the local region, similarly to the section setting unit 109.
  • the calculated histogram in the local area is transferred to the gradation conversion characteristic calculation unit 1, and the gradation conversion characteristic in the local area is calculated in the same manner as the gradation conversion characteristic calculation unit 112.
  • the calculated tone conversion characteristics are transferred to the tone converter 122.
  • the tone conversion unit 122 performs tone conversion processing on the local region of the video signal transferred from the local region extraction unit 123. Alternatively, tone conversion processing may be performed on the target pixel in the local region.
  • processing by hardware is assumed, but it is not necessary to be limited to such a configuration.
  • processing by hardware is assumed, but it is not necessary to be limited to such a configuration.
  • the software is stored as a program in a computer readable storage medium.
  • the computer has, for example, a microprocessor and memory.
  • the program comprises program code (instructions) for causing a computer to perform the following steps.
  • FIG. 13 shows a flow chart related to the software processing (program) of the third embodiment.
  • the header in step S1 W 200 the header in step S1 W 200
  • step S3 corresponding to the signal processing unit 108, predetermined signal processing is performed, and in step S10, a local region centering on the target pixel is extracted.
  • step S20 corresponding to the feature amount calculation unit 130, the feature amount for each local region is calculated, and in step S21 corresponding to the section setting unit 132, the locality used for calculation of gradation conversion characteristics based on the information from step S20. Calculate the histogram in the area.
  • the gradation conversion characteristic is calculated in step S12 corresponding to the gradation conversion characteristic calculation unit 121, and the gradation conversion processing is performed on the local area of the video signal in step S13 corresponding to the gradation conversion unit 122. I do.
  • step S8 it is determined whether all pixels have been processed. If all pixels have been processed, the process ends. It is obvious that the present invention is not limited to the above embodiment, but various modifications can be made within the scope of the technical idea.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Studio Devices (AREA)
  • Picture Signal Circuits (AREA)

Abstract

映像信号のヒストグラムを用いた階調変換処理を行う信号処理装置において、前記映像信号の特徴量を算出する特徴量算出手段と、前記映像信号のヒストグラムを求める際の該ヒストグラム画素値の区間を、前記特徴量に応じて設定する区間設定制御手段と、前記区間設定制御手段で設定した前記区間を用いて求めたヒストグラムを用いて階調変換特性を算出する階調変換特性算出手段と、前記映像信号に対して前記階調変換特性を用いて階調変換を行う階調変換手段と、を備える。

Description

明細書 信号処理装置及ぴ信号処理プログラム 技術分野 本発明は、 映像信号の階調変換処理に係わり、 特に映像信号のヒストグラム を用いて階調変換処理を行う画像信号処理装置及び画像信号処理プログラム に関する。 背景技術 現在のデジタルスチルカメラやビデオカメラ等の撮像系の信号処理におい て、 映像信号を階調変換するという処理がしばしば行われる。 階調変換処理の 一つの方法として、 映像信号のヒストグラムを用いて階調変換特性を算出する 方法がある。 例えば、 特開 2 0 0 7— 1 2 4 4 5 3号公報では、 入力された映 像信号のヒストグラムから得られる情報に基づいてコンテンツの特徴を判定 し、 コンテンツの特性に応じたコントラスト調整を可能としている。 発明の開示 しかしながら、 同じヒストグラムであっても映像信号の被写体情報が異なる 場合があり、 同一の階調変換特性では処理が不十分な場合がある。 例えば、 映 像信号がポートレートの場合と風景の場合、 ポートレートの時には顔領域に対 する階調変換特性としてはコントラストをあまり強調しないものが好まれ、風 景の時にはコントラストをある程度強調したものが好まれる。本発明は上記問 題点に鑑み、 映像信号の特徴に応じて、 高品位な階調変換処理が可能となる信 号処理装置を提供することを目的とする。
本発明において、撮像系からの映像信号を階調変換して出力する信号処理装 置は、 前記映像信号の特徴量を算出する特徴量算出手段と、 前記映像信号のヒ ストグラムを求める際の該ヒストグラムにおける画素値の区間を、前記特徴量 に応じて設定する区間設定制御 段と、前記区間設定制御手段で設定した前記 区間を用いて求めたヒストグラムを用いて階調変換特性を算出する階調変換 特性算出手段と、前記映像信号に対して前記階調変換特性を用いて階溺変換を 行う階調変換手段と、 を備える。
本発明によれば、 映像信号の特徴量に応じて求めたヒストグラムを用いて高 品位な階調変換処理が可能となる。 図面の簡単な説明 図 1は、 第一の実施形態に係る信号処理装置の構成図である。
図 2は、 区間設定部の構成図である。
図 3は、 特徴量算出部の構成図である。
図 4 Aは、 区間数を変化させる前のヒストグラムを示す図である。 図 4 B は、 区間数を変化させた後のヒストグラムを示す図である。
図 5 Aは、 区間幅を変化させる前のヒストグラムを示す図である。 図 5 B は、 区間幅を変化させた後のヒストグラムを示す図である。
図 6 Aは、 ヒストグラムの一例を示す図である。 図 6 Bは、 階調変換特性 を示す図である。
図 7 Aは、 ヒストグラムの一例を示す図である。 図 7 Bは、 区間幅を変化 させた後のヒストグラムを示す図である。 図 7 Cは、 区間数を変化させた後の ヒストグラムを示す図である。
図 8 Aは、 ヒストグラムの一例を示す図である。 図 8 Bは、 図 8 Aのヒス トグラムに対する階調変換特性を示す図である。 図 8 Cは、 ヒストグラムの一 例を示す図である。 図 8 Dは、 図 8 Cのヒストグラムに対する階調変換特性を 示す図である。
図 9は、第一の実施形態に係るソフトウエアに関するフローチャートであ る。
図 1 0は、 第二の実施形態に係る信号処理装置の構成図である。
図 1 1は、第二の実施形態に係るソフトウエアに関するフローチャートで ある。
図 1 2は、 第三の実施形態に係る信号処理装置の構成図である。
図 1 3は、第三の実施形態に係るソフトウェアに関するフローチャートで ある。 発明を実施するための最良の形態 図 1は、第一の実施形態に係る信号処理装置の構成図である。レンズ系 100、 絞り 101、 カラーフィルタ 103、 CCD (電荷結合素子) 104を介して撮影された映 像は A/D (アナログ一デジタル変換器) 105にてデジタル信号へ変換される。 A/D105からの映像信号は、 バッファ 106を介して信号処理部 108へ転送される。 また、 バッファ (バッファメモリ) 106からの信号は撮影制御部 10ァへも転送さ れる。
撮影制御部 107は絞り 101、 AFモータ (オートフォーカス用モータ) 102、 お よび CCD104へ接続している。信号処理部 108は区間設定部 109および特徴量算出 部 110へ接続している。 区間設定部 109は階調変換特性算出部 112へ接続してい る。 特徴量算出部 110は区間制御部 111へ接続している。 区間制御部 111は区間 設定部 109へ接続している。 階調変換特性算出部 112は階調変換部 113へ接続し ている。 階調変換部 113は圧縮部 114へ接続している。 圧縮部 114は出力部 115へ 接続している。
マイクロコンピュータなどの制御部 II6は、撮影制御部 107、信号処理部 108、 区間設定部 109、 特徴量算出部 110、 区間制御部 111、 階調変換特性算出部 112、 階調変換部 113および圧縮部 114と双方向に接続している。 さらに、 電源スイツ チ、 シャッターポタン、 撮影時の各種モードの切り替えを行うためのインター フェースを備えた外部 I/F部 (インターフェース部) 117も制御部 116と双方向 に接続している。
図 1において、 信号の流れを説明する。 外部 I/F部 117を介して ISO感度、 露 出などの撮影条件を設定した後、 図示しないシャッターボタンを半押しにする ことで、 信号処理装置は、 プリ撮影モードに入る。 レンズ系 100、 絞り 101、 力 ラーフィルタ 103、 CCD104を介して撮影された映像信号は、 A/D105にてデジタ ル信号へ変換されてバッファ 106へ転送される。 なお、 本実施形態において CCD104は RGB原色系の単板 CCDを想定し、 A/D105による信号の階調数(ビット長) を例えば l it (40%段階) とする。
バッファ 106内の映像信号は撮影制御部 107へ転送される。 撮影制御部 107は 映像信号の AFェリア内のコントラスト情報を検出し、 これが最大となるように AFモータ 102を制御することで合焦信号を得て、 距離情報が取得される。 ある いは、 プリ撮影時に映像信号を取得せず、 図示しない外部赤外線センサを用い て主要被写体との距離を測定し、 それに応じて AFモータ 102を制御し、 合焦位 置における距離情報を得てもよい。 撮影制御部 107では信号中の輝度レベルや 図示しない輝度センサを用いて適正露光となるよう絞り 101および CCD104の電 子シャッタ一速度などを制御する。
次に、外部 I/F部 117を介して図示しないシャッターポタンを全押しにするこ とにより本撮影が行われる。 本撮影は、 撮影制御部 107にて求められた合焦条 件および露光条件に基づき行われ、 これらの撮影時の情報は制御部 116へ転送 される。
バッファ 106内の映像信号は、 信号処理部 108へ転送される。 信号処理部 108 は、制御部 116の制御に基づきバッファ 106上の単板状態の映像信号を読み込み、 公知の補間処理、 ホワイトバランス処理などが行われた各画素 RGBの三板状態 の映像信号を生成する。
さらに (1 ) 式のように RGB信号を YCbCr信号に変換してもよ!/、
Y 0.299 0.587 0.114 R
Cb = - 0.169 - 0.331 0.500 G (1)
Cr _ 0.500 - 0.419 - 0.081 B
信号処理部 108で処理された映像信号は区間設定部 109、 特徴量算出部 110お よび階調変換部 113へ転送される。 区間設定部 109は信号処理部 108から転送さ れた映像信号の信号値 (画素値) が取り得る範囲を複数の区間に分割し、 各区 間に含まれる信号値の頻度を算出し、頻度の算出結果に基づいてヒストグラム (度数分布) を算出する。
図 2は区間設定部 109の構成図の一例を示すもので、 バッファ 200、 区間数調 整部 201および区間幅調整部 202からなる。信号処理部 108はパッファ 200に映像 信号を転送する。 区間数調整部 201は区間制御部 111の制御に基づきバッファ 200から転送された映像信号の信号値の区間数を調整する。
図 4はヒストグラムの区間数変化の説明図を示している。 図 4 Aはバッファ 200に転送された映像信号のヒストグラムを表す。 このヒストグラムを構成す る柱 (長方形)の個数、 即ち区間数は、 入力信号のビット長 (階調数) 、 例えば 12bit (4096個) と等しい。 図 4 A、 図 4 Bにおける横軸の信号値としての画 素の輝度値(i)は RGB信号値のいずれか、 または Y信号値どちらでもよい。
図 4 Bは、 図 4 Aから区間数を変えたヒストグラムを表している。 なお、 信 号値の総数は一定であるため、 区間数を変化させた前後で、 ヒストグラムを構 成する複数の柱の総面積は保持される。 区間数が変更されたヒストグラムは区 間幅調整部 202に転送される。 区間幅調整部 202は区間制御部 111の制御に基づ き区間数調整部 201から転送されたヒストグラムおょぴ、バッファ 200から転送 された映像信号を用いてヒストグラムの区間幅を調整する。
図 5 A、 図 5 Bはヒストグラムの区間幅変化の説明図を示している。 図 5 A は区間数調整部 201から転送されたヒストグラムを表す。 区間幅調整部 202はこ のヒストグラムの区間幅を図 5 Bのように変化させ、 区間幅を不均一にする。 なお、 信号値の総数は一定であるため、 区間幅を変化させた前後で、 ヒストグ ラムを構成する複数の柱の総面積は保持される。 また、 ヒストグラムを構成す る柱の面積 (即ち、 頻度の値と区間幅を乗算したもの) は、 その柱の区間に含 まれる信号値の個数 (画素の個数) に対応する。 区間幅が変更されたヒストグ ラムは階調変換特性算出部 112に転送される。
ここでは区間数調整部 201および区間幅調整部 202が両方ともある構成を示 したが、 どちらか一方の構成でも構わない。 例えば、 区間数調整部 201のみの 構成の場合、 ヒストグラムを構成する柱の幅はすべての箇所において等しくな り、 区間幅調整部 202のみの構成の場合、 区間数はあらかじめ決められた所定 数でヒストグラムの算出を行う。
特徴量算出部 110は信号処理部 108から転送された映像信号に対して特徴量 を算出し、 その情報を区間制御部 111に転送する。 区間制御部 111は転送された 情報に基づいて区間設定部 109における区間数おょぴ区間幅を制御する。 これ ら特徴量算出部 110および区間制御部 111の処理の方法については後で記述す る。
階調変換特性算出部 112は区間設定部 109から転送されたヒストグラムを用 いて階調変換特性 (階調変換関数或いはトーンカーブとも言う) を算出する。 階調変換特性算出の一つの方法として、 図 6 Bに示す累積ヒストグラムを階調 変換特性として用いる方法がある。
図 6 Aは区間設定部 109から転送されたヒストグラムを表し、 図 6 Bはその ヒストグラムを累積した結果 (累積ヒストグラム) を示している。 図 6 Bの縦 軸 t (k)は、横軸の入力輝度値に対する出力輝度値を表している。入力輝度値は、 階調変換前の輝度値であり、 出力輝度値は、 階調変換後の輝度値である。 ここ で、 kの値は区間の番号を表しており、ヒストグラムの区間数に関係している。 この階調変換特性を使用した階調変換により、 ヒストグラムを平滑化してコン トラストを高めたりすることができる。
階調変換特性算出部 112にて算出された階調変換特性は階調変換部 113へ転 送される。 階調変換部 113は階調変換特性算出部 112から転送された階調変換特 性を用いて信号処理部 108から転送された映像信号に対して階調変換処理を行 う。 階調変換処理は RGBの各信号に対して行ってもよいし、 Y信号 (輝度信号) に対して行つてもよい。 階調変換部 113にて階調変換処理された映像信号は圧 縮部 114に転送される。 圧縮部 114は階調変換部 113から転送された映像信号に 対して公知の JPEG等の圧縮処理を行い、 出力部 115へ転送する。 出力部 115は、 メモリカードなどへ圧縮信号を記録保存あるいは外部表示ディスプレイに映 像信号を表示する。
図 3は特徴量算出部 110の構成の一例を示すもので、 バッファ 300、 ヒストグ ラム算出部 301、 ビット輝度算出部 302および主要被写体算出部 303からなる。 信号処理部 108はバッファ 300に映像信号を転送する。 バッファ 300はヒストグ ラム算出部 301、 ビット輝度算出部 302および主要被写体算出部 303に映像信号 を転送する。
ヒストグラム算出部 301はバッファ 300から転送された映像信号の特徴量又 は特性として図 4 Aと同様のヒストグラムを算出する。 ヒストグラム算出部 301は、 各区間に含まれる前記信号値の個数を算出する個数算出手段を含む。 ここで算出されるヒストグラムは、 区間設定部 109にて算出され階調変換特性 算出部 112に転送されるヒストグラムとは異なり、 あらかじめ決められた区間 数及び均一の区間幅にて算出されるものとする。
ビット輝度算出部 302はバッファ 300から転送された映像信号の特 ί敷量とし て平均輝度値および階調を示すビット長を算出する。 平均輝度値の算出には G 信号あるいは Υ信号が用いられる。 主要被写体算出部 303はパッファ 300から転 送された映像信号の特徴量として主要被写体の抽出を行い、 その箇所における ヒストグラムあるいは平均輝度値と分散値を算出する。 主要被写体が顔である 場合、 公知の顔検出法を用いて顔の領域を抽出する。 また、 撮影制御部 107か らの情報から AFエリアにおける所定領域を主要被写体としてもよい。各々の特 徴量は区間制御部 111に転送され、 ヒストグラムの区間数おょぴ区間幅の制御 を行う。
なお、 特徴量算出部 110は、 ヒストグラム算出部 301、 ビット輝度算出部 302 および主要被写体算出部 303のうち、 少なくともいずれか 1つあるいは 2つを 備える構成でもよい。
図 7は、 区間制御部 111で行われるヒストグラムの情報に基づいた区間幅や 区間数の制御の説明図を表している。 特徴量として、 図 7 Aのようなヒストグ ラムが映像信号から得られた場合、 各区間における頻度 (0)— )において、 (2)の頻度が他の区間の頻度に比べて大きくなっている (或いは最大又は極大 となっている) 。 例えば、 区間制御部 111は、 頻度が他の区間の頻度に比べて 大きくなつている区間を検出し、 その区間の信号値をヒストグラムの情報 (特 徴量) として算出できる。 ここで、 まヒストグラムの区間数が2の場合、 Q≤ k ? - 1となる。 このようなヒストグラムから階調変換特性を算出する場合、 ヒ ストグラムの頻度が大きい輝度値の周辺で階調変換特性の変化が急峻となり、 階調変換処理の結果、入力された映像信号のコントラストが強調されすぎて不 自然な映像となる場合がある。
図 8 Aおよぴ図 8 Bに示すように、低輝度部においてヒストグラムの頻度が 大きい場合、 その階調変換特性は低輝度部において急峻な特性となっている。 このような場合、 図 7 Bおよぴ図 7 Cのようにヒストグラムの区間幅や区間数 を変化させることによって、 階調変換特性の急峻な変化を抑制し、 コントラス トをあまり強調せず、 自然な映像信号を得ることができる。 この場合に、 隣接 する区間それぞれに含まれる画素の個数と、 ヒストグラムの情報 (特徴量) と に応じて区間幅又は区間数を設定してよい。
なお、 図 7 Bにおいて、 頻度が他の区間の頻度に比べて大きい (2)の輝度値 の区間の区間幅を増加させ、 その区間の周りの区間で区間幅を減少させている。 図 8 Cおよび図 8 Dに示すように、 図 8 Aのヒストグラムに対して区間数を 変える (減少させる) ことによって、 低輝度部における階調変換特性が緩やか なものになりコントラストをあまり強調しない処理が可能となる。 また、 区間制御部 111は、 ヒストグラムから算出された階調変換特性から急 峻な特性を算出し、その箇所において区間数あるいは区間幅を変えることも可 能である。 例えば図 6 Bのような階調変換特性の 2階差分値を用いて急峻な特 性を判定することが可能である。 出力輝度値 t (k)を用いて、 区間 kにおける 2 階差分の値は以下の (2 ) 式のように算出する。
= t(k + 1) - 2t(k) + t(k - 1) (2)
( 2 ) 式で算出した値の絶対値が大きい場合、 区間 kにおける階調変換特性の 変化が急峻であることを表しているため、 このような区間 kを含まないような ヒストグラムの区間幅あるいは区間数の調整を行う。 これによつて、 緩やかな 変化の階調変換特性の算出が可能となる。より具体的には、区間制御部 111は、 所定の閾値を設定し、 (2 ) 式における 2階差分の絶対値が閾値より大きい場 合、 2階差分の絶対値が閾値より大きい区間が階調変換特性中に存在しないよ うに、 区間幅を大きくしたり、 区間数を減少させたりする。
ここでは、 特徴量算出部 110のヒストグラム情報に基づいた制御を説明した が、 他の情報についても同様である。 特徴量として平均輝度値おょぴビット長 を用いる場合もある。 平均輝度値が所定値以下の時、 映像信号のヒストグラム は、 低輝度部でピークを有して図 8 Aのようになっている可能 1"生が高い。 その 際、 映像信号のビット長が所定値以下の時、 階調変換特性が急峻なもので階調 変換処理を行うと、 コントラストが強調され、 階調とぴが目立つ場合がある。 そのため、 平均輝度値周辺のヒストグラムの区間数や区間幅を変える (区間数 を減少或いは区間幅を増加する) ことによって階調変換特性を緩やかなものし、 コントラストをあまり強調させず階調とぴを目立たなくさせることができる。 また、 特徴量として主要被写体の情報を用いる場合、 主要被写体の平均輝度 値および分散値を用いて、 それらの値に対応してヒストグラムの区間数や区間 幅を変えることによつて主要被写体におけるコントラストの強調具合を変え る処理が可能となる。 例えば、 主要被写体が顏である場合、 コントラストをあ まり強調しない処理を行うことによって自然な映像が得られ、 主要被写体が建 物等の場合、 コントラストをある程度強調することによつて好ましい映像が得 られる。
当然ながら、 これらの特徴量を組み合わせた制御も可能である。 例えば、 区 間制御部 111は、 特徴量に応じた閾値 を設定し、 ヒストグラムの頻度、 或 いは、 複数の区間それぞれに含まれる画素の個数が、 閾値との間で所定の条件 を充たすように区間の数又は区間の幅を設定する。 ヒストグラムの頻度 ( )が ある閾値^ (ο)より大きい場合、 すなわち ( ) ^ (o)の時、 頻度が閾値以下と なるように区間数あるいは区間幅の制御を行う。 ここで、 (り)のパラメータ o は主要被写体算出部 303から得られる特徴量としての被写体情報である。 被写 体が顔である場合は閾値を小さな値としてコントラストが強調されない階調 変換特性を算出し、被写体が風景である場合は閾値を大きな値としてコントラ ストが強調される階調変換特性を算出することができる。
このような処理を行うことにより、 映像信号に応じて最適な階調変換処理を 行うことができ、 高品位な映像信号を算出することができる。
なお、 上記実施形態では、 ハードウェアによる処理を前提としていたが、 こ のような構成に限定される必要はない。 例えば、 CCD104からの映像信号を未処 理のままの Rawデータとして、 ISO感度情報や映像信号サイズなどのへッダ情報 とともにコンピュータに出力し、別途ソフトウエアにて処理する構成も可能で ある。 なお、 ソフトウェアは、 プログラムとしてコンピュータ読み取り可能な 記憶媒体に格納されている。 コンピュータは例えばマイクロプロセッサやメモ リを有する。 プログラムは、 コンピュータに以下のステップを実行させるため のプログラムコード(命令) を備える。
図 9に第一の実施形態のソフトウェア (プログラム) が実行する処理に関す るフローチャートを示す。 図 1における処理と対応させると、 ステップ S1にて ヘッダ情報を読み込み、 ステップ S2にて映像信号を入力する。 信号処理部 108 に相当するステップ S3にて所定の信号処理を行い、 特徴量算出部 110に相当す るステップ S5にて映像信号から特徴量の算出を行い、 区間設定部 109に相当す るステップ S4にてステップ S5からの情報を基に階調変換特性の算出に用いる ヒス トグラムの算出を行う。 階調変換特性算出部 112に相当するステップ S6に て階調変換特性の算出を行い、 階調変換部 113に相当するステップ S7にて映像 信号に対して階調変換処理を行う。 ステップ S8にて全画素に対して処理が行わ れたか判断し、 全画素に対して処理が行われた場合、 処理を終了する。
図 1 0は、 第二の実施形態に係る信号処理装置の構成図である。 第一の実施 形態と同一の構成には同一の名称と番号を割り当てている。 以下、 第一の実施 形態と異なる箇所のみ説明する。信号処理部 108は局所領域抽出部 123へ接続し ている。 局所領域抽出部 123は区間設定部 120および階調変換部 122へ接続して レ、る。 区間設定部 120は階調変換特性算出部 121に接続している。 階調変換特性 算出部 121は階調変換部 122に接続している。 階調変換部 122は圧縮部 114へ接続 している。 マイクロコンピュータなどの制御部 116は区間設定部 120、 階調変換 特性算出部 121およぴ階調変換部 122へ双方向に接続されている。
第一の実施形態と異なる箇所を主に説明する。 映像信号は信号処理部 108か ら局所領域抽出部 123に転送される。 局所領域抽出部 123は映像信号に対して注 目画素を中心する局所領域を抽出し、 局所領域の映像信号を区間設定部 120お よぴ階調変換部 122へ転送する。 区間設定部 120は区間設定部 109と同様に転送 された局所領域の映像信号に対して区間制御部 111の制御に基づきヒストグラ ムを算出する。
算出された局所領域におけるヒストグラムは階調変換特性算出部 121へ転送 され、 階調変換特性算出部 112と同様に局所領域における階調変換特性を算出 する。 算出された階調変換特性は階調変換部 122へ転送される。 階調変換部 122 は局所領域抽出部 123から転送された映像信号の局所領域に対して階調変換処 理を行う。 あるいは局所領域中の注目画素に対して階調変換処理を行ってもよ い。
このような処理を行うことにより、 局所的な階調変換特性を映像信号の特徴 量に応じて制御することができ、 高品位な映像信号を算出することができる。 なお、 上記実施形態では、 ハードウェアによる処理を前提としていたが、 こ のような構成に限定される必要はない。 例えば、 CCD104からの映像信号を未処 理のままの Rawデータとして、 ISO感度情報や映像信号サイズなどのへッダ情報 とともにコンピュータに出力し、別途ソフトウェアにて処理する構成も可能で ある。 なお、 ソフトウェアは、 プログラムとしてコンピュータ読み取り可能な 記憶媒体に格納されている。 コンピュータは例えばマイクロプロセッサやメモ リを有する。 プログラムは、 コンピュータに以下のステップを実行させるため のプログラムコード (命令) を備える。
図 1 1に第二の実施形態のソフトウェア処理 (プログラム) に関するフロー チャートを示す。 図 1 0における処理と対応させると、 ステップ S1にてヘッダ 情報を読み込み、 ステップ S2にて映像信号を入力する。 信号処理部 108に相当 するステップ S3にて所定の信号処理を行い、 局所領域抽出部 123に相当するス テツプ S10にて注目画素を中心とする局所領域を抽出する。 特徴量算出部 110に 相当するステップ S5にて映像信号から特徴量の算出を行い、 区間設定部 120に 相当するステップ S11にてステップ S5からの情報を基に階調変換特性の算出に 用いる局所領域におけるヒストグラムの算出を行う。 階調変換特性算出部 121 に相当するステップ S12にて階調変換特性の算出を行い、 階調変換部 122に相当 するステップ S13にて映像信号の局所領域に対して階調変換処理を行う。 ステ ップ S8にて全画素に対して処理が行われたか判断し、全画素に対して処理が行 われた場合、 処理を終了する。
図 1 2は、 第三の実施形態の信号処理装置の構成図である。 第一の実施形態 と同一の構成には同一の名称と番号を割り当てている。 以下、 第一の実施形態 と異なる箇所のみ説明する。信号処理部 108は局所領域抽出部 123に接続してい る。 局所領域抽出部 123は特徴量算出部 130、 区間設定部 132および階調変換部 122に接続している。 特徴量算出部 130は、 区間制御部 131へ接続しており、 区 間制御部 131は区間設定部 132へ接続している。 区間設定部 132は階調変換特性 算出部 121に接続している。 階調変換特性算出部 121は階調変換部 122に接続し ており、 P皆調変換部 122は圧縮部 114へ接続している。 マイクロコンピュータな どの制御部 116は区間設定部 132、 階調変換特性算出部 121およぴ階調変換部 122 へ双方向に接続されている。
第一の実施形態と異なる箇所を主に説明する。 映像信号は局所領域抽出部 123から特徴量算出部 130へ転送される。 特徴量算出部 130は特徴量算出部 110と 同様に映像信号の局所領域における特徴量を算出する。 その特徴量は区間制御 部 131へ転送される。 区間設定部 132は区間設定部 109と同様に転送された局所 領域の映像信号に対して区間制御部 131の制御に基づきヒストグラムを算出す る。
算出された局所領域におけるヒストグラムは階調変換特性算出部 1 へ転送 され、 階調変換特性算出部 112と同様に局所領域における階調変換特性を算出 する。 算出された階調変換特性は階調変換部 122へ転送される。 階調変換部 122 は局所領域抽出部 123から転送された映像信号の局所領域に対して階調変換処 理を行う。 あるいは局所領域中の注目画素に対して階調変換処理を行つてもよ い。
このような処理を行うことにより、 映像信号の局所的な特徴量に基づき階調 変換特性を制御することができ、 高品位な映像信号を算出することができる。 なお、 上記実施形態では、 ハードウェアによる処理を前提としていたが、 こ のような構成に限定される必要はない。 例えば、 CCD104からの映像信号を未処 理のままの Rawデータとして、 ISO感度情報や映像信号サイズなどのへッダ情報 とともにコンピュータに出力し、別途ソフトウエアにて処理する構成も可能で ある。 なお、 ソフトウェアは、 プログラムとしてコンピュータ読み取り可能な 記憶媒体に格納されている。 コンピュータは例えばマイクロプロセッサやメモ リを有する。 プログラムは、 コンピュータに以下のステップを実行させるため のプログラムコード (命令) を備える。
図 1 3に第三の実施形態のソフトウェア処理 (プログラム) に関するフロー チャートを示す。 図 1 2における処理と対応させると、 ステップ S1にてヘッダ W 200
-14- 情報を読み込み、 ステップ S2にて映像信号を入力する。 信号処理部 108に相当 するステップ S3にて所定の信号処理を行い、 ステップ S10にて注目画素を中心 とする局所領域を抽出する。特徴量算出部 130に相当するステップ S20にて局所 領域毎の特徴量を算出し、 区間設定部 132に相当するステップ S21にてステップ S20からの情報を基に階調変換特性の算出に用いる局所領域におけるヒストグ ラムの算出を行う。 階調変換特性算出部 121に相当するステップ S 12にて階調変 換特性の算出を行い、 階調変換部 122に相当するステップ S13にて映像信号の局 所領域に対して階調変換処理を行う。 ステップ S8にて全画素に対して処理が行 われたか判断し、 全画素に対して処理が行われた場合、 処理を終了する。 本発明は上記の実施の形態に限定されずに、 その技術的な思想の範囲内にお いて種々の変更がなしうることは明白である。
2007年 1 1月 5日に出願された日本国特許出願 2007-2872 7 9の全内容は参照により本明細書に組み込まれる。

Claims

請求の範囲
1. 映像信号のヒストグラムを用いた階調変換処理を行う信号処理装置におい て、
前記映像信号の特徴量を算出する特徴量算出手段 (1 10) と、
前記映像信号のヒストグラムを求める際の該ヒストグラムにおける画素値 の区間を、 前記特徴量に応じて設定する区間設定制御手段 (109、 1 1 1) と、
前記区間設定制御手段で設定した前記区間を用いて求めたヒストグラムを 用いて階調変換特性を算出する階調変換特性算出手段 (1 12) と、
前記映像信号に対して前記階調変換特性を用いて階調変換を行う階調変換 手段 (1 1 3) と、
を備える信号処理装置。
2. 前記映像信号の注目画素を中心する局所領域を抽出する局所領域抽出手段 (1 23) を備え、
前記区間設定制御手段 (1 1 1、 1 20) が、 前記映像信号の前記局所領域 のヒストグラムを求めるよう、該ヒストグラムにおける画素値の区間を前記映 像信号の前記特徴量に応じて設定し、
前記階調変換特性算出手段 (1 21) が、 前記局所領域に対するヒストグラ ムを用いて、 前記局所領域に対する階調変換特性を算出し、
前記階調変換手段 (122) ヽ 前記局所領域に対して、 前記階調変換特性 を用いて階調変換を行う請求項 1に記載の信号処理装置。
3. 前記映像信号の注目画素を中心する局所領域を抽出する局所領域抽出手段 (123) を備え、
前記特徴量算出手段 (130) 、 前記特徴量として前記局所領域の特徴量 を算出し、
前記区間設定制御手段 (131、 1 32) 力 前記映像信号の前記局所領域 のヒストグラムを求めるよう、該ヒストグラムにおける画素値の区間を前記局 所領域の特徴量に応じて設定し、
前記階調変換特性算出手段 (121) が、 前記局所領域に対するヒストグラ ムを用いて、 前記局所領域に対する階調変換特性を算出し、
前記階調変換手段 (1 22) 前記局所領域に対して、 前記階調変換特性 を用いて階調変換を行う請求項 1に記載の信号処理装置。
4. 前記特徴量算出手段 (1 10) は、 前記映像信号のヒストグラムの情報を 前記特徴量として算出するヒストグラム算出手段を備える請求項 1に記載の 信号処理装置。
5. 前記特徴量算出手段 (1 10) は、 前記映像信号のビット長および輝度値 の情報を前記特徴量として算出する手段を備える請求項 1に記載の信号処理 装置。
6. 前記特徴量算出手段 (1 10) は、 前記映像信号の主要被写体の情報を前 記特徴量として算出する主要被写体算出手段を備える請求項 1に記載の信号 処理装置。
7. 前記特徴量算出手段 (1 10) は、
前記映像信号のヒストグラムの情報を前記特徴量として算出するヒストグ ラム算出手段 (301) 、
前記映像信号のビット長および輝度値の情報を前記特徴量として算出する 手段 (302) 、
前記映像信号の注目被写体の情報を前記特徴量として算出する注目被写体 算出手段 (303) のうち少なくとも二つ以上の手段を備える請求項 1に記載 の信号処理装置。
8. 前記ヒストグラム算出手段 (30 1) は、 前記ヒストグラムの最大頻度に おける信号値を前記特徴量として算出する信号値算出手段をさらに備える請 求項 4又は 7に記載の信号処理装置。
9. 前記区間設定制御手段 (109、 1 1 1) は、 前記区間の幅を、 前記特徴 量に応じて設定する請求項 1から 8のいずれか一つに記載の信号処理装置。
10. 前記区間設定制御手段 (1 0 9、 1 1 1) は、 前記区間の数を、 前記特 徴量に^じて設定する請求項 1から 8のいずれか一つに記載の信号処理装置。
1 1. 前記区間設定制御手段 (1 0 9、 1 1 1) は、 前記区間の幅と数とを、 前記特徴量に応じて設定する請求項 1から 8のいずれか一つに記載の信号処 理装置。
1 2. 前記区間設定制御手段 (10 9、 1 1 1) は、
前記特徴量に応じた閾値 (th(o)) を設定する閾値設定手段を備え、 複数の前記区間それぞれに含まれる画素め個数が前記閾値 (th(o)) との間 で所定の条件を充たすように前記区間の幅を設定する請求項 9または請求項 1 1に記載の信号処理装置。
1 3. 前記区間設定制御手段 (1 09、 1 1 1) は、 複数の前記区間のうちの 互いに隣接する区間それぞれに含まれる画素の個数と、前記特徴量とに応じて 前記区間の幅を設定する請求項 9または請求項 1 1に記載の信号処理装置。
14. 前記区間設定制御手段 (109、 1 1 1) は、
前記特徴量に応じた閾値 (th(o)) を設定する閾値設定手段を備え、 複数の前記区間それぞれに含まれる画素の個数が前記閾値との間で所定の 条件を充たすように前記区間の数を設定する請求項 10または請求項 1 1に 記載の信号処理装置。
1 5. 前記区間設定制御手段 (109、 1 1 1) は、 複数の前記区間のうちの 互いに隣接する区間それぞれに含まれる画素の個数と、前記特徴量とに応じて 前記区間の数を設定する請求項 10または請求項 1 1に記載の信号処理装置。
16. 前記区間設定制御手段 (109、 1 1 1) は、 前記区間の幅を不均一に 設定する請求項 9または請求項 1 1に記載の信号処理装置。
1 7. 前記区間設定制御手段 (109、 1 1 1) は、 前記階調変換特性中に 2 階差分値の絶対値が閾値より大きい区間が存在しないよう、 区間の幅又は区間 の数を設定する請求項 1に記載の信号処理装置。
18. 映像信号のヒストグラムを用いた階調変換処理を行う信号処理装置にお いて、
前記映像信号の特徴量を算出する特徴量算出手順 (S 5) と、
前記映像信号のヒストグラムを求める際の該ヒストグラムにおける画素値 の区間を、 前記特徴量に応じて設定する区間設定制御手順 (S 4) と、
前記区間設定制御手順で設定した前記区間を用いて求めたヒストグラムを 用いて階調変換特性を算出する階調変換特性算出手順 (S 6) と、
前記映像信号に対して前記階調変換特性を用いて階調変換を行う階調変換 手順 (S 7) と、
を備える信号処理プログラム。
PCT/JP2008/070373 2007-11-05 2008-11-04 信号処理装置及び信号処理プログラム Ceased WO2009060970A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN200880114699.7A CN101849405B (zh) 2007-11-05 2008-11-04 信号处理装置及信号处理方法
US12/770,955 US8724898B2 (en) 2007-11-05 2010-04-30 Signal processor and storage medium storing signal processing program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2007-287279 2007-11-05
JP2007287279A JP5053802B2 (ja) 2007-11-05 2007-11-05 信号処理装置及び信号処理プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US12/770,955 Continuation US8724898B2 (en) 2007-11-05 2010-04-30 Signal processor and storage medium storing signal processing program

Publications (1)

Publication Number Publication Date
WO2009060970A1 true WO2009060970A1 (ja) 2009-05-14

Family

ID=40625852

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2008/070373 Ceased WO2009060970A1 (ja) 2007-11-05 2008-11-04 信号処理装置及び信号処理プログラム

Country Status (4)

Country Link
US (1) US8724898B2 (ja)
JP (1) JP5053802B2 (ja)
CN (1) CN101849405B (ja)
WO (1) WO2009060970A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5261796B2 (ja) * 2008-02-05 2013-08-14 富士フイルム株式会社 撮像装置、撮像方法、画像処理装置、画像処理方法、およびプログラム
JP2010278724A (ja) * 2009-05-28 2010-12-09 Olympus Corp 画像処理装置、画像処理方法及び画像処理プログラム
US9705669B2 (en) * 2013-01-25 2017-07-11 Saturn Licensing Llc Signal processing device, signal processing method, and program
KR101530774B1 (ko) 2013-09-30 2015-06-22 연세대학교 산학협력단 영상 부호화 및 복호화 방법, 장치 및 시스템
KR101530782B1 (ko) 2013-12-03 2015-06-22 연세대학교 산학협력단 영상 부호화 및 복호화 방법, 장치 및 시스템
JP6469448B2 (ja) * 2015-01-06 2019-02-13 オリンパス株式会社 画像処理装置、撮像装置、画像処理方法、および記録媒体
CN105376498A (zh) * 2015-10-16 2016-03-02 凌云光技术集团有限责任公司 一种扩展相机动态范围的图像处理方法及系统
WO2017094504A1 (ja) * 2015-11-30 2017-06-08 ソニー株式会社 画像処理装置、画像処理方法、撮像装置、及び、プログラム
NL2018854B1 (en) 2017-05-05 2018-11-14 Illumina Inc Systems and methodes for improved focus tracking using blocking structures
NL2018853B1 (en) 2017-05-05 2018-11-14 Illumina Inc Systems and methods for improved focus tracking using a hybrid mode light source
NL2018857B1 (en) 2017-05-05 2018-11-09 Illumina Inc Systems and methods for improved focus tracking using a light source configuration
IT201800003384A1 (it) * 2018-03-08 2019-09-08 Photosi Spa Unipersonale Procedimento di valutazione automatica della qualità di foto digitali

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000057335A (ja) * 1998-08-05 2000-02-25 Minolta Co Ltd 画像処理装置のための画像補正装置、画像補正方法及び画像補正プログラムを記録した機械読取り可能な記録媒体
JP2000324363A (ja) * 1999-05-12 2000-11-24 Matsushita Electric Ind Co Ltd 階調補正装置
JP2002027285A (ja) * 2000-07-11 2002-01-25 Matsushita Electric Ind Co Ltd 階調補正装置、階調補正方法、媒体及び情報集合体
JP2002163738A (ja) * 2000-11-29 2002-06-07 Nittan Co Ltd 炎感知器および炎検知方法
JP2007124453A (ja) * 2005-10-31 2007-05-17 Mitsubishi Electric Corp 画像表示装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10164370A (ja) * 1996-11-27 1998-06-19 Dainippon Screen Mfg Co Ltd 画像の階調補間方法および装置並びに画像フィルタリング方法および画像フィルタ
US6643398B2 (en) * 1998-08-05 2003-11-04 Minolta Co., Ltd. Image correction device, image correction method and computer program product in memory for image correction
US6738510B2 (en) * 2000-02-22 2004-05-18 Olympus Optical Co., Ltd. Image processing apparatus
TW518882B (en) * 2000-03-27 2003-01-21 Hitachi Ltd Liquid crystal display device for displaying video data
JP4167097B2 (ja) * 2003-03-17 2008-10-15 株式会社沖データ 画像処理方法および画像処理装置
US7949201B2 (en) * 2004-09-01 2011-05-24 Nec Corporation Image correction processing system and image correction processing method
JP4628882B2 (ja) * 2005-06-16 2011-02-09 富士フイルム株式会社 判別器の学習方法、顔判別方法および装置並びにプログラム
JP4774915B2 (ja) * 2005-10-26 2011-09-21 カシオ計算機株式会社 撮像装置、階調補正方法及びプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000057335A (ja) * 1998-08-05 2000-02-25 Minolta Co Ltd 画像処理装置のための画像補正装置、画像補正方法及び画像補正プログラムを記録した機械読取り可能な記録媒体
JP2000324363A (ja) * 1999-05-12 2000-11-24 Matsushita Electric Ind Co Ltd 階調補正装置
JP2002027285A (ja) * 2000-07-11 2002-01-25 Matsushita Electric Ind Co Ltd 階調補正装置、階調補正方法、媒体及び情報集合体
JP2002163738A (ja) * 2000-11-29 2002-06-07 Nittan Co Ltd 炎感知器および炎検知方法
JP2007124453A (ja) * 2005-10-31 2007-05-17 Mitsubishi Electric Corp 画像表示装置

Also Published As

Publication number Publication date
US20100208993A1 (en) 2010-08-19
CN101849405A (zh) 2010-09-29
JP5053802B2 (ja) 2012-10-24
JP2009118051A (ja) 2009-05-28
CN101849405B (zh) 2012-11-07
US8724898B2 (en) 2014-05-13

Similar Documents

Publication Publication Date Title
WO2009060970A1 (ja) 信号処理装置及び信号処理プログラム
US9426437B2 (en) Image processor performing noise reduction processing, imaging apparatus equipped with the same, and image processing method for performing noise reduction processing
CN101494797B (zh) 摄像装置及摄像方法
JP5660341B2 (ja) 撮像装置、撮像方法
US8538174B2 (en) Image processing device
WO2007077730A1 (ja) 撮像システム、画像処理プログラム
US10009588B2 (en) Image processing apparatus and imaging apparatus
US8102446B2 (en) Image capturing system and image processing method for applying grayscale conversion to a video signal, and computer-readable recording medium having recorded thereon an image processing program for applying grayscale conversion to a video signal
US9432646B2 (en) Image processing apparatus, image processing method, program and electronic apparatus
EP2515543B1 (en) Image capturing apparatus and image capturing method
US20140192239A1 (en) Image apparatus and imaging method
JP5310331B2 (ja) 撮像装置および撮像方法
JP2007329619A (ja) 映像信号処理装置と映像信号処理方法、および映像信号処理プログラム。
JP5743456B2 (ja) 画像処理装置、画像処理方法及び撮像装置
JP2017126920A (ja) 撮像装置
US11641525B2 (en) Image capturing apparatus capable of displaying live view image high in visibility, method of controlling image capturing apparatus, and storage medium
JP5659574B2 (ja) 画像処理装置、撮像装置、及び画像処理プログラム
JP2012133492A (ja) 画像処理装置およびプログラム
US8106977B2 (en) Image capturing system and image processing method for applying grayscale conversion to a video signal, and computer-readable recording medium having recorded thereon an image processing program for applying grayscale conversion to a video signal
JP6849351B2 (ja) 画像処理装置、画像処理方法、及びプログラム
WO2006109703A1 (ja) 撮影システム、および映像信号処理プログラム
JP2009004893A (ja) 画像処理装置およびこれを備える撮像システム
JP2009038814A (ja) 撮像システム

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 200880114699.7

Country of ref document: CN

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 08847568

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 08847568

Country of ref document: EP

Kind code of ref document: A1