JP2016082390A - Signal processing device - Google Patents
Signal processing device Download PDFInfo
- Publication number
- JP2016082390A JP2016082390A JP2014211890A JP2014211890A JP2016082390A JP 2016082390 A JP2016082390 A JP 2016082390A JP 2014211890 A JP2014211890 A JP 2014211890A JP 2014211890 A JP2014211890 A JP 2014211890A JP 2016082390 A JP2016082390 A JP 2016082390A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- frequency component
- extracted
- infrared light
- luminance signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Studio Devices (AREA)
Abstract
Description
本技術は、信号処理装置、撮像装置および信号処理方法に関する。詳しくは、監視カメラ等に使用される撮像装置、撮像装置における信号処理装置およびこれらにおける処理方法ならびに当該方法をコンピュータに実行させるプログラムに関する。 The present technology relates to a signal processing device, an imaging device, and a signal processing method. Specifically, the present invention relates to an imaging device used for a monitoring camera, a signal processing device in the imaging device, a processing method in these, and a program for causing a computer to execute the method.
従来、可視光および赤外光に対応する画像信号を出力する撮像素子とその画像信号を処理する信号処理装置とを備えた監視カメラが使用されている。このような監視カメラを霧や煙が発生した状態で使用すると、可視光のうち短波長の光が霧などにより乱反射されて、被写体の暗部における画像信号の信号レベルが高くなり、コントラストが低下する。このため、監視カメラの画像は、視認性が低下した画像となる。これを防ぐため、霧などが発生しているか否かを判断し、これらが発生している場合は、画像のコントラストを高める処理等を行う撮像装置が提案されている。例えば、可視光に対応する画像信号と赤外光に対応する画像信号とを撮像素子から取得し、可視光に対応する画像信号の暗部における信号レベルが所定のレベルを下回った場合には、霧などが発生していると判断する。この場合には、可視光および赤外光に対応する画像信号について、暗部における画像信号の信号レベルがより低い画像信号を選択するとともに当該画像信号のコントラストを増強する。これにより、高いコントラストの画像信号を出力するシステムが提案されている(例えば、特許文献1参照。)。 2. Description of the Related Art Conventionally, surveillance cameras including an image sensor that outputs an image signal corresponding to visible light and infrared light and a signal processing device that processes the image signal are used. When such a surveillance camera is used in a state where fog or smoke is generated, short-wavelength light of visible light is irregularly reflected by fog or the like, and the signal level of the image signal in the dark part of the subject increases and the contrast decreases. . For this reason, the image of the surveillance camera is an image with reduced visibility. In order to prevent this, there has been proposed an imaging apparatus that determines whether or not fog or the like is generated, and performs processing for increasing the contrast of an image when these are generated. For example, when an image signal corresponding to visible light and an image signal corresponding to infrared light are acquired from the image sensor, and the signal level in the dark part of the image signal corresponding to visible light falls below a predetermined level, fog And so on. In this case, for the image signals corresponding to visible light and infrared light, an image signal having a lower signal level of the image signal in the dark part is selected and the contrast of the image signal is enhanced. Thus, a system for outputting a high-contrast image signal has been proposed (see, for example, Patent Document 1).
上述の従来技術では、波長が長いため可視光に比べて散乱しにくい赤外光に対応する画像信号を使用することにより、霧などの発生を検出している。しかし、暗部における画像信号の信号レベルに基づいて比較を行うため、低輝度環境下における撮影では、霧などの発生の検出が困難となり、コントラストの低下を補償できないという問題があった。 In the above-described conventional technology, generation of fog or the like is detected by using an image signal corresponding to infrared light that is difficult to scatter compared to visible light because of its long wavelength. However, since the comparison is performed based on the signal level of the image signal in the dark part, it is difficult to detect the occurrence of fog or the like in photographing in a low-luminance environment, and there is a problem in that the reduction in contrast cannot be compensated.
本技術はこのような状況に鑑みて生み出されたものであり、夜間等の低照度環境下においても霧などの発生を検出し、画像の視認性を向上させることを目的とする。 The present technology has been devised in view of such a situation, and an object thereof is to detect the occurrence of fog or the like even in a low-light environment such as nighttime and improve the visibility of an image.
本技術は、上述の問題点を解消するためになされたものであり、その第1の側面は、輝度信号の高周波成分と赤外光信号の高周波成分とを抽出するフィルタと、上記抽出された上記輝度信号の高周波成分より上記抽出された上記赤外光信号の高周波成分の方が大きいか否かを判断する判断部と、上記判断の結果に基づいて上記輝度信号を補正する補正部とを具備する信号処理装置である。これにより、輝度信号の高周波成分より赤外光信号の高周波成分の方が大きい場合に、輝度信号を補正するという作用をもたらす。 The present technology has been made to solve the above-described problems. The first aspect of the present technology is a filter that extracts a high-frequency component of a luminance signal and a high-frequency component of an infrared light signal, and the above-described extraction. A determination unit that determines whether or not the extracted high-frequency component of the infrared light signal is larger than the high-frequency component of the luminance signal; and a correction unit that corrects the luminance signal based on the determination result. A signal processing apparatus. Thereby, when the high frequency component of the infrared light signal is larger than the high frequency component of the luminance signal, the luminance signal is corrected.
また、この第1の側面において、上記補正部は、上記判断部において上記抽出された上記輝度信号の高周波成分より上記抽出された上記赤外光信号の高周波成分の方が大きいと判断された場合に所定の信号レベルより低い信号レベルの上記輝度信号を減衰させてもよい。これにより、輝度信号の高周波成分より赤外光信号の高周波成分の方が大きいと判断された場合に所定の信号レベルより低い信号レベルの上記輝度信号を減衰させるという作用をもたらす。 Further, in this first aspect, when the correction unit determines that the extracted high frequency component of the infrared light signal is larger than the high frequency component of the extracted luminance signal in the determination unit. Alternatively, the luminance signal having a signal level lower than a predetermined signal level may be attenuated. Thus, when it is determined that the high frequency component of the infrared light signal is larger than the high frequency component of the luminance signal, the luminance signal having a signal level lower than a predetermined signal level is attenuated.
また、この第1の側面において、上記補正部は、上記判断部において上記抽出された上記輝度信号の高周波成分より上記抽出された上記赤外光信号の高周波成分の方が大きいと判断された場合に上記輝度信号に上記抽出された上記赤外光信号の高周波成分を所定の比率に基づいて混合してもよい。これにより、輝度信号の高周波成分より赤外光信号の高周波成分の方が大きいと判断された場合に輝度信号に赤外光信号の高周波成分を所定の比率に基づいて混合するという作用をもたらす。 Further, in this first aspect, when the correction unit determines that the extracted high frequency component of the infrared light signal is larger than the high frequency component of the extracted luminance signal in the determination unit. In addition, the extracted high frequency component of the infrared light signal may be mixed with the luminance signal based on a predetermined ratio. Accordingly, when it is determined that the high frequency component of the infrared light signal is larger than the high frequency component of the luminance signal, the high frequency component of the infrared light signal is mixed with the luminance signal based on a predetermined ratio.
また、この第1の側面において、上記判断部は、上記抽出された上記輝度信号の高周波成分の平均値と上記抽出された上記赤外光信号の高周波成分の平均値とを比較して判断してもよい。これにより、輝度信号の高周波成分の平均値と赤外光信号の高周波成分の平均値とを比較して判断するという作用をもたらす。 In the first aspect, the determination unit makes a determination by comparing an average value of the high-frequency components of the extracted luminance signal with an average value of the high-frequency components of the extracted infrared light signal. May be. This brings about the effect that the average value of the high frequency component of the luminance signal and the average value of the high frequency component of the infrared light signal are compared and determined.
また、この第1の側面において、上記判断部は、上記抽出された上記輝度信号の高周波成分の二乗平均値と上記抽出された上記赤外光信号の高周波成分の二乗平均値とを比較して判断してもよい。これにより、輝度信号の高周波成分の二乗平均値と赤外光信号の高周波成分の二乗平均値とを比較して判断するという作用をもたらす。 In the first aspect, the determination unit compares the root mean square value of the extracted high frequency component of the luminance signal with the root mean square value of the extracted high frequency component of the infrared light signal. You may judge. This brings about the effect of making a determination by comparing the root mean square value of the high frequency component of the luminance signal with the root mean square value of the high frequency component of the infrared light signal.
また、本技術の第2の側面は、可視光信号および赤外光信号を出力する撮像素子と、上記出力された上記可視光信号から輝度信号を生成する生成部と、上記生成された上記輝度信号の高周波成分と上記出力された上記赤外光信号の高周波成分とを抽出するフィルタと、上記抽出された上記輝度信号の高周波成分より上記抽出された上記赤外光信号の高周波成分の方が大きいか否かを判断する判断部と、上記判断の結果に基づいて上記輝度信号を補正する補正部とを具備する撮像装置である。これにより、輝度信号の高周波成分より赤外光信号の高周波成分の方が大きい場合に、輝度信号を補正するという作用をもたらす。 In addition, the second aspect of the present technology provides an imaging device that outputs a visible light signal and an infrared light signal, a generation unit that generates a luminance signal from the output visible light signal, and the generated luminance. A filter that extracts a high-frequency component of the signal and a high-frequency component of the output infrared light signal, and a higher-frequency component of the extracted infrared light signal than a high-frequency component of the extracted luminance signal. The imaging apparatus includes a determination unit that determines whether the signal is large and a correction unit that corrects the luminance signal based on a result of the determination. Thereby, when the high frequency component of the infrared light signal is larger than the high frequency component of the luminance signal, the luminance signal is corrected.
また、本技術の第3の側面は、輝度信号の高周波成分と赤外光信号の高周波成分とを抽出する抽出手順と、上記抽出された上記輝度信号の高周波成分より上記抽出された上記赤外光信号の高周波成分の方が大きいか否かを判断する判断手順と、上記判断の結果に基づいて上記輝度信号を補正する補正手順とを具備する信号処理方法である。これにより、輝度信号の高周波成分より赤外光信号の高周波成分の方が大きい場合に、輝度信号を補正するという作用をもたらす。 The third aspect of the present technology provides an extraction procedure for extracting a high-frequency component of a luminance signal and a high-frequency component of an infrared light signal, and the infrared extracted from the extracted high-frequency component of the luminance signal. The signal processing method includes a determination procedure for determining whether or not a high-frequency component of an optical signal is larger, and a correction procedure for correcting the luminance signal based on the result of the determination. Thereby, when the high frequency component of the infrared light signal is larger than the high frequency component of the luminance signal, the luminance signal is corrected.
本技術によれば、夜間等の低照度環境下においても霧などの発生を検出して、画像信号を補正することにより視認性を向上させるという優れた効果を奏し得る。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。 According to the present technology, it is possible to achieve an excellent effect of improving visibility by detecting occurrence of fog or the like and correcting an image signal even in a low-light environment such as nighttime. Note that the effects described here are not necessarily limited, and may be any of the effects described in the present disclosure.
以下、本技術を実施するための形態(以下、実施の形態と称する)について説明する。説明は以下の順序により行う。
1.第1の実施の形態(可視光信号のコントラストを増強して補正する場合の例)
2.第2の実施の形態(可視光信号に赤外光信号の高周波成分を加算して補正する場合の例)
Hereinafter, modes for carrying out the present technology (hereinafter referred to as embodiments) will be described. The description will be made in the following order.
1. First Embodiment (Example in the case of correcting by increasing the contrast of a visible light signal)
2. Second embodiment (example in which high-frequency component of infrared light signal is added to visible light signal for correction)
<1.第1の実施の形態>
[撮像装置の構成]
図1は、本技術の実施の形態における撮像装置の構成例を示す図である。同図における撮像装置10は、レンズ100と、撮像素子200と、信号処理装置300と、画像信号出力部400と、赤外光照射部500とを備える。
<1. First Embodiment>
[Configuration of imaging device]
FIG. 1 is a diagram illustrating a configuration example of an imaging device according to an embodiment of the present technology. The
レンズ100は、撮像素子200に対して光学的に被写体を結像するものである。撮像素子200は、レンズ100によって結像された光学画像を画像信号に変換し、出力するものである。この撮像素子200は、光学画像が結像される面に画像信号を生成する画素が2次元に配置されて構成されている。この画素は、赤色光に対応する画像信号を出力する画素(R画素)、緑色光に対応する画像信号を出力する画素(G画素)および青色光に対応する画像信号を出力する画素(B画素)が含まれる。また、この画素には、赤外光に対応する画像信号を出力する画素(IR画素)がさらに含まれる。以下、赤色光に対応する画像信号、緑色光に対応する画像信号、青色光に対応する画像信号および赤外光に対応する画像信号をそれぞれR信号、G信号、B信号およびIR信号と称する。なお、撮像素子200は、信号処理装置300により制御される。
The
信号処理装置300は、画像信号を処理するものである。この信号処理装置300は、画像信号(R信号、G信号およびB信号)から輝度信号および色差信号を生成し、これらの信号とIR信号とについて各種の処理を行う。その後、処理された画像信号を出力する。また、信号処理装置300は、撮像装置10の全体の制御も行う。
The
画像信号出力部400は、信号処理装置300により処理された画像信号を撮像装置10の外部に出力するものである。この画像信号出力部400は、撮像装置10が接続される信号線インターフェースの規格に適合するように画像信号を変換して出力する。
The image
赤外光照射部500は、被写体に赤外光を照射するものである。この赤外光照射部500は、信号処理装置300により制御される。
The infrared
[撮像素子の構成]
図2は、本技術の実施の形態における撮像素子200の構成例を示す図である。この撮像素子200は、画面上に画素201が2次元格子状に配置されて構成されている。なお、画素201に記載された記号は、画素201の種類を表すものである。R、G、BおよびIRが記載された画素は、それぞれR画素、G画素、B画素およびIR画素を表している。これらの画素が画面上に一定の規則に基づいて配置されている。
[Configuration of image sensor]
FIG. 2 is a diagram illustrating a configuration example of the
同図におけるaは、R画素、G画素およびB画素をベイヤー配列形状に配置させた後、2つあるG画素のうちの1つをIR画素に置き換えた配置の例を表したものである。また、同図におけるbは、ベイヤー配列におけるG画素に代えてIR画素を配置し、他の画素については、R画素およびB画素に対するG画素の比率が2となるように配置した例を表したものである。同図におけるaに表した撮像素子よりもIR画素が多く配置されており、赤外光に対する解像度を高めることができる。なお、これらは、画面の一部のみを表示したものであり、このような画素の配置が画面全体に繰り返されて、撮像素子200の画面が構成されている。
In the figure, a represents an example of an arrangement in which R pixels, G pixels, and B pixels are arranged in a Bayer arrangement, and one of the two G pixels is replaced with an IR pixel. Further, b in the figure represents an example in which IR pixels are arranged instead of G pixels in the Bayer array, and the other pixels are arranged so that the ratio of G pixels to R pixels and B pixels is 2. Is. More IR pixels are arranged than the image sensor represented by a in the figure, and the resolution for infrared light can be increased. Note that these display only a part of the screen, and such a pixel arrangement is repeated on the entire screen to form the screen of the
[信号処理装置の構成]
図3は、本技術の実施の形態における信号処理装置300の構成例を示す図である。この信号処理装置300は、撮像素子インターフェース310と、プロセッサ320と、出力インターフェース330と、RAM340と、ROM350と、画像処理部360と、画像圧縮部370と、バス301とを備える。
[Configuration of signal processing apparatus]
FIG. 3 is a diagram illustrating a configuration example of the
撮像素子インターフェース310は、撮像素子200との間でやり取りを行い、画像信号を取り込むものである。この画像信号にはR信号、G信号、B信号およびIR信号が含まれる。
The
プロセッサ320は、信号処理装置300の全体を制御するものである。また、このプロセッサ320は、撮像素子200および赤外光照射部500の制御も行う(不図示)。
The
RAM340は、データを一時的に記憶するものである。このRAM340は、画像信号を記憶するための画像メモリおよびプロセッサ320が作成した作業データを記憶するための作業メモリを有している。ROM350は、プロセッサ320のファームウェアを記憶するメモリである。
The
画像処理部360は、画像信号(R信号、G信号、B信号およびIR信号)に対して各種の信号処理を行うものである。この画像処理部360の詳細については後述する。
The
画像圧縮部370は、画像処理部360により処理された画像信号に対して符号化、圧縮および動画における画像データのビット列であるビットストリームの生成を行うものである。なお、画像データの符号化の方式としてMPEG(Moving Picture Experts Group)形式を使用することができる。
The
出力インターフェース330は、画像圧縮部370により生成されたビットストリームを画像信号出力部400に対して出力するものである。バス301は、信号処理装置300内各部を相互に接続するものである。
The
[画像処理部の構成]
図4は、本技術の第1の実施の形態における画像処理部360の構成例を示す図である。この画像処理部360は、信号変換部361と、ハイパスフィルタ(HPF)362と、判断部363と、補正部364とを備える。なお、HPF362は、特許請求の範囲に記載のフィルタの一例である。
[Configuration of image processing unit]
FIG. 4 is a diagram illustrating a configuration example of the
信号変換部361は、R信号、G信号およびB信号を輝度信号(Y信号)および色差信号(CbおよびCr信号)に変換するものである。なお、色差信号CbはB信号と輝度信号との差分に基づく信号であり、色差信号CrはR信号と輝度信号との差分に基づく信号である。また、信号変換部361は、デモザイク等の処理も行う。
The
HPF362は、Y信号およびIR信号の低周波成分を除去し、高周波成分を通過させることにより高周波成分を抽出するものである。なお、抽出されたY信号およびIR信号の高周波成分をそれぞれY_H信号およびIR_H信号と称する。
The
判断部363は、HPF362から出力されたY信号の高周波成分Y_H信号とIR信号の高周波成分IR_H信号とを比較して、Y信号の高周波成分Y_H信号よりIR信号の高周波成分IR_H信号の方が大きいか否かを判断するものである。補正部364は、判断部363による判断結果に基づいて、Y信号を補正して、補正後の輝度信号であるY'信号を生成するものである。これら判断部363および補正部364の動作の詳細については後述する。
The
[信号変換部の構成]
図5は、本技術の第1の実施の形態における信号変換部361の構成例を示す図である。この信号変換部361は、暗電流ばらつき補正部367と、デモザイク部368と、YC変換部369とを備える。
[Configuration of signal converter]
FIG. 5 is a diagram illustrating a configuration example of the
暗電流ばらつき補正部367は、撮像素子200の各画素における暗電流ばらつきを補正するものである。この暗電流ばらつき補正は、例えば、事前に取得した各画素における暗電流の値を画像信号から減算することにより行うことができる。また、この暗電流ばらつき補正部367において、画素の欠陥の補正を行ってもよい。画素の欠陥は、この暗電流のばらつきが大きい状態ととらえることができ、暗電流ばらつき補正と同様の方法により補正することが可能なためである。
The dark current
デモザイク部368は、デモザイク処理を行うものである。このデモザイク処理は、撮像素子200から出力された単色の画像信号に対して不足する画像信号を補間するものである。このデモザイク処理により、1画素当たりの画像信号は、R信号、G信号、B信号およびIR信号の4つに増加することになる。このデモザイク処理として、公知の方法を使用することができる。例えば、補間対象画素においてR信号を補間する際には、補間対象画素の周囲のR画素におけるR信号の平均値を補間対象画素のR信号とする方式を使用することができる。
The
YC変換部369は、R信号、G信号およびB信号をY信号、Cb信号およびCr信号に変換するものである。この変換は、次式に基づいて行うことができる。
Y = 0.299×R+0.587×G+0.114×B
Cb=−0.169×R−0.331×G+0.500×B
Cr= 0.500×R−0.419×G−0.081×B
但し、R、GおよびBは、それぞれR信号、G信号およびB信号を表す。なお、YC変換部369は、特許請求の範囲に記載の生成部の一例である。
The
Y = 0.299 × R + 0.587 × G + 0.114 × B
Cb = −0.169 × R−0.331 × G + 0.500 × B
Cr = 0.500 × R−0.419 × G−0.081 × B
However, R, G, and B represent R signal, G signal, and B signal, respectively. The
なお、信号変換部361における処理は、上に挙げた処理に限定されるものではなく、これら以外の処理、例えば、ノイズリダクション等の処理を加えてもよい。
Note that the processing in the
[HPFの構成]
図6は、本技術の第1の実施の形態におけるHPF362の構成例を示す図である。このHPF362は、画像信号の演算により、入力された画像信号の高周波成分を通過させ、低周波成分を除去するものである。この演算は、次式に示されるものであり、Y信号およびRI信号について演算を行う。
FIG. 6 is a diagram illustrating a configuration example of the
同図におけるaは、輝度信号の場合を例に挙げて、演算の様子を図示したものである。なお、同図は、輝度信号Y11乃至Y55について演算を行う場合を表している。また、K11乃至K55は係数である。同図におけるbは、このY11乃至Y55に対応する画素の配置を表したものであり、Y33に対応する画素を注目画素202として演算する場合を例に挙げて表したものである。このように、注目画素202を中心とする5×5画素の領域の輝度信号について演算が行われる。同図におけるcは、K11乃至K55の配置を表したものであり、同図におけるdは、K11乃至K55の値の例を表したものである。
In the figure, “a” illustrates the state of calculation, taking the case of a luminance signal as an example. The figure shows a case where the luminance signals Y11 to Y55 are calculated. K11 to K55 are coefficients. In the figure, b represents the arrangement of the pixels corresponding to Y11 to Y55, and represents the case where the pixel corresponding to Y33 is calculated as the pixel of
このような処理を行うHPF362を通過した画像信号は、低周波成分が除去されるため、高周波成分のみの信号となる。高周波成分は、画像における急峻な変化を表している。この画像における急峻な変化は主に被写体の輪郭部分で発生するため、HPF362を通過した画像信号は、被写体の輪郭部分の情報を多く含む信号となる。
Since the low-frequency component is removed from the image signal that has passed through the
[判断部および補正部の処理]
前述のように判断部363は、Y信号の高周波成分Y_HとIR信号の高周波成分IR_Hとの比較を行う。通常の撮影では、Y信号の高周波成分Y_HおよびIR信号の高周波成分IR_Hには、顕著な差異はない。しかし、霧などが発生した環境下では可視光が散乱されるため、可視光による画像は、被写体の輪郭がぼやけた画像となる。一方、赤外光は散乱されにくいため、赤外光による画像は、比較的輪郭のぼやけが少ない画像となる。そこで、これらの信号の高周波成分を比較することにより、霧などが発生しているか否かを判断することが可能となる。すなわち、Y信号の高周波成分Y_HとIR信号の高周波成分IR_Hとを比較して、IR信号の高周波成分IR_Hの方が大きい場合には、霧などが発生していると判断することができる。この比較方法として、Y信号の高周波成分Y_HおよびIR信号の高周波成分IR_Hの絶対値の画面全体における平均値[0]を比較する方法を使用することができる。
[Processing of judgment unit and correction unit]
As described above, the
比較方法の他の例として、Y信号の高周波成分Y_HおよびIR信号の高周波成分IR_Hの画面全体における二乗平均値を比較する方法を使用してもよい。 As another example of the comparison method, a method of comparing the mean square values of the high frequency component Y_H of the Y signal and the high frequency component IR_H of the IR signal in the entire screen may be used.
補正部364は、判断部363の判断結果に基づいて輝度信号Yの補正を行う。具体的には、判断部363が、Y信号の高周波成分Y_HよりIR信号の高周波成分IR_Hの方が大きいと判断した場合には、霧などが発生しているため、輝度信号Yに対してコントラストを高める補正を行ったY'信号を生成する。このコントラストを高める補正として、例えば、非線形な利得特性を有する増幅器を使用して信号レベルが低い領域の輝度信号を減衰させることにより補正する方式を使用することができる。
The
[補正方法]
図7は、本技術の第1の実施の形態における補正方法を示す図である。同図は、補正に使用する非線形な利得特性を有する増幅器の特性を示すグラフを表している。グラフの横軸は増幅器の入力信号の信号レベルを表し、縦軸は利得を定常時の利得に対する比率により表したものである。この増幅器は、入力信号を増幅するものであり、その利得は、入力信号レベルにより変化する。すなわち、閾値以下の信号レベルでは、利得が徐々に低下する。なお、定常時の利得は、例えば、値「1」にすることができる。この増幅器により、信号レベルの低い輝度信号が減衰されるため、輝度信号の明部および暗部の信号レベルの差が大きくなり、コントラストが補正される。なお、このような増幅器に代えて、同様の機能を有するガンマ補正を行ってもよい。具体的には、Y信号、Cb信号およびCr信号をR信号、G信号およびB信号に再度変換して、ガンマ補正を行う。この際、ガンマ曲線は、信号レベルの低い領域の利得が小さくなるように設定する必要がある。
[Correction method]
FIG. 7 is a diagram illustrating a correction method according to the first embodiment of the present technology. The figure shows a graph showing the characteristics of an amplifier having a non-linear gain characteristic used for correction. The horizontal axis of the graph represents the signal level of the input signal of the amplifier, and the vertical axis represents the gain as a ratio to the gain at the steady state. This amplifier amplifies an input signal, and its gain varies depending on the input signal level. That is, the gain gradually decreases at signal levels below the threshold. Note that the steady-state gain can be set to a value “1”, for example. Since this amplifier attenuates the luminance signal having a low signal level, the difference in signal level between the bright and dark portions of the luminance signal is increased, and the contrast is corrected. Note that gamma correction having the same function may be performed instead of such an amplifier. Specifically, the Y signal, the Cb signal, and the Cr signal are converted again into the R signal, the G signal, and the B signal, and gamma correction is performed. At this time, the gamma curve needs to be set so that the gain in the low signal level region is small.
[信号処理手順]
図8は、本技術の第1の実施の形態における信号処理手順の一例を示す図である。信号処理装置300は、撮像素子200から、画像信号が入力されると、本処理を開始する。まず、信号処理装置300は、入力された画像信号に対してデモザイク等の信号変換処理を行う(ステップS901)。次に、信号処理装置300は、IR信号と信号変換処理により得られたY信号とについて高周波成分の抽出を行う(ステップS902)。これにより、Y信号およびIR信号からY信号の高周波成分Y_H信号およびIR信号の高周波成分IR_H信号が得られる。次に、信号処理装置300は、Y信号の高周波成分Y_H信号およびIR信号の高周波成分IR_H信号の平均値を算出し(ステップS903)、これらの平均値を比較して判断を行う(ステップS904)。その結果、IR信号の高周波成分IR_Hの平均値の方が大きい場合には(ステップS904:Yes)、信号処理装置300は、Y信号の補正を行い(ステップS905)処理を終了する。一方、大きくない場合には(ステップS904:No)、信号処理装置300は、ステップS905の処理をスキップして、処理を終了する。
[Signal processing procedure]
FIG. 8 is a diagram illustrating an example of a signal processing procedure according to the first embodiment of the present technology. When an image signal is input from the
このように、本技術の第1の実施の形態によれば、Y信号の高周波成分Y_HとIR信号の高周波成分IR_Hとを比較して霧などが発生しているか否かを判断する。これにより、夜間等の低照度環境下であっても、適正な判断が可能となり、これに基づいて輝度信号のコントラストの低下を補正し、視認性を向上させることができる。 As described above, according to the first embodiment of the present technology, the high frequency component Y_H of the Y signal is compared with the high frequency component IR_H of the IR signal to determine whether fog or the like is generated. This makes it possible to make an appropriate determination even in a low-light environment such as at night. Based on this, it is possible to correct a decrease in contrast of the luminance signal and improve visibility.
<2.第2の実施の形態>
上述の第1の実施の形態では、輝度信号の補正に、信号レベルが低い領域の輝度信号を減衰させる方式を使用していた。これに対し、本技術の第2の実施の形態では、輝度信号にIR信号の高周波成分を混合して補正する。これにより、より鮮明な画像を得ることができる。
<2. Second Embodiment>
In the first embodiment described above, a method of attenuating the luminance signal in the region where the signal level is low is used for correcting the luminance signal. On the other hand, in the second embodiment of the present technology, correction is performed by mixing the high-frequency component of the IR signal with the luminance signal. Thereby, a clearer image can be obtained.
[画像処理部の構成]
図9は、本技術の第2の実施の形態における画像処理部360の構成例を示す図である。この画像処理部360は、補正部364の代わりに補正部365を備える。この補正部365には、Y信号、Cb信号およびCr信号に加えて、IR信号の高周波成分IR_H信号を入力する。これ以外の画像処理部360および信号処理装置300の構成は本技術の第1の実施の形態における画像処理部360および信号処理装置300と同様であるため説明を省略する。
[Configuration of image processing unit]
FIG. 9 is a diagram illustrating a configuration example of the
[補正部の処理]
補正部365は、判断部363の結果に基づいてY信号の補正を行う。この補正は次式に基づいて行うことができる。
Y'=α×Y+(1−α)×IR_H
但し、αは混合比率である。この混合比率αを0乃至1の任意の値にすることにより、Y信号に混合されるIR信号の高周波成分IR_H信号の比率を変更することができる。このように混合比率αに基づいて、Y信号とIR信号の高周波成分IR_H信号とを混合して、Y信号を補正することができる。IR信号の高周波成分IR_H信号が混合されるため、補正後の信号であるY'信号は、被写体の輪郭が強調された画像信号となる。そのため、鮮明な画像を得ることができる。
[Correction processing]
The
Y ′ = α × Y + (1−α) × IR_H
Where α is the mixing ratio. By setting the mixing ratio α to an arbitrary value between 0 and 1, the ratio of the high frequency component IR_H signal of the IR signal mixed with the Y signal can be changed. Thus, based on the mixing ratio α, the Y signal can be corrected by mixing the Y signal and the high frequency component IR_H signal of the IR signal. Since the high frequency component IR_H signal of the IR signal is mixed, the Y ′ signal that is the corrected signal is an image signal in which the contour of the subject is emphasized. Therefore, a clear image can be obtained.
このように、本技術の第2の実施の形態によれば、Y信号の高周波成分Y_HとIR信号の高周波成分IR_Hとを加算する補正を行うことにより、より鮮明な画像を得ることができ、視認性を向上させることができる。 Thus, according to the second embodiment of the present technology, it is possible to obtain a clearer image by performing correction by adding the high-frequency component Y_H of the Y signal and the high-frequency component IR_H of the IR signal, Visibility can be improved.
上述のように、本技術の実施の形態によれば、夜間等の低照度環境下であっても、霧などが発生しているか否かについて適正な判断が可能となる。これに基づいて、輝度信号を補正することにより視認性を向上させることができる。 As described above, according to the embodiment of the present technology, it is possible to appropriately determine whether fog or the like is generated even in a low illumination environment such as nighttime. Based on this, visibility can be improved by correcting the luminance signal.
なお、上述の実施の形態は本技術を具現化するための一例を示したものであり、実施の形態における事項と、特許請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、特許請求の範囲における発明特定事項と、これと同一名称を付した本技術の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本技術は実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。 The above-described embodiment shows an example for embodying the present technology, and the matters in the embodiment and the invention-specific matters in the claims have a corresponding relationship. Similarly, the invention specific matter in the claims and the matter in the embodiment of the present technology having the same name as this have a corresponding relationship. However, the present technology is not limited to the embodiment, and can be embodied by making various modifications to the embodiment without departing from the gist thereof.
また、上述の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。この記録媒体として、例えば、CD(Compact Disc)、MD(MiniDisc)、DVD(Digital Versatile Disc)、メモリカード、ブルーレイディスク(Blu-ray(登録商標)Disc)等を用いることができる。 Further, the processing procedure described in the above embodiment may be regarded as a method having a series of these procedures, and a program for causing a computer to execute these series of procedures or a recording medium storing the program. You may catch it. As this recording medium, for example, a CD (Compact Disc), an MD (MiniDisc), a DVD (Digital Versatile Disc), a memory card, a Blu-ray disc (Blu-ray (registered trademark) Disc), or the like can be used.
なお、本明細書に記載された効果はあくまで例示であって、限定されるものではなく、また、他の効果があってもよい。 In addition, the effect described in this specification is an illustration to the last, Comprising: It does not limit and there may exist another effect.
なお、本技術は以下のような構成もとることができる。
(1)輝度信号の高周波成分と赤外光信号の高周波成分とを抽出するフィルタと、
前記抽出された前記輝度信号の高周波成分より前記抽出された前記赤外光信号の高周波成分の方が大きいか否かを判断する判断部と、
前記判断の結果に基づいて前記輝度信号を補正する補正部と
を具備する信号処理装置。
(2)前記補正部は、前記判断部において前記抽出された前記輝度信号の高周波成分より前記抽出された前記赤外光信号の高周波成分の方が大きいと判断された場合に所定の信号レベルより低い信号レベルの前記輝度信号を減衰させる前記(1)に記載の信号処理装置。
(3)前記補正部は、前記判断部において前記抽出された前記輝度信号の高周波成分より前記抽出された前記赤外光信号の高周波成分の方が大きいと判断された場合に前記輝度信号に前記抽出された前記赤外光信号の高周波成分を所定の比率に基づいて混合する前記(1)に記載の信号処理装置。
(4)前記判断部は、前記抽出された前記輝度信号の高周波成分の平均値と前記抽出された前記赤外光信号の高周波成分の平均値とを比較して判断する前記(1)から(3)に記載の信号処理装置。
(5)前記判断部は、前記抽出された前記輝度信号の高周波成分の二乗平均値と前記抽出された前記赤外光信号の高周波成分の二乗平均値とを比較して判断する前記(1)から(3)に記載の信号処理装置。
(6)可視光信号および赤外光信号を出力する撮像素子と、
前記出力された前記可視光信号から輝度信号を生成する生成部と、
前記生成された前記輝度信号の高周波成分と前記出力された前記赤外光信号の高周波成分とを抽出するフィルタと、
前記抽出された前記輝度信号の高周波成分より前記抽出された前記赤外光信号の高周波成分の方が大きいか否かを判断する判断部と、
前記判断の結果に基づいて前記輝度信号を補正する補正部と
を具備する撮像装置。
(7)輝度信号の高周波成分と赤外光信号の高周波成分とを抽出する抽出手順と、
前記抽出された前記輝度信号の高周波成分より前記抽出された前記赤外光信号の高周波成分の方が大きいか否かを判断する判断手順と、
前記判断の結果に基づいて前記輝度信号を補正する補正手順と
を具備する信号処理方法。
In addition, this technique can also take the following structures.
(1) a filter that extracts a high-frequency component of a luminance signal and a high-frequency component of an infrared light signal;
A determination unit for determining whether or not the extracted high frequency component of the infrared light signal is larger than the extracted high frequency component of the luminance signal;
And a correction unit that corrects the luminance signal based on the result of the determination.
(2) When the determination unit determines that the extracted high frequency component of the infrared light signal is larger than the extracted high frequency component of the luminance signal, the correction unit is greater than a predetermined signal level. The signal processing apparatus according to (1), wherein the luminance signal having a low signal level is attenuated.
(3) When the determination unit determines that the high-frequency component of the extracted infrared light signal is larger than the high-frequency component of the extracted luminance signal, the correction unit adds the luminance signal to the luminance signal. The signal processing apparatus according to (1), wherein high-frequency components of the extracted infrared light signal are mixed based on a predetermined ratio.
(4) The determination unit compares the average value of the high-frequency components of the extracted luminance signal with the average value of the high-frequency components of the extracted infrared light signal to determine (1) to ( The signal processing apparatus according to 3).
(5) The determination unit makes a determination by comparing a root mean square value of high frequency components of the extracted luminance signal and a root mean square value of high frequency components of the extracted infrared light signal. To (3).
(6) an image sensor that outputs a visible light signal and an infrared light signal;
A generator for generating a luminance signal from the output visible light signal;
A filter that extracts a high-frequency component of the generated luminance signal and a high-frequency component of the output infrared light signal;
A determination unit for determining whether or not the extracted high frequency component of the infrared light signal is larger than the extracted high frequency component of the luminance signal;
An imaging apparatus comprising: a correction unit that corrects the luminance signal based on the result of the determination.
(7) an extraction procedure for extracting the high-frequency component of the luminance signal and the high-frequency component of the infrared light signal;
A determination procedure for determining whether or not the extracted high-frequency component of the infrared light signal is greater than the extracted high-frequency component of the luminance signal;
And a correction procedure for correcting the luminance signal based on the result of the determination.
10 撮像装置
100 レンズ
200 撮像素子
201 画素
202 注目画素
300 信号処理装置
301 バス
310 撮像素子インターフェース
320 プロセッサ
330 出力インターフェース
360 画像処理部
361 信号変換部
363 判断部
364、365 補正部
367 暗電流ばらつき補正部
368 デモザイク部
369 YC変換部
370 画像圧縮部
400 画像信号出力部
500 赤外光照射部
DESCRIPTION OF
Claims (7)
前記抽出された前記輝度信号の高周波成分より前記抽出された前記赤外光信号の高周波成分の方が大きいか否かを判断する判断部と、
前記判断の結果に基づいて前記輝度信号を補正する補正部と
を具備する信号処理装置。 A filter that extracts a high-frequency component of the luminance signal and a high-frequency component of the infrared light signal;
A determination unit for determining whether or not the extracted high frequency component of the infrared light signal is larger than the extracted high frequency component of the luminance signal;
And a correction unit that corrects the luminance signal based on the result of the determination.
前記出力された前記可視光信号から輝度信号を生成する生成部と、
前記生成された前記輝度信号の高周波成分と前記出力された前記赤外光信号の高周波成分とを抽出するフィルタと、
前記抽出された前記輝度信号の高周波成分より前記抽出された前記赤外光信号の高周波成分の方が大きいか否かを判断する判断部と、
前記判断の結果に基づいて前記輝度信号を補正する補正部と
を具備する撮像装置。 An image sensor that outputs a visible light signal and an infrared light signal;
A generator for generating a luminance signal from the output visible light signal;
A filter that extracts a high-frequency component of the generated luminance signal and a high-frequency component of the output infrared light signal;
A determination unit for determining whether or not the extracted high frequency component of the infrared light signal is larger than the extracted high frequency component of the luminance signal;
An imaging apparatus comprising: a correction unit that corrects the luminance signal based on the result of the determination.
前記抽出された前記輝度信号の高周波成分より前記抽出された前記赤外光信号の高周波成分の方が大きいか否かを判断する判断手順と、
前記判断の結果に基づいて前記輝度信号を補正する補正手順と
を具備する信号処理方法。 An extraction procedure for extracting the high-frequency component of the luminance signal and the high-frequency component of the infrared light signal;
A determination procedure for determining whether or not the extracted high-frequency component of the infrared light signal is greater than the extracted high-frequency component of the luminance signal;
And a correction procedure for correcting the luminance signal based on the result of the determination.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2014211890A JP2016082390A (en) | 2014-10-16 | 2014-10-16 | Signal processing device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2014211890A JP2016082390A (en) | 2014-10-16 | 2014-10-16 | Signal processing device |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2016082390A true JP2016082390A (en) | 2016-05-16 |
Family
ID=55956558
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2014211890A Pending JP2016082390A (en) | 2014-10-16 | 2014-10-16 | Signal processing device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2016082390A (en) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2018070100A1 (en) * | 2016-10-14 | 2018-04-19 | 三菱電機株式会社 | Image processing device, image processing method, and photographing apparatus |
| JP2022538947A (en) * | 2020-05-27 | 2022-09-07 | 北京小米移動軟件有限公司南京分公司 | Image processing method and apparatus, camera assembly, electronic device, storage medium |
-
2014
- 2014-10-16 JP JP2014211890A patent/JP2016082390A/en active Pending
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2018070100A1 (en) * | 2016-10-14 | 2018-04-19 | 三菱電機株式会社 | Image processing device, image processing method, and photographing apparatus |
| JP6351903B1 (en) * | 2016-10-14 | 2018-07-04 | 三菱電機株式会社 | Image processing apparatus, image processing method, and photographing apparatus |
| US10699395B2 (en) | 2016-10-14 | 2020-06-30 | Mitsubishi Electric Corporation | Image processing device, image processing method, and image capturing device |
| JP2022538947A (en) * | 2020-05-27 | 2022-09-07 | 北京小米移動軟件有限公司南京分公司 | Image processing method and apparatus, camera assembly, electronic device, storage medium |
| JP7321187B2 (en) | 2020-05-27 | 2023-08-04 | 北京小米移動軟件有限公司南京分公司 | Image processing method and apparatus, camera assembly, electronic device, storage medium |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US8208046B2 (en) | Method of detecting defect in image pickup apparatus and the image pickup apparatus | |
| US11244209B2 (en) | Image processing device, imaging device, and image processing method | |
| JP4534756B2 (en) | Image processing apparatus, image processing method, imaging apparatus, program, and recording medium | |
| JP4914303B2 (en) | Image processing apparatus and imaging apparatus, image processing method and imaging method, and image processing program | |
| RU2527198C2 (en) | Image processing device and image processing device control method | |
| JP5847471B2 (en) | Image processing apparatus, imaging apparatus, image processing method, and image processing program | |
| JP6086663B2 (en) | Image processing apparatus, endoscope apparatus, and isolated point noise correction method | |
| WO2017149854A1 (en) | Signal processing apparatus, imaging apparatus, and signal processing method | |
| JP5541205B2 (en) | Image processing apparatus, imaging apparatus, image processing program, and image processing method | |
| JP2010268426A (en) | Image processing apparatus, image processing method, and program | |
| CN101083773B (en) | Apparatus and method of gamma correction in digital image processing device | |
| JP2016082390A (en) | Signal processing device | |
| JP4877402B2 (en) | Image processing apparatus, image processing method, imaging apparatus, program, and recording medium | |
| JP5182518B2 (en) | Imaging apparatus and imaging method | |
| CN105450909B (en) | Information processing method and electronic equipment | |
| JP6564368B2 (en) | Imaging control apparatus, imaging apparatus, and imaging control method | |
| JP5178421B2 (en) | Image processing apparatus, image processing method, and imaging apparatus | |
| JP5963913B2 (en) | Image processing apparatus, imaging apparatus, image processing method, and image processing program | |
| JP5935649B2 (en) | Image processing apparatus and image processing method | |
| JP2009017583A (en) | Image processing device | |
| WO2015156045A1 (en) | Image processing device, image-capturing device, and image-capturing method | |
| JP2015179951A (en) | Image processing apparatus, imaging apparatus, image processing method, program and storage medium | |
| JP5957106B2 (en) | Image processing apparatus, image processing apparatus control method, and program | |
| JP2014086957A (en) | Image processing device and image processing method | |
| JP2009033304A (en) | Image filter, image processing apparatus, imaging apparatus, image processing method, and program |