JP2010041437A - Imaging apparatus, control method thereof, and program - Google Patents
Imaging apparatus, control method thereof, and program Download PDFInfo
- Publication number
- JP2010041437A JP2010041437A JP2008202421A JP2008202421A JP2010041437A JP 2010041437 A JP2010041437 A JP 2010041437A JP 2008202421 A JP2008202421 A JP 2008202421A JP 2008202421 A JP2008202421 A JP 2008202421A JP 2010041437 A JP2010041437 A JP 2010041437A
- Authority
- JP
- Japan
- Prior art keywords
- image
- noise
- black
- divided
- detected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Transforming Light Signals Into Electric Signals (AREA)
Abstract
【課題】撮像素子に固有のノイズを残しつつランダムノイズを除去した黒画像を生成することで、黒引き処理の結果を改善することを可能とする。
【解決手段】撮像装置1は、システム制御部113の制御の下、黒画像を複数の分割画像に分割し、分割画像の各々について、一方向に延在するノイズの有無を検出することで撮像素子103の固有ノイズの有無を検出する。また、撮像装置1は、システム制御部113の制御の下、固有ノイズが検出された分割画像の各々について、その固有ノイズの延在方向を検出する。また、撮像装置1は、システム制御部113の制御の下、黒画像の分割画像の各々について、固有ノイズが検出されていない分割画像であれば等方性の2次元平滑化画像処理を行う。また、撮像装置1は、固有ノイズが検出された分割画像であれば検出された固有ノイズを平滑化させない異方性の2次元平滑化画像処理を行い、画像処理後の分割画像からなる黒画像を黒引き処理に用いる。
【選択図】図1It is possible to improve the result of blacking processing by generating a black image from which random noise is removed while leaving noise inherent to an image sensor.
An imaging apparatus (1) divides a black image into a plurality of divided images under the control of a system control unit (113), and detects the presence or absence of noise extending in one direction for each of the divided images. The presence or absence of intrinsic noise in the element 103 is detected. Further, under the control of the system control unit 113, the imaging device 1 detects the extending direction of the inherent noise for each of the divided images in which the inherent noise is detected. Further, the imaging apparatus 1 performs isotropic two-dimensional smoothed image processing for each of the black image divided images as long as it is a divided image in which no inherent noise is detected, under the control of the system control unit 113. In addition, the imaging apparatus 1 performs anisotropic two-dimensional smoothed image processing that does not smooth the detected inherent noise if it is a divided image in which inherent noise is detected, and a black image formed of the divided images after image processing. Is used for blacking processing.
[Selection] Figure 1
Description
本発明は、撮像装置、その制御方法及びプログラムに関する。 The present invention relates to an imaging apparatus, a control method thereof, and a program.
従来、CCDやCMOSイメージセンサなどの撮像素子で静止画や動画を撮像し、記録や再生を行う撮像装置がある。この撮像装置では、撮像時の条件が高感度、長時間露光又は高温度下などである場合に固定パターンノイズが発生し、撮像画像の画質が悪化することがある。固定パターンノイズは、撮像素子を構成する半導体の局所的な結晶欠陥や、暗電流ノイズに起因して発生する撮像素子に固有のノイズである。 2. Description of the Related Art Conventionally, there are image pickup apparatuses that pick up still images and moving images with an image pickup element such as a CCD or a CMOS image sensor, and record and reproduce them. In this imaging apparatus, fixed pattern noise may occur when the conditions during imaging are high sensitivity, long exposure, or high temperature, and the image quality of the captured image may deteriorate. Fixed pattern noise is noise inherent to the image sensor that is generated due to local crystal defects in the semiconductor constituting the image sensor or dark current noise.
例えば、撮像時の条件が上述した条件である場合には、撮像素子において暗電流ノイズが多く発生することが知られている。暗電流ノイズは、撮像素子が光エネルギーだけでなく熱エネルギーも電気信号に変換する性質を持つために発生し、温度が約10°C上昇すると約2倍となる程度の温度依存性を有している。撮像素子は、例えば出力アンプなどの消費電流の多い部分で温度が上昇し、その部分的な温度上昇により暗電流ノイズが部分的に多くなることがある。この部分的な暗電流ノイズが撮像画像の画質に影響する例としては、高感度長秒露光で夜景を撮像した際に、実際には照明がないため黒く写る部分がマゼンダに近い色で明るく写る黒浮きの発生などがある。 For example, it is known that a large amount of dark current noise is generated in the image sensor when the condition during imaging is the above-described condition. Dark current noise is generated because the image sensor has the property of converting not only light energy but also heat energy into an electrical signal, and has a temperature dependence that doubles when the temperature rises by about 10 ° C. ing. For example, the temperature of the imaging device may increase at a portion where the current consumption is large, such as an output amplifier, and the dark current noise may partially increase due to the partial temperature increase. As an example of this partial dark current noise affecting the image quality of captured images, when shooting a night scene with high-sensitivity long-second exposure, the portion that appears black because it is actually not illuminated appears bright in colors close to magenta There are black floats.
また、暗電流ノイズは、被写体像を受光して光電変換を行う画素部だけでなく、変換後の電荷を転送する垂直転送路などにおいても発生する。この垂直転送路で発生する暗電流ノイズは、撮像画像において垂直方向におけるすじ状の黒浮きとなって現れる。なお、撮像画像におけるすじ状の黒浮きの特徴としては次の3つが挙げられる。1点目としては、画像内に一様に発生するランダムノイズと同等な小さなものでも目立つということである。2点目としては、信号電荷が垂直転送路中に長く置かれるほど暗電流ノイズが増加するために画面垂直方向にノイズレベル差が生じやすいということである。3点目としては、垂直転送路ごとの暗電流ノイズレベルや転送効率にばらつきがあり、画面水平方向にすじ状の濃淡むらが生じやすいということである。すなわち、すじ状の黒浮きは、ランダムノイズ程度の大きさでも目立ちやすく、水平又は垂直方向に生じやすいという特徴がある。 Further, dark current noise is generated not only in a pixel portion that receives a subject image and performs photoelectric conversion, but also in a vertical transfer path that transfers the converted charge. The dark current noise generated in the vertical transfer path appears as streaky black floating in the vertical direction in the captured image. In addition, the following three are mentioned as the feature of the streaky black floating in the captured image. The first point is that even a small noise equivalent to random noise generated uniformly in an image is conspicuous. The second point is that since the dark current noise increases as the signal charge is placed longer in the vertical transfer path, a noise level difference tends to occur in the vertical direction of the screen. The third point is that there are variations in dark current noise level and transfer efficiency for each vertical transfer path, and stripe-like shading unevenness tends to occur in the horizontal direction of the screen. In other words, streaky black floats tend to be noticeable even in the magnitude of random noise, and are easily generated in the horizontal or vertical direction.
一方、撮像素子を構成する半導体の局所的な結晶欠陥による固定パターンノイズは、欠陥のある画素に起因して点状に現れる白きずや、垂直転送路中の欠陥部を信号電荷が転送されることで転送方向である垂直方向に線状に現れる線きずなどがある。 On the other hand, fixed pattern noise due to local crystal defects in the semiconductor constituting the imaging device is caused by white defects appearing in dots due to defective pixels, and signal charges are transferred through defective portions in the vertical transfer path. In other words, there are line flaws that appear linearly in the vertical direction as the transfer direction.
撮像装置では、上述した種々の固定パターンノイズを撮像画像から除去するため、シャッターを閉じて遮光状態とする以外の撮像条件を被写体像の撮像時と全く同じにして黒画像を撮像し、撮像画像から黒画像を減算する黒引き処理を行っている。しかし、黒引き処理を行う場合は、黒画像において一様に含まれるランダムノイズの影響を無視することができなくなるため、固定パターンノイズを残しつつランダムノイズを除去することが必要となる。この黒引き処理を行うための黒画像において、固定パターンノイズを残しつつランダムノイズを除去する従来技術としては特許文献1、2が知られている。特許文献1には、黒画像データにおける所定閾値以下の低レベル画素信号について高域周波数成分抑圧処理を行うことで、黒浮きや白きずなどの固定パターンノイズを保ちつつランダムノイズを低減することが記載されている。特許文献2には、黒画像の画素配列の行又は列方向の1次元で平滑化処理を行うことで、すじ状の黒浮きや線きずなどの固定パターンノイズを保ちつつランダムノイズを低減することが記載されている。
しかしながら、上記従来技術では、黒画像から固定パターンノイズを残しつつランダムノイズを除去し、黒引き処理を良好に行うには未だ十分ではなかった。例えば、特許文献1に記載の技術では、信号レベルの閾値によるノイズ分別方法であるため、信号レベルが小さなすじ状の黒浮きはランダムノイズと共に平滑化されてしまうという問題があった。また、特許文献2に記載の技術では、すじ状の黒浮きや線きずがない領域であってもランダムノイズが大きい場合に1次元の平滑化処理方向への相関が強くなるため、ランダムノイズがすじ状に残ってしまうという問題があった。
However, the above-described prior art has not been sufficient to perform random black removal processing by removing random noise while leaving fixed pattern noise from a black image. For example, since the technique disclosed in
本発明は、このような従来技術の課題を少なくとも1つ解決することを目的としてなされたものである。すなわち本発明は、撮像素子に固有のノイズを残しつつランダムノイズを除去した黒画像を生成することで、黒引き処理の結果を改善する撮像装置、その制御方法及びプログラムの提供を1つの目的とする。 The present invention has been made for the purpose of solving at least one of the problems of the prior art. That is, an object of the present invention is to provide an imaging apparatus, a control method thereof, and a program for improving the result of blacking processing by generating a black image from which random noise is removed while leaving noise inherent to the imaging element. To do.
上記目的は、撮像素子を備え、前記撮像素子により被写体像を撮像した画像から、前記撮像素子を遮光した状態で取得した黒画像を減算する黒引き処理により、前記撮像素子の固有ノイズを除去した撮像画像を取得可能な撮像装置であって、前記黒画像を複数の分割画像に分割する分割手段と、前記分割画像の各々について、一方向に延在するノイズの有無を検出することで前記固有ノイズの有無を検出する第1検出手段と、前記第1検出手段により固有ノイズが検出された分割画像の各々について、当該固有ノイズの延在方向を検出する第2検出手段と、前記分割画像の各々について、前記固有ノイズが検出されていない分割画像については等方性の2次元平滑化画像処理を行い、前記固有ノイズが検出された分割画像については前記固有ノイズの延在方向に基づいて前記固有ノイズを平滑化させない異方性の2次元平滑化画像処理を行う画像処理手段とを有し、前記画像処理手段による画像処理後の分割画像からなる黒画像を、前記黒引き処理に用いることを特徴とする本発明による撮像装置によって達成される。 The object is to remove the inherent noise of the image sensor by performing a blacking process that includes an image sensor and subtracts a black image acquired in a state where the image sensor is shielded from an image obtained by capturing the subject image with the image sensor. An imaging apparatus capable of acquiring a captured image, wherein the black image is divided into a plurality of divided images, and each of the divided images is detected by detecting presence or absence of noise extending in one direction. First detection means for detecting the presence or absence of noise, second detection means for detecting the extending direction of the inherent noise for each of the divided images for which inherent noise has been detected by the first detection means, and For each of the divided images in which the inherent noise is not detected, isotropic two-dimensional smoothed image processing is performed, and for the divided image in which the inherent noise is detected, the inherent image is processed. A black image comprising divided images after the image processing by the image processing means, the image processing means performing an anisotropic two-dimensional smoothed image processing that does not smooth the inherent noise based on the direction in which the noise extends Is achieved by the imaging apparatus according to the present invention, which is used for the blacking process.
また、上記目的は、撮像素子を備え、前記撮像素子により被写体像を撮像した画像から、前記撮像素子を遮光した状態で取得した黒画像を減算する黒引き処理により、前記撮像素子の固有ノイズを除去した撮像画像を取得可能な撮像装置の制御方法であって、前記黒画像を複数の分割画像に分割する分割工程と、前記分割画像の各々について、一方向に延在するノイズの有無を検出することで前記固有ノイズの有無を検出する第1検出工程と、前記第1検出工程により固有ノイズが検出された分割画像の各々について、当該固有ノイズの延在方向を検出する第2検出工程と、前記分割画像の各々について、前記固有ノイズが検出されていない分割画像については等方性の2次元平滑化画像処理を行い、前記固有ノイズが検出された分割画像については前記固有ノイズの延在方向に基づいて前記固有ノイズを平滑化させない異方性の2次元平滑化画像処理を行う画像処理工程とを有し、前記画像処理工程による画像処理後の分割画像からなる黒画像を、前記黒引き処理に用いることを特徴とする本発明による撮像装置の制御方法によっても達成される。 In addition, the above object is provided with an image pickup device, and the inherent noise of the image pickup device is reduced by a blacking process that subtracts a black image acquired in a state where the image pickup device is shielded from an image obtained by capturing the subject image with the image pickup device. An image pickup apparatus control method capable of acquiring a removed picked-up image, the step of dividing the black image into a plurality of divided images, and detecting the presence or absence of noise extending in one direction for each of the divided images A first detection step of detecting the presence or absence of the inherent noise, and a second detection step of detecting the extending direction of the inherent noise for each of the divided images in which the inherent noise is detected by the first detection step; For each of the divided images, an isotropic two-dimensional smoothed image process is performed on the divided images in which the inherent noise is not detected, and the divided images in which the inherent noise is detected are processed. And an image processing step that performs anisotropic two-dimensional smoothed image processing that does not smooth the inherent noise based on the extending direction of the inherent noise, and a divided image after image processing by the image processing step It is also achieved by a method for controlling an imaging apparatus according to the present invention, wherein a black image comprising:
本発明によれば、撮像素子に固有のノイズを残しつつランダムノイズを除去した黒画像を生成することで、黒引き処理の結果を改善することが可能となる。 According to the present invention, it is possible to improve the result of the blacking process by generating a black image from which random noise is removed while leaving noise inherent to the image sensor.
以下、この発明の実施の形態について図を参照して説明するが、この発明は以下の実施の形態に限定されない。また、この発明の実施の形態は発明の最も好ましい形態を示すものであり、発明の範囲を限定するものではない。 Hereinafter, embodiments of the present invention will be described with reference to the drawings. However, the present invention is not limited to the following embodiments. Further, the embodiment of the present invention shows the most preferable mode of the invention, and does not limit the scope of the invention.
図1は、本発明に係る撮像装置1の概略構成を示すブロック図である。図1に示すように、撮像装置1は、光学系101、シャッタ102を通して結像した光を撮像素子103により光電変換し、被写体像を撮像した画像データを取得する。光電変換により取得された画像データは、出力ノイズを除去するCDS(Correlated Double Sampling)回路や非線形増幅回路を備えた前置処理回路104とA/D変換器105を通してデジタル化される。デジタル化された画像データは、メモリコントローラ106を介してメモリ107に一旦格納される。メモリ107に格納された画像データは、画像処理部108によって種々の画像処理やJPEG(Joint Photographic Experts Group)などの所定の画像形式への変換が行われて記録媒体109に記録される。なお、画像処理部108における種々の画像処理には、被写体像を撮像した画像データからシャッタ102により遮光状態で撮像した黒画像データを減算する黒引き処理や、画像データのランダムノイズを低減させるノイズ低減処理も含まれる。
FIG. 1 is a block diagram showing a schematic configuration of an
操作表示部110は、被写体像を撮像した撮像画像の表示や撮像装置1の状態情報を表示する液晶パネルなどである。第1スイッチ111は、撮像スタンバイ動作を行うための指示を受け付けるスイッチである。第2スイッチ112は、第1スイッチ111の指示による撮像スタンバイ時において撮影を行うための指示を受け付けるスイッチである。
The
システム制御部113は、不図示のCPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)などを有し、撮像装置1の動作を中央制御する。具体的には、システム制御部113は、ROMなどに記憶されたプログラムデータをRAMの作業領域に展開し、当該展開されたプログラムデータとCPUとの協働により各部を統括制御する。
The
シャッタ制御回路114は、システム制御部113の制御の下でシャッタ102の駆動に係る制御信号を生成する回路である。温度センサ115は、撮像素子103近傍に配置されて当該撮像素子103の温度を測定し、その測定値を示す温度検知信号をシステム制御部113へ出力する。メインスイッチ116は、撮像装置1の電源投入を指示するスイッチである。なお、撮像装置1の構成は上述したものに限定しない。例えば、撮像装置1は、撮像素子103における撮像時の感度設定や露出時間の設定を行う設定スイッチ、被写体へ補助光を照射するストロボなどを備えてもよい。
The
次に、システム制御部113の制御の下で行われる黒引き処理を伴う静止画撮像の動作概要について説明する。先ず、システム制御部113は、第1スイッチ111の操作によりAF(Auto Focus)などの撮像スタンバイ動作を行い、第2スイッチ112の操作により被写体の撮像動作を開始する。
Next, an outline of the operation of still image capturing with blackening processing performed under the control of the
撮像動作の開始により、システム制御部113は、黒引き処理を行う撮像条件である黒画像撮像条件が設定されたテーブルデータ(詳細は後述する)をROMから読み出す。次いで、システム制御部113は、撮像動作時において設定された感度、露出時間及び温度センサ115により測定された撮像素子103の温度がテーブルデータに設定された黒引き処理を行う条件に該当するか否かを判定する。この判定において黒引き処理を行う条件に該当する場合に、撮像装置1では、黒引き処理を伴う静止画撮像が行われることとなる。
With the start of the imaging operation, the
黒引き処理を伴う静止画撮像の開始により、システム制御部113は、撮像素子103で被写体像を撮像させる。次いで、システム制御部113は、被写体像を撮像した同一の撮像素子103を用いて、シャッタ102を閉じて遮光状態とする以外は被写体像の撮像時と同じ撮像設定(感度設定、露出時間など)で黒画像を撮像させる。次いで、システム制御部113は、画像処理部108を制御することで、撮像した黒画像について、撮像時の条件やすじ状の黒浮きの検出により必要に応じてノイズ低減処理を行った後、撮像画像から黒画像を減算する黒引き処理を行って撮像画像を取得する。
The
以下の説明では、図2に例示したフローチャートを参照してシステム制御部113の制御の下で実行される撮像装置1の動作を詳細に説明する。図2に示すように、S201では、システム制御部113は、システムに電源を投入するメインスイッチ116の状態を検出し、ONであればS202へ処理が進む。S202では、システム制御部113は、記録媒体109の残容量を調べ、残容量が0であればS203へ処理が進み、残容量が0でなければS204へ処理が進む。S203では、システム制御部113は、記録媒体109の残容量が0であることを警告してS201に処理が戻る。この警告は操作表示部110に表示するか、スピーカなどの音声出力部(特に図示しない)から警告音を出力するか又はその両方を行ってもよい。
In the following description, the operation of the
S204では、システム制御部113は、第1スイッチ111の状態を調べ、ONであればS206へ処理が進み、ONで無ければS205へ処理が進む。なお、第1スイッチ111がON/OFFなどにより受け付ける指示は、AFやAEなどの撮像スタンバイ動作の有無である。S205では、システム制御部113は、メインスイッチ116の状態を調べ、ONであればS204へ、ONで無ければS201へ処理が進む。S206、S207では、システム制御部113は、AE処理とAF処理を順次実行する。
In S204, the
S208では、システム制御部113は、第2スイッチ112の状態を調べ、ONであればS210へ処理が進み、ONで無ければS209へ処理が進む。なお、第2スイッチ112がON/OFFなどにより受け付ける指示は、第1スイッチ111を操作後の撮像スタンバイ中における撮像指示である。S209では、システム制御部113は、第1スイッチ111の状態を調べ、ONであればS208へ処理が戻り、ONで無ければS204へ処理が戻る。S210では、システム制御部113は、後述する撮影処理のフローチャートに従って撮影動作を行う。S211では、システム制御部113は、記録媒体109の残容量を調べ、残容量が0であればS203へ処理が進み、残容量が0でなければS212へ処理が進む。なお、S202、S211における残容量の調査は、1枚の画像を記録するのに必要な程度の所定の閾値に基づいた残容量の調査であってもよく、残容量が0であるか否かの調査に限定しない。S212では、第2スイッチ112の状態を調べ、ONでなければS209へ処理が進む。
In S208, the
ここで、図3に例示したフローチャートを参照して撮影処理(S210)の詳細について説明する。図3に示すように、S301では、システム制御部113は、撮像素子103の電荷クリア動作を行い、S302で電荷蓄積を開始する。電荷蓄積後、システム制御部113は、S303でシャッタ102を開いて撮像素子103の露光を開始させる(S304)。このS304における撮像素子103の露光は、被写体像を撮像した撮像画像(本画像)を取得するための露光である。撮像素子103の撮像面上に結像された被写体像は、光電変換されて撮像素子103に電荷が蓄積される。その後、システム制御部113は、AE処理により設定された露光時間を待ってS305でシャッタ102を閉じる。S306では、システム制御部113は、撮像素子103の電荷蓄積を終了し、S307で撮像素子103の撮像信号(撮像画像データ)を読み出してA/D変換した後にメモリ107へ格納させる。
Here, the details of the photographing process (S210) will be described with reference to the flowchart illustrated in FIG. As shown in FIG. 3, in S301, the
S308では、システム制御部113は、被写体像の撮像時の感度、露出時間及び撮像素子温度等の撮像条件に基づいて、予めROMなどに設定された黒画像撮像条件を参照し、その被写体像撮像時の撮像条件が黒画像撮像条件に当てはまるか否かを判定する。このS308において、システム制御部113は、被写体増撮像時の撮像条件が黒画像撮像条件に当てはまればS309へ処理が進み、当てはまらなければS317へ処理が進む。
In step S308, the
ここで、予め設定された黒画像撮像条件について、図4(a)を参照して説明する。図4(a)に示すように、黒画像撮像条件は、黒画像による黒引き処理を行うべき撮像条件(感度、露出時間、温度)が設定されたテーブルデータなどである。この黒画像撮像条件により、例えば、露出時間〜1sec、撮像感度ISO1600の撮像条件の場合は、撮像素子103の温度が20°C以上である場合に黒画像撮像による黒引き処理が行われることとなる。
Here, preset black image capturing conditions will be described with reference to FIG. As shown in FIG. 4A, the black image capturing condition is table data in which an imaging condition (sensitivity, exposure time, temperature) for performing blacking processing using a black image is set. According to this black image capturing condition, for example, in the case of the imaging condition of exposure time to 1 sec and
S309では、システム制御部113は、撮像素子103の電荷クリア動作を行い、S310で電荷蓄積を開始させる。S311では、システム制御部113は、黒画像撮像のためにシャッタ102は閉じたままの遮光状態で露光を開始させる。その後、システム制御部113は、S304における被写体像の撮像時と同じ露光時間を待って、S312で撮像素子103の電荷蓄積を終了させ、S313で撮像素子103の撮像信号(黒画像データ)を読み出す。S314では、システム制御部113は、後述する黒画像処理のフローチャートに従って、読み出した黒画像データについて必要に応じたノイズ低減処理を行う。
In S309, the
S315では、システム制御部113は、メモリ107へ保存した撮像画像データと、S314による処理後の黒画像データとを用いて、撮像画像データから黒画像データを減算する黒引き処理を実施する。黒引き処理では、S314で必要に応じてノイズ低減処理された黒画像データを同じ画素位置の撮像画像データから減算し、OB(オプティカルブラック)値として一律の値を加算する等の画像処理が行われる。撮像装置1では、この黒引き処理により、撮像素子103の固有ノイズを除去した撮像画像を取得可能となる。
In S315, the
S316では、システム制御部113は、S307で読み出した撮像画像データや黒引き処理後の撮像画像データについて、画像処理部108によりホワイトバランス調整などの画像処理を実行して適正な出力画像信号とする。S317では、システム制御部113は、画像処理部108により出力画像信号をJPEGフォーマット等への画像変換を行った後にS318で記録媒体109へ転送して記録させる。
In step S316, the
ここで、図5に例示したフローチャートを参照して黒画像処理(S314)の詳細について説明する。なお、黒画像処理の目的は、黒引き処理時のランダムノイズ増加による画質低下の弊害をさけるため、黒引き処理に用いる黒画像のランダムノイズを低減させることである。ここで、黒画像にすじ状の黒浮きが発生している場合、ランダムノイズを低減させるノイズ低減処理後の黒画像にもすじ状の黒浮きを残して置かなければ、黒引き処理にてすじ状の黒浮きについての補正を行うことができなくなるため、注意が必要である。 Here, details of the black image processing (S314) will be described with reference to the flowchart illustrated in FIG. The purpose of the black image processing is to reduce the random noise of the black image used for the black drawing process in order to avoid the adverse effect of the image quality degradation due to the increase of random noise during the black drawing process. Here, if streaky black floats occur in the black image, black lines will be used in the black drawing process unless the streaky black floats are left in the black image after noise reduction processing to reduce random noise. Care must be taken because it is impossible to perform correction for the black floating in the shape.
図5に示すように、S501では、システム制御部113は、撮像画像の感度、露出時間及び撮像素子温度等の撮像条件について、予めROMなどに設定された黒画像未処理条件を参照し、その撮像条件が黒画像未処理条件に当てはまるか否かを判定する。このS501において、システム制御部113は、撮像条件が黒画像未処理条件に当てはまれば何も処理(ノイズ低減処理)を行わずにリターンし、撮像条件が黒画像未処理条件に当てはまらなければS502へ処理が進む。
As shown in FIG. 5, in S501, the
ここで、予め設定された黒画像未処理条件について、図4(b)を参照して説明する。図4(b)に示すように、黒画像未処理条件は、黒画像のノイズ低減処理を未処理とすべき撮像条件(感度、露出時間、温度)が設定されたテーブルデータなどである。この黒画像未処理条件は、撮像素子の特性にもよるが、一般的に図4(a)に例示した黒画像撮像条件よりも高温であるなど、より厳しい条件となる。この黒画像未処理条件により、例えば、露出時間〜1sec、撮像感度ISO1600の撮像条件の場合は、撮像素子103の温度が50°C以上である場合に黒画像のノイズ低減処理が未処理となる。
Here, the black image unprocessed conditions set in advance will be described with reference to FIG. As shown in FIG. 4B, the black image unprocessed condition is table data in which imaging conditions (sensitivity, exposure time, temperature) in which the black image noise reduction process is to be unprocessed are set. Although this black image unprocessed condition depends on the characteristics of the imaging device, it is generally a more severe condition such as a higher temperature than the black image imaging condition illustrated in FIG. With this black image unprocessed condition, for example, in the case of an image capture condition with an exposure time of 1 sec and an imaging sensitivity of
ここで、黒画像におけるノイズ低減処理が行われない場合を例にして、黒画像未処理条件を説明する。例えば、予め設定されたきず情報により点きず等の補正を行う点きず補正回路において、きず情報を記憶するメモリ容量の制約による上限数以上に点きずが発生するような撮像条件においては、黒引き処理によって点きずを補正する必要がある。この場合、ランダムノイズを低減させるノイズ低減処理後の黒画像に点きずを残す必要があるが、点きずが多く発生する場合のような撮像条件(例えば高温時)ではランダムノイズも多く発生することとなる。よって、上述した撮像条件下では、点きずと区別してランダムノイズのみを低減することは困難である。以上のような場合には、黒画像のノイズ低減処理が未処理のまま黒引き処理を行うように、黒画像未処理条件が設定される。すなわち、黒画像未処理条件には、撮像素子に固有するノイズとランダムノイズとの区別が困難な撮像画像となる撮像条件などが予め設定される。 Here, a black image unprocessed condition will be described by taking as an example a case where noise reduction processing is not performed on a black image. For example, in a spot-flaw correction circuit that corrects a spot or the like based on preset scratch information, blacking out is performed under an imaging condition in which the number of spots exceeds the upper limit due to the limitation of the memory capacity for storing the scratch information. It is necessary to correct the flaws by processing. In this case, it is necessary to leave spots in the black image after noise reduction processing to reduce random noise, but random noise also occurs under imaging conditions (for example, at high temperatures) such as when many spots are generated. It becomes. Therefore, under the above-described imaging conditions, it is difficult to reduce only random noise as distinguished from point marks. In such a case, the black image unprocessed condition is set so that the black drawing process is performed while the noise reduction process of the black image is not processed. That is, for the black image unprocessed condition, an imaging condition for obtaining a captured image in which it is difficult to distinguish between noise unique to the imaging element and random noise is set in advance.
S502では、システム制御部113は、撮像素子103上の撮像面での撮像画像を複数のブロック(分割画像)に分割するためのブロックを設定する。具体的には、図6に示すように、撮像素子103上の撮像面では、光学系101から入射される光を受光可能な受光領域である開口領域103aと、光学系101から入射される光が当たらない遮光領域であるOB領域103bとがある。なお、撮像素子103では、OB領域103bにフォトセンサなどがない構造のものもある。撮像素子103の撮像面においては、開口領域103aとOB領域103bで区別し、OB領域103bをブロックに分割する領域の対象外とし、開口領域103aに対応した領域での撮像画像についてブロック分割を行う。また、撮像素子103では、ブロックによる分割対象とする画像が黒画像であることと、黒浮き発生状況の連続性を考慮し、フォトセンサの有無に基づいて、フォトセンサ設置領域103cをブロック分割の対象領域としてもよい。また、上述したブロックは、分割対象となる全領域を例えばn×mの格子で分割した矩形領域であってよい。
In step S <b> 502, the
なお、黒画像において、後述するすじ状の黒浮きの検出とランダムノイズを低減させるためのノイズ低減処理(S503〜S507)は、S502で設定された複数のブロック(分割画像)ごとに行われる。これは、すじ状の黒浮きの発生状況や発生レベルが画面の上部や下部などで異なる場合においてもブロックごとに処理することで、すじ状の黒浮きを残したままランダムノイズを低減するためでである。 In the black image, streak-like black floating detection and noise reduction processing (S503 to S507) for reducing random noise, which will be described later, are performed for each of a plurality of blocks (divided images) set in S502. This is to reduce random noise while leaving streak-like black float by processing for each block even when the occurrence status and level of streaky black float differ at the top and bottom of the screen. It is.
S503では、システム制御部113は、黒画像を分割した個々のブロックにおいて、異なる複数の方向について所定の信号処理を行う。本実施形態では、黒画像の垂直方向と水平方向の2方向について、ノイズの高周波成分を比較する。この信号処理により、システム制御部113では、ブロックにおけるすじ状の黒浮きの検出、すなわち一方向に延在するノイズの有無を検出することが可能となる(第1検出手段)。これは、ランダムノイズによるホワイトノイズ成分は方向依存性がない一方、すじ状黒浮きが発生している場合は、その方向に相関性が強くなり、水平方向と垂直方向の2方向でその画像信号成分に差が生じるためである。このような信号処理により、システム制御部113は、微少な信号レベルであってもすじ状の黒浮きの発生をランダムノイズと区別して適切に検出することが可能となる。
In step S503, the
具体的には、S503において、システム制御部113は、黒画像を2次元ローパスフィルタ処理し、元の黒画像との差分をとって、画像信号成分の高周波成分を抽出した画像を得る。さらに、システム制御部113は、黒画像を垂直方向と水平方向にそれぞれ1次元ローパスフィルタ処理し、絶対値をとった2つの画像から差分画像を求め、2方向の画像信号成分の高周波成分を比較する。
Specifically, in S503, the
S504では、システム制御部113は、S503で得られた差分画像について、S502で設定されたブロックごとにブロック積分値を求め、すじ状の黒浮きの発生有無と、発生方向(延在方向)を検出する。このS504では、ブロック積分値の絶対値が予め設定された所定値より小さければすじ状の黒浮きが発生していないと判定され、所定値より大きければすじ状の黒浮きが発生していると判定、検出される。ここで、差分画像が垂直方向に1次元ローパスフィルタ処理した画像から水平方向に1次元ローパスフィルタ処理した画像を減算したものとすると、ブロック積分値の絶対値が所定値より大きく正である場合、すじ状黒浮きの発生方向は垂直方向として検出される。また、ブロック積分値の絶対値が所定値より大きく負である場合、すじ状黒浮きの発生方向は水平方向として検出される。すなわち、システム制御部113は、固有ノイズであるすじ状黒浮きの延在方向を検出する(第2検出手段)。
In step S504, the
S505では、システム制御部113は、S504においてすじ状の黒浮きの発生を検出したか否かを判定し、検出していればS506へ処理が進み、検出していなければS507へ処理が進む。
In S505, the
S506では、システム制御部113は、S504で検出されたすじ状の黒浮きの発生方向に1次元の平滑化処理を行う、すなわち、異方性の2次元平滑化処理を行う。これにより、黒画像にすじ状の黒浮きを残しつつ、ランダムノイズを低減させることが可能となる。S507では、システム制御部113は、すじ状の黒浮きが検出されていないため、撮像面においてどの方位にも等価に平滑化処理を行う等方性の2次元平滑化処理を行う。これにより、ランダムノイズをすじ状に残すことなく低減させることが可能となる。なお、上述した平滑化処理は、ローパスフィルタ処理や、加算平均処理、メディアン処理などにより行われる。
In step S506, the
以上のように、システム制御部113は、上述した黒画像処理を行うことで、固有ノイズが検出されていない分割画像については等方性の2次元平滑化画像処理を行う。また、システム制御部113は、固有ノイズが検出された分割画像については固有ノイズの延在方向に基づいて固有ノイズを平滑化させない異方性の2次元平滑化画像処理を行い、画像処理手段として機能する。従って、撮像装置1は、画像処理後の分割画像からなる黒画像、すなわち、撮像素子113に固有のノイズを残しつつランダムノイズを除去した黒画像を黒引き処理に用いることができ、黒引き処理の結果を改善することが可能となる。
As described above, the
なお、上述した実施の形態における記述は、一例を示すものであり、これに限定するものではない。上述した実施の形態における構成及び動作に関しては、適宜変更が可能である。 Note that the description in the above-described embodiment shows an example, and the present invention is not limited to this. The configuration and operation in the embodiment described above can be changed as appropriate.
(他の実施形態)
上述の実施形態は、システム或は装置のコンピュータ(或いはCPU、MPU等)によりソフトウェア的に実現することも可能である。従って、上述の実施形態をコンピュータで実現するために、該コンピュータに供給されるコンピュータプログラム自体も本発明を実現するものである。つまり、上述の実施形態の機能を実現するためのコンピュータプログラム自体も本発明の一つである。
(Other embodiments)
The above-described embodiment can also be realized in software by a computer of a system or apparatus (or CPU, MPU, etc.). Therefore, the computer program itself supplied to the computer in order to implement the above-described embodiment by the computer also realizes the present invention. That is, the computer program itself for realizing the functions of the above-described embodiments is also one aspect of the present invention.
なお、上述の実施形態を実現するためのコンピュータプログラムは、コンピュータで読み取り可能であれば、どのような形態であってもよい。例えば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等で構成することができるが、これらに限るものではない。上述の実施形態を実現するためのコンピュータプログラムは、記憶媒体又は有線/無線通信によりコンピュータに供給される。プログラムを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、磁気テープ等の磁気記憶媒体、MO、CD、DVD等の光/光磁気記憶媒体、不揮発性の半導体メモリなどがある。 The computer program for realizing the above-described embodiment may be in any form as long as it can be read by a computer. For example, it can be composed of object code, a program executed by an interpreter, script data supplied to the OS, but is not limited thereto. A computer program for realizing the above-described embodiment is supplied to a computer via a storage medium or wired / wireless communication. Examples of the storage medium for supplying the program include a magnetic storage medium such as a flexible disk, a hard disk, and a magnetic tape, an optical / magneto-optical storage medium such as an MO, CD, and DVD, and a nonvolatile semiconductor memory.
有線/無線通信を用いたコンピュータプログラムの供給方法としては、コンピュータネットワーク上のサーバを利用する方法がある。この場合、本発明を形成するコンピュータプログラムとなりうるデータファイル(プログラムファイル)をサーバに記憶しておく。プログラムファイルとしては、実行形式のものであっても、ソースコードであっても良い。そして、このサーバにアクセスしたクライアントコンピュータに、プログラムファイルをダウンロードすることによって供給する。この場合、プログラムファイルを複数のセグメントファイルに分割し、セグメントファイルを異なるサーバに分散して配置することも可能である。つまり、上述の実施形態を実現するためのプログラムファイルをクライアントコンピュータに提供するサーバ装置も本発明の一つである。 As a computer program supply method using wired / wireless communication, there is a method of using a server on a computer network. In this case, a data file (program file) that can be a computer program forming the present invention is stored in the server. The program file may be an executable format or a source code. The program file is supplied by downloading to a client computer that has accessed the server. In this case, the program file can be divided into a plurality of segment files, and the segment files can be distributed and arranged on different servers. That is, a server apparatus that provides a client computer with a program file for realizing the above-described embodiment is also one aspect of the present invention.
また、上述の実施形態を実現するためのコンピュータプログラムを暗号化して格納した記憶媒体を配布し、所定の条件を満たしたユーザに、暗号化を解く鍵情報を供給し、ユーザの有するコンピュータへのインストールを許可してもよい。鍵情報は、例えばインターネットを介してホームページからダウンロードさせることによって供給することができる。また、上述の実施形態を実現するためのコンピュータプログラムは、すでにコンピュータ上で稼働するOSの機能を利用するものであってもよい。さらに、上述の実施形態を実現するためのコンピュータプログラムは、その一部をコンピュータに装着される拡張ボード等のファームウェアで構成してもよいし、拡張ボード等が備えるCPUで実行するようにしてもよい。 In addition, a storage medium in which the computer program for realizing the above-described embodiment is encrypted and distributed is distributed, and key information for decrypting is supplied to a user who satisfies a predetermined condition, and the user's computer Installation may be allowed. The key information can be supplied by being downloaded from a homepage via the Internet, for example. Further, the computer program for realizing the above-described embodiment may use an OS function already running on the computer. Further, a part of the computer program for realizing the above-described embodiment may be configured by firmware such as an expansion board attached to the computer, or may be executed by a CPU provided in the expansion board. Good.
1 撮像装置
101 光学系
102 シャッタ
103 撮像素子
104 前置処理回路
105 A/D変換器
106 メモリコントローラ
107 メモリ
108 画像処理部
109 記録媒体
110 操作表示部
111 第1スイッチ
112 第2スイッチ
113 システム制御部
114 シャッタ制御回路
115 温度センサ
116 メインスイッチ
DESCRIPTION OF
Claims (7)
前記黒画像を複数の分割画像に分割する分割手段と、
前記分割画像の各々について、一方向に延在するノイズの有無を検出することで前記固有ノイズの有無を検出する第1検出手段と、
前記第1検出手段により固有ノイズが検出された分割画像の各々について、当該固有ノイズの延在方向を検出する第2検出手段と、
前記分割画像の各々について、前記固有ノイズが検出されていない分割画像については等方性の2次元平滑化画像処理を行い、前記固有ノイズが検出された分割画像については前記固有ノイズの延在方向に基づいて前記固有ノイズを平滑化させない異方性の2次元平滑化画像処理を行う画像処理手段とを有し、
前記画像処理手段による画像処理後の分割画像からなる黒画像を、前記黒引き処理に用いることを特徴とする撮像装置。 Obtaining a captured image from which the inherent noise of the image sensor has been removed by subtracting a black image acquired with the image sensor being shielded from an image obtained by capturing an image of a subject with the image sensor A possible imaging device,
Dividing means for dividing the black image into a plurality of divided images;
First detection means for detecting the presence or absence of the intrinsic noise by detecting the presence or absence of noise extending in one direction for each of the divided images;
Second detection means for detecting the extending direction of the inherent noise for each of the divided images in which the inherent noise is detected by the first detection means;
For each of the divided images, an isotropic two-dimensional smoothed image process is performed for the divided image in which the inherent noise is not detected, and the extending direction of the inherent noise is performed for the divided image in which the inherent noise is detected. Image processing means for performing anisotropic two-dimensional smoothed image processing that does not smooth the inherent noise based on
An image pickup apparatus, wherein a black image composed of divided images after image processing by the image processing means is used for the blacking processing.
前記分割手段は、前記黒画像のうち、前記受光領域に対応した黒画像を複数の画像に分割することを特徴とする請求項1〜3のいずれか一項に記載の撮像装置。 The imaging element has a light receiving region for receiving the subject image and a light-shielded light-shielding region during imaging of the subject image,
The imaging device according to any one of claims 1 to 3, wherein the dividing unit divides a black image corresponding to the light receiving region in the black image into a plurality of images.
前記黒画像を複数の分割画像に分割する分割工程と、
前記分割画像の各々について、一方向に延在するノイズの有無を検出することで前記固有ノイズの有無を検出する第1検出工程と、
前記第1検出工程により固有ノイズが検出された分割画像の各々について、当該固有ノイズの延在方向を検出する第2検出工程と、
前記分割画像の各々について、前記固有ノイズが検出されていない分割画像については等方性の2次元平滑化画像処理を行い、前記固有ノイズが検出された分割画像については前記固有ノイズの延在方向に基づいて前記固有ノイズを平滑化させない異方性の2次元平滑化画像処理を行う画像処理工程とを有し、
前記画像処理工程による画像処理後の分割画像からなる黒画像を、前記黒引き処理に用いることを特徴とする撮像装置の制御方法。 Obtaining a captured image from which the inherent noise of the image sensor has been removed by subtracting a black image acquired with the image sensor being shielded from an image obtained by capturing an image of a subject with the image sensor A control method for a possible imaging device,
A dividing step of dividing the black image into a plurality of divided images;
A first detection step of detecting the presence or absence of the inherent noise by detecting the presence or absence of noise extending in one direction for each of the divided images;
A second detection step of detecting the extending direction of the inherent noise for each of the divided images in which the inherent noise is detected by the first detection step;
For each of the divided images, an isotropic two-dimensional smoothed image process is performed for the divided image in which the inherent noise is not detected, and the extending direction of the inherent noise is performed for the divided image in which the inherent noise is detected. An anisotropic two-dimensional smoothed image processing that does not smooth the intrinsic noise based on
A method for controlling an imaging apparatus, wherein a black image formed of divided images after image processing in the image processing step is used for the blacking processing.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2008202421A JP5137738B2 (en) | 2008-08-05 | 2008-08-05 | Imaging apparatus, control method thereof, and program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2008202421A JP5137738B2 (en) | 2008-08-05 | 2008-08-05 | Imaging apparatus, control method thereof, and program |
Publications (3)
| Publication Number | Publication Date |
|---|---|
| JP2010041437A true JP2010041437A (en) | 2010-02-18 |
| JP2010041437A5 JP2010041437A5 (en) | 2011-09-22 |
| JP5137738B2 JP5137738B2 (en) | 2013-02-06 |
Family
ID=42013497
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2008202421A Expired - Fee Related JP5137738B2 (en) | 2008-08-05 | 2008-08-05 | Imaging apparatus, control method thereof, and program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP5137738B2 (en) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2012053315A1 (en) * | 2010-10-21 | 2012-04-26 | Canon Kabushiki Kaisha | Image processing apparatus and control method thereof |
| US9007491B2 (en) | 2010-10-21 | 2015-04-14 | Canon Kabushiki Kaisha | Image processing apparatus and control method thereof |
| US11503237B2 (en) | 2018-04-12 | 2022-11-15 | Canon Kabushiki Kaisha | Solid state imaging device capable of acquiring a desired image without using a frame memory, imaging apparatus, and imaging method |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2007028026A (en) * | 2005-07-14 | 2007-02-01 | Olympus Corp | Imaging apparatus |
| JP2008113132A (en) * | 2006-10-30 | 2008-05-15 | Nikon Corp | Electronic camera and image processing program |
-
2008
- 2008-08-05 JP JP2008202421A patent/JP5137738B2/en not_active Expired - Fee Related
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2007028026A (en) * | 2005-07-14 | 2007-02-01 | Olympus Corp | Imaging apparatus |
| JP2008113132A (en) * | 2006-10-30 | 2008-05-15 | Nikon Corp | Electronic camera and image processing program |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2012053315A1 (en) * | 2010-10-21 | 2012-04-26 | Canon Kabushiki Kaisha | Image processing apparatus and control method thereof |
| JP2012090184A (en) * | 2010-10-21 | 2012-05-10 | Canon Inc | Image processing apparatus and control method therefor |
| US8957995B2 (en) | 2010-10-21 | 2015-02-17 | Canon Kabushiki Kaisha | Image processing apparatus and control method thereof |
| US9007491B2 (en) | 2010-10-21 | 2015-04-14 | Canon Kabushiki Kaisha | Image processing apparatus and control method thereof |
| US11503237B2 (en) | 2018-04-12 | 2022-11-15 | Canon Kabushiki Kaisha | Solid state imaging device capable of acquiring a desired image without using a frame memory, imaging apparatus, and imaging method |
Also Published As
| Publication number | Publication date |
|---|---|
| JP5137738B2 (en) | 2013-02-06 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US9438831B2 (en) | Noise reduction device for reducing noise in image using blackout image, electronic camera, program, and method | |
| KR100840986B1 (en) | Image blur reduction | |
| JP5379601B2 (en) | Defective pixel data correction device, imaging device, and defective pixel data correction method | |
| US8203629B2 (en) | Image sensing apparatus and correction method | |
| JP4466015B2 (en) | Image processing apparatus and image processing program | |
| JP5561112B2 (en) | Image processing apparatus, imaging apparatus, and program | |
| JP5268454B2 (en) | Imaging device | |
| JP5137738B2 (en) | Imaging apparatus, control method thereof, and program | |
| JP4679179B2 (en) | Imaging apparatus and imaging method | |
| JP5013812B2 (en) | Imaging apparatus and correction method | |
| JP2007158830A (en) | IMAGING DEVICE AND IMAGING DEVICE CONTROL METHOD | |
| JP5137737B2 (en) | Imaging apparatus, control method thereof, and program | |
| JP4007802B2 (en) | Imaging device | |
| JP4525198B2 (en) | Noise removal device, electronic camera, and noise removal program. | |
| JP5159506B2 (en) | Imaging apparatus, control method, and program | |
| JP2004248006A (en) | Electronic camera, noise reduction device, and noise reduction program | |
| JP5271201B2 (en) | Image signal processing apparatus and imaging apparatus | |
| JP2004201207A (en) | Noise reduction device, imaging device, and noise reduction program | |
| JP4394470B2 (en) | Imaging device | |
| JP4322258B2 (en) | Noise processing apparatus and imaging apparatus | |
| KR20130033946A (en) | Photographing apparatus and method for detecting distortion thereof | |
| JP5476863B2 (en) | Imaging apparatus, image processing method, and program | |
| JP2004159087A (en) | Scanner system and image processing program | |
| JP2001209782A (en) | Image capturing apparatus and character image capturing method thereof | |
| JP2011234225A (en) | Image processing method and image processing system |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110804 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110804 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20121011 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20121015 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20121113 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 5137738 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20151122 Year of fee payment: 3 |
|
| LAPS | Cancellation because of no payment of annual fees |