[go: up one dir, main page]

JP2008187254A - Infrared imaging device and output value calculation method of imaging device - Google Patents

Infrared imaging device and output value calculation method of imaging device Download PDF

Info

Publication number
JP2008187254A
JP2008187254A JP2007016710A JP2007016710A JP2008187254A JP 2008187254 A JP2008187254 A JP 2008187254A JP 2007016710 A JP2007016710 A JP 2007016710A JP 2007016710 A JP2007016710 A JP 2007016710A JP 2008187254 A JP2008187254 A JP 2008187254A
Authority
JP
Japan
Prior art keywords
temperature
output value
image sensor
variation
lens barrel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007016710A
Other languages
Japanese (ja)
Inventor
Tsuyoshi Hagiwara
剛志 萩原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Electric Industries Ltd
Original Assignee
Sumitomo Electric Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Electric Industries Ltd filed Critical Sumitomo Electric Industries Ltd
Priority to JP2007016710A priority Critical patent/JP2008187254A/en
Publication of JP2008187254A publication Critical patent/JP2008187254A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Photometry And Measurement Of Optical Pulse Characteristics (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

【課題】温度変化による映像への固定パターンノイズを低減するとともに、NUC処理の頻度を少なくすることができる赤外撮像装置及び撮像素子の出力値算出方法を提供する。
【解決手段】重み付け部24は、パッケージの温度Tp及び鏡筒の温度Tsそれぞれに対して、重み付けした温度TcをTc=α×Tp+β×Tsの式で算出し、算出した重み付けした温度を乗算部26へ出力する。乗算部26は、温度Tcと撮像素子の温度特性である傾きAijを乗算し、乗算結果Tc×Aijを減算部25へ出力する。減算部25は、撮像素子の出力値UijからTc×Aijを減算し、撮像素子の出力値Vijを補正し、補正後の出力値VijをNUC処理部28へ出力する。この場合、補正後の出力値Vijは、Vij=Uij−Tc×Aijで表される。なお、i、jは、撮像素子の位置を示す。
【選択図】図2
An infrared imaging device and an imaging element output value calculation method capable of reducing fixed pattern noise on an image due to a temperature change and reducing the frequency of NUC processing.
A weighting unit calculates a weighted temperature Tc with respect to each of a package temperature Tp and a lens barrel temperature Ts by an expression of Tc = α × Tp + β × Ts, and multiplies the calculated weighted temperature. 26. The multiplying unit 26 multiplies the temperature Tc by the gradient Aij that is the temperature characteristic of the image sensor, and outputs the multiplication result Tc × Aij to the subtracting unit 25. The subtracting unit 25 subtracts Tc × Aij from the output value Uij of the image sensor, corrects the output value Vij of the image sensor, and outputs the corrected output value Vij to the NUC processing unit 28. In this case, the corrected output value Vij is expressed as Vij = Uij−Tc × Aij. Note that i and j indicate the position of the image sensor.
[Selection] Figure 2

Description

本発明は、赤外撮像装置の温度変化による映像への固定パターンノイズを低減することができる赤外撮像装置及び撮像素子の出力値算出方法に関する。   The present invention relates to an infrared imaging device and an image sensor output value calculation method capable of reducing fixed pattern noise in an image due to a temperature change of the infrared imaging device.

夜間に対象物が発する赤外光を集光して映像を取得する赤外線カメラ(赤外撮像装置)は、非冷却型のボロメータなどの撮像素子を2次元アレイ状に配置してあり、撮像素子で取得した赤外光(遠赤外光)を電気信号に変換して出力する。   An infrared camera (infrared imaging device) that collects infrared light emitted from an object at night to acquire an image has an image sensor such as an uncooled bolometer arranged in a two-dimensional array. The infrared light (far-infrared light) acquired in step 1 is converted into an electrical signal and output.

しかし、撮像素子毎の特性のばらつき(非均一性)が存在し、また、装置の使用直後からの時間経過とともに周辺温度が変化して撮像素子の出力のオフセット又はドリフトなどが生じ、映像に固定ノイズパターンが重畳されて映像の画質が劣化する。   However, there are variations (non-uniformity) in the characteristics of each image sensor, and the ambient temperature changes with the passage of time immediately after using the device, causing an offset or drift in the output of the image sensor, which is fixed to the image. The noise pattern is superimposed and the image quality of the video deteriorates.

このため、従来の赤外撮像装置は、画質を安定させるため、表面の温度分布が略均一である板状のシャッターを集光レンズと撮像素子との間に開閉可能に配置し、シャッターを閉じた状態で撮像素子の出力値のオフセットを補正するとともに、撮像素子毎に異なる感度の非均一性を補正するNUC(Non-Uniformity Correction)処理を行っている。   For this reason, in order to stabilize the image quality, the conventional infrared imaging device has a plate-like shutter with a substantially uniform temperature distribution on the surface that can be opened and closed between the condenser lens and the imaging device, and the shutter is closed. In this state, NUC (Non-Uniformity Correction) processing is performed to correct the offset of the output value of the image sensor and to correct the non-uniformity of sensitivity that differs for each image sensor.

また、撮像素子の出力値を補正する方法として、装置の環境温度の変動により鏡筒から撮像素子へ入射する無効入射光成分が変動し、撮像素子の出力が変動することを防止するため、予め鏡筒の温度データに対する撮像素子の出力値の関係を補正値として記憶しておき、撮像素子の出力値から補正値を減算する赤外線撮像装置が提案されている(特許文献1参照)。
特許第2680879号公報
Further, as a method of correcting the output value of the image sensor, in order to prevent the invalid incident light component incident on the image sensor from the lens barrel from fluctuating due to the fluctuation of the environmental temperature of the apparatus, the output of the image sensor is prevented in advance. An infrared imaging device has been proposed in which the relationship between the output value of the image sensor with respect to the temperature data of the lens barrel is stored as a correction value, and the correction value is subtracted from the output value of the image sensor (see Patent Document 1).
Japanese Patent No. 2680879

しかしながら、従来の赤外撮像装置にあっては、周辺温度が変化すると撮像素子の出力値のオフセットが生じるため、装置の電源投入時だけでなく、使用中においても頻繁にNUC処理を行う必要があった。このため、NUC処理の都度、シャッターが閉じられると映像が途切れることになり、必要な映像を取得することができないという問題があった。特に、車両に搭載されるような赤外撮像装置の場合、安全走行のためには、常に映像を取得し続ける必要があり、NUC処理の頻度を少なくすることが望まれていた。   However, in the conventional infrared imaging device, when the ambient temperature changes, the output value of the imaging device is offset. Therefore, it is necessary to frequently perform NUC processing not only when the device is turned on but also during use. there were. For this reason, every time the NUC process is performed, if the shutter is closed, the video is interrupted, and a necessary video cannot be obtained. In particular, in the case of an infrared imaging device mounted on a vehicle, it is necessary to continuously acquire images for safe driving, and it has been desired to reduce the frequency of NUC processing.

また、特許文献1の赤外線撮像装置にあっては、鏡筒の温度変化に対しては、撮像素子の出力値を補正することができるものの、鏡筒の温度変化が大きくない場合でも、撮像素子の出力値のオフセットが生じる場合があった。これは、撮像素子の温度変化は、搭載されたペルチェ素子の作用により、略一定に保たれるものの、撮像素子を収容しているパッケージからの熱による影響があるものと考えられ、温度変化による映像への固定パターンノイズを低減することが望まれていた。   Further, in the infrared imaging device of Patent Document 1, although the output value of the imaging element can be corrected for the temperature change of the lens barrel, the imaging element is effective even when the temperature change of the lens barrel is not large. In some cases, an offset of the output value occurred. This is because the temperature change of the image sensor is kept almost constant by the action of the mounted Peltier element, but is considered to be affected by the heat from the package housing the image sensor, It has been desired to reduce fixed pattern noise on video.

本発明は、斯かる事情に鑑みてなされたものであり、撮像素子の出力値から撮像素子表面の温度変化による出力値の変動分を加算又は減算することにより、温度変化による映像への固定パターンノイズを低減するとともに、NUC処理の頻度を少なくすることができる赤外撮像装置及び撮像素子の出力値算出方法を提供することを目的とする。   The present invention has been made in view of such circumstances, and by adding or subtracting the fluctuation of the output value due to the temperature change of the image sensor surface from the output value of the image sensor, the fixed pattern to the image due to the temperature change. It is an object of the present invention to provide an infrared imaging apparatus and an imaging element output value calculation method that can reduce noise and reduce the frequency of NUC processing.

第1発明に係る赤外撮像装置は、複数の撮像素子を備え、該撮像素子の出力値に基づいて撮像データを取得する赤外撮像装置において、前記撮像素子表面の温度を検出する撮像素子表面温度検出手段と、前記撮像素子表面の温度に対する前記撮像素子の出力値の変動を示す第1の変動情報を記憶する記憶手段と、該記憶手段に記憶した第1の変動情報及び前記撮像素子表面温度検出手段で検出された温度に基づいて、前記撮像素子の出力値の変動分を算出する算出手段と、前記撮像素子の出力値から前記算出手段で算出された変動分を加算又は減算する加減算手段とを備え、該加減算手段で加算又は減算された出力値に基づいて撮像データを取得するように構成してあることを特徴とする。   An infrared imaging device according to a first aspect of the present invention is an infrared imaging device that includes a plurality of imaging elements and acquires imaging data based on an output value of the imaging element, and detects the temperature of the imaging element surface. Temperature detection means; storage means for storing first fluctuation information indicating fluctuations in the output value of the imaging element with respect to the temperature of the imaging element surface; first fluctuation information stored in the storage means; and the imaging element surface Based on the temperature detected by the temperature detection means, a calculation means for calculating the fluctuation amount of the output value of the imaging element, and an addition / subtraction for adding or subtracting the fluctuation amount calculated by the calculation means from the output value of the imaging element And imaging data is acquired based on the output value added or subtracted by the addition / subtraction means.

第2発明に係る赤外撮像装置は、複数の撮像素子を備え、該撮像素子の出力値に基づいて撮像データを取得する赤外撮像装置において、集光レンズを保持する鏡筒と、該鏡筒の温度を検出する鏡筒温度検出手段と、前記鏡筒の温度に対する前記撮像素子の出力値の変動を示す第2の変動情報を記憶する記憶手段と、該記憶手段に記憶した第2の変動情報及び前記鏡筒温度検出手段で検出された温度に基づいて、前記撮像素子の出力値の変動分を算出する算出手段と、前記撮像素子の出力値から前記算出手段で算出された変動分を加算又は減算する加減算手段とを備え、該加減算手段で加算又は減算された出力値に基づいて撮像データを取得するように構成してあることを特徴とする。   An infrared imaging device according to a second aspect of the present invention is an infrared imaging device that includes a plurality of imaging elements and acquires imaging data based on an output value of the imaging element. A lens barrel temperature detecting means for detecting the temperature of the cylinder, a storage means for storing second fluctuation information indicating a fluctuation in the output value of the imaging element with respect to the temperature of the lens barrel, and a second memory stored in the memory means Based on variation information and the temperature detected by the lens barrel temperature detection unit, a calculation unit that calculates a variation of the output value of the image sensor, and a variation calculated by the calculation unit from the output value of the image sensor And an addition / subtraction means for adding or subtracting the image data, and the imaging data is acquired based on the output value added or subtracted by the addition / subtraction means.

第3発明に係る赤外撮像装置は、複数の撮像素子を備え、該撮像素子の出力値に基づいて撮像データを取得する赤外撮像装置において、前記撮像素子表面の温度を検出する撮像素子表面温度検出手段と、集光レンズを保持する鏡筒と、該鏡筒の温度を検出する鏡筒温度検出手段と、前記撮像素子表面の温度に対する前記撮像素子の出力値の変動を示す第1の変動情報を記憶する第1記憶手段と、前記鏡筒の温度に対する前記撮像素子の出力値の変動を示す第2の変動情報を記憶する第2記憶手段と、前記第1記憶手段に記憶した第1の変動情報及び前記撮像素子表面温度検出手段で検出された温度に基づいて、前記撮像素子の出力値の変動分を算出する第1算出手段と、前記第2記憶手段に記憶した第2の変動情報及び前記鏡筒温度検出手段で検出された温度に基づいて、前記撮像素子の出力値の変動分を算出する第2算出手段と、前記撮像素子の出力値から前記第1算出手段で算出された変動分を加算又は減算する第1加減算手段と、前記撮像素子の出力値から前記第2算出手段で算出された変動分を加算又は減算する第2加減算手段とを備え、前記第1加減算手段及び第2加減算手段で加算又は減算された出力値に基づいて撮像データを取得するように構成してあることを特徴とする。   An infrared imaging device according to a third aspect of the invention is an infrared imaging device that includes a plurality of imaging elements and acquires imaging data based on output values of the imaging elements, and that detects the temperature of the imaging element surface. A temperature detection unit; a lens barrel that holds a condenser lens; a lens barrel temperature detection unit that detects a temperature of the lens barrel; and a first that indicates fluctuations in the output value of the image sensor with respect to the temperature of the surface of the image sensor. First storage means for storing fluctuation information, second storage means for storing second fluctuation information indicating fluctuations in the output value of the imaging device with respect to the temperature of the lens barrel, and first storage means stored in the first storage means Based on the fluctuation information of 1 and the temperature detected by the imaging element surface temperature detection means, a first calculation means for calculating the fluctuation amount of the output value of the imaging element, and a second storage stored in the second storage means Fluctuation information and the lens barrel temperature detecting means Based on the detected temperature, second calculation means for calculating a fluctuation amount of the output value of the imaging element, and a first calculation part for adding or subtracting the fluctuation amount calculated by the first calculation means from the output value of the imaging element. 1 addition / subtraction means, and second addition / subtraction means for adding or subtracting the fluctuation calculated by the second calculation means from the output value of the image sensor, and adding or subtracting by the first addition / subtraction means and the second addition / subtraction means The imaging data is obtained on the basis of the output value thus obtained.

第4発明に係る赤外撮像装置は、第1発明乃至第3発明のいずれかにおいて、前記撮像素子表面温度検出手段及び/又は鏡筒温度検出手段で検出された温度に重み付けする重み付け手段と、該重み付け手段で重み付けされた温度に基づいて、前記撮像素子の出力値の変動分を算出する変動分算出手段とを備えることを特徴とする。   An infrared imaging device according to a fourth invention, according to any one of the first invention to the third invention, weighting means for weighting the temperature detected by the imaging device surface temperature detection means and / or the lens barrel temperature detection means, And a fluctuation amount calculating means for calculating a fluctuation amount of the output value of the image sensor based on the temperature weighted by the weighting means.

第5発明に係る撮像素子の出力値算出方法は、赤外撮像装置に備えられた複数の撮像素子の出力値を算出する出力値算出方法において、前記撮像素子表面の温度に対する前記撮像素子の出力値の変動を示す第1の変動情報を予め記憶し、前記撮像素子表面の温度を検出し、記憶した第1の変動情報及び検出した温度に基づいて、前記撮像素子の出力値の変動分を算出し、前記撮像素子の出力値から前記変動分を加算又は減算して該撮像素子の出力値を算出することを特徴とする。   An output value calculation method for an image sensor according to a fifth aspect of the present invention is the output value calculation method for calculating output values of a plurality of image sensors provided in an infrared imaging device, wherein the output of the image sensor with respect to the temperature of the surface of the image sensor First variation information indicating variation in value is stored in advance, the temperature of the surface of the image sensor is detected, and based on the stored first variation information and the detected temperature, the variation of the output value of the image sensor is calculated. The output value of the image sensor is calculated by calculating and adding or subtracting the variation from the output value of the image sensor.

第6発明に係る撮像素子の出力値算出方法は、赤外撮像装置に備えられた複数の撮像素子の出力値を算出する出力値算出方法において、集光レンズを保持する鏡筒の温度に対する前記撮像素子の出力値の変動を示す第2の変動情報を予め記憶し、前記鏡筒の温度を検出し、記憶した第2の変動情報及び検出した温度に基づいて、前記撮像素子の出力値の変動分を算出し、前記撮像素子の出力値から前記変動分を加算又は減算して該撮像素子の出力値を算出することを特徴とする。   An output value calculation method for an image sensor according to a sixth aspect of the present invention is the output value calculation method for calculating the output values of a plurality of image sensors provided in an infrared imaging device, wherein the output value is calculated with respect to the temperature of the lens barrel holding the condenser lens. Second variation information indicating variation in the output value of the image sensor is stored in advance, the temperature of the lens barrel is detected, and the output value of the image sensor is determined based on the stored second variation information and the detected temperature. The variation is calculated, and the output value of the image sensor is calculated by adding or subtracting the variation from the output value of the image sensor.

第7発明に係る撮像素子の出力値算出方法は、赤外撮像装置に備えられた複数の撮像素子の出力値を算出する出力値算出方法において、前記撮像素子表面の温度に対する前記撮像素子の出力値の変動を示す第1の変動情報及び集光レンズを保持する鏡筒の温度に対する前記撮像素子の出力値の変動を示す第2の変動情報を予め記憶し、前記撮像素子表面の温度及び前記鏡筒の温度を検出し、記憶した第1の変動情報及び第2の変動情報並びに検出した各温度に基づいて、前記撮像素子の出力値の変動分を算出し、前記撮像素子の出力値から前記変動分を加算又は減算して該撮像素子の出力値を算出することを特徴とする。   According to a seventh aspect of the present invention, there is provided an output value calculation method for an image sensor, wherein the output value of the image sensor is calculated with respect to the temperature of the surface of the image sensor. First variation information indicating variation in value and second variation information indicating variation in the output value of the image sensor with respect to the temperature of the lens barrel holding the condenser lens are stored in advance, and the temperature of the image sensor surface and the temperature The temperature of the lens barrel is detected, and based on the stored first variation information and second variation information and each detected temperature, the variation of the output value of the image sensor is calculated, and the output value of the image sensor is calculated. The output value of the image sensor is calculated by adding or subtracting the variation.

第1発明、第3発明、第5発明及び第7発明にあっては、撮像素子表面の温度に対する撮像素子の出力値の変動を示す第1の変動情報を予め記憶している。撮像素子表面の温度を検出し、記憶した第1の変動情報及び検出した温度に基づいて、撮像素子の出力値の変動分を算出する。撮像素子の出力値から変動分を加算又は減算する。すなわち、検出した温度における撮像素子の出力値に対して、変動分が正値であれば、出力値から変動分を減算し、検出した温度における撮像素子の出力値に対して、変動分が負値であれば、出力値に変動分を加算(すなわち、負値を減算)して撮像素子の出力値を補正する。なお、補正処理は、所定の時間間隔で行うことができる。   In the first invention, the third invention, the fifth invention, and the seventh invention, the first variation information indicating the variation of the output value of the image sensor with respect to the temperature of the surface of the image sensor is stored in advance. The temperature of the imaging element surface is detected, and the fluctuation amount of the output value of the imaging element is calculated based on the stored first fluctuation information and the detected temperature. The fluctuation amount is added or subtracted from the output value of the image sensor. That is, if the fluctuation is positive with respect to the output value of the image sensor at the detected temperature, the fluctuation is subtracted from the output value, and the fluctuation is negative with respect to the output value of the image sensor at the detected temperature. If it is a value, the output value of the image sensor is corrected by adding the fluctuation amount to the output value (that is, subtracting the negative value). The correction process can be performed at predetermined time intervals.

これにより、検出された温度が変化した場合でも、撮像素子の出力値は、温度変化に影響されずに略一定値を維持することができる。変動分が加算又は減算された出力値に基づいて撮像データを取得する。これにより、撮像素子表面の温度変化による撮像素子の出力値のオフセットが発生せず映像への固定パターンノイズを低減することができる。また、例えば、電源投入時に一度だけNUC処理を行えば、使用中に繰り返しNUC処理を行って、撮像素子の出力値のオフセットを補正する必要がなくNUC処理の頻度を少なくすることができる。   Thereby, even when the detected temperature changes, the output value of the image sensor can be maintained at a substantially constant value without being affected by the temperature change. The imaging data is acquired based on the output value obtained by adding or subtracting the variation. Thereby, the offset of the output value of the image sensor due to the temperature change on the surface of the image sensor does not occur, and the fixed pattern noise on the video can be reduced. Further, for example, if the NUC process is performed only once when the power is turned on, the NUC process is repeatedly performed during use, and it is not necessary to correct the offset of the output value of the image sensor, thereby reducing the frequency of the NUC process.

第2発明、第3発明、第6発明及び第7発明にあっては、集光レンズを保持する鏡筒の温度に対する撮像素子の出力値の変動を示す第2の変動情報を予め記憶している。鏡筒の温度を検出し、記憶した第2の変動情報及び検出した温度に基づいて、撮像素子の出力値の変動分を算出する。撮像素子の出力値から変動分を加算又は減算する。すなわち、検出した温度における撮像素子の出力値に対して、変動分が正値であれば、出力値から変動分を減算し、検出した温度における撮像素子の出力値に対して、変動分が負値であれば、出力値に変動分を加算(すなわち、負値を減算)して撮像素子の出力値を補正する。なお、補正処理は、所定の時間間隔で行うことができる。   In the second invention, the third invention, the sixth invention, and the seventh invention, the second variation information indicating the variation of the output value of the image sensor with respect to the temperature of the lens barrel holding the condenser lens is stored in advance. Yes. The temperature of the lens barrel is detected, and the fluctuation amount of the output value of the image sensor is calculated based on the stored second fluctuation information and the detected temperature. The fluctuation amount is added or subtracted from the output value of the image sensor. That is, if the fluctuation is positive with respect to the output value of the image sensor at the detected temperature, the fluctuation is subtracted from the output value, and the fluctuation is negative with respect to the output value of the image sensor at the detected temperature. If it is a value, the output value of the image sensor is corrected by adding the fluctuation amount to the output value (that is, subtracting the negative value). The correction process can be performed at predetermined time intervals.

これにより、検出された温度が変化した場合でも、撮像素子の出力値は、温度変化に影響されずに略一定値を維持することができる。変動分が加算又は減算された出力値に基づいて撮像データを取得する。これにより、鏡筒の温度変化による撮像素子の出力値のオフセットが発生せず映像への固定パターンノイズを低減することができる。また、例えば、電源投入時に一度だけNUC処理を行えば、使用中に繰り返しNUC処理を行って、撮像素子の出力値のオフセットを補正する必要がなくNUC処理の頻度を少なくすることができる。   Thereby, even when the detected temperature changes, the output value of the image sensor can be maintained at a substantially constant value without being affected by the temperature change. The imaging data is acquired based on the output value obtained by adding or subtracting the variation. Thereby, the offset of the output value of the image sensor due to the temperature change of the lens barrel does not occur, and the fixed pattern noise to the video can be reduced. Further, for example, if the NUC process is performed only once when the power is turned on, the NUC process is repeatedly performed during use, and it is not necessary to correct the offset of the output value of the image sensor, thereby reducing the frequency of the NUC process.

第4発明にあっては、撮像素子表面温度検出手段及び/又は鏡筒温度検出手段で検出された温度に重み付けし、重み付けされた温度に基づいて、撮像素子の出力値の変動分を算出する。例えば、撮像素子表面の温度Tpに対する重み付け係数をα、鏡筒の温度Tsに対する重み付け係数をβとし(α+β=1)、重み付けした温度Tcを、Tc=α×Tp+β×Tsで算出する。撮像素子の出力値の変動分を算出する場合、撮像素子表面の温度α×Tpからの温度変化に応じた撮像素子の出力値の変動分を算出し、鏡筒の温度β×Tsからの温度変化に応じた撮像素子の出力値の変動分を算出する。両者の変動分を加算することにより、撮像素子の出力値の変動分を算出することができる。あるいは、予め重み付けした温度Tcに対する撮像素子の出力値の変動を示す変動情報を予め記憶しておくこともできる。   In the fourth invention, the temperature detected by the image sensor surface temperature detecting means and / or the lens barrel temperature detecting means is weighted, and the fluctuation amount of the output value of the image sensor is calculated based on the weighted temperature. . For example, α is a weighting coefficient for the temperature Tp of the imaging element surface, β is a weighting coefficient for the temperature Ts of the lens barrel (α + β = 1), and the weighted temperature Tc is calculated as Tc = α × Tp + β × Ts. When calculating the variation of the output value of the image sensor, the variation of the output value of the image sensor according to the temperature change from the temperature α × Tp of the surface of the image sensor is calculated, and the temperature from the temperature β × Ts of the lens barrel A fluctuation amount of the output value of the image sensor according to the change is calculated. By adding both fluctuations, the fluctuation of the output value of the image sensor can be calculated. Alternatively, fluctuation information indicating fluctuations in the output value of the image sensor with respect to the pre-weighted temperature Tc can be stored in advance.

装置の実装如何によって、撮像素子を収容した撮像素子表面と鏡筒との配置関係、あるいは距離、両者の接触面積などが異なるため、撮像素子表面から発せられる熱の影響の度合いと、鏡筒から発せられる熱の影響の度合いとが異なる場合がある。このような場合であっても、撮像素子表面及び鏡筒の温度の影響の度合いに応じて、適宜出力値の変動分を算出することが可能となる。例えば、鏡筒の温度変化の影響が無視できるような場合であれば、βを0とし、αを1とすることができる。また、重み付け係数を装置の実装状況に応じて、適宜変更することもできる。これにより、装置の実装如何に拘わらず、周辺温度の影響を考慮して撮像素子の出力値を算出することができ、装置設計の自由度を飛躍的に向上させることができる。   Depending on how the device is mounted, the relationship between the surface of the image sensor containing the image sensor and the lens barrel, or the distance, the contact area between the two, etc. differ. The degree of influence of heat generated may be different. Even in such a case, it is possible to appropriately calculate the variation of the output value according to the degree of the influence of the temperature of the imaging element surface and the lens barrel. For example, if the influence of the temperature change of the lens barrel is negligible, β can be set to 0 and α can be set to 1. Also, the weighting coefficient can be changed as appropriate according to the mounting status of the apparatus. As a result, the output value of the image sensor can be calculated in consideration of the influence of the ambient temperature regardless of whether the device is mounted, and the degree of freedom in device design can be greatly improved.

本発明にあっては、撮像素子表面の温度変化による撮像素子の出力値のオフセットが発生せず映像への固定パターンノイズを低減することができる。また、例えば、電源投入時に一度だけNUC処理を行えば、使用中に繰り返しNUC処理を行って、撮像素子の出力値のオフセットを補正する必要がなくNUC処理の頻度を少なくすることができる。   In the present invention, the offset of the output value of the image sensor due to the temperature change on the surface of the image sensor does not occur, and the fixed pattern noise on the video can be reduced. Further, for example, if the NUC process is performed only once when the power is turned on, the NUC process is repeatedly performed during use, and it is not necessary to correct the offset of the output value of the image sensor, thereby reducing the frequency of the NUC process.

以下、本発明をその実施の形態を示す図面に基づいて説明する。図1は本発明の実施の形態に係る赤外撮像装置100の構成を示すブロック図である。赤外撮像装置100は、集光レンズ1、集光レンズ1を保持する鏡筒2、鏡筒2の温度を検出する温度センサ4、表面の温度分布が略均一である板状のシャッター3、画像撮像部10、信号処理部20、画像メモリ30、通信インタフェース部40などを備え、画像撮像部10は、基板11、基板11上に2次元アレイ状に複数配置された撮像素子12、撮像素子12を収容するパッケージ13、パッケージ13の温度を検出する温度センサ5などを備えている。なお、撮像素子は、1次元アレイ状に複数配置されるものでもよい。   Hereinafter, the present invention will be described with reference to the drawings illustrating embodiments thereof. FIG. 1 is a block diagram showing a configuration of an infrared imaging device 100 according to an embodiment of the present invention. The infrared imaging device 100 includes a condenser lens 1, a lens barrel 2 that holds the condenser lens 1, a temperature sensor 4 that detects the temperature of the lens barrel 2, a plate-like shutter 3 that has a substantially uniform temperature distribution on the surface, The imaging unit 10 includes an imaging unit 10, a signal processing unit 20, an image memory 30, a communication interface unit 40, and the like. The imaging unit 10 includes a plurality of imaging elements 12 arranged in a two-dimensional array on the substrate 11, and imaging elements 12 includes a package 13 that houses the temperature 12, a temperature sensor 5 that detects the temperature of the package 13, and the like. Note that a plurality of imaging elements may be arranged in a one-dimensional array.

集光レンズ1は、外部から入射する赤外光を集光して、撮像素子12の表面に入射光を照射させるためのものであり、円筒状の鏡筒2内に保持されている。鏡筒2の内側の適当な箇所には、熱電対又はサーミスタなどの温度センサ4を取り付けてあり、鏡筒2の温度Tsを検出して信号処理部20へ出力されるようになっている。   The condensing lens 1 collects infrared light incident from the outside and irradiates the surface of the image sensor 12 with incident light, and is held in a cylindrical lens barrel 2. A temperature sensor 4 such as a thermocouple or a thermistor is attached to an appropriate location inside the lens barrel 2, and the temperature Ts of the lens barrel 2 is detected and output to the signal processing unit 20.

撮像素子12は、例えば、ボロメータ型の遠赤外線センサであり、波長が7〜14μmの遠赤外光を輝度信号に変換し、変換した輝度信号を信号処理部20へ出力する。撮像素子12は、例えば、金属製のパッケージ13に収容されてあり、パッケージ13には、入射光が透過する透過部を有するとともに、パッケージ13の適当な箇所には、熱電対又はサーミスタなどの温度センサ5を取り付けてあり、パッケージ13(撮像素子12の表面)の温度Tpを検出して信号処理部20へ出力されるようになっている。なお、撮像素子12は、波長が0.8〜3μm程度の近赤外光を検出するものであってもよい。   The imaging element 12 is, for example, a bolometer type far infrared sensor, converts far infrared light having a wavelength of 7 to 14 μm into a luminance signal, and outputs the converted luminance signal to the signal processing unit 20. The image pickup device 12 is housed in, for example, a metal package 13, and the package 13 has a transmission portion through which incident light is transmitted, and a temperature such as a thermocouple or thermistor is provided at an appropriate location of the package 13. A sensor 5 is attached, and the temperature Tp of the package 13 (the surface of the image sensor 12) is detected and output to the signal processing unit 20. Note that the image sensor 12 may detect near-infrared light having a wavelength of about 0.8 to 3 μm.

撮像素子12が配置された基板11には、例えば、2種類の金属の接合部(PN接合部)に電流を流すことにより、一方の金属から他方の金属に熱が移動するというペルチェ効果を利用したペルチェ素子が実装してあり、撮像素子12の温度を一定に維持することができる。なお、ペルチェ素子は必須ではなく、ペルチェ素子に代えて他の方法により温度の安定化を行うこともできる。   For example, a Peltier effect in which heat is transferred from one metal to the other metal by flowing a current through a joint portion (PN junction portion) of two kinds of metals is used for the substrate 11 on which the imaging element 12 is arranged. Thus, the temperature of the image sensor 12 can be kept constant. Note that the Peltier element is not essential, and the temperature can be stabilized by another method instead of the Peltier element.

シャッター3は、集光レンズ1と撮像素子12との間に開閉可能に設けてあり、NUC処理などのキャリブレーション実行時に、シャッター3を閉じることで集光レンズ1からの遠赤外光を遮断するとともに、撮像素子12に一様な温度分布を供給する。これにより、撮像素子12の個々の感度のばらつきによるオフセットの補正などを行うことができる。なお、シャッター3の構成は、機械式に限定されるものではなく、他の構成であってもよい。   The shutter 3 is provided so as to be openable and closable between the condensing lens 1 and the image sensor 12, and the far-infrared light from the condensing lens 1 is blocked by closing the shutter 3 during calibration such as NUC processing. In addition, a uniform temperature distribution is supplied to the image sensor 12. As a result, offset correction due to variations in individual sensitivity of the image sensor 12 can be performed. Note that the configuration of the shutter 3 is not limited to a mechanical type, and may be another configuration.

信号処理部20は、LSIで構成され、画像撮像部10から入力された輝度信号をデジタル信号に変換し、撮像素子12のばらつきを補正する処理、撮像素子12の出力値(輝度信号)を算出する処理、欠陥素子の補正処理、ゲイン制御処理等を行い、処理後の映像データを画像メモリ30へ記憶する。なお、映像データを画像メモリ30へ一時記憶することは必須ではなく、通信インタフェース部40を介して外部へ出力することもできる。なお、信号処理部20の詳細は後述する。   The signal processing unit 20 is configured by an LSI, converts the luminance signal input from the image capturing unit 10 into a digital signal, corrects variations in the image sensor 12, and calculates an output value (luminance signal) of the image sensor 12. Processing, defect element correction processing, gain control processing, and the like are performed, and the processed video data is stored in the image memory 30. Note that it is not essential to temporarily store the video data in the image memory 30, and the video data can be output to the outside via the communication interface unit 40. Details of the signal processing unit 20 will be described later.

通信インタフェース部40は、NTSC等のアナログ映像方式、又はデジタル映像方式に対応した映像ケーブル6を介して外部へ映像データを出力する。   The communication interface unit 40 outputs video data to the outside via a video cable 6 compatible with an analog video system such as NTSC or a digital video system.

図2は信号処理部20の構成を示すブロック図である。信号処理部20は、A/D変換部21、22、23、重み付け部24、減算部25、乗算部26、記憶部27、NUC(Non-Uniformity Correction)処理部28、タイミング発生器29などを備えている。   FIG. 2 is a block diagram showing the configuration of the signal processing unit 20. The signal processing unit 20 includes A / D conversion units 21, 22, 23, a weighting unit 24, a subtraction unit 25, a multiplication unit 26, a storage unit 27, a NUC (Non-Uniformity Correction) processing unit 28, a timing generator 29, and the like. I have.

画像撮像部10から入力された撮像素子12の出力値(輝度信号)は、A/D変換部21でデジタル信号に変換され、A/D変換部21は、変換後のデジタル信号Uijを減算部25へ出力する。ここで、i、jは、撮像素子12が2次元アレイ(x、y)の場合、x方向の位置、y方向の位置を示す。したがって、Uijは、2次元アレイの(x、y)の位置にある撮像素子12の出力値である。   The output value (luminance signal) of the image sensor 12 input from the image capturing unit 10 is converted into a digital signal by the A / D conversion unit 21, and the A / D conversion unit 21 subtracts the converted digital signal Uij. To 25. Here, i and j indicate the position in the x direction and the position in the y direction when the image sensor 12 is a two-dimensional array (x, y). Therefore, Uij is an output value of the image sensor 12 at the position (x, y) in the two-dimensional array.

温度センサ4から入力された鏡筒2の温度は、A/D変換部22でデジタル信号に変換され、A/D変換部22は、変換後のデジタル信号Tsを重み付け部24へ出力する。また、温度センサ5から入力されたパッケージ13の温度は、A/D変換部23でデジタル信号に変換され、A/D変換部23は、変換後のデジタル信号Tpを重み付け部24へ出力する。   The temperature of the lens barrel 2 input from the temperature sensor 4 is converted into a digital signal by the A / D conversion unit 22, and the A / D conversion unit 22 outputs the converted digital signal Ts to the weighting unit 24. The temperature of the package 13 input from the temperature sensor 5 is converted into a digital signal by the A / D converter 23, and the A / D converter 23 outputs the converted digital signal Tp to the weighting unit 24.

重み付け部24は、A/D変換部23、22から入力されたパッケージ13の温度Tp及び鏡筒2の温度Tsそれぞれに対して、重み付け係数α、β(α+β=1)を付与して、重み付けした温度TcをTc=α×Tp+β×Tsの式で算出し、算出した重み付けした温度を乗算部26へ出力する。   The weighting unit 24 assigns weighting coefficients α and β (α + β = 1) to the temperature Tp of the package 13 and the temperature Ts of the lens barrel 2 input from the A / D conversion units 23 and 22, respectively. The calculated temperature Tc is calculated by the equation Tc = α × Tp + β × Ts, and the calculated weighted temperature is output to the multiplication unit 26.

重み付け係数α、βは、装置の実装状況、部品の配置状況等により適宜設定することができる。これは、装置の実装如何によって、撮像素子12を収容したパッケージ13と鏡筒2との配置関係、距離、あるいは両者の接触面積などが異なるため、パッケージ13から発せられる熱の影響の度合いと、鏡筒2から発せられる熱の影響の度合いとが異なる場合があるからである。このような場合であっても、パッケージ13及び鏡筒2の温度の影響の度合いに応じて、重み付け係数α、βを適宜設定することができる。例えば、鏡筒2の温度変化の影響が無視できるような場合であれば、βを0とし、αを1とすることができる。また、重み付け係数を装置の実装状況に応じて、適宜変更することもできる。これにより、装置の実装如何に拘わらず、周辺温度の影響を考慮して撮像素子12の出力値を算出することができ、装置設計の自由度を飛躍的に向上させることができる。なお、重み付け係数α、βの大小関係は、概ねα>βであると考えられる。これは、パッケージ13が鏡筒2よりも撮像素子12に近接しているからである。   The weighting coefficients α and β can be appropriately set according to the mounting status of the apparatus, the arrangement status of components, and the like. This is because the arrangement relationship between the package 13 containing the image sensor 12 and the lens barrel 2, the distance, or the contact area between the two differs depending on the mounting of the apparatus, and the degree of the influence of heat generated from the package 13, This is because the degree of influence of heat generated from the lens barrel 2 may be different. Even in such a case, the weighting coefficients α and β can be appropriately set according to the degree of the influence of the temperature of the package 13 and the lens barrel 2. For example, if the influence of the temperature change of the lens barrel 2 can be ignored, β can be set to 0 and α can be set to 1. Also, the weighting coefficient can be changed as appropriate according to the mounting status of the apparatus. As a result, the output value of the image sensor 12 can be calculated in consideration of the influence of the ambient temperature regardless of whether the device is mounted, and the degree of freedom in device design can be greatly improved. Note that the magnitude relationship between the weighting coefficients α and β is considered to be approximately α> β. This is because the package 13 is closer to the image sensor 12 than the lens barrel 2.

図3はパッケージ13及び鏡筒2の温度に対する撮像素子12の出力を示す説明図である。「パッケージ」で示される略直線は、被写体の温度を一定にした状態でパッケージ13の温度Tpを変化させた場合の撮像素子12の出力の変化を最小自乗法などで線形近似したものであり、「鏡筒」で示される略直線は、同様に鏡筒2の温度Tsを変化させた場合の撮像素子12の出力の変化を最小自乗法などで線形近似したものである。すなわち、「パッケージ」、「鏡筒」で示される略直線は、パッケージ、鏡筒などの温度変動により、撮像素子12の出力がどのように変動するかを示したものである。   FIG. 3 is an explanatory diagram showing the output of the image sensor 12 with respect to the temperature of the package 13 and the lens barrel 2. The substantially straight line indicated by “package” is a linear approximation of the change in the output of the image sensor 12 when the temperature Tp of the package 13 is changed with the temperature of the subject being constant, by the least square method or the like. A substantially straight line indicated by “lens barrel” is obtained by linearly approximating a change in the output of the image pickup element 12 when the temperature Ts of the lens barrel 2 is similarly changed by the least square method or the like. That is, the substantially straight lines indicated by “package” and “lens barrel” indicate how the output of the image sensor 12 varies due to temperature variation of the package, the lens barrel, and the like.

さらに、図3中、破線で示される直線は、パッケージ13の温度Tpと鏡筒2の温度Tsとを7:4の比で重み付けした温度Tcに対する撮像素子12の出力の変化を示す。すなわち、この場合、α=7/11、β=4/11である。図3に示すように、温度Tcに対する撮像素子12の出力は、重み付けを行うことで、ほぼ線形な特性になることがわかる。周辺温度(例えば、パッケージ13、鏡筒2)の重み付けは、パッケージ13又は鏡筒2のサイズ、材質、両者の接触面積、温度センサ4、5の取付位置などによっても変化し、これらの状況に応じて適宜決定することができる。また、α、βの値は、同一の値であってもよい。   Further, in FIG. 3, a straight line indicated by a broken line indicates a change in output of the image sensor 12 with respect to a temperature Tc obtained by weighting the temperature Tp of the package 13 and the temperature Ts of the lens barrel 2 with a ratio of 7: 4. That is, in this case, α = 7/11 and β = 4/11. As shown in FIG. 3, it can be seen that the output of the image sensor 12 with respect to the temperature Tc has a substantially linear characteristic by weighting. The weighting of the ambient temperature (for example, the package 13 and the lens barrel 2) varies depending on the size and material of the package 13 or the lens barrel 2, the contact area between the two, the mounting position of the temperature sensors 4 and 5, and the like. It can be determined accordingly. Further, the values of α and β may be the same value.

図4はパッケージ温度と鏡筒温度とを重み付けした温度に対する撮像素子の出力を示す説明図である。図4において、横軸はパッケージ温度と鏡筒温度とを重み付けした温度Tcであり、縦軸は撮像素子12の出力である。図4中、Aijは、図3で示した方法で線形近似したものであり、重み付けした温度Tcの変化分に対する撮像素子12の出力の変動分、すなわち、直線の傾きを表している。ここで、i、jは、撮像素子12が2次元アレイ(x、y)の場合、x方向の位置、y方向の位置を示す。したがって、Aijは、2次元アレイの(x、y)の位置にある撮像素子12の温度特性を線形近似した傾きである。各撮像素子12の感度のばらつき等により、Aijは、撮像素子12毎に異なる場合がある。すなわち、重み付けした温度Tcの変動により撮像素子12の出力変動は、傾きAijの直線で表される特性を有し、ほぼ線形な特性を得ることができる。   FIG. 4 is an explanatory diagram showing the output of the image sensor with respect to the temperature obtained by weighting the package temperature and the lens barrel temperature. In FIG. 4, the horizontal axis represents the temperature Tc obtained by weighting the package temperature and the lens barrel temperature, and the vertical axis represents the output of the image sensor 12. In FIG. 4, Aij is linearly approximated by the method shown in FIG. 3, and represents the fluctuation of the output of the image sensor 12 with respect to the weighted change in temperature Tc, that is, the slope of the straight line. Here, i and j indicate the position in the x direction and the position in the y direction when the image sensor 12 is a two-dimensional array (x, y). Therefore, Aij is an inclination obtained by linearly approximating the temperature characteristic of the image sensor 12 at the position (x, y) in the two-dimensional array. Aij may differ for each image sensor 12 due to variations in sensitivity of the image sensors 12 and the like. That is, the output variation of the image sensor 12 due to the weighted temperature Tc variation has a characteristic represented by a straight line with a slope Aij, and a substantially linear characteristic can be obtained.

記憶部27は、撮像素子12の温度特性(重み付けした温度Tcに対する出力)Aijを記憶している。   The storage unit 27 stores temperature characteristics (output with respect to the weighted temperature Tc) Aij of the image sensor 12.

乗算部26は、重み付け部24から入力された温度Tcと記憶部27から読み出した傾きAijを乗算し、乗算結果Tc×Aijを減算部25へ出力する。   The multiplication unit 26 multiplies the temperature Tc input from the weighting unit 24 and the gradient Aij read from the storage unit 27, and outputs the multiplication result Tc × Aij to the subtraction unit 25.

減算部25は、A/D変換部21から入力された撮像素子12の出力値Uijから乗算部26から入力された値Tc×Aijを減算し、撮像素子12の出力値Vijを補正し、補正後の出力値VijをNUC処理部28へ出力する。撮像素子12の出力値補正処理は、所定の時間(例えば、数十ms)経過の都度行われ、NUC処理部28は、最新の出力値Vijを記憶しておく。NUC処理では、最新の出力値Vijが使用される。撮像素子12の補正後の出力値Vijは、Vij=Uij−Tc×Aijで表される。ここで、i、jは、撮像素子12が2次元アレイ(x、y)の場合、x方向の位置、y方向の位置を示す。したがって、Vijは、2次元アレイの(x、y)の位置にある撮像素子12の補正後の出力値である。すなわち、撮像素子12の出力値UijからTc×Aijを減算することにより、重み付けした温度Tcにおける撮像素子12の出力値Uijに含まれる変動分Tc×Aijを差し引くことができる。   The subtractor 25 subtracts the value Tc × Aij input from the multiplier 26 from the output value Uij of the image sensor 12 input from the A / D converter 21 to correct the output value Vij of the image sensor 12 to be corrected. The subsequent output value Vij is output to the NUC processing unit 28. The output value correction process of the image sensor 12 is performed every time a predetermined time (for example, several tens of milliseconds) elapses, and the NUC processing unit 28 stores the latest output value Vij. In the NUC process, the latest output value Vij is used. The corrected output value Vij of the image sensor 12 is expressed as Vij = Uij−Tc × Aij. Here, i and j indicate the position in the x direction and the position in the y direction when the image sensor 12 is a two-dimensional array (x, y). Therefore, Vij is an output value after correction of the image sensor 12 at the position (x, y) in the two-dimensional array. That is, by subtracting Tc × Aij from the output value Uij of the image sensor 12, the variation Tc × Aij included in the output value Uij of the image sensor 12 at the weighted temperature Tc can be subtracted.

図5は補正後の撮像素子12の出力値Vijの温度特性の例を示す説明図である。図5において、横軸はパッケージ温度と鏡筒温度とを重み付けした温度Tcであり、縦軸は撮像素子12の出力である。撮像素子12の補正前の出力Uijは、図5に示すように、重み付けした温度Tcの変動により変動する。例えば、温度センサ4、5で温度を検出して得られた重み付けした温度がTc1である場合、撮像素子12の補正後の出力値Vijは、補正前の出力値UijからTc1×Aijを減算した値となる。また、温度センサ4、5で温度を検出して得られた重み付けした温度がTc2である場合、撮像素子12の補正後の出力値Vijは、補正前の出力値UijからTc2×Aijを減算した値となる。これにより、撮像素子周辺の温度が変動することにより、撮像素子12の出力値が変動した場合であっても、温度変動による出力値の変動分だけを除去することができ、撮像素子12の出力値Vijは、被写体の温度成分のみを取り出すことができる。   FIG. 5 is an explanatory diagram illustrating an example of temperature characteristics of the output value Vij of the image sensor 12 after correction. In FIG. 5, the horizontal axis represents the temperature Tc obtained by weighting the package temperature and the lens barrel temperature, and the vertical axis represents the output of the image sensor 12. As shown in FIG. 5, the output Uij before correction of the image sensor 12 fluctuates due to fluctuations in the weighted temperature Tc. For example, when the weighted temperature obtained by detecting the temperature with the temperature sensors 4 and 5 is Tc1, the corrected output value Vij of the image sensor 12 is obtained by subtracting Tc1 × Aij from the uncorrected output value Uij. Value. When the weighted temperature obtained by detecting the temperature with the temperature sensors 4 and 5 is Tc2, the corrected output value Vij of the image sensor 12 is obtained by subtracting Tc2 × Aij from the uncorrected output value Uij. Value. As a result, even if the output value of the image sensor 12 varies due to the temperature around the image sensor, only the variation in the output value due to the temperature variation can be removed. As the value Vij, only the temperature component of the subject can be extracted.

撮像素子12の出力値補正処理は、Vij=Uij−Tc×Aijの式に基づいて行われるが、重み付けした温度Tcが0℃(基準温度)より高い場合には、撮像素子12の出力値Uijは、Tc×Aijに相当する値だけ減算処理が行われ、重み付けした温度Tcが0℃より低い場合には、撮像素子12の出力値Uijは、(−Tc×Aij)に相当する値だけ減算処理、すなわち、Tc×Aijに相当する値だけ加算処理(負の減算処理)が行われることになる。   The output value correction process of the image sensor 12 is performed based on the formula Vij = Uij−Tc × Aij, but when the weighted temperature Tc is higher than 0 ° C. (reference temperature), the output value Uij of the image sensor 12 Is subtracted by a value corresponding to Tc × Aij, and when the weighted temperature Tc is lower than 0 ° C., the output value Uij of the image sensor 12 is subtracted by a value corresponding to (−Tc × Aij). Processing, that is, addition processing (negative subtraction processing) is performed by a value corresponding to Tc × Aij.

なお、撮像素子12の出力値補正処理は、上述の式に限定されるものではなく、他の式を用いることもできる。例えば、撮像素子12の補正後の出力値Vijを、Vij=Uij−(Tc−25)×Aijにより算出することもできる。赤外線撮像装置を夏場などの比較的高温になる環境で使用する場合、重み付けした温度Tcも比較的高い値になる。この場合、温度変動により除去すべき変動分Tc×Aijの値が大きくなり過ぎて、補正を行うことができなくなるおそれがある。そこで、重み付けした温度Tcの基準温度を0℃から例えば、25℃(赤外線撮像装置の動作温度範囲の一例である−40〜85℃のほぼ中央点に相当)に設定することで、温度が高温側に変動した場合でも、十分補正を行うことが可能となる。   Note that the output value correction processing of the image sensor 12 is not limited to the above formula, and other formulas can also be used. For example, the corrected output value Vij of the image sensor 12 can be calculated by Vij = Uij− (Tc−25) × Aij. When the infrared imaging device is used in a relatively high temperature environment such as summer, the weighted temperature Tc is also a relatively high value. In this case, the variation Tc × Aij to be removed due to the temperature variation may become too large to be corrected. Therefore, by setting the reference temperature of the weighted temperature Tc from 0 ° C. to, for example, 25 ° C. (corresponding to approximately the center point of −40 to 85 ° C., which is an example of the operating temperature range of the infrared imaging device), the temperature is increased. Even if it fluctuates to the side, sufficient correction can be performed.

NUC処理部28は、減算部25から入力された撮像素子12の出力値Vij(輝度信号)を補正する。この場合、NUC処理部28は、撮像素子12の補正後の出力値Vijの直近の値を用いることができる。NUC処理部28は、撮像素子12毎のばらつきによる出力値Vijを平均化等により均一化する。なお、NUC処理部28での処理は、例えば、電源投入後にシャッター3を閉じて、撮像素子12の非均一性を補正すれば、使用中は再度繰り返す必要はない。これは、周辺温度による撮像素子12の出力値は、図5に示すように補正され、周辺の温度変化に拘わらず一定の出力値を算出することができるからである。   The NUC processing unit 28 corrects the output value Vij (luminance signal) of the image sensor 12 input from the subtracting unit 25. In this case, the NUC processing unit 28 can use the latest value of the corrected output value Vij of the image sensor 12. The NUC processing unit 28 equalizes the output value Vij due to the variation for each image sensor 12 by averaging or the like. Note that the processing in the NUC processing unit 28 does not need to be repeated again during use, for example, by closing the shutter 3 after turning on the power and correcting the non-uniformity of the image sensor 12. This is because the output value of the image sensor 12 due to the ambient temperature is corrected as shown in FIG. 5, and a constant output value can be calculated regardless of the ambient temperature change.

タイミング発生器29は、水平同期信号及び垂直同期信号等の同期信号を信号処理部20内の各部へ出力し、各部の処理の実行を同期させる。   The timing generator 29 outputs a synchronization signal such as a horizontal synchronization signal and a vertical synchronization signal to each unit in the signal processing unit 20 to synchronize execution of processing of each unit.

以上説明したように、本発明にあっては、パッケージ13(撮像素子12の表面)、鏡筒2などの周辺温度の変化による撮像素子12の出力値の変動分を削除することができ、周辺温度の変動による撮像素子12の出力値のオフセットが発生せず映像への固定パターンノイズを低減することができる。また、例えば、電源投入時に一度だけNUC処理を行えば、使用中に繰り返しNUC処理を行って、撮像素子12の出力値のオフセットを補正する必要がなくNUC処理の頻度を少なくすることができる。   As described above, in the present invention, fluctuations in the output value of the image sensor 12 due to changes in the ambient temperature of the package 13 (the surface of the image sensor 12), the lens barrel 2, etc. can be deleted. The offset of the output value of the image sensor 12 due to temperature fluctuation does not occur, and fixed pattern noise on the video can be reduced. Further, for example, if the NUC process is performed only once when the power is turned on, it is not necessary to perform the NUC process repeatedly during use to correct the offset of the output value of the image sensor 12, and the frequency of the NUC process can be reduced.

また、パッケージ13の温度と鏡筒2の温度とを重み付けすることにより、装置の実装如何によって、パッケージ13と鏡筒2との配置関係、距離、接触面積等が異なるため、パッケージ13から発せられる熱の影響の度合いと、鏡筒2から発せられる熱の影響の度合いとが異なる場合があるとともに、両者から発せられる熱が相互に関係する場合がある。このような場合であっても、パッケージ13及び鏡筒2の温度の影響の度合いに応じて、適宜出力値の変動分を算出することが可能となる。これにより、装置の実装如何に拘わらず、周辺温度の影響を考慮して撮像素子12の出力値を算出することができ、装置設計の自由度を飛躍的に向上させることができる。   Further, by weighting the temperature of the package 13 and the temperature of the lens barrel 2, the arrangement relationship, distance, contact area, etc. between the package 13 and the lens barrel 2 differ depending on the mounting of the apparatus, and thus the light is emitted from the package 13. The degree of influence of heat and the degree of influence of heat generated from the lens barrel 2 may be different, and the heat generated from both may be related to each other. Even in such a case, it is possible to appropriately calculate the variation of the output value according to the degree of the influence of the temperature of the package 13 and the lens barrel 2. As a result, the output value of the image sensor 12 can be calculated in consideration of the influence of the ambient temperature regardless of whether the device is mounted, and the degree of freedom in device design can be greatly improved.

上述の実施の形態では、鏡筒2に温度センサ4を設ける構成であったが、鏡筒2からの熱の影響が無視できる場合(例えば、パッケージ13と鏡筒2とが分離され、ある程度の離隔寸法がある場合など)には、温度センサ4を設けない構成とすることもできる。この場合には、図3中「パッケージ」で示される特性(直線の傾き)を記憶しておき、上述の実施の形態と同様に撮像素子12の出力値の補正を行うことができる。また、逆に、温度センサ4のみ設け温度センサ5を設けない構成とすることもできる。   In the above-described embodiment, the temperature sensor 4 is provided in the lens barrel 2. However, when the influence of heat from the lens barrel 2 can be ignored (for example, the package 13 and the lens barrel 2 are separated, and a certain amount of For example, when there is a separation dimension, the temperature sensor 4 may not be provided. In this case, the characteristic (slope of the straight line) indicated by “package” in FIG. 3 is stored, and the output value of the image sensor 12 can be corrected in the same manner as in the above-described embodiment. Conversely, it is also possible to adopt a configuration in which only the temperature sensor 4 is provided and the temperature sensor 5 is not provided.

上述の実施の形態の信号処理部20の構成は、一例であって、これに限定されるものではなく、Vij=Uij−Tc×Aijの式で表される演算を実現できる構成であれば、いずれの構成であってもよい。例えば、図3に示すようなパッケージ13の温度変化に対する撮像素子12の出力特性、及び鏡筒2の温度変化に対する撮像素子12の出力特性を個別に記憶部27に記憶しておき、温度Tp、Tsそれぞれに重み係数α、βを乗算し、乗算した温度α×Tpに対して、パッケージ13の温度変化に対する撮像素子12の出力特性の負の傾きを乗算し、温度β×Tsに対して、鏡筒2の温度変化に対する撮像素子12の出力特性の負の傾きを乗算し、両者を加算した値で撮像素子12の出力値を補正することもできる。   The configuration of the signal processing unit 20 of the above-described embodiment is an example, and the configuration is not limited to this. If the configuration represented by the expression Vij = Uij−Tc × Aij can be realized, Any configuration may be used. For example, the output characteristic of the image sensor 12 with respect to the temperature change of the package 13 as shown in FIG. 3 and the output characteristic of the image sensor 12 with respect to the temperature change of the lens barrel 2 are individually stored in the storage unit 27, and the temperature Tp, Each Ts is multiplied by weighting factors α and β, the multiplied temperature α × Tp is multiplied by the negative slope of the output characteristic of the image sensor 12 with respect to the temperature change of the package 13, and the temperature β × Ts is It is also possible to correct the output value of the image sensor 12 by multiplying the negative slope of the output characteristic of the image sensor 12 with respect to the temperature change of the lens barrel 2 and adding the both.

また、本発明は実施例に限定されるものではない。   The present invention is not limited to the examples.

本発明の実施の形態に係る赤外撮像装置の構成を示すブロック図である。It is a block diagram which shows the structure of the infrared imaging device which concerns on embodiment of this invention. 信号処理部の構成を示すブロック図である。It is a block diagram which shows the structure of a signal processing part. パッケージ及び鏡筒の温度に対する撮像素子の出力を示す説明図である。It is explanatory drawing which shows the output of the image pick-up element with respect to the temperature of a package and a lens-barrel. パッケージ温度と鏡筒温度とを重み付けした温度に対する撮像素子の出力を示す説明図である。It is explanatory drawing which shows the output of the image pick-up element with respect to the temperature which weighted package temperature and lens-barrel temperature. 補正後の撮像素子の出力値の温度特性の例を示す説明図である。It is explanatory drawing which shows the example of the temperature characteristic of the output value of the image sensor after correction | amendment.

符号の説明Explanation of symbols

1 集光レンズ
2 鏡筒
3 シャッター
4、5 温度センサ
10 画像撮像部
12 撮像素子
13 パッケージ
20 信号処理部
21、22、23 A/D変換部
24 重み付け部
25 減算部
26 乗算部
27 記憶部
28 NUC処理部
29 タイミング発生器
30 画像メモリ
DESCRIPTION OF SYMBOLS 1 Condensing lens 2 Lens barrel 3 Shutter 4, 5 Temperature sensor 10 Image pick-up part 12 Image pick-up element 13 Package 20 Signal processing part 21, 22, 23 A / D conversion part 24 Weighting part 25 Subtraction part 26 Multiplication part 27 Storage part 28 NUC processing unit 29 Timing generator 30 Image memory

Claims (7)

複数の撮像素子を備え、該撮像素子の出力値に基づいて撮像データを取得する赤外撮像装置において、
前記撮像素子表面の温度を検出する撮像素子表面温度検出手段と、
前記撮像素子表面の温度に対する前記撮像素子の出力値の変動を示す第1の変動情報を記憶する記憶手段と、
該記憶手段に記憶した第1の変動情報及び前記撮像素子表面温度検出手段で検出された温度に基づいて、前記撮像素子の出力値の変動分を算出する算出手段と、
前記撮像素子の出力値から前記算出手段で算出された変動分を加算又は減算する加減算手段と
を備え、
該加減算手段で加算又は減算された出力値に基づいて撮像データを取得するように構成してあることを特徴とする赤外撮像装置。
In an infrared imaging device that includes a plurality of imaging elements and acquires imaging data based on output values of the imaging elements,
Image sensor surface temperature detecting means for detecting the temperature of the image sensor surface;
Storage means for storing first fluctuation information indicating fluctuations in the output value of the imaging element with respect to the temperature of the surface of the imaging element;
Calculation means for calculating the fluctuation amount of the output value of the image sensor based on the first fluctuation information stored in the storage means and the temperature detected by the image sensor surface temperature detection means;
Adding / subtracting means for adding or subtracting the variation calculated by the calculation means from the output value of the image sensor;
An infrared imaging apparatus configured to acquire imaging data based on an output value added or subtracted by the addition / subtraction means.
複数の撮像素子を備え、該撮像素子の出力値に基づいて撮像データを取得する赤外撮像装置において、
集光レンズを保持する鏡筒と、
該鏡筒の温度を検出する鏡筒温度検出手段と、
前記鏡筒の温度に対する前記撮像素子の出力値の変動を示す第2の変動情報を記憶する記憶手段と、
該記憶手段に記憶した第2の変動情報及び前記鏡筒温度検出手段で検出された温度に基づいて、前記撮像素子の出力値の変動分を算出する算出手段と、
前記撮像素子の出力値から前記算出手段で算出された変動分を加算又は減算する加減算手段と
を備え、
該加減算手段で加算又は減算された出力値に基づいて撮像データを取得するように構成してあることを特徴とする赤外撮像装置。
In an infrared imaging device that includes a plurality of imaging elements and acquires imaging data based on output values of the imaging elements,
A lens barrel for holding a condenser lens;
A lens barrel temperature detecting means for detecting the temperature of the lens barrel;
Storage means for storing second variation information indicating variations in the output value of the imaging element with respect to the temperature of the lens barrel;
Calculation means for calculating a fluctuation amount of the output value of the image sensor based on the second fluctuation information stored in the storage means and the temperature detected by the lens barrel temperature detection means;
Adding / subtracting means for adding or subtracting the variation calculated by the calculation means from the output value of the image sensor;
An infrared imaging apparatus configured to acquire imaging data based on an output value added or subtracted by the addition / subtraction means.
複数の撮像素子を備え、該撮像素子の出力値に基づいて撮像データを取得する赤外撮像装置において、
前記撮像素子表面の温度を検出する撮像素子表面温度検出手段と、
集光レンズを保持する鏡筒と、
該鏡筒の温度を検出する鏡筒温度検出手段と、
前記撮像素子表面の温度に対する前記撮像素子の出力値の変動を示す第1の変動情報を記憶する第1記憶手段と、
前記鏡筒の温度に対する前記撮像素子の出力値の変動を示す第2の変動情報を記憶する第2記憶手段と、
前記第1記憶手段に記憶した第1の変動情報及び前記撮像素子表面温度検出手段で検出された温度に基づいて、前記撮像素子の出力値の変動分を算出する第1算出手段と、
前記第2記憶手段に記憶した第2の変動情報及び前記鏡筒温度検出手段で検出された温度に基づいて、前記撮像素子の出力値の変動分を算出する第2算出手段と、
前記撮像素子の出力値から前記第1算出手段で算出された変動分を加算又は減算する第1加減算手段と、
前記撮像素子の出力値から前記第2算出手段で算出された変動分を加算又は減算する第2加減算手段と
を備え、
前記第1加減算手段及び第2加減算手段で加算又は減算された出力値に基づいて撮像データを取得するように構成してあることを特徴とする赤外撮像装置。
In an infrared imaging device that includes a plurality of imaging elements and acquires imaging data based on output values of the imaging elements,
Image sensor surface temperature detecting means for detecting the temperature of the image sensor surface;
A lens barrel for holding a condenser lens;
A lens barrel temperature detecting means for detecting the temperature of the lens barrel;
First storage means for storing first fluctuation information indicating fluctuations in the output value of the imaging element with respect to the temperature of the imaging element surface;
Second storage means for storing second fluctuation information indicating fluctuations in the output value of the imaging element with respect to the temperature of the lens barrel;
First calculation means for calculating a fluctuation amount of the output value of the image sensor based on the first fluctuation information stored in the first storage means and the temperature detected by the image sensor surface temperature detection means;
Second calculation means for calculating a fluctuation amount of the output value of the image sensor based on the second fluctuation information stored in the second storage means and the temperature detected by the lens barrel temperature detection means;
First addition / subtraction means for adding or subtracting the variation calculated by the first calculation means from the output value of the image sensor;
Second addition / subtraction means for adding or subtracting the variation calculated by the second calculation means from the output value of the image sensor;
An infrared imaging apparatus configured to acquire imaging data based on an output value added or subtracted by the first addition / subtraction means and the second addition / subtraction means.
前記撮像素子表面温度検出手段及び/又は鏡筒温度検出手段で検出された温度に重み付けする重み付け手段と、
該重み付け手段で重み付けされた温度に基づいて、前記撮像素子の出力値の変動分を算出する変動分算出手段と
を備えることを特徴とする請求項1乃至請求項3のいずれかに記載の赤外撮像装置。
Weighting means for weighting the temperature detected by the image sensor surface temperature detecting means and / or the lens barrel temperature detecting means;
4. The red component according to claim 1, further comprising: a fluctuation component calculating unit that calculates a fluctuation component of the output value of the image sensor based on the temperature weighted by the weighting unit. 5. Outside imaging device.
赤外撮像装置に備えられた複数の撮像素子の出力値を算出する出力値算出方法において、
前記撮像素子表面の温度に対する前記撮像素子の出力値の変動を示す第1の変動情報を予め記憶し、
前記撮像素子表面の温度を検出し、
記憶した第1の変動情報及び検出した温度に基づいて、前記撮像素子の出力値の変動分を算出し、
前記撮像素子の出力値から前記変動分を加算又は減算して該撮像素子の出力値を算出することを特徴とする撮像素子の出力値算出方法。
In an output value calculation method for calculating output values of a plurality of image sensors provided in an infrared imaging device,
Preliminarily storing first variation information indicating variations in the output value of the image sensor with respect to the temperature of the image sensor surface;
Detecting the temperature of the image sensor surface;
Based on the stored first variation information and the detected temperature, the variation of the output value of the image sensor is calculated,
An output value calculation method for an image pickup device, wherein the output value of the image pickup device is calculated by adding or subtracting the variation from the output value of the image pickup device.
赤外撮像装置に備えられた複数の撮像素子の出力値を算出する出力値算出方法において、
集光レンズを保持する鏡筒の温度に対する前記撮像素子の出力値の変動を示す第2の変動情報を予め記憶し、
前記鏡筒の温度を検出し、
記憶した第2の変動情報及び検出した温度に基づいて、前記撮像素子の出力値の変動分を算出し、
前記撮像素子の出力値から前記変動分を加算又は減算して該撮像素子の出力値を算出することを特徴とする撮像素子の出力値算出方法。
In an output value calculation method for calculating output values of a plurality of image sensors provided in an infrared imaging device,
Preliminarily storing second variation information indicating variation in the output value of the imaging element with respect to the temperature of the lens barrel holding the condenser lens;
Detecting the temperature of the lens barrel,
Based on the stored second variation information and the detected temperature, the variation of the output value of the image sensor is calculated,
An output value calculation method for an image pickup device, wherein the output value of the image pickup device is calculated by adding or subtracting the variation from the output value of the image pickup device.
赤外撮像装置に備えられた複数の撮像素子の出力値を算出する出力値算出方法において、
前記撮像素子表面の温度に対する前記撮像素子の出力値の変動を示す第1の変動情報及び集光レンズを保持する鏡筒の温度に対する前記撮像素子の出力値の変動を示す第2の変動情報を予め記憶し、
前記撮像素子表面の温度及び前記鏡筒の温度を検出し、
記憶した第1の変動情報及び第2の変動情報並びに検出した各温度に基づいて、前記撮像素子の出力値の変動分を算出し、
前記撮像素子の出力値から前記変動分を加算又は減算して該撮像素子の出力値を算出することを特徴とする撮像素子の出力値算出方法。
In an output value calculation method for calculating output values of a plurality of image sensors provided in an infrared imaging device,
First variation information indicating variation in the output value of the image sensor with respect to the temperature of the surface of the image sensor and second variation information indicating variation in the output value of the image sensor with respect to the temperature of the lens barrel holding the condenser lens. Remember in advance,
Detect the temperature of the image sensor surface and the temperature of the lens barrel,
Based on the stored first variation information and second variation information and each detected temperature, the variation of the output value of the image sensor is calculated,
An output value calculation method for an image pickup device, wherein the output value of the image pickup device is calculated by adding or subtracting the variation from the output value of the image pickup device.
JP2007016710A 2007-01-26 2007-01-26 Infrared imaging device and output value calculation method of imaging device Pending JP2008187254A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007016710A JP2008187254A (en) 2007-01-26 2007-01-26 Infrared imaging device and output value calculation method of imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007016710A JP2008187254A (en) 2007-01-26 2007-01-26 Infrared imaging device and output value calculation method of imaging device

Publications (1)

Publication Number Publication Date
JP2008187254A true JP2008187254A (en) 2008-08-14

Family

ID=39730027

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007016710A Pending JP2008187254A (en) 2007-01-26 2007-01-26 Infrared imaging device and output value calculation method of imaging device

Country Status (1)

Country Link
JP (1) JP2008187254A (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010261801A (en) * 2009-05-07 2010-11-18 Apisute:Kk Infrared imaging system
WO2011114624A1 (en) * 2010-03-17 2011-09-22 本田技研工業株式会社 Vehicle surroundings monitoring device
WO2014010375A1 (en) * 2012-07-10 2014-01-16 住友電気工業株式会社 Image pick-up device
KR101918070B1 (en) * 2017-05-02 2018-11-13 국방과학연구소 Adaptive signal calibration method to environmental changes for cooling type infrared imaging system
JP2018200206A (en) * 2017-05-26 2018-12-20 日本アビオニクス株式会社 Infrared imaging device

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02187633A (en) * 1989-01-17 1990-07-23 Fujitsu Ltd Infrared image pickup device
JPH02211781A (en) * 1989-02-10 1990-08-23 Mitsubishi Electric Corp Shading correction device for infrared video camera
JPH04286479A (en) * 1991-03-15 1992-10-12 Fujitsu Ltd Infrared solid-state image pickup device
JPH04286477A (en) * 1991-03-15 1992-10-12 Fujitsu Ltd Infrared image pickup device
JPH05332841A (en) * 1992-05-27 1993-12-17 Fujitsu Ltd Cooling temperature compensation circuit of infrared ray detection element
JP2004117254A (en) * 2002-09-27 2004-04-15 Fujitsu Ltd Infrared imaging device
JP2005236550A (en) * 2004-02-18 2005-09-02 Mitsubishi Electric Corp Infrared camera

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02187633A (en) * 1989-01-17 1990-07-23 Fujitsu Ltd Infrared image pickup device
JPH02211781A (en) * 1989-02-10 1990-08-23 Mitsubishi Electric Corp Shading correction device for infrared video camera
JPH04286479A (en) * 1991-03-15 1992-10-12 Fujitsu Ltd Infrared solid-state image pickup device
JPH04286477A (en) * 1991-03-15 1992-10-12 Fujitsu Ltd Infrared image pickup device
JPH05332841A (en) * 1992-05-27 1993-12-17 Fujitsu Ltd Cooling temperature compensation circuit of infrared ray detection element
JP2004117254A (en) * 2002-09-27 2004-04-15 Fujitsu Ltd Infrared imaging device
JP2005236550A (en) * 2004-02-18 2005-09-02 Mitsubishi Electric Corp Infrared camera

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010261801A (en) * 2009-05-07 2010-11-18 Apisute:Kk Infrared imaging system
WO2011114624A1 (en) * 2010-03-17 2011-09-22 本田技研工業株式会社 Vehicle surroundings monitoring device
CN103098110A (en) * 2010-03-17 2013-05-08 本田技研工业株式会社 Vehicle surroundings monitoring device
JPWO2011114624A1 (en) * 2010-03-17 2013-06-27 本田技研工業株式会社 Vehicle periphery monitoring device
CN103098110B (en) * 2010-03-17 2015-04-15 本田技研工业株式会社 Vehicle surroundings monitoring device
US9123247B2 (en) 2010-03-17 2015-09-01 Honda Motor Co., Ltd. Surrounding area monitoring apparatus for vehicle
WO2014010375A1 (en) * 2012-07-10 2014-01-16 住友電気工業株式会社 Image pick-up device
KR101918070B1 (en) * 2017-05-02 2018-11-13 국방과학연구소 Adaptive signal calibration method to environmental changes for cooling type infrared imaging system
JP2018200206A (en) * 2017-05-26 2018-12-20 日本アビオニクス株式会社 Infrared imaging device

Similar Documents

Publication Publication Date Title
JP3635937B2 (en) Infrared camera
JP5162730B2 (en) Imaging device and dark current correction method thereof
CN102547087B (en) Imaging apparatus, image processing method and computer-readable storage medium
CN107836111A (en) System and method for strengthening dynamic range infrared imaging
KR101211117B1 (en) Signal processing apparatus and signal processing method for solid-state image pickup element and image pickup apparatus
JP7143558B2 (en) Infrared imaging device and program used therefor
JP2004222021A (en) Imaging device
JP2008187254A (en) Infrared imaging device and output value calculation method of imaging device
JP4363308B2 (en) Signal processing apparatus and method for solid-state imaging device, and imaging apparatus
JP2011044813A (en) Imaging apparatus, correction value calculation method, and imaging method
JP2010245891A (en) Imaging device and imaging method
JP5207926B2 (en) Imaging apparatus and control method thereof
JP2008113141A (en) Imaging apparatus and signal processing method
JP2009089138A (en) Infrared camera
JPH11112884A (en) Method for correcting dark current of video camera device and video camera device using the method
JP4932578B2 (en) Sensitivity correction method for imaging apparatus and imaging apparatus
JPWO2016051847A1 (en) Infrared imaging device, fixed pattern noise calculation method, and fixed pattern noise calculation program
WO2005004467A1 (en) Electronic camera video signal correcting device
JP2008278036A (en) Infrared camera
JP4661168B2 (en) Signal processing apparatus and method for solid-state imaging device, and imaging apparatus
JP2007019577A (en) Solid-state imaging device
JP2006157242A (en) Image signal clamping apparatus and clamping method
JP2010268271A (en) Imaging device
CN113643388A (en) A black frame calibration and correction method and system for hyperspectral images
Khare et al. Reconfigurable architecture-based implementation of non-uniformity correction for long wave IR sensors

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100302

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100421

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20100525