[go: up one dir, main page]

JP2008109278A - IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND COMPUTER PROGRAM - Google Patents

IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND COMPUTER PROGRAM Download PDF

Info

Publication number
JP2008109278A
JP2008109278A JP2006288872A JP2006288872A JP2008109278A JP 2008109278 A JP2008109278 A JP 2008109278A JP 2006288872 A JP2006288872 A JP 2006288872A JP 2006288872 A JP2006288872 A JP 2006288872A JP 2008109278 A JP2008109278 A JP 2008109278A
Authority
JP
Japan
Prior art keywords
focal length
shading correction
control
unit
shading
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006288872A
Other languages
Japanese (ja)
Other versions
JP2008109278A5 (en
JP4971746B2 (en
Inventor
Nobuto Matsuda
宣人 松田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2006288872A priority Critical patent/JP4971746B2/en
Publication of JP2008109278A publication Critical patent/JP2008109278A/en
Publication of JP2008109278A5 publication Critical patent/JP2008109278A5/ja
Application granted granted Critical
Publication of JP4971746B2 publication Critical patent/JP4971746B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Exposure Control For Cameras (AREA)
  • Studio Devices (AREA)

Abstract

【課題】シェーディング補正を行うとともに、映像信号のS/Nが悪化したり、画面全体が暗くなったりするのを防ぐ。
【解決手段】光電変換を行うCCD104と、ズームレンズ102を光軸方向に移動させて焦点距離を変更するズーム操作部114、絞り103を操作するため絞り操作部113と、CCD104からの信号を増幅するとともに、そのゲインを可変とした可変ゲインアンプ106とを備え、映像信号のシェーディング補正のために焦点距離に応じて絞り103の最大開口径を変更する制御を行うとともに、可変ゲインアンプ106でのゲインが上限値であるときには、焦点距離に応じて定められた最大開口径を超えて絞り103を開くことを許可する。
【選択図】図1
A shading correction is performed and an S / N of a video signal is prevented from being deteriorated or an entire screen is prevented from being darkened.
A CCD 104 that performs photoelectric conversion, a zoom operation unit 114 that changes a focal length by moving a zoom lens 102 in an optical axis direction, an aperture operation unit 113 that operates a diaphragm 103, and a signal from the CCD 104 are amplified. And a variable gain amplifier 106 having a variable gain for controlling the change of the maximum aperture diameter of the diaphragm 103 according to the focal length for shading correction of the video signal. When the gain is the upper limit value, the aperture 103 is permitted to open beyond the maximum aperture diameter determined according to the focal length.
[Selection] Figure 1

Description

本発明は、シェーディング補正を行う撮像装置、撮像装置の制御方法、及びコンピュータプログラムに関する。   The present invention relates to an imaging apparatus that performs shading correction, a control method for the imaging apparatus, and a computer program.

ズーム機構を備え、シェーディングの対策として絞りを制御することはこれまでも行われている。絞りを絞ることによってシェーディングに起因する周辺光量落ちを目立たなくするというのが基本的な考えである。例えば特許文献1においては、FNOを変化させるために小絞りまで絞込みが可能な本絞りと、この本絞りより後方にあって、ズーム作動により絞り口径が変化する副絞りとを備えたズームレンズについて記載されている。また、特許文献2においては、焦点距離によって開放F値が異なることに起因してズームスピードによっては周辺光量落ちの変化から違和感を覚えることがあるので、ズームスピードに応じて開放F値補正を変化させるという対策が挙げられている。   It has been practiced to provide a zoom mechanism and control the diaphragm as a countermeasure for shading. The basic idea is to make the peripheral light amount drop caused by shading inconspicuous by reducing the aperture. For example, in Patent Document 1, a zoom lens having a main diaphragm that can be narrowed down to a small diaphragm to change FNO and a sub-diaphragm that is located behind the main diaphragm and changes the diaphragm aperture by a zoom operation. Are listed. Further, in Patent Document 2, since the open F value varies depending on the focal length, there may be a sense of incongruity due to the change in peripheral light amount depending on the zoom speed, so the open F value correction changes according to the zoom speed. Measures to make it are listed.

ここでは、一般的な焦点距離に応じた開放F値補正について説明する。ズーム機構でレンズが最も広角側の焦点距離になっているとき(以下、「ワイド端」と称す)は、周辺部で光量が落ちる現象がほとんどない。そのため、多くの場合、レンズの素のF値がそのまま開放F値となる。一方、ズーム機構でレンズが最も望遠側の焦点距離になっているとき(以下、「テレ端」と称す)は、中央部の光量と周辺部の光量の差がワイド端の場合と比べて大きくなり、一般的にシェーディングといわれる現象が起こる。この現象は、テレ端でF値が開放に近いほど起こりやすい。そのため、シェーディングが気にならない値になるまで絞りを絞り、このときの値をテレ端での開放F値とする。テレ端とワイド端の間の焦点距離でも、焦点距離に応じてシェーディングは起こるため、同様の考え方で開放F値を決める。   Here, open F value correction according to a general focal length will be described. When the lens has the focal length on the wide-angle side in the zoom mechanism (hereinafter referred to as the “wide end”), there is almost no phenomenon that the amount of light decreases at the peripheral portion. Therefore, in many cases, the original F value of the lens becomes the open F value as it is. On the other hand, when the lens has the focal length closest to the telephoto side in the zoom mechanism (hereinafter referred to as “tele end”), the difference between the light amount at the center and the light amount at the peripheral part is larger than that at the wide end Therefore, a phenomenon generally called shading occurs. This phenomenon is more likely to occur as the F value is closer to the open end at the telephoto end. For this reason, the aperture is stopped until a value at which shading does not matter, and this value is set as the open F value at the telephoto end. Since the shading occurs in accordance with the focal length even at the focal length between the tele end and the wide end, the open F value is determined based on the same concept.

また、シェーディング対策として画像処理による補正も行われている。アルゴリズムはいくつかあるが、基本的にはレンズの周辺部で中央部に対して入射光量が低下している場所の信号を増幅することで光量不足を補い、シェーディングをキャンセルしている。   Further, correction by image processing is also performed as a measure against shading. There are several algorithms, but basically, the signal at the periphery of the lens where the amount of incident light is lower than the center is amplified to compensate for the lack of light and cancel shading.

特開平9−222628号公報JP-A-9-222628 特開平11−183778号公報JP 11-183778 A

従来のように焦点距離に応じて開放F値を変化させ、シェーディングを目立ちにくくする制御を行う手法では、開放F値が変わることによって様々な問題が生じる。そのうちの1つに、次のようなものがある。すなわち、焦点距離がワイド端側にあるところからテレ端側にズームすると、開放F値がより絞った状態になるために、撮像素子に入射する絶対光量が減少する。入射光量の低下した分は後段のアンプでのゲインアップで補うことになるが、ゲインが上がった分映像信号のS/Nが悪化したり、ゲインアップで補いきれなかったときには画面全体が暗くなったりするという問題があった。   In the conventional technique in which the open F value is changed according to the focal length and the shading is made inconspicuous, various problems occur due to the change of the open F value. One of them is as follows. That is, when the zoom is performed from the position where the focal length is on the wide end side to the tele end side, the open F value is further reduced, and thus the absolute light quantity incident on the image sensor is reduced. The decrease in the amount of incident light will be compensated by increasing the gain at the amplifier in the subsequent stage. However, if the gain is increased, the S / N of the video signal will deteriorate, or if the gain cannot be compensated by increasing the gain, the entire screen will become darker. There was a problem that.

本発明は上記のような点に鑑みてなされたものであり、シェーディングを目立ちにくくするシェーディング補正を行うとともに、映像信号のS/Nが悪化したり、画面全体が暗くなったりするのを防ぐことを目的とする。   The present invention has been made in view of the above points, and performs shading correction that makes shading inconspicuous, and prevents the S / N of a video signal from deteriorating or the entire screen from becoming dark. With the goal.

本発明は、光電変換を行う撮像素子と、レンズを光軸方向に移動させて焦点距離を変更する焦点距離変更手段と、絞りを操作するため絞り操作手段と、前記撮像素子からの信号を増幅するとともに、その増幅度を可変とした可変増幅手段とを備えた撮像装置に関するものであって、映像信号のシェーディング補正のために焦点距離に応じて前記絞りの最大開口径を変更する制御を行うとともに、前記可変増幅手段での増幅度が上限値であるときには、焦点距離に応じて定められた最大開口径を超えて前記絞りを開くことを許可する制御を行うようにしている。
また、本発明は、光電変換を行う撮像素子と、レンズを光軸方向に移動させて焦点距離を変更する焦点距離変更手段と、局所的に信号の増幅度を変化させることでシェーディング補正を行うことのできるシェーディング補正手段と、局所的にノイズ除去の強度を変化させることのできるノイズ除去手段とを備えた撮像装置に関するものであって、前記シェーディング補正手段によるシェーディング補正時に用いた局所的な増幅度と、前記ノイズ除去手段による同一箇所のノイズ除去の強度とが一定の関係を持つように関連付けた制御を行うようにしている。
The present invention relates to an image sensor that performs photoelectric conversion, a focal length changing unit that changes a focal length by moving a lens in an optical axis direction, a diaphragm operating unit for operating a diaphragm, and an amplifying signal from the image sensor. In addition, the present invention relates to an image pickup apparatus including a variable amplifying unit whose amplification degree is variable, and performs control for changing the maximum aperture diameter of the diaphragm according to a focal length for shading correction of a video signal. At the same time, when the degree of amplification in the variable amplifying means is an upper limit value, control is performed to allow the aperture to open beyond the maximum aperture diameter determined according to the focal length.
Further, the present invention performs shading correction by locally changing the amplification factor of an image pickup device that performs photoelectric conversion, focal length changing means that changes the focal length by moving the lens in the optical axis direction, and the like. The present invention relates to an image pickup apparatus including a shading correction unit that can perform a noise removal and a noise removal unit that can locally change the intensity of noise removal, and the local amplification used during the shading correction by the shading correction unit The control is performed so that the degree of noise and the intensity of noise removal at the same location by the noise removing means have a certain relationship.

本発明によれば、シェーディングを目立ちにくくするシェーディング補正を行うとともに、映像信号のS/Nが悪化したり、画面全体が暗くなったりするのを防ぐことができる。   According to the present invention, it is possible to perform shading correction that makes shading inconspicuous, and to prevent the S / N of the video signal from deteriorating and the entire screen from becoming dark.

以下、添付図面を参照して、本発明の好適な実施形態について説明する。
(第1の実施形態)
本発明の実施形態として、レンズの焦点距離とアンプのゲインに基づいて開放F値を制御する手法について説明する。本実施形態では、焦点距離と後段のアンプのゲインをみて開放F値を変化させることにより、ゲインアップで補え切れずに画面が暗くなる場合には周辺光量落ちを許容して撮像素子への入射光量を維持することを目的とする。
Preferred embodiments of the present invention will be described below with reference to the accompanying drawings.
(First embodiment)
As an embodiment of the present invention, a method for controlling the open F value based on the focal length of the lens and the gain of the amplifier will be described. In this embodiment, by changing the open F value by looking at the focal length and the gain of the amplifier at the subsequent stage, if the screen becomes dark without being compensated for by increasing the gain, the amount of peripheral light is allowed to be incident on the image sensor. The purpose is to maintain the amount of light.

図1は本実施形態に係る撮像装置の構成を示すブロック図である。レンズ101から入射した光は、ズームレンズ102の位置によって焦点距離が決まり、絞り103によって光量が制御された後、CCD104に入射する。CCD104によって光電変換された信号は、CDS(Correlated Double Sampling)回路105での相関二重サンプリングによりノイズが除去される。そして、可変ゲインアンプ106でゲインをかけて所望のレベルに増幅された後、AD変換器107によってディジタルデータに変換される。AD変換器107によって変換されたディジタルデータは、信号処理回路108によって処理され、映像信号を出力するための信号出力部109、画像をモニタリングするための表示部110、映像データを記録するための記録媒体111に出力される。   FIG. 1 is a block diagram illustrating a configuration of an imaging apparatus according to the present embodiment. The light incident from the lens 101 is incident on the CCD 104 after the focal length is determined by the position of the zoom lens 102 and the amount of light is controlled by the diaphragm 103. Noise is removed from the signal photoelectrically converted by the CCD 104 by correlated double sampling in a CDS (Correlated Double Sampling) circuit 105. The gain is amplified by the variable gain amplifier 106 and amplified to a desired level, and then converted into digital data by the AD converter 107. The digital data converted by the AD converter 107 is processed by a signal processing circuit 108, a signal output unit 109 for outputting a video signal, a display unit 110 for monitoring an image, and a recording for recording video data. It is output to the medium 111.

上記の信号の流れとは別に、各部を制御するための系統がある。マイクロコンピュータ(以下、「マイコン」と称す)112は、信号処理回路108での処理を制御し、可変ゲインアンプ106のゲインを制御する。また、マイコン102は、絞り103を操作するための絞り操作部113を制御し、ズームレンズ102を操作するためのズーム操作部114を制御する。   Apart from the above signal flow, there is a system for controlling each part. A microcomputer (hereinafter referred to as “microcomputer”) 112 controls processing in the signal processing circuit 108 and controls the gain of the variable gain amplifier 106. Further, the microcomputer 102 controls a diaphragm operation unit 113 for operating the diaphragm 103 and controls a zoom operation unit 114 for operating the zoom lens 102.

一般的な制御であれば、ズーム操作部114でズームレンズ102を操作するマイコン112は、現在の焦点距離をみてシェーディング補正の観点から絞り103の開放側の制御範囲を決める。例えば焦点距離fでは制御開放絞りをF0に制限するとして、以下の表1の関係にあるとする。 In the case of general control, the microcomputer 112 that operates the zoom lens 102 with the zoom operation unit 114 determines the control range on the open side of the diaphragm 103 from the viewpoint of shading correction by looking at the current focal length. For example, assuming that the control aperture is limited to F 0 at the focal length f, the relationship shown in Table 1 below is assumed.

Figure 2008109278
Figure 2008109278

この場合、マイコン112は、ズームレンズ102の現在位置から現在の焦点距離を算出する。そして、焦点距離が50mmを超えていれば、上記表1の値に従って制御開放絞り値F0を制限した状態で絞り103と可変ゲインアンプ106を制御して、適正な明るさが得られるようにする。 In this case, the microcomputer 112 calculates the current focal length from the current position of the zoom lens 102. If the focal length exceeds 50 mm, the aperture 103 and the variable gain amplifier 106 are controlled in a state where the control opening aperture value F 0 is limited according to the values in Table 1 so that appropriate brightness can be obtained. To do.

制御開放絞り値F0を制限して制御するという形でシェーディングを補正するため、ズームレンズ102で焦点距離を変更した後で、絞り103の絞り値が制御開放絞り値F0より絞られているときには特に変化はない。逆に、絞り103の絞り値が制御開放絞り値F0より開かれている場合は、制御開放絞り値F0まで絞り103を絞り、入射光量が減少した分は可変ゲインアンプ106のゲインを上げて適正な明るさを維持する。 In order to correct the shading in such a manner that the control open aperture value F 0 is limited and controlled, the aperture value of the aperture 103 is reduced from the control open aperture value F 0 after changing the focal length by the zoom lens 102. Sometimes there is no change. On the other hand, when the aperture value of the aperture 103 is opened more than the control opening aperture value F 0 , the aperture 103 is stopped to the control opening aperture value F 0, and the gain of the variable gain amplifier 106 is increased as the amount of incident light decreases. Maintain proper brightness.

それに対して、本実施形態では、マイコン112は、図2に示すフローチャートに従って制御を進める。このとき、可変ゲインアンプ106のゲインが最大値のときのみ、絞り103を制御開放絞り値F0を超えて開くことを許容する。 On the other hand, in this embodiment, the microcomputer 112 advances the control according to the flowchart shown in FIG. At this time, the diaphragm 103 is allowed to open beyond the control opening diaphragm value F 0 only when the gain of the variable gain amplifier 106 is the maximum value.

まず、ステップS201では、通常の露出制御を行う。ステップS202では、不図示のズーム操作キーの操作に従ってズームレンズ102が移動したかどうかを判定する。   First, in step S201, normal exposure control is performed. In step S202, it is determined whether or not the zoom lens 102 has moved according to an operation of a zoom operation key (not shown).

上記ステップS202においてズームレンズ102が移動していないと判定された場合、ステップS201に戻って通常露出制御を続ける。   If it is determined in step S202 that the zoom lens 102 has not moved, the process returns to step S201 to continue normal exposure control.

上記ステップS202においてズームレンズ102が移動していると判定された場合、ステップS203に進んで、現在の焦点距離fが50mm以上であるかどうかを判定する。これは、表1にて50mm以上の焦点距離においては、シェーディング補正のため、制御開放絞り値補正を実施しているためである。50mm未満である焦点距離においては、制御開放絞り値補正を実施していないため、ステップS201に戻って通常露出制御を行う。   When it is determined in step S202 that the zoom lens 102 is moving, the process proceeds to step S203, where it is determined whether the current focal length f is 50 mm or more. This is because the control aperture value correction is performed for shading correction at a focal length of 50 mm or more in Table 1. At the focal length that is less than 50 mm, since the controlled open aperture value correction is not performed, the process returns to step S201 to perform the normal exposure control.

上記ステップS203において焦点距離fが50mm以上であると判定された場合、ステップS204に進んで、表1で決まる制御開放絞り値F0の範囲内で通常と同様の露出制御を行う。 If it is determined in step S203 that the focal length f is 50 mm or longer, the process proceeds to step S204, and exposure control similar to normal is performed within the range of the control opening aperture value F 0 determined in Table 1.

ステップS205では、ズームレンズ102が移動したかどうかを判定する。上記ステップS205においてズームレンズ102が移動していないと判定された場合、ステップS206に進み、ズームレンズ102が移動していると判定された場合、ステップS210に進む。   In step S205, it is determined whether the zoom lens 102 has moved. If it is determined in step S205 that the zoom lens 102 has not moved, the process proceeds to step S206. If it is determined that the zoom lens 102 has moved, the process proceeds to step S210.

ステップS206では、上記ステップS204における露出制御の結果、可変ゲインアンプ106のゲインが最大値(上限値)となっているかどうかを判定する。上記ステップS206において最大値となっていないと判定された場合、通常の明るさが確保されているとして、ステップS204に戻って制御を続ける。   In step S206, it is determined whether or not the gain of the variable gain amplifier 106 is the maximum value (upper limit value) as a result of the exposure control in step S204. If it is determined in step S206 that the maximum value is not reached, it is determined that normal brightness is secured, and control is continued after returning to step S204.

上記ステップS206において最大値となっていると判定された場合、制御開放絞り値補正によってゲインアップによっても従来の明るさが維持できなったと考える。この場合、ステップS207で、発振防止のヒステリシスを考慮した後に、ステップS208で、レンズ本来の開放絞り値であるFKと現在の焦点距離fでの制御開放絞り値F0の範囲で絞り103を制御して露出を制御する。ステップS208の露出の制御においては、可変ゲインアンプ106のゲインは最大値のままにしておく。これは、可変ゲインアンプ106のゲインと絞り103の絞り値を同時に制御することによって不安定になるのを避けるためである。 If it is determined in step S206 that the maximum value has been reached, it is considered that the conventional brightness could not be maintained even by increasing the gain by correcting the control aperture value. In this case, after considering hysteresis for preventing oscillation in step S207, in step S208, the aperture 103 is set within a range of F K which is the lens's original maximum aperture value and the control maximum aperture value F 0 at the current focal length f. Control to control exposure. In the exposure control in step S208, the gain of the variable gain amplifier 106 is kept at the maximum value. This is to avoid instability by simultaneously controlling the gain of the variable gain amplifier 106 and the aperture value of the aperture 103.

ステップS209では、ズームレンズ102が移動したかどうかを判定する。上記ステップS209においてズームレンズ102が移動していると判定された場合、ステップS210に進んで、現在の焦点距離fが50mm以上であるかどうかを判定する。上記ステップS210において焦点距離fが50mm以上であると判定された場合、シェーディング補正のための開放絞り値補正の値が変化したことになるので、ステップS204に戻って制御開放絞りの範囲で通常露出制御を行う。上記ステップS210において焦点距離fが50mm未満である場合、シェーディングのための開放絞り値補正を行わなくなったということであり、この場合はステップS201に戻って通常の露出制御を行う。   In step S209, it is determined whether the zoom lens 102 has moved. If it is determined in step S209 that the zoom lens 102 is moving, the process proceeds to step S210, and it is determined whether the current focal length f is 50 mm or more. If it is determined in step S210 that the focal length f is 50 mm or more, the open aperture value correction value for shading correction has changed, so the process returns to step S204 and normal exposure is performed within the control open aperture range. Take control. If the focal length f is less than 50 mm in step S210, it means that the full aperture value correction for shading is no longer performed. In this case, the process returns to step S201 to perform normal exposure control.

上記ステップS209においてズームレンズ102が移動していないと判定された場合、ステップS211に進む。ステップS211では、レンズ本来の開放絞り値FKと現在の焦点距離fでの制御開放絞り値F0との間で制御を行っている。このときに、信号処理回路108からの情報を確認して、マイコン102が可変ゲインアンプ106のゲインが最大値であるという条件では適正な明るさより明るくなってしまうと判定したときは、ステップS212に進む。ステップS212では、発振防止のヒステリシス処理をした後、ステップS204に戻って、制御開放絞り値の範囲内で通常の露出制御を行う。 If it is determined in step S209 that the zoom lens 102 has not moved, the process proceeds to step S211. In step S211, control is performed between the lens's original full aperture value F K and the controlled wide aperture value F 0 at the current focal length f. At this time, when the information from the signal processing circuit 108 is confirmed and the microcomputer 102 determines that the brightness is higher than the appropriate brightness under the condition that the gain of the variable gain amplifier 106 is the maximum value, the process proceeds to step S212. move on. In step S212, after performing oscillation prevention hysteresis processing, the process returns to step S204, and normal exposure control is performed within the range of the control opening aperture value.

以上説明したとおり、シェーディング補正のため制御開放絞り値F0を補正している焦点距離において、可変ゲインアンプ106のゲインが最大値であるときに限って、レンズ本来の開放絞り値まで絞りを開けることを許可した露出制御を行う。 As described above, the aperture is opened to the original open aperture value of the lens only when the gain of the variable gain amplifier 106 is the maximum value at the focal length in which the control open aperture value F 0 is corrected for shading correction. The exposure control is permitted.

かかる制御によって、十分な明るさを持つ被写体についてはレンズの持つ周辺光量落ち特性を補正することが可能である。すなわち、十分な明るさを持つ被写体に対してはレンズの周辺光量落ちを原因とするシェーディングを抑圧することができる。   With this control, it is possible to correct the peripheral light amount drop characteristic of the lens for a subject with sufficient brightness. That is, shading caused by a decrease in the amount of light around the lens can be suppressed for a subject having sufficient brightness.

一方、可変ゲインアンプ106のゲインが最大値になる被写体においては、シェーディング補正のために充分な明るさの映像を得ることができないという現象を回避することができ、レンズをテレ側で用いたときのカメラとしての感度が上がったことになる。すなわち、可変ゲインアンプ106のゲインが最大値のときに限り、絞り103の制御開放絞り値をレンズ本来の開放絞り値まで制御することを許可することで、暗い被写体で入射光量不足から露出制御の範囲を超えて暗くなってしまう現象を回避することができる。   On the other hand, in a subject where the gain of the variable gain amplifier 106 is the maximum value, it is possible to avoid the phenomenon that an image with sufficient brightness for shading correction cannot be obtained, and when the lens is used on the tele side. The sensitivity as a camera has increased. That is, only when the gain of the variable gain amplifier 106 is the maximum value, by permitting the control open aperture value of the aperture 103 to be controlled to the original open aperture value of the lens, it is possible to perform exposure control due to insufficient incident light quantity in a dark subject. It is possible to avoid the phenomenon of darkening beyond the range.

(第2の実施形態)
本発明の実施形態として、レンズの焦点距離をみてシェーディング補正のためにシェーディング補正部及びノイズ除去部を同時に用いる手法について説明する。本実施形態では、焦点距離によって変わる周辺光量落ちによるシェーディング補正を画像処理により行い、そのときにシェーディングの補正係数と逆の特性をもつノイズリダクションを設定することにより画面上のS/Nを一定に保つことを目的とする。
(Second Embodiment)
As an embodiment of the present invention, a method of simultaneously using a shading correction unit and a noise removal unit for shading correction by looking at the focal length of a lens will be described. In the present embodiment, shading correction due to a decrease in peripheral light amount that changes depending on the focal length is performed by image processing, and at that time, the S / N on the screen is made constant by setting noise reduction having characteristics opposite to the shading correction coefficient. The purpose is to keep.

図3は本実施形態に係る撮像装置の構成を示すブロック図である。レンズ301から入射した光は、ズームレンズ302の位置によって焦点距離が決まり、絞り303によって光量が制御された後、CCD304に入射する。CCD304によって光電変換された信号は、AFE(Analog Front End)305内部のCDS回路での相関二重サンプリングによりノイズが除去される。そして、AFE305内部の可変ゲインアンプでゲインをかけて所望のレベルに増幅された後、AFE305内部のAD変換器によってディジタルデータに変換される。   FIG. 3 is a block diagram illustrating a configuration of the imaging apparatus according to the present embodiment. The light incident from the lens 301 has its focal length determined by the position of the zoom lens 302, and the amount of light is controlled by the diaphragm 303, and then enters the CCD 304. Noise is removed from the signal photoelectrically converted by the CCD 304 by correlated double sampling in a CDS circuit inside an AFE (Analog Front End) 305. Then, the gain is amplified by a variable gain amplifier inside the AFE 305 and amplified to a desired level, and then converted into digital data by an AD converter inside the AFE 305.

AFE305から出力されたディジタルデータは、信号処理回路308によって処理される。信号処理回路308内部ではシェーディング補正部306にて光学系による周辺光量落ち現象を補正する。シェーディング補正のアルゴリズムについては後述する。シェーディング補正部306から出力されたディジタルデータはノイズ除去部307に入力され、ノイズ成分が抑圧される。ノイズ抑圧のアルゴリズムについても後述する。ノイズ除去部307の出力は信号処理回路308から出力され、映像信号を出力するための信号出力部309、画像をモニタリングするための表示部310、映像データを記録するための記録媒体311に出力される。   Digital data output from the AFE 305 is processed by the signal processing circuit 308. Inside the signal processing circuit 308, the shading correction unit 306 corrects the peripheral light amount drop phenomenon caused by the optical system. The shading correction algorithm will be described later. The digital data output from the shading correction unit 306 is input to the noise removal unit 307, and the noise component is suppressed. A noise suppression algorithm will also be described later. The output of the noise removal unit 307 is output from the signal processing circuit 308, and is output to a signal output unit 309 for outputting a video signal, a display unit 310 for monitoring an image, and a recording medium 311 for recording video data. The

上記の信号の流れとは別に、各部を制御するための系統がある。マイコン312は、信号処理回路308内部のシェーディング補正部306及びノイズ除去部307での処理を制御し、AFE305内部の可変ゲインアンプのゲインを制御する。また、マイコン312は、絞り303を操作するための不図示の絞り操作部を制御し、ズームレンズ302を操作するためのズーム操作部313を制御する。   Apart from the above signal flow, there is a system for controlling each part. The microcomputer 312 controls processing in the shading correction unit 306 and the noise removal unit 307 inside the signal processing circuit 308 and controls the gain of the variable gain amplifier inside the AFE 305. The microcomputer 312 controls a diaphragm operation unit (not shown) for operating the diaphragm 303 and controls a zoom operation unit 313 for operating the zoom lens 302.

ここで、シェーディング補正部306で行うシェーディング補正のアルゴリズムを説明する。本実施形態では、レンズの焦点距離がfa以下ではシェーディング補正が必要なく、焦点距離fbで最もレンズのシェーディングが大きくなり、焦点距離fb以上ではレンズのシェーディング量がほとんど変わらないというレンズを仮定する。   Here, an algorithm for shading correction performed by the shading correction unit 306 will be described. In the present embodiment, it is assumed that the lens does not require shading correction when the focal length of the lens is equal to or less than fa, the lens shading becomes the largest at the focal length fb, and the shading amount of the lens hardly changes at the focal length fb or longer.

レンズのシェーディングが最大となる焦点距離fbでのシェーディング量Sfb(h,v)は調整によってマイコン312にとって既知の量とする。シェーディング量とは均一な被写体を撮影したときに1画面の中で最も高いレベルの信号となるところを1とした信号レベルの比と定義する。なお、h、vはそれぞれ水平方向の位置と垂直方向の位置を表す。 The shading amount S fb (h, v) at the focal length fb at which the lens shading is maximized is adjusted to a known amount by the microcomputer 312. The shading amount is defined as a signal level ratio where 1 is the highest level signal in one screen when a uniform subject is photographed. Note that h and v represent a horizontal position and a vertical position, respectively.

マイコン312は、ズームレンズ302の位置をズーム操作部313を介して検知する。そして、この値に応じてシェーディング補正部306において、表2のようにシェーディング補正ゲインGshを制御することでシェーディング補正を行う。 The microcomputer 312 detects the position of the zoom lens 302 via the zoom operation unit 313. Then, the shading correction unit 306 performs shading correction by controlling the shading correction gain G sh as shown in Table 2 according to this value.

Figure 2008109278
Figure 2008109278

次に、ノイズ除去部307で行うノイズ抑圧のアルゴリズムを説明する。ノイズ除去部307でのノイズリダクション処理は、シェーディング補正部306でゲインGshを1より上げた位置に対して、ゲインを上げた割合に応じてノイズ除去の強さを制御する。そのため、ノイズ除去部307で用いる方法は局所的、換言すれば、2次元的な位置毎にノイズ除去レベルを変化することが必要で、ここでは整数kが大きい程強度が強まるノイズフィルタNF(k)を用いる。対象の画素位置(h,v)での補正値は表2で表されるので、ノイズ除去の強度を表すkは表3で表される。 Next, a noise suppression algorithm performed by the noise removing unit 307 will be described. In the noise reduction process in the noise removal unit 307, the strength of noise removal is controlled according to the ratio of increasing the gain with respect to the position where the gain G sh is increased from 1 by the shading correction unit 306. For this reason, the method used in the noise removal unit 307 is required to change the noise removal level locally, in other words, for each two-dimensional position. Here, the noise filter NF (k ) Is used. Since the correction value at the target pixel position (h, v) is expressed in Table 2, k representing the noise removal strength is expressed in Table 3.

Figure 2008109278
Figure 2008109278

以上説明したことをまとめると、シェーディング補正部306でゲインGshが大きい画素の位置はそのままではS/Nが悪くなるところを、ノイズ除去部307でゲインGshに応じた強度のノイズフィルタをかけることによってノイズを抑え、画面全体を均一なS/Nに保つことができる。すなわち、シェーディング補正を行うときに、補正を行う局所的なゲインの大きさとノイズを除去するノイズフィルタの強度を合わせることで、画面全体のS/Nを同レベルに抑えることができる。 To summarize the above description, the noise removal unit 307 applies a noise filter having an intensity corresponding to the gain G sh when the shading correction unit 306 causes the S / N ratio to deteriorate if the position of the pixel having the large gain G sh remains unchanged. As a result, noise can be suppressed and the entire screen can be maintained at a uniform S / N. That is, when performing shading correction, the S / N of the entire screen can be suppressed to the same level by combining the magnitude of the local gain to be corrected and the strength of the noise filter that removes noise.

なお、本発明の目的は、上述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体を、システム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。   An object of the present invention is to supply a storage medium storing software program codes for realizing the functions of the above-described embodiments to a system or apparatus, and the computer (or CPU or MPU) of the system or apparatus stores the storage medium. Needless to say, this can also be achieved by reading and executing the program code stored in.

この場合、記憶媒体から読み出されたプログラムコード自体が上述した実施形態の機能を実現することになり、プログラムコード自体及びそのプログラムコードを記憶した記憶媒体は本発明を構成することになる。   In this case, the program code itself read from the storage medium realizes the functions of the above-described embodiments, and the program code itself and the storage medium storing the program code constitute the present invention.

プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード、ROM等を用いることができる。   As a storage medium for supplying the program code, for example, a flexible disk, a hard disk, an optical disk, a magneto-optical disk, a CD-ROM, a CD-R, a magnetic tape, a nonvolatile memory card, a ROM, or the like can be used.

また、コンピュータが読み出したプログラムコードを実行することにより、上述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(基本システム或いはオペレーティングシステム)等が実際の処理の一部又は全部を行い、その処理によって上述した実施形態の機能が実現される場合も含まれることは言うまでもない。   Further, by executing the program code read by the computer, not only the functions of the above-described embodiments are realized, but also an OS (basic system or operating system) running on the computer based on the instruction of the program code. Needless to say, a case where the functions of the above-described embodiment are realized by performing part or all of the actual processing and the processing is included.

さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部又は全部を行い、その処理によって上述した実施形態の機能が実現される場合も含まれることは言うまでもない。   Furthermore, after the program code read from the storage medium is written in the memory of the expansion board inserted into the computer or the function expansion unit connected to the computer, the function expansion is performed based on the instruction of the program code. It goes without saying that the CPU or the like provided in the board or function expansion unit performs part or all of the actual processing, and the functions of the above-described embodiments are realized by the processing.

第1の実施形態に係る撮像装置の構成を示すブロック図である。It is a block diagram which shows the structure of the imaging device which concerns on 1st Embodiment. 第1の実施形態に係る撮像装置での制御を説明するためのフローチャートである。5 is a flowchart for explaining control in the imaging apparatus according to the first embodiment. 第2の実施形態に係る撮像装置の構成を示すブロック図である。It is a block diagram which shows the structure of the imaging device which concerns on 2nd Embodiment.

符号の説明Explanation of symbols

101、301 レンズ
102、302 ズームレンズ
103、303 絞り
104、304 CCD
105 CDS回路
106 可変ゲインアンプ
107 AD変換器
108、308 信号処理回路
109、309 信号出力部
110、310 表示部
111、311 記録媒体
112、312 マイクロコンピュータ
113 絞り操作部
114、313 ズーム操作部
305 AFE
306 シェーディング補正部
307 ノイズ除去部
101, 301 Lens 102, 302 Zoom lens 103, 303 Aperture 104, 304 CCD
105 CDS circuit 106 Variable gain amplifier 107 AD converter 108, 308 Signal processing circuit 109, 309 Signal output unit 110, 310 Display unit 111, 311 Recording medium 112, 312 Microcomputer 113 Aperture operation unit 114, 313 Zoom operation unit 305 AFE
306 Shading correction unit 307 Noise removal unit

Claims (6)

光電変換を行う撮像素子と、
レンズを光軸方向に移動させて焦点距離を変更する焦点距離変更手段と、
絞りを操作するため絞り操作手段と、
前記撮像素子からの信号を増幅するとともに、その増幅度を可変とした可変増幅手段と、
映像信号のシェーディング補正のために焦点距離に応じて前記絞りの最大開口径を変更する制御を行うとともに、前記可変増幅手段での増幅度が上限値であるときには、焦点距離に応じて定められた最大開口径を超えて前記絞りを開くことを許可する制御を行う制御手段とを備えたことを特徴とする撮像装置。
An image sensor that performs photoelectric conversion;
Focal length changing means for changing the focal length by moving the lens in the optical axis direction;
An aperture operating means for operating the aperture;
Variable amplification means that amplifies the signal from the image sensor and makes the amplification variable;
In order to correct shading of the video signal, control is performed to change the maximum aperture diameter of the diaphragm according to the focal length, and when the amplification degree in the variable amplifying means is an upper limit value, it is determined according to the focal length. An imaging apparatus comprising: control means for performing control to permit opening of the diaphragm beyond a maximum aperture diameter.
光電変換を行う撮像素子と、
レンズを光軸方向に移動させて焦点距離を変更する焦点距離変更手段と、
局所的に信号の増幅度を変化させることでシェーディング補正を行うことのできるシェーディング補正手段と、
局所的にノイズ除去の強度を変化させることのできるノイズ除去手段と、
前記シェーディング補正手段によるシェーディング補正時に用いた局所的な増幅度と、前記ノイズ除去手段による同一箇所のノイズ除去の強度とが一定の関係を持つように関連付けた制御を行う制御手段とを備えたことを特徴とする撮像装置。
An image sensor that performs photoelectric conversion;
Focal length changing means for changing the focal length by moving the lens in the optical axis direction;
A shading correction means capable of performing shading correction by locally changing the amplification degree of the signal;
Noise removing means capable of locally changing the intensity of noise removal;
Control means for performing control in which the local amplification degree used at the time of shading correction by the shading correction means and the intensity of noise removal at the same location by the noise removal means are related so as to have a certain relationship An imaging apparatus characterized by the above.
光電変換を行う撮像素子と、レンズを光軸方向に移動させて焦点距離を変更する焦点距離変更手段と、絞りを操作するため絞り操作手段と、前記撮像素子からの信号を増幅するとともに、その増幅度を可変とした可変増幅手段とを備えた撮像装置の制御方法であって、
映像信号のシェーディング補正のために焦点距離に応じて前記絞りの最大開口径を変更する制御を行うとともに、前記可変増幅手段での増幅度が上限値であるときには、焦点距離に応じて定められた最大開口径を超えて前記絞りを開くことを許可する制御を行う手順を有することを特徴とする撮像装置の制御方法。
An image sensor that performs photoelectric conversion, a focal length changing unit that changes the focal length by moving the lens in the optical axis direction, an aperture operating unit for operating the aperture, amplifies the signal from the image sensor, and A method for controlling an image pickup apparatus including variable amplification means having a variable amplification degree,
In order to correct shading of the video signal, control is performed to change the maximum aperture diameter of the diaphragm according to the focal length. A method for controlling an imaging apparatus, comprising: a procedure for performing control for permitting opening of the diaphragm beyond a maximum aperture diameter.
光電変換を行う撮像素子と、レンズを光軸方向に移動させて焦点距離を変更する焦点距離変更手段と、局所的に信号の増幅度を変化させることでシェーディング補正を行うことのできるシェーディング補正手段と、局所的にノイズ除去の強度を変化させることのできるノイズ除去手段とを備えた撮像装置の制御方法であって、
前記シェーディング補正手段によるシェーディング補正時に用いた局所的な増幅度と、前記ノイズ除去手段による同一箇所のノイズ除去の強度とが一定の関係を持つように関連付けた制御を行う手順を有することを特徴とする撮像装置の制御方法。
An image sensor that performs photoelectric conversion, a focal length changing unit that changes the focal length by moving the lens in the optical axis direction, and a shading correcting unit that can perform shading correction by locally changing the signal amplification degree. And a method for controlling an imaging apparatus comprising noise removing means capable of locally changing the intensity of noise removal,
It has a procedure of performing a control in which the local amplification degree used at the time of shading correction by the shading correction unit and the intensity of noise removal at the same location by the noise removal unit are related to each other so as to have a certain relationship. Control method for imaging apparatus.
光電変換を行う撮像素子と、レンズを光軸方向に移動させて焦点距離を変更する焦点距離変更手段と、絞りを操作するため絞り操作手段と、前記撮像素子からの信号を増幅するとともに、その増幅度を可変とした可変増幅手段とを備えた撮像装置を制御するコンピュータプログラムであって、
映像信号のシェーディング補正のために焦点距離に応じて前記絞りの最大開口径を変更する制御を行うとともに、前記可変増幅手段での増幅度が上限値であるときには、焦点距離に応じて定められた最大開口径を超えて前記絞りを開くことを許可する制御を行う処理をコンピュータに実行させることを特徴とするコンピュータプログラム。
An image sensor that performs photoelectric conversion, a focal length changing unit that changes the focal length by moving the lens in the optical axis direction, an aperture operating unit for operating the aperture, amplifies the signal from the image sensor, and A computer program for controlling an imaging apparatus having variable amplification means with variable amplification,
In order to correct shading of the video signal, control is performed to change the maximum aperture diameter of the diaphragm according to the focal length, and when the amplification degree in the variable amplifying means is an upper limit value, it is determined according to the focal length. A computer program for causing a computer to execute a process of permitting opening of the diaphragm beyond a maximum aperture diameter.
光電変換を行う撮像素子と、レンズを光軸方向に移動させて焦点距離を変更する焦点距離変更手段と、局所的に信号の増幅度を変化させることでシェーディング補正を行うことのできるシェーディング補正手段と、局所的にノイズ除去の強度を変化させることのできるノイズ除去手段とを備えた撮像装置を制御するコンピュータプログラムであって、
前記シェーディング補正手段によるシェーディング補正時に用いた局所的な増幅度と、前記ノイズ除去手段による同一箇所のノイズ除去の強度とが一定の関係を持つように関連付けた制御を行う処理をコンピュータに実行させることを特徴とするコンピュータプログラム。
An image sensor that performs photoelectric conversion, a focal length changing unit that changes the focal length by moving the lens in the optical axis direction, and a shading correcting unit that can perform shading correction by locally changing the signal amplification degree. And a computer program for controlling an image pickup apparatus including a noise removing unit that can locally change the intensity of noise removal,
Causing the computer to execute a process of performing control in which the local amplification degree used at the time of shading correction by the shading correction means and the intensity of noise removal at the same location by the noise removal means are related to each other. A computer program characterized by the above.
JP2006288872A 2006-10-24 2006-10-24 IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND COMPUTER PROGRAM Expired - Fee Related JP4971746B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006288872A JP4971746B2 (en) 2006-10-24 2006-10-24 IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND COMPUTER PROGRAM

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006288872A JP4971746B2 (en) 2006-10-24 2006-10-24 IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND COMPUTER PROGRAM

Publications (3)

Publication Number Publication Date
JP2008109278A true JP2008109278A (en) 2008-05-08
JP2008109278A5 JP2008109278A5 (en) 2009-12-10
JP4971746B2 JP4971746B2 (en) 2012-07-11

Family

ID=39442298

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006288872A Expired - Fee Related JP4971746B2 (en) 2006-10-24 2006-10-24 IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND COMPUTER PROGRAM

Country Status (1)

Country Link
JP (1) JP4971746B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013088135A (en) * 2011-10-13 2013-05-13 Yokogawa Electric Corp Laser gas analyzer
JP2013104961A (en) * 2011-11-11 2013-05-30 Canon Inc Imaging apparatus and method for controlling diaphragm
JP2013224996A (en) * 2012-04-20 2013-10-31 Seiko Epson Corp Imaging device and method for adjusting image quality

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11183778A (en) * 1997-12-22 1999-07-09 Canon Inc Imaging device and zoom control method
JP2003167283A (en) * 2001-09-21 2003-06-13 Fuji Photo Film Co Ltd Camera
JP2004205625A (en) * 2002-12-24 2004-07-22 Fuji Photo Optical Co Ltd Lens system

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11183778A (en) * 1997-12-22 1999-07-09 Canon Inc Imaging device and zoom control method
JP2003167283A (en) * 2001-09-21 2003-06-13 Fuji Photo Film Co Ltd Camera
JP2004205625A (en) * 2002-12-24 2004-07-22 Fuji Photo Optical Co Ltd Lens system

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013088135A (en) * 2011-10-13 2013-05-13 Yokogawa Electric Corp Laser gas analyzer
JP2013104961A (en) * 2011-11-11 2013-05-30 Canon Inc Imaging apparatus and method for controlling diaphragm
JP2013224996A (en) * 2012-04-20 2013-10-31 Seiko Epson Corp Imaging device and method for adjusting image quality

Also Published As

Publication number Publication date
JP4971746B2 (en) 2012-07-11

Similar Documents

Publication Publication Date Title
JP4958756B2 (en) Imaging apparatus, control method thereof, and program
US20070115364A1 (en) Image processing apparatus and method, and program used therewith
JP4404823B2 (en) Imaging device
JP5967902B2 (en) Imaging apparatus and aperture control method
JP2008289032A (en) Imaging device
US20180227515A1 (en) Image pickup apparatus with flash band compensation technique, control method therefor, and storage medium
JP5089372B2 (en) Imaging apparatus and control method thereof
US6982755B1 (en) Image sensing apparatus having variable noise reduction control based on zoom operation mode
JP5731772B2 (en) Imaging apparatus and control method thereof
JP5014253B2 (en) Imaging apparatus and control method thereof
JP4840731B2 (en) Imaging apparatus, imaging method, and program
JP4971746B2 (en) IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND COMPUTER PROGRAM
JP2018072540A (en) Image processing apparatus, image processing method therefor, and optical instrument
JP5179859B2 (en) Imaging apparatus and imaging method
JP2000278592A (en) Imaging device, control method thereof, and storage medium
CN101646015A (en) Video signal processing apparatus, video signal processing method, and program
JP4301012B2 (en) Imaging apparatus and method, recording medium, and program
JP2020123863A (en) Imaging device
JP5219474B2 (en) Imaging apparatus and control method thereof
JP4418344B2 (en) camera
JP2009201062A (en) Imaging device and imaging method
JP4956094B2 (en) Imaging apparatus and imaging method
JP5228663B2 (en) camera
JP2006345458A (en) Imaging device
JP6320037B2 (en) Imaging device, control method thereof, and control program

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091023

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091023

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110222

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110419

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120403

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120406

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150413

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4971746

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150413

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees