[go: up one dir, main page]

JP2015192179A - White balance adjusting device, photographing device, and white balance adjusting method - Google Patents

White balance adjusting device, photographing device, and white balance adjusting method Download PDF

Info

Publication number
JP2015192179A
JP2015192179A JP2014065975A JP2014065975A JP2015192179A JP 2015192179 A JP2015192179 A JP 2015192179A JP 2014065975 A JP2014065975 A JP 2014065975A JP 2014065975 A JP2014065975 A JP 2014065975A JP 2015192179 A JP2015192179 A JP 2015192179A
Authority
JP
Japan
Prior art keywords
white balance
subject
light source
white
detection frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014065975A
Other languages
Japanese (ja)
Inventor
大輔 北條
Daisuke Hojo
大輔 北條
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Imaging Co Ltd
Original Assignee
Ricoh Imaging Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Imaging Co Ltd filed Critical Ricoh Imaging Co Ltd
Priority to JP2014065975A priority Critical patent/JP2015192179A/en
Publication of JP2015192179A publication Critical patent/JP2015192179A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a white balance control device capable of stably reducing a color failure in white balance control.SOLUTION: A white balance control device includes: a dividing section for dividing an image which is obtained by imaging a subject, into a plurality of divided regions; a color information generating section for generating color information of the subject for each divided region; a subject luminance calculation section for calculating a subject luminance of the subject for each divided region; a light source estimation section for acquiring light source estimation information including at least one of an estimated light source, reliability and a correction amount for each divided region on the basis of the color information and the subject luminance for each divided region; a white balance coefficient calculation section for calculating a white balance coefficient on the basis of the light source estimation information for each divided region; and a white balance control section which performs white balance control on the image that is obtained by imaging the subject, while using the white balance coefficient.

Description

本発明は、ホワイトバランス調整装置、該ホワイトバランス調整装置を備える撮影装置、およびこれらの装置におけるホワイトバランス調整方法に関する。   The present invention relates to a white balance adjusting device, a photographing device including the white balance adjusting device, and a white balance adjusting method in these devices.

一般的な電子カメラには、無彩色の被写体を光源色に依らず無彩色に表現する為のホワイトバランス調整機能(オートホワイトバランス)が搭載されている。ホワイトバランス調整機能としては、カメラから得られた画像の色情報から無彩色に該当すると推測される情報を抽出し、積算あるいは加重平均した結果を基にして光源の推定を行う手法がよく知られている。この手法の場合、各光源下において無彩色の被写体がどのような範囲の出力信号として得られるのかという情報(以下、「白検出枠」と称する)を保持しておき、画像の色情報が白検出枠に一致するか否かに基づいて、無彩色に該当するか否かを判別する。   A general electronic camera is equipped with a white balance adjustment function (auto white balance) for expressing an achromatic object in an achromatic color regardless of the light source color. A well-known white balance adjustment method is to extract information that is assumed to correspond to an achromatic color from the color information of the image obtained from the camera and estimate the light source based on the result of integration or weighted averaging. ing. In this method, information (hereinafter referred to as “white detection frame”) indicating what range of output signals an achromatic object is obtained under each light source is stored, and the color information of the image is white. Based on whether or not it matches the detection frame, it is determined whether or not it corresponds to an achromatic color.

しかしながら、上記手法においては、物体色と無彩色とを正確に判別できない場合がある。具体的な例を示す。蛍光灯は黒体放射軌跡から外れた緑色に寄った光源であることが多い。したがって、蛍光灯の光源色に対してホワイトバランス調整を行う為には、その光源に該当するように緑色領域に白検出枠を設定して、その白検出枠に一致する色情報を無彩色の被写体として抽出する必要がある。しかしながら、太陽光源下における薄緑色や日陰における緑色なども蛍光灯と同じ色情報を持っているため、蛍光灯の白検出枠に一致する。このような場合、蛍光灯光源下における無彩色以外の物体色についても、無彩色として扱ってホワイトバランス調整が行われてしまう。その結果、全体として青色や紫色がかった調子となり色再現として好ましくない結果(いわゆるカラーフェリア)になるといった問題があった。   However, in the above method, there are cases where the object color and the achromatic color cannot be accurately distinguished. A specific example is shown. In many cases, the fluorescent lamp is a green light source that is off the locus of black body radiation. Therefore, in order to adjust the white balance for the light source color of the fluorescent lamp, a white detection frame is set in the green region so as to correspond to the light source, and the color information matching the white detection frame is set to an achromatic color. It is necessary to extract as a subject. However, the light green under the solar light source and the green in the shade have the same color information as the fluorescent lamp, and therefore match the white detection frame of the fluorescent lamp. In such a case, an object color other than an achromatic color under a fluorescent light source is also treated as an achromatic color and white balance adjustment is performed. As a result, there is a problem that the overall tone becomes blue or purple, resulting in undesirable color reproduction (so-called color feria).

このような問題を解決するため、特許文献1および特許文献2では、緑領域の色情報が無彩色なのか物体色なのかを判定した上で、ホワイトバランス調整を行う手法が提案されている。特許文献1に記載されるホワイトバランス調整装置では、評価の対象である画素が緑色の色情報を有する場合、平均輝度信号Yを所定の閾値と比較する。そして、平均輝度信号Yが所定の閾値を下回る場合は無彩色であると判定し、そうでない場合は物体色であると判定してホワイトバランス調整への影響を除く構成となっている。また、特許文献2に記載される画像処理装置では、露出に関する情報から求められる被写体照度Bvと緑信号の彩度に基づいて光源を推定し、太陽光源下の物体色なのか、蛍光灯光源下の無彩色なのかを判定する構成となっている。   In order to solve such a problem, Patent Documents 1 and 2 propose a method of performing white balance adjustment after determining whether the color information of the green region is an achromatic color or an object color. In the white balance adjustment device described in Patent Document 1, when the pixel to be evaluated has green color information, the average luminance signal Y is compared with a predetermined threshold value. If the average luminance signal Y falls below a predetermined threshold, it is determined that the color is achromatic, and if not, it is determined that the color is an object color and the influence on the white balance adjustment is removed. Moreover, in the image processing apparatus described in Patent Document 2, a light source is estimated based on subject illuminance Bv obtained from information related to exposure and the saturation of a green signal, and whether the object color is under a solar light source or under a fluorescent light source. It is the structure which determines whether it is an achromatic color.

特開平08−079786号公報Japanese Patent Application Laid-Open No. 08-077986 特開2008−072575号公報JP 2008-072575 A

しかしながら、特許文献1に記載される構成では、無彩色か物体色かの判定に、撮像信号から得られる平均輝度信号Y(すなわち相対的な輝度)を用いるため、露出条件や構図変化の影響を受けやすい。極端に言えば、画面全体にカラーフェリアが発生しやすい被写体を入れて撮影した場合において物体色を光源色と判定しまうこともあれば、同じ構図であっても露出をオーバーあるいはアンダーに撮影すると輝度判定の閾値が変化することで物体色と無彩色の判定が反転する可能性がある。また、特許文献2に記載される構成では、露出に関する情報から求められる被写体輝度Bvを用いているものの、この場合の被写体輝度Bvは、画面全体の評価値であるため、構図や周囲の被写体に対する依存性が強く、判定の安定性が低いと考えられる。また、色情報として彩度のみを使用しているため、光源を推定する際の精度が低くなる可能性もある。そのため、特許文献1および特許文献2に記載される構成を用いた場合にも、依然としてカラーフェリアが発生する恐れがある。   However, in the configuration described in Patent Document 1, the average luminance signal Y (that is, relative luminance) obtained from the imaging signal is used for the determination of the achromatic color or the object color. Easy to receive. Extremely speaking, when shooting with a subject that is prone to color failure on the entire screen, the object color may be determined as the light source color, or even if the exposure is overexposed or underexposed even with the same composition The determination of the object color and the achromatic color may be reversed by changing the determination threshold. Further, in the configuration described in Patent Document 2, the subject brightness Bv obtained from the information related to exposure is used. However, the subject brightness Bv in this case is an evaluation value of the entire screen, and therefore the composition and the surrounding subjects are evaluated. It is considered that the dependence is strong and the stability of the judgment is low. In addition, since only the saturation is used as the color information, there is a possibility that the accuracy when estimating the light source is lowered. Therefore, even when the configurations described in Patent Document 1 and Patent Document 2 are used, there is still a possibility that a color feria may occur.

さらに、カラーフェリアの問題は、蛍光灯以外の他光源の白検出枠に対しても発生する。例えば、白熱灯光源下における無彩色と太陽光源下における人肌(物体色)、日陰における無彩色と青空(物体色)などである。これらに対しても、無彩色なのか物体色なのかを適切に判定した上で、ホワイトバランスの調整を行うことが望まれる。   Furthermore, the problem of color failure also occurs for the white detection frame of a light source other than a fluorescent lamp. For example, an achromatic color under an incandescent light source and a human skin (object color) under a solar light source, an achromatic color and a blue sky (object color) in the shade, and the like. Also for these, it is desired to adjust the white balance after appropriately determining whether the color is an achromatic color or an object color.

本発明は上記の事情に鑑みてなされたものであり、ホワイトバランス調整におけるカラーフェリアを安定して低減することを目的とする。   The present invention has been made in view of the above circumstances, and an object thereof is to stably reduce color feria in white balance adjustment.

本発明の実施形態に係るホワイトバランス調整装置は、被写体を撮影して得られる画像を複数の分割領域に分割する分割部と、分割領域ごとに被写体の色情報を生成する色情報生成部と、分割領域ごとに被写体の被写体輝度を算出する被写体輝度算出部と、分割領域ごとの色情報および被写体輝度に基づいて、分割領域ごとに、推定される光源、信頼度および補正量の少なくとも一つを含む光源推定情報を取得する光源推定部と、分割領域ごとの光源推定情報に基づいて、ホワイトバランス係数を算出するホワイトバランス係数算出部と、ホワイトバランス係数を用いて、被写体を撮影して得られる画像のホワイトバランス調整を行うホワイトバランス調整部と、を備えることを特徴とする。   A white balance adjustment device according to an embodiment of the present invention includes a dividing unit that divides an image obtained by photographing a subject into a plurality of divided regions, a color information generating unit that generates color information of the subject for each divided region, Based on the subject luminance calculation unit for calculating the subject luminance of the subject for each divided region and the color information and the subject luminance for each divided region, at least one of the estimated light source, reliability, and correction amount is calculated for each divided region. Obtained by photographing a subject using a light source estimation unit that acquires light source estimation information, a white balance coefficient calculation unit that calculates a white balance coefficient based on the light source estimation information for each divided region, and the white balance coefficient And a white balance adjustment unit that adjusts the white balance of the image.

このように構成することにより、構図や周囲の被写体に影響を受けることなく、適切なホワイトバランス係数を算出することが可能となる。これにより、カラーフェリアの少ないホワイトバランス調整処理を行うことができる。   With this configuration, it is possible to calculate an appropriate white balance coefficient without being affected by the composition and surrounding subjects. As a result, it is possible to perform white balance adjustment processing with less color failure.

また、上記被写体輝度算出部は、分割領域ごとの画像の輝度信号および被写体撮影時の露出情報を用いて、被写体輝度を算出しても良い。また、上記分割領域ごとの色情報および画像の輝度信号は、所定のホワイトバランス係数の乗算および所定の線形マトリクス演算を行って生成されても良い。これにより、正確な色情報および輝度値を求めることが可能となる。   In addition, the subject brightness calculation unit may calculate the subject brightness using the brightness signal of the image for each divided region and the exposure information at the time of subject shooting. Further, the color information and the image luminance signal for each of the divided regions may be generated by performing multiplication of a predetermined white balance coefficient and predetermined linear matrix calculation. This makes it possible to obtain accurate color information and luminance values.

また、上記光源推定部は、複数の光源にそれぞれ対応する複数の白検出枠を含む白検出枠群を用いて光源推定情報を取得しても良い。さらに、複数の光源にそれぞれ対応する複数の白検出枠には、信頼度および補正量の少なくともいずれか一つが設定されても良い。   The light source estimation unit may acquire the light source estimation information using a white detection frame group including a plurality of white detection frames respectively corresponding to a plurality of light sources. Furthermore, at least one of reliability and correction amount may be set in the plurality of white detection frames respectively corresponding to the plurality of light sources.

また、上記光源推定部は、白検出枠群を複数備え、分割領域ごとの被写体輝度に応じて、複数の白検出枠群のいずれかを選択し、選択した白検出枠群を用いて、光源推定情報を取得しても良い。さらに、複数の白検出枠群は、複数の白検出枠の配置、該白検出枠に設定される信頼度および補正量の少なくとも一つが異なっても良い。これにより、実際の被写体の状況に近い光源の推定を行うことが可能となるとともに、光源推定が難しい場合の影響を低減することもできる。   The light source estimation unit includes a plurality of white detection frame groups, selects one of the plurality of white detection frame groups according to the subject luminance for each divided region, and uses the selected white detection frame group to generate a light source. The estimation information may be acquired. Further, the plurality of white detection frame groups may be different in at least one of the arrangement of the plurality of white detection frames, the reliability set in the white detection frame, and the correction amount. As a result, it is possible to estimate a light source that is close to the actual subject situation, and it is possible to reduce the influence when it is difficult to estimate the light source.

また、上記白検出枠群は、さらに、所定の光源下における物体色の検出枠を含んでも良い。   The white detection frame group may further include an object color detection frame under a predetermined light source.

また、本発明の実施形態に係る撮影装置は、撮影光学系を通過した光束に基づいて被写体を撮影する撮影部と、上記いずれかのホワイトバランス調整装置と、を備えることを特徴とする。   An imaging apparatus according to an embodiment of the present invention includes an imaging unit that captures an image of a subject based on a light beam that has passed through an imaging optical system, and any one of the white balance adjustment devices described above.

さらに、本発明の実施形態に係るホワイトバランス調整方法は、被写体を撮影して得られる画像のホワイトバランスを調整するため方法であって、被写体を撮影して得られる画像を複数の分割領域に分割するステップと、分割領域ごとに被写体の色情報を生成するステップと、分割領域ごとに被写体の被写体輝度を算出するステップと、分割領域ごとの色情報および被写体輝度に基づいて、分割領域ごとに、推定される光源、信頼度、または補正量の少なくとも一つを含む光源推定情報を取得するステップと、取得された光源推定情報に基づいて、ホワイトバランス係数を算出するステップと、ホワイトバランス係数を用いて、被写体を撮影して得られる画像のホワイトバランス調整を行うステップと、を含むことを特徴とする。   Further, the white balance adjustment method according to the embodiment of the present invention is a method for adjusting the white balance of an image obtained by photographing a subject, and the image obtained by photographing the subject is divided into a plurality of divided regions. A step of generating subject color information for each divided region, a step of calculating subject luminance of the subject for each divided region, and for each divided region based on the color information and subject luminance for each divided region, Using light source estimation information including at least one of estimated light source, reliability, or correction amount, calculating a white balance coefficient based on the acquired light source estimation information, and using the white balance coefficient And adjusting the white balance of the image obtained by photographing the subject.

本実施形態のホワイトバランス調整装置、撮影装置およびホワイトバランス調整方法によれば、より正確に被写体の状況を判別して適切なホワイトバランス係数を算出することで、ホワイトバランス調整におけるカラーフェリアを低減することが可能となる。   According to the white balance adjustment device, the photographing device, and the white balance adjustment method of the present embodiment, the color feria in the white balance adjustment is reduced by more accurately determining the state of the subject and calculating an appropriate white balance coefficient. It becomes possible.

図1は、本発明の実施形態に係る撮影装置の概略構成を示すブロック図である。FIG. 1 is a block diagram showing a schematic configuration of a photographing apparatus according to an embodiment of the present invention. 図2は、本発明の実施形態に係る撮影装置の画像処理部における機能ブロック図である。FIG. 2 is a functional block diagram of the image processing unit of the photographing apparatus according to the embodiment of the present invention. 図3は、本発明の実施形態に係るホワイトバランス調整処理を示すフローチャートである。FIG. 3 is a flowchart showing white balance adjustment processing according to the embodiment of the present invention. 図4は、本発明の実施形態に係るホワイトバランス調整処理で用いられる中輝度用の白検出枠群の例を示す図である。FIG. 4 is a diagram showing an example of a white detection frame group for medium luminance used in the white balance adjustment processing according to the embodiment of the present invention. 図5は、本発明の実施形態に係るホワイトバランス調整処理で用いられる高輝度用の白検出枠群の例を示す図である。FIG. 5 is a diagram illustrating an example of a high-intensity white detection frame group used in the white balance adjustment processing according to the embodiment of the present invention. 図6は、本発明の実施形態に係るホワイトバランス調整処理で用いられる低輝度用の白検出枠群の例を示す図である。FIG. 6 is a diagram showing an example of a white detection frame group for low luminance used in the white balance adjustment processing according to the embodiment of the present invention. 図7は、本発明の実施形態に係るホワイトバランス調整処理で求められる光源推定情報の例を示す表である。FIG. 7 is a table showing an example of light source estimation information obtained in the white balance adjustment process according to the embodiment of the present invention.

以下、本発明の実施形態の撮影装置について図面を参照しながら説明する。以下においては、本発明の一実施形態として、デジタル一眼レフカメラについて説明する。尚、撮影装置は、デジタル一眼レフカメラに限らず、例えば、ミラーレス一眼カメラ、コンパクトデジタルカメラ、カムコーダ、タブレット端末、PHS(Personal Handy phone System)、スマートフォン、フィーチャフォン、携帯ゲーム機など、撮影機能を有する別の形態の装置に置き換えてもよい。   Hereinafter, a photographing apparatus according to an embodiment of the present invention will be described with reference to the drawings. In the following, a digital single lens reflex camera will be described as an embodiment of the present invention. Note that the photographing device is not limited to a digital single lens reflex camera, but includes, for example, a mirrorless single lens camera, a compact digital camera, a camcorder, a tablet terminal, a PHS (Personal Handy phone System), a smartphone, a feature phone, a portable game machine, etc. It may be replaced with another form of device having

[撮影装置1の構成]
図1は、本実施形態の撮影装置1の概略構成を示すブロック図である。図1に示されるように、撮影装置1は、撮影レンズ11、絞り12、シャッタ13、撮像素子14、AGC(Automatic Gain Controller)15、信号処理部20、操作部30、LCD(Liquid Crystal Display)40、ROM(Read Only Memory)50およびメモリカード60を備えている。また、信号処理部20は、CPU21、画像処理部22、撮像素子駆動部23、絞り・シャッタ駆動部24、LCD制御部25、メディアインターフェース(以下、「メディアI/F」という)26を備えている。
[Configuration of the photographing apparatus 1]
FIG. 1 is a block diagram illustrating a schematic configuration of a photographing apparatus 1 according to the present embodiment. As shown in FIG. 1, the photographing apparatus 1 includes a photographing lens 11, an aperture 12, a shutter 13, an image sensor 14, an AGC (Automatic Gain Controller) 15, a signal processing unit 20, an operation unit 30, and an LCD (Liquid Crystal Display). 40, a ROM (Read Only Memory) 50, and a memory card 60. The signal processing unit 20 includes a CPU 21, an image processing unit 22, an image sensor driving unit 23, an aperture / shutter driving unit 24, an LCD control unit 25, and a media interface (hereinafter referred to as “media I / F”) 26. Yes.

操作部30には、電源スイッチやレリーズスイッチ、撮影モードスイッチなど、ユーザが撮影装置1を操作するために必要な各種スイッチが含まれる。ユーザにより電源スイッチが押されると、図示省略されたバッテリから撮影装置1の各部に電源ラインを通じて電源供給が行われる。CPU21は、電源供給後、ROM50にアクセスして制御プログラムを読み出してワークエリア(不図示)にロードし、ロードされた制御プログラムを実行することにより、撮影装置1全体の制御を行う。   The operation unit 30 includes various switches necessary for the user to operate the photographing apparatus 1, such as a power switch, a release switch, and a photographing mode switch. When the user presses the power switch, power is supplied from the battery (not shown) to each part of the photographing apparatus 1 through the power line. After power is supplied, the CPU 21 accesses the ROM 50, reads out a control program, loads it into a work area (not shown), and executes the loaded control program to control the entire photographing apparatus 1.

レリーズスイッチが操作されると、CPU21は、撮影装置1に内蔵されたTTL(Through The Lens)露出計(不図示)で測定された測光値に基づき適正露出が得られるように、絞り・シャッタ駆動部24を介して絞り12及びシャッタ13を駆動制御する。より詳細には、絞り12およびシャッタ13の駆動制御は、プログラムAE(Automatic Exposure)、シャッタ速度優先AE、絞り優先AEなど、撮影モードスイッチにより指定されるAE機能に基づいて行われる。また、CPU21はAE制御と併せてAF(Autofocus)制御を行う。AF制御には、アクティブ方式、位相差検出方式、コントラスト検出方式等が適用される。尚、この種のAE及びAFの構成及び制御については周知であるため、ここでの詳細な説明は省略する。   When the release switch is operated, the CPU 21 drives the aperture / shutter so that an appropriate exposure can be obtained based on a photometric value measured by a TTL (Through The Lens) exposure meter (not shown) built in the photographing apparatus 1. The diaphragm 12 and the shutter 13 are driven and controlled via the unit 24. More specifically, drive control of the aperture 12 and the shutter 13 is performed based on an AE function designated by a shooting mode switch, such as a program AE (Automatic Exposure), shutter speed priority AE, aperture priority AE, and the like. The CPU 21 performs AF (Autofocus) control together with AE control. An active method, a phase difference detection method, a contrast detection method, or the like is applied to the AF control. Since the configuration and control of this type of AE and AF are well known, detailed description thereof is omitted here.

被写体からの光束は、撮影レンズ11、絞り12、シャッタ13を通過して撮像素子14により受光される。撮像素子14は、例えばベイヤ型画素配置を有する単板式カラーCCD(Charge Coupled Device)イメージセンサであり、撮像素子駆動部23から供給される垂直同期信号および水平同期信号に基づいて駆動する。撮像素子14は、受光面上の各画素で結像した光学像を光量に応じた電荷として蓄積して、R(Red)、G(Green)、B(Blue)の各色に応じた撮像信号に変換し、AGC15に出力する。尚、撮像素子14は、例えばCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の他のイメージャであってもよい。AGC15は、撮像素子14から得られた撮像信号を所定レベルに増幅(または減衰)し、画像処理部22に出力する。尚、別の実施例においては、絞り12または撮像素子14が、シャッタ13またはAGC15の機能を内蔵しても良い。   The light flux from the subject passes through the photographing lens 11, the diaphragm 12, and the shutter 13 and is received by the image sensor 14. The image sensor 14 is, for example, a single-plate color CCD (Charge Coupled Device) image sensor having a Bayer pixel arrangement, and is driven based on a vertical synchronization signal and a horizontal synchronization signal supplied from the image sensor driving unit 23. The image sensor 14 accumulates an optical image formed by each pixel on the light receiving surface as a charge corresponding to the amount of light, and generates an image signal corresponding to each color of R (Red), G (Green), and B (Blue). Convert and output to AGC15. Note that the image sensor 14 may be another imager such as a CMOS (Complementary Metal Oxide Semiconductor) image sensor. The AGC 15 amplifies (or attenuates) the imaging signal obtained from the imaging element 14 to a predetermined level and outputs the amplified signal to the image processing unit 22. In another embodiment, the diaphragm 12 or the image sensor 14 may incorporate the function of the shutter 13 or the AGC 15.

画像処理部22は、撮像素子14より入力される電気信号(撮影データ)に対して、マトリクス演算、Y/C分離、ホワイトバランス調整等の所定の信号処理を施して画像信号(輝度信号Y、色差信号Cb、Cr)を生成し、JPEG(Joint Photographic Experts Group)等の所定のフォーマットで圧縮する。また、画像処理部22は、メディアI/F26を介して、カードスロットに着脱可能に差し込まれるメモリカード60と通信可能である。画像処理部22は、生成された圧縮画像信号(撮影画像データ)をメモリカード60(又は撮影装置1に備えられる不図示の内蔵メモリ)に保存する。   The image processing unit 22 performs predetermined signal processing such as matrix calculation, Y / C separation, white balance adjustment, and the like on the electrical signal (shooting data) input from the image sensor 14 to generate an image signal (luminance signal Y, Color difference signals Cb, Cr) are generated and compressed in a predetermined format such as JPEG (Joint Photographic Experts Group). The image processing unit 22 can communicate with a memory card 60 that is detachably inserted into the card slot via the media I / F 26. The image processing unit 22 stores the generated compressed image signal (photographed image data) in the memory card 60 (or a built-in memory (not shown) provided in the photographing apparatus 1).

さらに、画像処理部22は、生成された画像信号をフレームメモリ(不図示)にフレーム単位でバッファリングする。画像処理部22は、バッファリングされた信号を所定のタイミングで各フレームメモリから掃き出して所定のフォーマットのビデオ信号に変換し、LCD制御部25に出力する。LCD制御回路25は、画像処理部22より入力される画像信号を基に液晶を変調制御する。これにより、被写体の撮影画像がLCD40の表示画面に表示される。ユーザは、AE制御及びAF制御に基づいて適正な輝度及びピントで撮影されたリアルタイムのスルー画を、LCD40の表示画面を通じて視認することができる。   Further, the image processing unit 22 buffers the generated image signal in a frame memory (not shown) in units of frames. The image processing unit 22 sweeps the buffered signal from each frame memory at a predetermined timing, converts it to a video signal of a predetermined format, and outputs it to the LCD control unit 25. The LCD control circuit 25 modulates and controls the liquid crystal based on the image signal input from the image processing unit 22. As a result, the captured image of the subject is displayed on the display screen of the LCD 40. The user can view through the display screen of the LCD 40 a real-time through image captured with appropriate brightness and focus based on AE control and AF control.

画像処理部22は、ユーザにより撮影画像の再生操作が行われると、操作により指定された撮影画像データを、メモリカード60または内蔵メモリより読み出して所定のフォーマットの画像信号に変換し、LCD制御部25に出力する。LCD制御部25が画像処理部22より入力される画像信号を基に液晶を変調制御することで、被写体の撮影画像がLCD40の表示画面に表示される。   When the user performs a reproduction operation of the captured image, the image processing unit 22 reads the captured image data designated by the operation from the memory card 60 or the built-in memory, converts the image data into an image signal of a predetermined format, and the LCD control unit To 25. The LCD control unit 25 performs modulation control on the liquid crystal based on the image signal input from the image processing unit 22, so that a captured image of the subject is displayed on the display screen of the LCD 40.

[ホワイトバランス調整処理]
続いて、本実施形態の画像処理部22におけるホワイトバランス調整処理について図2から図7を参照して説明する。図2は、画像処理部22のホワイトバランス調整処理に関する機能ブロックを示す図であり、図3は、ホワイトバランス調整処理の流れを示すフローチャートである。尚、以下の説明では「ホワイトバランス」を「WB」と表記する。
[White balance adjustment processing]
Next, white balance adjustment processing in the image processing unit 22 of the present embodiment will be described with reference to FIGS. FIG. 2 is a diagram showing functional blocks related to the white balance adjustment processing of the image processing unit 22, and FIG. 3 is a flowchart showing the flow of white balance adjustment processing. In the following description, “white balance” is expressed as “WB”.

図2に示されるように、画像処理部22は、画像分割部201、信号検波部202、輝度信号生成部203、被写体輝度算出部204、色信号生成部205、光源推定部206、WB係数算出部207およびWB調整部208を備える。これらの機能部は、CPU21で実行されるソフトウェアとして構成され、各機能部によってWB調整処理が実行される。尚、これらの機能部の少なくとも一部をハードウェアで構成しても良い。   As shown in FIG. 2, the image processing unit 22 includes an image dividing unit 201, a signal detection unit 202, a luminance signal generation unit 203, a subject luminance calculation unit 204, a color signal generation unit 205, a light source estimation unit 206, and a WB coefficient calculation. Unit 207 and WB adjustment unit 208. These functional units are configured as software executed by the CPU 21, and WB adjustment processing is executed by each functional unit. Note that at least a part of these functional units may be configured by hardware.

図3に示されるように、本実施形態のWB調整処理では、まず、露出情報として、Av(Aperture Value)、Tv(Time Value)およびSv(Sensitivity Value)を取得する(S1)。取得した情報は、被写体輝度算出部204に入力される。続いて、画像分割部201にて、撮像素子14の全有効画素に対応する画像をN個の分割領域に等分割する(S2)。一例として、N=256とし、画面を水平16分割×垂直16分割する。   As shown in FIG. 3, in the WB adjustment process of the present embodiment, first, Av (Aperture Value), Tv (Time Value), and Sv (Sensitivity Value) are acquired as exposure information (S1). The acquired information is input to the subject luminance calculation unit 204. Subsequently, the image dividing unit 201 equally divides an image corresponding to all effective pixels of the image sensor 14 into N divided regions (S2). As an example, N = 256, and the screen is divided into 16 horizontal parts × 16 vertical parts.

続いて、nに0を入力する(S3)。nは、処理対象の分割領域を表す変数である。そして、nがN(分割領域の総数)より小さいか否かを判断する(S4)。そして、nがNより小さい場合(S4:YES)、信号検波部202において、分割領域[n]における撮像信号のRGB値を積算して、R[n]、G[n]、B[n]を取得する(S5)。この場合のR[n]、G[n]、B[n]は、分割領域[n]に含まれる画素全てのR成分、G成分、B成分それぞれについて加算平均して算出する。尚、R[n]、G[n]、B[n]の算出方法は、平均値に限定されるものではなく、その他の公知の算出方法によるものであっても良い。また、画素欠陥のような画素は算出に含まなくても良い。   Subsequently, 0 is input to n (S3). n is a variable representing the divided area to be processed. Then, it is determined whether n is smaller than N (total number of divided areas) (S4). If n is smaller than N (S4: YES), the signal detection unit 202 integrates the RGB values of the imaging signals in the divided region [n], and R [n], G [n], B [n] Is acquired (S5). R [n], G [n], and B [n] in this case are calculated by averaging the R, G, and B components of all the pixels included in the divided region [n]. Note that the calculation method of R [n], G [n], and B [n] is not limited to the average value, and may be based on other known calculation methods. In addition, pixels such as pixel defects may not be included in the calculation.

続いて、輝度信号生成部203および色信号生成部205において、分割領域[n]におけるR[n]、G[n]、B[n]を、輝度信号Y[n]および色信号Cx[n]、Cy[n]にそれぞれ変換する(S6)。輝度信号Y[n]の算出方法は問わないが、単純にG [n]の評価値をそのまま代用しても良いし、下記式に従って求めても良い。
Y[n] =0.299×R[n]+0.587×G[n]+0.114×B[n]
Subsequently, in the luminance signal generation unit 203 and the color signal generation unit 205, R [n], G [n], and B [n] in the divided region [n] are converted into the luminance signal Y [n] and the color signal Cx [n. ] And Cy [n] respectively (S6). The calculation method of the luminance signal Y [n] does not matter, but the evaluation value of G [n] may be simply substituted as it is, or may be obtained according to the following equation.
Y [n] = 0.299 × R [n] + 0.587 × G [n] + 0.114 × B [n]

また、色信号Cx[n]、Cy[n]は、例えば、下記式のように単純に色信号の比率で求められる。以下の説明では、Cxは色温度方向を軸とし、Cyは色偏差方向を軸とする。
Cx[n]= R[n]/G[n], 但しG[n]≠0
Cy[n]= B[n]/G[n], 但しG[n]≠0
Further, the color signals Cx [n] and Cy [n] are obtained simply by the ratio of the color signals as in the following equation, for example. In the following description, Cx uses the color temperature direction as an axis, and Cy uses the color deviation direction as an axis.
Cx [n] = R [n] / G [n] where G [n] ≠ 0
Cy [n] = B [n] / G [n], where G [n] ≠ 0

続いて、被写体輝度算出部204において、分割領域[n]における被写体輝度Bv[n]を算出する(S7)。本実施形態では、S1にて取得したAv、TvおよびSv、ならびにS6で取得した輝度信号Y[n]を用いて、被写体輝度Bv[n]を算出する。まず、適正露出の条件で撮影された被写体輝度Bv’は、下記式から求めることができる。
Ev=Av+Tv
Lv=Bv+Sv
Bv’=Lv―Sv=(Av+Tv)−Sv
Subsequently, the subject brightness calculation unit 204 calculates the subject brightness Bv [n] in the divided area [n] (S7). In the present embodiment, the subject luminance Bv [n] is calculated using Av, Tv, and Sv acquired in S1 and the luminance signal Y [n] acquired in S6. First, the subject brightness Bv ′ photographed under appropriate exposure conditions can be obtained from the following equation.
Ev = Av + Tv
Lv = Bv + Sv
Bv ′ = Lv−Sv = (Av + Tv) −Sv

Av、TvおよびSvは既知の値であるので、Bv’も既知の値である。また、適正露出の定義として、一般的に8ビット系でY=118を適正露出(標準出力感度)として定めている。これに従い、8ビット系でY=118となるときの輝度値YをYbとすると、適正露出からの差分Xvは下記の式のように求めることができる。
Xv=log(Y/Yb)=log(Y)−log(Yb), 但しY≠0
すなわち、分割領域[n]における差分Xv[n]は下記の式で求めることができる。
Xv[n]=log(Y[n])−log(Yb[n]), 但しY[n]≠0
Since Av, Tv and Sv are known values, Bv ′ is also a known value. Further, as the definition of proper exposure, generally Y = 118 is determined as proper exposure (standard output sensitivity) in an 8-bit system. Accordingly, if the luminance value Y when Y = 118 in the 8-bit system is Yb, the difference Xv from the appropriate exposure can be obtained by the following equation.
Xv = log 2 (Y / Yb) = log 2 (Y) −log 2 (Yb), where Y ≠ 0
That is, the difference Xv [n] in the divided area [n] can be obtained by the following equation.
Xv [n] = log 2 (Y [n]) − log 2 (Yb [n]), where Y [n] ≠ 0

そのため、任意の輝度信号Y[n]をもつ分割領域[n]における被写体輝度Bv[n]は、下記の式のように求めることができる。
Bv[n]=Bv’+Xv[n]
Therefore, the subject luminance Bv [n] in the divided region [n] having an arbitrary luminance signal Y [n] can be obtained as in the following equation.
Bv [n] = Bv ′ + Xv [n]

続いて、光源推定部206において、被写体輝度Bv[n]および色信号Cx[n]、Cy[n]に基づいて、分割領域[n]における光源推定情報L[n]を取得する。光源推定情報L[n]は、後述するWB係数の算出の際に用いられる情報であり、推定される光源の種類およびその信頼度を含む。   Subsequently, the light source estimation unit 206 acquires the light source estimation information L [n] in the divided region [n] based on the subject luminance Bv [n] and the color signals Cx [n] and Cy [n]. The light source estimation information L [n] is information used when calculating a WB coefficient, which will be described later, and includes the type of light source to be estimated and its reliability.

光源推定情報L[n]の取得は、複数の光源にそれぞれ対応する複数の白検出枠を含む白検出枠群を用いて行われる。本実施形態では、複数種類の白検出枠群を有し、被写体輝度Bv[n]に応じて、その中のいずれかが選択される。具体的には、本実施形態では、図4に示す中輝度用白検出枠の配置を表す白検出枠群G1、図5に示す高輝度用白検出枠の配置を表す白検出枠群G2、および図6に示す低輝度用白検出枠の配置を表す白検出枠群G3を有する。そして、被写体輝度Bv[n]が所定の低閾値より小さい場合は(S8:YES)、低輝度用の白検出枠群G3を選択する(S9)。一方、被写体輝度Bv[n]が所定の低閾値以上で(S8:NO)、かつ所定の高閾値よりも大きい場合は(S10:YES)、高輝度用の白検出枠群G2を選択する(S11)。また、被写体輝度Bv[n]が所定の低閾値以上で(S8:NO)、かつ所定の高閾値以下の場合は(S10:NO)、中輝度用の白検出枠群G1を選択する(S12)。この場合の所定の低閾値および高閾値は、統計的に求められた値を参考に設定される。   The light source estimation information L [n] is acquired using a white detection frame group including a plurality of white detection frames respectively corresponding to a plurality of light sources. In the present embodiment, there are a plurality of types of white detection frame groups, and one of them is selected according to the subject brightness Bv [n]. Specifically, in the present embodiment, a white detection frame group G1 representing the arrangement of the medium luminance white detection frames shown in FIG. 4, a white detection frame group G2 representing the arrangement of the high luminance white detection frames shown in FIG. And a white detection frame group G3 representing the arrangement of the low-luminance white detection frames shown in FIG. If the subject brightness Bv [n] is smaller than the predetermined low threshold (S8: YES), the white detection frame group G3 for low brightness is selected (S9). On the other hand, when the subject luminance Bv [n] is equal to or higher than a predetermined low threshold (S8: NO) and larger than the predetermined high threshold (S10: YES), the white detection frame group G2 for high luminance is selected ( S11). If the subject brightness Bv [n] is equal to or higher than a predetermined low threshold value (S8: NO) and equal to or lower than a predetermined high threshold value (S10: NO), the medium detection white detection frame group G1 is selected (S12). ). The predetermined low threshold value and high threshold value in this case are set with reference to statistically obtained values.

続いて、選択された白検出枠群を用いて、分割領域[n]における光源推定情報L[n]を取得する(S13)。光源推定情報L[n]の取得について、図4から図6を参照して説明する。尚、以下の説明において、「色信号Cx[n]、Cy[n]」を「評価値」という。   Subsequently, the light source estimation information L [n] in the divided region [n] is acquired using the selected white detection frame group (S13). Acquisition of the light source estimation information L [n] will be described with reference to FIGS. In the following description, “color signals Cx [n], Cy [n]” are referred to as “evaluation values”.

図4から図6において、図中の実線の矩形は、白検出枠を示しており、該当する光源下での無彩色が分布する領域である。破線の矩形は、無彩色ではないが、光源推定に有用で特徴のある物体色が分布する領域を示す検出枠である。尚、物体色の検出枠は、それぞれ所定の光源と紐付けられている。また、矩形の濃度は、該当する光源の信頼度を視覚的に分かりやすいように定めたものである。本実施形態の例では、矩形の濃度が薄い順から、信頼度を低、中、高と定めている。さらに、図中の曲線BRは、黒体放射軌跡である。図4から図6に示すように、本実施形態では、白検出枠群によって、設定される検出枠およびそれらに設定される信頼度が異なる。   4 to 6, a solid rectangle in the figure represents a white detection frame, and is an area where achromatic colors are distributed under the corresponding light source. A broken-line rectangle is a detection frame that indicates a region in which object colors that are not achromatic colors but are useful for light source estimation and are characteristic are distributed. Each object color detection frame is associated with a predetermined light source. Further, the density of the rectangle is determined so that the reliability of the corresponding light source can be easily understood visually. In the example of the present embodiment, the reliability is determined as low, medium, and high from the order of decreasing density of the rectangle. Further, a curve BR in the figure is a black body radiation locus. As shown in FIGS. 4 to 6, in the present embodiment, the detection frames to be set and the reliability to be set for them are different depending on the white detection frame group.

説明の便宜上、まず、図4を参照して、被写体輝度Bv[n]が中輝度の場合に選択される白検出枠群G1について説明する。図4の白検出枠群G1において、枠401は太陽光源、枠402は曇天、枠403は日陰、枠406は白熱灯、枠405は太陽光源と白熱灯の間となる温白色系の光源、枠407は主に蛍光灯の白検出枠である。また、枠404は青空、枠408は緑色の物体色(例えば植物など)が分布する検出枠である。更に、枠404および枠408は太陽光源と紐付けられている。   For convenience of explanation, first, the white detection frame group G1 selected when the subject luminance Bv [n] is medium luminance will be described with reference to FIG. In the white detection frame group G1 of FIG. 4, the frame 401 is a solar light source, the frame 402 is cloudy, the frame 403 is shaded, the frame 406 is an incandescent lamp, the frame 405 is a warm white light source between the solar light source and the incandescent lamp, A frame 407 is mainly a white detection frame of a fluorescent lamp. A frame 404 is a blue sky, and a frame 408 is a detection frame in which a green object color (such as a plant) is distributed. Further, the frame 404 and the frame 408 are associated with a solar light source.

被写体輝度Bv[n]が中輝度の場合、太陽光源や蛍光灯である確率が統計的に高いため、枠401および枠407の評価値の信頼度が高く設定される。一方で、青空であるか別の物体色であるかの判別は難しい為、青空を示す枠404の信頼度は低く設定される。   When the subject brightness Bv [n] is medium brightness, since the probability of being a solar light source or a fluorescent lamp is statistically high, the reliability of the evaluation values of the frame 401 and the frame 407 is set high. On the other hand, since it is difficult to determine whether it is a blue sky or another object color, the reliability of the frame 404 indicating the blue sky is set low.

続いて、図5を参照して、被写体輝度Bv[n]が高輝度であった場合に選択される白検出枠群G2について説明する。図5の白検出枠群G2において、枠501は太陽光源、枠502は曇天、枠503は日陰、枠506は白熱灯、枠505は太陽光源と白熱灯の間となる温白色系の光源の白検出枠である。また、枠504は青空、枠507は緑色の物体色(例えば植物など)の検出枠である。更に、枠504および枠507は太陽光源と紐付けられている。   Next, the white detection frame group G2 selected when the subject brightness Bv [n] is high brightness will be described with reference to FIG. In the white detection frame group G2 in FIG. 5, the frame 501 is a solar light source, the frame 502 is cloudy, the frame 503 is shaded, the frame 506 is an incandescent lamp, and the frame 505 is a warm white light source between the solar light source and the incandescent lamp. This is a white detection frame. A frame 504 is a detection frame for a blue sky and a frame 507 is a green object color (for example, a plant). Further, the frame 504 and the frame 507 are associated with a solar light source.

図4の白検出枠群G1と比較した場合、特徴的な点として、1点目は、白検出枠群G2には、蛍光灯の白検出枠が存在しない点である。ある程度被写体輝度Bv[n]が高い被写体となると、緑味のある評価値であっても蛍光灯に照明された無彩色である確率は統計的に低くなる。そのため、Bv[n]が高輝度の場合は、その評価値は蛍光灯ではないと判断することができる。   When compared with the white detection frame group G1 in FIG. 4, as a characteristic point, the first point is that the white detection frame group G2 does not include the white detection frame of the fluorescent lamp. If the subject brightness Bv [n] is high to some extent, the probability of an achromatic color illuminated by a fluorescent lamp is statistically low even if the evaluation value is green. Therefore, when Bv [n] has high luminance, it can be determined that the evaluation value is not a fluorescent lamp.

2点目は、緑色の物体色の枠507の信頼度が高く設定される点である。1点目で述べたように、蛍光灯の信頼度が相対的に下がることで、緑味のある評価値に対して無彩色なのか物体色なのかの判別をより容易に行うことが可能となる。すなわち、Bv[n]が高輝度の場合は、光源に照明された物体色である可能性が高いと判断される。   The second point is that the reliability of the green object color frame 507 is set high. As described in the first point, since the reliability of the fluorescent lamp is relatively lowered, it is possible to more easily determine whether the evaluation value has a green color or an object color. Become. That is, when Bv [n] has high luminance, it is determined that there is a high possibility that the object color is illuminated by the light source.

3点目は、青空の枠507の信頼度が高く設定される点である。上記2点目と同様であるが、Bv[n]が高輝度で青味がある評価値は、何かの光源色に照らされた青色の物体色や、青色の光源色である可能性は低く、青空である可能性が高いと判断できる。   The third point is that the reliability of the blue sky frame 507 is set high. The evaluation value is the same as the second point, but Bv [n] has high brightness and bluish color. The possibility that the evaluation value is blue object color illuminated by some light source color or blue light source color is It is low and it can be judged that there is a high possibility of a blue sky.

また、その他の光源についても、図4の白検出枠群G1とは異なる信頼度を統計に基づいて設定することができる。図5の例では、低色温度側の光源の信頼度を図4に比べて低く設定している。   Further, for other light sources, a reliability different from that of the white detection frame group G1 in FIG. 4 can be set based on statistics. In the example of FIG. 5, the reliability of the light source on the low color temperature side is set lower than that of FIG.

続いて図6を参照して、被写体輝度Bv[n]が低輝度であった場合に選択される白検出枠群G3について説明する。図6の白検出枠群G3において、枠601は太陽光源、枠602は曇天、枠603は日陰、枠604は青色LED照明、枠606は白熱灯、枠605は太陽光源と白熱灯の間となる温白色系の光源、枠607は蛍光灯、枠609は水銀灯の白検出枠である。また、枠608は緑色の物体色(例えば植物など)の検出枠である。更に、枠608は太陽光源と紐付けられている。   Next, the white detection frame group G3 selected when the subject brightness Bv [n] is low brightness will be described with reference to FIG. In the white detection frame group G3 in FIG. 6, the frame 601 is a solar light source, the frame 602 is cloudy, the frame 603 is shaded, the frame 604 is blue LED illumination, the frame 606 is an incandescent lamp, and the frame 605 is between the solar light source and the incandescent lamp. A warm white light source, frame 607 is a fluorescent lamp, and frame 609 is a white detection frame of a mercury lamp. A frame 608 is a detection frame for a green object color (for example, a plant). Further, the frame 608 is associated with a solar light source.

図4の白検出枠群G1と比較した場合、特徴的な点として、1点目は、白検出枠群G1には存在しなかった水銀灯の白検出枠609が存在する点である。水銀灯は主に夜間の街灯、体育館やスタジアムで使用されることが多く、統計的に水銀灯に照明された無彩色の被写体はBvが低い。そのため、被写体輝度Bv[n]が低輝度の場合は、水銀灯の白検出枠を追加している。   When compared with the white detection frame group G1 of FIG. 4, the first point is that the mercury detection white detection frame 609 that did not exist in the white detection frame group G1 exists. Mercury lamps are often used mainly in night street lamps, gymnasiums and stadiums, and achromatic objects illuminated statistically by mercury lamps have a low Bv. Therefore, when the subject brightness Bv [n] is low brightness, a white detection frame of a mercury lamp is added.

2点目は、白検出枠群G3においては、青空の検出枠604の位置に、青色LED照明を想定した白検出枠を設定している点である。水銀灯と同じく、最近は夜間の街灯などに青系のLED照明が用いられることがある。一方で、被写体輝度Bv[n]が低輝度の場合は、青空である可能性は低い。そのため、青空の検出枠604を青色LED照明の白検出枠として設定している。   The second point is that in the white detection frame group G3, a white detection frame assuming blue LED illumination is set at the position of the blue sky detection frame 604. Similar to mercury lamps, blue LED lighting is sometimes used for street lamps at night. On the other hand, when the subject brightness Bv [n] is low brightness, the possibility of a blue sky is low. Therefore, the blue sky detection frame 604 is set as a white detection frame for blue LED illumination.

3点目は、蛍光灯の白検出枠607の信頼度がそれなりに高く設定される為、相対的に緑色の物体色の枠608の信頼度が低くなる点である。そして4点目は、被写体輝度Bvが比較的低い場合は、屋内環境である確率や夜景である確率が高くなる為、室内照明として使用される白熱灯の枠606や街灯として使用される温白色系の光源(例えばナトリウムランプ)の枠605の信頼度を上げている。   The third point is that the reliability of the green object color frame 608 is relatively low because the reliability of the white detection frame 607 of the fluorescent lamp is set to be relatively high. The fourth point is that when the subject brightness Bv is relatively low, the probability of being in an indoor environment or the probability of being in a night view is high, so an incandescent lamp frame 606 used as room lighting or warm white used as a street light. The reliability of the frame 605 of the system light source (for example, sodium lamp) is increased.

続いて、図7を参照して、図4から図6に示される具体的な評価値AおよびBにおける光源推定情報Lについて説明する。まず、評価値Aについて、被写体輝度Bvが中輝度または低輝度の場合、評価値Aは、枠407または枠607に一致する。これにより、光源は蛍光灯であると推定され、信頼度は高いとの光源推定情報Lが取得される。一方、被写体輝度Bvが高輝度の場合、評価値Aは、枠507と一致する。これにより、緑色の物体色であり、光源は枠507に紐づけられる太陽光源であると推定され、信頼度は高いとの光源推定情報Lが取得される。   Subsequently, the light source estimation information L in the specific evaluation values A and B shown in FIGS. 4 to 6 will be described with reference to FIG. First, regarding the evaluation value A, when the subject luminance Bv is medium luminance or low luminance, the evaluation value A matches the frame 407 or the frame 607. Thereby, the light source is estimated to be a fluorescent lamp, and the light source estimation information L that the reliability is high is acquired. On the other hand, when the subject brightness Bv is high brightness, the evaluation value A matches the frame 507. Thereby, it is estimated that it is a green object color, a light source is a solar light source linked | related with the frame 507, and the light source estimation information L that the reliability is high is acquired.

続いて、評価値Bについて、被写体輝度Bvが中輝度の場合、評価値Bは、枠404と一致する。これにより、評価値Bは青空であり、光源は太陽光源と推定されるが、信頼度は低いとの光源推定情報Lが取得される。また、被写体輝度Bvが高輝度の場合、評価値Bは、枠504に一致する。これにより、評価値Bは青空であり、光源は太陽光源と推定されるとともに、信頼度は高いとの光源推定情報Lが取得される。さらに、被写体輝度Bvが低い場合、評価値Bは、枠604に一致する。そして、これにより、光源は青色LED照明であると推定され、信頼度は中であるとの光源推定情報Lが取得される。このように、本実施形態では、同じ評価値であっても、被写体輝度Bvによって取得される光源推定情報が異なる。   Subsequently, for the evaluation value B, when the subject luminance Bv is medium luminance, the evaluation value B matches the frame 404. Thereby, the evaluation value B is a blue sky, and the light source is estimated to be a solar light source, but the light source estimation information L that the reliability is low is acquired. When the subject brightness Bv is high brightness, the evaluation value B matches the frame 504. Thereby, the evaluation value B is a blue sky, the light source is estimated to be a solar light source, and the light source estimation information L that the reliability is high is acquired. Furthermore, when the subject brightness Bv is low, the evaluation value B matches the frame 604. Thereby, the light source is estimated to be blue LED illumination, and the light source estimation information L that the reliability is medium is acquired. Thus, in the present embodiment, the light source estimation information acquired by the subject brightness Bv is different even with the same evaluation value.

上記のように取得された光源推定情報L[n]は、WB係数算出部207に出力される。そして、nに1を加算し(S14)、S4の処理に戻る。その後、全ての分割領域に対して、S4からS14の処理を繰り返し、分割領域ごとの光源推定情報Lを取得する。   The light source estimation information L [n] acquired as described above is output to the WB coefficient calculation unit 207. Then, 1 is added to n (S14), and the process returns to S4. Thereafter, the processing from S4 to S14 is repeated for all the divided areas, and the light source estimation information L for each divided area is acquired.

そして、nがNを超えた場合(S4:YES)、WB係数算出部207において、全ての分割領域における光源推定情報L[0:N]から、WB係数を算出する(S15)。ここでは、光源推定情報Lに基づいて、光源に応じた白領域の抽出および、信頼度に基づいた評価値の重み付けを行って、画面全体に対するWB係数(すなわちR、G、Bのゲイン)を演算する。例えば、評価値Aについて、被写体輝度Bvが中輝度の場合は、蛍光灯の下の無彩色と判断し、評価値を2倍した上でWB係数の演算を行う。また、評価値Bの被写体輝度Bvが中輝度の場合は、太陽光源下の物体色と判断し、評価値を0.5倍した上でWB係数の演算を行う。このように、信頼度を設定することで、無彩色か物体色かの判別が明確でない評価値のWB演算に与える影響を小さくすることができる。尚、Bvが中輝度の評価値Bの場合など、物体色と無彩色の判別および光源の推定が難しい場合には、信頼度による重みを0として、WB演算から除く構成としても良い。   If n exceeds N (S4: YES), the WB coefficient calculation unit 207 calculates the WB coefficient from the light source estimation information L [0: N] in all the divided areas (S15). Here, based on the light source estimation information L, extraction of a white region corresponding to the light source and weighting of the evaluation value based on the reliability are performed, and a WB coefficient (that is, R, G, and B gain) for the entire screen is obtained. Calculate. For example, for the evaluation value A, when the subject luminance Bv is medium luminance, it is determined as an achromatic color under the fluorescent lamp, and the WB coefficient is calculated after doubling the evaluation value. When the subject brightness Bv of the evaluation value B is medium brightness, it is determined as an object color under the solar light source, and the WB coefficient is calculated after multiplying the evaluation value by 0.5. Thus, by setting the reliability, it is possible to reduce the influence on the WB calculation of the evaluation value whose discrimination between the achromatic color and the object color is not clear. If it is difficult to discriminate between object color and achromatic color and estimate the light source, such as when Bv is an evaluation value B of medium luminance, the weight based on the reliability may be set to 0 and excluded from the WB calculation.

WB係数算出部によって算出されたWB係数は、WB調整部208に出力される。そして、WB調整部208は、WB係数を画面全体のR、G、Bデータにそれぞれ乗算してWB制御を行い(S16)、WB調整処理を終了する。WB調整処理が行われた撮像信号は、その後、エッジ強調処理等のその他の画像処理が行われ、画像処理部22から出力される。   The WB coefficient calculated by the WB coefficient calculation unit is output to the WB adjustment unit 208. Then, the WB adjustment unit 208 performs WB control by multiplying the R, G, and B data of the entire screen by the WB coefficient (S16), and ends the WB adjustment process. The image signal that has undergone the WB adjustment processing is then subjected to other image processing such as edge enhancement processing, and is output from the image processing unit 22.

このように、本実施形態では、分割された領域ごとに、被写体輝度Bvおよび評価値を算出し、これらに基づいて分割された領域ごとの光源推定情報Lを取得するため、露出設定や構図の影響の少ないWB係数を算出することができる。また、被写体輝度Bvに応じた複数の白検出枠群を備えているため、光源の推定、信頼度および物体色または無彩色の判断をより詳細に設定することができる。これにより、撮影された被写体の実際の状況に近い、精度の高い判定が可能となり、WB調整によるカラーフェリアの低減、およびWB調整処理の安定性の向上を図ることができる。   As described above, in the present embodiment, the subject luminance Bv and the evaluation value are calculated for each divided area, and the light source estimation information L for each divided area is acquired based on the calculated subject brightness Bv and the evaluation value. It is possible to calculate a WB coefficient with little influence. Further, since a plurality of white detection frame groups corresponding to the subject brightness Bv are provided, the estimation of the light source, the reliability, and the determination of the object color or achromatic color can be set in more detail. As a result, it is possible to perform highly accurate determination close to the actual situation of the photographed subject, and it is possible to reduce color feria by WB adjustment and improve the stability of WB adjustment processing.

以上が本発明の例示的な実施形態の説明である。本発明の実施形態は、上記に説明したものに限定されず、本発明の技術的思想の範囲において様々な変形が可能である。例えば明細書中に例示的に明示される実施形態等または自明な実施形態等を適宜組み合わせた内容も本願の実施形態に含まれる。   The above is the description of the exemplary embodiments of the present invention. Embodiments of the present invention are not limited to those described above, and various modifications are possible within the scope of the technical idea of the present invention. For example, the embodiment of the present application also includes an embodiment that is exemplarily specified in the specification or a combination of obvious embodiments and the like as appropriate.

例えば、上記実施形態では、複数の白検出枠群G1からG3において、光源および信頼度の両方がそれぞれ異なる構成としたが、これに限定されるものではなく、光源または信頼度のいずれか一方のみが異なる構成としても良い。また、光源および信頼度に加えて(または替えて)、複数の白検出枠群G1からG3において異なる補正量を設定する構成としても良い。詳しくは、例えば、太陽光源の場合、無彩色を完全に白くするようにWB調整の補正量は100%とされる。しかしながら、低色温度の光源については、完全に白く補正するのではなく、人間の目の見た目に合うように光源色を残すことが好まれるため、補正量は50%とされる。そこで、図4から図6の例において、低輝度用の白検出枠群G3の枠606は、白熱灯の可能性が高いため、補正量を50%として設定し、高輝度の白検出枠群G2の枠406においては、白熱等ではなく、夕日の可能性があるとして、補正量を25%と設定しても良い。この場合、光源推定情報Lとして、さらに補正量を含み、WB係数算出部207において、評価値に対して信頼度の重みづけを行うとともに、補正量を加味したWB係数の演算が行われる。   For example, in the above embodiment, in the plurality of white detection frame groups G1 to G3, both the light source and the reliability are different from each other. However, the present invention is not limited to this, and only one of the light source and the reliability is provided. However, a different configuration may be used. Further, in addition to (or instead of) the light source and the reliability, different correction amounts may be set in the plurality of white detection frame groups G1 to G3. Specifically, for example, in the case of a solar light source, the correction amount of the WB adjustment is set to 100% so that the achromatic color is completely white. However, for a light source having a low color temperature, the correction amount is set to 50% because it is preferable to leave the light source color so as to match the appearance of the human eye, instead of correcting it completely white. Therefore, in the examples of FIGS. 4 to 6, since the frame 606 of the low-luminance white detection frame group G3 is highly likely to be an incandescent lamp, the correction amount is set to 50%, and the high-luminance white detection frame group In the G2 frame 406, the correction amount may be set to 25% because there is a possibility of sunset instead of incandescence or the like. In this case, the light source estimation information L further includes a correction amount, and the WB coefficient calculation unit 207 weights the reliability with respect to the evaluation value and calculates the WB coefficient taking the correction amount into consideration.

また、白検出枠群における白検出枠の配置および信頼度は、上記実施形態に限定されるものではなく、任意に設定可能である。例えば、上記実施形態の白検出枠群では、蛍光灯の白検出枠を一つしか設けない構成としたが、蛍光灯は種類が多い為、更に細分化しても良い。例えば、方式が三波長型か普通型か、光源色が昼光色か、昼白色か、白色か、温白色か電球色かにより変えても良い。また、上記実施形態における白検出枠群では、各検出枠は互いに明確に境界を有しているが、重なり合っていても良い。さらに、上記実施形態では、信頼度を高、中、低の三段階としたが、さらに細分化した信頼度を設定しても良い。また、上記実施形態では、被写体輝度Bvに応じて3種類の白検出枠群を有する構成としたが、4種類以上の白検出枠群を有する構成としても良い。   Further, the arrangement and reliability of the white detection frames in the white detection frame group are not limited to the above embodiment, and can be arbitrarily set. For example, in the white detection frame group of the above embodiment, only one white detection frame for fluorescent lamps is provided. However, since there are many types of fluorescent lamps, they may be further subdivided. For example, it may be changed depending on whether the method is a three-wavelength type or a normal type, the light source color is daylight, daylight white, white, warm white, or light bulb color. Further, in the white detection frame group in the above embodiment, each detection frame has a clear boundary with each other, but may be overlapped. Furthermore, in the above-described embodiment, the reliability is set to three levels of high, medium, and low. However, more detailed reliability may be set. In the above embodiment, the configuration includes three types of white detection frame groups according to the subject brightness Bv. However, the configuration may include four or more types of white detection frame groups.

また、輝度信号Y[n]および色信号Cx[n]、Cy[n]を下記の式によって求めても良い。このように、所定のWB係数を乗算したり線形マトリクス演算にてカラーバランスを整えたりすることで、より好適な評価値を算出することができる。下記の式において、GainR、GainG、GainBが所定のWB係数であり、C00からC22が線形マトリクス係数である。

Figure 2015192179
Further, the luminance signal Y [n] and the color signals Cx [n], Cy [n] may be obtained by the following equations. Thus, a more suitable evaluation value can be calculated by multiplying a predetermined WB coefficient or adjusting the color balance by linear matrix calculation. In the following equation, GainR, GainG, GainB are predetermined WB coefficients, and C00 to C22 are linear matrix coefficients.
Figure 2015192179

また、上記実施形態では、WB係数算出部207において、画面全体に対するWB係数を算出する構成としているが、分割領域ごとにWB係数を算出して分割領域ごとにWB調整を行っても良い。   In the above embodiment, the WB coefficient calculation unit 207 calculates the WB coefficient for the entire screen. However, the WB coefficient may be calculated for each divided area and the WB adjustment may be performed for each divided area.

さらに、上記実施形態では、WB調整処理をおこなう撮影装置を例に説明したが、これに限定されるものではなく、上記実施形態のWB調整処理を、独立したホワイトバランス調整装置において実行する構成としても良い。   Furthermore, in the above-described embodiment, the photographing apparatus that performs the WB adjustment process has been described as an example. However, the present invention is not limited to this, and the WB adjustment process of the above-described embodiment is executed in an independent white balance adjustment apparatus. Also good.

1 撮影装置
11 撮影レンズ
12 絞り
13 シャッタ
14 撮像素子
15 AGC
20 信号処理部
22 画像処理部
30 操作部
40 LCD
50 ROM
60 メモリカード
DESCRIPTION OF SYMBOLS 1 Imaging device 11 Shooting lens 12 Aperture 13 Shutter 14 Image sensor 15 AGC
20 signal processing unit 22 image processing unit 30 operation unit 40 LCD
50 ROM
60 memory card

Claims (10)

被写体を撮影して得られる画像を複数の分割領域に分割する分割部と、
前記分割領域ごとに被写体の色情報を生成する色情報生成部と、
前記分割領域ごとに被写体の被写体輝度を算出する被写体輝度算出部と、
前記分割領域ごとの色情報および被写体輝度に基づいて、前記分割領域ごとに、推定される光源、信頼度および補正量の少なくとも一つを含む光源推定情報を取得する光源推定部と、
前記分割領域ごとの光源推定情報に基づいて、ホワイトバランス係数を算出するホワイトバランス係数算出部と、
前記ホワイトバランス係数を用いて、前記被写体を撮影して得られる画像のホワイトバランス調整を行うホワイトバランス調整部と、を備えることを特徴とするホワイトバランス調整装置。
A dividing unit that divides an image obtained by photographing a subject into a plurality of divided regions;
A color information generation unit that generates color information of a subject for each of the divided regions;
A subject luminance calculation unit for calculating subject luminance of the subject for each of the divided regions;
A light source estimation unit that acquires light source estimation information including at least one of an estimated light source, reliability, and correction amount for each of the divided regions based on color information and subject luminance for each of the divided regions;
A white balance coefficient calculation unit that calculates a white balance coefficient based on the light source estimation information for each divided region;
A white balance adjustment device, comprising: a white balance adjustment unit that performs white balance adjustment of an image obtained by photographing the subject using the white balance coefficient.
前記被写体輝度算出部は、前記分割領域ごとの輝度信号および前記被写体撮影時の露出情報を用いて、前記被写体輝度を算出する、請求項1に記載のホワイトバランス調整装置。   The white balance adjustment apparatus according to claim 1, wherein the subject brightness calculation unit calculates the subject brightness using a brightness signal for each of the divided regions and exposure information at the time of shooting the subject. 前記分割領域ごとの色情報および輝度信号は、所定のホワイトバランス係数の乗算または所定の線形マトリクス演算を行って生成される、請求項2に記載のホワイトバランス調整装置。   3. The white balance adjustment device according to claim 2, wherein the color information and the luminance signal for each divided region are generated by performing multiplication of a predetermined white balance coefficient or predetermined linear matrix calculation. 前記光源推定部は、複数の光源にそれぞれ対応する複数の白検出枠を含む白検出枠群を用いて前記光源推定情報を取得する、請求項1から3のいずれか一項に記載のホワイトバランス調整装置。   4. The white balance according to claim 1, wherein the light source estimation unit acquires the light source estimation information using a white detection frame group including a plurality of white detection frames respectively corresponding to a plurality of light sources. Adjustment device. 前記複数の光源にそれぞれ対応する複数の白検出枠には、信頼度および補正量の少なくともいずれか一つが設定される、請求項4に記載のホワイトバランス調整装置。   The white balance adjustment device according to claim 4, wherein at least one of reliability and correction amount is set in the plurality of white detection frames respectively corresponding to the plurality of light sources. 前記光源推定部は、
前記白検出枠群を複数備え、
前記分割領域ごとの被写体輝度に応じて、前記複数の白検出枠群のいずれかを選択し、
前記選択した白検出枠群を用いて、前記光源推定情報を取得する、請求項4または5に記載のホワイトバランス調整装置。
The light source estimator is
A plurality of white detection frame groups;
According to subject brightness for each of the divided areas, select one of the plurality of white detection frame groups,
The white balance adjustment device according to claim 4, wherein the light source estimation information is acquired using the selected white detection frame group.
前記複数の白検出枠群は、前記複数の白検出枠の配置、該白検出枠に設定される信頼度および補正量の少なくとも一つが異なる、請求項6に記載のホワイトバランス調整装置。   The white balance adjustment apparatus according to claim 6, wherein the plurality of white detection frame groups are different in at least one of an arrangement of the plurality of white detection frames, a reliability set in the white detection frame, and a correction amount. 前記白検出枠群は、さらに、所定の光源下における物体色の検出枠を含む、請求項4から7のいずれか一項に記載のホワイトバランス調整装置。   The white balance adjustment device according to any one of claims 4 to 7, wherein the white detection frame group further includes a detection frame of an object color under a predetermined light source. 撮影光学系を通過した光束に基づいて前記被写体を撮影する撮影部と、
請求項1から8のいずれか一項に記載のホワイトバランス調整装置と、
を備えることを特徴とする、撮影装置。
A photographing unit for photographing the subject based on the light flux that has passed through the photographing optical system;
A white balance adjusting device according to any one of claims 1 to 8,
An imaging apparatus comprising:
被写体を撮影して得られる画像のホワイトバランスを調整するためのホワイトバランス調整方法であって、
被写体を撮影して得られる画像を複数の分割領域に分割するステップと、
前記分割領域ごとに被写体の色情報を生成するステップと、
前記分割領域ごとに被写体の被写体輝度を算出するステップと、
前記分割領域ごとの色情報および被写体輝度に基づいて、前記分割領域ごとに、推定される光源、信頼度、または補正量の少なくとも一つを含む光源推定情報を取得するステップと、
前記取得された光源推定情報に基づいて、ホワイトバランス係数を算出するステップと、
前記ホワイトバランス係数を用いて、前記被写体を撮影して得られる画像のホワイトバランス調整を行うステップと、を含むことを特徴とする、ホワイトバランス調整方法。
A white balance adjustment method for adjusting the white balance of an image obtained by photographing a subject,
Dividing an image obtained by photographing a subject into a plurality of divided regions;
Generating color information of a subject for each of the divided areas;
Calculating subject brightness of the subject for each of the divided regions;
Obtaining light source estimation information including at least one of an estimated light source, reliability, or correction amount for each of the divided regions based on color information and subject luminance for each of the divided regions;
Calculating a white balance coefficient based on the obtained light source estimation information;
And adjusting the white balance of an image obtained by photographing the subject using the white balance coefficient.
JP2014065975A 2014-03-27 2014-03-27 White balance adjusting device, photographing device, and white balance adjusting method Pending JP2015192179A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014065975A JP2015192179A (en) 2014-03-27 2014-03-27 White balance adjusting device, photographing device, and white balance adjusting method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014065975A JP2015192179A (en) 2014-03-27 2014-03-27 White balance adjusting device, photographing device, and white balance adjusting method

Publications (1)

Publication Number Publication Date
JP2015192179A true JP2015192179A (en) 2015-11-02

Family

ID=54426401

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014065975A Pending JP2015192179A (en) 2014-03-27 2014-03-27 White balance adjusting device, photographing device, and white balance adjusting method

Country Status (1)

Country Link
JP (1) JP2015192179A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019111921A1 (en) * 2017-12-05 2019-06-13 株式会社ニコン Image capture device, electronic apparatus, and chroma suppression program
CN118781062A (en) * 2024-06-25 2024-10-15 中通维易科技服务有限公司 An image detection system based on automation
JP2024539613A (en) * 2021-10-11 2024-10-29 ドルビー ラボラトリーズ ライセンシング コーポレイション Context-dependent color mapping for image and video data - Patents.com

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006211440A (en) * 2005-01-31 2006-08-10 Eastman Kodak Co Auto-white balancer and method for adjusting white balance
JP2006295839A (en) * 2005-04-14 2006-10-26 Eastman Kodak Co White balance adjusting apparatus, and color identifying apparatus
JP2007036927A (en) * 2005-07-29 2007-02-08 Eastman Kodak Co Digital camera and gain calculation method
JP2008219838A (en) * 2007-03-08 2008-09-18 Matsushita Electric Ind Co Ltd Imaging device, white balance adjustment device, and white balance adjustment method
JP2011135377A (en) * 2009-12-24 2011-07-07 Samsung Electronics Co Ltd Imaging device and imaging method

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006211440A (en) * 2005-01-31 2006-08-10 Eastman Kodak Co Auto-white balancer and method for adjusting white balance
JP2006295839A (en) * 2005-04-14 2006-10-26 Eastman Kodak Co White balance adjusting apparatus, and color identifying apparatus
JP2007036927A (en) * 2005-07-29 2007-02-08 Eastman Kodak Co Digital camera and gain calculation method
JP2008219838A (en) * 2007-03-08 2008-09-18 Matsushita Electric Ind Co Ltd Imaging device, white balance adjustment device, and white balance adjustment method
JP2011135377A (en) * 2009-12-24 2011-07-07 Samsung Electronics Co Ltd Imaging device and imaging method

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019111921A1 (en) * 2017-12-05 2019-06-13 株式会社ニコン Image capture device, electronic apparatus, and chroma suppression program
CN111567038A (en) * 2017-12-05 2020-08-21 株式会社尼康 Imaging device, electronic apparatus, and chromaticity suppression program
JPWO2019111921A1 (en) * 2017-12-05 2020-12-10 株式会社ニコン Imaging equipment, electronics and saturation suppression programs
CN111567038B (en) * 2017-12-05 2022-04-08 株式会社尼康 Camera, electronic equipment, and recording medium
JP2023038275A (en) * 2017-12-05 2023-03-16 株式会社ニコン Imaging device, electronic device and saturation suppression program
JP7259761B2 (en) 2017-12-05 2023-04-18 株式会社ニコン Imaging device, electronic device and saturation suppression program
JP2024539613A (en) * 2021-10-11 2024-10-29 ドルビー ラボラトリーズ ライセンシング コーポレイション Context-dependent color mapping for image and video data - Patents.com
JP7703782B2 (en) 2021-10-11 2025-07-07 ドルビー ラボラトリーズ ライセンシング コーポレイション Context-dependent color mapping for image and video data - Patents.com
CN118781062A (en) * 2024-06-25 2024-10-15 中通维易科技服务有限公司 An image detection system based on automation

Similar Documents

Publication Publication Date Title
CN101800857B (en) Image capturing apparatus and control method thereof
CN101800858B (en) Image capturing apparatus and control method thereof
US7084907B2 (en) Image-capturing device
US9749546B2 (en) Image processing apparatus and image processing method
JP6455601B2 (en) Control system, imaging apparatus, and program
US8614751B2 (en) Image processing apparatus and image processing method
US20110109767A1 (en) Image capture apparatus and image capturing method
US8810681B2 (en) Image processing apparatus and image processing method
US8692903B2 (en) Imaging device, imaging method and computer readable recording medium storing program for performing the imaging method
JP4999871B2 (en) Imaging apparatus and control method thereof
JP5256947B2 (en) IMAGING DEVICE, IMAGING METHOD, AND COMPUTER-READABLE RECORDING MEDIUM RECORDING PROGRAM FOR EXECUTING THE METHOD
JP5048599B2 (en) Imaging device
JP2003333616A (en) White balance adjustment method, imaging apparatus, program, and storage medium
JP2002290988A (en) Imaging device
JP2015192179A (en) White balance adjusting device, photographing device, and white balance adjusting method
JP4717720B2 (en) Image processing apparatus and method, and program
JP2009055077A (en) Imaging apparatus
JP5335964B2 (en) Imaging apparatus and control method thereof
JP2013058869A (en) Image processor, image processing method, and program
JP3958700B2 (en) Digital camera
JP6492452B2 (en) Control system, imaging apparatus, control method, and program
JP2011188186A (en) Device for calculating white balance gain
JP2005260738A (en) Imaging apparatus and its exposure control method
JP7682954B2 (en) Imaging device, control method and program thereof
JP2015119436A (en) Imaging device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170303

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20170717

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180222

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20180810