[go: up one dir, main page]

JP2009071454A - 画像処理装置及び方法、及び撮像装置 - Google Patents

画像処理装置及び方法、及び撮像装置 Download PDF

Info

Publication number
JP2009071454A
JP2009071454A JP2007235948A JP2007235948A JP2009071454A JP 2009071454 A JP2009071454 A JP 2009071454A JP 2007235948 A JP2007235948 A JP 2007235948A JP 2007235948 A JP2007235948 A JP 2007235948A JP 2009071454 A JP2009071454 A JP 2009071454A
Authority
JP
Japan
Prior art keywords
white balance
image
balance correction
color
image signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007235948A
Other languages
English (en)
Other versions
JP5064947B2 (ja
JP2009071454A5 (ja
Inventor
Masahiro Takayama
将浩 高山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2007235948A priority Critical patent/JP5064947B2/ja
Priority to US12/207,335 priority patent/US8160310B2/en
Priority to CN2008102118727A priority patent/CN101389039B/zh
Publication of JP2009071454A publication Critical patent/JP2009071454A/ja
Publication of JP2009071454A5 publication Critical patent/JP2009071454A5/ja
Application granted granted Critical
Publication of JP5064947B2 publication Critical patent/JP5064947B2/ja
Priority to US14/255,748 priority patent/USRE46232E1/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6077Colour balance, e.g. colour cast correction
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20004Adaptive image processing
    • G06T2207/20012Locally adaptive
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)

Abstract

【課題】 顔検出結果に応じて、より安定したホワイトバランス補正を行うこと。
【解決手段】 画像の画像信号を処理する画像処理装置であって、ホワイトバランス(WB)補正手段(103)と、顔領域を検出する顔検出部(114)と、画像を複数画素ずつ分割したブロックの内、白色ブロックの画像信号に基づいて、第1のWB補正値を算出する第1の算出手段(103)と、顔領域が検出された場合に、該顔領域に含まれるブロックの画像信号を第1のWB補正値でWB補正した肌色平均値の内、肌色領域内及び肌色補正対象領域内にある肌色平均値を加算し、得られた合計画像信号が肌色補正対象領域内にある場合に、合計画像信号が肌色領域内に入るように画像信号を補正する、第2のWB補正値を算出する第2の算出手段(103)とを有し、WB補正手段は、第2のWB補正値が算出された場合に、該第2のWB補正値を用いてWB補正を行う。
【選択図】 図1

Description

本発明は画像処理装置及び方法、及び撮像装置に関し、更に詳しくは、顔検出結果を用いて画像処理を行う画像処理装置及び方法、及び撮像装置に関する。
デジタルカメラ等に用いられている従来のホワイトバランスゲイン算出回路の動作を説明する。まず図8に示すように、予め画面を、複数画素ずつ任意の複数のブロック(m個)に分割する。そして、各ブロック(1〜m)毎に、画素値を各色毎に加算平均して色平均値(R[i]、G[i]、B[i])を算出する。そして、例えば以下の式(1)を用いて色評価値(Cx[i]、Cy[i])を算出する。
Cx[i] = (R[i] - B[i]) / Y[i] × 1024
Cy[i] = (R[i] + B[i]) - 2G[i]/ Y[i] × 1024 …(1)
ただし、Y[i] = R[i] + 2G[i] + B[i]、[i]は各ブロックのインデックス番号
そして、予め様々な光源下で白色被写体を撮影し、色評価値を算出する。これにより、予め設定された図9に示すような白検出範囲301に、各ブロック毎に算出された色評価値が含まれる場合、そのブロックは白であると判定する。そして、同様にして白と判定されたブロックの画素値を積分する。白検出範囲301は、予め異なる光源下で白を撮影し、算出した色評価値をプロットしたもので、図9におけるx座標(Cx)の負方向が高色温度被写体の白を撮影したときの色評価値、正方向が低色温度被写体の白を撮影したときの色評価値である。またy座標(Cy)は光源の緑成分の度合いを意味しており、負方向になるにつれG成分が大きくなり、つまり光源が蛍光灯であることを示している。
そして、積分された画素値(sumR、sumG、sumB)より、以下の式(2)を用いてホワイトバランス係数(WBCo_R、WBCo_G、WBCo_B)を算出する。
WBCo_R = sumY × 1024 / sumR
WBCo_G = sumY × 1024 / sumG …(2)
WBCo_B = sumY × 1024 / sumB
ただし、sumY = (sumR + 2 × sumG + sumB) / 4
しかし、従来のホワイトバランス係数算出方法では、以下のような問題があった。即ち、太陽光のような光源下において、白の色評価値は図9の領域A付近に分布し、肌色の分布は領域B付近に分布する。太陽光源下における肌色の色評価値は低色光源下における白点の色評価値とほぼ同等の領域に分布する。従って、画角に白色が少なくかつ、図10のように人がアップで撮影された場合、画面の色評価値は図9の領域Bに分布するため、肌色を低色温度下の白色と誤判別し、人の肌を白色に補正してしまうという問題があった。また、人の肌を示す領域付近に分布する有彩色が画角一面にあるときは、その有彩色を白と誤判別して肌を白色に補正してしまう場合もあった。
この問題に対する従来の対処法として被写体照度が明るい場合は外光と判断して、白検出範囲を狭めて肌色を白と誤判別しないような工夫を行っていた。
しかし、一般の蛍光灯類には、白色が領域C付近となる光源や領域Cより下方にも分布する光源も存在し、そういった光源に対応するためには、白検出範囲を拡大しなければならない。だが、低照度の高色温度蛍光灯や中色温度蛍光灯類での肌色分布は黒体放射軸の下方向(領域C)付近に分布するケースがあり、白検出範囲を拡大することで肌色を白と誤判別してしまい、肌色が褪色するようなケースがあった。
そこで、特許文献1記載の方法では、顔検出を行い、顔が検出された場合は顔の肌色を抽出し、基準の肌と比較しその結果を基にホワイトバランス補正を行うという提案がなされている。
米国特許第6975759号
しかしながら、上述した従来のホワイトバランス補正値算出方法においては、顔検出回路において顔を誤認識した場合が考慮されていない。そのため顔検出回路において顔ではない領域を顔と誤検出した場合にも、その顔ではない領域を適正な肌色にするように動作するため、結果として所望なホワイトバランス補正値を得ることができないことがあるという欠点があった。
また、処理速度等の撮像装置のパフォーマンスによっては、撮影時に顔検出ができない場合がある。そのような撮像装置において、撮影準備段階で顔が検出されていても、撮影時に被写体の位置がずれてしまうようなケースが生じることがあるが、そのような場合についても考慮されていない。つまり撮影準備時に正しく顔を検出した場合であっても、結果としてホワイトバランス補正精度が低くなることがあるという欠点があった。図11はSW1までに顔検出を行い、SW2(本撮影)直前で被写体の位置がずれた場合を示した例である。SW1直前に得られた顔検出結果を利用することにより、SW2時(本撮影時)に正しい顔色評価値を取得できなくなり、ホワイトバランス補正精度が低くなってしまう。
本発明は上記問題点を鑑みてなされたものであり、撮像を行って得られた画像の画像信号を処理する本発明の画像処理装置は、前記画像信号にホワイトバランス補正を行うホワイトバランス補正手段と、前記画像から顔領域を検出する顔検出手段と、前記画像を複数画素ずつ分割したブロックの内、白色を表す色信号領域内にあるブロックの画像信号に基づいて、前記ホワイトバランス補正に用いる第1のホワイトバランス補正値を算出する第1の算出手段と、前記顔検出手段により顔領域が検出された場合に、該顔領域に含まれるブロックの画像信号を前記第1のホワイトバランス補正値によりホワイトバランス補正した補正画像信号の内、肌色を表す第1の色信号領域内及び該第1の色信号領域の周辺領域である第2の色信号領域内にある補正画像信号を抽出して加算し、該加算して得られた合計画像信号が前記第2の色信号領域内にある場合に、前記合計画像信号が前記第1の色信号領域内に入るように前記画像信号を補正する、第2のホワイトバランス補正値を算出する第2の算出手段とを有し、前記ホワイトバランス補正手段は、前記第2のホワイトバランス補正値が算出された場合に、前記第2のホワイトバランス補正値を用いてホワイトバランス補正を行う。
また、本発明の撮像装置は、撮像して得られた画像の画像信号を出力する撮像手段と、上記画像処理装置とを含む。
また、撮像を行って得られた画像の画像信号を処理する本発明の画像処理方法は、前記画像から顔領域を検出する顔検出工程と、前記画像を複数画素ずつに分割したブロックの内、白色を表す色信号領域内にあるブロックの画像信号に基づいて、前記ホワイトバランス補正に用いる第1のホワイトバランス補正値を算出する第1の算出工程と、前記顔検出工程で顔領域が検出された場合に、該顔領域に含まれるブロックの画像信号を前記第1のホワイトバランス補正値によりホワイトバランス補正した補正画像信号の内、肌色を表す第1の色信号領域内及び該第1の色信号領域の周辺領域である第2の色信号領域内にある補正画像信号を抽出して加算し、該加算して得られた合計画像信号が前記第2の色信号領域内にある場合に、前記合計画像信号が前記第1の色信号領域内に入るように前記画像信号を補正する、第2のホワイトバランス補正値を算出する第2の算出工程と、前記画像信号に前記第1または第2のホワイトバランス補正値を用いてホワイトバランス補正を行うホワイトバランス補正工程とを有し、前記ホワイトバランス補正工程では、前記第2のホワイトバランス補正値が算出された場合に、前記第2のホワイトバランス補正値を用いてホワイトバランス補正を行う。
本発明によれば、顔検出結果に応じて、より安定したホワイトバランス補正を行うことができる。
以下、添付図面を参照して本発明を実施するための最良の形態を詳細に説明する。
図1は、画像処理装置の一例として、本発明の実施の形態における顔検出機能を備えた撮像装置の機能構成を示す概略ブロック図である。
図1において、101はCCDやCMOS等から成る固体撮像素子であり、その表面は、例えばベイヤー配列のRGBカラーフィルタにより覆われ、カラー撮影が可能な構成となっている。102はメモリで、撮像素子101から得られた画像信号を一旦記憶する。
114は顔検出部であり、メモリ102に記憶された画像信号から、顔領域を検出する。なお、顔領域を検出する技術としては様々な手法が提案されており、顔の位置およびサイズ情報を取得できればどのような手法を用いてもよく、本願発明は、顔検出の手法により制限されるものではない。例えば、ニュートラルネットワークに代表される学習を用いた方法や、目や鼻と言った物理的形状に特徴のある部位を画像領域からテンプレートマッチングで抽出する手法が知られている。他にも、肌の色や目の形といった画像特徴量を検出し、統計的手法を用いて解析する手法が挙げられる(例えば、特開平10−232934号公報、特開2000−48184号公報を参照)。他に、現在製品として提案されているものとしては、ウェーブレット変換と画像特徴量を利用して顔検出する方法等や、テンプレートマッチング等を組み合わせた方法などがある。
ここで、顔検出の手法として、パターン認識の一つであるテンプレートマッチングについて説明する。パターン認識とは、観測されたパターンをあらかじめ定められた概念(クラス)の一つに対応させる処理である。図2は、パターン認識処理のフローチャートであり、顔検出部114によって実行される。
先ず、メモリ102から画像データを読み出して前処理し(ステップS1)、前処理された画像データから特徴的部分のパターンを抽出する(ステップS2)。そして、抽出されたパターンをテンプレート(標準パターン)に対応させる(テンプレートマッチング)。例えば、図3に示すように特徴的部分のパターン63が抽出された場合、テンプレート61の中心点62を取得したパターン63のある座標点(i,j)に置く。そして、中心点62のパターン63における位置をずらしながら、テンプレート61とパターン63との重なり部分の類似度を計算して行き、類似度が最大になる位置を決定する。パターン63を例えば目や耳等の形状を含むテンプレート61にマッチングさせることにより、目の位置情報や顔領域(顔座標)を取得することができる。
このようにして、認識パターンを取得して(ステップS3)、取得した認識パターンを出力し(ステップS4)、パターン認識処理を終了する。
図1の説明に戻る。CPU115では、顔検出部114から送られた信号に基づいて、顔が検出されていれば、顔が最適な明るさになるようなシャッタースピードTv、絞り値Avを計算し、また顔に合焦するようにフォーカスレンズの駆動量を計算する。一方、顔が検出されていなければ、CPU115は画像全体が最適な明るさになるようなシャッタースピードTv、絞り値Avを計算すると共に、予め設定された合焦領域内にある被写体に合焦するようなフォーカスレンズの駆動量を計算する。CPU115で計算された露出値(Tv、Av)及びフォーカスレンズの駆動量は制御回路113に送られ、各値に基づいて不図示のレンズや絞り、シャッター、撮像素子101がそれぞれ制御される。
103はホワイトバランス(WB)制御部であり、メモリ102に記憶された画像信号及び顔検出部114から得られる顔情報に基づいてWB補正値を算出する。そして、算出したWB補正値を用いて、メモリ102に記憶された画像信号に対してホワイトバランス補正(WB補正)を行う。即ち、WB制御部103は、ホワイトバランス補正手段と、第1の算出手段及び第2の算出手段とに対応する。なお、このWB制御部103で用いられるWB補正値の算出方法については、詳細に後述する。
104は、WB制御部103によりWB補正された画像信号が最適な色で再現されるように色ゲインをかけて色差信号R−Y、B−Yに変換する色変換マトリックス(MTX)回路である。105は色差信号R−Y、B−Yの帯域を制限するローパスフィルタ(LPF)回路、106はLPF回路105で帯域制限された画像信号の内、飽和部分の偽色信号を抑圧するCSUP(Chroma Supress)回路である。
一方、WB制御部103によりWB補正された画像信号は輝度信号(Y)生成回路111にも出力されて輝度信号Yが生成され、生成された輝度信号Yに対してエッジ強調回路112にてエッジ強調処理が施される。
CSUP回路106から出力される色差信号R−Y、B−Yと、エッジ強調回路112から出力される輝度信号Yは、RGB変換回路107にてRGB信号に変換され、ガンマ補正回路108にて階調補正が施される。その後、色輝度変換回路109にてYUV信号に変換され、更に圧縮回路110にて例えばJPEG圧縮されて、外部記録媒体または内部記録媒体に画像信号として記録される。
次に、本実施の形態におけるWB補正値の算出方法について図4を参照して説明する。本実施の形態におけるWB補正値の算出方法は、顔検出結果に応じて顔領域が最適となるようなWB補正値を得ることができるようにするものである。なお、顔検出処理は図4に示す処理が行われる直前に、得られた画像信号に基づいて、例えば図2及び図3を参照して上述した方法により顔検出部114により行われ、顔検出結果がすでに得られているものとする。また、ここで行われるWB補正値の算出は、CPU115が行うように構成しても、WB制御部103が行うように構成しても、更には、WB補正値算出用の専用の構成を追加するようにしても、何れでも構わない。
先ず、ステップS11において、メモリ102に記憶された画像信号から白画素の検出を行って第1のホワイトバランス補正値(第1のWB補正値)を算出する。ここで、第1のWB補正値の算出方法について、図5を参照して詳しく説明する。
まず、メモリ102に記憶された画像信号を読み出し、その画面を図8のような任意のm個のブロックに分割する(ステップS101)。そして、各ブロック(1〜m)毎に、画素値を各色毎に加算平均して色平均値(R[i]、G[i]、B[i])を算出し、式(1)を用いて色評価値(Cx[i]、Cy[i])を算出する(ステップS102)。
Cx[i] = (R[i] - B[i]) / Y[i] × 1024
Cy[i] = (R[i] + B[i]) - 2G[i]/ Y[i] × 1024 …(1)
ただし、Y[i] = R[i] + 2G[i] + B[i]、[i]は各ブロックのインデックス番号
次に、ステップS102で算出したi番目のブロックの色評価値(Cx[i]、Cy[i])が、図9に示す予め設定した白検出範囲301に含まれるかどうかを判断する(ステップS103)。白検出範囲301は、予め異なる光源下で白を撮影し、算出した色評価値をプロットしたものである。図9におけるx座標(Cx)の負方向が高色温度被写体の白を撮影したときの色評価値、正方向が低色温度被写体の白を撮影したときの色評価値である。またy座標(Cy)は光源の緑成分の度合いを意味しており、負方向になるにつれG成分が大きくなり、つまり光源が蛍光灯であることを示している。
算出した色評価値(Cx[i]、Cy[i])がこの白検出範囲301に含まれる場合には(ステップS103でYES)そのブロックが白色であると判断する。そして、そのブロックの色平均値(R[i]、G[i]、B[i])を積算していき(ステップS104)、含まれない場合には加算せずにステップS105に進む。このステップS103及びステップS104の処理は、式(3)により表すことができる。
Figure 2009071454
ここで、式(3)において、色評価値(Cx[i]、Cy[i])が白検出範囲301に含まれる場合はSw[i]を1に、含まれない場合にはSw[i]を0とする。このようにして、ステップS103の判断により色平均値(R[i]、G[i]、B[i])の加算を行うか、行わないかの処理を実質的に行っている。
ステップS105では、全てのブロックについて上記処理を行ったかどうかを判断し、未処理のブロックがあればステップS102に戻って上記処理を繰り返し、全てのブロックの処理が終了していればステップS106に進む。
ステップS106では、得られた色評価値の積分値(sumR、sumG、sumB)から、以下の式(4)を用いて、第1のWB補正値(WBCo1_R、WBCo1_G、WBCo1_B)を算出する。
WBCo1_R = sumY × 1024 / sumR
WBCo1_G = sumY × 1024 / sumG …(4)
WBCo1_B = sumY × 1024 / sumB
ただし、sumY = (sumR + 2 × sumG + sumB) / 4
上述したようにして第1のWB補正値を算出すると、ステップS12において顔が検出されているかどうかを判断する。顔が検出されていなければ、ステップS11で算出した第1のWB補正値をWB制御部103でWB処理に使用するWB補正値と決定して(ステップS20)、処理を終了する。
顔が検出されていれば、ステップS13において顔領域のブロックを取得し、そのブロックの内の1つのブロックについて、第1のWB補正値を算出するためにステップS102で求めた色平均値(R[i]、G[i]、B[i])を取得する(ステップS14)。
次に、ステップS14で取得した色平均値にステップS11で求めた第1のWB補正値をそれぞれ乗じて、肌色平均値(顔領域の色平均値を第1のWB補正値によりWB補正した値、補正画像信号)を求める。そして、この肌色平均値が肌色領域(図6の領域(A))、肌色補正対象領域(図6の領域(B))、肌色補正対象外領域(図6の領域(C))のいずれにあるのかを判定する(ステップS15)。なお、肌色領域(A)は第1の色信号領域に対応し、肌色補正対象領域(B)は、第1の色信号領域の周辺領域である第2の色信号領域に対応する。図6の肌色領域(A)内(第1の色信号領域内)もしくは肌色補正対象領域(B)内(第2の色信号領域内)にある場合、肌色平均値をそれまでに算出された肌色平均値の合計に加算する(ステップS16)。また、肌色補正対象外領域(C)にあれば、そのブロックの肌色平均値は加算せずに、そのままステップS17に進む。なお、図6に示す肌色領域(A)及び肌色補正対象領域(B)は、例えば、太陽光などの白色光下で予め肌色を複数撮影し、統計的な手法を用いて設定することができる。
例えば、顔を誤検出した場合(図6(b)に示すような場合)や被写体が完全にずれた場合には、ブロックの肌評価値が図6の肌色補正対象外領域(C)に分布する場合が多い。顔領域がずれた場合(図6(c)に示すような場合)は顔領域の肌評価値は図6の肌色領域(A)または肌色補正対象領域(B)に分布することが多い。このように、肌色領域(A)及び肌色補正対象領域(B)にあるブロックのみを抽出して、WB演算処理に反映させる。なお、ステップS15の判断により肌色補正対象外領域(C)にある肌色評価値を除外するのではなく、重み付けによる加重加算を行ってもよい。その際には、肌色補正対象外領域(C)にある肌色評価値にかける重みを、肌色領域(A)及び肌色補正対象領域(B)にある肌色評価値にかける重みに対して低く設定しておく。
上述した処理を取得したブロック数分(ステップS17でYESとなるまで)行ってから、ステップS18に進む。ステップS18では、ステップS16で加算して得られた肌色平均値の合計(合計画像信号)が肌色補正対象領域(B)内にあるかどうかを判断する。
図6の肌色領域(A)に入っている場合は(ステップS18でNO)、第1のWB補正値により肌色が適正にWB補正されたと判断できるため、第1のWB補正値を使用すると決定する(ステップS20)。肌色補正対象領域(B)内にある場合は(ステップS18でYES)、第1のWB補正値により補正された肌色が適正にWB補正されなかったと判断できる。従って、肌色領域方向に移動するような第2のホワイトバランス補正値(第2のWB補正値)を算出する(ステップS19)。また、肌色補正対象領域外(C)にある場合は(ステップS18でNO)、検出された肌色評価値が人の肌を表していないと判断し、第1のWB補正値を使用する(ステップS20)。
図7にステップS19で行う第2のWB補正値算出の概念を示す。図7は、ある光源下において肌色が白色と誤認識され、第1のWB補正値が算出された場合を想定している。第1のWB補正値が適正なWB補正値より低色温度方向に位置しているために、第1のWB補正後の肌色が寒色方向に推移している。この場合、肌色評価値は適正な肌色を示す領域よりも寒色方向に位置しているため、ホワイトバランス補正値としてRゲインを第1のWB補正値よりも大きくかけることにより、適正肌色に補正することが可能になる。
上記の通り、本実施の形態によれば、顔を誤認識した場合や撮影時の被写体ずれによる誤補正、過補正を低減することができるため、顔検出結果に応じて、より安定したホワイトバランス補正を行うことが可能になる。
<他の実施形態>
なお、本発明は、複数の機器(例えばホストコンピュータ、インターフェイス機器、カメラヘッドなど)から構成されるシステムに適用しても、一つの機器からなる装置(例えば、デジタルスチルカメラ、デジタルビデオカメラなど)に適用してもよい。
また、本発明の目的は、以下の様にして達成することも可能である。まず、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体(または記録媒体)を、システムあるいは装置に供給する。そして、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行する。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、以下のようにして達成することも可能である。即ち、読み出したプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合である。ここでプログラムコードを記憶する記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、ROM、RAM、磁気テープ、不揮発性のメモリカード、CD−ROM、CD−R、DVD、光ディスク、光磁気ディスク、MOなどが考えられる。また、LAN(ローカル・エリア・ネットワーク)やWAN(ワイド・エリア・ネットワーク)などのコンピュータネットワークを、プログラムコードを供給するために用いることができる。
本発明の実施の形態における顔検出機能を備えた撮像装置の機能構成を示す概略ブロック図である。 テンプレートマッチングによるパターン認識処理を説明するフローチャートである。 テンプレートマッチングの概念を説明する図である。 本発明の実施の形態におけるWB補正値の算出方法を示すフローチャートである。 本発明の実施の形態における第1のWB補正値の算出処理を示すフローチャートである。 本発明の実施の形態における肌色補正の判断方法を説明する図である。 本発明の実施の形態における第2のWB補正値算出の概念図である。 画面を任意の複数ブロックに分割した例を示す図である。 白検出範囲を示す図である。 被写体として顔のアップを撮影した例を示す図である。 従来のホワイトバランス補正方法で起こる問題の一例を説明した図である。
符号の説明
101 撮像素子
102 メモリ
103 ホワイトバランス制御部
104 色変換マトリックス回路
105 ローパスフィルタ回路
106 CSUP回路
107 RGB変換回路
108 ガンマ補正回路
109 色輝度変換回路
110 圧縮回路
111 輝度信号生成回路
112 エッジ強調回路
113 制御回路
114 顔検出部
115 CPU

Claims (8)

  1. 撮像を行って得られた画像の画像信号を処理する画像処理装置であって、
    前記画像信号にホワイトバランス補正を行うホワイトバランス補正手段と、
    前記画像から顔領域を検出する顔検出手段と、
    前記画像を複数画素ずつ分割したブロックの内、白色を表す色信号領域内にあるブロックの画像信号に基づいて、前記ホワイトバランス補正に用いる第1のホワイトバランス補正値を算出する第1の算出手段と、
    前記顔検出手段により顔領域が検出された場合に、該顔領域に含まれるブロックの画像信号を前記第1のホワイトバランス補正値によりホワイトバランス補正した補正画像信号の内、肌色を表す第1の色信号領域内及び該第1の色信号領域の周辺領域である第2の色信号領域内にある補正画像信号を加算し、該加算して得られた合計画像信号が前記第2の色信号領域内にある場合に、前記合計画像信号が前記第1の色信号領域内に入るように前記画像信号を補正する、第2のホワイトバランス補正値を算出する第2の算出手段とを有し、
    前記ホワイトバランス補正手段は、前記第2のホワイトバランス補正値が算出された場合に、前記第2のホワイトバランス補正値を用いてホワイトバランス補正を行うことを特徴とする画像処理装置。
  2. 前記第2の算出手段は、前記第1及び第2の色信号領域の何れにも含まれない補正画像信号を更に加算すると共に、前記第1の色信号領域に含まれる補正画像信号と、前記第2の色信号領域に含まれる補正画像信号と、前記第1及び第2の色信号領域の何れにも含まれない補正画像信号にそれぞれ異なる重み付けをして加算し、
    前記第1及び第2の色信号領域の何れにも含まれない補正画像信号の重みは、前記第1及び第2の色信号領域に含まれる補正画像信号の重みよりも低いことを特徴とする請求項1の画像処理装置。
  3. 前記ホワイトバランス補正手段は、前記第2のホワイトバランス補正値が算出されなかった場合に、前記第1のホワイトバランス補正値を用いてホワイトバランス補正を行うことを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記第1及び第2の算出手段は、前記顔検出手段により処理される画像より後に撮像して得られた画像の画像信号を用いて、前記第1及び第2のホワイトバランス補正値を算出する処理を行うことを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
  5. 撮像して得られた画像の画像信号を出力する撮像手段と、
    請求項1乃至4のいずれか1項に記載の画像処理装置と
    を備えたことを特徴とする撮像装置。
  6. 撮像を行って得られた画像の画像信号を処理する画像処理方法であって、
    前記画像から顔領域を検出する顔検出工程と、
    前記画像を複数画素ずつに分割したブロックの内、白色を表す色信号領域内にあるブロックの画像信号に基づいて、前記ホワイトバランス補正に用いる第1のホワイトバランス補正値を算出する第1の算出工程と、
    前記顔検出工程で顔領域が検出された場合に、該顔領域に含まれるブロックの画像信号を前記第1のホワイトバランス補正値によりホワイトバランス補正した補正画像信号の内、肌色を表す第1の色信号領域内及び該第1の色信号領域の周辺領域である第2の色信号領域内にある補正画像信号を加算し、該加算して得られた合計画像信号が前記第2の色信号領域内にある場合に、前記合計画像信号が前記第1の色信号領域内に入るように前記画像信号を補正する、第2のホワイトバランス補正値を算出する第2の算出工程と、
    前記画像信号に前記第1または第2のホワイトバランス補正値を用いてホワイトバランス補正を行うホワイトバランス補正工程とを有し、
    前記ホワイトバランス補正工程では、前記第2のホワイトバランス補正値が算出された場合に、前記第2のホワイトバランス補正値を用いてホワイトバランス補正を行うことを特徴とする画像処理方法。
  7. コンピュータに、請求項6に記載の画像処理方法の各工程を実行させるためのプログラム。
  8. 請求項7に記載のプログラムを格納したコンピュータが読み取り可能な記憶媒体。
JP2007235948A 2007-09-11 2007-09-11 画像処理装置及び方法、及び撮像装置 Expired - Fee Related JP5064947B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2007235948A JP5064947B2 (ja) 2007-09-11 2007-09-11 画像処理装置及び方法、及び撮像装置
US12/207,335 US8160310B2 (en) 2007-09-11 2008-09-09 Image processing method and apparatus for processing an image by using a face detection result
CN2008102118727A CN101389039B (zh) 2007-09-11 2008-09-11 图像处理设备和图像处理方法以及摄像设备
US14/255,748 USRE46232E1 (en) 2007-09-11 2014-04-17 Image processing method and apparatus for processing an image by using a face detection result

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007235948A JP5064947B2 (ja) 2007-09-11 2007-09-11 画像処理装置及び方法、及び撮像装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2012088769A Division JP5237480B2 (ja) 2012-04-09 2012-04-09 画像処理装置及び方法、及び撮像装置

Publications (3)

Publication Number Publication Date
JP2009071454A true JP2009071454A (ja) 2009-04-02
JP2009071454A5 JP2009071454A5 (ja) 2010-10-28
JP5064947B2 JP5064947B2 (ja) 2012-10-31

Family

ID=40431855

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007235948A Expired - Fee Related JP5064947B2 (ja) 2007-09-11 2007-09-11 画像処理装置及び方法、及び撮像装置

Country Status (3)

Country Link
US (2) US8160310B2 (ja)
JP (1) JP5064947B2 (ja)
CN (1) CN101389039B (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018174581A1 (ko) * 2017-03-24 2018-09-27 삼성전자주식회사 전자 장치의 화이트 밸런스 기능 제어 방법 및 장치
JP2021136661A (ja) * 2020-02-28 2021-09-13 キヤノン株式会社 画像処理装置、画像処理方法、プログラム、記憶媒体

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7620218B2 (en) 2006-08-11 2009-11-17 Fotonation Ireland Limited Real-time face tracking with reference images
US7315631B1 (en) 2006-08-11 2008-01-01 Fotonation Vision Limited Real-time face tracking in a digital image acquisition device
US7916897B2 (en) 2006-08-11 2011-03-29 Tessera Technologies Ireland Limited Face tracking for controlling imaging parameters
JP5064947B2 (ja) * 2007-09-11 2012-10-31 キヤノン株式会社 画像処理装置及び方法、及び撮像装置
JP5398156B2 (ja) * 2008-03-04 2014-01-29 キヤノン株式会社 ホワイトバランス制御装置およびその制御方法並びに撮像装置
JP2011166753A (ja) * 2010-01-15 2011-08-25 Panasonic Corp 撮像装置
KR101896386B1 (ko) * 2011-11-22 2018-09-11 삼성전자주식회사 화이트 밸런스 조절장치 및 방법
JP6083974B2 (ja) * 2012-04-24 2017-02-22 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP6288816B2 (ja) * 2013-09-20 2018-03-07 カシオ計算機株式会社 画像処理装置、画像処理方法及びプログラム
JP6423625B2 (ja) * 2014-06-18 2018-11-14 キヤノン株式会社 画像処理装置および画像処理方法
CN107454345B (zh) * 2017-07-12 2019-10-22 Oppo广东移动通信有限公司 图像的白平衡处理方法、装置和终端设备
TWI660633B (zh) * 2018-04-13 2019-05-21 瑞昱半導體股份有限公司 基於膚色資訊的白平衡校正方法及其影像處理裝置
US11457189B2 (en) * 2019-06-20 2022-09-27 Samsung Electronics Co., Ltd. Device for and method of correcting white balance of image
CN110473156B (zh) * 2019-08-12 2022-08-02 Oppo广东移动通信有限公司 图像信息的处理方法、装置、存储介质及电子设备
CN112492286B (zh) * 2019-09-11 2024-10-18 深圳开阳电子股份有限公司 一种自动白平衡校正方法、装置及计算机存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001148863A (ja) * 1999-11-19 2001-05-29 Victor Co Of Japan Ltd ホワイトバランス調整方法及び調整装置
JP2005122612A (ja) * 2003-10-20 2005-05-12 Seiko Epson Corp 色補正装置、色補正方法、色補正プログラム、色変換装置、色変換方法および色変換プログラム
JP2006352795A (ja) * 2005-06-20 2006-12-28 Canon Inc 撮像装置及び画像処理方法

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4739393A (en) * 1985-11-05 1988-04-19 Sanyo Electric Co., Ltd. Circuit for performing white balance correction using two color temperature sensors
JP3469031B2 (ja) 1997-02-18 2003-11-25 株式会社東芝 顔画像登録装置及びその方法
JP2000048184A (ja) 1998-05-29 2000-02-18 Canon Inc 画像処理方法及び顔領域抽出方法とその装置
JP2002152772A (ja) * 2000-08-28 2002-05-24 Fuji Photo Film Co Ltd ホワイトバランス補正装置及びホワイトバランス補正方法と濃度補正方法並びにこれらの方法を実行するためのプログラムを記録した記録媒体
JP4826028B2 (ja) * 2001-05-24 2011-11-30 株式会社ニコン 電子カメラ
JP2002374539A (ja) * 2001-06-15 2002-12-26 Olympus Optical Co Ltd ホワイトバランス補正可能なカメラ
JP3927802B2 (ja) * 2001-12-19 2007-06-13 株式会社リコー 画像処理装置
JP3513506B2 (ja) * 2002-02-20 2004-03-31 キヤノン株式会社 ホワイトバランス補正装置およびそれを搭載した撮像装置、及びホワイトバランス補正方法
US6975759B2 (en) * 2002-06-25 2005-12-13 Koninklijke Philips Electronics N.V. Method and system for white balancing images using facial color as a reference signal
JP4182735B2 (ja) 2002-11-28 2008-11-19 ソニー株式会社 顔色補正方法及び顔色補正装置及び撮像機器
JP4375781B2 (ja) * 2002-11-29 2009-12-02 株式会社リコー 画像処理装置および画像処理方法並びにプログラムおよび記録媒体
JP2004236110A (ja) * 2003-01-31 2004-08-19 Canon Inc 画像処理装置、画像処理方法、記憶媒体及びプログラム
JP2004312139A (ja) * 2003-04-03 2004-11-04 Canon Inc 撮像装置
US20040208363A1 (en) * 2003-04-21 2004-10-21 Berge Thomas G. White balancing an image
US7599093B2 (en) * 2004-09-30 2009-10-06 Fujifilm Corporation Image processing apparatus, method and program
US7652717B2 (en) * 2005-01-11 2010-01-26 Eastman Kodak Company White balance correction in digital camera images
JP4284448B2 (ja) * 2005-01-28 2009-06-24 富士フイルム株式会社 画像処理装置及び方法
JP4751776B2 (ja) * 2006-06-19 2011-08-17 オリンパスイメージング株式会社 電子撮像装置及び個人特定システム
JP4761066B2 (ja) * 2006-09-22 2011-08-31 富士フイルム株式会社 ホワイトバランス補正方法及び撮像装置
JP2008124928A (ja) * 2006-11-14 2008-05-29 Toshiba Corp オートホワイトバランスシステム
JP5021338B2 (ja) * 2007-03-02 2012-09-05 富士フイルム株式会社 ホワイトバランス補正装置および方法
JP5066398B2 (ja) * 2007-06-29 2012-11-07 富士フイルム株式会社 画像処理装置および方法並びにプログラム
JP4702635B2 (ja) * 2007-07-17 2011-06-15 富士フイルム株式会社 オートホワイトバランス補正値算出装置、方法およびプログラムならびに撮像装置
JP5064947B2 (ja) * 2007-09-11 2012-10-31 キヤノン株式会社 画像処理装置及び方法、及び撮像装置
JP5113514B2 (ja) * 2007-12-27 2013-01-09 キヤノン株式会社 ホワイトバランス制御装置およびホワイトバランス制御方法
JP5398156B2 (ja) * 2008-03-04 2014-01-29 キヤノン株式会社 ホワイトバランス制御装置およびその制御方法並びに撮像装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001148863A (ja) * 1999-11-19 2001-05-29 Victor Co Of Japan Ltd ホワイトバランス調整方法及び調整装置
JP2005122612A (ja) * 2003-10-20 2005-05-12 Seiko Epson Corp 色補正装置、色補正方法、色補正プログラム、色変換装置、色変換方法および色変換プログラム
JP2006352795A (ja) * 2005-06-20 2006-12-28 Canon Inc 撮像装置及び画像処理方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018174581A1 (ko) * 2017-03-24 2018-09-27 삼성전자주식회사 전자 장치의 화이트 밸런스 기능 제어 방법 및 장치
US11025876B2 (en) 2017-03-24 2021-06-01 Samsung Electronics Co., Ltd. Method and device for controlling white balance function of electronic device
JP2021136661A (ja) * 2020-02-28 2021-09-13 キヤノン株式会社 画像処理装置、画像処理方法、プログラム、記憶媒体

Also Published As

Publication number Publication date
USRE46232E1 (en) 2016-12-06
US20090067683A1 (en) 2009-03-12
US8160310B2 (en) 2012-04-17
JP5064947B2 (ja) 2012-10-31
CN101389039B (zh) 2012-04-04
CN101389039A (zh) 2009-03-18

Similar Documents

Publication Publication Date Title
JP5064947B2 (ja) 画像処理装置及び方法、及び撮像装置
JP5113514B2 (ja) ホワイトバランス制御装置およびホワイトバランス制御方法
JP4217698B2 (ja) 撮像装置及び画像処理方法
US8614749B2 (en) Image processing apparatus and image processing method and image capturing apparatus
JP5398156B2 (ja) ホワイトバランス制御装置およびその制御方法並びに撮像装置
US8150188B2 (en) Imaging apparatus
JP6904788B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP5215775B2 (ja) ホワイトバランス制御装置およびそれを用いた撮像装置並びにホワイトバランス制御方法
JP4726251B2 (ja) 撮像装置及び画像処理方法
JP5744945B2 (ja) 画像処理装置及び方法、及び撮像装置
JP4971785B2 (ja) 画像処理装置及び方法、及び撮像装置
US20060114527A1 (en) Image pickup apparatus
JP5106311B2 (ja) ホワイトバランス制御装置およびそれを用いた撮像装置並びにホワイトバランス制御方法
JP5237480B2 (ja) 画像処理装置及び方法、及び撮像装置
JP2006148326A (ja) 撮像装置及び撮像装置の制御方法
JP5367140B2 (ja) ホワイトバランス制御装置およびそれを用いた撮像装置並びにホワイトバランス制御方法
JP5606300B2 (ja) 撮像装置及び撮像装置の制御方法
JP5677485B2 (ja) ホワイトバランス制御装置およびそれを用いた撮像装置並びにホワイトバランス制御方法
JP2021086269A (ja) 画像処理装置、その制御方法及びプログラム
JP2015119436A (ja) 撮像装置
JP2007312099A (ja) 撮像装置
JP4773924B2 (ja) 撮像装置及びその制御方法及びプログラム及び記憶媒体
US20200118304A1 (en) Image processing apparatus, image processing method, and recording medium

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100909

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100909

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120409

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120427

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120621

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120713

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120809

R151 Written notification of patent or utility model registration

Ref document number: 5064947

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150817

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees