JP4799101B2 - 画像処理方法および装置ならびにプログラム - Google Patents

Description

本発明は、顔等の所定の構造物が表された複数の画像からニキビ等の除去対象の要素を除去する画像処理を行う方法や装置、この方法をコンピュータに実行させるためのプログラムに関するものである。

写真画像中の不要な成分を除去する技術の一例として、顔部分のニキビやシミを軽減・除去する美肌処理が知られている。

具体的には、例えば、信号波形に重畳された小振幅の高周波雑音成分の分離・除去するε−フィルタを応用・拡張して、シワやシミなど小振幅の明暗変化を平滑化することや（例えば、特許文献１）、ポインティングデバイスによってシミやそばかす、ニキビ等を指定し、その指定された部分を周辺画素に置換することによって補正を行うこと（例えば、特許文献２）が提案されている。
特開２００１−１１８０６４号公報 特開２００３−３３１３０６号公報

しかしながら、特許文献１記載の美肌処理は、特定の周波数帯域に対する処理のため、高い周波数帯域から低い周波数帯域までの各々の周波数帯域に亘って存在するシワやシミ等を完全に除去できない。

また、特許文献２記載の美肌処理は、手作業で行うものであり、熟練が必要であるとともに、手間がかかる。

本発明はこのような事情に鑑みてなされたものであり、手作業や熟練を必要とせずに、シワやシミ等の写真画像中の不要な成分を完全に除去する画像処理方法および装置ならびにプログラムを提供することを目的とするものである。

本発明による画像処理の方法は、除去対象の要素を含まない所定の構造物が表された複数の画像に対して所定の統計処理を行うことによって得られた統計的特徴量でこの構造物が表現されたモデルに、入力画像中のこの構造物を適応させることによって、入力画像中のこの構造物の除去対象の要素を除去することを特徴とする。

本発明による画像処理装置は上記の画像処理を行う装置である。すなわち、除去対象の要素を含まない所定の構造物が表された複数の画像に対して所定の統計処理を行うことによって得られた統計的特徴量でこの構造物が表現されたモデルと、入力画像中のこの構造物をモデルに適応させることによって、入力画像中のこの構造物の除去対象の要素を除去する除去手段とを設けたことを特徴とする。

さらに、本発明による画像処理プログラムは、上記の画像処理方法をコンピュータに実行させるものである。

ここで、本発明におけるモデルには除去対象の要素が表現されていないため、入力画像中の所定の構造物の部分に除去対象の要素が含まれていたとしても、入力画像中のこの構造物をこのモデルに適応させることによって表現したものは、除去対象の要素を含まないものとなる。したがって、本発明におけるモデルに入力画像中のこの構造物を適応させることによって、この構造物の除去対象の要素を除去することができるのである。

本発明による画像処理の具体的実現手法としては、ＡＡＭ(Active Appearance Models)の手法を利用することが考えられる。ＡＡＭは、モデルに基づいて画像の内容の解釈を試みるアプローチの１つであり、例えば、顔を解釈の対象とする場合、学習対象となる複数の画像中の顔部分の形状や、形状を正規化した後の輝度の情報に対して主成分分析を行うことによって顔の数学モデルを生成し、新たな入力画像中の顔部分を、数学モデルにおける各主成分と各主成分に対する重みづけパラメータで表現し、顔画像を再構成する手法である（Ｔ．Ｆ．クーツ(Cootes), Ｇ．Ｊ．エドワーズ(Edwards), Ｃ．Ｊ．テイラー(Taylor)、「動的見えモデル(Active Appearance Models)」、第５回計算機視覚欧州会議報(In Proc. 5th European Conference on Computer Vision)、ドイツ、シュプリンガー(Springer)、1998年、vol.2、p.p.484-498；以下、参考文献１とする）。

本発明の画像処理の具体的適用例としては、このＡＡＭの手法を用いて顔画像中のニキビを除去する処理が考えられる。すなわち、ニキビを含まない顔が表された複数の画像に対して主成分分析を行うことによって得られた統計的特徴量で顔が表現されたモデルに、入力画像中の顔部分を適応させることによって、数学モデルにおける各主成分に対する重みづけパラメータを求め、そのパラメータによる画像を再構成する。これにより、このモデルにはニキビが表現されていないため、入力画像中の顔の部分にニキビが含まれていたとしても、入力画像中の顔部分をこのモデルに適応させることによって表現したものは、ニキビを含まないものとなる。したがって、入力画像中の顔部分からニキビを除去することができる。

次に、本発明による画像処理方法、装置、プログラムの詳細について説明する。

「所定の構造物」は、モデル化に適したもの、すなわち、その構造物の画像中における形状や輝度の変動が一定の範囲に収まるもの、特に、統計処理を行うことによって形状や輝度についての説明力のより高い統計的特徴量が得られるものであることが好ましい。具体例としては人間の顔が挙げられる。

「除去対象の要素」は、統計処理によって説明力のより低い統計的特徴量が得られるものであることが好ましい。具体例としては、ニキビ、シワ、シミ、小さな傷、無精ヒゲ、フレア等が考えられる。

「除去対象の要素を含まない所定の構造物が表された画像」は、除去対象要素がそもそも存在しない構造物を実際に撮影することによって得られた画像（例：ニキビがない顔を撮影して得られた画像）であってもよいし、除去対象要素が存在する構造物が表された画像からその要素を除去する補正を行って人工的に得られた画像（例：ニキビがある顔の画像を補正してニキビを除去した画像）であってもよい。

「所定の統計処理」としては、所定の構造物を、その構造物を表す画素の数よりも少ない次元数の統計的特徴量に圧縮して表すことができる次元圧縮処理が好ましい。具体例としては主成分分析等の多変量解析手法が考えられる。また、「所定の統計処理」として主成分分析を行った場合、「統計的特徴量」とは、主成分分析によって得られる複数の主成分を意味する。

なお、上記の説明力の高低とは、所定の統計処理が主成分分析である場合を例にすると、上位の主成分ほど説明力が高く、下位主成分ほど説明力が低いという意味になる。

「統計的特徴量」には、少なくともその構造物の輝度に基づく情報が表現されている必要がある。除去対象の要素は、輝度の分布によって画像中に表現されるものだからである。

「入力画像中の（所定の）構造物」は、自動的に検出するようにしてもよいし、手動で検出するようにしてもよい。また、本発明は、入力画像中の前記構造物を検出する処理（手段）をさらに有していてもよいし、予め入力画像から検出された前記構造物の部分をモデルに適応させる処理に対する入力としてもよい。

「入力画像中のこの構造物をモデルに適応させる」とは、入力画像中のこの構造物をモデルによって表現するための演算処理等を意味する。具体的には、上記のＡＡＭの手法を用いた場合を例にすると、数学モデルにおける各主成分に、入力画像中のこの構造物を表現するための重みづけをする重みづけパラメータの値を求めることを意味する。

また、本発明におけるモデルを所定の構造物の属性毎に複数準備しておき、入力画像中のその構造物の属性を表す情報を取得し、取得された属性に応じてモデルを選択する処理（手段）を付加し、選択されたモデルに入力画像中の所定の構造物を適応させるようにしてもよい。

ここで、「属性」とは、例えば、所定の構造物が人間の顔の場合、性別や年齢、人種等が考えられる。また、個人を特定する情報であってもよい。この場合には、属性毎のモデルは個人毎のモデルを意味する。

この「属性」の具体的取得方法としては、画像に対する公知の認識処理（例えば、特開平11-175724号公報記載）や、ＧＰＳ情報等の画像の付帯情報からの推定・取得が考えられる。

本発明の画像処理方法および装置ならびにプログラムによれば、除去対象の要素を含まない所定の構造物が表現されたモデルに、入力画像中のこの構造物を適応させることによって、手作業を伴わない自動処理によって、この構造物の除去対象の要素を完全に除去することができる。したがって、操作に対する熟練を必要とせず、また、手間をかけることなく、除去精度のきわめて高い画像が得られる。

また、本発明におけるモデルを所定の構造物の属性毎に複数備えるとともに、入力画像中のその構造物の属性を取得し、取得された属性に応じたモデルを選択する処理（手段）を付加し、選択された属性のモデルに入力画像中の所定の構造物を適応させるようにした場合、入力画像中のその構造物を、より適切なモデルに適応させることが可能になるため、処理精度が向上し、より高品質の画像が得られる。

以下、本発明の画像処理を行うことによって顔画像中のニキビを除去する場合を例として、図面を参照しつつ、本発明の実施の形態について説明する。

図１は、本発明の実施形態となるデジタル写真プリンタのハードウェア構成を模式的に表したものである。図に示したように、このデジタル写真プリンタは、フィルムスキャナ５１、フラットヘッドスキャナ５２、メディアドライブ５３、ネットワークアダプタ５４、ディスプレイ５５、キーボード５６、マウス５７、ハードディスク５８、写真プリント出力機５９が演算・制御装置５０に接続された構成となっている。

演算・制御装置５０は、ＣＤ−ＲＯＭ等の記憶媒体からインストールされたプログラムの実行により、この装置内のＣＰＵや主記憶装置、各種入出力インターフェースと連携して、画像の入力、補正、加工、出力のフローを制御したり、画像の補正や加工のための画像処理の演算を行ったりするものである。本発明によるニキビ除去処理はこの装置で行われる。

フィルムスキャナ５１は、現像機（図示なし）によって現像済みのＡＰＳネガフィルムや１３５ネガフィルムを光電的に読み取って、これらのネガフィルムに記録されている写真画像を表すデジタル画像データＰ0を取得するものである。

フラットヘッドスキャナ５２は、Ｌサイズ写真プリント等のハードコピーに表された写真画像を光電的に読み取って、デジタル画像データＰ0を取得するものである。

メディアドライブ５３は、メモリカードやＣＤ、ＤＶＤ等の記録媒体に記録された写真画像を表す画像データＰ0を取得するものである。また、これらの記録媒体に、出力対象の画像データＰ2を書き込むことも可能である。なお、このメモリカードには、例えば、デジタルカメラによって、撮影された画像の画像データが書き込まれている。また、ＣＤやＤＶＤ等には、例えば、前回のプリント注文時に、フィルムスキャナによって読み取られた画像の画像データが書き込まれている。

ネットワークアダプタ５４は、公知のネットワークフォトサービスシステムにおける注文受付機（図示なし）から画像データＰ0を取得するものである。この画像データＰ0は、ユーザからの写真プリントの注文に基づく画像データであり、ユーザのパソコンからインターネット経由で送信してきたものである。また、ラボ店の店頭に設置された写真注文受付機から送信されてきたものであってもよい。

ディスプレイ５５は、このデジタル写真プリンタにおける画像の入力、補正、加工、出力のための操作画面を表示するものであり、操作内容を選択するためのメニューや処理対象の画像等が表示される。また、キーボード５６やマウス５７は、処理内容を指示するものである。

ハードディスク５８には、このデジタル写真プリンタを制御するプログラムが記憶されている他、フィルムスキャナ５１、フラットヘッドスキャナ５２、メディアドライブ５３、ネットワークアダプタ５４において取得された画像データＰ0や、画像補正後の画像データＰ1、画像加工後の画像データ（出力対象の画像データ）Ｐ2も一時的に記憶される。

写真プリント出力機５９は、出力対象の画像を表す画像データＰ2に基づいたレーザーによる印画紙への走査露光、現像、乾燥を行うとともに、プリント情報等の裏印字、印画紙のプリント単位での切断や注文単位でのソート等を行うものである。なお、写真プリントの方式は、レーザー露光熱現像転写方式等であってもよい。

図２は、このデジタル写真プリンタの機能と処理の流れを示すブロック図である。図に示したように、機能の観点からは、このデジタル写真プリンタは、写真プリント対象の画像の画像データＰ0を入力する画像入力手段１と、画像データＰ0を入力として、所定の画像処理条件に基づく画像処理を行って、画像データＰ0による画像（以下、画像データとその画像データによる画像を同じ符号で表す）の画質の自動補正を行う画像補正手段２と、自動補正後の画像データＰ1を入力として、操作者からの指示に基づいた画像処理を行う画像加工手段３と、加工済みの画像データＰ2を入力として、写真プリントの出力や記録メディアへの出力を行う画像出力手段４とから構成されている。

画像補正手段２では、ホワイトバランスの調整やコントラスト補正、シャープネス補正、ノイズ軽減・除去等の処理が行われる。また、画像加工手段３では、画像補正手段２による処理結果の手作業による修正や、トリミング、拡大・縮小、セピア化、白黒化、装飾フレームとの合成等の画像の加工が行われる他、本発明によるニキビ除去処理も行われる。

このデジタル写真プリンタの操作とこのプリンタで行われる処理の流れは以下のようになる。

まず、画像入力手段１による画像データＰ0の入力が行われる。操作者は、現像済みのフィルムに記録された画像からのプリント等の出力を行う場合には、そのフィルムをフィルムスキャナ５１にセットしておき、メモリカード等の記録メディアに記録された画像データからのプリント等の出力を行う場合には、その記録メディアをメディアドライブ５３にセットしておく。一方、ディスプレイ５５には、画像データの入力元を選択する画面が表示され、操作者はキーボード５６やマウス５７の操作によって、入力元の選択を行う。入力元としてフィルムが選択された場合には、フィルムスキャナ５１は、セットされたフィルムを光電的に読み取り、デジタル変換することによって、生成された画像データＰ0を演算・制御装置５０に送信する。写真プリント等のハードコピー原稿が選択された場合には、フラットヘッドスキャナ５２は、セットされた写真プリント等のハードコピー原稿を光電的に読み取り、デジタル変換することによって、生成された画像データＰ0を演算・制御装置５０に送信する。メモリカード等の記録メディアが選択された場合には、演算・制御装置５０は、メディアドライブ５３にセットされたメモリカード等の記録メディアに記憶されている画像データＰ0を読み込む。また、ネットワークフォトサービスシステムや店頭での写真受付注文機による注文の場合には、演算・制御装置５０が、ネットワークアダプタ５４経由で画像データＰ0を受信する。このようにして取得された画像データＰ0は、ハードディスク５８に一時的に記憶される。

次に、画像補正手段２が、画像Ｐ0による画像に対する自動画質補正処理を行う。具体的には、演算・制御装置５０で実行される画像処理プログラムにより、予め、このデジタル写真プリンタに設定されているセットアップ条件に基づいて、公知のホワイトバランスの調整やコントラスト補正、シャープネス補正、ノイズ軽減・除去等の処理が行われ、処理済みの画像データＰ1が出力される。出力された画像データＰ1は演算・制御装置５０のメモリに格納される。なお、ハードディスク５９に一時的に記憶するようにしてもよい。

その後、画像加工手段３は、補正後の画像Ｐ1のサムネイル画像を生成し、ディスプレイ５５に表示させる。図３（ａ）は、ディスプレイ５５に表示される画面の一例である。操作者が、表示されたサムネイル画像を確認し、画質の手動補正が必要なものや、画像の加工の注文があるものを、マウス５７やキーボード５６の操作によって選択すると（図３（ａ）では左上の画像DSCF0001を選択）、図３（ｂ）に一例を示すように、選択されたサムネイル画像が拡大されてディスプレイ５５に表示されるとともに、その画像に対する手動補正や加工の処理内容を選択するボタンが表示される。操作者は、表示されたボタンの中から所望のものをマウス５７やキーボード５６の操作によって選択し、必要に応じて、選択された処理内容のさらに詳細な設定等を行う。画像加工手段３は、選択された処理内容に応じた画像処理を行い、処理済みの画像データＰ2を出力する。出力された画像データＰ2は演算・制御装置５０のメモリに格納される。なお、ハードディスク５９に一時的に記憶するようにしてもよい。なお、以上の画像加工手段３による、ディスプレイ５５への画面表示、マウス５７やキーボード５６による入力の受付、手動補正や加工の画像処理等は、演算・制御装置５０で実行されているプログラムによって制御される。

最後に、画像出力手段４が、画像Ｐ2の出力を行う。ここでは、演算・制御装置５０が、ディスプレイ５５に出力先を選択する画面を表示させ、操作者は、マウス５７やキーボード５６の操作によって、所望の出力先を選択する。演算・制御装置５０は、選択された出力先に対して画像データＰ2を送信する。写真プリント出力を行う場合には、画像データＰ2は写真プリント出力機５９に送信され、画像Ｐ2が写真プリントとして出力される。ＣＤ等の記録メディアに出力を行う場合には、メディアドライブ５３にセットされたＣＤ等に画像データＰ2の書込みが行われる。

ここで、上記の処理の流れの中で、図３（ｂ）の画面で「ニキビ除去」を選択した場合に行われる、本発明によるニキビ除去処理の詳細について以下に説明する。図４は、このニキビ除去処理の詳細を表すブロック図である。図に示したように、画像Ｐ1中の顔部分を検出する顔検出部３１と、ニキビを含まない顔部分が表された複数のサンプル画像に基づいてＡＡＭ（前記の参考文献１参照）の手法によって生成された数学モデルＭに、検出された顔部分Ｐ1fを適応させることによって、顔部分Ｐ1f中のニキビを除去するニキビ除去部３２と、数学モデルＭに適応させることによって得られた顔部分Ｐ1fに対応するパラメータＣ（後述）に基づいて、ニキビが除去された顔部分の画像Ｐ1f′を再構成し、さらに、画像Ｐ1の顔部分に画像Ｐ1f′をはめ込んで合成して、画像Ｐ1中の顔部分のニキビを除去した画像P2を生成する画像再構成部３３とによって、このニキビ除去処理が実現される。なお、これらの処理の制御は演算・制御装置５０にインストールされたプログラムによって行われる。

この数学モデルＭは、図５のフローチャートに基づいて生成されたものであり、上記のプログラムとともに予めインストールされている。以下では、この数学モデルＭの生成過程について説明する。

まず、サンプルとなるニキビを含まない複数の顔画像（サンプル画像）の各々に対して、図６に示すように、顔形状を表す特徴点を設定する（ステップ#1）。ここでは、特徴点の数は１２２箇所とする（ただし、図６では簡潔に表現するため６０箇所しか表していない）。各特徴点は、例えば、１番目の特徴点は左目の左端、３８番目の特徴点は眉の間の中央というように、顔のどの部位を示すものであるかが予め定められている。また、各特徴点は、手作業によって設定してもよいし、認識処理によって自動的に設定するようにしてもよいし、自動的に設定後、必要に応じて手作業で修正するようにしてもよい。

次に、各サンプル画像中に設定された特徴点に基づいて、顔の平均形状を算出する（ステップ#2)。具体的には、各サンプル画像における、同じ部位を示す特徴点毎の位置座標の平均を求める。

さらに、各サンプル画像における顔形状を表す特徴点とその平均形状の位置座標に基づいて主成分分析を行う（ステップ#3)。その結果、任意の顔形状は次式（１）によって近似することができる。

ここで、Ｓは顔形状の各特徴点の位置座標を並べて表現される形状ベクトル（ｘ₁,ｙ₁,・・・,ｘ₁₂₂，ｙ₁₂₂）であり、Ｓ₀は平均顔形状における各特徴点の位置座標を並べて表現される平均顔形状ベクトル、ｐ_iは主成分分析によって得られた顔形状についての第ｉ主成分を表す固有ベクトル、ｂ_iは各固有ベクトルｐ_iに対する重みづけ係数を表す。図７は、主成分分析によって得られた上位２つの主成分の固有ベクトルｐ₁、ｐ₂に対する重みづけ係数ｂ₁、ｂ₂の値を変化させた場合の顔形状の変化の様子を模式的に表したものである。変化の幅は、サンプル画像の各々の顔形状を上式（１）で表した場合における重みづけ係数ｂ₁、ｂ₂の値の標準偏差sdに基づいて、-3sdから+3sdまでの間であり、各主成分についての３つの顔形状の中央のものは平均値の場合である。この例では、主成分分析の結果、第１主成分としては顔の輪郭形状に寄与する成分が抽出されており、重みづけ係数ｂ₁を変化させることによって、細長い顔（-3sd）から丸顔（+3sd）まで顔形状が変化することがわかる。同様に、第２主成分としては口の開閉状態と顎の長さに寄与する成分が抽出されており、重みづけ係数ｂ₂を変化させることによって、口が開いた状態で顎の長い顔（-3sd）から口が閉じられた状態で顎が短い顔（+3sd）まで顔の形状が変化することがわかる。なお、ｉの値が小さいほど、形状に対する説明力が高い、すなわち、顔形状への寄与が大きいことを意味する。

次に、各サンプル画像をステップ#2で得られた平均顔形状に変換（ワーピング）する（ステップ#4）。具体的には、各特徴点について、各サンプル画像と平均顔形状との間でのシフト量を算出し、そのシフト量に基づいて、式（２）から（５）の２次元５次多項式により各サンプル画像の画素毎の平均顔形状へのシフト量を算出し、各サンプル画像を画素毎に平均顔形状へワーピングする。

ここで、ｘ，ｙは各サンプル画像中の各特徴点の座標、ｘ′，ｙ′はワーピングされる平均顔形状上の座標、Δｘ，Δｙは平均形状へのシフト量、ｎは次数、ａij，ｂijは係数である。なお、多項式近似の係数は最小自乗法を用いて求める。このとき、ワーピング後の座標が整数ではなく小数点以下を含む位置に移動する画素については、４近傍から１次近似で画素値を求める。つまり、ワーピング後の座標を囲む４つの画素に対して、ワーピング後の座標から各画素の座標までの距離に比例して画素値をそれぞれ分配するようにする。図８は、２つのサンプル画像について、各々の画像中の顔形状を平均顔形状に変換し、平均顔形状下での輝度を表したものである。

さらに、平均顔形状に変換後の各サンプル画像の輝度に基づいて主成分分析を行う（ステップ#5)。その結果、任意の顔画像の平均顔形状下での輝度は次式（６）によって近似することができる。

ここで、Ａは平均顔形状下での各画素の輝度を並べて表現される輝度ベクトル（ａ₁,・・・,ａ_m）（ｍは平均顔形状での総画素数）であり、Ａ₀は平均顔形状における各サンプル画像の画素毎の輝度の平均値を並べて表現される平均顔輝度ベクトル、ｑ_iは主成分分析によって得られた顔輝度についての第ｉ主成分を表す固有ベクトル、λ_iは各固有ベクトルｑ_iに対する重みづけ係数を表す。図９は、主成分分析によって得られた主成分のうち第ｉ₁、第ｉ₂の主成分を表す固有ベクトルｑ_i1、ｑ_i2に対する重みづけ係数λ_i1、λ_i2の値を変化させた場合の顔輝度の変化の様子を模式的に表したものである。変化の幅は、サンプル画像の各々の顔輝度を上式（６）で表した場合における重みづけ係数λ_i1、λ_i2の値の標準偏差sdに基づいて、-3sdから+3sdまでの間であり、各主成分についての３つの顔画像の中央のものは平均値の場合である。この例では、主成分分析の結果、第ｉ₁主成分としてはヒゲの有無に寄与する成分が抽出されており、重みづけ係数λ_i1を変化させることによって、ヒゲの濃い顔（-3sd）からヒゲのない顔（+3sd）まで顔輝度が変化することがわかる。同様に、第ｉ₂主成分としては顔にかかる影の状態に寄与する成分が抽出されており、重みづけ係数λ_i2を変化させることによって、顔の右側に影がかかった顔（-3sd）から左側に影がかかった顔（+3sd）まで顔の輝度が変化することがわかる。なお、ｉの値が小さいほど、輝度に対する説明力が高い、すなわち、顔輝度への寄与が大きいことを意味する。

以上のステップ#1から#5までの処理によって、顔の数学モデルＭが生成される。すなわち、この数学モデルＭは、顔形状を表す複数の固有ベクトルｐ_iと、平均顔形状下での顔輝度を表す固有ベクトルｑ_iによって表現されるものであり、各固有ベクトルの合計数が、顔画像を形成する画素数よりも大幅に少ない、次元圧縮されたものとなっている。なお、上記参考文献１記載の実施例では、約10,000画素により形成される顔画像に対して122の特徴点を設定して上記の処理を行うことによって、顔形状についての23の固有ベクトルと顔輝度についての114の固有ベクトルで表される顔画像の数学モデルが生成され、各固有ベクトルに対する重みづけ係数を変化させることによって、約90％の顔形状や輝度のバリエーションを表現できることが示されている。

次に、この数学モデルＭを利用したＡＡＭの手法に基づくニキビ除去処理の流れについて、図４と図１０を参照しながら説明する。

まず、顔検出部３１が、画像データＰ1を読み込み、画像Ｐ1（図１０（ａ））中の顔部分Ｐ1fを検出する（図１０（ｂ））。具体的には、特開２００５−１０８１９５号公報（参考文献２）に記載されているように、画像Ｐ１の各画素におけるエッジの向きと大きさを表す勾配ベクトルの向きを表す第１の特徴量を、複数の第１の識別器（後述）に入力することによって画像Ｐ１中に顔候補領域が存在するかどうかを判定し、さらに、顔候補領域が存在する場合には、その領域を抽出し、抽出された顔候補領域の各画素における勾配ベクトルの大きさを正規化し、正規化後の勾配ベクトルの大きさと向きを表す第２の特徴量を、第２の識別器（後述）に入力することによって、抽出された顔候補領域が真の顔領域であるかどうかを判定し、真の顔領域であれば、その領域を顔部分Ｐ１fとして検出することが考えられる。ここで、第１／第２の識別器は、学習用サンプルとなる顔であることがわかっている複数の画像と顔でないことがわかっている複数の画像の各々について算出された第１／第２の特徴量を入力とする、AdaBoost等のマシンラーニングの手法を用いた学習処理によって各々得られたものである。

なお、顔部分Ｐ１fの検出方法としては、特表２００４−５２７８６３号公報（参考文献３）に記載されているような固有顔表現と画像自体との相関スコアを用いる方法の他、知識ベース、特徴抽出、肌色検出，テンプレートマッチング、グラフマッチング、統計的手法(ニューラルネットワーク、SVM、HMM)等の様々な公知の手法を用いることができる。なお、画像Ｐ1がディスプレイ５５に表示された際に、マウス５７やキーボード５６の操作により、手作業で顔形状Ｐ1fを指定するようにしてもよいし、自動検出の結果を手作業で修正するようにしてもよい。

次に、ニキビ除去部３２は、顔部分Ｐ1fを数学モデルＭに適応させる処理を行う。具体的には、上記式（１）（６）の上位の主成分の固有ベクトルｐ_i、ｑ_iに対する重みづけ係数ｂ_i、λ_iから順に係数の値を変化させながら、上記式（１）（６）に基づいて画像を再構成し、再構成された画像と顔部分Ｐ1fとの差異が最小となる時の重みづけ係数ｂ_i、λ_i（合わせて、パラメータＣと呼ぶ）を求める（詳細は、参考文献３参照）。なお、重みづけ係数ｂ_i、λ_iの値は、モデル生成時のサンプル画像を上記（１）（６）で表したときのｂ_i、λ_iの分布の標準偏差sdに基づき、例えば-3sdから+3sdまでの範囲の値のみを許容し、その範囲を超える場合には、上記の分布における平均値を設定するようにすることが好ましい。これにより、モデルの誤適応を回避することができる。

さらに、画像再構成部３３は、求められたパラメータＣを上記（１）（６）に代入することによって、顔画像Ｐ1f′を再構成し（図１０（ｃ））、さらに、画像Ｐ1の顔部分Ｐ1fを、再構成された顔画像Ｐ1f′に置換して合成することによって、画像Ｐ2を生成し（図１０（ｄ））、画像データＰ2を出力する。

以上のように、本発明の実施形態となるニキビ除去処理によれば、ニキビ除去部３２が、顔検出部３１によって検出された画像Ｐ1中の顔部分Ｐ1fを、ニキビを含まない顔部分が表された複数のサンプル画像に基づいてＡＡＭの手法によって生成された数学モデルＭに適応させ、画像再構成部３３が、この数学モデルＭに適応させることによって得られた顔部分Ｐ1fに対応するパラメータＣに基づいて、ニキビが除去された顔部分の画像Ｐ1f′を再構成し、さらに、画像Ｐ1の顔部分に画像Ｐ1f′をはめ込んで合成して画像P2を生成する。ここで、数学モデルＭは、ニキビを含まない顔部分が表されたサンプル画像から生成されたものであるため、モデルＭにはニキビが表現されていない。したがって、入力画像Ｐ1の顔の部分Ｐ1fにニキビが含まれていたとしても、入力画像Ｐ1の顔部分Ｐ1fをこのモデルＭに適応させることによって表現したものは、ニキビを含まないものとなる。このように、本発明のニキビ除去処理によれば、手作業を伴わない自動処理によって、ニキビを完全に除去することができる。したがって、操作に対する熟練を必要とせず、また、手間をかけることなく、除去精度のきわめて高い画像Ｐ2が得られる。

なお、上記の実施形態では、数学モデルＭが１つだけ存在するようにしていたが、人種別、年齢別、性別等の属性別に複数の数学モデルＭ_i（i=1,2,・・・）を生成しておいてもよい。図１１は、この場合のニキビ除去処理の詳細を表すブロック図である。図に示したように、画像Ｐ1に基づいて、画像中の被写体の属性情報Ａ_Kを取得する属性取得部３４と、取得した属性情報Ａ_Kに基づいて、その属性を有する被写体を表すサンプル画像のみから生成された数学モデルＭ_Kを選択するモデル選択部３５とを有している点で、上記の実施形態（図４）とは異なる。

ここで、複数の数学モデルＭ_iは、例えば、同じ人種、年代、性別等を有する被写体表すサンプル画像のみから前述の方法（図５参照）に基づいて各々生成されたものであり、サンプル画像における共通の属性を表す属性情報Ａ_iと関連づけられて記憶されている。

属性取得部３４は、画像Ｐ1に対する公知の認識処理（例えば、特開平11-175724号公報記載）を行うことによって、被写体の属性を判定し、属性情報Ａ_Kを取得してもよいし、撮影時に被写体の属性を画像データＰ1の付帯情報としてヘッダ等に記録しておき、記録された情報を取得するようにしてもよい。また、付帯情報に基づいて被写体の属性を推定するようにしてもよい。例えば、撮影場所のＧＰＳ情報があれば、そのＧＰＳ情報に対応する国や地域を特定することができるので、撮影された被写体の人種をある程度推定することができることに着目し、ＧＰＳ情報と人種情報を関連づける参照テーブルを予め用意しておき、撮影時にＧＰＳ情報を取得して画像データＰ1のヘッダ領域に記録するデジタルカメラ（例えば、特開2004-153428号公報記載）で得られた画像データＰ1を入力として、画像データＰ1のヘッダ領域に記録されているＧＰＳ情報を取得し、取得したＧＰＳ情報に基づいて前記の参照テーブルを参照し、そのＧＰＳ情報に関連づけられた人種情報を被写体の人種として推定することが考えられる。

モデル選択部３５は、属性取得部３４によって得られた属性情報Ａ_Kと関連づけられた数学モデルＭ_Kを取得し、ニキビ除去部３２は、画像Ｐ1の顔部分Ｐ1fを数学モデルＭ_Kに適応させる。

このように、複数の属性に応じた数学モデルＭ_iを予め用意しておき、モデル選択部３５が、属性取得部３４で取得した属性Ａ_Kと関連づけられた数学モデルＭ_Kを選択し、ニキビ除去部３２が、選択された数学モデルＭ_Kに顔形状Ｐ1fを適応させるようにした場合には、数学モデルＭ_Kには属性Ａ_Kの違いに起因する顔形状や輝度のバリエーションを説明する固有ベクトルは存在しないので、顔形状や輝度を決定する他の要因を表す固有ベクトルのみに基づいて、顔形状Ｐ1fを表現することが可能になり、処理精度が向上し、より高品質の画像が得られる。

なお、処理精度の向上の観点からは、属性別の数学モデルをさらに特化させ、被写体の個人別の数学モデルを構築しておくことが好ましい。この場合には、画像Ｐ1と個人を特定する情報とを関連づけておく必要がある。

また、上記の実施形態では、数学モデルは予めデジタル写真プリンタにインストールされているものとしているが、人種別の数学モデルを予め準備しておき、そのプリンタの出荷先の国や地域によって、インストールする数学モデルを変えることも処理精度の向上の観点からは好ましい。

さらに、この数学モデルを生成する機能をデジタル写真プリンタに実装するようにしてもよい。具体的には、図５のフローチャートに基づいて説明した処理を行わせるプログラムを演算・制御装置５０にインストールしておけばよい。また、出荷時にはデフォルトの数学モデルをインストールしておき、そのデジタル写真プリンタへの入力画像を用いて、その数学モデルをカスタマイズ（変更）できるようにしたり、デフォルトの数学モデルとは異なる新たなモデルを生成するようにしたりすることも考えられる。これは、前記のように個人別のモデルを生成する場合に特に有効である。

また、上記の実施形態では、顔形状と輝度についての別個の重みづけ係数ｂ_i、λ_iによって、個別の顔画像を表現していたが、顔形状と輝度のバリエーションには相関性があることから、重みづけ係数ｂ_i、λ_iを結合して得られるベクトル（ｂ₁,ｂ₂,・・・,ｂ_i,・・・,λ₁,λ₂,・・・,λ_i,・・・）に対してさらに主成分分析を行うことにより、次式（７）（８）に示したように、顔形状と輝度の両方を制御する新しいアピアランスパラメータｃを得ることができる。

ここで、アピアランスパラメータｃとベクトルＱ_Sによって平均顔形状からの形状の変動分が表現され、アピアランスパラメータｃとベクトルＱ_Aによって平均顔輝度からの輝度の変動分要素が表現される。

このモデルを用いた場合には、ニキビ除去部３２は、アピアランスパラメータｃの値を変化させながら、上記式（８）に基づいて平均顔形状下での顔輝度を求め、さらに、上記式（７）に基づいて平均顔形状からの変換を行うことによって、顔画像を再構成し、再構成された画像と顔部分Ｐ1fとの差異が最小となる時のアピアランスパラメータｃを求めることになる。

本発明の他の実施形態としては、上記のニキビ除去処理をデジタルカメラに実装することが考えられる。図１２は、このようなデジタルカメラの構成を模式的に表したものである。図に示すように、このデジタルカメラは、レンズ、絞り、シャッター、ＣＣＤ等からなり、被写体の撮像を行う撮像部７１、撮像部７１のＣＣＤに蓄積された電荷によるアナログ信号をデジタル化して、デジタル画像データＰ0を得るＡ／Ｄ変換部７２、画像データＰ0等に対して各種画像処理を行う画像処理部７３、メモリカードに記録する画像データの圧縮処理やメモリカードから読み込んだ圧縮形式の画像データに対する伸長処理を行う圧縮／伸長部７４、ストロボ等からなり、ストロボ発光を行うストロボ部７５、各種操作ボタン等からなり、撮影条件や画像処理条件等の設定を行う操作部７６、画像データが記録されるメモリカードとのインターフェースとなるメディア記録部７７、液晶ディスプレイ等からなり、スルー画や撮影された画像、各種設定メニュー等を表示する表示部７８、前記各部による処理の制御を行う制御部７０、制御プログラムや画像データ等を記憶する内部メモリ７９を有している。

ここで、図２の画像入力手段１は撮像部７１とＡ／Ｄ変換部７２、画像補正手段２は画像処理部７３、画像加工手段３は画像処理部７３と操作部７６と表示部７８、画像出力手段４はメディア記録部７７によって、制御部７０による制御の下で内部メモリ７９も使用しつつ、各々の機能が実現される。

次に、このデジタルカメラの操作と処理の流れについて説明する。

まず、撮影者によるシャッターの全押し操作によって、撮像部７１がレンズに入射した被写体光をＣＣＤの光電面に結像させ、光電変換の後、アナログ画像信号を出力し、Ａ／Ｄ変換部７２が、出力されたアナログ画像信号をデジタル画像信号に変換し、デジタル画像データＰ0として出力することによって、画像入力手段１として機能する。

次に、画像処理部７３が、オートホワイトバランス調整処理、光源種に応じたホワイトバランス調整処理、階調補正処理、濃度補正処理、色補正処理、シャープネス処理等を行い、処理済みの画像データＰ1を出力することによって、画像補正手段２として機能する。

ここで、画像Ｐ1が表示部７８により液晶ディスプレイに表示される。表示レイアウトとしては、図３（ａ）に示したサムネイル形式による複数の画像の表示が考えられる。撮影者は、操作部７６の操作ボタンの操作により、加工対象の画像を選択して拡大表示し、メニュー選択によりさらなる画像の手動補正や加工を行う。ここで、「ニキビ除去処理」を選択した場合には、制御部７０が、内部メモリ７９に記憶されているニキビ除去用プログラムを起動し、内部メモリ７９に予め記憶されている数学モデルＭを用いた前述のニキビ除去処理（図４等参照）を画像処理部７３に行わせ、処理済みの画像データＰ２を出力する。以上のようにして、画像加工手段３の機能が実現される。

そして、圧縮／伸長部７４が画像データＰ2をＪＰＥＧなどの圧縮形式に基づく圧縮処理を行い、メディア記録部７７経由でこのデジタルカメラに装填されたメモリカードに圧縮後の画像データを書き込むことによって、画像出力手段４の機能が実現される。

このように、本発明のニキビ除去処理をデジタルカメラの画像処理機能として実装することによって、上記のデジタル写真プリンタの場合と同様の効果を得ることができる。

なお、手動補正や加工処理は、メモリカードに一旦記録された画像に対しても行えるようにしてもよい。具体的には、メモリカードに記憶されている画像データを圧縮／伸長部７４が伸長（解凍）した後、伸長済みの画像データによる画像を表示部７８の液晶ディスプレイに表示し、撮影者が、前記と同様の操作によって所望の画像処理を選択し、画像処理部７３が、選択された画像処理を行う。

また、図１１等で説明した被写体の属性別の数学モデルをデジタルカメラに実装してもよいし、図５で示した数学モデルの生成処理を実装してもよい。ここで、個々のデジタルカメラによる撮影の被写体となる人物はある程度限定されることが多いことから、そのデジタルカメラで主に被写体となる人物の顔についての個人別の数学モデルを生成するようにすれば、顔の個人差による変動のないモデルを生成できるため、その人物の顔に対するニキビ除去処理については、きわめて高い精度で行うことが可能になる。

上記の実施形態のほか、本発明のニキビ除去処理をパソコン等に行わせるプログラムを、レタッチソフトウェアに組み込むことも考えられる。これにより、ユーザは、このソフトウェアが記憶されているＣＤ−ＲＯＭ等の記憶媒体からパソコン等にインストールしたり、インターネット上の所定のサイトからこのソフトウェアをダウンロードしてインストールしたりすることによって、自分のパソコンでの画像の編集加工の１パターンとして、本発明のニキビ除去処理を利用することが可能になる。

なお、以上の説明では、本発明による画像処理を顔画像中のニキビの除去に適用した場合を例にしてきたが、除去対象はニキビに限定されず、シワ、シミ、小さな傷、無精ヒゲ、フレア等についても、これらの要素を含まないサンプル画像に基づいて数学モデルを生成しておくことによって、上記と同様にして、画像中のこれらの要素を除去することが可能である。

本発明の実施形態となるデジタル写真プリンタのハードウェア構成を模式的に示した図 本発明の実施形態となるデジタル写真プリンタおよびデジタルカメラの機能と処理の流れを示すブロック図 本発明の実施形態となるデジタル写真プリンタおよびデジタルカメラのディスプレイに表示される画面の一例を示す図 本発明の一態様となるニキビ除去処理の詳細を表すブロック図 本発明における顔画像の数学モデルを生成する処理の流れを表すフローチャート 顔の特徴点の設定例を表す図 顔形状に対する主成分分析によって得られた主成分の固有ベクトルに対する重みづけ係数の値を変化させた場合の顔形状の変化の様子を模式的に表した図 サンプル画像中の顔形状を平均顔形状に変換し、平均顔形状下での輝度の様子を表した図 顔輝度に対する主成分分析によって得られた主成分の固有ベクトルに対する重みづけ係数の値を変化させた場合の顔輝度の変化の様子を模式的に表した図 本発明のニキビ除去処理によって入力画像が変化していく様子を段階的に表した図 本発明の一態様となるニキビ除去処理の発展的態様を表すブロック図 本発明の他の実施形態となるデジタルカメラの構成を模式的に示した図

符号の説明

１ 画像入力手段
２ 画像補正手段
３ 画像加工手段
４ 画像出力手段
３１ 顔検出部
３２ ニキビ除去部
３３ 画像再構成部
３４ 属性取得部
３５ モデル選択部
５１ フィルムスキャナ
５２ フラットヘッドスキャナ
５３ メディアドライブ
５４ ネットワークアダプタ
５５ ディスプレイ
５６ キーボード
５７ マウス
５８ ハードディスク
５９ 写真プリント出力機
７０ 制御部
７１ 撮像部
７２ Ａ／Ｄ変換部
７３ 画像処理部
７４ 圧縮／伸長部
７５ ストロボ部
７６ 操作部
７７ メディア記録部
７８ 表示部
７９ 内部メモリ

Claims (7)

1. 入力画像に表された所定の構造物に含まれる所定の除去対象の要素を除去する画像処理方法であって、
   前記除去対象の要素を含まない所定の構造物が表された複数の画像に対して所定の統計処理を行うことによって得られた、前記構造物に含まれる前記除去対象の要素以外の要素を表す１以上の統計的特徴量と、前記構造物の個別の特徴に応じて該統計的特徴量に対する重みづけを行う重みづけパラメータとによって、前記除去対象の要素が含まれていない前記構造物が表現されたモデルに、前記入力画像中の前記構造物を適応させることによって、前記入力画像に表された前記構造物に応じた前記重みづけパラメータを取得するステップと、
   取得された前記重みづけパラメータと前記統計的特徴量とに基づいて、前記入力画像中の前記構造物から前記除去対象の要素が除去された出力画像を生成するステップとを含むことを特徴とする画像処理方法。
2. 入力画像に表された所定の構造物に含まれる所定の除去対象の要素を除去する画像処理装置であって、
   前記除去対象の要素を含まない所定の構造物が表された複数の画像に対して所定の統計処理を行うことによって得られた、前記構造物に含まれる前記除去対象の要素以外の要素を表す１以上の統計的特徴量と、前記構造物の個別の特徴に応じて該統計的特徴量に対する重みづけを行う重みづけパラメータとによって、前記除去対象の要素が含まれていない前記構造物が表現されたモデルと、
   前記入力画像中の前記構造物を前記モデルに適応させることによって、前記入力画像に表された前記構造物に応じた前記重みづけパラメータを取得する手段と、
   取得された前記重みづけパラメータと前記統計的特徴量とに基づいて、前記入力画像中の前記構造物から前記除去対象の要素が除去された出力画像を生成する手段とを備えたことを特徴とする画像処理装置。
3. 前記入力画像中の前記構造物を検出する検出手段をさらに備え、
   前記重みづけパラメータを取得する手段が、該検出手段によって検出された前記構造物を前記モデルに適応させるものであることを特徴とする請求項２記載の画像処理装置。
4. 前記モデルを前記所定の構造物の属性毎に複数備えるとともに、
   前記入力画像中の前記構造物の属性を取得し、該属性に応じた前記モデルを選択する選択手段をさらに備え、
   前記重みづけパラメータを取得する手段が、該選択手段によって選択された前記モデルに適応させるものであることを特徴とする請求項２または３記載の画像処理装置。
5. 前記所定の構造物が人間の顔であることを特徴とする第２項から第４項のいずれか１項記載の画像処理装置。
6. 前記除去対象の要素が、ニキビ、シワ、シミ、小さな傷、無精ヒゲ、フレアのうちの少なくとも１つであることを特徴とする第２項から第５項のいずれか１項記載の画像処理装置。
7. 入力画像に表された所定の構造物に含まれる所定の除去対象の要素を除去する処理をコンピュータに実行させる画像処理プログラムであって、
   前記除去対象の要素を含まない所定の構造物が表された複数の画像に対して所定の統計処理を行うことによって得られた、前記構造物に含まれる前記除去対象の要素以外の要素を表す１以上の統計的特徴量と、前記構造物の個別の特徴に応じて該統計的特徴量に対する重みづけを行う重みづけパラメータとによって、前記除去対象の要素が含まれていない前記構造物が表現されたモデルに、前記入力画像中の前記構造物を適応させることによって、前記入力画像に表された前記構造物に応じた前記重みづけパラメータを取得する処理と、
   取得された前記重みづけパラメータと前記統計的特徴量とに基づいて、前記入力画像中の前記構造物から前記除去対象の要素が除去された出力画像を生成する処理とを前記コンピュータに実行させることを特徴とする画像処理プログラム。

Images