JP2012004747A - 電子機器および画像表示方法 - Google Patents

Abstract

【課題】例えばスライドショーを構成する静止画像に対して、より効果的なエフェクトを施すことを実現した電子機器を提供する。
【解決手段】実施形態によれば、電子機器は、顔画像検出手段と表示制御手段とを具備する。顔画像検出手段は、静止画像に含まれる顔画像を検出して解析し、各顔画像の検出位置を示す位置情報と各顔画像の笑顔である度合いを示す笑顔度を少なくとも示す属性情報とを含む顔画像情報を作成する。表示制御手段は、前記顔画像情報に含まれる前記属性情報に基づき、エフェクトを施す対象とする顔画像を選択し、前記顔画像情報に含まれる前記選択した顔画像の位置情報に基づき、前記静止画像にエフェクトを施して、前記静止画像を表示する。
【選択図】図３

Description

本発明の実施形態は、画像を表示する電子機器および画像表示方法に関する。

近年、ＣＣＤ（Charge coupled device）やＣＭＯＳ（Complementary metal-oxide semiconductor）イメージセンサなどの撮像素子の高解像度化が進められている。これに伴い、携帯電話機やパーソナルコンピュータなどの電子機器が扱う静止画像も高解像度化が進んできている。

また、最近では、デジタルフォトフレームなどと称される画像再生装置が普及し始めている。デジタルフォトフレームは、例えばカード型記憶メディアに格納される複数枚の静止画像を所定時間間隔で順次表示する機能を有している。例えばパーソナルコンピュータやデジタルカメラ等においても、デジタルフォトフレームと同様に、複数枚の静止画像を所定時間間隔で順次表示する機能を有するのが一般的である。このデジタルフォトフレームと同様の画像表示は、例えばスライドショー表示などと称されている。

さらに、複数枚の静止画像をより楽しく観賞するために、複数枚（１枚でも可）の静止画像から演出効果のための加工編集（エフェクト）が施された動画像を作成する動画作成技術が注目されるに至っている。この複数枚の静止画像から作成される動画像は、例えばフォトムービーなどと称されている。前述のスライドショー表示は、個々の静止画像を所定時間間隔で順次表示するほか、この動画作成技術によって、複数枚の静止画像が所定時間間隔で順次表示される動画像を作成し、当該作成した動画像を再生することによっても実現できる。このスライドショー表示用に作成される動画像（フォトムービー）は、スライドショーとも称される。

特開２００５−３０３９０８号公報

ここで、例えば、複数枚の静止画像をスライドショー表示するにあたり、各静止画像に含まれる顔画像を対象としたエフェクトを施すことを考える。この場合、通常、すべての顔画像を検索して所定のエフェクトを一律に施すことが行われるものと考えられる。

つまり、例えば、１枚の静止画像に複数人の顔画像が含まれる場合に、それらの中からいずれか１つの顔画像を選択して、当該選択した顔画像のみを対象としたエフェクトをその静止画像に施したり、複数枚の静止画像の中からいくつかの顔画像を選択し、当該選択した顔画像を含む静止画像にのみエフェクトを施したりといった、より効果的なエフェクトを施すといったことは行われていなかった。

本発明は、より効果的なエフェクトを施すことを実現した電子機器および画像表示方法を提供することを目的とする。

実施形態によれば、電子機器は、顔画像検出手段と表示制御手段とを具備する。顔画像検出手段は、静止画像に含まれる顔画像を検出して解析し、各顔画像の検出位置を示す位置情報と各顔画像の笑顔である度合いを示す笑顔度を少なくとも示す属性情報とを含む顔画像情報を作成する。表示制御手段は、前記顔画像情報に含まれる前記属性情報に基づき、エフェクトを施す対象とする顔画像を選択し、前記顔画像情報に含まれる前記選択した顔画像の位置情報に基づき、前記静止画像にエフェクトを施して、前記静止画像を表示する。

実施形態の電子機器の外観を示す斜視図。 同実施形態の電子機器のシステム構成を示す図。 同実施形態の電子機器によって実行されるフォトムービー作成アプリケーションプログラムの機能構成を示すブロック図。 同実施形態の電子機器によって実行されるフォトムービー作成アプリケーションプログラムが用いるインデックス情報の例を示す図。 同実施形態の電子機器によって表示されるメイン画面の例を示す図。 同実施形態の電子機器によって表示される主人公選択画面の例を示す図。 同実施形態の電子機器によって表示されるカレンダー画面の例を示す図。 同実施形態の電子機器によって実行されるフォトムービー作成処理の手順の概要を示す概念図。 同実施形態の電子機器によって実行される、静止画像内の顔画像を対象としたエフェクトの第１の例を示す図。 同実施形態の電子機器によって実行される、静止画像内の顔画像を対象としたエフェクトの第２の例を示す図。 同実施形態の電子機器によって実行される、静止画像内の顔画像を対象としたエフェクトの第３の例を示す図。 同実施形態の電子機器によってエフェクトが施されて表示される画像の第１の例を示す図。 同実施形態の電子機器によってエフェクトが施されて表示される画像の第２の例を示す図。 同実施形態の電子機器によってエフェクトが施されて表示される画像の第３の例を示す図。 同実施形態の電子機器によってエフェクトが施されて表示される画像の第４の例を示す図。 同実施形態の電子機器によってエフェクトが施されて表示される画像の第５の例を示す図。 同実施形態の電子機器によって実行されるインデキシング処理の手順の例を示すフローチャート。 同実施形態の電子機器によって実行される動画像生成処理の手順の例を示すフローチャート。 同実施形態の電子機器によって実行されるキー画像選択処理の手順の例を示すフローチャート。 同実施形態の電子機器によって実行されるキー画像選択処理の手順の別の例を示すフローチャート。 同実施形態の電子機器によって実行される関連画像選択処理の手順の例を示すフローチャート。

以下、実施の形態について図面を参照して説明する。

図１は、実施形態の電子機器の外観を示す斜視図である。この電子機器は、例えば、ノートブックタイプのパーソナルコンピュータ１０として実現されている。図１に示すように、本コンピュータ１０は、コンピュータ本体１１と、ディスプレイユニット１２とから構成されている。ディスプレイユニット１２には、ＬＣＤ（Liquid crystal display）１７が組み込まれている。ディスプレイユニット１２は、コンピュータ本体１１の上面が露出される開放位置とコンピュータ本体１１の上面を覆う閉塞位置との間を回動自在にコンピュータ本体１１に取り付けられている。

コンピュータ本体１１は、薄い箱形の筐体を有しており、その上面には、キーボード１３、本コンピュータ１０を電源オン／電源オフするためのパワーボタン１４、入力操作パネル１５、タッチパッド１６、スピーカ１８Ａ，１８Ｂなどが配置されている。入力操作パネル１５上には、各種操作ボタンが設けられている。

また、コンピュータ本体１１の右側面には、例えばＵＳＢ（Universal serial bus）２．０規格のＵＳＢケーブルやＵＳＢデバイスを接続するためのＵＳＢコネクタ１９が設けられている。

図２は、本コンピュータ１０のシステム構成を示す図である。

本コンピュータ１０は、図２に示されているように、ＣＰＵ（Central processing unit）１０１、ノースブリッジ１０２、主メモリ１０３、サウスブリッジ１０４、ＧＰＵ（Graphics processing unit）１０５、ＶＲＡＭ（ビデオＲＡＭ：Random access memory）１０５Ａ、サウンドコントローラ１０６、ＢＩＯＳ−ＲＯＭ（Basic input/output system-read only memory）１０７、ＬＡＮ（Local area network）コントローラ１０８、ハードディスクドライブ（ＨＤＤ：Hard disk drive）１０９、光ディスクドライブ（ＯＤＤ：Optical disc drive）１１０、ＵＳＢコントローラ１１１Ａ、カードコントローラ１１１Ｂ、無線ＬＡＮコントローラ１１２、エンベデッドコントローラ／キーボードコントローラ（ＥＣ／ＫＢＣ：Embedded controller/keyboard controller）１１３、ＥＥＰＲＯＭ（electrically erasable programmable ROM）１１４等を備える。

ＣＰＵ１０１は、本コンピュータ１０内の各部の動作を制御するプロセッサである。ＣＰＵ１０１は、ＨＤＤ１０９から主メモリ１０３にロードされる、オペレーティングシステム（ＯＳ）２０１、及びフォトムービー作成アプリケーションプログラム２０２のような各種アプリケーションプログラムを実行する。フォトムービー作成アプリケーションプログラム２０２は、例えばＨＤＤ１０９等に格納された各種デジタルコンテンツを再生するソフトウェアである。このフォトムービー作成アプリケーションプログラム２０２は、動画像生成機能を有している。この動画像生成機能は、例えば、ＨＤＤ１０９等に格納された写真等の素材（デジタルコンテンツ）を用いて、動画像（フォトムービー、スライドショー）を作成する機能である。さらに、この動画像生成機能は、動画像の作成に用いる素材を分析する機能を含む。フォトムービー作成アプリケーションプログラム２０２は、素材を用いて作成された動画像を再生し、画面（ＬＣＤ１７）に表示する。

また、ＣＰＵ１０１は、ＢＩＯＳ−ＲＯＭ１０７に格納されたＢＩＯＳも実行する。ＢＩＯＳは、ハードウェア制御のためのプログラムである。

ノースブリッジ１０２は、ＣＰＵ１０１のローカルバスとサウスブリッジ１０４との間を接続するブリッジデバイスである。ノースブリッジ１０２には、主メモリ１０３をアクセス制御するメモリコントローラも内蔵されている。また、ノースブリッジ１０２は、例えばPCI EXPRESS規格のシリアルバスなどを介してＧＰＵ１０５との通信を実行する機能も有している。

ＧＰＵ１０５は、本コンピュータ１０のディスプレイモニタとして使用されるＬＣＤ１７を制御する表示コントローラである。このＧＰＵ１０５によって生成される表示信号はＬＣＤ１７に送られる。

サウスブリッジ１０４は、ＰＣＩ（Peripheral component interconnect）バス上の各デバイス及びＬＰＣ（Low pin count）バス上の各デバイスを制御する。また、サウスブリッジ１０４は、ＨＤＤ１０９及びＯＤＤ１１０を制御するためのＩＤＥ（Integrated drive electronics）コントローラを内蔵している。さらに、サウスブリッジ１０４は、サウンドコントローラ１０６との通信を実行する機能も有している。

サウンドコントローラ１０６は音源デバイスであり、再生対象のオーディオデータをスピーカ１８Ａ，１８Ｂに出力する。ＬＡＮコントローラ１０８は、例えばIEEE 802.3規格の有線通信を実行する有線通信デバイスであり、一方、無線ＬＡＮコントローラ１１２は、例えばIEEE 802.11g規格の無線通信を実行する無線通信デバイスである。ＵＳＢコントローラ１１１Ａは、（ＵＳＢコネクタ１９を介して接続される）例えばUSB 2.0規格に対応した外部機器との通信を実行する。ＵＳＢコントローラ１１１Ａは、例えば、デジタルカメラに格納されている画像データファイルを受信するために使用される。また、カードコントローラ１１１Ｂは、コンピュータ本体１１に設けられたカードスロットに挿入される、ＳＤ（Secure digital）カード（登録商標）のようなメモリカードに対するデータの書き込み及び読み出しを実行する。

ＥＣ／ＫＢＣ１１３は、電力管理のためのエンベデッドコントローラと、キーボード１３及びタッチパッド１６を制御するためのキーボードコントローラとが集積された１チップマイクロコンピュータである。ＥＣ／ＫＢＣ１１３は、ユーザによるパワーボタン１４の操作に応じて本コンピュータ１０を電源オン／電源オフする機能を有している。

次いで、図３を参照して、フォトムービー作成アプリケーションプログラム２０２の機能構成を説明する。ここでは、フォトムービー作成アプリケーションプログラム２０２が有する機能のうち、動画像生成機能を実現するための構成例について説明する。この動画像生成機能は、ＨＤＤ１０９内の所定のディレクトリ（フォルダー）に格納された複数の静止画像を用いて動画像（フォトムービー、スライドショー）を作成し、その作成した動画像を再生する。静止画像５１は、例えば、デジタル写真、他の各種静止画像ファイル（ＪＰＥＧ）等である。用語「フォトムービー」は複数の静止画像（例えば写真）を用いて生成される動画像（ムービー）を意味する。フォトムービーの再生においては、静止画像群には様々なエフェクトまたはトランジションが施される。エフェクトまたはトランジションが施された静止画像群は音楽と一緒に再生される。フォトムービー作成アプリケーションプログラム２０２は、ある静止画像（キー画像）に関連する静止画像群を自動的に抽出し、抽出された静止画像群を用いてフォトムービーを作成および再生することができる。また、用語「スライドショー」は静止画像を１枚ずつ順次表示する動画像（ムービー）を意味する。スライドショーの再生において、各静止画像に様々なエフェクトを施すことも可能である。

フォトムービー作成アプリケーションプログラム２０２は、ユーザが設定したＨＤＤ１０９内のフォルダー（写真フォルダー）を監視し、１以上の新しい静止画像（写真ファイル）が写真フォルダーに格納されたことを検知すると、それら１以上の新しい静止画像に対するインデキシングを行うと同時にそれら１以上の新しい静止画像のスライドショーを開始する。これにより、インデキシングが完了するまでの待機時間中、ユーザは、新しい静止画像のスライドショーを観賞することができる。即ち、インデキシングの処理時間を隠蔽することができる。そして、インデキシングが完了すると、フォトムービー作成アプリケーションプログラム２０２は、１以上の新しい静止画像をベースとしたフォトムービーを作成して再生する。これにより、新しい静止画像を早く楽しみたいというユーザのニーズに応えることができる。この場合、例えば、１以上の新しい静止画像のみからフォトムービーを作成して再生しても良いし、１以上の新しい静止画像に関連する静止画像群を写真フォルダー内の静止画像群から抽出し、１以上の新しい静止画像と、それら抽出された静止画像群とを用いてフォトムービーを作成して再生しても良い。さらに、１以上の新しい静止画像のみから１つ目のフォトムービーを作成して再生した後に、１以上の新しい静止画像に関連する静止画像群を写真フォルダー内の静止画像群から抽出し、１以上の新しい静止画像と、それら抽出された静止画像群とを用いて２つ目のフォトムービーを作成して再生するようにしても良い。

フォトムービーの作成は、１枚の静止画像（キー画像）を基に行われる。つまり、選択されたキー画像に関連する静止画像群が自動抽出され、抽出された静止画像群を用いてフォトムービーが作成される。フォトムービーの作成条件として、スタイル、音楽、注目する人物（顔）の各々を選択指定することができる。選択したスタイルに応じて、使用される静止画像の抽出方法、使用されるエフェクト／トランジション等が決定される。従来では、ムービーの作成に使用する写真はユーザによって指定されるが、フォトムービー作成アプリケーションプログラム２０２は、写真フォルダー内の全ての静止画像から、使用する写真群を自動抽出する。これにより、思いがけない写真を掘り起こしてユーザに見せることができる。

抽出処理では、顔画像の笑顔度、顔画像の鮮明度等に従って、より写りの良い写真を抽出してもよい。また、顔クラスタリングによって各顔画像に対応する人物を認識し、例えば、選択された人物の顔画像を含む写真群、選択された人物に関連する別の人物の顔画像を含む写真群などを抽出してもよい。さらに、イベントグループ分け技術を用いて写真群を複数のイベントに分けてもよい。この場合、あるイベント内の登場人物と別のイベント内の登場人物との関係に基づいてイベント同士の関連性を推定し、その推定結果を抽出処理に使用しても良い。例えば、同一の人物が登場するイベント同士は関連性があると推定しても良い。また、例えば、ある人物Ａと別の人物Ｂが同じ写真に写っている頻度（共起頻度）が高いならば、人物Ａを含む写真が属するイベントは、人物Ｂを含む写真が属するイベントに関連するイベントであると推定してもよい。

フォトムービー作成アプリケーションプログラム２０２は、監視部２１、インデキシング部２２及び再生制御部２３を備える。

監視部２１は、ＨＤＤ１０９内の素材データベース３０１を常時監視し、新たな静止画像５１が例えばＵＳＢコントローラ１１１Ａ、カードコントローラ１１１Ｂ等のインタフェース部を介してＨＤＤ１０９内の素材データベース３０１に格納されたか否かを判定する。素材データベース３０１はＨＤＤ１０９内の所定のディレクトリ（上述の写真フォルダー）に相当する。素材データベース３０１に格納された各静止画像データ５１は、動画像（フォトムービー、スライドショー）の素材候補として用いられる。素材データベース３０１には、静止画像のみならず、例えばショートムービーのような動画像を素材候補として格納してもよい。

インデキシング部２２は、素材データベース３０１内の複数の静止画像データ５１を分析し、それら複数の静止画像データ５１それぞれの属性を示すインデックス情報３０２Ａを生成する。インデキシング部２２によるインデキシングは、例えば、１以上の新しい静止画像（写真ファイル）が素材データベース３０１に格納されたことをトリガに開始される。つまり、素材データベース３０１に１以上の新しい静止画像が格納された時に、インデキシング部２２は、その新しい静止画像に対応するインデックス情報を生成する。

インデキシング部２２は顔認識機能も有している。インデックス情報３０２Ａには、静止画像データ５１に含まれる顔画像の認識結果も含まれている。

インデキシング部２２は、顔画像検出部２２１、クラスタリング部２２２、イベント検出部２２３、及びインデックス情報生成部２２４を備える。

顔画像検出部２２１は、インデキシング対象の静止画像データ５１（例えば、写真フォルダーに新たに格納された静止画像）から顔画像を検出する。顔画像は、例えば、その静止画像５１の特徴を解析し、予め用意された顔画像特徴サンプルと類似する特徴を有する領域を探索することによって検出することができる。顔画像特徴サンプルは、多数の人物それぞれの顔画像特徴を統計的に処理することによって得られた特徴データである。顔検出処理により、その静止画像データ５１に含まれる顔画像に対応する領域が検出され、当該領域の位置（座標）及びサイズが検出される。

また、顔画像検出部２２１は検出した顔画像を分析する。顔画像検出部２２１は、例えば、検出した顔画像の笑顔度、鮮明度、正面度等を算出する。笑顔度は、検出した顔画像が笑顔である度合いを示す指標である。鮮明度は、検出した顔画像が鮮明である（例えば、ぼけがない）度合いを示す指標である。また、正面度は、検出した顔画像が正面を向いている度合いを示す指標である。顔画像検出部２２１は、検出した顔画像を示す情報をクラスタリング部２２２に出力する。

クラスタリング部２２２は、検出した顔画像に対してクラスタリング処理を施すことにより、検出した顔画像を人物毎に分類する。類似する顔画像特徴を有する顔画像同士は同一の人物として認識される。クラスタリング部２２２は、クラスタリング処理の結果に基づいて、各顔画像に対して人物の識別情報（人物ＩＤ）を付与する。同一人物の顔画像群に対しては同一の人物ＩＤが付与される。クラスタリング部２２２は、各顔画像の属性（笑顔度、鮮明度、正面度、人物ＩＤ）をインデックス情報生成部２２４に出力する。

イベント検出部２２３は、インデキシング対象の静止画像データ５１に対応するイベントを検出する。イベント検出部２２３は、例えば、そのインデキシング対象の静止画像データ５１の生成日時（撮影日時）に基づいて、そのインデキシング対象の静止画像データ５１を、所定の期間内（例えば、１日）に生成された他の静止画像と同一のイベントに分類する。そして、イベント検出部２２３は、インデキシング対象の静止画像データ５１に対して、そのインデキシング対象の静止画像データ５１が分類されたイベントの識別情報（イベントＩＤ）を付与する。イベント検出部２２３は、インデキシング対象の静止画像データ５１に付与されたイベントＩＤをインデックス情報生成部２２４に出力する。

インデックス情報生成部２２４は、顔画像検出部２２１、クラスタリング部２２２及びイベント検出部２２３の処理結果に基づいて、インデックス情報３０２Ａを生成する。

図４は、インデックス情報３０２Ａの一構成例を示す。インデックス情報３０２Ａは、複数の静止画像データ５１にそれぞれ対応する複数のエントリを含む。各エントリは、例えば、画像ＩＤ、生成日時（撮影日時）、生成場所（撮影場所）、イベントＩＤ、顔画像情報を含む。ある静止画像に対応するエントリにおいて、画像ＩＤは、その静止画像に固有の識別情報を示す。生成日時は、その静止画像が生成された日時（その静止画像の撮影日時）を示す。生成場所は、その静止画像が生成（撮影）された場所（位置）を示す。生成日時及び生成場所には、例えば、その静止画像データに付加されている情報が用いられる。生成場所は、例えば、その静止画像データが生成されるときに（例えば、静止画像データに対応する写真が撮影されるときに）、ＧＰＳレシーバによって検出された位置情報を示す。イベントＩＤは、その静止画像に対応するイベントに一意に付与される識別情報を示す。顔画像情報は、その静止画像に含まれる顔画像の認識結果情報である。顔画像情報は、例えば、顔画像（例えば、その顔画像の格納場所を示すパス）、人物ＩＤ、位置、サイズ、笑顔度、鮮明度、及び正面度を含む。なお、１つの静止画像データ５１に複数の顔画像が含まれるときは、その１つの静止画像データ５１に対応するインデックス情報３０２Ａは、複数の顔画像の各々に対応する顔画像情報を含む。

インデックス情報生成部２２４は、生成したインデックス情報３０２Ａを素材情報データベース３０２に格納する。

以上の構成により、インデキシング部２２は、入力された静止画像データ５１に対応するインデックス情報３０２Ａを生成し、素材情報データベース３０２に格納することができる。

再生制御部２３は、インデックス情報３０２Ａに基づき、ある選択された静止画像（キー画像）に関連する静止画像群を、素材データベース３０１内の静止画像データ５１群から抽出し、関連する静止画像群を用いてフォトムービーまたはスライドショーを作成および再生する。再生制御部２３は、例えば、キー画像選択部２３１、カレンダー表示部２３２、関連画像選択部２３３、シナリオ決定部２３４、動画像生成部２３５、及び動画像再生部２３６を備える。

キー画像選択部２３１は、素材データベース３０１に格納された静止画像データ５１群からキー画像（キー静止画像）を選択する。また、キー画像選択部２３１は、再生中の動画像（フォトムービーまたはスライドショー）に含まれる静止画像をキー画像に決定することもできる。つまり、キー画像選択部２３１は、再生中のフォトムービー又はスライドショー内のある画像がユーザによって指示された時、その指示された画像をキー画像に決定する。なお、フォトムービー又はスライドショーの再生中にユーザによるキー画像の指示が行われないとき、キー画像選択部２３１は、例えば、再生されたフォトムービー又はスライドショーに含まれる最後の静止画像をキー画像に決定してもよい。

キー画像選択部２３１は、カレンダー上に静止画像データ５１群が配置されたカレンダー画面を用いてキー画像を選択してもよい。キー画像選択部２３１は、例えば、カレンダー画面を用いて、ユーザによって指定された静止画像をキー画像に決定する。

キー画像選択部２３１は、さらに、例えばユーザによって選択された顔画像を、キー顔画像に決定することもできる。この場合、そのキー顔画像に対応する人物に関連する静止画像データ５１群が素材データベース３０１から抽出され、それら抽出された静止画像データ５１群が動画像（フォトムービー又はスライドショー）の作成に用いられる。

関連画像選択部２３３は、素材データベース３０１に格納されている静止画像データ５１群から、キー画像（キー顔画像）に関連する静止画像群を選択（抽出）する。キー画像に関連する静止画像は、キー画像に対して、例えば、日時、人物又は場所について関連性を有する静止画像である。関連画像選択部２３３は、例えば、素材情報データベース３０２に格納されたインデックス情報３０２Ａを用いて、キー画像に関連する静止画像群を抽出する。関連画像選択部２３３は、日時関連画像選択部２３３Ａ、人物関連画像選択部２３３Ｂ及び場所関連画像選択部２３３Ｃを備える。

日時関連画像選択部２３３Ａは、素材データベース３０１に格納された静止画像データ５１群から、キー画像の生成日時に関連する生成日時を有する静止画像群を選択（抽出）する。日時関連画像選択部２３３Ａは、例えば、インデックス情報３０２Ａに基づいて、キー画像の生成日時と同一の期間内（例えば、日、月、時期、季節、年等で指定される期間内）に生成された静止画像群を選択（抽出）する。また、日時関連画像選択部２３３Ａは、例えば、インデックス情報３０２Ａに基づいて、キー画像の生成日時とは別の期間内の同じ日、同じ週、同じ月等（例えば、１年前の同じ日や２年後の同じ月等）に生成された静止画像群を選択（抽出）する。

人物関連画像選択部２３３Ｂは、素材データベース３０１に格納された静止画像データ５１群から、キー顔画像（キー画像に含まれる顔画像）に関連する静止画像群を選択（抽出する）する。キー顔画像に関連する静止画像群は、例えば、キー顔画像と同じ人物の顔画像を含む静止画像、キー顔画像に対応する人物に関連する別の人物の顔画像を含む静止画像、等を含む。キー顔画像に対応する人物に関連する別の人物には、例えば、キー顔画像と同じ静止画像内に含まれる人物等が含まれる。

場所関連画像選択部２３３Ｃは、素材データベース３０１に格納された静止画像データ５１群から、キー画像の生成場所に関連する生成場所で生成された静止画像群を選択（抽出）する。

シナリオ決定部２３４は、作成対象の動画像（例えば、フォトムービー）のシナリオを決定する。シナリオは、例えば、作成対象の動画像シーケンス内の複数のチャプタ（タイムセグメント）において使用すべきエフェクト群と使用すべき静止画像群の属性とを示す情報（シナリオ情報）である。つまり、シナリオは、チャプタと称されるタイムセグメント毎にエフェクトと静止画像属性とを規定する。

本実施形態においては、例えば、２４種類のシナリオ情報がシナリオデータ３０３Ｃとして予めエフェクトデータベース３０３内に格納されている。シナリオ決定部２３４は、２４種類のシナリオ情報の内の１つのシナリオ情報を、動画像（例えば、フォトムービー）の作成に使用するシナリオとして決定する。シナリオの決定は、ユーザによって選択されたスタイルに従って実行してもよい。つまり、選択されたスタイルに従って、使用すべきシナリオ情報が決定される。本実施形態では、例えば８種類のスタイル（Happy, Fantastic, Ceremonial, Cool, Travel, Party, Gallery, Biography）が予め用意されている。さらに、スタイル毎に、例えば３種類のシナリオ情報が予め用意されている。シナリオ決定部２３４は、例えば、ユーザによって選択されたスタイルに対応する３種類のシナリオ情報の内の任意の１つを自動的に選択し、その選択したシナリオ情報を作成対象の動画像（例えば、フォトムービー）のシナリオに決定する。また、ユーザがスタイルを選択する代わりに、シナリオ決定部２３４が、８種類のスタイル内の任意の１つを自動的に選択してもよい。この場合、使用するスタイルは、例えば、関連画像選択部２３３によって抽出された静止画像それぞれの特徴（例えば、登場人物数（顔画像数）、顔画像の笑顔度、等）に基づいて決定してもよい。

上述のように、選択されたスタイルに対応する３種類のシナリオ情報の内の１つが作成対象の動画像（例えば、フォトムービー）のシナリオとして選択されるが、このシナリオの選択には、例えば、乱数を使用してもよい。これにより、たとえ同じスタイルが選択された場合でも、毎回異なるシナリオを使用してフォトムービーを作成できる。フォトムービーの作成に使用される静止画像群それぞれの属性は使用されるシナリオによって変わる。したがって、使用されるシナリオを変えることは、思いがけない静止画像を掘り起こしてユーザに見せることができる可能性を高めることを可能にし得る。

さらに、シナリオ決定部２３４は、フォトムービーの作成に使用する音楽も決定する。本実施形態では、複数の音楽が音声データ３０３Ｂとしてエフェクトデータベース３０３に格納されている。シナリオ決定部２３４は、例えば、選択されたスタイルに応じて、または関連画像選択部２３３によって抽出された静止画像それぞれの特徴（例えば、登場人物数（顔画像数）に応じて、使用する音楽を決定する。なお、使用する音楽はユーザが指定するようにしてもよい。

動画像生成部２３５は、決定されたシナリオ情報に基づいて、フォトムービーを生成する。この場合、動画像生成部２３５は、関連画像選択部２３３によって抽出された静止画像群から、シナリオ情報によって示される各チャプタの静止画像属性に合致する少なくとも１つの静止画像を抽出する。そして、動画像生成部２３５は、抽出された少なくとも１つの静止画像を各チャプタに割り当てることによって、フォトムービーを作成する。

動画像再生部２３６は、エフェクトデータベース３０３内に格納された、加工編集用のエフェクトデータ３０３Ａを用い、シナリオ情報によって示される各チャプタに対応するエフェクトを各チャプタに割り当てられた静止画像に施すことによって、作成されたフォトムービーを再生する。

なお、決定されたシナリオ情報は、スライドショーの作成に使用してもよい。この場合、動画像生成部２３５は、関連画像選択部２３３によって抽出された静止画像群から、シナリオ情報によって示される各チャプタの静止画像属性に合致する少なくとも１つの静止画像を抽出する。そして、動画像生成部２３５は、抽出された少なくとも１つの静止画像を各チャプタに割り当てることによってスライドショーを作成、つまり使用する静止画像それぞれとその再生タイミングを決定する。動画像再生部２３６は、作成されたスライドショーを再生する。また、このスライドショーの再生時、エフェクトデータ３０３Ａを用いたエフェクトを静止画像に施してもよい。

図５は、フォトムービー作成アプリケーション２０２によって表示されるメイン画面４０の例を示す。メイン画面４０は、例えば、「スタイル」ボタン４０１、「音楽」ボタン４０２、「主人公」ボタン４０３、「スタート」ボタン４０４、ムービー再生画面４０５、及び「カレンダー」ボタン４０６を備える。

ムービー再生画面４０５は、生成されたフォトムービー又はスライドショーを表示するための画面である。ムービー再生画面４０５では、再生制御部２３（動画像生成部２３５）によって生成されたフォトムービー又はスライドショーが順次再生され、表示される。図５においては、再生中のフォトムービー又はスライドショーの画像に、例えば、人物４０Ａ〜４０Ｆが登場する例が示されている。

フォトムービー又はスライドショーの再生中にムービー再生画面４０５がユーザによるポインティングデバイスの操作によってクリックされた時、フォトムービー作成アプリケーション２０２は、フォトムービー（スライドショー）の再生を一時停止し、現在再生中の画像をキー画像に決定する。現在再生中の画像が複数の静止画像を合成することによって生成された画像であるならば、フォトムービー作成アプリケーション２０２は、それら複数の静止画像の一つをキー画像に決定しても良い。もちろん、それら複数の静止画像の内、ユーザによってクリックされた静止画像をキー画像に決定しても良い。

「主人公」ボタン４０３は、生成されるフォトムービー内で注目される人物（主人公）の選択を開始するためのボタンである。キー画像選択部２３１は、「主人公」ボタン４０３が押されたことに応答して、キー画像に登場する人物のリスト（顔画像選択画面）を表示する。ユーザは、例えば、ムービー再生画面４０５を用いてキー画像を選択した後に、「主人公」ボタン４０３を押して、キー顔画像の選択開始（すなわち、顔画像選択画面の表示）を指示する。

図６は、キー顔画像を選択するための顔画像選択画面４１の例を示す。顔画像選択画面４１では、キー画像に含まれる顔画像のリスト（顔画像４１Ａ〜４１Ｄ）が表示されている。キー画像選択部２３１は、キー画像に登場する人物４０Ａ〜４０Ｆから、例えば、その人物が出現する静止画像数がしきい値以上である人物（例えば、人物４０Ａ〜４０Ｄ）を選択し、その選択した人物に対応する顔画像４１Ａ〜４１Ｄをムービー再生画面４０５上に表示する。

ユーザは、顔画像選択画面４１を用いて、顔画像４１Ａ〜４１Ｄから注目する人物の顔画像（ここでは、顔画像４１Ａ）を選択する。キー画像選択部２３１は、選択された顔画像４１Ａをキー顔画像（主人公）に決定する。なお、選択される顔画像は複数であってもよい。また、顔画像選択画面４１を用いて顔画像を選択する操作が行われないとき（例えば、「主人公」ボタン４０３が押されないとき）、キー画像選択部２３１は、キー画像に含まれる顔画像のうち、所定の条件を満たす顔画像をキー顔画像に選択してもよい。

図５のメイン画面４０上の「スタイル」ボタン４０１は、フォトムービーのスタイルの選択を開始するためのボタンである。フォトムービー作成アプリケーション２０２は、「スタイル」ボタン４０１が押されたことに応答して、スタイル選択画面を表示する。スタイル選択画面上には、上述の８種類のスタイル（Happy, Fantastic, Ceremonial, Cool, Travel, Party, Gallery, Biography）のリストが表示される。ユーザは、希望するスタイルを選択することができる。

「音楽」ボタン４０２は、フォトムービーに用いられる音楽の選択を開始するためのボタンである。フォトムービー作成アプリケーション２０２は、「音楽」ボタン４０２が押されたことに応答して、音楽のリスト（音楽選択画面）を表示する。ユーザは、希望する音楽を選択することができる。

「スタート」ボタン４０４は、フォトムービーの生成及び再生を開始するためのボタンである。フォトムービー作成アプリケーション２０２は、「スタート」ボタン４０４が押されたことに応答して、フォトムービーの作成を開始する。そして、フォトムービー作成アプリケーション２０２は、作成したフォトムービーを再生して、ムービー再生画面４０５に表示する。

また、キー画像選択部２３１は、上述のように、カレンダー上に静止画像データ５１が配置されたカレンダー画面を用いてキー画像を選択してもよい。「カレンダー」ボタン４０６は、カレンダー画面を表示するためのボタンである。

図７は、カレンダー画面４２の例を示す。カレンダー画面４２では、例えば、指定された月のカレンダーが表示され、静止画像データ５１の生成日に基づいて、カレンダー上の日毎の欄に静止画像データ５１のサムネイル画像（４２Ａ〜４２Ｃ）が表示される。キー画像選択部２３１は、カレンダー画面４２を用いて選択されたサムネイル画像に対応する静止画像データ５１をキー画像に決定する。

なお、生成日が同一である静止画像データ５１が複数あるとき、カレンダー画面４２には、いずれかの静止画像データ５１のサムネイル画像が代表画像として表示される。そして、キー画像選択部２３１は、カレンダー画面４２を用いて代表画像が選択されたとき、対応する生成日に生成された複数の静止画像データ５１のサムネイル画像のリストを表示する。キー画像選択部２３１は、このリストから選択されたサムネイル画像に対応する静止画像データ５１をキー画像に決定する。また、キー画像選択部２３１は、カレンダー画面４２を用いてキー画像を選択した際にも、上述の顔画像選択画面４１を用いてキー顔画像を選択することができる。

ここで、フォトムービーの再生操作の流れについて説明する。フォトムービーはキー画像（メイン画面４０上に表示中の画像、またはカレンダー画面を用いて選択された画像）をベースに作成される。

＜メイン画面４０上に表示中の画像をキー画像に使用する例＞
（１）スライドショー／フォトムービー再生中に、メイン画面４０をクリック
（２）スタイルを選択（デフォルトはおまかせ）
（３）フォトムービーに使用する音楽を選択（デフォルトはおまかせ）
（４）注目する人物を選択（デフォルトはおまかせ。）
（５）「スタート」ボタン４０４をクリック
スタイル、音楽、注目する人物がすべておまかせで良い場合は、ユーザは、メイン画面４０をクリックして、表示された「スタート」ボタン４０４をクリックするだけでよい。

＜カレンダー画面を用いて選択された画像をキー画像に使用する例＞
（１）メイン画面４０上の「カレンダー」ボタンをクリック
（２）ベースとする写真を撮影した日付を選択して、写真の一覧を表示
（３）写真の一覧からベースとする写真を選択し、「スタート」ボタン４０４をクリック
（４）メイン画面４０上でスタイルを選択（デフォルトはおまかせ）
（５）メイン画面４０上でフォトムービーに使用する音楽を選択（デフォルトはおまかせ）
（６）注目する人物を選択（デフォルトはおまかせ。）
（７）「スタート」ボタン４０４をクリック
次に、図８を参照して、フォトムービー作成処理の手順の概要について説明する。

フォトムービー作成アプリケーション２０２は、まず、インデックス情報に基づいて、キー画像（キー顔画像）に関連する静止画像群を素材データベース３０１から抽出（一次抽出）する（ブロックＢ１０１）。ブロックＢ１０１では、フォトムービー作成アプリケーション２０２は、例えば、選択された人物（主人公）に関連する静止画像群を素材データベース３０１から抽出する。

次に、フォトムービー作成アプリケーション２０２は、フォトムービーの作成に用いるシナリオを選定する（ブロックＢ１０２）。ブロックＢ１０２では、フォトムービー作成アプリケーション２０２は、選択されたスタイルや、ブロックＢ１０１で抽出した静止画像群の特徴値等に応じて、予め用意された複数のシナリオ情報の一つを選択する。各シナリオ情報は、フォトムービーのシーケンスを構成する複数のチャプタ（シーン）において使用されるエフェクトの順番（エフェクト列）および静止画像群の属性（静止画像属性）とを規定する。図８では、フォトムービーのシーケンスが５つのチャプタ（チャプタ１、２、３、４、５）から構成される場合が想定されている。チャプタ１はフォトムービーのオープニングシーンであり、チャプタ５はフォトムービーのエンディングシーンである。各チャプタには、１以上のエフェクト（ここでは２つのエフェクト）が定義され、さらにエフェクト毎に静止画像属性が定義される。

静止画属性としては、例えば、人物属性（顔属性）を使用してもよい。この人物属性としては、例えば、主人公（主役）、脇役、笑顔度、鮮明度、登場人数等を使用することができる。ここで、用語「主役」は、フォトムービーの主人公となるべき人物、つまり、注目すべき人物（顔）を意味する。例えば、上述のキー顔画像に対応する人物を、主役に決定してもよい。用語「脇役」は、主人公に関連する別の人物を意味する。例えば、主人公との共起頻度の高い人物（顔）を脇役に決定してもよい。人物属性は、複数の脇役を指定することもできる。主人公との共起頻度の高い複数の人物（顔）が脇役となり得る。静止画属性としては、人物属性のみならず、例えば、場所属性を使用してもよい。この場所属性は、使用する静止画像の撮影場所を指定する。

図８のシナリオ情報１では、例えば、チャプタ１に２つのエフェクト（エフェクト＃１、エフェクト＃２）が規定されており、さらに、エフェクト＃１には静止画属性「主人公」が、エフェクト＃２には静止画属性「主人公 ＯＲ 脇役」が関連付けられている。静止画属性「主人公」は、主人公が登場する静止画像が使用されるべきであることを指定する。静止画属性「主人公 ＯＲ 脇役」は、主人公または脇役のいずれかが登場する静止画像が使用されるべきであることを指定する。静止画属性の他の幾つかの例は以下の通りである。

チャプタ２のエフェクト＃１１に関連付けられた静止画属性「主人公、脇役」は、主人公と脇役の双方が登場する静止画像が使用されるべきであることを指定する。チャプタ３のエフェクト＃６に関連付けられた静止画属性「脇役１、脇役２、脇役３」は、３人の脇役（脇役１、脇役２、脇役３）の全てが登場する静止画像が使用されるべきであることを指定する。チャプタ５のエフェクト＃３に関連付けられた静止画属性「多人数、笑顔度高」は、閾値以上の人物が登場し且つ笑顔度の高い人物の頻度がある閾値以上である静止画像が使用されるべきであることを指定する。チャプタ５のエフェクト＃４に関連付けられた静止画属性「主人公、笑顔度高」は、主人公が登場し、且つ主人公の笑顔度が閾値以上である静止画像が使用されるべきであることを指定する。このように、人物属性は、各チャプタに登場すべき人物が、主役、脇役、または主役および脇役の双方のいずれであるかを指定することができる。

次いで、フォトムービー作成アプリケーション２０２は、ブロックＢ１０１で抽出した静止画像群から、選定されたシナリオ情報によって示される各チャプタの静止画属性に合致する１以上の静止画像をさらに抽出（本抽出）する（ブロックＢ１０３）。そして、フォトムービー作成アプリケーション２０２は、抽出された静止画像を各チャプタに割り当てることによってフォトムービーを作成し、作成されたフォトムービーを再生する（ブロックＢ１０４）。ブロックＢ１０４では、フォトムービー作成アプリケーション２０２は、シナリオ情報によって示される各チャプタに対応するエフェクトを、各チャプタに割り当てられた静止画像に施す。

次に、図９乃至図１１を参照して、例えば、スライドショーとして静止画像を表示するにあたって、インデックス情報３０２Ａを用いて、より効果的なエフェクトを施す種々の具体例について説明する。

図４に示したように、（顔画像検出部２２１、クラスタリング部２２２及びイベント検出部２２３の処理結果に基づき）インデキシング部２２によって生成されて素材情報データベース３０２に格納されるインデックス情報３０２Ａには、静止画像から検出された各顔画像について、笑顔度、鮮明度、正面度、人物ＩＤなどの属性情報が含まれている。そこで、例えば静止画像内の顔画像を強調するためのエフェクトを施すとした場合に、すべての顔画像を対象としてエフェクトを一律に施すのではなく、当該属性情報を用いて、より効果的なエフェクトを施すようにする。

いま、図９の（Ａ）に示すように、人物ａ１〜ａ３の３人の顔画像を含む静止画像が存在するものと想定する。この時、フォトムービー作成アプリケーション２０２の再生制御部２３は、人物ａ１〜ａ３の３人の顔画像の中から、例えば笑顔度の１番高い顔画像を選択する。ここでは、人物ａ１の顔画像の笑顔度が１番高いものとする。

そこで、再生制御部２３は、この笑顔度の１番高い人物ａ１の顔画像を選択して、例えば、図９の（Ｂ）に示すように、当該選択した人物ａ１の顔画像が照明されている（スポットライトを浴びている）かのような視覚的効果を生じさせるべく、静止画像にエフェクトを施す。インデックス情報３０２Ａには、図４に示したように、各顔画像について、位置およびサイズの情報も含まれている。この位置およびサイズの情報から、再生制御部２３は、選択した顔画像の中心を基点として、当該選択した顔画像を含む円形の領域内と領域外とで明度を異ならせるエフェクトを施すことで、選択した顔画像がスポットライトを浴びているかのような視覚的効果を生じさせる。

つまり、人物ａ１〜ａ３の３つの顔画像を一律に扱うのではなく、笑顔度の１番高い人物ａ１の顔画像を選択し、当該選択した人物ａ１の顔画像のみを対象とするといった、より効果的なエフェクトを施すことを実現する。なお、ここでは、笑顔度を基準に顔画像の選択を行う例を説明したが、鮮明度の１番高い顔画像を選択してもよいし、正面度の１番高い顔画像を選択してもよい。

また、図９を参照しながら説明した例では、１つの静止画像に含まれる複数の顔画像の中からいずれか１つの顔画像を選択した。これに限らず、フォトムービー作成アプリケーション２０２の再生制御部２３は、例えばスライドショーとして表示する複数の静止画像の中から例えば笑顔度の１番高い顔画像を選択し、当該選択した顔画像を含む静止画像のみに当該選択した顔画像を対象としてエフェクトを施すことも可能である。

いま、図１０の（Ａ）に示すように、静止画像ｂ１，ｂ２，ｂ３，ｂ４，…からなるスライドショーを表示する場合を想定する。また、静止画像ｂ３に含まれる人物ｂ３１の顔画像が、当該スライドショーを構成する静止画像内の顔画像の中で笑顔度が１番高いものであったものとする。

そこで、再生制御部２３は、この笑顔度の１番高い人物ｂ３１の顔画像を選択して、例えば、図１０の（Ｂ）に示すように、当該選択した人物ｂ３１の顔画像を含む静止画像ｂ３に対し、当該選択した人物ｂ３１の顔画像の周辺部を修飾するオブジェクト（例えば笑顔度が１番であることを表すオブジェクト）を配置するエフェクトを施す。このエフェクトも、インデックス情報３０２Ａに含まれる位置およびサイズの情報に基づき、選択した顔画像の中心を基点として、上記オブジェクトを配置することで実施する。

このように、インデックス情報３０２Ａに含まれる属性情報を用いることで、より効果的なエフェクトを種々施すことを実現する。

なお、図１０を参照しながら説明した例では、スライドショーを構成する静止画像内の顔画像の中から笑顔度の１番高い顔画像を１つ選択した。前述したように、インデックス情報３０２Ａには、属性情報として人物ＩＤが含まれている。よって、スライドショーの登場人物毎に、笑顔度の１番高い顔画像を１つずつ選択し、選択した顔画像を含む静止画像に当該選択した顔画像を対象とするエフェクトを施すといったことも可能である。

また、スライドショーを構成する静止画像内の顔画像の中から笑顔度の高い順に所定数だけ顔画像を選択して、その順位を表すオブジェクトを配置するエフェクトを施すといったことも可能である。笑顔度の高い順に、その順位を表すオブジェクトを配置するエフェクトを施す適用例としては、例えば、図９の（Ａ）に示した、人物ａ１〜ａ３の３人の顔画像を含む１つの静止画像に対し、第１位、第２位、第３位を表すオブジェクトを配置することも考えられる。さらに、笑顔度の高い順に所定数だけ顔画像を選択した後、当該選択した顔画像を含む静止画像をその他の静止画像に優先して表示するようにスライドショーを構成しても良い。

また、この笑顔度、鮮明度、正面度などの属性情報を用いたエフェクトは、静止画像を順次表示するスライドショーのみならず、フォトムービーにおいても当然に適用することが可能である。例えば、図１１の（Ａ）に示す静止画像全体を表示する第１の表示形態から図１１の（Ｂ）に示す（例えば笑顔度が１番高いとして選択された）顔画像を含む所定の領域を拡大表示する第２の表示形態に遷移させるエフェクトを施すことにより、対象とする顔画像にズームインするかのような視覚的効果を生じさせることができる。

その外、インデックス情報３０２Ａに含まれる顔画像の属性情報を用いることで、スライドショーやフォトムービーで顔画像を対象としたエフェクトを施すにあたり、より効果的なエフェクトを種々施すことが可能である。

続いて、図１２乃至図１６に、フォトムービー作成アプリケーションプログラム２０２によってエフェクトが施されて表示される画像のいくつかの例を示す。

図１２および図１３は、静止画像に登場する人物の顔画像を強調するためのエフェクトの例を示している。図１２に示す静止画像４３では、人物４３Ａの顔画像にスポットを当てるためのエフェクト４４Ｂが施されている。例えば、静止画像４３において、人物４３Ａが主人公で、他の２人が脇役である場合、「脇役１」、「脇役２」、「主人公」という順でスポットを順次当てる３段階スポットライトのようなエフェクトを使用することも出来る。また、図１３に示す静止画像４４では、人物４４Ａの顔画像に対して、人物４４Ａを強調するためのエフェクト４４Ｂが施されている。エフェクト４４Ｂは、顔画像を囲むイラスト（オブジェクト）を顔画像に重畳している。

また、図１４および図１５は、複数の静止画像にエフェクトが施される例を示す。図１４に示す画面４５および図１５に示す画面４６では、複数の静止画像に対して、それら静止画像を組み合わせて表示するためのエフェクトが施されている。このエフェクトは、複数の静止画像の配置、サイズ、モーション等を決定している。

そして、図１６は、複数の静止画像の各々に登場する人物の顔画像にエフェクトが施される例を示す。図１６に示す画面４７では、複数の静止画像から切り出された顔画像４７Ａ〜４７Ｄが表示され、各顔画像が画面４７上を移動するエフェクトが施されている。

次に、図１７乃至図２３のフローチャートを参照して、フォトムービー作成アプリケーションプログラム２０２の動作手順を説明する。

図１７は、フォトムービー作成アプリケーションプログラム２０２によって実行されるインデキシング処理の手順の例を示すフローチャートである。

まず、監視部２１は、素材データベース３０１を常時監視し、新たな静止画像（静止画像データ）５１がＨＤＤ１０９内の素材データベース３０１に格納されたか否かを判定する（ブロックＢ１１）。新たな静止画像５１が格納されていない場合（ブロックＢ１１のＮＯ）、監視部２１はブロックＢ１１に戻り、再度、新たな静止画像５１が格納されたか否かを判定する。

新たな静止画像５１が格納されている場合（ブロックＢ１１のＹＥＳ）、監視部２１は、新たな静止画像５１が素材データベース３０１に格納されたことを、インデキシング部２２に通知する（ブロックＢ１２）。

次いで、顔画像検出部２２１は、静止画像データ５１に含まれる顔画像を検出する（ブロックＢ１３）。顔画像検出部２２１は、静止画像（静止画像データ５１）に登場する人物の顔画像に対応する領域を検出し、当該領域の静止画像内における位置及びサイズを検出する。そして、顔画像検出部２２１は検出した顔画像を分析する（ブロックＢ１４）。顔画像検出部２２１は、例えば、検出した顔画像の笑顔度、鮮明度、正面度等を算出する。顔画像検出部２２１は、検出した顔画像を示す情報をクラスタリング部２２２に出力する。

クラスタリング部２２２は、検出した顔画像に対してクラスタリング処理を施すことにより、検出した顔画像を人物毎に分類する（ブロックＢ１５）。クラスタリング部２２２は、顔画像に対して、対応する人物の識別情報（人物ＩＤ）を付与する。そして、クラスタリング部２２２は、顔画像検出部２２１によって検出された顔画像を示す情報と、顔画像に付与された人物ＩＤを示す情報とをインデックス情報生成部２２４に出力する。

また、イベント検出部２２３は、静止画像データ５１に対応するイベントを検出する（ブロックＢ１６）。イベント検出部２２３は、静止画像データ５１に対して、分類されたイベントの識別情報（イベントＩＤ）を付与する。そして、イベント検出部２２３は、静止画像データ５１に付与されたイベントＩＤをインデックス情報生成部２２４に出力する。

インデックス情報生成部２２４は、顔画像検出部２２１、クラスタリング部２２２およびイベント検出部２２３による処理結果に基づいて、インデックス情報３０２Ａを生成する（ブロックＢ１７）。インデックス情報３０２Ａは、静止画像データ５１の生成日時、生成場所及びイベントＩＤ、並びに該静止画像データ５１に含まれる顔画像を示す顔画像情報を含む。また、この顔画像情報は、例えば、顔画像（例えば、顔画像に対応するデータの格納場所）、人物ＩＤ、位置、サイズ、笑顔度、鮮明度、及び正面度を含む。なお、静止画像データ５１に複数の顔画像が含まれるとき、インデックス情報３０２Ａは、複数の顔画像に対応する複数の顔画像情報を含む。インデックス情報生成部２２４は、生成したインデックス情報３０２Ａを素材情報データベース３０２に格納する（ブロックＢ１８）。

以上の処理により、フォトムービー作成アプリケーションプログラム２０２に入力された静止画像データ５１が素材データベース３０１に格納され、当該静止画像データ５１に対応するインデックス情報３０２Ａが素材情報データベース３０２に格納される。

また、図１８は、フォトムービー作成アプリケーションプログラム２０２によって実行される動画像生成処理の手順の例を示すフローチャートである。フォトムービー作成アプリケーション２０２は、フォトムービー及びスライドショーのいずれかの動画像を再生する。

まず、キー画像選択部２３１はキー画像選択処理を実行する（ブロックＢ２０１）。キー画像選択部２３１は、素材データベース３０１に格納された静止画像データ５１からキー画像を選択する。このキー画像は、素材データベース３０１から、再生する動画像（フォトムービー又はスライドショー）に用いられる静止画像データ５１を抽出するための抽出キーとして用いられる。キー画像選択部２３１は、選択したキー画像を示す情報を関連画像選択部２３３に出力する。キー画像選択処理の詳細な手順は、図１９及び図２０を参照して後述する。

次いで、関連画像選択部２３３は、キー画像選択部２３１によって選択されたキー画像を用いて、関連画像選択処理を実行する（ブロックＢ２０２）。関連画像選択部２３３は、素材データベース３０１から、キー画像に関連する静止画像データ５１を選択する。キー画像に関連する静止画像データ５１は、キー画像に対して、例えば、日時、人物又は場所の関連を有する静止画像データ５１である。関連画像選択部２３３は、選択したキー画像に関連する静止画像データ５１を示す情報を、エフェクト選択部２３４に出力する。関連画像選択処理の詳細な手順は、図２０を参照して後述する。

エフェクト選択部２３４は、表示モードがフォトムービーモードとスライドショーモードのいずれであるかを判定する（ブロックＢ２０３）。この表示モードは、再生される動画像がフォトムービーとスライドショーのいずれであるかを示す。なお、表示モードはユーザによって変更され得る。また、予め設定された表示モードに対応する動画像を再生することや、所定の条件に基づいて表示モードを切り替えることもできる。

表示モードがフォトムービーモードであると判定された場合（ブロックＢ２０３のフォトムービー）、エフェクト選択部２３４は、関連画像選択部２３３によって選択された静止画像データ５１に基づいて、エフェクトデータ３０３Ａと音声データ３０３Ｂとを選択する（ブロックＢ２０４）。エフェクト選択部２３４は、選択された静止画像データ５１に適したエフェクトデータ３０３Ａと音声データ３０３Ｂとを選択する。エフェクト選択部２３４は、選択された静止画像データ５１、エフェクトデータ３０３Ａ及び音声データ３０３Ｂを示す情報を動画像生成部２３５に出力する。

動画像生成部２３５は、関連画像選択部２３３によって選択された静止画像データ５１と、エフェクト選択部２３４によって選択されたエフェクトデータ３０３Ａ（シナリオデータ３０３Ｃ）及び音声データ３０３Ｂとを用いてフォトムービーを作成する（ブロックＢ２０５）。動画像生成部２３５は、生成したフォトムービーを動画像再生部２３６に出力する。

動画像再生部２３６は、動画像生成部２３５によって生成されたフォトムービーに基づいて、フォトムービーに用いられる静止画像データ５１を素材データベース３０１から抽出し、フォトムービーに用いられるエフェクトデータ３０３Ａ及び音声データ３０３Ｂをエフェクトデータベース３０３から抽出する（ブロックＢ２０６）。動画像再生部２３６は、抽出した静止画像データ５１、エフェクトデータ３０３Ａ及び音声データ３０３Ｂを用いて、フォトムービーを再生し、画面（ＬＣＤ１７）に表示する（ブロックＢ２０７）。そして、ブロックＢ２０１のキー画像選択処理に戻り、キー画像選択部２３１は、例えば、表示されているフォトムービーから選択された静止画像データ５１を新たなキー画像に決定する。

一方、表示モードがスライドショーモードであると判定された場合（ブロックＢ２０３のスライドショー）、動画像生成部２３５は、関連画像選択部２３３によって選択された静止画像データ５１を用いてスライドショーを作成する（ブロックＢ２０８）。動画像生成部２３５は、生成したスライドショーを動画像再生部２３６に出力する。

動画像再生部２３６は、動画像生成部２３５によって生成されたスライドショーに基づいて、スライドショーに用いられる静止画像データ５１を素材データベース３０１から抽出する（ブロックＢ２０９）。そして、動画像再生部２３６は、抽出した静止画像データ５１を用いて、スライドショーを再生し、画面（ＬＣＤ１７）に表示する（ブロックＢ２１０）。スライドショーでは、抽出された静止画像データ５１が所定のタイミングで順次表示される。そして、ブロックＢ２０１のキー画像選択処理に戻り、キー画像選択部２３１は、例えば、表示されているスライドショーから選択された静止画像データ５１を新たなキー画像に決定する。

以上の処理により、フォトムービー作成アプリケーションプログラム２０２は、キー画像に関連する静止画像データ５１を用いたスライドショー又はフォトムービーを表示できる。キー画像に関連する静止画像データ５１を用いることにより、思いがけない静止画像等を含む動画像をユーザに提示することができる。

図２１のフローチャートは、キー画像選択部２３１によって実行されるキー画像選択処理（図１８のブロックＢ２０１）の手順の例を示す。ここでは、画面に表示されている動画像（フォトムービー又はスライドショー）からキー画像が選択されることを想定する。

まず、キー画像選択部２３１は、表示されている動画像から画像が選択されたか否かを判定する（ブロックＢ３１）。キー画像選択部２３１は、例えば、画面に表示中の画像をクリックする操作を検出したとき、当該画像がキー画像に選択されたものと判定する。画像が選択されていない場合（ブロックＢ３１のＮＯ）、キー画像選択部２３１はブロックＢ３１の処理に戻り、再度、画像が選択されたか否かを判定する。画像が選択された場合（ブロックＢ３１のＹＥＳ）、キー画像選択部２３１は、選択された画像をキー画像に決定する（ブロックＢ３２）。

次いで、キー画像選択部２３１は、顔画像選択画面４１を表示するか否かを判定する（ブロックＢ３３）。キー画像選択部２３１は、例えば、顔画像選択画面４１の表示を指示するボタンが押されたとき、顔画像選択画面４１を表示すると判定する。キー画像選択部２３１は、例えば、キー画像を確定するボタンが押されたとき、顔画像選択画面４１を表示しないと判定する。

顔画像選択画面４１を表示すると判定された場合（ブロックＢ３３のＹＥＳ）、キー画像選択部２３１は顔画像選択画面４１を表示する（ブロックＢ３４）。顔画像選択画面４１は、例えば、決定されたキー画像に含まれる顔画像のリストを表示する画面である。ユーザは、表示された顔画像のリストから、注目する人物（主人公）の顔画像を選択する操作を行う。そして、キー画像選択部２３１は、顔画像選択画面４１（顔画像のリスト）から選択された顔画像をキー顔画像に決定する（ブロックＢ３５）。なお、顔画像選択画面４１を用いて選択される顔画像は、複数であってもよい。

顔画像選択画面４１を表示しないと判定された場合（ブロックＢ３２のＮＯ）、キー画像選択部２３１は、キー画像に含まれるすべての顔画像をキー顔画像に決定する（ブロックＢ３６）。なお、キー画像選択部２３１は、キー画像に含まれる顔画像から、顔画像の位置、サイズ、鮮明度等に基づく条件を満たす顔画像を選択して、キー顔画像に決定してもよい。

ブロックＢ３５又はブロックＢ３６でキー顔画像を決定した後、キー画像選択部２３１は、決定したキー画像及びキー顔画像を示す情報を関連画像選択部２３３に出力する（ブロックＢ３７）。

以上の処理により、キー画像選択部２３１は、再生中の動画像（フォトムービー又はスライドショー）及び顔画像選択画面４１を用いて、静止画像データ５１を抽出するためのキー画像及びキー顔画像を決定することができる。関連画像選択部２３３は、決定されたキー画像及びキー顔画像に基づいて、素材データベース３０１に格納された静止画像データ５１から、キー画像及びキー顔画像に関連する静止画像データ５１を選択する。

また、図２２のフローチャートは、キー画像選択部２３１によって実行されるキー画像選択処理（図１８のブロックＢ２０１）の手順の別の例を示す。ここでは、カレンダー画面４２を用いて、キー画像が選択されることを想定する。

まず、カレンダー表示部２３２は、生成日時に基づいて静止画像データ５１が配置されたカレンダー画面４２を表示する（ブロックＢ４１）。カレンダー表示部２３２は、例えば、カレンダー画面４２に設けられた日毎の欄に、対応する生成日を有する静止画像データ５１のサムネイル画像を表示する。カレンダー表示部２３２は、対応する生成日を有する静止画像データ５１が複数存在するときには、それら複数の静止画像データ５１の内の、１つの静止画像データ５１のサムネイル画像（代表サムネイル画像）を表示する。ユーザは、カレンダー画面４２を用いて、サムネイル画像が表示されている欄に対応する生成日から、いずれかの生成日を選択する。

次に、カレンダー表示部２３２は、生成日が選択されたか否かを判定する（ブロックＢ４２）。カレンダー表示部２３２は、例えば、カレンダー画面４２上の日毎の欄がクリックされたことを検出したとき、生成日が選択されたと判定する。生成日が選択されていないとき（ブロックＢ４２のＮＯ）、カレンダー表示部２３２は、ブロックＢ４２の処理に戻り、再度、生成日が選択されたか否かを判定する。

生成日が選択されているとき（ブロックＢ４２のＹＥＳ）、カレンダー表示部２３２は、選択された生成日に生成された静止画像データ５１が複数存在するか否かを判定する（ブロックＢ４３）。選択された生成日に生成された静止画像データ５１が複数存在する場合（ブロックＢ４３のＹＥＳ）、カレンダー表示部２３２は、それら複数の静止画像データ５１の各々に対応するサムネイル画像のリストを画面に表示する（ブロックＢ４４）。そして、カレンダー表示部２３２は、表示されたリストから画像が選択されたか否かを判定する（ブロックＢ４５）。リストから画像が選択されていない場合（ブロックＢ４５のＮＯ）、カレンダー表示部２３２は、ブロックＢ４５に戻り、再度、リストから画像が選択されたか否かを判定する。リストから画像が選択されている場合（ブロックＢ４５のＹＥＳ）、キー画像選択部２３１は、選択された画像をキー画像に決定する（ブロックＢ４６）。

選択された生成日に生成された静止画像データ５１が複数存在しない場合（すなわち、選択された生成日に生成された静止画像データ５１が１つである場合）（ブロックＢ４３のＮＯ）、キー画像選択部２３１は、選択された生成日に生成された１つの静止画像データ５１をキー画像に決定する（ブロックＢ４７）。

ブロックＢ４６又はブロックＢ４７でキー画像が決定された後、キー画像選択部２３１は、顔画像選択画面４１を表示するか否かを判定する（ブロックＢ４８）。キー画像選択部２３１は、例えば、顔画像選択画面４１の表示を指示するボタンが押されたとき、顔画像選択画面４１を表示すると判定する。キー画像選択部２３１は、例えば、キー画像を確定するボタンが押されたとき、顔画像選択画面４１を表示しないと判定する。

顔画像選択画面４１を表示すると判定された場合（ブロックＢ４８のＹＥＳ）、キー画像選択部２３１は顔画像選択画面４１を表示する（ブロックＢ４９）。顔画像選択画面４１は、例えば、決定されたキー画像に含まれる顔画像のリストを表示する画面である。ユーザは、表示された顔画像のリストから、注目する人物（主人公）の顔画像を選択する操作を行う。そして、キー画像選択部２３１は、顔画像選択画面４１（顔画像のリスト）から選択された顔画像をキー顔画像に決定する（ブロックＢ５０）。なお、顔画像選択画面４１を用いて選択される顔画像は、複数であってもよい。

顔画像選択画面４１を表示しないと判定された場合（ブロックＢ４８のＮＯ）、キー画像選択部２３１は、キー画像に含まれる顔画像のうち、所定の条件を満たす顔画像をキー顔画像に決定する（ブロックＢ５１）。キー画像選択部２３１は、例えば、キー画像に含まれる顔画像から、顔画像の位置、サイズ、鮮明度等に基づく条件を満たす顔画像を選択して、キー顔画像に決定してもよい。

ブロックＢ５０又はブロックＢ５１でキー顔画像を決定した後、キー画像選択部２３１は、決定したキー画像及びキー顔画像を示す情報を関連画像選択部２３３に出力する（ブロックＢ５２）。

以上の処理により、キー画像選択部２３１は、カレンダー画面４２及び顔画像選択画面４１を用いて、静止画像データ５１を抽出するためのキー画像及びキー顔画像を決定することができる。関連画像選択部２３３は、決定されたキー画像及びキー顔画像に基づいて、素材データベース３０１に格納された静止画像データ５１から、キー画像及びキー顔画像に関連する静止画像データ５１を選択する。なお、キー画像は、上述の再生中の動画像やカレンダー画面４２から選択する処理に限らず、例えば、素材データベース３０１に格納された静止画像データ５１を示すリストから選択されてもよい。

また、図２１は、関連画像選択部２３３によって実行される関連画像選択処理（図１８のブロックＢ２０２）の手順の例を示すフローチャートである。

まず、日時関連画像選択部２３３Ａは、素材データベース３０１に格納された静止画像データ５１から、キー画像が生成された日時に関連する日時に生成された静止画像データ５１を選択する（ブロックＢ６１）。次に、人物関連画像選択部２３３Ｂは、素材データベース３０１に格納された静止画像データ５１から、キー顔画像に関連する人物の顔画像を含む静止画像データ５１を選択する（ブロックＢ６２）。そして、場所関連画像選択部２３３Ｃは、素材データベース３０１に格納された静止画像データ５１から、キー画像が生成された場所に関連する場所で生成された静止画像データ５１を選択する（ブロックＢ６３）。

関連画像選択部２３３は、日時関連画像選択部２３３Ａ、人物関連画像選択部２３３Ｂ及び場所関連画像選択部２３３Ｃの各々で選択された静止画像データ５１を示す情報をエフェクト選択部２３４に出力する（ブロックＢ６４）。

以上の処理により、関連画像選択部２３３は、キー画像及びキー顔画像に関連する静止画像データ５１を選択する。動画像生成部２３５は、選択された静止画像データ５１を用いて、動画像（フォトムービー又はスライドショー）を生成する。

以上説明したように、本実施形態によれば、インデックス情報３０２Ａに含まれる顔画像の属性情報（笑顔度、鮮明度、正面度、人物ＩＤ等）を用いて、より効果的なエフェクトを施すことを実現できる。

なお、本実施形態の画像表示処理の手順は全てソフトウェアによって実行することができる。このため、画像表示処理の手順を実行するプログラムを格納したコンピュータ読み取り可能な記憶媒体を通じてこのプログラムを通常のコンピュータにインストールして実行するだけで、本実施形態と同様の効果を容易に実現することができる。

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。

１０９…ＨＤＤ、２０２…フォトムービー作成アプリケーションプログラム、２１…監視部、２２…インデキシング部、２２１…顔画像検出部、２２２…クラスタリング部、２２３…イベント検出部、２２４…インデックス情報生成部、２３…再生制御部、２３１…キー画像選択部、２３２…カレンダー表示部、２３３…関連画像選択部、２３３Ａ…日時関連画像抽出部、２３３Ｂ…人物関連画像抽出部、２３３Ｃ…場所関連画像抽出部、２３４…シナリオ決定部、２３５…動画像生成部、２３６…動画像再生部、３０１…素材データベース、５１…静止画像データ、３０２…素材情報データベース、３０２Ａ…インデックス情報、３０３…エフェクトデータベース、３０３Ａ…エフェクトデータ、３０３Ｂ…音声データ、３０３Ｃ…シナリオデータ。

Claims (16)

1. 静止画像に含まれる顔画像を検出して解析し、各顔画像の検出位置を示す位置情報と、各顔画像の笑顔である度合いを示す笑顔度を少なくとも示す属性情報とを含む顔画像情報を作成する顔画像検出手段と、
   前記顔画像情報に含まれる前記属性情報に基づき、エフェクトを施す対象とする顔画像を選択し、前記顔画像情報に含まれる前記選択した顔画像の位置情報に基づき、前記静止画像にエフェクトを施して、前記静止画像を表示する表示制御手段と、
   を具備する電子機器。
2. 前記表示制御手段は、前記選択した顔画像の周辺部にオブジェクトを配置するエフェクトを施す請求項１記載の電子機器。
3. 前記表示制御手段は、前記選択した顔画像を含む円形の領域内と領域外とで明度を異ならせるエフェクトを施す請求項１記載の電子機器。
4. 前記表示制御手段は、前記静止画像全体が表示された第１の表示形態から、前記選択した顔画像を含む領域内の画像が拡大表示された第２の表示形態に遷移させるエフェクトを施す請求項１記載の電子機器。
5. 前記表示制御手段は、エフェクトを施す対象とする顔画像を前記笑顔度の高い順に所定数選択し、前記笑顔度の順位に応じたオブジェクトを前記選択した顔画像の周辺部に配置するエフェクトを施す請求項１記載の電子機器。
6. 前記顔画像検出手段は、各顔画像の鮮明度を前記属性情報として算出する請求項１記載の電子機器。
7. 前記表示制御手段は、複数の静止画像を順次に表示するものであって、前記選択した顔画像を含む静止画像を前記選択した顔画像を含まない静止画像よりも優先させた順序で表示する請求項１記載の電子機器。
8. 前記顔画像検出手段は、各顔画像を解析して人物毎に分類し、その分類結果を示す分類情報を前記属性情報として作成し、
   前記表示制御手段は、複数の静止画像を順次に表示するものであって、前記分類情報に基づき、エフェクトを施す対象とする顔画像の選択を人物毎に行い、前記選択した顔画像を含む静止画像にエフェクトを施す
   請求項１記載の電子機器。
9. 静止画像に含まれる顔画像を検出して解析し、各顔画像の検出位置を示す位置情報と、各顔画像の笑顔である度合いを示す笑顔度を少なくとも含む属性情報とを含む顔画像情報を作成し、
   前記顔画像情報に含まれる前記属性情報に基づき、エフェクトを施す対象とする顔画像を選択し、前記顔画像情報に含まれる前記選択した顔画像の位置情報に基づき、前記静止画像にエフェクトを施して、前記静止画像を表示する
   電子機器の画像表示方法。
10. 前記静止画像にエフェクトを施すことは、前記選択した顔画像の周辺部にオブジェクトを配置することである請求項９記載の画像表示方法。
11. 前記静止画像にエフェクトを施すことは、前記選択した顔画像を含む円形の領域内と領域外とで明度を異ならせるエフェクトを施すことである請求項９記載の画像表示方法。
12. 前記静止画像にエフェクトを施すことは、前記静止画像全体が表示された第１の表示形態から、前記選択した顔画像を含む領域内の画像が拡大表示された第２の表示形態に遷移させるエフェクトを施すことである請求項９記載の画像表示方法。
13. 前記静止画像にエフェクトを施すことは、エフェクトを施す対象とする顔画像を前記笑顔度の高い順に所定数選択し、前記笑顔度の順位に応じたオブジェクトを前記選択した顔画像の周辺部に配置するエフェクトを施すことである請求項９記載の画像表示方法。
14. 前記顔画像を解析することは、各顔画像を解析して鮮明である度合いを示す鮮明度を前記属性情報として算出することである請求項９記載の画像表示方法。
15. 前記静止画像を表示することは、前記選択した顔画像を含む静止画像を前記選択した顔画像を含まない静止画像よりも優先させた順序で表示することである請求項９記載の画像表示方法。
16. 前記顔画像を解析することは、各顔画像を解析して人物毎に分類し、その分類結果を示す分類情報を前記属性情報として作成することであり、
    前記エフェクトを施す対象とする顔画像を選択することは、前記分類情報に基づき、人物毎に行うことである
    請求項９記載の画像表示方法。

Images