以下、適宜図面を参照しながら、実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。
なお、発明者(ら)は、当業者が本開示を十分に理解するために添付図面および以下の説明を提供するのであって、これらによって特許請求の範囲に記載の主題を限定することを意図するものではない。
以下に、本開示の一実施の形態に係る情報処理装置について図1~図8を参照しながら説明する。
図1は、本開示の一実施の形態に係る撮像装置を概略的に示す斜視図である。図2は、撮像装置のブロック図である。
図1および図2に示すように、本実施の形態に係る撮像装置10は、被写体の撮影画像を取得するイメージセンサ12と、被写体の像をイメージセンサ12の受光面12aに結像する複数のレンズを含む交換レンズ14とを有する、いわゆるデジタルカメラである。
また、図2に示すように、撮像装置10は、ユーザが撮像装置10を操作するためのシャッターボタンなどの操作部16と、ユーザが撮影画像を確認するなどに使用される表示部18と、イメージセンサ12によって取得された撮影画像などを記憶する記憶部20とを有する。
また、本実施の形態の場合、撮像装置10は、その本体10aに、イメージセンサ12を駆動するセンサアクチュエータ(イメージセンサ駆動部)22と、撮像装置10のぶれ量を検出する角速度センサ(ぶれ量検出部)24と、イメージセンサ12の位置を検出する位置センサ25とを有する。
イメージセンサ12は、受光面12aを備える。本実施の形態の場合、その受光面12aに、赤色光を検出する複数のフォトダイオードと、緑色光を検出する複数のフォトダイオードと、青色光を検出する複数のフォトダイオードとがベイヤー配列されている。
交換レンズ14は、撮像装置10の本体10aに対して着脱可能なユニットであって、イメージセンサ12の受光面12aに被写体の像を結像する。交換レンズ14には、フォーカスレンズ14a、ズームレンズ14bなどが含まれる。また、交換レンズ14には、フォーカスレンズやズームレンズを駆動するアクチュエータ14c、14dと、そのアクチュエータを制御するレンズコントローラ14eが含まれる。交換レンズ14に設けられたレンズマウンタ14fと、撮像装置10の本体10aに設けられたボディマウンタ10bとが連結することにより、交換レンズ14が撮像装置10の本体10に対して着脱可能に固定されるとともに電気的に接続される。
操作部16は、シャッターボタン16aなどの複数のボタンから構成されている。本実施の形態の場合、操作部16は、撮像装置10の動作モードとして、ユーザからの手ぶれ補正モード、ノーマルハイレゾモード、および手持ちハイレゾモードそれぞれの実行開始の指示を受け取るように構成されている。例えば、それぞれのモードを開始するためのボタンを操作部16は含んでいる。
なお、手ぶれ補正モードは、撮像装置10のぶれによって生じる撮影画像に写る被写体のぶれを抑制するためのモードである。ノーマルハイレゾモードは、撮像装置10が三脚などによって固定されている状態のときに取得された複数の撮影画像からハイレゾ画像を作成するためのモードである。手持ちハイレゾモードは、撮像装置10が手持ち状態のときに取得された複数の撮影画像からハイレゾ画像を作成するためのモードである。なお、これらのモードの詳細については後述する。
表示部18は、例えば液晶ディスプレイであって、撮影画像や現在実行中のモードなどの情報を表示するためのデバイスである。
なお、操作部16の一部と表示部18とが、タッチスクリーンディスプレイによって提供されてもよい。
記憶部20は、例えば、撮像装置10に内蔵されたメモリや不図示のカードスロットを介して撮像装置10に取り外し可能に着脱可能に装着されるメモリカードである。
センサアクチュエータ22は、イメージセンサ12を駆動してその状態を変化させるデバイスであって、本実施の形態の場合、状態として位置を変化させる。イメージセンサ12の位置を変化させるために、センサアクチュエータ22は、例えば、光軸Cと直交する2方向(X軸方向、Y軸方向)にイメージセンサ12を移動させる。なお、X軸方向は撮像装置10の幅方向であって、Y軸方向は撮像装置10の高さ方向であって、Z軸方向は光軸Cの延在方向である。
角速度センサ24は、撮像装置10のぶれ量、例えば撮像装置10がユーザによって手持ちされた状態で使用されているときに生じるぶれ量(角速度)を検出する。本実施の形態の場合、X軸方向およびY軸方向のぶれ量を、角速度センサ24は検出する。
位置センサ25は、イメージセンサ12の位置を検出する。本実施の形態の場合、位置センサ25は、X軸方向およびY軸方向、Roll方向についてのイメージセンサ12の位置を検出する。
撮像装置10はまた、撮像装置10の動作を制御するカメラコントローラ30を有する。例えば、カメラコントローラ30は、ユーザの操作部16へのフォーカス操作やズーム操作に対応する信号を交換レンズ14のレンズコントローラ14eに出力し、その信号に基づいて、レンズコントローラ14eがアクチュエータ14c、14dにフォーカスレンズ14aやズームレンズ14bを駆動させる。また、本実施の形態の場合、カメラコントローラ30は、センサアクチュエータ22を制御するセンサアクチュエータ制御部32と、撮像装置10のぶれによって生じる撮影画像に写る被写体のぶれを抑制するためのぶれ補正部34と、ハイレゾ画像を作成するハイレゾ画像作成部36とを含んでいる。
カメラコントローラ30は、例えば、CPUなどのプロセッサであって、フラッシュメモリ(記憶部20)に記憶されているプログラムにしたがって動作することにより、撮像装置10の様々な動作を制御する。本実施の形態の場合、プロセッサは、プログラムにしたがって動作することにより、センサアクチュエータ制御部32、ぶれ補正部34、およびハイレゾ画像作成部36として機能する。カメラコントローラ30は、制御動作や画像処理動作の際に、DRAM(記憶部20)をワークメモリとして使用する。カメラコントローラ30は、ハードワイヤードな電子回路で構成してもよい。また、カメラコントローラ30は、ハイレゾ画像作成部36等の画像処理部やDRAMと共に1つの半導体チップで構成してもよく、あるいは、センサアクチュエータ制御部32、ぶれ補正部34、およびハイレゾ画像作成部36として機能する別個の半導体チップで構成してもよい。
センサアクチュエータ制御部32は、上述した手ぶれ補正モード、ノーマルハイレゾモード、および手持ちハイレゾモードの実行時に、後述するようにセンサアクチュエータ22を制御する。その制御に基づいて、センサアクチュエータ22は、イメージセンサ12を駆動する。
ぶれ補正部34は、手ぶれ補正モードの実行中、撮像装置10にぶれが生じていても、被写体が実質的にぶれることなく撮影画像に写るように、センサアクチュエータ制御部32と協働してイメージセンサ12の位置を変化させるように構成されている。すなわち、ぶれ補正部34は、撮像装置10にぶれが生じても、被写体の像がイメージセンサ12の受光面12aにおける実質的に同一の部分に結像し続けるように、センサアクチュエータ制御部22と協働してイメージセンサ12の位置を変化させる。例えば、撮像装置10が周期的に振動している場合、イメージセンサ12を実質的に同一の周期、振幅で振動させる。
そのために、ぶれ補正部34は、角速度センサ24によって検出された撮像装置10のぶれ量に基づいて、被写体の像がイメージセンサ12の受光面12aの実質的に同一の部分に結像するために必要なイメージセンサ12の位置の変化量を算出する。例えば、撮像装置10が、時間の経過とともに変化するぶれ量として、周期的に振動している場合、角速度センサ24の検出結果に基づいて、ぶれ補正部34は、ぶれ周波数と振幅とを算出し、センサアクチュエータ制御部32に出力する。センサアクチュエータ制御部32は、入力されたぶれ周波数および振幅と、位置センサ25によって検出されたイメージセンサ12の現在位置とに基づいて、イメージセンサ12の位置を偏差させるためのぶれ補正用変化量を算出する。そして、その算出したぶれ補正用変化量に基づいて、センサアクチュエータ制御部32は、センサアクチュエータ22がぶれ補正用変化量でイメージセンサ12を駆動するように、センサアクチュエータ22を制御する。このような手ぶれ補正モードにより、撮像装置10にぶれが生じても、被写体が実質的にぶれることなく写る撮影画像を取得することができる。ここで、位置センサ25は、ホール素子やその他の位置センサであってもよい。
ハイレゾ画像作成部36は、ノーマルハイレゾモードの実行中にイメージセンサ12によって取得され、それぞれの被写体が互いにずれて所定の位置関係で写る撮影画像をオリジナル画像(RAW画像)とし、そのオリジナル画像からハイレゾ画像を作成する。ハイレゾ画像は、撮影画像に比べて解像度が高い(画素数が多い)画像である。
まず、ノーマルハイレゾモードの実行中、すなわち撮像装置10が三脚などを介して固定された状態であるとき、ユーザがシャッターボタン16aを操作すると、一枚ではなく、所定枚数の撮影画像(オリジナル画像)がイメージセンサ12を介して取得される。具体的には、シャッターボタン16aが操作されると、センサアクチュエータ22がイメージセンサ12を駆動し、イメージセンサ12を複数の異なる位置(オリジナル画像取得位置)それぞれに駆動、停止する。そして、複数のオリジナル画像取得位置それぞれでイメージセンサ12がオリジナル画像を取得する。これにより、それぞれの被写体が互いにずれて所定の位置関係で写る所定枚数のオリジナル画像が取得される。
図3は、所定枚数のオリジナル画像それぞれに写る被写体の位置関係を示している。
図3は、ハイレゾ画像の作成に必要な8枚のオリジナル画像それぞれに写る被写体の位置(必要位置)Np(1)~Np(8)を示している。複数の必要位置Np(1)~Np(8)は、例えば被写体の特徴点が写る撮影画像上の位置である。本実施の形態の場合、複数の必要位置Np(1)~Np(8)は、X―Y平面上で1.5画素×1.5画素の範囲内に存在する。
センサアクチュエータ22は、センサアクチュエータ制御部32に制御されることにより、被写体が必要位置Np(1)~Np(8)それぞれに写るための変化量(オリジナル画像取得用変化量)で、イメージセンサ12の位置を変化させる。例えば、センサアクチュエータ22は、オリジナル画像取得用変化量として、X軸方向の位置を周期的に変化させる振動とY軸方向の位置を周期的に変化させる振動とが重畳してなる振動で、イメージセンサ12を駆動させる。
例えば、図3に示すように、イメージセンサ12がオリジナル画像取得用位置で停止することにより、まず、被写体が最初の必要位置Np(1)に写る1枚目のオリジナル画像が所得される。その1枚目のオリジナル画像を取得したオリジナル画像取得位置からイメージセンサ12がX軸マイナス方向に1画素分移動することにより、被写体が必要位置Np(2)に写る2枚目のオリジナル画像が取得される。2枚目のオリジナル画像を取得したオリジナル画像取得位置からイメージセンサ12がY軸プラス方向に1画素分移動することにより、被写体が必要位置Np(3)に写る3枚目のオリジナル画像が取得される。3枚目のオリジナル画像を取得したオリジナル画像取得位置からイメージセンサ12がX軸プラス方向に1画素分移動することにより、被写体が必要位置Np(4)に写る4枚目のオリジナル画像が取得される。4枚目のオリジナル画像を取得したオリジナル画像取得位置からイメージセンサ12がX軸マイナス方向に半画素分且つY軸マイナス方向に半画素分移動することにより、被写体が必要位置Np(5)に写る5枚目のオリジナル画像が取得される。5枚目のオリジナル画像を取得したオリジナル画像取得位置からイメージセンサ12がX軸マイナス方向に1画素分移動することにより、被写体が必要位置Np(6)に写る6枚目のオリジナル画像が取得される。6枚目のオリジナル画像を所得したオリジナル画像取得位置からイメージセンサ12がY軸プラス方向に1画素分移動することにより、被写体が必要位置Np(7)に写る7枚目のオリジナル画像が取得される。そして、7枚目のオリジナル画像を取得したオリジナル画像取得位置からイメージセンサ12がX軸プラス方向に1画素分移動することにより、被写体が必要位置Np(8)に写る8枚目のオリジナル画像が取得される。
なお、上述のオリジナル画像の取得の順番は、イメージセンサ12の移動量を最小にした場合、すなわち短時間でオリジナル画像を取得するための順番である。被写体が必要位置Np(1)~Np(8)それぞれに写る8枚のオリジナル画像を取得できるのであれば、その取得の順番、駆動の向きは限定されない。
このようにイメージセンサ12が駆動されることによってそれぞれの被写体が互いにずれて所定の位置関係で写る8枚のオリジナル画像が取得される。ハイレゾ画像作成部36は、このようにして取得した8枚のオリジナル画像を用いて1枚のハイレゾ画像を作成する。その作成方法について、図4および図5を参照しながら説明する。なお、理解を容易にするために、大きさが4画素(w)×4画素(h)のオリジナル画像を例に挙げる。wは画像の幅を示し、hは画像の高さを示している。
図4は、オリジナル画像データからハイレゾ画像用の赤色画素データ、緑色画素データ、および青色画素データを作成するプロセスを示している。図5は、ハイレゾ画像用の赤色画素データ、緑色画素データ、および青色画素データからハイレゾ画像データを作成する処理を示している。
図4に示すように、ハイレゾ画像作成部36は、まず、8枚のオリジナル画像(RAW画像)データそれぞれの画素数を2倍にする。すなわち、4画素(w)×4画素(h)のRAW画像データから8画素(2w)×8画素(2h)のRAW画像データを作成する。
ハイレゾ画像作成部36は、その画素数を2倍にしたRAW画像データそれぞれをRGB分離し、赤色画素の位置を示す赤色画素データ、緑色画素の位置を示す緑色画素データ、および青色画素の位置を示す青色画素データを作成する。なお、n枚目のオリジナル画像(被写体が必要位置Np(n)に写るオリジナル画像)から作成された赤色画素データをRn、緑色画素データをGn、青色画素データをBnとする。
図4に示すように、ハイレゾ画像作成部36は、次に、8枚の赤色画素データR1~R8それぞれにおける赤色画素の位置をまとめて示す1枚のハイレゾ赤色画素データRsを作成する。同様に、8枚の緑色画素データG1~G8からハイレゾ緑色画素データGsを作成し、8枚の青色データB1~B8からハイレゾ青色画素データBsを作成する。
図5に示すように、ハイレゾ画像作成部36は、ハイレゾ赤色画素データRsをデモザイキングするための赤補間データRcを、補間アルゴリズムに基づいて作成し、同様に、ハイレゾ青色画素データBsをデモザイキングするための、青補間データBcを作成する。
そして、ハイレゾ画像作成部36は、赤補間データRc、ハイレゾ緑色画素データGs、および青補間データBcを合成してハイレゾ画像データを作成する。なお、ハイレゾ画像作成部36によって作成されたハイレゾ画像データは記憶部20に保存される。なお、ハイレゾ画像生成方法は、この方法に限らない。
ハイレゾ画像作成部36は、ノーマルハイレゾモードの実行中のみならず、手持ちハイレゾモードの実行中も、ハイレゾ画像を作成する。しかしながら、手持ちハイレゾモードにおけるハイレゾ画像の作成方法、特にハイレゾ画像の作成に必要なオリジナル画像の取得方法が、ノーマルハイレゾモードの実行中とは異なる。この手持ちハイレゾモードについて説明する。
手持ちハイレゾモードは、概略、上述のぶれ補正部34によるぶれ補正(ぶれ補正モード)を実行しつつ、そのぶれ補正中にイメージセンサ12によって取得された撮影画像からハイレゾ画像を作成するモードである。
上述したように、ぶれ補正部34により、角速度センサ24によって検出された撮像装置10のぶれ量に基づいて、被写体の像がイメージセンサ12の受光面12aの実質的に同一の部分に結像するようにイメージセンサ12の位置が変化される。当然ながら、被写体の像がイメージセンサ12の受光面12aの同一の部分に完全に結像する場合、複数の撮影画像において被写体にずれは生じない。しかしながら、実際には、撮像装置10のぶれ量が数百画素以上である場合、ぶれ補正を実行しても、被写体の像がイメージセンサ12の受光面12aに数画素程度ずれて結像する。その結果、複数の撮影画像間において被写体の数画素程度の位置ずれが生じる。手持ちハイレゾモードは、この数画素程度の被写体の位置ずれを利用するモードである。
本実施の形態の場合、手持ちハイレゾモードの実行中、ユーザがシャッターボタン16aを押すと、ハイレゾ画像の作成に必要な所定枚数を超える枚数(例えば16枚)の撮影画像がイメージセンサ12によって取得される。
このとき、イメージセンサ12は、ぶれ補正部34により、被写体の像がイメージセンサ12の受光面12aの実質的に同一部分に結像するようにその位置が変化されている(例えば振動されている)。しかしながら、実際には、被写体の像がイメージセンサ12の受光面12aに数画素程度ずれて結像する。その結果として、被写体が互いにずれて写る所定枚数を超える枚数の撮影画像が取得される。
ハイレゾ画像作成部36は、被写体が互いにずれて写る所定枚数を超える枚数、例えば16枚のオリジナル画像それぞれに対して画像解析処理を実行することにより、それぞれに写る被写体の位置関係を検出する。例えば、1枚目の撮影画像を基準撮影画像とし、その基準撮影画像に写る被写体の位置に対する2~16枚目のオリジナル画像それぞれに写る被写体の位置ずれを検出する。
図6は、手持ちハイレゾモードの実行中に取得された複数の撮影画像それぞれに写る被写体の位置関係を示している。
図6には、手持ちハイレゾモードの実行中に取得された16枚の撮影画像それぞれに写る被写体(例えばその特徴点)の位置Cp(1)~Cp(16)を示している。なお、m枚目の撮影画像に写る被写体の位置はC(m)である。また、図6には、ハイレゾ画像の作成に必要な8枚のオリジナル画像それぞれに写る被写体の必要位置Np(1)~Np(8)を示している。
ハイレゾ画像作成部36は、16枚の撮影画像からハイレゾ画像の作成に使用するオリジナル画像を選択する。その選択は、図6に示すように、16枚の撮影画像それぞれに写る被写体の位置Cp(1)~Cp(16)と、ハイレゾ画像の作成に必要な8枚のオリジナル画像それぞれに写る被写体の必要位置Np(1)~Np(8)とに基づいて実行される。
具体的には、ハイレゾ画像作成部36は、被写体の位置Cp(m)がオリジナル画像の必要位置Np(n)それぞれに対して第1の範囲A1内に存在するm枚目の撮影画像を、n枚目のオリジナル画像として選択する。例えば、必要位置Np(2)に対して第1の範囲内A1の位置Cp(7)に被写体が写る7枚目の撮影画像が2枚目のオリジナル画像として選択される。また例えば、必要位置Np(7)のように、その第1の範囲A1内に被写体(位置Cp(12)および位置Cp(13)の被写体)が写る複数の撮影画像(12枚目および13枚目の撮影画像)が存在する場合、最も近い位置Cp(13)に被写体が写る13枚目の撮影画像が、7枚目のオリジナル画像として選択される。
なお、図6に示す必要位置Np(1)のように、オリジナル画像の必要位置Np(n)に対して第1の範囲A1内に被写体が写る撮影画像が存在しない場合がある。この場合、被写体が必要位置Np(1)に写る1枚目のオリジナル画像が不足し、ハイレゾ画像が作成できない。そこで、本実施の形態の場合、ハイレゾ画像作成部36は、不足するオリジナル画像を、少なくとも2枚の撮影画像を合成することによって作成する。
例えば、図6に示すように、ハイレゾ画像作成部36は、被写体が必要位置Np(1)に写る1枚目のオリジナル画像を作成するために、その必要位置Np(1)に対して第2の範囲A2内に被写体が写る複数の撮影画像を用いる。具体的には、被写体が位置Cp(1)、Cp(2)、Cp(3)それぞれに写る1~3枚目の撮影画像を合成して1枚目のオリジナル画像を作成する。なお、第2の範囲A2は、第1の範囲A1に比べて大きい範囲である。この時、合成に関しては合成に用いる画像の位置関係に応じて重みづけをして合成することも可能である。
なお、被写体が必要位置に写るオリジナル画像を高い精度で作成するために、ハイレゾ画像作成部36が、使用する少なくとも2枚の撮影画像を前処理してもよい。
例えば、撮影画像それぞれを複数の領域に分割する。次に、前処理対象の少なくとも2枚の撮影画像において最初に取得された撮影画像の領域それぞれを基準にして、残りの撮影画像それぞれの領域それぞれについて位置ずれ量(例えば変位ベクトル)を検出する。領域それぞれについて検出された位置ずれ量に基づいて、最初の撮影画像全体に対する残りの撮影画像それぞれの全体の位置ずれ量および回転量を算出する。その算出した全体の位置ずれ量および回転量に基づいて、前処理対象の少なくとも2つの撮影画像それぞれに対して、それぞれの被写体が略同一位置に写るように、すなわちオリジナル画像の必要位置近傍に写るように、平行移動補正と回転補正を実行する。このような前処理が実行された複数の撮影画像を用いることにより、被写体が略必要位置に写るオリジナル画像を作成することができる。
上述したように、手持ちハイレゾモードにおいては、ぶれ補正を実行しても、被写体の像がイメージセンサ12の受光面12aに数画素程度ずれて結像するために、ハイレゾ画像の作成に必要な、それぞれの被写体が互いにずれて所定の位置関係で写る所定枚数のオリジナル画像を取得することができる。しかしながら、撮像装置10のぶれ量が小さい場合、例えば百画素以下である場合、ぶれ補正を実行すると、被写体の像がイメージセンサ12の受光面12a上に1画素以下の画素数でずれて結像する可能性がある。ぶれ補正により、被写体の像が、位置ずれすることなく、イメージセンサ12の受光面の同一部分に完全に結像する可能性がある。この場合、図3に示すように、1.5画素×1.5画素の範囲において被写体が互いにずれて所定の位置関係で写る(必要位置Np(1)~Np(8)それぞれに被写体が写る)所定枚数のオリジナル画像を取得できない可能性がある。
そこで、手持ちハイレゾモードの実行中、複数の撮影画像間において被写体の位置ずれ量が所定のしきい位置ずれ量(例えば1画素以下)に比べて小さい場合、センサアクチュエータ制御部32は、センサアクチュエータ22がぶれ補正用変化量に追加変化量が補充された増補変化量でイメージセンサ12の位置を変化させるように、センサアクチュエータ22を制御する。
図7は、イメージセンサのX軸方向の位置を変化させる増補変化量の一例を示している。
図7に示すように、手持ちハイレゾモードの実行が開始されると(タイミングt0)、センサアクチュエータ22が、ぶれ補正用変化量でイメージセンサ12の位置を変化させる。例えば、センサアクチュエータ22は、ぶれ補正用変化量として、撮像装置10のぶれに対応する数Hz程度の周波数の振動で、イメージセンサ12を振動させる。これにより、被写体の像がイメージセンサ12の受光面12a上に1画素以下の画素数のずれ量、すなわちオリジナル画像を取得できないずれ量でずれて結像される。
手持ちハイレゾモードの実行中、シャッターボタン16aがユーザの指によって操作されると(タイミングt1)、イメージセンサ12が複数の撮影画像の取得を開始する。それぞれの露光中は、ぶれ補正用の変化に対応した駆動がなされるが、露光時間以外のタイミングで、センサアクチュエータ22は、ぶれ補正用変化量に追加変化量が補充された増補変化量でイメージセンサ22の位置を変化させる。追加変化量は、例えば、ぶれ補正用変化量に比べて低周波、低振幅の振動であって、撮像装置10の連続撮影で画像間にずれを生じさせる周波数および数画素程度の振幅を備える振動である。
このような追加変化量が補充されることにより、被写体の像が、追加変化量が補充される前に比べて大きく、ハイレゾ画像の作成に必要なオリジナル画像の取得を可能にするずれ量、例えば数画素以上のずれ量でずれてイメージセンサ12の受光面12aに結像する。これにより、図3に示すように、1.5画素×1.5画素の範囲において被写体が互いにずれて所定の位置関係で写る(必要位置Np(1)~Np(8)それぞれに被写体が写る)所定枚数のオリジナル画像を取得することが可能になる。
なお、追加変化量は、ハイレゾ画像の作成に必要な所定枚数のオリジナル画像を取得できる変化量(例えば周期的な振動、もしくはランダム振動)であればよく、ノーマルハイレゾモード時のオリジナル画像取得用変化量を用いてもよい。また、単純にぶれ補正の程度を弱めることで、ハイレゾ画像の作成に必要なオリジナル画像の取得が可能なずれ量を生じさせてもよい。
また、複数の撮影画像の取得が完了すると(タイミングtx)、追加変化量の補充が終了する。
追加変化量を補充するか否かの判定、すなわち複数の撮影画像間において被写体の位置ずれ量が所定のしきい位置ずれ量に比べて小さいか否かの判定は、シャッターボタン16aがユーザによって操作された直後に取得された1枚目および2枚目の撮影画像を用いて行ってもよい。
具体的には、1枚目および2枚目の撮影画像それぞれに写る被写体の位置ずれ量をハイレゾ画像作成部36が検出する。その検出した位置ずれ量が所定のしきい位置ずれ量(例えば1画素以下)に比べて小さい場合、すなわち1枚目の撮影画像と2枚目の撮影画像が実質的に同一である場合、センサアクチュエータ22が、ぶれ補正用変化量に追加変化量を補充した駆動を始める(増補変化量でイメージセンサ12を駆動し始める)。この場合、3枚目以降の撮影画像の中からハイレゾ画像の作成に使用される所定枚数のオリジナル画像が選択される。
これに代わって、手持ちハイレゾモードの開始後(タイミングt0)であってシャッターボタン16aが押される(タイミングt1)までの間で、センサアクチュエータ22は、ぶれ補正用変化量に追加変化量を補充し始めてもよい(増補変化量でイメージセンサ12を駆動し始めてもよい)。この場合、手持ちハイレゾモードの開始の直前またの直後に角速度センサ24によって検出されたぶれ量が所定のしきい位置ずれ量に対応する所定のしきいぶれ量に比べて小さいときに、センサアクチュエータ22が増補変化量でイメージセンサ12を駆動する。この時、判定に用いるセンサは角速度センサ24を用いたが、加速度センサや、画像の動きを用いた判断等を用いてもよい。
ここからは、ユーザによって手持ちハイレゾモードが開始されてからハイレゾ画像が作成されるまでの処理について、図8を参照しながら説明する。
図8は、ユーザによって手持ちハイレゾモードが開始されてからハイレゾ画像が作成されるまでの処理の一例を示している。
図8に示すように、ユーザによって手持ちハイレゾモードが開始されると、ステップS100において、カメラコントローラ30が、角速度センサ24によって検出された撮像装置10のぶれ量に基づいて、ぶれ補正用変化量を算出する。
次に、ステップS110において、センサアクチュエータ22が、ステップS100で算出されたぶれ補正用変化量でイメージセンサ12を駆動し始める(イメージセンサ12の位置を変化し始める)。これにより、ぶれ補正が開始される。
続いて、ステップS120において、シャッターボタン16aに対するユーザの操作の有無が判定される。ユーザによってシャッターボタン16aが操作されると、次のステップS130に進む。
ステップS130において、ぶれ補正変位量で位置が変化しているイメージセンサ12が撮影画像の取得を開始する。
ステップS140において、カメラコントローラ30が1枚目および2枚目の撮影画像間の被写体の位置ずれ量を検出する。
ステップS150において、ステップS140で検出された位置ずれ量が所定のしきい位置ずれ量に比べて大きいか否かが判定される。大きい場合はステップS160に進む。そうでない場合は、ステップS190に進む。
ステップS160において、イメージセンサ12が、1枚目および2枚目の撮影画像を含む複数の撮影画像、例えば16枚の撮影画像を取得する。
ステップS170において、カメラコントローラ30が、取得した複数の撮影画像からハイレゾ画像の作成に使用する所定枚数のオリジナル画像を選択する。例えば16枚の撮影画像から8枚のオリジナル画像を選択する。
ステップS180において、カメラコントローラ30が、ステップ170で選択された所定枚数のオリジナル画像からハイレゾ画像を作成する。
ステップS180でハイレゾ画像が作成されると、ユーザによる手持ちハイレゾモードの終了指示の有無が判定される。ユーザによって手持ちハイレゾモードの終了が指示された場合、カメラコントローラ30は手持ちハイレゾモードを終了する。その結果、センサアクチュエータ22によるイメージセンサの駆動が停止する。終了の指示がない場合、ステップS100に戻る。
一方、ステップS150で、ステップS140で検出された位置ずれ量が所定の位置ずれ量に比べて小さい場合、ステップS200において、センサアクチュエータ22が、露光時間以外にステップS100で算出されたぶれ補正用変化量に追加変化量を補充した増補変化量でイメージセンサ12を駆動し始める。これにより、オリジナル画像として選択可能な撮影画像の取得が可能になる。
続くステップS210において、イメージセンサ12が、1枚目および2枚目の撮影画像を除く複数の撮影画像を取得する。そして、ステップS170に進む。
以上のような本実施の形態によれば、撮像装置10は、手持ち状態時に取得された撮影画像からハイレゾ画像を生成することができる。
以上、上述の実施の形態を挙げて本開示を説明したが、本開示の実施の形態はこれに限定されない。
例えば、上述の実施の形態の場合、撮像装置10にぶれが生じていても、被写体が実質的にぶれることなく撮影画像に写るように、イメージセンサ12の位置を変化させる。しかしながら、本開示の実施の形態は、これに限らない。
図9は、本開示の別の実施の形態に係る撮像装置のブロック図である。
図9に示すように、別の実施の形態に係る撮像装置110は、図2に示す上述の実施の形態に係る撮像装置10と同様に、イメージセンサ12、光学系14、操作部16、表示部18、記憶部20、センサアクチュエータ22、角速度センサ24、位置センサ25、およびカメラコントローラ130を有する。これに加えて、交換レンズ114が、ぶれ補正レンズ114gと、位置が変化するようにぶれ補正レンズ114gを駆動するぶれ補正レンズアクチュエータ(レンズ駆動部)114hと、角速度センサ114iと、ぶれ補正レンズ114gの位置を検出する位置センサ114kを有する。また、交換レンズ114のレンズコントローラ114eは、ぶれ補正レンズアクチュエータ114hを制御するぶれ補正レンズアクチュエータ制御部114jを含んでいる。
図9に示す別の実施の形態に係る撮像装置110の場合、手ぶれ補正モードおよび手ぶれハイレゾモードにおいて、被写体の像がイメージセンサ12の受光面における実質的に同一の部分に結像し続けるように、イメージセンサ12の位置が変化されるとともに、ぶれ補正レンズ114gの位置も変化される。そのために、ぶれ補正部134は、まず、角速度センサ24の検出結果に基づいて撮像装置110のぶれ量(ぶれ周波数および振幅)を算出するとともに、角速度センサ114jの検出結果に基づいて交換レンズ114のぶれ量(ぶれ周波数および振幅)を算出し、センサアクチュエータ制御部32とぶれ補正レンズアクチュエータ制御部114jとに出力する。センサアクチュエータ制御部32は、入力されたぶれ周波数および振幅と位置センサ25によって検出されたイメージセンサ12の現在位置とに基づいて、イメージセンサ12の位置を偏差させるためのぶれ補正用変化量を算出する。また、補正レンズアクチュエータ制御部114jは、入力されたぶれ周波数および振幅と位置センサ114kによって検出されたぶれ補正レンズ114gの現在位置とに基づいて、ぶれ補正レンズ114gの位置を偏差させるための第2のぶれ補正用変化量を算出する。そして、センサアクチュエータ22がぶれ補正用変化量でイメージセンサ12の位置を変化させつつ、ぶれ補正レンズアクチュエータ114hが第2のぶれ補正用変化量でぶれ補正レンズ114gの位置を変化させる。ここで、ぶれ補正用レンズ114gのための第2のぶれ補正変化量は、撮像装置110の本体10a側の角速度センサ24からの信号を用いて演算してもよいし、交換レンズ114に設けられた角速度センサ114iの信号を用いて演算してもよい。前者の場合、第2のぶれ補正変化量に対応する信号が、ボディマウンタ10bおよびレンズマウンタ14fを介して、カメラコントローラ130からレンズコントローラ114eに送信される。
なお、この別の実施の形態の場合、イメージセンサ12のためのぶれ補正用変化量がゼロになりうる。すなわち、ぶれ補正用レンズ126の位置を変化させるだけで、被写体の像がイメージセンサ12の受光面における実質的に同一の部分に結像し続ける場合がある。この場合、手持ちハイレゾモードにおいて、被写体の位置ずれ量が所定のしきい位置ずれ量に比べて小さい場合、イメージセンサ12は、ゼロのぶれ補正用変化量に追加変化量が補充された増補変化量、すなわち追加変化量で位置が変化される。
さらに、図2に示す一実施の形態に係る撮像装置10の場合および図9に示す別の実施の形態に係る撮像装置110の場合、ぶれ補正用変化量および増補変化量は、イメージセンサ12の位置の変化量である。しかしながら、本開示の実施の形態はこれに限らない。
図1を用いて説明すると、撮像装置10において(同様に撮像装置110において)、イメージセンサ12は、X軸方向の位置およびY軸方向の位置について変化される。これに加えてまたはこれに代わって、イメージセンサ12は、光軸Cの延在方向に延在して受光面12aに対して直交するZ軸を中心とする回転姿勢が変化されてもよい。この場合、ぶれ補正用変化量および増補変化量に、イメージセンサ12の回転姿勢の変化量が含まれる。また、撮像装置10の姿勢のぶれ量を検出するために角速度センサが使用される。
さらにまた、上述の実施の形態の場合、図7および図8に示すように、手持ちハイレゾモード中において、撮影画像間において被写体の位置ずれ量が所定のしきい位置ずれ量に比べて小さい場合には、センサアクチュエータ(イメージセンサ駆動部)が、ぶれ補正用変化量に追加変化量が補充された増補変化量でイメージセンサを駆動する。しかしながら、本開示の実施の形態は、これに限らない。
例えば、手持ちハイレゾモード中において、撮影画像間における被写体の位置ずれ量に関係なく、センサアクチュエータ(イメージセンサ駆動部)が、定常的に、ぶれ補正用変化量に追加変化量が補充された増補変化量でイメージセンサを駆動してもよい。
例えば、手持ちハイレゾモード中に、ユーザが撮像装置を三脚などで固定する場合がある。この場合、撮像装置のぶれ量を検出する角速度センサ(ぶれ量検出部)は、撮像装置のぶれ量を検出していない、具体的には撮像装置がぶれていると判定できる所定のしきい値以上のぶれ量を検出していない。そのために、ぶれ補正部が実質的にゼロで変化しないイメージセンサのぶれ補正用変化量を算出する。その結果、撮影画像間において被写体の位置ずれ量が実質的にゼロになりうる、すなわち実質的に同一の複数の撮影画像が取得される。この対処として、手持ちハイレゾモード中において、撮影画像間において被写体の位置ずれ量に関係なく、センサアクチュエータ(イメージセンサ駆動部)が、定常的に、ぶれ補正用変化量に追加変化量が補充された増補変化量でイメージセンサを駆動する。
図10は、イメージセンサのX軸方向の位置を変化させる増補変化量の別例を示している。
図10に示すように、手持ちハイレゾモード中において、撮像装置が三脚などで固定されている場合、例えば、イメージセンサのX軸方向の位置を変化させる増補変化量は、実質的にゼロで変化しないぶれ補正用変化量に、追加変化量を定常的に補充したものになる。このような増補変化量により、手持ちハイレゾモード中において撮像装置が三脚などで固定されていても、また撮像装置が手持ち状態であっても、ハイレゾ画像の作成に必要な所定枚数のオリジナル画像を取得することができる。
なお、これに代わって、手持ちハイレゾモード中において撮像装置が三脚などで固定されると、すなわち角速度センサ(ぶれ量検出部)が所定のしきい値以上のぶれ量を検出していない場合、手持ちハイレゾモードからノーマルハイレゾモードにモード切替してもよい。
また、上述の実施の形態の場合、手持ちハイレゾモードにおいて、例えば、図3および図6に示すように、1.5画素×1.5画素の範囲において被写体が互いにずれて所定の位置関係で写る(必要位置Np(1)~Np(8)それぞれに被写体が写る)所定枚数のオリジナル画像を取得するために追加変化量がぶれ補正用変化量に補充される。しかしながら、複数のオリジナル画像は、1.5画素×1.5画素の範囲において被写体が互いにずれて所定の位置関係で写る画像に限らない。
すなわち、ベイヤー配列を考慮すれば、(1.5+2k(kは整数))画素×(1.5+2k)画素の範囲において被写体が互いにずれて所定の位置関係で写るオリジナル画像であればよい。
図11は、複数のオリジナル画像を取得するためのイメージセンサの位置の変化を示すタイミングチャートである。
図11に示すように、例えば、被写体が最初の必要位置Np(1)に写る1枚目のオリジナル画像が取得される。その1枚目のオリジナル画像を取得したオリジナル画像取得位置からイメージセンサ12がX軸マイナス方向に(1+2k)画素分移動することにより、被写体が必要位置Np(2)に写る2枚目のオリジナル画像が取得される。2枚目のオリジナル画像を取得したオリジナル画像取得位置からイメージセンサ12がY軸プラス方向に(1+2k)画素分移動することにより、被写体が必要位置Np(3)に写る3枚目のオリジナル画像が取得される。3枚目のオリジナル画像を取得したオリジナル画像取得位置からイメージセンサ12がX軸プラス方向に(1+2k)画素分移動することにより、被写体が必要位置Np(4)に写る4枚目のオリジナル画像が取得される。4枚目のオリジナル画像を取得したオリジナル画像取得位置からイメージセンサ12がX軸マイナス方向に(0.5+2k)画素分且つY軸マイナス方向に(0.5+2k)画素分移動することにより、被写体が必要位置Np(5)に写る5枚目のオリジナル画像が取得される。5枚目のオリジナル画像を取得したオリジナル画像取得位置からイメージセンサ12がX軸マイナス方向に(1+2k)画素分移動することにより、被写体が必要位置Np(6)に写る6枚目のオリジナル画像が取得される。6枚目のオリジナル画像を所得したオリジナル画像取得位置からイメージセンサ12がY軸プラス方向に(1+2k)画素分移動することにより、被写体が必要位置Np(7)に写る7枚目のオリジナル画像が取得される。そして、7枚目のオリジナル画像を取得したオリジナル画像取得位置からイメージセンサ12がX軸プラス方向に(1+2k)画素分移動することにより、被写体が必要位置Np(8)に写る8枚目のオリジナル画像が取得される。
すなわち、本開示の実施の形態に係る撮像装置は、広義には、被写体が写る撮影画像を取得するイメージセンサと、位置および姿勢の少なくとも一方が変化するように前記イメージセンサを駆動するイメージセンサ駆動部と、それぞれの被写体が互いにずれて所定の位置関係で写る所定枚数の前記撮影画像を所定枚数のオリジナル画像とし、前記所定枚数のオリジナル画像からハイレゾ画像を作成するハイレゾ画像作成部と、前記撮像装置のぶれ量を検出するぶれ量検出部と、前記撮像装置が手持ち状態のときに取得された前記撮影画像から前記ハイレゾ画像を作成する手持ちハイレゾモードの実行開始をユーザが指示するための操作部と、を有し、前記手持ちハイレゾモードの実行中、前記イメージセンサ駆動部が前記ぶれ量に基づいて算出されたぶれ補正用変化量に追加変化量が補充された増補変化量で前記イメージセンサを駆動している状態で、前記ハイレゾ画像作成部が、前記イメージセンサによって取得された前記撮影画像から前記ハイレゾ画像を作成するものである。
以上のように、本開示における技術の例示として、複数の実施の形態を説明した。そのために、添付図面および詳細な説明を提供した。
したがって、添付図面および詳細な説明に記載された構成要素の中には、課題解決のために必須な構成要素だけでなく、前記技術を例示するために、課題解決のためには必須でない構成要素も含まれ得る。そのため、それらの必須ではない構成要素が添付図面や詳細な説明に記載されていることをもって、直ちに、それらの必須ではない構成要素が必須であるとの認定をするべきではない。
また、上述の実施の形態は、本開示における技術を例示するためのものであるから、請求の範囲またはその均等の範囲において種々の変更、置き換え、付加、省略などを行うことができる。