[go: up one dir, main page]

JP7734074B2 - 制御装置、撮像装置、制御方法、制御プログラム - Google Patents

制御装置、撮像装置、制御方法、制御プログラム

Info

Publication number
JP7734074B2
JP7734074B2 JP2021214702A JP2021214702A JP7734074B2 JP 7734074 B2 JP7734074 B2 JP 7734074B2 JP 2021214702 A JP2021214702 A JP 2021214702A JP 2021214702 A JP2021214702 A JP 2021214702A JP 7734074 B2 JP7734074 B2 JP 7734074B2
Authority
JP
Japan
Prior art keywords
image
data
amount
blur
image blur
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021214702A
Other languages
English (en)
Other versions
JP2023098136A (ja
Inventor
宏輔 栗林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2021214702A priority Critical patent/JP7734074B2/ja
Priority to US18/060,890 priority patent/US12301994B2/en
Publication of JP2023098136A publication Critical patent/JP2023098136A/ja
Application granted granted Critical
Publication of JP7734074B2 publication Critical patent/JP7734074B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation
    • H04N23/687Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Adjustment Of Camera Lenses (AREA)

Description

本発明は、制御装置、撮像装置、制御方法、制御プログラムに関する。
特許文献1には、ブレ検出手段に関する第一のオフセットを記憶する記憶手段と、上記ブレ検出手段からの信号と上記第一のオフセットとに基づいて上記ブレ検出手段に関する第二のオフセットを算出する算出手段と、像ブレ補正装置の電源オンからの経過時間に応じて上記第一のオフセットまたは上記第二のオフセットの少なくとも一方を用いて、上記ブレ検出手段からの上記信号を補正し、補正後の上記信号に基づいて像ブレ補正を行う補正手段と、を有することを特徴とする像ブレ補正装置が記載されている。
特許文献2には、光学系を通して被写体像を撮像する撮像素子と、撮像装置を移動させながら撮影した複数枚の撮影画像を、与えられる初期値を用いて1枚に合成する機能を有する画像信号処理部と、上記撮像装置の姿勢情報を得る姿勢センサと、上記姿勢センサの情報を処理し、その処理結果と上記画像信号処理部の処理結果との協調制御を行う制御部と、を有し、上記画像信号処理部は、画像認識処理により相互の画像の相対位置関係を求め、上記制御部は、上記姿勢センサの検出情報による画像の位置関係を求め、その求めた位置関係と上記画像信号処理部で求められた相対位置関係に基づいて各画像の絶対位置関係を特定し、その絶対位置関係を上記初期値として上記画像信号処理部に供給する撮像装置が記載されている。
特開2018-197772号公報 特開2010-147635号公報
本開示の技術に係る一つの実施形態の制御装置は、撮像素子を有する撮像装置の制御装置であって、プロセッサと、複数の軸回りの角速度の情報を出力する第1振動検出器と、加速度を検出可能であり、上記撮像素子の受光面に沿う方向における上記撮像装置の動きを検出可能な第2振動検出器と、を備え、上記プロセッサは、上記第1振動検出器から出力される上記角速度の情報である第1出力データを、そのまま積分して得られるデータから導出される、振動により生じるブレに応じた第1ブレ補正量を導出し、所定時間分の上記第1出力データの積分後のデータに対して、ハイパスフィルタ処理を施したデータから導出される情報、又は上記第1出力データにハイパスフィルタ処理を施したデータを所定時間分積分したデータから導出される情報である第2ブレ補正量を導出し、上記第2振動検出器から出力される所定時間分の上記加速度の情報である第2出力データを2階積分することにより、第3ブレ補正量を導出し、ブレ補正中に上記撮像素子による撮像で得られる複数の画像データ間の動きベクトルである画像データ間ブレ量である、画像のブレに関する第1画像ブレ量を導出し、上記第1ブレ補正量上記第2ブレ補正量の加算値から、上記第1画像ブレ量と上記第3ブレ補正量の加算値を減算して得られる値に基づいて、上記第1出力データに含まれるオフセット成分を導出する、ものである。
本開示の技術に係る一つの実施形態の撮像装置は、上記制御装置を備えるものである。
本開示の技術に係る一つの実施形態の制御方法は、撮像装置の制御方法であって、前記撮像装置は、撮像素子と、複数の軸回りの角速度の情報を出力する第1振動検出器と、加速度を検出可能であり、前記撮像素子の受光面に沿う方向における前記撮像装置の動きを検出可能な第2振動検出器と、を有し、上記第1振動検出器から出力される上記角速度の情報である第1出力データを、そのまま積分して得られるデータから導出される、振動により生じるブレに応じた第1ブレ補正量を導出し、所定時間分の上記第1出力データの積分後のデータに対して、ハイパスフィルタ処理を施したデータから導出される情報、又は上記第1出力データにハイパスフィルタ処理を施したデータを所定時間分積分したデータから導出される情報である第2ブレ補正量を導出し、上記第2振動検出器から出力される所定時間分の上記加速度の情報である第2出力データを2階積分することにより、第3ブレ補正量を導出し、ブレ補正中に上記撮像素子による撮像で得られる複数の画像データ間の動きベクトルである画像データ間ブレ量である、画像のブレに関する第1画像ブレ量を導出し、上記第1ブレ補正量上記第2ブレ補正量の加算値から、上記第1画像ブレ量と上記第3ブレ補正量の加算値を減算して得られる値に基づいて、上記第1出力データに含まれるオフセット成分を導出する、ものである。
本開示の技術に係る一つの実施形態の制御プログラムは、撮像装置の制御プログラムであって、前記撮像装置は、撮像素子と、複数の軸回りの角速度の情報を出力する第1振動検出器と、加速度を検出可能であり、前記撮像素子の受光面に沿う方向における前記撮像装置の動きを検出可能な第2振動検出器と、を有し、上記第1振動検出器から出力される上記角速度の情報である第1出力データを、そのまま積分して得られるデータから導出される、振動により生じるブレに応じた第1ブレ補正量を導出し、所定時間分の上記第1出力データの積分後のデータに対して、ハイパスフィルタ処理を施したデータから導出される情報、又は上記第1出力データにハイパスフィルタ処理を施したデータを所定時間分積分したデータから導出される情報である第2ブレ補正量を導出し、上記第2振動検出器から出力される所定時間分の上記加速度の情報である第2出力データを2階積分することにより、第3ブレ補正量を導出し、ブレ補正中に上記撮像素子による撮像で得られる複数の画像データ間の動きベクトルである画像データ間ブレ量である、画像のブレに関する第1画像ブレ量を導出し、上記第1ブレ補正量上記第2ブレ補正量の加算値から、上記第1画像ブレ量と上記第3ブレ補正量の加算値を減算して得られる値に基づいて、上記第1出力データに含まれるオフセット成分を導出する、ステップをプロセッサに実行させる、ものである。
本発明の撮像装置の一実施形態であるデジタルカメラ1の概略構成を模式的に示す図である。 デジタルカメラ1のカメラ本体10の外観を模式的に示す正面図である。 オフセット成分の導出処理時の制御部18の動作を説明するためのタイミングチャートである。 スマートフォン200の外観を示すものである。 図4に示すスマートフォン200の構成を示すブロック図である。
図1は、本発明の撮像装置の一実施形態であるデジタルカメラ1の概略構成を模式的に示す図である。図2は、デジタルカメラ1のカメラ本体10の外観を模式的に示す正面図である。デジタルカメラ1は、カメラ本体10とレンズ装置20とを備える。レンズ装置20は、カメラ本体10に着脱可能に、換言すると交換可能に構成されている。レンズ装置20はカメラ本体10と一体化されていてもよい。
レンズ装置20は、撮像光学系30とレンズ制御部40とを有する。撮像光学系30は、撮像レンズ31と、図示しない絞り機構等を備えている。撮像レンズ31は、例えば撮像光学系30の焦点を調節するためのレンズ等を含む。レンズ制御部40は、プロセッサを主体に構成されており、後述の制御部18の制御により、撮像光学系30を駆動制御する。
カメラ本体10は、撮像素子12と、撮像素子シフト機構13と、撮像素子駆動部14と、液晶ディスプレイ又は有機EL(Electro Luminescence)ディスプレイ等の表示デバイスである表示部15と、情報を一時的に記憶する揮発性メモリとしてのRAM(Random access memory)及びプログラムとその動作に必要な各種情報を予め記憶する不揮発性メモリとしてのROM(Read Only Memory)等を含むメモリ16と、振動検出器17と、撮像装置の制御装置を構成する制御部18と、不揮発性メモリにて構成されるメモリカード等の記憶媒体19と、を備える。
撮像素子12は、撮像光学系30を通して被写体を撮像するものである。撮像素子12は、CCD(Charge Coupled Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等により構成される。図2に示すように、撮像素子12は矩形状である。以下では、撮像素子12の短辺に沿う方向を方向Yと記載し、撮像素子12の長辺に沿う方向を方向Xと記載する。また、撮像素子12の受光面に垂直な方向(撮像光学系30の光軸Kの延びる方向)を方向Zと記載する。また、方向Xに延びる軸をヨー軸と記載し、方向Yに延びる軸をピッチ軸と記載し、方向Zに延びる軸をロール軸と記載する。
撮像素子シフト機構13は、撮像素子12を撮像光学系30の光軸Kに垂直な面(以下、XY平面と記載)内にて移動させて、撮像素子12により撮像される画像のブレを防ぐための機構である。撮像素子シフト機構13は、方向Xと、方向Yと、撮像素子12の受光面の中心を通り且つ光軸Kに沿って延びる回転軸を中心とする回転方向の3つの方向に、それぞれ撮像素子12を移動させること可能な構成である。
振動検出器17は、回転振動(デジタルカメラ1がヨー軸、ピッチ軸、及びロール軸のそれぞれの回りに回転することで生じる振動)を検出するためのセンサであり、第1振動検出器を構成する。振動検出器17は、ヨー軸回りの角速度の情報、ピッチ軸回りの角速度の情報、及びロール軸回りの角速度の情報をそれぞれ出力する3軸角速度センサにより構成される。振動検出器17から出力されるヨー軸回りの角速度の情報、ピッチ軸回りの角速度の情報、及びロール軸回りの角速度の情報のそれぞれのことを、以下では、ヨー回転データ、ピッチ回転データ、ロール回転データと記載する。ヨー回転データ、ピッチ回転データ、及びロール回転データは、それぞれ、第1出力データを構成する。
制御部18は、デジタルカメラ1全体を統括制御するものであり、ハードウェア的な構造は、制御プログラムを含むプログラムを実行して処理を行う各種のプロセッサである。
各種のプロセッサとしては、プログラムを実行して各種処理を行う汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA(Field Programmable Gate Array)等の製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、又はASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が含まれる。これら各種のプロセッサの構造は、より具体的には、半導体素子等の回路素子を組み合わせた電気回路である。制御部18は、各種のプロセッサのうちの1つで構成されてもよいし、同種又は異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGAの組み合わせ又はCPUとFPGAの組み合わせ)で構成されてもよい。
制御部18は、撮像素子駆動部14を制御して撮像素子12によって被写体を撮像させ、撮像素子12の受光面に結像された被写体像に応じた撮像画像信号を撮像素子12から出力させる。制御部18は、撮像素子12から出力される撮像画像信号を画像処理することで、JPEG(Joint Photographic Experts Group)形式等のデジタルカメラ1自体又は他機器によって再生可能な形式の画像データを生成する。この画像データに基づく画像のことを撮像画像とも記載する。
制御部18は、撮像素子12に被写体を撮像させる際に、デジタルカメラ1が少なくとも回転振動することで生じる撮像画像のブレを補正するブレ補正を行う。デジタルカメラ1の回転振動により生じる撮像画像のブレ量には、ヨー軸回りへの回転(ヨー回転)により生じるヨー成分と、ピッチ軸回りへの回転(ピッチ回転)により生じるピッチ成分と、ロール軸回りへの回転(ロール回転)により生じるロール成分と、が含まれる。
制御部18は、振動検出器17のヨー回転データに基づいてヨー成分を導出し、振動検出器17のピッチ回転データに基づいてピッチ成分を導出し、振動検出器17のロール回転データに基づいてロール成分を導出する。制御部18は、導出したヨー成分に基づいて、ヨー回転によるブレを打消すために必要な撮像素子12の方向Yへの移動量を第2ブレ補正量Byとして導出する。制御部18は、この第2ブレ補正量Byだけ撮像素子12を方向Yに移動させることでブレ補正を行う。制御部18は、導出したピッチ成分に基づいて、ピッチ回転によるブレを打消すために必要な撮像素子12の方向Xへの移動量を第2ブレ補正量Bxとして導出する。制御部18は、この第2ブレ補正量Bxだけ撮像素子12を方向Xに移動させることでブレ補正を行う。制御部18は、導出したロール成分に基づいて、ロール回転によるブレを打消すために必要な撮像素子12の回転方向への移動量を第2ブレ補正量Bzとして導出する。制御部18は、この第2ブレ補正量Bzだけ、撮像素子12を、受光面を中心に回転させることでブレ補正を行う。
なお、ここでは撮像素子12を移動させることでブレ補正を行うものとしているが、撮像光学系30に含まれる防振レンズを移動させることでブレ補正を行う場合もあるし、撮像素子12と防振レンズの両方を移動させることでブレ補正を行う場合もある。
(第2ブレ補正量の導出方法)
振動検出器17のヨー回転データ、ピッチ回転データ、及びロール回転データには、それぞれ、オフセット成分が含まれる。制御部18は、所定時間分のヨー回転データを積分し、積分後のデータに対してオフセット成分を除去する処理を行うことで、デジタルカメラ1のヨー軸回りの回転角θxを導出する。制御部18は、回転角θxをXY平面上のデジタルカメラ1の方向Yの移動量に換算し、この移動量を相殺するために必要な撮像素子12の方向Yの移動量を、ヨー成分に応じた第2ブレ補正量Byとして導出する。
制御部18は、所定時間分のピッチ回転データを積分し、積分後のデータに対してオフセット成分を除去する処理を行うことで、デジタルカメラ1のピッチ軸回りの回転角θyを導出する。制御部18は、回転角θyをXY平面上の方向Xの移動量に換算し、この移動量を相殺するために必要な撮像素子12の方向Xの移動量を、ピッチ成分に応じた第2ブレ補正量Bxとして導出する。
制御部18は、所定時間分のロール回転データを積分し、積分後のデータに対してオフセット成分を除去する処理を行うことで、デジタルカメラ1のロール軸回りの回転角θzを導出する。制御部18は、回転角θzをXY平面上の回転方向の移動量に換算し、この移動量を相殺するために必要な撮像素子12の回転量を、ロール成分に応じた第2ブレ補正量Bzとして導出する。制御部18は、上述した3つの第2ブレ補正量に基づいて撮像素子12を移動させることで、ブレ補正を行う。
オフセット成分を除去する処理とは、例えば、所定時間分の第1出力データにハイパスフィルタ処理を施す処理である。なお、制御部18は、積分前の所定時間分の第1出力データに対してオフセット成分を除去する処理を行い、その処理後のデータを積分することで、デジタルカメラ1の回転角θx、θy、θzを導出してもよい。
オフセット成分を除去する処理を行うことで、振動検出器17の出力に含まれるオフセット成分によるブレ補正の精度への影響を抑制できる。しかし、オフセット成分は、経時変化し得る。本形態では、制御部18が、振動検出器17のオフセット成分を導出するオフセット導出処理を行うことで、このようなオフセット成分の変化に対応できるようにしている。以下、オフセット導出処理について詳述する。
(オフセット導出処理)
制御部18は、オフセット成分を導出するために、撮像画像のブレに関する画像ブレ量と、デジタルカメラ1の振動により生じる撮像画像のブレに応じた第1ブレ補正量と、を導出する。
(第1ブレ補正量)
第1ブレ補正量は、所定時間分の第1出力データを、オフセット成分を除去する処理を施すことなく、そのまま積分して得られるデータを、XY平面上の移動量に換算し、その移動量を相殺するために必要な撮像素子12の移動量として導出される情報である。
制御部18は、所定時間分のヨー回転データを積分することで、デジタルカメラ1のヨー軸回りの回転角θxを導出する。制御部18は、回転角θxをXY平面上の方向Yの移動量に換算し、この移動量を相殺するために必要な撮像素子12の方向Yの移動量を、ヨー成分に応じた第1ブレ補正量Ayとして導出する。
制御部18は、所定時間分のピッチ回転データを積分することで、デジタルカメラ1のピッチ軸回りの回転角θyを導出する。制御部18は、回転角θyをXY平面上の方向Xの移動量に換算し、この移動量を相殺するために必要な撮像素子12の方向Xの移動量を、ピッチ成分に応じた第1ブレ補正量Axとして導出する。
制御部18は、所定時間分のロール回転データを積分することで、デジタルカメラ1のロール軸回りの回転角θzを導出する。制御部18は、回転角θzをXY平面上の回転方向の移動量に換算し、この移動量を相殺するために必要な撮像素子12の回転量を、ロール成分に応じた第1ブレ補正量Azとして導出する。
第1ブレ補正量は、第1出力データに対してオフセット成分を除去する処理を行うことなく導出されるため、上述した第2ブレ補正量よりも大きくなる。このように、第1ブレ補正量は、オフセット成分に対応した移動量の情報を含んでいるため、ブレ補正に用いることは望ましくない。デジタルカメラ1では、第1ブレ補正量をブレ補正には使用せず、オフセット成分の導出のために使用する。
(第1画像ブレ量)
第1画像ブレ量は、ブレ補正中に撮像素子12による撮像で得られた複数の画像データ間の動きベクトル(画像データ間のブレ量)である。ブレ補正が行われている状態で時刻t1とその直後の時刻t2とで撮像が行われた場合を想定する。時刻t1の撮像で得られる画像データに対する、時刻t2の撮像で得られる画像データの動きベクトル(方向Xの動きベクトル、方向Yの動きベクトル、及び回転方向の動きベクトル)は、ブレ補正によって補正しきれなかった撮像画像のブレ量に相当する。
制御部18は、複数の画像データ間の動きベクトルをXY平面上の撮像素子12の移動量に換算することで、第1画像ブレ量を導出する。具体的には、制御部18は、方向Xの第1画像ブレ量Cxと、方向Yの第1画像ブレ量Cyと、回転方向の第1画像ブレ量Czと、をそれぞれ導出する。第1画像ブレ量Cx、第1画像ブレ量Cy、及び第1画像ブレ量Czは、それぞれ、上述したオフセット成分を除去する処理が適切に行われている場合には、ゼロとなる。しかし、オフセット成分を除去する処理は、デジタルカメラ1の出荷時において実測したオフセット成分に基づいて決められる。そのため、オフセット成分が出荷時の状態から変動していると、第1画像ブレ量Cx、第1画像ブレ量Cy、及び第1画像ブレ量Czは、ゼロとはならない場合がある。
以下では、第1ブレ補正量に基づいてブレ補正を行ったと仮定した場合に得られる、そのブレ補正中に撮像された画像データから導出される方向Xの第1画像ブレ量のことを第2画像ブレ量Dxと記載し、方向Yの第1画像ブレ量のことを第2画像ブレ量Dyと記載し、回転方向の第1画像ブレ量のことを第2画像ブレ量Dzと記載する。これら第2画像ブレ量Dx、第2画像ブレ量Dy、及び第2画像ブレ量Dzは、それぞれ、振動検出器17のピッチ回転データのオフセット成分の積分データ、振動検出器17のヨー回転データのオフセット成分の積分データ、振動検出器17のロール回転データのオフセット成分の積分データに相当する。
また、デジタルカメラ1に実際に生じたヨー軸回りの回転角から換算される方向Xの移動量のことをブレ量Txと記載し、デジタルカメラ1に実際に生じたピッチ軸回りの回転角から換算される方向Yの移動量のことをブレ量Tyと記載し、デジタルカメラ1に実際に生じたロール軸回りの回転角から換算される回転方向の移動量のことをブレ量Tzと記載する。以上のように定義した場合には、以下の6つの式の関係が得られる。
Tx-Bx=Cx ・・(A1)
Ty-By=Cy ・・(A2)
Tz-Bz=Cz ・・(A3)
Tx-Ax=Dx ・・(B1)
Ty-Ay=Dy ・・(B2)
Tz-Az=Dz ・・(B3)
この6つの式において、撮像中に求めることができるのは、第1ブレ補正量Ax、Ay、Azと、第2ブレ補正量Bx、By、Bzと、第1画像ブレ量Cx、Cy、Czである。式(A1)と式(B1)を、オフセット成分に対応する第2画像ブレ量Dxについて解くと、以下の式(C1)が得られる。同様に、式(A2)と式(B2)を、オフセット成分に相当する第2画像ブレ量Dyについて解くと、以下の式(C2)が得られる。式(A3)と式(B3)を、オフセット成分に相当する第2画像ブレ量Dzについて解くと、以下の式(C3)が得られる。
Dx=Bx+Cx-Ax・・(C1)
Dy=By+Cy-Ay・・(C2)
Dz=Bz+Cz-Az・・(C3)
したがって、制御部18は、式(C1)、式(C2)、及び式(C3)の演算を行うことで、ヨー回転データのオフセット成分の積分データ、ピッチ回転データのオフセット成分の積分データ、及びロール回転データのオフセット成分の積分データを導出することができる。制御部18は、所定時間分のこれらの積分データを微分することで、ヨー回転データのオフセット成分(角速度)、ピッチ回転データのオフセット成分(角速度)、及びロール回転データのオフセット成分(角速度)を導出する。このようにして導出したオフセット成分を用いて、例えば、オフセット成分を除去する処理に用いるパラメータを適宜変更したり、第1ブレ補正量を補正したりすることで、第1ブレ補正量に基づくブレ補正の精度を向上させることができる。
図3は、オフセット成分の導出処理時の制御部18の動作を説明するためのタイミングチャートである。図3では、ヨー回転データのオフセット成分が導出される際の動作例を示している。時刻T1にてヨー回転データが振動検出器17から出力されると、このヨー回転データに基づいて第1ブレ補正量Ayと第2ブレ補正量Byが導出され、第2ブレ補正量Byに基づいてブレ補正が行われる。ブレ補正が開始されると、時刻T2において撮像素子12による撮像が開始される。この撮像による画像データを制御部18が取得すると、第1画像ブレ量Cyが導出される。そして、ここまでで導出された第1ブレ補正量Ayと第2ブレ補正量Byと第1画像ブレ量Cyとに基づいて、第2画像ブレ量Dyが導出される。以上の処理が繰り返されることで、所定時間分の複数の第2画像ブレ量Dyが導出され、この複数の第2画像ブレ量Dyが時間微分されることで、ヨー回転データのオフセット成分が導出される。
制御部18は、このようなオフセット成分の導出処理を、例えばデジタルカメラ1の撮像モードの開始時等の既定のタイミングにて実行する。これにより、経時変化等によるオフセット成分の変動によらず、ブレ補正の精度を維持可能となる。デジタルカメラ1によれば、オフセット成分を除去した第1出力データに基づくブレ補正を行いながら得られる画像データ及び振動検出器17の第1出力データに基づいて、オフセット成分の導出が可能なため、ライブビュー画像の品質を低下させることなく、オフセット成分を導出できる。
なお、制御部18は、ブレ補正中に得られる複数の画像データに所定の条件を満たしていない画像データが含まれる場合には、その画像データを除く画像データに基づいて、第1画像ブレ量を導出することが好ましい。所定の条件とは、例えば、動きベクトルの導出精度が低下することであり、画像データに大きなボケが生じている場合等が該当する。このように、動きベクトルの導出精度が低下し得る画像データについては第1画像ブレ量の導出に利用しないことで、オフセット成分を高精度に導出することができる。
また、第1画像ブレ量を導出する際には、第1画像ブレ量の取得に用いる複数の画像データのそれぞれを得るための撮像時に設定する撮像素子12のシャッタスピードを、第1画像ブレ量を導出しない場合の撮像時に設定する撮像素子12のシャッタスピードよりも速く設定することが好ましい。このようにすることで、各画像データをブレの少ないものとすることができ、第1画像ブレ量を高精度に導出することができる。
また、第1画像ブレ量の取得のための撮像期間において、撮像フレームレート以上の高周波な振動がデジタルカメラ1に生じた場合には、動きベクトルを正確に得ることが難しい。そのため、撮像フレームレートに対応する周波数(撮像フレームレートが30fpsであれば30Hz)を遮断周波数とするローパスフィルタ処理を、振動検出器17の第1出力データと第1画像ブレ量とに施すことが好ましい。このようにすることで、高周波の振動の影響を排除でき、オフセット成分を高精度に導出することができる。
また、デジタルカメラ1のユーザが歩行中、又は、ユーザがパンチルトを行っている状態等、デジタルカメラ1の振動が大きくなる状況では、オフセット導出処理を実行しないことが好ましい。例えば、制御部18は、特定の一点を撮像し続けている状況、又は、画角変動が少ない状況か否かを判定し、そういった状況であると判定したときにのみ、オフセット導出処理を実行することが好ましい。このようにすることで、オフセット成分を高精度に導出することができる。
式(C1)、式(C2)及び式(C3)の演算に必要な情報(第1ブレ補正量、第2ブレ補正量、第1画像ブレ量)は、撮像素子12と振動検出器17という異なるデバイスからの出力データに基づいて導出される。したがって、撮像素子12と振動検出器17それぞれの出力の同期をとる必要がある。制御部18は、撮像素子12による撮像の開始タイミング(図3の時刻T2)と、その撮像開始直前又は撮像中に行われるブレ補正に用いられる第1出力データの出力タイミング(図3の時刻T1)との差の情報(同期情報と記載)に基づいて、同期のとれた画像データと第1出力データの組み合わせとして決定し、決定した組み合わせの画像データと第1出力データから、式(C1)、式(C2)及び式(C3)の演算に必要な情報(第1ブレ補正量、第2ブレ補正量、第1画像ブレ量)を導出する。この同期情報は、予め実験的に求められてメモリ16に記憶される。
制御部18は、同期情報をメモリ16から取得するのではなく、生成してもよい。例えば、制御部18は、同期情報を所定の初期値(例えばn秒)に設定して、撮像素子12による連続撮像を開始させて、第1ブレ補正量Ay、第2ブレ補正量By、及び第1画像ブレ量Cyを、それぞれ所定時間分導出し、この初期値の同期情報に基づく同期の取れた第1ブレ補正量Ay、第2ブレ補正量By、及び第1画像ブレ量Cyに基づいて、第2画像ブレ量Dyを導出する。
制御部18は、第2ブレ補正量Byから、これと同期のとれた第1ブレ補正量Ayを減算した値の時間変化を示す関数f(By-Ay)から、導出した第2画像ブレ量Dyの時間変化を示す関数f(Dy)を減算して得た関数と、第2ブレ補正量Byの時間変化を示す関数f(By)との類似度を判定する。制御部18は、同期情報を上記の初期値から徐々にずらしていきながらこの類似度を得る処理を繰り返し行い、この類似値が最小となるときの同期情報の値を、同期情報の確定値としてメモリに記憶する。そして、以降は、この確定値に基づいて、同期のとれた画像データと第1出力データの組み合わせとして決定する。
こういった同期情報を生成する処理は、デジタルカメラ1の起動時又は撮像モードの変更時等の規定タイミングにて実行することが好ましい。また、制御部18は、同期情報をヨー回転データとピッチ回転データとロール回転データとで共通化するのではなく、ヨー回転データの出力タイミングと撮像タイミングとの同期をとるための同期情報と、ピッチ回転データの出力タイミングと撮像タイミングとの同期をとるための同期情報と、ロール回転データの出力タイミングと撮像タイミングとの同期をとるための同期情報とで分けて生成することが好ましい。このようにすることで、同期情報をより正確に生成することができる。以上の同期情報は、第1同期データを構成する。
(オフセット導出処理の変形例)
デジタルカメラ1は、並進振動(撮像素子12の受光面がXY平面と平行なまま、デジタルカメラ1が方向Xと方向Yの少なくとも一方に移動することで生じる振動)を検出する第2振動検出器としての加速度センサを更に備えていることが好ましい。加速度センサは、撮像素子12の受光面に沿う方向におけるデジタルカメラ1の動きを検出可能であり、方向Xの動きと方向Yの動きとをそれぞれ検出する。加速度センサから出力される方向Xの動きの情報をx出力データと記載し、加速度センサから出力される方向Yの動きの情報をy出力データと記載する。x出力データとy出力データは、それぞれ、第2出力データを構成する。
以下では、x出力データに基づいて導出されるデジタルカメラ1の方向Xの動き量を第1動き量Mxと記載し、第1動き量Mxによる撮像画像のブレを補正するために必要な撮像素子12の移動量を第3ブレ補正量Gxと記載する。また、y出力データに基づいて導出されるデジタルカメラ1の方向Yの動き量を第1動き量Myと記載し、第1動き量Myによる撮像画像のブレを補正するために必要な撮像素子12の移動量を第3ブレ補正量Gyと記載する。デジタルカメラ1が加速度センサを更に備える場合には、オフセット導出処理を以下のように変更することが好ましい。第3ブレ補正量Gxは、所定時間分のx出力データを2階積分することで得られる。第3ブレ補正量Gyは、所定時間分のy出力データを2階積分することで得られる。
上述した、実際にデジタルカメラ1に生じたブレ量Tx、ブレ量Ty、及びブレ量Tzは、デジタルカメラ1に回転振動のみが生じることを前提として記載した。したがって、デジタルカメラ1に並進振動が生じている場合には、この回転振動による撮像画像のブレを考慮して、第1ブレ補正量を修正する必要がある。具体的には、式(B1)と式(B2)を以下の式(B1a)と式(B2a)に置換する必要がある。
Tx-(Ax+Gx)=Dx ・・(B1a)
Ty-(Ay+Gy)=Dy ・・(B2a)
この式(B1a)と式(A1)を、オフセット成分に対応する第2画像ブレ量Dxについて解くと、以下の式(C1a)が得られる。同様に、式(B2a)と式(A2)を、オフセット成分に相当する第2画像ブレ量Dyについて解くと、以下の式(C2a)が得られる。
Dx=Bx+Cx-(Ax+Gx)・・(C1a)
Dy=By+Cy-(Ay+Gy)・・(C2a)
制御部18は、加速度センサから出力される第2出力データに基づいて、デジタルカメラ1の第1動き量Mx、Myを導出し、この第1動き量Mx、Myによる撮像画像のブレを補正するために必要な第3ブレ補正量Gx、Gyを導出して、式(C1a)と式(C2a)の演算を行うことにより、ヨー回転データのオフセット成分と、ピッチ回転データのオフセット成分を導出する。なお、ロール回転データのオフセット成分の導出に関しては、加速度センサを用いない場合と同じである。
このように、加速度センサの出力データを用いることで、並進振動により生じる撮像画像のブレ量によって第1ブレ補正量を修正することができ、より正確にオフセット成分を導出することができる。
次に、本発明の撮像装置の別実施形態であるスマートフォンの構成について説明する。
図4は、スマートフォン200の外観を示すものである。図4に示すスマートフォン200は、平板状の筐体201を有し、筐体201の一方の面に表示部としての表示パネル202と、入力部としての操作パネル203とが一体となった表示入力部204を備えている。
また、この様な筐体201は、スピーカ205と、マイクロホン206と、操作部207と、カメラ部208とを備えている。なお、筐体201の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造又はスライド機構を有する構成を採用したりすることもできる。
図5は、図4に示すスマートフォン200の構成を示すブロック図である。
図5に示すように、スマートフォンの主たる構成要素として、無線通信部210と、表示入力部204と、通話部211と、操作部207と、カメラ部208と、記憶部212と、外部入出力部213と、GNSS(Global Navigation Satellite System)受信部214と、モーションセンサ部215と、電源部216と、主制御部220とを備える。
また、スマートフォン200の主たる機能として、図示省略の基地局装置BSと図示省略の移動通信網NWとを介した移動無線通信を行う無線通信機能を備える。
無線通信部210は、主制御部220の指示にしたがって、移動通信網NWに収容された基地局装置BSに対し無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータ等の送受信、ウェブデータ又はストリーミングデータ等の受信を行う。
表示入力部204は、主制御部220の制御により、画像(静止画像及び動画像)又は文字情報等を表示して視覚的にユーザに情報を伝達するとともに、表示した情報に対するユーザ操作を検出する、いわゆるタッチパネルであって、表示パネル202と、操作パネル203とを備える。
表示パネル202は、LCD(Liquid Crystal Display)、OELD(Organic Electro-Luminescence Display)等を表示デバイスとして用いたものである。
操作パネル203は、表示パネル202の表示面上に表示される画像を視認可能に載置され、ユーザの指又は尖筆によって操作される一又は複数の座標を検出するデバイスである。このデバイスをユーザの指又は尖筆によって操作すると、操作に起因して発生する検出信号を主制御部220に出力する。次いで、主制御部220は、受信した検出信号に基づいて、表示パネル202上の操作位置(座標)を検出する。
図5に示すように、本発明の撮影装置の一実施形態として例示しているスマートフォン200の表示パネル202と操作パネル203とは一体となって表示入力部204を構成しているが、操作パネル203が表示パネル202を完全に覆うような配置となっている。
係る配置を採用した場合、操作パネル203は、表示パネル202外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル203は、表示パネル202に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル202に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
なお、表示領域の大きさと表示パネル202の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル203が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。さらに、外縁部分の幅は、筐体201の大きさ等に応じて適宜設計されるものである。
さらにまた、操作パネル203で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式等が挙げられ、いずれの方式を採用することもできる。
通話部211は、スピーカ205又はマイクロホン206を備え、マイクロホン206を通じて入力されたユーザの音声を主制御部220にて処理可能な音声データに変換して主制御部220に出力したり、無線通信部210あるいは外部入出力部213により受信された音声データを復号してスピーカ205から出力させたりするものである。
また、図4に示すように、例えば、スピーカ205を表示入力部204が設けられた面と同じ面に搭載し、マイクロホン206を筐体201の側面に搭載することができる。
操作部207は、キースイッチ等を用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図4に示すように、操作部207は、スマートフォン200の筐体201の側面に搭載され、指等で押下されるとオンとなり、指を離すとバネ等の復元力によってオフ状態となる押しボタン式のスイッチである。
記憶部212は、主制御部220の制御プログラム及び制御データ、アプリケーションソフトウェア、通信相手の名称又は電話番号等を対応づけたアドレスデータ、送受信した電子メールのデータ、WebブラウジングによりダウンロードしたWebデータ、ダウンロードしたコンテンツデータを記憶し、またストリーミングデータ等を一時的に記憶するものである。また、記憶部212は、スマートフォン内蔵の内部記憶部217と着脱自在な外部メモリスロットを有する外部記憶部218により構成される。
なお、記憶部212を構成するそれぞれの内部記憶部217と外部記憶部218は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、MicroSD(登録商標)メモリ等)、RAM(Random Access Memory)、ROM(Read Only Memory)等の格納媒体を用いて実現される。
外部入出力部213は、スマートフォン200に連結される全ての外部機器とのインターフェースの役割を果たすものであり、他の外部機器に通信等(例えば、ユニバーサルシリアルバス(USB)、IEEE1394、ブルートゥース(Bluetooth)(登録商標)、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)(登録商標)、UWB(Ultra Wideband)(登録商標)、ジグビー(ZigBee)(登録商標)等)又はネットワーク(例えば、イーサネット(登録商標)、無線LAN(Local Area Network)等)により直接的又は間接的に接続するためのものである。
スマートフォン200に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)、SIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器、無線接続される外部オーディオ・ビデオ機器、有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるパーソナルコンピュータ、イヤホン等がある。
外部入出力部213は、このような外部機器から伝送を受けたデータをスマートフォン200の内部の各構成要素に伝達したり、スマートフォン200の内部のデータが外部機器に伝送されるようにしたりすることができる。
GNSS受信部214は、主制御部220の指示にしたがって、GNSS衛星ST1~STnから送信されるGNSS信号を受信し、受信した複数のGNSS信号に基づく測位演算処理を実行し、スマートフォン200の緯度、経度、高度からなる位置を検出する。GNSS受信部214は、無線通信部210又は外部入出力部213(例えば、無線LAN)から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
モーションセンサ部215は、例えば、3軸の加速度センサ等を備え、主制御部220の指示にしたがって、スマートフォン200の物理的な動きを検出する。スマートフォン200の物理的な動きを検出することにより、スマートフォン200の動く方向又は加速度が検出される。係る検出結果は、主制御部220に出力されるものである。
電源部216は、主制御部220の指示にしたがって、スマートフォン200の各部に、バッテリ(図示しない)に蓄えられる電力を供給するものである。
主制御部220は、マイクロプロセッサを備え、記憶部212が記憶する制御プログラム及び制御データにしたがって動作し、スマートフォン200の各部を統括して制御するものである。主制御部220のマイクロプロセッサは制御部18と同様の機能を持つ。また、主制御部220は、無線通信部210を通じて、音声通信又はデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
アプリケーション処理機能は、記憶部212が記憶するアプリケーションソフトウェアにしたがって主制御部220が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部213を制御して対向機器とデータ通信を行う赤外線通信機能、電子メールの送受信を行う電子メール機能、又はウェブページを閲覧するウェブブラウジング機能等がある。
また、主制御部220は、受信データ又はダウンロードしたストリーミングデータ等の画像データ(静止画像又は動画像のデータ)に基づいて、映像を表示入力部204に表示する等の画像処理機能を備える。
画像処理機能とは、主制御部220が、上記画像データを復号し、この復号結果に画像処理を施して、画像を表示入力部204に表示する機能のことをいう。
さらに、主制御部220は、表示パネル202に対する表示制御と、操作部207、操作パネル203を通じたユーザ操作を検出する操作検出制御を実行する。
表示制御の実行により、主制御部220は、アプリケーションソフトウェアを起動するためのアイコン又はスクロールバー等のソフトウェアキーを表示したり、あるいは電子メールを作成したりするためのウィンドウを表示する。
なお、スクロールバーとは、表示パネル202の表示領域に収まりきれない大きな画像等について、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
また、操作検出制御の実行により、主制御部220は、操作部207を通じたユーザ操作を検出したり、操作パネル203を通じて、上記アイコンに対する操作と上記ウィンドウの入力欄に対する文字列の入力を受け付けたり、あるいは、スクロールバーを通じた表示画像のスクロール要求を受け付けたりする。
さらに、操作検出制御の実行により主制御部220は、操作パネル203に対する操作位置が、表示パネル202に重なる重畳部分(表示領域)か、それ以外の表示パネル202に重ならない外縁部分(非表示領域)かを判定し、操作パネル203の感応領域又はソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
また、主制御部220は、操作パネル203に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。
ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指等によって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
カメラ部208は、図1に示したレンズ装置20、撮像素子12、撮像素子シフト機構13、撮像素子駆動部14、及び振動検出器17を含む。
カメラ部208によって生成された撮像画像データは、記憶部212に記憶したり、外部入出力部213又は無線通信部210を通じて出力したりすることができる。
図5に示すスマートフォン200において、カメラ部208は表示入力部204と同じ面に搭載されているが、カメラ部208の搭載位置はこれに限らず、表示入力部204の背面に搭載されてもよい。
また、カメラ部208はスマートフォン200の各種機能に利用することができる。例えば、表示パネル202にカメラ部208で取得した画像を表示したり、操作パネル203の操作入力のひとつとして、カメラ部208の画像を利用したりすることができる。
また、GNSS受信部214が位置を検出する際に、カメラ部208からの画像を参照して位置を検出することもできる。さらには、カメラ部208からの画像を参照して、3軸の加速度センサを用いずに、或いは、3軸の加速度センサと併用して、スマートフォン200のカメラ部208の光軸方向を判断したり、現在の使用環境を判断したりすることもできる。勿論、カメラ部208からの画像をアプリケーションソフトウェア内で利用することもできる。
その他、静止画又は動画の画像データにGNSS受信部214により取得した位置情報、マイクロホン206により取得した音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)、モーションセンサ部215により取得した姿勢情報等を付加して記憶部212に記憶したり、外部入出力部213又は無線通信部210を通じて出力したりすることもできる。
以上説明してきたように、本明細書には少なくとも以下の事項が記載されている。
(1)
第1振動検出器と撮像素子を有する撮像装置の制御装置であって、
プロセッサを備え、
上記プロセッサは、
上記第1振動検出器から出力される第1出力データに基づいて、振動により生じるブレに応じた第1ブレ補正量及び上記第1ブレ補正量とは異なる第2ブレ補正量を導出し、
上記撮像素子による撮像で得られる画像データに基づいて、画像のブレに関する第1画像ブレ量を導出し、
上記第1ブレ補正量、上記第2ブレ補正量、及び上記第1画像ブレ量に基づいて、上記第1出力データに含まれるオフセット成分を導出する、
制御装置。
(2)
(1)に記載の制御装置であって、
上記第2ブレ補正量は、上記第1ブレ補正量よりも小さい、
制御装置。
(3)
(2)に記載の制御装置であって、
上記第1ブレ補正量は、上記第1出力データに基づいて行われるブレ補正には非使用の情報であり、
上記第2ブレ補正量は、上記ブレ補正に使用される情報である、
制御装置。
(4)
(2)又は(3)に記載の制御装置であって、
上記第1ブレ補正量は、上記第1出力データを積分したデータに基づくものであり、
上記第2ブレ補正量は、上記第1出力データに対して上記オフセット成分を除去する処理を行ったデータを積分したデータに基づくもの、又は、上記第1出力データを積分したデータに対して上記オフセット成分を除去する処理を行ったデータに基づくものである、
制御装置。
(5)
(1)から(4)のいずれかに記載の制御装置であって、
上記プロセッサは、上記第1画像ブレ量と上記第2ブレ補正量の加算値から上記第1ブレ補正量を減算して得られる値に基づいて上記オフセット成分を導出する、
制御装置。
(6)
(1)から(5)のいずれかに記載の制御装置であって、
上記第1振動検出器は、角速度を検出可能なものである、
制御装置。
(7)
(1)から(4)のいずれかに記載の制御装置であって、
上記第1振動検出器は、角速度を検出可能なものであり、
上記撮像装置は、加速度を検出可能な第2振動検出器を更に有し、
上記第2振動検出器は、上記撮像素子の受光面に沿う方向における上記撮像装置の動きを検出可能であり、
上記プロセッサは、
上記第2振動検出器から出力される第2出力データに基づいて、上記撮像装置の第1動き量を導出し、
上記第1ブレ補正量、上記第2ブレ補正量、及び上記第1画像ブレ量と、上記第1動き量によるブレを補正するために必要な第3ブレ補正量とに基づいて、上記オフセット成分を導出する、
制御装置。
(8)
(7)に記載の制御装置であって、
上記プロセッサは、上記第1画像ブレ量と上記第2ブレ補正量の加算値から、上記第1ブレ補正量と上記第3ブレ補正量の加算値を減算して得られる値に基づいて上記オフセット成分を導出する、
制御装置。
(9)
(1)から(8)のいずれかに記載の制御装置であって、
上記プロセッサは、複数の上記画像データ間のブレ量を上記第1画像ブレ量として導出し、上記複数の画像データに所定の条件を満たしていない画像データが含まれる場合には、その画像データを除く画像データに基づいて、上記第1画像ブレ量を導出する、
制御装置。
(10)
(1)から(9)のいずれかに記載の制御装置であって、
上記プロセッサは、上記オフセット成分の導出を行う場合に設定する上記撮像素子のシャッタスピードを、上記オフセット成分の導出を行わない場合に設定するシャッタスピードよりも速く設定する、
制御装置。
(11)
(1)から(10)のいずれかに記載の制御装置であって、
上記プロセッサは、
上記撮像素子による撮像タイミングと上記第1出力データの出力タイミングの同期に関する第1同期データを取得し、
上記第1同期データに基づいて、同期のとれた上記画像データと上記第1出力データの組合せを決定し、
上記決定した組合せのデータから得られる上記第1ブレ補正量、上記第2ブレ補正量、及び上記第1画像ブレ量に基づいて、上記オフセット成分を導出する、
制御装置。
(12)
(1)から(11)のいずれかに記載の制御装置を備える撮像装置。
(13)
第1振動検出器と撮像素子を有する撮像装置の制御方法であって、
上記第1振動検出器から出力される第1出力データに基づいて、振動により生じるブレに応じた第1ブレ補正量と、上記第1ブレ補正量とは異なる第2ブレ補正量とを導出し、
上記撮像素子による撮像で得られる画像データに基づいて、画像のブレに関する第1画像ブレ量を導出し、
上記第1ブレ補正量、上記第2ブレ補正量、及び上記第1画像ブレ量に基づいて、上記第1出力データに含まれるオフセット成分を導出する、
制御方法。
(14)
第1振動検出器と撮像素子を有する撮像装置の制御プログラムであって、
上記第1振動検出器から出力される第1出力データに基づいて、振動により生じるブレに応じた第1ブレ補正量と、上記第1ブレ補正量とは異なる第2ブレ補正量とを導出し、
上記撮像素子による撮像で得られる画像データに基づいて、画像のブレに関する第1画像ブレ量を導出し、
上記第1ブレ補正量、上記第2ブレ補正量、及び上記第1画像ブレ量に基づいて、上記第1出力データに含まれるオフセット成分を導出する、
ステップをプロセッサに実行させる、制御プログラム。
1 デジタルカメラ
10 カメラ本体
12 撮像素子
13 撮像素子シフト機構
14 撮像素子駆動部
15 表示部
16 メモリ
17 振動検出器
18 制御部
19 記憶媒体
20 レンズ装置
30 撮像光学系
31 撮像レンズ
40 レンズ制御部
200 スマートフォン
201 筐体
202 表示パネル
203 操作パネル
204 表示入力部
205 スピーカ
206 マイクロホン
208 カメラ部
210 無線通信部
211 通話部
212 記憶部
213 外部入出力部
214 GNSS受信部
215 モーションセンサ部
216 電源部
217 内部記憶部
218 外部記憶部
220 主制御部

Claims (10)

  1. 撮像素子を有する撮像装置の制御装置であって、
    プロセッサと、
    複数の軸回りの角速度の情報を出力する第1振動検出器と、
    加速度を検出可能であり、前記撮像素子の受光面に沿う方向における前記撮像装置の動きを検出可能な第2振動検出器と、
    を備え、
    前記プロセッサは、
    前記第1振動検出器から出力される前記角速度の情報である第1出力データを、そのまま積分して得られるデータから導出される、振動により生じるブレに応じた第1ブレ補正量を導出し、
    所定時間分の前記第1出力データの積分後のデータに対して、ハイパスフィルタ処理を施したデータから導出される情報、又は前記第1出力データにハイパスフィルタ処理を施したデータを所定時間分積分したデータから導出される情報である第2ブレ補正量を導出し、
    前記第2振動検出器から出力される所定時間分の前記加速度の情報である第2出力データを2階積分することにより、第3ブレ補正量を導出し、
    ブレ補正中に前記撮像素子による撮像で得られる複数の画像データ間の動きベクトルである画像データ間ブレ量である、画像のブレに関する第1画像ブレ量を導出し、
    前記第1ブレ補正量前記第2ブレ補正量の加算値から、前記第1画像ブレ量と前記第3ブレ補正量の加算値を減算して得られる値に基づいて、前記第1出力データに含まれるオフセット成分を導出する、
    制御装置。
  2. 請求項1に記載の制御装置であって、
    前記プロセッサは、複数の前記画像データ間のブレ量を前記第1画像ブレ量として導出し、前記複数の画像データに所定の条件を満たしていない画像データが含まれる場合には、当該画像データを除く画像データに基づいて、前記第1画像ブレ量を導出する、
    制御装置。
  3. 請求項1又は2に記載の制御装置であって、
    前記プロセッサは、前記オフセット成分の導出を行う場合に設定する前記撮像素子のシャッタスピードを、前記オフセット成分の導出を行わない場合に設定するシャッタスピードよりも速く設定する、
    制御装置。
  4. 請求項1から3のいずれか1項に記載の制御装置であって、
    前記プロセッサは、
    前記撮像素子による撮像タイミングと前記第1出力データの出力タイミングの同期に関する第1同期データを取得し、
    前記第1同期データに基づいて、同期のとれた前記画像データと前記第1出力データの組合せを決定し、
    前記決定した組合せのデータから得られる前記第1ブレ補正量、前記第2ブレ補正量、及び前記第1画像ブレ量に基づいて、前記オフセット成分を導出する、
    制御装置。
  5. 複数の軸回りの角速度の情報を出力する第1振動検出器と撮像素子を有する撮像装置の制御装置であって、
    プロセッサを備え、
    前記プロセッサは、
    前記第1振動検出器から出力される前記角速度の情報である第1出力データを、そのまま積分して得られるデータから導出される、振動により生じるブレに応じた第1ブレ補正量を導出し、
    所定時間分の前記第1出力データの積分後のデータに対して、ハイパスフィルタ処理を施したデータから導出される情報、又は前記第1出力データにハイパスフィルタ処理を施したデータを所定時間分積分したデータから導出される情報である第2ブレ補正量を導出し、
    ブレ補正中に前記撮像素子による撮像で得られる複数の画像データ間の動きベクトルである画像データ間ブレ量である、画像のブレに関する第1画像ブレ量を導出し、
    前記第1ブレ補正量前記第2ブレ補正量の加算値から、前記第1画像ブレ量を減算して得られる値に基づいて、前記第1出力データに含まれるオフセット成分を導出し、
    前記オフセット成分の導出を行う場合に設定する前記撮像素子のシャッタスピードを、前記オフセット成分の導出を行わない場合に設定するシャッタスピードよりも速く設定する、
    制御装置。
  6. 請求項5に記載の制御装置であって、
    前記プロセッサは、複数の前記画像データ間のブレ量を前記第1画像ブレ量として導出し、前記複数の画像データに所定の条件を満たしていない画像データが含まれる場合には、当該画像データを除く画像データに基づいて、前記第1画像ブレ量を導出する、
    制御装置。
  7. 請求項5又は6に記載の制御装置であって、
    前記プロセッサは、
    前記撮像素子による撮像タイミングと前記第1出力データの出力タイミングの同期に関する第1同期データを取得し、
    前記第1同期データに基づいて、同期のとれた前記画像データと前記第1出力データの組合せを決定し、
    前記決定した組合せのデータから得られる前記第1ブレ補正量、前記第2ブレ補正量、及び前記第1画像ブレ量に基づいて、前記オフセット成分を導出する、
    制御装置。
  8. 請求項1から7のいずれか1項に記載の制御装置を備える撮像装置。
  9. 撮像装置の制御方法であって、
    前記撮像装置は、撮像素子と、複数の軸回りの角速度の情報を出力する第1振動検出器と、加速度を検出可能であり、前記撮像素子の受光面に沿う方向における前記撮像装置の動きを検出可能な第2振動検出器と、を有し、
    前記第1振動検出器から出力される前記角速度の情報である第1出力データを、そのまま積分して得られるデータから導出される、振動により生じるブレに応じた第1ブレ補正量を導出し、
    所定時間分の前記第1出力データの積分後のデータに対して、ハイパスフィルタ処理を施したデータから導出される情報、又は前記第1出力データにハイパスフィルタ処理を施したデータを所定時間分積分したデータから導出される情報である第2ブレ補正量を導出し、
    前記第2振動検出器から出力される所定時間分の前記加速度の情報である第2出力データを2階積分することにより、第3ブレ補正量を導出し、
    ブレ補正中に前記撮像素子による撮像で得られる複数の画像データ間の動きベクトルである画像データ間ブレ量である、画像のブレに関する第1画像ブレ量を導出し、
    前記第1ブレ補正量前記第2ブレ補正量の加算値から、前記第1画像ブレ量と前記第3ブレ補正量の加算値を減算して得られる値に基づいて、前記第1出力データに含まれるオフセット成分を導出する、
    制御方法。
  10. 撮像装置の制御プログラムであって、
    前記撮像装置は、撮像素子と、複数の軸回りの角速度の情報を出力する第1振動検出器と、加速度を検出可能であり、前記撮像素子の受光面に沿う方向における前記撮像装置の動きを検出可能な第2振動検出器と、を有し、
    前記第1振動検出器から出力される前記角速度の情報である第1出力データを、そのまま積分して得られるデータから導出される、振動により生じるブレに応じた第1ブレ補正量を導出し、
    所定時間分の前記第1出力データの積分後のデータに対して、ハイパスフィルタ処理を施したデータから導出される情報、又は前記第1出力データにハイパスフィルタ処理を施したデータを所定時間分積分したデータから導出される情報である第2ブレ補正量を導出し、
    前記第2振動検出器から出力される所定時間分の前記加速度の情報である第2出力データを2階積分することにより、第3ブレ補正量を導出し、ブレ補正中に前記撮像素子による撮像で得られる複数の画像データ間の動きベクトルである画像データ間ブレ量である、画像のブレに関する第1画像ブレ量を導出し、
    前記第1ブレ補正量前記第2ブレ補正量の加算値から、前記第1画像ブレ量と前記第3ブレ補正量の加算値を減算して得られる値に基づいて、前記第1出力データに含まれるオフセット成分を導出する、
    ステップをプロセッサに実行させる、制御プログラム。
JP2021214702A 2021-12-28 2021-12-28 制御装置、撮像装置、制御方法、制御プログラム Active JP7734074B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021214702A JP7734074B2 (ja) 2021-12-28 2021-12-28 制御装置、撮像装置、制御方法、制御プログラム
US18/060,890 US12301994B2 (en) 2021-12-28 2022-12-01 Control device, imaging apparatus, control method, and control program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021214702A JP7734074B2 (ja) 2021-12-28 2021-12-28 制御装置、撮像装置、制御方法、制御プログラム

Publications (2)

Publication Number Publication Date
JP2023098136A JP2023098136A (ja) 2023-07-10
JP7734074B2 true JP7734074B2 (ja) 2025-09-04

Family

ID=86896451

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021214702A Active JP7734074B2 (ja) 2021-12-28 2021-12-28 制御装置、撮像装置、制御方法、制御プログラム

Country Status (2)

Country Link
US (1) US12301994B2 (ja)
JP (1) JP7734074B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010147635A (ja) 2008-12-17 2010-07-01 Sony Corp 撮像装置、撮像方法、およびプログラム
WO2015145858A1 (ja) 2014-03-25 2015-10-01 富士フイルム株式会社 手ぶれ補正装置、撮像装置
JP2020096212A (ja) 2018-12-10 2020-06-18 キヤノン株式会社 撮像装置およびその制御方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018197772A (ja) 2017-05-23 2018-12-13 キヤノン株式会社 像ブレ補正装置、レンズ装置、撮像装置、像ブレ補正装置の制御方法、プログラム、および、記憶媒体

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010147635A (ja) 2008-12-17 2010-07-01 Sony Corp 撮像装置、撮像方法、およびプログラム
WO2015145858A1 (ja) 2014-03-25 2015-10-01 富士フイルム株式会社 手ぶれ補正装置、撮像装置
JP2020096212A (ja) 2018-12-10 2020-06-18 キヤノン株式会社 撮像装置およびその制御方法

Also Published As

Publication number Publication date
JP2023098136A (ja) 2023-07-10
US20230209192A1 (en) 2023-06-29
US12301994B2 (en) 2025-05-13

Similar Documents

Publication Publication Date Title
CN108737735B (zh) 图像校正方法、电子设备及计算机可读存储介质
JP5736512B2 (ja) 撮像装置およびその動作制御方法
KR101856947B1 (ko) 촬영장치, 움직임 추정장치, 영상 보정 방법, 움직임 추정방법 및 컴퓨터 판독가능 기록매체
US9883108B2 (en) Imaging apparatus and image blur correction method
US20170085740A1 (en) Systems and methods for storing images and sensor data
US11218636B2 (en) Image stabilization for electronic devices such as cameras
WO2016080538A1 (ja) 撮像装置及び撮像方法
CN114449151A (zh) 一种图像处理方法及相关装置
US9891446B2 (en) Imaging apparatus and image blur correction method
US10863095B2 (en) Imaging apparatus, imaging method, and imaging program
CN115209055A (zh) 拍摄方法、装置、电子设备及可读存储介质
JP7734074B2 (ja) 制御装置、撮像装置、制御方法、制御プログラム
WO2016084775A1 (ja) 撮像装置及び焦点調節方法
CN113454706B (zh) 显示控制装置、摄像装置、显示控制方法
JP5832673B2 (ja) 撮像装置およびその動作制御方法
JP2023051392A (ja) ブレ補正装置、撮像装置、ブレ補正方法、及びブレ補正プログラム
JP2015049446A (ja) 撮像装置
CN118474530B (zh) 图像拍摄方法及相关设备
JP2024003460A (ja) 姿勢算出装置、姿勢算出方法、姿勢算出装置を備える撮像装置とその制御方法
JP2024003461A (ja) 姿勢算出装置、姿勢算出方法、姿勢算出装置を備える撮像装置とその制御方法
TWI612805B (zh) 影像處理方法及其系統
HK40038240A (en) An information processing method, device, electronic equipment and storage medium
HK40038240B (en) An information processing method, device, electronic equipment and storage medium
JP2014216744A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240909

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20250417

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250527

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250723

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250805

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250825

R150 Certificate of patent or registration of utility model

Ref document number: 7734074

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150