[go: up one dir, main page]

JP4658711B2 - 動きベクトル検出装置及び方法 - Google Patents

動きベクトル検出装置及び方法 Download PDF

Info

Publication number
JP4658711B2
JP4658711B2 JP2005190014A JP2005190014A JP4658711B2 JP 4658711 B2 JP4658711 B2 JP 4658711B2 JP 2005190014 A JP2005190014 A JP 2005190014A JP 2005190014 A JP2005190014 A JP 2005190014A JP 4658711 B2 JP4658711 B2 JP 4658711B2
Authority
JP
Japan
Prior art keywords
motion vector
block
distortion
vector detection
original image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005190014A
Other languages
English (en)
Other versions
JP2007013430A (ja
Inventor
英明 古川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2005190014A priority Critical patent/JP4658711B2/ja
Priority to US11/474,442 priority patent/US20070002145A1/en
Publication of JP2007013430A publication Critical patent/JP2007013430A/ja
Application granted granted Critical
Publication of JP4658711B2 publication Critical patent/JP4658711B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Adjustment Of Camera Lenses (AREA)

Description

本発明は、動きベクトル検出装置及び方法に関し、特に、デジタルカメラ等の電子的撮像装置に用いて、手ぶれ等による画質の劣化防止に好適な動きベクトル検出装置及び方法に関する。
従来から、デジタルカメラ等においては、手ぶれ等による画質劣化を防止する方法が種々提案されている。その代表的なものとしては、例えば、レンズを移動して補正するもの、CCD(Charge−Coupled Device)を移動して補正するもの、撮像された画像を複数のフレームメモリに蓄積し、前後のフレーム間で画像を比較して動きベクトルを算出するとともに、手ぶれを相殺するように画像の読み出し位置を調整するもの(以下、電子手ぶれ補正という)等がある。
また、電子手ぶれ補正を実行するためには、前のフレームに対して画像がどの方向にどれだけずれたかを検出する動きベクトル検出部が必要であるが、その方法の一つとしてブロックマッチングがある(例えば、特許文献1参照。)。以下に、ブロックマッチングの一例を説明する。
ブロックマッチングの手法では、複数フレーム(一般には、現フレームとその一つ前のフレーム)の画像をSDRAM(Synchronous Dynamic Random Access Memory)等のメモリに格納しておく。そして、現フレームの画像の一部(現フレームの評価ブロック、図20の黒四角部)と、前フレームのほぼ同じ位置にある同じ大きさの画像(前フレームの評価ブロック、図21の網掛け部)とを切り出し、各画素の差分の絶対値の総和(相関値)を計算する。
図22は、図21の拡大図であり、点線で囲まれた部分は現フレームの評価ブロックの位置に対応し、矢印はその相関値を得るベクトルを示す。この図に示すように、処理としては、現フレームの評価ブロックに対して、前フレームの評価ブロックの位置を1画素ずつ変えて、各画素の差分の絶対値の総和(相関値)計算を繰り返し、相関値が最小になる画像の位置関係(動きベクトル)をメモリに記憶する。なお、メモリに記憶する動きベクトルは、その最小値だけでなく、小さいものからn個を記憶しても良い。そして、フレーム内のすべての評価ブロックに対して、こうした処理を繰り返し、このようにして取得した動きベクトルを元に、フレーム全体でどの方向にどれだけ動いたかをCPU等で算出し、その動いた量を相殺する様に画像の読み出しアドレスを調整する。
図19に、手ぶれ補正機能の一部として動きベクトル検出機能を利用する画像処理装置の従来例を示す。図19において、CCDで撮像された画像は、プリプロセス1に入力され、AE(Automatic Exposure)、AF(Auto Focus)、AWB(Auto White Balance)のための評価値を取得しながらSDRAM3に画像を格納する。なお、このとき格納された画像はベイヤ画像であり、歪曲収差で歪んでいる。
CPU2は、上記のAE,AF,AWBの値を参照して、露出、フォーカス、RGBゲイン、ホワイトバランス係数を算出し、イメージプロセス4へパラメータを設定する。また、その他の画像処理用のパラメータもCPU2から設定される。CPU2は、イメージプロセス4が動作する前に、動きベクトル検出部7へのパラメータ設定を行って、先に動きベクトル検出部7を起動する。
次に、ソート部75から手ぶれ検出制御部71にトリガをかける。評価ブロック位置算出部711は、評価ブロックの位置を、例えば、図20に示すように正方格子状に並んだ位置に設定する。DMAパラメータ算出部712は、評価ブロックの位置がSDRAM3上のどのアドレスにあるかを算出し、DMA72に設定する。DMA72は、SDRAM3から画像データを取得し、メモリ73に格納する。ここで、メモリ73には現フレームの評価ブロックと前フレームの評価ブロック画像が格納されている。
相関演算部74は、メモリ73のデータから相関値の演算を行い、相関値と動きベクトルをソート部75に出力する。ソート部75は、ひとつの評価ブロックからの動きベクトルと相関値を取得すると、相関値の低い順にこれらをソートし、上位n個の動きベクトルを局所的な動きベクトルとしてメモリ76に格納する。
CPU2は、メモリ76に格納された動きベクトルから最も出現頻度の高いベクトルや分散の大きさ等に基づいて手ぶれが生じたかを判別し、フレーム全体でどの方向に手ぶれが生じたのかを演算したのち、イメージプロセス4へのパラメータに反映させる。イメージプロセス4は、上記手ブレを補正するために反映されたパラメータを元に、SDRAM3上に格納されている画像データを少しずつ切り出して画像処理を行い、再びSDRAM3へ格納する。
特開2000−261757号公報
しかしながら、一般的に、カメラの光学系においては歪曲収差が現れる。この歪曲収差は、例えば格子状の被写体を撮影する場合、樽型・糸巻き型として観測される。図17、図18は、樽型(共軸系)歪の例であり、図17の画像が図18に示すようにレンズの光学中心を原点として半径方向に離れるに従って縮小される様に歪曲する。
ところが、上述の従来技術における動きベクトル検出においては、このような歪曲収差の影響が何ら考慮されていない。したがって、例えば、図13に示すような位置(図中の網掛け部分)からそれぞれ評価ブロックを切り出したとすると、歪曲収差が補正された後の画像上で見れば、図14のように外側にいくほど評価ブロックのサイズが大きくなる。なお、図13は、図中、左下が光学的中心の座標で、その第1象限だけを図示したものである。
つまり、図14のような場合には、画像の中央付近と外側とで、検出できる動きベクトルの大きさが異なってしまう。ここで、手ぶれ補正処理とは、画像全体の動きベクトルを検出する処理であることから、図14のような場合には、動きベクトルの大きさが評価ブロックサイズが最も小さい中央付近において検出可能な動きベクトルの大きさで制限されてしまうことになり、周辺部でより大きい動きベクトルが検出できても主要被写体が通常位置する中央部では、大きいベクトル量を検出できないため、あまり効果が無く、かえって無駄な計算をしてしまうことになる。
また、図14では評価ブロックを正方格子状に配置しているが、光学的な中心位置からの距離で考えると、評価ブロック毎に距離が異なるため、歪曲収差を考慮しようとすると演算が複雑になる。さらに、図14に示すように、歪曲収差が補正された後の画像上では光学的中心付近の画像は縮小され、外側は拡大されている。仮に、光学的中心付近で0.8倍、一番外側の部分で1.5倍、中央部分で1.0倍の拡大率であるとすると、画像の手ぶれによる動きベクトルが4である場合、中心付近で検出された動きベクトルは横方向に5(4÷0.8)、中央では4(4÷1)、外側では3(4÷1.5。小数部四捨五入)と検出される。
このとき仮に、後処理で歪曲収差による動きベクトルの調整が行われたとすると、中心付近および中央部は動きベクトル4(5×0.8、4×1.0)と復元できるが、外側は4.5(3×1.5)となり、中央より大きな動きベクトルを有している手ぶれが生じたと判断されてしまう。つまり、中央付近は動きベクトルの検出精度が高く、外側に行くに従って精度が低くなってしまう。この現象は、図11、図12に示す非共軸系の場合も同様である。
また、通常の同心円状のレンズで歪曲収差の大きい画像を取得すると、例えば図18の左右両端のように、CCDが存在しているのにもかかわらず、処理に利用できない部分が存在し、有効に画角を使用できないという問題がある。そこで、図10に示すシリンドリカル型レンズのように水平、垂直方向に独立な歪曲を発生させるレンズ群で光学系を構成し、CCDを有効に使うための歪を発生させる方法がある。この方法では、歪曲収差が生じても、図15の格子縞が図16のように変形されることになるため、CCD全体を有効に利用できる。しかし、これらのレンズ群においても、これまで説明したような問題が同様に発生してしまう。
そこで、本発明は、上述の課題を鑑みてなされたものであり、光学系における歪曲収差を考慮しつつ、演算量を低減するとともに、精度の高い手ぶれ補正を実現するための動きベクトル検出装置及び方法を提供することを目的とする。
請求項1の発明は、光学系に起因する歪曲収差を有する第1の原画像と、前記第1の原画像とは時間的に異なる第2の原画像とに対し、前記歪曲収差に応じた大きさのブロックを設定するブロック設定部と、前記第2の原画像に設定された前記ブロック、前記第1の原画像に設定された前記ブロックとの各画素の差分の絶対値の総和を演算し、この演算結果に基づき、前記ブロックに係る動きベクトルを得る相関演算部とを有する動きベクトル検出装置を提案している。
請求項7に係る発明は、光学系に起因する歪曲収差を有する第1の原画像と、前記第1の原画像とは時間的に異なる第2の原画像とに対し、前記歪曲収差に応じた大きさのブロックを設定する第1のステップと、前記第2の原画像に設定された前記ブロック、前記第1の原画像に設定された前記ブロックとの各画素の差分の絶対値の総和を演算する第2のステップと、この演算結果に基づき、前記ブロックに係る動きベクトルを求める第3のステップと、を有することを特徴とする動きベクトル検出方法提案している。
これらの発明によれば、ブロック設定部が、又は第1のステップで、光学系に起因する歪曲収差を有する第1の原画像と、第1の原画像とは時間的に異なる第2の原画像とに対し、歪曲収差に応じた大きさのブロックを設定する。そして、相関演算部が、又は第2及び第3のステップで、第2の原画像に設定された前記ブロック、前記第1の原画像に設定された前記ブロックとの各画素の差分の絶対値の総和を演算し、この演算結果に基づき、前記ブロックに係る動きベクトルを得る。したがって、ブロック設定部が歪曲収差に応じた大きさのブロックを設定するため、従来のように、無駄な計算処理の発生を防止して、演算処理の高速化および消費電力の低減を図ることができる。
請求項2の発明は、請求項1に記載の動きベクトル検出装置について、前記ブロック設定部は、前記歪曲収差を補正した後の前記ブロックの大きさが略同一となるよう前記ブロックを設定することを特徴とする動きベクトル検出装置を提案している。
請求項8に係る発明は、請求項7に記載の動きベクトル検出方法について、前記第1のステップにおいて、前記歪曲収差を補正した後の前記ブロックの大きさが略同一となるよう前記ブロックを設定することを特徴とする動きベクトル検出方法を提案している。
これらの発明によれば、ブロック設定部又は第1のステップが、歪曲収差を補正した後のブロックの大きさが略同一となるようブロックを設定する。したがって、従来のように、光学中心からの距離に応じて、評価ブロックのサイズが大きくなることを防止することができる。
請求項3の発明は、請求項1に記載の動きベクトル検出装置について、前記ブロック設定部は、前記ブロックを、前記歪曲収差の収差量が略等しい位置に設定することを特徴とする動きベクトル検出装置を提案している。
請求項9に係る発明は、前請求項7に記載の動きベクトル検出方法について、記第1のステップにおいて、前記ブロックを、前記歪曲収差の収差量が略等しい位置に設定することを特徴とする動きベクトル検出方法を提案している。
これらの発明によれば、ブロック設定部又は第1のステップは、ブロックを、歪曲収差の収差量が略等しい位置に設定する。したがって、光学中心からの距離に依存するパラメータを多くの評価ブロックで共有できるため、パラメータの設定が容易になり、パラメータとして保存するデータ量の削減を図ることができる。
請求項4の発明は、請求項1に記載の動きベクトル検出装置について、前記ブロックに係る、光学的な中心位置からの距離、座標、又は重み係数の内の、少なくとも1つのパラメータを算出するパラメータ算出部と、前記ブロックに係る動きベクトルと前記パラメータとに基づき、画像全体としての動きベクトルを検出する手振れ検出部とを有することを特徴とする動きベクトル検出装置を提案している。
請求項10に係る発明は、請求項7に記載の動きベクトル検出方法について、前記ブロックに係る、光学的な中心位置からの距離、座標、又は重み係数の内の、少なくとも1つのパラメータを算出し、前記ブロックに係る動きベクトルと前記パラメータとに基づき、画像全体としての動きベクトルを検出する第4のステップをさらに有することを特徴とする動きベクトル検出方法を提案している。
これらの発明によれば、パラメータ算出部がブロックに係る、光学的な中心位置からの距離、座標、又は重み係数の内の、少なくとも1つのパラメータを算出する。そして、手振れ検出部又は第1のステップが、ブロックに係る動きベクトルとパラメータとに基づき、画像全体としての動きベクトルを検出する。したがって、各評価ブロックから出力される動きベクトルに対して、その精度に応じた重みを与えて動きベクトルを算出することにより、さらに精度の高い動きベクトルを取得することができる。
請求項5の発明は、請求項1に記載の動きベクトル検出装置について、前記光学系は、共軸レンズ群よりなることを特徴とする動きベクトル検出装置を提案している。
請求項6の発明は、請求項1に記載の動きベクトル検出装置について、前記光学系は、非共軸レンズ群を含むことを特徴とする動きベクトル検出装置を提案している。
本発明によれば、光学系における歪曲収差を考慮して、動きベクトルの演算量を低減するとともに、精度の高い手ぶれ補正を実現できるという効果がある。
<第1の実施形態>
本実施形態は、特に、図13のように、光学系に共軸系の歪曲収差を有するデジタルカメラ等において好適な動きベクトル検出装置である。以下、図1から図5を用いて、その内容を詳細に説明する。
本実施形態に係る動きベクトル検出装置は、図1に示すように、プリプロセス部1と、CPU2と、SDRAM3と、イメージプロセス部4と、動きベクトル検出部5とから構成されており、動きベクトル検出部5は、さらに、動きベクトル検出制御部51と、DMA52と、メモリ53、56と、相関演算部54と、ソート部55とから構成されている。また、動きベクトル検出制御部51は、評価ブロック位置算出部(ブロック設定部)511と、評価ブロック距離算出部(パラメータ算出部)512と、重み係数算出部(パラメータ算出部)513と、評価ブロックサイズ算出部(ブロック設定部)514と、DMAパラメータ算出部515と、相関演算パラメータ算出部516とから構成されている。なお、プリプロセス部1、CPU2、SDRAM3、イメージプロセス部4、DMA52、メモリ53、相関演算部54の主たる機能については、上述の従来技術と同様であるため、ここでの詳細な説明は省略する。
評価ブロック位置算出部511は、評価ブロックの位置を算出する。具体的には、図2に示すように、光学的中心(図中、X軸とY軸とが交わる点)からの距離rが一様になるように、すなわち、評価ブロックが同心円状に配置されるよう評価ブロックの位置を算出する。
評価ブロック距離算出部512は、評価ブロックが光学的中心からどれくらいの距離にあるかを算出する。具体的には、光学的中心(図2におけるX軸とY軸とが交わる点)を 原点とし、評価ブロックの位置を(X,Y)としたときに、その距離rを
r=(X^2+Y^2)^0.5のように求めるが、回路規模を削減するため、r^2の値を算出してもよい。
重み係数算出部513は、評価ブロック距離算出部512において算出された、例えば、R=r^2の値を入力して、その評価ブロックから得られた動きベクトルの重要度を重み係数k(0から1までの値)として出力する。なお、重み係数は、画像の中心部ほど高く、周辺部になるほど低くなる。
評価ブロックサイズ算出部514は、歪曲収差補正後の評価ブロックの大きさがほぼ同じになるように評価ブロックサイズを算出する。具体的には、図3に示すように、設定された3つの評価ブロックのサイズが、図4に示すように、歪曲収差補正後の画像上でほぼ同じ大きさLになる様に、光学中心からの距離に応じて、評価ブロックサイズを算出し、この値Lを相関演算パラメータ算出部516、DMAパラメータ算出部515に出力する。
DMAパラメータ算出部515は、評価ブロックサイズ算出部514から入力したLと、評価ブロック位置算出部511から入力した(X、Y)に基づいて、評価ブロックの位置がSDRAM3上のどのアドレスにあるかを算出し、DMA52にそのアドレスを設定する。相関演算パラメータ算出部516は、評価ブロックのサイズLの変化に応じて、相関演算を何回実行するのかを相関演算部54に設定する。
ソート部55は、相関演算部54から出力される相関値と動きベクトルおよび重み係数算出部513から出力される重み係数kをソートしてメモリ56に格納する。メモリ56は、ソート部55から出力される動きベクトルと重み係数情報とを所定のアドレスに格納する。そして、CPU2が手ぶれ補正を実行する場合には、メモリ56に格納された動きベクトルとその重み係数kを考慮し、その出現頻度の係数等を用いて処理を行う。
次に、図5を用いて、本実施形態における動きベクトルの検出方法について説明する。
動きベクトル検出部5は、メモリ53に現フレームである第一フレーム画像を取り込み(ステップ101)、続いて、前フレームである第二フレーム画像を取り込む(ステップ102)。ソート部55が動きベクトル検出制御部51にトリガをかけると、評価ブロック位置算出部511は、評価ブロックの位置を、例えば、図2に示すように、光学中心から同心円状に並んだ位置に設定し、その座標情報(X,Y)を評価ブロック距離算出部512、DMAパラメータ算出部515に出力する(ステップ103)。
次に、評価ブロック距離算出部512は、評価ブロック位置算出部511から出力された評価ブロックの座標情報(X,Y)を入力し、光学中心から距離R=r^2を算出する(ステップ104)。評価ブロック距離算出部512で求められた距離情報Rは、評価ブロックサイズ算出部514に出力され、評価ブロックサイズ算出部514において、歪曲収差補正後の評価ブロックの大きさがほぼ同じになるような評価ブロックサイズLが算出され、その値Lは、DMAパラメータ算出部515に出力される(ステップ105)。また、評価ブロック距離算出部512で求められた距離情報Rは、重み係数算出部513にも出力され、その評価ブロックから得られた動きベクトルの重要度を重み係数kとしてソート部55に出力する(ステップ106)。
次に、例えば、図22の左上に位置するブロックを初期値としたときに、ソート部55が動きベクトルを検出する(ステップ107)。検出された動きベクトルに基づいて、相関演算部54は、相関演算を実行し、その結果をソート部55に出力する(ステップ108)。ソート部55は、メモリ56にすでに相関演算結果が10個格納されている場合には、相関演算部54から入力した相関演算結果をすでに格納されている相関演算結果と比較して(ステップ109)、この相関演算結果の相関値が格納されている相関値のいずれかよりも小さい値であるときには、格納されている最下位の相関値を消去して、この相関値を記憶する(ステップ110)。
次に、相関値を演算するためのブロックを1画素分移動させて(ステップ111)、動きベクトルを順次検出し、値を更新して相関演算を実行する(ステップ112)。一方で、相関演算部54から入力した相関演算結果をすでに格納されている相関値のいずれよりも大きい値であるときには、相関演算部54から入力した相関演算結果を破棄して、ステップ111の処理に移行する(ステップ109)。
そして、ある評価ブロックについて、上記ステップ111までの処理を終了すると、評価ブロックを更新してステップ103の処理に戻る(ステップ114)。そして、すべての評価ブロックについて、上記一連の処理を終了すると(ステップ113)、メモリ56に格納された動きベクトルをCPU2に出力して動作を終了する(ステップ115)。
したがって、本実施形態によれば、光学系に共軸系の歪曲収差がある場合においても、評価ブロックのサイズを光学的な中心からの距離に基づいて、適宜、調整を行うため、動きベクトルによる手ぶれ補正等を精度よく実行することができる。
<第2の実施形態>
本実施形態は、特に、図10のように、水平、垂直方向に独立した歪曲収差を発生させる光学系によって構成されるデジタルカメラ等において好適な動きベクトル検出装置である。この場合には、図7に示すように、歪曲収差をX方向とY方向にそれぞれ独立して考えることができるため、第1の実施形態のように、光学的中心からの距離を求めることなく、座標から直接求めることができる。以下、図6から図9を用いて、その内容を詳細に説明する。
本実施形態に係る動きベクトル検出装置は、図6に示すように、プリプロセス部1と、CPU2と、SDRAM3と、イメージプロセス部4と、動きベクトル検出部6とから構成されており、動きベクトル検出部6は、さらに、動きベクトル検出制御部61と、DMA62と、メモリ63、66と、相関演算部64と、ソート部65とから構成されている。また、動きベクトル検出制御部61は、評価ブロック位置算出部(ブロック設定部)611と、評価ブロック距離算出部(パラメータ算出部)612と、重み係数算出部(パラメータ算出部)613と、評価ブロックサイズ算出部(ブロック設定部)614と、DMAパラメータ算出部615と、相関演算パラメータ算出部616とから構成されている。なお、プリプロセス部1、CPU2、SDRAM3、イメージプロセス部4、DMA62、メモリ63、相関演算部64の主たる機能については、上述の従来技術と同様であるため、ここでの詳細な説明は省略する。
評価ブロック距離算出部612は、評価ブロックの座標情報(X、Y)をそのまま重み係数算出部613と評価ブロックサイズ算出部614とに出力する。評価ブロックサイズ算出部614は、評価ブロック距離算出部612から入力した評価ブロックの座標情報(X、Y)に基づいて、X方向、Y方向それぞれの評価ブロックサイズ(Lx、Ly)を算出し、この情報をDMAパラメータ算出部615および相関演算パラメータ算出部616に出力する。
具体的には、歪曲収差補正後の評価ブロックの大きさがほぼ同じになるように、例えば、図8に示すように設定された3つの評価ブロックのサイズが、図9に示すように、歪曲収差補正後の画像上において、ほぼ同じ大きさになるように、入力した評価ブロックの座標情報(X、Y)に応じて、評価ブロックサイズ(Lx、Ly)を算出する。重み係数算出部613は、入力した座標情報(X、Y)から、X座標に基づいて得られる重みとY座標に基づいて得られる重みとを乗算してその値kをソート部65に出力する。
DMAパラメータ算出部615は、評価ブロックサイズ算出部614から入力した(Lx、Ly)と、評価ブロック位置算出部611から入力した座標情報(X、Y)に基づいて、評価ブロックの位置がSDRAM3上のどのアドレスにあるかを算出し、DMA62にそのアドレスを設定する。相関演算パラメータ算出部616は、評価ブロックのサイズ(Lx、Ly)の変化に応じて、相関演算を何回実行するのかを相関演算部64に設定する。
ソート部65は、相関演算部64から出力される相関値と動きベクトルおよび重み係数算出部613から出力される重み係数kをソートしてメモリ66に格納する。メモリ66は、ソート部65から出力される動きベクトルと重み係数情報とを所定のアドレスに格納する。そして、CPU2が手ぶれ補正を実行する場合には、メモリ66に格納された動きベクトルとその重み係数kを考慮し、その出現頻度の係数等を用いて処理を行う。
したがって、本実施形態によれば、光学系に非共軸系の歪曲収差がある場合においても、評価ブロックのサイズを光学的な中心からの座標情報に基づいて、適宜、調整を行うため、動きベクトルによる手ぶれ補正等を精度よく実行することができる。
なお、本発明は、上述した実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
第1の実施形態に係る動きベクトル検出装置の構成図である。 第1の実施形態に係る評価ブロックの配置を示した図である。 第1の実施形態に係る歪曲収差補正前の評価ブロックサイズを示した図である。 第1の実施形態に係る歪曲収差補正後の評価ブロックサイズを示した図である。 第1の実施形態に係る動きベクトル検出装置の処理フローである。 第2の実施形態に係る動きベクトル検出装置の構成図である。 第2の実施形態に係る評価ブロックの配置を示した図である。 第2の実施形態に係る歪曲収差補正前の評価ブロックサイズを示した図である。 第2の実施形態に係る歪曲収差補正後の評価ブロックサイズを示した図である。 共軸系の歪曲収差を補正するために光学系に用いられるシリンドリカル型レンズを示した図である。 非共軸系の歪曲収差を有する光学系において、同じサイズの評価ブロックを配置した例を示した図である。 非共軸系の歪曲収差を有する光学系に配置された同じサイズの評価ブロックに対して歪曲収差補正を行った例を示した図である。 共軸系の歪曲収差を有する光学系において、同じサイズの評価ブロックを配置した例を示した図である。 共軸系の歪曲収差を有する光学系に配置された同じサイズの評価ブロックに対して歪曲収差補正を行った例を示した図である。 図16の元画像を示す図である。 非共軸系の歪曲収差を有する光学系で図15の元画像を撮像した例を示す図である。 図16の元画像を示す図である。 共軸系の歪曲収差を有する光学系で図17の元画像を撮像した例を示す図である。 従来の動きベクトル検出装置の構成を示す図である。 現フレームの評価ブロックを示す図である。 前フレームの評価ブロックを示す図である。 図21の拡大図である。
符号の説明
1 プリプロセス部
2 CPU
3 SDRAM
4 イメージプロセス部
5、6 動きベクトル検出部
51、61 動きベクトル検出制御部
52、62 DMA
53、56、63、66 メモリ
54、64 相関演算部
55、65 ソート部
511、611 評価ブロック位置算出部(ブロック設定部)
512、612 評価ブロック距離算出部(パラメータ算出部)
513、613 重み係数算出部(パラメータ算出部)
514、614 評価ブロックサイズ算出部(ブロック設定部)
515、615 DMAパラメータ算出部
516、616 相関演算パラメータ算出部

Claims (10)

  1. 光学系に起因する歪曲収差を有する第1の原画像と、前記第1の原画像とは時間的に異なる第2の原画像とに対し、前記歪曲収差に応じた大きさのブロックを設定するブロック設定部と、
    記第2の原画像に設定された前記ブロック、前記第1の原画像に設定された前記ブロックとの各画素の差分の絶対値の総和を演算し、この演算結果に基づき、前記ブロックに係る動きベクトルを得る相関演算部とを有する動きベクトル検出装置。
  2. 前記ブロック設定部は、前記歪曲収差を補正した後の前記ブロックの大きさが略同一となるよう前記ブロックを設定することを特徴とする請求項1に記載の動きベクトル検出装置。
  3. 前記ブロック設定部は、前記ブロックを、前記歪曲収差の収差量が略等しい位置に設定することを特徴とする請求項1に記載の動きベクトル検出装置。
  4. 前記ブロックに係る、光学的な中心位置からの距離、座標、又は重み係数の内の、少なくとも1つのパラメータを算出するパラメータ算出部と、
    前記ブロックに係る動きベクトルと前記パラメータとに基づき、画像全体としての動きベクトルを検出する手振れ検出部とを有することを特徴とする請求項1に記載の動きベクトル検出装置。
  5. 前記光学系は、共軸レンズ群よりなることを特徴とする請求項1に記載の動きベクトル検出装置。
  6. 前記光学系は、非共軸レンズ群を含むことを特徴とする請求項1に記載の動きベクトル検出装置。
  7. 光学系に起因する歪曲収差を有する第1の原画像と、前記第1の原画像とは時間的に異なる第2の原画像とに対し、前記歪曲収差に応じた大きさのブロックを設定する第1のステップと、
    記第2の原画像に設定された前記ブロック、前記第1の原画像に設定された前記ブロックとの各画素の差分の絶対値の総和を演算する第2のステップと、
    この演算結果に基づき、前記ブロックに係る動きベクトルを求める第3のステップと、
    を有することを特徴とする動きベクトル検出方法。
  8. 前記第1のステップにおいて、前記歪曲収差を補正した後の前記ブロックの大きさが略同一となるよう前記ブロックを設定することを特徴とする請求項7に記載の動きベクトル検出方法。
  9. 前記第1のステップにおいて、前記ブロックを、前記歪曲収差の収差量が略等しい位置に設定することを特徴とする請求項7に記載の動きベクトル検出方法。
  10. 前記ブロックに係る、光学的な中心位置からの距離、座標、又は重み係数の内の、少なくとも1つのパラメータを算出し、前記ブロックに係る動きベクトルと前記パラメータとに基づき、画像全体としての動きベクトルを検出する第4のステップをさらに有することを特徴とする請求項7に記載の動きベクトル検出方法。
JP2005190014A 2005-06-29 2005-06-29 動きベクトル検出装置及び方法 Expired - Fee Related JP4658711B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005190014A JP4658711B2 (ja) 2005-06-29 2005-06-29 動きベクトル検出装置及び方法
US11/474,442 US20070002145A1 (en) 2005-06-29 2006-06-26 Motion vector detecting apparatus and motion vector detecting method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005190014A JP4658711B2 (ja) 2005-06-29 2005-06-29 動きベクトル検出装置及び方法

Publications (2)

Publication Number Publication Date
JP2007013430A JP2007013430A (ja) 2007-01-18
JP4658711B2 true JP4658711B2 (ja) 2011-03-23

Family

ID=37588960

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005190014A Expired - Fee Related JP4658711B2 (ja) 2005-06-29 2005-06-29 動きベクトル検出装置及び方法

Country Status (2)

Country Link
US (1) US20070002145A1 (ja)
JP (1) JP4658711B2 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4719553B2 (ja) * 2005-11-04 2011-07-06 キヤノン株式会社 撮像装置、撮像方法、コンピュータプログラム、及びコンピュータ読み取り可能な記憶媒体
JP2008160300A (ja) * 2006-12-21 2008-07-10 Canon Inc 画像処理装置及び撮像装置
JP4958610B2 (ja) * 2007-04-06 2012-06-20 キヤノン株式会社 画像防振装置、撮像装置及び画像防振方法
JP4926920B2 (ja) 2007-11-16 2012-05-09 キヤノン株式会社 防振画像処理装置及び防振画像処理方法
ES2812473T3 (es) 2008-03-19 2021-03-17 Nokia Technologies Oy Vector de movimiento combinado y predicción de índice de referencia para la codificación de vídeo
JP5213493B2 (ja) * 2008-03-26 2013-06-19 三洋電機株式会社 動き検出装置
JP4789964B2 (ja) * 2008-04-01 2011-10-12 オリンパス株式会社 画像処理装置、画像処理プログラム、画像処理方法、および電子機器
JP5074322B2 (ja) * 2008-08-05 2012-11-14 オリンパス株式会社 画像処理装置、画像処理方法、画像処理プログラム、及び、撮像装置
JP5075757B2 (ja) * 2008-08-05 2012-11-21 オリンパス株式会社 画像処理装置、画像処理プログラム、画像処理方法、および電子機器
KR20110008653A (ko) * 2009-07-20 2011-01-27 삼성전자주식회사 움직임 벡터 예측 방법과 이를 이용한 영상 부호화/복호화 장치 및 방법
CN101729665B (zh) * 2009-12-11 2013-10-02 惠州Tcl移动通信有限公司 一种具有防抖功能的拍照手机及其在拍照中的防抖方法
JP5631229B2 (ja) * 2011-01-31 2014-11-26 キヤノン株式会社 撮像装置、その制御方法及びプログラム
JP5872171B2 (ja) * 2011-02-17 2016-03-01 クラリオン株式会社 カメラシステム
JP5693743B2 (ja) * 2011-10-26 2015-04-01 三菱電機株式会社 画像処理装置、画像処理方法、撮像装置、コンピュータプログラム及び記録媒体
JP5719480B2 (ja) 2012-07-13 2015-05-20 富士フイルム株式会社 画像変形装置およびその動作制御方法
JP5997557B2 (ja) * 2012-09-20 2016-09-28 キヤノン株式会社 撮像装置及びその制御方法
JP6188533B2 (ja) * 2013-10-24 2017-08-30 キヤノン株式会社 像振れ補正装置およびその制御方法、光学機器、撮像装置
JP6090193B2 (ja) * 2014-02-07 2017-03-08 三菱電機株式会社 動き検出処理装置、画像処理装置、撮像装置及び動き検出処理方法
US10354397B2 (en) 2015-03-11 2019-07-16 Massachusetts Institute Of Technology Methods and apparatus for modeling deformations of an object
JP6495122B2 (ja) * 2015-07-02 2019-04-03 オリンパス株式会社 撮像装置、画像処理方法
US10380745B2 (en) * 2016-09-01 2019-08-13 Massachusetts Institute Of Technology Methods and devices for measuring object motion using camera images
US10764499B2 (en) * 2017-06-16 2020-09-01 Microsoft Technology Licensing, Llc Motion blur detection
JP6975003B2 (ja) * 2017-09-29 2021-12-01 株式会社デンソー 周辺監視装置およびその校正方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06197261A (ja) * 1992-12-24 1994-07-15 Canon Inc 撮像装置
JPH11289518A (ja) * 1998-04-03 1999-10-19 Nec Corp 画像処理装置
US6157396A (en) * 1999-02-16 2000-12-05 Pixonics Llc System and method for using bitstream information to process images for use in digital display systems

Also Published As

Publication number Publication date
US20070002145A1 (en) 2007-01-04
JP2007013430A (ja) 2007-01-18

Similar Documents

Publication Publication Date Title
JP4658711B2 (ja) 動きベクトル検出装置及び方法
US9325899B1 (en) Image capturing device and digital zooming method thereof
JP5075757B2 (ja) 画像処理装置、画像処理プログラム、画像処理方法、および電子機器
JP5141245B2 (ja) 画像処理装置、補正情報生成方法、および撮像装置
US20210004952A1 (en) Method for image processing, non-transitory computer readable storage medium, and electronic device
JP6308748B2 (ja) 画像処理装置、撮像装置及び画像処理方法
US20090141148A1 (en) Distortion-corrected image generation unit and distortion-corrected image generation method
US20100033584A1 (en) Image processing device, storage medium storing image processing program, and image pickup apparatus
US8363118B2 (en) Image processing device and method for controlling the same
US10038847B2 (en) Image processing technique for generating more appropriate motion vectors for a captured image that is distorted
US20150086132A1 (en) Image Processing Apparatus and Image Processing Method
JP4591046B2 (ja) 欠陥検出補正回路及び欠陥検出補正方法
US11076092B2 (en) Image processing apparatus, image processing method, and image processing program
JP5560722B2 (ja) 画像処理装置、画像表示システム、および画像処理方法
JP4020093B2 (ja) 縁検出方法及び装置及びプログラム及び記憶媒体及び枠検出方法及び装置及びプログラム及び記憶媒体
EP1968308B1 (en) Image processing method, image processing program, image processing device, and imaging device
JP5309940B2 (ja) 画像処理装置、および撮像装置
JP6532328B2 (ja) 画像処理装置、その制御方法、および制御プログラム
JP6452414B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
WO2024179473A1 (zh) 鱼眼图像处理方法、电子设备及存储介质
CN117994174A (zh) 一种焦距拼接方法、装置、电子设备以及存储介质
JP2009267466A (ja) 動体検知機能付監視カメラ
JP6245847B2 (ja) 画像処理装置および画像処理方法
JP6016546B2 (ja) 撮像装置、その制御方法、および制御プログラム
JP2006311058A (ja) 動きベクトル検出回路及びその検出方法並びに手ブレ補正装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080428

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100422

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100615

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100806

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20100810

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101207

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101224

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140107

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140107

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees