[go: up one dir, main page]

JP2018512070A - シーンに関連付けられた電磁場の複素振幅を決定する方法 - Google Patents

シーンに関連付けられた電磁場の複素振幅を決定する方法 Download PDF

Info

Publication number
JP2018512070A
JP2018512070A JP2017533821A JP2017533821A JP2018512070A JP 2018512070 A JP2018512070 A JP 2018512070A JP 2017533821 A JP2017533821 A JP 2017533821A JP 2017533821 A JP2017533821 A JP 2017533821A JP 2018512070 A JP2018512070 A JP 2018512070A
Authority
JP
Japan
Prior art keywords
image
images
lens
light field
wavefront
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017533821A
Other languages
English (en)
Other versions
JP6600360B2 (ja
Inventor
ラモス、ホセ マヌエル ロドリゲス
ラモス、ホセ マヌエル ロドリゲス
ルケ、ホナス フィリップ
ルケ、ホナス フィリップ
セビリャ、フアン マヌエル トルヒリョ
セビリャ、フアン マヌエル トルヒリョ
バルディビア、フアン ホセ フェルナンデス
バルディビア、フアン ホセ フェルナンデス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Universidad de La Laguna
Original Assignee
Universidad de La Laguna
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Universidad de La Laguna filed Critical Universidad de La Laguna
Publication of JP2018512070A publication Critical patent/JP2018512070A/ja
Application granted granted Critical
Publication of JP6600360B2 publication Critical patent/JP6600360B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J9/00Measuring optical phase difference; Determining degree of coherence; Measuring optical wavelength
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J1/00Photometry, e.g. photographic exposure meter
    • G01J1/02Details
    • G01J1/04Optical or mechanical part supplementary adjustable parts
    • G01J1/0407Optical elements not provided otherwise, e.g. manifolds, windows, holograms, gratings
    • G01J1/0411Optical elements not provided otherwise, e.g. manifolds, windows, holograms, gratings using focussing or collimating elements, i.e. lenses or mirrors; Aberration correction
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J11/00Measuring the characteristics of individual optical pulses or of optical pulse trains
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/676Bracketing for image capture at varying focusing conditions
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J9/00Measuring optical phase difference; Determining degree of coherence; Measuring optical wavelength
    • G01J2009/002Wavefront phase distribution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/275Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals

Landscapes

  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Optics & Photonics (AREA)
  • Lenses (AREA)

Abstract

シーンに関連付けられた電磁場の複素振幅を決定する方法であって、a)シーンの複数の画像を写真用カメラによって取得することであって、画像が、異なる距離に配置された焦点面において焦点を合わせられ、カメラが、焦点距離Fのレンズと、その画像空間においてレンズから一定の距離に配置されたセンサと、を備えている、取得することと、複数の画像から少なくとも1つの画像対を取得し、2つの画像対の焦点面に関する中間平面に対応する物体空間における共役面に蓄積された波面を決定することと、を含む、方法。

Description

本発明は、シーンに関連付けられた電磁場の複素振幅を決定する方法に関する。
本発明の方法により、シーンの、その全体における光学的再構築(電磁場の絶対値および位相)が可能になり、これにより、シーンの距離地図の取得、3Dステレオモードまたは3D一体モードでのシーンの表示、完全に焦点が合ったか、光学的に随意に逸脱したか、(屈折率の変化に起因する)光学的歪みが修正されたシーンの表示などの、異なる用途での、再構築の後のシーンの使用が許容される。
本発明は、コンピュータによる写真撮影および適応制御光学(天文学、眼科、顕微鏡法など)を含む、異なる技術分野に適用することができる。
現在まで、シーンの3次元(ステレオまたは一体)画像を生成するために、異なる観点からのシーンの取得が使用されてきた。
Orth(Orth,A.,&Crozier,K.B.(2013),Light field moment imaging,Optics letters,38(15),2666−2668)により、ステレオ(一体型ではない)画像が、変換ドメインで作用する光照射野モーメントイメージング法を使用して、焦点がぼやけた2つの画像から生成されている。
Park(Park,J.H.,Lee,S.K.,Jo,N.Y.,Kim,H.J.,Kim,Y.S.,&Lim,H.G.(2014),Light ray field capture using focal plane sweeping and its optical reconstruction using 3D displays,Optics Express,22(21),25444−25454)により、3Dのステレオおよび一体画像が、焦点がぼやけたシーンの画像から形成されるように、光照射野に適用される、フィルタリングされた逆投影アルゴリズムが提案されている。この場合、焦点がぼやけた画像(強度)は、変換空間の光照射野の異なる角度におけるセクションである。焦点がぼやけたわずかな画像を得ることは、ライトが弱い場合においてもっとも適している。しかし、焦点がぼやけたわずかな画像を伴う変換ドメインでの作動は、確かな空間周波数における情報が欠如していることに起因して、ぶれを生じる。
湾曲センサは、焦点がぼやけた2つの画像からの、瞳孔における波面の位相を収集する。Van Dam and Lane(Van Dam,M.A.,&Lane,R.G.(2002),Wave−front sensing from defocused images by use of wave−front slopes,Applied optics,41(26),5497−5502)によって提案された幾何学センサも、焦点がぼやけた2つの画像からの、瞳孔における波面位相を収集する。しかし、瞳孔における波面位相の測定は、光軸における収差の修正のみを可能にする。
上述の問題は、請求項1に係る方法、および、請求項10に係るデバイスによって解決される。従属請求項は、本発明の好ましい実施形態を規定する。
本発明の第1の態様は、シーンに関連付けられた電磁場の複素振幅を決定する方法であって、
a)シーンの複数の画像を写真用カメラによって取得するステップであって、画像が、異なる距離に配置された焦点面において焦点を合わせられ、カメラが、焦点距離Fのレンズと、画像の空間においてレンズから一定の距離に配置されたセンサとを有するステップと、
b)複数の画像から少なくとも1つの画像対を取得し、2つの画像対の焦点面に関する中間平面に対応する物体空間における共役面に蓄積した波面を決定するステップであって、波面W(x,y)を以下のように決定する、ステップと、を備え、
Figure 2018512070
{Z(x,y)}は、所定の多項式であり、Nは、展開において使用される多項式の数であり、
係数dは、以下の連立方程式を解くことによって決定され、
Figure 2018512070
2zは、2つの画像対の焦点面の間の距離であり、それぞれ1≦j、k≦Tになるように、{(u1X(j),u1Y(k)),j,k=1...T}は第1画像対に属する点であり、{(u2X(j),u2Y(k)),j,k=1...T}は第2画像対に属する点であり、
Figure 2018512070
および、
Figure 2018512070
が証明されるようになっており、
s(j)は0と1との間の実数値の列であり、各1≦j≦Tに関して単調増加し、
xyは、フォトンの発生確立を考慮するとともに対応する画像対の正規化強度I(x,y)のいずれの場合にも決定される2次元の密度関数であり、すなわち、
Figure 2018512070
となる、方法を規定する。
本発明は、単一の観点から取得されたシーンの、焦点がぼやけた画像からの3次元画像のみならず、シーンのトモグラフィによる位相分布をも生成することを可能にする。このことは、プレノプティック光照射野取得カメラに生じるように、異なる観点を使用することなく、その全体において、シーンに含まれる電磁場を有することを意味しており、これに続く、最終的な光学系の解像度が向上する。このことは、プレノプティックカメラの場合、各観点に関連付けられたサブアパーチャの直径によって制限される。
本発明の文脈では、複数の画像は、2つ以上の数の画像であることを理解されたい。
画像を取得するのに使用される写真用カメラは、慣習的な光学系に対応し、決まった焦点距離、または、可変焦点距離(ぼやけている)で作動する、単一のレンズ、またはレンズの系と、画像空間の、光学系から所定の距離に配置されたセンサとを含んでいる。
カメラによって取得された画像は、異なる平面における共役画像である。各画像は、収束要素(これら要素は、画像の焦点面に配置されている)と、焦点がぼやけた要素(これらは、焦点面の前後に位置している)とを含んでいる。
本発明の方法によれば、複数の取得された画像の各画像対により、集光レンズの古典的な規則に従って取得位置と共益された、散乱層に蓄積された波面位相を決定することが可能になる。したがって、異なる共役距離において得られた画像対の各々の寄与を減じることにより、位相画像に関する、波面位相マップのその距離における散乱の値が見出される。したがって、複数の画像が2つの画像のみを含む場合、本発明の方法により、関連付けられた、焦点がぼやけた画像対からの共役距離における単一面で、波面を得ることが可能になる。
好ましい実施形態では、選択された画像対の各々の2つの画像は、それぞれ、焦点の両側で取得される。好ましい実施形態では、選択された画像対の各々の2つの画像は、焦点の両側で対称な距離から取得される。しかし、本発明の方法は、任意の焦点がぼやけた画像対に関して有効である。
本発明の方法は、Shack−Hartmannまたはピラミッドセンサなどの、慣習的な2次元位相センサを使用する代わりに、大型の対象の焦点がぼやけた画像を使用することに基づく、散乱層に向けられた複数共役トモグラフィ(層に向けられたMCAO)の方法である。
本発明の方法により、光学距離にマイクロレンズアレイを有する、取得のために使用されるカメラなしで、単一のレンズおよび単一の観点で、その焦点がぼやけた画像の取得からのシーン、それどころか、リアルタイム(空気中の散乱においては、可視領域で作動する場合に10ms未満、ビデオの場合は、毎秒24画像など)で得られたものの取得からのシーンに関連付けられた、電磁場の複素振幅を決定することが可能になる。
一実施形態では、波面は、以下の式で決定される。
Figure 2018512070
ここで、0≦p、q≦N−1の各々に関して、
Figure 2018512070
である。
有利には、この実施形態では、複素指数関数として展開される2次元の波面が回収され、これにより、波面位相の水平および垂直な傾きのデカルト分布を直接得ること、ひいては、Hudginまたはフーリエ変換のフィルタリンなどの、慣習的な傾きの積分法を使用することが可能になる。
一実施形態では、蓄積した波面は、複数の画像対に関して決定される。
一実施形態では、本方法は、蓄積された波面の、すでに決定された前述の平面に対しての減算として、物体空間の2つの平面の間の位相シフトを決定することをさらに含んでいる。好ましくは、位相シフトは、複数の平面に関して決定される。
本発明は、波面位相のトモグラフィによる収集とともに、測定ドメイン(変換ドメインにはない)内の焦点がぼやけた画像に作用することにより、電磁場の、その強度に限らず、その全体(係数および位相)を得ることを可能にしている。有利には、測定ドメインでの作用の結果は、変換領域での作用の結果よりもかなり良好に規定され、ここでは、焦点がぼやけたわずかな画像を始点とする場合、特定の空間的な周波数における情報の欠如によってぶれが生じる。焦点がぼやけたわずかな画像を得ることは、光が少ない場合においてはもっとも適切である。
瞳孔においてのみ波面位相を収集する最新技術からの方法に比べ、本発明は、シーンから得られた、焦点がぼやけた画像のセットに最適にフィットする波面位相をトモグラフィにより収集することの利点がある。波面位相のトモグラフィによる測定により、入口の瞳孔における視野全体の収差を収集することが可能になる。
一実施形態では、本方法は、取得された複数の画像から選択されたP画像から、以下の連立方程式を証明する光照射野の値として、u以外のMであってM≦Pを満たすMの値で距離Fに焦点を合わせられた前記光照射野(L)の値を決定するステップをさらに備え、
Figure 2018512070
Pは、光照射野を決定するために考慮される画像の数であり、Fは、レンズの焦点距離であり、Lは、距離Fに焦点を合わせられた光照射野の値であり、αFは、画像jの焦点距離であり、I(x)は、画像jの強度であり、ここで[x]は、1≦j≦Pを満たす各画像jの結果として得られるxにもっとも近い整数を示し、光照射野L(x)は、適合すなわち値uに対応する前記光照射野の視野の結果としてのuの値において評価され、xとuとは、それぞれ、カメラの、センサ内およびレンズ内における位置を決定する2次元ベクトルである、uの値に対応する光照射野の視野を結果として得ることと、をさらに含んでいる。
本発明の第1の態様に係る、波面位相を決定する方法と組み合わせて光照射野を決定することを記載したのに関わらず、光照射野を決定する方法は、別々に実施することができる。したがって、本発明のさらなる態様は、光照射野を決定する方法であって、
a)シーンの複数の画像を写真用カメラによって取得することであって、画像が、異なる距離に配置された焦点面において焦点を合わせられ、カメラが、焦点距離Fのレンズと、その焦点距離に等しい、レンズからの一定の距離に配置されたセンサとを有する取得すること、
b)取得された複数の画像から選択されたP画像から、以下の連立方程式を証明する光照射野の値として、u以外のMであってM≦Pを満たすMの値で距離Fに焦点を合わせられた光照射野(L)の値を決定することをさらに備え、
Figure 2018512070
Pは、光照射野を決定するために考慮される画像の数であり、Fは、レンズの焦点距離であり、Lは、距離Fに焦点を合わせられた光照射野の値であり、αFは、画像jの焦点距離であり、I(x)は、画像jの強度であり、[x]は、1≦j≦Pを満たす各画像jの結果として得られるxにもっとも近い整数を示し、光照射野L(x)は、適合すなわち値uに対応する光照射野の視野の結果としてのuの値において評価され、xとuとは、それぞれ、カメラの、センサ内およびレンズ内における位置を決定する2次元ベクトルである、方法を提供する。
一実施形態では、光照射野の値は、最小二乗すること、すなわち、以下の式の最小化による連立方程式を解くことで決定される。
Figure 2018512070
第2の態様では、シーンに関連付けられた電磁場の複素振幅を決定するデバイスが規定される。このデバイスは、
焦点距離Fのレンズ、および、その画像空間におけるレンズから所定の距離においてレンズに対して並行に配置された画像センサを備えた、画像取得手段と、
本発明の第1の態様に係る方法のステップb)を実行する処理手段と、を備えている。
本明細書(特許請求の範囲、詳細な説明、および図面を含む)に記載の特徴および/または方法のステップのすべては、相互に排他的な特徴の組合せを除き、任意の組合せで組み合わせることができる。
以下に記載される詳細な説明を補足するため、かつ、本発明の好ましい実践的な実施形態に係る、本発明の特徴をよりよく理解することを助ける目的のために、図面のセットが、前述の詳細な説明に一体の一部として包含され、図中、以下の事項が、説明的かつ非限定的な方式で記載される。
本発明の方法の一部の概略図。 本発明の方法の一部の概略図。 カメラのレンズとセンサとの間の光照射野の概略図。 本発明の方法の一部を概略的に例示する図。 本発明の方法の一部を概略的に例示する図。 異なる面に対応する波面位相の取得の概略図。 変換ドメインの画像の再構築を示す図。 測定ドメインの画像の再構築を示す図。
2次元波面の再構築
本発明の方法により、焦点がぼやけた2つ以上の画像からの、多項式ベースの水平および垂直の傾きの波面位相のデカルト分布の収集が可能になる。これにより、次いで、それらがゾーン法(Hudginなど)とモード法のいずれに関わらず、傾きからの位相の再構築の任意の方法を使用することが可能になる。モード法の場合、波面位相のマップが展開されるとともにフィットされる多項式は、ゼルニケ多項式(古典的な光学系またはサイダル収差に一致している)、複素指数関数(フーリエ変換の核を含み、この核の使用により、計算が加速する)、Karhunen−Loeve関数(いずれの分析的形態をも伴わないが、環状瞳孔の基礎を構成しており、このことは、望遠鏡では一般的である)など、問題の要請に応じて選択することができる。
通常、位相マップを、多項式Z(x,y)において、その展開から回復させる方法は、以下のように、点(x,y)における波面位相を考慮することを含んでいる。
Figure 2018512070
ここで、Nは、展開で使用される多項式の数を示している。
水平なデカルトの傾きであるSと、垂直なデカルトの傾きであるSとは、それぞれ、以下の波面の偏導関数に対応している。
Figure 2018512070
Figure 2018512070
フォトンは、−z平面から+z平面に置き換えられるように推定され、中間平面の点(x,y)における波面が見積もられる。
伝播した波面の強度は、対応する2次元の累積分布関数(CDF)(C(x,y)で示される)を通して、フォトンの発生確率(fxy(x,y)として示される)を考慮するために、2次元の密度関数(PDF)で表される。
密度関数により、以下が証明される。
Figure 2018512070
変数xの境界の累積分布関数は、以下のように構築される。
Figure 2018512070
ここで、fは、密度関数(fxy)から以下のように構築された境界密度関数である。
Figure 2018512070
対応する変数における累積分布関数であることの特性は、境界密度関数に関して維持される。したがって、以下のようになる。
Figure 2018512070
考慮される2つの画像に対応する−zの平面と+zの平面とにデータが存在することから、2つの累積分布関数が存在する。−zの平面における境界累積分布関数は、C1xとして示され、+zの平面における境界累積分布関数は、C2xとして示される。
本方法は、−zの平面と+zの平面におけるfxyの値を始点とする場合、−zの平面に関連付けられたデータがf1xyによって規定され、+zの平面に関連付けられたデータがf2xyによって決定されることが推定される。
Figure 2018512070
および、
Figure 2018512070
単調増加する実数の列(s(j))は1≦j≦Tに関して考慮され、0と1との間の値であり、すなわち、1≦j≦Tの各々に関し、0≦s(j)≦1である。
s(j)の値の累積分布関数の値の鏡像を見出すために、境界累積分布関数におけるヒストグラムの整合が実行される。換言すると、1≦j≦Tの各々に関する、以下を満たすu1x(j)の値が求められる。
1x(u1X(j))=s(j)
また、u2X(j)の値は以下を満たす。
2x(u2X(j))=s(j)
したがって、u1X(j)とu2X(j)とは、s(j)の各固定値に関して見出される。図式で示すと、図1に概略的に示されているように、検索は、対応する点のx軸のスキャンで行われ、縦座標をすべて識別する。
より正確な値を提供するのは、ここでは、これら値の各々に関し、2つの変数における密度関数から進行し、1からTの各値kに関し、以下を満たす値u1Y(k)およびu2Y(k)を見出す。
Figure 2018512070
および、
Figure 2018512070
ここで、関数f1XY(x,y)と関数f2XY(x,y)とは、考慮される画像I(x,y)とI(x,y)とにそれぞれ対応する。
図式では、図2に概略的に示すように、行われることは、x軸上の対応する値の各々を、累積分布関数のマッチアップを通して鏡像を形成する縦座標に関連付けることである。
結果は、以下によって決定される、点の2次元のメッシュである。
−zの高さにおいて、{(u1X(j),u1Y(k)),j,k=1...T}
+zの高さにおいて,{(u2X(j),u2Y(k)),j,k=1...T}
それにより、1≦j、k≦Tの各々に関し、点(u1X(j),u1Y(k))と点(u2X(j),u2Y(k))とは、波面における光線の同一値に関連付けられる。
中間平面における点での波面の方向導関数は、以下の式によって決定されると見なすことができる。
1≦j≦Tの各々に関して、
Figure 2018512070
1≦k≦Tの各々に関して、
Figure 2018512070
したがって、方程式(2)と方程式(3)との系は、以下のように記載することができる。
Figure 2018512070
すなわち、より単純化された形態では、以下のようになる。
(6) S=A・d
ここで、未知数は、係数dの行列である。方程式(6)は、複数の要因によって決定された連立方程式を示しており、未知数(N)よりも多くの方程式(2T)がある。ここで、2Tは、利用可能であるピクセル(x,y)の数である。
展開の係数dは、最小二乗の意味で、平面にもっともフィットするものとして見出すことができる。前述の系を解く好ましい方法は、以下のように、最小二乗の手段によって解くことである。
(7) d=(AA)−1S=A
方程式(7)は、行列AAが非正則行列であるか否かに応じて、当業者に知られている複数の技術によって解くことができる。
特定の実施形態では、波面は、複素指数関数として展開される。展開は、特定のN≧1で切り捨てることができ、それにより、展開は以下のように記述することができるようになっている。
Figure 2018512070
ここで、(dpqp,q≧0は、二重の指標の係数の集合であり、0≦p、q≦N−1の各々に関して、以下のようになる。
Figure 2018512070
この点において、最小二乗の問題は、得られたデータで解くことができるが、この理由は、xまたはyに関して微分することで、式(8)から以下が導き出されるためである。
Figure 2018512070
Figure 2018512070
したがって、0≦p、q≦N−1の各々に関して、以下のようになる。
Figure 2018512070
中間点で評価し、式(4)と式(5)とを考慮し、これら値を方程式(9)と方程式(10)とに置換することで、以下の、Nの未知数と2Tの方程式を伴う、複数の要因によって決定された系に達することが可能である。
Figure 2018512070
Tの値は、データによって決定され、指数に関して、位相の展開において付加された数よりもかなり多いものと見なされる。
この場合、展開の係数は、以下の式から得ることができる。
Figure 2018512070
ここで、DFは離散フーリエ変換を示している。
画像のトモグラフィ回復
本発明の方法により、焦点がぼやけた画像からの波面位相の2次元の回復が提供される。得られた波面位相は、物体空間における共役位置に関する蓄積された位相差に対応する。換言すると、2つの焦点がぼやけた画像は、レンズの焦点からもはや離れて取得され、それらが瞳孔で取得された画像にほぼ対応している(または光学系の入口の瞳孔からわずかに分離している)場合、対物レンズに到達するシーンの視野の全領域に蓄積された位相が得られることになる。焦点がぼやけた画像の使用された対が適切な焦点に近付くにつれて、物体空間の共役面は、入口の瞳孔から離れた平面に対応することになり、その平面に関するシーンに蓄積された位相を描写することになる。
両方の蓄積された位相間の差異により、光学系のもっとも遠い平面と瞳孔の平面との間に存在する位相シフトが与えられる。したがって、使用される、焦点がぼやけた画像の数が増大するにつれて、物体空間の離散化がより完全になり、波面位相のトモグラフィ分布が得られる。波面位相のこのトモグラフィ分布は、キャプチャセンサに関連付けられた、オリジナルの2次元の光学的解像度と、複数の画像の使用によって許容される、(光軸zにおける)3次元の解像度とを有することになる。3次元の解像度は、平面の数、または、取得された、焦点がぼやけた画像の数に厳密には一致しないことを指摘するべきである。この理由は、図6に概略的に記載されているように、蓄積された波面位相のサブ離散化(subdiscretization)を得るために、取得平面の任意の対を考慮することが可能であるためである。
平面Iおよび平面Iに関し、瞳孔に関する蓄積された位相W(x,y)が見出される。Ia’およびIb’に関し、蓄積された位相W(x,y)が見出される。WとWとの間の差異により、キーによって示されるセクションの位相が提供される。より多くの平面(より多くの取得された画像)を使用することにより、位相の軸zの解像度が増大し、波面位相の3次元マップが得られる。
本発明の方法は、コンピュータによる写真撮影および適応制御光学を含む、シーンの観察に関連付けられた波面が知られることになる、任意の技術分野で適用可能である。特に、大気の柱に関連付けられた散乱(波面位相)の3次元マップを得る天体観測に関する用途、散乱媒体(たとえば、増大した実際のガラス、可動物、顕微鏡、または内視鏡)を通しての視野を修正する必要がある用途、透過性有機組織のサンプルにおける、屈折率が変化するトモグラフィによる測定の用途、または、散乱媒体(大気、海、体液など)を通しての視覚通信の用途で適用可能である。
画像の強度の再構築
光照射野Lは、カメラの対物レンズを通ることになる光線の4次元表示である。単純化のために、単純化された2次元の表記を使用する。したがって、図3に示すように、L(x,u)は、焦点距離Fのカメラに関する、u=(u,u)の位置にあるカメラのメインレンズを通り、x=(x,x)の位置にあるセンサに到達する光線を示している。
したがって、カメラに入るすべての光線と、センサへ到達する光線の場所とを示す、4次元の量が存在する。Ng(Ng,R.,Fourier slice photography,in ACM Transactions on Graphics(TOG),Vol.24,No.3,pp.735−744,ACM,2005,July)は、センサがαFの距離にある場合、図4に概略的に示すように、前述のセンサ上に投影される画像が、θ=tan−1(1/α)の角度における光照射野の2次元の投影に対応することを証明している。
Figure 2018512070
本発明の方法は、図5に概略的に示すように、Iα(x)を相互に関して置き換えられた異なる値uにおける画像の合計として介することと、異なる値uにおける画像を見積もり、値α’に起因して置き換えられ、相互に加えられた画像のどのセットが、焦点距離Fα’で取得された画像の入力を最適に近似するかを見出すこととに基づいている。したがって、xの次元の(ピクセルでの)変位は、u+(x−u)/α’である。
本方法は、距離αF,αF…αFにおいて焦点を合わせ、慣習的な写真用カメラで取得されたP画像(I(x),I(x)…I(x))から、u以外のMの値における、距離F(L)で焦点を合わせる光照射野の値を見積もることを含んでいる。このため、本方法は、光照射野の値を見出すことを目的としており、それにより、以下が満たされるようになっている。
Figure 2018512070
前述の式は、Ax=bのタイプの方程式の線形系によって単純に表現することができる。この系は、||Ax−b||を最小化するように、xの値を見出すことによって解くことができる。
ここまでは、単一のチャネルの画像が推定されている。カラー画像(複数のチャネルを有する)の場合、行列Aを一回生成することで十分である。このため、解かれることになるチャネルの画像に関する情報を含む新しいベクトルbが形成される。
本発明に係る、画像の強度の再構築の方法により、顕微鏡法、写真撮影、内視鏡検査、映画撮影技術などの用途で、完全に焦点を合わせた単一の画像を、完全な光学的解像度(すべてが焦点にある)で生成すること、すべてが焦点にあるステレオの対を生成すること、すべてが焦点にあるマルチステレオ画像(光照射野)を生成すること、および、所望であれば、随意に焦点を合わせられた光照射野を生成することが可能になる。

F=1mで、距離α=2と距離α=4とにおいて焦点を合わせられた、I(x)とI(x)との、8つの要素の2つの画像を想定する。この場合の合計は、n=1からn=2までの指針を伴っている。
j=1に関する方程式は以下のようになる。
Figure 2018512070
j=2については、以下のようになる。
Figure 2018512070
以下のように展開される。
(1,1)+L(2,2)=2(1)
(2,1)+L(2,2)=2(2)
(2,1)+L(3,2)=2(3)
(3,1)+L(3,2)=2(4)
(3,1)+L(4,2)=2(5)
(4,1)+L(4,2)=2(6)
(4,1)+L(5,2)=2(7)
(5,1)+L(5,2)=2(8)
(1,1)+L(2,2)=4(1)
(1,1)+L(2,2)=4(2)
(2,1)+L(2,2)=4(3)
(2,1)+L(3,2)=4(4)
(2,1)+L(3,2)=4(5)
(2,1)+L(3,2)=4(6)
(3,1)+L(3,2)=4(7)
(3,1)+L(4,2)=4(8)
行列の形態は、以下のようになる。
Figure 2018512070
前述の系の解像度により、光照射野Lの値が提供される。前述の系においていずれの方程式においても規定されない光照射野の値は、0の値を取っている。
図7は、最新技術の方法に係る、変換ドメインで実行されるシーンの画像の再構築を示している。図8は、焦点がぼやけた画像から光照射野を得るために、本発明の方法を使用した、測定ドメインで実行される同じシーンの画像の再構築を示している。図7の画像と図8の画像とが同じ信号強度の値に正規化されていないが、測定ドメインで実行された再構築が、よりよく規定され、解像度テストの図のエッジがより鮮明であることを見ることができる。より完全に見ることができるように箱でマークし、拡大したエリアにより、両方の回復間の品質の差異が示されている。

Claims (11)

  1. シーンに関連付けられた電磁場の複素振幅を決定する方法であって、
    a)前記シーンの複数の画像を写真用カメラによって取得するステップであって、前記画像が異なる距離に配置された焦点面に焦点を合わせられ、前記カメラが焦点距離Fのレンズまたはレンズ系と前記画像の空間において前記レンズから一定の距離に配置されたセンサとを有するステップと、
    b)前記複数の画像から少なくとも1つの画像対を取得し、2つの前記画像対の焦点面に関する中間平面に対応する物体空間における共役面に蓄積された波面を決定するステップであって、前記波面W(x,y)を以下のように決定するステップと、
    を備え、
    Figure 2018512070
    {Z(x,y)}は、所定の多項式であり、Nは、展開において使用される多項式の数であり、
    係数dは、以下の連立方程式を解くことによって決定され、
    Figure 2018512070
    2zは、2つの前記画像対の前記焦点面の間の距離であり、それぞれ1≦j、k≦Tになるように、{(u1X(j),u1Y(k)),j,k=1...T}は、第1画像対に属する点であり、{(u2X(j),u2Y(k)),j,k=1...T}は、第2画像対に属する点であり、
    Figure 2018512070
    および、
    Figure 2018512070
    が証明されるようになっており、
    s(j)は0と1との間の実数値の列あり、各1≦j≦Tに関して単調増加し、
    xyは、フォトンの発生確率を考慮するとともに対応する前記画像対の正規化強度I(x,y)のいずれの場合にも決定される2次元の密度関数であり、すなわち、
    Figure 2018512070
    となる、方法。
  2. 前記波面は、
    Figure 2018512070
    の式で決定され、
    0≦p、q≦N−1の各々に関して、
    Figure 2018512070
    である、請求項1に記載の方法。
  3. 複数の画像対に関して前記蓄積された波面を決定する、請求項1または請求項2に記載の方法。
  4. 前記平面に前記蓄積された波面の減算として、前記物体空間の2つの平面の間の位相シフトを決定する、請求項3に記載の方法。
  5. 複数の物体平面に関する前記位相シフトを決定する、請求項4に記載の方法。
  6. 前記取得された複数の画像から選択されたP画像から、以下の連立方程式を証明する光照射野の値として、u以外のMであってM≦Pを満たすMの値で距離Fに焦点を合わせられた前記光照射野(L)の値を決定するステップをさらに備え、
    Figure 2018512070
    Pは、前記光照射野を決定するために考慮される画像の数であり、Fは、前記レンズの前記焦点距離であり、Lは、距離Fに焦点を合わせられた前記光照射野の値であり、αFは、前記画像jの焦点距離であり、I(x)は、前記画像jの強度であり、[x]は、1≦j≦Pを満たす各画像jの結果として得られるxにもっとも近い整数を示し、前記光照射野L(x)は、適合すなわち値uに対応する前記光照射野の視野の結果としてのuの値において評価され、xとuとは、それぞれ、前記カメラの前記センサ内および前記レンズ内における位置を決定する2次元ベクトルである、請求項1から請求項5のいずれか一項に記載の方法。
  7. 前記光照射野の値は、最小二乗、すなわち、
    Figure 2018512070
    の最小化による連立方程式を解くことで決定される、請求項6に記載の方法。
  8. 選択された画像対の各々の2つの前記画像は、それぞれ、前記焦点の両側で取得される、請求項1から請求項7のいずれか一項に記載の方法。
  9. 選択された画像対の各々の2つの前記画像は、前記焦点の両側で対称な距離から取得される、請求項1から請求項8のいずれか一項に記載の方法。
  10. シーンに関連付けられた電磁場の振幅を決定する装置であって、
    焦点距離Fのレンズ、および、その画像空間における前記レンズから所定の距離において前記レンズに対して並行に配置された画像センサを有する画像取得手段と、
    請求項1に記載の方法のステップb)を実行する処理手段と、
    を備えた、装置。
  11. 前記処理手段は、請求項2から請求項9のいずれか一項に記載の動作をさらに実行する、請求項10に記載の装置。
JP2017533821A 2014-12-22 2015-12-21 シーンに関連付けられた電磁場の複素振幅を決定する方法 Active JP6600360B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
ESP201431900 2014-12-22
ES201431900A ES2578356B1 (es) 2014-12-22 2014-12-22 Método para determinar la amplitud compleja del campo electromagnético asociado a una escena
PCT/ES2015/070936 WO2016102731A1 (es) 2014-12-22 2015-12-21 Método para determinar la amplitud compleja del campo electromagnético asociado a una escena

Publications (2)

Publication Number Publication Date
JP2018512070A true JP2018512070A (ja) 2018-05-10
JP6600360B2 JP6600360B2 (ja) 2019-10-30

Family

ID=56149310

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017533821A Active JP6600360B2 (ja) 2014-12-22 2015-12-21 シーンに関連付けられた電磁場の複素振幅を決定する方法

Country Status (10)

Country Link
US (1) US10230940B2 (ja)
EP (1) EP3239672B1 (ja)
JP (1) JP6600360B2 (ja)
KR (1) KR102501402B1 (ja)
CN (1) CN107209061B (ja)
DK (1) DK3239672T3 (ja)
ES (1) ES2578356B1 (ja)
IL (1) IL253142B (ja)
TW (1) TWI687661B (ja)
WO (1) WO2016102731A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113014906B (zh) 2016-04-12 2023-06-30 奎蒂安特有限公司 3d场景重建方法、系统及计算机程序存储介质
AU2017202910A1 (en) * 2017-05-02 2018-11-22 Canon Kabushiki Kaisha Image processing for turbulence compensation
EP3788595A4 (en) 2018-05-02 2022-01-05 Quidient, LLC CODEC FOR PROCESSING SCENES WITH ALMOST UNLIMITED DETAILS
US10664555B2 (en) * 2018-06-06 2020-05-26 Sas Institute Inc. Two-stage distributed estimation system
CN108873363B (zh) * 2018-09-06 2023-11-17 深圳技术大学(筹) 基于结构光标记的三维光场成像系统及方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011514964A (ja) * 2008-01-15 2011-05-12 ウニベルシダッド、デ、ラ、ラグナ 3次元シーンからの視覚情報のリアルタイムな取得のための方法およびカメラ
EP2372469A1 (en) * 2008-12-25 2011-10-05 AFC Technology Co., Ltd. System and method for holographical projection real-time three-dimension display
CN102662238A (zh) * 2012-05-03 2012-09-12 中国科学院长春光学精密机械与物理研究所 一种具有在轨自诊断和补偿功能的空间光学相机

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8542421B2 (en) * 2006-11-17 2013-09-24 Celloptic, Inc. System, apparatus and method for extracting three-dimensional information of an object from received electromagnetic radiation
WO2008094141A1 (en) * 2007-01-29 2008-08-07 Celloptic, Inc. System, apparatus and method for extracting image cross-sections of an object from received electromagnetic radiation
JP2010169976A (ja) * 2009-01-23 2010-08-05 Sony Corp 空間像表示装置
CN103843105A (zh) * 2010-02-10 2014-06-04 摩奇有限公司(d/b/aVoxa) 暗视野像差矫正电子显微镜

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011514964A (ja) * 2008-01-15 2011-05-12 ウニベルシダッド、デ、ラ、ラグナ 3次元シーンからの視覚情報のリアルタイムな取得のための方法およびカメラ
EP2372469A1 (en) * 2008-12-25 2011-10-05 AFC Technology Co., Ltd. System and method for holographical projection real-time three-dimension display
CN102662238A (zh) * 2012-05-03 2012-09-12 中国科学院长春光学精密机械与物理研究所 一种具有在轨自诊断和补偿功能的空间光学相机

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
DAM, MARCOS VAN: "Wave-front sensing from defocused images by use of wave-front slopes", APPLIED OPTICS, vol. 41, no. 26, JPN6019034127, 2002, US, pages 5497 - 5502, ISSN: 0004109696 *
PARK, JAE-HYEUNG: "Light ray field capture using focal plane sweeping and its optical reconstruction using 3D displays", OPTICS EXPRESS, vol. 22, no. 21, JPN6019034128, 10 October 2014 (2014-10-10), pages 25444 - 25454, ISSN: 0004109697 *
TRUJILLO-SEVILLA, J.M.: "Tomographic wavefront retrieval by combined use of geometric and plenoptic sensors", PROCEEDINGS OF SPIE, OPTICAL SENSING AND DETECTION III, vol. 9141, JPN6019034130, 14 May 2014 (2014-05-14), pages 914129 - 1, ISSN: 0004109698 *

Also Published As

Publication number Publication date
WO2016102731A1 (es) 2016-06-30
JP6600360B2 (ja) 2019-10-30
DK3239672T3 (da) 2020-04-14
EP3239672A1 (en) 2017-11-01
KR102501402B1 (ko) 2023-02-20
CN107209061B (zh) 2020-04-14
IL253142A0 (en) 2017-08-31
KR20170099959A (ko) 2017-09-01
US20180007342A1 (en) 2018-01-04
US10230940B2 (en) 2019-03-12
TW201643391A (zh) 2016-12-16
ES2578356B1 (es) 2017-08-04
IL253142B (en) 2021-07-29
ES2578356A1 (es) 2016-07-26
TWI687661B (zh) 2020-03-11
EP3239672B1 (en) 2020-01-15
EP3239672A4 (en) 2018-09-19
CN107209061A (zh) 2017-09-26

Similar Documents

Publication Publication Date Title
DK2239706T3 (en) A method for real-time camera and obtaining visual information of three-dimensional scenes
JP6600360B2 (ja) シーンに関連付けられた電磁場の複素振幅を決定する方法
US9679360B2 (en) High-resolution light-field imaging
JP5681954B2 (ja) 撮像装置及び撮像システム
JP5866383B2 (ja) 画像における焦点誤差推定
US20110267508A1 (en) Digital camera with coded aperture rangefinder
US20110267507A1 (en) Range measurement using a zoom camera
US20190075247A1 (en) System for generating a synthetic 2d image with an enhanced depth of field of a biological sample
KR102253320B1 (ko) 집적영상 현미경 시스템에서의 3차원 영상 디스플레이 방법 및 이를 구현하는 집적영상 현미경 시스템
CN102112846A (zh) 摄像设备及其距离运算方法和聚焦图像获得方法
JP2013531268A (ja) 符号化開口を使用した距離の測定
JP2013042443A5 (ja)
Tan et al. Codedstereo: Learned phase masks for large depth-of-field stereo
CN117474777A (zh) 一种面向手术显微镜的图像融合方法
CN110476043B (zh) 用于采集电磁场的波前的断层成像分布的方法和光学系统
HK1240313A1 (en) Method for determining the complex amplitude of the electromagnetic field associated with a scene
HK1240313B (zh) 用於确定场景相关电磁场的复振幅的方法
CN103487928A (zh) 散焦量估计方法、成像装置和透明部件
CN120282035A (zh) 用于内窥镜的景深延拓成像装置、方法及电子设备
Taylor Measurement-Aware Reconstruction Algorithm Permitting Quantitative Measurements With Artefact-Susceptible Computational Imaging Techniques
Stoker et al. A computational photography shootout: Wavefront coding vs. lattice focal imaging
JP2016146606A (ja) 画像処理装置及び画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181011

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190826

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190910

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191004

R150 Certificate of patent or registration of utility model

Ref document number: 6600360

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250