JP2019190910A - 画像データ生成装置 - Google Patents
画像データ生成装置 Download PDFInfo
- Publication number
- JP2019190910A JP2019190910A JP2018081710A JP2018081710A JP2019190910A JP 2019190910 A JP2019190910 A JP 2019190910A JP 2018081710 A JP2018081710 A JP 2018081710A JP 2018081710 A JP2018081710 A JP 2018081710A JP 2019190910 A JP2019190910 A JP 2019190910A
- Authority
- JP
- Japan
- Prior art keywords
- sub
- imaging
- light
- data generation
- imaging section
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/72—Combination of two or more compensation controls
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/55—Optical parts specially adapted for electronic image sensors; Mounting thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/74—Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Optics & Photonics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Optical Radar Systems And Details Thereof (AREA)
- Image Processing (AREA)
Abstract
【課題】画像データ生成装置の解像度を、撮像素子の寸法増大や、受光量低下を克服しつつ、増大する。【解決手段】撮像範囲6は撮像素子400の各画素Gの画角に対応付けて撮像区画61に分割される。各撮像区画61をサブ区画62a〜62dに分割される。発光素子制御部21は、照射光Loを各振分け期間に同一のサブ区画群Ua〜Udのサブ区画62a〜62dに振り分ける。反射光検出部22は、各振分け期間の反射光を検出する。フレームデータ生成部25は、各振分け期間ごとの反射光の検出値に基づいて全体のフレームデータを生成する。【選択図】図1
Description
本発明は、アクティブ型の画像データ生成装置に関する。
アクティブ型の画像データ生成装置は、発光素子と、撮像素子とを備え、発光素子から照射光を撮像範囲に向けて出射し、撮像範囲に存在する撮像対象物からの反射光を撮像素子装置の各画素ごとに検出している(例:特許文献1)。
アクティブ型の画像データ生成装置の解像度を増大するための一般的な対処方法は、撮像素子の画素数を増大することである。
撮像素子の画素数を増大するために、2つの方法が考えられる。第1の方法は、画素寸法は変更することなく、撮像素子の寸法を増大することである。第2の方法は、撮像素子の寸法は変更することなく、画素寸法を減少させることである。
第1の方法は、撮像素子の寸法が増大することにより1枚のウェハから製造できる撮像素子の個数が減少し、撮像素子のコストが増大するという問題がある。第2の方法は、各画素の受光量が減少し、S/N比が低下するという問題がある。
本発明の目的は、コストの増大や、S/N比の低下の問題を克服しつつ、解像度を増大することができる画像データ生成装置を提供することである。
本発明の画像データ生成装置は、
照射光を生成する発光装置と、
複数の画素を有し、前記照射光が照射される撮像範囲からの反射光を各画素ごとに検出する撮像素子と、
前記撮像範囲を、前記撮像素子の各画素に対応付けて複数の撮像区画に分割し、さらに各撮像区画を複数のサブ区画に分割し、各撮像区画における相対位置が複数の前記撮像区画間で同一となる前記サブ区画同士をサブ区画群としたときに、前記照射光を、同一のサブ区画群のサブ区画に回折により振り分ける回折光学装置と、
前記回折光学装置で振り分けられる前記照射光が、各振分け期間で同一のサブ区画群の前記サブ区画に振り分けられるように制御する振分け制御部と、
各サブ区画群の前記サブ区画への前記照射光の各振分け期間に各画素に入射した前記反射光を検出する反射光検出部と、
前記反射光検出部が各振分け期間ごとに検出した前記反射光の検出値に基づいて前記撮像範囲のフレームデータを生成するフレームデータ生成部と、
を備えることを特徴とする。
照射光を生成する発光装置と、
複数の画素を有し、前記照射光が照射される撮像範囲からの反射光を各画素ごとに検出する撮像素子と、
前記撮像範囲を、前記撮像素子の各画素に対応付けて複数の撮像区画に分割し、さらに各撮像区画を複数のサブ区画に分割し、各撮像区画における相対位置が複数の前記撮像区画間で同一となる前記サブ区画同士をサブ区画群としたときに、前記照射光を、同一のサブ区画群のサブ区画に回折により振り分ける回折光学装置と、
前記回折光学装置で振り分けられる前記照射光が、各振分け期間で同一のサブ区画群の前記サブ区画に振り分けられるように制御する振分け制御部と、
各サブ区画群の前記サブ区画への前記照射光の各振分け期間に各画素に入射した前記反射光を検出する反射光検出部と、
前記反射光検出部が各振分け期間ごとに検出した前記反射光の検出値に基づいて前記撮像範囲のフレームデータを生成するフレームデータ生成部と、
を備えることを特徴とする。
本発明の画像データ生成装置によれば、撮像素子の各画素に対応付けられる撮像範囲の撮像区画が複数のサブ区画に分割され、照射光は、各振分け期間に、撮像範囲の全体でなく、撮像範囲のうちの各サブ区間のサブ区画のみを照射する。これにより、撮像素子の各画素に入射する反射光は、撮像区画ではなく、撮像区画より細分化されたサブ区画からの反射光となる。この結果、コストの増大や、S/N比の低下の問題を克服しつつ、解像度を増大することができる。
本発明の画像データ生成装置において、
記憶部を備え、
前記フレームデータ生成部は、
前記反射光検出部が各振分け期間ごとに検出した前記検出値に基づいて生成されるデータを各サブ区画群ごとのサブフレームデータとして前記記憶部に記憶させるとともに、
前記記憶部が記憶している各サブ区間群ごとのサブフレームデータを合成して、前記フレームデータを生成することを特徴とすることが好ましい。
記憶部を備え、
前記フレームデータ生成部は、
前記反射光検出部が各振分け期間ごとに検出した前記検出値に基づいて生成されるデータを各サブ区画群ごとのサブフレームデータとして前記記憶部に記憶させるとともに、
前記記憶部が記憶している各サブ区間群ごとのサブフレームデータを合成して、前記フレームデータを生成することを特徴とすることが好ましい。
この構成によれば、各振分け期間ごとに検出した各サブ区間群ごとのサブフレームデータを合成して、円滑にフレームデータを生成することができる。
本発明の画像データ生成装置において、
前記発光装置は、各々が各サブ区画群ごとに前記照射光を生成する複数の発光素子を含み、
前記回折光学装置は、各発光素子ごとに1つずつ配設されて、各発光素子からの前記照射光を該発光素子に対応する前記サブ区画群の各サブ区画に回折する複数の回折光学素子を含み、
前記振分け制御部は、各振分け期間に、該振分け期間の前記サブ区画群に対応する前記発光素子を点灯することが好ましい。
前記発光装置は、各々が各サブ区画群ごとに前記照射光を生成する複数の発光素子を含み、
前記回折光学装置は、各発光素子ごとに1つずつ配設されて、各発光素子からの前記照射光を該発光素子に対応する前記サブ区画群の各サブ区画に回折する複数の回折光学素子を含み、
前記振分け制御部は、各振分け期間に、該振分け期間の前記サブ区画群に対応する前記発光素子を点灯することが好ましい。
この構成によれば、各サブ区画群への照射光の振分け期間では、該サブ区画群に対応する発光素子を点灯するだけで、該サブ区画群のサブ区画に照射光を振り分けることができる。この結果、振分け制御を簡単化することができる。
本発明の画像データ生成装置において、
前記振分け制御部は、前記発光装置の全部の発光素子を消灯する消灯期間を設定し、
前記反射光検出部は、前記消灯期間に前記撮像素子が各画素ごとに検出した検出値を各画素における背景光の検出値として判断し、各振分け期間における前記撮像素子の検出値から前記背景光の検出値を引いた差分を前記反射光の検出値とすることが好ましい。
前記振分け制御部は、前記発光装置の全部の発光素子を消灯する消灯期間を設定し、
前記反射光検出部は、前記消灯期間に前記撮像素子が各画素ごとに検出した検出値を各画素における背景光の検出値として判断し、各振分け期間における前記撮像素子の検出値から前記背景光の検出値を引いた差分を前記反射光の検出値とすることが好ましい。
この構成によれば、各画素への入射光に、反射光が含まれていない消灯期間を設定する。消灯期間における画素への入射光は、反射光を含まない入射光としての背景光となる。こうして、点灯期間の入射光の検出値と、消灯期間に検出した背景光検出値との差分を反射光とすることにより、背景光のようなノイズの影響を低減することができる。
本発明の画像データ生成装置において、
前記撮像範囲の前記撮像区画は、複数の撮像区画群に分けられ、
同一の撮像区画群では、各撮像区画は、同一の個数の前記サブ区画に設定され、
同一の撮像区画群では、各撮像区画における複数の前記サブ区画は、前記撮像区画間で同一の相対位置に設定され、
前記振分け制御部は、各撮像区画群の各サブ区画群ごとに、別々の振分け期間を割り当てて、各振分け期間では、同一の前記撮像区画群の各撮像区画において、前記撮像区画間で同一の相対位置の前記サブ区画に前記照射光を振り分けることが好ましい。
前記撮像範囲の前記撮像区画は、複数の撮像区画群に分けられ、
同一の撮像区画群では、各撮像区画は、同一の個数の前記サブ区画に設定され、
同一の撮像区画群では、各撮像区画における複数の前記サブ区画は、前記撮像区画間で同一の相対位置に設定され、
前記振分け制御部は、各撮像区画群の各サブ区画群ごとに、別々の振分け期間を割り当てて、各振分け期間では、同一の前記撮像区画群の各撮像区画において、前記撮像区画間で同一の相対位置の前記サブ区画に前記照射光を振り分けることが好ましい。
この構成によれば、撮像範囲を複数の撮像区画群に分けて、各撮像区画群ごとに適切な解像度を設定することができる。
本発明の画像データ生成装置において、前記撮像範囲において、中心部の前記撮像区画群は、周辺部の前記撮像区画群よりも、各撮像区画のサブ区画の個数が多いことが好ましい。
この構成によれば、撮像範囲の中心部の解像度を周辺部の解像度より高めることができる。
図1は、画像データ生成装置1の概略構成図である。画像データ生成装置1は、アクティブ型であり、発光装置2、撮像装置4及び制御装置5を備え、画像データを生成し、出力する。
発光装置2は、制御装置5からの制御信号により点灯及び消灯を制御され、照射光Loを生成する。照射光Loは、発光装置2の光出射部に装着された回折光学装置10により照射パターンを調整されてから、撮像範囲6に向けて出射される。
撮像装置4は、入射光Liの入射部にレンズ4aを装着されている。レンズ4aから撮像装置4に入射した入射光Liは、撮像素子400の各画素G(図2)に入射する。入射光Liは、照射光Loが撮像範囲6内の撮像対象物7で反射した反射光Lrの他に、通常、背景光Lnを含む。
制御装置5は、ソフトウェアを実行する汎用的な構造を有し、CPU、RAM、ROM、及びその他のメモリ(例:フラッシュメモリ)を備えている。制御装置5は、発光素子制御部21、反射光検出部22、記憶部24及びフレームデータ生成部25を有している。制御装置5は、その他、RAMやROM等のメモリを有している。発光素子制御部21、反射光検出部22、記憶部24及びフレームデータ生成部25は、制御装置5のCPUが、ROMから読み出したプログラムの実行に伴い、制御装置5の機能として生成される。
図2は、撮像装置4が備える撮像素子400の構成図である。撮像素子400は、主要構成要素として、画素配列部401、行制御部406、列制御部407及び主制御部408を備えている。
図2の画素配列部401は、正面視で図示されており、平面上に均一な分布として例えば縦方向及び横方向に共に等間隔(ただし、縦方向の等間隔と横方向の等間隔とは必ずしも等しくない)の格子配列で分布した複数の画素Gを有している。各画素Gは、画素配列部401における区画として形状、寸法及び面積が同一に設定されている。
画素配列部401における画素Gを特定するために、各画素Gを行番号nと列番号mとで表現する。画素G(n,m)とは、画素配列部401の正面視において上からn番目で、左からm番目の画素Gを指すものとする。画素配列部401は、例えば126×126個の画素Gから成る。以降、個々の画素Gを特に区別する必要がないときは、画素G(n,m)を「画素G」と総称し、(n,m)は省略する。なお、図2では、画素配列部401の画素Gの個数は、図示の簡略化のため、の実際の製品としての画素配列部401の個数より少なくなっている。
行制御部406は、行制御ライン409に制御信号を印加し、画素配列部401の画素Gを行ごとに制御できるようになっている。列制御部407は、列制御ライン410に制御信号を印加し、画素配列部401の画素Gを列ごとに制御できるようになっている。主制御部408は、制御装置5(図1)からの制御信号に基づいて行制御部406及び列制御部407を制御する。
図3Aは回折光学装置10を外した状態での画像データ生成装置1の正面図、図3Bは画像データ生成装置1の右側面図、図3Cは回折光学装置10を本体15側から見た図である。
制御装置5は、回折光学装置10が前面側に配備された本体15を備える。発光装置2、撮像装置4及び制御装置5(図1)は、本体15に内蔵されている。発光装置2は、縦横2×2の配列で発光素子2a〜2dを有する。
図3Bにおいて、回折光学装置10は、発光装置2の前面に正対して配備される。回折光学装置10は、縦横2×2の回折光学素子(DOE:Diffractive Optical Element)11a〜11dを有する。回折光学素子11a〜11dは、発光装置2の出射側においてそれぞれ発光素子2a〜2dに正対して配設されている。
図3Cにおいて、回折光学素子11a〜11dは、それぞれ異なるハッチングで図示されている。これらの異なるハッチングは、回折光学素子11a〜11dが生成する照射パターン(回折パターンでもある。)が異なることを示している。図3A以降、ハッチングの同一の部位は、同一のサブ区画群又は同一の撮像区画群に属することを意味し、同一の照射パターン時に照射光Loが照射される。
図4A〜図4Dは、それぞれ回折光学素子11a〜11dが有効になっている期間に仮想スクリーン60上に生成される照射光パターンを示す図である。仮想スクリーン60は、画像データ生成装置1が生成する照射パターンを説明する便宜上、想定したものであり、画像データ生成装置1の実際の使用時には存在しない。なお、回折光学素子11a〜11dが有効になっている期間とは、それぞれ回折光学素子11a〜11dが正対している発光素子2a〜2dが点灯している期間を意味する。また、仮想スクリーン60上に生成される照射光Loの照射パターンは、撮像範囲6に投影されて、撮像範囲6における照射光Loの照射パターンになる。
図4A〜図4Dにおいて、仮想スクリーン60は、縦横に複数の撮像区画61に分割されている。撮像区画61の個数は、撮像素子400の画素Gの個数と同一である。また、各撮像区画61は、撮像素子400の対応する各画素Gの画角に対応付けられている。すなわち、各撮像区画61から撮像素子400に向かう入射光Liは、各撮像区画61に対応する撮像素子400の画素Gに入射する。
各撮像区画61は、複数(この例では4個)のサブ区画62a〜62dに分割されている。仮想スクリーン60上では、サブ区画62a〜62dの形状(例:正方形)及び面積は同一に設定されている。仮想スクリーン60の上下左右は、撮像範囲6の上下左右に対応している。
サブ区画62aは撮像区画61の左上を占めている。サブ区画62bは撮像区画61の右上を占めている。サブ区画62cは撮像区画61の左下を示している。サブ区画62dは撮像区画61の右下を占めている。各撮像区画61における相対位置(例:左上や右下等)が複数の撮像区画間で同一となるサブ区画同士はサブ区画群Ua〜Udを構成する。なお、以下、サブ区画62a〜62dを特に区別しないときは、それらを「サブ区画62」で総称する。
図4A〜図4Dにおいて、ハッチングのパターンは、各振分け期間の照射パターンでもある。図4A〜図4Dの照射パターンは、それぞれ発光素子2a〜2dの点灯期間に生成される。各発光素子2a〜2dの点灯期間は、他の3つの発光素子の消灯期間となる。
発光素子制御部21〜フレームデータ生成部25の作用について、概略的に説明する。なお、詳細な作用は、図5において説明する。
発光素子制御部21は、振分け制御部として、回折光学素子11で振り分けられる発光装置2からの照射光Loが、各振分け期間(後述の図8の各サブフレーム期間)で同一のサブ区画群Ua〜Udのサブ区画62a〜62d(図4A〜図4D)に振り分けられるように制御する。
反射光検出部22は、各サブ区画群Ua〜Udのサブ区画62a〜62dへの照射光Loの各振分け期間に各画素Gに入射した反射光Lrを検出する。フレームデータ生成部25は、反射光検出部22が各振分け期間ごとに検出した反射光Lrの検出値に基づいて撮像範囲6のフレームデータを生成する。
フレームデータ生成部25は、詳細には、フレームデータを次のようにして、生成する。第1段階として、反射光検出部22が各振分け期間ごとに検出した検出値に基づいて生成されるデータを各サブ区画群Ua〜Udごとのサブフレームデータとして記憶部24に記憶させる。そして、第2段階として、記憶部24が記憶している各サブ区画群Ua〜Udごとのサブフレームデータを合成することにより、フレームデータを生成する。
図5は、画像データ生成装置1の詳細なブロック図である。図1の撮像対象物7は、ここでは、図5では、別の符号の撮像対象物68で示す。
制御装置5は、フレーム生成部501、発光素子生成部502、タイミング生成部503、受光素子制御部504、画像生成部505、画像記憶部506及び画像合成部507を備える。図2の発光素子制御部21〜フレームデータ生成部25と、図5のフレーム生成部501〜画像合成部507との対応関係は次のとおりである。
発光素子制御部21は、発光素子生成部502に対応する。反射光検出部22は、画像生成部505に対応する。記憶部24は、画像記憶部506に対応する。フレームデータ生成部25は、画像合成部507に対応する。
タイミング生成部503は、制御装置5内の各部を同期動作させるためのタイミング信号を生成し、各部へ送信する。フレーム生成部501は、タイミング信号を基に、動作フレーム信号を生成し、発光素子生成部502、受光素子制御部504及び画像生成部505へ送信する。ここで生成される動作フレーム情報は、フレームデータを必要があるサブ画像(サブフレーム)分だけ生成されるものであり、例えば照射パターンを4種類設定して、発光装置2を動作させる場合は、最低4個のサブフレームが必要となる。なお、フレームを編成するサブフレームについては、図9A等で後述する。
発光素子生成部502は、タイミング信号及び動作フレーム信号を受け、動作フレーム信号によって決められる制御信号をタイミング信号を基に同期し、発光装置2へ送信する。ここでの制御信号とは、照射パターンを決定する信号であり、laが変調光の場合は、その変調信号等である。
受光素子制御部504は、タイミング信号及び動作フレーム信号を受け、動作フレーム信号によって決められる制御信号をタイミング信号を基に同期し、撮像装置4へ送信する。ここでの制御信号とは、露光時間を決定する信号、CDS動作信号、リセット信号及び読出し信号等である。
画像生成部505は、タイミング信号及び動作フレーム信号を受け、動作フレーム信号によって決定される方法で、撮像装置4から送信されるセンサー出力をタイミング信号に同期し受信し、サブフレームデータとして生成する。画像生成部505は、生成したサブフレームデータを動作フレーム情報とともに、記憶部24としての画像記憶部506へ保存する。また、フレームデータとは、画像記憶部506に記憶した各サブ区画群Ua〜Udごとのサブフレームデータを合成して、撮像範囲6の各サブ区画62a〜62dごとの撮像対象物68に係るデータである。
ここで動作フレーム信号によって画像生成方法を決定するのは、動作フレームによって発光装置2への制御信号、撮像装置4への制御信号が異なる場合があるためである。この画像データ生成装置1をTOFセンサー(TOF方式測距装置)に転用するときは、実施形態のフレームの画像を生成するときとは異なる専用の制御信号が生成される。TOFセンサー等のセンサー出力から生成した画像を用いて処理を行い所望のサブフレームデータを得るときの処理も、この画像生成部505において行われる。その場合は、画像記憶部506から画像を読出したり保存したりしながら、各サブ区画62a〜62dごとに処理を行う。
画像記憶部506は、画像生成部505で生成されたサブフレームデータをフレーム情報と一緒に保存するためのものであり、制御装置5を実現するためのICのオンチップメモリを用いてもよいし、DDRメモリのようなメモリICを用いてもよい。また、サブフレームデータをフレーム情報と一緒に記憶する場合、保存されているサブフレームデータと、そのサブフレームデータがどのサブフレームのデータなのか判別できればよい。したがって、あらかじめ記憶部のアドレスにフレームを割り振っておき、そのアドレスに対象となるサブフレームデータを保存することで、アドレスから判別できるようにしてもよい。そして、その保存形態は問わない。
画像合成部507は、画像記憶部506よりサブフレームデータを読出し、高解像度画像とするために各照射パターンのサブフレームデータを合成して、フレームデータを生成する処理を行う機能をもつ。ここで、画像合成部507は必ずしも高解像度化した合成画像を出力するものではなく、合成前の画像を出力してもよい。例えば、4つの照射パターンを設けた場合は、4つの画像を合成した後に画像を出力してもよいし、2つの画像づつ合成した形で出力してもよい。
4つの画像合成した後に画像出力する形態では、4つの画像全てを撮像した後に初めて1画像が出力されるため、フレームレートが低下してしまう。これに対し、2つの画像ずつの合成、又は合成前の画像を高解像度化した場合の画素番号とデータを対応付けて出力することができる。これにより、データ受信側で送られたサブフレームデータの画素番号を判別することができ、フレームレートの低下を防ぐことができる。ここでの合成処理とは、出力先のデータ受信装置が複数枚の画像を一枚の画像と認識できる形態へのデータ変換処理を示しており、受信装置のデータ形態によって異なるものである。
これら一連の制御装置5における処理は、市販の組み込みCPUやFPGA等を用いることによって実現が簡便に可能である。
図6A及び図6Bは、仮想スクリーン60における照射パターンと画像73との関係を示している。なお、画像73は、フレームデータ生成部25が出力するフレームデータに基づいて生成される。図6A及び図6Bは、回折光学装置10を装備していないとき及びいるときの照射パターンと画像73との関係を示している。
図6Aでは、仮想スクリーン60の各撮像区画61には、一様の照射光Loが照射される(図6Aの左図)。したがって、仮想スクリーン60を撮像することにより生成される画像73は、撮像範囲6の撮像区画61ごとの解像度になる。
これに対し、図6Bでは、発光素子2a〜2dが、それぞれ点灯期間において順番に点灯する。点灯期間は、振分け期間に相当する。なお、各振分け期間は、後述のサブフレームのフレームレートに対応付けられる。
画像データ生成装置1では、図6Bの左列に図示しているように、撮像素子400は、第1段階として各振分け期間の照射パターンごとに仮想スクリーン60を撮像し、画像生成部505は、図6Bの中列のように、サブ画像74を生成する。サブ画像74における情報は、各サブ区画62a〜62dごとの情報としてのサブ情報Jgとなる。
次に、第2段階として、画像合成部507は、画像記憶部506からサブフレームデータを各振分け期間のサブ画像74を合成して、画像73のフレームデータを生成する。こうして生成される画像73における情報は、各サブ区画62a〜62dごとにサブ情報Jgから構成される。この結果、撮像素子400の解像度は、各画素への反射光Lrの受光量を低減することなく、画素Gの総数を2×2倍した解像度となる。
図7は、仮想スクリーン60に対する照射光Loの照射に関する対比図である。上及び下の仮想スクリーン60は、それぞれ従来の画像データ生成装置及び回折光学装置10による照射光Loの照射状態を示している。従来の画像データ生成装置では、仮想スクリーン60の全面が同時に照射光Loで照射されるのに対し、回折光学装置10では、仮想スクリーン60は、各振分け期間において各サブ区画群Ua〜Udごとに設定された照射パターンの照射光Loで4回に分けて照射される。
この結果、撮像素子400の画素Gの画素数及び1つの画素G当たりの面積は同一であるにもかかわらず、実施的にサブ区画群Ua〜Udの個数だけ解像度の増大した画像を生成することができる。
図8は、照射光Loの各振分け期間に撮像範囲6に生成する別の照射パターンを仮想スクリーン60上に示している。前述の図4A〜図4Dでは、各振分け期間を別々の図において示したが、図8では、1つの図に4つの振分け期間の照射パターンをまとめて示している。ハッチングが同一のサブ区画65は、それぞれ同一のサブ区画群Ua〜Udに属していて、それぞれ発光素子2a〜2dから照射光Loにより照射される。
図8の4つの照射パターンを回折により生成する回折光学素子11a〜11dは、図4A〜図4bの照射パターンを回折により生成する回折光学素子11a〜11dとは異なる。すなわち、図4A〜図4Dでは、回折光学素子11a〜11dが仮想スクリーン60のサブ区画62a〜62dの全面を照射している。これに対し、図8では、仮想スクリーン60のサブ区画62a〜62dは、中心部のみが円形のスポットの照射光Loで照射される。
各サブ区画62a〜62dの全面に各振分け期間に照射光Loを照射しなくても、一部のみの照射でも、各サブ区画62a〜62dごとに十分な精度で測定することができる。
図9A及び図9Bは種々のサブフレームの生成期間を示し、図9A及び図9Bは、それぞれ消灯期間無し及び消灯期間有りでサブフレームを生成するときの生成順を示す図である。
サブフレームa〜dの生成期間は、それぞれ発光素子2a〜2dが点灯する振分け期間に対応する。サブフレームeの生成期間では、発光素子2a〜2dの全部が消灯する。したがって、サブフレームeの生成期間では、撮像対象物68の反射光Lrは生成されない。すなわち、撮像素子400の各画素Gに入射する入射光Liは、背景光Lnのみであると判断することができる。
反射光検出部22は、消灯期間としてのサブフレームeの生成期間に撮像素子400が各画素Gごとに検出した検出値を各画素Gにおける背景光Lnの検出値として判断する。そして、各振分け期間における撮像素子400の検出値から背景光Lnの検出値を引いた差分を反射光Lrの検出値とする。
図10は、照射光Loの各振分け期間に撮像範囲6に生成するその他の照射パターンを仮想スクリーン60上に示している。図8のときと同様に、1つの図に複数(ここでは3個)の振分け期間の照射パターンをまとめて示している。
仮想スクリーン60の撮像区画61は、中心部の撮像区画群Waの撮像区画61と、撮像区画群Waを取り囲む周辺部の撮像区画群Wbの撮像区画61とに分けられる。撮像区画群Waの各撮像区画61は、上下にサブ区画65aとサブ区画65bとに分割される。撮像区画群Wbの各撮像区画61は、サブ区画に分割されない。したがって、撮像区画群Waの撮像区画61のサブ区画の個数は、撮像区画群Wbの撮像区画61の個数より多くなっている。
図10の照射パターンを生成するために、画像データ生成装置1は、発光装置2に3つの発光素子を備え、回折光学素子11に3つの回折光学素子とを備える。発光装置2の3つの発光素子と回折光学素子11の3つの回折光学素子とは、図3Bの場合と同様に、正対関係になる。発光素子制御部21は、照射光Loの3つの振分け期間に別々の発光素子を点灯し、図10の各照射パターンを生成する。
図10の照射パターンを採用すれば、撮像範囲6の中心部の解像度を撮像範囲6の周辺部の解像度より高めることができる。
以下、実施形態の種々の変形例について説明する。
実施形態では、各撮像区画61は、4つ又は2つのサブ区画62(図4A及び図10等)に分割されているが、その他の複数の個数でもよい。また、一部の撮像区画61については、分割されていなくてもよい。
実施形態では、各照射パターンごとに、発光装置2は発光素子2a〜2dを有し、回折光学装置10は、複数の回折光学素子11a〜11dを有している。回折光学素子には、印加電圧や印加温度を制御して、回折パターン(照射パターンでもある。)を種々変化するものがある。この場合には、発光装置2が装備する発光素子の個数及び回折光学装置10が備える回折光学素子の個数をそれぞれ1つずつにすることができる。
また、回折光学装置10の本体15側に機械的シャッタを各回折光学素子11a〜11dごとに配設して、発光装置2の発光素子2aは1つのみとすることもできる。その場合、照射光Loの照射パターンに対応する回折光学素子11a〜11dうちの1つのみのシャッタが開かれ、他の3つのシャッタが閉じられるように、各振分け期間に制御される。
画像データ生成装置1は、TOF方式等の測距可能な距離画像生成装置として使用される場合も想定される。その場合、フレームデータ生成部25から出力されるサブフレーム又はサブフレームを合成したフレームが各サブ区画62a〜62dごとに含むサブ情報Jgは、距離情報して、距離画像(立体画像又は3D画像とも言う。)の表示や、画像処理を行うことにより測定対象物の特定やトラッキング等に利用することができる。
実施形態では、発光素子2a〜2dは、例えばレーザ光源となっている。発光素子2a〜2dとして、LED(Light Emitting Diode)を使用することもできる。
実施形態では、照射光Loは、可視光又は赤外光になっている。本発明の照射光は、可視光及び赤外光以外の光とすることも可能である。
1・・・画像データ生成装置、2・・・発光装置、2a〜2d・・・発光素子、4・・・撮像装置、5・・・制御装置、6・・・撮像範囲、7,68・・・撮像対象物、10・・・回折光学装置、11・・・回折光学素子、21・・・発光素子制御部、22・・・反射光検出部、24・・・記憶部、25・・・フレームデータ生成部、61・・・撮像区画、62,65・・・サブ区画、73・・・画像、74・・・サブ画像、400・・・撮像素子。
Claims (6)
- 照射光を生成する発光装置と、
複数の画素を有し、前記照射光が照射される撮像範囲からの反射光を各画素ごとに検出する撮像素子と、
前記撮像範囲を、前記撮像素子の各画素に対応付けて複数の撮像区画に分割し、さらに各撮像区画を複数のサブ区画に分割し、各撮像区画における相対位置が複数の前記撮像区画間で同一となる前記サブ区画同士をサブ区画群としたときに、前記照射光を、同一のサブ区画群のサブ区画に回折により振り分ける回折光学装置と、
前記回折光学装置で振り分けられる前記照射光が、各振分け期間で同一のサブ区画群の前記サブ区画に振り分けられるように制御する振分け制御部と、
各サブ区画群の前記サブ区画への前記照射光の各振分け期間に各画素に入射した前記反射光を検出する反射光検出部と、
前記反射光検出部が各振分け期間ごとに検出した前記反射光の検出値に基づいて前記撮像範囲のフレームデータを生成するフレームデータ生成部と、
を備えることを特徴とする画像データ生成装置。 - 請求項1に記載の画像データ生成装置において、
記憶部を備え、
前記フレームデータ生成部は、
前記反射光検出部が各振分け期間ごとに検出した前記検出値に基づいて生成されるデータを各サブ区画群ごとのサブフレームデータとして前記記憶部に記憶させるとともに、
前記記憶部が記憶している各サブ区間群ごとのサブフレームデータを合成して、前記フレームデータを生成することを特徴とする画像データ生成装置。 - 請求項1又は2に記載の画像データ生成装置において、
前記発光装置は、各々が各サブ区画群ごとに前記照射光を生成する複数の発光素子を含み、
前記回折光学装置は、各発光素子ごとに1つずつ配設されて、各発光素子からの前記照射光を該発光素子に対応する前記サブ区画群の各サブ区画に回折する複数の回折光学素子を含み、
前記振分け制御部は、各振分け期間に、該振分け期間の前記サブ区画群に対応する前記発光素子を点灯することを特徴とする画像データ生成装置。 - 請求項1〜3のいずれか1項に記載の画像データ生成装置において、
前記振分け制御部は、前記発光装置の全部の発光素子を消灯する消灯期間を設定し、
前記反射光検出部は、前記消灯期間に前記撮像素子が各画素ごとに検出した検出値を各画素における背景光の検出値として判断し、各振分け期間における前記撮像素子の検出値から前記背景光の検出値を引いた差分を前記反射光の検出値とすることを特徴とする画像データ生成装置。 - 請求項1〜4のいずれか1項に記載の画像データ生成装置において、
前記撮像範囲の前記撮像区画は、複数の撮像区画群に分けられ、
同一の撮像区画群では、各撮像区画は、同一の個数の前記サブ区画に設定され、
同一の撮像区画群では、各撮像区画における複数の前記サブ区画は、前記撮像区画間で同一の相対位置に設定され、
前記振分け制御部は、各撮像区画群の各サブ区画群ごとに、別々の振分け期間を割り当てて、各振分け期間では、同一の前記撮像区画群の各撮像区画において、前記撮像区画間で同一の相対位置の前記サブ区画に前記照射光を振り分けることを特徴とする画像データ生成装置。 - 請求項5に記載の画像データ生成装置において、
前記撮像範囲において、中心部の前記撮像区画群は、周辺部の前記撮像区画群よりも、各撮像区画のサブ区画の個数が多いことを特徴とする画像データ生成装置。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018081710A JP2019190910A (ja) | 2018-04-20 | 2018-04-20 | 画像データ生成装置 |
| US16/385,930 US20190327404A1 (en) | 2018-04-20 | 2019-04-16 | High-resolution active image data generating apparatus having diffractive optical element unit |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018081710A JP2019190910A (ja) | 2018-04-20 | 2018-04-20 | 画像データ生成装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2019190910A true JP2019190910A (ja) | 2019-10-31 |
Family
ID=68238313
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2018081710A Pending JP2019190910A (ja) | 2018-04-20 | 2018-04-20 | 画像データ生成装置 |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US20190327404A1 (ja) |
| JP (1) | JP2019190910A (ja) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| TWI738098B (zh) * | 2019-10-28 | 2021-09-01 | 阿丹電子企業股份有限公司 | 光學式體積測定裝置 |
| CN111246073B (zh) * | 2020-03-23 | 2022-03-25 | 维沃移动通信有限公司 | 成像装置、方法及电子设备 |
| TWI789595B (zh) * | 2020-05-29 | 2023-01-11 | 阿丹電子企業股份有限公司 | 具有不同型態的按鍵的體積量測裝置 |
-
2018
- 2018-04-20 JP JP2018081710A patent/JP2019190910A/ja active Pending
-
2019
- 2019-04-16 US US16/385,930 patent/US20190327404A1/en not_active Abandoned
Also Published As
| Publication number | Publication date |
|---|---|
| US20190327404A1 (en) | 2019-10-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7191921B2 (ja) | Tofカメラシステムおよび該システムにより距離を測定するための方法 | |
| JP7114728B2 (ja) | 物体を多次元捕捉するためのマルチパルスlidarシステム | |
| CN109313267B (zh) | 测距系统及测距方法 | |
| JP6484072B2 (ja) | 物体検出装置 | |
| US20220030139A1 (en) | Background display system | |
| US20160248953A1 (en) | Image generation device | |
| KR101830711B1 (ko) | 표면을 이미지화하기 위한 이미징 유닛을 구비한 치과용 x-선 장치, 그리고 환자의 x-선 사진을 생성하기 위한 방법 | |
| JP5138119B2 (ja) | 物体検出装置および情報取得装置 | |
| JP2019190910A (ja) | 画像データ生成装置 | |
| JP7224708B6 (ja) | 深度データ測定ヘッド、測定装置及び測定方法 | |
| CN105049746B (zh) | 图像处理装置及其控制方法 | |
| CN109073756A (zh) | 以变化的照射场密度进行基于lidar的3-d成像 | |
| JP7389578B2 (ja) | 測距センサ | |
| US20200292306A1 (en) | 3d camera system with rolling-shutter image sensor | |
| JPWO2021087450A5 (ja) | ||
| JP7742364B2 (ja) | イメージング方法、及びイメージング装置 | |
| KR102431989B1 (ko) | 3차원 영상 생성 장치 및 방법 | |
| CN114731373A (zh) | 确定用于三维图像采集过程的一组或多组曝光设置的方法 | |
| US20230009034A1 (en) | Imaging apparatus | |
| JP2012212222A (ja) | 被写体識別装置、及び硬貨識別装置 | |
| CN118265889A (zh) | 利用由至少一个平行辐射源生成的结构光来测量场景的深度信息的方法和装置 | |
| JP5099745B2 (ja) | ホログラム装置 | |
| KR20220155242A (ko) | 센서 모듈 및 이를 포함하는 3차원 영상 | |
| US20220236387A1 (en) | Time of flight sensing | |
| JP2010008093A (ja) | 赤外線撮像装置および赤外線撮像方法 |