[go: up one dir, main page]

JP2017015694A - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP2017015694A
JP2017015694A JP2016105852A JP2016105852A JP2017015694A JP 2017015694 A JP2017015694 A JP 2017015694A JP 2016105852 A JP2016105852 A JP 2016105852A JP 2016105852 A JP2016105852 A JP 2016105852A JP 2017015694 A JP2017015694 A JP 2017015694A
Authority
JP
Japan
Prior art keywords
light
wavelength
image
light source
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016105852A
Other languages
English (en)
Other versions
JP6726888B2 (ja
Inventor
藤井 俊哉
Toshiya Fujii
俊哉 藤井
貴真 安藤
Takamasa Ando
貴真 安藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JP2017015694A publication Critical patent/JP2017015694A/ja
Application granted granted Critical
Publication of JP6726888B2 publication Critical patent/JP6726888B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2823Imaging spectrometer
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/65Raman scattering
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0075Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by spectroscopy, i.e. measuring spectra, e.g. Raman spectroscopy, infrared absorption spectroscopy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/40Detecting, measuring or recording for evaluating the nervous system
    • A61B5/4058Detecting, measuring or recording for evaluating the nervous system for evaluating the central nervous system
    • A61B5/4064Evaluating the brain
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/0205Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
    • G01J3/0229Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows using masks, aperture plates, spatial light modulators or spatial filters, e.g. reflective filters
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2803Investigating the spectrum using photoelectric array detector
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2846Investigating the spectrum using modulation grid; Grid spectrometers
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2889Rapid scan spectrometers; Time resolved spectrometry
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01MTESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M3/00Investigating fluid-tightness of structures
    • G01M3/38Investigating fluid-tightness of structures by using light
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4802Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4816Constructional features, e.g. arrangements of optical elements of receivers alone
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4861Circuits for detection, sampling, integration or read-out
    • G01S7/4863Detector arrays, e.g. charge-transfer gates
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033Features or image-related aspects of imaging apparatus, e.g. for MRI, optical tomography or impedance tomography apparatus; Arrangements of imaging apparatus in a room
    • A61B5/004Features or image-related aspects of imaging apparatus, e.g. for MRI, optical tomography or impedance tomography apparatus; Arrangements of imaging apparatus in a room adapted for image acquisition of a particular organ or body part
    • A61B5/0042Features or image-related aspects of imaging apparatus, e.g. for MRI, optical tomography or impedance tomography apparatus; Arrangements of imaging apparatus in a room adapted for image acquisition of a particular organ or body part for the brain
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/12Generating the spectrum; Monochromators
    • G01J2003/1213Filters in general, e.g. dichroic, band
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2823Imaging spectrometer
    • G01J2003/2826Multispectral imaging, e.g. filter imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/47Scattering, i.e. diffuse reflection
    • G01N21/4795Scattering, i.e. diffuse reflection spatially resolved investigating of object in scattering medium
    • G01N2021/4797Scattering, i.e. diffuse reflection spatially resolved investigating of object in scattering medium time resolved, e.g. analysis of ballistic photons
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/62Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light
    • G01N21/63Systems in which the material investigated is excited whereby it emits light or causes a change in wavelength of the incident light optically excited
    • G01N21/64Fluorescence; Phosphorescence
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N2201/00Features of devices classified in G01N21/00
    • G01N2201/06Illumination; Optics
    • G01N2201/069Supply of sources
    • G01N2201/0696Pulsed
    • G01N2201/0697Pulsed lasers

Landscapes

  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Surgery (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Animal Behavior & Ethology (AREA)
  • Molecular Biology (AREA)
  • Medical Informatics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Neurology (AREA)
  • Electromagnetism (AREA)
  • Immunology (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Biochemistry (AREA)
  • Radiology & Medical Imaging (AREA)
  • Psychology (AREA)
  • Neurosurgery (AREA)
  • Physiology (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)

Abstract

【課題】空間解像度を犠牲にせずに複数の距離レンジの情報と分光情報とを同時に取得する。【解決手段】本開示の一態様に係る撮像装置は、波長の異なる複数の成分を含むパルス光を出射する光源と、前記パルス光が照射された対象物からの入射光が透過する、光透過率の異なる複数の領域を有する符号化素子と、前記複数の領域を透過した前記入射光を、前記波長に応じて複数の光に分散させる分光素子と、前記分光素子によって分散した前記複数の光を受ける撮像素子と、前記光源および前記撮像素子を制御する制御回路と、を備える。【選択図】図1

Description

本開示は、ガスおよび生体等の対象物の内部情報を取得する撮像装置に関する。
ガスの漏洩検知、生体計測、材料分析等の用途において、対象物に光(可視光、赤外線、または紫外線を含む。)を照射し、その透過光、反射光、または散乱光を検出することにより、対象物の内部情報を取得する方法が用いられている。
そのような方法を用いた撮像システムの例が、例えば特許文献1〜4に開示されている。
特開2005−91343号公報 特開2008−149154号公報 国際公開第13/002350号 米国特許第7283231号明細書
従来の技術では、空間解像度を犠牲にせずに複数の距離レンジの情報と分光情報とを同時に取得することが困難であった。
本開示は、空間解像度を犠牲にせずに複数の距離レンジの情報と分光情報とを同時に取得する撮像装置を提供する。
本開示の一態様に係る撮像装置は、波長の異なる複数の成分を含むパルス光を出射する光源と、前記パルス光が照射された対象物からの入射光が透過する、光透過率の異なる複数の領域を有する符号化素子と、前記複数の領域を透過した前記入射光を、前記波長に応じて複数の光に分散させる分光素子と、前記分光素子によって分散した前記複数の光を受ける撮像素子と、前記光源および前記撮像素子を制御する制御回路と、を備える。
本開示の技術によれば、空間解像度を犠牲にせずに複数の距離レンジの情報と分光情報とを同時に取得することができる。
本開示の実施の形態1における撮像装置の構成を模式的に示す図である。 本開示の実施の形態1における符号化素子104の光透過率の2次元分布の一例を示す図である。 本開示の実施の形態1における符号化素子104の光透過率の2次元分布の他の例を示す図である。 本開示の実施の形態1における撮像素子106の1つの画素201の概略的な構成例を示す図である。 本開示の実施の形態1における撮像動作を示すフローチャートである。 本開示の実施の形態1における光源107のパルス光の発光タイミングと、検知対象のガス分子によるラマン散乱光の撮像素子106への到達のタイミングと、撮像素子106の各浮遊拡散層における受光タイミングとの関係を説明する図である。 本開示の実施の形態1における撮像素子106の全体構成の一例を示す図である。 本開示の実施の形態1における分光分離処理のイメージを示す概念図である。 本開示の実施の形態1における第2信号処理部110による3D画像生成処理の概要を示す図である。 本開示の実施の形態2の構成を示す図である。 本開示の実施の形態2における符号化分光素子901の構成を模式的に示す図である。 本開示の実施の形態2における符号化分光素子901のある領域における分光透過率の特性を説明するための図である。 図11Aに示す分光透過率を、波長域W1、W2、・・・、Wiごとに平均化した結果を示す図である。 本開示の実施の形態3における撮像装置の構成を示す図である。 本開示の実施の形態3における撮像素子1106の画素構成の概略を示す図である。 本開示の実施の形態3における発光パルスと、距離レンジ毎の拡散光と、8つの浮遊拡散層への信号蓄積パルスと、ドレイン1202への排出パルスのタイミングを示す図である。 本開示の実施の形態3における撮像素子1106の全体構成の一例を示す図である。 酸素化ヘモグロビン、脱酸素化ヘモグロビン、および水の吸収係数の波長依存性を示すグラフである。 生体組織中の光の散乱係数の波長依存性を示すグラフである。 本開示の実施の形態3における信号処理の流れを示すフローチャートである。 本開示の実施の形態3における1つの画素に到達する光量の時間変化の一例を示す図である。 本開示の実施の形態4における撮像装置の構成を示す図である。
(本開示の基礎となった知見)
本開示の実施形態を説明する前に、本開示の基礎となった知見を説明する。
本発明者らは、従来のガス漏洩検知システムおよび生体情報検知システムについて、以下の課題があることを見出した。
従来の一般的なガス漏洩検知システムは、吸引したガスをセンサに直接接触させ、センサ内の電気抵抗および電流値などの物理量の変化に基づいて、検知対象のガスの濃度を計測する。しかしながら、このような方法では、ガスをセンサに直接接触させる必要があるため、センサから離れた場所におけるガスの検知は不可能である。さらに、風向きおよび設置場所などの環境条件による不確定要素を多く含むという欠点を有する。
特許文献1は、そのような欠点を解決するガス検知システムの例を開示している。特許文献1のシステムは、ガスに紫外レーザー光を照射して、ラマン散乱を生じさせる。ラマン散乱は、分子に入射した光の波長とは異なる波長の散乱光が生じる現象である。この現象は、分子が光を受けて一旦高エネルギーの中間状態になった後、振動励起状態または基底状態に遷移することによって生じる。基底状態から中間状態を経て振動励起状態に遷移した場合、入射光よりも波長の長い散乱光が生じる。この波長のシフトは、ストークスシフトと呼ばれる。逆に、振動励起状態から中間状態を経て基底状態に遷移した場合、入射光よりも波長の短い散乱光が生じる。この波長のシフトは、反ストークスシフトと呼ばれる。
特許文献1のシステムは、ラマン散乱光のストークスシフトを検知することにより、ガスの漏洩およびその種類を非接触で検知する。監視対象空間の可視画像に、検知したガスの分布を示す画像を重畳させることにより、ガスの漏洩を二次元イメージとして表示することができる。これにより、ガスの漏洩の監視および漏洩箇所の特定を遠方から安全に行うことができることが記載されている。
特許文献1には、検知対象の距離レンジに応じて撮影のタイミングを変化させることが記載されている。光源の発光に同期した短時間の露光により、単一の距離レンジの撮影が可能である。しかし、同時に複数の距離レンジの撮影を行うことはできない。
本開示の実施形態では、「時間分解撮像」と呼ばれる方法を用いて、複数の距離レンジの撮影を行うことができる。以下、本開示の実施形態において利用される時間分解撮像について説明する。
レーザー光照射技術の進展により、ナノ秒(ns)からピコ秒(ps)のオーダーの極めて短時間のパルス光を対象物に繰り返し照射し、これに同期して撮像素子の受光時間を高速に制御することが可能になっている。このような、光源および撮像素子を高速に制御して行われる撮像を、「時間分解撮像」と称する。代表的な応用例として、光の飛行時間に基づいて被写体までの距離を画素単位で検知するTOF(Time of Flight)と呼ばれる方法を用いた測距撮像装置が商品化されている。
時間分解撮像の応用により、発光した際に繰り返し同様に起こる現象を、発光と連携して極めて短時間の受光を繰り返して信号を蓄積し、短時間の現象の変化を動画像として再現することも可能になっている。例えば、光が伝播する様子を動画像として可視化することも可能になっている。
時間分解撮像技術は、光が透過する空間のみならず、生体等の光散乱体への応用も検討されている。例えば、水およびヘモグロビンの双方について、光吸収率が比較的小さい2波長の近赤外線を用いて、酸素化ヘモグロビンおよび脱酸素化ヘモグロビンの生体内の濃度分布を断層画像化する時間分解拡散光トモグラフィーが知られている。
特に生体を対象とする場合には、画像診断方法として広く普及しているレントゲンおよびX線CTと比較して、生体に安全な赤外線(以下、「赤外光」とも称する。)を用いることで、全く被爆のない非侵襲な生体観測が可能である。また、近赤外光による撮像は、核磁気共鳴を利用したMRI等の装置と比較して、装置の小型化、軽量化、および低コスト化に適している。これらのことから、近赤外光による撮像は、生体組織の機能の解明に関する研究の最先端で広く利用されはじめている。
しかしながら、近赤外光は生体組織中を通過する際に非常に強く散乱し、その結果、生体組織中で激しい光の拡散が生じる。この光の拡散が撮像の空間分解能を著しく低下させるという課題がある。
この課題を解決する方法の1つに、検知対象の生体組織の、散乱体としての光学的特性値(例えば、吸収係数および散乱係数)の空間分布を仮定して当該散乱体内の光伝播を数値的に計算し(順問題)、その結果と時間分解撮像によって実際に得られたデータとを比較し、双方が一致するまで空間分布の仮定を繰り返す(逆問題)という画像再構築アルゴリズムが知られている。このようなアルゴリズムを用いることにより、空間解像度が向上した3次元画像を再構築することができる。
従来の時間分解拡散光トモグラフィーは、脳の活性化に関する研究、および乳がんのスクリーニングのための光マンモグラフィー等の用途では有効である。しかし、限られた2〜3波長の光源が用いられるため、多バンドの分光情報を取得することができない。したがって、生きた組織から特異度の高い分子の情報を検出することができない。
特許文献2は、生きた組織から特異度の高い分子の情報を検出するシステムの例を開示している。特許文献2に開示されたシステムは、入射光を提供する近赤外光源と、2つ以上の別々の励起点から生体内へと光を誘導するための多点入射光照射アレイと、光源から多点入射光照射アレイの各点へと光を伝送するための複数の光ファイバーと、対象物から放出された蛍光を2つ以上の別々の収集点から収集するための多点検出アレイと、対象物から放出された光を検出器へと伝送するための二次元発光アレイと、各収集点から二次元発光アレイ上の対応する点へと光を伝送するための複数の光ファイバーと、二次元発光アレイの各点から放出された光を検出し且つ対象物から放出された光に対応するデジタル信号に変換するための検出器とを含む。このような構成により、疾患の原因となる異常な分子の三次元的な位置情報を高い感度で取得できることが記載されている。
しかしながら、特許文献2には、1フレームの撮影で複数の距離レンジの情報を取得するような撮像方法については記載されていない。
本開示の実施形態に係る撮像装置は、1フレームの撮影で複数の距離レンジの情報を取得し、かつ、複数の波長の情報も併せて取得する。複数の波長の情報の取得には、圧縮センシングと呼ばれる技術を用いる。以下、圧縮センシングについて説明する。
各々が狭帯域である多数のバンド(例えば数十バンド以上)のスペクトル情報を活用することで、従来のRGB画像では不可能であった観測物の詳細な物性を把握することができる。この多波長の情報を取得するカメラは、「ハイパースペクトルカメラ」と呼ばれる。ハイパースペクトルカメラは、食品検査、生体検査、医薬品開発、鉱物の成分分析等の様々な分野で利用されている。例えば、特許文献3は、観測対象の波長を狭帯域に限定して取得された画像を生成することによって被験体の腫瘍部位と非腫瘍部位との判別を行う装置を開示している。この装置は、励起光の照射により、癌細胞内に蓄積されるプロトポルフィリンIXが635nmの蛍光を発し、フォト−プロトポルフィリンが675nmの蛍光を発することを検出する。これにより、腫瘍部位と非腫瘍部位との識別を行う。
特許文献4は、圧縮センシングを用いたハイパースペクトルカメラの例を開示している。特許文献4に開示された装置は、測定対象からの光をプリズム等の第1の分光素子で分光した後、符号化マスクでマーキングし、さらに第2の分光素子によって光線の経路を戻す。これにより、符号化され、かつ波長軸に関して多重化された画像がセンサによって取得される。多重化された画像から圧縮センシングの適用により、多波長の複数枚の画像を再構成される。
圧縮センシングは、少ないサンプル数の取得データから、それよりも多くのデータを復元する技術である。測定対象の2次元座標を(x、y)、波長をλとすると、求めたいデータfは、x、y、λの3次元のデータである。これに対し、センサによって得られる画像データgは、λ軸方向に圧縮および多重化された2次元のデータである。相対的にデータ量が少ない取得画像gから、相対的にデータ量が多いデータfを求める問題は、いわゆる不良設定問題であり、このままでは解くことができない。しかし、一般に、自然画像のデータは冗長性を有しており、それを巧みに利用することでこの不良設定問題を良設定問題に変換することができる。画像の冗長性を活用してデータ量を削減する技術の例に、jpeg圧縮がある。jpeg圧縮は、画像情報を周波数成分に変換し、データの本質的でない部分、例えば、視覚の認識性が低い成分を除去するといった方法が用いられる。圧縮センシングでは、このような技法を演算処理に組入れ、求めたいデータ空間を冗長性で表された空間に変換することで未知数を削減し解を得る。この変換には、例えば、離散的コサイン変換(DCT)、ウェーブレット変換、フーリエ変換、トータルバリエーション(TV)等が使用される。
特許文献4には、以上のような圧縮センシング技術が開示されているが、複数の波長の情報と、空間分布の情報と、複数の時間(距離レンジ)の情報とを同時に取得する方法は開示されていない。
従来の技術では、空間解像度を犠牲にせずに、時間分解撮像と分光撮像とを同時に行うことは非常に困難であった。これらが同時に成立する撮像装置は現時点では存在しない。複数の波長の情報を取得するためには、発光波長の異なる光源を時分割に照射する方法か、検知対象の波長毎に検出器を分離する方法しかなかった。前者では同時性が犠牲になり、後者では空間解像度が犠牲になる。
本発明者らは、従来技術における以上の課題を見出し、これらの課題を解決するための方法を鋭意検討した。その結果、複数の波長の成分を含むパルス光を出射する光源と、対象物から入射した光を時分割で高速に検出する時間分解撮像素子と、撮像素子に入射する光の強度を位置に応じて変調させる符号化素子とを用いることにより、空間解像度を犠牲にすることなく、複数の距離レンジの情報と複数の波長の情報とを取得することが可能になることに想到した。特に生体に対しては、安全な赤外光を用いるようにすれば、非侵襲でX線のような被爆のない撮像が可能である。以下、そのような構成を有する撮像装置の例を説明する。
本開示は、以下の項目に記載の撮像装置を含む。
[項目1]
波長の異なる複数の成分を含むパルス光を出射する光源と、
前記パルス光が照射された対象物からの入射光が透過する、光透過率の異なる複数の領域を有する符号化素子と、
前記複数の領域を透過した前記入射光を、前記波長に応じて複数の光に分散させる分光素子と、
前記分光素子によって分散した前記複数の光を受ける撮像素子と、
前記光源および前記撮像素子を制御する制御回路と、
を備える、撮像装置。
[項目2]
複数の波長の成分を含むパルス光を出射する光源と、
前記パルス光が照射された対象物からの入射光が透過する、光透過率の波長分布が異なる複数の領域を有する符号化分光素子と、
前記複数の領域を透過した前記入射光を受ける撮像素子と、
前記光源および前記撮像素子を制御する制御回路と、
を備える、撮像装置。
[項目3]
前記対象物は第1の部分および第2の部分を有し、
前記制御回路は、
第1の時間において、前記光源に前記パルス光を出射させ、
前記第1の時間よりも後の第2の時間において、前記撮像素子に、前記対象物の前記第1の部分からの第1の入射光に基づく第1の信号電荷を蓄積させ、
前記第2の時間よりも後の第3の時間において、前記撮像素子に、前記対象物の前記第2の部分からの第2の入射光に基づく第2の信号電荷を蓄積させ、
前記第1の信号電荷に基づく第1の画像信号と、前記第2の信号電荷に基づく第2の画像信号とを、前記撮像素子に出力させる、
項目1または2に記載の撮像装置。
[項目4]
前記撮像素子は、各々が第1の電荷蓄積部および第2の電荷蓄積部を含む複数の光検出セルを有し、
前記制御回路は、
前記第2の時間において、前記複数の光検出セルの各々における前記第1の電荷蓄積部に、前記第1の信号電荷を蓄積させ、
前記第3の時間において、前記複数の光検出セルの各々における前記第2の電荷蓄積部に、前記第2の信号電荷を蓄積させる、
項目3に記載の撮像装置。
[項目5]
前記制御回路は、
前記第1の時間における前記パルス光の前記出射と、前記第2の時間における前記第1の信号電荷の前記蓄積と、前記第3の時間における前記第2の信号電荷の前記蓄積とを、前記光源および前記撮像素子に複数回繰り返させた後、
前記第1の画像信号と前記第2の画像信号とを、前記撮像素子に出力させる、
項目3または4に記載の撮像装置。
[項目6]
前記第1の画像信号を前記波長に応じて複数の第1の分離画像信号に分離し、前記第2の画像信号を前記波長に応じて複数の第2の分離画像信号に分離する信号処理回路をさらに備える、項目3から5のいずれかに記載の撮像装置。
[項目7]
前記信号処理回路は、前記複数の第1の分離画像信号と、前記複数の第2の分離画像信号とに基づいて、前記対象物の3次元画像を生成する、項目6に記載の撮像装置。
[項目8]
前記対象物は光散乱体であり、
前記信号処理回路は、
前記対象物の光学特性値分布を仮定し、
前記対象物内の光伝播を計算し、
前記光伝播の計算結果と、前記複数の第1の分離画像信号および前記複数の第2の分離画像信号とを比較し、
比較結果が一致するまで前記光学特性値分布の仮定を繰り返し、
前記比較結果が一致したときの前記光学特性値分布に基づいて、前記3次元画像を生成する、
項目7に記載の撮像装置。
[項目9]
前記対象物はガスである、項目1から8のいずれかに記載の撮像装置。
[項目10]
前記対象物は光散乱体である、項目1から7のいずれかに記載の撮像装置。
[項目11]
前記パルス光は紫外線または赤外線である、項目1から10のいずれかに記載の撮像装置。
[項目12]
第1の波長を含む第1のパルス光を出射する第1の光源と、
前記第1の波長と異なる第2の波長を含む第2のパルス光を出射する第2の光源と、
前記第1のパルス光および前記第2のパルス光が照射された対象物からの入射光が透過する、光透過率の異なる複数の領域を有する符号化素子と、
前記複数の領域を透過した前記入射光を、前記第1の波長を含む第1の入射光と、前記第2の波長を含む第2の入射光とに分散させる分光素子と、
前記第1の入射光および前記第2の入射光を受ける撮像素子と、
前記光源および前記撮像素子を制御する制御回路と、
を備え、
前記制御回路は、
第1の時間において、前記第1の光源に前記第1のパルス光を出射させ、
前記第1の時間と異なる第2の時間において、前記第2の光源に前記第2のパルス光を出射させる、
撮像装置。
[項目13]
第1の波長を含む第1のパルス光を出射する第1の光源と、
前記第1の波長と異なる第2の波長を含む第2のパルス光を出射する第2の光源と、
前記第1のパルス光および前記第2のパルス光が照射された対象物からの入射光が透過する、光透過率の波長分布が異なる複数の領域を有する符号化分光素子と、
前記複数の領域を透過した前記入射光を受ける撮像素子と、
前記光源および前記撮像素子を制御する制御回路と、
を備え、
前記制御回路は、
第1の時間において、前記第1の光源に前記第1のパルス光を出射させ、
前記第1の時間と異なる第2の時間において、前記第2の光源に前記第2のパルス光を出射させる、
撮像装置。
以下、本開示の実施形態を、図面を参照しながら詳細に説明する。なお、以下で説明する実施形態は、いずれも包括的または具体的な例を示している。以下の実施形態で示される数値、形状、材料、構成要素、構成要素の配置および接続形態、ステップ、ステップの順序などは、一例であり、本開示を限定する主旨ではない。本明細書において説明される種々の態様は、矛盾が生じない限り互いに組み合わせることが可能である。また、以下の実施形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。以下の説明において、実質的に同じ機能を有する構成要素は共通の参照符号で示し、説明を省略することがある。
(実施の形態1)
図1は、本開示の実施の形態1における撮像装置の構成を模式的に示す図である。図1には、撮像装置の構成要素の他に、検知対象物101も示されている。この撮像装置は、検知対象物101であるガスの種類と濃度の検知を行い、ガスの濃度の空間分布の3次元(3D)画像を生成することができる。
撮像装置は、2つの波長の成分を有する紫外線を対象物101に向けて照射する光源107と、対象物101から入射する光の光路上に配置された光学系(結像光学系102、励起光カットフィルター111、符号化素子104、リレー光学系103、および分光素子105)と、分光素子105を通過した光を検出する撮像素子(イメージセンサ)106と、光源107および撮像素子106を制御する制御回路108とを備える。図1には、撮像素子106から出力された画像信号を処理する信号処理回路112も描かれている。信号処理回路112は、撮像装置に組み込まれていてもよいし、撮像装置に有線または無線で電気的に接続された信号処理装置の構成要素であってもよい。図1では、結像光学系102およびリレー光学系103の各々は、単一のレンズのように描かれているが、複数のレンズの集合体であってもよい。
本実施形態における光源107は、2つの波長の成分を有する紫外領域のパルス光を出射するレーザー光源である。光源107は、制御回路108から入力される制御信号に応じて、短パルスの紫外光線を繰り返し出射する。この短パルスの紫外光線は、検知対象空間内の対象物101(ガス)を励起し、ガス分子に対応した波長シフトを伴うラマン散乱光を発生させる。この際、入射した紫外光線(「励起光」とも称する。)の波長に比べて長波長側にシフトした各ガス分子に特有のラマンストークス光が発生する。
ガス分子のラマンストークス光のシフト波長は、特許文献1に開示されており、以下の表1に示す数値であることが知られている。本実施の形態では、光源107から出射されるレーザーパルス光の波長を、355nmおよび266nmに設定した場合の例を説明する。なお、これらの波長は一例であり、他の波長を用いてもよい。また、光源107が3つ以上の波長の成分を有するパルス光を出射するように構成されていてもよい。
Figure 2017015694
なお、本実施の形態における光源107から出射される光は、紫外線の波長域(約10nm〜約400nm)であるが、光源107からの光の波長は用途に応じて適宜選択される。例えば、実施の形態3で説明するように、生体組織を計測する撮像装置では、近赤外線の波長域(約700nm〜約2500nm)が用いられ得る。それ以外にも、可視光の波長域(約400nm〜約700nm)、中赤外線、遠赤外線、またはテラヘルツ波もしくはミリ波等の電波域の電磁波を使用することもできる。本明細書では、可視光に限らず、近紫外線、近赤外線、および電波などの非可視光も便宜上「光」と称する。
本実施形態の撮像装置は、パルス光の照射に起因して各ガス分子から生じたラマンストークス光を、光学系を介して撮像素子106によって検出する。この際、高時間分解撮像により、異なるタイミングで複数回の検出を高速に行う。これにより、複数の波長の成分が重畳した画像が対象物101の距離レンジごとに取得される。この距離レンジごとの画像を示す信号(「画像信号」と称することがある。)は、信号処理回路112に送られ、そこで処理される。信号処理回路112は、第1信号処理部109および第2信号処理部110を有する。第1信号処理部109は、距離レンジごとの各画像信号を波長成分ごとに分離した新たな複数の画像信号を生成する。本明細書では、この処理を「分光分離処理」と称することがある。第2信号処理部110は、波長成分ごとに分離された画像信号から、3次元画像のデータを生成する。ある態様では、第1信号処理部109および第2信号処理部110は、信号処理回路112内の個別のモジュールとして実現され得る。第1信号処理部109および第2信号処理部110は、1つのプロセッサが異なる画像処理プログラムを実行することによって実現されてもよい。信号処理回路112による処理の詳細は、後述する。
以下、各構成要素の詳細を説明する。
制御回路108は、例えば中央演算処理装置(CPU)またはマイクロコンピュータ(マイコン)等の集積回路であり得る。制御回路108は、例えば不図示のメモリに記録された制御プログラムを実行することにより、光源107への点灯指示、撮像素子106への撮像指示、および信号処理回路112への演算指示等の制御を行う。
信号処理回路112は、撮像素子106から出力された画像信号を処理する回路である。信号処理回路112は、例えばデジタルシグナルプロセッサ(DSP)、フィールドプログラマブルゲートアレイ(FPGA)等のプログラマブルロジックデバイス(PLD)、または中央演算処理装置(CPU)もしくは画像処理用演算プロセッサ(GPU)とコンピュータプログラムとの組み合わせによって実現され得る。なお、制御回路108と信号処理回路112は、統合された1つの回路によって実現されていてもよい。
撮像装置は、各ガス分子から生じたラマンストークス光を、結像光学系102によって集光し、結像面に結像させる。この際、ノイズとなる2波長のパルス光のレイリー散乱等による波長成分を励起光カットフィルター111によってカットする。
結像光学系102の結像面には、符号化素子104が配置される。符号化素子104は、光透過率の空間分布を有するマスクであり、二次元的に配列された光透過率の異なる複数の領域を有する。より具体的には、第1の光透過率を有する複数の領域と、第1の光透過率よりも低い第2の光透過率を有する複数の領域とを有する。符号化素子104は、入射する光の強度を位置に応じて変調させて透過させる。符号化素子104によるこの過程を「符号化」と称する。
図2Aは、符号化素子104の光透過率の2次元分布の一例を示す図である。図2Aにおいて、黒い部分は光を殆ど透過させない領域(「遮光領域」と称する。)を表し、白い部分は光を透過させる領域(「透光領域」と称する。)を表している。この例では、透光領域の光透過率はほぼ100%であり、遮光領域の光透過率はほぼ0%である。符号化素子104は、複数の矩形領域に分割されており、各矩形領域は、透光領域または遮光領域である。符号化素子104における透光領域および遮光領域の2次元分布は、例えばランダム分布または準ランダム分布であり得る。
ランダム分布および準ランダム分布の考え方は次のとおりである。まず、符号化素子104における各矩形領域は、光透過率に応じて、例えば1または0の値を有するベクトル要素とみなせる。言い換えると、一列に並んだ矩形領域の集合を1または0の値を有する多次元のベクトルとみなせる。したがって、符号化素子104は、多次元ベクトルを行方向に複数備えている。このとき、ランダム分布とは、任意の2つの多次元ベクトルが独立である(平行でない)ことを意味する。また、準ランダム分布とは、一部の多次元ベクトル間で独立でない構成が含まれることを意味する。
符号化素子104による符号化過程は、後続する分光素子105によって分光された各波長の光による画像を区別するためのマーキングを行う過程といえる。そのようなマーキングが可能である限り、透過率の分布は任意に設定してよい。図2Aに示す例では、黒い部分の数と白い部分の数との比率は1:1であるが、このような比率に限定されない。例えば、白い部分の数:黒い部分の数=1:9のような一方に偏りのある分布であってもよい。図1に模式的に示されている符号化素子104は、遮光領域よりも多くの(広い)透光領域を有している。
図2Bは、符号化素子104の光透過率の2次元分布の他の例を示す図である。図2Bに示すように、符号化素子104は、グレースケールの透過率分布を持つマスクであってもよい。グレースケールの透過率分布とは、透過率が0%よりも大きく100%よりも小さい中間の透過率をもつ領域を含む分布を意味する。このような符号化素子104は、第1および第2の光透過率とは異なる光透過率をもつ複数の矩形領域を有する。符号化素子104の透過率分布に関する情報は、設計データまたは実測キャリブレーションによって事前に取得され、後述する信号処理に利用される。
再び図1を参照する。本実施形態における分光素子105は、入射した光束を波長に応じて分散させる素子である。分光素子105は、2つの材料からなるプリズムの組合せで構成される。2つの材料は、特定の波長の光に対する屈折率がほぼ一致し、その波長の光に関するアッベ数が異なる材料、例えば、その波長の光に関するアッベ数が乖離する材料から選択される。特定の波長は、例えば所望の分光波長範囲内の代表的な波長(主波長)に設定され得る。主波長は、例えば測定対象の波長範囲における中心波長または重視する波長であり得る。ここでアッベ数が「乖離する」とは、2つの材料のアッベ数の差が、10以上であることを意味する。2つの材料のアッベ数の差は、15以上であってもよく、20以上であってもよい。2つの材料の屈折率がほぼ一致するとは、両者の屈折率の差が0.05以下であることを意味する。2つの材料の屈折率がほぼ一致するとは、両者の屈折率の差が0.02以下であることを意味してもよい。
本明細書におけるアッベ数は、一般に用いられるフラウンホーファー線の波長に関するアッベ数に限らず、任意の波長について定義してもよい。本開示では、λa<λb<λcを満たす任意の波長λa、λb、λcについて、アッベ数νbを、以下の(数1)のように定義することができる。
Figure 2017015694
ここで、na、nb、ncは、それぞれ、波長λa、λb、λcにおける屈折率を表す。λaおよびλcは任意の波長で良いが、例えば、使用波長帯域の始端または終端に近い波長を選択すると良い。
分光素子105において光線が入射する面と光線が出射する面とを略平行にすることにより、コマ収差の発生を抑制することができる。ここで「略平行」とは、厳密に平行な場合に限らず、2つの面のなす角度が3°以下である場合を含む。この角度は、1°以下に設定されてもよく、0.5°以下に設定されてもよい。図1に示すような分光素子105を用いることにより、生成される波長帯域ごとの画像の解像度の劣化を低減できるという効果が得られる。
なお、分光素子105は、必ずしも上記のような2種類の材料を接合したものである必要はない。例えば、一般的なプリズムまたは回折光学素子によって構成されていてもよい。
符号化素子104によって符号化された光は、リレー光学系103で集光されて分光素子105に入射する。分光素子105は、撮像素子106の撮像面上に形成される光の像が、波長に応じて画像の垂直方向に相当する方向(図1に示す縦方向)にずれるように分光する。そのずれの程度(「分光量」と称することがある。)は、分光素子105を構成する材料の屈折率、アッベ数、接合面の傾斜角、および分光素子105と撮像素子106との間の距離によって決定される。分光素子105が回折光学素子の場合、回折格子のピッチを変えることで分光量を調整できる。本実施の形態では、分光素子105は画像の垂直方向に相当する方向に分光するが、水平方向またはそれ以外の方向に分光してもよい。
分光素子105による撮像素子106の撮像面上における像のシフト量は、設計仕様に基づき、演算によって、あるいは実測キャリブレーションによって事前に算出しておくことができる。分光素子105による分光シフトは、計測対象の波長帯域ごとの離散的なシフトではなく、連続的なシフトである。一方、信号処理回路112では、後述するように、所定幅の波長帯域ごとに分光分離画像が再構成される。そのため、厳密には、再構成される画像ごとの波長帯域内でも各波長の画像は撮像素子106上でシフトしている。分光分離画像の再構成の精度を向上させるために、波長帯域内の画像のシフトを補正してもよい。この補正は、コンピュータ演算によって行ってもよいが、光学系の収差および実装誤差の影響も考慮すると、実測キャリブレーションによって行ってもよい。例えば、被写体として白板を所定の位置に設置し、所望の波長帯域の帯域通過フィルターを通して撮像素子106上に符号化素子104の像を形成させることによってキャリブレーションを行うことができる。帯域ごとに帯域通過フィルターを交換して所望の全ての帯域のデータを取得してもよいが、いくつかの帯域を選択して測定し、それ以外の帯域については測定されたデータの補間によって算出してもよい。この方法により、分光素子105による分光シフト量が算出できるとともに、波長帯域ごとの符号化素子104の透過率情報も取得できる。ここで算出されたキャリブレーションのデータに基づいて、後述の(数2)における行列Hの要素が決定される。
撮像素子106の結像面には、符号化素子104による符号化情報を有する分離された複数の像が、互いに重なり合った多重像として波長ごとに垂直方向にずれながら結像される。撮像素子106は、この多重像を撮像する。この際、高速の時間分解撮像を行うことにより、対象物101の距離レンジごとに複数の画像を取得する。以下、撮像素子106の構成および動作を説明する。
撮像素子106は、撮像面上に2次元的に配列された複数の光検出セル(本明細書において、「画素」とも呼ぶ。)を有する。各光検出セルは、複数の電荷蓄積部(例えば浮遊拡散層)を有する。
図3は、撮像素子106の1つの画素201の概略的な構成例を示す図である。なお、図3は、1つの画素201の構成を模式的に示しており、実際の構造を必ずしも反映していない。画素201は、光電変換を行う光電変換部(フォトダイオード)203と、信号電荷を蓄積する4つの浮遊拡散層(Floating Difusion:FD)204〜207と、信号電荷を排出する信号電荷排出部(ドレイン)202とを有する。
1回のパルス光の出射に起因して各画素に入射したフォトンは、フォトダイオード203によって信号エレクトロン(信号電荷)に変換される。変換された信号エレクトロンは、制御回路108から入力される制御信号に従って、ドレイン202に排出されるか、浮遊拡散層204〜207のいずれかに振り分けられる。
光源107からのパルス光の出射と、第1の浮遊拡散層(FD1)204、第2の浮遊拡散層(FD2)205、第3の浮遊拡散層(FD3)206、および第4の浮遊拡散層(FD4)207への信号電荷の蓄積と、ドレイン202への信号電荷の排出が、この順序で繰り返し行われる。この繰り返し動作は高速であり、例えば動画像の1フレームの時間(例えば約1/30秒)内に数万回から数億回繰り返され得る。撮像素子106は、最終的に、4つの浮遊拡散層204〜207に蓄積された信号電荷に基づく4つの画像信号を生成して出力する。
図4は、この動作の流れを示すフローチャートである。制御回路108は、まず第1の時間において、光源107に複数の波長の成分を含むパルス光を出射させる(ステップS101)。続く第2の時間において、撮像素子106における第1の浮遊拡散層204に、対象物101の第1の部分から入射する光に基づく信号電荷を蓄積させる(ステップS102)。続く第3の時間において、撮像素子106における第2の浮遊拡散層205に、対象物101の第2の部分から入射する光に基づく信号電荷を蓄積させる(ステップS103)。以後、同様に、第3の浮遊拡散層206および第4の浮遊拡散層207に、順次、信号電荷を蓄積させる(ステップS104およびS105)。続いて、制御回路108は、上記の信号蓄積のサイクルを実行した回数が所定の回数に達したか否かを判定する(ステップS107)。この判定がNoの場合、Yesと判定するまで、ステップS101〜S107を繰り返す。ステップS107においてYesと判定すると、制御回路108は、各浮遊拡散層に蓄積された信号電荷に基づく画像信号を撮像素子106に生成させて出力させる(ステップS108)。
以下、図5を参照しながら、光源107のパルス光の発光タイミングと、検知対象のガス分子によるラマン散乱光の撮像素子106への到達のタイミングと、撮像素子106の各浮遊拡散層における受光タイミングとの関係を説明する。
図5は、発光パルスと、対象物101の各距離レンジの部分からの反射光と、浮遊拡散層(FD1〜FD4)204〜207の各々への信号電荷の蓄積を指示する制御信号(「信号蓄積パルス」と称する。)と、ドレイン202への信号電荷の排出を指示する制御信号(「ドレイン排出パルス」と称する。)とを示すタイミングチャートである。
本実施の形態では、測定距離レンジを最大9m(往復18m)とし、2mごとに4つの距離レンジを設定している。光速は秒速30万kmであるので、最大距離9mを光が往復するのに要する時間は60nsである。発光パルス幅を5nsと設定すると、1サイクルに必要な時間は、9mの距離の位置から反射してくる発光パルスの後端の光成分が撮像素子106の撮像面に到達するまでの時間である65nsである。本実施形態では、最大距離レンジより遠方からのラマン散乱光の影響を除外するために、マージン期間を余裕を取って35nsに設定し、1サイクルの合計時間を100nsとしている。従って発光パルスの繰り返しサイクルの周波数はその逆数の10MHzである。
ガス分子に紫外線励起光が照射されてからラマン散乱光が発生するまでの遅延時間は、一般的にピコ秒(ps)のオーダーであり、本実施の形態の測定距離レンジではほとんど無視できるオーダーである。よって、この遅延時間の説明は省略するが、必要であればラマン散乱に要する時間を考慮して撮像素子106の受光タイミングを設定すればよい。
発光波長、発光パルスタイミング、および撮像素子106の駆動タイミングは、距離レンジ、対象ガス、受光素子の感度に応じて適宜、最適な値に設定される。本実施形態において用いられる数値は例示であって特許請求の範囲を何ら制限するものではない。
10MHz、5ns幅のパルス光である紫外励起光は、対象空間の一酸化炭素CO、硫化水素H2S、アンモニアNH3等のガスに照射される。その結果、ガス分子に応じた波長のラマン散乱光が発生する。本実施形態において用いられる355nmおよび266nmの各々の励起光に対するラマン散乱光の波長は、表1に示すとおりである。
光源107は、制御回路108から入力される制御信号に応じて、発光パルスを出射する。図5の例では、0nsのタイミングで発光し、5nsのタイミングで消光する。この際、測定対象範囲外の1m未満の近距離で生じた不要なラマン散乱に起因する信号電荷を除外するために、ドレイン排出パルスはONに設定される。この間は、フォトダイオード203で発生した不要な信号電荷はドレイン202から排出される。
複数の波長の成分を含むラマン散乱光は、図5に示すように、距離に応じて遅延して撮像素子106に到達する。このラマン散乱光は、符号化および垂直方向に分光された多重像として結像され、フォトダイオード203によって信号電荷に変換される。
1m未満の近距離からの不要なラマン散乱光による成分と距離1〜3mのラマン散乱光による成分は、発光パルス幅5nsに相当する時間だけクロストークを原理的に含んでしまう。このため、本実施形態では、クロストークが中央値になるタイミングから受光を開始する。具体的には、反射光(1〜3m)の成分が撮像素子106の撮像面に到達し始めるタイミング6.67nsから発光パルス幅の半分の2.5nsを加えた9.17nsのタイミングから受光を開始する。
制御回路108は、図5に示す9.17nsのタイミングでドレイン排出パルスをOFFにすると同時に、第1の浮遊拡散層(FD1)204への信号蓄積パルスをONにする。そして、反射光(1〜3m)の成分が減衰して50%の光量となる22.50nsのタイミングで、第1の浮遊拡散層204への信号蓄積パルスをOFFにする。これにより、第1の浮遊拡散層204に信号電荷が転送および蓄積される。同様に、制御回路108は、第2〜第4の浮遊拡散層(FD2〜FD4)205〜207への信号蓄積パルスを、図5に示すタイミングで順次オンにする。これにより、第1〜第4の浮遊拡散層205〜207に、発光パルス幅5ns分のクロストークを含む時間分解された信号電荷が順次、転送および蓄積される。制御回路108は、第4の浮遊拡散層207への信号蓄積パルスをOFFにする62.5nsのタイミングで、ドレイン排出パルスをONにする。これにより、測定距離レンジ外の遠方で生じるラマン散乱による不要な信号電荷をドレイン202から排出する。
以上の一連の動作を10MHzの周波数で数万回から必要に応じて数億回繰り返すことにより、撮像素子106の1フレームの信号電荷が蓄積される。繰り返し回数は光源107の発光強度と撮像素子106の感度に応じて調整される。ラマン散乱光は微弱であるので、このレーザー励起光との高速同期撮像を相当の回数繰り返し行うことで、感度の不足を補うことができる。
なお、本実施形態では、複数の浮遊拡散層による時間分解数を4としているが、時間分解数は目的に応じて4以外の数に設計してよい。
次に、図6を参照しながら、撮像素子106における信号蓄積後の信号の読出し動作を説明する。
図6は、撮像素子106の全体構成の一例を示す図である。図6において、二点鎖線の枠で囲まれた領域が1つの画素201に相当する。画素201は、4つの浮遊拡散層204〜207を含む。4つの浮遊拡散層204〜207に蓄積される信号は、あたかも一般的なCMOSイメージセンサの4画素の信号のように取り扱われ、撮像素子106から出力される。
各画素201は、4つの信号検出回路を有する。各信号検出回路は、ソースフォロワトランジスタ(増幅トランジスタ)309と、FD信号読み出しトランジスタ(行選択トランジスタ)308と、リセットトランジスタ310とを含む。この例では、リセットトランジスタ310が図3に示すドレイン202に対応し、リセットトランジスタ310のゲートに入力されるパルスが前述のドレイン排出パルスに対応する。各トランジスタは、例えば半導体基板に形成された電界効果トランジスタであるが、これに限定されない。図示されるように、ソースフォロワトランジスタ309の入力端子および出力端子の一方(典型的にはソース)と、FD信号読み出しトランジスタ308の入力端子および出力端子のうちの一方(典型的にはドレイン)とが接続されている。ソースフォロワトランジスタ309の制御端子(ゲート)は、フォトダイオード203に接続されている。フォトダイオード203によって生成された信号電荷(正孔または電子)は、フォトダイオード203とソースフォロワトランジスタ309との間の電荷蓄積ノードである浮遊拡散層204〜207に蓄積される。
図6には示されていないが、4つの浮遊拡散層204〜207は、フォトダイオード203に接続され、フォトダイオード203と各浮遊拡散層との間には、スイッチが設けられる。このスイッチは、制御回路108からの信号蓄積パルスに応じて、フォトダイオード203と浮遊拡散層204〜207の各々との間の導通状態を切り替える。これにより、浮遊拡散層204〜207の各々への信号の蓄積の開始と停止とが制御される。
上記の繰り返し動作によって浮遊拡散層204〜207に蓄積された信号電荷は、行選択回路302によってFD信号読み出しトランジスタ308のゲートがONにされることにより、読み出される。この際、浮遊拡散層204〜207の信号電位に応じて、ソースフォロワ電源305からソースフォロワトランジスタ309およびソースフォロワ負荷306へ流入する電流が増幅される。垂直信号線304から読み出されるこの電流によるアナログ信号は、列毎に接続されたアナログ−デジタル(AD)変換回路307によってデジタル信号データに変換される。このデジタル信号データは、列選択回路303によって列ごとに読み出され、撮像素子106から出力される。行選択回路302および列選択回路303は、1つの行の読出しを行った後、次の行の読み出しを行い、以下同様に、全ての行の浮遊拡散層の信号電荷の情報を読み出す。制御回路108は、全ての信号電荷を読み出した後、リセットトランジスタ310のゲートをオンにすることで、全ての浮遊拡散層をリセットする。これにより、1つのフレームの撮像が完了する。以下同様に、フレームの高速撮像を繰り返すことにより、撮像素子106による一連のフレームの撮像が完結する。
本実施の形態では、CMOS型の撮像素子106の例を説明したが、撮像素子はCCD型であっても、単一光子計数型素子であっても、増幅型イメージセンサ(EMCCD、ICCD)であっても構わない。
次に、撮像素子106から出力された時間分解された4つの画像の各々を波長成分毎に分離する処理(分光分離処理)を説明する。この処理は、図1に示す信号処理回路112における第1信号処理部109によって行われる。
図7は、この分光分離処理のイメージを示す概念図である。図7では、イメージを伝えるためにリンゴの画像を用いているが、これは多重像を説明するための便宜的なものである。第1信号処理部109は、波長ごとに垂直方向にズレながら重なった多重像を以下の手順に従って波長ごとの複数の画像に分離する。この画像の分離は、浮遊拡散層204〜207に蓄積された信号電荷に基づく4つの画像のそれぞれについて行われる。より具体的には、4つの画像のそれぞれについて、各波長成分の像における垂直方向のアドレスのズレを補正して、波長によって重なりのないアドレスの一致したw個の画像F1〜Fwを生成する。ここで生成される画像の数wは、2以上の任意の数であり得る。例えば、4以上100以下の数であり得る。
求めたいデータは分光分離画像F1〜Fwであり、そのデータをfと表す。分光帯域数(バンド数)がwなので、fは各帯域の画像データf1、f2、・・・、fwを統合したデータである。求めるべき画像データのx方向の画素数をn、y方向の画素数をmとすると、画像データf1、f2、・・・、fwの各々は、n×m画素の2次元データの集まりである。したがって、データfは要素数n×m×wの3次元データである。分光素子Pが、求める分光帯域ごとにy方向に1画素ずつ分光画像をシフトさせるとすると、取得される撮影画像Gのデータgの要素数はn×(m+w−1)である。本実施の形態におけるデータgは、以下の(数2)で表すことができる。
Figure 2017015694
ここで、f1、f2、・・・、fwは、n×m個の要素を有するデータであるため、右辺のベクトルは、厳密にはn×m×w行1列の1次元ベクトルである。ベクトルgは、n×(m+w−1)行1列の1次元ベクトルに変換して表され、計算される。行列Hは、ベクトルfを符号化によって強度変調し、各成分f1、f2、・・・、fwをy方向に1画素ずつシフトし、それらを加算する変換を表す。したがって、Hは、n(m+w−1)行n×m×w列の行列である。
ここでは各波長帯域の画像が1画素ずつシフトすることを想定したため、gの要素数をn×(m+w−1)としたが、必ずしも1画素ずつ各画像をシフトさせる必要はない。シフトさせる画素数は、2画素またはそれ以上でもよい。シフトさせる画素数は、再構成される分光分離画像Fにおける分光帯域・分光帯域数をどう設計するかに依存する。シフトさせる画素数に応じてgの要素数は変化する。また、分光方向もy方向に限定されず、x方向にシフトさせてもよい。一般化すれば、ky、kxを任意の自然数として、y方向にky画素、x方向にkx画素ずつ像をシフトさせる場合、データgの要素数は、{n+kx・(w−1)}×{m+ky・(w−1)}となる。
さて、ベクトルgと行列Hが与えられれば、(数2)の逆問題を解くことでfを算出することができそうである。しかし、求めるデータfの要素数n×m×wが取得データgの要素数n(m+w−1)よりも多いため、この問題は不良設定問題となり、このままでは解くことができない。そこで、本実施の形態の信号処理回路112は、データfに含まれる画像の冗長性を利用し、圧縮センシングの手法を用いて解を求める。具体的には、以下の(数3)の式を解くことにより、求めるデータfを推定する。
Figure 2017015694
ここで、f’は、推定されたfのデータを表す。上式の括弧内の第1項は、推定結果Hfと取得データgとのずれ量、いわゆる残差項を表す。ここでは2乗和を残差項としているが、絶対値あるいは二乗和平方根等を残差項としてもよい。括弧内の第2項は、後述する正則化項(または安定化項)である。(数3)は、第1項と第2項との和を最小化するfを求めることを意味する。信号処理回路112は、再帰的な反復演算によって解を収束させ、最終的な解f’を算出することができる。
(数3)の括弧内の第1項は、取得データgと、推定過程のfを行列Hによってシステム変換したHfとの差分の二乗和を求める演算を意味する。第2項のΦ(f)は、fの正則化における制約条件であり、推定データのスパース情報を反映した関数である。働きとしては、推定データを滑らかまたは安定にする効果がある。正則化項は、例えば、fの離散的コサイン変換(DCT)、ウェーブレット変換、フーリエ変換、またはトータルバリエーション(TV)等によって表され得る。例えば、トータルバリエーションを使用した場合、観測データgのノイズの影響を抑えた安定した推測データを取得できる。それぞれの正則化項の空間における測定対象物のスパース性は、測定対象物のテキスチャによって異なる。測定対象物のテキスチャが正則化項の空間においてよりスパースになる正則化項を選んでもよい。あるいは、複数の正則化項を演算に含んでもよい。τは、重み係数であり、この値が大きいほど冗長的なデータの削減量が多くなり(圧縮する割合が高まり)、小さいほど解への収束性が弱くなる。重み係数τは、fがある程度収束し、かつ、過圧縮にならない適度な値に設定される。
なお、ここでは(数3)に示す圧縮センシングを用いた演算例を示したが、その他の方法を用いて解いてもよい。例えば、最尤推定法およびベイズ推定法などの他の統計的方法を用いることができる。また、分光分離画像F1〜Fwの数は任意であり、各波長帯域も任意に設定してよい。
次に、図1に示す第2信号処理部110による3D画像生成処理を説明する。
図8は、第2信号処理部110による3D画像生成処理の概要を示す図である。前述の時間分解撮像により、距離レンジ毎の4枚の2次元(2D)画像FD1(1〜3m)、FD2(3〜5m)、FD3(5〜7m)、FD4(7〜9m)が得られる。第2信号処理部110は、これらの2D画像における各画像間の同一画素アドレスのレベル変化に空間高域強調フィルターを適宜作用させる。これにより、パルス光源107の発光パルス時間が有限の長さ(例えば5ns)を有することによって生じるクロストークの影響、すなわち、同一アドレスの画素値の変化が小さくなっている影響を補正する。
次に、第1信号処理部109によって生成された波長帯域ごとの複数の画像に基づき、ガスの種類を同定する。例えば、355nmおよび266nmの2波長の励起光を用いて、3種類のガス(CO、NH3、H2S)を検出する場合、前述の表1によれば、282.1nm、285.9nm、289.2nm、384.3nm、391.3nm、402.7nmの各波長の成分に着目すればよい。第1信号処理部109が、これらの波長の成分ごとに分光分離画像を生成した場合、強度がピークになる波長を検出することにより、ガスの種類を同定でき、そのピーク波長の光の強度レベルから濃度を検出できる。
本実施形態における撮像対象空間は光透過体であるため、FD1〜FD4の4枚の画像データのXY座標(画素アドレス)は、撮像装置(カメラ)の位置からの横方向および縦方向の正面方向に対する角度を直接表す。一方、FD1からFD4は撮像装置からの距離レンジに直接対応している。このため、FD1〜FD4の各画像に単純なアドレス変換を施すことにより、XYZの3次元座標が算出できる。これにより、所望のガスの3D空間濃度分布画像が得られる。
(実施の形態2)
次に、本開示の実施の形態2を説明する。本実施の形態における撮像装置は、実施の形態1と同様、ガスの種類と濃度の検知を目的とし、ガスの濃度の空間分布を3D画像化することができる。実施の形態1との相違点は、図9に示すように、符号化素子および分光素子が一体化された符号化分光素子901が時間分解撮像素子106の直前に配置され、それに伴ってリレー光学系が削除された点にある。以下、実施の形態1との相違点を中心に、本実施の形態を、図9、10を参照しながら説明する。
励起光カットフィルター111にラマン散乱光が入射するまでの動作は実施の形態1と全く同じであるため、説明を省略する。
図10は、符号化分光素子901の構成を模式的に示す図である。図10の(a)に示すように、符号化分光素子901は、2次元に配列された複数の領域を有する。各領域は、透光性の部材で形成され、個別に設定された分光透過率を有する。ここで、「分光透過率」とは、光透過率の波長分布を意味する。分光透過率は、入射光の波長をλとして、関数T(λ)で表される。分光透過率T(λ)は、0以上1以下の値を取り得る。図10の(a)では、6行8列に配列された48個の矩形領域が例示されているが、実際の用途では、これよりも遥かに多くの領域が設けられ得る。その数は、例えば撮像素子106の画素数(例えば数十万から数千万)と同程度であり得る。ある例では、符号化分光素子901は、撮像素子の直上に配置され、各領域が撮像素子の1つの画素に対応(対向)するように配置され得る。
図10の(b)は、検出対象の複数の波長域W1、W2、・・・、Wiのそれぞれの光の透過率の空間分布の一例を示している。この図において、各領域(セル)の濃淡の違いは、透過率の違いを表している。淡い領域ほど透過率が高く、濃い領域ほど透過率が低い。図10の(b)に示されるように、波長域によって光透過率の空間分布が異なっている。
図10の(c1)、(c2)は、符号化分光素子901における2つの領域A1、A2における分光透過率の例を示している。領域A1における分光透過率と領域A2における分光透過率とは異なっている。このように、符号化分光素子901における分光透過率は領域によって異なる。ただし、必ずしも全ての領域の分光透過率が異なっている必要はない。符号化分光素子901における複数の領域のうちの少なくとも一部(2以上)の領域の分光透過率が互いに異なっていればよい。ある例では、符号化分光素子901に含まれる複数の領域の分光透過率のパターンの数は、対象波長域に含まれる波長域の数iと同じか、それ以上であり得る。典型的には、符号化分光素子901は、半数以上の領域で分光透過率が異なるように設計される。
図11Aは、符号化分光素子901のある領域における分光透過率の特性を説明するための図である。この例における分光透過率は、対象波長域W内の波長に関して、複数の極大値P1〜P5および複数の極小値を有する。この例では、波長域W2、Wi−1等において分光透過率の極大値を有している。このように、本実施形態では、各領域の分光透過率は、複数の波長域W1〜Wiのうちの複数(少なくとも2つ)の波長域において極大値を有する。
各領域の光透過率は、波長によって異なるため、符号化分光素子901は、入射する光のうち、ある波長域の成分を多く透過させ、他の波長域の成分をそれほど透過させない。例えば、i個の波長域のうちのk個(kは、2≦k<iを満たす整数)の波長域の光については、透過率が0.5(50%)よりも大きく、残りのi−k個の波長域の光については、透過率が0.5(50%)未満であり得る。仮に入射光が、全ての可視光の波長成分を均等に含む白色光であった場合には、符号化分光素子901は、入射光を領域ごとに、波長に関して離散的な複数の強度のピークを有する光に変調し、これらの多波長の光を重畳して出力する。
図11Bは、一例として、図11Aに示す分光透過率を、波長域W1、W2、・・・、Wiごとに平均化した結果を示す図である。平均化された透過率は、分光透過率T(λ)を波長域ごとに積分してその波長域の幅(帯域幅)で除算することによって得られる。本明細書では、このように波長域ごとに平均化した透過率の値を、その波長域における透過率と称する。この例では、極大値P1、P3、P5をとる3つの波長域において、透過率が突出して高くなっている。特に、極大値P3、P5をとる2つの波長域において、透過率が0.8(80%)を超えている。
各領域の分光透過率の波長方向の分解能は、所望の波長域の幅(帯域幅)程度に設定され得る。言い換えれば、分光透過率曲線における1つの極大値(ピーク)を含む波長範囲のうち、当該極大値に最も近接する極小値と当該極大値との平均値以上の値をとる範囲の幅は、所望の波長域の幅(帯域幅)程度に設定され得る。この場合、分光透過率をフーリエ変換等を用いて周波数成分に分解すれば、その波長域に相当する周波数成分の値が相対的に大きくなる。
符号化分光素子901は、典型的には、図10の(a)に示すように、格子状に区分けされた複数の領域(セル)に分割される。これらのセルが互いに異なる分光透過率特性を有する。符号化分光素子901における各領域の光透過率の波長分布および空間分布は、例えば前述したランダム分布または準ランダム分布であり得る。
符号化分光素子901を撮像素子106の近傍あるいは直上に配置する場合、符号化分光素子901における複数の領域の相互の間隔(セルピッチ)は、撮像素子106の画素ピッチと略一致させてもよい。このようにすれば、符号化分光素子901から出射した符号化された光の像の解像度が画素の解像度と略一致する。各セルを透過した光が対応する1つの画素にのみ入射するようにすることで、後述する演算を容易にすることができる。符号化分光素子901を撮像素子106から離して配置する場合には、その距離に応じてセルピッチを細かくしてもよい。
図10に示す例では、各領域の透過率が0以上1以下の任意の値をとり得るグレースケールの透過率分布を想定した。しかし、必ずしもグレースケールの透過率分布にする必要はない。例えば、各領域の透過率が略0または略1のいずれかの値を取り得るバイナリ−スケールの透過率分布を採用してもよい。バイナリ−スケールの透過率分布では、各領域は、対象波長域に含まれる複数の波長域のうちの少なくとも2つの波長域の光の大部分を透過させ、残りの波長域の光の大部分を透過させない(遮光する)ことになる。ここで「大部分」とは、概ね80%以上を指す。
全セルのうちの一部(例えば半分)のセルを、透明領域に置き換えてもよい。そのような透明領域は、対象波長域に含まれる全ての波長域W1〜Wiの光を同程度の高い透過率(例えば0.8以上)で透過させる。そのような構成では、複数の透明領域は、例えば市松状に配置され得る。すなわち、符号化分光素子901における複数の領域の2つの配列方向(図10の(a)における横方向および縦方向)において、光透過率が波長によって異なる領域と、透明領域とが交互に配列され得る。
符号化分光素子901は、多層膜、有機材料、回折格子構造、金属を含む微細構造の少なくとも1つを用いて構成され得る。多層膜を用いる場合、例えば、誘電体多層膜または金属層を含む多層膜が用いられ得る。この場合、セルごとに各多層膜の厚さ、材料、および積層順序の少なくとも1つが異なるように形成される。これにより、セルによって異なる分光特性を実現できる。多層膜を用いることにより、分光透過率におけるシャープな立ち上がりおよび立下りを実現できる。有機材料を用いた構成は、セルによって含有する顔料または染料が異なるようにしたり、異種の材料を積層させたりすることによって実現され得る。回折格子構造を用いた構成は、セルごとに異なる回折ピッチまたは深さの回折構造を設けることによって実現され得る。金属を含む微細構造を用いる場合は、プラズモン効果による分光を利用して作製され得る。
本実施形態によれば、撮像素子106の結像面上には、波長帯域ごとに異なる符号化情報を有する像が、互いに重なり合った多重像として結像される。実施の形態1と異なり、プリズム等の分光素子を使用していないため、像の空間方向のシフトは発生しない。よって、多重像であっても空間解像度を高く維持できる。
撮像素子106による時間分解撮像の動作は実施の形態1と全く同じであるので説明を省略する。また、信号処理についても、空間的なズレが発生していない分光多重像が取得されること以外は実施の形態1と差異はない。垂直方向のアドレス補正を行う処理を除けば、実施の形態1と同様の処理で分光分離画像および3D画像を生成できる。よって、信号処理についての説明は省略する。
本実施形態は、符号化分光素子を用いることで、リレー光学系を省略できる。このため、実施形態1の構成と比較して、小型の機器で同等の機能を実現することができる。
(実施の形態3)
実施の形態3の撮像装置は、生体等の光散乱体を検知対象物とする。検知すべき分子を同定し、その濃度分布を3D画像として再構築することができる。本実施の形態の撮像装置は、脳内の血液の酸素化ヘモグロビンおよび脱酸素化ヘモグロビンの濃度分布と、その時間変化を検出する。生体に対しては、水分とヘモグロビンの双方共に比較的吸収されにくい生体の窓と呼ばれる700〜900nmの近赤外光を使用してもよい。このため、本実施形態でもこの波長域の近赤外光が主に使用される。
図12は、本実施の形態の撮像装置の概略的な構成を示す図である。撮像装置は、近赤外レーザーパルス光源1104と、符号化分光素子1107と、撮像素子1106と、制御回路1108と、信号処理回路1112とを備える。
近赤外レーザーパルス光源1104は、700〜900nmのブロードな分光特性を有する近赤外線を検知対象である脳組織1103に向けて照射する。この照射は、制御回路1108からの制御信号に従い、短パルスで繰り返し行われる。
本実施形態では、頭部表面1101での反射によるロスを減少させ、近赤外光を効率良く脳内に導くため、光源1104は頭部表面1101に密着させて使用される。また、ジェルシートまたはクリーム等を用いて反射を低減させてもよい。図12に示す例では、表皮からの漏れ光をカットする目的で遮光板1105が用いられている。
照射された短パルスの赤外光線の一部は、頭蓋骨1102を透過して、脳組織1103内で吸収および弾性散乱を繰り返し、減衰しながら伝播する。その一部が再び頭蓋骨1102を透過し、頭部表面1101を透過して、符号化分光素子1107を介して撮像素子1106の受光面に到達し、光電変換が行われる。
なお、図12には、簡単のため、一組の光源1104、符号化分光素子1107、および撮像素子1106が描かれているが、実際には、複数組の光源1104、符号化分光素子1107、および撮像素子1106を含むシステムとして実施され得る。複数組の光源1104、符号化分光素子1107、および撮像素子1106は、例えば二次元的に均等な間隔(例えば3cm)で複数組配置され得る。複数組の光源1104および撮像素子1106を用いる場合には、光源間のクロストークを抑えるため、レーザーの高速時分割照射等の対応を行えばよい。
以下、一組の光源1104および撮像素子1106を用いる例について詳細を説明する。
符号化分光素子1107は、実施の形態2における符号化分光素子と同一のものを利用できる。このため、符号化分光素子1107の詳細な説明は省略する。
本実施形態では、実施の形態1および実施の形態2とは異なり、光源1104から出射される光の波長分布はブロードである。さらに、結像光学系を有しないため、符号化分光素子1107を撮像素子1106の直前に設置する。
撮像素子1106の受光面には、波長帯域ごとに異なる符号化情報を有する像が、互いに重なり合った多重像として結像される。本実施形態では、プリズム等の分光素子を使用していないため、像の空間方向のシフトは発生しない。よって、多重像であっても空間解像度は高く維持できる。
図13は、本実施形態における撮像素子1106の画素構成の概略を示す図である。本実施形態における撮像素子1106は、実施の形態1における撮像素子と比較して、多くの浮遊拡散層を有し、より高速に動作する。以下、撮像素子1106の構成および動作を説明する。
画素1201内に光電変換部(フォトダイオード)1203が配置されている。フォトダイオード1203は、入射したフォトンを信号エレクトロンに変換する。変換された信号エレクトロンは、制御回路1108から入力される制御信号に従って、信号電荷排出部(ドレイン)1202に排出されるか、信号電荷を蓄える8つの浮遊拡散層(FD1〜FD8)1204〜1211のいずれかに高速に振り分けられる。
本実施形態では、対象物が光散乱体であるため、撮像素子1106の時間分解機能により、到達時間に応じて振り分けることにより、頭部内で散乱した光の光路長毎に光が振り分けられることになる。
図14は、本実施形態における発光パルスと、距離レンジ毎の拡散光と、8つの浮遊拡散層への信号蓄積パルスと、ドレイン1202への排出パルスのタイミングを示す図である。本実施の形態では、一例として、光路長の最大を99cm(真空中での換算値)と設定する。光速は秒速30万kmであるので、99cmの距離を光が伝播するのに要する時間は3300ピコ秒(ps)である。発光パルス幅を200psと設定すると、1サイクルに必要な時間は、発光パルスの後端の光成分が撮像素子1106の受光面に到達するタイミングであるので、図14に示す3500psである。本実施形態では、最大光路長99cmよりも長い光路長の光の影響を除外するために、マージン期間を6500psに設定し、1サイクルの合計時間を10nsとする。従って発光パルスの繰り返しサイクルの周波数はその逆数の100MHzである。
複数の光源を用いる場合には、このマージン期間に発光するように各光源を制御すればよい。多数の光源を用いる場合には、必要に応じて、マージン期間または1光源あたりの発光周波数を調整すればよい。
上記の発光パルスのタイミングおよび撮像素子の駆動タイミングは一例であり、この例に限定されない。これらの数値は、生体内の光路長、対象分子、受光素子の感度に応じて適宜、最適な値に設定すればよい。
以下、図14に示す動作の詳細を説明する。制御回路1108から入力される制御信号に従い、光源1104は、図14に示す0nsのタイミングで発光し、200psのタイミングで消光する。この際、頭部の外から回り込む漏れ光および測定対象範囲外の光路長3cm以下の光に相当する信号電荷を排除するために、ドレイン排出パルスはONに設定される。この間は、フォトダイオード1203で発生した不要な信号電荷はドレイン1202から排出される。
照射された近赤外光は、図14に示すように、各光路長に応じて遅延して撮像素子1106に符号化および分光された多重像として結像される。この多重像は、フォトダイオード1203によって信号電荷に変換される。
3cm未満の光路長の光の成分と光路長3cm〜15cmの光の成分は、発光パルス幅200psに相当する時間だけクロストークを原理的に含んでいる。このため、本実施形態では、クロストークが中央値になるタイミングから受光を開始する。具体的には、拡散光(光路長3〜15cm)の光の成分が撮像素子1106の結像面に到達し始めるタイミング100psから発光パルス幅200psの半分の100psを加えた200psから受光を開始する。
制御回路1108は、図14に示す200psのタイミングでドレイン排出パルスをOFFにすると同時に、第1の浮遊拡散層(FD1)1204への信号蓄積パルスをONにする。そして、拡散光(光路長3〜12cm)の光の成分が減衰して50%の光量となる600psのタイミングで、第1の浮遊拡散層1204への信号蓄積パルスをOFFにする。これにより、第1の浮遊拡散層1204に信号電荷が転送および蓄積される。同様に、制御回路1108は、第2〜第8の浮遊拡散層(FD2〜FD8)1205〜1211への信号蓄積パルスを、図14に示すタイミングで順次オンにする。これにより、第1〜第8の浮遊拡散層1204〜1211に、発光パルス幅200ps分のクロストークを含む時間分解された信号電荷が順次、転送および蓄積される。制御回路1108は、第8の浮遊拡散層1211への信号蓄積パルスをOFFにする3400psのタイミングで、ドレイン排出パルスをONにする。これにより、測定光路長よりも長い99cm以上の光路長の光による不要な信号電荷をドレイン1202から排出する。
以上の一連の動作を100MHzの周波数で数十万回から必要に応じて数兆回繰り返すことにより、撮像素子1106の1フレームの信号電荷が蓄積される。繰り返し回数は光源1104の発光強度と撮像素子1106の感度に応じて調整される。脳内から戻ってくる近赤外拡散光は極めて微弱光であるので、レーザー発光との高速同期撮像を相当の回数繰り返し行うことで、感度の不足を補うことができる。
なお、本実施の形態では、複数の浮遊拡散層による時間分解数を8としているが、時間分解数は目的に応じて8以外の数に設計してもよい。
図15は、本実施形態における撮像素子1106の全体構成の一例を示す図である。図15において、二点鎖線の枠で囲まれた領域が1つの画素1201に相当する。画素1201は、8つの浮遊拡散層1204〜1211を含む。8つの浮遊拡散層1204〜1211に蓄積される信号は、あたかも一般的なCMOSイメージセンサの8画素の信号のように取り扱われ、撮像素子1106から出力される。
この撮像素子1106による時間分解撮像後の信号の読出しに関する動作は、浮遊拡散層の数が多い点を除けば、実施の形態1と同様であるので、説明を省略する。
次に、信号処理回路1112による動作を説明する。まず、本実施形態において使用される波長帯域について説明する。
図16Aは、酸素化ヘモグロビン、脱酸素化ヘモグロビン、および水の吸収係数の波長依存性を示すグラフである。図16Bは、生体組織中の光の散乱係数の波長依存性を示すグラフである。図中の2本の破線に挟まれた波長域(700〜900nm)は、生体の窓と呼ばれ、生体内の分子による吸収率が低いという特徴を有する。100MHz、200ps幅のパルスで照射された700〜900nmのブロードな分光特性を有する近赤外光は、頭部内部で散乱拡散する。その際、図16Aに示す生体内の酸素化ヘモグロビンおよび脱酸素化ヘモグロビンの吸収係数に応じて、波長毎に光が吸収される。吸収されずに伝播した光の一部が撮像素子1106の受光面まで到達して受光される。波長700〜800nmでは脱酸素化ヘモグロビンの吸収係数が酸素化ヘモグロビンの吸収係数よりも高く、800〜900nmではこの関係が逆転する。このため、脳内散乱光には、これらの分子の濃度情報が分光特性情報として含まれる。本実施の形態では波長帯域幅10nm毎に20バンドの分光分離数を設定する。なお、分光分離数はこの例に限定されず、適用されるアプリケーションの要求に応じて適宜設定すれば良い。
信号処理回路1112における第1信号処理部1109は、撮像素子1106から出力された時間分解された8つの画像の各々における多波長の分光多重像を波長帯域ごとに分離する。この方法については、実施の形態1、2と同様であるので、ここでは説明を省略する。
次に、第2信号処理部1110は、3D画像を再構築するための信号処理を行う。
図17は、この信号処理の流れを示すフローチャートである。前述の時間分解撮像により、FD1(3〜15cm)、FD2(15〜27cm)、FD3(27〜39cm)、FD4(39〜51cm)、FD5(51〜63cm)、FD6(63〜75cm)、FD7(75〜87cm)、FD8(87〜99cm)に対応する8枚の2D画像が撮像素子1106から出力される(ステップS301)。第1信号処理部1109が分光分離の処理を行うことにより、光路長毎に例えば20バンドの分光画像が生成される(ステップS302)。すなわち、1つの撮像素子1106あたり、1フレームの撮像測定結果から8光路長20バンド分光の計160枚の2D画像が生成される。
次に、第2信号処理部1110は、各光路長の画像間の同一画素アドレスのレベル変化に高域強調フィルターを適宜作用させる。これにより、近赤外レーザーパルス光源1104の発光パルス時間が有限の長さ(例えば200ps)を有することによって生じるクロストークの影響、すなわち、同一画素アドレスの画素値の変化が小さくなっている影響を補正する。第2信号処理部1110は、この補正した結果を撮像測定結果として、後述するシミュレーション結果との比較を行う。
図18は、1つの画素に到達する光量の時間変化の一例を示す図である。図示されるように、1つの画素には、光源1104からの光路長に応じて、連続的に光が到達する。光路長(FD1〜FD8)毎に、その積分値が検出される。このため、各画素の信号は、クロストークの成分を原理的に含む。ステップS303では、このクロストークの影響を低減するための処理が行われる。
次に、図17に示すシミュレーションの流れを説明する。
生体組織内では、近赤外光は強く散乱し、吸収は比較的弱い。このため、生体組織内で生じる光学現象は、光拡散現象として近似できることが知られている。散乱パターンも生体組織の厚さが数mmを超えると等方的になり、光エネルギーがあらゆる方向に拡散的に伝播する。散乱の強さは散乱係数、吸収の強さは吸収係数で表される。これらの係数の逆数が距離を表す。生体内の光伝播を記述する際に最も良く用いられるのが光拡散方程式である。
図17に示す3D画像再構築アルゴリズムは、まず、生体内の酸素化ヘモグロビンおよび脱酸素化ヘモグロビン等の分子密度分布を仮定する(ステップS401)。次に、光学特性値(吸収係数および散乱係数)の分布を計算する(ステップS402)。続いて、生体内の光伝播モデルを用いて光の伝播を数値的に解く順問題解析を行う(ステップS403)。さらに、撮像条件と同一の条件で各光路長および各波長の画像信号の成分を計算する(ステップS404)。その結果を撮像測定で得られた結果と比較する(ステップS405)。全て一致すれば、仮定した分子密度分布が正しいとして、3D画像が再構築されたと判断する。一致しなければ、仮定した分子密度が間違いであったと判断し、分子密度分布を仮定し直して、再度ステップS401〜S405の処理を実行する。第2信号処理部1110は、ステップS405で両者が一致するまでこの操作を繰り返す(逆問題)。
以上の処理は、一般的な光拡散トモグラフィーで行われる処理と同様である。
第2信号処理部1110は、得られた結果と、図16Aに示す酸素化ヘモグロビンおよび脱酸素化ヘモグロビンの吸収スペクトルの情報に基づいて、血液状態を示す画像を生成して出力する。
また、図16Bに示す波長毎の散乱係数の違いを詳細にシミュレーションすることが可能であり、その結果を利用することで、逆問題を解く精度が向上する。本実施の形態は、ブロードバンド光源を用いた分光圧縮センシングにより、例えば20バンドの分光画像を得ることができる。さらに、時間分解撮像素子1106により、十分な空間サンプリング点数(画素数)を有する画像(フレーム)を得ることが出来る。結果として、所望の3D再構築画像の高解像度化と、測定時間の短縮化とを同時に満足することが可能となる。
(実施の形態4)
実施の形態4の撮像装置は、実施の形態3と同様に、生体等の光散乱体を対象とし、観測すべき分子の同定とその濃度分布を3D画像として再構築することができる。
図19は、本実施の形態の撮像装置の概略的な構成を示す図である。撮像装置は、互いに異なる波長を含むパルス光を出射する第1の近赤外レーザーパルス光源1904、第2の近赤外レーザーパルス光源1905、第3の近赤外レーザーパルス光源1906、および第4の近赤外レーザーパルス光源1907と、符号化分光素子1910と、撮像素子1909と、遅延調整回路1915を含む制御回路1911と、第1信号処理部1912および第2信号処理部1913を含む信号処理回路1914とを備える。実施の形態4の撮像装置は、複数の光源を備える点、および制御回路が遅延調整回路を含む点で、実施の形態3の撮像装置と異なる。本実施の形態では光源が4つである例を示すが、光源の数は4に限定されない。
以下、実施の形態3の撮像装置との動作の差異を主体に説明する。第1の近赤外レーザーパルス光源1904、第2の近赤外レーザーパルス光源1905、第3の近赤外レーザーパルス光源1906、および第4の近赤外レーザーパルス光源1907は、それぞれ、波長750nmのパルス光、波長800nmのパルス光、波長850nmのパルス光、および波長900nmのパルス光を検知対象である脳組織1903に向けて照射する。この照射は、制御回路1911からの制御信号に従い、短パルスで繰り返し行われる。
各パルス光の脳組織1903内における拡散係数および散乱係数は、波長が異なるために互いに異なる。この違いを解消するために、制御回路1911内の遅延調整回路1915は、第1の近赤外レーザーパルス光源1904、第2の近赤外レーザーパルス光源1905、第3の近赤外レーザーパルス光源1906、および第4の近赤外レーザーパルス光源1907の発光のタイミングの微小な調整を行う。
本実施形態では、頭部表面1901での反射によるロスを減少させ、近赤外光を効率良く脳内に導くため、第1の近赤外レーザーパルス光源1904、第2の近赤外レーザーパルス光源1905、第3の近赤外レーザーパルス光源1906、および第4の近赤外レーザーパルス光源1907は頭部表面1901に密着させて使用される。また、ジェルシートまたはクリーム等を用いて反射を低減させてもよい。図19に示す例では、表皮からの漏れ光をカットする目的で遮光板1908が用いられている。
照射された短パルスの赤外光線の一部は、頭蓋骨1902を透過して、脳組織1903内で吸収および弾性散乱を繰り返し、減衰しながら伝播する。その一部が再び頭蓋骨1902を透過し、頭部表面1901を透過して、符号化分光素子1910を介して撮像素子1909の受光面に到達し、光電変換が行われる。
撮像素子1909の層構成および時間分解機能については、実施の形態3の撮像素子1106と同様であるので、説明を省略する。
次に、信号処理回路1914による動作を説明する。まず、本実施形態において使用される波長帯域について説明する。
図16Aは、酸素化ヘモグロビン、脱酸素化ヘモグロビン、および水の吸収係数の波長依存性を示すグラフである。図16Bは、生体組織中の光の散乱係数の波長依存性を示すグラフである。100MHz、200ps幅のパルスで照射された750nm、800nm、850nm、および900nmの波長を有する近赤外光は、頭部内部で散乱拡散する。その際、図16Aに示す生体内の酸素化ヘモグロビンおよび脱酸素化ヘモグロビンの吸収係数に応じて、波長毎に光が吸収される。吸収されずに伝播した光の一部が撮像素子1909の受光面まで到達して受光される。波長700〜800nmでは脱酸素化ヘモグロビンの吸収係数が酸素化ヘモグロビンの吸収係数よりも高く、800〜900nmではこの関係が逆転する。このため、脳内散乱光には、これらの分子の濃度情報が分光特性情報として含まれる。本実施の形態では、750nm、800nm、850nm、および900nmの4バンドの分光分離数を設定する。なお、分光分離数はこの例に限定されず、適用されるアプリケーションの要求に応じて適宜設定すれば良い。
第2信号処理部1913は、3D画像を再構築するための信号処理を行う。図17は、この信号処理の流れを示すフローチャートである。時間分解撮像により、FD1(3〜15cm)、FD2(15〜27cm)、FD3(27〜39cm)、FD4(39〜51cm)、FD5(51〜63cm)、FD6(63〜75cm)、FD7(75〜87cm)、FD8(87〜99cm)に対応する8枚の2D画像が撮像素子1909から出力される(ステップS301)。第1信号処理部1912が分光分離の処理を行うことにより、光路長毎に4バンドの分光画像が生成される(ステップS302)。すなわち、1つの撮像素子1909あたり、1フレームの撮像測定結果から8光路長4バンド分光の計32枚の2D画像が生成される。
次に、第2信号処理部1913は、各光路長の画像間の同一画素アドレスのレベル変化に高域強調フィルターを適宜作用させる。これにより、各近赤外レーザーパルス光源の発光パルス時間が有限の長さを有することによって生じるクロストークの影響を補正する。第2信号処理部1913は、この補正した結果を撮像測定結果として、後述するシミュレーション結果との比較を行う。
次に、図17に示すシミュレーションの流れを説明する。
図17に示す3D画像再構築アルゴリズムは、まず、生体内の酸素化ヘモグロビンおよび脱酸素化ヘモグロビン等の分子密度分布を仮定する(ステップS401)。次に、光学特性値である吸収係数および散乱係数の分布を計算する(ステップS402)。続いて、生体内の光伝播モデルを用いて光の伝播を数値的に解く順問題解析を行う(ステップS403)。さらに、撮像条件と同一の条件で各光路長および各波長の画像信号の成分を計算する(ステップS404)。その結果を撮像測定で得られた結果と比較する(ステップS405)。全て一致すれば、仮定した分子密度分布が正しいとして、3D画像が再構築されたと判断する。一致しなければ、仮定した分子密度が間違いであったと判断し、分子密度分布を仮定し直して、再度ステップS401〜S405の処理を実行する。第2信号処理部1913は、ステップS405で両者が一致するまでこの操作を繰り返す。
以上の処理は、一般的な光拡散トモグラフィーで行われる処理と同様である。
第2信号処理部1913は、得られた結果と、図16Aに示す酸素化ヘモグロビンおよび脱酸素化ヘモグロビンの吸収スペクトルの情報に基づいて、血液状態を示す画像を生成して出力する。
本実施の形態は、分光圧縮センシングにより、4バンドの分光画像を得ることができる。さらに、撮像素子1909により、十分な空間サンプリング点数を有する画像を得ることができる。結果として、所望の3D再構築画像の高解像度化と、測定時間の短縮化とを同時に満足することが可能となる。
以上のように、本開示の実施形態によれば、高時間分解、高解像度、多波長の3つの要求を満足する撮像装置を実現することができる。撮影対象が光透過空間である場合には、対象物を距離毎に分離して撮像するレンジゲート撮像を行い、撮像装置からの距離の範囲に応じた波長ごとの2D画像を得ることができる。また、各ガス分子に特有のラマン散乱による光の波長シフトまたは蛍光による光の波長シフトから、ガス分子の種類と濃度を検知することができる。複数の距離レンジ毎にレンジゲート撮像を同時に行うことにより、漏洩ガスの種類を特定し、かつ、ガスの濃度の3次元分布を非接触で検知することを、一台の撮像装置で実現することができる。
また、対象物が光散乱体の場合、さらにピコ秒オーダーの高時間分解撮像を行うことで、散乱体内の光路長毎および波長域毎に分離された2D画像が得られる。これらの2D画像と、散乱体内の分子の特有の吸収分光、散乱分光、または蛍光分光等の特性に基づき、散乱体内の分子の種類と濃度を検知できる。さらに、光路長毎の複数の2D画像から、検知対象の散乱体内の3D分布画像を演算によって再構築することができる。複数の波長域の画像情報を用いることで、波長域毎の散乱体内の散乱係数の違いに基づき、生成される3D画像の解像度の更なる向上が期待できるという利点を有する。
本開示の技術は、対象物を透過した光または対象物から散乱された光の波長情報を取得する用途に有用である。例えば、空気中、水中、または生体内の分子の同定、および当該分子の3次元濃度分布の可視化を行う用途に利用できる。より具体的には、生体内の血流観測、空気中のガスの漏洩検知および解析に利用できる。
101 測定対象物
102 結像光学系
103 リレー光学系
104 符号化素子
105 分光素子
106 撮像素子
107 光源
108 制御回路
109 第1信号処理部
110 第2信号処理部
111 励起光カットフィルター
112 信号処理回路
201 画素
202 信号電荷排出部(ドレイン)
203 光電変換部(フォトダイオード)
204 第1浮遊拡散層(FD1)
205 第1浮遊拡散層(FD2)
206 第1浮遊拡散層(FD3)
207 第1浮遊拡散層(FD4)
302 行選択回路
303 列選択回路
304 垂直信号線
305 ソースフォロワ電源
306 ソースフォロワ負荷
307 AD変換回路
308 FD信号読み出しトランジスタ
309 ソースフォロワトランジスタ
310 リセットトランジスタ
901 符号化分光素子
1101 頭部表面
1102 頭蓋骨
1103 脳組織
1104 近赤外レーザーパルス光源
1105 遮光板
1106 撮像素子
1107 符号化分光素子
1108 制御回路
1109 信号処理部1
1110 信号処理部2
1112 信号処理回路
1201 画素
1202 信号電荷排出部(ドレイン部)
1203 光電変換部(フォトダイオード)
1204 第1浮遊拡散層(FD1)
1205 第2浮遊拡散層(FD2)
1206 第3浮遊拡散層(FD3)
1207 第4浮遊拡散層(FD4)
1208 第5浮遊拡散層(FD5)
1209 第6浮遊拡散層(FD6)
1210 第7浮遊拡散層(FD7)
1211 第8浮遊拡散層(FD8)

Claims (13)

  1. 波長の異なる複数の成分を含むパルス光を出射する光源と、
    前記パルス光が照射された対象物からの入射光が透過する、光透過率の異なる複数の領域を有する符号化素子と、
    前記複数の領域を透過した前記入射光を、前記波長に応じて複数の光に分散させる分光素子と、
    前記分光素子によって分散した前記複数の光を受ける撮像素子と、
    前記光源および前記撮像素子を制御する制御回路と、
    を備える、撮像装置。
  2. 複数の波長の成分を含むパルス光を出射する光源と、
    前記パルス光が照射された対象物からの入射光が透過する、光透過率の波長分布が異なる複数の領域を有する符号化分光素子と、
    前記複数の領域を透過した前記入射光を受ける撮像素子と、
    前記光源および前記撮像素子を制御する制御回路と、
    を備える、撮像装置。
  3. 前記対象物は第1の部分および第2の部分を有し、
    前記制御回路は、
    第1の時間において、前記光源に前記パルス光を出射させ、
    前記第1の時間よりも後の第2の時間において、前記撮像素子に、前記対象物の前記第1の部分からの第1の入射光に基づく第1の信号電荷を蓄積させ、
    前記第2の時間よりも後の第3の時間において、前記撮像素子に、前記対象物の前記第2の部分からの第2の入射光に基づく第2の信号電荷を蓄積させ、
    前記第1の信号電荷に基づく第1の画像信号と、前記第2の信号電荷に基づく第2の画像信号とを、前記撮像素子に出力させる、
    請求項1または2に記載の撮像装置。
  4. 前記撮像素子は、各々が第1の電荷蓄積部および第2の電荷蓄積部を含む複数の光検出セルを有し、
    前記制御回路は、
    前記第2の時間において、前記複数の光検出セルの各々における前記第1の電荷蓄積部に、前記第1の信号電荷を蓄積させ、
    前記第3の時間において、前記複数の光検出セルの各々における前記第2の電荷蓄積部に、前記第2の信号電荷を蓄積させる、
    請求項3に記載の撮像装置。
  5. 前記制御回路は、
    前記第1の時間における前記パルス光の前記出射と、前記第2の時間における前記第1の信号電荷の前記蓄積と、前記第3の時間における前記第2の信号電荷の前記蓄積とを、前記光源および前記撮像素子に複数回繰り返させた後、
    前記第1の画像信号と前記第2の画像信号とを、前記撮像素子に出力させる、
    請求項3または4に記載の撮像装置。
  6. 前記第1の画像信号を前記波長に応じて複数の第1の分離画像信号に分離し、前記第2の画像信号を前記波長に応じて複数の第2の分離画像信号に分離する信号処理回路をさらに備える、請求項3から5のいずれかに記載の撮像装置。
  7. 前記信号処理回路は、前記複数の第1の分離画像信号と、前記複数の第2の分離画像信号とに基づいて、前記対象物の3次元画像を生成する、請求項6に記載の撮像装置。
  8. 前記対象物は光散乱体であり、
    前記信号処理回路は、
    前記対象物の光学特性値分布を仮定し、
    前記対象物内の光伝播を計算し、
    前記光伝播の計算結果と、前記複数の第1の分離画像信号および前記複数の第2の分離画像信号とを比較し、
    比較結果が一致するまで前記光学特性値分布の仮定を繰り返し、
    前記比較結果が一致したときの前記光学特性値分布に基づいて、前記3次元画像を生成する、
    請求項7に記載の撮像装置。
  9. 前記対象物はガスである、請求項1から8のいずれかに記載の撮像装置。
  10. 前記対象物は光散乱体である、請求項1から7のいずれかに記載の撮像装置。
  11. 前記パルス光は紫外線または赤外線である、請求項1から10のいずれかに記載の撮像装置。
  12. 第1の波長を含む第1のパルス光を出射する第1の光源と、
    前記第1の波長と異なる第2の波長を含む第2のパルス光を出射する第2の光源と、
    前記第1のパルス光および前記第2のパルス光が照射された対象物からの入射光が透過する、光透過率の異なる複数の領域を有する符号化素子と、
    前記複数の領域を透過した前記入射光を、前記第1の波長を含む第1の入射光と、前記第2の波長を含む第2の入射光とに分散させる分光素子と、
    前記第1の入射光および前記第2の入射光を受ける撮像素子と、
    前記光源および前記撮像素子を制御する制御回路と、
    を備え、
    前記制御回路は、
    第1の時間において、前記第1の光源に前記第1のパルス光を出射させ、
    前記第1の時間と異なる第2の時間において、前記第2の光源に前記第2のパルス光を出射させる、
    撮像装置。
  13. 第1の波長を含む第1のパルス光を出射する第1の光源と、
    前記第1の波長と異なる第2の波長を含む第2のパルス光を出射する第2の光源と、
    前記第1のパルス光および前記第2のパルス光が照射された対象物からの入射光が透過する、光透過率の波長分布が異なる複数の領域を有する符号化分光素子と、
    前記複数の領域を透過した前記入射光を受ける撮像素子と、
    前記光源および前記撮像素子を制御する制御回路と、
    を備え、
    前記制御回路は、
    第1の時間において、前記第1の光源に前記第1のパルス光を出射させ、
    前記第1の時間と異なる第2の時間において、前記第2の光源に前記第2のパルス光を出射させる、
    撮像装置。
JP2016105852A 2015-07-02 2016-05-27 撮像装置 Active JP6726888B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015133891 2015-07-02
JP2015133891 2015-07-02

Publications (2)

Publication Number Publication Date
JP2017015694A true JP2017015694A (ja) 2017-01-19
JP6726888B2 JP6726888B2 (ja) 2020-07-22

Family

ID=57683025

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016105852A Active JP6726888B2 (ja) 2015-07-02 2016-05-27 撮像装置

Country Status (3)

Country Link
US (3) US10215636B2 (ja)
JP (1) JP6726888B2 (ja)
CN (1) CN106331442B (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018182521A (ja) * 2017-04-12 2018-11-15 キヤノン株式会社 撮像装置、撮像方法および撮像プログラム
JP2021500575A (ja) * 2017-10-27 2021-01-07 ノキア テクノロジーズ オサケユイチア 光を検出するための装置、システムおよび方法
JPWO2019181969A1 (ja) * 2018-03-20 2021-02-12 日本電気株式会社 撮像装置及び撮像方法
JP2021520442A (ja) * 2018-04-03 2021-08-19 ノバフラックス インコーポレイテッド 高吸収性ポリマーを備える洗浄組成物
WO2022075094A1 (ja) * 2020-10-05 2022-04-14 パナソニックIpマネジメント株式会社 処理装置、システム、方法、コンピュータプログラム
WO2023282069A1 (ja) * 2021-07-06 2023-01-12 パナソニックIpマネジメント株式会社 信号処理装置および信号処理方法
JP2023513445A (ja) * 2020-01-24 2023-03-31 イシダ ヨーロッパ リミテッド 容器の破損を検出するためのシステムおよび方法
JP2023045708A (ja) * 2021-09-22 2023-04-03 株式会社四国総合研究所 ガス測定可視化装置

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016165129A1 (en) * 2015-04-17 2016-10-20 Hewlett-Packard Development Company, L. P. Scanner
CN106331442B (zh) * 2015-07-02 2021-01-15 松下知识产权经营株式会社 摄像装置
US10288483B2 (en) * 2017-04-09 2019-05-14 Cymer, Llc Recovering spectral shape from spatial output
CN107121709B (zh) * 2017-06-01 2023-07-25 华南师范大学 一种基于压缩感知的对象成像系统及其成像方法
CN109596538B (zh) * 2017-10-03 2023-08-25 株式会社堀场制作所 分析装置和分析方法
US11231197B2 (en) * 2017-12-01 2022-01-25 Johnson Controls Technology Company Ultraviolet (UV) light-based refrigerant leak detection system and method
CN119097305A (zh) * 2018-05-30 2024-12-10 松下知识产权经营株式会社 识别装置及识别方法
JP7012315B2 (ja) * 2018-07-13 2022-01-28 国立大学法人 東京大学 画像生成装置及び画像生成方法
CN112005101A (zh) * 2018-08-28 2020-11-27 松下知识产权经营株式会社 传感器基板及其制造方法
CN112106064B (zh) 2018-10-15 2025-01-10 松下知识产权经营株式会社 物体识别方法、车辆控制方法、信息显示方法以及物体识别装置
JP7192447B2 (ja) * 2018-11-30 2022-12-20 セイコーエプソン株式会社 分光カメラおよび電子機器
WO2020122628A1 (ko) * 2018-12-13 2020-06-18 엘지이노텍 주식회사 카메라 장치
MX2021014834A (es) * 2019-06-07 2022-01-18 Basf Coatings Gmbh Metodo y dispositivo para detectar un fluido mediante una aplicacion de vision artificial.
US11516388B2 (en) 2019-06-20 2022-11-29 Cilag Gmbh International Pulsed illumination in a fluorescence imaging system
US11304456B2 (en) 2019-07-28 2022-04-19 Holovisions LLC Smart bra with optical sensors to detect abnormal breast tissue
US12201402B2 (en) 2019-07-28 2025-01-21 Holovisions LLC Wearable device (smart bra) with compressive chambers and optical sensors for analyzing breast tissue
US11950881B2 (en) 2019-07-28 2024-04-09 Holovsions LLC Smart bra for optical scanning of breast tissue to detect abnormal tissue with selectively-expandable components to reduce air gaps
CN113439203B (zh) * 2020-01-16 2025-08-08 松下知识产权经营株式会社 光学滤波器阵列、光检测装置及光检测系统
US12430554B2 (en) * 2020-10-20 2025-09-30 The Regents Of The University Of California Device and method for neural-network based on-chip spectroscopy using a plasmonic encoder
JPWO2022244645A1 (ja) * 2021-05-20 2022-11-24
KR102549929B1 (ko) * 2021-08-05 2023-06-30 주식회사 메타플바이오 3차원 광 검출 장치
CN113852738B (zh) * 2021-09-13 2023-08-08 维沃移动通信有限公司 摄像模组、电子设备、图像获取方法和装置
CN115128113B (zh) * 2022-06-21 2024-07-30 上海科技大学 自参考x射线自由电子激光脉冲到达时间诊断装置
EP4353150B1 (en) * 2022-08-09 2025-12-24 Fujita Medical Instruments Co., Ltd. Biological information detection device and biological information detection method
US20240096117A1 (en) * 2022-09-20 2024-03-21 Crystal Jing Li Multi-spectrum camera system to enhance food regonition
US12476706B2 (en) 2023-03-30 2025-11-18 Zoom Communications, Inc. Using a light communications system to cause an update associated with a virtual meeting
CN120107496B (zh) * 2025-05-09 2025-07-29 合肥中科红外精密仪器有限公司 一种泄漏气云三维重建方法

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005091343A (ja) * 2003-03-07 2005-04-07 Shikoku Res Inst Inc ガス漏洩監視方法、及びそのシステム
US20050283071A1 (en) * 2002-06-04 2005-12-22 Visen Medical, Inc. Imaging volumes with arbitrary geometries in contact and non-contact tomography
US20060092414A1 (en) * 1999-04-09 2006-05-04 Frank Geshwind Devices and method for spectral measurements
US20060192938A1 (en) * 2003-02-03 2006-08-31 National University Corporation Shizuoka University Distance image sensor
JP2006314557A (ja) * 2005-05-12 2006-11-24 Olympus Medical Systems Corp 生体観測装置
JP2009529160A (ja) * 2006-02-06 2009-08-13 キネテイツク・リミテツド 撮像システム
JP2010071832A (ja) * 2008-09-19 2010-04-02 Stanley Electric Co Ltd 光飛行時間型距離画像センサの制御方法およびそのシステム
JP2013244343A (ja) * 2012-05-29 2013-12-09 Mitsubishi Electric Engineering Co Ltd 生体情報提示装置および生体情報提示方法
WO2014147515A1 (en) * 2013-03-19 2014-09-25 Koninklijke Philips N.V. System for hyperspectral imaging in visible light, method for recording a hyperspectral image and displaying the hyperspectral image in visible light
JP2014531032A (ja) * 2011-10-25 2014-11-20 センター フォー スペース サイエンス アンド アプライド リサーチ、 チャイニーズ アカデミー オブ サイエンスズCenter For Space Science And Applied Research, Chinese Academy Of Sciences 時間分解単一光子又は極微弱光多次元イメージングスペクトルシステム及び方法

Family Cites Families (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5627639A (en) * 1995-06-06 1997-05-06 Lockheed Missiles & Space Company, Inc. Coded aperture imaging spectrometer
JP3699761B2 (ja) * 1995-12-26 2005-09-28 オリンパス株式会社 落射蛍光顕微鏡
WO2001061291A1 (en) 2000-02-15 2001-08-23 Varian Australia Pty Ltd Optical shutter for spectroscopy instrument
US6615063B1 (en) 2000-11-27 2003-09-02 The General Hospital Corporation Fluorescence-mediated molecular tomography
JP2005519309A (ja) * 2002-03-06 2005-06-30 アドバンスト フォトメトリクス, インク. 放射エンコーディング及び分析のための方法及び装置
JP4219645B2 (ja) * 2002-09-12 2009-02-04 シャープ株式会社 マイクロレンズアレイの露光方法
JP2004347454A (ja) * 2003-05-22 2004-12-09 Mitsubishi Rayon Co Ltd シェーディング補正方法
US7283231B2 (en) * 2004-07-20 2007-10-16 Duke University Compressive sampling and signal inference
JP5220420B2 (ja) 2005-01-19 2013-06-26 オプトポ インコーポレイテッド ディー/ビー/エイ センティス コーポレイション 静的マルチモードマルチプレックス分光法のための静的2次元符号化アパーチャ
US7336353B2 (en) * 2005-10-17 2008-02-26 Duke University Coding and modulation for hyperspectral imaging
EP2284509B1 (en) * 2005-11-04 2018-01-31 George Themelis System for multispectral imaging
CN101360460B (zh) * 2006-01-20 2011-02-16 住友电气工业株式会社 摄像系统
WO2007083755A1 (ja) * 2006-01-20 2007-07-26 Sumitomo Electric Industries, Ltd. 分析装置、真贋判定装置、真贋判定方法、及び地中探索方法
JP5055936B2 (ja) 2006-10-11 2012-10-24 株式会社島津製作所 分光光度計
WO2008127385A2 (en) * 2006-10-24 2008-10-23 Thermo Niton Analyzers Llc Apparatus for inspecting objects using coded beam
JP4774030B2 (ja) * 2007-02-19 2011-09-14 セイコーエプソン株式会社 液晶装置とその製造方法、電子機器
JP5254581B2 (ja) * 2007-08-22 2013-08-07 Hoya株式会社 フォトマスク及びフォトマスクの製造方法
CA2753432A1 (en) * 2009-03-02 2010-09-10 Genia Photonics Inc. Method for assessing an interaction of a sample with light beams having different wavelengths and apparatus for performing same
US8149400B2 (en) * 2009-04-07 2012-04-03 Duke University Coded aperture snapshot spectral imager and method therefor
JP5370246B2 (ja) * 2009-05-27 2013-12-18 セイコーエプソン株式会社 光フィルター、光フィルター装置、分析機器、および光フィルターの製造方法
EP2507599B1 (en) 2009-11-30 2025-06-11 IMEC vzw Integrated circuit for spectral imaging system
US8345132B2 (en) * 2010-07-23 2013-01-01 Omnivision Technologies, Inc. Image sensor with dual element color filter array and three channel color output
JP5658993B2 (ja) 2010-12-15 2015-01-28 株式会社日立製作所 生体計測装置
WO2013002350A1 (ja) 2011-06-29 2013-01-03 京都府公立大学法人 腫瘍部位の識別装置及び識別方法
US8570442B2 (en) * 2011-07-12 2013-10-29 Xerox Corporation Hyperspectral image reconstruction via a compressed sensing framework
CN103732117B (zh) * 2011-12-07 2016-03-09 奥林巴斯株式会社 内窥镜装置
JP6004235B2 (ja) * 2012-02-03 2016-10-05 パナソニックIpマネジメント株式会社 撮像装置および撮像システム
JP2013231662A (ja) * 2012-04-27 2013-11-14 Mitsubishi Chemicals Corp 積層体の検査方法、積層体の製造方法、及び積層体の検査装置
US9766382B2 (en) * 2012-06-05 2017-09-19 Hypermed Imaging, Inc. Single-sensor hyperspectral imaging device
US9343491B2 (en) * 2013-05-06 2016-05-17 Gonzalo Arce Spectral imaging sensors and methods
EP3172698A1 (en) 2014-07-24 2017-05-31 Ecole Polytechnique Fédérale de Lausanne (EPFL) Compact multifunctional system for imaging spectroscopy
JP6478579B2 (ja) 2014-11-20 2019-03-06 キヤノン株式会社 撮像ユニット、撮像装置、及び画像処理システム
CN106331442B (zh) * 2015-07-02 2021-01-15 松下知识产权经营株式会社 摄像装置
JP2017168822A (ja) 2016-02-12 2017-09-21 ヴァイアヴィ・ソリューションズ・インコーポレイテッドViavi Solutions Inc. センサデバイスの製造方法
CN113167649B (zh) * 2019-01-16 2024-07-12 松下知识产权经营株式会社 光检测装置、光检测系统及滤光器阵列

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060092414A1 (en) * 1999-04-09 2006-05-04 Frank Geshwind Devices and method for spectral measurements
US20050283071A1 (en) * 2002-06-04 2005-12-22 Visen Medical, Inc. Imaging volumes with arbitrary geometries in contact and non-contact tomography
US20060192938A1 (en) * 2003-02-03 2006-08-31 National University Corporation Shizuoka University Distance image sensor
JP2005091343A (ja) * 2003-03-07 2005-04-07 Shikoku Res Inst Inc ガス漏洩監視方法、及びそのシステム
JP2006314557A (ja) * 2005-05-12 2006-11-24 Olympus Medical Systems Corp 生体観測装置
JP2009529160A (ja) * 2006-02-06 2009-08-13 キネテイツク・リミテツド 撮像システム
JP2010071832A (ja) * 2008-09-19 2010-04-02 Stanley Electric Co Ltd 光飛行時間型距離画像センサの制御方法およびそのシステム
JP2014531032A (ja) * 2011-10-25 2014-11-20 センター フォー スペース サイエンス アンド アプライド リサーチ、 チャイニーズ アカデミー オブ サイエンスズCenter For Space Science And Applied Research, Chinese Academy Of Sciences 時間分解単一光子又は極微弱光多次元イメージングスペクトルシステム及び方法
JP2013244343A (ja) * 2012-05-29 2013-12-09 Mitsubishi Electric Engineering Co Ltd 生体情報提示装置および生体情報提示方法
WO2014147515A1 (en) * 2013-03-19 2014-09-25 Koninklijke Philips N.V. System for hyperspectral imaging in visible light, method for recording a hyperspectral image and displaying the hyperspectral image in visible light

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
"Development and Testing of a Portable Active Imager for Natural Gas Detection", THE REVIEW OF LASER ENGINEERING, vol. Volume 33, Issue 5, JPN6020004436, May 2005 (2005-05-01), JP, pages 306 - 310, ISSN: 0004272923 *
"符号化露光法と超解像", 映像情報メディア学会誌, vol. 67, no. 8, JPN6020004434, August 2013 (2013-08-01), JP, pages 655 - 660, ISSN: 0004272922 *

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018182521A (ja) * 2017-04-12 2018-11-15 キヤノン株式会社 撮像装置、撮像方法および撮像プログラム
US11441889B2 (en) 2017-10-27 2022-09-13 Nokia Technologies Oy Apparatus, systems, and methods for detecting light
JP7050917B2 (ja) 2017-10-27 2022-04-08 ノキア テクノロジーズ オサケユイチア 光を検出するための装置、システムおよび方法
JP2021500575A (ja) * 2017-10-27 2021-01-07 ノキア テクノロジーズ オサケユイチア 光を検出するための装置、システムおよび方法
US12067650B2 (en) 2018-03-20 2024-08-20 Nec Corporation Imaging apparatus and imaging method
JPWO2019181969A1 (ja) * 2018-03-20 2021-02-12 日本電気株式会社 撮像装置及び撮像方法
JP7063378B2 (ja) 2018-03-20 2022-05-09 日本電気株式会社 撮像装置及び撮像方法
JP2021520442A (ja) * 2018-04-03 2021-08-19 ノバフラックス インコーポレイテッド 高吸収性ポリマーを備える洗浄組成物
JP2023513445A (ja) * 2020-01-24 2023-03-31 イシダ ヨーロッパ リミテッド 容器の破損を検出するためのシステムおよび方法
US12352660B2 (en) 2020-01-24 2025-07-08 Ishida Europe Limited System and method for detecting breaches in containers
WO2022075094A1 (ja) * 2020-10-05 2022-04-14 パナソニックIpマネジメント株式会社 処理装置、システム、方法、コンピュータプログラム
JPWO2022075094A1 (ja) * 2020-10-05 2022-04-14
JP7727929B2 (ja) 2020-10-05 2025-08-22 パナソニックIpマネジメント株式会社 処理装置、システム、方法、コンピュータプログラム
WO2023282069A1 (ja) * 2021-07-06 2023-01-12 パナソニックIpマネジメント株式会社 信号処理装置および信号処理方法
JP2023045708A (ja) * 2021-09-22 2023-04-03 株式会社四国総合研究所 ガス測定可視化装置
JP7765035B2 (ja) 2021-09-22 2025-11-06 株式会社四国総合研究所 ガス測定可視化装置

Also Published As

Publication number Publication date
US11965778B2 (en) 2024-04-23
JP6726888B2 (ja) 2020-07-22
US10215636B2 (en) 2019-02-26
CN106331442B (zh) 2021-01-15
US20210325246A1 (en) 2021-10-21
US20190162596A1 (en) 2019-05-30
CN106331442A (zh) 2017-01-11
US20170003168A1 (en) 2017-01-05
US11079276B2 (en) 2021-08-03

Similar Documents

Publication Publication Date Title
US11965778B2 (en) Imaging device provided with light source that emits pulsed light and image sensor
CN106257915B (zh) 摄像装置
Pifferi et al. New frontiers in time-domain diffuse optics, a review
US7821640B2 (en) Method and device for reconstructing a three-dimensional fluorescence optical tomography image by double measurement
Wu et al. Advanced applications of hyperspectral imaging technology for food quality and safety analysis and assessment: A review—Part I: Fundamentals
Alayed et al. Time-resolved diffuse optical spectroscopy and imaging using solid-state detectors: Characteristics, present status, and research challenges
US20190209012A1 (en) Biological measurement device and biological measurement method
JP2016080429A (ja) 分光測定装置
Dalla Mora et al. Time-gated single-photon detection in time-domain diffuse optics: a review
US20150169933A1 (en) Measurement data selection method for biometric device, light exit position determination method for biometric device, and biometric device
CN106815878A (zh) 一种基于多视角多光谱层析成像的图像重建方法
US10531015B2 (en) Imaging apparatus including light source, reflective encoding device, and image sensor
US20240119645A1 (en) Signal processing apparatus and signal processing method
JP2017187471A (ja) 撮像装置
JP2012222303A (ja) テラヘルツ波発生装置、カメラ、イメージング装置および計測装置
EP4160170A1 (en) Filter array and photodetection system
US7652764B2 (en) Method for reconstructing a fluorescence-enhanced optic tomography image of an object with any outline
EP4372430A1 (en) Filter array, light detection device, and light detection system
US20180180535A1 (en) Determining absorption and scattering coefficient using a calibrated optical reflectance signal
JP6113720B2 (ja) 光スペクトルの反射歪みを補償する位相補正
CN110911007B (zh) 基于成像光谱仪的生物组织光学参数重构方法
Abrahamsson Time-resolved spectroscopy for pharmaceutical applications
WO2012053908A2 (en) A method and apparatus for non-contact imaging
Lange et al. A digital instrument simulator to optimize the development of a hyperspectral imaging system for neurosurgery
Li et al. Single-view fluorescence molecular tomography based on hyperspectral NIR-II imaging

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190325

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200212

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20200410

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200515

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200602

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200615

R151 Written notification of patent or utility model registration

Ref document number: 6726888

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151