[go: up one dir, main page]

JP5278819B2 - ステレオカメラ装置及びそれを用いた車外監視装置 - Google Patents

ステレオカメラ装置及びそれを用いた車外監視装置 Download PDF

Info

Publication number
JP5278819B2
JP5278819B2 JP2009114153A JP2009114153A JP5278819B2 JP 5278819 B2 JP5278819 B2 JP 5278819B2 JP 2009114153 A JP2009114153 A JP 2009114153A JP 2009114153 A JP2009114153 A JP 2009114153A JP 5278819 B2 JP5278819 B2 JP 5278819B2
Authority
JP
Japan
Prior art keywords
imaging lens
imaging
light
lens
polarized
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009114153A
Other languages
English (en)
Other versions
JP2010261877A (ja
Inventor
茂 大内田
青木  伸
真裕 藤本
秀明 平井
泰史 山田
展弘 森田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2009114153A priority Critical patent/JP5278819B2/ja
Priority to EP10161326.3A priority patent/EP2251227B1/en
Priority to US12/776,697 priority patent/US8760501B2/en
Publication of JP2010261877A publication Critical patent/JP2010261877A/ja
Application granted granted Critical
Publication of JP5278819B2 publication Critical patent/JP5278819B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/24Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/31Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles providing stereoscopic vision
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B1/00Optical elements characterised by the material of which they are made; Optical coatings for optical elements
    • G02B1/002Optical elements characterised by the material of which they are made; Optical coatings for optical elements made of materials engineered to provide properties not available in nature, e.g. metamaterials
    • G02B1/005Optical elements characterised by the material of which they are made; Optical coatings for optical elements made of materials engineered to provide properties not available in nature, e.g. metamaterials made of photonic crystals or photonic band gap materials
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/28Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising
    • G02B27/283Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising used for beam splitting or combining
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/30Polarising elements
    • G02B5/3025Polarisers, i.e. arrangements capable of producing a definite output polarisation state from an unpolarised input state
    • G02B5/3033Polarisers, i.e. arrangements capable of producing a definite output polarisation state from an unpolarised input state in the form of a thin sheet or foil, e.g. Polaroid
    • G02B5/3041Polarisers, i.e. arrangements capable of producing a definite output polarisation state from an unpolarised input state in the form of a thin sheet or foil, e.g. Polaroid comprising multiple thin layers, e.g. multilayer stacks
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/08Stereoscopic photography by simultaneous recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/243Image signal generators using stereoscopic image cameras using three or more 2D image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/107Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using stereoscopic cameras
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/10Beam splitting or combining systems
    • G02B27/1066Beam splitting or combining systems for enhancing image performance, like resolution, pixel numbers, dual magnifications or dynamic range, by tiling, slicing or overlapping fields of view
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Chemical & Material Sciences (AREA)
  • Crystallography & Structural Chemistry (AREA)
  • Theoretical Computer Science (AREA)
  • Measurement Of Optical Distance (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

この発明は、ステレオカメラ装置およびそれを用いた車外監視装置、特に、ステレオカメラ装置により測定可能な距離範囲と画角を拡大し、かつ、ステレオカメラ装置のサイズを小型化に関するものである。
最近では、自動車にテレビカメラやレーザ・レーダ等を搭載して前方の車両や障害物の情報を検知し、検知した情報により前方の車両等に衝突する危険度を判定して運転者に警報を発たり、自動的にブレーキを作動させて減速させたりあるいは先行車両との車間距離を安全に保つよう自動的に走行速度を増減する等のASV(Advanced Safety Vehicle;先進安全自動車)に係わる技術の開発が積極的に進められている。
自動車に搭載したテレビカメラの画像から前方の物体を検知する技術が特許文献1〜特許文献3等に開示されている。特許文献1に示された車両用車外監視装置は、遠距離用の2台1組のCCDカメラを有するステレオカメラと近距離用の2台1組のCCDカメラを有するステレオカメラとを車両に搭載し、各ステレオカメラで撮像した画像を処理して画像全体にわたる距離分布を計算し、計算した距離分布の情報により被写体の三次元位置を計算して道路の形状と複数の物体を検出している。
この場合、ステレオカメラで物体を検出できる範囲は、遠距離用では車両前方20mから100m程度であり、近距離用では例えば車両前方5mから30m程度である。
すなわち、遠距離用のステレオカメラでは、遠方、例えば100m先の物体を検出できるが、距離が近すぎ例えば20m以下の物体を検出できない特性がある。一方、近距離用のステレオカメラでは広角レンズを用いて視野を広くし、左右方向に広い範囲の物体を検出できるようにしており、また、2台のカメラの左右の間隔を短くして自車両の直前の物体も検出可能となるような設計としている。
このように近距離から遠距離までのワイドレンジをカバーし、広角レンズで広い視野を確保するためには、前述のように遠距離用と近距離用の2組のステレオカメラを状況に応じて切り換えて使用するようにしており、例えば、高速道路を高速で走行している場合には、遠距離用のステレオカメラを使用し、一方、一般道路を低速で走行している場合には近距離用のステレオカメラを使用している。
また、特許文献2に示された車外監視装置は、遠距離用のステレオカメラと近距離用のステレオカメラを状況に応じて切り換えて使用するのではなく、遠距離用のステレオカメラと近距離用のステレオカメラを同時に使用して撮像を行い、遠距離用の距離画像と近距離用の距離画像を生成し、生成した遠距離用の距離画像と近距離用の距離画像をそれぞれ格子状に所定の間隔で区分し、各区分毎に道路表面より上のデータを立体物データとして抽出して距離を算出して遠距離と近距離の立体物を検出している。
このように車両に搭載するステレオカメラは近距離から遠距離までのワイドレンジと広い視野を確保することが求められる一方で小型化することも必要に迫られている。一般にステレオカメラは車両内の前方上部に設けられたルームミラー付近に設置される場合が多い。この位置は運転席と助手席の頭上付近であるため、ここに大きなステレオカメラが装着されていると乗車している人に圧迫感を与え、安全上も危険である。したがってステレオカメラは基線長(レンズとレンズの間隔)の短縮と薄型化が必要である。
そこで特許文献3には、ステレオカメラを小型化する技術が開示されている。この特許文献3に示されたステレオカメラは、2つのレンズの光路中にそれぞれミラーを配し、各レンズに入射した光の光路をミラーで折り曲げて1つの撮像素子に導き、撮像素子の数を減らしてステレオカメラを小型化している。このようにステレオカメラを小型化するとモーメントを小さくでき、振動や加速度を受けたときにも剛性の高い構造にすることができる。
しかしながら特許文献1と特許文献2に開示されている車外監視装置では、遠距離用のステレオカメラと近距離用のステレオカメラを使用して計4台のカメラを用いるためワイドレンジと広い視野を確保できる反面、レンズを含む光学系や撮像素子の数が通常のステレオカメラの2倍必要であり、コストアップになってしまう。
また、特許文献3に開示されているステレオカメラは、2つのレンズの光路を折り曲げて1つの撮像素子を共用するためコストダウンできるが、撮像素子を共用するために2つのレンズの間隔である基線長を短くしなければならず、三角測量の原理上、遠距離の被写体までの距離計測が困難になってしまう。
この発明は、このような問題を解消し、近距離から遠距離までのワイドレンジの被写体までの距離を精度良く測定すると共に近距離においても広角レンズで広い視野を確保することができるステレオカメラ装置及びそれを用いた車外監視装置を提供することを目的とするものである。
また、ワイドレンジと広い視野を確保しながらコストアップを最小限に抑え、小型化して車両に乗車している人に圧迫感を与えずに安全性を高めることができるステレオカメラ装置を提供することも目的とする。
この発明のステレオカメラ装置は、第1の撮像部と、該第1の撮像部から所定距離だけ隔てた第2の撮像部と、制御部を有し、前記第1の撮像部は複数の単レンズを有する第1の撮像レンズと第2の撮像レンズと、第1の合成光学系と第1の領域分割フィルタ及び第1の撮像素子を有し、前記第1の撮像レンズと第2の撮像レンズは、近接して光軸が平行になるように配置され、前記第1の合成光学系は、前記第1の撮像レンズの光を前記第1の撮像レンズの光軸に対して90度偏向させ、偏向された光を90度偏向させてS偏光成分の光を前記第1の領域分割フィルタに導き、前記第2の撮像レンズを通った光のうちP偏光成分の光を透過させて前記第1の領域分割フィルタに導き、前記第1の領域分割フィルタは、S偏光成分とP偏光成分の光のみを透過する2つの偏光子領域を有し、前記第1の合成光学系からの光をS偏光成分とP偏光成分に分離し、前記第1の撮像素子は、前記第1の領域分割フィルタで分離したS偏光成分とP偏光成分の光を受光してS偏光成分とP偏光成分の画像を検知し、前記第2の撮像部は複数の単レンズを有する第3の撮像レンズと第4の撮像レンズと、第2の合成光学系と第2の領域分割フィルタ及び第2の撮像素子を有し、前記第3の撮像レンズと第4の撮像レンズは、近接して光軸が平行になるように配置され、前記第2の合成光学系は、前記第3の撮像レンズの光を前記第3の撮像レンズの光軸に対して90度偏向させ、偏向された光を90度偏向させてS偏光成分の光を前記第2の領域分割フィルタに導き、前記第4の撮像レンズを通った光のうちP偏光成分の光を透過させて前記第2の領域分割フィルタに導き、前記第2の領域分割フィルタは、S偏光成分とP偏光成分の光のみを透過する2つの偏光子領域を有し、前記第2の合成光学系からの光をS偏光成分とP偏光成分に分離し、前記第2の撮像素子は、前記第2の領域分割フィルタで分離したS偏光成分とP偏光成分の光を受光してS偏光成分とP偏光成分の画像を検知し、前記制御部は、第1のカメラ制御部と第2のカメラ制御部を有し、前記第1のカメラ制御部は、前記第1の撮像素子で検知されるS偏光成分の画像と前記第2の撮像素子で検知されるS偏光成分の画像から被写体の三次元位置情報を演算し、前記第2のカメラ制御部は、前記第1の撮像素子で検知されるP偏光成分の画像と前記第2の撮像素子で検知されるP偏光成分の画像から被写体の三次元位置情報を演算することを特徴とする。
前記第1の撮像部の第1の撮像レンズと前記第2の撮像部の第3の撮像レンズは焦点距離が等しく、前記第1の撮像部の第2の撮像レンズと前記第2の撮像部の第4の撮像レンズは焦点距離が等しく、前記第1の撮像レンズと前記第3の撮像レンズの焦点距離は、前記第2の撮像レンズと前記第4の撮像レンズの焦点距離よりも長いことを特徴とする。
また、前記第1の撮像部の第1の撮像レンズと前記第2の撮像部の第3の撮像レンズのバック焦点距離は前記第1の撮像部の第2の撮像レンズと前記第2の撮像部の第4の撮像レンズのバック焦点距離よりも長いことを特徴とする。
さらに、前記第1の撮像部の第1の撮像レンズと第2の撮像レンズと第2の撮像部の第3の撮像レンズと第4の撮像レンズは、第1の撮像レンズ、第2の撮像レンズ、第3の撮像レンズ、第4の撮像レンズの順に配列されていることを特徴とする。
また、前記第1の撮像部の第1の撮像レンズと第2の撮像レンズは一体に形成され、前記第2の撮像部の第3の撮像レンズと第4の撮像レンズは一体に形成されていることを特徴とする。
また、前記第1の合成光学系と第2の合成光学系は、プリズムと偏光ビームスプリッタを有し、前記プリズムは光路を90度偏向させる反射面を有し、前記偏光ビームスプリッタは前記プリズムの反射面と平行に配置され、S偏光成分の光を反射し、P偏光成分の光を透過する偏光ビームスプリッタ面を有し、前記プリズムと前記偏光ビームスプリッタは一体に形成されていることを特徴とする。
さらに、前記第1の撮像部の第1の撮像レンズと第2の撮像レンズ及び第1の合成光学系は一体に形成され、前記第2の撮像部の第3の撮像レンズと第4の撮像レンズ及び第2の合成光学系は一体に形成されていることを特徴とする。
この発明の車外監視装置は、前記ステレオカメラ装置と画像処理用コンピュータ及び表示装置を有し、車両に搭載されることを特徴とする。
この発明のステレをカメラ装置は、第1の撮像部の第1の撮像レンズと第2の撮像レンズを近接して光軸が平行になるように配置し、第2の撮像部の第3の撮像レンズと第4の撮像レンズを近接して光軸が平行になるように配置し、第1の撮像部と第2の撮像部を所定距離だけ隔てて配置し、4個の撮像レンズから画像を取り込むから、通常のステレオカメラのように2台のカメラを使う場合に比べてワイドレンジ又は広い視野を確保することができる。
また、第1の撮像部の第1の撮像レンズと第2の撮像レンズで取り込んだ画像を1つの撮像素子で検出し、第2の撮像部の第3の撮像レンズと第4の撮像レンズで取り込んだ画像を1つの撮像素子で検出するから、撮像素子の数を低減して低コスト化を図ることができる。
さらに、第1の撮像部の第1の撮像レンズと第2の撮像部の第3の撮像レンズは焦点距離が等しく、第1の撮像部の第2の撮像レンズと第2の撮像部の第4の撮像レンズは焦点距離が等しく、第1の撮像レンズと第3の撮像レンズの焦点距離を第2の撮像レンズと第4の撮像レンズの焦点距離よりも長くすることにより、遠距離と近距離のステレオ画像を形成することができ、広い距離範囲に対して高精度な距離測定を行なうことができる。
また、第1の撮像部の第1の撮像レンズと第2の撮像部の第3の撮像レンズのバック焦点距離を第1の撮像部の第2の撮像レンズと第2の撮像部の第4の撮像レンズのバック焦点距離よりも長くすることにより、2つの撮像レンズと合成光学系からなる簡素な光学系で1つの撮像素子に2つの画像を写すことができる。
さらに、合成光学系でバック焦点距離が長い第1の撮像レンズと第3の撮像レンズからの光2回反射させ、バック焦点距離が短い第2の撮像レンズと第3の撮像レンズからの光を反射させないようにしたから、反射特性に起因する輝度分布の影響などを受けにくいステレオカメラ光学系を実現することができ、第1の撮像レンズと第3の撮像レンズで撮像した2つの画像や第2の撮像レンズと第4の撮像レンズで撮像した2つの画像を正確にマッチングさせることができ、遠距離と近距離で高精度な距離測定を行なうことができる。
また、第1の撮像レンズ、第2の撮像レンズ、第3の撮像レンズ、第4の撮像レンズの順に配列することにより、第1の撮像レンズと第3の撮像レンズの基線長と、第2の撮像レンズと第4の撮像レンズの基線長を自由に設定することができ、距離測定精度を高めることができる。
また、第1の撮像部の第1の撮像レンズと第2の撮像レンズを一体に形成し、第2の撮像部の第3の撮像レンズと第4の撮像レンズを一体に形成することにより、第1の撮像部と第2の撮像部の仕様が異なる遠距離用の撮像レンズと近距離用の撮像レンズを近接して配置することができるとともに、遠距離用の撮像レンズと近距離用の撮像レンズを個別に調整する必要はなく、調整を簡素化することができる。
また、第1の合成光学系と第2の合成光学系を、光路を90度偏向させる反射面を有するプリズムと、プリズムの反射面と平行に配置され、S偏光成分の光を反射し、P偏光成分の光を透過する偏光ビームスプリッタ面を有する偏光ビームスプリッタで構成し、プリズムと偏光ビームスプリッタは一体に形成したり、第1の撮像部の第1の撮像レンズと第2の撮像レンズ及び第1の合成光学系を一体に形成し、第2の撮像部の第3の撮像レンズと第4の撮像レンズ及び第2の合成光学系は一体に形成することにより、回転やシフトしても光路のズレがキャンセルされ、安定性の高い構成を実現することができる。
さらに、第1の撮像部の第1の撮像レンズと第2の撮像レンズ及び第1の合成光学系を一体に形成し、第2の撮像部の第3の撮像レンズと第4の撮像レンズ及び第2の合成光学系は一体に形成することにより、回転やシフトしても光路のズレがキャンセルされ、安定性の高い構成を実現することができる。
また、この発明のステレオカメラ装置を車両に搭載する車外監視装置に使用することにより、遠距離の被写体と近距離の被写体のステレオ画像を得ることができ、広い距離範囲に対して高精度な距離測定を行なうことができる。
この発明のステレオカメラ装置の構成図である。 領域分割フィルタと撮像素子の構成を示す斜視図である。 領域分割フィルタの偏光子領域の構成を示す斜視図である。 撮像素子の構成を示す模式図である。 車両に搭載した車外監視装置の構成図である。 車外監視装置で被写体までの距離測定処理を示すフローチャートである。 視差算出処理を示す模式図である。 遠距離用と近距離用の撮像レンズの配置を示す模式図である。 合成光学系の異なる配置を示す構成図である。 遠距離用と近距離用の撮像レンズの距離を示す配置図である。 遠距離用と近距離用の撮像レンズを一体に形成した撮像レンズの構成図である。 一体に形成した遠距離用と近距離用の撮像レンズと一体に形成した合成光学系の構成図である。 遠距離用と近距離用の撮像レンズの他の配置を示す斜視図である。 第2のステレオカメラ装置の構成図である。
図1は、この発明のステレオカメラ装置の構成図である。ステレオカメラ装置1は遠距離用と近距離用のステレオ画像を形成するものであり、図に示すように、ステレオカメラ装置1は、第1の撮像部2と、第1の撮像部2から所定距離Lだけ隔てた第2の撮像部3と、制御部4を有する。第1の撮像部2は複数の単レンズを有する第1の撮像レンズ21と第2の撮像レンズ22と合成光学系23と領域分割フィルタ24及び撮像素子25を有する。合成光学系23はプリズム26と偏光ビームスプリッタ27を有する。プリズム26は第1の撮像レンズ21の光軸に対して、光路を90度偏向させる反射面26aを有し、第1の撮像レンズ21を通った光を90度偏光させる。偏光ビームスプリッタ27はプリズム26の反射面26aと所定距離だけ隔てて平行に配置され、S偏光成分の光を反射し、P偏光成分の光を透過する偏光ビームスプリッタ面27aを有し、プリズム26の反射面26aで反射した光をうちS偏光成分の光のみを偏光ビームスプリッタ面27aで反射して90度偏向させる。第2の撮像レンズ22は光軸が第1の撮像レンズ21の光軸と平行になるように偏光ビームスプリッタ27の前面に設けられ、第2の撮像レンズ22を通った光のうちP偏光成分の光のみが偏光ビームスプリッタ27の偏光ビームスプリッタ面27aを透過する。領域分割フィルタ24はS偏光成分とP偏光成分の光のみをそれぞれ透過する2つの偏光子領域を有し、偏光ビームスプリッタ27の偏光ビームスプリッタ面27aで反射したS偏光成分の光と偏光ビームスプリッタ面27aを透過したP偏光成分の光を入射してS偏光成分の光とP偏光成分の光を分離する。撮像素子25は領域分割フィルタ24で分離したS偏光成分の光とP偏光成分の光を入射して画像信号を出力する。
第2の撮像部3は複数の単レンズを有する第3の撮像レンズ31と第4の撮像レンズ32と合成光学系33と領域分割フィルタ34及び撮像素子35を有する。合成光学系33はプリズム36と偏光ビームスプリッタ37を有する。プリズム36は第3の撮像レンズ31の光軸に対して、光路を90度偏向させる反射面36aを有し、第3の撮像レンズ31を通った光を90度偏光させる。偏光ビームスプリッタ37はプリズム36の反射面36aと所定距離だけ隔てて平行に配置され、S偏光成分の光を反射し、P偏光成分の光を透過する偏光ビームスプリッタ面37aを有し、プリズム36の反射面36aで反射した光をうちS偏光成分の光のみを偏光ビームスプリッタ面37aで反射して90度偏向させる。第4の撮像レンズ32は光軸が第3の撮像レンズ31の光軸と平行になるように偏光ビームスプリッタ37の前面に設けられ、第4の撮像レンズ32を通った光のうちP偏光成分の光のみが偏光ビームスプリッタ37の偏光ビームスプリッタ面37aを透過する。領域分割フィルタ34はS偏光成分とP偏光成分の光のみをそれぞれ透過する2つの偏光子領域を有し、偏光ビームスプリッタ37の偏光ビームスプリッタ面37aで反射したS偏光成分の光と偏光ビームスプリッタ面37aを透過したP偏光成分の光を入射してS偏光成分の光とP偏光成分の光を分離する。撮像素子35は領域分割フィルタ34で分離したS偏光成分の光とP偏光成分の光を入射して画像信号を出力する。
このステレオカメラ装置1の第1の撮像部2と第2の撮像部3の各構成要素について説明する。第1の撮像部2の第1の撮像レンズ21と第2の撮像部3の第3の撮像レンズ31は焦点距離が長く、遠距離用として利用し、第1の撮像部2の第2の撮像レンズ22と第2の撮像部3の第4の撮像レンズ32は焦点距離が短く、近距離用として利用する。すなわち近距離用のステレオ画像は焦点距離が短い第1の撮像部2の第2の撮像レンズ22と第2の撮像部3の第4の撮像レンズ32を利用して広角の画像を形成し、遠距離用のステレオ画像は焦点距離が長い第1の撮像部2の第1の撮像レンズ21と第2の撮像部3の第3の撮像レンズ31を利用し、プリズム26,36と偏光ビームスプリッタ27,37を介した光路により遠距離の被写体の明確な画像を形成する。これによりレンズの設計自由度が上げられ、結果としてレンズ枚数の削減と低コスト化を図ることができる。
また、第1の撮像部2の第1の撮像レンズ21と第2の撮像レンズ22と第2の撮像部3の第3の撮像レンズ31と第4の撮像レンズ32を、第1の撮像レンズ21と第2の撮像レンズ22と第3の撮像レンズ31と第4の撮像レンズ32の順に略一列に配列し、遠距離用のステレオ画像を形成する第1の撮像部2のプリズム26の反射面26aと第2の撮像部3のプリズム36の反射面36aの方向と、第1の撮像部2の偏光ビームスプリッタ27の偏光ビームスプリッタ面27aと第2の撮像部3の偏光ビームスプリッタ37の偏光ビームスプリッタ面37aを同一方向にする。このようにしてプリズム26,36の反射面26a,36aと偏光ビームスプリッタ27,37の偏光ビームスプリッタ面27a,37aの方向を同じ方向にすることにより、反射面26a,36aと偏光ビームスプリッタ面27a,37aの反射特性に起因する輝度分布の影響などを受けにくいステレオカメラ光学系を実現できる。すなわちプリズム26,36や偏光ビームスプリッタ27,37の特性として反射面内で反射光量が異なる場合、ステレオの左右の画像で明暗のアンバランスが生じるが、この反射特性に起因する輝度分布の影響などを受けにくくすることにより良質なステレオ画像を形成することができ、測距精度への影響を小さくできる。
また、第1の撮像部2の合成光学系23のプリズム26と偏光ビームスプリッタ27は、プリズム26の反射面26aと偏光ビームスプリッタ27の偏光ビームスプリッタ面27aを対向させて一体化したプリズム構成をなしており、第2のカメラ部2の合成光学系23のプリズム36と偏光ビームスプリッタ37も、プリズム36の反射面36aと偏光ビームスプリッタ37の偏光ビームスプリッタ面37aを対向させて一体化したプリズム構成をなしている。このように構成することによりプリズムが回転やシフトしても反射する角度が相殺されて経時変化にも安定な画像を撮像することができる。
領域分割フィルタ24,34は、図2の斜視図に示すように、遠距離用の第1の撮像部2の第1の撮像レンズ21と第2の撮像部3の第3の撮像レンズ31と、近距離用の第1の撮像部2の第2の撮像レンズ22と第2の撮像部3の第4の撮像レンズ32の配置に合わせ偏光子領域24a(34a)と偏光子領域24b(34b)に二分割している。すなわち、領域分割フィルタ24は第1の撮像部2の第1の撮像レンズ21からのS偏光成分の光のみを透過する偏光子領域24aと第2の撮像レンズ22からのP偏光成分の光のみを透過する偏光子領域24bを有し、領域分割フィルタ34は第2の撮像部3の第3の撮像レンズ31からのS偏光成分の光のみを透過する偏光子領域34aと第4の撮像レンズ32からのP偏光成分の光のみを透過する偏光子領域34bを有する。
この領域分割フィルタ24,34の2領域の分割線24c(34c)は、第1の撮像レンズ21〜第4の撮像レンズ32の配列方向に平行になるように領域分割され、第1の撮像レンズ21〜第4の撮像レンズ32のいずれの画像も視差検出範囲を広く確保できるようになっている。
撮像素子25,35は一般に長方形の撮像領域を有するが、領域分割フィルタ24,34の二分割した偏光子領域24a(34a)と偏光子領域24b(34b)の配列に対応して撮像素子25,35も撮像領域25a(35a)と撮像領域25b(35b)と二分割されて視差検出範囲が広く確保できるようになっている。
この領域分割フィルタ24,34の偏光子領域24a(34a)と偏光子領域24b(34b)は、例えばフォトニック結晶からなる偏光子からなり、領域分割フィルタ24の偏光子領域24a,24bは、図3(a)に示すように、周期的な溝列を形成した透明基板241上に、透明で高屈折率の媒質層242と低屈折率の媒質層243とを界面の形状を保存しながら交互に積層して形成されている。この高屈折率の媒質層242と低屈折率の媒質層243の各層は、透明基板241の溝列と直交するX方向に周期性を持つが、溝列と平行なY方向には一様であっても良いし、X方向より大きい長さの周期的または非周期的な構造を有していても良い。このような微細な周期構造(フォトニック結晶)は自己クローニング技術と呼ばれる方式を用いることにより、再現性良く且つ高い均一性で作製することができる。
このフォトニック結晶からなる偏光子領域24a,24bは、図2に示すように、光軸5a,5bと平行なZ軸と、Z軸と直交するXY軸を有する直交座標系において、XY面に平行な1つの基板241の上に2種以上の透明材料をZ軸方向に交互に積層した多層構造体、例えばTaとSiOの交互多層膜からなり、偏光子領域24a,24bは各膜が凹凸形状を有しており、この凹凸形状はXY面内の一つの方向に周期的に繰り返されて形成されている。そして偏光子領域24aは、図3(b)に示すように、溝の方向がY軸方向に対して平行であり、偏光子領域24bは溝の方向がX軸方向に対して平行であり、偏光子領域24aと偏光子領域24bで溝の方向が90度異なって形成されている。すなわちXY面に入射される入力光から、偏光子領域24aと偏光子領域24bによって偏光方向が異なる偏光成分を透過させるとともに、偏光子領域24aと偏光子領域24bでそれぞれ等量の無偏光成分を透過させるようになっている。なお、領域分割フィルタ24に2種類の凹凸形状の溝を設けたが、凹凸形状の溝方向は複数種類でも良い。このように偏光子領域24a,24bをフォトニック結晶で形成することにより、紫外線劣化などに優れて長期間安定して使用することができる。領域分割フィルタ34の偏光子領域34a,34bも同様に形成されている。
この領域分割フィルタ24,34の偏光子領域24a(34a)と偏光子領域24b(34b)の開口面積や透過軸は、はじめに透明基板241(341)に加工する溝パタンの大きさや方向で自由に設計することができる。パタン形成は、電子ビームリソグラフィ、フォトリソグラフィ、干渉露光法、ナノプリンティングなど様々な方法で行うことができる。いずれの場合でも、微小領域ごとに溝の方向を高精度に定めることができる。そのため、透過軸の異なる微小偏光子を組み合わせた偏光子領域と、更にそれを複数並べた偏光子を形成することが可能となる。また、凹凸パタンを持つ特定の領域のみが偏光子の動作をするため、その周辺の領域を平坦あるいは、面内で等方的な凹凸パタンにしておけば偏波依存性のない媒質として光は透過する。したがって、特定の領域にのみ偏光子を作りこむことができる。
また、領域分割フィルタ24,34は撮像素子25,35と近接配置されている。より望ましくはダイ実装された撮像素子25,35にフィルタ構造面が撮像素子面側に向いて接着などにより取り付けられるのがよい。一般にレンズからの光は収束系の有限光で撮像素子に向かうため、領域分割フィルタ24,34と撮像素子25,35の間隔が開くと領域分割フィルタ24,34の境界付近の光が各々の領域に対してクロストークノイズとなってしまう。そこで前記のとおり近接配置させることにより、このようなクロストークが生じない安定したステレオカメラ装置が実現できる。
制御部4は、第1のカメラ制御部41と第2のカメラ制御部42を有する。第1のカメラ制御部41は、図4のブロック図に示すように、第1の撮像部2の遠距離用の第1の撮像レンズ21で撮像して撮像素子25の撮像領域25aで得た画像と第2の撮像部3の遠距離用の第3の撮像レンズ31で撮像して撮像素子35の撮像領域35aで得た画像を合成して出力し、第2のカメラ制御部42は第1の撮像部2の近距離用の第2の撮像レンズ22で撮像して撮像素子25の撮像領域25bで得た画像と第2の撮像部3の近距離用の第4の撮像レンズ32で撮像して撮像素子35の撮像領域35bで得た画像を合成して出力する。
このステレオ上装置1は、例えば図5に示すように、自動車等の車両6に搭載された車外監視装置7に使用する。車外監視装置7は車外の所定範囲内の物体を撮像し、撮像した画像から車外の物体を認識して監視するものであり、ステレオカメラ装置1と画像処理用コンピュータ8及び表示装置9を有する。ステレオカメラ装置1は車両6のルームミラーの後段など運転者の視野を遮らない位置に配置されている。画像処理用コンピュータ8はステレオカメラ装置1で撮像した画像を処理して三次元の距離分布情報を算出し、算出した距離分布情報から道路形状や複数の立体物の三次元位置を高速で検出し、その検出結果に基づいて先行車や障害物を特定して衝突警報の判断処理等を行い、認識された物体が自車両6の障害物となる場合、運転者の前方に設置された表示装置9に表示して運転者に対する警告を行うほかに、図示しないアクチュエータ類を制御する外部装置を接続することにより車体の自動衝突回避制御等が可能となっている。
次に、ステレオカメラ装置1を使用した車外監視装置7を車両6に搭載して被写体の画像を撮像して被写体までの距離を測定するときに処理を図6のフローチャートを参照して説明する。
ステレオカメラ装置1で車両6の前方の撮像を開始すると、第1の撮像部2の第1の撮像レンズ21を透過した光はプリズム26の反射ミラー面26aと偏光ビームスプリッタ27の偏光ビームスプリッタ面27aから領域分割フィルタ24の偏偏光子領域24aを介してS偏光成分の光だけが撮像素子25の偏光領域25aで受光される。また、第2の撮像レンズ22を透過した光は偏光ビームスプリッタ面26aと領域分割フィルタ24の偏光子領域24bを介してP偏光成分の光だけが撮像素子25の偏光領域25bで受光される。第2の撮像部3の第3の撮像レンズ31を透過した光はプリズム36の反射ミラー面36aと偏光ビームスプリッタ37の偏光ビームスプリッタ面37aから領域分割フィルタ34の偏偏光子領域34aを介してS偏光成分の光だけが撮像素子35の偏光領域35aで受光される。また、第4の撮像レンズ32を透過した光は偏光ビームスプリッタ面37aと領域分割フィルタ34の偏光子領域34bを介してP偏光成分の光だけが撮像素子35の偏光領域35bで受光される。この受光により遠距離の被写体の右の画像と近距離の被写体の右の画像と遠距離の被写体の左の画像と近距離の被写体の左の画像を撮像素子25,35で撮像する(ステップS1)。
この撮像素子25の撮像領域25aで撮像された遠距離の被写体の右の画像と撮像素子35の撮像領域35aで撮像された遠距離の被写体の左の画像を第1のカメラ制御部41で1枚の画像として合成して画像処理用コンピュータ8に出力する。また、撮像素子25の撮像領域25bで撮像された近距離の被写体の右の画像と撮像素子35の撮像領域35bで撮像された近距離の被写体の左の画像を第2のカメラ制御部42で1枚の画像として合成して画像処理用コンピュータ8に出力する。画像処理用コンピュータ8は入力した遠距離の被写体の右の画像と左の画像を基に遠距離の被写体の視差を検出し、入力した近距離の被写体の右の画像と左の画像を基に近距離の被写体の視差を検出する(ステップS2)。検出した遠距離の被写体の視差により後述の(1)式に基づき遠距離の被写体までの距離を算出し、近距離の被写体の視差により(1)式に基づき近距離の被写体までの距離を算出して(ステップS3)、算出した遠距離測定結果と近距離測定結果を示す遠距離画像と近距離の画像を表示装置9に表示する(ステップS4)。
この撮像した遠距離の被写体の右の画像10aと左の画像10bの例を図7(a)に示す。画像処理用コンピュータ8はステレオカメラ装置1で撮像した右の画像10aと左の画像10bの有効領域を切り出し、右の画像10aの微小領域11aとそれに対応する左の画像10bの微小領域11bに注目して、微小領域11a,11b内での被写体の視差Sを算出する。この視差Sは水平方向にのみ生じるため、ここでは水平方向の視差Sを算出すれば良い。この視差Sが画素単位(ピクセル)で求められる。ステレオカメラ装置1と被写体までの距離Aと視差Sとの間には、図7(b)に示すように、第1の撮像部2の第1の撮像レンズ21と第2の撮像部3の第3の撮像レンズ31間の間隔である基線長Bと第1の撮像レンズ21と第3の撮像レンズ31の焦点距離fから次の(1)式の関係が成り立つ。
S=B・f/A・δ (1)
ここでδは撮像素子25,35の画素サイズである。撮像レンズ21,31の焦点距離fと基線長B及び画素サイズδはあらかじめ判っているので、視差Sを右の画像10aと左の画像10bから算出することにより被写体までの距離Aを演算することができる。
このように被写体までの距離を演算するとき、第1の撮像部2の撮像素子25で撮像した右の画像10aと、撮像素子25とは異なる第2の撮像部3の撮像素子35で撮像した左の画像10bを使用するから、第1の撮像部2の第1の撮像レンズ21と第2の撮像部3の第3の撮像レンズ31間の基線長Bを自由に設定できるため、距離測定性能に応じてステレオカメラ装置1の第1の撮像部2と第2の撮像部3の配置を最適に設計することができる。
しかしながら、被写体までの距離Aが無限大の場合は視差S=0となってしまい距離検出ができなくなる。距離検出を可能にするためには視差Sは一定量以上確保できる必要があり、具体的には最低でも1/4画素程度は確保できないと正確な距離検出ができないのが現状である。
(1)式からレンズの間隔(基線長)Bは下記(2)式で表される。
B=S・(A・δ)/f (2)
例えば遠距離用の第1の撮像レンズ21と第3の撮像レンズ31の焦点距離f1を15mm、近距離用の第2の撮像レンズ22と第4の撮像レンズ32の焦点距離f2を5mmとし、遠距離の測定範囲を100mまで、近距離の測定範囲を5〜20mとすると、視差Sを確保するためには、焦点距離が短い広画角レンズを用いる場合は基線長Bを大きくしなければならず、焦点距離が長い狭画角のレンズを用いる場合は基線長Bが小さくて良いことがわかる。すなわちステレオカメラ装置1の小型化のために基線長Bを小さくする場合は、画角の狭い焦点距離の長いレンズを使うことが有効である。また、広い画角を必要とする場合、焦点距離fは短くなり、基線長Bも大きくなるが、測距する距離Aを短い範囲に留めれば、基線長Bを小さくすることができ、ステレオカメラ装置1を小型化できる。
そこで図1に示すように、遠距離用の第1の撮像レンズ21と第3の撮像レンズ31の間に近距離用の第2の撮像レンズ22を配置し、近距離用の第4の撮像レンズ32を遠距離用の第3の撮像レンズ31の外側に配置して遠距離用と近距離用の基線長Bをほぼ等しくして近距離用の第2の撮像レンズ22と第4の撮像レンズ32の基線長を短くしないで、例えば車両6の前方5〜20mの近距離の被写体の画像を広画角で撮像して距離を演算する。
例えば図8(a)に特許文献2に示されたステレオカメラ装置の遠距離用と近距離用の撮像レンズの配置を示し、図8(b)は図1に示したステレオカメラ装置1の遠距離用と近距離用の撮像レンズの配置を示す。図8(a)に示した撮像レンズの配置は、遠距離用の第1の撮像レンズ21と第3の撮像レンズ31の間に近距離用の第2の撮像レンズ22と第4の撮像レンズ32を配置し、図8(b)示した撮像レンズの配置は、遠距離用の第1の撮像レンズ21と第3の撮像レンズ31の間に近距離用の第2の撮像レンズ22を配置し、近距離用の第4の撮像レンズ32を遠距離用の第3の撮像レンズ31の外側に配置し、遠距離用と近距離用を接して示す。
遠距離用の第1の撮像レンズ21と第3の撮像レンズ31の口径をa、近距離用の第2の撮像レンズ22と第4の撮像レンズ32の口径をbとすると、図8(a)に示す配置では近距離用の第2の撮像レンズ22と第4の撮像レンズ32の基線長Bw1と、遠距離用の第1の撮像レンズ21と第3の撮像レンズ31の基線長Bt1と、図8(b)に示す配置では近距離用の第2の撮像レンズ22と第4の撮像レンズ32の基線長Bw2と、遠距離用の第1の撮像レンズ21と第3の撮像レンズ31の基線長Bt2は下記(3)式〜(6)式で表せる。
Bw1=Bt1−(a+b) (3)
Bt1=Bw2+(a+b) (4)
Bw2=Bt2 (5)
Bt2=Bw2+(a+b)/2 (6)
(4)式と(6)式から判るように、図8(a)に示す近距離用の第2の撮像レンズ22と第4の撮像レンズ32の基線長Bw1より図8(b)に示す近距離用の第2の撮像レンズ22と第4の撮像レンズ32の基線長Bw2が大きな基線長を確保できる。したがって、図8(b)に示す配置の方が広画角化に有利である。車両6の近くの被写体の画像を広画角で撮像できると、車両6の近辺の左右からの飛び出しに対しても対応できるようになり、より事故を回避することができる。
また、第1の撮像部2の合成光学系23を構成する偏光ビームスプリッタ27の偏光ビームスプリッタ面27aと第2の撮像部3の合成光学系33を構成する偏光ビームスプリッタ37の偏光ビームスプリッタ面37aは光の入射角度により偏光分離性能が異なる。図8(b)に示すように、遠距離用の第1の撮像レンズ21と第3の撮像レンズ31の間に近距離用の第2の撮像レンズ22を配置し、近距離用の第4の撮像レンズ32を遠距離用の第3の撮像レンズ31の外側に配置するステレオカメラ装置1では、第1の撮像部2の合成光学系23と第2の撮像部3の合成光学系33の配置は図9(a)に示すようになる。これに対して図8(a)に示すように、遠距離用の第1の撮像レンズ21と第3の撮像レンズ31の間に近距離用の第2の撮像レンズ22と第4の撮像レンズ32を配置した場合、第1の撮像部2の合成光学系23と第2の撮像部3の合成光学系33の配置は図9(b)に示すようになる。この図9(b)に示す配置の場合、合成光学系23と合成光学系33で偏光ビームスプリッタ27の偏光ビームスプリッタ面27aと偏光ビームスプリッタ37の偏光ビームスプリッタ面37aは光の入射方向に対して異なっている。このため画像情報を有する収束光の透過率に違いが発生してしまい、2つの画像の正確なマッチングができず、測距性能の低下を引き起こす可能性がある。これに対して図1に示すステレオカメラ装置1の合成光学系23と合成光学系33は図9(a)に示すように配置され、合成光学系23のプリズム26の反射面26aと偏光ビームスプリッタ27の偏光ビームスプリッタ面27aへの光の入射方向と、合成光学系33のプリズム36の反射面36aと偏光ビームスプリッタ37の偏光ビームスプリッタ面37aへの光の入射方向が同じであるため、測距性能の低下を引き起こさないですむ。
ステレオカメラ装置1の合成光学系23と合成光学系33を、図9(a)に示すように配置すると、プリズム26,36の反射面26a,36aで反射した光を偏光ビームスプリッタ27,37の偏光ビームスプリッタ面27a,37aで反射させる光の光路長は偏光ビームスプリッタ27,37に入射して偏光ビームスプリッタ面27a,37aを透過する光の光路長より長くなる。そこでプリズム26,36に光を入射する第1の撮像レンズ21と第3の撮像レンズ31のバック焦点距離を長くし、偏光ビームスプリッタ27,37に光を直接入射する第2の撮像レンズ22と第4の撮像レンズ32のバック焦点距離を短くした方がよい。遠距離用の第1の撮像レンズ21と第3の撮像レンズ31は焦点距離が長く、レンズ設計上もバック焦点距離を長くしやすい。
このレンズ設計をする場合、第1の撮像レンズ21と第3の撮像レンズ31や第2の撮像レンズ22と第4の撮像レンズ32は焦点距離と開口数NA、解像度、収差(歪み)、明るさなどの諸条件を満たした設計を行う必要がある。このためバック焦点距離の長さは任意に長くできず、遠距離用の第1の撮像レンズ21と近距離用の第2の撮像レンズ22の間隔を狭くして近接配置し、遠距離用の第3の撮像レンズ31と近距離用の第4の撮像レンズ32の間隔を狭くして近接配置する必要がある。第1の撮像レンズ21と第2の撮像レンズ22と第3の撮像レンズ31及び第4の撮像レンズ32は複数の単レンズで構成され、例えば遠距離用の第1の撮像レンズ21と近距離用の第2の撮像レンズ22は、図10に示すようにレンズホルダー12a,12bに入っている。第1の撮像レンズ21と第2の撮像レンズ22の距離Dを近接して配置するには、レンズホルダー12a,12bを薄くする必要があるが、撮像レンズ21,22を保持して固定するためにはレンズホルダー12a,12bを必要以上には薄くできない。そこで遠距離用の第1の撮像レンズ21と近距離用の第2の撮像レンズ22を一体化して構成し、第1の撮像レンズ21と第2の撮像レンズ22を近接して配置する。
この第1の撮像レンズ21と第2の撮像レンズ22を近接して配置するために、図11(a)の断面図と(b)の斜視図に示すように、撮像レンズ21と撮像レンズ22を構成する各単レンズ14a,14bのレンズアレイを有するウェハ13aと、撮像レンズ21を構成する単レンズ14aと空孔を有するウェハ13bと、撮像レンズ22を構成する単レンズ14bと空孔を有するウェハ13cと、撮像レンズ21と撮像レンズ22を構成する各単レンズと対応する位置にレンズ口径より大きな径の空孔を有するウェハ13dをそれぞれ作製し、これを積層して遠距離用の撮像レンズ21と近距離用の撮像レンズ22を一体化する。この遠距離用の撮像レンズ21と近距離用の撮像レンズ22はレンズ枚数とレンズ間隔、レンズ曲率等が異なる。そこで1枚のウェハ13毎にレンズの有る部分と無い部分やレンズ曲率が異なる部分を作製し、これらを積層することにより仕様の異なる遠距離用の撮像レンズ21と近距離用の撮像レンズ22を近接して配置することができ、バック焦点距離の長さが十分に確保できなくても、合成光学系23により2つの画像を1つの撮像素子25に映すことができ、合成光学系33により2つの画像を1つの撮像素子35に映すことができる。
さらに、図12(a)の断面図と(b)の斜視図に示すように、レンズアレイを有するウェハ13やレンズの無いウェハ13を積層して一体化して近接配置した遠距離用の撮像レンズ21,31と近距離用の撮像レンズ22,32に対して合成光学系23,33を積層して一体化すると良い。この合成光学系23,33は平板と平板の間に誘電体多層膜や金属反射膜を形成し、これを貼り合わせて所望の大きさに切り出したものである。そこで所望の大きさに切る前に遠距離用の撮像レンズ21,31と近距離用の撮像レンズ22,32を形成したウェハ13に積層して接着して一体化し、ウェハ13と共に所望の大きさに切り出せば良い。このように遠距離用の撮像レンズ21,31と近距離用の撮像レンズ22,32と合成光学系23,33を一体化することにより、第1の撮像部2と第2の撮像部3の光学系を小型化できるとともに回転やシフトしても光路のズレがキャンセルされ、低バスト性の高い構成を実現することができる。
前記説明では第1の撮像部2の第1の撮像レンズ21と第2の撮像レンズ22と第2の撮像部3の第3の撮像レンズ31と第4の撮像レンズ32を水平に配置した場合について説明したが、図13の斜視図に示すように、近距離用の第2の撮像レンズ22と第4の撮像レンズ32の下側に遠距離用の第1の撮像レンズ21と第3の撮像レンズ31を配置して近距離用と遠距離用を垂直に配置しても良い。
また、前記説明では領域分割フィルタ24,34に入射するS偏光成分とP偏光成分を偏光ビームスプリッタ27,37で分離する場合について示したが、図14に示すように、第1の撮像レンズ21と第3の撮像レンズ31の後部にS偏光用の偏光子28a,38aを設け、第2の撮像レンズ22と第4の撮像レンズ32の後部にP偏光用の偏光子28b,38bを設け、偏光ビームスプリッタ27,37の代わりにS偏光成分を反射し、P偏光成分を透過する反射面を有するプリズム29,39を使用しても良い。
さらに、前記説明では領域分割フィルタ24,34はフォトニック結晶を利用して構成した場合について説明したが、ワイヤグリッド型の偏光子を利用しても良い。ワイヤグリッド型の偏光子とは、細い金属ワイヤーを周期的に配列することにより形成された偏光子であり、従来、電磁波のミリ波領域において多く用いられてきた偏光子である。ワイヤグリッド型偏光子の構造は、入力光の波長に比べて十分細い金属細線が波長に比べて十分に短い間隔で並んだ構造を有する。このような構造に光を入射した場合、金属細線に平行な偏光は反射され、それに直交する偏光は透過されることはすでに知られている。金属細線の方向については、1枚の基板内において領域ごとに独立に変化させて作製することができるため、ワイヤグリッド偏光子の特性を領域毎に変えることができる。これを利用すれば、領域毎に透過軸の方向を変化させた構造とすることができる。
ワイヤグリッドの作製方法としては、基板上に金属膜を形成し、リソグラフィによりパターニングを行うことで、細線状の金属を残すことができる。他の作製方法としては、リソグラフィにより基板に溝を形成し、この溝の方向とは直角で基板の法線から傾いた方向(基板面に斜めの方向)から真空蒸着により金属を成膜することで作製することができる。真空蒸着では蒸着源から飛来する粒子はその途中で他の分子もしくは原子にほとんど衝突することはなく、粒子は蒸着源から基板にむかって直線的に進むため、溝を構成する凸部にのみ成膜される一方、溝の底部(凹部)では、凸部に遮蔽されほとんど成膜されない。したがって、成膜量を制御することで、基板上に形成された溝の凸部にのみ金属膜を成膜することができ、金属細線を作製することができる。なお、ワイヤグリッド型の偏光子に用いられるワイヤー金属としては、アルミニウムもしくは銀が望ましいが、例えばタングステンなど、そのほかの金属であっても同様の現象を実現できる。また、リソグラフィとしては、光リソグラフィ、電子ビームリソグラフィ又はX線リソグラフィなどが挙げられるが、可視光での動作を想定すると細線の間隔が100nm程度になるため、電子ビームリソグラフィもしくはX線リソグラフィがより望ましい。また、金属の成膜では真空蒸着が望ましいが、主として基板に入射する粒子の方向性が重要であるので、高真空度の雰囲気におけるスパッタリング、もしくはコリメーターを用いたコリメーションスパッタでも可能である。このワイヤグリッド型の偏光子もフォトニック結晶による偏光子と同様に半導体プロセスであるため領域分割された2領域間の境界線などが精度よく作製することが可能である。
1;ステレオカメラ装置、2;第1の撮像部、3;第2の撮像部、4;制御部、
6;車両、7;車外監視装置、8;画像処理用コンピュータ、9;表示装置、
21;第1の撮像レンズ、22;第2の撮像レンズ、23;合成光学系、
24;領域分割フィルタ、25;撮像素子、26;プリズム、
27;偏光ビームスプリッタ、31;第3の撮像レンズ、32;第4の撮像レンズ、
33;合成光学系、34;領域分割フィルタ、25;撮像素子、36;プリズム、
37;偏光ビームスプリッタ。
特開平5−265547号公報 特開平11−39596号公報 特開2004−258266号公報

Claims (8)

  1. 第1の撮像部と、該第1の撮像部から所定距離だけ隔てた第2の撮像部と、制御部を有し、
    前記第1の撮像部は複数の単レンズを有する第1の撮像レンズと第2の撮像レンズと、第1の合成光学系と第1の領域分割フィルタ及び第1の撮像素子を有し、前記第1の撮像レンズと第2の撮像レンズは、近接して光軸が平行になるように配置され、前記第1の合成光学系は、前記第1の撮像レンズの光を前記第1の撮像レンズの光軸に対して90度偏向させ、偏向された光を90度偏向させてS偏光成分の光を前記第1の領域分割フィルタに導き、前記第2の撮像レンズを通った光のうちP偏光成分の光を透過させて前記第1の領域分割フィルタに導き、前記第1の領域分割フィルタは、S偏光成分とP偏光成分の光のみを透過する2つの偏光子領域を有し、前記第1の合成光学系からの光をS偏光成分とP偏光成分に分離し、前記第1の撮像素子は、前記第1の領域分割フィルタで分離したS偏光成分とP偏光成分の光を受光してS偏光成分とP偏光成分の画像を検知し、
    前記第2の撮像部は複数の単レンズを有する第3の撮像レンズと第4の撮像レンズと、第2の合成光学系と第2の領域分割フィルタ及び第2の撮像素子を有し、前記第3の撮像レンズと第4の撮像レンズは、近接して光軸が平行になるように配置され、前記第2の合成光学系は、前記第3の撮像レンズの光を前記第3の撮像レンズの光軸に対して90度偏向させ、偏向された光を90度偏向させてS偏光成分の光を前記第2の領域分割フィルタに導き、前記第4の撮像レンズを通った光のうちP偏光成分の光を透過させて前記第2の領域分割フィルタに導き、前記第2の領域分割フィルタは、S偏光成分とP偏光成分の光のみを透過する2つの偏光子領域を有し、前記第2の合成光学系からの光をS偏光成分とP偏光成分に分離し、前記第2の撮像素子は、前記第2の領域分割フィルタで分離したS偏光成分とP偏光成分の光を受光してS偏光成分とP偏光成分の画像を検知し、
    前記制御部は、第1のカメラ制御部と第2のカメラ制御部を有し、前記第1のカメラ制御部は、前記第1の撮像素子で検知されるS偏光成分の画像と前記第2の撮像素子で検知されるS偏光成分の画像から被写体の三次元位置情報を演算し、前記第2のカメラ制御部は、前記第1の撮像素子で検知されるP偏光成分の画像と前記第2の撮像素子で検知されるP偏光成分の画像から被写体の三次元位置情報を演算することを特徴とするステレオカメラ装置。
  2. 前記第1の撮像部の第1の撮像レンズと前記第2の撮像部の第3の撮像レンズは焦点距離が等しく、前記第1の撮像部の第2の撮像レンズと前記第2の撮像部の第4の撮像レンズは焦点距離が等しく、前記第1の撮像レンズと前記第3の撮像レンズの焦点距離は、前記第2の撮像レンズと前記第4の撮像レンズの焦点距離よりも長いことを特徴とする請求項1記載のステレオカメラ装置。
  3. 前記第1の撮像部の第1の撮像レンズと前記第2の撮像部の第3の撮像レンズのバック焦点距離は前記第1の撮像部の第2の撮像レンズと前記第2の撮像部の第4の撮像レンズのバック焦点距離よりも長いことを特徴とする請求項1又は2記載のステレオカメラ装置。
  4. 前記第1の撮像部の第1の撮像レンズと第2の撮像レンズと第2の撮像部の第3の撮像レンズと第4の撮像レンズは、第1の撮像レンズ、第2の撮像レンズ、第3の撮像レンズ、第4の撮像レンズの順に配列されていることを特徴とする請求項1乃至3のいずれかに記載のステレオカメラ装置。
  5. 前記第1の撮像部の第1の撮像レンズと第2の撮像レンズは一体に形成され、前記第2の撮像部の第3の撮像レンズと第4の撮像レンズは一体に形成されていることを特徴とする請求項1乃至4のいずれかに記載のステレオカメラ装置。
  6. 前記第1の合成光学系と第2の合成光学系は、プリズムと偏光ビームスプリッタを有し、前記プリズムは光路を90度偏向させる反射面を有し、前記偏光ビームスプリッタは前記プリズムの反射面と平行に配置され、S偏光成分の光を反射し、P偏光成分の光を透過する偏光ビームスプリッタ面を有し、前記プリズムと前記偏光ビームスプリッタは一体に形成されていることを特徴とする請求項1乃至5のいずれかに記載のステレオカメラ装置。
  7. 前記第1の撮像部の第1の撮像レンズと第2の撮像レンズ及び第1の合成光学系は一体に形成され、前記第2の撮像部の第3の撮像レンズと第4の撮像レンズ及び第2の合成光学系は一体に形成されていることを特徴とする請求項6記載のステレオカメラ装置。
  8. 請求項1乃至7のいずれかに記載のステレオカメラ装置と画像処理用コンピュータ及び表示装置を有し、車両に搭載されることを特徴とする車外監視装置。
JP2009114153A 2009-05-11 2009-05-11 ステレオカメラ装置及びそれを用いた車外監視装置 Expired - Fee Related JP5278819B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2009114153A JP5278819B2 (ja) 2009-05-11 2009-05-11 ステレオカメラ装置及びそれを用いた車外監視装置
EP10161326.3A EP2251227B1 (en) 2009-05-11 2010-04-28 Stereo camera apparatus and vehicle-mountable monitoring apparatus using same
US12/776,697 US8760501B2 (en) 2009-05-11 2010-05-10 Stereo camera apparatus and vehicle-mountable monitoring apparatus using same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009114153A JP5278819B2 (ja) 2009-05-11 2009-05-11 ステレオカメラ装置及びそれを用いた車外監視装置

Publications (2)

Publication Number Publication Date
JP2010261877A JP2010261877A (ja) 2010-11-18
JP5278819B2 true JP5278819B2 (ja) 2013-09-04

Family

ID=42270586

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009114153A Expired - Fee Related JP5278819B2 (ja) 2009-05-11 2009-05-11 ステレオカメラ装置及びそれを用いた車外監視装置

Country Status (3)

Country Link
US (1) US8760501B2 (ja)
EP (1) EP2251227B1 (ja)
JP (1) JP5278819B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2913797A1 (en) 2014-02-27 2015-09-02 Ricoh Company, Ltd. Accurate parallax calculation in image regions with low texture

Families Citing this family (52)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10110795B2 (en) 2002-06-04 2018-10-23 General Electric Company Video system and method for data communication
US20150235094A1 (en) 2014-02-17 2015-08-20 General Electric Company Vehicle imaging system and method
JP5440927B2 (ja) * 2009-10-19 2014-03-12 株式会社リコー 測距カメラ装置
CN102640488A (zh) * 2010-05-14 2012-08-15 松下电器产业株式会社 照相机主体、可换镜头单元、摄像装置、照相机主体的控制方法、可换镜头单元的控制方法、程序以及记录有程序的记录介质
JP5440461B2 (ja) 2010-09-13 2014-03-12 株式会社リコー 校正装置、距離計測システム、校正方法および校正プログラム
JP5870510B2 (ja) 2010-09-14 2016-03-01 株式会社リコー ステレオカメラ装置、校正方法およびプログラム
US20140192238A1 (en) 2010-10-24 2014-07-10 Linx Computational Imaging Ltd. System and Method for Imaging and Image Processing
JP5867807B2 (ja) * 2010-12-08 2016-02-24 株式会社リコー 車両識別装置
WO2012124331A1 (ja) * 2011-03-17 2012-09-20 パナソニック株式会社 3d撮像装置
JP2012198075A (ja) 2011-03-18 2012-10-18 Ricoh Co Ltd ステレオカメラ装置、画像補整方法
KR101793739B1 (ko) * 2011-04-06 2017-11-03 엘지전자 주식회사 3차원 촬영과 재생이 가능한 이동단말
US8836730B1 (en) * 2011-08-19 2014-09-16 Google Inc. Methods and systems for modifying a display of a field of view of a robotic device to include zoomed-in and zoomed-out views
JP5664512B2 (ja) * 2011-09-26 2015-02-04 株式会社デンソー レーダ装置
TW201323262A (zh) * 2011-12-02 2013-06-16 Hon Hai Prec Ind Co Ltd 車輛輔助系統及車輛輔助方法
JP5991688B2 (ja) * 2012-02-24 2016-09-14 株式会社レゾナント・システムズ ステレオカメラユニット及び自動車用モニタシステム
JP6167525B2 (ja) 2012-03-21 2017-07-26 株式会社リコー 距離計測装置及び車両
JP6197291B2 (ja) * 2012-03-21 2017-09-20 株式会社リコー 複眼カメラ装置、及びそれを備えた車両
US10477184B2 (en) * 2012-04-04 2019-11-12 Lifetouch Inc. Photography system with depth and position detection
CN104487803A (zh) * 2012-07-23 2015-04-01 株式会社理光 立体相机
DE102012014994B4 (de) * 2012-07-28 2024-02-22 Volkswagen Aktiengesellschaft Bildverarbeitungsverfahren für eine digitale Stereokameraanordnung
JP2014049890A (ja) * 2012-08-30 2014-03-17 Nikon Corp 撮像装置、撮像方法、及び、プログラム
WO2014152254A2 (en) 2013-03-15 2014-09-25 Carnegie Robotics Llc Methods, systems, and apparatus for multi-sensory stereo vision for robotics
TW201441079A (zh) * 2013-04-24 2014-11-01 Hon Hai Prec Ind Co Ltd 車輛輔助系統及車輛輔助方法
KR20150027543A (ko) * 2013-09-04 2015-03-12 현대모비스 주식회사 라이다 센서 시스템
WO2015045501A1 (ja) * 2013-09-27 2015-04-02 日立オートモティブシステムズ株式会社 外界認識装置
JP6429452B2 (ja) * 2013-11-22 2018-11-28 ルネサスエレクトロニクス株式会社 車載用画像処理装置及び半導体装置
JP6447055B2 (ja) 2014-01-28 2019-01-09 株式会社リコー 校正方法、校正装置、計測用具及びプログラム
JP6427900B2 (ja) 2014-03-07 2018-11-28 株式会社リコー 校正方法、校正システム、プログラム及び移動体
JP6259132B2 (ja) * 2015-01-20 2018-01-10 日立オートモティブシステムズ株式会社 車載用カメラ装置
EP3258213A4 (en) 2015-02-13 2018-03-07 Ricoh Company, Ltd. Measurement tool, calibration method, calibration device, and program
KR102077575B1 (ko) * 2015-05-19 2020-02-17 엘지전자 주식회사 차량 운전 보조 장치 및 차량
US9449390B1 (en) * 2015-05-19 2016-09-20 Ford Global Technologies, Llc Detecting an extended side view mirror
JP6677474B2 (ja) * 2015-09-29 2020-04-08 日立オートモティブシステムズ株式会社 周辺認識装置
US10077007B2 (en) * 2016-03-14 2018-09-18 Uber Technologies, Inc. Sidepod stereo camera system for an autonomous vehicle
US10633095B2 (en) 2016-04-04 2020-04-28 Panasonic Intellectual Property Management Co., Ltd. Imaging system, video processing system, and video processing method
CN109219769B (zh) 2016-04-04 2021-08-17 Smr专利责任有限公司 成像系统
US10634770B2 (en) * 2016-06-29 2020-04-28 Apple Inc. Optical systems for remote sensing receivers
JP6747176B2 (ja) 2016-08-25 2020-08-26 株式会社リコー 画像処理装置、撮影装置、プログラム、機器制御システム及び機器
EP3373037B1 (en) * 2017-03-10 2023-06-28 The Hi-Tech Robotic Systemz Ltd Single casing advanced driver assistance system
US11257248B2 (en) * 2017-08-01 2022-02-22 Sony Corporation Information processing device, information processing method, recording medium, and image capturing apparatus for self-position-posture estimation
KR102557322B1 (ko) 2017-09-27 2023-07-18 젠텍스 코포레이션 시각 조절 보정을 갖춘 풀 디스플레이 미러
JP7057097B2 (ja) * 2017-10-27 2022-04-19 キヤノン株式会社 距離計測装置、距離計測システム、撮像装置、移動体、距離計測装置の制御方法およびプログラム
US10967862B2 (en) 2017-11-07 2021-04-06 Uatc, Llc Road anomaly detection for autonomous vehicle
DE102018218992B4 (de) * 2017-11-10 2023-02-16 Denso Corporation Kameramodul
US10721458B1 (en) * 2018-12-14 2020-07-21 Ambarella International Lp Stereoscopic distance measurements from a reflecting surface
CN116209934A (zh) * 2020-08-21 2023-06-02 宁波舜宇光电信息有限公司 潜望式摄像模组
US12055632B2 (en) * 2020-10-13 2024-08-06 Waymo Llc LIDAR based stereo camera correction
US11800056B2 (en) 2021-02-11 2023-10-24 Logitech Europe S.A. Smart webcam system
US11800048B2 (en) 2021-02-24 2023-10-24 Logitech Europe S.A. Image generating system with background replacement or modification capabilities
US12069227B2 (en) 2021-03-10 2024-08-20 Intrinsic Innovation Llc Multi-modal and multi-spectral stereo camera arrays
WO2024063603A1 (ko) * 2022-09-23 2024-03-28 삼성전자 주식회사 렌즈 어셈블리 및 그를 포함하는 전자 장치
KR102822408B1 (ko) * 2023-04-13 2025-06-20 김상진 편광카메라

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4671613A (en) * 1985-11-12 1987-06-09 Gte Laboratories Inc. Optical beam splitter prism
JP2883193B2 (ja) * 1990-11-06 1999-04-19 マミヤ・オーピー株式会社 距離計システム
JPH05265547A (ja) 1992-03-23 1993-10-15 Fuji Heavy Ind Ltd 車輌用車外監視装置
US6038071A (en) * 1993-05-24 2000-03-14 Deutshce Thomson-Brandt Gmbh Apparatus for recording a stereoscopic image
JPH095059A (ja) * 1995-06-20 1997-01-10 Nikon Corp 平面度測定装置
JPH09218035A (ja) * 1996-02-15 1997-08-19 Fuji Film Micro Device Kk 測距センサ
JPH1139596A (ja) * 1997-07-17 1999-02-12 Fuji Heavy Ind Ltd 車外監視装置
WO2001038918A1 (en) * 1999-11-22 2001-05-31 Sl3D, Inc. Stereoscopic telescope with camera
US7061532B2 (en) * 2001-03-27 2006-06-13 Hewlett-Packard Development Company, L.P. Single sensor chip digital stereo camera
JP4414661B2 (ja) 2003-02-25 2010-02-10 オリンパス株式会社 ステレオアダプタ及びそれを用いた距離画像入力装置
JP2006031101A (ja) * 2004-07-12 2006-02-02 Olympus Corp 画像生成方法およびその装置
JP2006214735A (ja) * 2005-02-01 2006-08-17 Viewplus Inc 複合ステレオビジョン装置
JP2006308496A (ja) * 2005-04-28 2006-11-09 Ricoh Co Ltd 測距装置及び撮像装置
GB0613576D0 (en) * 2006-07-10 2006-08-16 Leuven K U Res & Dev Endoscopic vision system
JP2008286527A (ja) * 2007-05-15 2008-11-27 Panasonic Corp 複眼測距装置
JP5273356B2 (ja) 2008-06-18 2013-08-28 株式会社リコー 複眼画像入力装置及びそれを用いた距離測定装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2913797A1 (en) 2014-02-27 2015-09-02 Ricoh Company, Ltd. Accurate parallax calculation in image regions with low texture

Also Published As

Publication number Publication date
JP2010261877A (ja) 2010-11-18
US8760501B2 (en) 2014-06-24
EP2251227A3 (en) 2013-06-12
EP2251227B1 (en) 2016-11-23
US20100283837A1 (en) 2010-11-11
EP2251227A2 (en) 2010-11-17

Similar Documents

Publication Publication Date Title
JP5278819B2 (ja) ステレオカメラ装置及びそれを用いた車外監視装置
JP5440927B2 (ja) 測距カメラ装置
JP5152655B2 (ja) 撮像装置
JP5278814B2 (ja) ステレオカメラ装置及び車外監視装置
JP5610254B2 (ja) 撮像装置及び路面状態判別方法
EP2875315B1 (en) Stereo camera
JP5637425B2 (ja) 液滴検出装置及び車載用監視装置
JP5273356B2 (ja) 複眼画像入力装置及びそれを用いた距離測定装置
JP5488958B2 (ja) フロントモニタカメラ装置及び車両左右両側確認装置
JP2014178190A (ja) ステレオカメラ
JP6957162B2 (ja) 測距装置及び移動体
EP2690485B1 (en) Polarization device, and imaging apparatus using the same
JP7086572B2 (ja) 光学系、撮像装置、測距装置、車載システム、および移動装置
JP7098790B2 (ja) 撮像制御装置及び移動体
JP2016127512A (ja) 撮像装置
JP2010271143A (ja) 撮像装置、距離測定装置、及び車外監視装置、並びに撮像方法
JP5440907B2 (ja) 画像認識装置及び車外監視装置
JP6202364B2 (ja) ステレオカメラ及び移動体
JP2013044893A (ja) 複眼撮像装置及び距離画像取得装置
JP6311238B2 (ja) 撮像装置、撮像システムおよび車両
KR20250082867A (ko) 영역 분할 편광 필터 및 그것을 갖는 카메라
WO2017150492A1 (ja) 光学系、それを備える撮像装置及び投影装置
JP2014119654A (ja) 光学フィルタ、クロスプリズム及びクロスミラー、並びに、光学フィルタを有する撮像装置及びステレオカメラ
JP2014178494A (ja) 視差画像撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120302

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130423

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130426

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130509

R151 Written notification of patent or utility model registration

Ref document number: 5278819

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees