[go: up one dir, main page]

JP2018160785A - 画像生成装置、画像生成方法、プログラム及びそれを記録した記録媒体 - Google Patents

画像生成装置、画像生成方法、プログラム及びそれを記録した記録媒体 Download PDF

Info

Publication number
JP2018160785A
JP2018160785A JP2017056567A JP2017056567A JP2018160785A JP 2018160785 A JP2018160785 A JP 2018160785A JP 2017056567 A JP2017056567 A JP 2017056567A JP 2017056567 A JP2017056567 A JP 2017056567A JP 2018160785 A JP2018160785 A JP 2018160785A
Authority
JP
Japan
Prior art keywords
cell
frame
vehicle
control unit
sensitivity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017056567A
Other languages
English (en)
Other versions
JP6827240B2 (ja
Inventor
柴田 修
Osamu Shibata
修 柴田
岩井 浩
Hiroshi Iwai
岩井  浩
西村 佳壽子
Kazuko Nishimura
佳壽子 西村
康夫 三宅
Yasuo Miyake
康夫 三宅
嘉晃 佐藤
Yoshiaki Sato
嘉晃 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2017056567A priority Critical patent/JP6827240B2/ja
Priority to US15/926,435 priority patent/US10531021B2/en
Publication of JP2018160785A publication Critical patent/JP2018160785A/ja
Application granted granted Critical
Publication of JP6827240B2 publication Critical patent/JP6827240B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/581Control of the dynamic range involving two or more exposures acquired simultaneously
    • H04N25/585Control of the dynamic range involving two or more exposures acquired simultaneously with pixels having different sensitivities within the sensor, e.g. fast or slow pixels or pixels having different sizes
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10144Varying exposure

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Details Of Cameras Including Film Mechanisms (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】自車両から撮像した画像から他車両の移動軌跡を抽出すること。【解決手段】画像生成装置が、自車周辺が暗所であるか否かを判定する判定部と、前記判定部が自車周辺を暗所と判定した場合、高感度セルと当該高感度セルよりも低感度であるが電荷蓄積容量が大きい高飽和セルとを有するイメージセンサを、前記高飽和セルが高飽和フレームを多重露光で撮像するように制御する制御部と、を備える。【選択図】図1

Description

本発明は、画像生成装置、画像生成方法、プログラム及びそれを記録した記録媒体に関する。
移動する物体を多重露光により連続撮像し、異なる位置にある同一物体を1枚の画像に収めることにより、その物体の動きを表現する技術が知られている(例えば特許文献1)。
特開2014−23067号公報
しかし、走行中の自車両から多重露光で連続撮像した1枚の画像には、交通環境に存在する様々な物体が含まれるため、当該画像から他車両の移動軌跡を抽出することが難しい。
そこで、本発明は、画像から他車両の移動軌跡を容易に抽出可能とする画像生成装置、画像生成方法、プログラム及びそれを記録した記録媒体を提供することを目的とする。
本発明の一実施の形態に係る画像生成装置は、自車周辺が暗所であるか否かを判定する判定部と、前記判定部が自車周辺を暗所と判定した場合、高感度セルと当該高感度セルよりも低感度であるが電荷蓄積容量が大きい高飽和セルとを有するイメージセンサを、前記高飽和セルが高飽和フレームを多重露光で撮像するように制御する制御部と、を備える。
上記一実施の形態は、方法、プログラム、及びプログラムを記録した非一過性の有形の記録媒体の何れかであってもよい。
本発明によれば、自車周辺が暗所の場合であっても、特定の物体の移動軌跡の抽出が可能である。
実施の形態1に係る画像生成装置を含む撮像装置の構成を示すブロック図。 実施の形態1においてイメージセンサが出力する画像フレームを示す図。 実施の形態1における制御部の処理を示すフローチャート。 実施の形態2においてイメージセンサが出力する画像フレームを示す図。 実施の形態2における制御部の処理を示すフローチャート。
以下、図面を参照しながら、実施の形態を説明する。
なお、同種の要素を区別して説明する場合には、「ライト230A」、「ライト230B」のように参照符号を使用し、同種の要素を区別しないで説明する場合には、「ライト230」のように参照符号のうちの共通番号のみを使用することがある。
また、以下の実施の形態において、その構成要素(要素ステップなどを含む)は、特に明示した場合及び原理的に明らかに必須であると考えられる場合などを除き、必ずしも必須のものではない。
<実施の形態1>
図1は、実施の形態1に係る画像生成装置を含む撮像装置の構成を示すブロック図である。図2は、実施の形態1においてイメージセンサが出力する画像フレームを示す図である。
撮像装置10は、イメージセンサ12と、受信部14と、制御部16と、判定部18とを備える。なお、受信部14、制御部16及び判定部18に係る機能は、マイクロプロセッサやデジタルシグナルプロセッサ等の画像生成装置11によって実現されてよい。又は、当該機能は、少なくともメモリ及びプロセッサを備えるコンピュータで実行されるプログラムによって実現されても良いし、当該プログラムを記録した記録媒体がコンピュータに読み取られることによって実現されても良い。
イメージセンサ12は、光電変換素子を備える複数の画素(画素アレイ)を有しており、各画素への入射光を光電変換して得られた信号に基づいて画像フレームを生成し、受信部14へ出力する。
イメージセンサ12は、例えば、有機薄膜を用いたCMOS(Complementary Metal Oxide Semiconductor)イメージセンサである。なお、イメージセンサ12は、これに限られず、他のCMOSイメージセンサやCCD(Charge Coupled Device)イメージセンサであってもよい。
イメージセンサ12は、グローバルシャッター機能を備える。グローバルシャッター機能は、画素アレイ中の全画素において露光の開始および終了を共通とする機能である。グローバルシャッター機能により、比較的動きの速い物体を歪み無く撮像することができる。
イメージセンサ12は、各画素について高感度セル20と高飽和セル22とを備える。
高感度セル20は、感度が比較的高く、電荷の蓄積容量が比較的小さいセルである。したがって、高感度セル20には、夜間やトンネル内等の暗所においても、標識、信号機、歩行者又は他車両等を撮像することができる。高感度セル20によって撮像された画像フレームを、高感度フレームと呼ぶ。
これに対して、高飽和セル22は、高感度セル20よりも感度が低く電荷の蓄積容量が大きいセルである。したがって、高飽和セル22は、暗所において、他車両のヘッドライトやテールライト、及び、信号機や街灯のライト等、おもに物体が発するライトのみを撮像することができる。高飽和セル22によって撮像された画像フレームを、高飽和フレームと呼ぶ。
高感度セル20は、高感度フレームを単一露光で撮像する。単一露光で撮像された画像フレームは、1回の露光回数、すなわちグローバルシャッターが1回切られて撮像された画像フレームである。高感度セル20が単一露光で撮像した高感度フレームを、単一露光高感度フレーム100と呼ぶ。
なお、高感度セル20は、高感度フレームを多重露光で撮像することもできる。多重露光で撮影された画像フレームは、2回以上の露光回数、すなわちグローバルシャッターが2回以上切られて撮像された画像フレームである。高感度セル20が多重露光で撮像した高感度フレームを、多重露光高感度フレームと呼んでもよい。
高飽和セル22は、高飽和フレームを多重露光で撮像する。高飽和セル22が多重露光で撮像した高飽和フレームを、多重露光高飽和フレーム120と呼ぶ。なお、高飽和セル22は、高飽和フレームを単一露光で撮像することもできる。高飽和セル22が単一露光で撮像した高飽和フレームを、単一露光高飽和フレームと呼んでもよい。
図2の単一露光高感度フレーム100Aは、夜間において、高感度セル20が単一露光で撮像した例である。単一露光高感度フレーム100Aには、図面の左から右へ移動している他車両200と、同じく移動している他車両202と、信号機204とが撮像されている。
図2の多重露光高飽和フレーム120Aは、夜間において、高飽和セル22が3回の多重露光で撮像した例である。多重露光高飽和フレーム120Aには、図面の左から右へ移動している他車両200のヘッドライト230A、230B、230Cが少しずつずれて多重に撮像されている。同じく移動している他車両202のヘッドライト232A、232B、232Cについても同様である。なぜなら、グローバルシャッターが切られる間に、他車両200、202が移動しているからである。
同様に、図2の多重露光高飽和フレーム120Aには、信号機204のライト234A、234B、234Cが少しずつずれて多重に撮像されている。なぜなら、自車両の移動によって、相対的に信号機204が移動するからである。
イメージセンサ12は、画像フレーム毎に、露光時間及び露光回数を変えることができる。また、イメージセンサ12は、高感度セル20及び高飽和セル22のそれぞれについて、露光時間及び露光回数を変えることができる。
判定部18は、自車両周辺が暗所であるか否かを判定する。判定部18は、イメージセンサ12や所定の光センサからの信号に基づいて当該判定してもよい。又は、判定部18は、夜間の時刻であるか否かに基づいて当該判定をしてもよい。又は、判定部18は、自車両のヘッドライトの自動点灯機能と連動して当該判定をしてもよい。又は、判定部18は、自車両がトンネル内を走行中であるか否かに基づいて、当該判定をしてもよい。
受信部14は、イメージセンサ12から、同じタイミングで撮像された単一露光高感度フレーム100A及び多重露光高飽和フレーム120Aを受け取り、それを制御部16へ渡す。
制御部16は、受信部14から、単一露光高感度フレーム100A及び多重露光高飽和フレーム120Aを受け取る。上述のとおり、暗所を撮像した多重露光高飽和フレーム120Aには、おもにライトのみが撮像される。言い換えると、当該多重露光高飽和フレーム120Aには、それ以外の物体が撮像されない。そのため、制御部16は、多重露光高飽和フレーム120A内における他車両のライトに基づいて、容易に他車両の移動軌跡を特定することができる。すなわち、制御部16は、比較的短時間(又は比較的軽い処理負荷)で、暗所における他車両の移動軌跡を特定することができる。以下、図2を参照しながら更に説明する。
図2に示すように、多重露光高飽和フレーム120A内には、複数のライト232A、232B、232Cが含まれている。制御部16は、多重露光高飽和フレーム120A内に含まれている複数のライト232A、232B、232Cの位置関係に基づいて、当該ライト232を発している他車両202の移動軌跡を特定する。同様に、制御部16は、複数のライト230A、230B、230Cの位置関係に基づいて、当該ライト230を発している他車両200の移動軌跡も特定できる。
ところで、多重露光高飽和フレーム120内には、信号機204のライト234A、234B、234Cも含まれている。しかし、信号機204は静止物体であり、他車両200、202は移動物体である。移動物体の移動軌跡のみを抽出する場合、制御部16は、いわゆるオプティカルフローによって信号機204や街灯(図示せず)等の静止物体のライトの移動軌跡を除去する。例えば、制御部16は、特定した移動軌跡のうち、自車両の移動と同方向の移動軌跡を除去する。図2の場合、自車両の移動と同方向である信号機のライト234の移動軌跡が除去される。これにより、制御部16は、移動物体の移動軌跡のみを抽出することができる。
なお、画像フレーム内におけるライトの位置は、当該ライトの撮像領域の中心座標であってもよいし、当該ライトの撮像領域内の受光量が最大の座標であってもよい。また、ライトの移動軌跡は、各ライトの座標を結ぶベクトルであってよい。また、他車両の移動軌跡は、当該ライトの移動軌跡を所定の補正パラメータによって補正したものであってよい。
制御部16は、イメージセンサ12の動作を制御するために、イメージセンサ12に対して、次の(C1)、(C2)の制御コマンド(又は制御信号)160を発行することができる。
(C1)高感度セル20と高飽和セル22のうち、高飽和セル22のみ、多重露光フレームを生成するように指示する制御コマンド160。制御部16は、自車周辺が暗所であると判定部18が判定した場合、当該制御コマンド160を発行する。
(C2)多重露光フレームを撮像する際の1回あたりの露光時間を指示する制御コマンド160。制御部16は、物体が認識可能に撮像される露光時間を算出し、当該制御コマンド160を発行する。
図3は、実施の形態1に係る制御部16の処理を示すフローチャートである。次に、図2及び図3を参照しながら、制御部16の処理を説明する。なお、当該フローチャートは、自車周辺が暗所であると判定部18が判定し、制御部16がイメージセンサ12に対して、高飽和セル22のみ多重露光フレームを生成するように指示する制御コマンド160(つまり上記C1の制御コマンド)を発行した場合の処理である。
制御部16は、受信部14から、同タイミングで撮像された、単一露光高感度フレーム100Aと多重露光高飽和フレーム120Aとを受け取る(ST100)。
次に、制御部16は、多重露光高飽和フレーム120A内からライトの移動軌跡を特定する(ST102)。
次に、制御部16は、ST102で特定したライトの移動軌跡の中から、オプティカルフローによって、静止物体のライト(信号機のライト234)の移動軌跡を特定し、それらを除去する(ST104)。これにより、移動物体のライト(他車両のライト230、232)の移動軌跡のみが残る。
次に、制御部16は、ST104で残った移動物体のライトの移動軌跡に基づいて、当該移動物体の移動軌跡を特定する。そして、制御部16は、その特定した移動物体の移動軌跡に係る情報140を、後段の所定の装置に出力する(ST106)。後段の所定の装置は、例えば、自車両に搭載された自動運転や運転支援を制御するECU(Electronic Control Unit)である。
制御部16は、上記のST100からST106の処理を繰り返す。
なお、制御部16は、ST106で特定した移動物体にIDを付与し、2回目以降の繰り返し処理において同一の移動物体を特定した場合、当該同一の移動物体に同じIDを付与してもよい。これにより、同一の移動物体の移動を追跡することができる。
なお、制御部16は、ST100で受け取った単一露光高感度フレーム100Aを用いて物体を認識し、ST106において、その物体の認識結果も合わせて後段の所定の装置に出力してもよい。暗所であっても単一露光高感度フレーム100Aには物体が撮像されるので、制御部16は、その物体を認識することができる。
また、制御部16は、ST100で受け取った単一露光高感度フレーム100A及び多重露光高飽和フレーム120Aを用いて物体を認識し、ST106において、その物体の認識結果も合わせて後段の所定の装置に出力してもよい。
これにより、制御部16は、図2に示すように、単一露光高感度フレーム100Aだけでは、他車両200のライト220によって白飛びしている部分に存在している他車両202が認識できない場合であっても、多重露光高飽和フレーム120Aを用いて、他車両200のライト230の部分に存在している他車両202を認識することができる。
実施の形態1によれば、自車周辺が暗所の場合であっても、移動物体の移動軌跡を容易に特定することができる。さらに、自車周辺が暗所の場合であっても、物体を認識することができる。
<実施の形態2>
実施の形態1では、多重露光高飽和フレーム内における複数のライトの移動軌跡を特定した。しかし、多重露光高飽和フレームだけでは、ライトの移動軌跡の始点がわからない。すなわち、ライトがどちらの方向へ移動しているのかがわからない。
そこで、実施の形態2では、イメージセンサ12の高飽和セル22に単一露光フレームと多重露光フレームとを交互に出力させることによって、ライトの移動軌跡の始点を特定する。なお、実施の形態2に係る画像生成装置を含む撮像装置の構成については、図1と同様であるので説明を省略する。
図4は、実施の形態2においてイメージセンサ12の高飽和セル22が出力する画像フレームを示す図である。
図4の単一露光高飽和フレーム121Bは、夜間において、高飽和セル22が単一露光で撮像した画像フレームである。単一露光高飽和フレーム121Bには、図面の左から右へ移動している他車両200のヘッドライト230Dと、同じく移動している他車両202のヘッドライト232Dと、信号機204のライト234Dとが撮像されている。
図4の多重露光高飽和フレーム120Bは、夜間において、高飽和セル22が、単一露光高飽和フレーム121Bの次のフレームにおいて3回の多重露光で撮影した画像フレームである。図4の多重露光高飽和フレーム120Bには、図面の左から右へ移動している他車両200のヘッドライト230E、230F、230Gが少しずつずれて多重に撮像されている。他車両の202のヘッドライト232E、232F、232Gについても同様である。また、図4の多重露光高飽和フレーム120Bには、信号機204のライト234E、234F、234Gが少しずつずれて多重に撮像されている。
制御部16は、単一露光高飽和フレーム121Bを用いて、その次のフレームである多重露光高飽和フレーム120B内におけるライトの移動軌跡の始点を特定する。
例えば、制御部16は、多重露光高飽和フレーム120Bに含まれる他車両202が発する複数のライト232E、232F、223Gの位置212E、212F、212Gの中から、単一露光高飽和フレーム121Bに含まれる他車両202が発するライト232Dの位置212Dと最も近いライト232Eの位置212Eを、ライト232の移動軌跡の始点と特定する。なぜなら、単一露光高飽和フレーム121Bが撮像されたタイミングと、その次のフレームである多重露光高飽和フレーム120Bが撮像されたタイミングとの間の時間差は比較的短いため、その間に他車両202が移動する量は比較的小さいと想定できるからである。
制御部16は、イメージセンサ12の動作を制御するために、イメージセンサ12に対して、上述の(C1)、(C2)に加えて、次の(C3)の制御コマンド(又は制御信号)を発行することができる。
(C3)高感度セル20と高飽和セル22のうち、高飽和セル22のみ、単一露光フレームと多重露光フレームとを交互に生成するよう指示する制御コマンド160。制御部16は、判定部18が自車周辺が暗所であると判定した場合、当該制御コマンド160又は上記(C1)の制御コマンド160を発行する。
図5は、実施の形態2に係る制御部16の処理を示すフローチャートである。次に、図4及び図5を参照しながら、制御部16の処理を説明する。なお、当該フローチャートは、自車周辺が暗所であると判定部18が判定し、制御部16がイメージセンサ12に対して、高飽和セル22のみ単一露光フレームと多重露光フレームとを交互に生成するように指示する制御コマンド160(つまり上記C3の制御コマンド)を発行した場合の処理である。
制御部16は、受信部14から、単一露光高飽和フレーム121Bと、その次フレームである多重露光高飽和フレーム120Bとを受け取る(ST200)。
次に、制御部16は、単一露光高飽和フレーム121B内におけるライト232Dの位置212Dを特定する(ST202)。
次に、制御部16は、多重露光高飽和フレーム120B内におけるライト232E、232F、232Gの位置212E、212F、212Gを特定する(ST204)。
次に、制御部16は、ST202で特定したライト232Dの位置212Dを用いて、ST204で特定したライト232E、232F、232Gの位置212E、212F、212Gの中から、ライト232の移動軌跡の始点位置212Eを特定する(ST206)。
次に、制御部16は、ST206で特定したライト232の始点位置212Eと、ST204で特定したライト232の位置212E、212F、212Gとの位置関係に基づいて、当該ライト232の移動軌跡(位置212E、212F、212Gの順に進む方向ベクトル)を生成する(ST208)。なお、制御部16は、他車両200のライト230や、信号機204のライト234についても、同様に移動軌跡を生成する。
次に、制御部16は、オプティカルフローによって、ST208で生成したライトの移動軌跡の中から、静止物体のライトの移動軌跡を除去し、移動物体のライトの移動軌跡を抽出する(ST210)。図4の場合、信号機204のライト234は、静止物体のライトであるので除去され、他車両200のライト230及び他車両202のライト234は、移動物体のライトであるので抽出される。
次に、制御部16は、ST210で抽出した移動物体のライトの移動軌跡に基づいて、当該移動物体の移動軌跡を特定し、その特定した移動軌跡に係る情報140を、後段の所定の装置に出力する(ST212)。
制御部16は、上記のST200からST212の処理を繰り返す。
なお、高飽和セル22は、単一露光フレームを生成し、その後、複数の多重露光フレームを生成するという処理を繰り返してもよい。この場合、制御部16は、単一露光フレームからライトの始点位置を特定し、複数の多重露光フレームを用いて当該ライトの移動軌跡を特定する。またこの場合、制御部16は、上述の(C1)から(C3)に加えて、次の(C4)の制御コマンド(又は制御信号)を発行することができる。
(C4)高感度セル20と高飽和セル22のうち、高飽和セル22のみ、単一露光フレーム100の後にN個(Nは2以上の整数)の多重露光高飽和フレーム120を生成するよう指示する制御コマンド160を発行する。
なお、実施の形態1と同様、制御部16は、ST200において、単一露光高感度フレーム100Aを受け取り、当該単一露光高感度フレーム100Aを用いて物体を認識し、ST212において、その物体の認識結果も合わせて後段の所定の装置に出力してもよい。暗所であっても単一露光高感度フレーム100Aには物体が撮像されるので、制御部16は、その物体を認識することができる。
また、実施の形態1と同様、制御部16は、ST200において単一露光高感度フレーム100Aを受け取り、当該単一露光高感度フレーム100Aと、同タイミングで撮像された単一露光高飽和フレーム121B又は多重露光高飽和フレーム120Bと、を用いて物体を認識し、ST212において、その物体の認識結果も合わせて後段の所定の装置に出力してもよい。
これにより、制御部16は、図4に示すように、単一露光高感度フレーム100Aだけでは、他車両200のライト220によって白飛びしている部分に存在している他車両202が認識できない場合であっても、単一露光高飽和フレーム121B又は多重露光高飽和フレーム120Bを用いて、他車両200のライト230の部分に存在している他車両202を認識することができる。
実施の形態2によれば、自車周辺が暗所の場合であっても、移動物体の移動軌跡及びその方向を容易に特定することができる。さらに、自車周辺が暗所の場合であっても、物体を認識することができる。
上述した実施形態は、本発明の説明のための例示であり、本発明の範囲を実施形態にのみ限定する趣旨ではない。当業者は、本発明の要旨を逸脱することなしに、他の様々な態様で本発明を実施することができる。
本発明に係る画像生成装置、画像生成方法、プログラム及び記録媒体は、移動物体の移動方向を認識可能であり、撮像装置又は車載機器等への利用に好適である。
10 撮像装置
11 画像生成装置
12 イメージセンサ
14 受信部
16 制御部
18 判定部
100 単一露光高感度フレーム
120 多重露光高飽和フレーム

Claims (7)

  1. 自車周辺が暗所であるか否かを判定する判定部と、
    前記判定部が自車周辺を暗所と判定した場合、高感度セルと当該高感度セルよりも低感度であるが電荷蓄積容量が大きい高飽和セルとを有するイメージセンサを、前記高飽和セルが高飽和フレームを多重露光で撮像するように制御する制御部と、
    を備える画像生成装置。
  2. 前記制御部は、前記イメージセンサから受け取った前記多重露光で撮像された高飽和フレームに基づいて、移動物体が発するライトの移動軌跡を特定する、
    請求項1に記載の画像生成装置。
  3. 前記制御部は、オプティカルフローによって、前記多重露光で撮像された高飽和フレームに含まれる移動物体及び静止物体が発するライトの移動軌跡のうち、前記静止物体が発するライトの移動軌跡を除外する、
    請求項2に記載の画像生成装置。
  4. 前記制御部は、単一露光で撮像された高感度フレーム及び前記多重露光で撮像された高飽和フレームに基づいて、前記静止物体及び移動物体を識別する、
    請求項3に記載の画像生成装置。
  5. 自車周辺が暗所であるか否かを判定するステップと、
    自車周辺が暗所であると判定された場合、高感度セルと当該高感度セルよりも低感度であるが電荷蓄積容量が大きい高飽和セルとを有するイメージセンサを、前記高飽和セルが前記高飽和フレームを多重露光で撮像するように制御するステップと、
    を備える画像生成方法。
  6. コンピュータに、
    自車周辺が暗所であるか否かを判定するステップと、
    自車周辺が暗所であると判定された場合、高感度セルと当該高感度セルよりも低感度であるが電荷蓄積容量が大きい高飽和セルとを有するイメージセンサを、前記高飽和セルが前記高飽和フレームを多重露光で撮像するように制御するステップと、
    を実行させるプログラム。
  7. コンピュータに、
    自車周辺が暗所であるか否かを判定するステップと、
    自車周辺が暗所であると判定された場合、高感度セルと当該高感度セルよりも低感度であるが電荷蓄積容量が大きい高飽和セルとを有するイメージセンサを、前記高飽和セルが前記高飽和フレームを多重露光で撮像するように制御するステップと、
    を実行させるプログラムを記録した非一過性の記録媒体。
JP2017056567A 2017-03-22 2017-03-22 画像生成装置、画像生成方法、プログラム及びそれを記録した記録媒体 Active JP6827240B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017056567A JP6827240B2 (ja) 2017-03-22 2017-03-22 画像生成装置、画像生成方法、プログラム及びそれを記録した記録媒体
US15/926,435 US10531021B2 (en) 2017-03-22 2018-03-20 Image generating apparatus, image generating method, and recording medium for controlling image sensor having two types of cells

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017056567A JP6827240B2 (ja) 2017-03-22 2017-03-22 画像生成装置、画像生成方法、プログラム及びそれを記録した記録媒体

Publications (2)

Publication Number Publication Date
JP2018160785A true JP2018160785A (ja) 2018-10-11
JP6827240B2 JP6827240B2 (ja) 2021-02-10

Family

ID=63581235

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017056567A Active JP6827240B2 (ja) 2017-03-22 2017-03-22 画像生成装置、画像生成方法、プログラム及びそれを記録した記録媒体

Country Status (2)

Country Link
US (1) US10531021B2 (ja)
JP (1) JP6827240B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020085028A1 (ja) * 2018-10-26 2020-04-30 パナソニックIpマネジメント株式会社 画像認識装置および画像認識方法
JP2022175143A (ja) * 2021-05-13 2022-11-25 アルプスアルパイン株式会社 道路情報収集装置

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0311500A (ja) * 1989-06-09 1991-01-18 Nagoya Denki Kogyo Kk 車両検知装置
JP2002171430A (ja) * 2000-11-30 2002-06-14 Canon Inc 複眼撮像系、撮像装置および電子機器
JP2010244301A (ja) * 2009-04-06 2010-10-28 Seiko Precision Inc 移動方向検出装置、移動方向検出方法及びプログラム
JP2013077874A (ja) * 2011-09-29 2013-04-25 Casio Comput Co Ltd デジタルカメラ、及びその撮影方法とプログラム
JP2013187573A (ja) * 2012-03-05 2013-09-19 Honda Motor Co Ltd 車両周辺監視装置
US20140362256A1 (en) * 2013-06-06 2014-12-11 Apple Inc. Reference Frame Selection for Still Image Stabilization
US20150054997A1 (en) * 2013-08-23 2015-02-26 Aptina Imaging Corporation Image sensors having pixel arrays with non-uniform pixel sizes
JP2016111568A (ja) * 2014-12-08 2016-06-20 キヤノン株式会社 像ぶれ補正制御装置、撮像装置およびそれらの制御方法、プログラム
US20160269658A1 (en) * 2015-03-12 2016-09-15 Samsung Electronics Co., Ltd. Image Sensors and Image Processing Systems Including the Image Sensors
JP2016170522A (ja) * 2015-03-11 2016-09-23 株式会社東芝 移動体検出装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5521721B2 (ja) * 2009-08-28 2014-06-18 ソニー株式会社 撮像素子およびカメラシステム
JP2012105225A (ja) * 2010-11-12 2012-05-31 Sony Corp 画像処理装置、撮像装置、および画像処理方法、並びにプログラム
JP2013066145A (ja) * 2011-08-31 2013-04-11 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
JP5832855B2 (ja) * 2011-11-01 2015-12-16 クラリオン株式会社 画像処理装置、撮像装置および画像処理プログラム
JP2014023067A (ja) 2012-07-20 2014-02-03 Ricoh Imaging Co Ltd 画像合成装置
CN108293093B (zh) * 2015-11-19 2020-11-03 索尼公司 图像处理设备和图像处理方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0311500A (ja) * 1989-06-09 1991-01-18 Nagoya Denki Kogyo Kk 車両検知装置
JP2002171430A (ja) * 2000-11-30 2002-06-14 Canon Inc 複眼撮像系、撮像装置および電子機器
JP2010244301A (ja) * 2009-04-06 2010-10-28 Seiko Precision Inc 移動方向検出装置、移動方向検出方法及びプログラム
JP2013077874A (ja) * 2011-09-29 2013-04-25 Casio Comput Co Ltd デジタルカメラ、及びその撮影方法とプログラム
JP2013187573A (ja) * 2012-03-05 2013-09-19 Honda Motor Co Ltd 車両周辺監視装置
US20140362256A1 (en) * 2013-06-06 2014-12-11 Apple Inc. Reference Frame Selection for Still Image Stabilization
US20150054997A1 (en) * 2013-08-23 2015-02-26 Aptina Imaging Corporation Image sensors having pixel arrays with non-uniform pixel sizes
JP2016111568A (ja) * 2014-12-08 2016-06-20 キヤノン株式会社 像ぶれ補正制御装置、撮像装置およびそれらの制御方法、プログラム
JP2016170522A (ja) * 2015-03-11 2016-09-23 株式会社東芝 移動体検出装置
US20160269658A1 (en) * 2015-03-12 2016-09-15 Samsung Electronics Co., Ltd. Image Sensors and Image Processing Systems Including the Image Sensors

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020085028A1 (ja) * 2018-10-26 2020-04-30 パナソニックIpマネジメント株式会社 画像認識装置および画像認識方法
JPWO2020085028A1 (ja) * 2018-10-26 2021-09-30 パナソニックIpマネジメント株式会社 画像認識装置および画像認識方法
JP7345101B2 (ja) 2018-10-26 2023-09-15 パナソニックIpマネジメント株式会社 画像認識装置および画像認識方法
JP2022175143A (ja) * 2021-05-13 2022-11-25 アルプスアルパイン株式会社 道路情報収集装置

Also Published As

Publication number Publication date
US10531021B2 (en) 2020-01-07
US20180278862A1 (en) 2018-09-27
JP6827240B2 (ja) 2021-02-10

Similar Documents

Publication Publication Date Title
US7936904B2 (en) Image recognition device for vehicle and vehicle head lamp controller and method of controlling head lamps
US8031228B2 (en) Electronic camera and method which adjust the size or position of a feature search area of an imaging surface in response to panning or tilting of the imaging surface
CN111512627B (zh) 成像装置、成像系统以及成像装置的驱动方法
US20130194387A1 (en) Image processing method, image processing apparatus and image-pickup apparatus
JP6739066B2 (ja) 撮像制御装置、撮像制御方法、プログラムおよびそれを記録した記録媒体
JP6666841B2 (ja) 撮像制御装置、撮像装置、および、撮像装置の制御方法
CN107896307A (zh) 具有高动态范围渲染功能的成像装置
JP5482259B2 (ja) 光通信装置
WO2016076016A1 (ja) 車載カメラシステム
JP2018160785A (ja) 画像生成装置、画像生成方法、プログラム及びそれを記録した記録媒体
JP2015142201A (ja) 撮像装置
JP6478138B2 (ja) 画像処理装置、撮像装置、画像処理プログラム、画像処理方法
US20190199929A1 (en) Image processing apparatus, image pickup system and moving apparatus
CN112565618B (zh) 曝光控制装置
WO2012043063A1 (ja) 画像処理装置
JP2008230464A (ja) 車載カメラ用自動露出装置
US20220103769A1 (en) An Imaging Device and a Method of Enabling Rolling Shutter Image Sensor to Function as Global Shutter
JP2017022671A (ja) 撮像装置および撮像方法、並びにプログラム
JP6799826B2 (ja) 画像生成装置、画像生成方法、プログラム及びそれを記録した記録媒体
JP6594557B2 (ja) 画像処理装置および配光制御システム
JP6314667B2 (ja) 撮像装置、画像補正プログラムおよび画像処理装置
WO2024145837A1 (en) Imaging apparatus, imaging-apparatus control method, and computer program product
KR101070812B1 (ko) 플래쉬 제어 장치 및 방법
JP2013206356A (ja) 画像処理装置及び画像処理カメラ装置
JP2022128298A (ja) 端末装置、生成方法および生成プログラム

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190625

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20191018

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200130

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200914

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201020

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201201

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201215

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201228

R151 Written notification of patent or utility model registration

Ref document number: 6827240

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

SZ03 Written request for cancellation of trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R313Z03

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350