JP2000316169A - カラー撮像素子及びカラー撮像装置 - Google Patents
カラー撮像素子及びカラー撮像装置Info
- Publication number
- JP2000316169A JP2000316169A JP11125495A JP12549599A JP2000316169A JP 2000316169 A JP2000316169 A JP 2000316169A JP 11125495 A JP11125495 A JP 11125495A JP 12549599 A JP12549599 A JP 12549599A JP 2000316169 A JP2000316169 A JP 2000316169A
- Authority
- JP
- Japan
- Prior art keywords
- color
- image pickup
- array
- pixel
- random
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 claims abstract description 28
- 238000000926 separation method Methods 0.000 claims abstract description 27
- 239000003086 colorant Substances 0.000 claims abstract description 26
- 230000035945 sensitivity Effects 0.000 claims abstract description 15
- 238000003860 storage Methods 0.000 claims abstract description 15
- 238000003384 imaging method Methods 0.000 claims description 66
- 238000006243 chemical reaction Methods 0.000 claims description 13
- 238000000034 method Methods 0.000 abstract description 17
- 230000007547 defect Effects 0.000 abstract description 10
- 230000008569 process Effects 0.000 abstract description 9
- 230000000737 periodic effect Effects 0.000 abstract description 7
- 230000006866 deterioration Effects 0.000 abstract description 3
- 238000002834 transmittance Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 7
- 230000008859 change Effects 0.000 description 6
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 6
- 230000000295 complement effect Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 230000007246 mechanism Effects 0.000 description 4
- 230000009467 reduction Effects 0.000 description 4
- 230000003595 spectral effect Effects 0.000 description 4
- 238000013461 design Methods 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 230000015556 catabolic process Effects 0.000 description 2
- 238000006731 degradation reaction Methods 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000003252 repetitive effect Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000004042 decolorization Methods 0.000 description 1
- 230000002542 deteriorative effect Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000003331 infrared imaging Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 239000010453 quartz Substances 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000010187 selection method Methods 0.000 description 1
- VYPSYNLAJGMNEJ-UHFFFAOYSA-N silicon dioxide Inorganic materials O=[Si]=O VYPSYNLAJGMNEJ-UHFFFAOYSA-N 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Landscapes
- Color Television Image Signal Generators (AREA)
Abstract
発生等の問題を本質的に解決し、同時に孤立的画素欠陥
が存在しても解像度の劣化を実質的に生じさせず、小型
低コストで高解像度のカラー撮像が可能で、且つ撮像ダ
イナミックレンジを飛躍的に向上させることができるカ
ラー撮像素子及びカラー撮像装置を提供する。 【解決手段】 色コーディング配列が任意の着目画素が
該着目画素の色を含む6色の画素と該着目画素の4辺又
は4角のいずれかにおいて隣接する配列制限条件を満た
す6色ランダム配列とし、該6色ランダム配列を構成す
る6色を1つの色に関してそれぞれ2つの感度を有する
3原色としたCCD撮像素子4と、ランダム色コーディ
ング配列に基づく色分離処理を行うディジタルプロセス
回路7と、ランダム色コーディング配列に関する配列デ
ータを記憶するマスクROM又はEEPROM17からな
る記憶手段とを備えてカラー撮像装置を構成する。
Description
を防止できるようにしたカラー撮像素子及びそのカラー
撮像素子を用いたカラー撮像装置に関する。
される撮像素子は、撮像装置に広く用いられている。特
に、単管又は単板(Single Sensor)カラー撮像装置に使
用されるカラー撮像素子は、1つの撮像素子でカラー撮
像装置を構成できるため、色分離プリズムが不要でレン
ズの小型化が可能であり、またレジストレーションに代
表される多板式の各種調整の必要がなく、更に消費電力
が小さいなど多くの特徴を有し、カラー撮像装置の小型
化・消電力化に多くの貢献を果しており、特に固体撮像
素子であるカラーCCD撮像素子を用いた単板カラーカ
メラは、撮像装置の主流となっている。
光面で色情報を得るため、ストライプフィルタ又はモザ
イクフィルタなどと称される色フィルタを用いて、受光
平面内で色変調(色コーディング)を行っている。すな
わち、例えばRGB3色のフィルタを所定の規則的配列
で各光電変換素子(画素)上に張り付けることで、各画
素毎に異なる分光感度を持たせている。従って、被写体
撮像によって得られた映像信号には、このフィルタ配列
にしたがった点順次の色情報が含まれているから、上記
所定の配列にしたがって各色フィルタに対応した信号毎
に分離して、その分離した信号を取り出すことにより色
情報が取り出せる。輝度信号(Y信号)を得るためには
RGB情報が全て必要であるから、1画素の輝度情報を
得るためには最低3画素(RGB各1画素ずつ)を必要
とし、輝度解像度は犠牲になるものの一つの撮像素子で
カラー撮像を行うことができるようになっている。
プ、ベイヤ型RGBモザイク(各種あり)などの3原色
フィルタ、YeMgCyストライプ、YeMgCyW4
色モザイク、YeMgCyG4色モザイクなどの補色フ
ィルタ等、多種多様の色コーディングパターンが提案さ
れて実用化されている。
撮像素子の電気的構成(撮像管か固体撮像素子か、ある
いはCCDか他のタイプかなど)や色コーディングの種
類(原色か補色か、あるいは3色か4色かなど)につい
ては、関わりなく有する本質的問題点を指摘し、その解
決手段を示すものであるから、以下の説明においては特
にことわらないない限り、その一例についてのみ取り上
げ、説明を行うこととする。
Bベイヤ配列の一例を図5の(A),(B)に基づいて
説明する。RGBベイヤ配列は、図5の(A)に示す2
×2の4画素を基本配列とし、この基本配列を図5の
(B)に示すように順次並べて平面を埋めつくすように
配列するものであって、RGBの各色への画素数の配分
比率を1:2:1として、輝度信号に対する寄与の大き
いGの密度を高めることで輝度解像度を高くした点に特
徴があるものである。また、垂直及び水平の2方向に等
方的に配置しているので、ストライプフィルタと異なり
等方的な解像度が得られるようになっている。なお、図
5の(B)は任意の8×8=64画素に関して例示してい
る。
のように規則的な配列を用いているため、その配列によ
る空間サンプリングに基づいた偽解像、いわゆる色モア
レの発生を伴うという大きな問題を有していた。すなわ
ち、本来色のない白黒被写体において上記配列周期と同
じ周期の輝度変化(白黒パターン)を有する周期的被写
体が存在した場合、例えば1水平ラインとしてRG行に
着目しRで白、Gで黒であったとすると、輝度変化のな
い赤い被写体から得られる信号と同等の信号が出力され
るため、本来は存在しない色出力を生じてしまう。この
ような縞模様状の繰り返しパターンによって生じた偽色
信号すなわち色モアレは、いわゆる周波数折り返し(エ
リアジング)によって低周波域に生ずるため、後段の色
帯域抑圧を含めた電気的フィルタ処理等によっても取り
除くことができない。
画質確保のためには光学系に水晶などの光学ローパスフ
ィルタを必須としており、これが小型化や低コスト化の
大きな制約となるばかりか、それでもなお残存する色モ
アレによる画質劣化は避けられなかった。
おいては被写体に対する撮像ダイナミックレンジ(輝度
再現域)の確保については特別な考慮がなされておら
ず、輝度分布が高輝度から低輝度まで輝度レンジの大き
な被写体の撮影に際しては、白飛びや黒潰れを生じやす
いという問題点があった。
ジは単純に撮像素子だけでは決まらず、それを使用した
撮像装置の信号処理も含めた全体で決まるが、少なくと
も高輝度側は撮像素子の飽和レベルが限界になり、低輝
度側は撮像装置に組み込まれた状態での撮像素子出力の
ノイズレベルが限界になるから、少なくともそれを超え
た撮像レンジを得ることはできない。従来、一般的な撮
像素子を用いて撮像装置を構成した場合の撮像素子の光
電変換特性は、例えば図6で模式的に示されるようなも
のであった。
信号レベルをそれぞれ対数的に示している。また、図中
ULは高輝度側限界レベルを、LLは低輝度側限界レベ
ルをそれぞれ示しており、ULは撮像素子の飽和レベル
にほぼ対応するレベルであり、一方LLについてはノイ
ズレベルNLそのものではなく、ノイズと共存しても鑑
賞に堪える所定の限界S/N比を有する信号レベルとし
て定まる。そしてULとLLの間が有効輝度域となり、
これらの(対数軸上での)差:Range=UL−LLが撮
像ダイナミックレンジとなる。
の設計製造によって異なるが、多くの場合5〜6EV
(30〜36dB)程度であり、更なる改善が望まれていた。
しかしながら、撮像素子の飽和レベルやノイズレベルの
改善には限界があり、実現が困難であるという問題があ
った。
上記周期的色コーディング配列に伴う問題を本質的に解
決すると共に撮像ダイナミックレンジを改善するために
なされたもので、周期的な輝度変化をもつ被写体でも色
モアレを発生させず、また撮像ダイナミックレンジを飛
躍的に向上させることができ、小型低コストで高画質な
カラー撮像の可能な撮像装置を提供すること、及びそれ
を可能とするカラー撮像素子を提供することを目的とす
る。請求項毎の目的を述べると、請求項1に係る発明
は、規則性を有しないランダムな色コーディング配列に
よる被写体撮像を行うことを可能とし、且つ全撮像領域
に亘って所定値以上の高解像度を確保すると共に画質性
能や機能を向上させると共に、孤立的画素欠陥が存在し
ても解像度の劣化を実質的に生じさせないようにしたカ
ラー撮像素子を提供することを目的とする。請求項2に
係る発明は、撮像ダイナミックレンジを飛躍的に向上さ
せることの可能なカラー撮像素子を提供することを目的
とする。請求項3に係る発明は、請求項1又は2に係る
カラー撮像素子を用いて、該撮像素子のランダム色コー
ディング配列情報に基づく色分離を行えるようにしたカ
ラー撮像装置を提供することを目的とする。請求項4に
係る発明は、ランダム色コーディング配列情報に基づく
色分離を容易に且つ確実に行うことができるカラー撮像
装置を提供することを目的とする。請求項5に係る発明
は、低コストで大量製造することができるランダム色コ
ーディング配列データを記憶する手段を備えたカラー撮
像装置を提供することを目的とする。請求項6に係る発
明は、色コーディング配列の異なるカラー撮像素子の色
分離処理にも容易に対応することが可能なカラー撮像装
置を提供することを目的とする。
め、請求項1に係る発明は、光電変換素子からなる画素
を複数個配列してなる画素群を有するカラー撮像素子で
あって、該カラー撮像素子の色コーディング配列は、任
意の着目画素が該着目画素の色を含む6色の画素と該着
目画素の4辺又は4角のいずれかにおいて隣接する配列
制限条件を満たす6色ランダム配列としてカラー撮像素
子を構成するものである。このように構成したカラー撮
像素子においては、周期性を有しないランダムな色コー
ディング配列で被写体を撮像することができ、したがっ
て周期的な輝度変化をもつ被写体でも色モアレの発生を
防止することができる。そして、任意の着目画素が該着
目画素の色を含む6色の画素と該着目画素の4辺又は4
角のいずれかにおいて隣接するという配列制限条件を満
たす6色ランダム配列としているため、ランダムであり
ながらも全ての撮像領域に亘って所定値以上の高解像度
を確保すると共に、画質性能や機能を向上させることが
でき、同時に孤立的画素欠陥が存在しても解像度の劣化
を実質的に阻止することができる。
ラー撮像素子において、前記6色ランダム配列を構成す
る6色は、1つの色(相対分光感度特性)に関してそれ
ぞれ2つの感度(絶対感度特性)を有する3原色である
ことを特徴とするものである。このように6色ランダム
配列における6色を、2つの感度を有する3原色で構成
することにより、撮像ダイナミックレンジを飛躍的に向
上させることができる。
2に係るカラー撮像素子を備え、該カラー撮像素子の出
力信号に対して該カラー撮像素子のランダム色コーディ
ング配列に基づく色分離処理を行う色分離手段を設けて
カラー撮像装置を構成するものである。このように構成
することにより、色モアレを発生させず所定値以上の高
解像度を備えると共に画質性能や機能を向上させること
ができ、同時に孤立的画素欠陥が存在しても解像度の劣
化を実質的に生じさせず、且つ撮像ダイナミックレンジ
を飛躍的に向上させることが可能なカラー撮像素子の色
コーディング配列情報に基づく色分離を、確実に行うこ
とができるカラー撮像装置を実現することができる。
ラー撮像装置において、前記色分離手段で色分離処理を
行うための、前記カラー撮像素子のランダム色コーディ
ング配列に関する配列データを記憶する記憶手段を備え
ていることを特徴とするものである。このようにカラー
撮像素子の色コーディング配列データを記憶する記憶手
段を備えることにより、ランダム色コーディング配列情
報に基づく色分離を容易に且つ確実に行うことができ
る。
ラー撮像装置において、前記記憶手段をマスクROMで
構成することを特徴とするものである。このように色コ
ーディング配列データの記憶手段としてマスクROMを
用いることにより、記憶手段をひいてはカラー撮像装置
を低コストで大量製造することが可能となる。
ラー撮像装置において、前記記憶手段をEEPROMで
構成することを特徴とするものである。このように色コ
ーディング配列データの記憶手段としてEEPROMを
用いることにより、色コーディング配列の異なるカラー
撮像素子の色分離処理にも容易に対応することが可能と
なる。
る。図1は、本発明に係るカラー撮像素子を用いたカラ
ー撮像装置(ディジタルカメラ)の実施の形態を示すブ
ロック構成図である。図1において、1はレンズ系、2
はレンズ駆動機構、3は露出制御機構、4はCCD撮像
素子、5はCCDドライバ、6はA/D変換器を含むプ
リプロセス回路、7はディジタルプロセス回路で、ハー
ドとしてメモリを含み、全てのディジタルプロセス処理
を行うものである。8はメモリカードインターフェー
ス、9はメモリカード、10はLCD画像表示系、11は主
たる構成としてマイコンを含むシステムコントローラ、
12は操作スイッチ系、13は操作表示系、14はストロボ、
15はレンズドライバ、16は露出制御ドライバ、17はEE
PROMである。
像素子として用いているCCD撮像素子4のランダム配
列の色フィルタ配列例を図2に示す。このCCD撮像素
子の画素数は、任意ではあるが仮に 100万画素程度を想
定しており、図2においては、中央部分の8×8=64画
素に対応するフィルタ配列だけを表示している。以下の
説明では、このようなランダム配列を得るための手順を
具体的に説明するものであり、図示はあくまでもこの理
解を助けるためのものであり、この程度の領域の図示で
充分理解されるであろう。(また、ランダム配列が本発
明の本質であるから、全領域のパターンを例示すること
は無意味且つ不可能でもある。)図2において、LRは
Light Red ,DRはDark Red,LGはLight Green ,D
GはDarkGreen,LBはLight Blue,DBはDark Blue
をそれぞれ表し、それぞれ上記従来のベイヤ配列の撮像
素子のR,G,B各フィルタと同じ色(相対分光透過
率)のフィルタであるが、LXはXフィルタの2倍の透
過率、DXはXフィルタの1/2の透過率を有してい
る。(但しXは、R,G,Bのいずれかを表すものとす
る。以下同じ。)このような色フィルタコーディング
を、以下では2濃度RGB6色(省略して2濃度RGB
又はRGB6色という)ランダムコーディングと称す
る。
の手順例について説明する。このコーディングはランダ
ムコーディングであるから、各画素の色フィルタを決定
するために、2濃度RGBの6色にそれぞれ1面ずつを
割り当てたサイコロを使用してもよいのは勿論である
が、その煩雑さを減じるため表計算ソフトウェア等を用
いて、全画素配列に相当する表配列を準備する。そし
て、配列の各セルに数式MOD(RND/6)(但し、
RNDは適当な桁数の乱数関数、MOD(n/d)はn
をdで除した剰余関数)を割り当てて得られた数値に対
して、例えば0→LR,1→LG,2→LB,3→D
R,4→DG,5→DBを適用すればよい。
には通常は特に大きな偏りは持たないが、ただ1回の試
行によって得たものは確率的に低いとはいえ、極端に色
による画素数の多寡があったり、大面積にわたる特定色
の集中があったりする可能性を有している。あるいは、
従来例のような周期性を有したパターンになる可能性も
極めて低いが0ではない。従って、上記手法によって数
回の試行を行い複数の配列サンプルを得た上で、実写に
よる撮像試験(現実にはシミュレーションを用いるのが
好適)を行って、評価結果のよいものを採用することが
望ましい。
は、最終的な配列選択に際しては避けられないものであ
るとしても、設計当初から全て試行のみによることは、
一般的には設計効率を著しく低下させるものであって好
ましくない。あるいは試行によって得られた配列を評価
するに当たっても、良い撮像画質を得るためには、必須
となるような配列自体に要求される客観的な要件といっ
たものがあるはずで(極端な例として、全てが一つの色
の画素のみになってはならないことは自明である)、こ
のような条件を具体的に見出し、これを制限条件(判定
基準)として採用することが極めて有効である。
撮像素子の2濃度RGB6色ランダム配列は、任意の着
目画素が該着目画素のフィルタの色(自己の色)を含む
6色の画素と該着目画素の4辺又は4角のいずれかにお
いて隣接するということを制約条件として採用してい
る。すなわち、仮に着目画素のフィルタの色(自己の
色)がLRであったとすれば、その上下左右及び斜め四
方の隣接8画素のうちにLR,LG,LB,DR,D
G,DBが少なくとも1画素ずつは含まれているという
条件である。この条件は、後述の色分離処理における最
近接画素情報による補完が、必ず上下左右及び斜め四方
のいずれかの隣接画素によってなされることを保証する
ものであって、その結果として一定値以上の高解像度の
確保を保証するものである。なお且つ、仮に画素欠陥
(但し孤立的なものを想定している)が生じても着目画
素のフィルタの色(自己の色)が上下左右斜め四方の隣
接8画素のうちに必ず存在しているから、これによって
その欠陥を補完すれば、解像度の劣化が事実生じないも
のである。図2の例において、周辺各1列の画素は見か
け上上記条件を満たしていないものもあるが、これは図
示されてない更に外側の画素の存在によって条件を満た
しているものである。このような事情から、撮像素子の
光電変換面は、有効画像領域よりも4周それぞれにつき
1〜数行(列)の余裕を見て、いわゆる捨て画素領域
(画像信号生成に関与するが、有効画像領域ではない領
域)を設けてある。
は、上記完全にランダムな配列を試行により多数用意
し、それを上記条件で検定することによっても、あるい
は例えば表計算等のソフトウェア処理による配列生成に
当たって、予め制約条件を課した上で生成することによ
っても、いずれでも得ることができる。
配列を備えたCCD撮像素子4を用いたカラー撮像装置
(ディジタルカメラ)においては、従来のカメラと同様
に信号を読み出して処理し、撮像画像をメモリカード9
に記録、あるいはLCD画像表示系10に表示する。従来
と異なる動作は色分離処理であるが、その処理は、ディ
ジタルプロセス回路7がシステムコントローラ11の制御
下において行うようになっている。無論、色分離処理と
は、基本的には対応色信号の存在しない画素(例えば従
来のRGBフィルタ撮像素子を用いたB信号生成処理に
おけるRフィルタ画素など)に対する近隣画素情報等を
用いた信号補完処理であって、この点に関しては従来と
何等変わるところはない。しかしながら従来の色分離
が、CCD撮像素子の規則的色コーディングに対応し
て、順列に基づいた規則的サンプリングを行いホールド
回路等を用いた単純な補完や、更に必要に応じて画素間
の加算減算等を行っていた(具体的な処理についてはア
ナグロ処理、ディジタル処理、混成処理等多種にわた
る)のに対して、本発明において適用するランダムコー
ディングは規則性がないので、このような処理はできな
い。そこで、使用するCCD撮像素子の各画素に関して
のフィルタコーディングデータ(上記図2に相当する全
画素のフィルタテーブル)を参照して、色分離処理を行
う。このコーディングデータはEEPROM17に記憶さ
れており、使用するCCD撮像素子の色コーディングが
異なる場合にも対応できるようになっている。
は、言うまでもなくR,G,B各色に感度の異なる2種
類の画素が存在していることであって、撮像素子から読
み出される画素情報信号の光電変換特性は、R,G,B
の各色間の感度の違いをさておけば、R,G,Bのいず
れかである着目する色X(LX,DX)については、図
3に示すようなものとなっている。すなわち、従来の色
Xの特性をLX,DXの各フィルタ透過率の違いに相当
する分だけ左右に平行移動させたものになっている。
(図3の基準感度線Aは従来の色Xの有効輝度域の光電
変換特性に対応する補助線である。)
置における色信号の生成処理は従来のものとは異なり、
各色Xに対応するX信号はLX画素情報とDX画素情報
との2種の画素情報から生成される。具体的な各X信号
の生成処理は以下のようにして行われる。但し、Y画素
とはLX,DX以外の4種の画素(例えばX=Gの時、
LR,DR,LB,DBのいずれか)を示す。
より小さい値の時→自己の画素情報信号の値の1/2の
値をX信号値とする。 (2)自己の画素情報信号がUL(LX)以上の時→自
己に隣接するDX画素(少なくとも1つ存在する)の画
素情報信号の値を判定した結果によって、(2−A)そ
れがLL(DX)より大きくUL(DX)より小さい時
→そのDX画素の値(複数ある場合はその代表値)の2
倍の値をX信号値とする。 (2−B)その全てがLL(DX)以下又はUL(D
X)以上の時→自己の画素情報信号の値の1/2の値を
X信号値とする。
の時→自己の画素情報信号の値の2倍の値をX信号値と
する。 (2)自己の画素情報信号がLL(DX)以下の時→自
己に隣接するLX画素(少なくとも1つ存在する)の画
素情報信号の値を判定した結果によって、(2−A)そ
れがLL(LX)より大きくUL(LX)より小さい時
→そのLX画素の値(複数ある場合はその代表値)の1
/2の値をX信号値とする。 (2−B)その全てがLL(LX)以下又はUL(L
X)以上の時→自己の画素情報信号の値の2倍の値をX
信号値とする。
又はDX画素:これは少なくとも2つ存在する)の出力
するX信号値(但し、上記条件(1)を満足するものを
優先し、これが複数ある場合はその代表値)を自己のX
信号値とする。なお、上記複数の値から「代表値」を得
ることに関しては、選択法(例えば必ず下より上且つ右
より左を選択する。解像度が高い。)あるいは補間法
(平均値を算出する。擬似信号の発生レベルが小さ
い。)のいずれを用いてもよい。
信号は、全画素に関する同時化されたRGB3原色信号
として、従来のRGB3原色信号と同様に後段の回路で
処理され、最終的にメモリカード9に記録、あるいはL
CD画像表示系10に表示される。なお、この後段の回路
における処理は、その必要に応じて適宜使用されるそれ
自体は公知の、例えば色バランス処理、マトリクス演算
による輝度−色差信号への変換あるいはその逆変換処
理、帯域制限等による偽色除去あるいは低減処理、γ変
換に代表される各種非線型処理、各種情報圧縮処理、等
々である。
とは要するにLX,DX画素それぞれについて「所定の
撮像レンジ(有効輝度域)に収まっている場合は、その
画素の情報をそのまま使用する」ということであり、そ
の際各画素が従来技術におけるX相当の「基準となる感
度に対して有している感度差を所定の係数を乗じて(す
なわちディジタルゲイン調節を行って)補償」している
ものである。したがって、LX,DX共通のレンジ内の
被写体に関しては、LX,DXが個別のX画素として機
能した高解像度のX(RGB)信号が得られる。
画素情報信号がレンジを逸脱している場合、隣接の他方
のXが逸脱していない場合はそれで補完する」ことを意
味している。すなわち、どちらか一方の画素のレンジで
のみカバーされる高輝度や低輝度の被写体部分」に関し
ては、画素密度が半分になった状態でのX信号が得られ
ることになるが、この場合の補完は必ず隣接画素によっ
て行われる。したがって、Y画素における補完の条件と
同じであり、解像度の劣化は極めて小さい。
は2倍、DXは1/2の感度であるから、それぞれ低輝
度側、高輝度側に1EV(6dB)ずつ撮像レンジがシフ
トしたことになり、合わせて2EV(12dB)撮像レンジ
が拡大したことになる。従来の撮像素子を用いた場合
に、ダイナミックレンジ:Range=6EV(36dB)が限
界であったとすれば、本実施の形態によって8EV(48
dB)の広ダイナミックレンジの撮像装置を得ることがで
きる。
られる総合特性を図4に示す。この総合特性は、上記デ
ィジタルゲイン調節によって、LX,DXの2つの特性
が上下に平行移動して一つに重なった特性となってい
る。EUL,ELL等はそれぞれ拡大された高輝度、低
輝度の限界レベルである。
解像度の得られるレンジ)は4EVあるが、上記のとお
り解像度劣化の影響は小さいから、上記フィルタ透過率
及びゲイン調節の係数を変えて共通レンジがほぼ0にな
るように設定したものを変形例として挙げておく。この
変形例によれば、12EV(72dB)の飛躍的に広い撮像ダ
イナミックレンジを得ることが可能になる。
レンジが拡大するから、被写体撮像に関して直接的に効
果を発揮し、輝度再現域並びに色再現域が飛躍的に拡大
すると共に、低輝度部でのS/N向上の結果、視覚的な
色忠実度も向上する。
れの撮像レンジも逸脱している場合は、本来の画素の情
報をそのまま(ゲイン調節は行い)使用する」ことを意
味している。したがって、拡大された総合レンジをも逸
脱する被写体(例えば解像度チャートのような完全な白
黒パターン)に対しては、再び画素密度が高い状態での
撮像が可能になっている。
関して考察すると、白黒のナイフエッジや孤立的な白点
(線)等の被写体に関しては、当然ながら平面的なカラ
ーコーディングの影響で従来のコーディングと同様に偽
色を生じる。しかしながら、これらはいずれも孤立的に
発生する(偽の)色点や色線であって、その主要エネル
ギーは高周波域に分布しているから、従来公知の電気的
フィルタ処理等の手法で除去あるいは低減することが可
能である。そして、従来最大の問題であった縞模様状の
繰り返しパターンの撮像に関しては、コーディングがラ
ンダムであるため、少なくとも低周波に折返った低域の
偽色(色モアレ)は発生せず、本実施の形態においては
上記除去あるいは低減可能な孤立的な偽色の発生にとど
まるものである。従って本実施の形態においては、従来
この種のディジタルカメラにおいて必須であった光学ロ
ーパスフィルタを使用していないにも関わらず、視覚的
に問題となる偽色がほとんど発生せず高画質が得られ
る。
報による補完が、必ず上下左右又は斜め四方のいずれか
の隣接画素によってなされるから、画素のぼけの最大値
すなわちPSF(点像分布関数)の幅の最大値は、上記
共通レンジを逸脱している領域を含めても、少なくとも
水平垂直方向に関しては3画素にとどまり、「従来のベ
イヤ配列で色分離の際の補完に1画素でなく周辺画素の
平均値を用いた場合」と比較して、G情報で同程度、R
B情報に関しては2倍程度の解像度を確保することがで
きる。また、孤立画素欠陥が存在した場合の補完を考え
ると、ベイヤ配列の場合はPSFの幅を最大5画素まで
許容せざるを得ないのに対して、本実施の形態ではPS
Fの最大幅は変化しない。しかも、これは純粋な画素サ
ンプリングによる効果のみの比較であるが、更に光学ロ
ーパスフィルタを使用していないから、これによるレス
ポンスの低下がなく、従来解像不可能であった周波数領
域にまで解像度を拡大することが可能になる。
いて説明を行ったが、上記実施の形態には様々な変形例
が考えられる。まず、上記実施の形態では、コーディン
グデータはEEPROM17に記憶されており、使用する
CCD撮像素子のコーディングが異なる場合にも対応で
きるようになっていたものを示した。CCD撮像素子は
量産ばらつきに起因して1個毎に異なる画素欠陥データ
等を必要とするから、このためのメモリを兼用する上か
らも、EEPROMを用いることは利点となり得るが、
一方通常一つの撮像装置本体に対して適用される撮像素
子は一種(量産ばらつきを除けば同一)であり、特にカ
ラーコーディングを変える必要もないから、コーディン
グデータ自身は全て同じデータを用いることができる。
この点に着目すれば、上記EEPROMはマスクROM
に置き換えることが可能である。マスクROMに置き換
えた場合、より低コストに構成することができる。そし
てまた、いずれの態様の場合も、システムコントローラ
11の有するマイクロコンピュータのプログラム格納メモ
リと兼用することが可能であることは言うまでもない。
ンダムコーディングを得るための手順」は、あくまでも
一例に過ぎず、ランダムコーディング自体は任意の方法
によって得ることができる。すなわち、当該カラーコー
ディング配列が、従来公知であった規則的配列とは異な
り、光電変換素子配列の少なくとも数画素〜数十画素以
上の所定の領域に着目したときに顕著な規則的(周期
的)構造を有しておらず、その結果として従来の規則的
配列によって生じる縞模様状の繰り返しパターン入力に
対する低域偽色の発生が低減したならば、その配列は本
発明におけるランダム色コーディング配列となる。
ィルタの透過率は従来のXフィルタの2倍として説明を
行ったが、従来のXフィルタのピーク波長における透過
率が50%以上の場合はこれは実現不可能である。この問
題に対する解決を示すために、仮想的に従来のXフィル
タのピーク波長透過率が 100%であった場合を想定し
て、変形例を挙げておく。すなわちLXフィルタを従来
のXフィルタと同じ透過率とし、DXフィルタを1/4
の透過率とする例である。(ゲイン補正の数値も対応し
て変えることはいうまでもない。以下の例でも同じ。)
この場合、X信号の撮像レンジは高輝度側にのみ2EV
拡大することになる。なお、上記実施の形態とこの変形
例に従って、各Xフィルタのピーク波長透過率に関し
て、これら2つの例の中間の値は勿論任意の値に対して
も、本発明を自明的に容易に適用することができる。ま
た上記実施の形態及びその変形例では、各X(RGB)
フィルタに対してL及びDの相対的透過率設定は同じ値
としたものを示したが、RGB毎に異なる値を用いても
よいことは明らかで、任意の値に対しても本発明を自明
的に容易に適用することができる。
ける透過率等の数字は、あくまでも一例であり、必要に
応じて任意に変更し得ることは言うまでもない。
では6色ランダムコーディングとして2濃度RGB6色
ランダムコーディングを用いたものを示したが、例えば
減色混合の3原色であるYeMgCy(通称:補色)フ
ィルタを用いた2濃度YeMgCy3原色ランダムコー
ディングでもよい。また、RGB3原色フィルタに色再
現改善用のnG(狭帯域緑フィルタ)、高感度用のW
(フィルタなし)、赤外域撮像用IR(可視光カットフ
ィルタ)を加えた6色を用いて高画質多機能の同時実現
を図ることもできる。すなわち、任意の6色コーディン
グに応用することができる。更にいわゆる光学的なフィ
ルタを使用せず、撮像素子自体の素子構造で分光特性を
異ならしめ、色コーディングを施したものであってもよ
い。
に、本発明によれば周期的色コーディング配列に伴う問
題を本質的に解決し、周期的な輝度変化をもった被写体
でも色モアレを発生させず、また撮像ダイナミックレン
ジを飛躍的に向上させることができる小型低コストで高
画質なカラー撮像の可能なカラー撮像素子及びカラー撮
像装置を得ることができ、特に請求項1に係る発明によ
れば、周期性を有しないランダムな色コーディング配列
による被写体撮像を行うことを可能とし、しかも任意の
着目画素が該着目画素の色を含む6色の画素と該着目画
素の4辺又は4角のいずれかにおいて隣接するという配
列制限条件を満たす6色ランダム配列としているので、
色モアレを発生させず且つ全撮像領域に亘って所定値以
上の高解像度を確保すると共に画質性能や機能を向上さ
せることができ、同時に孤立的画素欠陥が存在しても解
像度の劣化を実質的に生じさせないカラー撮像素子を実
現することができる。また請求項2に係る発明によれ
ば、6色ランダム配列における6色を2つの感度を有す
る3原色で構成しているので、撮像ダイナミックレンジ
を飛躍的に向上させることができる。また請求項3に係
る発明によれば、色モアレを発生させず所定値以上の高
解像度を備えると共に画質性能や機能を向上させること
ができ、同時に孤立的画素欠陥が存在しても解像度の劣
化を実質的に生じさせず、且つ撮像ダイナミックレンジ
を飛躍的に向上させることが可能なカラー撮像素子の、
色コーディング配列情報に基づく色分離を確実に行うこ
とができるカラー撮像装置を実現することができる。ま
た請求項4に係る発明によれば、カラー撮像素子のラン
ダム色コーディング配列データを記憶する記憶手段を備
えているので、ランダム色コーディング配列情報に基づ
く色分離を容易に且つ確実に行うことができる。また請
求項5に係る発明によれば、色コーディング配列データ
の記憶手段としてマスクROMを用いているので、記憶
手段をひいてはカラー撮像装置を低コストで大量製造す
ることが可能となる。また請求項6に係る発明によれ
ば、色コーディング配列データの記憶手段としてEEP
ROMを用いているので、色コーディング配列の異なる
カラー撮像素子の色分離処理にも容易に対応することが
可能となる。
置の実施の形態を示すブロック構成図である。
子のランダム色フィルタ配列の一例を示す図である。
ら読み出される画素情報信号の光電変換特性を示す図で
ある。
によって得られる総合特性を示す図である。
を示す図である。
る。
Claims (6)
- 【請求項1】 光電変換素子からなる画素を複数個配列
してなる画素群を有するカラー撮像素子であって、該カ
ラー撮像素子の色コーディング配列は、任意の着目画素
が該着目画素の色を含む6色の画素と該着目画素の4辺
又は4角のいずれかにおいて隣接する配列制限条件を満
たす6色ランダム配列であることを特徴とするカラー撮
像素子。 - 【請求項2】 前記6色ランダム配列を構成する6色
は、1つの色に関してそれぞれ2つの感度を有する3原
色であることを特徴とする請求項1に係るカラー撮像素
子。 - 【請求項3】 前記請求項1又は2に係るカラー撮像素
子を備え、該カラー撮像素子の出力信号に対して該カラ
ー撮像素子のランダム色コーディング配列に基づく色分
離処理を行う色分離手段を有していることを特徴とする
カラー撮像装置。 - 【請求項4】 前記色分離手段で色分離処理を行うため
の、前記カラー撮像素子のランダム色コーディング配列
に関する配列データを記憶する記憶手段を備えているこ
とを特徴とする請求項3に係るカラー撮像装置。 - 【請求項5】 前記記憶手段は、マスクROMで構成さ
れていることを特徴とする請求項4に係るカラー撮像装
置。 - 【請求項6】 前記記憶手段は、EEPROMで構成さ
れているこを特徴とする請求項4に係るカラー撮像装
置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP12549599A JP4119566B2 (ja) | 1999-05-06 | 1999-05-06 | カラー撮像素子及びカラー撮像装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP12549599A JP4119566B2 (ja) | 1999-05-06 | 1999-05-06 | カラー撮像素子及びカラー撮像装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2000316169A true JP2000316169A (ja) | 2000-11-14 |
| JP4119566B2 JP4119566B2 (ja) | 2008-07-16 |
Family
ID=14911526
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP12549599A Expired - Fee Related JP4119566B2 (ja) | 1999-05-06 | 1999-05-06 | カラー撮像素子及びカラー撮像装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP4119566B2 (ja) |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2008514134A (ja) * | 2004-09-22 | 2008-05-01 | イーストマン コダック カンパニー | 有効ダイナミック・レンジの拡張 |
| JP2008125117A (ja) * | 2001-01-09 | 2008-05-29 | Sony Corp | 画像処理装置および方法 |
| JP2009098599A (ja) * | 2007-09-28 | 2009-05-07 | Epson Imaging Devices Corp | 表示装置 |
| US7710476B2 (en) | 2006-03-14 | 2010-05-04 | Sony Corporation | Color filter array, imaging device, and image processing unit |
| US7750959B2 (en) | 2006-03-14 | 2010-07-06 | Sony Corporation | Method and apparatus for manufacturing color image pickup device including a random array pattern and a regular array pattern |
| JP2011114576A (ja) * | 2009-11-26 | 2011-06-09 | Canon Inc | 撮像装置、撮像方法、及びプログラム |
| JP2012113248A (ja) * | 2010-11-26 | 2012-06-14 | Canon Inc | 撮像装置 |
-
1999
- 1999-05-06 JP JP12549599A patent/JP4119566B2/ja not_active Expired - Fee Related
Cited By (14)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7986360B2 (en) | 2001-01-09 | 2011-07-26 | Sony Corporation | Image processing apparatus and method for generating a restoration image |
| JP2008125117A (ja) * | 2001-01-09 | 2008-05-29 | Sony Corp | 画像処理装置および方法 |
| USRE47062E1 (en) | 2001-01-09 | 2018-09-25 | Sony Semiconductor Solutions Corporation | Image processing apparatus and method for generating a restoration image |
| USRE46557E1 (en) | 2001-01-09 | 2017-09-19 | Sony Semiconductor Solutions Corporation | Image processing apparatus and method for generating a restoration image |
| US7847829B2 (en) | 2001-01-09 | 2010-12-07 | Sony Corporation | Image processing apparatus restoring color image signals |
| JP2011087317A (ja) * | 2001-01-09 | 2011-04-28 | Sony Corp | 画像処理装置および方法 |
| JP2008514134A (ja) * | 2004-09-22 | 2008-05-01 | イーストマン コダック カンパニー | 有効ダイナミック・レンジの拡張 |
| US7710476B2 (en) | 2006-03-14 | 2010-05-04 | Sony Corporation | Color filter array, imaging device, and image processing unit |
| US8339487B2 (en) | 2006-03-14 | 2012-12-25 | Sony Corporation | Color filter array, imaging device, and image processing unit |
| US8350938B2 (en) | 2006-03-14 | 2013-01-08 | Sony Corporation | Method and apparatus for manufacturing color image pickup device including a random array pattern and a regular array pattern |
| US7750959B2 (en) | 2006-03-14 | 2010-07-06 | Sony Corporation | Method and apparatus for manufacturing color image pickup device including a random array pattern and a regular array pattern |
| JP2009098599A (ja) * | 2007-09-28 | 2009-05-07 | Epson Imaging Devices Corp | 表示装置 |
| JP2011114576A (ja) * | 2009-11-26 | 2011-06-09 | Canon Inc | 撮像装置、撮像方法、及びプログラム |
| JP2012113248A (ja) * | 2010-11-26 | 2012-06-14 | Canon Inc | 撮像装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP4119566B2 (ja) | 2008-07-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4098438B2 (ja) | カラー撮像素子及びカラー撮像装置 | |
| JP4971323B2 (ja) | カラー画素とパンクロ画素の処理 | |
| EP2087725B1 (en) | Improved light sensitivity in image sensors | |
| JP5462345B2 (ja) | 光感度が改善されたイメージ・センサー | |
| US8237831B2 (en) | Four-channel color filter array interpolation | |
| US8203633B2 (en) | Four-channel color filter array pattern | |
| US6803955B1 (en) | Imaging device and imaging apparatus | |
| JPWO2013089036A1 (ja) | 撮像装置 | |
| JP2013219807A (ja) | カラー画素およびパンクロマティック画素を有する画像の処理 | |
| JP2009524988A (ja) | 光感度が改善されたイメージ・センサー | |
| CN102224736A (zh) | 摄像装置 | |
| US7593046B2 (en) | Color image pickup apparatus having random color coding array | |
| JP2009077274A (ja) | 画像処理装置、画像処理方法、及び撮像装置 | |
| EP2502422A1 (en) | Sparse color pixel array with pixel substitutes | |
| EP1277351B1 (en) | Camera with color filter | |
| CN104025577A (zh) | 图像处理装置、方法以及摄像装置 | |
| JP4119566B2 (ja) | カラー撮像素子及びカラー撮像装置 | |
| JP5411390B2 (ja) | カラー撮像素子 | |
| JP2000316168A (ja) | カラー撮像素子及びカラー撮像装置 | |
| JP4119565B2 (ja) | カラー撮像素子及びカラー撮像装置 | |
| JP2000308071A (ja) | カラー撮像素子及びカラー撮像装置 | |
| JP4309506B2 (ja) | 撮像素子及び撮像装置 | |
| JP2000316166A (ja) | カラー撮像素子及びカラー撮像装置 | |
| JP4309505B2 (ja) | 撮像素子及び撮像装置 | |
| JP4311808B2 (ja) | カラー撮像素子及びカラー撮像装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060126 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080415 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080422 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080425 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110502 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120502 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130502 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140502 Year of fee payment: 6 |
|
| S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| LAPS | Cancellation because of no payment of annual fees |