JP2015053578A - カラー撮像装置及びカラー撮像方法 - Google Patents
カラー撮像装置及びカラー撮像方法 Download PDFInfo
- Publication number
- JP2015053578A JP2015053578A JP2013184861A JP2013184861A JP2015053578A JP 2015053578 A JP2015053578 A JP 2015053578A JP 2013184861 A JP2013184861 A JP 2013184861A JP 2013184861 A JP2013184861 A JP 2013184861A JP 2015053578 A JP2015053578 A JP 2015053578A
- Authority
- JP
- Japan
- Prior art keywords
- component
- color
- green
- red
- blue
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Processing Of Color Television Signals (AREA)
- Color Television Image Signal Generators (AREA)
Abstract
【課題】擬似カラー画像と、可視光カラー画像と、近赤外画像とを同時に得ることができるカラー撮像装置を提供する。【解決手段】カラー撮像装置は、4種類の色フィルタを配置したイメージセンサ(105)と、イメージセンサの入射光経路に配置され、光センサ部の受光特性で所定波長帯域を遮断し、可視光帯域と長波長側近赤外光帯域とを通過させる光学帯域分離フィルタ(103)と、色フィルタの画素出力から4種類のデータを分離する色分離処理部(702)と、4種類の色データから複数種類の赤、緑、及び青データを生成し、赤、青、及び緑データ毎に個々のデータの大きさを調整して再合成することにより、赤、緑、及び青成分を得るデータ演算処理部(703)とを備えている。【選択図】図1
Description
本開示は、CCD(Charge Coupled Device)等の固体撮像素子を用いたカラー撮像装置及びカラー撮像方法に関する。
人間の色や明るさに対する感度特性は、可視光領域に感度を持つ。可視光領域に隣接した赤外領域を近赤外領域といい、人間の目は約700nmよりも長波長側では殆ど感度を有さない。
一般的なカメラにおいて、近赤外光は、色再現性を低下させるなどの弊害があるため、通常、撮像デバイスに被写体からの光(像)を制御する光学部品内に赤外線遮断フィルタ(赤外カットフィルタ)が設けられる。
撮像デバイス自体は赤外光にも感度を有するため、夜間撮影や監視用の高感度カメラ装置では可視光から赤外光まで広い帯域の光(像)を撮像することが可能である。
蛍光灯や電球やLED(Light Emitting Diode)等の照明(光源)の違いにより、また、太陽光でも時刻によって含まれる赤外光の割合が異なるため、そのような撮影環境の変化に適応して赤外線を遮断すべきかどうかが決まる。
近赤外光が加算された画像は、色再現性は低いが物体認識に適した画像であり、この画像を取得可能な機構と、人の目に見えない赤外LED光等の照射機構とを組み合わせると、夜間でもくっきりとした画像が得られる監視カメラ装置が実現できる。監視カメラ装置では、昼間は赤外カットフィルタを入射光路上に配置して用いる。
一方、単に近赤外光及び赤外光を遮断する機構とするのではなく、昼間におけるカラー画像撮像とともに夜間等における近赤外光による撮像を可能とするための工夫が成されている。
例えば特許文献1には、可視光カラー画像及び近赤外光画像を独立に得る撮像装置を提供することを目的とした技術が開示されている。具体的に、可視光及び近赤外光に感度を有する撮像素子の各画素に、別個のフィルタ特性を有する4種類の色フィルタを規則的に配設した撮像装置であって、4種類の色フィルタは、シアン、黄、マゼンダ並びに可視光及び近赤外光領域で波長に関わらず透過率がほぼ一定のフィルタであり、4種類の色フィルタの画素の出力をマトリクス演算することにより、青、緑、赤及び近赤外の強度を求め、可視光カラー画像及び近赤外光画像をそれぞれ独立に求めている。
また、例えば特許文献2には、簡単な演算で正確かつ直接に画素データからIR成分の分離が行えるとともに、近赤外光成分の大きさ、または、近赤外光成分が除去された色成分の大きさを正確に知る技術が開示されている。具体的に、光センサ部の入射光経路に専用のフィルタを配置する。オンチップの色フィルタが形成された光センサ部の受光特性で全てのフィルタ色の感度が揃う波長を上限として近赤外光の所定波長帯域を遮断し、当該所定波長帯域の短波長側の可視光帯域、および、前記所定波長帯域の前記上限よりも大きく1000nm以下の長波長側帯域を通過させるいわゆる2バンド光学帯域分離フィルタを実装し、4種類の色フィルタの画素の出力をマトリクス演算することにより、青、緑、赤及び近赤外の強度を求め、可視光カラー画像及び近赤外光画像をそれぞれ独立に求めている。
このように、特許文献1,2の技術では、ともに近赤外光を含むイメージセンサのデータから、可視光カラー画像及び近赤外光画像をそれぞれ独立に求めることができ、IR成分の大きさ、または、IR成分が除去された色成分の大きさを正確に知ることにより、精度よく所定のカメラ制御処理ができる画像入力処理装置を実現することを目的にしている。
特許文献1では、4種類の色フィルタを、シアン、黄、マゼンダ並びに可視光及び近赤外光領域で波長に関わらず透過率がほぼ一定のフィルタとして、4種類の色フィルタの画素の出力をマトリクス演算することにより、青、緑、赤及び近赤外の強度を求め、可視光カラー画像及び近赤外光画像をそれぞれ独立に求めている。
また、特許文献2では、光センサ部にオンチップで形成されたオンチップの補色系4色(Ye,Cy,Mg,G)の色フィルタを含む複数のケースにおいて、色分離後の4色の画素データ間で、減算を行うことによって、長波長側帯域の近赤外光成分を画素データから分離するようにしている。
しかしながら、補色フィルタ(Ye,Cy,Mg,G)および原色と補色を含む4色フィルタにおいて、前記2つの文献で開示された技術では、演算処理により得られた青、緑、赤各色の積算値に関してほぼ正確な値を得て可視光カラー画像を出力しているが、環境光色温度が変化する状況で色バランスのとれた高画質なカラー画像を、どのように実現するかに関しての具体的な画像処理方法の詳細記載がない。
また、可視光と近赤外光との両方の成分を含む、高感度で色S/Nの良い高品質な「擬似カラー画像」を生成する画像処理方法が開示されていない。
開示された技術で「可視光カラー画像」、「擬似カラー画像」を生成した場合には、演算処理により得られた青、緑、赤各色の成分が4色フィルタの1色に含まれる成分を主成分としているため、色S/Nの劣化や、強い環境光のもとイメージセンサ出力の飽和が発生した画素エリアに対して高輝度部の着色現象が発生しやすい課題がある。
かかる点に鑑みて、本開示は、昼夜を問わず、近赤外光を含む様々な光源環境において、高感度で色バランスと色S/Nが良好で近赤外光成分による着色のない可視光と近赤外光の両方の成分を含む「擬似カラー画像」と、可視光カラー画像と、近赤外画像とを同時に得ることができるカラー撮像装置を提供することを目的とする。
上記課題を解決するため本開示によって次のような解決手段を講じた。すなわち、カラー撮像装置は、可視光及び近赤外光に感度を有し、各画素に、波長透過特性が調整された原色と補色とを含む4種類の色フィルタを配置したイメージセンサと、前記イメージセンサの入射光経路に配置され、オンチップの色フィルタが形成された光センサ部の受光特性で可視光波長帯域の上限から全てのフィルタ色の感度がほぼ揃う近赤外の波長までの所定波長帯域を遮断し、当該遮断された所定波長帯域の短波長側となる可視光帯域と前記感度がほぼ揃う近赤外の波長から更に大きいほうに任意の波長幅を有する長波長側近赤外光帯域との少なくとも2つの帯域を通過させる光学帯域分離フィルタと、前記4種類の色フィルタの画素出力から色毎の4種類のデータを分離して出力する色分離処理部と、前記4種類の色データからマトリクス演算によって複数種類の赤(R)、緑(G)、及び青(B)データを生成し、当該赤(R)、緑(G)、及び青(B)データ毎に個々のデータの大きさを調整して再合成することにより、ほぼ等しい近赤外光成分を有してかつ可視光成分の色バランスがとれた、赤(R)成分、緑(G)成分、及び青(B)成分を抽出するデータ演算処理部とを備えていることを特徴とする。
また、前記波長透過特性が調整された4種類の色フィルタは、シアン(Cy)、黄(Ye)、マゼンダ(Mg)、及び緑(G)の色フィルタであることを特徴とする。
また、前記波長透過特性が調整された4種類の色フィルタは、赤(R)、緑(G)、青(B)、及びマゼンダ(Mg)の色フィルタであることを特徴とする。
また、前記波長透過特性が調整された4種類の色フィルタは、赤(R)、緑(G)、青(B)、及び黄(Ye)の色フィルタであることを特徴とする。
また、前記波長透過特性が調整された4種類の色フィルタは、赤(R)、緑(G)、青(B)、及びシアン(Cy)の色フィルタであることを特徴とする。
また、前記データ演算処理部は、複数種類の青(B)、緑(G)、及び赤(R)のデータを演算出力するにあたり、近赤外光成分IRを含む第1の青(B1)、第1の緑(G1)、及び第1の赤(R1)と、近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の青(B2)、第2の緑(G2)、及び第2の赤(R2)との、少なくとも2種類の青(B)、緑(G)、及び赤(R)のデータを同時に演算出力できる構成を有することを特徴とする。
また、前記データ演算処理部は、環境光色温度の変化に対して前記2種類の青(B)、緑(G)、及び赤(R)のデータを用いて白バランスをとる際、可視光成分と近赤外光成分IRとを含む第1の青(B1)、第1の緑(G1)、及び第1の赤(R1)を第1の主たる成分とし、第1の主たる成分に含まれる近赤外光成分IRの大きさがほぼ等しくなるように、それぞれゲイン調整するとともに、近赤外光成分IRをほとんど含まず可視光成分を主たる成分とする第2の青(B2)成分、第2の緑(G2)成分、及び第2の赤(R2)成分のゲイン調整をして、前記ゲイン調整後の第1の主たる成分に、前記ゲイン調整後の第2の青(B2)成分、第2の緑(G2)成分、及び第2の赤(R2)成分を合成する構成をとることで、ほぼ等しい近赤外光成分を有してかつ可視光成分の色バランスのとれた青(B)成分、緑(G)成分、赤(R)成分を演算出力することを特徴とする。
また、上記カラー撮像装置において、波長透過特性を調整された4種類の色フィルタがシアン(Cy)、黄(Ye)、マゼンダ(Mg)、緑(G)の色フィルタの場合には、可視光成分と近赤外光成分IRとを含む第1の青(B1)に含まれる青(B)成分はマゼンダ(Mg)の色フィルタに含まれる青(B)成分とシアン(Cy)に含まれる青(B)成分を任意の比率で合成したものであり、可視光成分と近赤外光成分IRとを含む第1の赤(R1)に含まれる赤(R)成分はマゼンダ(Mg)の色フィルタに含まれる赤(R)成分と黄(Ye)の色フィルタに含まれる赤(R)成分を任意の比率で合成したものであり、可視光成分と近赤外光成分IRとを含む第1の緑(G1)に含まれる緑(G)成分は(Cy)と黄(Ye)の色フィルタに含まれる緑(G)成分と緑(G)の色フィルタに含まれる緑(G)成分を任意の比率で合成したものであり、近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の青(B2)に含まれる青(B)成分はシアン(Cy)の色フィルタに含まれる青(B)成分を主成分とし、近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の赤(R2)に含まれる赤(R)成分は黄(Ye)の色フィルタに含まれる赤(R)成分を主成分とし、近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の緑(G2)に含まれる緑(G)成分はシアン(Cy)と黄(Ye)の色フィルタに含まれる成分からマゼンダ(Mg)と緑(G)の色フィルタに含まれる成分を減算した緑(G)成分を主成分とすることを特徴とする。
また、上記カラー撮像装置において、波長透過特性を調整された4種類の色フィルタが赤(R)、緑(G)、青(B)、マゼンダ(Mg)の色フィルタの場合には、可視光成分と近赤外光成分IRとを含む第1の青(B1)に含まれる青(B)成分は青(B)の色フィルタに含まれる青(B)成分であり、可視光成分と近赤外光成分IRとを含む第1の赤(R1)に含まれる赤(R)成分は赤(R)の色フィルタに含まれる赤(R)成分であり、可視光成分と近赤外光成分IRとを含む第1の緑(G1)に含まれる緑(G)成分は緑(G)の色フィルタに含まれる緑(G)成分であり、近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の青(B2)に含まれる青(B)成分はマゼンダ(Mg)の色フィルタに含まれる青(B)成分を主成分とし、近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の赤(R2)に含まれる赤(R)成分はマゼンダ(Mg)の色フィルタに含まれる赤(R)成分を主成分とし、近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の緑(G2)に含まれる緑(G)成分はマゼンダ(Mg)と緑(G)の色フィルタに含まれる成分から赤(R)と青(B)の色フィルタに含まれる成分を減算した緑(G)成分を主成分とすることを特徴とする。
また、上記カラー撮像装置において、波長透過特性を調整された4種類の色フィルタが赤(R)、緑(G)、青(B)、黄(Ye)の色フィルタの場合には、可視光成分と近赤外光成分IRとを含む第1の青(B1)に含まれる青(B)成分は青(B)の色フィルタに含まれる青(B)成分であり、可視光成分と近赤外光成分IRとを含む第1の赤(R1)に含まれる赤(R)成分は赤(R)の色フィルタに含まれる赤(R)成分であり、可視光成分と近赤外光成分IRとを含む第1の緑(G1)に含まれる緑(G)成分は緑(G)の色フィルタに含まれる緑(G)成分であり、近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の赤(R2)に含まれる赤(R)成分は黄(Ye)の色フィルタに含まれる赤(R)成分を主成分とし、近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の緑(G2)に含まれる緑(G)成分は黄(Ye)の色フィルタに含まれる緑(G)成分を主成分とし、近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の青(B2)に含まれる青(B)成分は青(B)と黄(Ye)の色フィルタに含まれる成分から赤(R)と緑(G)の色フィルタに含まれる成分を減算した青(B)成分を主成分とすることを特徴とする。
また、上記カラー撮像装置において、波長透過特性を調整された4種類の色フィルタが赤(R)、緑(G)、青(B)、シアン(Cy)の色フィルタの場合には、可視光成分と近赤外光成分IRとを含む第1の青(B1)に含まれる青(B)成分は青(B)の色フィルタに含まれる青(B)成分であり、可視光成分と近赤外光成分IRとを含む第1の赤(R1)に含まれる赤(R)成分は赤(R)の色フィルタに含まれる赤(R)成分であり、可視光成分と近赤外光成分IRとを含む第1の緑(G1)に含まれる緑(G)成分は緑(G)の色フィルタに含まれる緑(G)成分であり、近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の青(B2)に含まれる青(B)成分はシアン(Cy)の色フィルタに含まれる青(B)成分を主成分とし、近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の緑(G2)に含まれる緑(G)成分はシアン(Cy)の色フィルタに含まれる緑(G)成分を主成分とし、近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の赤(R2)に含まれる赤(R)成分は赤(R)とシアン(Cy)の色フィルタに含まれる成分から緑(G)と青(B)の色フィルタに含まれる成分を減算した赤(R)成分を主成分とすることを特徴とする。
また、前記データ演算処理部は、さらに近赤外光成分IRのデータを抽出する演算機能を合わせて有し、色分離された近赤外光成分IRを含む4種類の色フィルタのデータのうち、可視光帯域成分がほぼ等しくなるn+1(nは自然数)画素分の組み合わせ加算データとn画素分の組み合わせ加算データとの減算処理を行うことで、近赤外光成分IRの主成分を出力することを特徴とする。
また、前記イメージセンサは、画素毎の全画素読み出しが可能に構成されていることを特徴とする。
また、前記イメージセンサは、4色の色画素毎に近傍の2画素以上の同色画素成分を加算して読み出しが可能に構成されていることを特徴とする。
また、前記4種類の色フィルタをオンチップで規則的に形成配置するにあたり、緑(G)の色フィルタは、シアン(Cy)と黄(Ye)との2つの色フィルタの積層構造で形成することを特徴とする。
また、前記波長透過特性を調整された4種類のシアン(Cy)、黄(Ye)、マゼンダ(Mg)、緑(G)の色フィルタを前記イメージセンサの各画素に2×2画素周期で繰り返し配置するにあたり、マゼンダ(Mg)と緑(G)とが対角に位置し、かつシアン(Cy)と黄(Ye)とが対角に位置するとともに、マゼンダ(Mg)と緑(G)とをあわせた配置、ならびにシアン(Cy)と黄(Ye)とをあわせた配置がそれぞれ市松状の配置になることを特徴とする。
本開示によれば、昼夜を問わず、近赤外光を含む様々な光源環境において、高感度で色バランスと色S/Nが良好で近赤外光成分による着色のない可視光と近赤外光の両方の成分を含む「擬似カラー画像」と、可視光カラー画像と、近赤外画像とを同時に得ることができるカラー撮像装置を提供することができる。
以下、図面に従って本開示に係るカラー撮像装置の好ましい実施の形態について詳説する。
図1は、本開示の一実施形態に係るカラー撮像装置の構成図である。このカラー撮像装置は、後述する画像処理を行う画像処理装置としての機能を有しており、撮像部12を介して撮像した被写体の光学像をデジタル画像データに変換して映像信号出力する単板式のデジタルカメラである。撮像部12は、光学レンズ101、光学ローパスフィルタ(OLPF)102、光学帯域分離フィルタ103、波長透過特性を調整された原色と補色を含む4種類の色フィルタ104、可視光及び近赤外光に感度を有する撮像素子105、撮像素子105の信号をA/D(Analog/Digital)変換してデータ出力するアナログフロントエンド部(AFE)106を含む。
撮像素子105は、CCD(Charge Coupled Device)型或いはCMOS(Complementary Metal-Oxide Semiconductor)型などに代表されるイメージセンサである。撮像素子105の受光面には多数のフォトダイオード(感光画素)が二次元的に配列されており、光学レンズ101を通過した被写体情報を入射光量に応じた量の信号電荷に光電変換する。
光学ローパスフィルタ102は、撮像素子105の受光面に結像される被写体像に対して画素ピッチに依存するサンプリング周波数以上の高周波成分を除去する作用を有し、画像再現(信号処理)後の最終画像におけるエリアジングの発生を防止する。
光学帯域分離フィルタ103は、複数のバンドを通過させるフィルタであり、可視光帯域と任意の幅をもつ近赤外帯域との少なくとも2つの帯域を通過させる。
色フィルタ104は、撮像素子105の一画素に対応する位置に原色および補色の何れかの色が存在するように規則的な所定の色配列を有し、受光素子たるフォトダイオードに入射する光の色選択を行う。撮像素子105は、シャッターゲートパルスのタイミングによって各フォトダイオードの電荷蓄積時間(シャッタースピード)を制御する電子シャッター機能を有している。図示せぬドライバ回路から与えられるパルスに基づいて信号電荷に応じた電圧信号(画像信号)として順次読み出される。撮像素子105の動作(露光、読み出し等)はCPU(Central Processing Unit)109により制御される。撮像素子105から出力された画像信号はアナログフロントエンド部(AFE)106に送られ、アナログゲイン、CDS(相関二重サンプリング)などの処理後、A/D変換処理によりデジタル信号に変換される。
また、CMOS型に代表される撮像素子においては、高速読み出しを実現する手段として、撮像素子105内にノイズ処理部とA/D変換器とを実装し、直接デジタル信号として出力する形態もある。
AFE106でA/D変換された画像データは、前処理部107を経てカラー画像処理部108に送られる。前処理部107は、黒レベル補正や画素並び変え処理などを行う。
カラー画像処理部108は、原色および補色の何れかの4種類の色フィルタの画素出力から色毎の4種類の色データを分離して出力する色分離処理部と、4種類の色データからマトリクス演算によって複数種類の赤(R)、緑(G)、青(B)データを生成し、赤(R)、緑(G)、青(B)データ毎に個々にデータの大きさを調整して再合成することにより、ほぼ等しい近赤外光成分を有してかつ可視光成分の色バランスのとれた青(B)成分、緑(G)成分、赤(R)成分を抽出するデータ演算処理部とを含む。また、カラー画像処理部108は、同時化(カラーフィルタ配列に伴う色信号の空間的なズレを補間して各点の色を計算する処理)、ホワイトバランス(WB)調整、ガンマ補正、輝度・色差信号生成、輪郭強調などの各種処理を実施してカラー画像を出力する画像処理手段である。
CPU109は、所定のプログラムに従って本実施形態に係るカラー撮像装置を統括制御する。
図2は、本開示に係る波長透過特性を調整された原色と補色を含む4種類の色フィルタを2×2画素周期で4種類のABCDの位置に色配置した場合の例を示す図である。
符号201は、2×2画素周期のABCD配置である。符号202は、ABCDに配置された4種類の色フィルタが、シアン(Cy)、マゼンダ(Mg)、緑(G)、黄(Ye)の場合を示す。符号203は、ABCDに配置された4種類の色フィルタが、赤(R)、緑(G)、マゼンダ(Mg)、青(B)の場合を示す。符号204は、ABCDに配置された4種類の色フィルタが、赤(R)、緑(G)、黄(Ye)、青(B)の場合を示す。符号205は、ABCDに配置された4種類の色フィルタが、赤(R)、緑(G)、シアン(Cy)、青(B)の場合である。
図3は、図1の光学帯域分離フィルタの分光特性を示すグラフである。光学帯域分離フィルタ103は複数のバンドを通過させるフィルタであり、図中縦軸は透過率、横軸は光の波長である。図3に示すように、光学帯域分離フィルタ103は、可視光帯域(400nm〜650nm)と任意の幅をもつ近赤外帯域(800nm〜900nm)との少なくとも2つの帯域の光を通過させる。
図4は、補色系フィルタを実装した撮像部の出力の実際の分光感度特性を示すグラフである。図5は、原色系フィルタを実装した撮像部の出力の実際の分光感度特性を示すグラフである。
図4の分光感度特性を示す補色系撮像素子は、波長が820nmを少し超える付近から長波長側、例えば820nm以上で、Ye(黄)、Cy(シアン)、Mg(マゼンダ)、G(緑)の感度がほぼ揃ってくる。
同様に、図5の分光感度特性を示す原色系撮像素子も、波長が820nm付近から長波長側で、R(赤)、G(緑)、B(青)、G(緑)の感度がほぼ揃ってくる。波長が850nmの近傍でわずかにB(青)の感度が相対的に大きくなる。このように撮像デバイスで色感度が長波長側で概ね揃うのは色フィルタの分光感度特性と半導体の物性に起因し、色が揃う領域の下限の波長は、撮像デバイスの種類によって異なる。
本実施形態では、図4、図5に示す撮像デバイスの分光感度特性から、各色成分の分光感度特性である一定波長以上の分光曲線がほぼ等価な分布形状となることを利用し、R(赤)、G(緑)、B(青)の成分に関してそれぞれ少なくとも2種類のデータを求める演算を行う際に、近赤外光成分の量(大きさ)を適切に調整することを主眼とする。
このとき、近赤外領域の各カラーフィルタの感度が等価でない波長領域(例えば650〜820nm)の光のうち、図3に示す光学帯域分離フィルタ103で遮断して、その短波長側帯域(例えば400〜650nm)と長波長側帯域(例えば820〜880nm)を通過させ、4色配置の色フィルタを実装したイメージセンサの各画素に照射する。
図6は、光学帯域分離フィルタを透過した可視光及び近赤外光が図2に示す色フィルタを実装したイメージセンサの各画素に照射された際の各色フィルタ画素の出力成分の特徴を示す図である。なお、図中縦軸は分光感度、横軸は光の波長であり、縦軸の分光感度の大きさは各色で同一として簡略化して示している。
図6(A)において、符号601の(R+IR)特性は、赤(R)の色フィルタの透過光成分に対する画素の出力成分の特徴を示し、可視光成分中の赤(R)成分と近赤外光成分IRとを含む。
図6(B)において、符号602の(G+IR)特性は、緑(G)の色フィルタの透過光成分に対する画素の出力成分の特徴を示し、可視光成分中の緑(G)成分と近赤外光成分IRとを含む。
図6(C)において、符号603の(B+IR)特性は、青(B)の色フィルタの透過光成分に対する画素の出力成分の特徴を示し、可視光成分中の青(B)成分と近赤外光成分IRを含む。
図6(D)において、符号604の(Cy+IR)特性は、シアン(Cy)の色フィルタの透過光成分対する画素の出力成分の特徴を示し、可視光成分中の青(B)成分と緑(G)成分と近赤外光成分IRとを含む。
図6(E)において、符号605の(Ye+IR)特性は、黄(Ye)の色フィルタの透過光成分対する画素の出力成分の特徴を示し、可視光成分中の緑(G)成分と赤(R)成分と近赤外光成分IRとを含む。
図6(F)において、符号606の(Mg+IR)特性は、マゼンダ(Mg)の色フィルタの透過光成分対する画素の出力成分の特徴を示し、可視光成分中の青(B)成分と赤(R)成分と近赤外光成分IRとを含む。
図6(D)〜図6(F)における符号604〜606に示した可視領域の透過光が3原色の各々の補色である補色系の色フィルタの分光感度特性は、図6(A)〜図6(C)における符号601〜603の原色系の各色フィルタの可視光成分を2種類含むため、感度が高く、4種類の色フィルタのうち、補色系の色フィルタを使用することで撮像部12の感度を高めることができる。また、図6における符号601〜606の各色フィルタ画素の出力成分は、近赤外領域の長波長側帯域(820〜880nm)でほぼ等価なIR成分をもつことになる。
図7は、図1のカラー画像処理部の具体例を示すブロック図である。図7において、画像データ701は、原色と補色を含む4種類の色フィルタを実装した撮像素子を有する撮像部12から出力されるものであり、2×2画素周期でABCD(符号201)の位置に4色の各色が配置されている。ここで、符号201の色の配置は、例えば符号202〜205のいずれかである。
色分離処理部702は、画像データ701に含まれる4種類の色フィルタの画素データから高域周波数成分を制限するとともに補完処理を行って4つのプレーンな色データ出力(A,B,C,D)に分離する。
データ演算処理部703は、色分離処理部702で分離された色毎の4つのプレーンな色データを入力として、マトリクス演算によって複数種類の赤(R)、緑(G)、青(B)データを生成し、赤(R)、緑(G)、青(B)データ毎に個々のデータの大きさを調整して再合成することによって、ほぼ等しい近赤外光成分を有してかつ可視光成分の色バランスがとれた青(B)成分、緑(G)成分、赤(R)成分を抽出する。また、データ演算処理部703は、色毎の4つのプレーンな色データを入力としてマトリクス演算によって近赤外光成分IRを演算抽出する。
YL_MTX処理部704は、前記色バランスがとれた青(B)成分、緑(G)成分、赤(R)成分を持つデータから低域周波数成分の輝度データを演算して出力する。
Cr/Cb_MTX処理部705は、前記色バランスがとれた青(B)成分、緑(G)成分、赤(R)成分を持つデータから色差データCr,Cbを演算して出力する。
YH処理部706は、画像データ701に含まれる4種類の色フィルタの画素データからナイキスト周波数近傍の色キャリア成分のみ除去したデータに高域強調とγ補正処理を行い、高帯域で解像度の高い輝度データを演算出力する。
Y_AC処理部707は、画像データ701に含まれる4種類の色フィルタの画素データから直流を含む低域周波数成分とナイキスト周波数近傍の色キャリア周波数成分のみ除去して、中帯域から高帯域の高解像成分を有する輝度データを演算出力する。
輝度データ合成部708は、前記低域周波数成分の輝度データと中帯域から高帯域の高解像成分を有する輝度データを加算合成して出力する。
本実施形態では、YH処理部706から出力される輝度データをY_輝度信号709とし、輝度データ合成部708から出力される輝度データをY_輝度信号710とする。
Y_輝度信号709は、4種類の色フィルタに含まれる近赤外成分がそのままオフセットとして含まれ、感度の高い輝度データとなる特徴がある。
Y_輝度信号710は、4種類の色フィルタに含まれる近赤外成分が調整され、色バランスがとれた青(B)成分、緑(G)成分、赤(R)成分より生成された輝度データとなる特徴があり、可視光成分を主成分とする輝度データ出力も可能である。
図8は、図7のデータ演算処理部の具体例を示すブロック図である。
第1のRGB生成部801は、前記4つのプレーンな色データ出力(A,B,C,D)のマトリクス演算で近赤外光成分IRを含む第1の青(B1)、第1の緑(G1)、第1の赤(R1)を演算出力する。
第2のRGB生成部802は、前記4つのプレーンな色データ出力(A,B,C,D)のマトリクス演算で近赤外光成分IRをほとんど含まない第2の青(B2)、第2の緑(G2)、第2の赤(R2)を同時に演算出力する。
ゲイン処理部Kr1は、第1の赤(R1)の大きさを調整する。ゲイン処理部Kg1は、第1の緑(G1)の大きさを調整する。ゲイン処理部Kb1は、第1の青(B1)の大きさを調整する。
ゲイン処理部Kr2は、は第2の赤(R2)の大きさを調整する。ゲイン処理部Kg2は、第2の緑(G2)の大きさを調整する。ゲイン処理部Kb2は、第2の青(B2)の大きさを調整する。
6つのゲイン処理部Kr1,Kr2,Kg1,Kg2,Kb1,Kb2において、各々のゲイン値は独立に可変設定することができる。
赤(R)合成部809は、ゲイン処理部Kr1,Kr2の出力、すなわちゲイン調整された第1の赤(R1)とゲイン調整された第2の赤(R2)とを合成する。
緑(G)合成部810は、ゲイン処理部Kg1,Kg2の出力、すなわちゲイン調整された第1の緑(G1)とゲイン調整された第2の緑(G2)とを合成する。
青(B)合成部811は、ゲイン処理部Kb1,Kb2の出力、すなわちゲイン調整された第1の青(B1)とゲイン調整された第2の青(B2)とを合成する。
RGBガンマ補正処理部812は、上記各合成部809〜811の出力である、合成された青(B)、緑(G)、赤(R)データにガンマ特性を付加する。なお、RGBtoR’G’B’マトリクス処理を実施してもよい。
IR生成部813は、前記4つのプレーンな色データ出力(A,B,C,D)のマトリクス演算で近赤外光成分IRを演算出力する。
IRガンマ補正部814は、前記IRデータにガンマ特性を付加する。
次に前記構成を有する、カラー画像処理部108における画像処理方法を説明する。
色分離処理部702で、4つのプレーンな色データ出力(A,B,C,D)に分離されたデータから、データ演算処理部703のマトリクス演算によって少なくとも2種類の赤(R)、緑(G)、青(B)データを生成する演算方法を説明する。あわせて色毎の4つのプレーンな色データを入力としてマトリクス演算によって近赤外光成分IRの成分を演算抽出する方法を説明する。
まず、図2に示した波長透過特性を調整された原色と補色を含む4種類の色フィルタ104として、2×2画素周期で一般化した符号201のABCDの位置に符号202〜205の各色を配置する4つの場合に分けて、4つのプレーンな色データ出力から、以下の(1),(2)をマトリクス演算で抽出する方法を詳細説明する。
(1)可視光成分と近赤外光成分IRとを含む第1の青(B1)、第1の緑(G1)、第1の赤(R1)
(2)近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の青(B2)、第2の緑(G2)、第2の赤(R2)
なお、マトリクス演算にあたっては、図6に整理して示したように、
・環境光色温度が変化しても、原色および補色の色フィルタの画素データから得られる4つのプレーンな色データ出力(A,B,C,D)には、ほぼ等しい近赤外光成分IRが含まれていること
・環境光に加えて、近赤外のLED(Light EmittingDiode)光を照射した際も、4つのプレーンな色データ出力(A,B,C,D)にほぼ等しい近赤外LED光成分(LED_IR)が含まれていること
の2つを前提条件とし、これら特徴に着目して演算展開していくこととする。
(1)可視光成分と近赤外光成分IRとを含む第1の青(B1)、第1の緑(G1)、第1の赤(R1)
(2)近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の青(B2)、第2の緑(G2)、第2の赤(R2)
なお、マトリクス演算にあたっては、図6に整理して示したように、
・環境光色温度が変化しても、原色および補色の色フィルタの画素データから得られる4つのプレーンな色データ出力(A,B,C,D)には、ほぼ等しい近赤外光成分IRが含まれていること
・環境光に加えて、近赤外のLED(Light EmittingDiode)光を照射した際も、4つのプレーンな色データ出力(A,B,C,D)にほぼ等しい近赤外LED光成分(LED_IR)が含まれていること
の2つを前提条件とし、これら特徴に着目して演算展開していくこととする。
−演算1:補色系フィルタ対応−
波長透過特性を調整された4種類の色フィルタが、図2中の符号202のABCD配置、すなわちシアン(Cy)、マゼンダ(Mg)、緑(G)、黄(Ye)である場合、第1のRGB生成部801で、可視光成分と近赤外光成分IRとを含む第1の青(B1)、第1の緑(G1)、第1の赤(R1)を抽出するために、
(B1)=(B+IR)=(Mg+IR)+(G+IR)−(Ye+IR)・・・式(1−1)
(G1)=(2G+IR)=(Cy+IR)+(Ye+IR)−(Mg+IR)・・・式(1−2)
(G1’)=(G+IR):色分離データ・・・式(1−3)
*(G1)=α(G1)+(1−α)・(G1’)・・・式(1−4)
(R1)=(R+IR)=(Mg+IR)+(G+IR)−(Cy+IR)・・・式(1−5)
の各式が用いられる。
波長透過特性を調整された4種類の色フィルタが、図2中の符号202のABCD配置、すなわちシアン(Cy)、マゼンダ(Mg)、緑(G)、黄(Ye)である場合、第1のRGB生成部801で、可視光成分と近赤外光成分IRとを含む第1の青(B1)、第1の緑(G1)、第1の赤(R1)を抽出するために、
(B1)=(B+IR)=(Mg+IR)+(G+IR)−(Ye+IR)・・・式(1−1)
(G1)=(2G+IR)=(Cy+IR)+(Ye+IR)−(Mg+IR)・・・式(1−2)
(G1’)=(G+IR):色分離データ・・・式(1−3)
*(G1)=α(G1)+(1−α)・(G1’)・・・式(1−4)
(R1)=(R+IR)=(Mg+IR)+(G+IR)−(Cy+IR)・・・式(1−5)
の各式が用いられる。
次に、第2のRGB生成部802で、近赤外光成分IRをほとんど含まず可視光成分を主成分とする、第2の青(B2)、第2の緑(G2)、第2の赤(R2)を抽出するために、
(B2)=(Cy+IR)−(G+IR)・・・式(1−6)
(G2)=(Cy+IR)+(Ye+IR)−(G+IR)−(Mg+IR)・・・式(1−7)
(R2)=(Ye+IR)−(G+IR)・・・式(1−8)
また、近赤外光成分IRを抽出するために、
IR=2*(G+IR)+(Mg+IR)−(Cy+IR)−(Ye+IR)・・・式(1−9)
の各式が用いられる。
(B2)=(Cy+IR)−(G+IR)・・・式(1−6)
(G2)=(Cy+IR)+(Ye+IR)−(G+IR)−(Mg+IR)・・・式(1−7)
(R2)=(Ye+IR)−(G+IR)・・・式(1−8)
また、近赤外光成分IRを抽出するために、
IR=2*(G+IR)+(Mg+IR)−(Cy+IR)−(Ye+IR)・・・式(1−9)
の各式が用いられる。
可視光成分と近赤外光成分IRとを含む式(1−1)の第1の青(B1):(B+IR)に含まれるB成分はマゼンダ(Mg)の色フィルタに含まれるB成分を主成分とし、可視光成分と近赤外光成分IRとを含む式(1−5)の第1の赤(R1):(R+IR)に含まれるR成分はマゼンダ(Mg)の色フィルタに含まれるR成分を主成分とし、可視光成分と近赤外光成分IRとを含む式(1−2)の第1の緑(G1):(2G+IR)に含まれるG成分はシアン(Cy)と黄(Ye)の色フィルタに含まれるG成分を主成分とする。
また、式(1−3)の近赤外光成分IRを含む第1の緑(G1’):(G+IR)に含まれるG成分は緑(G)の色フィルタに含まれるG成分が主成分である。この場合、式(1−4)に示すように、前記2種類の(G+IR)の混合で*(G1):(G+IR)としてG成分を生成する。
近赤外光成分IRをほとんど含まず可視光成分を主成分とする式(1−6)の第2の青(B2)に含まれるB成分はシアン(Cy)の色フィルタに含まれるB成分を主成分とし、近赤外光成分IRをほとんど含まず可視光成分を主成分とする式(1−8)の第2の赤(R2)に含まれるR成分は黄(Ye)の色フィルタに含まれるR成分を主成分とし、近赤外光成分IRをほとんど含まず可視光成分を主成分とする式(1−7)式の第2の緑(G2)に含まれるG成分はシアン(Cy)と黄(Ye)の色フィルタに含まれる成分から緑(G)とマゼンダ(Mg)の色フィルタに含まれる成分を減算した成分を主成分としていることがわかる。
−演算2:補色系フィルタ対応−
波長透過特性を調整された4種類の色フィルタが、上記演算1と同様に、図2中の符号202のABCD配置、すなわちシアン(Cy)、マゼンダ(Mg)、緑(G)、黄(Ye)であり、かつ第1のRGB生成部801が従来の一般的なインターレース読み出し対応のカラー処理出力に近赤外光成分IRを含む第1の青(B1)、第1の緑(G1)、第1の赤(R1)を抽出する場合について説明する。
波長透過特性を調整された4種類の色フィルタが、上記演算1と同様に、図2中の符号202のABCD配置、すなわちシアン(Cy)、マゼンダ(Mg)、緑(G)、黄(Ye)であり、かつ第1のRGB生成部801が従来の一般的なインターレース読み出し対応のカラー処理出力に近赤外光成分IRを含む第1の青(B1)、第1の緑(G1)、第1の赤(R1)を抽出する場合について説明する。
以下に、第1のRGB生成部801が、垂直2画素混合インターレース出力に対応したRGB生成を行う場合の一般的な演算処理を示す。
YL_odd={(Cy+IR)+(Mg+IR)}+{(Ye+IR)+(G+IR)}=2R+2B+3G+4IR・・・式(2−1)
YL_even={(Cy+IR)+(G+IR)}+{(Ye+IR)+(Mg+IR)}=2R+2B+3G+4IR・・・式(2−2)
(2B−G)={(Cy+IR)+(Mg+IR)}−{(Ye+IR)+(G+IR)}・・・式(2−3)
(2R−G)={(Ye+IR)+(Mg+IR)}−{(Cy+IR)+(G+IR)}・・・式(2−4)
上記式(2−1)〜(2−4)のYL、(2B−G)、(2R−G)の3つの成分のマトリクス演算で、青(B)成分、緑(G)成分、赤(R)成分を、
青(B)成分=Kby・YL+Kbb・(2B−G)+Kbr・(2R−G)・・・式(2−5)
緑(G)成分=Kgy・YL+Kgb・(2B−G)+Kgr・(2R−G)・・・式(2−6)
赤(R)成分=Kry・YL+Krb・(2B−G)+Krr・(2R−G)・・・式(2−7)
の各式を用いて、マトリクス演算抽出することができる。
YL_odd={(Cy+IR)+(Mg+IR)}+{(Ye+IR)+(G+IR)}=2R+2B+3G+4IR・・・式(2−1)
YL_even={(Cy+IR)+(G+IR)}+{(Ye+IR)+(Mg+IR)}=2R+2B+3G+4IR・・・式(2−2)
(2B−G)={(Cy+IR)+(Mg+IR)}−{(Ye+IR)+(G+IR)}・・・式(2−3)
(2R−G)={(Ye+IR)+(Mg+IR)}−{(Cy+IR)+(G+IR)}・・・式(2−4)
上記式(2−1)〜(2−4)のYL、(2B−G)、(2R−G)の3つの成分のマトリクス演算で、青(B)成分、緑(G)成分、赤(R)成分を、
青(B)成分=Kby・YL+Kbb・(2B−G)+Kbr・(2R−G)・・・式(2−5)
緑(G)成分=Kgy・YL+Kgb・(2B−G)+Kgr・(2R−G)・・・式(2−6)
赤(R)成分=Kry・YL+Krb・(2B−G)+Krr・(2R−G)・・・式(2−7)
の各式を用いて、マトリクス演算抽出することができる。
上記式(2−1)〜(2−7)を整理して、可視光成分と近赤外光成分IRとを含む、第1の緑(G1)を求めることができる。例えば、Kgy=1、Kgb=−1、Kgr=−1として、式(2−6)に代入すると、
(G1)=(2R+2B+3G+4IR)−(2B−G)−(2R−G)=(5G+4IR)・・・式(2−8)
が得られる。
(G1)=(2R+2B+3G+4IR)−(2B−G)−(2R−G)=(5G+4IR)・・・式(2−8)
が得られる。
更に、これを、シアン(Cy)、マゼンダ(Mg)、緑(G)、黄(Ye)の色フィルタの成分に分解すると、
(G1)=(Cy+IR)+(Ye+IR)+3*(G+IR)−(Mg+IR)・・・式(2−9)
が得られる。
(G1)=(Cy+IR)+(Ye+IR)+3*(G+IR)−(Mg+IR)・・・式(2−9)
が得られる。
また、可視光成分と近赤外光成分IRとを含む、第1の青(B1)を求める場合には、例えば、Kby=1、Kbb=4、Kbr=−1として式(2−5)に代入すると、
(B1)=(2R+2B+3G+4IR)+4*(2B−G)−(2R−G)=(10B+4IR)・・・式(2−10)
が得られる。
(B1)=(2R+2B+3G+4IR)+4*(2B−G)−(2R−G)=(10B+4IR)・・・式(2−10)
が得られる。
更に、これを、シアン(Cy)、マゼンダ(Mg)、緑(G)、黄(Ye)の色フィルタの成分に分解すると、
(B1)=6*(Cy+IR)−4*(Ye+IR)−2*(G+IR)+4*(Mg+IR)・・・式(2−11)
が得られる。
(B1)=6*(Cy+IR)−4*(Ye+IR)−2*(G+IR)+4*(Mg+IR)・・・式(2−11)
が得られる。
また、可視光成分と近赤外光成分IRとを含む、第1の赤(R1)を求める場合には、例えば、Kry=1、Krb=−1、Krr=4として式(2−7)に代入すると、
(R1)=(2R+2B+3G+4IR)−(2B−G)+4×(2R−G)=(10R+4IR)・・・式(2−12)
が得られる。
(R1)=(2R+2B+3G+4IR)−(2B−G)+4×(2R−G)=(10R+4IR)・・・式(2−12)
が得られる。
更に、これを、シアン(Cy)、マゼンダ(Mg)、緑(G)、黄(Ye)の色フィルタの成分に分解すると、
(R1)=6*(Ye+IR)−4*(Cy+IR)−2*(G+IR)+4*(Mg+IR)・・・式(2−13)
が得られる。
(R1)=6*(Ye+IR)−4*(Cy+IR)−2*(G+IR)+4*(Mg+IR)・・・式(2−13)
が得られる。
次に、第2のRGB生成部802で、近赤外光成分IRをほとんど含まず可視光成分を主成分とする、第2の青(B2)、第2の緑(G2)、第2の赤(R2)を抽出するために、
(B2)=(Ye+IR)−(G+IR)・・・式(2−14)
(G2)=(Cy+IR)+(Ye+IR)−(G+IR)−(Mg+IR)・・・式(2−15)
(R2)=(Ye+IR)−(G+IR)・・・式(2−16)
また、近赤外光成分IRを抽出するために、
IR=2*(G+IR)+(Mg+IR)−(Cy+IR)−(Ye+IR)・・・式(2−17)
の各式が用いられる。
(B2)=(Ye+IR)−(G+IR)・・・式(2−14)
(G2)=(Cy+IR)+(Ye+IR)−(G+IR)−(Mg+IR)・・・式(2−15)
(R2)=(Ye+IR)−(G+IR)・・・式(2−16)
また、近赤外光成分IRを抽出するために、
IR=2*(G+IR)+(Mg+IR)−(Cy+IR)−(Ye+IR)・・・式(2−17)
の各式が用いられる。
可視光成分と近赤外光成分IRとを含む式(2−10)の第1の青(B1):(10B+4IR)に含まれるB成分は式(2−11)よりマゼンダ(Mg)の色フィルタに含まれるB成分とシアン(Cy)に含まれるB成分を2:3の比率で合成したものであり、可視光成分と近赤外光成分IRとを含む式(2−12)の第1の赤(R1):(10R+4IR)に含まれるR成分は式(2−13)よりマゼンダ(Mg)の色フィルタに含まれるR成分と黄(Ye)に含まれるR成分を2:3の比率で合成したものであり、可視光成分と近赤外光成分IRとを含む式(2−8)の第1の緑(G1):(5G+4IR)に含まれるG成分は式(2−9)よりシアン(Cy)と黄(Ye)の色フィルタに含まれるG成分と緑(G)の色フィルタに含まれるG成分を1:1:3の比率で合成したものであることがわかる。
近赤外光成分IRをほとんど含まず可視光成分を主成分とする式(2−14)の第2の青(B2)に含まれるB成分はシアン(Cy)の色フィルタに含まれる成分を主成分とし、近赤外光成分IRをほとんど含まず可視光成分を主成分とする式(2−16)の第2の赤(R2)に含まれるR成分は黄(Ye)の色フィルタに含まれる成分を主成分とし、近赤外光成分IRをほとんど含まず可視光成分を主成分とする式(2−15)の第2の緑(G2)に含まれるG成分はシアン(Cy)と黄(Ye)の色フィルタに含まれる成分から緑(G)とマゼンダ(Mg)の色フィルタに含まれる成分を減算した成分を主成分していることがわかる。
−演算3:原色系フィルタ対応−
波長透過特性を調整された4種類の色フィルタが、図2中の符号203のABCD配置、すなわち赤(R)、緑(G)、マゼンダ(Mg)、青(B)である場合について説明する。
波長透過特性を調整された4種類の色フィルタが、図2中の符号203のABCD配置、すなわち赤(R)、緑(G)、マゼンダ(Mg)、青(B)である場合について説明する。
第1のRGB生成部801で、可視光成分と近赤外光成分IRとを含む第1の青(B1)、第1の緑(G1)、第1の赤(R1)を抽出するために、
(B1)=(B+IR):色分離データ・・・式(3−1)
(G1)=(G+IR):色分離データ・・・式(3−2)
(R1)=(R+IR):色分離データ・・・式(3−3)
の各式が用いられる。
(B1)=(B+IR):色分離データ・・・式(3−1)
(G1)=(G+IR):色分離データ・・・式(3−2)
(R1)=(R+IR):色分離データ・・・式(3−3)
の各式が用いられる。
また、第2のRGB生成部802で、近赤外光成分IRをほとんど含まず可視光成分を主成分とする、第2の青(B2)、第2の緑(G2)、第2の赤(R2)を抽出するために、
(B2)=(Mg+IR)−(R+IR)・・・式(3−4)
(G2)=(G+IR)+(Mg+IR)−(R+IR)−(B+IR)・・・式(3−5)
(R2)=(Mg+IR)−(B+IR)・・・式(3−6)
また、近赤外光成分IRを抽出するために、
IR=(R+IR)+(B+IR)−(Mg+IR)・・・式(3−7)
の各式が用いられる。
(B2)=(Mg+IR)−(R+IR)・・・式(3−4)
(G2)=(G+IR)+(Mg+IR)−(R+IR)−(B+IR)・・・式(3−5)
(R2)=(Mg+IR)−(B+IR)・・・式(3−6)
また、近赤外光成分IRを抽出するために、
IR=(R+IR)+(B+IR)−(Mg+IR)・・・式(3−7)
の各式が用いられる。
可視光成分と近赤外光成分IRとを含む式(3−1)の第1の青(B1)に含まれるB成分は青(B)の色フィルタに含まれるB成分であり、可視光成分と近赤外光成分IRとを含む式(3−3)の第1の赤(R1)に含まれるR成分は赤(R)の色フィルタに含まれるR成分であり、可視光成分と近赤外光成分IRとを含む式(3−2)の第1の緑(G1)に含まれるG成分は緑(G)の色フィルタに含まれるG成分が主成分である。
近赤外光成分IRをほとんど含まず可視光成分を主成分とする式(3−4)の第2の青(B2)に含まれるB成分はマゼンダ(Mg)の色フィルタに含まれるB成分を主成分とし、近赤外光成分IRをほとんど含まず可視光成分を主成分とする式(3−6)の第2の赤(R2)に含まれるR成分はマゼンダ(Mg)の色フィルタに含まれるR成分を主成分とし、近赤外光成分IRをほとんど含まず可視光成分を主成分とする式(3−5)の第2の緑(G2)に含まれるG成分はマゼンダ(Mg)と緑(G)の色フィルタに含まれる成分から赤(R)と青(B)の色フィルタに含まれる成分を減算した成分を主成分としていることがわかる。
−演算4:原色系フィルタ対応−
波長透過特性を調整された4種類の色フィルタが、図2中の符号205のABCD配置、すなわち赤(R)、緑(G)、黄(Ye)、青(B)である場合について説明する。
波長透過特性を調整された4種類の色フィルタが、図2中の符号205のABCD配置、すなわち赤(R)、緑(G)、黄(Ye)、青(B)である場合について説明する。
第1のRGB生成部801で、可視光成分と近赤外光成分IRとを含む第1の青(B1)、第1の緑(G1)、第1の赤(R1)を抽出するために、
(B1)=(B+IR):色分離データ・・・式(4−1)
(G1)=(G+IR):色分離データ・・・式(4−2)
(R1)=(R+IR):色分離データ・・・式(4−3)
の各式が用いられる。
(B1)=(B+IR):色分離データ・・・式(4−1)
(G1)=(G+IR):色分離データ・・・式(4−2)
(R1)=(R+IR):色分離データ・・・式(4−3)
の各式が用いられる。
また、第2のRGB生成部802で、近赤外光成分IRをほとんど含まず可視光成分を主成分とする、第2の青(B2)、第2の緑(G2)、第2の赤(R2)を抽出するために、
(B2)=(B+IR)+(Ye+IR)−(R+IR)−(G+IR)・・・式(4−4)
(G2)=(Ye+IR)−(R+IR)・・・式(4−5)
(R2)=(Ye+IR)−(G+IR)・・・式(4−6)
また、近赤外光成分IRを抽出するために、
IR=(R+IR)+(G+IR)−(Ye+IR)・・・式(4−7)
の各式が用いられる。
(B2)=(B+IR)+(Ye+IR)−(R+IR)−(G+IR)・・・式(4−4)
(G2)=(Ye+IR)−(R+IR)・・・式(4−5)
(R2)=(Ye+IR)−(G+IR)・・・式(4−6)
また、近赤外光成分IRを抽出するために、
IR=(R+IR)+(G+IR)−(Ye+IR)・・・式(4−7)
の各式が用いられる。
可視光成分と近赤外光成分IRとを含む式(4−1)の第1の青(B1)に含まれるB成分は青(B)の色フィルタに含まれるB成分であり、可視光成分と近赤外光成分IRとを含む式(4−3)の第1の赤(R1)に含まれるR成分は赤(R)の色フィルタに含まれるR成分であり、可視光成分と近赤外光成分IRとを含む式(4−2)の第1の緑(G1)に含まれるG成分は緑(G)の色フィルタに含まれるG成分が主成分となる。
近赤外光成分IRをほとんど含まず可視光成分を主成分とする式(4−4)の第2の青(B2)に含まれるB成分は黄(Ye)と青(B)の色フィルタに含まれる成分から赤(R)と緑(G)の色フィルタに含まれる成分を減算した成分を主成分とし、近赤外光成分IRをほとんど含まず可視光成分を主成分とする式(4−6)の第2の赤(R2)に含まれるR成分は黄(Ye)の色フィルタに含まれるR成分を主成分とし、近赤外光成分IRをほとんど含まず可視光成分を主成分とする式(4−5)の第2の緑(G2)に含まれるG成分は黄(Ye)の色フィルタに含まれるG成分を主成分としていることがわかる。
−演算5:原色系フィルタ対応−
波長透過特性を調整された4種類の色フィルタが、図2中の符号205のABCD配置、すなわち赤(R)、緑(G)、シアン(Cy)、青(B)である場合について説明する。
波長透過特性を調整された4種類の色フィルタが、図2中の符号205のABCD配置、すなわち赤(R)、緑(G)、シアン(Cy)、青(B)である場合について説明する。
第1のRGB生成部801で、可視光成分と近赤外光成分IRとを含む第1の青(B1)、第1の緑(G1)、第1の赤(R1)を抽出するために、
(B1)=(B+IR):色分離データ・・・式(5−1)
(G1)=(G+IR):色分離データ・・・式(5−2)
(R1)=(R+IR):色分離データ・・・式(5−3)
の各式が用いられる。
(B1)=(B+IR):色分離データ・・・式(5−1)
(G1)=(G+IR):色分離データ・・・式(5−2)
(R1)=(R+IR):色分離データ・・・式(5−3)
の各式が用いられる。
また、第2のRGB生成部802で、近赤外光成分IRをほとんど含まず可視光成分を主成分とする、第2の青(B2)、第2の緑(G2)、第2の赤(R2)を抽出するために、
(B2)=(Cy+IR)−(G+IR)・・・式(5−4)
(G2)=(Cy+IR)−(B+IR)・・・式(5−5)
(R2)=(R+IR)+(Cy+IR)−(B+IR)−(G+IR)・・・式(5−6)
また、近赤外光成分IRを抽出するために、
IR=(B+IR)+(G+IR)−(Cy+IR)・・・式(5−7)
の各式が用いられる。
(B2)=(Cy+IR)−(G+IR)・・・式(5−4)
(G2)=(Cy+IR)−(B+IR)・・・式(5−5)
(R2)=(R+IR)+(Cy+IR)−(B+IR)−(G+IR)・・・式(5−6)
また、近赤外光成分IRを抽出するために、
IR=(B+IR)+(G+IR)−(Cy+IR)・・・式(5−7)
の各式が用いられる。
可視光成分と近赤外光成分IRとを含む式(5−1)の第1の青(B1)に含まれるB成分は青(B)の色フィルタに含まれるB成分であり、可視光成分と近赤外光成分IRとを含む式(5−3)の第1の赤(R1)に含まれるR成分は赤(R)の色フィルタに含まれるR成分であり、可視光成分と近赤外光成分IRとを含む式(5−2)の第1の緑(G1)に含まれるG成分は緑(G)の色フィルタに含まれるG成分が主成分である。
近赤外光成分IRをほとんど含まず可視光成分を主成分とする式(5−4)の第2の青(B2)に含まれるB成分は、シアン(Cy)の色フィルタに含まれるB成分を主成分とし、近赤外光成分IRをほとんど含まず可視光成分を主成分とする式(5−6)の第2の赤(R2)に含まれるR成分はシアン(Cy)と赤(R)の色フィルタに含まれる成分から青(B)と緑(G)の色フィルタに含まれる成分を減算した成分を主成分とし、近赤外光成分IRをほとんど含まず可視光成分を主成分とする式(5−5)の第2の緑(G2)に含まれるG成分はシアン(Cy)の色フィルタに含まれるG成分を主成分としていることがわかる。
以上のように、4種類の色フィルタが原色と補色とで構成される4種類の色フィルタの配置に関して、可視光成分と近赤外光成分IRとを含む第1の青(B1)、第1の緑(G1)、第1の赤(R1)と、近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の青(B2)、第2の緑(G2)、第2の赤(R2)との2種類の青(B)成分、緑(G)成分、赤(R)成分を抽出することができる。
次に、図8に示すデータ演算処理部703で実施される色バランス処理を説明する。
環境光色温度が変化すると、原色と補色の色フィルタを実装した画像データ701から色分離処理部702を介して得られる4つのプレーンな色データ出力(A,B,C,D)の大きさが変化する。この変化にともない(A,B,C,D)のマトリクス演算で求められる前記2種類の第1及び第2の、青(B)、緑(G)、赤(R)のデータの大きさも変化する。
おおよそ低色温度の環境光においては、緑(G)を基準に青(B)成分が小さくなり、赤(R)成分が大きくなる。高色温度の環境においては緑(G)を基準に青(B)成分が大きくなり、赤(R)成分が小さくなる。
一般的に色バランスとして白バランスを実施する場合は無彩色被写体部分の青(B)、緑(G)、赤(R)の大きさが同じになるようにゲイン調整が行われる。
本実施形態では、第1及び第2の、赤(R)、緑(G)、青(B)データ毎に個々のデータの大きさを調整して再合成することにより、ほぼ等しい近赤外光成分IRを有してかつ可視光成分の色バランスのとれた青(B)成分、緑(G)成分、赤(R)成分を抽出することができる。
ここで、白バランスを行うためのゲイン調整の仕方には2種類ある。
まず、1つ目について説明する。可視光成分と近赤外光成分IRとを含む第1の青(B1)、第1の緑(G1)、第1の赤(R1)に含まれる近赤外光成分IRの大きさをほぼ同じにするゲイン調整で近赤外光成分IRによる色着色を抑える。
各データのゲイン調整は、ゲイン処理部Kr1で第1の赤(R1)の大きさを調整し、ゲイン処理部Kg1で第1の緑(G1)の大きさを調整し、ゲイン処理部Kb1第1の青(B1)の大きさを調整する。このとき、各色に含まれるIR成分の大きさがほぼ等しくなるようにそれぞれゲイン調整を行う。
各色のIR成分の大きさの比率は、図4及び図5に示した分光感度特性から事前に知ることができる。また、実際の撮像装置を近赤外光成分IRのみの環境で動作させ、第1の青(B1)、第1の緑(G1)、第1の赤(R1)の大きさを、図示しない検出部で取得して比率演算することにより求めてもよい。
次に2つ目について説明する。近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の青(B2)、第2の緑(G2)、第2の赤(R2)のゲイン調整で白バランスをとる。
各データのゲイン調整は、ゲイン処理部Kr2で第2の赤(R2)の大きさを調整し、ゲイン処理部Kg2で第2の緑(G2)の大きさを調整し、ゲイン処理部Kb2で第2の青(B2)の大きさを調整する。各データのゲインの調整に際しては、IR成分の大きさがほぼ等しくなるようにゲイン調整された前記第1の主たる(青、緑、赤)成分に、ゲイン調整された近赤外光成分IRをほとんど含まない第2の(青、緑、赤)成分を、赤(R)合成部809、緑(G)合成部810、青(B)合成部811で加算合成して出力するため、その合成(青、緑、赤)成分においてほぼ等しい近赤外光成分を有してかつ可視光成分による無彩色被写体部分の青(B)成分、緑(G)成分、赤(R)成分の大きさが同じになるようにゲイン調整を行う。
なお、6つのゲイン処理部Kr1,Kr2,Kg1,Kg2,Kb1,Kb2において、各々のゲイン値は独立に可変設定することができる。
上述したゲイン調整のもと、合成された青(B)、緑(G)、赤(R)データに、RGBガンマ補正処理部812でガンマ特性を加える。RGBtoR’G’B’マトリクス処理を実施する場合も同様にほぼ等しい近赤外光成分IRを有してかつ可視光成分による無彩色被写体部分の青(B)成分、緑(G)成分、赤(R)成分の大きさが同じになるような係数で実施する。
以上のように合成された青(B)、緑(G)、赤(R)データを用いて色差データを生成する場合について説明する。
色差データに関しては、ITU−T BT.601の規格において、以下の変換式が定義されている。
Y=0.299・R+0.587・G+0.114・B
Cb=−0.169・R−0.331・G+0.500・B
Cr=0.500・R−0.419・G−0.081・B
上記Cb,Crの式に着目すると、IR成分は主たる(青、緑、赤)成分の共通オフセット成分となるため、同じ大きさにゲイン調整された各色のIRオフセット成分は減算処理により除去され、ゼロになることがわかる。
Y=0.299・R+0.587・G+0.114・B
Cb=−0.169・R−0.331・G+0.500・B
Cr=0.500・R−0.419・G−0.081・B
上記Cb,Crの式に着目すると、IR成分は主たる(青、緑、赤)成分の共通オフセット成分となるため、同じ大きさにゲイン調整された各色のIRオフセット成分は減算処理により除去され、ゼロになることがわかる。
本実施形態では、Cr/Cb_MTX処理部705でIRオフセット成分の除去処理を実施する。
このようにゲイン調整後に合成された青(B)成分、緑(G)成分、赤(R)成分は、RGBガンマ調整後にCr/Cb_MTX処理部705で色差データに変換される際、IR成分の大きさがほぼ等しいのでIR成分が演算により除去されてゼロとなるため、近赤外光成分IRによる着色現象が発生しない。
輝度信号に関しては、Y_輝度信号709、Y_輝度信号710の2種類から選択可能である。これらは演算処理により同時に生成されるため、輝度信号の違いにより、Cr,Cbの色差データと合わせて2種類のカラー画像を出力することが可能である。この際、輝度信号成分に近赤外光成分IRを含む画像を「擬似カラー画像」と称する。
「可視光カラー画像」を生成する際は、Y_輝度信号709、Y_輝度信号710の2種類の信号から、データ演算処理部703で演算出力されたIR成分を減算して、Cr,Cbの色差データと合わせて出力する。なお、輝度信号のみを出力する場合はモノクロ画像として出力することができる。
以上、本実施形態に係るカラー撮像装置では、2次元の繰り返しパターンで配置された原色と補色を含む4種類の色フィルタの色画素データを用いたマトリクス演算で第1の(青、緑、赤)成分と第2の(青、緑、赤)成分を生成したのち、それぞれにゲイン処理が行われる。そして、白バランス処理では、演算処理により得られた青、緑、赤の各色の成分が4色フィルタの2色の色画素に含まれる成分で合成されているので、高域ノイズ成分に対する2次元のフィルタ効果があり、色バランスと色S/Nが良好で近赤外光成分IRによる着色のない高品質なカラー画像を得るよう調整することができる。
さらに、本実施形態の演算処理は、第1の(青、緑、赤)成分と第2の(青、緑、赤)成分を生成する際に、4種類の画素データに含まれる同一の固定値成分に対しても前記同様の効果を奏し、強い環境光のもとイメージセンサ出力の飽和が発生した画素エリアに対して飽和出力はほぼ同一の固定値成分となるので、着色のない高品質なカラー画像を得ることができる。あわせて、強い環境光のもとブルーミング現象やCCDイメージセンサの出力特有のスミアが発生した画素エリアに対してもブルーミング成分とスミア成分とはほぼ同一の固定値成分となるので、着色のない高品質なカラー画像を得ることができる。加えて、イメージセンサ特有の温度特性課題であるオフセット段差や面内シェーディングが発生した場合も同一の固定値成分として演算処理されるため、同様に着色のない高品質なカラー画像を得ることができる。
また、色バランスと色S/Nが良好で近赤外光成分IRによる着色のない可視光カラー画像、可視光モノクロ画像、色バランスと色S/Nが良好で近赤外光成分IRによる着色のない可視光と近赤外光の両方の成分をふくむ「擬似カラー画像」、そのモノクロ画像、可視光の影響のない近赤外光モノクロ画像を同時に得ることができる。
さらに、前記構成を用いれば、昼間の逆光条件や夜間の撮像において近赤外のLED光源を対象被写体に照射することで、色バランスと色S/Nが良好で、近赤外LED光成分による着色がなく、暗部の明るさ調整された高品質なカラー画像を得ることができる。
さらに、前記構成を用いれば、霧の中の撮像において近赤外のLED光源を対象被写体に照射することで、近赤外LED光成分は霧中での光散乱が少ないため、より鮮明で色バランスと色S/Nが良好なカラー画像を得ることができる。
なお、本実施形態において、図2に示した符号201の色フィルタの配列構造は、2×2画素の配置に限定されず、m×n(m,nは自然数)画素周期で繰り返される配列構造であってもよい。
また、4種類の色フィルタをオンチップで規則的に形成配置するにあたり、図2の符号201のABCD配置が、シアン(Cy)/黄(Ye)/マゼンダ(Mg)/緑(G)の場合と、赤(R)/緑(G)/青(B)/黄(Ye)の場合と、赤(R)/緑(G)/青(B)/シアン(Cy)の場合とにおいて、緑(G)の色フィルタの実装方法としてシアン(Cy)と黄(Ye)の2つの色フィルタの積層構造で形成することが望ましい。
緑(G)の分光特性の境界が、低周波側は黄(Ye)の特性とほぼ等しく、高周波側はシアン(Cy)の特性とほぼ等しくなるため、データ演算により得られる赤(R)/緑(G)/青(B)成分が非常に扱いやすくなる。
また、全画素を読み出すことを前提に説明したが、4種類の色データ出力を行うにあたり、イメージセンサ内で同色画素の画素混合を実施し場合には、図1の前処理部107で4種類の色画素データの並べ替えを実施して上述したカラー画像処理を実施してもよい。
本開示に係るカラー撮像装置は、昼夜を問わず、近赤外光を含む光源環境において、単板カラーイメージセンサを用いて、高感度でかつ色バランスと色S/Nが良好で近赤外光成分による着色のない高品質なカラー画像と、近赤外画像を同時に撮影取得することができる監視カメラや産業用カメラを提供することができる。
12 撮像部
103 光学帯域分離フィルタ
105 撮像素子(イメージセンサ)
702 色分離処理部
703 データ演算処理部
103 光学帯域分離フィルタ
105 撮像素子(イメージセンサ)
702 色分離処理部
703 データ演算処理部
Claims (17)
- 可視光及び近赤外光に感度を有し、各画素に、波長透過特性が調整された原色と補色とを含む4種類の色フィルタを配置したイメージセンサと、
前記イメージセンサの入射光経路に配置され、オンチップの色フィルタが形成された光センサ部の受光特性で可視光波長帯域の上限から全てのフィルタ色の感度がほぼ揃う近赤外の波長までの所定波長帯域を遮断し、当該遮断された所定波長帯域の短波長側となる可視光帯域と前記感度がほぼ揃う近赤外の波長から更に大きいほうに任意の波長幅を有する長波長側近赤外光帯域との少なくとも2つの帯域を通過させる光学帯域分離フィルタと、
前記4種類の色フィルタの画素出力から色毎の4種類のデータを分離して出力する色分離処理部と、
前記4種類の色データからマトリクス演算によって複数種類の赤(R)、緑(G)、及び青(B)データを生成し、当該赤(R)、緑(G)、及び青(B)データ毎に個々のデータの大きさを調整して再合成することにより、ほぼ等しい近赤外光成分を有してかつ可視光成分の色バランスがとれた、赤(R)成分、緑(G)成分、及び青(B)成分を抽出するデータ演算処理部とを備えている
ことを特徴とするカラー撮像装置。 - 請求項1のカラー撮像装置において、
前記波長透過特性が調整された4種類の色フィルタは、シアン(Cy)、黄(Ye)、マゼンダ(Mg)、及び緑(G)の色フィルタである
ことを特徴とするカラー撮像装置。 - 請求項1のカラー撮像装置において、
前記波長透過特性が調整された4種類の色フィルタは、赤(R)、緑(G)、青(B)、及びマゼンダ(Mg)の色フィルタである
ことを特徴とするカラー撮像装置。 - 請求項1のカラー撮像装置において、
前記波長透過特性が調整された4種類の色フィルタは、赤(R)、緑(G)、青(B)、及び黄(Ye)の色フィルタである
ことを特徴とするカラー撮像装置。 - 請求項1のカラー撮像装置において、
前記波長透過特性が調整された4種類の色フィルタは、赤(R)、緑(G)、青(B)、及びシアン(Cy)の色フィルタである
ことを特徴とするカラー撮像装置。 - 請求項1乃至5のいずれか1つのカラー撮像装置において、
前記データ演算処理部は、複数種類の青(B)、緑(G)、及び赤(R)のデータを演算出力するにあたり、近赤外光成分IRを含む第1の青(B1)、第1の緑(G1)、及び第1の赤(R1)と、近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の青(B2)、第2の緑(G2)、及び第2の赤(R2)との、少なくとも2種類の青(B)、緑(G)、及び赤(R)のデータを同時に演算出力できる構成を有する
ことを特徴とするカラー撮像装置。 - 請求項6のカラー撮像装置において、
前記データ演算処理部は、環境光色温度の変化に対して前記2種類の青(B)、緑(G)、及び赤(R)のデータを用いて白バランスをとる際、可視光成分と近赤外光成分IRとを含む第1の青(B1)、第1の緑(G1)、及び第1の赤(R1)を第1の主たる成分とし、第1の主たる成分に含まれる近赤外光成分IRの大きさがほぼ等しくなるように、それぞれゲイン調整するとともに、近赤外光成分IRをほとんど含まず可視光成分を主たる成分とする第2の青(B2)成分、第2の緑(G2)成分、及び第2の赤(R2)成分のゲイン調整をして、前記ゲイン調整後の第1の主たる成分に、前記ゲイン調整後の第2の青(B2)成分、第2の緑(G2)成分、及び第2の赤(R2)成分を合成する構成をとることで、ほぼ等しい近赤外光成分を有してかつ可視光成分の色バランスのとれた青(B)成分、緑(G)成分、赤(R)成分を演算出力する
ことを特徴とするカラー撮像装置。 - 請求項2のカラー撮像装置において、
可視光成分と近赤外光成分IRとを含む第1の青(B1)に含まれる青(B)成分はマゼンダ(Mg)の色フィルタに含まれる青(B)成分とシアン(Cy)に含まれる青(B)成分を任意の比率で合成したものであり、
可視光成分と近赤外光成分IRとを含む第1の赤(R1)に含まれる赤(R)成分はマゼンダ(Mg)の色フィルタに含まれる赤(R)成分と黄(Ye)の色フィルタに含まれる赤(R)成分を任意の比率で合成したものであり、
可視光成分と近赤外光成分IRとを含む第1の緑(G1)に含まれる緑(G)成分は(Cy)と黄(Ye)の色フィルタに含まれる緑(G)成分と緑(G)の色フィルタに含まれる緑(G)成分を任意の比率で合成したものであり、
近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の青(B2)に含まれる青(B)成分はシアン(Cy)の色フィルタに含まれる青(B)成分を主成分とし、
近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の赤(R2)に含まれる赤(R)成分は黄(Ye)の色フィルタに含まれる赤(R)成分を主成分とし、
近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の緑(G2)に含まれる緑(G)成分はシアン(Cy)と黄(Ye)の色フィルタに含まれる成分からマゼンダ(Mg)と緑(G)の色フィルタに含まれる成分を減算した緑(G)成分を主成分とする
ことを特徴とするカラー撮像装置。 - 請求項3のカラー撮像装置において、
可視光成分と近赤外光成分IRとを含む第1の青(B1)に含まれる青(B)成分は青(B)の色フィルタに含まれる青(B)成分であり、
可視光成分と近赤外光成分IRとを含む第1の赤(R1)に含まれる赤(R)成分は赤(R)の色フィルタに含まれる赤(R)成分であり、
可視光成分と近赤外光成分IRとを含む第1の緑(G1)に含まれる緑(G)成分は緑(G)の色フィルタに含まれる緑(G)成分であり、
近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の青(B2)に含まれる青(B)成分はマゼンダ(Mg)の色フィルタに含まれる青(B)成分を主成分とし、
近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の赤(R2)に含まれる赤(R)成分はマゼンダ(Mg)の色フィルタに含まれる赤(R)成分を主成分とし、
近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の緑(G2)に含まれる緑(G)成分はマゼンダ(Mg)と緑(G)の色フィルタに含まれる成分から赤(R)と青(B)の色フィルタに含まれる成分を減算した緑(G)成分を主成分とする
ことを特徴とするカラー撮像装置。 - 請求項4のカラー撮像装置において、
可視光成分と近赤外光成分IRとを含む第1の青(B1)に含まれる青(B)成分は青(B)の色フィルタに含まれる青(B)成分であり、
可視光成分と近赤外光成分IRとを含む第1の赤(R1)に含まれる赤(R)成分は赤(R)の色フィルタに含まれる赤(R)成分であり、
可視光成分と近赤外光成分IRとを含む第1の緑(G1)に含まれる緑(G)成分は緑(G)の色フィルタに含まれる緑(G)成分であり、
近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の赤(R2)に含まれる赤(R)成分は黄(Ye)の色フィルタに含まれる赤(R)成分を主成分とし、
近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の緑(G2)に含まれる緑(G)成分は黄(Ye)の色フィルタに含まれる緑(G)成分を主成分とし、
近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の青(B2)に含まれる青(B)成分は青(B)と黄(Ye)の色フィルタに含まれる成分から赤(R)と緑(G)の色フィルタに含まれる成分を減算した青(B)成分を主成分とする
ことを特徴とするカラー撮像装置。 - 請求項5のカラー撮像装置において、
可視光成分と近赤外光成分IRとを含む第1の青(B1)に含まれる青(B)成分は青(B)の色フィルタに含まれる青(B)成分であり、
可視光成分と近赤外光成分IRとを含む第1の赤(R1)に含まれる赤(R)成分は赤(R)の色フィルタに含まれる赤(R)成分であり、
可視光成分と近赤外光成分IRとを含む第1の緑(G1)に含まれる緑(G)成分は緑(G)の色フィルタに含まれる緑(G)成分であり、
近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の青(B2)に含まれる青(B)成分はシアン(Cy)の色フィルタに含まれる青(B)成分を主成分とし、
近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の緑(G2)に含まれる緑(G)成分はシアン(Cy)の色フィルタに含まれる緑(G)成分を主成分とし、
近赤外光成分IRをほとんど含まず可視光成分を主成分とする第2の赤(R2)に含まれる赤(R)成分は赤(R)とシアン(Cy)の色フィルタに含まれる成分から緑(G)と青(B)の色フィルタに含まれる成分を減算した赤(R)成分を主成分とする
ことを特徴とするカラー撮像装置。 - 請求項1乃至11のいずれか1つのカラー撮像装置において、
前記データ演算処理部は、さらに近赤外光成分IRのデータを抽出する演算機能を合わせて有し、色分離された近赤外光成分IRを含む4種類の色フィルタのデータのうち、可視光帯域成分がほぼ等しくなるn+1(nは自然数)画素分の組み合わせ加算データとn画素分の組み合わせ加算データとの減算処理を行うことで、近赤外光成分IRの主成分を出力する
ことを特徴とするカラー撮像装置。 - 請求項1乃至12のいずれか1つのカラー撮像装置において、
前記イメージセンサは、画素毎の全画素読み出しが可能に構成されている
ことを特徴とするカラー撮像装置。 - 請求項1乃至12のいずれか1つのカラー撮像装置において、
前記イメージセンサは、4色の色画素毎に近傍の2画素以上の同色画素成分を加算して読み出しが可能に構成されている
ことを特徴とするカラー撮像装置。 - 請求項2、4及び5のいずれか1つのカラー撮像装置において、
前記4種類の色フィルタをオンチップで規則的に形成配置するにあたり、緑(G)の色フィルタは、シアン(Cy)と黄(Ye)との2つの色フィルタの積層構造で形成する
ことを特徴とするカラー撮像装置。 - 請求項2および8のいずれか1つのカラー撮像装置において、
前記波長透過特性を調整された4種類のシアン(Cy)、黄(Ye)、マゼンダ(Mg)、緑(G)の色フィルタを前記イメージセンサの各画素に2×2画素周期で繰り返し配置するにあたり、マゼンダ(Mg)と緑(G)とが対角に位置し、かつシアン(Cy)と黄(Ye)とが対角に位置するとともに、マゼンダ(Mg)と緑(G)とをあわせた配置、ならびにシアン(Cy)と黄(Ye)とをあわせた配置がそれぞれ市松状の配置になる
ことを特徴とするカラー撮像装置。 - 可視光及び近赤外光に感度を有し、各画素に、波長透過特性が調整された原色と補色とを含む4種類の色フィルタを配置したイメージセンサで受光するステップと、
前記イメージセンサの入射光経路に配置され、オンチップの色フィルタが形成された光センサ部の受光特性で可視光波長帯域の上限から全てのフィルタ色の感度がほぼ揃う近赤外の波長までの所定波長帯域を遮断し、当該遮断された所定波長帯域の短波長側となる可視光帯域と前記感度がほぼ揃う近赤外の波長から更に大きいほうに任意の波長幅を有する長波長側近赤外光帯域との少なくとも2つの帯域を通過させるステップと、
前記4種類の色フィルタの画素出力から色毎の4種類のデータを分離して出力するステップと、
前記4種類の色データからマトリクス演算によって複数種類の赤(R)、緑(G)、及び青(B)データを生成し、当該赤(R)、青(B)、及び緑(G)データ毎に個々のデータの大きさを調整して再合成することにより、ほぼ等しい近赤外光成分を有してかつ可視光成分の色バランスがとれた、赤(R)成分、緑(G)成分、及び青(B)成分を抽出するステップとを備えている
ことを特徴とするカラー撮像方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013184861A JP2015053578A (ja) | 2013-09-06 | 2013-09-06 | カラー撮像装置及びカラー撮像方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013184861A JP2015053578A (ja) | 2013-09-06 | 2013-09-06 | カラー撮像装置及びカラー撮像方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015053578A true JP2015053578A (ja) | 2015-03-19 |
Family
ID=52702305
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013184861A Pending JP2015053578A (ja) | 2013-09-06 | 2013-09-06 | カラー撮像装置及びカラー撮像方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2015053578A (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104732027A (zh) * | 2015-03-27 | 2015-06-24 | 北京润科通用技术有限公司 | 一种红外成像模拟方法及系统 |
WO2017086155A1 (ja) * | 2015-11-17 | 2017-05-26 | ソニー株式会社 | 撮像装置、撮像方法、およびプログラム |
KR20170074602A (ko) * | 2015-12-22 | 2017-06-30 | 삼성전자주식회사 | 영상 출력 장치 및 영상 출력 방법 |
JP2018093284A (ja) * | 2016-11-30 | 2018-06-14 | マクセル株式会社 | 可視近赤外同時撮像装置 |
JP2019062286A (ja) * | 2017-09-25 | 2019-04-18 | 株式会社 日立産業制御ソリューションズ | 撮像装置 |
US10911731B2 (en) * | 2015-03-31 | 2021-02-02 | Nikon Corporation | Image-capturing device |
US10952598B2 (en) | 2015-11-25 | 2021-03-23 | Olympus Corporation | Endoscope system and image acquisition method with red signal generator |
-
2013
- 2013-09-06 JP JP2013184861A patent/JP2015053578A/ja active Pending
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104732027A (zh) * | 2015-03-27 | 2015-06-24 | 北京润科通用技术有限公司 | 一种红外成像模拟方法及系统 |
US10911731B2 (en) * | 2015-03-31 | 2021-02-02 | Nikon Corporation | Image-capturing device |
WO2017086155A1 (ja) * | 2015-11-17 | 2017-05-26 | ソニー株式会社 | 撮像装置、撮像方法、およびプログラム |
US10560638B2 (en) | 2015-11-17 | 2020-02-11 | Sony Semiconductor Solutions Corporation | Imaging apparatus and imaging method |
US10952598B2 (en) | 2015-11-25 | 2021-03-23 | Olympus Corporation | Endoscope system and image acquisition method with red signal generator |
KR20170074602A (ko) * | 2015-12-22 | 2017-06-30 | 삼성전자주식회사 | 영상 출력 장치 및 영상 출력 방법 |
KR102287944B1 (ko) | 2015-12-22 | 2021-08-09 | 삼성전자주식회사 | 영상 출력 장치 및 영상 출력 방법 |
JP2018093284A (ja) * | 2016-11-30 | 2018-06-14 | マクセル株式会社 | 可視近赤外同時撮像装置 |
JP2019062286A (ja) * | 2017-09-25 | 2019-04-18 | 株式会社 日立産業制御ソリューションズ | 撮像装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10257484B2 (en) | Imaging processing device and imaging processing method | |
JP6096243B2 (ja) | 画像データの処理方法およびシステム | |
JP4636418B2 (ja) | 複レンズ式撮像系 | |
JP4930109B2 (ja) | 固体撮像装置、撮像装置 | |
JP2015053578A (ja) | カラー撮像装置及びカラー撮像方法 | |
JP5206796B2 (ja) | 画像入力装置 | |
JP6582987B2 (ja) | 映像撮影装置、映像撮影方法、符号型赤外カットフィルタ、および符号型特定色カットフィルタ | |
US9793306B2 (en) | Imaging systems with stacked photodiodes and chroma-luma de-noising | |
JP5397788B2 (ja) | 画像入力装置 | |
JP2007318753A (ja) | イメージ撮像装置及びその動作方法 | |
JP2008289000A (ja) | 画像入力処理装置、および、その方法 | |
JP6484504B2 (ja) | 撮像装置 | |
JP2004228662A (ja) | 撮像装置 | |
JP2011176710A (ja) | 撮像装置 | |
JP5464008B2 (ja) | 画像入力装置 | |
JP2010245851A (ja) | 固体撮像装置及びホワイトバランス処理方法 | |
JP2019062475A (ja) | 撮像素子および撮像装置 | |
JP2012168339A (ja) | 撮像装置 | |
JP5920144B2 (ja) | 撮像装置および撮像方法 | |
JP2004320269A (ja) | 固体電子撮像素子のシェーディング補正装置および方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20150225 |