JP5906755B2 - 撮像装置、撮像方法、及びプログラム - Google Patents

撮像装置、撮像方法、及びプログラム Download PDF

Info

Publication number
JP5906755B2
JP5906755B2 JP2012011386A JP2012011386A JP5906755B2 JP 5906755 B2 JP5906755 B2 JP 5906755B2 JP 2012011386 A JP2012011386 A JP 2012011386A JP 2012011386 A JP2012011386 A JP 2012011386A JP 5906755 B2 JP5906755 B2 JP 5906755B2
Authority
JP
Japan
Prior art keywords
color
infrared light
image
unit
correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012011386A
Other languages
English (en)
Other versions
JP2013150269A (ja
Inventor
神頭 信之
信之 神頭
清水 雅芳
雅芳 清水
浩寧 吉川
浩寧 吉川
由樹雄 平井
由樹雄 平井
上村 拓也
拓也 上村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2012011386A priority Critical patent/JP5906755B2/ja
Priority to US13/721,493 priority patent/US20130194432A1/en
Publication of JP2013150269A publication Critical patent/JP2013150269A/ja
Application granted granted Critical
Publication of JP5906755B2 publication Critical patent/JP5906755B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Description

本明細書で議論される実施態様は、カラー画像の撮像技術に関するものである。
カラー画像の撮像を行う撮像装置には、赤外領域での撮像素子の分光感度の特性を人の錐体感度の特性に近づけて色の再現性を向上させるために、可視光は透過するが赤外光は遮断する赤外カットフィルタが装備されているものがある。
また、監視カメラ等の赤外線照射型の撮像装置の多くには赤外カットフィルタが装備されている。このような監視カメラでは、昼間には赤外カットフィルタを使用して撮像が行われる一方、夜間には、高感度での撮像を行うために、赤外カットフィルタを外して撮影を行うことが一般的に行われている。このような撮影を行うために備えられている、赤外カットフィルタを撮像光路に対して挿抜するための機構が、撮像装置の小型化・低コスト化を阻害する要因となっている。
また、近赤外発光ダイオード等を用いて、発光させた赤外光を照射した眼の赤外画像を撮像装置で撮像し、この撮像画像を用いて人の視線を検出する視線検出装置というものが知られている。このような用途のための赤外画像の撮影機能と通常の可視画像の撮影機能との両方をPCや携帯通信機器等に装備するには、これらの機器に搭載する撮像装置で赤外カットフィルタを使用しないようにすることが、装置の小型化・低コスト化の観点から望まれる。
このような要請に応える技術として、赤外カットフィルタを外した撮像装置で撮像した画像に対し、色の補正を行う画像処理を施す技術が幾つか知られている。そのような技術のうちのひとつとして、撮像素子から出力される各色の色信号と所定の補正係数とのマトリクス演算を行って、上述の色補正を行うという技術が知られている。
特許第4407448号公報 特開2008−289001号公報 特開2004−32243公報 特開2011−101006号公報
豊田善隆、外3名、「カラー撮像可能な近赤外線撮像装置の研究−比視感度補正信号処理方式の開発−」、映像情報メディア学会誌、社団法人映像情報メディア学会、2010年1月、第64巻、第1号、p.101−110
赤外カットフィルタを外した撮像装置での撮像により得られる画像は、撮像対象物の色の赤外領域での反射率が可視領域での反射率に対して高くなるほど、その色が元の色から大きく乖離したものとなる。
図1及び図2について説明する。
図1は、ある撮像素子の分光感度特性を表したグラフである。このグラフにおいて、「R成分」、「G成分」、及び「B成分」のグラフは、それぞれ、光の三原色である赤色、緑色、及び青色の各色についての分光感度特性を表している。
図2に色サンプルの分光反射率特性を表したグラフである。なお、この色サンプルは、マクベスカラーチェッカにおける24色のカラーサンプルである。
この撮像素子では、赤外カットフィルタを外した状態では、色サンプルの赤外領域での反射率が可視領域での反射率に対して高いほど、赤外領域のスペクトルを多く検知してしまう。この場合、撮像素子により検知される、R成分、G成分、及びB成分の各々の明るさの差は小さくなるため、得られる画像は、赤外カットフィルタを用いた撮像により得られる画像と比べると、色彩が薄くなる(無彩色の画像に近づく)。
図3について説明する。図3は、マクベスカラーチェッカの撮像画像例である。ここで、[A]の画像は、赤外カットフィルタを使用して撮像したものであり、[B]の画像は、赤外カットフィルタを使用しないで撮像したものである。なお、どちらの画像も、赤外光が多く含まれている白熱電球による照明の下で撮像されたものである。
図3の画像を参照すると、サンプルの色によって色の濃さが異なっていることが分かる。これは、図2のグラフで示されているように、分光反射率特性が色サンプル毎に異なるために生じる。なお、図3はカラーの画像でないために分かり難いが、画像全体の傾向として、[B]の画像は[A]の画像よりも色が薄くなってしまっている。
このように、赤外カットフィルタを外した撮像素子による撮像では、赤外カットフィルタを使用した場合と比べて、撮像画像に大幅な色の劣化が見られる。
この撮像画像での色の劣化は、前述した、撮像素子から出力される各色の色信号と所定の補正係数とのマトリクス演算による色補正の技術を用いることで改善させることができる。しかしながら、この技術による色補正を試みたところ、補正後の画像にノイズが多量に含まれてしまうことが判明した。従って、画質の良好な画像を得るためには、このノイズを抑制することが必要である。
上述した問題に鑑み、本明細書で後述する撮像装置は、赤外画像の撮影機能と可視光画像の撮影機能とに共用してもノイズが抑制された良好な画質の画像の取得を可能にする。
本明細書で後述する撮像装置のひとつに、赤外光源と、撮像素子部と、光学フィルタと、色補正部とを備えるというものがある。ここで、赤外光源は、特定の波長帯域内の赤外光を発光する。撮像素子部は、入射した光に対応する色信号を出力する。光学フィルタは、撮像素子部への光路中に常時挿入されており、当該特定の波長帯域外の波長の赤外光を減衰させる。そして、色補正部は、撮像素子部から出力される、赤外光源により発光される赤外光の波長帯域外の波長の赤外光を光学フィルタが減衰させて得られた光に対応する色信号を補正して撮像素子部の各色の分光感度特性を人間の錐体の特性に近似させる。
また、本明細書で後述する撮像方法のひとつは、まず、撮像装置が備える光学フィルタが、入射光のうちから、当該撮像装置が備えている赤外光源が発光する赤外光の波長が含まれる特定の波長帯域外の波長の赤外光を減衰させる。次に、この入射光のうち光学フィルタを通過した光が撮像装置の備える撮像素子部に入射したときに、当該光学フィルタを通過した光に対応する色信号を当該撮像素子部が出力する。そして、撮像素子部から出力される、赤外光源により発光される赤外光の波長帯域外の波長の赤外光を光学フィルタが減衰させて得られた光に対応する色信号を、撮像装置の備える色補正部が補正して撮像素子部の各色の分光感度特性を人間の錐体の特性に近似させる。
また、本明細書で後述するプログラムのひとつは、以下の処理をコンピュータに行わせる。この処理は、まず、入射光のうちから、撮像装置が備えている赤外光源が発光する赤外光の波長が含まれる特定の波長帯域外の赤外光を、当該撮像装置が備える光学フィルタが減衰させることによって得られた光に対応している3種の色信号を補正する。ここで、この3種の色信号は、光学フィルタを通過した光を撮像装置の備える撮像素子部に入射させたときに当該撮像素子部から出力される信号である。また、この補正は撮像素子部の各色の分光感度特性を人間の錐体の特性に近似させる補正であり、当該3種の色信号と、予め設定された補正係数とのマトリクス演算を行うことによって行われる。そして、その後に、当該補正後の色信号で構成されている画像を表示装置に表示させる。
本明細書で後述する撮像装置は、赤外画像の撮影機能と可視光画像の撮影機能とに共用してもノイズが抑制された良好な画質の画像の取得を可能にするという効果を奏する。
撮像素子の分光感度特性を表したグラフである。 色サンプルの分光特性を表したグラフである。 マクベスカラーチェッカの撮像画像例である。 撮像装置の一実施例の構成図である。 図4の撮像装置に使用することのできる近赤外発光ダイオードの波長特性の一例を表した図である。 図4の撮像装置に使用することのできる光学フィルタ13の特性の一例を表した図である。 画像処理部のハードウェア構成図である。 画像処理の処理内容を図解したフローチャートである。 マトリクス演算による色補正を、赤外カットフィルタを使用しないで撮像した色信号に対して施した場合の画像の例、及び、実施例の光学フィルタ13を使用して撮像した色信号に対して施した場合の画像の例である。 特許文献1に記載されている撮像装置に使用されている光フィルタを用いた場合に得られる画像のシミュレーション結果である。
本願発明者は、赤外カットフィルタを外したことで近赤外に感度を持つ撮像素子を用いて通常の可視画像の撮影を行った場合に生じる、前述のノイズの発生メカニズムを詳細に調査した。その結果、このノイズは、前述した色補正のためのマトリクス演算におけるマトリクス係数の値の大きさに起因し、その値が大きいほど、ノイズ量が増大することが確認された。その結果、このノイズを抑制するためには、赤外光の受光量を小さくして色補正の補正量を少なくすることで、マトリクス係数の値を小さくすることが重要であることが見出された。
また、前述したように、赤外画像の撮影機能と通常の可視画像の撮影機能との両方をPCや携帯通信機器等に装備する場合、赤外画像の撮影に用いる赤外光源は特定の波長を用いることになる。その一方で、通常の可視画像の撮影においての照明として用いられる白熱電球や太陽光に含まれる赤外光は、前述した色補正でのノイズを誘発する要因となる。但し、この赤外光は連続スペクトルである。
そこで、これより説明する撮像装置の一実施例では、赤外画像の撮影に用いる赤外光の波長は透過し、その赤外光の波長から外れた波長の赤外光は遮断する光学フィルタを使用するようにして、色補正でのノイズの発生を抑制するようにしている。
図4について説明する。図4は、撮像装置の一実施例の構成図である。
撮像装置1は、赤外光源11、レンズユニット12、光学フィルタ13、撮像素子14、A/D変換部15、画素補間部16、WB調整部17、色補正部18、γ補正部19、画質調整部20、表示・保存処理部21、表示部22、及び記録媒体23を備える。
赤外光源11は、特定の波長帯域内の赤外光を発光する光源であり、例えば近赤外発光ダイオードを赤外光源11として使用する。本実施例では、監視カメラ等の赤外照射型のアクティブセンサで多く用いられている、800nmから900nm付近の波長の近赤外光を発光する近赤外発光ダイオードを使用する。この赤外光源11は、例えば、前述した視線検出機能のために使用される、人の眼の赤外画像の撮像を行う場合に点灯させ、通常の可視画像の撮像を行う場合には消灯させる。
図5は、撮像装置1に使用することのできる近赤外発光ダイオードの波長特性の一例を表したものである。この近赤外発光ダイオードは、発光する近赤外光の波長が、ほぼ850±25nm(半値幅)の特性を有している。
レンズユニット12は、レンズ等の複数の光学部品を組み合わせたユニットであり、被写体からの光を集光させて当該被写体の像を撮像素子14の受光面に結像させる。
光学フィルタ13は、赤外光のうち、前述の特定の波長帯域外の赤外光を減衰させる。
図6は、撮像装置1に使用することのできる光学フィルタ13の特性の一例である。この特性は、図5の波長特性を有する近赤外発光ダイオードを赤外光源11として使用する場合に合わせた特性であり、ほぼ850±25nmの波長帯域の外の赤外光を減衰させ、当該波長帯域内のものは透過させる特性である。
なお、前述した、800nmから900nmの波長の近赤外光を発光する近赤外発光ダイオードを赤外光源11として使用する場合は、この800nmから900nmまでの波長帯域外の赤外光を減衰させる特性を有する光学フィルタ13を使用するようにする。
なお、人間の色覚は、波長が略700nmよりも長波長の領域では可視光領域であってもほとんど感度特性がないといわれている(例えば特許文献1参照)。そこで、光学フィルタ13が減衰させる光の波長の下限を700nmとし、この下限よりも短波長の光と前述の特定の波長帯域内の赤外光とを透過させる特性を、光学フィルタ13に持たせるようにしてもよい。
なお、上述したような特性を有する光学フィルタ13は、例えば、広く知られている、光学薄膜を積層する手法で作成することができる(引用文献3参照)。この手法は、二酸化チタンや二酸化ケイ素などの無機材料を過熱して生成される蒸発粒子の石英やガラス基板への真空蒸着を繰り返すことで、光学薄膜を積層させるというものである。ここで、光学薄膜の屈折率や厚み、積層数などを調整することで、所望の特性を有する光学フィルタ13を作成することができる。
なお、光学フィルタ13は、レンズユニット12から撮像素子14への光路中に常時挿入されており、光学フィルタ13の光路に対する挿抜は行わない。
撮像素子14は、例えば、CCD(Charge Coupled Device)型、CMOS(Complementary Metal Oxide Semiconductor)型などの固体撮像素子であり、光学フィルタ13を通過して受光面に入射した光を電気信号に変換して出力する。なお、この撮像素子14は、可視領域及び赤外領域に対して感度を有している。
A/D変換部15は、撮像素子14から出力される、アナログ信号である電気信号をデジタル画像信号に変換する。
画素補間部16は、A/D変換部15から出力される画像信号に対して画素補間処理を行うことで、画像を構成する各画素についてのR成分(赤色成分)、G成分(緑色成分)、及びB成分(青色成分)の信号(色信号)を出力する。
なお、以下の説明では、撮像素子14と、A/D変換部15と、画素補間部16とを組み合わせた構成を、「撮像素子部」と称することとする。
WB(White Balance )調整部17は、画素補間部16から出力された3色の各成分の色信号に対してゲイン調整を行うことで、ホワイトバランスを調整する。
色補正部18は、WB調整部17から出力された色信号を補正して、前述した特定の波長帯域内における撮像素子部の各色の分光感度特性を人間の錐体の特性に近似させることによって赤外線混入による色劣化を抑制する。本実施例では、色補正部18は、撮像素子部から出力される3種の色信号と予め設定された補正係数とのマトリクス演算を行うことによって、この補正を行う。より具体的には、色補正部18は、下記の[数1]式のマトリクス演算を行う。
なお、[数1]式において、Rin、Gin、及びBinはWB調整部17から色補正部18に入力されるRGB各成分の色信号の値であり、Rout、Gout、及びBoutは色補正部18から出力される補正後のRGB各成分の色信号の値である。また、αr、αg、αb、βr、βg、βb、γr、γg、及びγbは補正係数である。
この補正係数の導出について説明する。この補正係数の導出は、撮像装置1の開発工程若しくは製造工程において行われる。
まず、複数のカラーサンプルの各々について、補正前のRGB各成分の値と、補正後のRGBの各成分の目標値との取得が行われる。本実施例では、カラーサンプルとして、前述した、マクベスカラーチェッカにおける24色のカラーサンプルを使用するものとする。ここで、補正前のRGB各成分の値は、撮像装置1の撮像素子14と同様の特性を有する撮像素子を用い、更に、撮像装置1に使用される、前述した特性を有する光学フィルタ13を用いて、各カラーサンプルを撮像することで得られる。また、補正後のRGBの各成分の目標値は、同じ撮像素子を用い、更に、可視光は透過するが、赤外光はその波長域の全体に亙って遮断する赤外カットフィルタを用いて、各カラーサンプルを撮像することで得られる。
次に、複数のカラーサンプルの各々について取得した、補正前のRGB各成分の値と、補正後のRGBの各成分の目標値とを下記の[数2]式に代入して、補正係数を求める。
なお、[数2]式において、Rin_1、Rin_2、…、Rin_24は、24色の各カラーサンプルの補正前のR成分の値である。また、Gin_1、Gin_2、…、Gin_24は、24色の各カラーサンプルの補正前のG成分の値である。そして、Bin_1、Bin_2、…、Bin_24は、24色の各カラーサンプルの補正前のB成分の値である。一方、Rout_1、Rout_2、…、Rout_24は、24色の各カラーサンプルの補正後のR成分の目標値である。また、Gout_1、Gout_2、…、Gout_24は、24色の各カラーサンプルの補正後のG成分の目標値である。そして、Bout_1、Bout_2、…、Bout_24は、24色の各カラーサンプルの補正後のB成分の目標値である。
これらの値を[数2]式に代入することによって、行列の各成分について各補正係数を未知数とする方程式が得られるので、最小二乗法を用いて方程式の解を推定する。こうして、各補正係数の値が求まる。
なお、色補正部18による色補正の処理は、通常の可視画像の撮像を行う場合、すなわち、赤外光源11による赤外光の発光が行われていない場合に、行われる。赤外光源11を点灯させて赤外画像の撮像を行う場合には、色補正部18は、色補正の処理を行わずに、WB調整部17からの色信号をそのままγ補正部19に出力する。
γ補正部19は、色補正部18から出力された色信号に対してγ(ガンマ)補正を施す。
画質調整部20は、γ補正部19から出力された色信号に対し、例えば画像の彩度やコントラスト等の画質の調整処理を施す。
表示・保存処理部21は、画質調整部20から出力された色信号で構成されている画像信号を、画像表示用の信号に変換して表示部22に出力する。
表示部22は、例えば、LCD(Liquid Crystal Display)や有機EL(Electroluminescence)ディスプレイなどの表示デバイスであり、表示・保存処理部21から出力された信号で表されている画像を表示する。
また、表示・保存処理部21は、画質調整部20から出力された色信号で構成されている画像信号を、Rawデータとして出力し、若しくは、JPEG(Joint Photographic Experts Group)方式などの所定の圧縮方式によって圧縮符号化して出力する。出力された画像データは、記録媒体23に記録される。
図4の撮像装置1は以上のように構成されている。
なお、この撮像装置1のうちの構成要素の一部を、図7にハードウェア構成を図解した画像処理部30を用いて構成してもよい。
図7の画像処理部30は、MPU31、ROM32、RAM33、インタフェース部34、及び記録媒体駆動装置35を備えている。なお、これらの構成要素は、バスライン36を介して接続されており、MPU31の管理の下で各種のデータを相互に授受することができる。
MPU(Micro Processing Unit)31は、画像処理部30全体の動作を制御する演算処理装置である。
ROM(Read Only Memory)32は、所定の制御プログラムや各種の定数値が予め記録されている読み出し専用半導体メモリである。MPU31は、この制御プログラムを撮像装置1の起動時に読み出して実行することにより、この画像処理部30の各構成要素の動作制御が可能となり、更に、後述する制御処理を行えるようにもなる。
RAM(Random Access Memory)33は、MPU31が各種の制御プログラムを実行する際に、必要に応じて作業用記憶領域として使用する、随時書き込み読み出し可能な半導体メモリである。
インタフェース装置34は、撮像装置1の他の構成要素との間で行われる各種のデータの授受の管理を行うものであり、例えば、A/D変換部15から出力される画像信号の取り込みや、画像表示用の信号の表示部22への出力を行う。
記録媒体駆動装置35は、記録媒体23に対するデータの書き込み及び読み出しを行うものであり、例えば、撮像装置1で撮像された画像を表している画像データの記録媒体23への書き込みを行う。
上述した構成により、MPU31を、画素補間部16、WB調整部17、色補正部18、γ補正部19、画質調整部20、及び表示・保存処理部21として機能させることができる。このためには、まず、撮像装置1の各構成要素により行われる画像処理をMPU31に行わせるための制御プログラムを作成する。作成した制御プログラムはROM32に予め格納しておく。そして、MPU31に所定の指示を与えてこの制御プログラムを読み出させて実行させる。こうすることで、MPU31を、上述した各構成要素として機能させることが可能となる。
また、ROM32としてフラッシュメモリを使用すると共に、前述した制御プログラムは記録媒体23に記録させておくようにし、この制御プログラムを記録媒体駆動装置35で記録媒体23から読み出してROM32に書き込むようにしてもよい。なお、記録媒体23としては、フラッシュメモリ、CD−ROM(Compact Disc Read Only Memory)、DVD−ROM(Digital Versatile Disc Read Only Memory)などが利用可能である。
次に、MPU31によって行われる画像処理の詳細について、図8のフローチャートに沿って説明する。
この画像処理が開始されると、まず、S101において、MPU31は画像信号取得処理を行う。この処理は、A/D変換部15から出力される画像信号を、インタフェース部34を介して取得する処理である。
次に、S102において、MPU31は画素補間処理を行う。この処理は、S101の処理によって取得した画像信号に対して画素補間を行って、画像を構成する各画素についてのRGB各成分の色信号を得る処理であり、図4の構成では画素補間部16によって行われる処理である。
次に、S103において、MPU31はWB調整処理を行う。この処理は、S102の処理により得られた3色の各成分の色信号に対してゲイン調整を行うことで、ホワイトバランスを調整する処理であり、図4の構成ではWB調整部17によって行われる処理である。
次に、S104において、MPU31は色補正処理を行う。この処理は、S103の処理による調整後の色信号を補正して、光学フィルタ13が透過させる、赤外光の波長域のうちの前述した特定の波長帯域内における撮像素子部の各色の分光感度特性を、人間の錐体の特性に近似させる処理である。より具体的には、この処理では、S103の処理による調整後のRGB各成分の色信号と、前掲の[数2]式を用いて求めた各補正係数とを前掲の[数1]式に代入してマトリクス演算を行って、上述の補正を行う。なお、このS104の処理は、図4の構成では色補正部18によって行われる処理である。
次に、S105において、MPU31はγ補正処理を行う。この処理は、S104の処理によって色補正が施された色信号に対してγ補正を施す処理であり、図4の構成ではγ補正部19によって行われる処理である。
次に、S106において、MPU31は画質調整処理を行う。この処理は、S105の処理によってγ補正が施された色信号に対し、例えば画像の彩度やコントラスト等の画質の調整処理を施す処理であり、図4の構成では画質調整部20によって行われる処理である。
次に、S107において、MPU31は表示処理を行う。この処理は、S106の処理によって画質調整が行われた色信号で構成されている画像信号を画像表示用の信号に変換して、インタフェース部34を介して表示部22に出力して表示させる処理である。この処理は、図4の構成では表示・保存処理部21によって行われる処理である。
次に、S108では、画像の保存指示を取得したか否かを判定する処理をMPU31が行う。なお、画像の保存指示は、撮像装置1の使用者が、撮像装置1に備えられている不図示のスイッチを操作することによって画像処理部30に与えられる。ここで、MPU31は、画像の保存指示を取得したと判定したとき(判定結果がYesのとき)にはS109に処理を進める。一方、MPU31は、画像の保存指示を取得していないと判定したとき(判定結果がNoのとき)にはS101へ処理を戻し、S101以降の処理を繰り返す。
S109では、MPU31は保存処理を行う。この処理は、記録媒体駆動装置35を制御して、S106の処理によって画質調整が行われた色信号で構成されている画像を表現している画像データを記録媒体23に記録させる処理であり、図4の構成では表示・保存処理部21によって行われる処理である。MPU31は、このS109の処理を終えたときにはS101へ処理を戻し、S101以降の処理を繰り返す。
以上までの画像処理をMPU31が行うことで、MPU31が、画素補間部16、WB調整部17、色補正部18、γ補正部19、画質調整部20、及び表示・保存処理部21として機能する。
次に、この撮像装置1による撮像結果について説明する。
図9は、マトリクス演算による色補正を、赤外カットフィルタを使用しないで撮像した色信号に対して施した場合の画像の例、及び、実施例の光学フィルタ13を使用して撮像した色信号に対して施した場合の画像の例である。
図9において、[A]の画像例は、マトリクス演算による色補正を、赤外カットフィルタを使用しないで撮像した色信号に対して施して得られる画像を、コンピュータによる数値計算を行って作成したものである。一方、[B]の画像例は、マトリクス演算による色補正を、実施例の特性を有する光学フィルタ13を使用して撮像した色信号に対して施して得られる画像を、コンピュータによる同様の数値計算を行って作成したものである。
また、図9において、[C]の画像例は、マトリクス演算による色補正を、赤外カットフィルタを使用しないで撮像した色信号に対して施して得られた、マクベスカラーチェッカの実際の撮像画像である。一方、[D]の画像例は、マトリクス演算による色補正を、実施例の特性を有する光学フィルタ13を使用して撮像した色信号に対して施して得られた、マクベスカラーチェッカの実際の撮像画像である。
なお、図9の各画像の下には、色補正のためのマトリクス演算に使用した補正係数の値を記し、更に、係数の値の最大値と自乗平均値とを記した。
図9の[A]の画像例において使用した係数値と[B]の画像例において使用した係数値とを対比すると、実施例の特性を有する光学フィルタ13を使用した場合の方が、赤外カットフィルタを使用しない場合よりも、係数の値が顕著に小さいことが分かる。また、このことは、[C]の画像例において使用した係数値と[D]の画像例において使用した係数値とを対比しても分かる。
更に、[C]の画像例と[D]の画像例とを対比すると、[C]の画像例では、各カラーサンプルの像においてノイズによるざらつきが顕著に表れていることが分かる。このように、実施例の特性を有する光学フィルタ13を使用することによってマトリクス演算に使用される補正係数の値を小さくすると、撮像画像に含まれるノイズの低減に優れた効果があることが、これらの撮像画像例からも分かる。
参考までに、マトリクス演算による色補正を、前掲した特許文献1に記載されている撮像装置で使用されている光フィルタを用いた場合の補正係数を図10に示した。
図10において、[A]のグラフは、この撮像装置で使用されている撮像素子の分光感度特性を表しており、[B]は、この撮像装置で使用されている光フィルタの特性を表している。また、[C]の画像例は、マトリクス演算による色補正を、[B]の特性を有する光フィルタを使用して撮像した色信号に対して施して得られる画像を、コンピュータによる数値計算を行って作成したものである。なお、[C]の画像例の右横には、色補正のためのマトリクス演算に使用した補正係数の値を記し、更に、係数の値の最大値と自乗平均値とを記した。
特許文献1に記載されている撮像装置では、[A]の特性の撮像素子では、700〜780nmの付近はR信号の感度がG信号又はB信号に対して必要以上に高いため、[B]の特性を有する光フィルタを使用することによって色再現性の向上を図っている。
この[B]の特性を有する光フィルタを使用した場合の補正係数の値は、図9の[B]の画像例において使用した係数に比べて顕著に大きいことが分かる。従って、図10の[B]の特性を有する光フィルタを使用した場合よりも、実施例の特性を有する光学フィルタ13を使用した場合の方が、撮像画像に含まれるノイズが少なくなると考えられる。
1 撮像装置
11 赤外光源
12 レンズユニット
13 光学フィルタ
14 撮像素子
15 A/D変換部
16 画素補間部
17 WB調整部
18 色補正部
19 γ補正部
20 画質調整部
21 表示・保存処理部
22 表示部
23 記録媒体
30 画像処理部
31 MPU
32 ROM
33 RAM
34 インタフェース部
35 記録媒体駆動装置
36 バスライン

Claims (7)

  1. 特定の波長帯域内の赤外光を発光する赤外光源と、
    入射した光に対応する色信号を出力する撮像素子部と、
    前記撮像素子部への光路中に常時挿入されており、前記特定の波長帯域外の波長の赤外光を減衰させる光学フィルタと、
    前記撮像素子部から出力される、前記赤外光源により発光される赤外光の波長帯域外の波長の赤外光を前記光学フィルタが減衰させて得られた光に対応する色信号を補正して前記撮像素子部の各色の分光感度特性を人間の錐体の特性に近似させる色補正部と、
    を備えることを特徴とする撮像装置。
  2. 前記撮像素子部は、入射した光に対応する3種の色信号を出力し、
    前記色補正部は、前記撮像素子部から出力される3種の色信号と予め設定された補正係数とのマトリクス演算により前記補正を行う、
    ことを特徴とする請求項1に記載の撮像装置。
  3. 前記特定の波長帯域が800nmから900nmの範囲であることを特徴とする請求項1又は2に記載の撮像装置。
  4. 前記光学フィルタが減衰させる光の波長の下限が700nmであることを特徴とする請求項1から3のうちのいずれか一項に記載の撮像装置。
  5. 前記色補正部は、前記赤外光源による赤外光の発光が行われていないときに、前記補正を行うことを特徴とする請求項1から4のうちのいずれか一項に記載の撮像装置。
  6. 撮像装置が備える光学フィルタが、入射光のうちから、該撮像装置が備えている赤外光源が発光する赤外光の波長が含まれる特定の波長帯域外の波長の赤外光を減衰させ、
    前記入射光のうち前記光学フィルタを通過した光が前記撮像装置の備える撮像素子部に入射したときに、該光学フィルタを通過した光に対応する色信号を該撮像素子部が出力し、
    前記撮像素子部から出力される、前記赤外光源により発光される赤外光の波長帯域外の波長の赤外光を前記光学フィルタが減衰させて得られた光に対応する色信号を、前記撮像装置の備える色補正部が補正して前記撮像素子部の各色の分光感度特性を人間の錐体の特性に近似させる、
    ことを特徴とする撮像方法。
  7. 入射光のうちから、撮像装置が備えている赤外光源が発光する赤外光の波長が含まれる特定の波長帯域外の赤外光を、該撮像装置が備える光学フィルタが減衰させることによって得られた光に対応している3種の色信号であって、該得られた光を前記撮像装置の備える撮像素子部に入射させたときに該撮像素子部から出力される該3種の色信号と、予め設定された補正係数とのマトリクス演算を行うことによって該3種の色信号を補正して該撮像素子部の各色の分光感度特性を人間の錐体の特性に近似させ、
    該補正後の色信号で構成されている画像を表示装置に表示させる、
    処理を演算処理装置に行わせるためのプログラム。
JP2012011386A 2012-01-23 2012-01-23 撮像装置、撮像方法、及びプログラム Expired - Fee Related JP5906755B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2012011386A JP5906755B2 (ja) 2012-01-23 2012-01-23 撮像装置、撮像方法、及びプログラム
US13/721,493 US20130194432A1 (en) 2012-01-23 2012-12-20 Imaging apparatus and method of improving image quality of imaged image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012011386A JP5906755B2 (ja) 2012-01-23 2012-01-23 撮像装置、撮像方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2013150269A JP2013150269A (ja) 2013-08-01
JP5906755B2 true JP5906755B2 (ja) 2016-04-20

Family

ID=48869885

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012011386A Expired - Fee Related JP5906755B2 (ja) 2012-01-23 2012-01-23 撮像装置、撮像方法、及びプログラム

Country Status (2)

Country Link
US (1) US20130194432A1 (ja)
JP (1) JP5906755B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5910043B2 (ja) * 2011-12-02 2016-04-27 富士通株式会社 撮像装置、画像処理プログラム、画像処理方法、および画像処理装置
US9491377B2 (en) * 2013-08-07 2016-11-08 Trimble Navigation Limited Methods of extracting 4-band data from a single CCD; methods of generating 4×4 or 3×3 color correction matrices using a single CCD
CN107049254A (zh) * 2017-04-05 2017-08-18 展谱光电科技(上海)有限公司 便携式多光谱摄像和投影装置及方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10108206A (ja) * 1996-09-27 1998-04-24 Toshiba Lighting & Technol Corp カラービデオカメラ、テレビドアホン及び監視装置
JP2004032243A (ja) * 2002-06-25 2004-01-29 Sanyo Electric Co Ltd 撮像装置および光学フィルタ
JP4407448B2 (ja) * 2004-09-24 2010-02-03 三菱電機株式会社 撮像装置
JP2006237738A (ja) * 2005-02-22 2006-09-07 Sanyo Electric Co Ltd 色信号処理方法
JP2007311447A (ja) * 2006-05-17 2007-11-29 Sanyo Electric Co Ltd 光電変換装置
JP2010171950A (ja) * 2008-12-25 2010-08-05 Kyocera Corp 撮像装置および撮像装置の色補正方法
JP5572326B2 (ja) * 2009-03-26 2014-08-13 オリンパス株式会社 画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法

Also Published As

Publication number Publication date
JP2013150269A (ja) 2013-08-01
US20130194432A1 (en) 2013-08-01

Similar Documents

Publication Publication Date Title
US8629916B2 (en) Camera with imaging unit and imaging unit for camera
US8363131B2 (en) Apparatus and method for local contrast enhanced tone mapping
JP5168353B2 (ja) 撮像装置及び撮像素子
US10313589B2 (en) Imaging device having an image mode set according to a filter
US20130057724A1 (en) Imaging element and imaging apparatus
JP4635828B2 (ja) 撮像装置、画像処理装置、画像処理方法及び画像処理プログラム
US10419685B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium
JP6394338B2 (ja) 画像処理装置、画像処理方法、及び撮像システム
CN104113743B (zh) 低照度下彩色摄像机自动白平衡处理方法及装置
US20020106206A1 (en) Image-capturing device
JP5259381B2 (ja) 撮像装置および撮像方法
JP2006109120A (ja) 赤外線撮像装置
JP2010093472A (ja) 撮像装置および撮像装置用信号処理回路
US20110254974A1 (en) Signal processing apparatus, solid-state image capturing apparatus, electronic information device, signal processing method, control program and storage medium
US10416026B2 (en) Image processing apparatus for correcting pixel value based on difference between spectral sensitivity characteristic of pixel of interest and reference spectral sensitivity, image processing method, and computer-readable recording medium
JP2011239252A (ja) 撮像装置
WO2017086155A1 (ja) 撮像装置、撮像方法、およびプログラム
JP5906755B2 (ja) 撮像装置、撮像方法、及びプログラム
JP4544308B2 (ja) 画像処理装置、撮像装置、方法およびプログラム
JP2011091513A (ja) 撮像システムおよび補正方法
US20180338100A1 (en) Image processing device, image processing method and computer readable recording medium
JP3595104B2 (ja) カラー撮像装置のホワイトバランス調整方法
JP2010171950A (ja) 撮像装置および撮像装置の色補正方法
JP5950552B2 (ja) 撮像装置、及び撮像装置の制御方法
JP2017102393A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140904

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150824

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150901

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151026

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160223

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160307

R150 Certificate of patent or registration of utility model

Ref document number: 5906755

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees