JPWO2016114148A1 - 画像処理装置、画像処理方法およびプログラム - Google Patents

画像処理装置、画像処理方法およびプログラム Download PDF

Info

Publication number
JPWO2016114148A1
JPWO2016114148A1 JP2016569295A JP2016569295A JPWO2016114148A1 JP WO2016114148 A1 JPWO2016114148 A1 JP WO2016114148A1 JP 2016569295 A JP2016569295 A JP 2016569295A JP 2016569295 A JP2016569295 A JP 2016569295A JP WO2016114148 A1 JPWO2016114148 A1 JP WO2016114148A1
Authority
JP
Japan
Prior art keywords
light image
spectral reflectance
image
visible light
infrared light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016569295A
Other languages
English (en)
Other versions
JP6677172B2 (ja
Inventor
真人 戸田
真人 戸田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2016114148A1 publication Critical patent/JPWO2016114148A1/ja
Application granted granted Critical
Publication of JP6677172B2 publication Critical patent/JP6677172B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

撮影対象を撮影した可視光画像から大気中の粒子による影響を除去し、復元画像の品質を向上させる。画像処理装置は、撮影対象を撮影した、可視光画像と近赤外光画像の各画素位置における、可視光波長領域の分光反射率と近赤外光波長領域の分光反射率との比を表す分光反射率比を推定する推定部と、前記各画素位置で、推定された前記分光反射率比と前記近赤外光画像の輝度を乗算し、復元可視光画像を生成する復元部と、を備える。

Description

本発明は、画像処理装置等に関し、近赤外光画像を用いた画像処理に関する。
霧又は靄の発生時に撮影した可視光画像は、大気中の粒子の影響により、白む、又は、低コントラストとなって画質が劣化する。図15に示すように、霧又は靄の環境下では、撮影対象の反射光は、撮影対象からカメラまでの経路における大気中の粒子によって拡散され減衰する。また、同時に、環境光も大気中の粒子によって拡散され、その拡散光もカメラの撮像センサに到達する。そのため、カメラの撮像センサに照射される光は、撮影対象からの減衰した反射光と拡散された環境光との混合光となる。撮影対象を撮影した可視光画像から、大気中の粒子の影響を除去するためには、混合光から拡散された環境光の影響を除去し、大気中の粒子による減衰を復元する必要がある。
これまで、劣化のない可視画像への復元を実現するために、霧又は靄中の大気における透過率が高く、劣化の少ない近赤外光画像の情報を利用する手法が提案されている。
特許文献1は、可視光画像を輝度信号と色差信号に分離し、輝度信号に近赤外信号を合成することで可視光画像を強調する技術を開示する。特許文献2は、低彩度の領域であって、長波長輝度信号の輪郭成分と可視光輝度信号の輪郭成分との差が所定の基準値以上の領域に対し、対象画像の輝度信号を長波長輝度信号で置き換えることで、可視光画像を強調する技術を開示する。
特許文献1又は特許文献2の技術は、輝度信号の強調処理であり、強調された画像の視認性は向上する。しかしながら、色情報等に対する画質の向上は図られていない。
一方、色情報を含む画質を向上させる画像処理として、非特許文献1が知られている。非特許文献1は、好天時では各画素の周辺にいずれかのカラーチャネルで0の値を持つ画素が存在するという事前知識を用いている。劣化を復元する際に、復元可視光画像と近赤外光画像の局所勾配量が類似するという制約をかけることで、可視光画像の復元性能を向上させている。
なお、特許文献3には、蛍光物質を含む試料における蛍光波長域と蛍光波長域外の長波長域を測定する分光測定の技術が記載されている。また、特許文献4には、印刷物の反射光による物体色と、表示画面上の光源色を一致させる技術が記載されている。さらに、特許文献5には、赤外像を可視像または近赤外像に変換する技術が記載されている。
特開2013−255144号公報 特開2010−178036号公報 特開2012−042313号公報 特開平09−102882号公報 特開平06−121232号公報
C.Feng,S.Zhuo,X.Zhang,L.Shen and S.Susstrunk,"Near−Infrared Guided Color Image Dehazing" IEEE 20th International Conference on Image Processing (ICIP),Melbourne,Australia,September 15−18,2013
非特許文献1の技術は、復元可視光画像と近赤外光画像の局所勾配量の比が1:1であると仮定して処理している。しかし、一般に、可視光画像と近赤外光画像の局所勾配量との比は物体の反射特性に依存するため、その関係が必ずしも成り立つわけではない。その結果、処理後の復元画像で過度の強調または劣化復元の不足が発生することになり、高品質な復元画像を生成することができない。
このように、撮影対象を撮影した可視光画像から大気中の粒子による影響を除去し、復元画像の品質を向上させることが可能な画像処理装置等が望まれている。
本発明の目的は、上記の課題を解決する画像処理装置等を提供することにある。
本発明の一態様である画像処理装置は、撮影対象を撮影した、可視光画像と近赤外光画像の各画素位置における、可視光波長領域の分光反射率と近赤外光波長領域の分光反射率との比を表す分光反射率比を推定する推定部を備える。さらに、画像処理装置は、前記各画素位置で、推定された前記分光反射率比と前記近赤外光画像の輝度を乗算し、復元可視光画像を生成する復元部と、を備える。
本発明の一態様である画像処理方法は、撮影対象を撮影した、可視光画像と近赤外光画像の各画素位置における、可視光波長領域の分光反射率と近赤外光波長領域の分光反射率との比を表す分光反射率比を推定する。さらに、画像処理方法は、前記各画素位置で、推定された前記分光反射率比と前記近赤外光画像の輝度を乗算し、復元可視光画像を生成する。
本発明の一態様であるプログラムを格納する記録媒体は、コンピュータに、撮影対象を撮影した、可視光画像と近赤外光画像の各画素位置における、可視光波長領域の分光反射率と近赤外光波長領域の分光反射率との比を表す分光反射率比を推定し、前記各画素位置で、推定された前記分光反射率比と前記近赤外光画像の輝度を乗算し、復元可視光画像を生成する、ことを実行させる。
本発明は、撮影対象を撮影した可視光画像から大気中の粒子による影響を除去し、復元画像の品質を向上させることができる。
第1の実施形態による画像処理装置の構成を示すブロック図である。 第1の実施形態による画像処理装置の動作を示すフローチャートである。 第2の実施形態による画像処理装置の構成を示すブロック図である。 第2の実施形態による画像処理装置の動作を示すフローチャートである。 第3の実施形態による画像処理装置の構成を示すブロック図である。 第3の実施形態による画像処理装置の動作を示すフローチャートである。 第3の実施形態による画像処理装置の構成の変形例を示すブロック図である。 第3の実施形態による画像処理装置の変形例の動作を示すフローチャートである。 第4の実施形態による画像処理装置の構成を示すブロック図である。 第4の実施形態による画像処理装置の動作を示すフローチャートである。 第4の実施形態による画像処理装置の構成の変形例を示すブロック図である。 第4の実施形態による画像処理装置の変形例の動作を示すフローチャートである。 環境光の算出方法を表す説明図である。 第1〜4の実施形態による画像処理装置をコンピュータで実現するためのハードウエア構成を示すブロック図である。 霧の発生時における光の経路を表すモデル図である。
以下、本発明の実施形態について図面を用いて説明する。なお、実施形態の構成を説明する図面中の矢印の方向は、一例を示すものであり、ブロック間の信号の向きを限定するものではない。
(第1の実施形態)
本発明の第1の実施形態による画像処理装置について、図面を用いて詳細に説明する。図1は、第1の実施形態による画像処理装置の構成を示すブロック図である。第1の実施形態の画像処理装置10は、推定部11と、復元部12と備える。
撮影対象を撮影した可視光画像(以後、撮影可視光画像と示す)と撮影対象を撮影した近赤外光画像(撮影近赤外光画像)とが、推定部11に入力される。推定部11は、各画素位置における撮影対象の、可視光波長領域における分光反射率と、近赤外光波長領域における分光反射率との比を表す分光反射率比を推定する。
推定部11における分光反射率比の推定について説明する。図15に示すように、霧の環境においては、撮影対象からの反射光は、撮影対象からカメラまでの経路における霧の粒子によって拡散され減衰する。また、同時に、環境光も霧の粒子によって拡散され、その拡散光もカメラの撮像センサ(図示せず)に到達する。そのため、カメラの撮像センサに照射される光は、減衰した撮影対象からの反射光と拡散された環境光との混合光となる。
このとき、カメラの撮像センサの画素位置xにおけるカラーチャネルcで観測された可視光の輝度I(x)は、撮影対象表面の反射光の輝度J(x)と環境光の輝度Aとを用いて、式(1)で表される。ただし、t(x)は、可視光の大気透過率を表す。なお、式(1)は、非特許文献1に記載されている霧モデルである。
また、同様に、画素位置xにおける観測された近赤外光の輝度Iir(x)は、同位置における反射光の輝度Jir(x)と環境光の輝度Airおよび近赤外光の大気透過率tir(x)とを用いて、式(2)で表される。
可視光の反射光J(x)及び近赤外光の反射光Jir(x)は、同位置における撮影対象の分光反射率R(x)及びRir(x)と、光源から撮影対象への照射光の強度及び撮影対象の形状で形成される画像中の陰影を表すパラメータl(x)とを用いて、式(3)及び式(4)のように表すことができる。
(x)=t(x)・J(x)+(1−t(x))・A (1)
ir(x)=tir(x)・Jir(x)+(1−tir(x))・Air (2)
(x)=l(x)・R(x) (3)
ir(x)=l(x)・Rir(x) (4)
近赤外光の大気の透過率は、霧中において、可視光と比較して高いことが知られている。そのため、第1の実施形態では、霧中の近赤外光の拡散は無視できるレベルであるとする。大気透過率tir(x)を1.0と設定すると、式(2)で表される観測された近赤外光Iir(x)は、式(5)のように書き換えることができる。
ir(x)=Jir(x) (5)
一般に、大気中の光の透過率は、大気中の粒子の大きさや密度、撮影対象までの距離に依存する。また、画像中の撮影対象の陰影は、照射光の強度と撮影対象の形状に依存する。そのため、可視光の大気透過率t(x)と陰影を表すパラメータl(x)は無相関であり、その関係は、式(6)のように表すことができる。ただし、関数Cov(・)は、共分散を表す。
Cov(t−1,l)=0 (6)
分光反射率R(x)およびRir(x)が画像内で一定である場合、分光反射率R(x)とRir(x)との分光反射率比αは、式(1)、(3)、(4)、(5)および(6)を統合し、式(7)のように表すことができる。
Figure 2016114148
各画素位置について、当該画素を中心とした領域M×N(M,Nは整数)において分光反射率R(x)およびRir(x)が一定であると仮定し、推定部11は、式(7)を用いて、当該画素における分光反射率の比α(x)を推定する。ここで、環境光Aの算出方法として、観測画像における輝度と、その輝度の画素の数との関係から求める例がる。例えば、図13に示すように、観測画像の各カラーチャネルのヒストグラムを生成する。図13のグラフにおいて、横軸はカラーチャネルにおける輝度を示し、縦軸はその輝度の画素の数(出現頻度)を示す。図中、ヒストグラムにおける輝度の小さい方(原点側)から画素の数を加算していき、予め指定された加算による累積値に達した輝度位置の輝度をAとする。尚、環境光の輝度Aに対して、ある所定の比率を掛けたり、リミッタを設けたりしてもよい。
復元部12には、撮影近赤外光画像と、推定部11で推定された分光反射率比とが入力され、復元可視光画像が生成される。式(3)および式(4)を統合すると、可視光波長領域における反射光と近赤外光波長領域における反射光の関係は、式(8)のように表される。
Figure 2016114148
復元部12は、撮影近赤外光画像と、分光反射率R(x)とRir(x)との分光反射率比αをもとに、式(8)を用いて、各画素位置で、推定された分光反射率比と撮影近赤外光画像の輝度とを乗算し、復元可視光画像を生成する。
次に、第1の実施形態による画像処理装置の動作について図面を用いて説明する。図2は、第1の実施形態による画像処理装置の動作を示すフローチャートである。
撮影可視光画像と撮影近赤外光画像とが推定部11に入力される。推定部11は、各画素位置における撮影対象の、可視光波長領域における分光反射率と近赤外光波長領域における分光反射率の比を表す分光反射率比を推定する(S1)。
復元部12は、撮影近赤外光画像と、推定部11で推定された分光反射率比とに基づき、復元可視光画像を生成する。(S2)
(第1の実施形態の効果)
第1の実施形態の画像処理装置10は、撮影対象を撮影した可視光画像から大気中の粒子による影響を除去し、復元画像の品質を向上させることができる。その理由は、各画素位置における撮影対象の可視光波長領域における分光反射率と近赤外光波長領域における分光反射率の比を表す分光反射率比を推定し、各画素位置における推定された分光反射率比と撮影近赤外光画像とを用いて復元可視光画像を生成するからである。
(第2の実施形態)
次に、本発明の第2の実施形態による画像処理装置について、図面を用いて説明する。
図3は、本発明の第2の実施形態による画像処理装置の構成を示すブロック図である。第2の実施形態の画像処理装置20は、推定部11と、復元部12と、第1補正部23と、を備える。第2の実施形態の画像処理装置20は、第1の実施形態の画像処理装置10と比較して、第1補正部23を備える点で異なる。以下、第2の実施形態について、相違する構成を主に説明し、第1の実施形態と同様の構成には、同じ符号を附して詳細な説明は省略する。
画像処理装置20の第1補正部23には、撮影した可視光画像(撮影可視光画像)と推定部11で推定された分光反射率比とが入力される。続いて、第1補正部23は、撮影対象の各注目画素における分光反射率比を、撮影可視光画像の情報と注目画素の周辺領域の分光反射率比とを用いて補正した分光反射率比(以後、補正分光反射率比と示す。)を推定する。
推定部11で推定された分光反射率比は、当該画素を中心とした周辺領域において分光反射率が一定である前提のもと、式(7)を用いて推定される。しかし、実際には、撮影対象の模様や撮影対象間境界等で当該前提が成立していない場合が存在する。このような場合には、式(7)によって推定された分光反射率比に誤差が発生し、復元部12による復元処理に失敗する場合がある。そこで、第1補正部23は、可視光画像の情報を利用して同一領域と見なせる注目画素周辺の画素群をそれぞれ抽出し、これらの画素群の分光反射率比をもとにして、注目画素の分光反射率比を補正する。
分光反射率比の補正方法の一つとして、可視光画像の色情報をもとにした合成重みにより分光反射率比の平滑化を実施する方法がある。合成重みの算出方法として、可視光画像の各画素におけるHSV表色系における色相Hを利用する方法がある。画素位置xの注目画素の分光反射率比に対する、周辺画素の画素位置yにおける合成重みw(x、y)は、式(9)で表される色相間の距離d(x、y)を用いて式(10)で算出される。ただし、H(x)、H(y)は、HSV表色系における色相Hであり、σ は、あらかじめ設定されたパラメータである。
Figure 2016114148

Figure 2016114148
第1補正部23は、注目画素を含む所定の周辺画素について、合成重みを算出し、式(11)を用いて、周辺画素における分光反射率比α(y)を合成することで、補正分光反射率比α’(x)を算出する。
Figure 2016114148
なお、第1補正部23は、式(9)の色相間の距離の算出に、L*C*h表色系における色相hを用いてもよい。また、色相間の距離の算出に、yuv表色系におけるuv平面上で原点を中心に注目画素の色位置と周辺画素の色位置がなす角θを用いてもよい。また、式(10)による合成重みの算出は、距離d(x,y)が小さい値ほど大きな値を算出し、大きな値になるほど小さい値を算出する特性のある別の関数を用いてもよい。あるいは、合成重みの算出として、あらかじめ手動で設定された色相間の距離に対する合成重みを保持するテーブルから距離d(x,y)に対応する合成重みを読み出す方法を用いてもよい。
画像処理装置20の復元部12には、撮影近赤外光画像と第1補正部23からの補正分光反射率比とが入力され、復元可視光画像が生成される。復元部12における生成処理において、復元部12への入力は分光反射率比から補正分光反射率比に変わっている。
次に、第2の実施形態による画像処理装置の動作について図面を用いて説明する。図4は、第2の実施形態による画像処理装置の動作を示すフローチャートである。
画像処理装置20の推定部11には、撮影可視光画像と撮影近赤外光画像とが入力される。推定部11は、各画素位置における撮影対象の、可視光波長領域における分光反射率と近赤外光波長領域における分光反射率の比である分光反射率比を推定する(S101)。
画像処理装置20の第1補正部23には、撮影可視光画像と推定部11で推定された分光反射率比とが入力される。第1補正部23は、各注目画素における分光反射率比を、撮影可視光画像の情報と注目画素周辺の分光反射率比とを用いて補正し、補正分光反射率比を算出する(S102)。
画像処理装置20の復元部12には、撮影近赤外光画像と、第1補正部23で補正された補正分光反射率比とが入力され、復元可視光画像が生成される(S103)。
(第2の実施形態の効果)
第2の実施形態の画像処理装置20は、第1の実施形態の画像処理装置10と同様に、撮影対象を撮影した可視光画像から大気中の粒子による影響を除去し、復元画像の品質を向上させることができる。
更に、第2の実施形態の画像処理装置20は、撮影対象の模様、又は、撮影対象間の境界等の存在に起因する可視光画像の復元処理の失敗を低減することができる。その理由は、第1補正部23が、可視光画像の情報を利用して同一領域と見なせる注目画素周辺の画素群をそれぞれ算出し、これらの画素群の分光反射率比をもとにして、注目画素の分光反射率比を補正するからである。
(第3の実施形態)
次に、本発明の第3の実施形態による画像処理装置について、図面を用いて説明する。
図5は、本発明の第3の実施形態による画像処理装置の構成を示すブロック図である。第3の実施形態の画像処理装置30は、推定部11と、復元部12と、第1補正部23と、第2補正部34とを備える。第3の実施形態の画像処理装置30は、第2の実施形態の画像処理装置20と比較して、第2補正部34を備える点で異なる。以下、第3の実施形態について、相違する構成を主に説明し、第2の実施形態と同様の構成には同じ符号を附して説明を省略する。
撮影近赤外光画像が第2補正部34に入力され、第2補正部34は、撮影近赤外光画像の各画素における大気中の粒子の影響による劣化量を推定し、撮影近赤外光画像から劣化を低減させて、補正された近赤外光画像(以後、補正近赤外光画像)を生成する。
第1の実施形態および第2の実施形態では、撮影近赤外光画像における霧の影響による劣化は無視できるものとし、式(2)における近赤外光の大気透過率tir(x)を1.0に設定して処理を実行している。しかし、実際には、無視できない程度の劣化が発生している場合がある。そのため、第2補正部34は、撮影近赤外光画像の各画素における大気透過率tir(x)を推定し、大気中の粒子の影響による劣化を低減させる。
近赤外光の大気透過率tir(x)の推定方法として、好天時では各画素の周辺には0の値を持つ画素が存在するという事前知識を用いる方法がある。画素位置xの注目画素を含む周辺画素の画素位置yの最小画素値pir(x)は、式(12)を用いて算出できる。
Figure 2016114148
算出された最小画素値は、大気中の粒子によって拡散された環境光の影響であると考えると、注目画素における大気透過率tir(x)は、式(13)のように表される。
Figure 2016114148
したがって、画素位置xにおける近赤外領域における反射光Jir(x)は、式(14)を用いて算出できる。なお、Iir(x)は観測された近赤外光を、Airは環境光(近赤外光)表す。
Figure 2016114148
第2補正部34は、式(14)を用いて各画素における反射光Jir(x)を算出し、補正近赤外光画像として出力する。なお、第2補正部34は、式(13)の大気透過率の算出の際に、最小画素値pir(x)に対して、上限値を設けてもよい。あるいは、あらかじめ設定された係数を乗算する等の補正を行ってもよい。また、大気透過率tir(x)は、注目画素周辺の近赤外光画像の輝度、又は、算出された大気透過率の値を用いて補正してもよい。例えば、画素位置xの注目画素に対する周辺画素の画素位置yにおける合成重みwir(x,y)を、式(15)を用いて算出し、式(16)を用いて周辺画素における算出された大気透過率の値を合成することで、注目画素の大気透過率の値を補正することができる。ただし、σir は、あらかじめ設定されたパラメータである。
Figure 2016114148

Figure 2016114148

画像処理装置30の推定部11には、撮影可視光画像と第2補正部34からの補正近赤外光画像とが入力され、分光反射率比が推定される。画像処理装置30の推定部11における推定処理において、推定部11への入力の一部は撮影近赤外光画像から補正近赤外光画像に変わっている。
画像処理装置30の復元部12には、第1補正部23からの補正分光反射率比と第2補正部34からの補正近赤外光画像とが入力され、復元可視光画像が生成される。画像処理装置30の復元部12における生成処理において、復元部12への入力の一部は撮影近赤外光画像から補正近赤外光画像に変わっている。
次に、第3の実施形態による画像処理装置の動作について図面を用いて説明する。図6は、第3の実施形態による画像処理装置の動作を示すフローチャートである。
初めに、撮影した近赤外光画像が、画像処理装置30の第2補正部34に入力される。第2補正部34は、撮影近赤外光画像における大気中の粒子による劣化量を推定し、劣化を低減させて撮影近赤外光画像を補正し、補正近赤外光画像を生成する(S201)。
画像処理装置30の推定部11には、撮影可視光画像と第2補正部34からの補正近赤外光画像とが入力される。推定部11は、各画素位置における撮影対象の、可視光波長領域と近赤外光波長領域における分光反射率比を推定する(S202)。
画像処理装置30の第1補正部23は、撮影可視光画像と推定部11からの分光反射率比とが入力される。第1補正部23は、各注目画素における分光反射率比を、撮影可視光画像の情報と注目画素周辺の分光反射率比とを用いて補正し、補正分光反射率比を算出する(S203)。
画像処理装置30の復元部12に、第2補正部34からの補正近赤外光画像と第1補正部23からの補正分光反射率比とが入力され、復元可視光画像が生成される(S204)。
(第3の実施形態の効果)
第3の実施形態の画像処理装置30は、第2の実施形態の画像処理装置20と同様に、撮影対象を撮影した可視光画像から大気中の粒子による影響を除去し、復元画像の品質を向上させることができる。
更に、第3の実施形態の画像処理装置30は、撮影対象の模様、又は、撮影対象間の境界等の存在に起因する可視光画像の復元処理の失敗を低減することができる。
更に、第3の実施形態の画像処理装置30は、第2の実施形態よりも高品質な復元画像を生成できる。その理由は、第2補正部34は、近赤外光画像の各画素における大気透過率を算出し、近赤外光画像における大気中の粒子による劣化を低減させる補正を実行するからである。
(第3の実施形態の変形例)
次に、第3の実施形態の変形例について、説明する。第3の実施形態による画像処理装置30は、第2補正部34を第2の実施形態の画像処理装置20に設ける例であるが、第2補正部34を第1の実施形態の画像処理装置10に設けてもよい。図7は、第3の実施形態の変形例である画像処理装置31の構成を示すブロック図である。図7に示す画像処理装置31は、推定部11と、復元部12と、第2補正部34を備える。
画像処理装置31の第2補正部34に、撮影近赤外光画像が入力される。第2補正部34は、撮影近赤外光画像における大気中の粒子の影響による劣化量を推定し、劣化を低減するように補正された近赤外光画像(以後、補正近赤外光画像)を生成する。画像処理装置31の第2補正部34における近赤外光画像の補正処理は、第3の実施形態の画像処理装置30の第2補正部34の補正処理と同様である。
画像処理装置31の推定部11に、撮影可視光画像と第2補正部34からの補正近赤外光画像とが入力され、分光反射率比が推定される。画像処理装置31の推定部11における推定処理は、画像処理装置30の推定部11の推定処理と同様である。
画像処理装置31の復元部12に、推定部11からの分光反射率比と第2補正部34で補正された補正近赤外光画像とが入力され、復元可視光画像が生成される。画像処理装置31の復元部12における生成処理において、復元部12への入力の一部は撮影近赤外光画像から補正近赤外光画像に変わっている。
図8は、第3の実施形態の変形例による画像処理装置の動作を示すフローチャートである。
初めに、画像処理装置31の第2補正部34に、撮影した近赤外光画像が入力され、第2補正部34は、撮影近赤外光画像における大気中の粒子による劣化量を算出し、算出された劣化を低減させることで撮影近赤外光画像を補正し、補正近赤外光画像を生成する(S211)。
画像処理装置30の推定部11に、撮影可視光画像と第2補正部34からの補正近赤外光画像とが入力される。推定部11は、各画素位置における撮影対象の、可視光波長領域と近赤外光波長領域における分光反射率比を推定する(S212)。
画像処理装置30の復元部12に、第2補正部34からの補正近赤外光画像と推定部11からの分光反射率比とが入力され、復元可視光画像が生成される(S214)。
(第3の実施形態の変形例の効果)
第3の実施形態の変形例である画像処理装置31は、第1の実施形態の画像処理装置10と同様に、撮影対象を撮影した可視光画像から大気中の粒子の影響を除去して、復元画像の品質を向上させることができる。
更に、画像処理装置31は、近赤外光画像における大気中の粒子の影響を除去し、復元可視光画像の第1の実施形態よりも高品質な復元画像を生成できる。その理由は、第2補正部34は、近赤外光画像の各画素における大気透過率を推定し、大気中の粒子の影響による劣化を低減させる補正を実行するからである。
(第4の実施形態)
次に、本発明の第4の実施形態による画像処理装置について、図面を用いて説明する。
図9は、本発明の第4の実施形態による画像処理装置の構成を示すブロック図である。第4の実施形態の画像処理装置40は、推定部11と、復元部12と、第1補正部23と、第3補正部44と、を備える。第4の実施形態の画像処理装置40は、第3の実施形態の画像処理装置30と比較して、第2補正部34が、第3補正部44となっている点で異なる。第3補正部44は、撮影対象を撮影した近赤外光画像における大気中の粒子の影響を除去するために、撮影可視光画像を利用する点で、第2補正部34と異なる。以下、第4の実施形態について、相違する構成を主に説明し、第3の実施形態と同様の構成には同じ符号を附して説明を省略する。
第3補正部44に、撮影可視光画像と撮影近赤外光画像とが入力される。第3補正部44は、撮影近赤外光画像における大気中の粒子の影響による劣化量を推定し、撮影近赤外光画像における劣化を低減させた補正近赤外光画像を生成する。第3補正部44は、追加入力として撮影可視光画像の情報を用いることにより、近赤外光の大気透過率tir(x)の推定精度を向上させる。撮影可視光画像の情報を用いる方法として、可視光の大気透過率推定を利用する方法がある。一般に、近赤外光の大気透過率は、可視光の大気透過率と比較して高いことが知られている。そのため、近赤外光の推定大気透過率が可視光の推定大気透過率よりも小さな値を持つ場合には、何らかの推定誤差が発生していることが予測される。そこで、第3補正部44は、可視光において、好天時では各画素の周辺にはいずれかのカラーチャネルで0の値を持つ画素が存在するという事前知識を用いる。第3補正部44は、可視光の大気透過率を推定し、式(12)および式(13)で算出された近赤外光の大気透過率を修正することにより、式(14)による近赤外光の補正性能を向上させる。
可視光の大気透過率t(x)の推定方法の一例として、式(18)のように、周辺画素の輝度の最小値を利用する方法がある。式(18)は、ある周辺画素yにおける各カラーチャネルの輝度のうち環境光の中の割合が最も小さい値を求め、さらに各周辺画素yのうち最も小さい値を求めて可視光の大気透過率を推定する方法である。
Figure 2016114148
近赤外光の大気透過率の修正は、式(12)および式(13)で算出された近赤外光の大気透過率tir(x)と可視光の大気透過率t(x)のうち小さくない方を、式(19)を用いて求めることで実行される。
Figure 2016114148
なお、第3補正部44は、算出された可視光の大気透過率t(x)を予め下限値を設定しておき、設定された下限値より小さくならないよう補正してもよい。また、算出された可視光の大気透過率t(x)に対して、予め設定された係数を乗算する、あるいは、設定された指数値を用いてべき乗処理することで補正してもよい。
第4の実施形態の画像処理装置40は、第3の実施形態の画像処理装置30の第2補正部34が第3補正部44に置き換わっている。このため、画像処理装置40の推定部11には、撮影可視光画像と第3補正部44からの補正近赤外光画像とが入力され、分光反射率比が推定される。画像処理装置40の推定部11における推定処理において、推定部11への入力の一部は撮影可視光画像の情報が考慮された補正近赤外光画像に変わっている。
また、画像処理装置40の復元部12に、第1補正部23からの補正分光反射率比と第3補正部44からの補正近赤外光画像とが入力され、復元可視光画像が生成される。画像処理装置40の復元部12における生成処理において、第3の実施形態による画像処理装置30の復元部12への入力の一部は撮影可視光画像の情報が考慮された補正近赤外光画像に変わっている。
次に、第4の実施形態による画像処理装置の動作について図面を用いて説明する。図10は、第4の実施形態による画像処理装置の動作を示すフローチャートである。
画像処理装置40の第3補正部44に、撮影可視光画像と撮影近赤外光画像が入力される。第3補正部44は、撮影近赤外光画像における大気中の粒子の影響による劣化量を算出し、撮影近赤外光画像の劣化を低減させる補正をし、補正近赤外光画像を生成する(S301)。
画像処理装置40の推定部11に、撮影可視光画像と補正近赤外光画像とが入力され、推定部11は、各画素位置における撮影対象の、可視光波長領域と近赤外光波長領域における分光反射率比を推定する(S302)。
画像処理装置40の第1補正部23に、撮影可視光画像と推定部11からの分光反射率比とが入力される。第1補正部23は、各注目画素における分光反射率比を、撮影可視光画像の情報と注目画素周辺の分光反射率比とを用いて補正し、補正分光反射率比を算出する(S303)。
画像処理装置40の復元部12に、第3補正部44からの補正近赤外光画像と第1補正部23からの補正分光反射率比が入力され、復元可視光画像が生成される(S304)。
(第4の実施形態の効果)
第4の実施形態の画像処理装置40は、第1の実施形態の画像処理装置10と同様に、撮影対象を撮影した可視光画像から大気中の粒子による影響を除去し、高品質な復元画像を生成できる。
更に、画像処理装置40は、撮影対象の模様、又は、撮影対象間の境界等の存在に起因する可視光画像の復元処理の失敗を低減することができる。
更に、画像処理装置40は、近赤外光画像から大気中の粒子による影響を除去し、復元可視光画像の第3の実施形態よりも高品質な復元画像を生成できる。
その理由は、第3補正部44は、近赤外光画像の各画素における大気透過率を推定し、大気中の粒子の影響による劣化を低減させる補正を実行する。その際に、撮影可視光画像の情報を用いることにより、近赤外光の大気透過率の推定精度を向上できるからである。
(第4の実施形態の変形例)
次に、第4の実施形態の変形例について説明する。第4実施形態による画像処理装置41は、第2の実施形態の画像処理装置20に第3補正部44を設ける例である。
図11は、第4の実施形態の変形例である画像処理装置41の構成を示すブロック図である。図11に示す画像処理装置41は、推定部11と、復元部12と、第3補正部44を備える。
画像処理装置41の第3補正部44に、撮影近赤外光画像が入力される。第3補正部44は、撮影近赤外光画像における大気中の粒子の影響による劣化量を推定し、撮影近赤外光画像の劣化を低減する補正をし、補正近赤外光画像を生成する。画像処理装置41の第3補正部44における近赤外光画像の補正処理は、第4の実施形態の画像処理装置40の第3補正部44の補正処理と同様である。
画像処理装置41の推定部11に、撮影可視光画像と第3補正部44からの補正近赤外光画像とが入力され、分光反射率比が推定される。画像処理装置41の推定部11における推定処理は、画像処理装置31の推定部11の推定処理と同様である。
画像処理装置41の復元部12に、推定部11からの分光反射率比と第3補正部44からの補正近赤外光画像とが入力され、復元可視光画像が生成される。画像処理装置41の復元部12における生成処理は、復元部12への入力の一部が撮影近赤外光画像から補正近赤外光画像に変わっている。
図12は、第4の実施形態の変形例による画像処理装置の動作を示すフローチャートである。
初めに、画像処理装置41の第3補正部44に、撮影近赤外光画像が入力される。第3補正部44は、撮影近赤外光画像における大気中の粒子による劣化量を推定し、撮影近赤外光画像の劣化を低減する補正をし、補正近赤外光画像を生成する(S301)。
画像処理装置41の推定部11に、撮影可視光画像と第3補正部44からの補正近赤外光画像とが入力される。推定部11は、各画素位置における撮影対象の、可視光波長領域と近赤外光波長領域における分光反射率比を推定する(S302)。
画像処理装置41の復元部12に、第3補正部44からの補正近赤外光画像と推定部11からの分光反射率比とが入力され、復元可視光画像が生成される(S314)。
なお、第4の実施形態の変形例として、第2の実施形態の画像処理装置20に第3補正部44を設ける例を説明したが、これに限られない。例えば、第3の実施形態の変形例である画像処理装置31の第2補正部34を第3補正部44に置き換えてもよい。
(第4の実施形態の変形例の効果)
第4の実施形態の変形例である画像処理装置41は、第1の実施形態の画像処理装置10と同様に、撮影可視光画像から大気中の粒子の影響を除去して、高品質な復元画像を生成できる。
更に、画像処理装置41は、撮影近赤外光画像における大気中の粒子の影響を除去し、復元可視光画像の第3の実施形態の変形例である画像処理装置31よりも高品質な復元画像を生成できる。その理由は、第3補正部44は、撮影近赤外光画像の各画素における大気透過率を推定し、大気中の粒子の影響による劣化を低減させる補正を実行する。その際に、その際に、撮影可視光画像の情報を用いることにより、近赤外光の大気透過率の推定精度を向上できるからである。
上記の第1〜第4の実施形態に記載の画像処理装置は、各処理部をハードウエアである集積回路で構成することができる。また、各処理部の機能を画像処理プログラム等のソフトウエアで構成し、コンピュータ装置により画像処理装置の各処理を実行させることも可能である。
(ハードウエア構成図)
図14は、本発明の第1〜4の実施の形態における画像処理装置をコンピュータ装置で実現したハードウエア構成を示す図である。図14に示されるように、画像処理装置は、CPU(Central Processing Unit)91、ネットワーク接続用の通信I/F(通信インターフェース)92、メモリ93、及び、プログラムを格納するハードディスク等の記憶装置94を含む。
CPU91は、オペレーティングシステムを動作させて本発明の第1〜4の実施の形態に係る画像処理装置を制御する。またCPU91は、例えば、ドライブ装置に装着された記録媒体からメモリ93にプログラムやデータを読み出す。
また、CPU91は、例えば、第1の実施の形態における画像処理装置10の推定部11、復元部12の少なくとも一部として機能し、プログラムに基づいて各種の処理を実行する。
記憶装置94は、例えば、光ディスク、フレキシブルディスク、磁気光ディスク、外付けハードディスク、又は半導体メモリ等である。記憶装置の一部の記憶媒体は、不揮発性記憶装置であり、そこにプログラムを記憶する。また、プログラムは、通信網に接続されている。図示しない外部コンピュータからダウンロードされてもよい。
CPU91は、システムバス97を介して入力装置95及び、出力装置96に接続されている。入力装置95は、例えば、マウス、キーボード、キーボタン、又は、タッチパネルなどで実現され、入力操作に用いられる。出力装置96は、例えば、ディスプレイで実現され出力を確認するために用いられる。
以上のように、本発明の各実施の形態は、図14に示されるハードウエア構成によって実現される。但し、画像処理装置が備える各部の実現手段は、特に限定されない。すなわち、画像処理装置は、物理的に結合した一つの装置により実現されてもよいし、物理的に分離した二つ以上の装置を有線又は無線で接続し、これら複数の装置により実現してもよい。
以上、実施形態(及び実施例)を参照して本願発明を説明したが、本願発明は上記実施形態(及び実施例)に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。また、第1から第4の実施形態では、霧中の例を用いて説明したが、靄又は煙霧中でも適用することができる。
この出願は、2015年1月16日に出願された日本出願特願2015−007204を基礎とする優先権を主張し、その開示の全てをここに取り込む。
上記の実施形態の一部又は全部は、以下の付記のように記載されうるが、以下には限られない。
(付記1)
撮影対象を撮影した、可視光画像と近赤外光画像の各画素位置における、可視光波長領域の分光反射率と近赤外光波長領域の分光反射率との比を表す分光反射率比を推定する推定部と、
前記各画素位置で、推定された前記分光反射率比と前記近赤外光画像の輝度を乗算し、復元可視光画像を生成する復元部と、を備える画像処理装置。
(付記2)
前記可視光画像と前記推定された分光反射率比とが入力され、撮影対象の各注目画素における分光反射率比を、前記可視光画像の情報と前記注目画素の周辺領域の分光反射率比とを用いて補正した補正分光反射率比を算出する第1補正部を更に備え、
前記復元部は、前記補正分光反射率比と、前記近赤外光画像の輝度を乗算し、前記復元可視光画像を生成する、
付記1記載の画像処理装置。
(付記3)
前記第1補正部は、前記可視光画像の情報を用いて同一領域と見なせる前記注目画素の周辺領域の画素群をそれぞれ抽出し、前記抽出した画素群の分光反射率比に基づき、前記注目画素の分光反射率比を補正する、
付記2記載の画像処理装置。
(付記4)
前記第1補正部は、
前記可視光画像の色情報を用いて合成重みにより分光反射率比を平滑化する、
付記3に記載の画像処理装置。
(付記5)
前記合成重みは、前記可視光画像の各画素におけるHSV表色系の色相Hを用いる、
付記4に記載の画像処理装置。
(付記6)
前記第1補正部は、前記注目画素を含む所定の周辺領域の画素について、前記合成重みを算出し、前記周辺領域の画素における分光反射率比を合成して前記補正分光反射率比を算出する、
付記2から付記5のいずれか1つに記載の画像処理装置。
(付記7)
前記近赤外光画像の各画素における大気透過率を推定し、前記推定した劣化量を用いて前記近赤外光画像を補正する第2補正部を更に備え、
前記復元部は、推定された前記分光反射率比と前記第2補正部で補正された補正近赤外光画像の輝度を乗算して復元可視光画像を生成する、
付記1から付記6のいずれか1つに記載の画像処理装置。
(付記8)
前記第2補正部は、前記近赤外光画像における前記各注目画素の画素値を、前記注目画素の周辺領域の前記近赤外光画像の画素値を用いて補正する、
付記7に記載の画像処理装置。
(付記9)
前記近赤外光画像を、前記可視光画像を用いて補正する第3補正部を更に備え、
前記復元部は、推定された前記分光反射率比と前記第3補正部で補正された補正近赤外光画像の輝度を乗算して復元可視光画像を生成する、
付記1から付記6のいずれか1つに記載の画像処理装置。
(付記10)
前記近赤外画像と前記可視光画像における所定の画素における、近赤外光の大気透過率が、可視光の大気透過率よりも小さな値を持つ場合、大気透過率の推定誤差があると予測する、
付記9に記載の画像処理装置。
(付記11)
撮影対象を撮影した、可視光画像と近赤外光画像の各画素位置における、可視光波長領域の分光反射率と近赤外光波長領域の分光反射率との比を表す分光反射率比を推定し、
前記各画素位置で、推定された前記分光反射率比と前記近赤外光画像の輝度を乗算し、復元可視光画像を生成する、画像処理方法。
(付記12)
コンピュータに、
撮影対象を撮影した、可視光画像と近赤外光画像の各画素位置における、可視光波長領域の分光反射率と近赤外光波長領域の分光反射率との比を表す分光反射率比を推定し、
前記各画素位置で、推定された前記分光反射率比と前記近赤外光画像の輝度を乗算し、復元可視光画像を生成する、
ことを実行させるプログラム。
10 画像処理装置
11 推定部
12 復元部
20 画像処理装置
23 第1補正部
30 画像処理装置
31 画像処理装置
34 第2補正部
40 画像処理装置
41 画像処理装置
44 第3補正部
91 CPU
92 通信I/F(通信インターフェース)
93 メモリ
94 記憶装置
95 入力装置
96 出力装置
97 システムバス
本発明の一態様であるプログラムは、コンピュータに、撮影対象を撮影した、可視光画像と近赤外光画像の各画素位置における、可視光波長領域の分光反射率と近赤外光波長領域の分光反射率との比を表す分光反射率比を推定し、前記各画素位置で、推定された前記分光反射率比と前記近赤外光画像の輝度を乗算し、復元可視光画像を生成する、ことを実行させる。
撮影近赤外光画像が第2補正部34に入力され、第2補正部34は、撮影近赤外光画像の各画素における大気中の粒子の影響による大気透過率を推定し、撮影近赤外光画像から劣化を低減させて、補正された近赤外光画像(以後、補正近赤外光画像)を生成する。
画像処理装置31の第2補正部34に、撮影近赤外光画像が入力される。第2補正部34は、撮影近赤外光画像における大気中の粒子の影響による大気透過率を推定し、劣化を低減するように補正された近赤外光画像(以後、補正近赤外光画像)を生成する。画像処理装置31の第2補正部34における近赤外光画像の補正処理は、第3の実施形態の画像処理装置30の第2補正部34の補正処理と同様である。
初めに、画像処理装置31の第2補正部34に、撮影した近赤外光画像が入力され、第2補正部34は、撮影近赤外光画像における大気中の粒子による大気透過率を算出し、劣化を低減させることで撮影近赤外光画像を補正し、補正近赤外光画像を生成する(S211)。
第3補正部44に、撮影可視光画像と撮影近赤外光画像とが入力される。第3補正部44は、撮影近赤外光画像における大気中の粒子の影響による大気透過率を推定し、撮影近赤外光画像における劣化を低減させた補正近赤外光画像を生成する。第3補正部44は、追加入力として撮影可視光画像の情報を用いることにより、近赤外光の大気透過率tir(x)の推定精度を向上させる。撮影可視光画像の情報を用いる方法として、可視光の大気透過率推定を利用する方法がある。一般に、近赤外光の大気透過率は、可視光の大気透過率と比較して高いことが知られている。そのため、近赤外光の推定大気透過率が可視光の推定大気透過率よりも小さな値を持つ場合には、何らかの推定誤差が発生していることが予測される。そこで、第3補正部44は、可視光において、好天時では各画素の周辺にはいずれかのカラーチャネルで0の値を持つ画素が存在するという事前知識を用いる。第3補正部44は、可視光の大気透過率を推定し、式(12)および式(13)で算出された近赤外光の大気透過率を修正することにより、式(14)による近赤外光の補正性能を向上させる。
画像処理装置40の第3補正部44に、撮影可視光画像と撮影近赤外光画像が入力される。第3補正部44は、撮影近赤外光画像における大気中の粒子の影響による大気透過率を算出し、撮影近赤外光画像の劣化を低減させる補正をし、補正近赤外光画像を生成する(S301)。
画像処理装置41の第3補正部44に、撮影近赤外光画像が入力される。第3補正部44は、撮影近赤外光画像における大気中の粒子の影響による大気透過率を推定し、撮影近赤外光画像の劣化を低減する補正をし、補正近赤外光画像を生成する。画像処理装置41の第3補正部44における近赤外光画像の補正処理は、第4の実施形態の画像処理装置40の第3補正部44の補正処理と同様である。
初めに、画像処理装置41の第3補正部44に、撮影近赤外光画像が入力される。第3補正部44は、撮影近赤外光画像における大気中の粒子による大気透過率を推定し、撮影近赤外光画像の劣化を低減する補正をし、補正近赤外光画像を生成する(S301)。
(付記10)
前記近赤外画像と前記可視光画像における所定の画素における、近赤外光の大気透過率が、可視光の大気透過率よりも小さな値を持つ場合、大気透過率の推定誤差があると予測する、
付記9に記載の画像処理装置。

Claims (10)

  1. 撮影対象を撮影した、可視光画像と近赤外光画像の各画素位置における、可視光波長領域の分光反射率と近赤外光波長領域の分光反射率との比を表す分光反射率比を推定する推定手段と、
    前記各画素位置で、推定された前記分光反射率比と前記近赤外光画像の輝度を乗算し、復元可視光画像を生成する復元手段と、
    を備える、画像処理装置。
  2. 前記可視光画像と前記推定された分光反射率比とが入力され、撮影対象の各注目画素における分光反射率比を、前記可視光画像の情報と前記注目画素の周辺領域の分光反射率比とを用いて補正した補正分光反射率比を算出する第1補正手段を更に備え、
    前記復元手段は、前記補正分光反射率比と、前記近赤外光画像の輝度を乗算し、前記復元可視光画像を生成する、
    請求項1記載の画像処理装置。
  3. 前記第1補正手段は、前記可視光画像の情報を用いて同一領域と見なせる前記注目画素の周辺領域の画素群をそれぞれ抽出し、前記抽出した画素群の分光反射率比に基づき、前記注目画素の分光反射率比を補正する、
    請求項2記載の画像処理装置。
  4. 前記第1補正手段は、前記注目画素を含む所定の周辺領域の画素について、合成重みを算出し、前記周辺領域の画素における分光反射率比を合成して前記補正分光反射率比を算出する、
    請求項2又は請求項3に記載の画像処理装置。
  5. 前記近赤外光画像の各画素における大気透過率を推定し、前記推定した劣化量を用いて前記近赤外光画像を補正する第2補正手段を更にを備え、
    前記復元手段は、推定された前記分光反射率比と前記第2補正手段で補正された補正近赤外光画像の輝度を乗算して前記復元可視光画像を生成する、
    請求項1から請求項4のいずれか1つに記載の画像処理装置。
  6. 前記第2補正手段は、前記近赤外光画像における前記各注目画素の画素値を、前記注目画素の周辺領域の前記近赤外光画像の画素値を用いて補正する、
    請求項5に記載の画像処理装置。
  7. 前記近赤外光画像を、前記可視光画像を用いて補正する第3補正手段を備え、
    前記復元手段は、推定された前記分光反射率比と前記第3補正手段で補正された補正近赤外光画像の輝度を乗算して前記復元可視光画像を生成する、
    請求項1から請求項4のいずれか1つに記載の画像処理装置。
  8. 前記近赤外画像と前記可視光画像における所定の画素における、近赤外光の大気透過率が、可視光の大気透過率よりも小さな値を持つ場合、大気透過率の推定誤差があると予測する、
    請求項7に記載の画像処理装置。
  9. 撮影対象を撮影した、可視光画像と近赤外光画像の各画素位置における、可視光波長領域の分光反射率と近赤外光波長領域の分光反射率との比を表す分光反射率比を推定し、
    前記各画素位置で、推定された前記分光反射率比と前記近赤外光画像の輝度を乗算し、復元可視光画像を生成する、
    画像処理方法。
  10. コンピュータに、
    撮影対象を撮影した、可視光画像と近赤外光画像の各画素位置における、可視光波長領域の分光反射率と近赤外光波長領域の分光反射率との比を表す分光反射率比を推定し、
    前記各画素位置で、推定された前記分光反射率比と前記近赤外光画像の輝度を乗算し、復元可視光画像を生成する、
    ことを実行させるプログラムを格納する記録媒体。
JP2016569295A 2015-01-16 2016-01-15 画像処理装置、画像処理方法およびプログラム Active JP6677172B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015007204 2015-01-16
JP2015007204 2015-01-16
PCT/JP2016/000210 WO2016114148A1 (ja) 2015-01-16 2016-01-15 画像処理装置、画像処理方法、及び記録媒体

Publications (2)

Publication Number Publication Date
JPWO2016114148A1 true JPWO2016114148A1 (ja) 2017-10-26
JP6677172B2 JP6677172B2 (ja) 2020-04-08

Family

ID=56405696

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016569295A Active JP6677172B2 (ja) 2015-01-16 2016-01-15 画像処理装置、画像処理方法およびプログラム

Country Status (3)

Country Link
US (1) US10354366B2 (ja)
JP (1) JP6677172B2 (ja)
WO (1) WO2016114148A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170099476A1 (en) * 2015-10-01 2017-04-06 Samsung Electronics Co., Ltd. Photographing device and method of controlling the same
CN107438170B (zh) * 2016-05-25 2020-01-17 杭州海康威视数字技术股份有限公司 一种图像透雾方法及实现图像透雾的图像采集设备
JP7234514B2 (ja) * 2018-06-13 2023-03-08 Agc株式会社 光学積層体
CN110660026B (zh) * 2019-08-08 2023-04-18 西安电子科技大学 一种基于Retinex理论和高饱和度先验的图像去雾方法
WO2022168517A1 (ja) * 2021-02-03 2022-08-11 ソニーグループ株式会社 画像処理装置及び画像処理方法
CN112927150B (zh) * 2021-02-20 2023-04-07 河北先河环保科技股份有限公司 高光谱图像的水体倒影区域光谱恢复方法及终端设备

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012182626A (ja) * 2011-03-01 2012-09-20 Nec Corp 撮像装置
JP2014089075A (ja) * 2012-10-29 2014-05-15 Ricoh Co Ltd 分光反射率測定システム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2691579A1 (fr) 1992-05-21 1993-11-26 Commissariat Energie Atomique Système de conversion d'une image infrarouge en image visible ou proche infrarouge.
JP3416352B2 (ja) 1995-10-05 2003-06-16 キヤノン株式会社 画像処理装置及びその方法
JP5182518B2 (ja) 2009-01-29 2013-04-17 株式会社Jvcケンウッド 撮像装置および撮像方法
JP5643571B2 (ja) 2010-08-18 2014-12-17 キヤノン株式会社 蛍光推定装置および蛍光推定方法、および蛍光測定装置
JP2013255144A (ja) 2012-06-08 2013-12-19 Hitachi Consumer Electronics Co Ltd 撮像装置
US9900485B2 (en) * 2014-01-08 2018-02-20 Mitsubishi Electric Corporation Image generation device

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012182626A (ja) * 2011-03-01 2012-09-20 Nec Corp 撮像装置
JP2014089075A (ja) * 2012-10-29 2014-05-15 Ricoh Co Ltd 分光反射率測定システム

Also Published As

Publication number Publication date
US20170352133A1 (en) 2017-12-07
WO2016114148A1 (ja) 2016-07-21
JP6677172B2 (ja) 2020-04-08
US10354366B2 (en) 2019-07-16

Similar Documents

Publication Publication Date Title
WO2016114148A1 (ja) 画像処理装置、画像処理方法、及び記録媒体
RU2658874C1 (ru) Устройство удаления тумана и способ формирования изображений
US9489728B2 (en) Image processing method and image processing apparatus for obtaining an image with a higher signal to noise ratio with reduced specular reflection
JP6635799B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6320115B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP6818463B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6293374B2 (ja) 画像処理装置、画像処理方法、プログラム、これを記録した記録媒体、映像撮影装置、及び映像記録再生装置
JP6390847B2 (ja) 画像処理装置、画像処理方法及びプログラム
US20130251288A1 (en) Apparatus and method for processing image, and apparatus for displaying image
JP6128987B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP7328096B2 (ja) 画像処理装置、画像処理方法、およびプログラム
TW201435806A (zh) 影像還原方法
JP6436158B2 (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
US10565687B2 (en) Image processing apparatus, imaging apparatus, image processing method, image processing program, and recording medium
JP2008092565A (ja) カラーマッチング方法及び撮像装置
US10097736B2 (en) Image processing device and image processing method
US9270883B2 (en) Image processing apparatus, image pickup apparatus, image pickup system, image processing method, and non-transitory computer-readable storage medium
JP2018160024A (ja) 画像処理装置、画像処理方法及びプログラム
JP7365206B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP5178933B1 (ja) 画像処理装置
JP2012156968A (ja) 画像処理装置、画像処理方法、及びプログラム
JP6324192B2 (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
JP6292947B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2012212229A (ja) 画像処理装置および画像処理方法
JP2009201027A (ja) 画像処理方法、画像処理装置及び画像処理プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170622

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200121

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200225

R150 Certificate of patent or registration of utility model

Ref document number: 6677172

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150