JPWO2018193517A1 - 画像処理装置 - Google Patents
画像処理装置 Download PDFInfo
- Publication number
- JPWO2018193517A1 JPWO2018193517A1 JP2019512336A JP2019512336A JPWO2018193517A1 JP WO2018193517 A1 JPWO2018193517 A1 JP WO2018193517A1 JP 2019512336 A JP2019512336 A JP 2019512336A JP 2019512336 A JP2019512336 A JP 2019512336A JP WO2018193517 A1 JPWO2018193517 A1 JP WO2018193517A1
- Authority
- JP
- Japan
- Prior art keywords
- image
- correction value
- unit
- calculation unit
- correction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/40—Picture signal circuits
- H04N1/407—Control or modification of tonal gradation or of extreme levels, e.g. background level
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
Abstract
Description
コントラストの低下は、画像の視認性の低下を招くため、靄又は霧などの影響で低下しているコントラストを補正する画像処理装置が開発されている。
このとき、海の反射率と海岸の反射率とは大きな差異があるため、大気中に含まれる靄又は霧などの影響を受けていない場合でも、任意の画素の信号レベルと、当該画素の周囲の領域に存在している画素の信号レベルとの差が大きくなることがある。
このような場合に、コントラストが低下しているとみなして、当該画素の信号レベルを高めてしまうと、却って、画像の視認性が低下する。
このため、センサから取得した画像が海岸線を撮影した画像である場合のほか、山間部と市街地の境界等のように、反射率が大きく異なる複数の領域を含んでいる画像である場合、靄又は霧などの影響を受けて低下しているコントラストを補正して、画像の視認性を高めることが困難であるという課題があった。
図1は、この発明の実施の形態1による画像処理装置を示す構成図であり、図2は、この発明の実施の形態1による画像処理装置を示すハードウェア構成図である。
図1及び図2において、画像分割部1は、例えば図2に示す画像分割回路21で実現される。
画像分割部1は、マルチスペクトルセンサから複数の波長帯の画像を含んでいるマルチスペクトル画像を取得し、マルチスペクトル画像を複数の小領域(領域)に分割する処理を実施する。
パラメータ記憶部2は、例えば図2に示すパラメータ記憶回路22で実現される。
パラメータ記憶部2は、各々の波長帯の散乱特性を示す散乱特性データ、小領域の大気透過率を示す関数である散乱透過特性データ及びセンサの観測可能な波長帯を示す波長特性データを記憶している。
散乱輝度算出部3は、パラメータ記憶部2により記憶されている散乱特性データを用いて、マルチスペクトル画像が含んでいる複数の画像の波長帯毎に、画像分割部1により分割された各々の小領域における大気散乱を示す大気散乱放射輝度をそれぞれ算出する処理を実施する。
散乱輝度算出部3の散乱輝度算出処理部5は、パラメータ記憶部2により記憶されている散乱特性データ及び暗部輝度算出部4により算出された暗部領域の分光放射輝度を用いて、マルチスペクトル画像が含んでいる複数の画像の波長帯毎に、画像分割部1により分割された各々の小領域における大気散乱放射輝度をそれぞれ算出する処理を実施する。
大気透過率算出部6は、パラメータ記憶部2により記憶されている散乱透過特性データを用いて、散乱輝度算出処理部5により波長帯毎に算出された各々の小領域における大気散乱放射輝度から、波長帯毎に、画像分割部1により分割された各々の小領域における大気散乱の大気透過率をそれぞれ算出する処理を実施する。
補正値算出部7は、散乱輝度算出処理部5により波長帯毎に算出された各々の小領域における大気散乱放射輝度から、複数の波長帯を含む単一波長帯の画像であるパンクロマチック画像における分光放射輝度の補正値を算出する処理を実施する。
また、補正値算出部7は、大気透過率算出部6により波長帯毎に算出された各々の小領域における大気散乱の大気透過率から、パンクロマチック画像における分光放射輝度の補正値を算出する処理を実施する。
パンクロマチック画像は、マルチスペクトル画像が含んでいる複数の画像の波長帯を含む単一波長帯の画像である。
補正値算出部7の透過率補正値算出部9は、パラメータ記憶部2により記憶されている波長特性データを用いて、大気透過率算出部6により波長帯毎に算出された各々の小領域における大気散乱の大気透過率から、各々の小領域における分光放射輝度の第2の補正値をそれぞれ算出する処理を実施する。
また、画像再結合部10は、透過率補正値算出部9により算出された各々の小領域における分光放射輝度の第2の補正値を結合して、第2の補正値の2次元配列Bを生成する処理を実施する。
2次元配列A,Bにおける各々の要素は、画像分割部1により分割された各々の小領域に対応している。2次元配列Aにおける各々の要素は、画像分割部1により分割された各々の小領域における分光放射輝度の第1の補正値を有しており、2次元配列Bにおける各々の要素は、画像分割部1により分割された各々の小領域における分光放射輝度の第2の補正値を有している。
補正値算出部7の補正値補間部11は、画像再結合部10により生成された2次元配列A,Bの分解能が、パンクロマチック画像の分解能と一致するように、画像再結合部10により生成された2次元配列A,Bを補間する処理を実施する。
補正部12の放射輝度補正部13は、パンクロマチックセンサからパンクロマチック画像を取得する処理を実施する。
放射輝度補正部13は、補正値補間部11により補間された2次元配列Aにおける各々の要素が有する第1の補正値を用いて、パンクロマチック画像における分光放射輝度を補正する処理を実施する。
透過率補正部14は、補正値補間部11により補間された2次元配列Bにおける各々の要素が有する第2の補正値を用いて、パンクロマチック画像における分光放射輝度を補正する処理を実施する。
また、画像分割回路21、散乱輝度算出回路23、透過率算出回路24、補正値算出回路25及び補正回路26は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field−Programmable Gate Array)、または、これらを組み合わせたものが該当する。
ソフトウェア又はファームウェアはプログラムとして、コンピュータのメモリに格納される。コンピュータは、プログラムを実行するハードウェアを意味し、例えば、CPU(Central Processing Unit)、中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、プロセッサ、DSP(Digital Signal Processor)などが該当する。
画像処理装置がソフトウェア又はファームウェアなどで実現される場合、パラメータ記憶部2をコンピュータのメモリ31上に構成するとともに、画像分割部1、散乱輝度算出部3、大気透過率算出部6、補正値算出部7及び補正部12の処理手順をコンピュータに実行させるためのプログラムをメモリ31に格納し、コンピュータのプロセッサ32がメモリ31に格納されているプログラムを実行するようにすればよい。
図4は、画像処理装置がソフトウェア又はファームウェアなどで実現される場合の処理手順を示すフローチャートである。
この実施の形態1では、画像分割部1が、マルチスペクトルセンサから複数の波長帯の画像を含んでいるマルチスペクトル画像を取得し、放射輝度補正部13が、パンクロマチックセンサからパンクロマチック画像を取得する。
このとき、マルチスペクトル画像が含んでいる複数の画像の波長帯のそれぞれは、帯域が狭く、パンクロマチック画像の波長帯は、マルチスペクトル画像が含んでいる複数の画像の波長帯を含んでいるものとする。
以下、マルチスペクトル画像が含んでいる複数の画像の波長帯をバンドbと称し、この実施の形態1では、説明の便宜上、マルチスペクトル画像が、バンドb1の画像、バンドb2の画像、バンドb3の画像及びバンドb4の画像を含んでいるものとする。
図5は、画像分割部1により分割されたマルチスペクトル画像を示す説明図である。
図5は、N=16の例を示しており、マルチスペクトル画像が16個に分割されている。i=1,2,3,4、j=1,2,3,4である。
ただし、マルチスペクトル画像の分割数Nは、任意に設定できるものとし、例えば、マルチスペクトル画像に含まれている被写体の大きさなどから決定される。
マルチスペクトル画像の中に、様々な大きさの被写体が含まれている場合には、マルチスペクトル画像に含まれている複数の被写体の中で、最も大きな被写体の大きさなどからマルチスペクトル画像の分割数Nを設定するようにして、被写体が含まれていない小領域S(i,j)の数を減らすようにしてもよい。
図6は、画像分割部1により分割されたマルチスペクトル画像を示す説明図である。
図6では、図5と同様に、N=16の例を示しているが、N<16であって、濃度の極大値又は極小値を含む領域毎に分割された小領域S(i,j)が、図5のように分割された小領域S(i,j)よりも大きな領域であれば、図5のようにマルチスペクトル画像を分割する場合よりも、暗部輝度算出部4における暗部領域の分光放射輝度の算出数を低減することができる。
また、マルチスペクトル画像において、濃度の変化率が変化する箇所を把握できるように、マルチスペクトル画像が描画されている場合、小領域S(i,j)が、濃度の変化率が変化する箇所を含むようにマルチスペクトル画像を分割するようにしてもよい。
図7は、暗部輝度算出部4により算出されたバンドbにおける小領域S(i,j)のヒストグラムを示す説明図である。
暗部輝度算出部4は、マルチスペクトル画像が含んでいる複数の画像のバンドb毎に、画像分割部1により分割された各々の小領域S(i,j)の中で相対的に分光放射輝度が小さい暗部領域の分光放射輝度LD(b,i,j)をそれぞれ算出する(図4のステップST4)。
図7では、小領域S(i,j)のヒストグラムの中で、分光放射輝度の最小値を、暗部領域の分光放射輝度LD(b,i,j)としている例を示している。
また、暗部輝度算出部4は、マルチスペクトル画像を構成している複数の画素の中に、画素値が常にゼロ付近の値になる欠陥画素が含まれている場合、マルチスペクトル画像を構成している複数の画素から、欠陥画素を除いて、小領域S(i,j)のヒストグラムを算出するようにしてもよい。
パラメータ記憶部2により記憶されている散乱特性データα(b)は、バンドbの散乱特性を示すデータであり、バンド固有の値である。
散乱特性データα(b)は、例えば、MODTRAN(MODerate resolution atmospheric TRANsmission)などの光波大気伝搬計算シミュレータを用いて、各々の波長における大気散乱の放射輝度比から算出することができる。
Lscat(b,i,j)=α(b)×Lscat0(i,j) (1)
大気散乱放射輝度Lscat(b,i,j)は、バンドbの大気散乱を示す分光放射輝度である。
小領域S(i,j)の固有値Lscat0(i,j)は、波長依存性が無く、撮影環境に依存する小領域S(i,j)の固有値である。
図8は、散乱輝度算出処理部5によりモデル化された大気散乱放射輝度Lscat(b,i,j)を示す説明図である。
図8において、実線は、大気散乱放射輝度Lscat(b,i,j)のモデルであり、〇は、小領域S(i,j)内の暗部領域の分光放射輝度である。
このとき、暗部領域の分光放射輝度LD(b,i,j)の計測点は、マルチスペクトルセンサが有しているバンド数と同数である。また、回帰分析によるパラメータ決定手法の代表的な例として、最小二乗法などが挙げられる。
散乱輝度算出処理部5は、算出した各々の小領域S(i,j)における大気散乱放射輝度Lscat(b,i,j)を大気透過率算出部6及び輝度補正値算出部8に出力する。
ただし、散乱輝度算出処理部5は、ある小領域S(i,j)における暗部領域の分光放射輝度LD(b,i,j)の計測点と、大気散乱放射輝度Lscat(b,i,j)のモデルとの相関が低い場合、当該小領域S(i,j)における大気散乱放射輝度Lscat(b,i,j)を異常値として、例えば、負の値などを出力するようにする。
これにより、分光放射輝度LD(b,i,j)の計測点がモデルと類似していない暗部領域を含んでいる小領域S(i,j)における大気散乱放射輝度Lscat(b,i,j)を除去することができる。
なお、計測点とモデルの相関が低い場合としては、例えば、最小二乗法における回帰分析の決定係数であるR二乗値が閾値Rth以下の場合などが挙げられる。
パラメータ記憶部2により記憶されている散乱透過特性データf(a)は、小領域S(i,j)における大気散乱を示す大気散乱放射輝度Lscat(b,i,j)の大気透過率τ(b,i,j)を示すバンドb毎の関数である。
散乱透過特性データf(a)は、例えば、MODTRANなどの光波大気伝搬計算シミュレータによって算出することができる。
図9は、バンドbにおける小領域S(i,j)の大気散乱放射輝度Lscat(b,i,j)に対応する大気透過率τ(b,i,j)を示す説明図である。
τ(b,i,j)=f(b,Lscat(b,i,j)) (2)
大気透過率算出部6は、算出した各々の小領域S(i,j)における大気散乱の大気透過率τ(b,i,j)を透過率補正値算出部9に出力する。
ただし、大気透過率算出部6は、ある小領域S(i,j)における大気透過率τ(b,i,j)が想定値と数パーセント以上離れているような場合には、当該小領域S(i,j)における大気透過率τ(b,i,j)を異常値として、例えば、負の値などを出力するようにする。
パラメータ記憶部2により記憶されている波長特性データは、マルチスペクトルセンサの観測可能な波長帯及びパンクロマチックセンサの観測可能な波長帯のそれぞれを示すデータである。
輝度補正値算出部8は、取得した波長特性データを用いて、散乱輝度算出処理部5から出力されたバンドb毎の各々の小領域S(i,j)における大気散乱放射輝度Lscat(b,i,j)の重み係数ε(b)を算出する。重み係数ε(b)の算出処理の詳細は後述する。
b=b1,b2,b3,b4
Pa’は、パンクロマチックセンサにより観測されるパンクロマチック画像に相当する画像の単一波長帯である。
輝度補正値算出部8は、各々の小領域S(i,j)における分光放射輝度の第1の補正値Lscat(Pa’,i,j)を画像再結合部10に出力する。
なお、輝度補正値算出部8は、散乱輝度算出処理部5から出力された小領域S(i,j)における大気散乱放射輝度Lscat(b,i,j)が異常値である場合、異常値である大気散乱放射輝度Lscat(b,i,j)を用いずに、小領域S(i,j)における分光放射輝度の第1の補正値Lscat(Pa’,i,j)を算出するようにする。
例えば、輝度補正値算出部8は、大気散乱放射輝度Lscat(b,i,j)が異常値である小領域S(i,j)の周辺の小領域における大気散乱放射輝度を用いて、小領域S(i,j)における大気散乱放射輝度Lscat(b,i,j)を補間する。
そして、輝度補正値算出部8は、補間した大気散乱放射輝度Lscat(b,i,j)を用いて、第1の補正値Lscat(Pa’,i,j)を算出するようにする。
図10は、マルチスペクトルセンサの観測可能な波長帯及びパンクロマチックセンサの観測可能な波長帯を示す説明図である。
図10の例では、パンクロマチックセンサの観測可能な波長帯は、λ0(Pa)〜λ1(Pa)である。
マルチスペクトルセンサの観測可能な波長帯は、λ0(b1)〜λ1(b1)、λ0(b2)〜λ1(b2)、λ0(b3)〜λ1(b3)及びλ0(b4)〜λ1(b4)である。
b=b1,b2,b3,b4
即ち、輝度補正値算出部8は、バンドb1に対して波長帯λ’0(b1)〜λ’1(b1)を割り付け、バンドb2に対して波長帯λ’0(b2)〜λ’1(b2)を割り付け、バンドb3に対して波長帯λ’0(b3)〜λ’1(b3)を割り付ける。
また、輝度補正値算出部8は、バンドb4に対して波長帯λ’0(b4)〜λ’1(b4)を割り付ける。
このような割り付けの場合、例えば、波長帯λ’0(b1),λ’1(b1)は、以下の式(5)及び式(6)のように表される。
また、重み係数ε(b)における分母は、パンクロマチックセンサの放射輝度から、分光放射輝度に変換すること意味している。
上記の式(3)は、割り付けられた波長帯λ’0(b)〜λ’1(b)における分光放射輝度を一定とみなしたものであり、パンクロマチックセンサの波長帯に対して、割り付けるバンドの数が多いほど、分光放射輝度の第1の補正値Lscat(Pa’,i,j)を高精度に算出することができる。
例えば、輝度補正値算出部8は、実画像のパンクロマチック画像の分光放射輝度L(Pa,x,y)を取得する。
(x,y)は、パンクロマチック画像上の座標であり、マルチスペクトル画像における小領域の配列を示す(i,j)と異なる。
そして、輝度補正値算出部8は、式(3)から得られる分光放射輝度の第1の補正値Lscat(Pa’,i,j)を、マルチスペクトル画像から模擬したパンクロマチックセンサの分光放射輝度L(Pa’,x,y)とみなし、式(3)において、分光放射輝度L(Pa’,x,y)と分光放射輝度L(Pa,x,y)との差が最小になるような重み係数ε(b)を算出する。
透過率補正値算出部9は、取得した波長特性データを用いて、大気透過率算出部6から出力されたバンドb毎の各々の小領域S(i,j)における大気散乱の大気透過率τ(b,i,j)の重み係数ε’(b)を算出する。重み係数ε’(b)の算出処理の詳細は後述する。
b=b1,b2,b3,b4
透過率補正値算出部9は、各々の小領域S(i,j)における分光放射輝度の第2の補正値τ(Pa’,i,j)を画像再結合部10に出力する。
なお、透過率補正値算出部9は、大気透過率算出部6から出力された小領域S(i,j)における大気散乱の大気透過率τ(b,i,j)が異常値である場合、異常値である大気透過率τ(b,i,j)を用いずに、小領域S(i,j)における分光放射輝度の第2の補正値τ(Pa’,i,j)を算出するようにする。
例えば、透過率補正値算出部9は、大気透過率τ(b,i,j)が異常値である小領域S(i,j)の周辺の小領域における大気透過率を用いて、小領域S(i,j)における大気散乱の大気透過率τ(b,i,j)を補間する。
そして、透過率補正値算出部9は、補間した大気透過率τ(b,i,j)を用いて、第2の補正値τ(Pa’,i,j)を算出するようにする。
大気透過率τ(b,i,j)の重み係数ε’(b)は、輝度補正値算出部8と同様に、式(4)によって算出することができる。
透過率補正値算出部9は、パンクロマチックセンサにおける各波長λの分光感度R(λ)及び光源の照度E(λ)を用いて、以下の式(9)に示すように、重み係数ε’(b)を算出するようにしてもよい。
光源の照度E(λ)として、一般的な自然光である太陽の照度を用いることができる。
式(9)は、パンクロマチックセンサに入射される光源からの光のエネルギーに対する割り付け波長のエネルギー比を模擬している。
例えば、透過率補正値算出部9は、既知の分光放射輝度Lsampleを示す被写体と、暗部領域とが映っている実画像であるパンクロマチック画像を取得する。
そして、透過率補正値算出部9は、既知の分光放射輝度Lsampleと暗部領域の分光放射輝度との差分dLを算出し、以下の式(10)に示すように、差分dLと既知の分光放射輝度Lsampleとから透過率τ(Pa,x,y)を算出する。
透過率補正値算出部9は、式(8)から得られる第2の補正値τ(Pa’,i,j)を、マルチスペクトル画像から模擬した透過率τ(Pa’,x,y)とみなし、式(8)において、透過率τ(Pa’,x,y)と透過率τ(Pa,x,y)との差が最小になるような重み係数ε’(b)を算出する。
また、画像再結合部10は、透過率補正値算出部9から出力された各々の小領域S(i,j)における分光放射輝度の第2の補正値τ(Pa’,i,j)を結合して、第2の補正値の2次元配列Bを生成する(図4のステップST14)。
2次元配列A,Bにおける各々の要素(i,j)は、画像分割部1により分割された各々の小領域S(i,j)に対応している。マルチスペクトル画像の分割数がNで、小領域S(i,j)の個数がNであれば、2次元配列の要素(i,j)の数もNである。
2次元配列Aにおける各々の要素(i,j)は、各々の小領域S(i,j)における分光放射輝度の第1の補正値Lscat(Pa’,i,j)を有しており、2次元配列Bにおける各々の要素(i,j)は、各々の小領域S(i,j)における分光放射輝度の第2の補正値τ(Pa’,i,j)を有している。
画像再結合部10は、生成した2次元配列A,Bを補正値補間部11に出力する。
例えば、パンクロマチック画像のx方向の画素数が、2次元配列A,Bにおけるx方向の要素(i,j)の数のMx倍であれば、2次元配列A,Bのx方向をMx倍にアップサンプリングする。
また、パンクロマチック画像のy方向の画素数が、2次元配列A,Bにおけるy方向の要素(i,j)の数のMy倍である場合、2次元配列A,Bのy方向をMy倍にアップサンプリングする。
これにより、2次元配列A,Bの分解能が、パンクロマチック画像の分解能と同等になる。
これにより、第1の補正値Lscat(Pa’,i,j)は、第1の補正値Lscat(Pa’,x,y)に変換され、変換後の第1の補正値Lscat(Pa’,x,y)が補正値補間部11から放射輝度補正部13に出力される。また、第2の補正値τ(Pa’,i,j)は、第2の補正値τ(Pa’,x,y)に変換され、変換後の第2の補正値τ(Pa’,x,y)が補正値補間部11から透過率補正部14に出力される。
なお、2次元配列Aの或る要素が有している第1の補正値Lscat(Pa’,i,j)が異常値である場合、補正値補間部11は、当該要素の周囲に存在している要素が有している補正値に基づいて、当該要素が有している補正値を補間してから、2次元配列Aの分解能を変換する。
また、2次元配列Bの或る要素が有している第2の補正値τ(Pa’,i,j)が異常値である場合、補正値補間部11は、当該要素の周囲に存在している要素が有している補正値に基づいて、当該要素が有している補正値を補間してから、2次元配列Bの分解能を変換する。
放射輝度補正部13は、以下の式(11)に示すように、取得したパンクロマチック画像の分光放射輝度L(Pa,x,y)から、補正値補間部11から出力された第1の補正値Lscat(Pa’,x,y)を減算することで、パンクロマチック画像における分光放射輝度を補正する(図4のステップST17)。
L1(x,y)
=L(Pa,x,y)−Lscat(Pa’,x,y) (11)
式(11)において、L1(x,y)は、補正後の分光放射輝度である。
放射輝度補正部13は、分光放射輝度を補正したパンクロマチック画像を透過率補正部14に出力する。
式(12)において、L2(x,y)は、補正後の分光放射輝度である。
透過率補正部14は、分光放射輝度を補正したパンクロマチック画像を出力する。
上記実施の形態1では、補正部12が、第1の補正値Lscat(Pa’,x,y)及び第2の補正値τ(Pa’,x,y)を用いて、パンクロマチック画像における分光放射輝度を補正する例を示している。
この実施の形態2では、パンクロマチック画像に含まれているオフセット成分を除去するために第3の補正値を算出し、第3の補正値を用いて、さらに、パンクロマチック画像における分光放射輝度を補正する例を説明する。
図11及び図12において、図1及び図2と同一符号は同一または相当部分を示すので説明を省略する。
反射輝度算出部41は、例えば図12に示す反射輝度算出回路51で実現される。
反射輝度算出部41は、マルチスペクトル画像のバンドb毎の各々の小領域S(i,j)における分光放射輝度Lsensor(b,i,j)と、散乱輝度算出処理部5によりバンドb毎に算出された各々の小領域S(i,j)における大気散乱放射輝度Lscat(b,i,j)とから、各々の小領域S(i,j)における大気反射を示す大気反射放射輝度Lr(b,i,j)をそれぞれ算出する処理を実施する。
補正値算出部42の反射補正値算出部43は、反射輝度算出部41によりバンドb毎に算出された各々の小領域S(i,j)における大気反射放射輝度Lr(b,i,j)から、各々の小領域における分光放射輝度の第3の補正値Lr(Pa’,i,j)をそれぞれ算出する処理を実施する。
また、画像再結合部44は、反射補正値算出部43により算出された各々の小領域S(i,j)における分光放射輝度の第3の補正値Lr(Pa’,i,j)を結合して、第3の補正値の2次元配列Cを生成する処理を実施する。
2次元配列Cにおける各々の要素は、画像分割部1により分割された各々の小領域S(i,j)に対応している。2次元配列Cにおける各々の要素は、画像分割部1により分割された各々の小領域S(i,j)における分光放射輝度の第3の補正値を有している。
補正値算出部42の補正値補間部45は、画像再結合部44により生成された2次元配列A,B,Cの分解能が、パンクロマチック画像の分解能と一致するように、画像再結合部44により生成された2次元配列A,B,Cを補間する処理を実施する。
補正部46の反射補正部47は、補正値補間部45により補間された2次元配列Cにおける各々の要素が有する第3の補正値を用いて、パンクロマチック画像における分光放射輝度を補正する処理を実施する。
画像処理装置の構成要素は、専用のハードウェアで実現されるものに限るものではなく、画像処理装置がソフトウェア、ファームウェア、または、ソフトウェアとファームウェアとの組み合わせで実現されるものであってもよい。
また、図12では、画像処理装置の構成要素のそれぞれが専用のハードウェアで実現される例を示し、図3では、画像処理装置がソフトウェアやファームウェアなどで実現される例を示しているが、画像処理装置における一部の構成要素が専用のハードウェアで実現され、残りの構成要素がソフトウェアやファームウェアなどで実現されるものであってもよい。
靄又は霧などの濃度が高い場合、被写体とセンサの間に存在している大気中の粒子に光が散乱される大気散乱のほかに、大気中の粒子に光が反射される大気反射が生じることがある。
大気反射が生じることで、大気からの反射光成分がオフセット成分としてマルチスペクトル画像及びパンクロマチック画像に重畳される。
この実施の形態2では、補正部46の反射補正部47が、パンクロマチック画像に重畳されているオフセット成分を除去する処理を実施する。
以下、上記実施の形態1と相違する箇所を説明する。
反射輝度算出部41は、各々の小領域S(i,j)における分光放射輝度Lsensor(b,i,j)を、以下の式(13)に示すように、散乱輝度算出処理部5により算出された各々の小領域S(i,j)における大気散乱放射輝度Lscat(b,i,j)と、各々の小領域S(i,j)における大気反射放射輝度Lr(b,i,j)との和でモデル化する。
Lsensor(b,i,j)
=Lscat(b,i,j)+Lr(b,i,j) (13)
図13は、反射輝度算出部41によりモデル化された分光放射輝度Lsensor(b,i,j)を示す説明図である。
図13において、実線は、分光放射輝度Lsensor(b,i,j)のモデルであり、〇は、小領域S(i,j)内の暗部領域の分光放射輝度である。
Lr(b,i,j)=β(b)Lr0(i,j) (14)
式(14)において、β(b)は、反射光の分光特性成分、Lr0(i,j)は、反射光成分の固有値である。
反射光の分光特性成分β(b)は、以下の式(15)に示すように、白色の被写体が持つ分光放射輝度より算出することができる。
式(15)において、ρ(λ)は、白色の被写体の反射率、E(λ)は、光源である太陽の照度である。
式(13)における大気散乱放射輝度Lscat(b,i,j)は、式(1)のように表されるので、式(13)は、以下の式(16)のように表される。
Lsensor(b,i,j)
=α(b)Lscat0(i,j)+β(b)Lr0(i,j) (16)
反射輝度算出部41は、反射光成分の固有値Lr0(i,j)を推定すると、推定した固有値Lr0(i,j)と、反射光の分光特性成分β(b)とを式(14)に代入して、マルチスペクトル画像の各々の小領域S(i,j)における大気反射放射輝度Lr(b,i,j)を算出する。
反射輝度算出部41は、算出した各々の小領域S(i,j)における大気反射放射輝度Lr(b,i,j)を反射補正値算出部43に出力する。
反射補正値算出部43は、取得した波長特性データを用いて、反射輝度算出部41から出力されたバンドb毎の各々の小領域S(i,j)における大気反射放射輝度Lr(b,i,j)の重み係数ε”(b)を算出する。重み係数ε”(b)は、例えば、重み係数ε(b)又は重み係数ε’(b)と同様に算出することができる。
b=b1,b2,b3,b4
反射補正値算出部43は、各々の小領域S(i,j)における分光放射輝度の第3の補正値Lr(Pa’,i,j)を画像再結合部44に出力する。
また、画像再結合部44は、反射補正値算出部43から出力された各々の小領域S(i,j)における分光放射輝度の第3の補正値Lr(Pa’,i,j)を結合して、第3の補正値の2次元配列Cを生成する。
2次元配列Cにおける各々の要素(i,j)は、画像分割部1により分割された各々の小領域S(i,j)に対応している。マルチスペクトル画像の分割数がNで、小領域S(i,j)の個数がNであれば、2次元配列Cの要素(i,j)の数もNである。
2次元配列Cにおける各々の要素(i,j)は、各々の小領域S(i,j)における分光放射輝度の第3の補正値Lr(Pa’,i,j)を有している。
画像再結合部44は、生成した2次元配列A,B,Cを補正値補間部45に出力する。
また、補正値補間部45は、画像再結合部44から出力された2次元配列Cを補間する。
例えば、パンクロマチック画像のx方向の画素数が、2次元配列Cにおけるx方向の要素(i,j)の数のMx倍であれば、2次元配列Cのx方向をMx倍にアップサンプリングする。
これにより、第3の補正値Lr(Pa’,i,j)は、第3の補正値Lr(Pa’,x,y)に変換され、変換後の第3の補正値Lr(Pa’,x,y)が補正値補間部45から反射補正部47に出力される。
L3(x,y)=L1(x,y)−Lr(Pa’,x,y) (18)
式(18)において、L3(x,y)は、補正後の分光放射輝度である。
反射補正部47は、分光放射輝度を補正したパンクロマチック画像を透過率補正部14に出力する。
この実施の形態2では、反射補正部47が放射輝度補正部13の後段に設けられている例を示しているが、反射補正部47が放射輝度補正部13の前段に設けられていてもよい。
この実施の形態3では、マルチスペクトル画像における分光放射輝度についても補正し、分光放射輝度が補正されたパンクロマチック画像と、分光放射輝度が補正されたマルチスペクトル画像との色合成を行う例を説明する。
図14及び図15において、図11及び図12と同一符号は同一または相当部分を示すので説明を省略する。
この実施の形態3では、補正値算出部42は、上記実施の形態2と同様に、パンクロマチック画像における分光放射輝度の補正値を算出するほかに、マルチスペクトル画像における分光放射輝度の補正値を算出する処理を実施する。
この実施の形態3では、補正部46は、上記実施の形態2と同様に、パンクロマチック画像における分光放射輝度を補正するほかに、マルチスペクトル画像における分光放射輝度を補正する処理を実施する。
色合成処理部48は、補正部46により分光放射輝度が補正されたパンクロマチック画像と補正部46により分光放射輝度が補正されたマルチスペクトル画像との色合成処理を実施する。
図14では、色合成処理部48が、上記実施の形態2における図11の画像処理装置に適用されている例を示しているが、色合成処理部48が、上記実施の形態1における図1の画像処理装置に適用されているものであってもよい。
画像処理装置の構成要素は、専用のハードウェアで実現されるものに限るものではなく、画像処理装置がソフトウェア、ファームウェア、または、ソフトウェアとファームウェアとの組み合わせで実現されるものであってもよい。
以下、上記実施の形態1,2と相違する箇所を説明する。
この実施の形態3では、輝度補正値算出部8は、各々の小領域S(i,j)における分光放射輝度の第1の補正値Lscat(Pa’,i,j)を画像再結合部44に出力するほか、各々の小領域S(i,j)における大気散乱放射輝度Lscat(b,i,j)を第4の補正値として画像再結合部44に出力する。
この実施の形態3では、透過率補正値算出部9は、各々の小領域S(i,j)における分光放射輝度の第2の補正値τ(Pa’,i,j)を画像再結合部44に出力するほか、各々の小領域S(i,j)における大気透過率τ(b,i,j)を第5の補正値として画像再結合部44に出力する。
この実施の形態3では、反射補正値算出部43は、各々の小領域S(i,j)における分光放射輝度の第3の補正値Lr(Pa’,i,j)として画像再結合部44に出力するほか、各々の小領域S(i,j)における大気反射放射輝度Lr(b,i,j)を第6の補正値として画像再結合部44に出力する。
また、画像再結合部44は、第2の補正値の2次元配列Bを生成するほかに、透過率補正値算出部9から出力された各々の小領域S(i,j)における分光放射輝度の第5の補正値である大気透過率τ(b,i,j)を結合して、第5の補正値の2次元配列Eを生成する。
また、画像再結合部44は、第3の補正値の2次元配列Cを生成するほかに、反射補正値算出部43から出力された各々の小領域S(i,j)における分光放射輝度の第6の補正値である大気反射放射輝度Lr(b,i,j)を結合して、第6の補正値の2次元配列Fを生成する。
また、補正値補間部45は、画像再結合部44から出力された2次元配列D,E,Fのそれぞれを補間する。
これにより、第4の補正値であるLscat(b,i,j)は、Lscat(b,x,y)に変換され、変換後の第4の補正値であるLscat(b,x,y)が補正値補間部45から放射輝度補正部13に出力される。
第5の補正値である大気透過率τ(b,i,j)は、τ(b,x,y)に変換され、変換後の第5の補正値であるτ(b,x,y)が補正値補間部45から透過率補正部14に出力される。
第6の補正値である大気反射放射輝度Lr(b,i,j)は、Lr(b,x,y)に変換され、変換後の第6の補正値であるLr(b,x,y)が補正値補間部45から反射補正部47に出力される。
また、放射輝度補正部13は、マルチスペクトル画像のバンドb毎の各々の小領域S(i,j)における分光放射輝度Lsensor(b,i,j)から、補正値補間部45から出力された第4の補正値であるLscat(b,x,y)を減算することで、マルチスペクトル画像における分光放射輝度を補正する。
また、反射補正部47は、放射輝度補正部13から出力されたマルチスペクトル画像の補正後の各々の小領域S(i,j)における分光放射輝度Lsensor(b,i,j)から、補正値補間部45から出力された第6の補正値であるLr(b,x,y)を減算することで、マルチスペクトル画像における分光放射輝度を補正する。
また、透過率補正部14は、反射補正部47から出力されたマルチスペクトル画像の補正後の各々の小領域S(i,j)における分光放射輝度Lsensor(b,i,j)を、補正値補間部45から出力された第5の補正値であるτ(b,x,y)で除算することで、マルチスペクトル画像における分光放射輝度を補正する。
色合成処理として、例えば、IHS(Intensity Hue Saturation)変換と呼ばれる色合成処理を用いることができる。IHS変換と呼ばれる色合成処理では、マルチスペクトル画像から色空間である輝度、色相及び彩度を算出し、この算出した輝度をパンクロマチック画像に置き換えることで、パンクロマチック画像の分解能を持つ輝度情報に、色相及び彩度の情報を加えるものである。
色合成処理としては、brovey変換、Gram−Schmidt変換、あるいは、主成分分析を用いた変換処理なども使用することができる。
高解像度のパンクロマチック画像と低解像度のマルチスペクトル画像とを合成し、高解像度かつ色情報を保有する画像は、パンシャープン画像と呼ばれることがある。
Claims (4)
- 複数の波長帯の画像を含んでいるマルチスペクトル画像を複数の領域に分割する画像分割部と、
前記マルチスペクトル画像が含んでいる複数の画像の波長帯毎に、前記画像分割部により分割された各々の領域における大気散乱を示す大気散乱放射輝度をそれぞれ算出する散乱輝度算出部と、
前記散乱輝度算出部により波長帯毎に算出された各々の領域における大気散乱放射輝度から、前記複数の波長帯を含む単一波長帯の画像であるパンクロマチック画像における分光放射輝度の補正値を算出する補正値算出部と、
前記補正値算出部により算出された分光放射輝度の補正値を用いて、前記パンクロマチック画像における分光放射輝度を補正する補正部と
を備えた画像処理装置。 - 前記散乱輝度算出部により波長帯毎に算出された各々の領域における大気散乱放射輝度から、前記波長帯毎に、前記画像分割部により分割された各々の領域における大気散乱の大気透過率をそれぞれ算出する大気透過率算出部を備え、
前記補正値算出部は、前記パンクロマチック画像における分光放射輝度の補正値として、前記散乱輝度算出部により波長帯毎に算出された各々の領域における大気散乱放射輝度から、前記パンクロマチック画像における分光放射輝度の第1の補正値を算出するほかに、前記大気透過率算出部により波長帯毎に算出された各々の領域における大気散乱の大気透過率から、前記パンクロマチック画像における分光放射輝度の第2の補正値を算出し、
前記補正部は、前記補正値算出部により算出された第1の補正値を用いて、前記パンクロマチック画像における分光放射輝度を補正するほかに、前記補正値算出部により算出された第2の補正値を用いて、前記パンクロマチック画像における分光放射輝度を補正することを特徴とする請求項1記載の画像処理装置。 - 前記マルチスペクトル画像の波長帯毎の各々の領域における分光放射輝度と、前記散乱輝度算出部により波長帯毎に算出された各々の領域における大気散乱放射輝度とから、前記波長帯毎に、前記画像分割部により分割された各々の領域における大気反射を示す大気反射放射輝度をそれぞれ算出する反射輝度算出部を備え、
前記補正値算出部は、前記第1及び第2の補正値を算出するほかに、前記反射輝度算出部により波長帯毎に算出された各々の領域における大気反射放射輝度から、前記パンクロマチック画像における分光放射輝度の第3の補正値を算出し、
前記補正部は、前記補正値算出部により算出された第1及び第2の補正値を用いて、前記パンクロマチック画像における分光放射輝度を補正するほかに、前記補正値算出部により算出された第3の補正値を用いて、前記パンクロマチック画像における分光放射輝度を補正することを特徴とする請求項2記載の画像処理装置。 - 前記補正値算出部は、前記散乱輝度算出部により波長帯毎に算出された各々の領域における大気散乱放射輝度から、前記波長帯毎に、前記マルチスペクトル画像における分光放射輝度の補正値を算出し、
前記補正部は、前記補正値算出部により算出されたマルチスペクトル画像における分光放射輝度の補正値を用いて、前記マルチスペクトル画像における分光放射輝度を補正し、
前記補正部により分光放射輝度が補正されたパンクロマチック画像と前記補正部により分光放射輝度が補正されたマルチスペクトル画像との色合成を行う色合成処理部を備えたことを特徴とする請求項1記載の画像処理装置。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2017/015585 WO2018193517A1 (ja) | 2017-04-18 | 2017-04-18 | 画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2018193517A1 true JPWO2018193517A1 (ja) | 2019-06-27 |
JP6556409B2 JP6556409B2 (ja) | 2019-08-07 |
Family
ID=63855659
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019512336A Active JP6556409B2 (ja) | 2017-04-18 | 2017-04-18 | 画像処理装置 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6556409B2 (ja) |
WO (1) | WO2018193517A1 (ja) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06300845A (ja) * | 1993-04-16 | 1994-10-28 | N T T Data Tsushin Kk | 画像情報処理装置 |
US20140270332A1 (en) * | 2013-03-15 | 2014-09-18 | Digitalglobe, Inc. | Atmospheric compensation in satellite imagery |
JP2015215783A (ja) * | 2014-05-12 | 2015-12-03 | 株式会社日立製作所 | 画像処理装置、画像処理方法及びプログラムを記録した記録媒体 |
JP2016126566A (ja) * | 2015-01-05 | 2016-07-11 | 三菱電機株式会社 | 画像処理装置及び画像処理方法 |
-
2017
- 2017-04-18 WO PCT/JP2017/015585 patent/WO2018193517A1/ja active Application Filing
- 2017-04-18 JP JP2019512336A patent/JP6556409B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06300845A (ja) * | 1993-04-16 | 1994-10-28 | N T T Data Tsushin Kk | 画像情報処理装置 |
US20140270332A1 (en) * | 2013-03-15 | 2014-09-18 | Digitalglobe, Inc. | Atmospheric compensation in satellite imagery |
JP2015215783A (ja) * | 2014-05-12 | 2015-12-03 | 株式会社日立製作所 | 画像処理装置、画像処理方法及びプログラムを記録した記録媒体 |
JP2016126566A (ja) * | 2015-01-05 | 2016-07-11 | 三菱電機株式会社 | 画像処理装置及び画像処理方法 |
Also Published As
Publication number | Publication date |
---|---|
JP6556409B2 (ja) | 2019-08-07 |
WO2018193517A1 (ja) | 2018-10-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108256419B (zh) | 一种利用多光谱解译提取港口码头图像的方法 | |
US9020256B2 (en) | System and method for combining color information with spatial information in multispectral images | |
EP2095331B1 (en) | Spatial and spectral calibration of a panchromatic, multispectral image pair | |
CA2670611C (en) | Panchromatic modulation of multispectral imagery | |
US7835594B2 (en) | Structured smoothing for superresolution of multispectral imagery based on registered panchromatic image | |
US8094960B2 (en) | Spectral calibration of image pairs using atmospheric characterization | |
JP6964834B2 (ja) | 画像処理装置および画像処理方法 | |
JP2014150521A (ja) | 奥行き画像の解像度を増大させる方法とシステム | |
JP6869652B2 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
CN109643440B (zh) | 图像处理设备、图像处理方法和计算机可读记录介质 | |
JP4728265B2 (ja) | ノイズ特性測定装置及びノイズ特性測定方法 | |
JP2016126566A (ja) | 画像処理装置及び画像処理方法 | |
JP6556409B2 (ja) | 画像処理装置 | |
JP6463244B2 (ja) | 画像処理装置及び画像処理方法 | |
CN117115669A (zh) | 双条件质量约束的对象级地物样本自适应生成方法及系统 | |
JP6789017B2 (ja) | 地形可視化装置、地形可視化方法、及びプログラム | |
JP4615430B2 (ja) | 画像生成装置、画像生成方法および画像生成プログラム | |
JP6940261B2 (ja) | 画像解析処理装置、画像解析処理方法、及びプログラム | |
JPWO2020230319A1 (ja) | 画像処理装置及び方法、並びに画像読み取り装置、並びにプログラム及び記録媒体 | |
KR101952394B1 (ko) | 레티넥스 모델 기반 엘이디영상 색 보정 방법 | |
JP7334509B2 (ja) | 三次元形状モデル生成システム、三次元形状モデル生成方法及びプログラム | |
Kaur et al. | Enriched image demosaicing using illuminate normalization and content based color filter array | |
Anshu et al. | Evaluation of Fusion Techniques for High Resolution Data-A Worldview-2 Imagery | |
CN115115766A (zh) | 多光谱场景数据生成方法及装置 | |
JP2020167563A (ja) | 画像処理装置、画像処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190228 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20190228 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20190603 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190611 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190709 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6556409 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |