JP2019537151A - 画像処理装置、画像処理方法及び画像処理プログラム - Google Patents

画像処理装置、画像処理方法及び画像処理プログラム Download PDF

Info

Publication number
JP2019537151A
JP2019537151A JP2019527932A JP2019527932A JP2019537151A JP 2019537151 A JP2019537151 A JP 2019537151A JP 2019527932 A JP2019527932 A JP 2019527932A JP 2019527932 A JP2019527932 A JP 2019527932A JP 2019537151 A JP2019537151 A JP 2019537151A
Authority
JP
Japan
Prior art keywords
cloud
spectrum
input image
clouds
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019527932A
Other languages
English (en)
Other versions
JP6822569B2 (ja
Inventor
マドリ マヘンドラ ナグレ
マドリ マヘンドラ ナグレ
瑛士 金子
瑛士 金子
啓史 青木
啓史 青木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JP2019537151A publication Critical patent/JP2019537151A/ja
Application granted granted Critical
Publication of JP6822569B2 publication Critical patent/JP6822569B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/77Retouching; Inpainting; Scratch removal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • G06T2207/10036Multispectral image; Hyperspectral image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation
    • G06T2207/30192Weather; Meteorology

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】 画像中に複数の雲形又は雲層が存在していても、雲によって影響を受けた領域を正確に検出し、雲の影響を修正する画像処理装置が提供される。【解決手段】 画像処理装置は、入力画像中に存在する一つ以上の雲スペクトルから各画素に対して少なくとも一つのスペクトルを選択する雲スペクトル選択部と、前記入力画像のスペクトルから、前記一つ以上の雲以外の一つ以上のエンドメンバのスペクトルを抽出するエンドメンバ抽出部と、前記入力画像中の前記各画素について、一つ以上のエンドメンバのそれぞれのスペクトルの存在比と、前記一つ以上の雲のうち一つの選択されたスペクトルの存在比とを導出する分解部とを備える。【選択図】 図17

Description

本発明は、衛星プラットフォームに搭載されたセンサによって撮像された画像中の雲被覆領域を検出し、修正する画像処理装置、画像処理方法及び画像処理プログラムを記憶する記憶媒体に関する。
衛星画像は地球表面観測を監視する際の重要な情報源である。ところが、画像中に雲被覆が存在する場合には画像の利用が大きく制限される。
非特許文献1は、衛星画像中の薄い雲被覆を除去する信号伝送‐混合スペクトル解析(ST‐SMA)法を開示する。この方法では、スペクトルを分解する技術を用いて雲被覆を推定し、影響を受けた画素を放射伝達モデルによって修正する。スペクトルを分解する技術では、1つの画素をエンドメンバが混合したものと想定し、画素中の各エンドメンバの存在比を推定する。エンドメンバは地表上のピュアクラスである。ST‐SMAでは、入力画像中の各画素について雲をエンドメンバと想定して雲の存在比を推定し、各画素から雲の部分を除去して雲の影響を修正する。ST‐SMA法の詳細は後述する。
図19は、雲の存在下で地表面反射率を捕らえる物理モデルを図示する。図19を参照すると、輝度値を用いた雲による歪みの物理モデルは以下の式(1)により与えられる。
Figure 2019537151

“s(i,j)”は、衛星センサで受信された座標“i”及び“j”の画素に関する輝度信号であり、“a”は概して1と想定される大気透過率、“I”は日射照度、“r(i,j)”は地表面からの反射率、そして、“C(i,j)”は画素(i,j)に関して観測された雲の透過率である。この式では、雲の吸収率を0と想定する。
雲は、入射放射を反射、透過及び吸収し得る。反射率“C”、吸収率“C”、透過率“C”の係数について表現した雲と入射放射との相互作用は以下のように示すことができる。
Figure 2019537151
複数の厚い雲(“T”)に関しては、放射は完全に反射及び吸収され、透過されない。“T”、“T”、“T”をそれぞれ厚い雲の反射率、吸収率及び透過率とすると、入射放射と厚い雲との相互作用は以下にように示すことができる。
Figure 2019537151
薄い雲による吸収率及び反射率は、厚い雲の吸収率及び反射率の拡大・縮小値と想定される。さらに、その倍率は厚い雲に対する薄い雲の相対的厚みに比例すると想定される。つまり、薄い雲の吸収率及び反射率は、厚い雲の吸収率及び反射率を薄い雲の厚さ率(“g”)で調整したものである。gは、厚い雲に対する雲の相対的厚みによって0から1まで変化する。厚い雲の場合“g”は1である。厚い雲は透過率が0の不透明雲である。
式(2)に薄い雲の吸収率及び反射率の値を代入し、式(3)を用いると、雲の透過率は以下のように推定できる。
Figure 2019537151

図19、式(1)及び式(4)を参照すると、反射率の値を用いた雲による歪みの物理モデルは、雲の光学的性質に関して以下のように表すことができる。
Figure 2019537151
Lが入力されたマルチスペクトル画像に存在する波長帯域数の場合、“x”はセンサによって観測されたL×1の寸法の画素のスペクトル反射率ベクトル、“s”はL×1の寸法の雲スペクトルシグネチャ(スペクトル)ベクトル、そして、“e”はL×1の寸法のノイズ又はモデルエラーベクトルであり、“e”は、モデル化できない画素の一部とみなすことができる。
式(5)において、以下に示すようにrは“M”個のエンドメンバが混合したものとして表すことができる。
Figure 2019537151

つまり、
Figure 2019537151

“s”は、L×1の寸法のm番目のエンドメンバのスペクトルシグネチャベクトルであり、“a”は、m番目のエンドメンバの存在比である。雲を(M+1)番目のエンドメンバとすると、式(6)及び式(7)は、以下のように変形できる。
Figure 2019537151

つまり、
Figure 2019537151

式(8)は、異なる制約を有する線形スペクトル混合モデル(LSMM)に類似している。式(8)及び(9)のモデルより、雲は(M+1)番目のエンドメンバであり、gは雲の存在比であると解釈できる。
この式は、制約が完全に満たされた線形混合解析アルゴリズムによって解かれ、雲の存在比(つまりg)が求められる。式(9)で制約された式(8)は、“L>M+1”である場合に解くことができる。したがって、この手法はマルチスペクトル画像又はハイパースペクトル画像に最も適している。
モデルエラーは0又は無視できると想定すると、式(5)によって1画素の真の反射率は、以下に示すように求められる。
Figure 2019537151

g=1の場合、画素には式(10)の修正が行えない。これは、この画素が厚い雲で被覆され、マスクされるか他の画像ソースで置き換えられるべきであることを示唆する。
図20は、本願発明者によって記載されたST‐SMA法の例示的装置を示すブロック図である。装置には、入力部01、受信部02、雲スペクトル抽出部03、エンドメンバ抽出部04、分解部05、薄雲修正部06及び出力部07が含まれる。
入力部01は、入力としてマルチスペクトル画像を受信する。受信部02は操作者から、入力画像中の雲以外のエンドメンバの数を受信する。雲スペクトル抽出部03は画像中の最も明るい画素のスペクトルとして画像から雲スペクトル(雲のスペクトル)を選択する。エンドメンバ抽出部04は、入力画像中の雲以外のエンドメンバの数を入力として受信し、教師なしエンドメンバ抽出アルゴリズムであるVertex Component AnalySiS(VCA)を用いて入力画像から同数のエンドメンバのスペクトルを抽出する。分解部05は、式(9)で与えられた制約下で式(8)を用いて入力画像の各画素を分解し、雲の存在比を求める。薄雲修正部06は、雲の存在比を用いて薄い雲の修正を行う。つまり、式(10)を用いて薄い雲によって影響を受けた画素の真の反射率を取得する。出力部07は、薄い雲の被覆を修正した画像をディスプレイに送る。
Xu, M., Pickering, M., Plaza, A.J. and Jia, X., "Thin Cloud Removal Based on Signal Transmission Principles and Spectral Mixture Analysis," IEEE Transactions on Geoscience and Remote Sensing (Volume: 54, Issue: 3, March 2016), Page(s): 1659 - 1669.
非特許文献1の方法は、雲スペクトルが正確に決定された場合に限り、薄い雲被覆下の地表面からの真の反射率を適切に推定できる。最も明るい画素のスペクトルを雲スペクトルとして選択する方法では、砂地、屋上などの他の明るい物体を混同する可能性がある。
また、画像によっては雲形や雲層が異なることがある。異なる雲は異なる成分を有するため、異なる吸収や反射特性、異なる吸収量や反射量を示す。異なる雲層がある場合、より高度の雲がより低高度の雲に影を作ることがある。そのため、より低高度の雲は実際よりも低い度合いの反射特性を示す。水分含有量のより高い雲や影のある雲はより暗く見える。ST‐SMA法が明るい雲の隣により暗い雲を含む景色に対して用いられると、より暗い雲を誤って地表の水として修正してしまう。したがって、暗い雲と明るい雲とを分けて検討する必要がある。
さらに、従来技術の方法は、画素を厚い雲としてマークする際に厳格な制約(g=1)がある。雲スペクトルは変化に富むため、これは実用的ではない。雲は広範囲に広がり、成分も異なり得るため、厚い雲が混入する全ての画素が完全に同じスペクトルを持つわけではない。結果として、雲スペクトルが正確に選択されても、従来技術の方法では厚い雲の被覆を完全には検出できない。
したがって、非特許文献1によって与えられた方法に備わるアルゴリズムは、異なる雲形又は雲層を有する、又は、雲よりも明るい物体を含む複雑な景色に対しては適切に実行できない。この制約は、同方法の雲スペクトル抽出技術に起因する。また、この方法では厚い雲の被覆を完全には検出できない。
本発明は上述の状況を鑑みてなされた。本発明の目的は、画像中に複数の雲形又は雲層が存在していても、雲によって影響を受けた領域を正確に検出し、雲の影響を修正することが可能な技術を提供することにある。
上記の問題を解決するために、本願の第1の例示的観点は、雲被覆を検出及び修正するための画像処理装置であり、当該装置は、
入力画像中に存在する一つ以上の雲スペクトルから各画素に対して少なくとも一つのスペクトルを選択する雲スペクトル選択部、
前記入力画像のスペクトルから、前記一つ以上の雲以外の一つ以上のエンドメンバのスペクトルを抽出するエンドメンバ抽出部、および
前記入力画像中の前記各画素について、一つ以上のエンドメンバのそれぞれのスペクトルの存在比と、前記一つ以上の雲のうち一つの選択されたスペクトルの存在比とを導出する分解部
を備える。
本願の第2の例示的観点は、雲被覆を検出及び修正する画像処理方法であり、当該方法は、
入力画像中に存在する一つ以上の雲スペクトルから各画素に対して少なくとも一つのスペクトルを選択すること、
前記入力画像のスペクトルから、前記一つ以上の雲以外の一つ以上のエンドメンバのスペクトルを抽出すること、及び、
前記入力画像中の前記各画素について、一つ以上のエンドメンバのそれぞれのスペクトルの存在比と、前記一つ以上の雲のうち一つの選択されたスペクトルの存在比とを導出すること
を含む。
本願の第3の例示的観点は、画像処理プログラムを格納する記録媒体であり、当該プログラムは
入力画像中に存在する一つ以上の雲スペクトルから各画素に対して少なくとも一つのスペクトルを選択すること、
前記入力画像のスペクトルから、前記一つ以上の雲以外の一つ以上のエンドメンバのスペクトルを抽出すること、及び、
前記入力画像中の前記各画素について、一つ以上のエンドメンバのそれぞれのスペクトルの存在比と、前記一つ以上の雲のうち一つの選択されたスペクトルの存在比とを導出すること
を含む。
本発明によると、画像中に複数の雲形又は雲層が存在していても、雲によって影響を受けた領域を正確に検出し、雲の影響を修正する画像処理装置、画像処理方法及び画像処理プログラムを記憶する記憶媒体が提供される。
図1は、本発明に係わる第1の例示的実施形態のブロック図である。 図2は、雲スペクトルメモリに記憶された雲スペクトルを示す表である。 図3は、雲スペクトルメモリに記憶された雲スペクトルの図的記述を示すグラフである。 図4は、本発明に係わる第1の例示的実施形態の手順のフロー図である。 図5は、入力画像のサブセット内の画素の位置のレイアウトを示す表である。 図6は、図5に示されるサブセット内の画素のスペクトル値を示す表である。 図7は、図5に示されるサブセット内の画素に関して、選択された雲スペクトルの指数を示す表である。 図8は、本発明に係わる第2の例示的実施形態のブロック図である。 図9は、本発明に係わる第2の例示的実施形態の手順のフロー図である。 図10は、図9のステップS201における推定雲領域を検出する手順のフロー図である。 図11は、本発明に係わる第3の例示的実施形態のブロック図である。 図12は、本発明に係わる第3の例示的実施形態の手順のフロー図である。 図13は、図12のステップS302における雲スペクトルを抽出する手順のフロー図である。 図14は、本発明に係わる第4の例示的実施形態のブロック図である。 図15は、本発明に係わる第4の例示的実施形態の手順のフロー図である。 図16は、図15のステップS402における入力画像中の複数の雲形を決定する手順のフロー図である。 図17は、本発明に係わる第5の例示的実施形態のブロック図である。 図18は、画像処理装置の構成を示すブロック図である。 図19は、雲の存在下における放射の物理的モデルの描画である。 図20は、非特許文献1に記載された方法(ST‐SMA)のブロック図である。
当業者には当然のことながら、図面中の各要素は簡素化と明確性のために図示されており、必ずしも実物大に描写されているとは限らない。例えば、雲の存在下における放射の物理的モデルを図示した図面中の一部の要素の寸法は、その例示的実施形態と他の例示的実施形態の理解を促すために他の要素に対して誇張されていることがある。
衛星プラットフォーム上のセンサによって撮像された衛星画像は、地球表面に関する莫大な量の情報を提供する。多くの衛星プラットフォームはマルチスペクトル画像又はハイパースペクトル画像を撮像できるセンサを持ち、私たちはこれらの画像から地表上の物体の特徴に関する情報をRGB画像で得られるものよりも非常に詳細に抽出することができる。マルチスペクトル画像は、電磁スペクトルの複数波長及び特定波長において撮像された景色の応答を含む画像である。概して、3つ(RGB)を超える帯域を有する画像はマルチスペクトル画像と呼ばれる。
しかしながら、これらの画像は撮像中に気候状態による影響を受けている。地表はおよそ3分の2が年中雲に覆われている。したがって、全ての画像について雲のない景色を取得することは困難である。画像中の雲被覆(画像中で目視できる雲の面積)は、土地使用土地被覆分類などの高度画像処理操作において衛星画像を利用する際に深刻な制約となる。雲被覆のある画像が高度の解析で使用される場合、得られた結果の信頼性は低くなる。
雲の混入する領域の検出と、混入度合いの推定は重要な前処理工程である。雲が厚過ぎて完全な放射を遮断(吸蔵)する場合、その領域が検出され、他の情報ソースから回復されなくてはならない。一方、雲被覆が十分に薄い場合、その画像からある程度地表情報を取得することができる。厚い雲とはセンサの視野を完全に遮断する大気中の雲を意味し、薄い雲は部分的に遮断する。多くの雲形や異なる雲層が存在し得る。
非特許文献1の方法は、スペクトル分解技術と放射伝達モデルに基づいて、薄い雲の被覆に影響を受けた画素を修正する方法を提供する。しかしながら、薄い雲に被覆された画素を正確に修正できるかは、抽出された雲スペクトルの正確さによる。画素は物理点を意味し、画像の単位要素である。物体のスペクトルは、各波長帯域に対して1つの値をとる物体の反射率の値一式からなる反射率スペクトルを意味する。「スペクトル分解手段」は、ある画素を構成するエンドメンバ及び画素中のエンドメンバの存在比を、画素とエンドメンバのスペクトルに基づいて導出する手順である。非特許文献1では、最も明るい画素のスペクトルを雲スペクトルとみなすが、これは最良の方法ではない。多くの景色で、最も明るい画素は砂地や屋上など地表の他の明るい物体の可能性がある。
加えて、雲形は高度と構成成分によって異なり、これらの異なる雲形は異なるスペクトル特徴を示す。ある場所の雲被覆が異なる高度で積層された複数の雲により構成される場合、より高度の雲がより低高度の雲に影を作ることがある。水分含有量の高い又は影に覆われた雲は外観がより暗くなり、最も明るい雲スペクトルとは異なるスペクトルを示す。
最も明るい画素のスペクトルのみを雲スペクトルとみなす場合、この分解技術とそれに続いて薄い雲の修正が行われると、上述のようなより暗い雲によって被覆された画素を誤って地上の水として取得する可能性が高い。これは、非特許文献1の方法が最も明るい雲一種類のみの存在を想定しているためである。それ故、選択された雲スペクトルは多くの画素では不正確で、非特許文献1の技術は望ましい結果を提供できない。
さらに、画素を厚い雲とマークする際の制約が厳格で(g=1)、実用的ではない。これは、雲スペクトルが変化に富むことに起因する。雲は広範囲に広がり、成分も異なり得るため、厚い雲が混入する全ての画素が完全に同じスペクトルを持つわけではない。厳格な制約のために、たとえ雲スペクトルが正確に選択されても、非特許文献1の方法は厚い雲の被覆を完全に検出することができない。
上述した問題を解決し得る本発明の各例示的実施形態を、図面を参照して以下に記載する。以下の詳細の説明は本質的に例示に過ぎず、本発明や本発明の適用や使用を限定することを意図しない。さらに、前述の本発明の背景に記載されたいかなる理論や以下の詳細の説明に限定されることも意図しない。
<第1の実施形態>
空には多くの異なる雲形や雲層がある。異なる雲形を分けて扱うことで、雲の検出や修正方法の精度を改善することができる。第1の例示的実施形態では、最終的に正確な観測結果を取得するために異なる雲形を考慮する画像処理装置が記載される。
<<画像処理装置>>
図1は、本発明に係わる第1の例示的実施形態の画像処理装置100の構成を示すブロック図である。画像処理装置100は、入力部10、雲スペクトルメモリ11、受信部12、雲スペクトル選択部13、エンドメンバ抽出部14、分解部15、閾値化部16、厚雲マスク部17、薄雲修正部18及び出力部19を含む。
入力部10は、衛星プラットフォーム上のセンサ(図1には図示しない)から無線通信でマルチスペクトル画像を受信し、入力画像を雲スペクトル選択部13、エンドメンバ抽出部14、受信部12及び分解部15に送る。
雲スペクトルメモリ11は、衛星画像で一般的に観測される各種雲スペクトルをデータベース又は表形式で記憶する。図2に示されるように、雲スペクトルは雲No.(番号)行と帯域No.列の表として記憶できる。雲No.の各々は雲の種類を表す。雲の各種類が番号に対応する。雲は種類によって異なるスペクトルを有する。帯域No.は、例えば、可視光、近赤外線、短波赤外線の帯域など波長帯域の種類を表す。各帯域は番号と対応する。例えば、帯域1は海岸エアロゾル帯域で波長域は0.43〜0.45(μm)、帯域2は青帯域で波長域は0.45〜0.51(μm)である。
図3に示されるように、雲スペクトルメモリは反射率を縦軸、波長(μm)を横軸とするグラフで図示できる。グラフでは、各線が雲の種類(雲No.)に対応する。各帯域は波長域に対応する。雲スペクトルメモリ11の各種スペクトルは雲スペクトル選択部13によって利用される。
受信部12は、画像中の雲以外のエンドメンバの数を決定する。Lが入力されたマルチスペクトル画像中に存在する波長帯域数の場合、式(9)の制約によってエンドメンバの数は自動的にL−2に制限される。あるいは、操作者が目視により画像中のエンドメンバの数を入力してもよい。受信部12は、決定したエンドメンバの数をエンドメンバ抽出部14に送る。
雲スペクトル選択部13は、入力画像中の各画素に対する雲スペクトルを選択するため、入力されたマルチスペクトル画像を入力部10から獲得し、全ての雲スペクトルを雲スペクトルメモリ11から獲得する。雲スペクトル選択部13は、入力画像中の各画素について、それぞれの画素に混入している可能性のある雲スペクトルを決定する。
入力画像はN個のうちN個の雲スペクトルを含む。N及びNは正の整数で、1≦N≦N(以下同様)である。雲スペクトルは雲スペクトルメモリ11に記憶されている。
各画素について、雲スペクトル選択部13は、多次元特徴空間中で画素のスペクトルと分光的に最も近似した雲スペクトルを選択する。各次元は画像中の特定の波長帯域に対応する。雲スペクトル選択部13は、式(11)のように2つのスペクトル間のスペクトル角度(“W”)によってスペクトルの近似度を測定する。
Figure 2019537151

x・sはベクトルx及びsのドット積を表し、|x|、|s|はそれぞれベクトルx及びsの大きさを表す。角度(W)の大きさは特徴空間内のスペクトル間の類似度に反比例する。したがって、雲スペクトルメモリ11の使用可能なN個の雲スペクトル中、画素に対してWが最小であるスペクトルが、画素に混入した可能性が高い雲スペクトルとして選択される。
あるいは、雲スペクトル選択部13は、ある画素について、入力画像中のその画素の位置に空間的に最も近い雲スペクトルを選択してもよい。雲スペクトル選択部13は、それぞれの画素について選択された雲スペクトルを分解部15に送る。
エンドメンバ抽出部14は、入力部10からマルチスペクトル画像を獲得し、受信部12からエンドメンバの数を獲得し、同数の雲以外のエンドメンバのスペクトルを抽出する。エンドメンバは、画像中のピュア土地被覆クラスを意味する。土地被覆クラス(エンドメンバ)は、変化抽出においては植生、水、さらに、森林モニタリングにおいてはヒマラヤスギ、イトスギなど用途によって選択される。
画像中のエンドメンバについて代表的画素を識別する場合、代表的画素の平均スペクトルをエンドメンバのスペクトルとみなすことができる。しかしながら、一般的に、このような代表的画素は容易に利用可能なわけではない。あるいは、エンドメンバ抽出部14は、Pixel Purity Index、N−FINDR及びVertex Component Analysis(VCA)などのよく知られた教師なしエンドメンバ抽出アルゴリズムによって抽出を行うことができる。あるいは、エンドメンバ抽出部14は、まず教師なしクラスタリングを行い、次に各クラスタの手段としてエンドメンバのスペクトルを選択し、雲スペクトルと類似していないこれらのスペクトルのみを考慮することで抽出を行うことができる。
エンドメンバ抽出部14は、抽出したエンドメンバのスペクトルを分解部15に送る。
分解部15は、入力部10から入力されたマルチスペクトル画像と、エンドメンバ抽出部14からエンドメンバのスペクトルと、及び、雲スペクトル選択部13から画像中の各画素に対して選択された雲スペクトルとの3つの入力を得る。分解部15は、画素中の全てのエンドメンバの及び雲の存在比(画素中のエンドメンバの相対的割合)を決定する。入力された画素のスペクトルについて、分解部15は、エンドメンバと雲スペクトルの線形混合の係数を、制約条件を完全に満たした線形混合分析である逐次最小2乗法によって決定する。線形混合モデルの係数はエンドメンバ及び雲の存在比である。取得された各存在比によってエンドメンバと雲スペクトルが調整され、線形に加算された場合に入力画素のスペクトルが取得できるように、分解部15は分解を行う。分解問題は、式(9)によって与えられた制約下で式(8)によって定義できる。上記説明に基づき、分解部15は雲の存在比(g)を取得し、閾値化部16に送る。
閾値化部16は、分解部15から入力画像中の各画素における雲の存在比を受け取る。そして、閾値化部16は、閾値と取得した雲の存在比(g)との比較結果に基づいて、厚い雲に被覆された画素を薄い雲に影響を受けた画素から分離する。閾値は操作者が事前に設定できる。ある画素について雲の存在比が閾値以上の場合、閾値化部16はその画素を厚雲マスク部17に送る。ある画素について雲の存在比が閾値未満の場合、閾値化部16はその画素を各画素の雲の割合(g)と一緒に薄雲修正部18に送る。
厚雲マスク部17は、閾値化部16から厚い雲に被覆された画素を受信する。厚雲マスク部17は、入力された画素を厚い雲としてマークし、画素をマスクして出力部19に送る。
薄雲修正部18は厚い雲に被覆されていない画素を各画素の雲の割合と一緒に閾値化部16から受信する。薄雲修正部18は、式(10)を用いて真の画素反射率を取得し、入力された画素を計算結果で修正する。晴天画素に関しては、gが0のため、晴天画素は式(10)による影響を受ける。薄雲修正部18は修正された画素を晴天画素と一緒に出力部19に送る。
出力部19は、厚い雲で被覆されておりマスクされた画素を厚雲マスク部17から受信し、薄い雲に影響を受けており修正された画素及び晴天画素を薄雲修正部18から受信する。出力部19は、全ての入力を合成し、合成画像を出力としてディスプレイに送る(図1には図示せず)。
<<画像処理装置の動作>>
図4は、画像処理装置100の動作を示すフロー図である。必要なスペクトルは雲スペクトルメモリ11内に記憶されていると想定する。全画素のそれぞれに対して、ステップS101及びS103〜S107の動作が実施される。
まず、ステップS100で、入力部10はマルチスペクトル画像を受信する。受信部12はエンドメンバの数を受信する。
ステップS101で、雲スペクトル選択部13は入力されたマルチスペクトル画像を入力部10から獲得し、入力画像中の各画素について、雲スペクトルメモリ11に記憶されたスペクトルの中から各画素のスペクトルと最も近似した雲スペクトルを選択する。
以下に一例をあげる。図2は、雲スペクトルメモリ11に記憶されたスペクトルの表を示す。図5は、入力されたマルチスペクトル画像のサブセット内の画素のレイアウト表を示す。画像中のP11、P12などの各区画は、各画素を例示的に示す。図6は、各波長帯域に対応する各画素の実際のスペクトル値を示す(上部より、帯域1〜帯域7)。雲スペクトル選択部13は、式(11)を用いて画素と雲スペクトルメモリ11中の各雲スペクトルとの間のスペクトル角度を計算し、計算結果に基づいて最も近似した雲スペクトルを選択する。
例えば、雲スペクトル選択部13は、図5のP11と図2の雲1との間のスペクトル角度を以下のように計算する。
Figure 2019537151

同様に、雲スペクトル選択部13は、全ての雲について以下のようにスペクトル角度を計算する。
雲2:W=9.0275470178°、
雲3:W=9.027547178°、・・・、
雲N:W=1.747962509°
計算結果では、P11の雲Nとの角度が最も小さいことが示されたため、雲スペクトル選択部13は、P11に雲Nが混入していると決定し、雲NはP11を分解するために選択される。
雲スペクトル選択部13が全ての画素に対応する雲スペクトルを選択した後の出力を図7に示す。表中の数字は図5中の各画素に対して選択された雲No.の指標を示す。
ステップS102で、エンドメンバ抽出部14は入力画像から雲以外のエンドメンバのスペクトルを抽出する。抽出されたスペクトルの数は受信部12によって特定された数に等しい。
ステップS103で、分解部15は入力画像中の画素を分解して、それぞれの画素中の雲の存在比(g)を求める。
ステップS104で、閾値化部16は、画像中の各画素について雲の存在比(g)を閾値と比較する。
ステップS105で、厚雲マスク部17は、雲の存在比(g)が閾値以上の画素を厚い雲としてマスクする。
ステップS106で、薄雲修正部18は、ある画素の雲の存在比が閾値未満の場合、式(10)によってその画素の修正を行う。例えば、図5の画素P11について、図7に示すように混入する雲はNである。閾値化部16の閾値を0.9とする。画素P11の場合、雲の存在比は閾値未満のため、分解部15は雲の存在比を0.6として出力し、閾値化部16はこの画素を薄雲修正部18に送る。薄雲修正部18は修正を行い、図2中の雲Nのスペクトル率値及び以下に示すように図6中の画素P11のスペクトル率値を用いて真の地表面の反射率rを求める。
Figure 2019537151
最後に、ステップS107で、出力部19は入力画像中で厚い雲に被覆されておりマスクされた画素と、薄い雲の影響を受けており修正された画素との合成画像をディスプレイに出力する。以上が画像処理装置100の動作である。
<<第1の例示的実施形態の効果>>
本発明に係わる第1の例示的実施形態の画像処理装置100は、画像中に複数の雲形又は雲層が存在する場合でも、雲に影響された領域を正確に検出し、雲による影響を修正することができる。これは、雲スペクトル選択部13が雲スペクトルメモリ11を参照して、複数の雲スペクトルの中から分解する雲スペクトルを選択することによる。第1の例示的実施形態では、閾値化部16が、gが1でなければならないなどの厚い雲検出の際の厳格な制約による限定を克服できる。閾値化部16は、厚い雲検出の厳格な条件を緩和させる。そのため、厚い雲の画素については、雲の存在比が1未満あるいはその周辺であっても、画素は厚い雲とマークされる。その結果、画像処理装置100は、入力画像中の厚い雲の被覆を高い精度で検出することができ、薄い雲に影響を受けた画素をより正確に修正することができる。
<第2の例示的実施形態>
第1の例示的実施形態では、画像処理装置100は、画像中に複数の雲形又は雲層が存在する場合でも、雲スペクトルメモリ11から雲スペクトルを選択することで、雲によって影響を受けた領域を検出し、雲による影響を修正することができる。エンドメンバ抽出部14は画像全体から雲以外のエンドメンバのスペクトルを抽出する。これには長い時間がかかり、多くの資源を消費することがある。加えて、エンドメンバ抽出部14が誤って雲スペクトルを複数回選択する可能性がある。これを回避するには、画像処理装置は、エンドメンバのスペクトルを抽出する前に画像中の晴天領域を取得するために、入力画像中の雲っているように見える部分、つまり、雲によって被覆されている可能性のある部分を検出するのが望ましい。これによって、雲以外のエンドメンバのスペクトルを晴天領域からのみ抽出することができる。第2の例示的実施形態では、入力画像中の推定雲領域を検出できる画像処理装置を説明する。
<<画像処理装置>>
図8は、本発明に係わる第2の例示的実施形態の画像処理装置200の構成を示すブロック図である。画像処理装置200は、入力部10、雲スペクトルメモリ11、受信部12、雲スペクトル選択部13、推定雲領域検出部21、エンドメンバ抽出部14a、分解部15、閾値化部16、厚雲マスク部17、薄雲修正部18及び出力部19を含む。
推定雲領域検出部21は、入力されたマルチスペクトル画像を入力部10から獲得し、エンドメンバ抽出部14aが雲以外のエンドメンバのスペクトルを決定する前に、雲によって被覆されている可能性のある領域を検出する。推定雲領域は、入力画像中の厚い雲被覆の第1の推定である。
第2の例示的実施形態における推定雲領域検出部21の具体的な動作を以下に記載する。
推定雲領域を決めるには、スペクトル特性に加えて雲の空間特性(画像中の画素の位置及び近傍に基づいた特性)を用いることができる。画素の近傍(画素)は隣接画素に限られず、近傍画素の一定の領域を含む。近傍画素の領域は、所定の規則による画像のサブセットの一つであるウインドウの大きさに依存する。
画像中で、雲はほとんど均一な強度レベルの大きく平坦な領域である(強度レベル又はグレーレベルは白と比較した際の画素の相対的強度であり、帯域内の画素について記録されたデジタル数字(画素値)に対応する)。推定雲領域を決定するため、推定雲領域検出部21は、雲の空間及びスペクトル特性に基づいた空間‐スペクトルフィルタを用いて、画像中の雲被覆を推定する。フィルタには、空間及びスペクトル特性を量子化し、入力画像中の各画素が推定雲領域の一部か否かを分類するため、標準偏差及びテクスチャ平均を用いる。
推定雲領域検出部21は、単位長当りのエッジ、空間的変動、テクスチャなどの測度に基づいて強度レベルの平坦度を識別できる。推定雲領域検出部21は、Prewitt、Sobel、Laplacian of Gaussian及びCanny edge detectorなどのフィルタ機能アプリケーションによって計算された強度レベルの勾配値に基づいて、強度レベルの急激な変化のない領域を検出するフィルタを設計でき、さらに、標準偏差を勾配の測度として用いることができる。推定雲領域を検出する最も望ましい測度は、画素強度の標準偏差である。ある画素について、その画素自体と近傍の強度値を考慮して標準偏差が計算される。画素あたりの標準偏差は、近傍において画素の強度が平均強度値からどれだけばらついているかの定量的測度である。画像中で、強度が一定の領域では標準偏差は低く、エッジなどの特徴では高くなる。推定雲画素をフィルタリングするのに標準偏差をどのように用いることができるかについては後述する。
加えて、画像中で、雲に被覆される領域内の全ての画素はほとんど類似した強度レベルを有する。したがって、雲に被覆された領域は特定パターンの強度レベルと均質なテクスチャを示す。そこで、推定雲領域検出部21は、推定雲領域を検出するために、テクスチャのフィルタを用いることができる。雲は、可視光、近赤外線、短波赤外線の波長帯域に非常に高い反射率を示す。雲検出部21はこの性質を用いて雲を区別することができる。
推定雲領域検出部21は、画像形状のフィルタ、及び/又は、特定の土地被覆のスペクトル反射率特性に基づいた特定の土地利用フィルタを用いて、入力画像中の雲被覆の推定を向上させる。推定雲領域検出部21は、上述したスペクトル及び空間特性を用いて雲を区別できる。加えて、推定雲領域検出部21は、雲のない領域をフィルタリングするための形状フィルタを用いることができる。人工物は、雲とは異なり輪郭が明確な規則的形状を持つ。推定雲領域検出部21は入力画像中の物体の形状を決定でき、推定雲領域から規則的形状の物体を除去する。
規則的形状をフィルタリングで取り除くのに加えて、推定雲領域検出部21は、植生、雪、水、市外区域など画像中の特定の土地被覆クラスを決定することができる。推定雲領域検出部21は、決定にスペクトル指数を用いることができる。スペクトル指数の一部の例として、正規化植生指数、正規化積雪指数、正規化都市化指数、正規化水指数、正規化湿地指数、正規化燃料率などがあるがこれらに限られない。
推定雲領域検出部21は、上述したフィルタを組み合わせて入力画像中の推定雲領域を出力する。取得した推定雲領域内の画素は、雲の影響を受けている可能性があり、入力画像から除去されて残りの画素がエンドメンバ抽出部14aに送られる。
エンドメンバ抽出部14aは、エンドメンバ抽出部14とほとんど同じ動作を行うが、エンドメンバの数を受信部12より受信し、相対的に晴れた雲なし画素を入力として受信するところが異なる。
その他の各部は第1の例示的実施形態と同じである。
<<画像処理装置の動作>>
図9は、画像処理装置200の動作を示すフロー図を示す。
ステップS200の入力は図4のステップS100の入力と同じである。
ステップS201で、推定雲領域検出部21は、入力画像中に推定雲領域を検出する。この動作の詳細は後述する。
ステップS202で、取得された推定雲領域は入力画像より除去され、入力画像中の相対的に晴れた領域が求められる。
ステップS203〜S209の動作は、それぞれ図4のステップS101〜S107の動作と同じである。
なお、ステップS204で、入力はステップS202で取得された入力画像中の相対的に晴れた領域であり、図4のステップS102の全体画像とは異なる。
以上が画像処理装置200の動作である。
次に、上述したステップS201の動作を詳細に説明する。図10はステップS201の動作のフロー図を示す。
まず、ステップS2010で、推定雲領域検出部21は入力されたマルチスペクトル画像を入力として受けとる。ステップS2011で、推定雲領域検出部21は、入力画像中の全ての画素について、画素の各波長帯域に対応する各スペクトル値の2乗和を計算することで、グレースケール強度画像を計算する。グレースケール強度画像(Imag)は、入力されたマルチスペクトル画像(I)から以下のように導出できる。
Figure 2019537151

L、R、Cは、それぞれ入力画像の波長帯域、行、列の数である。あるいは、雲は波長に選択的に影響するため、グレースケール強度画像を計算するには、異なる波長に対する雲の影響を考慮して波長帯域に異なる加重を行うか、一部の帯域を除外してもよい。
ステップS2012で、推定雲領域検出部21は、画素の標準偏差を計算し、雲のエッジを含む画素(領域)を避けることによって厚い雲のみに被覆された領域を検出する。画素の標準偏差は、画素の強度の平均強度値からのばらつきを表す定量的測度である。推定雲領域検出部21は、グレースケール強度画像から、式(13)及び(14)を用いてローカルウィンドウ内の各画素について標準偏差を計算する。
Figure 2019537151

Figure 2019537151

std(i,j)は、ウインドウ内で画素(i,j)について計算された標準偏差である。ウインドウは、画素(i,j)の近傍にあるN個の画素[I,・・・,I]により構成される。Mijは、式(13)を用いて計算されたウインドウ内の平均強度である。
ステップS2013で、推定雲領域検出部21は、推定雲領域を検出するためテクスチャ測度を計算する。推定雲領域検出部21は、テクスチャに基づいて雲の強度レベルの平坦度を量子化するフィルタを設計できる。画像のテクスチャは、グレーレベル同時生起行列(GLCM)によって量子化できる。GLCMによって、エントロピー、コントラスト、偏差、平均などの異なる量が導出できる。最も望ましい測度はGLCM平均である。推定雲領域検出部21は、グレースケール強度画像より、画像中の全ての画素について、ローカルウィンドウ内の画素のGLCM平均値を計算する。ステップS2013の詳細な説明を次に記載する。
推定雲領域検出部21は、GLCMの共起行列を作成する。行列の要素は、画像中に一定の変位δ=(r,θ)で強度レベルiとjが出現する頻度Pδ(i,j),(i=0,1,・・・,Q−1,j=0,1,・・・,Q−1)である。Qは、量子化された強度レベルである。rはiとjの間の距離、θは線ijの水平軸に対する向きである。特徴量は行列から計算でき、画像の特徴情報(テクスチャなど)はこれらの値によって特徴付けられる。
GLCMを決定する際に、0の多いスパースGLCMを回避するため入力強度レベルの量子化が推奨される。量子化段階(Q)は、2から入力画像中の強度レベルまで変化し得る。最も望ましいのは、8段階の量子化である。iおよびjは、画像中のQ段階の量子化強度レベルに対応する。GLCMから、式S2012を用いてGLCM平均(Gmean)が計算される。
Figure 2019537151

P(i,j)は強度レベルのGLCM値である。画像中で特定の距離において特定の向きにグレーレベルi及びグレーレベルjの組み合わせが現れる頻度を示す。例えば、GLCMにおける(7,2)の要素は、画像中で7と2の強度レベルが何度一緒に現れたかを示す。
向きには、水平(0°)、鉛直(90°)、斜め1(45°)又は斜め2(135°)がある。最も望ましい向きは、グレーレベル間が単位距離の水平(0°)である。Gmeanは、ローカルウィンドウ内の画像中の各画素について計算される。
ステップS2014で、推定雲領域検出部21は、雲によって被覆されている可能性のある領域を検出するためにGLCM平均と標準偏差に対して閾値を設定する。標準偏差の閾値は(標準偏差の平均、“AVGSTD”と省略)、画像全体の標準偏差とするか、又は、以下のように計算されてもよい。
Figure 2019537151

は、範囲[0,1]の定数である。
GLCM平均の閾値は、全ての画素についてのGLCM平均値の平均(“AVGMEAN”と省略)として、あるいは以下のように選択されてもよい。
Figure 2019537151

は、範囲[0,1]の定数である。
及びKの初期値は0.5と定められてもよい。あるいは、細かい調整のために操作者によってこれらの値が設定されてもよい。
次に、ステップS2015〜S2016の動作は入力画像中の全ての画素のそれぞれについて繰り返される(∀画素)。
ステップS2015で、推定雲領域検出部21は、ステップS2014で設定された閾値に基づいて、画像中の推定雲画素を他の物体からフィルタリングする。ステップS2014〜S2015は、推定雲領域検出用のフィルタを形成する。このフィルタに関する動作を以下に記載する。
推定雲画素をフィルタリングするには、標準偏差を用いることができる。雲の領域はほとんど同様の強度レベルで広範囲に広がるため、標準偏差のフィルタは、雲に被覆された画素の標準偏差は低いという前提に基づいている。画素の標準偏差が閾値よりも小さい場合(標準偏差<閾値“AVGSTD”)、画素は一定の強度レベルの広い領域に属していることがある。つまり、画素は雲領域に存在する雲画素の可能性がある。標準偏差のフィルタは、海岸の砂地や小さな屋上などの一部のより明るい物体を排除するのにも役立つ。
特定の向きに特定の距離をおいて2つの強度レベルが頻出すると、GLCMに高い要素値が与えられ、強度レベルの特定のパターンを示す。GLCMの平均値では、GLCM値にそれぞれの強度レベルを加重している。雲は、可視光、近赤外線、短波赤外線の帯域に高い反射率を示すため、雲はグレースケール強度画像の中で非常に明るい外観となる。加えて、雲被覆は、画像中で大きな一続きの領域になる傾向がある。したがって、特定の向きに特定の距離で雲のグレーレベルが発生する頻度は高くなる。
これらの性質から、雲はGLCM平均の画像中でより明るい外観を示す。雲の領域は、高いGLCM平均値の領域が求められるようにGLCM平均画像を二極化することによって識別できる。画素のGLCM平均が閾値よりも大きい場合(GLCM平均>閾値“AVGMEAN”)、画素は一定のグレーレベルの広い領域に所属し得る。
したがって、ステップS2015において、推定雲領域検出部21は、ステップS2014で設定される閾値を用いて、標準偏差が閾値未満でGLCM平均が閾値よりも大きい画素を推定雲画素としてマークする。
ステップS2016で、画素が閾値未満の標準偏差又は閾値より大きいGLCM平均を持ち、画素が厚い雲で被覆されていると決定された場合、推定雲領域検出部21は、この画素を推定雲領域に加える。一方、画素が閾値以上の標準偏差又は閾値以下のGLCM平均を持つ場合、この画素は厚い雲に被覆されているとは判断されない。そして、画素は推定雲領域に含まれず、全ての画素についてステップS2015及びS2016が完了するまで動作はS2015に戻る。
ステップS2017で、推定雲領域検出部21は、推定雲画素とマークされた画素領域から小さな孤立領域を除去する。8つの連結画素を考慮してこの処理が行われてもよい。推定雲領域検出部21は、推定雲領域を出力する。
以上が、推定雲領域検出部21の具体的な動作と図9のステップS201の説明である。
<<第2の例示的実施形態の効果>>
第2の例示的実施形態は、第1の例示的実施形態の効果に加え、第1の例示的実施形態よりも更に有利な効果を有する。第1の例示的実施形態のように雲の領域を含む完全な画像がエンドメンバ抽出部14に入力された場合、一部の雲スペクトルが追加で抽出されることがあり、続く分解部15の工程で、雲スペクトル選択部13により選択された雲の存在比を計算する際にそれらの雲スペクトルが混同されることがある。また、非特許文献1のように画像全体を用いることで、雲被覆を含む全画像から雲以外のエンドメンバのスペクトルを抽出するのにより長い時間がかかり、多くの資源を使用することがある。第2の例示的実施形態では、雲のピュア画素は雲のない領域には存在しないため、エンドメンバ抽出部14は雲のない領域のみを入力として受け付け、雲スペクトルは追加で抽出されない。したがって、続く分解処理は、雲の存在比をより正確に推定できる。つまり、より正確に厚い雲の被覆を検出し、薄い雲に影響を受けた画素を修正することができる。
<第3の例示的実施形態>
第1と第2の例示的実施形態では、画像処理装置100及び200が入力画像中の厚い雲を検出し、薄い雲によって影響を受けた画素を修正できる。しかし、雲スペクトルメモリ11から選択された雲スペクトルは、画像中に存在するスペクトルと完全には一致しないことがある。これは、雲スペクトルは変化に富むことと、大気状態の変化による。入力画像中の実際の雲スペクトルは、雲スペクトルメモリ11に存在しない可能性がある。第3の例示的実施形態では、入力画像自体から雲スペクトルを抽出できる画像処理装置を説明する。
<<画像処理サーバ>>
図11は、本発明に係わる第3の例示的実施形態の画像処理装置300の構成を示すブロック図である。画像処理装置300は、入力部10、受信部12、推定雲領域検出部21、雲スペクトル抽出部31、雲スペクトル選択部13、エンドメンバ抽出部14、分解部15、閾値化部16、厚雲マスク部17、薄雲修正部18及び出力部19を含む。
受信部12の動作は第1の例示的実施形態で説明されたものとほとんど同じであるが、入力が追加される。受信部12は、操作者から画像中の異なる雲スペクトルの数を受信する。受信部12は、異なる雲スペクトルの数を雲スペクトル抽出部31に送る。
雲スペクトル抽出部31は、雲スペクトル選択部13が各画素について雲スペクトルを選択する前に、画像中に存在する雲スペクトルを抽出する。
雲スペクトル抽出部31は、入力部10からマルチスペクトル画像を獲得し、受信部12から画像中に存在する雲の異なるスペクトルの数を獲得する。雲スペクトル抽出部31は、互いに異なる雲の数と同じ数の雲画素のクラスタを見つけ出す。各クラスタは一つの雲形に対応する。雲スペクトル抽出部31は、各クラスタより雲スペクトルを導出する。雲スペクトル抽出部31は、GLCM平均値と、同じ雲形に属する画素はほとんど同じGLCM平均値を示すという性質とに基づいて、雲画素のクラスタを決定できる。
あるいは、雲スペクトル抽出部31は、雲によってのみ被覆される画素(領域)を見つけ出し、教師なし分解を行うことで、雲によって被覆された領域内から異なる雲形のクラスタを求めることができる。教師無し分解は、k−meansクラスタリング、mean shiftクラスタリング、isodataアルゴリズム及びDBSCAN(Density−based spatial clustering of applications with noise)など、周知のアルゴリズムで行うことができる。
その他の各部は、第1及び第2の例示的実施形態の各部と同じである。
<<画像処理装置の動作>>
図12は、画像処理装置300の動作を示すフロー図を示す。
ステップS300で、マルチスペクトル画像が入力される。
ステップS301の動作は、図9のステップS201(ステップS2010〜S2018)の動作と同じである。
ステップS302の動作は、図9のステップS202の動作と同じである。
ステップS303で、雲スペクトル抽出部31は入力画像中に存在する雲スペクトルを抽出する。この動作の詳細は後述する。
ステップS304〜S310の動作は、図4のステップS101〜S107の動作とそれぞれ同じである。
次に、上述したステップS303の動作を詳細に説明する。図13はステップS303の動作のフロー図を示す。
ステップS3030で、雲スペクトル抽出部31は入力部10から入力されたマルチスペクトル画像を受信し、受信部12から画像中に存在する異なる雲(N)の数を受信する。画像中に異なる雲スペクトルを見つけ出すには、異なるクラスタが異なる雲形又は雲層に対応するように、特定された雲の数Nと同数の第1の雲の画素のクラスタが決定される。雲スペクトルはそれぞれのクラスタから抽出できる。
ステップS3031及びS3032の動作は、図10のステップS2011及びS2013の動作とそれぞれ同じである。
ステップS3033で、雲スペクトル抽出部31は画像中の各画素のGLCM平均を0〜255(8ビット)の範囲の整数に調整する。8ビットの整数への調整は一例に過ぎず、GLCM平均画像は調整せずに処理されても、あるいは、他の範囲に調整して処理されてもよい。
ステップS3034で、雲スペクトル抽出部31は、入力画像中のGLCM平均値のヒストグラムを導出し、ヒストグラムのピークを検出し、GLCM平均値のヒストグラム中のピークに基づいて入力画像中に存在する一つ以上の雲のクラスタを形成し、入力画像中に存在するそれぞれが各クラスタから取得された一つ以上の雲スペクトルを一式の代表スペクトルとして導出することで、入力画像中に存在する雲スペクトルを抽出する。より具体的には、雲スペクトル抽出部31は調整されたGLCM平均画像からヒストグラムを導出する。GLCMの平均では、テクスチャ測度にグレーレベルを加重している。したがって、全ての雲領域が類似テクスチャを有するとしても、グレーレベルが異なる場合、異なる大きさのGLCM平均が示される。雲は広範囲にわたるため、多数の画素が類似したGLCM平均値を示す。この性質はヒストグラムを用いて量子化できる。
ステップS3035で、雲スペクトル抽出部31は、ヒストグラム中の各グレーレベルのピーク度を計算する。類似したグレーレベルを有する多数の画素は、ヒストグラム中で複数のピークを示す。したがって、GLCM平均画像のヒストグラムの各ピークは、画像中の各クラスタを定める。画像中の異なる雲形又は雲層は、GLCM平均の大きさが異なるため、GLCM平均画像のヒストグラム中で異なるピークを示す。式(18)によって与えられるピーク度測度に基づいてヒストグラム中の極大値(ピーク)を決めることができる。
Figure 2019537151

“V”はピーク前最近の谷の高さ、“V”はピーク後最近の谷の高さ、Pはピークの高さ、Qはピークの広がりで、ピークに近隣した谷と谷との間の距離とみなされる。与えられた問題の文脈では、GLCM平均画像のヒストグラムは多くのグレーレベルがゼロとなりスパースである。したがって、ピーク度の計算には、近隣のゼロでない谷が考慮される。ステップS3035で、雲スペクトル抽出部31は、全てのグレーレベルについてピーク度を計算する。
ステップS3036で、雲スペクトル抽出部31は、閾値に基づいてヒストグラム中の極大値(ピーク)を決定する。所定の閾値よりも大きなピーク度を有するグレーレベルはヒストグラム中の極大値(ピーク)と考えられる。
ステップS3037で、雲スペクトル抽出部31は、GLCM平均画像中で雲に相当するグレーレベルである雲の種を決定する。第2の例示的実施形態で記載したように、画像中で雲は他の物体より大きなGLCM平均を示す。したがって、GLCM平均のヒストグラムにおいてより高い強度レベルの範囲にあるピークは、雲に属する画素に相当する可能性が高い。ステップS3037で、ヒストグラム中の最も高いGLCM平均レベルから始まり、ピークに相当する上位N個のGLCM平均レベルが、異なる雲形又は雲層に対応する中心GLCM平均レベルとみなされる。これらのGLCM平均レベルは、本例示的実施形態において雲の種と呼ばれる。
ステップS3038で、GLCM平均の大きさが種のGLCM平均レベルと同じ全ての画素はコア雲画素とマークされる。コア画素は、種に対応する雲画素のクラスタを形成する。異なる雲クラスタは、全ての種のGLCM平均レベルに対応するコア画素を識別することで定義される。
ステップS3039で、雲スペクトル抽出部31は、異なる雲のクラスタから雲スペクトルを導出する。クラスタから雲スペクトルを導出する適切な方法の幾つかは以下の通りである:
i. クラスタの平均スペクトル、
ii. クラスタ中の最も明るい画素のスペクトル、又は
iii. クラスタ中の上位幾つかの明るい画素の平均
ステップS3040で、雲スペクトル抽出部31は、入力画像中に存在する雲スペクトルを出力し、これらを雲スペクトル選択部13に送る。
以上が、雲スペクトル抽出部31の具体的な動作と図12のステップS303の説明である。
<<第3の例示的実施形態の効果>>
本発明に係わる第3の例示的実施形態は、第1と第2の例示的実施形態の効果を有し、さらに第1の例示的実施形態よりも有利な効果を有する。第3の例示的実施形態の画像処理装置300は、雲スペクトルのデータベース又はメモリからのスペクトルを用いる代わりに、画像自体から異なる雲スペクトルを抽出する。全ての画像は環境状態の影響を受け、地形や太陽の上昇を様々に捉えるため、入力画像から雲スペクトルを抽出することで、雲スペクトルのより良い推定ができる。このように、データベース中のスペクトルは入力画像中の実際の雲スペクトルと完全には一致しないことがある。この制約は入力画像自体から雲スペクトルを抽出することで取り除くことができる。つまり、雲スペクトル抽出部31はより正確な雲スペクトルを提供し、雲に被覆された画素の検出と修正の正確性を向上させる。
<第4の例示的実施形態>
第1から第3の例示的実施形態において、画像処理装置100、200及び300は、入力画像が複数の雲形又は雲層を含む場合でも、入力画像中の厚い雲を検出し、薄い雲によって影響を受けた画素を修正することができる。第3の例示的実施形態では、画像処理装置300は入力画像自体から入力画像に存在する雲スペクトルを抽出するが、画像中の雲形又は雲層の数を自動的に決定できない。第4の例示的実施形態では、入力画像中の雲形又は雲層の数を導出する画像処理装置を説明する。
<<画像処理装置>>
図14は、本発明に係わる第4の例示的実施形態の画像処理装置400の構成を示すブロック図である。画像処理装置400は、入力部10、受信部12、推定雲領域検出部21、雲スペクトル抽出部31a、雲形計数部41、雲スペクトル選択部13、エンドメンバ抽出部14a、分解部15、閾値化部16、厚雲マスク部17、薄雲修正部18及び出力部19を含む。
雲形計数部41は、入力画像中に存在する雲スペクトルを計数する。雲形計数部41は、入力画像中の有意な雲形又は雲層の数を、入力画像自体から自動的に決定する。
雲形計数部41は、推定雲領域検出部21から推定雲領域及びGLCM平均画像を獲得する。推定雲領域内の画素のGLCM平均画像のヒストグラム中にある極大値(ピーク)の数によって、入力画像中の雲形の数の推定が可能になる。
雲スペクトル抽出部31aは、雲スペクトル抽出部31とほとんど同じように動作するが、入力画像中に存在する雲スペクトルの計数に基づいて、入力画像から入力画像中に存在する一つ以上の雲の少なくとも一つのスペクトルを抽出するところが異なる。
他の各部は第1から第3の例示的実施形態の各部と同じである。
<<画像処理装置の動作>>
図15は、画像処理装置400の動作を示すフロー図を示す。
ステップS400の動作は、図12のステップS300の動作と同じである。
ステップS401の動作は、図9のステップS201(S2010〜S2018)の動作と同じである。
ステップS402で、雲形計数部41は、入力画像中の有意な雲形又は雲層の数を決定する。この動作の詳細は後述する。
ステップS403で、動作は図12のステップS302(S3030〜S3040)と同じであるが、雲スペクトル抽出部31aが雲形計数部41から雲形の数を獲得するところが異なる。
ステップS404の動作は、図9のステップS202の動作と同じである。
ステップS405〜S411の動作は、それぞれ図4のステップS101〜S107の動作と同じである。
以上が画像処理装置400の動作である。
次に、上述した雲形計数部41によって操作されるステップS402の詳細を説明する。図16は、図15のステップS402の詳細なフロー図を示す。
ステップS4020で、雲形計数部41は、推定雲領域検出部21からの入力として、入力画像のGLCM平均及び推定雲領域を受信する。
ステップS4021において、動作は図13のステップS3033と同じである。
ステップS4022で、雲形計数部41は、推定雲領域のみの画素を用いて、調整されたGLCM平均画像のヒストグラムを導出する。第2から第4の例示的実施形態で解説したように、推定雲領域は雲のみに影響を受けた画素を有するため、このヒストグラム中のピークは異なる雲形又は雲層に対応する。したがって、推定雲領域の画素について、調整されたGLCM平均のヒストグラム中のピークの数によって、入力画像中に存在する雲形又は雲層の数が与えられる。
ステップS4023の動作は、図13のステップS3035の動作と同じである。
ステップS4024で、雲形計数部41はピーク度が閾値よりも大きいグレーレベルを計数する。
ステップS4025で、計数は入力画像中の雲形又は雲層の数として受け入れられる。
ステップS4026で、雲形計数部41はこの計数を雲スペクトル抽出部31に送る。
以上が、雲形計数部41の具体的な動作と図15のステップS402の説明である。
<<第4の例示的実施形態の効果>>
第4の例示的実施形態では、第3の例示的実施形態の手動での入力とは異なり、画像中の異なる雲形又は雲層の数が自動的に決定される。手動入力の場合は、2つの雲形の違いが僅かな場合、画像中の雲形の手動計数は不正確になる可能性がある。この制約は、第4の例示的実施形態で雲形の数を自動的に決定することで克服され、雲によって影響を受けた画素の検出と修正の正確性が向上することが提供される。
<第5の例示的実施形態>
本発明に係わる第5の例示的実施形態の画像処理装置500は、第1から第4の例示的実施形態に係わる画像処理装置の最小構成を含む。
図17は、本発明に係わる第5の例示的実施形態の画像処理装置500の構成を示すブロック図である。画像処理装置500は、雲スペクトル選択部501、エンドメンバ抽出部502及び分解部503を含む。
雲スペクトル選択部501は、入力画像中に存在する一つ以上の雲スペクトルから各画素に関して少なくとも一つのスペクトルを選択する。
エンドメンバ抽出部502は、入力画像から一つ以上の雲以外の一つ以上のエンドメンバのスペクトルを抽出する。
分解部503は、入力画像中の各画素について、一つ以上のエンドメンバのそれぞれのスペクトルの存在比及び一つ以上の雲のうち一つの選択されたスペクトルの存在比を導出する。
第5の例示的実施形態の画像処理装置500は、画像中に複数の雲形又は雲層が存在する場合でも、雲によって影響を受けた領域を正確に検出し、雲の影響を修正できる技術を提供できる。これは、雲スペクトル選択部501が入力画像中に存在する一つ以上の雲スペクトルから各画素について少なくとも一つのスペクトルを選択し、エンドメンバ抽出部502が入力画像から一つ以上のエンドメンバのスペクトルを抽出し、分解部503が各画素について一つ以上のエンドメンバのそれぞれのスペクトルの存在比及び一つ以上の雲のうち一つの選択されたスペクトルの存在比を導出することに起因する。
<情報処理装置の構成>
図18は、一例として、本発明の例示的実施形態に関連した画像処理装置を実装できる情報処理装置900(コンピュータ)の構成を図示する。つまり、図18は、図1、8、11及び14の装置を実装できるコンピュータ(情報処理装置)の構成を図示し、上述した例示的実施形態の個々の機能が実装できるハードウェア環境を表す。
図18に図説する情報処理装置900は、以下の構成要素を含む:
・CPU901(Central_Processing_Unit)、
・ROM902(Read_Only_Memory)、
・RAM903(Random_Access_Memory)、
・ハードディスク904(記憶装置)、
・外部装置への通信インタフェース905、
・CD‐ROM(Compact_Disc_Read_Only_Memory)などの記憶媒体907に記憶されたデータを読み書きできるリーダ/ライタ908、及び
・入力/出力インタフェース909。
情報処理装置900は、これらの構成要素がバス906(通信回線)を介して接続された一般的なコンピュータである。
上述した例示的実施形態を一例として説明された本発明は、図18に図示された情報処理装置900に対して、各例示的実施形態の説明中で参照されたブロック図(図1、8、11及び14)又はフロー図(図4、9、10、12、13、15および16)に図示される機能を実施可能なコンピュータプログラムを提供し、コンピュータプログラムをこのようなハードウェア中のCPU901に読み込んで、解読、実行することで実現される。装置に提供されるコンピュータプログラムは、揮発性の読み書き可能な記憶装置(RAM903)又はハードディスク904などの不揮発性記憶装置に記憶できる。
また、上述の場合にコンピュータプログラムをこのようなハードウェアに提供するのには、一般的な手順を用いればよい。これら手順は、例えば、CD−ROMなどの各種記憶媒体907のいずれかを介してコンピュータプログラムを装置にインストールすること、又は、インターネットなどの通信回線を介して外部ソースからダウンロードすることを含む。このような場合には、本発明は、このようなコンピュータプログラムを形成するコードから構成される、あるいは、コードを記憶する記憶媒体907から構成されるとみなすことができる。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
入力画像中に存在する一つ以上の雲スペクトルから各画素に対して少なくとも一つのスペクトルを選択する雲スペクトル選択手段と、
前記入力画像のスペクトルから、前記一つ以上の雲以外の一つ以上のエンドメンバのスペクトルを抽出するエンドメンバ抽出手段と、及び、
前記入力画像中の前記各画素について、一つ以上のエンドメンバのそれぞれのスペクトルの存在比と、前記一つ以上の雲のうち一つの選択されたスペクトルの存在比とを導出する分解手段
とを備える雲被覆を検出及び修正するための画像処理装置。
(付記2)
前記一つ以上の雲のうち一つの前記選択されたスペクトルの前記存在比と特定の閾値とを比較し、前記各画素を厚い雲又は薄い雲に分類する閾値化手段
をさらに備える付記1に記載の画像処理装置。
(付記3)
前記入力画像から推定雲被覆を検出する、推定雲領域検出手段をさらに備え、
前記エンドメンバ抽出手段は前記一つ以上のエンドメンバを前記推定雲領域として検出されていない領域から抽出する
付記1又は2に記載の画像処理装置。
(付記4)
前記入力画像中に観察される可能性がある一つ以上の雲の複数のスペクトルを記憶する雲スペクトルメモリをさらに備え、
前記雲スペクトル選択手段は前記雲スペクトルメモリの前記スペクトルから前記一つ以上の雲の少なくとも一つのスペクトルを選択する、
付記1から3のいずれか一つに記載の画像処理装置。
(付記5)
前記入力画像から前記入力画像中に存在する前記一つ以上の雲の少なくとも一つの前記スペクトルを抽出する雲スペクトル抽出手段をさらに備え、
前記雲スペクトル選択手段は雲スペクトルから少なくとも一つのスペクトルを選択し、前記雲スペクトルは抽出された前記一つ以上の雲の前記スペクトルの一つである、
付記1から3のいずれか一つに記載の画像処理装置。
(付記6)
前記推定雲領域検出手段は、前記入力画像中の前記各画素が推定雲領域の一部か否かを分類するために、標準偏差及びテクスチャ平均の空間‐スペクトルフィルタを用いることで前記入力画像中の前記雲被覆を推定する、
付記3に記載の画像処理装置。
(付記7)
前記入力画像中に存在する前記雲スペクトルを計数する雲形計数手段をさらに備え、
前記雲スペクトル抽出手段は、前記雲形計数手段によって計数された前記入力画像中に存在する前記雲スペクトルの数に基づいて、前記入力画像から前記入力画像中に存在する前記一つ以上の雲スペクトルの少なくとも一つを抽出する、
付記4に記載の画像処理装置。
(付記8)
前記推定雲領域のみについて前記入力画像中のGLCM平均画像のヒストグラムを導出し、
前記ヒストグラム中のピークを検出し、
前記推定雲領域のGLCM平均の前記ヒストグラム中の前記ピークに基づいて、前記入力画像中に存在する前記一つ以上の雲のクラスタを形成し、及び
前記入力画像中で憤慨する前記一つ以上の雲の前記スペクトルを、各スペクトルが前記クラスタのそれぞれから取得された代表スペクトル一式として導出することで、
前記雲スペクトル抽出手段は前記入力画像中に存在する前記雲スペクトルを抽出する
付記5に記載の画像処理装置。
(付記9)
前記厚い雲によって被覆された画素をマスクする厚雲マスク手段と、
前記薄い雲によって被覆された各画素の前記存在比に基づいて、前記薄い雲を修正する薄雲修正手段とをさらに備える、付記2に記載の画像処理装置。
(付記10)
前記推定雲領域検出手段は、スペクトル指数に基づいて形状フィルタ及び特定の土地利用のフィルタを用いることで、前記入力画像中の前記雲被覆の推定を向上させる、
付記3又は付記6に記載の画像処理装置。
(付記11)
前記推定雲領域検出手段は、前記入力画像中の各波長帯域に加重し、又は、一以上の波長帯域を除外することによって、前記推定雲被覆を推定するためにグレースケール強度画像を導出する、
付記3、6、及び10のいずれか一つに記載の画像処理装置。
(付記12)
入力画像中に存在する一つ以上の雲スペクトルから各画素に対して少なくとも一つのスペクトルを選択すること、
前記入力画像のスペクトルから、前記一つ以上の雲以外の一つ以上のエンドメンバのスペクトルを抽出すること、及び、
前記入力画像中の前記各画素について、一つ以上のエンドメンバのそれぞれのスペクトルの存在比と、前記一つ以上の雲のうち一つの選択されたスペクトルの存在比とを導出すること
を含む雲被覆を検出及び修正する画像処理方法。
(付記13)
前記一つ以上の雲のうち一つの前記選択されたスペクトルの前記存在比と特定の閾値とを比較し、前記各画素を厚い雲又は薄い雲に分類することをさらに含む
付記12に記載の方法。
(付記14)
前記入力画像から推定雲被覆を検出することをさらに含み、
前記一つ以上のエンドメンバのスペクトルを抽出することは、前記一つ以上のエンドメンバを前記推定雲領域として検出されていない領域から抽出することを含む
付記12又は13に記載の方法。
(付記15)
前記各画素に対して少なくとも一つのスペクトルを選択することは、前記入力画像中に観察される可能性がある一つ以上の雲の複数のスペクトルを記憶する雲スペクトルメモリの前記スペクトルから前記一つ以上の雲の少なくとも一つのスペクトルを選択することを含む
付記12から14のいずれか一つに記載の方法。
(付記16)
前記入力画像から前記入力画像中に存在する前記一つ以上の雲の少なくとも一つの前記スペクトルを抽出することを更に含み、
前記各画素に対して少なくとも一つのスペクトルを選択することは、前記雲スペクトルから少なくとも一つのスペクトルを選択することを含み、前記雲スペクトルは抽出された前記一つ以上の雲の前記スペクトルの一つである、
付記12から14のいずれか一つに記載の方法。
(付記17)
前記推定雲被覆を検出することは、前記入力画像中の前記各画素が推定雲領域の一部か否かを分類するために、標準偏差及びテクスチャ平均の空間‐スペクトルフィルタを用いることで前記入力画像中の雲被覆を推定することを含む、
付記14に記載の方法。
(付記18)
前記入力画像中に存在する前記雲スペクトルを計数することをさらに含み、
前記一つ以上の雲の少なくとも一つの前記スペクトルを抽出することは、前記雲スペクトルの計数によって計数された前記入力画像中に存在する前記雲スペクトルの数に基づいて、前記入力画像から前記入力画像中に存在する前記一つ以上の雲スペクトルの少なくとも一つを抽出することを含む、
付記15に記載の方法。
(付記19)
前記一つ以上の雲の少なくとも一つの前記スペクトルを抽出することは、
前記推定雲領域のみについて前記入力画像中のGLCM平均画像のヒストグラム導出し、
前記ヒストグラム中のピークを検出し、
前記推定雲領域のGLCM平均の前記ヒストグラム中の前記ピークに基づいて、前記入力画像中に存在する前記一つ以上の雲のクラスタを形成し、及び
、前記入力画像中で憤慨する前記一つ以上の雲の前記スペクトルを、各スペクトルが前記クラスタのそれぞれから取得された代表スペクトル一式として導出することで、
前記入力画像中に存在する前記雲スペクトルを抽出することを含む
付記16に記載の方法。
(付記20)
前記厚い雲によって被覆された画素をマスクすること、および、
前記薄い雲によって被覆された各画素の前記存在比に基づいて、前記薄い雲を修正すること
をさらに含む付記13に記載の方法。
(付記21)
前記推定雲被覆を検出することは、スペクトル指数に基づいて形状フィルタ及び特定の土地利用のフィルタを用いることで、前記入力画像中の前記雲被覆の推定を向上させることを含む
付記14又は付記17に記載の方法。
(付記22)
前記推定雲被覆を検出することは、前記入力画像中の各波長帯域に加重し、又は、一以上の波長帯域を除外することによって、前記推定雲被覆を推定するためにグレースケール強度画像を導出することを含む
付記14、17、及び21のいずれか一つに記載の方法。
(付記23)
入力画像中に存在する一つ以上の雲スペクトルから各画素に対して少なくとも一つのスペクトルを選択すること、
前記入力画像のスペクトルから、前記一つ以上の雲以外の一つ以上のエンドメンバのスペクトルを抽出すること、及び、
前記入力画像中の前記各画素について、一つ以上のエンドメンバのそれぞれのスペクトルの存在比と、前記一つ以上の雲のうち一つの選択されたスペクトルの存在比とを導出すること
を含むコンピュータに雲被覆を検出及び修正させる画像処理プログラムを記憶する記憶媒体。
(付記24)
前記プログラムは前記一つ以上の雲のうち一つの前記選択されたスペクトルの前記存在比と特定の閾値とを比較し、前記各画素を厚い雲又は薄い雲に分類すること
をさらに含む付記23に記載の記憶媒体。
(付記25)
前記プログラムは前記入力画像から推定雲被覆を検出することをさらに含み、
前記一つ以上のエンドメンバのスペクトルを抽出することは、前記推定雲領域として検出されていない領域から前記一つ以上のエンドメンバを抽出すること
を含む付記23又は24に記載の記憶媒体。
(付記26)
前記各画素に対して少なくとも一つのスペクトルを選択することは、前記入力画像中に観察される可能性がある一つ以上の雲の複数のスペクトルを記憶する雲スペクトルメモリの前記スペクトルから前記一つ以上の雲の少なくとも一つのスペクトルを選択することを含む
付記23から25のいずれか一つに記載の記憶媒体。
(付記27)
前記プログラムは前記入力画像から前記入力画像中に存在する前記一つ以上の雲の少なくとも一つの前記スペクトルを抽出することを更に含み、
前記各画素に対して少なくとも一つのスペクトルを選択することは、前記雲スペクトルから少なくとも一つのスペクトルを選択することを含み、前記雲スペクトルは抽出された前記一つ以上の雲の前記スペクトルの一つである、
付記23から25のいずれか一つに記載の記憶媒体。
(付記28)
前記推定雲被覆を検出することは、前記入力画像中の前記各画素が推定雲領域の一部か否かを分類するために、標準偏差及びテクスチャ平均の空間‐スペクトルフィルタを用いることで前記入力画像中の前記雲被覆を推定することを含む、
付記25に記載の記憶媒体。
(付記29)
前記プログラムは前記入力画像中に存在する前記雲スペクトルを計数することをさらに含み、
前記一つ以上の雲の少なくとも一つの前記スペクトルを抽出することは、前記雲スペクトルの計数によって計数された前記入力画像中に存在する前記雲スペクトルの数に基づいて、前記入力画像から前記入力画像中に存在する前記一つ以上の雲スペクトルの少なくとも一つを抽出することを含む、
付記26に記載の記憶媒体。
(付記30)
前記一つ以上の雲の少なくとも一つの前記スペクトルを抽出することは、
前記推定雲領域のみについて前記入力画像中のGLCM平均画像のヒストグラムを導出し、
前記ヒストグラム中のピークを検出し、
前記推定雲領域のGLCM平均の前記ヒストグラム中の前記ピークに基づいて、前記入力画像中に存在する前記一つ以上の雲のクラスタを形成し、及び
前記入力画像中で憤慨する前記一つ以上の雲の前記スペクトルを、各スペクトルが前記クラスタのそれぞれから取得された代表スペクトル一式として導出することで、
前記入力画像中に存在する前記雲スペクトルを抽出すること
を含む付記27に記載の記憶媒体。
(付記31)
前記プログラムは、前記厚い雲によって被覆された画素をマスクすること、および、
前記薄い雲によって被覆された各画素の前記存在比に基づいて、前記薄い雲を修正すること
をさらに含む付記24に記載の記憶媒体。
(付記32)
前記推定雲被覆を検出することは、スペクトル指数に基づいて形状フィルタ及び特定の土地利用のフィルタを用いることで、前記入力画像中の前記雲被覆の推定を向上させる
ことを含む付記25又は付記28に記載の記憶媒体。
(付記33)
前記推定雲被覆を検出することは、前記入力画像中の各波長帯域に加重し、又は、一以上の波長帯域を除外することによって、前記推定雲被覆を推定するためにグレースケール強度画像を導出する
ことを含む付記25、28及び32のいずれか一つに記載の記憶媒体。
例示的実施形態の上記説明は、当業者が本発明を作成、使用できるように提供されている。さらに、これら例示的実施形態の各種変形例は、当業者が容易に理解できるであろう。本明細書中で定義された一般的原理や特定の例は、発明的想起を伴わずにその他の例示的実施形態に適用し得る。したがって、本発明は本明細書中に記載された例示的実施形態には制限されず、特許請求の範囲及び均等物の制約により定義される最も広い範囲に一致する。なお、特許請求の範囲が審査中に補正された場合でも、本願発明の全ての均等物が保持されることが本発明家の意図である。
本発明は、衛星画像の撮像の際に生じる環境影響を、高度な衛星画像処理操作の前に補正するための前処理ツールとして適用できる。
01:入力部
02:受信部
03:雲スペクトル抽出部
04:エンドメンバ抽出部
05:分解部
06:薄雲修正部
07:出力部
10:入力部
11:雲スペクトルメモリ
12:受信部
13:雲スペクトル選択部
14、14a:エンドメンバ抽出部
15:分解部
16:閾値化部
17:厚雲マスク部
18:薄雲修正部
19:出力部
21:推定雲領域検出部
31、31a:雲スペクトル抽出部
41:雲形計数部
100:画像処理装置
200:画像処理装置
300:画像処理装置
400:画像処理装置
900:情報処理装置
901:CPU
902:ROM
903:RAM
904:ハードディスク
905:通信インタフェース
906:バス
907:記憶媒体
908:リーダ/ライタ
909:入出力インタフェース

Claims (33)

  1. 入力画像中に存在する一つ以上の雲スペクトルから各画素に対して少なくとも一つのスペクトルを選択する雲スペクトル選択手段、
    前記入力画像のスペクトルから、前記一つ以上の雲以外の一つ以上のエンドメンバのスペクトルを抽出するエンドメンバ抽出手段、及び、
    前記入力画像中の前記各画素について、一つ以上のエンドメンバのそれぞれのスペクトルの存在比と、前記一つ以上の雲のうち一つの選択されたスペクトルの存在比とを導出する分解手段
    を備える、雲被覆を検出及び修正するための画像処理装置。
  2. 前記一つ以上の雲のうち一つの前記選択されたスペクトルの前記存在比と特定の閾値とを比較し、前記各画素を厚い雲又は薄い雲に分類する閾値化手段をさらに備える
    請求項1に記載の画像処理装置。
  3. 前記入力画像から推定雲被覆を検出する、推定雲領域検出手段をさらに備え、
    前記エンドメンバ抽出手段は前記一つ以上のエンドメンバを前記推定雲領域として検出されていない領域から抽出する
    請求項1又は2に記載の画像処理装置。
  4. 前記入力画像中に観察される可能性がある一つ以上の雲の複数のスペクトルを記憶する雲スペクトルメモリをさらに備え、
    前記雲スペクトル選択手段は前記雲スペクトルメモリの前記スペクトルから前記一つ以上の雲の少なくとも一つのスペクトルを選択する、
    請求項1から3のいずれか一つに記載の画像処理装置。
  5. 前記入力画像から前記入力画像中に存在する前記一つ以上の雲の少なくとも一つの前記スペクトルを抽出する雲スペクトル抽出手段をさらに備え、
    前記雲スペクトル選択手段は雲スペクトルから少なくとも一つのスペクトルを選択し、前記雲スペクトルは抽出された前記一つ以上の雲の前記スペクトルの一つである、
    請求項1から3のいずれか一つに記載の画像処理装置。
  6. 前記推定雲領域検出手段は、前記入力画像中の前記各画素が推定雲領域の一部か否かを分類するために、標準偏差及びテクスチャ平均の空間‐スペクトルフィルタを用いることで前記入力画像中の前記雲被覆を推定する、
    請求項3に記載の画像処理装置。
  7. 前記入力画像中に存在する前記雲スペクトルを計数する雲形計数手段をさらに備え、
    前記雲スペクトル抽出手段は、前記雲形計数手段によって計数された前記入力画像中に存在する前記雲スペクトルの数に基づいて、前記入力画像から前記入力画像中に存在する前記一つ以上の雲スペクトルの少なくとも一つを抽出する、
    請求項4に記載の画像処理装置。
  8. 前記推定雲領域のみについて前記入力画像中のGLCM平均画像のヒストグラムを導出し、
    前記ヒストグラム中のピークを検出し、
    前記推定雲領域のGLCM平均の前記ヒストグラム中の前記ピークに基づいて、前記入力画像中に存在する前記一つ以上の雲のクラスタを形成し、及び
    前記入力画像中で憤慨する前記一つ以上の雲の前記スペクトルを、各スペクトルが前記クラスタのそれぞれから取得された代表スペクトル一式として導出することで、
    前記雲スペクトル抽出手段は前記入力画像中に存在する前記雲スペクトルを抽出する
    請求項5に記載の画像処理装置。
  9. 前記厚い雲によって被覆された画素をマスクする厚雲マスク手段、および、
    前記薄い雲によって被覆された各画素の前記存在比に基づいて、前記薄い雲を修正する薄雲修正手段
    をさらに備える、請求項2に記載の画像処理装置。
  10. 前記推定雲領域検出手段は、スペクトル指数に基づいて形状フィルタ及び特定の土地利用のフィルタを用いることで、前記入力画像中の前記雲被覆の推定を向上させる、
    請求項3又は請求項6に記載の画像処理装置。
  11. 前記推定雲領域検出手段は、前記入力画像中の各波長帯域に加重し、又は、一以上の波長帯域を除外することによって、前記推定雲被覆を推定するためにグレースケール強度画像を導出する、
    請求項3、6、及び10のいずれか一つに記載の画像処理装置。
  12. 入力画像中に存在する一つ以上の雲スペクトルから各画素に対して少なくとも一つのスペクトルを選択すること、
    前記入力画像のスペクトルから、前記一つ以上の雲以外の一つ以上のエンドメンバのスペクトルを抽出すること、及び、
    前記入力画像中の前記各画素について、一つ以上のエンドメンバのそれぞれのスペクトルの存在比と、前記一つ以上の雲のうち一つの選択されたスペクトルの存在比とを導出すること
    とを含む、雲被覆を検出及び修正するための画像処理方法。
  13. 前記一つ以上の雲のうち一つの前記選択されたスペクトルの前記存在比と特定の閾値とを比較し、前記各画素を厚い雲又は薄い雲に分類する
    ことをさらに含む請求項12に記載の方法。
  14. 前記入力画像から推定雲被覆を検出することをさらに含み、
    前記一つ以上のエンドメンバのスペクトルを抽出することは、前記一つ以上のエンドメンバを前記推定雲領域として検出されていない領域から抽出する
    ことを含む請求項12又は13に記載の方法。
  15. 前記各画素に対して少なくとも一つのスペクトルを選択することは、前記入力画像中に観察される可能性がある一つ以上の雲の複数のスペクトルを記憶する雲スペクトルメモリの前記スペクトルから前記一つ以上の雲の少なくとも一つのスペクトルを選択する
    ことを含む請求項12から14のいずれか一つに記載の方法。
  16. 前記入力画像から前記入力画像中に存在する前記一つ以上の雲の少なくとも一つの前記スペクトルを抽出することを更に含み、
    前記各画素に対して少なくとも一つのスペクトルを選択することは、前記雲スペクトルから少なくとも一つのスペクトルを選択することを含み、前記雲スペクトルは抽出された前記一つ以上の雲の前記スペクトルの一つである、
    請求項12から14のいずれか一つに記載の方法。
  17. 前記推定雲被覆を検出することは、前記入力画像中の前記各画素が推定雲領域の一部か否かを分類するために、標準偏差及びテクスチャ平均の空間‐スペクトルフィルタを用いることで前記入力画像中の雲被覆を推定する
    ことを含む、請求項14に記載の方法。
  18. 前記入力画像中に存在する前記雲スペクトルを計数することをさらに含み、
    前記一つ以上の雲の少なくとも一つの前記スペクトルを抽出することは、前記雲スペクトルの計数によって計数された前記入力画像中に存在する前記雲スペクトルの数に基づいて、前記入力画像から前記入力画像中に存在する前記一つ以上の雲スペクトルの少なくとも一つを抽出する
    ことを含む、請求項15に記載の方法。
  19. 前記一つ以上の雲の少なくとも一つの前記スペクトルを抽出することは、
    前記推定雲領域のみについて前記入力画像中のGLCM平均画像のヒストグラム導出し、
    前記ヒストグラム中のピークを検出し、
    前記推定雲領域のGLCM平均の前記ヒストグラム中の前記ピークに基づいて、前記入力画像中に存在する前記一つ以上の雲のクラスタを形成し、及び
    前記入力画像中で憤慨する前記一つ以上の雲の前記スペクトルを、各スペクトルが前記クラスタのそれぞれから取得された代表スペクトル一式として導出することで、
    前記入力画像中に存在する前記雲スペクトルを抽出する
    ことを含む請求項16に記載の方法。
  20. 前記厚い雲によって被覆された画素をマスクすること、および、
    前記薄い雲によって被覆された各画素の前記存在比に基づいて、前記薄い雲を修正すること
    をさらに含む請求項13に記載の方法。
  21. 前記推定雲被覆を検出することは、スペクトル指数に基づいて形状フィルタ及び特定の土地利用のフィルタを用いることで、前記入力画像中の前記雲被覆の推定を向上させる
    ことを含む請求項14又は請求項17に記載の方法。
  22. 前記推定雲被覆を検出することは、前記入力画像中の各波長帯域に加重し、又は、一以上の波長帯域を除外することによって、前記推定雲被覆を推定するためにグレースケール強度画像を導出する
    ことを含む請求項14、17、及び21のいずれか一つに記載の方法。
  23. 入力画像中に存在する一つ以上の雲スペクトルから各画素に対して少なくとも一つのスペクトルを選択すること、
    前記入力画像のスペクトルから、前記一つ以上の雲以外の一つ以上のエンドメンバのスペクトルを抽出すること、及び、
    前記入力画像中の前記各画素について、一つ以上のエンドメンバのそれぞれのスペクトルの存在比と、前記一つ以上の雲のうち一つの選択されたスペクトルの存在比とを導出すること
    を含む、コンピュータに雲被覆を検出及び修正させることを実行させるための画像処理プログラムを記憶する記憶媒体。
  24. 前記プログラムは前記一つ以上の雲のうち一つの前記選択されたスペクトルの前記存在比と特定の閾値とを比較し、前記各画素を厚い雲又は薄い雲に分類する
    ことをさらに含む請求項23に記載の記憶媒体。
  25. 前記プログラムは前記入力画像から推定雲被覆を検出することをさらに含み、
    前記一つ以上のエンドメンバのスペクトルを抽出することは、前記推定雲領域として検出されていない領域から前記一つ以上のエンドメンバを抽出する
    ことを含む請求項23又は24に記載の記憶媒体。
  26. 前記各画素に対して少なくとも一つのスペクトルを選択することは、前記入力画像中に観察される可能性がある一つ以上の雲の複数のスペクトルを記憶する雲スペクトルメモリの前記スペクトルから前記一つ以上の雲の少なくとも一つのスペクトルを選択する
    ことを含む請求項23から25のいずれか一つに記載の記憶媒体。
  27. 前記プログラムは前記入力画像から前記入力画像中に存在する前記一つ以上の雲の少なくとも一つの前記スペクトルを抽出することを更に含み、
    前記各画素に対して少なくとも一つのスペクトルを選択することは、前記雲スペクトルから少なくとも一つのスペクトルを選択することを含み、
    前記雲スペクトルは抽出された前記一つ以上の雲の前記スペクトルの一つである、
    請求項23から25のいずれか一つに記載の記憶媒体。
  28. 前記推定雲被覆を検出することは、前記入力画像中の前記各画素が推定雲領域の一部か否かを分類するために、標準偏差及びテクスチャ平均の空間‐スペクトルフィルタを用いることで前記入力画像中の前記雲被覆を推定する
    ことを含む、請求項25に記載の記憶媒体。
  29. 前記プログラムは前記入力画像中に存在する前記雲スペクトルを計数することをさらに含み、
    前記一つ以上の雲の少なくとも一つの前記スペクトルを抽出することは、前記雲スペクトルの計数によって計数された前記入力画像中に存在する前記雲スペクトルの数に基づいて、前記入力画像から前記入力画像中に存在する前記一つ以上の雲スペクトルの少なくとも一つを抽出する
    ことを含む、請求項26に記載の記憶媒体。
  30. 前記一つ以上の雲の少なくとも一つの前記スペクトルを抽出することは、
    前記推定雲領域のみについて前記入力画像中のGLCM平均画像のヒストグラムを導出し、
    前記ヒストグラム中のピークを検出し、
    前記推定雲領域のGLCM平均の前記ヒストグラム中の前記ピークに基づいて、前記入力画像中に存在する前記一つ以上の雲のクラスタを形成し、及び
    前記入力画像中で憤慨する前記一つ以上の雲の前記スペクトルを、各スペクトルが前記クラスタのそれぞれから取得された代表スペクトル一式として導出することで、
    前記入力画像中に存在する前記雲スペクトルを抽出する
    ことを含む請求項27に記載の記憶媒体。
  31. 前記プログラムは、前記厚い雲によって被覆された画素をマスクすること、および、
    前記薄い雲によって被覆された各画素の前記存在比に基づいて、前記薄い雲を修正すること
    をさらに含む請求項24に記載の記憶媒体。
  32. 前記推定雲被覆を検出することは、スペクトル指数に基づいて形状フィルタ及び特定の土地利用のフィルタを用いることで、前記入力画像中の前記雲被覆の推定を向上させる
    ことを含む請求項25又は請求項28に記載の記憶媒体。
  33. 前記推定雲被覆を検出することは、前記入力画像中の各波長帯域に加重し、又は、一以上の波長帯域を除外することによって、前記推定雲被覆を推定するためにグレースケール強度画像を導出する
    ことを含む請求項25、28及び32のいずれか一つに記載の記憶媒体。
JP2019527932A 2016-12-20 2016-12-20 画像処理装置、画像処理方法及び画像処理プログラム Active JP6822569B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2016/087862 WO2018116367A1 (en) 2016-12-20 2016-12-20 Image processing device, method and storage medium for removing clouds from an image

Publications (2)

Publication Number Publication Date
JP2019537151A true JP2019537151A (ja) 2019-12-19
JP6822569B2 JP6822569B2 (ja) 2021-01-27

Family

ID=57861193

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019527932A Active JP6822569B2 (ja) 2016-12-20 2016-12-20 画像処理装置、画像処理方法及び画像処理プログラム

Country Status (5)

Country Link
US (1) US11017507B2 (ja)
EP (1) EP3559899B1 (ja)
JP (1) JP6822569B2 (ja)
CN (1) CN110100262B (ja)
WO (1) WO2018116367A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230130895A (ko) * 2022-03-04 2023-09-12 충남대학교산학협력단 재선충병 감염증상 기반의 침엽수 생리 활력도 평가 방법 및 그 장치

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019157348A1 (en) * 2018-02-09 2019-08-15 The Board Of Trustees Of The University Of Illinois A system and method to fuse multiple sources of optical data to generate a high-resolution, frequent and cloud-/gap-free surface reflectance product
US10878588B2 (en) 2018-06-22 2020-12-29 X Development Llc Detection and replacement of transient obstructions from high elevation digital images
CN110136194B (zh) * 2019-05-21 2022-11-11 吉林大学 基于星载多光谱遥感数据的积雪覆盖度测算方法
CN111598045B (zh) * 2020-05-27 2021-05-18 中国科学院地理科学与资源研究所 一种基于对象图谱和混合光谱的遥感耕地变化检测方法
CN113281782A (zh) * 2021-05-08 2021-08-20 北京联合大学 一种基于无人驾驶车的激光雷达雪点滤除方法
CN113900097B (zh) * 2021-11-29 2022-08-16 商丘师范学院 基于卫星遥感数据的冰川量检测方法
CN117495723B (zh) * 2023-12-29 2024-03-19 中国石油大学(华东) 基于分波段处理的不成对数据遥感图像薄云去除方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001143054A (ja) * 1999-11-16 2001-05-25 Hitachi Ltd 衛星画像処理方法
JP2014002738A (ja) * 2012-06-14 2014-01-09 Hitachi Ltd 遠隔測定画像の混合画素物質構成精細化分解装置及び方法
JP2016126566A (ja) * 2015-01-05 2016-07-11 三菱電機株式会社 画像処理装置及び画像処理方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6407735B2 (en) * 1997-11-13 2002-06-18 Crump Group Inc. Method for generating surface representations of objects from layered data
US8509476B2 (en) * 2011-09-13 2013-08-13 The United States Of America, As Represented By The Secretary Of The Navy Automated system and method for optical cloud shadow detection over water
JP5856866B2 (ja) * 2012-02-10 2016-02-10 株式会社日立製作所 太陽光発電量推定システム、装置及び方法
CN104484859B (zh) * 2014-10-20 2017-09-01 电子科技大学 一种多光谱光学遥感图像数据去除薄云的方法
CN104952050B (zh) * 2015-07-07 2017-10-24 西安电子科技大学 基于区域分割的高光谱图像自适应解混方法
CN105354865B (zh) * 2015-10-27 2018-01-26 武汉大学 多光谱遥感卫星影像自动云检测方法及系统
US9721181B2 (en) * 2015-12-07 2017-08-01 The Climate Corporation Cloud detection on remote sensing imagery
US10650498B2 (en) * 2018-08-02 2020-05-12 Nec Corporation System, method, and non-transitory, computer-readable medium containing instructions for image processing

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001143054A (ja) * 1999-11-16 2001-05-25 Hitachi Ltd 衛星画像処理方法
JP2014002738A (ja) * 2012-06-14 2014-01-09 Hitachi Ltd 遠隔測定画像の混合画素物質構成精細化分解装置及び方法
JP2016126566A (ja) * 2015-01-05 2016-07-11 三菱電機株式会社 画像処理装置及び画像処理方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230130895A (ko) * 2022-03-04 2023-09-12 충남대학교산학협력단 재선충병 감염증상 기반의 침엽수 생리 활력도 평가 방법 및 그 장치
KR102646217B1 (ko) * 2022-03-04 2024-03-08 충남대학교산학협력단 재선충병 감염증상 기반의 침엽수 생리 활력도 평가 방법 및 그 장치

Also Published As

Publication number Publication date
EP3559899A1 (en) 2019-10-30
CN110100262A (zh) 2019-08-06
JP6822569B2 (ja) 2021-01-27
WO2018116367A1 (en) 2018-06-28
US20200065946A1 (en) 2020-02-27
EP3559899B1 (en) 2020-09-30
US11017507B2 (en) 2021-05-25
CN110100262B (zh) 2023-07-21

Similar Documents

Publication Publication Date Title
JP6822569B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
Li et al. Multi-feature combined cloud and cloud shadow detection in GaoFen-1 wide field of view imagery
Jonckheere et al. Assessment of automatic gap fraction estimation of forests from digital hemispherical photography
US8509476B2 (en) Automated system and method for optical cloud shadow detection over water
CN107358260B (zh) 一种基于表面波cnn的多光谱图像分类方法
US11227367B2 (en) Image processing device, image processing method and storage medium
CN108256419A (zh) 一种利用多光谱解译提取港口码头图像的方法
CN111553922B (zh) 一种卫星遥感影像自动云检测方法
CN114937038B (zh) 面向可用性的遥感影像质量评价方法
CN105894520B (zh) 一种基于高斯混合模型的卫星影像自动云检测方法
CN115439759A (zh) 遥感影像中植被的提取方法、装置、电子设备及介质
CN108364011A (zh) PolSAR图像多级特征提取与无监督分类方法
CN111611965A (zh) 一种基于Sentinel-2影像的陆表水体提取方法
JP6958743B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
CN117575953A (zh) 一种高分辨率林业遥感图像细节增强方法
CN116051983A (zh) 一种面向多业务系统融合的多光谱遥感影像水体提取方法
CN108256557A (zh) 结合深度学习和邻域集成的高光谱图像分类方法
CN113421273B (zh) 林草搭配信息遥感提取方法及装置
CN117115669B (zh) 双条件质量约束的对象级地物样本自适应生成方法及系统
CN114117908A (zh) 基于cgan进行数据校正的高精度asi海冰密集度反演算法
CN113705441A (zh) 协同多光谱和sar影像的高时空分辨率地表水体提取方法
CN106204596B (zh) 一种基于高斯拟合函数与模糊混合估计的全色波段遥感影像云检测方法
Ķēniņš Land cover classification using very high spatial resolution remote sensing data and deep learning
CN113469104A (zh) 基于深度学习的雷达遥感影像地表水体变化检测方法和设备
Marais On-board image quality assessment for a satellite

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190523

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190523

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200625

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200728

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200917

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201221

R150 Certificate of patent or registration of utility model

Ref document number: 6822569

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150