JP7028336B2 - 学習装置、学習方法および学習プログラム - Google Patents

学習装置、学習方法および学習プログラム Download PDF

Info

Publication number
JP7028336B2
JP7028336B2 JP2020551031A JP2020551031A JP7028336B2 JP 7028336 B2 JP7028336 B2 JP 7028336B2 JP 2020551031 A JP2020551031 A JP 2020551031A JP 2020551031 A JP2020551031 A JP 2020551031A JP 7028336 B2 JP7028336 B2 JP 7028336B2
Authority
JP
Japan
Prior art keywords
change
changes
learning
image
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020551031A
Other languages
English (en)
Other versions
JPWO2020070852A1 (ja
Inventor
瑛士 金子
真人 戸田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2020070852A1 publication Critical patent/JPWO2020070852A1/ja
Application granted granted Critical
Publication of JP7028336B2 publication Critical patent/JP7028336B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/176Urban or other man-made structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/188Vegetation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本発明は、学習装置学習方法および学習プログラムに関する。
洪水、森林火災、火山噴火、地震、津波、干ばつ等の災害による被害の状況や、都市開発の状況を把握するために、衛星画像等の高所から撮影された画像を基に地表の状態が変化した領域を検出する技術である変化検出技術が開発されている。
上記の変化検出技術の例が、非特許文献1~非特許文献2に記載されている。非特許文献1には、前処理として撮影された画像を個別に補正する技術が記載されている。また、非特許文献2には、検出された地表の状態が変化した領域のうち、検出対象の変化以外の変化が生じている領域をマスクする(隠す)技術が記載されている。
また、非特許文献3には、太陽天頂角から太陽光スペクトルの成分を算出する方法が記載されている。
また、機械学習に使用可能なネットワークとして、非特許文献4にCNN(Convolutional Neural Network) が、非特許文献5にSAE(Sparse Auto Encoder)が、非特許文献6にDBN(Deep Belief Network)が、それぞれ記載されている。
R. Richter, and A. Muller, "De-shadowing of satellite/airborne imagery," R. Richter, and A. Muller, "De-shadowing of satellite/airborne imagery," Intl. Journal of Remote Sens. vo, 26, no. 15, Taylor & Francis, pp. 3137-3148, Aug 2005. L. Bruzzone and F. Bovolo, "A novel framework for the design of change detection systems for very-high-resolution remote sensing images," Proc. IEEE, vol. 101, no. 3, pp. 609-630, Mar 2013. Richard E. Bird and Carol Riordan, "Simple Solar Spectral Model for Direct and Diffuse Irradiance on Horizontal and Titled Planes at the Earth’s Surface for Cloudless Atmospheres," Journal of climate and applied meteorology, American Meteorological Society, pp. 87-97, 1986. A. Krizhevsky, I. Sutskever, and G. E. Hinton, "Imagenet classification with deep convolutional neural networks," in Proc. Adv. Neural Inf. Process. Syst., pp. 1097-1105, 2012. F. Zhang, B. Du, and L. Zhang, "Saliency-guided unsupervised feature learning for scene classification," IEEE Trans. Geosci. Remote Sens., vol. 53, no. 4, pp. 2175-2184, Apr 2015. G. E. Hinton, S. Osindero, and Y.-W. Teh, "A fast learning algorithm for deep belief nets," Neural Comput., vol. 18, no. 7, pp. 1527-1554, 2006.
しかし、上記の変化検出技術には、影の有無等の日照条件に起因する変化、雲や霧等の大気の状態の変化、および植物の季節変化等、被害の状況や都市開発の状況と無関係な検出対象外の変化も、検出対象の変化と共に検出してしまうという問題がある。
上記の問題を、図22を参照して説明する。図22は、2枚の画像から変化マップを生成する例を示す説明図である。図22(a)は、上記の変化検出技術が検出対象外の変化を検出対象の変化と共に検出する例を示す。
図22(a)に示すように、上記の変化検出技術が適用されている変化検出手段99に、時刻(t-1) に撮影された画像It-1と、時刻t に撮影された画像Itとが入力される。なお、画像It-1および画像Itは、同一領域が撮影された画像である。
図22(a)に示すように、画像It-1は、樹木と、樹木の影と、雲とを示す。また、画像Itは、樹木と、樹木の影と、建物とを示す。画像Itが示す内容には、画像It-1が示す内容に比べて、「樹木の影の位置が変化している」、「樹木の葉の色が変化している」、「雲が無い」、および「建物が存在している」という差異が存在する。
上記の差異のうち、検出対象の差異は、「建物が存在している」だけである。しかし、変化の検出に関して何ら設定が施されていない場合、変化検出手段99は、画像It-1と画像Itの間の全ての差異を変化マップに反映する。
図22に示す変化マップは、変化が検出された領域を白色で示し、変化が検出されなかった領域を黒色で示す。従って、図22(a)に示す一般的な変化マップには、「建物が存在している」に対応する建物の変化だけでなく、「樹木の影の位置が変化している」に対応する影の位置の変化、「樹木の葉の色が変化している」に対応する植物の季節変化、および「雲が無い」に対応する雲の変化も全て反映されている。
上述したように、影の位置の変化、植物の季節変化、および雲の変化は、変化マップに反映されるべきではない不要な変化である。図22(b)は、一般的な変化マップから不要な変化が除外された理想的な変化マップを示す。
図22(b)に示す理想的な変化マップには、「建物が存在している」に対応する建物の変化のみが反映されている。すなわち、検出対象の変化のみが変化マップに反映されている。
上述したように、撮影時刻が異なる複数の画像から、日照条件に起因する変化、大気の状態の変化、および森林の季節変化等のような検出対象外の変化を検出せず、検出対象の変化のみを検出できる技術が求められている。非特許文献1~非特許文献6には、検出対象の変化のみを検出できる技術が記載されていない。
そこで、本発明は、上述した課題を解決する、撮影時刻が異なる複数の画像間の変化から検出対象の変化のみを検出できる学習装置学習方法および学習プログラムを提供することを目的とする。
本発明による学習装置は、複数の画像間の変化のうち所定の対象物の周期的な変化を表す画像の領域の組と、複数の画像間の変化のうち周期的な変化以外の変化を表す画像の領域の組とを少なくとも含む学習用データを用いて複数の画像間の変化のうち周期的な変化以外の変化を検出する処理を検出機に学習させる学習手段と、学習用データに含まれている画像の領域の撮影条件を示すデータを基に所定の対象物の周期的な変化を表すパラメタを算出する算出手段とを備え、学習手段は、算出されたパラメタと学習用データとを用いて学習させることを特徴とする。
本発明による学習方法は、複数の画像間の変化のうち所定の対象物の周期的な変化を表す画像の領域の組と、複数の画像間の変化のうち周期的な変化以外の変化を表す画像の領域の組とを少なくとも含む学習用データを用いて複数の画像間の変化のうち周期的な変化以外の変化を検出する処理を検出機に学習させ、学習用データに含まれている画像の領域の撮影条件を示すデータを基に所定の対象物の周期的な変化を表すパラメタを算出し、算出されたパラメタと学習用データとを用いて学習させることを特徴とする。
本発明による学習プログラムは、コンピュータに、複数の画像間の変化のうち所定の対象物の周期的な変化を表す画像の領域の組と、複数の画像間の変化のうち周期的な変化以外の変化を表す画像の領域の組とを少なくとも含む学習用データを用いて複数の画像間の変化のうち周期的な変化以外の変化を検出する処理を検出機に学習させる学習処理、および学習用データに含まれている画像の領域の撮影条件を示すデータを基に所定の対象物の周期的な変化を表すパラメタを算出する算出処理を実行させるための学習プログラムであって、学習処理で、算出されたパラメタと学習用データとを用いて学習させることを特徴とする。
本発明によれば、撮影時刻が異なる複数の画像間の変化から検出対象の変化のみを検出できる。
一般的な画像処理装置910の構成例を示すブロック図である。 画像処理装置910が変化マップを生成する例を示す説明図である。 一般的な画像処理装置920の構成例を示すブロック図である。 画像処理装置920が変化マップを生成する例を示す説明図である。 本発明による画像処理装置の第1の実施形態の構成例を示すブロック図である。 変化検出手段130の構成例を示すブロック図である。 変化検出手段130が不要な変化が含まれていない変化の特徴量を算出する例を示す説明図である。 モデルパラメタ算出手段131により算出されたモデルパラメタの例を示す説明図である。 影の位置の変化が含まれていない変化の特徴量の計算例を示す説明図である。 変化マップと信頼度マップの生成例を示す説明図である。 データセットの生成例を示す説明図である。 第1の実施形態の画像処理装置100による変化マップおよび信頼度マップ生成処理の動作を示すフローチャートである。 第1の実施形態の画像処理装置100によるデータセット生成処理の動作を示すフローチャートである。 本発明による学習装置の第2の実施形態の構成例を示すブロック図である。 学習装置200が不要な変化以外の変化のみを検出する処理を学習させる例を示す説明図である。 第2の実施形態の学習装置200による学習処理の動作を示すフローチャートである。 本発明による画像処理装置100のハードウェア構成例を示す説明図である。 本発明による学習装置200のハードウェア構成例を示す説明図である。 本発明による学習装置の概要を示すブロック図である。 本発明による画像処理装置の概要を示すブロック図である。 本発明による画像処理装置の他の概要を示すブロック図である。 2枚の画像から変化マップを生成する例を示す説明図である。
最初に、非特許文献1~非特許文献2にそれぞれ記載されている各技術が検出対象の変化のみを検出することが困難である理由を、図面を参照して説明する。
図1は、一般的な画像処理装置910の構成例を示すブロック図である。図1に示す画像処理装置910には、非特許文献1に記載されている技術が適用されている。図1に示すように、画像処理装置910は、第1補正手段911と、第2補正手段912と、特徴量算出手段913と、変化画素検出手段914とを備える。
第1補正手段911は、入力された観測画像内の影を補正する機能を有する。また、第2補正手段912は、入力された参照画像内の影を補正する機能を有する。第1補正手段911および第2補正手段912は、「影の反射率が0、水域なし」という仮定の条件が満たされるように影を補正する。
特徴量算出手段913は、影が補正された観測画像と、影が補正された参照画像との間の変化の度合いを示す変化の特徴量を算出する機能を有する。また、変化画素検出手段914は、算出された変化の特徴量を基に変化画素を検出し、検出された変化画素を基に変化マップを生成する機能を有する。
図2は、画像処理装置910が変化マップを生成する例を示す説明図である。図2に示す例では、最初に時刻(t-1) に撮影された画像It-1が第1補正手段911に入力される。また、時刻t に撮影された画像Itが第2補正手段912に入力される。なお、画像It-1、画像Itは、図22に示す画像It-1、画像Itとそれぞれ同様である。
図2に示すように、第1補正手段911は、入力された画像It-1内の影を消去する第1補正処理を行う。しかし、図2に示すように、第1補正処理を経た画像It-1では、影だけでなく雲も補正されている。雲の補正は、第1補正手段911による補正誤差が原因で生じた補正である。補正誤差が生じた理由は、仮定の条件が満たされるように第1補正手段911が影を補正したためである。
また、図2に示すように、第2補正手段912は、入力された画像It内の影を消去する第2補正処理を行う。しかし、図2に示すように、第2補正処理を経た画像Itでは、影は完全に消去されておらず、さらに植物の季節変化までも補正されている。両者の補正は、第2補正手段912による補正誤差が原因で生じた補正である。補正誤差が生じた理由は、仮定の条件が満たされるように第2補正手段912が影を補正したためである。
特徴量算出手段913は、補正誤差を伴う画像It-1と、補正誤差を伴う画像Itとの間の変化の特徴量を算出する。また、変化画素検出手段914は、算出された変化の特徴量を基に変化画素を検出し、検出された変化画素を基に変化マップを生成する。
画像処理装置910による変化検出処理を経て生成された変化マップには、図2に示すように、補正誤差が原因で生じた影の位置の変化、植物の季節変化、および雲の変化の、不要な変化が反映されている。
上述したように、画像処理装置910には、補正処理において補正誤差を発生させずに満たすことができる条件が限られているという課題が存在する。また、補正処理において条件を満たすことができない場合もあるため、画像処理装置910の各補正手段が必ずしも正しく影を補正できるわけではないという課題も存在する。
図3は、一般的な画像処理装置920の構成例を示すブロック図である。図3に示す画像処理装置920には、非特許文献2に記載されている技術が適用されている。図3に示すように、画像処理装置920は、特徴量算出手段921と、変化画素検出手段922と、不要変化領域検出手段923と、不要変化除去手段924とを備える。
特徴量算出手段921は、観測画像と参照画像との間の変化の特徴量を算出する機能を有する。また、変化画素検出手段922は、算出された変化の特徴量を基に変化画素を検出し、検出された変化画素を基に第1変化マップを生成する機能を有する。
不要変化領域検出手段923は、観測画像と参照画像との間の検出対象外の変化が生じている領域を不要変化領域として検出する機能を有する。不要変化領域検出手段923は、検出された不要変化領域が表された不要変化マップを生成する。また、不要変化除去手段924は、第1変化マップと不要変化マップとの差分をとることによって、第2変化マップを生成する機能を有する。
図4は、画像処理装置920が変化マップを生成する例を示す説明図である。図4に示す例では、最初に時刻(t-1) に撮影された画像It-1および時刻t に撮影された画像Itが、特徴量算出手段921と不要変化領域検出手段923にそれぞれ入力される。なお、画像It-1、画像Itは、図22に示す画像It-1、画像Itとそれぞれ同様である。
特徴量算出手段921は、画像It-1と画像Itとの間の変化の特徴量を算出する。また、変化画素検出手段922は、算出された変化の特徴量を基に変化画素を検出し、検出された変化画素を基に第1変化マップを生成する。
図4に示すように、変化画素検出手段922による変化検出処理を経て生成された第1変化マップには、図22(a)に示す一般的な変化マップと同様に全ての変化が反映されている。
また、図4に示すように、不要変化領域検出手段923は、画像It-1と画像Itとの間の不要変化領域を検出し、検出された不要変化領域が表された不要変化マップを生成する不要な変化の検出処理を行う。図4に示すように、不要変化領域検出手段923による不要な変化の検出処理を経て生成された不要変化マップには、検知対象外の変化のみが反映されている。
不要変化除去手段924は、第1変化マップから不要変化マップを減算することによって第2変化マップを生成する不要な変化の除去処理を行う。
不要変化除去手段924による不要な変化の除去処理を経て生成された第2変化マップには、理論的には検知対象の変化のみが反映されているはずである。しかし、図4に示すように、第2変化マップには、樹木の影内で生じた建物の変化が反映されていない。
その理由は、単純に影の変化が生じている領域を全て除去するというアルゴリズムが画像処理装置920に適用されているためである。すなわち、画像処理装置920には、影内の変化を検出できないという課題が存在する。
以上のように、非特許文献1~非特許文献2にそれぞれ記載されている各技術は、検出対象の変化のみを検出することが困難である。よって、本発明は、検出機を検出対象の変化のみを高精度に検出でき、かつ影内の変化も検出可能にするための学習装置、および画像処理装置を提供する。
実施形態1.
[構成の説明]
以下、本発明の実施形態を、図面を参照して説明する。図5は、本発明による画像処理装置の第1の実施形態の構成例を示すブロック図である。
本実施形態の画像処理装置100は、異なる2つの時刻にそれぞれ撮影された画像間の変化、および各画像のメタデータ間の変化をそれぞれ検出する。変化を検出した後、画像処理装置100は、変化マップ、および画素ごとの信頼度合いを示す信頼度マップをそれぞれ生成する。
次いで、画像処理装置100は、生成された信頼度マップに基づいて、信頼可能な画素の周辺に対応する領域を2つの画像および変化マップからそれぞれ抽出し、抽出された領域とメタデータとを合わせることによってデータセットを生成する。生成されたデータセットは、検出対象の変化のみを検出するための学習に用いられる。
図5に示すように、画像処理装置100は、衛星画像データベース(DB)110と、地球観測手段120と、変化検出手段130と、メタデータ抽出手段140と、データセット生成手段150とを備える。
衛星画像DB110には、人工衛星により撮影された参照用の画像、および参照用の画像のメタデータが格納されている。衛星画像DB110から、参照時刻に撮影された画像、および参照時刻に撮影された画像のメタデータが出力される。
地球観測手段120は、観測対象の地表の状態を撮影する機能を有する。地球観測手段120から、任意の時刻に撮影された画像、および任意の時刻に撮影された画像のメタデータが出力される。
画像のメタデータは、画像が撮影された時の撮影条件を示すデータである。画像のメタデータには、例えば撮影時刻の人工衛星の位置を示すデータや、撮影に用いられたアンテナの方向を示すデータが含まれる。
変化検出手段130は、参照時刻に撮影された画像および参照時刻に撮影された画像のメタデータと、任意の時刻に撮影された画像および任意の時刻に撮影された画像のメタデータとを基に、変化マップと信頼度マップとを生成する機能を有する。
例えば、変化検出手段130は、太陽天頂角や日時等を示すメタデータから算出された後述するモデルパラメタを用いて、不要な変化をもたらす条件に応じて変化するスペクトルの範囲を限定する。
不要な変化は、上述したように日照条件に起因する変化、大気の状態の変化、および森林の季節変化等である。すなわち、本実施形態の不要な変化は、撮影環境に応じた周期的な変化とも言える。
スペクトルの範囲を限定することによって、変化検出手段130は、不要な変化が含まれていない変化の度合いを示す変化の特徴量を算出する。次いで、変化検出手段130は、算出された変化の特徴量を基に変化画素を検出する。変化検出手段130は、検出された変化画素を分類すると共に、検出の信頼度も画素ごとに算出する。
メタデータ抽出手段140は、参照時刻に撮影された画像のメタデータおよび任意の時刻に撮影された画像のメタデータから、データセットに求められるメタデータを抽出する機能を有する。
データセット生成手段150は、生成された変化マップと信頼度マップ、および参照時刻に撮影された画像と任意の時刻に撮影された画像を基に、学習に用いられるデータセットを生成する機能を有する。
図6は、変化検出手段130の構成例を示すブロック図である。図6に示すように、変化検出手段130は、モデルパラメタ算出手段131と、特徴量算出手段132と、変化画素検出手段133と、信頼度算出手段134とを含む。
モデルパラメタ算出手段131は、任意の時刻に撮影された画像のメタデータを基に任意の時刻のモデルパラメタを、参照時刻に撮影された画像のメタデータを基に参照時刻のモデルパラメタをそれぞれ算出する機能を有する。
本実施形態のモデルパラメタは、撮影時の周期的な変化の状態を表す環境のデータや対象物のデータである。すなわち、モデルパラメタ算出手段131は、画像のメタデータを基に周期的な変化の状態を表すモデルパラメタを算出する手段である。
特徴量算出手段132は、参照時刻に撮影された画像と任意の時刻に撮影された画像、および算出された各モデルパラメタを基に、不要な変化が含まれていない変化の特徴量を算出する機能を有する。
変化画素検出手段133は、算出された不要な変化が含まれていない変化の特徴量を基に変化マップを生成する機能を有する。また、信頼度算出手段134は、算出された不要な変化が含まれていない変化の特徴量を基に信頼度マップを生成する機能を有する。
以下、画像処理装置100がデータセットを生成する例を、図面を参照して説明する。図7は、変化検出手段130が不要な変化が含まれていない変化の特徴量を算出する例を示す説明図である。
図7に示すように、本例では衛星画像DB110が時刻(t-1) に撮影された画像It-1と、画像It-1のメタデータとを出力する。また、地球観測手段120が時刻t に撮影された画像Itと、画像Itのメタデータとを出力する。なお、画像It-1、画像Itは、図22に示す画像It-1、画像Itとそれぞれ同様である。
モデルパラメタ算出手段131は、画像It-1のメタデータを基に時刻(t-1) のモデルパラメタを算出する。また、モデルパラメタ算出手段131は、画像Itのメタデータを基に時刻t のモデルパラメタを算出する。
以下、モデルパラメタ算出手段131によるモデルパラメタの算出例を示す。モデルパラメタ算出手段131は、例えば、メタデータが示す太陽天頂角θと画像が示す地点の緯度および経度とを入力とし、大気の放射伝達モデルに従って太陽光スペクトルの直達光の成分(以下、直達成分ともいう。)sdと散乱光の成分(以下、散乱成分ともいう。)ssを、それぞれ以下のように算出する。
[sd,t,ss,t] = fBirdt), [sd,t-1,ss,t-1] = fBirdt-1) ・・・式(1)
なお、式(1)における添字t は、時刻t のデータであることを示す。同様に添字t-1 は、時刻(t-1) のデータであることを示す。また、式(1)における関数fBird は、非特許文献3に記載されている関数である。また、直達成分sdと散乱成分ssは、それぞれベクトルである。
算出された太陽光スペクトルの直達成分sdと散乱成分ssは、撮影時の太陽光の状態を表す。また、太陽光スペクトルの直達成分sdと散乱成分ssは、影による画像の変化の仕方を示唆する。
また、モデルパラメタ算出手段131は、例えば、メタデータが示す画像が撮影された日時、および画像が示す地点の緯度と経度から、太陽天頂角θを算出してもよい。また、モデルパラメタ算出手段131は、太陽天頂角θと併せて太陽方位角を算出してもよい。
また、モデルパラメタ算出手段131は、例えば、画像を撮影した人工衛星の天頂角を算出してもよい。また、モデルパラメタ算出手段131は、人工衛星の天頂角と併せて人工衛星の方位角を算出してもよい。
また、モデルパラメタ算出手段131は、例えば、メタデータが示す画像が撮影された月日や日時と、画像が示す地点の緯度および経度とを入力とし、植物の季節変化のモデルに従って画像が撮影された季節の植生のスペクトルを算出してもよい。また、モデルパラメタ算出手段131は、植生のスペクトルと共に、植生指標の一種であるNDVI(Normalized Difference Vegetation Index)、およびCO2 吸収量をそれぞれ算出してもよい。
算出される各情報は、撮影時の植生の状態を表す情報である。また、算出される各情報は、森林の季節変化の仕方を示唆する。モデルパラメタ算出手段131は、植物群落を示す地図と合わせて画素ごとに各情報を算出してもよい。
また、モデルパラメタ算出手段131は、例えばメタデータが示す太陽方位角と観測方位角とを入力とし、幾何モデルに従って画像に対する相対的な太陽方位角を算出してもよい。
画像に対する相対的な太陽方位角は、撮影時に影ができる方向を表す情報である。モデルパラメタ算出手段131は、画像に対する相対的な太陽方位角と太陽天頂角とを合わせて、影ができる方向と影の長さを示唆する情報としてもよい。
図8は、モデルパラメタ算出手段131により算出されたモデルパラメタの例を示す説明図である。図8に示す各ベクトルの添字t は、時刻t のデータであることを示す。同様に図8に示す各ベクトルの添字t-1 は、時刻(t-1) のデータであることを示す。
図8(a)は、太陽光スペクトルの直達成分sdの状態と散乱成分ssの状態を表すベクトルを示す。図8(a)に示す各条件がそれぞれ満たされるとき、ベクトルの各成分はそれぞれ1になる。なお、図8(a)に示す各条件における「バンド」は、バンドスペクトルを意味する。
また、モデルパラメタ算出手段131は、太陽光スペクトルの成分の状態を表すベクトルの代わりに、波長ごとの各強度を表すベクトルそのものを算出してもよい。
図8(b)は、植物のNDVIの状態を表すベクトルを示す。NDVIの値が図8(b)に示すいずれの範囲内の値であるかによって、1になるベクトルの成分が決定される。なお、モデルパラメタ算出手段131は、植物のNDVIの状態を表すベクトルの代わりに、NDVIの値を表すスカラそのものを算出してもよい。
図8(c)は、撮影時の画像に対する相対的な太陽方位角の状態を表すベクトルを示す。太陽方位角の値が図8(c)に示すいずれの範囲内の値であるかによって、1になるベクトルの成分が決定される。なお、モデルパラメタ算出手段131は、相対的な太陽方位角の状態を表すベクトルの代わりに、太陽方位角を表すスカラそのものを算出してもよい。
以上のように、モデルパラメタ算出手段131は、複数の画像の各撮影条件を示すデータを基に複数の画像に渡って表示されている所定の対象物の周期的な変化を表すパラメタを算出する。モデルパラメタ算出手段131は、算出された時刻(t-1) のモデルパラメタおよび時刻t のモデルパラメタを、特徴量算出手段132に入力する。
特徴量算出手段132は、画像It-1、画像It、および算出された時刻(t-1) のモデルパラメタと時刻t のモデルパラメタを基に、不要な変化が含まれていない変化の特徴量を算出する。
特徴量算出手段132は、例えば物理モデルに基づいて不要な変化が含まれていない変化の特徴量を画素ごとに算出する。次いで、特徴量算出手段132は、不要な変化が含まれていない変化の特徴量を示す変化マップを生成する。
図7に示す変化マップの領域は、色が白色に近いほど変化が大きい領域になる。図7に示す変化マップにおける格子模様の領域は、白色の領域よりは変化が大きくない領域である。
また、図7に示す変化マップにおける破線の楕円で囲まれた白色の点は、ノイズが原因で変化が生じた領域である。また、図7に示す変化マップにおける横線模様の領域は、モデル自体の誤差(モデル誤差)が原因で変化が生じた領域である。
以下、不要な変化が含まれていない変化の特徴量の算出例を示す。図9は、影の位置の変化が含まれていない変化の特徴量の計算例を示す説明図である。例えば、図9に示すように、特徴量算出手段132は、観測波長数と同次元のスペクトル空間における任意の画素の変化ベクトルc を計算する。
図9に示すように、変化ベクトルc は、モデルパラメタ算出手段131により算出された太陽光スペクトルの直達成分sdと散乱成分ss、および標準的な太陽光スペクトルsstd が用いられて算出される。図9に示す斜線模様の領域は、影の位置が変化することによって変化ベクトルc が取り得る範囲を表す。
原点から変化ベクトルc までの最短距離は、図9に示す式で求められる。求められた最短距離が、影の位置の変化が含まれていない変化の特徴量icf に相当する。
以上のように、特徴量算出手段132は、モデルパラメタ算出手段131により算出されたモデルパラメタと複数の画像とを用いて複数の画像間の変化から周期的な変化(例えば、影の位置の変化)が除去された変化の度合いを示す特徴量を算出できる。なお、特徴量算出手段132は、図9に示す方法以外の方法で不要な変化が含まれていない変化の特徴量を算出してもよい。
図10は、変化マップと信頼度マップの生成例を示す説明図である。特徴量算出手段132は、算出された不要な変化が含まれていない変化の特徴量を、変化画素検出手段133と信頼度算出手段134に入力する。
変化画素検出手段133は、例えば入力された変化の特徴量のうち、所定の閾値以上の変化の特徴量のみを反映することによって変化マップを生成する。例えば、図10に示す変化マップでは、不要な変化が含まれていない変化の特徴量を示す変化マップにおける白色の領域と、横線模様の領域とが「変化有」の領域として表されている。
また、信頼度算出手段134は、例えば入力された変化の特徴量のうち、所定の閾値以上の変化の特徴量のみを反映することによって信頼度マップを生成する。また、信頼度算出手段134は、入力された変化の特徴量のうち、分散が所定の閾値以下の変化の特徴量のみを反映することによって信頼度マップを生成してもよい。すなわち、信頼度算出手段134は、特徴量算出手段132により算出された特徴量の信頼度を算出する。
図10に示す信頼度マップは、信頼度が有る領域を白色で示し、信頼度が無い領域を黒色で示す。例えば、図10に示す信頼度マップでは、不要な変化が含まれていない変化の特徴量を基に「ノイズ有」とされた領域と「モデル誤差有」とされた領域とが、「信頼度無」の領域として表されている。
図11は、データセットの生成例を示す説明図である。データセット生成手段150は、信頼度マップで「信頼度有」とされた領域の各画素に対応する画素の変化マップの値と、各時刻の画像における画素の周辺領域とを関連付けて抽出する。なお、データセット生成手段150は、対応する画素の周辺領域の値を変化マップの値として抽出してもよい。
図11に示す例であれば、データセット生成手段150は、信頼度マップにおける破線の矩形内の領域に対応する変化マップにおける破線の矩形内の領域の値を、変化マップの値として抽出する。抽出された値は「変化有」を示すので、図11に示すデータセットの1列目のデータの変化の有無が、白色の矩形で表されている。
なお、抽出された値が「変化無」を示す場合、変化の有無は、黒色の矩形で表される。また、変化の有無の代わりに、変化マップの値自体がデータに含まれてもよい。
また、データセット生成手段150は、画像It-1における破線の矩形内の領域と、画像Itにおける破線の矩形内の領域とを関連付けて抽出する。なお、データセット生成手段150は、矩形内の領域の代わりに矩形内の中心画素を抽出してもよい。
また、メタデータ抽出手段140は、画像It-1の抽出された領域に関するメタデータ、および画像Itの抽出された領域に関するメタデータをそれぞれ抽出する。データセット生成手段150は、抽出された各画像領域、抽出された各メタデータ、および変化の有無とを合わせることによって、図11に示すデータセット内の各データを生成する。以上の処理により、図11に示すデータセットが生成される。
本実施形態の変化検出手段130は、複数の画像間の変化から所定の対象物の周期的な変化が除去された変化の度合いを示す複数の特徴量を画像を構成する画素ごとに示す変化情報(例えば、変化マップ)と、複数の特徴量の各信頼度を画素ごとに示す信頼度情報(例えば、信頼度マップ)とを生成する。
次いで、本実施形態のデータセット生成手段150は、生成された信頼度情報が示す信頼度が所定値以上の特徴量に対応する画素を含む領域を複数の画像からそれぞれ抽出し、生成された変化情報から所定値以上の特徴量を抽出する。また、データセット生成手段150は、抽出された各領域と、抽出された所定値以上の特徴量と、複数の画像の各撮影条件を示すデータとが対応付けられた学習用データを生成する。
[動作の説明]
以下、本実施形態の画像処理装置100の変化マップおよび信頼度マップを生成する動作を図12を参照して説明する。図12は、第1の実施形態の画像処理装置100による変化マップおよび信頼度マップ生成処理の動作を示すフローチャートである。
最初に、地球観測手段120は、任意の時刻に撮影された画像、および任意の時刻に撮影された画像のメタデータを変化検出手段130に入力する(ステップS101)。
次いで、衛星画像DB110は、参照時刻に撮影された画像、および参照時刻に撮影された画像のメタデータを変化検出手段130に入力する(ステップS102)。
次いで、モデルパラメタ算出手段131は、任意の時刻に撮影された画像のメタデータを基に任意の時刻のモデルパラメタを算出する。また、モデルパラメタ算出手段131は、参照時刻に撮影された画像のメタデータを基に参照時刻のモデルパラメタを算出する(ステップS103)。モデルパラメタ算出手段131は、算出された各モデルパラメタを特徴量算出手段132に入力する。
次いで、特徴量算出手段132は、参照時刻に撮影された画像と任意の時刻に撮影された画像、およびステップS103で算出された各モデルパラメタを用いて、不要な変化が含まれていない変化の特徴量を算出する(ステップS104)。特徴量算出手段132は、算出された特徴量を変化画素検出手段133および信頼度算出手段134に入力する。
次いで、変化画素検出手段133は、算出された不要な変化が含まれていない変化の特徴量を用いて、変化の有無を画素ごとに表す変化マップを生成する(ステップS105)。
次いで、信頼度算出手段134は、算出された不要な変化が含まれていない変化の特徴量を用いて、ステップS105で生成された変化マップの信頼度合いを画素ごとに表す信頼度マップを生成する(ステップS106)。信頼度マップを生成した後、画像処理装置100は、変化マップおよび信頼度マップ生成処理を終了する。
次に、本実施形態の画像処理装置100のデータセットを生成する動作を図13を参照して説明する。図13は、第1の実施形態の画像処理装置100によるデータセット生成処理の動作を示すフローチャートである。
最初に、地球観測手段120は、任意の時刻に撮影された画像をデータセット生成手段150に入力する。また、地球観測手段120は、任意の時刻に撮影された画像のメタデータをメタデータ抽出手段140に入力する(ステップS111)。
次いで、衛星画像DB110は、参照時刻に撮影された画像をデータセット生成手段150に入力する。また、衛星画像DB110は、参照時刻に撮影された画像のメタデータをメタデータ抽出手段140に入力する(ステップS112)。
次いで、変化検出手段130は、生成された変化マップおよび信頼度マップをデータセット生成手段150に入力する(ステップS113)。
次いで、データセット生成手段150は、信頼度マップにおける信頼可能な各画素の周辺に対応する領域を、参照時刻に撮影された画像、任意の時刻に撮影された画像、および変化マップからそれぞれ抽出する(ステップS114)。データセット生成手段150は、抽出された各領域をメタデータ抽出手段140に入力する。
次いで、メタデータ抽出手段140は、参照時刻に撮影された画像のメタデータおよび任意の時刻に撮影された画像のメタデータから、ステップS114で抽出された各領域に関するメタデータをそれぞれ抽出する(ステップS115)。メタデータ抽出手段140は、抽出された各メタデータをデータセット生成手段150に入力する。
次いで、データセット生成手段150は、抽出された各画像の領域と、抽出された各メタデータと、抽出された変化マップの領域の値に対応する変化の有無とが対応付けられたデータで構成されるデータセットを生成する(ステップS116)。データセットを生成した後、画像処理装置100は、データセット生成処理を終了する。
[効果の説明]
本実施形態の画像処理装置100は、異なる2つの時刻の画像および各画像のメタデータから変化を検出し、変化マップおよび画素ごとの信頼度合いを示す信頼度マップを生成する変化検出手段130を備える。
また、画像処理装置100は、信頼度マップにおける信頼可能な画素の周辺に対応する領域を2つの時刻の画像および変化マップからそれぞれ抽出し、メタデータと合わせることによってデータセットを生成するデータセット生成手段150を備える。
また、変化検出手段130は、太陽天頂角や日時等のメタデータから算出されたモデルパラメタを用いて、不要な変化をもたらす条件に応じて変化するスペクトルの範囲を限定することによって、不要な変化が含まれていない変化の特徴量を算出する特徴量算出手段132を含む。不要な変化は、日照条件に起因する変化、大気の状態の変化、および森林の季節変化等である。
また、変化検出手段130は、算出された変化の特徴量を基に変化画素を検出し、検出された変化画素を分類する変化画素検出手段133と、検出の信頼度を画素ごとに算出する信頼度算出手段134とを含む。
よって、本実施形態の画像処理装置100は、不要な変化を検出せずに検出対象の変化のみを検出する処理の学習に要するデータセットを生成できる。
実施形態2.
[構成の説明]
次に、本発明による学習装置の第2の実施形態を、図面を参照して説明する。図14は、本発明による学習装置の第2の実施形態の構成例を示すブロック図である。
本実施形態の学習装置200は、同一地点が撮影された異なる2つの時刻の画像領域の組、画像領域の変化の有無、および各画像領域に関するメタデータを含む多数のデータで構成されるデータセットを用いて、不要な変化以外の変化のみを検出する処理を機械に学習させる装置である。
すなわち、不要な変化以外の変化のみを検出する処理を学習した変化検出機は、不要な変化を検出しない。不要な変化は、日照条件に起因する変化、大気の状態の変化、および森林の季節変化等である。
図14に示すように、学習装置200は、モデルパラメタ算出手段210と、機械学習手段220とを備える。また、学習装置200には、第1の実施形態の画像処理装置100からデータセットが入力される。
また、図14に示すように、学習装置200は、変化検出機300と通信可能に接続されている。学習を終えた変化検出機300が、同一地点が撮影された異なる2つの時刻の画像から、不要な変化以外の変化のみを検出する。
モデルパラメタ算出手段210は、データセット内の任意の時刻に撮影された画像のメタデータを基に任意の時刻のモデルパラメタを、データセット内の参照時刻に撮影された画像のメタデータを基に参照時刻のモデルパラメタをそれぞれ算出する機能を有する。モデルパラメタ算出手段210が有する機能は、第1の実施形態のモデルパラメタ算出手段131が有する機能と同様である。
機械学習手段220は、同一地点が撮影された異なる2つの時刻の画像領域と、画像領域の変化の有無と、各画像領域に関するモデルパラメタとの組を用いて、不要な変化以外の変化のみを検出する処理を機械に学習させる機能を有する。
以下、学習装置200が変化検出機300に変化検出処理を学習させる例を、図面を参照して説明する。図15は、学習装置200が不要な変化以外の変化のみを検出する処理を学習させる例を示す説明図である。
図15に示すデータセットは、図11に示すデータセットと同一である。データセットが入力されたモデルパラメタ算出手段210は、各画像のメタデータを基にモデルパラメタをそれぞれ算出する。算出した後、モデルパラメタ算出手段210は、メタデータの代わりにモデルパラメタが含まれているデータセットを機械学習手段220に入力する。
モデルパラメタが含まれているデータセットが入力された機械学習手段220は、変化検出機300に不要な変化以外の変化のみを検出する処理を学習させる。
図15に示す例であれば、機械学習手段220は、変化検出機300を構成するネットワークに時刻(t-1) のモデルパラメタ、時刻t のモデルパラメタ、時刻(t-1) の画像領域、時刻t の画像領域がそれぞれ入力されると対応する変化の有無を出力する処理を変化検出機300に学習させる。なお、図15に示す例における時刻(t-1) のモデルパラメタ、時刻t のモデルパラメタはそれぞれ、太陽天頂角θt-1 、太陽天頂角θt である。
また、時刻(t-1) のモデルパラメタ、時刻t のモデルパラメタは、図8(a)に示す太陽光スペクトルの直達光の成分sdの状態と散乱光の成分ssの状態を表すベクトルでもよい。図8(a)に示す2つのベクトルが直接機械学習手段220に入力されると、機械学習手段220は、周期的な変化を除外し、周期的な変化以外の変化を検出する処理を変化検出機300に学習させる。
また、時刻(t-1) のモデルパラメタ、時刻t のモデルパラメタは、図8(b)に示す植物のNDVIの状態を表すベクトルでもよいし、図8(c)に示す撮影時の画像に対する相対的な太陽方位角の状態を表すベクトルでもよい。
また、変化検出機300を構成するネットワークは、非特許文献4に記載されているCNN 、非特許文献5に記載されているSAE 、および非特許文献6に記載されているDBN 等、機械学習に使用可能なネットワークであれば、どのようなネットワークでもよい。
不要な変化以外の変化のみを検出する処理を学習した変化検出機300は、同一地点が撮影された異なる2つの時刻の画像から、不要な変化を検出せずに、検出対象の変化のみを検出する。
本実施形態の機械学習手段220は、複数の画像間の変化のうち所定の対象物の周期的な変化を表す画像の領域の組と、複数の画像間の変化のうち周期的な変化以外の変化を表す画像の領域の組とを少なくとも含む学習用データを用いて複数の画像間の変化のうち周期的な変化以外の変化を検出する処理を検出機に学習させる。
また、本実施形態のモデルパラメタ算出手段210は、学習用データに含まれている画像の領域の撮影条件を示すデータを基に所定の対象物の周期的な変化を表すパラメタを算出する。機械学習手段220は、算出されたパラメタと学習用データとを用いて検出機に学習させる。
モデルパラメタが用いられて機械学習が行われる利点は、機械学習が容易になることである。例えば、モデルパラメタが含まれていないデータセットが与えられた状態で機械学習が行われる場合、データセットには、多くのパターンの変化に関するデータが含まれていることが求められる。しかし、多様なデータで構成されるデータセットを用意することは、困難である。
モデルパラメタが用いられて機械学習が行われる場合、学習装置200は、データセットに存在しない変化のパターンであっても、モデルパラメタを基に類似する変化に関するデータを変化検出機300に参照させて、変化のパターンを類推させることができる。すなわち、利用者は、データセットに含めるデータの種類を減らすことができる。
[動作の説明]
以下、本実施形態の学習装置200の変化検出機300に変化検出処理を学習させる動作を図16を参照して説明する。図16は、第2の実施形態の学習装置200による学習処理の動作を示すフローチャートである。
最初に、画像処理装置100は、生成されたデータセットを学習装置200に入力する(ステップS201)。
次いで、モデルパラメタ算出手段210は、任意の時刻に撮影された画像のメタデータを基に任意の時刻のモデルパラメタを算出する。また、モデルパラメタ算出手段210は、参照時刻に撮影された画像のメタデータを基に参照時刻のモデルパラメタを算出する(ステップS202)。モデルパラメタ算出手段210は、算出されたモデルパラメタが含まれるデータセットを機械学習手段220に入力する。
次いで、機械学習手段220は、入力されたデータセットを用いて不要な変化を検出せずに検出対象の変化のみを検出する処理を変化検出機300に学習させる(ステップS203)。
具体的には、機械学習手段220は、影の位置の変化、雲の状態の変化、および植物の季節変化等の不要な変化を検出せずに検出対象の変化のみを検出する処理を、データセットを用いて変化検出機300に学習させる。学習させた後、学習装置200は、学習処理を終了する。
[効果の説明]
本実施形態の学習装置200は、同一地点が撮影された異なる2つの時刻の画像領域の組、画像領域の変化の有無、および各画像領域の観測時刻におけるモデルパラメタを含むデータを用いて、不要な変化を検出せずに検出対象の変化のみを検出する処理を機械に学習させる機械学習手段220を備える。不要な変化は、日照条件に起因する変化、大気の状態の変化、および森林の季節変化等である。
よって、本実施形態の学習装置200は、不要な変化を検出せずに検出対象の変化のみを検出する処理を変化検出機300に学習させることができる。学習した変化検出機300は、撮影時刻が異なる複数の画像間の変化から検出対象の変化のみを検出できる。
なお、第1の実施形態の画像処理装置100と第2の実施形態の学習装置200は、それぞれ独立に使用されてもよいし、同一のシステムに含まれた状態で使用されてもよい。
以下、第1の実施形態の画像処理装置100のハードウェア構成の具体例、および第2の実施形態の学習装置200のハードウェア構成の具体例を説明する。
図17は、本発明による画像処理装置100のハードウェア構成例を示す説明図である。図17に示す画像処理装置100は、CPU(Central Processing Unit)101と、主記憶部102と、通信部103と、補助記憶部104とを備える。また、ユーザが操作するための入力部105や、ユーザに処理結果または処理内容の経過を提示するための出力部106を備えてもよい。
図18は、本発明による学習装置200のハードウェア構成例を示す説明図である。図18に示す学習装置200は、CPU201と、主記憶部202と、通信部203と、補助記憶部204とを備える。また、ユーザが操作するための入力部205や、ユーザに処理結果または処理内容の経過を提示するための出力部206を備えてもよい。
主記憶部102および主記憶部202は、データの作業領域やデータの一時退避領域として用いられる。主記憶部102および主記憶部202は、例えばRAM(Random Access Memory)である。
通信部103および通信部203は、有線のネットワークまたは無線のネットワーク(情報通信ネットワーク)を介して、周辺機器との間でデータを入力および出力する機能を有する。
補助記憶部104および補助記憶部204は、一時的でない有形の記憶媒体である。一時的でない有形の記憶媒体として、例えば磁気ディスク、光磁気ディスク、CD-ROM(Compact Disk Read Only Memory)、DVD-ROM(Digital Versatile Disk Read Only Memory)、半導体メモリが挙げられる。
入力部105および入力部205は、データや処理命令を入力する機能を有する。入力部105および入力部205は、例えばキーボードやマウス等の入力デバイスである。
出力部106および出力部206は、データを出力する機能を有する。出力部106および出力部206は、例えば液晶ディスプレイ装置等の表示装置、またはプリンタ等の印刷装置である。
また、図17に示すように、画像処理装置100において、各構成要素は、システムバス107に接続されている。また、図18に示すように、学習装置200において、各構成要素は、システムバス207に接続されている。
補助記憶部104は、例えば、図5に示す地球観測手段120、変化検出手段130、メタデータ抽出手段140、およびデータセット生成手段150を実現するためのプログラムを記憶している。また、主記憶部102は、例えば、衛星画像DB110の記憶領域として利用される。
なお、画像処理装置100は、ハードウェアにより実現されてもよい。例えば、画像処理装置100は、内部に図5に示すような機能を実現するプログラムが組み込まれたLSI(Large Scale Integration)等のハードウェア部品が含まれる回路が実装されてもよい。
また、画像処理装置100は、図17に示すCPU101が図5に示す各構成要素が有する機能を提供するプログラムを実行することによって、ソフトウェアにより実現されてもよい。
ソフトウェアにより実現される場合、CPU101が補助記憶部104に格納されているプログラムを、主記憶部102にロードして実行し、画像処理装置100の動作を制御することによって、各機能がソフトウェアにより実現される。
補助記憶部204は、例えば、図14に示すモデルパラメタ算出手段210、および機械学習手段220を実現するためのプログラムを記憶している。
なお、学習装置200は、ハードウェアにより実現されてもよい。例えば、学習装置200は、内部に図14に示すような機能を実現するプログラムが組み込まれたLSI等のハードウェア部品が含まれる回路が実装されてもよい。
また、学習装置200は、図18に示すCPU201が図14に示す各構成要素が有する機能を提供するプログラムを実行することによって、ソフトウェアにより実現されてもよい。
ソフトウェアにより実現される場合、CPU201が補助記憶部204に格納されているプログラムを、主記憶部202にロードして実行し、学習装置200の動作を制御することによって、各機能がソフトウェアにより実現される。
また、各構成要素の一部または全部は、汎用の回路(circuitry)または専用の回路、プロセッサ等やこれらの組み合わせによって実現されてもよい。これらは、単一のチップによって構成されてもよいし、バスを介して接続される複数のチップによって構成されてもよい。各構成要素の一部または全部は、上述した回路等とプログラムとの組み合わせによって実現されてもよい。
各構成要素の一部または全部が複数の情報処理装置や回路等により実現される場合には、複数の情報処理装置や回路等は集中配置されてもよいし、分散配置されてもよい。例えば、情報処理装置や回路等は、クライアントアンドサーバシステム、クラウドコンピューティングシステム等、各々が通信ネットワークを介して接続される形態として実現されてもよい。
次に、本発明の概要を説明する。図19は、本発明による学習装置の概要を示すブロック図である。本発明による学習装置10は、複数の画像間の変化のうち所定の対象物の周期的な変化を表す画像の領域の組と、複数の画像間の変化のうち周期的な変化以外の変化を表す画像の領域の組とを少なくとも含む学習用データを用いて複数の画像間の変化のうち周期的な変化以外の変化を検出する処理を検出機に学習させる学習手段11(例えば、機械学習手段220)を備える。
そのような構成の学習装置が使用されると、撮影時刻が異なる複数の画像間の変化から検出対象の変化のみが検出される。
また、学習装置10は、学習用データに含まれている画像の領域の撮影条件を示すデータを基に所定の対象物の周期的な変化を表すパラメタを算出する算出手段(例えば、モデルパラメタ算出手段210)を備え、学習手段11は、算出されたパラメタと学習用データとを用いて学習させてもよい。
そのような構成の学習装置が使用されると、所定の対象物の周期的な変化がより具体的に表現される。
また、パラメタは、太陽天頂角でもよい。また、パラメタは、太陽光スペクトルの直達光の成分、および太陽光スペクトルの散乱光の成分でもよい。
そのような構成の学習装置が使用されると、複数の画像間の変化から影の長さの変化が検出対象から除外される。
また、パラメタは、植生指標でもよい。
そのような構成の学習装置が使用されると、複数の画像間の変化から植物の季節変化が検出対象から除外される。
また、パラメタは、太陽方位角でもよい。
そのような構成の学習装置が使用されると、複数の画像間の変化から影ができる方向の変化が検出対象から除外される。
また、図20は、本発明による画像処理装置の概要を示すブロック図である。本発明による画像処理装置20は、複数の画像間の変化から所定の対象物の周期的な変化が除去された変化の度合いを示す複数の特徴量を画像を構成する画素ごとに示す変化情報と、複数の特徴量の各信頼度を画素ごとに示す信頼度情報とを生成する第1生成手段21(例えば、変化検出手段130)と、生成された信頼度情報が示す信頼度が所定値以上の特徴量に対応する画素を含む領域を複数の画像からそれぞれ抽出し、生成された変化情報から所定値以上の特徴量を抽出する抽出手段22(例えば、データセット生成手段150)と、抽出された各領域と、抽出された所定値以上の特徴量と、複数の画像の各撮影条件を示すデータとが対応付けられた学習用データを生成する第2生成手段23(例えば、データセット生成手段150)とを備える。
そのような構成の画像処理装置が使用されると、撮影時刻が異なる複数の画像間の変化から検出対象の変化のみが検出される。
また、図21は、本発明による画像処理装置の他の概要を示すブロック図である。本発明による画像処理装置30は、複数の画像の各撮影条件を示すデータを基に複数の画像に渡って表示されている所定の対象物の周期的な変化を表すパラメタを算出するパラメタ算出手段31(例えば、モデルパラメタ算出手段131)と、算出されたパラメタと複数の画像とを用いて複数の画像間の変化から周期的な変化が除去された変化の度合いを示す特徴量を算出する特徴量算出手段32(例えば、特徴量算出手段132)と、算出された特徴量の信頼度を算出する信頼度算出手段33(例えば、信頼度算出手段134)とを備える。
そのような構成の画像処理装置が使用されると、撮影時刻が異なる複数の画像間の変化から検出対象の変化のみが検出される。
以上、実施形態および実施例を参照して本願発明を説明したが、本願発明は上記実施形態および実施例に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
また、上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下に限られない。
(付記1)複数の画像間の変化のうち所定の対象物の周期的な変化を表す画像の領域の組と、前記複数の画像間の変化のうち前記周期的な変化以外の変化を表す画像の領域の組とを少なくとも含む学習用データを用いて前記複数の画像間の変化のうち前記周期的な変化以外の変化を検出する処理を検出機に学習させる学習手段を備えることを特徴とする学習装置。
(付記2)学習用データに含まれている画像の領域の撮影条件を示すデータを基に所定の対象物の周期的な変化を表すパラメタを算出する算出手段を備え、学習手段は、算出されたパラメタと前記学習用データとを用いて学習させる付記1記載の学習装置。
(付記3)パラメタは、太陽天頂角である付記2記載の学習装置。
(付記4)パラメタは、太陽光スペクトルの直達光の成分、および前記太陽光スペクトルの散乱光の成分である付記2または付記3記載の学習装置。
(付記5)パラメタは、植生指標である付記2から付記4のうちのいずれかに記載の学習装置。
(付記6)パラメタは、太陽方位角である付記2から付記5のうちのいずれかに記載の学習装置。
(付記7)複数の画像間の変化から所定の対象物の周期的な変化が除去された変化の度合いを示す複数の特徴量を画像を構成する画素ごとに示す変化情報と、前記複数の特徴量の各信頼度を画素ごとに示す信頼度情報とを生成する第1生成手段と、生成された信頼度情報が示す信頼度が所定値以上の特徴量に対応する画素を含む領域を前記複数の画像からそれぞれ抽出し、生成された変化情報から前記所定値以上の特徴量を抽出する抽出手段と、抽出された各領域と、抽出された前記所定値以上の特徴量と、前記複数の画像の各撮影条件を示すデータとが対応付けられた学習用データを生成する第2生成手段とを備えることを特徴とする画像処理装置。
(付記8)複数の画像の各撮影条件を示すデータを基に前記複数の画像に渡って表示されている所定の対象物の周期的な変化を表すパラメタを算出するパラメタ算出手段と、算出されたパラメタと前記複数の画像とを用いて前記複数の画像間の変化から前記周期的な変化が除去された変化の度合いを示す特徴量を算出する特徴量算出手段と、算出された特徴量の信頼度を算出する信頼度算出手段とを備えることを特徴とする画像処理装置。
(付記9)複数の画像間の変化のうち所定の対象物の周期的な変化を表す画像の領域の組と、前記複数の画像間の変化のうち前記周期的な変化以外の変化を表す画像の領域の組とを少なくとも含む学習用データを用いて前記複数の画像間の変化のうち前記周期的な変化以外の変化を検出する処理を検出機に学習させることを特徴とする学習方法。
(付記10)複数の画像間の変化から所定の対象物の周期的な変化が除去された変化の度合いを示す複数の特徴量を画像を構成する画素ごとに示す変化情報と、前記複数の特徴量の各信頼度を画素ごとに示す信頼度情報とを生成し、生成された信頼度情報が示す信頼度が所定値以上の特徴量に対応する画素を含む領域を前記複数の画像からそれぞれ抽出し、生成された変化情報から前記所定値以上の特徴量を抽出し、抽出された各領域と、抽出された前記所定値以上の特徴量と、前記複数の画像の各撮影条件を示すデータとが対応付けられた学習用データを生成することを特徴とする画像処理方法。
(付記11)複数の画像の各撮影条件を示すデータを基に前記複数の画像に渡って表示されている所定の対象物の周期的な変化を表すパラメタを算出し、算出されたパラメタと前記複数の画像とを用いて前記複数の画像間の変化から前記周期的な変化が除去された変化の度合いを示す特徴量を算出し、算出された特徴量の信頼度を算出することを特徴とする画像処理方法。
(付記12)コンピュータに、複数の画像間の変化のうち所定の対象物の周期的な変化を表す画像の領域の組と、前記複数の画像間の変化のうち前記周期的な変化以外の変化を表す画像の領域の組とを少なくとも含む学習用データを用いて前記複数の画像間の変化のうち前記周期的な変化以外の変化を検出する処理を検出機に学習させる学習処理を実行させるための学習プログラム。
(付記13)コンピュータに、複数の画像間の変化から所定の対象物の周期的な変化が除去された変化の度合いを示す複数の特徴量を画像を構成する画素ごとに示す変化情報と、前記複数の特徴量の各信頼度を画素ごとに示す信頼度情報とを生成する第1生成処理、生成された信頼度情報が示す信頼度が所定値以上の特徴量に対応する画素を含む領域を前記複数の画像からそれぞれ抽出する第1抽出処理、生成された変化情報から前記所定値以上の特徴量を抽出する第2抽出処理、および抽出された各領域と、抽出された前記所定値以上の特徴量と、前記複数の画像の各撮影条件を示すデータとが対応付けられた学習用データを生成する第2生成処理を実行させるための画像処理プログラム。
(付記14)コンピュータに、複数の画像の各撮影条件を示すデータを基に前記複数の画像に渡って表示されている所定の対象物の周期的な変化を表すパラメタを算出する第1算出処理、算出されたパラメタと前記複数の画像とを用いて前記複数の画像間の変化から前記周期的な変化が除去された変化の度合いを示す特徴量を算出する第2算出処理、および算出された特徴量の信頼度を算出する第3算出処理を実行させるための画像処理プログラム。
10、200 学習装置
11 学習手段
20、30、100、910、920 画像処理装置
21 第1生成手段
22 抽出手段
23 第2生成手段
31 パラメタ算出手段
32、132、913、921 特徴量算出手段
33、134 信頼度算出手段
99、130 変化検出手段
101、201 CPU
102、202 主記憶部
103、203 通信部
104、204 補助記憶部
105、205 入力部
106、206 出力部
107、207 システムバス
110 衛星画像データベース
120 地球観測手段
131、210 モデルパラメタ算出手段
133、914、922 変化画素検出手段
140 メタデータ抽出手段
150 データセット生成手段
220 機械学習手段
300 変化検出機
911 第1補正手段
912 第2補正手段
923 不要変化領域検出手段
924 不要変化除去手段

Claims (10)

  1. 複数の画像間の変化のうち所定の対象物の周期的な変化を表す画像の領域の組と、前記複数の画像間の変化のうち前記周期的な変化以外の変化を表す画像の領域の組とを少なくとも含む学習用データを用いて前記複数の画像間の変化のうち前記周期的な変化以外の変化を検出する処理を検出機に学習させる学習手段と、
    前記学習用データに含まれている画像の領域の撮影条件を示すデータを基に前記所定の対象物の前記周期的な変化を表すパラメタを算出する算出手段とを備え、
    前記学習手段は、算出されたパラメタと前記学習用データとを用いて学習させる
    ことを特徴とする学習装置。
  2. パラメタは、太陽天頂角である
    請求項記載の学習装置。
  3. パラメタは、太陽光スペクトルの直達光の成分、および前記太陽光スペクトルの散乱光の成分である
    請求項または請求項記載の学習装置。
  4. パラメタは、植生指標である
    請求項から請求項のうちのいずれか1項に記載の学習装置。
  5. パラメタは、太陽方位角である
    請求項から請求項のうちのいずれか1項に記載の学習装置。
  6. 複数の画像間の変化のうち所定の対象物の周期的な変化を表す画像の領域の組と、前記複数の画像間の変化のうち前記周期的な変化以外の変化を表す画像の領域の組とを少なくとも含む学習用データを用いて前記複数の画像間の変化のうち前記周期的な変化以外の変化を検出する処理を検出機に学習させ
    前記学習用データに含まれている画像の領域の撮影条件を示すデータを基に前記所定の対象物の前記周期的な変化を表すパラメタを算出し、
    算出されたパラメタと前記学習用データとを用いて学習させる
    ことを特徴とする学習方法。
  7. パラメタは、太陽天頂角である
    請求項6記載の学習方法。
  8. パラメタは、太陽光スペクトルの直達光の成分、および前記太陽光スペクトルの散乱光の成分である
    請求項6または請求項7記載の学習方法。
  9. コンピュータに、
    複数の画像間の変化のうち所定の対象物の周期的な変化を表す画像の領域の組と、前記複数の画像間の変化のうち前記周期的な変化以外の変化を表す画像の領域の組とを少なくとも含む学習用データを用いて前記複数の画像間の変化のうち前記周期的な変化以外の変化を検出する処理を検出機に学習させる学習処理、および
    前記学習用データに含まれている画像の領域の撮影条件を示すデータを基に前記所定の対象物の前記周期的な変化を表すパラメタを算出する算出処理を実行させるための学習プログラムであって、
    前記学習処理で、算出されたパラメタと前記学習用データとを用いて学習させる
    学習プログラム
  10. パラメタは、太陽天頂角である
    請求項9記載の学習プログラム。
JP2020551031A 2018-10-04 2018-10-04 学習装置、学習方法および学習プログラム Active JP7028336B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/037181 WO2020070852A1 (ja) 2018-10-04 2018-10-04 学習装置、画像処理装置、学習方法、画像処理方法、学習プログラムおよび画像処理プログラム

Publications (2)

Publication Number Publication Date
JPWO2020070852A1 JPWO2020070852A1 (ja) 2021-09-02
JP7028336B2 true JP7028336B2 (ja) 2022-03-02

Family

ID=70055328

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020551031A Active JP7028336B2 (ja) 2018-10-04 2018-10-04 学習装置、学習方法および学習プログラム

Country Status (4)

Country Link
US (1) US20210383546A1 (ja)
EP (1) EP3862967A4 (ja)
JP (1) JP7028336B2 (ja)
WO (1) WO2020070852A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210334582A1 (en) * 2020-04-28 2021-10-28 Gsi Technology Inc. Satellite imagery
KR102532732B1 (ko) * 2022-06-20 2023-05-16 메이사플래닛 주식회사 식생지수 생성 장치 및 방법

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017033197A (ja) 2015-07-30 2017-02-09 日本電信電話株式会社 変化領域検出装置、方法、及びプログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3380457B2 (ja) * 1997-01-27 2003-02-24 株式会社エヌ・ティ・ティ・データ 地理画像上の影成分の除去方法及び地理画像処理装置、記録媒体
US8538195B2 (en) * 2007-09-17 2013-09-17 Raytheon Company Hyperspectral image dimension reduction system and method
WO2012063241A1 (en) * 2010-11-11 2012-05-18 Avi Buzaglo Yoresh System and method for detection of minefields
US9449244B2 (en) * 2013-12-11 2016-09-20 Her Majesty The Queen In Right Of Canada, As Represented By The Minister Of National Defense Methods for in-scene atmospheric compensation by endmember matching

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017033197A (ja) 2015-07-30 2017-02-09 日本電信電話株式会社 変化領域検出装置、方法、及びプログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
L. Bruzzone and F.Bovolo,A Novel Framework for the Design of Change-Detection Systems forVery-High-Resolution Remote Sensing Images,Proc.IEEE, vol. 101, no. 3 [online],2013年03月,pp.609-630,https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=6248151

Also Published As

Publication number Publication date
US20210383546A1 (en) 2021-12-09
WO2020070852A1 (ja) 2020-04-09
EP3862967A1 (en) 2021-08-11
EP3862967A4 (en) 2022-01-19
JPWO2020070852A1 (ja) 2021-09-02

Similar Documents

Publication Publication Date Title
US11521380B2 (en) Shadow and cloud masking for remote sensing images in agriculture applications using a multilayer perceptron
Liu et al. Estimating wheat green area index from ground-based LiDAR measurement using a 3D canopy structure model
Roy et al. Multi-temporal Land Use Land Cover (LULC) change analysis of a dry semi-arid river basin in western India following a robust multi-sensor satellite image calibration strategy
Wei et al. An assessment study of three indirect methods for estimating leaf area density and leaf area index of individual trees
US9367743B1 (en) Method and system for classifying a terrain type in an area
US20210209803A1 (en) Computer-based method and system for geo-spatial analysis
Polychronaki et al. Evaluation of ALOS PALSAR imagery for burned area mapping in Greece using object-based classification
US11348272B2 (en) Vegetation index calculation apparatus, vegetation index calculation method, and computer readable recording medium
AU2020219867A1 (en) Shadow and cloud masking for agriculture applications using convolutional neural networks
CN114563378B (zh) 湖库蓝藻水华空间分布定量描述方法、装置、介质和设备
D’Amico et al. A deep learning approach for automatic mapping of poplar plantations using Sentinel-2 imagery
JP7028336B2 (ja) 学習装置、学習方法および学習プログラム
CN115457408A (zh) 一种土地监测方法、装置、电子设备及介质
Chong et al. Introducing Theil-Sen estimator for sun glint correction of UAV data for coral mapping
Sun et al. A geographically weighted deep neural network model for research on the spatial distribution of the down dead wood volume in Liangshui National Nature Reserve (China)
Leidman et al. Terrain-based shadow correction method for assessing supraglacial features on the Greenland ice sheet
CN117115669B (zh) 双条件质量约束的对象级地物样本自适应生成方法及系统
Morgan et al. A Post-Classification Change Detection Model with Confidences in High Resolution Multi-Date sUAS Imagery in Coastal South Carolina
Cömert et al. Rapid mapping of forested landslide from ultra-high resolution unmanned aerial vehicle data
Elhag Detection of temporal changes of eastern coast of Saudi Arabia for better natural resources management
Lee et al. Detection of wildfire-damaged areas using kompsat-3 image: A case of the 2019 unbong mountain fire in busan, South Korea
Fernández et al. Dynamics of the Burlan and Pomacochas Lakes Using SAR Data in GEE, Machine Learning Classifiers, and Regression Methods
Yilmaz Investigation of the performances of advanced image classification‐based ground filtering approaches for digital terrain model generation
Taghi Mollaei et al. Valuation of Object-Based and Decision Tree Classification Methods in Estimating the Quantitative Characteristics of Single Oak Trees on WorldView-2 and UAV Images
Gomes Incorporating Sliding Window-Based Aggregation for Evaluating Topographic Variables in Geographic Information Systems

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210323

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210323

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211012

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220118

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220131

R151 Written notification of patent or utility model registration

Ref document number: 7028336

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151