JP7077945B2 - 情報処理装置、情報処理方法、及び、プログラム - Google Patents

情報処理装置、情報処理方法、及び、プログラム Download PDF

Info

Publication number
JP7077945B2
JP7077945B2 JP2018529789A JP2018529789A JP7077945B2 JP 7077945 B2 JP7077945 B2 JP 7077945B2 JP 2018529789 A JP2018529789 A JP 2018529789A JP 2018529789 A JP2018529789 A JP 2018529789A JP 7077945 B2 JP7077945 B2 JP 7077945B2
Authority
JP
Japan
Prior art keywords
image
observation
wavelength
observation image
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018529789A
Other languages
English (en)
Other versions
JPWO2018021079A1 (ja
Inventor
瑛士 金子
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2018021079A1 publication Critical patent/JPWO2018021079A1/ja
Application granted granted Critical
Publication of JP7077945B2 publication Critical patent/JP7077945B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/77Retouching; Inpainting; Scratch removal
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/30Measuring the intensity of spectral lines directly on the spectrum itself
    • G01J3/36Investigating two or more bands of a spectrum by separate detectors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • G06T3/4061Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution by injecting details from different spectral ranges
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • G06T2207/10036Multispectral image; Hyperspectral image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、情報の処理に関し、特に、画像を処理する情報処理装置、情報処理方法、及び、プログラムに関する。
人工衛星又は航空機などの高所から観測装置を用いて地表を観測する技術は、一般的に、「リモートセンシング」と呼ばれている。リモートセンシングは、地表における所定の範囲の領域から放射される光などの電磁波の強さを観測することが多い。リモートセンシングを用いて得られる観測結果の保存方法は、観測値を、画像における画素値として記憶することが多い。つまり、観測画像における画素値は、観測された領域の地表における物体の配置に沿った電磁波の強さに対応している。
例えば、観測装置がイメージセンサである場合、観測結果は、イメージセンサの画像として得られる。その画像に含まれる画素値は、対象物からイメージセンサの受光素子の入射方向に放射された観測光の強さの値となる。
なお、画素値が、観測光の明るさを表す値の場合、その画素値は、「輝度値」である。
イメージセンサを用いた観測は、特定の範囲の波長帯域に含まれる波長の光を選択的に使用することが多い。そのため、イメージセンシングは、特定の範囲の波長帯域の光を透過するフィルタを使用する。
さらに、リモートセンシングは、複数の波長帯域の光を使用することがある。これは、観測対象の物体が、その表面の材質及び状態に応じて、異なる波長帯域において異なる強度の光を反射するためである。この場合、リモートセンシングは、透過光の波長帯域が異なる複数のフィルタを用いて、複数の波長帯域の光の強さを観測する。
そして、このようなリモートセンシングを用いた画像から得られる地上物の情報を活用するアプリケーションが、期待されている。アプリケーションとは、例えば、地図を作製するアプリケーション、土地利用状態を把握するアプリケーション、災害状況を把握するアプリケーション、農作物の生育具合を取得するアプリケーション、又は、鉱物を判別するアプリケーションである。
しかし、地上物は、雲、靄、霧、鳥、又は、飛行物などの物体(移動物)に覆われる場合がある。そのため、地表で反射された光を観測した画像は、一部の領域の画像が、得られない場合がある。つまり、リモートセンシングにおいては、一部の領域の画像が、欠損する場合がある。
そこで、欠損を復元する技術が、提案されている(例えば、特許文献1を参照)。特許文献1に記載の画像処理装置は、入力画像において雲に覆われた領域を、同じ領域における雲が存在しない別の日時の参照画像を用いて復元する。特許文献1に記載の画像処理装置は、入力画像及び測定環境情報を読み込む。そして、特許文献1に記載の画像処理装置は、入力画像における雲に覆われた領域(欠損領域)を判定する。そして、特許文献1に記載の画像処理装置は、測定環境情報を基に、入力画像と類似する太陽位置のときに観測され、かつ、欠損領域に相当する地表面の情報を含む参照画像を取得する。そして、特許文献1に記載の画像処理装置は、入力画像の欠損領域の画素値を、参照画像における欠損領域に相当する領域の画素値に置き換える。このようにして、特許文献1に記載の画像処理装置は、入力画像における欠損領域の画像を復元する。
図面を参照して、特許文献1に記載の技術を説明する。
図7は、特許文献1に記載された画像処理装置7の機能における構成を模式的に示したブロック図である。
画像処理装置7は、画像供給装置78と、出力装置79とに接続されている。
画像供給装置78は、画像処理装置7に、観測画像111、及び、測定環境情報710を供給する。
画像処理装置7は、画像受信部71と、類似環境画像取得部72と、欠損領域復元部75と、画像記憶部76とを備える。
画像記憶部76は、予め、様々な日時及び様々な環境下において観測された画像(参照画像720)を記憶する。
画像受信部71は、画像供給装置78から観測画像111、及び、測定環境情報710を受信する。
類似環境画像取得部72は、観測画像111において、欠損領域150として、雲に覆われた領域を判定する。さらに、類似環境画像取得部72は、測定環境情報710を基に、画像記憶部76から、観測画像111と類似する太陽位置のときに観測され、かつ、欠損領域150に相当する画像(例えば、欠損領域150の地上物の情報)を含む参照画像720を取得する。
欠損領域復元部75は、観測画像111と、参照画像720と、欠損領域150とを基に、観測画像111における欠損領域150を、参照画像720における相当する領域の画像に置き換えて、復元画像740を作成する。そして、欠損領域復元部75は、復元画像740を出力装置79に送信する。
出力装置79は、復元画像740を出力する。例えば、出力装置79は、復元画像740を表示する。
特開2010-218434号公報
上記のように、特許文献1に記載された発明は、観測画像111における欠損領域150を、別の日時に観測された参照画像720の情報(画像)に置き換える。
観測画像111における欠損領域150の状態(例えば、地上物の状態)が、参照画像720が観測された時点と類似している場合、特許文献1に記載の発明は、観測画像111に対応した復元画像740を生成できる。
ここで、観測画像111が、地上を観測した画像の場合を想定する。この場合、例えば、人及び車などの移動物は、時間経過に伴って、画像内における位置、数、及び、分布状態が変化する。あるいは、植生は、時間帯又は時期の変化に対応して、状態(例えば、繁殖状態又は枯れた状態)が変化する。あるいは、建物は、建設状態(例えば、増設、又は、建て替え)が変化する。つまり、地上の状態は、時間の経過とともに変化する。
そのため、観測画像111が観測された日時が、参照画像720が観測された日時から離れると、欠損領域150における状態は、参照画像720が観測された状態から変化する。その結果、特許文献1に記載の発明は、参照画像720を用いても、適切な復元画像740を生成できなくなる。
このように、特許文献1に記載の発明には、参照画像720を用いても、適切な復元画像740を生成できなくなるという問題点があった。
上記の問題点を解決して適切な復元画像740を作成するためには、画像処理装置7は、観測領域及び太陽位置に加え、観測日時において観測画像111に類似する参照画像720を用いる必要がある。しかし、この条件を満たす参照画像720を画像記憶部76に保存するためには、復元が想定される全ての領域及び日時における参照画像720を収集する必要がある。しかし、全ての領域及び日時に対応した参照画像720を収集することは、実際上、無理である。
このように、特許文献1に記載の発明は、保存している参照画像720に類似する日時における観測画像111の復元画像740しか作成できないという問題点があった。
さらに、周回衛星が地上を観測した衛星画像を復元する場合を想定する。この場合、衛星画像を復元するためには、復元する観測画像111と、太陽位置及び観測領域の両方が類似した参照画像720が、必要である。すなわち、衛星画像を復元するための参照画像720は、観測領域、太陽位置、及び、観測時刻などの観測条件が、観測画像111と類似している必要がある。そのため、衛星画像を復元する場合、復元に必要となる参照画像720を得ることは、さらに困難となる。
本発明の目的は、上記問題点を解決し、参照画像720を用いずに観測画像を復元するための画像を生成する情報処理装置、情報処理方法、及び、プログラムを提供することである。
本発明の一形態における情報処理装置は、第1の画像群を受信する画像受信手段と、第1の画像群における第1の画像を基に、第1の画像の第1の波長帯域とは異なる第2の波長帯域における第2の画像に対応した第3の画像を生成する波長補間手段とを含む。
本発明の一形態における情報処理方法は、第1の画像群を受信し、第1の画像群における第1の画像を基に、第1の画像の第1の波長帯域とは異なる第2の波長帯域における第2の画像に対応した第3の画像を生成する。
本発明の一形態におけるプログラムは、第1の画像群を受信する処理と、第1の画像群における第1の画像を基に、第1の画像の第1の波長帯域とは異なる第2の波長帯域における第2の画像に対応した第3の画像を生成する処理とをコンピュータに実行させるプログラムをコンピュータ読み取り可能に記録する。
本発明に基づけば、参照画像720を用いずに、観測画像を復元するための画像を生成するとの効果を奏することができる。
図1は、本発明における第1の実施形態に係る情報処理装置の構成の一例を示すブロック図である。 図2は、本発明における第1の実施形態に係る情報処理装置を含む情報処理システムの構成の一例を示すブロック図である。 図3は、第1の実施形態に係る情報処理装置の動作の一例を示すフローチャートである。 図4は、第1の実施形態に係る情報処理装置の変形例の構成の一例を示すブロック図である。 図5は、第2の実施形態に係る情報処理装置の構成の一例を示すブロック図である。 図6は、各実施形態に係る情報処理装置のハードウェアの構成の一例を示すブロック図である。 図7は、特許文献1に記載された画像処理装置の機能における構成を模式的に示したブロック図である。
次に、図面を参照して、本発明における実施形態について説明する。
各図面は、本発明における実施形態を説明するためのものである。ただし、本発明は、各図面の記載に限られるわけではない。また、各図面の同様の構成には、同じ番号を付し、その繰り返しの説明を、省略する場合がある。また、以下の説明に用いる図面において、各実施形態の説明に関係しない部分の構成については、記載を省略し、図示しない場合もある。
<第1の実施形態>
次に、図面を参照して、本発明における第1の実施形態について説明する。
(適用されるシステムの例の説明)
まず、第1の実施形態に係る情報処理装置1の理解の補助として、情報処理装置1が用いられる情報処理システム3の一例を説明する。
図2は、本発明における第1の実施形態に係る情報処理装置1を含む情報処理システム3の構成の一例を示すブロック図である。
図2に示されているように、情報処理システム3は、第1の実施形態に係る情報処理装置1と、画像供給装置8と、出力装置9とを含む。
情報処理装置1について、後ほど詳細に説明する。
画像供給装置8は、情報処理装置1に、複数の観測画像を含む観測画像群110を供給する。画像供給装置8は、観測画像群110に加え、他の情報を提供してもよい。例えば、画像供給装置8は、後ほど説明する観測画像の観測時刻を供給してもよい。なお、画像供給装置8は、観測画像群110に含まれる観測画像を、一度に供給してもよく、複数回に分けて供給してもよい。
画像供給装置8は、観測画像群110を提供すれば、その詳細な構成など、特に制限されない。
例えば、画像供給装置8は、複数の波長帯域において、観測対象が反射した電磁波の強さを観測し、観測した結果を観測画像群110として出力する撮影装置である。あるいは、画像供給装置8は、上記の撮影装置が観測した結果である観測画像群110を記憶する装置である。すなわち、画像供給装置8は、ハードディスクなどの記憶装置、又は、サーバ装置などである。
あるいは、画像供給装置8は、例えば、飛行機又は人工衛星に搭載され、複数の波長帯域において地表において反射された反射光の画像である観測画像群110を取得する観測装置である。
あるいは、画像供給装置8は、例えば、複数の帯域通過フィルタを通して画像を撮影するカメラである。つまり、画像供給装置8は、複数の波長帯域において、各波長帯域の観測光を透過する帯域通過フィルタを用いて観測画像を撮影する装置である。
観測画像群110が、複数の波長帯域の観測画像を含む場合、以降の説明において、波長帯域の数を「N(Nは2以上の整数)」とする。
なお、波長帯域の幅は、全てが一致していてもよく、少なくとも一部の波長帯域の幅が他の波長帯域の幅と異なっていてもよい。
画像供給装置8は、観測画像群110に加え、波長帯域に関連する情報(例えば、波長帯域の「中心波長」、「帯域幅」、「上限波長」、及び/又は「下限波長」)を、情報処理装置1に供給してもよい。
このように、観測画像群110は、複数の波長帯域についての観測対象に関する観測画像(例えば、観測対象における明るさの分布の画像)の集合である。なお、観測画像において、各画素の輝度値は、その画素に応じた方向から届いた観測光の強さである。
観測画像群110は、例えば、同一の観測時刻における観測対象から得られた複数の波長帯域における観測画像を含んでもよい。この場合、観測画像群110は、画像供給装置8が、複数の波長帯域について、同一時刻に、対象物を観測した結果である。具体的には、観測画像群110は、複数の波長帯域について、カメラなどの計測器における一連の動作に基づいて観測された観測画像の集合である。この場合、複数の観測画像は、1つの組の観測画像群110として、観測対象に関連付けられて管理されてもよい。
あるいは、観測画像群110は、複数の時刻に観測された観測画像を含んでもよい。例えば、観測画像群110が、8個の異なる波長帯域についての8個の観測画像を含むとする。この場合において、8個の中の4個の観測画像が、ある時刻Tに観測された画像であり、別の4個の観測画像が、時刻Tとは異なる時刻Tにおいて観測された画像でもよい。さらに、観測画像群110は、2つに限られず、3つ以上の時刻における観測画像を含んでもよい。
そして、観測画像群110に含まれる観測画像のうち少なくとも1つの観測画像は、欠損を含む。
例えば、観測画像が、衛星から撮影した地上の画像の場合、いずれかの観測画像における地上部分の一部領域において、物体に覆われて地上物の情報を含まない領域が発生する場合がある。このような領域を、以降、「欠損領域」と呼ぶ。なお、この場合の物体は、例えば、雲、霧、靄、飛行物、又は、自動車である。
ただし、物体は、上記のように、移動する物体とする。そのため、観測画像群110は、欠損領域を含む観測画像以外に、その欠損領域の対応する領域に欠損を含まない観測画像を、少なくとも一つ含む。なお、観測画像が、上記の衛星からの地上画像の場合、欠損を含まない観測画像とは、欠損領域となっている領域に相当する地上部分の情報を含む画像である。
ただし、画像供給装置8は、上空から地表を観測する装置に限定されない。画像供給装置8は、例えば、地表又は地表の近くから遠方の地表における観測画像群110を撮影する装置でもよい。
出力装置9は、情報処理装置1が作成した復元画像140を出力する装置である。出力装置9は、例えば、ディスプレイ装置又はプリンタである。
なお、出力装置9は、出力以外の処理を実行してもよい。例えば、出力装置9は、復元画像140から、復元画像140に含まれる撮影された物体の材質又は状態に関する情報を抽出してもよい。
ただし、上記の説明における画像供給装置8及び出力装置9は、情報処理装置1が接続される装置の一例である。情報処理装置1は、上記の画像供給装置8及び/又は出力装置9とは異なる装置に接続されてもよい。
[構成の説明]
次に、図面を参照して、情報処理装置1を説明する。情報処理装置1は、観測画像における欠損領域を復元する。より詳細には、情報処理装置1は、少なくとも一つの観測画像を基に他の観測画像の欠損領域を復元する。
以下の説明において、作成する画像の元となる観測画像と復元の対象である復元される観測画像とを区別する場合、元となる観測画像を「第1の観測画像」と呼ぶ。また、復元される観測画像(欠損領域を含む観測画像)を「第2の観測画像」と呼ぶ。さらに、各観測画像に関連する内容(例えば、波長帯域など)についても、同様に、適宜、「第1」及び「第2」を付して説明する。
例えば、第1の観測画像の波長帯域は、「第1の波長帯域」である。
なお、第1の観測画像の波長帯域(第1の波長帯域)は、第2の観測画像の波長帯域(第2の波長帯域)と異なる。
情報処理装置1の構成の詳細について説明する。
図1は、本発明における第1の実施形態に係る情報処理装置1の構成の一例を示すブロック図である。
情報処理装置1は、画像受信部11と、画像分類部12と、波長補間部14と、画像復元部15とを含む。
(ハードウェア構成の概要)
まず、各構成のハードウェアの概要について説明する。
画像受信部11は、後ほど説明する動作を実現するため、観測画像群110を送信する装置(例えば、画像供給装置8)から観測画像群110を受信するための回路を含む。ただし、画像受信部11が、情報処理装置1に含まれる図示しない記憶装置から観測画像群110を取得する場合、画像受信部11は、観測画像群110を受信するための回路を含まなくてもよい。
さらに、画像受信部11は、観測画像群110の受信動作を制御する回路、又は、所定のプログラムを基に動作するプロセッサを用いて、後ほど説明する動作を実現する。さらに、画像受信部11は、受信した観測画像群110を保存する記憶装置(例えば、磁気ディスク装置、又は、SSD(Solid State Drive)などの半導体メモリ)を含んでもよい。
画像分類部12及び波長補間部14は、電子回路、又は、プログラムを基に動作するプロセッサを用いて、後ほど説明する動作を実現する。
画像復元部15は、電子回路、又は、プログラムを基に動作するプロセッサを用いて、後ほど説明する動作を実現する。さらに、画像復元部15は、作成した復元画像140を、所定の装置(例えば、出力装置9)に送信するための回路を含む。ただし、画像復元部15が、情報処理装置1に含まれる図示しない記憶装置に復元画像140を保存する場合、画像復元部15は、復元画像140を送信するための回路を含まなくてもよい。
なお、ハードウェア構成については、後ほど、詳細に説明する。
(各構成の説明)
画像受信部11は、観測画像群110(第1の画像群)を受信する。
ただし、情報処理装置1は、情報処理装置1に含まれる図示しない記憶装置に記憶されている観測画像群110を処理してもよい。この場合、画像受信部11は、その記憶装置から観測画像群110を取得する。
観測画像群110に含まれる観測画像は、それぞれの波長帯域に関する情報を含む。さらに、各観測画像は、異なる波長帯域に対応している。
なお、受信した観測画像が、波長帯域に関する情報を含まない場合、画像受信部11は、観測画像を波長帯域に関連付ける。この動作において、画像受信部11は、画像供給装置8などから、観測画像の波長帯域に関する情報を受信してもよい。
観測画像に関連付けられる波長帯域の範囲は、特に制限されない。さらに、波長帯域を示す情報は、特に制限されない。波長帯域を示す情報は、例えば、波長帯域の上限波長及び下限波長の組合せでもよい。あるいは、波長帯域を示す情報は、波長帯域の中心波長又は帯域の境界の波長と、帯域幅とでもよい。なお、以下の説明では、波長帯域の波長を説明する場合、波長帯域の中心波長λを用いて説明する。
なお、波長又は帯域に識別子が割り振られている場合、画像受信部11は、波長帯域を示す情報として、識別子を用いてもよい。
さらに、画像受信部11は、観測画像群110とともに、同期情報を受信してもよい。
同期情報とは、後ほど詳細に説明する画像分類部12において、観測画像の同期の判定に用いられる情報である。
例えば、画像分類部12が、観測時刻における同期を判定する場合、同期情報は、各観測画像の観測時刻である。あるいは、画像分類部12が、波長帯域における同期を判定する場合、同期情報は、波長帯域に関連する情報である。
なお、画像受信部11が、観測画像を基に、同期情報を生成してもよい。例えば、画像分類部12が、観測画像に含まれる物体(例えば、移動物)を基に、同期を判定する場合、画像受信部11は、所定の画像処理を用いて、観測画像に含まれる物体に関連する情報として、同期情報を生成してもよい。
なお、後ほど説明する画像分類部12が、同期情報を作成してもよい。この場合、画像受信部11は、同期情報を受信及び作成を実行しなくてもよい。
画像分類部12は、同期情報を基に、同期している観測画像が同じ組となるように、観測画像群110に含まれる観測画像を分類する。そして、画像分類部12は、分類した観測画像の組を含む画像群(第2の画像群)を生成する。
つまり、「組」とは、同期した一つ又は複数の観測画像の集合である。そして、画像群は、一つ又は複数の「組」の集合である。
画像分類部12が用いる同期情報は、特に制限されない。
例えば、画像分類部12は、観測画像の観測時刻を用いて、観測時刻が一致する観測画像を一つの組としてもよい。
なお、「観測時刻が一致する」とは、観測時刻の値が同じである場合に限られない。例えば、画像分類部12は、観測時刻が所定の時間範囲に含まれる観測画像を「観測時刻が一致」と判定してもよい。これは、複数の観測画像の撮影する場合、所定の時間が必要となるためである。
例えば、観測画像は、8つの波長帯域(N=8)における観測画像とする。そして、第2、3、5、及び7番目の波長帯域における観測画像の撮影時刻がTであり、第1、4、6、及び8番目の波長帯域における観測画像の撮影時刻がTとする。この場合、画像分類部12は、第2、3、5、及び7番目の観測画像を含む第1の組と、第1、4、6、及び8番目の観測画像を含む第2の組との2つ組を含む画像群を生成する。
あるいは、一部の波長帯域は、関連性が高い場合(以下、「波長帯域における同期」と呼ぶ)がある。そこで、画像分類部12は、同期した複数の波長帯域における観測画像を一つの組としてもよい。この場合、画像分類部12は、同期情報として同期した波長帯域を含む組合せの情報を用いて、観測画像を組に分類して、画像群を生成すればよい。
例えば、観測画像群110が、8つの観測画像を含むとする。つまり、観測画像群110は、8つの波長帯域(N=8)を含む。そして、8つの波長帯域(N=8)において、第2、3、5、及び7番目の波長帯域が同期し、第1、4、6、及び8番目の波長帯域が同期しているとする。この場合、画像分類部12は、第2、3、5、及び7番目の波長帯域に関連付けられた観測画像を含む第1の組と、第1、4、6、及び8番目の波長帯域に関連付けられた観測画像を含む第2の組との2つ組を生成する。そして、画像分類部12は、生成した2つの組を含む画像群を生成する。
この場合、同期情報は、第2、3、5、及び、7番目の波長帯域、並びに、第1、4、6、及び8番目の波長帯域を区別できる情報(例えば、波長帯域の識別子)である。
あるいは、画像分類部12は、観測画像に含まれる物体を基に、観測画像を組に分類してもよい。例えば、画像分類部12が、観測画像に含まれる特定の移動物の位置及び形状を判定し、移動物の位置及び形状が類似する観測画像が同じ組となるように、観測画像を分類してもよい。あるいは、画像受信部11が、観測画像に含まれる特定の移動物の位置及び形状を基に同期情報を生成し、画像分類部12が、その同期情報を基に、観測画像を組に分け、画像群を生成してもよい。
なお、「特定の移動物」とは、特に制限はない。特定の移動物とは、例えば、雲、車、鳥、又は、航空機である。ただし、特定の移動物とは、人工物に限られず、川などの自然物でもよい。
画像分類部12が、観測画像を、雲を含む観測画像の組と、雲を含まない観測画像の組とに分類する場合について説明する。例えば、8つの波長帯域(N=8)における観測画像において、第2、3、5、及び7番目の観測画像が雲を含み、第1、4、6、及び8番目の観測画像が雲を含まないとする。この場合、画像分類部12は、雲を含む第2、3、5、及び7番目の観測画像を含む第1の組と、雲を含まない第1、4、6、及び8番目の観測画像を含む第2の組との2つ組を含む画像群を生成する。
このように、画像分類部12は、観測画像を同期した組に分類して、画像群を生成する。つまり、同期した組に含まれる観測画像は、同期情報として同じ情報を含む。例えば、画像分類部12が、観測時刻を用いて分類した場合、各組に含まれる観測画像は、同一の観測時刻を持つ。なお、画像分類部12は、複数の同期情報を用いてもよい。
波長補間部14は、ある組(第1の組)に含まれる観測画像(第1の画像)を基に、別の組(第2の組)に含まれる観測画像(第2の画像)対応した画像(第3の画像)を生成する。より詳細には、波長補間部14は、第2の組に含まれる第2の画像の波長帯域(第2の波長帯域)と特定の関係にある第1の組に含まれる波長帯域(第1の波長帯域)に対応する第1の画像を基に、第2の波長帯域に対応した第3の画像を生成する。以下の説明において、第3の画像を「補間画像」と呼ぶ場合もある。
上記のとおり、各観測画像は、異なる波長帯域に対応する。つまり、第3の画像は、第1の組に含まれるいずれの観測画像の波長帯域とも異なる波長帯域に対応する画像である。さらに、第3の画像は、第2の組に含まれるいずれかの観測画像の波長帯域に対応する画像である。
そして、波長補間部14は、生成した画像(第3の画像)を、生成元である第1の組の観測画像(第1の画像)と組み合わせて新たな組とし、新たな組を含む画像群130(第3の画像群)を生成する。
つまり、新たに生成された組は、第1の組に含まれる観測画像の波長帯域に加え、第2の組に含まれる観測画像の波長帯域に対応した画像(第3の画像)を含む。このように、波長補間部14は、第1の組の波長帯域に対応した観測画像と、第2の組の波長帯域に対応した第3の画像とを含む組を生成し、生成した組を含む画像群130を生成する。
この動作を詳細に説明する。
以下、組が2つの場合について説明するが、これは、説明の便宜のためである。情報処理装置1は、3つ以上の組を含んでもよい。その場合、情報処理装置1が、いずれかの2つの組を選択し、以下の動作を実行すればよい。さらに、情報処理装置1は、全ての組における組合せについて、以下の動作を実行してもよい。
第1の組は、欠損領域を含まない観測画像(第1の画像)を含む。第2の組は、欠損領域を含む観測画像を、少なくとも1つ含む。欠損領域を含む観測画像の波長帯域の中心波長を「波長λ」とする。
そして、波長補間部14は、第1の組に含まれる観測画像を用いて、中心波長λに対応する第3の画像を生成する。
以下、波長λにおける横方向のx番目及び縦方向のy番目の画素値の表現として「I(x、y、λ)」を用いる。
具体的には、波長補間部14は、中心波長λと所定の関係にある波長帯域に対応した第1の組に含まれる観測画像の画素値を用いて、中心波長λの画素値(以下、I(x、y、λ)とする)を算出する。
ここで、所定の関係にある波長帯域とは、第1の組において、中心波長λに最も近い2つの波長帯域である。つまり、波長補間部14は、中心波長λに最も近い2つの波長帯域(以下、それぞれの中心波長を、λj0及びλj1とする(λj0<λj1))に対応した観測画像における画素値を用いて、中心波長λに対応した画素値を決定する。なお、波長λj0及び波長λj1は、中心波長λを挟み込む波長(λj0<λ<λj1)であることが望ましい。ただし、本実施形態は、これに限定されない。
波長λj0及び波長λj1が、中心波長λを挟み込む波長の場合、波長補間部14は、次に示す数式1を用いて、中心波長λにおける画素値を算出する。
[数式1]
Figure 0007077945000001
数式1において、左辺のI(x、y、λ)は、算出される中心波長λにおける画素値である。右辺の第1項のI(x、y、λj0)は、第1の組における波長λj0に対応した観測画像の画素値である。右辺の第2項のI(x、y、λj1)は、第1の組における波長λj1に対応した観測画像の画素値である。
このように、波長補間部14は、第1の組に含まれる第2の波長帯域と所定の関係にある波長帯域の第1の画像の画素値を基に、第2の波長帯域に対応する第3の画像の画素値を生成する。
波長補間部14は、中心波長λに対応する全ての画素値を算出する。このように、波長補間部14は、第1の組に含まれる観測画像を基に、第2の波長帯域に対応した第3の画像を生成する。
そして、波長補間部14は、生成した第3の画像と第1の組の観測画像を基に新たな組を生成する。そして、波長補間部14は、新たな組を基に画像群130を生成する。
画像群において、同じ組に含まれる観測画像は、同期している。つまり、波長補間部14は、同期している観測画像を基に、第2の波長帯域に対応する第3の画像を生成する。そのため、波長補間部14は、関連性の高い第3の画像、つまり、適切な補間画像を生成できる。
なお、波長補間部14は、第2の組における欠損領域を含む一つ又は複数の波長帯域に対応した観測画像に対して、第3の画像を生成すればよい。ただし、波長補間部14は、第2の組に含まれる全ての観測画像の波長帯域に対応した第3の画像を生成してもよい。以下、波長補間部14は、全ての波長帯域に対応した第3の画像を生成するとして説明する。
さらに、波長補間部14は、上記の第1の画像と第2の画像とを入れ替えて動作してもよい。つまり、波長補間部14は、第2の組の観測画像を基に、第1の一部又は全ての波長帯域に対応した第3の画像を生成し、新たな組を作成し、その組を含む画像群130を生成してもよい。以下の説明では、波長補間部14は、第2の組においても、第1の組の全ての波長帯域に対応した画像を生成するとして説明する。
上記のように、波長補間部14が、全ての組において、他の組の観測画像の波長帯域に対応した画像を生成した場合、画像群130に含まれる各組は、全ての組において、同じ波長帯域に対応した画像を含む。ただし、各組に含まれる各波長帯域の画像は、受信した観測画像、又は、波長補間部14が作成した第3の画像(補間画像)のどちらかである。つまり、各組は、各波長帯域に対して、複数の画像を含まない。
なお、数式1は、波長補間部14における処理の一例である。波長補間部14は、数式1とは異なる数式を用いてもよい。例えば、波長補間部14は、2次補間、3次補間、又は、スプライン補間を用いて、上記の画素値を算出してもよい。
さらに、波長補間部14が算出に用いる波長帯域に数は、2つに限られない。波長補間部14は、1つの波長帯域を用いてもよく、2つを超える波長帯域を用いてもよい。例えば、画素値を算出する第2の波長帯域が、第1の組に含まれる観測画像の波長帯域のいずれよりも高い場合、波長補間部14は、第1の組の最も高い波長帯域に対応した観測画像を用いて、画素値を算出してもよい。
画像復元部15は、波長補間部14が生成した補間画像、つまり、画像群130を用いて、欠損領域を復元する。
詳細には、画像復元部15は、画像群130において、欠損領域を含む観測画像の波長帯域に対応する各組の画素値を比較する。そして、画像復元部15は、比較結果を基に、画像群130に含まれる各組の画素値を用いて、欠損領域を復元した観測画像、つまり、復元画像140を生成する。
例えば、欠損領域を含む観測画像における波長帯域において、光の反射が大きい物体が、被覆物であるとする。この場合、画像復元部15は、画像群130に含まれる各組の画像において、欠損領域を含む観測画像の波長帯域に対応する画像(観測画像及び補間画像)における画素値を比較する。そして、画像復元部15は、最も小さい画素値を、最も被覆物の影響が少ない画素値とする。そして、画像復元部15は、最も被覆物の影響が少ない画素値を参照して、欠損領域となっている波長帯域の画素値を算出する。例えば、画像復元部15は、影響が最も少ない画素値と同じ又は近い値となるように、欠損領域を含む観測画像の画素値を修正する。
画像復元部15は、全ての波長帯域における欠損領域の画素に対して、同様な処理を用いて画素値を算出し、算出した画素値を用いて復元画像140を生成する。

なお、光の反射が小さい物体が被覆物の場合、画像復元部15は、最も大きな画素値を、最も被覆物の影響が少ない値とすればよい。
ただし、画像復元部15が用いる手法は、上記に限られない。
以下、画像復元部15における画素値を算出する手法の二つの例を説明する。
(1)第1の手法
第1の手法において、画像群130の各組に含まれ画像の波長帯域の中心波長は、波長λ、…、λとする。さらに、画像群130は、2つ組を含むとする。第1の組に含まれる波長λに対応する画像における画素値をI'(x,y,λ)とする。また、第2の組に含まれる波長λに対応する画像における画素値をI'(x,y,λ)とする。
このとき、画像復元部15は、復元の強さを表す所定の係数rを用いた数式2を用いて、復元画像140における波長λの画素値(I(x,y,λ))を算出する。
[数式2]
Figure 0007077945000002
なお、「n」は、波長帯域を示す変数であり、1からNのいずれかの値である。
(2)第2の手法
第2の手法において、画素の変数及び波長の変数は、第1の手法と同様とする。
このとき、画像復元部15は、復元の強さを表す所定の係数rを用いた数式3を用いて、復元画像140における画素値(I(x,y,λ))を算出する。
[数式3]
Figure 0007077945000003
なお、「n」は、上記と同様に、波長帯域を示す変数であり、1ないしNのいずれかの整数である。「n」は、第1の組の観測画像の波長帯域を示す変数であり、1ないしN(Nは、第1の組に含まれる観測画像の数)のいずれかの整数である。「λn1」は、第1の組に含まれる観測画像の波長帯域の中心波長の集合である。「n」は、第2の組の観測画像の波長帯域を示す変数であり、1ないしN(Nは、第2の組に含まれる観測画像の数)のいずれかの整数である。「λn2」は、第2の組に含まれる観測画像の波長帯域の中心波長の集合である。ただし、第1の組に含まれる観測画像の波長帯域の中心波長(λn1)は、第2の組に含まれる観測画像の波長帯域の中心波長(λn2)と異なるとする。
画像復元部15は、特定の波長帯域に対応して動作してもよい。
例えば、画像復元部15は、特定の波長帯域において、光の反射又は吸収に特徴をもつ物体が被覆物である場合を想定してもよい。この場合、例えば、画像復元部15は、特定の波長帯域における画素値を比較して、その波長帯域における画素値が最も大きい(又は、最も小さい)観測画像を、その画素における最も被覆物の影響が少ない観測画像とする。そして、画像復元部15は、その観測画像の波長帯域における画素値を基に復元画像140の画素値を算出して、復元画像140を生成してもよい。
[動作の説明]
次に、図面を参照して、第1の実施形態に係る情報処理装置1の動作について説明する。
図3は、第1の実施形態に係る情報処理装置1の動作の一例を示すフローチャートである。
画像受信部11は、観測画像を含む観測画像群110(第1の画像群)と、同期情報とを取得する(ステップS101)。例えば、画像受信部11は、観測画像を撮影した装置(例えば、画像供給装置8)から観測画像群110を受信してもよい。あるいは、画像受信部11は、図示しない記憶装置から、観測画像群110を読み出してもよい。さらに、画像受信部11は、観測画像を撮影した装置(例えば、画像供給装置8)から同期情報を受信してもよい。あるいは、画像受信部11は、同期情報を作成してもよい。
画像分類部12は、同期情報を用いて、同期した観測画像が同じ組となるように、観測画像を組に分類し、画像群(第2の画像群)を生成する(ステップS102)。なお、画像分類部12が、同期情報を作成してもよい。
波長補間部14は、第1の組に含まれる観測画像(第1の画像)を基に、第2の組に含まれる観測画像(第2の画像)の波長帯域に対応した画像(第3の画像、補間画像)を生成する。そして、波長補間部14は、生成した第3の画像と、第1の画像を含む組とから新たな組を生成し、新たな組を基に画像群130(第3の画像群)を生成する。つまり、波長補間部14は、他の組の波長帯域に対応した画像を生成し、画像群130(第3の画像群)を生成する。言い換えると、波長補間部14は、画像群を基に補間画像を生成し、画像群と補間画像とを基に画像群130を生成する(ステップS103)。
なお、波長補間部14は、新たな組として、生成した第3の画像と第1の組の観測画像とを含む論理的な塊(例えば、ファイル)を生成しなくてもよい。例えば、波長補間部14は、画像群130(第3の画像群)の情報として、生成した第3の画像と、第1の組の観測画像との関連付ける管理情報を保存してもよい。この場合、その画像復元部15は、管理情報を基に動作すればよい。
画像復元部15は、画像群130における各波長帯域の画素値を基に、復元画像140の画素値を算出して、算出した画素値を基に復元画像140を生成する(ステップS104)。復元画像140は、欠損領域を復元した画像である。
[効果の説明]
次に、第1の実施形態に係る情報処理装置1の効果について説明する。
第1の実施形態に係る情報処理装置1は、参照画像720を用いないで、観測画像を復元するための画像を生成するとの効果を奏する。
その理由は、次のとおりである。
画像受信部11が、観測画像を含む観測画像群110を受信する。観測画像は、波長帯域と関連付けられている。
画像分類部12が、同期情報を用いて、同期する観測画像が同じ組となるように、観測画像群110の観測画像を画像群に分類する。
そして、波長補間部14が、画像群に含まれる各組において、他の組の波長帯域に対応した画像(補間画像)を生成する。そして、波長補間部14は、生成した画像と元の画像を含む組を生成し、生成した組を含む画像群130を生成する。
補間画像は、次に説明する画像復元部15が、復元画像140を生成するために用いる画像である。つまり、補間画像は、観測画像における欠損領域を復元するための画像である。
このように、情報処理装置1は、参照画像720を用いなくても、観測画像を復元するための画像(補間画像)を生成できる。
そして、画像復元部15が、画像群130における各波長帯域の画素値を基に、復元画像140の画素値を合成して、復元画像140を生成する。
このように、情報処理装置1は、観測画像を基に復元画像140を生成できる。
繰り返すと、情報処理装置1は、次のような効果を奏する。
画像受信部11は、観測画像を波長帯域と関連付ける。そのため、情報処理装置1は、所定の波長帯域に関連した復元を実現できる。
さらに、画像分類部12は、同期している観測画像を同じ組となるように画像群に分類する。そのため、情報処理装置1は、同期した画像を基に復元を実現できる。
さらに、波長補間部14は、各組において、復元する画像の波長帯域と所定の関係にある画像を基に、波長帯域の画像を生成する。そのため、情報処理装置1は、各波長帯域に対応した復元に用いる画像(補間画像)を生成できる。
さらに、画像復元部15は、波長補間部14が生成した補間画像と観測画像とを基に復元画像140を生成する。このように、情報処理装置1は、参照画像720を用いなくても、観測画像の欠損領域を復元した復元画像140を生成できる。
[変形例]
既に説明したように、情報処理装置1は、復元に用いる観測画像の数を制限されない。例えば、情報処理装置1は、2枚の観測画像、つまり、欠損領域を含まない観測画像と欠損領域を含む観測画像とを用いて動作してもよい。この場合、情報処理装置1は、画像分類部12を含まなくてもよい。
さらに、情報処理装置1は、復元画像140として、波長補間部14が生成した画像を、欠損領域と置き換えてもよい。あるいは、情報処理装置1は、画像群130(補間画像を含む第3の画像群)を復元画像140の復元を実行する他の装置に送信してもよい。この場合、情報処理装置1は、画像復元部15を含まなくてもよい。
図4は、この場合の変形例である情報処理装置4の構成の一例を示すブロック図である。情報処理装置4は、画像受信部11と、波長補間部14とを含む。
画像受信部11は、観測画像群110(第1の画像群)を受信する。例えば、観測画像群110は、第1の波長帯域に対応した観測画像(第1の画像)と、第2の波長帯域に対応した観測画像(第2の画像)とを含む。つまり、観測画像は、波長帯域と関連付けられている。
波長補間部14は、第1の画像を基に、第1の画像の第1の波長帯域とは異なる第2の波長帯域における第2の画像に対応した画像(第3の画像)を生成する。
このように構成された情報処理装置4は、情報処理装置1と同様の効果を奏する。
その理由は、情報処理装置4の各構成が、上記の動作を基に、情報処理装置1と同様に、復元するための画像を生成できるためである。
なお、情報処理装置4は、本発明における実施形態の最小構成である。
<第2の実施形態>
次に、図面を参照して、第2の実施形態に係る情報処理装置2について説明する。
図5は、第2の実施形態に係る情報処理装置2の構成の一例を示すブロック図である。情報処理装置2は、情報処理装置1の構成に加え、移動物抑制部23を含む。そのため、以下の説明において、第1の実施形態と同様の構成及び動作の説明を省略し、第2の実施形態に特有の構成及び動作を説明する。
なお、移動物抑制部23は、画像分類部12及び波長補間部14と同様に、電子回路、又は、プログラムを基に動作するプロセッサを用いて、後ほど説明する動作を実現する。
移動物抑制部23は、画像分類部12が生成した画像群120に対し、移動物(例えば、雲)に基づく影響を抑制した画像群125を生成する。ただし、移動物抑制部23は、画像群120に含まれる全ての観測画像に対して動作する必要はない。移動物抑制部23は、一部の観測画像における移動物の影響を抑制してもよい。
なお、画像群120は、観測画像群110に含まれる観測画像を含む。つまり、移動物抑制部23は、欠損を含まない観測画像(第1の画像)、及び/又は、欠損領域を含む観測画像(第2の画像)に含まれる移動物に基づく影響を抑制する。
波長補間部14は、移動物の影響が抑制された画像群125を用いて画像群130を生成する。
移動物抑制部23における動作の詳細の一例を説明する。
移動物抑制部23は、画像群120を、所定の大きさの画像領域に区分する。ここで、移動物抑制部23は、各領域において、最も小さい画素値を、移動物(例えば、雲)に基づく影響とみなす。そのため、移動物抑制部23は、最も小さい画素値を、その領域の全画素値から差し引く。このような動作を基に、移動物抑制部23は、移動物の影響を抑制する。
波長補間部14は、移動物の影響が抑制された画像群125を用いて画像群130を生成する。そのため、波長補間部14は、第1の実施形態よりさらに適切な画像群130を生成する。
[効果の説明]
第2の実施形態に係る情報処理装置2は、第1の実施形態の効果に加え、観測画像における移動物の影響を低減するとの効果を奏する。
その理由は、移動物抑制部23が、移動物に基づく影響を抑制するためである。
<ハードウェア構成例>
上述した各実施形態、つまり、図1に示されている第1の実施形態の係る情報処理装置1、図4に示されている変形例に係る情報処理装置4、及び、図5に示されている第2の実施形態に係る情報処理装置2に含まれる各構成部は、次のように実現されてもよい。
各構成部は、専用のHW(Hardware、例えば、電子回路)を用いて実現されてもよい。あるいは、各構成部は、プロセッサ上で動作するプログラムの機能として実現されてもよい。あるいは、各構成部は、上記に組合せを用いて実現されてもよい。
さらに、図1、図4、及び、図5に示されている各構成部の区分けは、説明の便宜上の区分けである。各構成部は、その実装に際して、様々に変形可能である。
図面を参照して、本発明における各実施形態に係るハードウェア構成を説明する。
図6は、本発明における各実施形態に係る情報処理装置900の構成の一例を示すブロック図である。
すなわち、図6に示されている情報処理装置900は、図1に示されている情報処理装置1、図4に示されている情報処理装置4、及び、図5に示されている情報処理装置2のハードウェア構成の一例である。
図6に示されている情報処理装置900は、記録媒体907を除く下記の構成要素を含む。
(1)CPU(Central_Processing_Unit)901
CPU901は、プログラムを基に、各実施形態に係る情報処理装置900としての機能を実現する。CPU901は、汎用又は専用のコンピュータチップ及び周辺の回路である。
(2)ROM(Read_Only_Memory)902
ROM902は、CPU901が実行するプログラム及びデータを不揮発に記憶する。例えば、ROM902は、P-ROM(Programmable-ROM)又はフラッシュROMである。
(3)RAM(Random_Access_Memory)903
RAM903は、CPU901が実行するプログラム及びデータを一時的に記憶する。RAM903は、例えば、D-RAM(Dynamic-RAM)である。
(4)記憶装置904
記憶装置904は、情報処理装置900が長期的に保存するデータ及びプログラムを不揮発に記憶する。また、記憶装置904は、CPU901の一時記憶装置として動作してもよい。記憶装置904は、例えば、ハードディスク装置、光磁気ディスク装置、又は、SSDである。
(5)通信インタフェース(I/F:Interface)905
通信I/F905は、図示しない外部の装置との通信を仲介する。通信I/F905は、例えば、LAN(Local Area Network)カードである。さらに、通信I/F905は、有線に限らず、無線を用いてもよい。通信I/F905は、画像受信部11及び/又は画像復元部15の一部として動作してもよい。
(6)記録媒体907
記録媒体907は、プログラム及び/又はデータをコンピュータ読み取り可能に記録している。記録媒体907は、不揮発に、プログラム及び/又はデータを記録してもよい。記録媒体907は、例えば、CD(Compact_Disc)-ROM、CD-R(CD-Recordable)、又は、DVD(Digital Versatile Disc)-ROMである。
(7)リーダライタ908
リーダライタ908は、記録媒体907に記録されているプログラム及び/又はデータを読み出し、及び/又は、データを書き込む。リーダライタ908は、例えば、CDドライブ、CD-Rライタ、又は、DVDリーダである。
(8)入出力インタフェース909
入出力インタフェース909は、情報処理装置900に対するデータの入力を受け付ける、及び/又は、情報処理装置900からデータを出力する。入出力インタフェース909は、画像受信部11及び/又は画像復元部15の一部として動作してもよい。入出力インタフェース909は、例えば、USB(Universal Serial Bus)カードである。
(9)バス906
バス906は、情報処理装置900の各構成を接続する。バス906は、例えば、PCI(Peripheral Component Interconnect)バスである。
情報処理装置900は、上記構成を用いて、各実施形態を実現する。
すなわち、各実施形態は、情報処理装置900に対して、次に説明する機能を実現可能なコンピュータプログラムを供給する。
その機能とは、各実施形態の説明において参照したブロック図(図1、図4、及び、図5)における、画像受信部11と、画像分類部12と、移動物抑制部23と、波長補間部14と、画像復元部15とである。あるいは、その機能は、実施形態の説明において参照したフローチャート(図3)に示されている機能である。
情報処理装置900は、ハードウェアであるCPU901が、プログラムを読み出し、解釈し、実行することに基づいて、上記機能を実現する。
なお、供給されたプログラムは、読み書き可能な揮発性のメモリであるRAM903、又は、不揮発性の記憶デバイスである記憶装置904に格納される。
プログラムの供給方法は、特に制限されない。プログラムは、一般的な手法を介して供給されればよい。例えば、プログラムは、記録媒体907を用いてインストールされてもよく、通信I/F905を介してダウンロードされてもよい。この場合、本発明における各実施形態は、プログラムを構成するコード、又は、そのコードが格納された記録媒体907を用いて構成されているとも言える。
以上、実施形態を参照して本願発明を説明したが、本願発明は上記実施形態に限定されるものではない。本願発明の構成及び詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
この出願は、2016年 7月25日に出願された日本出願特願2016-145056を基礎とする優先権を主張し、その開示の全てをここに取り込む。
本発明は、高所から地表を観測した結果に基づく、地図の作製、土地利用状態の把握、火山の噴火及び森林火災の状況把握、農作物の生育具合の取得、並びに、鉱物の判別に利用可能である。
1 情報処理装置
2 情報処理装置
3 情報処理システム
4 情報処理装置
7 画像処理装置
8 画像供給装置
9 出力装置
11 画像受信部
12 画像分類部
14 波長補間部
15 画像復元部
23 移動物抑制部
71 画像受信部
72 類似環境画像取得部
76 画像記憶部
75 欠損領域復元部
78 画像供給装置
79 出力装置
110 観測画像群
111 観測画像
120 画像群
125 画像群
130 画像群
140 復元画像
150 欠損領域
710 測定環境情報
720 参照画像
740 復元画像
900 情報処理装置
901 CPU
902 ROM
903 RAM
904 記憶装置
905 通信I/F
906 バス
907 記録媒体
908 リーダライタ
909 入出力インタフェース

Claims (7)

  1. 相互に異なる波長帯域である複数の第1の波長帯域それぞれに対応する複数の第1の観測画像を含む第1の観測画像群を受信する画像受信手段と、
    前記画像受信手段が受信した前記第1の観測画像群における同期に関する情報を基に、前記第1の観測画像群に含まれる画像を前記第1の観測画像と第2の観測画像とに分類する画像分類手段と、
    前記第1の観測画像群における前記第1の観測画像を基に、前記第1の観測画像の前記第1の波長帯域のいずれとも異なる第2の波長帯域における前記第2の観測画像に対応した第3の画像を生成する波長補間手段と
    含み、
    前記画像分類手段は、前記同期に関する情報として、前記第1の観測画像群に含まれる物体を用いる
    情報処理装置。
  2. 前記第3の画像を基に、前記第2の観測画像に対応した復元画像を生成する画像復元手段を
    さらに含む請求項1に記載の情報処理装置。
  3. 前記第1の観測画像及び/又は前記第2の観測画像に含まれる移動物に基づく影響を抑制する移動物抑制手段を
    さらに含む請求項2に記載の情報処理装置。
  4. 前記画像復元手段が、
    複数の前記第3の画像における画素値を基に、前記復元画像を生成する
    請求項2又は3に記載の情報処理装置。
  5. 前記波長補間手段が、
    前記第2の観測画像における第2の波長帯域に対して所定の関係にある前記第1の観測画像における前記第1の波長帯域の画素値を基に、前記第3の画像の生成する
    請求項1ないし3のいずれか1項に記載の情報処理装置。
  6. 相互に異なる波長帯域である複数の第1の波長帯域それぞれに対応する複数の第1の観測画像を含む第1の観測画像群を受信し、
    受信した前記第1の観測画像群における同期に関する情報を基に、前記第1の観測画像群に含まれる画像を前記第1の観測画像と第2の観測画像とに分類し、
    前記第1の観測画像群における前記第1の観測画像を基に、前記第1の観測画像の前記第1の波長帯域のいずれとも異なる第2の波長帯域における前記第2の観測画像に対応した第3の画像を生成し、
    前記第1の観測画像と前記第2の観測画像との分類は、前記同期に関する情報として、前記第1の観測画像群に含まれる物体を用いる
    情報処理方法。
  7. 相互に異なる波長帯域である複数の第1の波長帯域それぞれに対応する複数の第1の観測画像を含む第1の観測画像群を受信する処理と、
    受信した前記第1の観測画像群における同期に関する情報を基に、前記第1の観測画像群に含まれる画像を前記第1の観測画像と第2の観測画像とに分類する処理と、
    前記第1の観測画像群における前記第1の観測画像を基に、前記第1の観測画像の前記第1の波長帯域のいずれとも異なる第2の波長帯域における前記第2の観測画像に対応した第3の画像を生成する処理と
    をコンピュータに実行させ、
    前記第1の観測画像と前記第2の観測画像とに分類する処理は、前記同期に関する情報として、前記第1の観測画像群に含まれる物体を用いる
    プログラム。
JP2018529789A 2016-07-25 2017-07-18 情報処理装置、情報処理方法、及び、プログラム Active JP7077945B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016145056 2016-07-25
JP2016145056 2016-07-25
PCT/JP2017/025854 WO2018021079A1 (ja) 2016-07-25 2017-07-18 情報処理装置、情報処理方法、及び、記録媒体

Publications (2)

Publication Number Publication Date
JPWO2018021079A1 JPWO2018021079A1 (ja) 2019-05-09
JP7077945B2 true JP7077945B2 (ja) 2022-05-31

Family

ID=61016083

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018529789A Active JP7077945B2 (ja) 2016-07-25 2017-07-18 情報処理装置、情報処理方法、及び、プログラム

Country Status (5)

Country Link
US (1) US10963991B2 (ja)
EP (1) EP3489889B1 (ja)
JP (1) JP7077945B2 (ja)
CN (1) CN109564675B (ja)
WO (1) WO2018021079A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10878588B2 (en) 2018-06-22 2020-12-29 X Development Llc Detection and replacement of transient obstructions from high elevation digital images
JP7345935B1 (ja) 2022-10-12 2023-09-19 国立研究開発法人農業・食品産業技術総合研究機構 情報処理装置、情報処理方法、およびプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001143054A (ja) 1999-11-16 2001-05-25 Hitachi Ltd 衛星画像処理方法
JP2013092884A (ja) 2011-10-25 2013-05-16 Nippon Telegr & Teleph Corp <Ntt> 画像処理装置、方法、及びプログラム
WO2013145201A1 (ja) 2012-03-29 2013-10-03 株式会社日立製作所 画像生成システム及び画像生成方法

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3609524B2 (ja) * 1996-02-29 2005-01-12 株式会社リコー デジタルカラーエンコーダ
JP2000155379A (ja) * 1998-11-19 2000-06-06 Konica Corp 画像処理方法、プリント方法、画像処理装置、プリント装置、画像処理システム、プリントシステム、写真フィルム及びカメラ
US7180588B2 (en) * 1999-04-09 2007-02-20 Plain Sight Systems, Inc. Devices and method for spectral measurements
JP2008176415A (ja) * 2007-01-16 2008-07-31 Nikon Corp 撮像装置、画像記録プログラム、画像データ記録媒体、画像処理装置および画像処理プログラム
ITTO20070620A1 (it) * 2007-08-31 2009-03-01 Giancarlo Capaccio Sistema e metodo per presentare dati visuali rilevati a distanza in immagini multi-spettrali, di fusione, ed a tre dimensioni spaziali.
WO2009142758A1 (en) * 2008-05-23 2009-11-26 Spectral Image, Inc. Systems and methods for hyperspectral medical imaging
JP5259381B2 (ja) * 2008-12-25 2013-08-07 京セラ株式会社 撮像装置および撮像方法
JP4365887B1 (ja) 2009-03-18 2009-11-18 株式会社パスコ 地表面画像データの生成方法および生成装置
CA2780309C (en) * 2009-12-01 2014-06-03 Ricoh Company, Ltd. Image information processing method, image information processing apparatus, image processing apparatus, and recording medium
JP5452242B2 (ja) * 2010-01-15 2014-03-26 オリンパス株式会社 画像処理装置、内視鏡システム、プログラム及び画像処理装置の作動方法
JP5632680B2 (ja) * 2010-08-25 2014-11-26 日立アロカメディカル株式会社 超音波画像処理装置
CN102625043B (zh) * 2011-01-25 2014-12-10 佳能株式会社 图像处理设备、成像设备和图像处理方法
JP2013179402A (ja) * 2012-02-28 2013-09-09 Sony Corp 端末装置、情報処理装置、表示方法、及び表示制御方法
US8811764B1 (en) * 2012-10-25 2014-08-19 Google Inc. System and method for scene dependent multi-band blending
JP2014140117A (ja) * 2013-01-21 2014-07-31 Panasonic Corp カメラ装置及び撮像方法
JP2014204151A (ja) * 2013-04-01 2014-10-27 パナソニック株式会社 撮像演算装置
CN103413289B (zh) * 2013-08-30 2017-04-12 中国神华能源股份有限公司 矿区图像处理方法及装置
US11033188B2 (en) * 2014-11-27 2021-06-15 Koninklijke Philips N.V. Imaging device and method for generating an image of a patient
WO2016098323A1 (ja) * 2014-12-17 2016-06-23 日本電気株式会社 情報処理装置、情報処理方法、及び、記録媒体
JP6548320B2 (ja) 2015-02-07 2019-07-24 日本山村硝子株式会社 グリップボトル

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001143054A (ja) 1999-11-16 2001-05-25 Hitachi Ltd 衛星画像処理方法
JP2013092884A (ja) 2011-10-25 2013-05-16 Nippon Telegr & Teleph Corp <Ntt> 画像処理装置、方法、及びプログラム
WO2013145201A1 (ja) 2012-03-29 2013-10-03 株式会社日立製作所 画像生成システム及び画像生成方法

Also Published As

Publication number Publication date
CN109564675A (zh) 2019-04-02
EP3489889A1 (en) 2019-05-29
WO2018021079A1 (ja) 2018-02-01
EP3489889B1 (en) 2023-09-20
US10963991B2 (en) 2021-03-30
US20190251665A1 (en) 2019-08-15
CN109564675B (zh) 2023-12-19
EP3489889A4 (en) 2019-08-14
JPWO2018021079A1 (ja) 2019-05-09

Similar Documents

Publication Publication Date Title
Lanaras et al. Super-resolution of Sentinel-2 images: Learning a globally applicable deep neural network
Sandau Digital airborne camera: introduction and technology
EP3605063B1 (en) Vegetation index calculation device and method, and computer program
CN110998657B (zh) 图像处理设备、图像处理方法和程序
KR20210005571A (ko) 차량 검사 시스템 및 그 방법
JP7077945B2 (ja) 情報処理装置、情報処理方法、及び、プログラム
JPWO2019082519A1 (ja) 情報処理装置、情報処理方法、プログラム、情報処理システム
JP6806264B2 (ja) 情報処理装置、情報処理システム、情報処理方法、及び、プログラム
Yilmaz et al. Fusion of very high-resolution UAV images with criteria-based image fusion algorithm
Ajibola et al. Fusion of UAV-based DEMs for vertical component accuracy improvement
EP3236237B1 (en) Image information processing device, image information processing method, and recording medium storing image information processing program
JP6201507B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
Waldner et al. Local adjustments of image spatial resolution to optimize large-area mapping in the era of big data
CN112106346A (zh) 图像处理方法、设备、无人机、系统和存储介质
Conceição et al. Land use and land cover mapping in a priority municipality for deforestation control actions in the Amazon using GEOBIA
Chandana Sri et al. Using Convolution Networks to Remove Stripes Noise from Infrared Cloud Images
WO2016189853A1 (ja) 画像処理装置、画像処理システム、画像処理方法およびプログラム記録媒体
JP6856066B2 (ja) 情報処理装置、情報処理システム、情報処理方法およびコンピュータプログラム
US20210312327A1 (en) Learning data set generation device, learning data set generation method, and recording medium
Pacot et al. Cloud removal from aerial images using generative adversarial network with simple image enhancement
KR101665409B1 (ko) 레티넥스 모델 기반 영상 신호 분리 장치 및 그 방법
KR102375353B1 (ko) 비부표본화 윤곽선 변환 기반의 에어로졸 영역 복원 장치 및 방법
Dumeur et al. Sentinel-2 RGB and NIR bands simulation after fire events using a multi-temporal conditional generative adversarial network
Schön et al. 3D reconstruction of buildings and landscapes–Evaluation of quality parameters and optimization of mission planning using RPAS
Burgueño Romero et al. Scalable approach for high-resolution land cover: a case study in the Mediterranean Basin.

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181207

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200615

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210720

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210818

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20211021

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20211214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220203

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20220203

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20220215

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20220222

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220419

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220502

R151 Written notification of patent or utility model registration

Ref document number: 7077945

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151