JP6010098B2 - マルチスペクトルデータの幾何学的リファレンシング - Google Patents

マルチスペクトルデータの幾何学的リファレンシング Download PDF

Info

Publication number
JP6010098B2
JP6010098B2 JP2014251092A JP2014251092A JP6010098B2 JP 6010098 B2 JP6010098 B2 JP 6010098B2 JP 2014251092 A JP2014251092 A JP 2014251092A JP 2014251092 A JP2014251092 A JP 2014251092A JP 6010098 B2 JP6010098 B2 JP 6010098B2
Authority
JP
Japan
Prior art keywords
sensor element
information
sensing device
processed
spectral
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014251092A
Other languages
English (en)
Other versions
JP2015072713A (ja
Inventor
ヤン・ビーゼマンス
バヴォ・ドゥローレ
バルト・ミッシェル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Vlaamse Instelling Voor Technologish Onderzoek NV VITO
Original Assignee
Vlaamse Instelling Voor Technologish Onderzoek NV VITO
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Vlaamse Instelling Voor Technologish Onderzoek NV VITO filed Critical Vlaamse Instelling Voor Technologish Onderzoek NV VITO
Publication of JP2015072713A publication Critical patent/JP2015072713A/ja
Application granted granted Critical
Publication of JP6010098B2 publication Critical patent/JP6010098B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/02Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures
    • G01C11/025Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures by scanning the object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/13Satellite images

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Astronomy & Astrophysics (AREA)
  • Theoretical Computer Science (AREA)
  • Spectrometry And Color Measurement (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Input (AREA)
  • Image Analysis (AREA)

Description

本発明は、例えば航空イメージング(画像化)もしくは工業イメージングなどにおける画像キャプチャの分野に関し、より特に、本発明は、複数のマルチスペクトル画像を得るための複数のセンシングシステム、対応する複数のイメージングシステム及びそれらを使用するための複数の方法に関する。
ハイパースペクトルイメージングは、電磁スペクトル全域からの情報が多くの狭いスペクトル帯域において収集されて処理されるスペクトルイメージングの形態である。収集された異なる複数のスペクトル画像から、画像化された複数のオブジェクトの情報が得られる。例えば、ある複数のオブジェクトは、複数の固有のスペクトル署名をオブジェクトのステータスに実に依存してもよい複数の画像内にそのままの状態のままにしておくので、マルチスペクトルイメージングにより得られた情報は、画像化された領域内の複数のオブジェクトの存在及び/もしくはステータスに関する情報を提供することができる。画像化されるであろうスペクトル範囲の選択の後、この完全なスペクトル範囲内で複数のスペクトル画像が得られるので、複数のオブジェクトの詳細な事前知識が必要ではなく、後置処理はすべての利用可能な情報を得ることを可能とするかもしれない。
最初はハイパースペクトルリモートセンシングが主に採鉱及び地質学のために使用されていた一方で、例えば生態学、農業及び監視などの他の複数のアプリケーションがまたイメージング技術を利用する。
例えば、複数の病気の発生の初期の検出のみならず複数の作物の発達及び健康状態のモニタリング、ぶどうの品種の検出、複数の林冠の個々のモニタリング、及び複数の植物の化学組成の検出などのためにハイパースペクトルリモートセンシングが使用されるいくつかの農業アプリケーション及び生態学アプリケーションが知られている。汚染及び他の複数の環境要因などの影響のモニタリングは、処理対象の(興味のある)農業の複数のアプリケーションのうちのいくつかである。ハイパースペクトルイメージングはまた、複数の生物物理学的特性を検出するために、内水及び沿岸水域の研究のために使用される。鉱物学において、例えば金、もしくは複数のダイヤモンドなどの高価な複数の鉱物の検出が、ハイパースペクトルセンシングを使用して行われるが、複数のパイプライン及び複数の天然井戸からのオイル及びガス漏れの検出がまた想定される。また、地球上または実に他の複数の惑星、複数の小惑星もしくは複数の彗星上での土壌組成の検出がハイパースペクトルイメージングの可能性がある複数のアプリケーションである。監視において、ハイパースペクトルイメージングは、例えば、複数の生物の検出のために行われる。
いくつかのアプリケーションにおいて、処理対象の1つのスペクトル範囲内の領域の2次元フル画像を収集して、その後に処理対象の他の複数のスペクトル範囲内のその領域の他の複数の2次元フル画像を収集することにより、複数のスペクトルデータが得られ、それによって複数のスペクトルフィルタがそれらの間で切り替えられる。それにもかかわらず、データ収集のこの方法は必ずしも可能でなく、特に処理対象の領域及びイメージングシステムはお互いに対して大きい相対運動を経験する。その相対運動を考慮すると、位置情報の正確な決定は、収集された異なるスペクトルデータの正しい解釈のために重要である。既知の複数のシステムは、グローバルボジショニングシステム(GPS)及び/もしくは慣性測定ユニット(IMU)を使用する。
本発明の実施態様の目的は、異なる複数の波長もしくは複数の波長領域に対する処理対象の領域に関する区別できる情報を提供する処理対象の複数の領域の複数のマルチスペクトル画像を得るための十分な複数のセンシングシステム及び処理対象の複数の領域のそのような複数のスペクトル画像を得るための十分な複数の方法を提供することである。本発明に係る実施態様の利点は、例えば位置情報などの正確な幾何学的情報が、例えば有利にハイパースペクトル情報などのマルチスペクトル情報に対して結合される、ということである。
本発明のいくつかの実施態様の利点は、マルチスペクトル情報が、例えば高いなどの十分な位置精度を用いて得られる、ということである。本発明の実施態様の利点は、マルチスペクトル情報が、例えばそれらの相対的な高度などの、処理対象の領域内の複数のオブジェクトの追加的な幾何学的情報を用いて得られる、ということである。本発明に係る実施態様の利点は、例えば2つのセンサの同一チップ上への集積化などのために、コンパクトなセンシングシステムが得られるということである。
本発明に係る実施態様の利点は、同一のチップ上の集積化には固定化された位置合わせを含み、スペクトルデータと合成される正確な幾何学的情報を結果として生じる、ということである。本発明に係る実施態様の利点は、無人機(UAV)内に容易に集積化される、軽量のセンシングシステムが得られる、ということである。本発明に係る実施態様の利点は、大きい幅を有するセンシングシステムが得られ、その結果、いくつかのアプリケーションに対しては、広いエリアが画像化される、ということである。
本発明に係る実施態様の利点は、コンパクト性及び/もしくは低重量と、正確なデータ収集とを組み合わせた複数のマルチスペクトルスペクトルセンシングシステムが得られる、ということである。
本発明に係る実施態様の利点は、位置合わせの一部が、例えば複数のオブジェクトに関する幾何学的情報を提供するセンサなどの、マルチスペクトルセンサ及び幾何学的リファレンシングセンサの処理の間に実行されるので、イメージングシステムをセットアップするためには、必要とされる位置合わせがより少なくなる、ということである。
上述の目的は、本発明に係る方法及びデバイスにより達成される。
本発明は、センシングデバイスに対する相対運動における処理対象の領域の幾何学的リファレンスされたマルチスペクトル画像データを得るためのセンシングデバイスに関し、当該センシングデバイスは、少なくとも第1の2次元センサ素子、スペクトルフィルタ、及び第2の2次元センサ素子を備え、上記センシングデバイスは、センシングデバイスに対する処理対象の領域の上記相対運動の間、後に続く複数のマルチスペクトル画像を得て、それ故に第1のセンサ素子を用いて、区別できるスペクトル情報を処理対象の領域の異なる複数の部分に提供するように適合化され、それによってスペクトルフィルタ及び第1のセンサ素子は、第1のセンサ素子の一部を用いて、第1の波長もしくは波長範囲でのスペクトル情報を得るために設けられ、そして第1のセンサ素子のもう1つの部分を用いて、第2の波長もしくは波長範囲でのスペクトル情報を得るために設けられる。センシングデバイスは、スペクトル情報に結合されるべき幾何学的リファレンス情報を発生するために、第2のセンサ素子を用いて、画像を提供するように適合化される。さらに、第1のセンサ素子及び第2のセンサ素子は、同一基板上に集積化される。
本発明に係る実施態様の利点は、センシングデバイスは、センシングデバイス上の熱負荷のために、もしくは複数の環境条件の影響のために、特に、2つの独立したセンサをともに保持する異種の機械的なインターフェースを有する複数のセンシングデバイスと比較すると、精度低下の影響を受けにくい、ということである。第1のセンサ素子は、第1のセンサ素子の少なくとも2つの異なるラインもしくはカラムもしくはブロックに関する区別できるスペクトル情報を得るためのスペクトルフィルタが備えられてもよい。スペクトルフィルタは、第1のセンサ素子上の異なる複数の位置でスペクトル的に依存したフィルタリングを可能とする複数のスペクトル帯域を備えるステップフィルタであってもよい。スペクトルフィルタは、第1のセンサ素子上の異なる複数の位置でスペクトル的に依存したフィルタリングを可能とする線形可変フィルタであってもよい。本発明に係る実施態様の利点は、コンパクトなシステムが得られる、ということである。
第1のセンサ素子及び第2のセンサ素子が集積化された基板は、同一の半導体チップであってもよい。本発明に係る実施態様の利点は、複数のセンサ素子が、複数のセンサ素子の位置合わせの必要性を回避して、単一の処理フロー内での同様の複数の処理ステップを用いて製造される、ということである。
第1のセンサ素子は、ハイパースペクトルセンサであるように適合化されてもよい。第1のセンサ素子及び第2のセンサ素子は、少なくとも1つの方向で同一の画素数を有してもよい。第1のセンサ素子の複数の画素は、第2のセンサ素子の複数の画素を用いて位置合わせされてもよい。
センシングデバイスは、マルチスペクトル画像情報を得るために、イメージングシステム内に集積化されてもよい。
イメージングシステムは、幾何学的リファレンシング情報をマルチスペクトル情報に対して結合するためのプロセッサを備えてもよい。
イメージングシステムはさらに、処理対象の領域の放射線を各センサ素子上にフォーカスするための単一の光学素子を備えてもよい。
第1のセンサは、第1のセンサの1つの部分を用いて処理対象の領域の1つの部分の画像情報及び第2のセンサのもう1つの部分を用いて処理対象の領域のもう1つの部分の画像情報を実質的に同時にキャプチャするように構成されてもよく、第2のセンサは、上記処理対象の領域の1つの部分及び上記処理対象の領域のもう1つの部分の両方の画像情報を実質的に同時にキャプチャするように構成されてもよい。
本発明はまた、センシングデバイスに対する相対運動における処理対象の領域に関する画像データを得るための方法に関し、当該方法は、
センシングデバイスに対する処理対象の領域の相対運動の間、後に続く複数のマルチスペクトル画像を得ることにより、第1の2次元センサ素子を用いて処理対象の領域に関するマルチスペクトルデータのセットを得るステップを含み、
上記区別できるスペクトルデータのセットを得るステップは、
第1のセンサ素子の部分を用いて第1の波長もしくは波長範囲でスペクトル情報を得るステップ及び第1のセンサ素子のもう1つの部分を用いて第2の波長もしくは波長範囲でスペクトル情報を得るステップを含み。
当該方法は、
第1のセンサ素子と同一の基板上に集積化された第2のセンサ素子を用いて処理対象の領域の2次元画像を得るステップと、
処理対象の領域の2次元画像のための幾何学的リファレンシング情報を得るステップと、
幾何学的リファレンシング情報を、処理対象の領域に関するマルチスペクトルデータに関連付けて処理対象の領域の幾何学的リファレンスされたマルチスペクトルデータを得るステップとを含む。
本発明の特定のかつ好ましい態様が、添付の独立項及び従属項において設定される。従属項からの特徴は、独立項の特徴と組み合わされてもよく、単に明示的としてだけでなく適切なように特許請求の範囲に設定された他の従属項の特徴と組み合わされてもよい。
本発明のこれらの態様及び他の態様が、後述説明された1つもしくは複数の実施態様から明白となるであろうし、後述説明された1つもしくは複数の実施態様を参照して明瞭とされるであろう。
図面は、ただ概略的なだけで限定されない。図面において、複数の要素のいくつかのサイズは、例示的な目的のために、誇張されてもよく、スケール上に描かれなくてもよい。特許請求の範囲における任意の参照記号は、範囲を限定するとして解釈されるべきでない。異なる図面において、同一の参照記号は、同一のもしくは類似の要素に言及する。
本発明の実施形態に係るジオリファレンスされたマルチスペクトルデータを得るためのセンシングデバイスの概略図である。 本発明の実施形態に係るジオリファレンスされたマルチスペクトルデータを得るためのセンシングデバイス上の複数のセンサ素子のレイアウトの概略図である。 本発明の実施形態に係るシステムにおいて使用された多数のハイパースペクトル画像を例示する。 本発明の実施形態に係るジオリファレンスのマルチスペクトル画像データを得るためのセンシングデバイスを備えたイメージングシステムを図示する。 本発明の実施形態に係る例示的な方法のフローチャートを例示する。 本発明の実施形態に係る詳細化された例示的な方法のフローチャートを例示する。 本発明の実施形態に係る方法を実行するために使用されてもよいプロセッサもしくはその一部の実施例を例示する。
本発明が、特定の実施形態に関して、及びある図面を参照して説明されるであろうが、本発明はこれに限定されずただ特許請求の範囲だけに限定される。さらに、説明中及び特許請求の範囲中の用語「第1の」、「第2の」及び「第3の」などは、同様の複数の要素間を区別するために使用され、必ずしも順次的なもしくは年代順の順序を説明するため使用されない。そのように使用された複数の用語は、適切な環境下ではお互いに交換可能であり、ここで説明された本発明の実施形態は、ここで説明されたもしくは例示された他の複数のシーケンスにおいて動作可能である、ということが理解されるべきである。
留意すべきことは、特許請求の範囲で使用された用語「備えている(含んでいる)」は、その後に記載された手段に制限されるように解釈されるべきでなく、すなわち、それは他の複数の要素もしくは複数のステップを除かない、ということである。従って、それは、記載された複数の特徴、複数の整数、言及された複数のステップもしくは複数の構成要素の存在を特定化するように解釈されるべきであるが、それは、1つもしくはそれ以上の特徴、整数、ステップもしくは構成要素、またはそのグループの存在もしくは追加を除外しない。従って、表現「手段A及び手段Bを備えているデバイス」の範囲は、構成要素A及び構成要素Bだけからなる複数のデバイスに限定されるべきでない。それは、本発明に関しては、デバイスの唯一の関連のある構成要素がA及びBである、ということを意味する。
種々の実施形態を製造して使用することのみならず、種々の実施形態に係るデバイス及びシステムが、以下詳細に説明される。しかしながら、本発明は多くの応用可能な発明概念を提供し、それらは広い種々の特定の文脈において具体化される、ということが認識されるべきである。説明された特定の実施形態は、本発明を生産して使用するための特定の方法の単なる例示であって、本発明の請求項の範囲を限定するものではない。
本発明において、2次元のマルチスペクトル画像に対してリファレンスが行われる場合、1つ波長もしくはスペクトル領域で画像化された処理対象の領域の1つの部分に関する情報及び異なる波長もしくはスペクトル領域で画像化された処理対象の領域の少なくとももう1つの部分に関する情報を備えた、m×nの画素化された画像に対してリファレンスが行われる。1つのスペクトル領域内に得られたスペクトル情報は、ライン、グループ、もしくはサブマトリックスの画素であってもよい一方で、全体的に下側に横たわる画素化されたセンサは典型的に、2次元スペクトルセンサである。
本発明に係る実施形態は、電磁放射線の広いスペクトル範囲において適用可能であってもよい。カバーされる特定の範囲は、(典型的には、400nmから1000nmまでの範囲であると考えられる)可視近赤外(VNIR)や短波長赤外線や熱赤外線などであり、本発明の実施形態は、所定の例示的な範囲には限定されない。
本発明の実施形態において、マルチスペクトル画像もしくはマルチスペクトル画像データに対してリファレンスが行われる場合は、少なくとも2つの異なる波長もしくは波長領域に対する処理対象の領域に関する分離した情報を備えるデータに対してリファレンスが行われる。複数のハイパースペクトル画像もしくは画像データは、非常に多くの波長もしくは波長領域に対する分離した情報を備えるデータをいう。
本発明に係る実施形態において、処理対象の領域内の点もしくはオブジェクトのジオリファレンシングもしくは幾何学的リファレンシングに対してリファレンスが行われる場合は、物理的空間内の処理対象の領域内の点もしくはオブジェクトの存在に対してリファレンスが行われる。それは、複数の地図投影もしくは複数の座標系の観点から、場所を確立することを参照する。例えば、後者は、例えば相対位置情報などの位置情報を含んでもよい。そのような位置情報は、位置情報に関連する(x,y)であってもよいが、また例えば高度もしくは相対的高度などのzに関連する位置情報であってもよい。それは、しばしばジオリファレンシングと呼ばれる、空中写真、空中イメージングもしくは衛星イメージングに対して適用可能であるだけでなく、例えば工業検査においてなどの他の複数のアプリケーションにおいてもまた適用可能である。
第1の態様において、本発明は、幾何学的リファレンスされたマルチスペクトル画像データを得るためのセンシングデバイスに関する。特に、センシングデバイスは、ハイパースペクトルイメージングに適してもよいが、本発明の実施形態はこれに限定されない。特に、本発明の実施形態に係るセンシングデバイスは、センシングデバイス及びお互いに対する相対運動における処理対象の領域を用いて、幾何学的リファレンスされたマルチスペクトル画像データを得るために適しており、例えば、それは空中からのイメージングが実行されるケース、もしくは上面図を用いたイメージングが実行される場合である。本発明の実施形態に係るセンシングデバイスは、例えば単一チップなどの単一基板を備える。その基板は、例えばガラス基板、ポリマ基板、半導体基板などの任意のタイプの基板であってもよい。いくつかの有利な実施形態において、その基板は、複数のセンサ素子の集積化のための複数の半導体処理ステップを使用する可能性を提供する半導体チップであってもよい。
単一チップは、少なくとも第1の2次元センサ素子を備え、それによってセンシングデバイスは、第1の2次元センサ素子を用いて処理対象の領域の異なる複数の部分に対するスペクトル的に異なる情報を提供するように適合化される。単一チップはまた、第2の2次元センサ素子を備え、それによってセンシングデバイスは、第2のセンサ素子を用いて処理対象の領域の幾何学的リファレンシング情報を提供するように適合化される。有利に、幾何学的リファレンシング情報は、センシングデバイスにより得られたスペクトル情報に結合されてもよい。本発明に係る実施形態の利点は、少なくとも第1のセンサ及び第2のセンサ素子が同一のチップ上にプロセス処理される、ということである。後者は複数のセンサ素子の正確な位置合わせを可能とし、その結果、お互いに対して複数のセンサ素子を位置決めするためのその後の位置合わせはほとんど必要とされないか、もしくは全く必要とされない。
例示の目的で、本発明はこれに限定されないが、そのようなセンシングデバイスを備えるイメージングシステムのみならず例示的なセンシングデバイスがさらに、図1から図3、及びこれに限定されない本発明の実施形態を参照して説明されるであろう。
図1において、本発明の実施形態に係るセンシングデバイス100が図示され、ここで、センシングデバイス100は、同一のチップ上でプロセス処理された、すなわち、同一の基板102上でプロセス処理された、少なくとも1つの第1のセンサ素子112及び第2のセンサ素子122を備える。従って、第1のセンサ素子112と第2のセンサ素子122と光学的な別の複数のセンサ素子とは、同一の基板102上でプロセス処理された複数のセンサ素子を均一にもしくは不均一にプロセス処理されてもよい。
有利に、複数のセンサ素子は、同一の基板102上にセンサ素子112、122を均一にプロセス処理される。センサ素子112、122は、同一基板102上に集積化されてもよく、それによって異なる複数のセンサ素子を構成する異なる複数の層は、例えばこれに限定されないが、CMOSプロセス処理技術などの同一のプロセス処理技術を用いて両方のセンサ素子112、122に対してプロセス処理される。複数のセンサ素子は典型的に、複数の画素を備えてもよい。複数の画素は典型的に、多くのカラムとローにおける行列形式で配列されてもよいが、本発明はこれに限定されない。センサ素子は、例えばセンサ画素m×nの行列などを備える2次元センサ素子であるので、フレームセンサ素子と呼ばれてもよい。ローの多くの画素のうちの、もしくはカラムの多くの画素のうちの少なくとも1つが両方のセンサに対して同一であるように、2つのセンサ素子が選択されてもよい。有利な実施形態において、複数のセンサ素子は、処理対象の比較的広い領域を同時に画像化するために、1つの方向において非常に多くの画素を備えてもよい。もし例えば、センシングデバイスがUAVを用いて処理対象の領域を検出するために、もしくはモニタリングのために使用されるならば、好ましいスキャン幅は少なくとも1000メートルであってもよく、より有利に少なくとも2000メートルであってもよく、さらにより有利に少なくとも3000メートルであってもよい。少なくとも1メートル、より有利に少なくとも50センチメートル、さらにより有利に少なくとも30センチメートルの好ましい地上分解能を考慮すると、1つの方向における画素の数は、いくつかの実施例において少なくとも1000個であってもよく、他の実施例において少なくとも4000個であってもよく、さらに他の実施例において10000個であってもよい。例示の目的で、本発明の実施形態はこれに限定されないが、基板上のセンサ素子112、122に対するレイアウトの実施例が図2において図示される。センサ素子112、122は有利に、表面位置合わせされる。2つのセンサ間の距離は、1ミリよりも小さくてもよいが、本発明の実施形態はこれには限定されない。
さらに、センシングデバイス100は、センサ素子112、122を駆動させるために、ドライブと読み出し回路とを備える。ドライブ及び読み出し回路130は、センサ素子112、122がお互いに異なって駆動するように適合化されてもよい。例えば、センサ素子112、122の画素が情報をキャプチャしている積分時間は異なってもよい。ドライブ及び読み出し回路130は、従来技術から知られているドライブ及び読み出し回路であってもよく、それによってドライブ及び読み出し回路130は、例えば複数の増幅器、複数のスイッチ及びバスなどの複数の構成要素を備えてもよい。いくつかの実施形態において、画素設計、カラム構造及びバスドライバは、バスに続くマルチプレクサが回避されるようにレイアウトされ、結果としてより良い画像品質が得られる。ドライブ及び読み出し回路はまた、センサ素子112、122を読み出すように適合化されてもよい。読み出しは、効率的かつ高速読み出しのために最適化されてもよい。例えば、10000×1200のセンサにおいて、フル解像度でのフレームレートは、例えば少なくとも1秒当たり50フレームなどの少なくとも1秒当たり35フレームであってもよい。駆動及び読み出しはまた、異なる複数の構成要素により実行されてもよく、すなわち、分離した駆動回路及び分離した読み出し回路が備えられてもよい。複数のセンサには、例えば電子シャッティングなどの高速シャッティングが得られるように複数のシャッタが備えられてもよい。
駆動及び読み出し回路のみならず複数のセンサ素子が、例えばCMOS技術などの半導体プロセス処理を用いて、同一のチップもしくはダイ上でプロセス処理されてもよいが、本発明の実施形態はこれには限定されない。本発明に係る実施形態の利点は、同一チップ上の集積化及び製造が結果として少なくとも2つのセンサの同様の熱挙動を生じさせるかもしれず、それが軽量の複数のUAVに関しては著しく重要であるかもしれず、典型的には、重量を考慮すると、複数のシステム上の熱負荷に対する補償は提供されない、ということである。熱負荷の補償がまったく必要とされないか、もしくはほとんど必要とされないので、複数のセンサの同様の熱挙動はまた、他の複数のアプリケーションにおいて有利かもしれない。
本発明の実施形態がCMOS技術を参照して書かれたが、本発明はこれには限定されない。センシングデバイスは、例えば半導体プロセス処理やIII−V半導体プロセス処理を用いて、異なるトランジスタ技術を使用して、及びMOS技術を使用するなどの任意の適切なタイプのプロセス処理を用いて製造されてもよい。本発明に係るいくつかの実施形態において、複数の電荷結合素子(複数のCCD)が使用されてもよい。
本発明の実施形態によれば、センシングデバイスは、第1の2次元センサ素子を用いて、処理対象の領域の異なる複数の部分に対して異なるスペクトル情報を提供するように適合化される。従って、センシングデバイスは、マルチスペクトル画像を発生するように適合化されてもよい。いくつかの実施形態において、センシングデバイスは、ハイパースペクトルデータ、すなわち、多くの狭いスペクトル帯域において発生するように適合化されてもよい。本発明の実施形態に係る第1のセンサ素子は2次元センサ素子であるので、そして異なるスペクトル情報はキャプチャされるべきであるので、典型的にセンサ素子の部分は、処理対象の領域の一部に対して第1の波長で、もしくは第1の波長領域内でスペクトル情報を得るために使用されてもよいし、センサ素子の少なくとも他の一部は、処理対象の領域の少なくとももう1つの部分に対する少なくとも第2の波長で、もしくは少なくとも第2の波長領域内でスペクトル情報を得るために使用されてもよい。いくつかの実施形態において、センサ素子の異なる複数のラインは、異なる複数のスペクトル波長で、もしくは異なる複数の波長領域内でデータを収集するために使用されてもよい。他の実施形態において、例えば、センサ素子の異なる複数のブロックは、異なるスペクトルデータをセンシングするために使用されてもよいし、もしくは異なる複数のカラムは、異なるスペクトルデータをセンシングするために使用されてもよい。異なるスペクトル情報をキャプチャするために、マルチスペクトルフィルタ114が、有利にハイパースペクトルフィルタが存在していてもよい。マルチスペクトルフィルタ114は、第1のセンサ素子112と、当該第1のセンサ素子112を制御するためのドライブ及び読み出し回路もしくはその一部とともに形成される。
マルチスペクトルフィルタは直接的に、例えば単一素子のように機械的に振る舞う第1のセンサ素子に適合化されてもよい。代わりに、2つの構成要素は、お互いから分離してもよいが、適切なフィルタリングが得られるように構成されもしくは配置されてもよい。例示の目的で、マルチスペクトルセンサのいくつかの実施例がいま説明される。
特定の実施例によれば、マルチスペクトルセンサは、線形可変フィルタ(LVF)を用いて、マルチスペクトルもしくは有利にハイパースペクトルイメージングのために適合化されてもよい。1つの方向に沿って、例えば増加するなどの変化する厚さを有する干渉フィルタで覆われた基板であってもよい。
例えば第1のセンサ素子の表面上などの、第1のセンサ素子の前にそのようなフィルタを適合化することは、結果として厚さに伴って変化する透過曲線のピークを生じさせる。この方法では、センサの異なる複数の部分が、電磁スペクトルの異なる複数のスペクトル範囲を検出してもよい。例えば2次の透過などのより高次の透過を回避するために、例えば400nmから700nmまでの範囲のセンサ感度や700nmから1000nmまでの範囲のセンサ感度などの異なる感度を有する異なる複数のセンサが使用される。線形可変フィルタは、透過波長において実質的に連続的に変化する変化を提供してもよい。一実施例において、そのようなLVFフィルタは、NIR可視スペクトルを通して変化させてもよい。本発明に係る実施形態の利点は、線形可変フィルタを使用することによりコンパクトかつ低重量のシンプルなマルチスペクトルセンサを提供することができる、ということである。代わりに、誘導透過フィルタが使用されてもよい。
もう1つの特定の実施例において、マルチスペクトルセンサは、異なるスペクトルの複数のサブ画像が得られるように、センシング素子の異なる複数の領域にわたって異なる複数のスペクトルフィルタを提供することによって得られる。異なる複数のスペクトルフィルタは、センシング素子の異なる複数の領域に対して適合化される複数のコーティングであってもよい。異なる複数のスペクトルフィルタは、センシング素子のある多数のラインが1つのスペクトル波長もしくは1つのスペクトル波長範囲をフィルタリングするフィルタにより覆われるように、そしてセンシング素子の多数の隣接するラインが第2の波長でもしくは第2のスペクトル波長範囲内でフィルタリングするフィルタにより覆われるように、そしてセンシング素子のさらに多数の隣接するラインが第3の波長でもしくは第3のスペクトル波長範囲内でフィルタリングするフィルタにより覆われるように、ステップフィルタとして配置されてもよい。
例示の目的で、本発明の例示的な実施形態に係るセンサを用いて得られたハイパースペクトルデータのセットが図3に図示される。ハイパースペクトルデータに対してリファレンスが行われる一方で、後者がまた、マルチスペクトルデータに対して適合化される。図3は、m個の後に続く時間期間内に記録された複数の後に続くハイパースペクトル画像を例示し、それによって処理対象の領域と全部の後に続く時間期間の間に移動された距離xm−x1の間のトータルのシフトに対応するセンシングもしくはイメージングシステムとの間の相対運動に対する複数のスペクトルが記録される。
図3は、m個のハイパースペクトル画像を例示し、各画像はm個のラインからなり、ここで、ラインLは、波長λの情報、もしくは例えばスペクトル帯域λ−λj−1の情報を構成する。異なる複数の画像は、m個の後に続く時間フレーム内に記録される。例示の目的で、処理対象の領域の座標x及びyでの物理的な位置のイメージングが、異なる複数のハイパースペクトル画像の至るところで示される。例えば、処理対象の領域の異なるy座標に対する座標x1での物理的な位置に関する情報においてとは、ライン1内で発見された第1のハイパースペクトル画像Hlにおいて、ライン2内で発見された第2のハイパースペクトル画像Hlにおいて、ライン3内で発見された第3のハイパースペクトル画像Hlにおいて、及びラインm内で発見された第mのハイパースペクトル画像Hlにおいてのことである、ということが理解される。これらのハイパースペクトル画像それぞれにおいて、この情報は異なる波長もしくは波長領域に対して画像化される。代わりの方法で見られるように、波長λで、もしくは対応するスペクトル帯域λ−λm−1内で画像化された処理対象の領域に関する情報は、隣接した複数の画像ラインとして後に続く複数のハイパースペクトル画像のラインmの中の情報を組み合わせることによって発見され、ここで、m個のハイパースペクトル画像にわたる集合体は、波長λでもしくは対応するスペクトル帯域λ−λm−1内で画像化された処理対象の領域のm×nの画像を形成する。同様に、m個の後に続くハイパースペクトル画像の他の複数のラインは、異なる波長でのもしくは異なる波長帯域内での処理対象の領域に関する情報を含む。後者は、複数のハイパースペクトル画像が異なる複数のスペクトル波長もしくは異なる複数のスペクトル帯域内に関する情報をどのように提供するのかを例示し、そして処理対象の領域の相対運動の間に記録された後に続く複数のハイパースペクトル画像及びセンシングシステムがどのように異なる複数の波長に対してもしくは異なる複数のスペクトル帯域内の処理対象のフルの領域の画像を提供できるのかを例示する。気付くべきことは、原理が異なる複数の波長を包含する後に続く複数のラインに対して例示される一方で、本発明の実施形態はこれに限定されないが、例えば後に続く複数のカラムに対して変化するスペクトル情報などの種々のスペクトル情報がまた、他の複数の方向で得られてもよい、ということである。
さらに、その原理は、各ラインが異なる波長もしくはスペクトル領域に対応するセンサに対して例示される一方で、本発明の実施形態はこれに限定されないが、スペクトル画像のいくつかのラインが同一のもしくはスペクトル領域に対応してもよい。画像は少なくとも2つの異なる波長もしくはスペクトル領域に関する情報を構成することがスペクトル画像の特徴である。上述説明した原理を用いて情報をキャプチャすることは、2次元センサ素子を用いて複数の2次元画像が異なる複数の波長もしくは複数のスペクトル領域で記録され、すなわち、結果として3次元情報(2つの位置次元と1つのスペクトル次元)を生じさせるという利点を有する。言い換えると、本発明に係るいくつかの実施形態において、スペクトルデータに対するセンサ素子は、複数のサブ素子をセンシングするラインもしくはブロックのセットとして使用されてもよく、各サブ素子は所定の波長に対するもしくはスペクトル領域内の位置情報を記録し、それによってセンサ素子に対する処理対象の領域の相対運動の間の時間にわたって記録することが処理対象の領域の異なる複数の位置をスキャンすることに対応する。
上述説明したように、センシングデバイス100はさらに、第2の2次元センサ素子122を駆動させるために、駆動及び読み出し回路もしくはその一部とともに第2のセンサ120を形成する第2の2次元センサ素子122を備える。第2のセンサ120は、ジオリファレンシング情報が得られる処理対象の領域の画像を得るように適合化されてもよい。第2のセンサ120は、例えばグレースケールなどで高解像度の画像を提供するように、例えば処理対象の領域に関する地理的な情報などの詳細な幾何学的情報を提供するように適合化されてもよい。第2のセンサ120を介して得られた複数の画像は、処理対象の画像化された領域内で複数の連携点を得ることを可能としてもよい。複数の画像が第2のセンサを用いてキャプチャされる周波数は、後に続く複数の画像間の器具の方位における相対的な変化に関する情報が検出されるように、例えば前の画像との60%の重なりを有するなどの、例えば少なくとも10%、より有利に少なくとも25%、さらにより有利に少なくとも50%などの画像の重なりが確立される。回転に関して得られた情報は、第1のセンサ110を用いて得られたマルチスペクトルデータに対して結合するために、本発明の実施形態に係る幾何学的リファレンシング情報として使用されてもよく、その結果、ジオリファレンスされたマルチスペクトルデータが得られる。
また、本発明の実施形態は、イメージングシステムに関する。本発明の実施形態に係るセンシングシステムを備えるイメージングシステム200の概略図が、実施例の目的で、図4に図示される。イメージングシステム200は、例えば上述説明されたセンシングデバイス100を備える。さらに、イメージングシステム200は、放射線をセンシングデバイス100の2つのセンシング素子に導くための複数の光学素子を備える。そのような複数の光学素子は、例えば、収集されるべき放射線をキャプチャし、その放射線を複数のセンサ素子上に焦点を合わせるための少なくとも1つのレンズ210を備える。いくつかの実施形態において、単一レンズ210は、両方のセンサ素子に対して放射線を収集するために使用されてもよい一方で、他の実施形態において、異なる複数のレンズが異なる複数のセンサ素子のために使用されてもよい。本発明に係るいくつかの実施形態において、収集された放射線は、例えばビームスプリッタ220などの放射線スプリッタを用いて2つのセンサ素子に対して分割されてもよい。代わりに、もしくはそれに加えて、同一基板102上にプロセス処理されたセンサ素子112、122の構成は、2つのセンサ素子を使用して得られた複数の画像を相互に関連付けるときに複数のセンサ素子間の位置情報を考慮することを可能とさせてもよい。
さらに、イメージングシステムは、第1のセンサ110及び第2のセンサ120を用いて得られた複数の画像を相互に関連付けるための画像プロセッサ230を備えてもよい。画像プロセッサは、例えば、第1のセンサ110内の異なる複数のスペクトルチャンネルにおいて得られたスペクトル情報を有する第2のセンサ120を用いて得られた、例えば位置情報などの幾何学的情報を相互に関連付けてもよく、その結果、正確なハイパースペクトル情報が得られる。そのような画像処理は、単一のプロセッサもしくは複数のプロセッサにおいて実行されてもよい。その処理は、フルセットの画像がキャプチャされた後に実行されてもよいが、いくつかの実施形態においては、実質的に直接の処理が、処理対象の同一の領域に関するすべての情報が両方のセンサ110、120においてキャプチャされるとすぐに実行されてもよい。さらに、本発明の実施形態に係るプロセッサ230により実行されてもよい画像処理のより詳細な説明が、本発明の実施形態に係るセンシングのための方法の実施例の標準の、そしてオプション的な複数のステップを例示する図6を参照して後で説明されるであろう。
さらに、イメージングデバイスは、GPSデータを提供するためのグローバルポジショニングシステム及び/もしくはイメージングシステムに関する慣性データを提供するための慣性測定ユニットを備えてもよい。そのような複数の構成要素は、おおよそのジオリファレンシングデータを提供するときに支援してもよく、そのような複数の構成要素は、第2のセンサ120を用いて得られた画像に基づいてジオリファレンスされたスペクトルデータを得るときに支援してもよい。
一態様において、従って、本発明はまた、上述説明されたセンシングデバイスを備えた上述説明されたイメージングシステムに関する。他の一態様において、本発明はまた、モニタリング、イメージングもしくは検査のためのそのようなイメージングシステムを備えた工業システムもしくは無人機(UAV)に関する。それによって、本発明に係る実施形態の利点は、センシングデバイスには同一のセンサ上に2つのセンシング素子を備えて、その結果、温度変動もしくは複数の環境条件を原因とする熱負荷が得られた結果物に対してほとんど影響を与えない、ということである。
さらに他の一態様において、本発明は、処理対象の領域に関する画像データを得るための方法に関する。それによって、本発明に係る実施形態の利点は、処理対象の領域のマルチスペクトルデータが、例えばグローバルポジショニング及び/もしくは複数の慣性測定システムを用いて得られるよりも著しく高い幾何学的精度などの、例えば地理的精度などの高い幾何学的精度を用いて得られる、ということである。その方法は、処理対象の領域のマルチスペクトルデータが、例えば航空イメージングが実行されるケースにおいて、もしくは例えば移動する複数の製品の工業検査の間などの、処理対象の領域に対して相対運動を経験するセンシングデバイスを用いて得られる複数のアプリケーションにおいて特に適している。航空イメージングのケースでは、その方法はまたさらに、もし複数の無人機が使用されるべきならば、もしくはもし複数の無人機がより長い時間使用されるべきならば、主要な要件である低重量の複数の構成要素を用いてその方法が実行されるので、無人機(UAV)における使用に特に適している。より特に、運ばれる重量がより軽くなればなるほど、必要とされる電力消費量はより小さくなって、無人機を用いて得られる飛行時間はより長くなる。
本発明に係る方法の実施形態のフローチャートを示す図5を参照すると、画像データを得るための方法300には、第1のセンサ素子を用いて処理対象の領域に関する、マルチスペクトルルデータの、有利にハイパースペクトルデータのセットを得て、第2のセンサ素子を用いて処理対象の領域の2次元画像を得る第1のステップ310を含む。それによって、そのようなデータを得ることは、例えばシステムにおいて上述説明されたように、複数のセンサを用いてデータを捕捉する(得る)ことを含んでもよい。代わりに、データを得ることにはまた、処理システム内の入力ポートを介してデータを受信することを含んでもよく、従って、そのデータは、例えば以前に記録されていてもよい。従って、データを得ることは、第1のセンサ素子及び第2のセンサ素子からデータを得ることであり、両方のセンサ素子は同一チップ上に集積化され、従って同一基板上に位置付けされる。従って、得られた情報は、同一チップ内に集積化された複数のセンサ素子構成を通して相互に関連付けされてもよい。後に続くステップ320において、幾何学的リファレンシング情報は、第1のステップ310で得られた処理対象の領域の2次元画像から得られてもよい。
有利に、得られた処理対象の領域の2次元画像は、正確な高解像度画像とすることができる。後者は、例えば、速くキャプチャされてもよい無色の画像とすることができ、その結果、それはセンシングシステムと画像化された処理対象の領域との間の相対運動にほとんど苦しまない。さらに、その方法には、得られた幾何学的リファレンシング情報を処理対象の領域に関するマルチスペクトルデータと相互に関連付けて、それ故に処理対象の領域の幾何学的リファレンスされたマルチスペクトルデータを得るステップ330が含まれる。また、相互に関連付けることには、グローバルポジショニングシステム情報及び慣性測定ユニット情報を考慮してもよい。
さらに、本発明の実施形態に係る方法の標準の、そしてオプション的な複数の特徴を例示するために、図6が画像データを得るための例示的な方法の詳細なフローチャートを例示する。それによって、その例示的な方法は、幾何学的リファレンシング情報を得るために、処理対象の領域の少なくとも1つの2次元画像をキャプチャするように、及び上述説明されたシステムを用いて複数のハイパースペクトル画像をキャプチャするように適合化される。より特に、本実施例において、異なる複数のハイパースペクトル画像は、イメージングシステムに対する処理対象の領域の相対運動の間に得られる。
1つのセンサを用いて、処理対象の領域の2次元画像を得るための画像を得ることがステップ430で実行される。そのような画像捕捉(キャプチャ)は、少なくとも1つの画像の捕捉(キャプチャ)を含むが、ステップ432において示されたように、結果としてフレーム画像のセットFl、Fl、…Flの捕捉(キャプチャ)を生じさせて、それによってn個の画像がキャプチャされてもよい。有利に、複数の画像は、1つの画像に関する、例えば地理的情報などの幾何学的情報が後にもしくは前にキャプチャされた画像に対して転送されるように、そして複数の相対的な方位変化が検出されるように、著しい重なりを持つ。その重なりは典型的に、60%のオーダで選択されてもよいが、本発明の実施形態はこれに限定されない。ステップ434に示されたように、少なくとも2つの画像の重なりから、複数の連携点が発生される。そのような複数の連携点は、複数の画像の重なりの中において生じた複数の点であって、従って、後に続く複数の画像の捕捉(キャプチャ)の間の器具の方位における変化を決定することを可能とする。
さらに、いくつかの地上制御点が利用可能であってもよく、例えばGPSを介する、もしくは以前に記録された複数の画像のリストを介するなどの2次元画像において、処理対象の領域内の複数のオブジェクトとそれらの画像との間の地理的相関関係を示す地理的情報を提供する。その方法は、校正ステップを含んでもよく、ここで、438で示された発生された複数の連携点と、440で示されたグローバルポジショニング座標と、初期の複数のカメラパラメータ436とに基づいて、442で示されたように、バンドル調整が実行される。この後の処理ステップは、444で示されたように、より正確な外部方位を得ることを可能とし、次にステップ460で示されたように、正確な外部方位を有する補正された複数のフレーム画像を得るために使用される。オプション的にまた、正確な複数のオブジェクト点及び複数のフレームカメラパラメータが使用される。標準の数値標高モデル(デジタルエレベーションモデル)(DEM)の複数の製品のみならず正確な複数のオブジェクト点及び正確な複数の校正フレームカメラパラメータが、ステップ446、448、480で示されたように得られる。
一方、もう1つのセンサを用いて、例えばハイパースペクトルカメラ画像捕捉(キャプチャ)などのスペクトルカメラ画像捕捉(キャプチャ)がステップ410で実行され、結果としてステップ412で示されたように、複数のスペクトル画像のセットを生じさせ、それによって、本実施例において、各スペクトル画像は複数のラインからなり、各ラインは特定のスペクトル帯域の情報を含む。図3を参照して設定されたように、所定の波長に対するもしくは所定の波長領域内の処理対象の領域に関するフルのスペクトル情報が、異なる複数のハイパースペクトル画像で、典型的にはその後に画像化された複数のハイパースペクトル画像にわたって、そして414により示されたスペクトル分割を用いて分布され、スペクトル平面情報がステップ416a、416bで示されたように、処理対象のフルの領域に対して得られる。ステップ460で得られた幾何学的リファレンシング情報を用いて、幾何学的リファレンスされたマルチスペクトル情報が、例えば方位情報などを含む幾何学的リファレンシング情報を、462で示されたように、校正された複数のハイパースペクトルカメラパラメータをオプション的に含むスペクトル平面データに結合することにより得られる。418a、418bで示されたように、後者は、結果として幾何学的リファレンスされたスペクトル情報を生じさせる。
得られたデータを用いて、複数の画像のオルソ調整が、マルチスペクトル及び従来の2次元画像それぞれに対するステップ420及び450で示されたように実行されてもよく、ステップ422及び452それぞれにおいて示されたように、マルチスペクトルと従来の2次元画像との両方に対する正射写真を生じさせる。オルソ調整とは、地形が、例えばセンサの複数の外部方位パラメータ、(内部方位ともまた呼ばれる)複数のフレームカメラパラメータ、及び標準の数値標高モデル(デジタルエレベーションモデル)(DEM)の複数の製品などを用いて画像の幾何学的リファレンシングを補正したことを意味する。この演算の結果が正射写真である。これらの正射写真の画像を組み合わせることが、ステップ470で示されたように、マルチスペクトルデータのパンシャープ化(鮮鋭化)を実行することを可能とし、その結果、ステップ472で示されたように、パンシャープ化されたハイパースペクトル正射写真が得られる。従来の2次元画像のオルソ調整が、ステップ454で示されたように、デジタル表面モデルを生じさせてもよい。
上述の概略的な概観は、本発明の実施形態に係るいくつかの標準の、そしてオプション的な特徴及び利点を例示する。
本発明の実施形態の実施例は主に、上述において示されたように、航空写真、航空イメージングもしくは衛星イメージングのための幾何学的リファレンシングに言及し、本発明の実施形態はこれに限定されず、例えばまた、工業検査などに使用されてもよい。一実施例において、例えば、センシングデバイスは、例えば商品間の複数の異物を検出するため、もしくは基準から外れた商品を検出するためなど、ベルトコンベヤ上の商品を検査するために使用される。そのような複数の異物もしくは基準から外れた商品は典型的に、期待されたスペクトル画像から外れたスペクトル画像を示すであろう。幾何学的リファレンシング情報は、複数のオブジェクトもしくは異物の縦方向の位置であってもよいがまた、高度もしくは相対的高度であってもよい。
複数のオブジェクトのそのような高度もしくは相対的高度は、例えば、画像化されたオブジェクトに対する幾何学的リファレンシングセンサの視野角に基づいた幾何学的リファレンシング情報から決定されてもよい。画像化されるべき処理対象の全体領域に対する既知のセンサ位置及び視野角に基づいて、画像データから高度情報を得ることは、当業者により知られている。
一態様において、本発明はまた、処理システムに関し、ここで、センシングもしくはイメージングのための方法または前の態様の実施形態において説明されたような方法の一部が、様式に基づいたソフトウェアで実行される。図7は、例えばRAM、ROMなどのメモリの少なくとも1つの形態を含む、メモリサブシステム505と結合された少なくとも1つのプログラム可能なプロセッサ503を含む、処理システム500の1つの構成を図示する。留意すべきことは、プロセッサ503もしくは複数のプロセッサは、一般的な目的のプロセッサ、もしくは特別な目的のプロセッサであってもよく、例えば他の複数の機能を実行する他の複数の構成要素を有するチップなどのデバイス内に包含する目的としてであってもよい、ということである。従って、本発明の実施形態の1つもしくはそれ以上の態様は、デジタル電子回路において、もしくはコンピュータハードウェア、ファームウェア、ソフトウェアにおいて、もしくはそれらの組み合わせにおいて実行される。
処理システムは、少なくとも1つのディスクドライブ、及び/もしくはCD−ROMドライブ、及び/もしくはDVDドライブを有する記録(貯蔵)サブシステム507を含んでもよい。いくつかの実施において、表示システム、キーボード、及び指向(ポインティング)デバイスは、手動で情報を入力するために、ユーザインターフェースサブシステム509の一部として含まれてユーザに提供されてもよい。データを入出力するための複数のポートがまた含まれてもよい。例えばネットワーク接続、種々のデバイスに対するインターフェースなどの追加の素子が含まれてもよいが、図7には例示されていない。処理システム500の種々の素子が、簡単にするために単一のバスとして図7に図示されたバスサブシステム513を介することを含む、種々の方法で結合されてもよいが、少なくとも1つのバスのシステムを含むことが当業者には理解されるであろう。メモリサブシステム505のメモリは、処理システム500上で実行される場合、ここで説明された方法の実施形態のステップを実行する(いずれのケースにしても511と図示された)命令のセットの一部もしくは全部をいつか保持してもよい。従って、図7において図示された処理システム500が従来技術である一方で、センシングもしくはイメージングのための方法の態様を実行するための複数の命令を含むシステムは従来技術でなく、それ故に図7は従来技術としてラベル化(表示)されない。
本発明はまた、コンピューティングデバイス上で実行される場合、本発明に係る複数の方法のいずれかの機能を提供するコンピュータプログラム製品を含む。そのようなコンピュータプログラム製品は、プログラム可能なプロセッサによる実行のための機械読み出し可能なコードを運ぶキャリア媒体において明白に具体化される。従って、本発明は、コンピューティング手段上で実行される場合、上述説明された複数の方法のうちのいずれかを実行するための複数の命令を提供するコンピュータプログラム製品を運ぶキャリア媒体に関する。用語「キャリア媒体」は、実行のためのプロセッサに対する複数の命令を提供するときに加わる任意の媒体に言及する。そのような媒体は、これに限定されないが、不揮発性媒体、及び伝送媒体を含む多くの形態をとってもよい。例えば、不揮発性媒体は、例えば大容量記録デバイスの一部である記録デバイスなどの光もしくは磁気ディスクを含む。コンピュータ読み出し可能な媒体の一般的な形態は、CD−ROM、DVD、フレキシブルディスクもしくはフロッピディスク、テープ、メモリチップもしくはカートリッジ、またはコンピュータが読み出すことができる任意の他の媒体を含む。コンピュータ読み出し可能な媒体の種々の形態は、実行のためのプロセッサに対する1つもしくはそれ以上の命令の1つもしくはそれ以上のシーケンスを運ぶことの中に含まれてもよい。また、コンピュータプログラム製品は、例えばLAN、WAN、もしくはインターネットなどのネットワークでキャリア波を介して伝送される。伝送媒体は、例えば無線波通信及び赤外線通信の間に発生された波などの音波もしくは光波の形態をとることができる。伝送媒体は、コンピュータ内にバスを備えた複数の配線を含む、複数の同軸ケーブル、銅線及び光ファイバを含む。
本発明が、複数の図面及び上述説明において詳細に例示されて説明される一方で、そのような例示及び説明は例示的であると考えるべきで制限的であると考えるべきでない。本発明は開示された実施形態に限定されない。特許請求の範囲に記載された発明を実施するとき、開示された実施形態に対する他の変形物が当業者により理解されて達成される。上述した説明は、本発明のある実施形態を詳細に説明する。しかしながら、上述した説明が文章中でいかに詳細に説明されたように見えたとしても、本発明は多くの方法で実施されてもよい、ということが認識されるであろう。留意すべきことは、本発明のある特徴もしくは態様を説明する場合、特定の専門用語の使用が、その専門用語がここで再定義されて制限されて、その専門用語が関連する本発明の特徴もしくは態様の任意の特定の特性を含むことを意味するととるべきでない、ということである。
単一のプロセッサもしくは他のユニットは、特許請求の範囲において復唱されたいくつかの項目の機能を実行してもよい。ある複数の測定が、相互に異なる従属項において復唱されるという単なる事実は、これらの測定の組み合わせが利益を得るために使用されないということを示さない。コンピュータプログラムは、例えば他のハードウェアとともにもしくは他のハードウェアの一部として供給される、例えば光記録媒体もしくは固体媒体などの適切な媒体上に格納/分配されてもよいがまた、例えばインターネットまたは他の有線のもしくは無線の電気通信システムを介してなどの他の複数の形態で分配されてもよい。特許請求の範囲における任意の参照記号は、範囲を限定するとして解釈されるべきでない。

Claims (10)

  1. センシングデバイス(100)に対する相対運動における処理対象の領域の幾何学的リファレンスされたマルチスペクトル画像データを得るための上記センシングデバイス(100)であって、
    上記センシングデバイス(100)は、
    少なくとも第1の2次元センサ素子(112)とスペクトルフィルタ(114)とを備え、
    上記センシングデバイス(100)は、上記センシングデバイス(100)に対する上記処理対象の領域の上記相対運動の間に後に続く複数のマルチスペクトル画像を得るように適合化され、従って上記第1のセンサ素子(112)を用いて上記処理対象の領域の異なる複数の部分に対して区別できるスペクトル情報を提供し、それによって上記スペクトルフィルタ(114)及び第1のセンサ素子(112)は、上記第1のセンサ素子(112)の一部を用いて第1の波長もしくは波長範囲でスペクトル情報を得るように、そして上記第1のセンサ素子(112)のもう1つの部分を用いて第2の波長もしくは波長範囲でスペクトル情報を得るように設けられ、
    上記センシングデバイス(100)は、第2の2次元センサ素子(122)を備え、
    上記センシングデバイス(100)は、上記第2のセンサ素子(122)を用いて、上記区別できるスペクトル情報に対して結合されるべき幾何学的リファレンシング情報を発生するために、上記処理対象の画像を提供するように適合化され、上記第1のセンサ素子(112)及び上記第2のセンサ素子(122)は同一基板上に集積化され、
    上記基板は、半導体チップであることを特徴とするセンシングデバイス(100)。
  2. 上記スペクトルフィルタ(114)は、上記第1のセンサ素子(112)の少なくとも2つの異なるライン、もしくはカラム、もしくはブロックに関する区別できるスペクトル情報を得るために、上記第1のセンサ素子(112)上に備えられたことを特徴とする請求項1記載のセンシングデバイス(100)。
  3. 上記スペクトルフィルタ(114)は、上記第1のセンサ素子(112)上の異なる複数の位置でスペクトル的に依存したフィルタリングを可能とする複数のスペクトル帯域を備えたステップフィルタであることを特徴とする請求項2記載のセンシングデバイス(100)。
  4. 上記スペクトルフィルタ(114)は、上記第1のセンサ素子(112)上の異なる複数の位置でスペクトル的に依存したフィルタリングを可能とする線形可変フィルタであることを特徴とする請求項2記載のセンシングデバイス(100)。
  5. 上記第1のセンサ素子(112)の複数の画素は、上記第2のセンサ素子(122)の複数の画素を用いて位置合わせされたことを特徴とする請求項1から請求項のうちのいずれか1つに記載のセンシングデバイス(100)。
  6. 上記センシングデバイス(100)は、マルチスペクトル画像情報を得るためのイメージングシステム(200)内に集積化されたことを特徴とする請求項1から請求項のうちのいずれか1つに記載のセンシングデバイス(100)。
  7. 上記イメージングシステム(200)は、上記幾何学的リファレンシング情報を上記マルチスペクトル情報に対して結合するためのプロセッサ(230)を備えたことを特徴とする請求項記載のセンシングデバイス(100)。
  8. 上記イメージングシステム(200)はさらに、上記処理対象の領域の放射線を上記各センサ素子(112、122)上に焦点を合わせるための単一の光学素子(210)を備えたことを特徴とする請求項または記載のセンシングデバイス(100)。
  9. 上記第1のセンサは、上記第1のセンサの1つの部分を用いて上記処理対象の領域の1つの部分の画像情報と上記第2のセンサのもう1つの部分を用いて上記処理対象の領域のもう1つの部分の画像情報とを実質的に同時にキャプチャするように構成され、
    上記第2のセンサは、上記処理対象の領域の1つの部分と上記処理対象の領域のもう1つの部分との両方の画像情報を実質的に同時にキャプチャするように構成されたことを特徴とする請求項1から請求項のうちのいずれか1つに記載のセンシングデバイス(100)。
  10. センシングデバイスに対する相対運動における処理対象の領域に関する画像データを得るための方法(300)であって、
    上記方法(300)は、
    上記センシングデバイスに対する上記処理対象の領域の上記相対運動の間に後に続く複数のマルチスペクトル画像を得ることによって、第1の2次元センサ素子を用いて上記処理対象の領域に関する区別できるスペクトルデータのセットを得るステップ(310)とを含み、
    上記区別できるスペクトルデータのセットを得るステップ(310)は、上記第1のセンサ素子の一部を用いて第1の波長もしくは波長範囲でスペクトル情報を得るステップと、上記第1のセンサ素子のもう1つの部分を用いて第2の波長もしくは波長範囲でスペクトル情報を得るステップとを含み、
    上記方法(300)は、
    上記第1のセンサ素子と同一の基板上に集積化された第2のセンサ素子を用いて上記処理対象の領域の2次元画像を得るステップと、
    上記処理対象の領域の2次元画像に対する幾何学的リファレンシング情報を得るステップ(320)と、
    上記幾何学的リファレンシング情報を上記処理対象の領域に関する上記区別できるスペクトルデータに関連付けて上記処理対象の領域に関する幾何学的リファレンスされたマルチスペクトルデータを得るステップ(330)とを含み、
    上記基板は、半導体チップであることを特徴とする方法。
JP2014251092A 2009-12-18 2014-12-11 マルチスペクトルデータの幾何学的リファレンシング Expired - Fee Related JP6010098B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP09180052.4 2009-12-18
EP09180052 2009-12-18

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2012543803A Division JP5715643B2 (ja) 2009-12-18 2010-12-17 マルチスペクトルデータの幾何学的リファレンシング

Publications (2)

Publication Number Publication Date
JP2015072713A JP2015072713A (ja) 2015-04-16
JP6010098B2 true JP6010098B2 (ja) 2016-10-19

Family

ID=42133601

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2012543803A Expired - Fee Related JP5715643B2 (ja) 2009-12-18 2010-12-17 マルチスペクトルデータの幾何学的リファレンシング
JP2014251092A Expired - Fee Related JP6010098B2 (ja) 2009-12-18 2014-12-11 マルチスペクトルデータの幾何学的リファレンシング

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2012543803A Expired - Fee Related JP5715643B2 (ja) 2009-12-18 2010-12-17 マルチスペクトルデータの幾何学的リファレンシング

Country Status (9)

Country Link
US (1) US9726487B2 (ja)
EP (1) EP2513599B1 (ja)
JP (2) JP5715643B2 (ja)
CA (1) CA2784258C (ja)
ES (1) ES2541482T3 (ja)
PL (1) PL2513599T3 (ja)
PT (1) PT2513599E (ja)
SI (1) SI2513599T1 (ja)
WO (1) WO2011073430A1 (ja)

Families Citing this family (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5715643B2 (ja) 2009-12-18 2015-05-13 フラームセ・インステリング・フォール・テヒノロヒス・オンデルズーク・ナムローゼ・フェンノートシャップVlaamse Instelling Voor Technologisch Onderzoek N.V. マルチスペクトルデータの幾何学的リファレンシング
WO2012148919A2 (en) 2011-04-25 2012-11-01 Skybox Imaging, Inc. Systems and methods for overhead imaging and video
DE102012211791B4 (de) * 2012-07-06 2017-10-12 Robert Bosch Gmbh Verfahren und Anordnung zum Prüfen eines Fahrzeugunterbodens eines Kraftfahrzeuges
WO2014078858A1 (en) 2012-11-19 2014-05-22 Altria Client Services Inc. Hyperspectral imaging system for monitoring agricultural products during processing and manufacturing
AU2014230750B2 (en) 2013-03-15 2017-12-14 Forsvarets Forskningsinstitutt Imaging unit
CA2932744A1 (en) 2014-01-08 2015-07-16 Precisionhawk Inc. Method and system for generating augmented reality agricultural presentations
US20150254738A1 (en) * 2014-03-05 2015-09-10 TerrAvion, LLC Systems and methods for aerial imaging and analysis
WO2015192056A1 (en) 2014-06-13 2015-12-17 Urthecast Corp. Systems and methods for processing and providing terrestrial and/or space-based earth observation video
GB201412061D0 (en) * 2014-07-07 2014-08-20 Vito Nv Method and system for geometric referencing of multi-spectral data
GB201412060D0 (en) * 2014-07-07 2014-08-20 Vito Nv Method and system for photogrammetric processing of images
GB201501731D0 (en) 2015-02-03 2015-03-18 Vito Nv Method and system for estimating an input spectrum from sensor data
US10871561B2 (en) 2015-03-25 2020-12-22 Urthecast Corp. Apparatus and methods for synthetic aperture radar with digital beamforming
GB201506329D0 (en) 2015-04-14 2015-05-27 Vito Nv System and method for processing images of a ground surface
CN104819941B (zh) * 2015-05-07 2017-10-13 武汉呵尔医疗科技发展有限公司 一种多波段光谱成像方法
CA2990063A1 (en) 2015-06-16 2017-03-16 King Abdulaziz City Of Science And Technology Efficient planar phased array antenna assembly
EP3115925A1 (en) 2015-07-07 2017-01-11 Vito NV Method and system for transforming spectral images
TWI794145B (zh) 2015-10-28 2023-03-01 美商加州太平洋生物科學公司 包含整合性帶通濾波器之光學裝置陣列
WO2017091747A1 (en) 2015-11-25 2017-06-01 Urthecast Corp. Synthetic aperture radar imaging apparatus and methods
EP3384255A1 (en) 2015-12-01 2018-10-10 Glana Sensors AB Method of hyperspectral measurement
JP2019503484A (ja) 2016-01-13 2019-02-07 ヴィート エヌブイ マルチスペクトルデータの幾何学的リファレンシング方法およびシステム
US11128819B2 (en) 2016-05-11 2021-09-21 Advanced Vision Technologies (A.V.T.) Ltd. Combined spectral measurement and imaging sensor
EP3563127A4 (en) * 2016-12-27 2020-11-18 Urugus S.A. DYNAMIC HYPERSPECTRAL IMAGING OF OBJECTS IN APPARENT MOVEMENT
JP7098857B2 (ja) * 2017-03-10 2022-07-12 国際航業株式会社 物理量分布図の作成方法、及び物理量分布図作成装置
WO2018217814A1 (en) 2017-05-23 2018-11-29 Urthecast Corp. Synthetic aperture radar imaging apparatus and methods
WO2018217902A1 (en) 2017-05-23 2018-11-29 King Abdullah City Of Science And Technology Synthetic aperture radar imaging apparatus and methods for moving targets
IL254078A0 (en) 2017-08-21 2017-09-28 Advanced Vision Tech A V T Ltd Method and system for creating images for testing
EP3698167A4 (en) 2017-11-22 2021-11-17 Urthecast Corp. SYNTHETIC OPENING RADAR FORMING APPARATUS AND ASSOCIATED PROCESSES
BR112020017230B1 (pt) * 2018-03-02 2023-05-09 Jfe Steel Corporation Método de controle de forno
US10666878B1 (en) 2019-04-09 2020-05-26 Eagle Technology, Llc Imaging apparatus having micro-electro-mechanical system (MEMs) optical device for spectral and temporal imaging and associated methods
KR20210070801A (ko) * 2019-12-05 2021-06-15 삼성전자주식회사 초분광 카메라 모듈을 포함하는 듀얼 카메라 모듈과 이를 포함하는 장치와 그 동작방법
WO2023149963A1 (en) 2022-02-01 2023-08-10 Landscan Llc Systems and methods for multispectral landscape mapping

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6342429A (ja) 1986-08-08 1988-02-23 Minolta Camera Co Ltd 分光測定センサ
US4822998A (en) 1986-05-15 1989-04-18 Minolta Camera Kabushiki Kaisha Spectral sensor with interference filter
DE3802219A1 (de) 1988-01-26 1989-08-03 Deutsche Forsch Luft Raumfahrt Verfahren und einrichtung zur fernerkundung der erde
EP0820030B1 (en) 1995-03-31 2003-07-02 SHIBATA, Tadashi Semiconductor operational circuit
US5777329A (en) * 1995-07-21 1998-07-07 Texas Instruments Incorporated Bolometer array spectrometer
US6341016B1 (en) * 1999-08-06 2002-01-22 Michael Malione Method and apparatus for measuring three-dimensional shape of object
US6549548B2 (en) * 2000-10-25 2003-04-15 Axsun Technologies, Inc. Interferometric filter wavelength meter and controller
US6657194B2 (en) * 2001-04-13 2003-12-02 Epir Technologies, Inc. Multispectral monolithic infrared focal plane array detectors
JP2003219252A (ja) * 2002-01-17 2003-07-31 Starlabo Corp 移動体搭載用撮影装置を用いた撮影システム及び撮影方法
US6831688B2 (en) 2002-04-08 2004-12-14 Recon/Optical, Inc. Multispectral or hyperspectral imaging system and method for tactical reconnaissance
US7095026B2 (en) * 2002-11-08 2006-08-22 L-3 Communications Cincinnati Electronics Corporation Methods and apparatuses for selectively limiting undesired radiation
US7351977B2 (en) * 2002-11-08 2008-04-01 L-3 Communications Cincinnati Electronics Corporation Methods and systems for distinguishing multiple wavelengths of radiation and increasing detected signals in a detection system using micro-optic structures
US7135698B2 (en) * 2002-12-05 2006-11-14 Lockheed Martin Corporation Multi-spectral infrared super-pixel photodetector and imager
FR2855608B1 (fr) * 2003-05-28 2005-07-08 Onera (Off Nat Aerospatiale) Spectrometre statique par transformee de fourier
US7217951B2 (en) * 2003-09-23 2007-05-15 Stc@Unm Detector with tunable spectral response
US7511749B2 (en) * 2003-12-18 2009-03-31 Aptina Imaging Corporation Color image sensor having imaging element array forming images on respective regions of sensor elements
US7202955B2 (en) * 2004-06-30 2007-04-10 Digital Optics Corporation Spectrally diverse spectrometer and associated methods
CN101427372B (zh) * 2004-08-25 2012-12-12 普罗塔里斯菲洛有限责任公司 用于多个相机装置的设备和操作该设备的方法
WO2006021165A1 (de) * 2004-08-25 2006-03-02 Tbs Holding Ag Verfahren und anordnung zur optischen aufnahme biometrischer daten
US8548570B2 (en) * 2004-11-29 2013-10-01 Hypermed Imaging, Inc. Hyperspectral imaging of angiogenesis
US8224425B2 (en) * 2005-04-04 2012-07-17 Hypermed Imaging, Inc. Hyperspectral imaging in diabetes and peripheral vascular disease
CA2604829C (en) * 2005-04-04 2018-05-15 Hypermed, Inc. Hyperspectral imaging in diabetes and peripheral vascular disease
US7566855B2 (en) * 2005-08-25 2009-07-28 Richard Ian Olsen Digital camera with integrated infrared (IR) response
EP2057446A2 (de) * 2006-08-09 2009-05-13 Opsolution Nanophotonics GmbH Optisches filter und verfahren zur herstellung desselben, sowie vorrichtung zur untersuchung elektromagnetischer strahlung
US8821799B2 (en) * 2007-01-26 2014-09-02 Palo Alto Research Center Incorporated Method and system implementing spatially modulated excitation or emission for particle characterization with enhanced sensitivity
US9164037B2 (en) * 2007-01-26 2015-10-20 Palo Alto Research Center Incorporated Method and system for evaluation of signals received from spatially modulated excitation and emission to accurately determine particle positions and distances
JP2008191097A (ja) 2007-02-07 2008-08-21 Tohoku Univ 分光計測装置
US7923801B2 (en) * 2007-04-18 2011-04-12 Invisage Technologies, Inc. Materials, systems and methods for optoelectronic devices
US8525287B2 (en) * 2007-04-18 2013-09-03 Invisage Technologies, Inc. Materials, systems and methods for optoelectronic devices
EP3876510A1 (en) * 2008-05-20 2021-09-08 FotoNation Limited Capturing and processing of images using monolithic camera array with heterogeneous imagers
EP2522968B1 (en) * 2009-11-30 2021-04-21 IMEC vzw Integrated circuit for spectral imaging system
JP5715643B2 (ja) 2009-12-18 2015-05-13 フラームセ・インステリング・フォール・テヒノロヒス・オンデルズーク・ナムローゼ・フェンノートシャップVlaamse Instelling Voor Technologisch Onderzoek N.V. マルチスペクトルデータの幾何学的リファレンシング

Also Published As

Publication number Publication date
SI2513599T1 (sl) 2015-08-31
US20120257047A1 (en) 2012-10-11
JP2015072713A (ja) 2015-04-16
ES2541482T3 (es) 2015-07-21
JP5715643B2 (ja) 2015-05-13
US9726487B2 (en) 2017-08-08
WO2011073430A1 (en) 2011-06-23
JP2013514572A (ja) 2013-04-25
CA2784258A1 (en) 2011-06-23
PT2513599E (pt) 2015-08-21
PL2513599T3 (pl) 2015-10-30
CA2784258C (en) 2016-06-28
EP2513599B1 (en) 2015-04-22
EP2513599A1 (en) 2012-10-24

Similar Documents

Publication Publication Date Title
JP6010098B2 (ja) マルチスペクトルデータの幾何学的リファレンシング
EP3167242B1 (en) Method and system for geometric referencing of multi-spectral data
Arroyo-Mora et al. Implementation of a UAV–hyperspectral pushbroom imager for ecological monitoring
Aasen et al. Multi-temporal high-resolution imaging spectroscopy with hyperspectral 2D imagers–From theory to application
Yang et al. The DOM generation and precise radiometric calibration of a UAV-mounted miniature snapshot hyperspectral imager
Bryson et al. Kite aerial photography for low-cost, ultra-high spatial resolution multi-spectral mapping of intertidal landscapes
Kalacska et al. Accuracy of 3d landscape reconstruction without ground control points using different uas platforms
Cucho-Padin et al. Development of low-cost remote sensing tools and methods for supporting smallholder agriculture
Kelcey et al. Sensor correction and radiometric calibration of a 6-band multispectral imaging sensor for UAV remote sensing
EP3193136B1 (en) Method and system for geometric referencing of multi-spectral data
EP3167432B1 (en) Method and system for photogrammetric processing of images
EP2972151B1 (en) Imaging unit
Jhan et al. Robust and adaptive band-to-band image transform of UAS miniature multi-lens multispectral camera
Zefri et al. In-depth investigation of applied digital photogrammetry to imagery-based RGB and thermal infrared aerial inspection of large-scale photovoltaic installations
Bostater Jr et al. Image analysis for water surface and subsurface feature detection in shallow waters
Blaaberg et al. HySpex ODIN-1024: a new high-resolution airborne HSI system
Haavardsholm et al. Multimodal Multispectral Imaging System for Small UAVs
Torkildsen et al. Compact multispectral multi-camera imaging system for small UAVs
Goldstein et al. Compact, High Performance, Drone-Mounted Spectral Imaging System for Ecosystem Carbon-Cycle Characterization and Agricultural Monitoring
Inamdar Towards the Improvement of Hyperspectral Imaging Data: Limitations of the Raster Model and the Development of a Novel Point Cloud Data Format
Mizuochi et al. Thermal remote sensing over heterogeneous urban and suburban landscapes using sensor-driven super-resolution
JP2015137873A (ja) スペクトルセンサ
Simi et al. Night vision imaging spectrometer (NVIS) processing and viewing tools

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150909

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150929

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A132

Effective date: 20160426

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160704

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160830

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160915

R150 Certificate of patent or registration of utility model

Ref document number: 6010098

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees