JP7415347B2 - 情報処理装置、情報処理方法、プログラム、センシングシステム - Google Patents

情報処理装置、情報処理方法、プログラム、センシングシステム Download PDF

Info

Publication number
JP7415347B2
JP7415347B2 JP2019124763A JP2019124763A JP7415347B2 JP 7415347 B2 JP7415347 B2 JP 7415347B2 JP 2019124763 A JP2019124763 A JP 2019124763A JP 2019124763 A JP2019124763 A JP 2019124763A JP 7415347 B2 JP7415347 B2 JP 7415347B2
Authority
JP
Japan
Prior art keywords
measurement
unit
analysis
macro
micro
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019124763A
Other languages
English (en)
Other versions
JP2021012432A (ja
Inventor
哲 小川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Priority to JP2019124763A priority Critical patent/JP7415347B2/ja
Priority to PCT/JP2020/025082 priority patent/WO2021002279A1/en
Priority to CN202080046947.XA priority patent/CN114072843A/zh
Priority to US17/597,073 priority patent/US20220254014A1/en
Priority to EP20739476.8A priority patent/EP3994609A1/en
Publication of JP2021012432A publication Critical patent/JP2021012432A/ja
Application granted granted Critical
Publication of JP7415347B2 publication Critical patent/JP7415347B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/188Vegetation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • G06T2207/10036Multispectral image; Hyperspectral image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation
    • G06T2207/30188Vegetation; Agriculture

Description

本技術は情報処理装置、情報処理方法、プログラム、センシングシステムに関し、特に植生状態等の計測結果の生成に好適な技術に関する。
例えばドローン(Drone)等の小型の飛行体に撮像装置を搭載し、圃場の上空を移動しながら植物の植生状態を撮像していくことで、植生状態をリモートセンシングする取り組みがある。
特許文献1には、圃場を撮像し、リモートセンシングを行う技術に関して開示されている。
特許第5162890号公報
このようなリモートセンシングでは、可視光(R(赤)、G(緑)、B(青))の計測による形状の計測に加え、色々な光学波長や手法を用いることで対象の物性、生理状態などを計測することができる。しかし小型飛行体に搭載可能なセンシングデバイスは大きさや重量などの制限を受けることが多い。
例えば多数の波長を取得し、成分分析などが行えるハイパースペクトラムカメラ(Hyper Spectrum Camera)は、一般的に、2次元の画像を取得するためのスキャニング機構が必要で、サイズが大きいため、小型のドローン等には搭載が困難である。また、そのスキャンには一定の時間を要するため、ホバリングする必要があり、測定時間が長くなる。そのためドローンのバッテリー容量の制限などにより、圃場等の広い土地を十分にセンシングすることが困難である。またスキャン中のドローンの振動はセンシング精度を低下させる。
これはハイパースペクトラムカメラの場合であるが、他にもサイズ的、重量的、或いは動作の性質などにより小型の飛行体への搭載に向かないセンシングデバイスはあり、このような小型飛行体に搭載可能なセンシングデバイスの制限により、より高度な分析を行う運用が難しい場合がある。
そこで本開示では、例えば小型の飛行体を用いるリモートセンシングにおいて例えば高度な分析などにも運用できるシステム及びそのための情報処理装置を提供することを目的とする。
本技術に係る情報処理装置は、計測対象の第1の計測範囲について第1の空間分解能でセンシングを行うマクロ計測部からの検出データについて演算を行うマクロ計測分析演算部と、前記計測対象の前記第1の計測範囲に含まれる第2の計測範囲に対して前記第1の空間分解能より高い分解能である第2の空間分解能でセンシングを行うミクロ計測部からの検出データについて演算を行うミクロ計測分析演算部と、前記マクロ計測分析演算部による演算結果と前記ミクロ計測分析演算部による演算結果とを用いた補完分析演算を行い、補完分析情報を生成する補完分析演算部と、を備える。
例えば空間分解能の高いセンシングのみではなく、空間分解能は低いが高機能なセンシングが可能なマクロ計測を合わせて行い、両者の検出情報に基づいた分析結果を生成する。
上記した本技術に係る情報処理装置においては、前記補完分析演算は、前記マクロ計測分析演算部による演算結果を、前記ミクロ計測分析演算部による演算結果を使って補完する演算処理であることが考えられる。
例えばマクロ分析の演算結果の分解能をミクロ計測分析演算部による演算結果を使って上げることなどにより、検出精度を向上させる。
また上記した本技術に係る情報処理装置においては、前記ミクロ計測分析演算部による演算結果の分解能は、前記マクロ計測分析演算部による演算結果の分解能より高いことが考えられる。
ミクロ計測分析演算部による演算結果の分解能が高いことで、マクロ計測分析演算部による演算結果では表れない情報を補完することができる。
また上記した本技術に係る情報処理装置においては、前記補完分析演算部は、前記第2の計測範囲について前記ミクロ計測分析演算部が分析結果として弁別した特定の対象についての物性値を、前記マクロ計測分析演算部の分析結果である前記第1の空間分解能の単位での物性値として求めた補完分析情報を生成することが考えられる。
例えば空間分解能の高いセンシングで計測対象の弁別を行う。高機能なセンシングが可能なマクロ計測によって、弁別された計測対象の物性値を求める。
上記した本技術に係る情報処理装置においては、前記物性値は植物の光合成に関する情報であることが考えられる。
光合成に関する情報としては、例えばSIF(solar-induced chlorophyll fluorescence)や、SIFから計算される各種情報がある。
上記した本技術に係る情報処理装置においては、前記ミクロ計測分析演算部は、RGB画像又は植生指数に関する情報に基づいて測定対象の弁別を行うことが考えられる。
例えばRGB画像やNDVI(Normalized Difference Vegetation Index)画像を用い、所定の閾値と比較するなどの手法で弁別を行う。
上記した本技術に係る情報処理装置においては、前記マクロ計測部は、前記ミクロ計測部よりも前記計測対象からの距離が遠い位置でセンシングを行うことが考えられる。
マクロ計測部はミクロ計測部よりも計測対象から遠い位置から、広い計測範囲の計測を行う。一方、ミクロ計測部はマクロ計測部よりも計測対象から近い位置から、比較的狭い計測範囲の計測を行う。
上記した本技術に係る情報処理装置においては、前記マクロ計測部は、人工衛星に搭載されていることが考えられる。
人工衛星にマクロ計測部を搭載し、上空の離れた位置から圃場などの計測対象の計測を行う。
上記した本技術に係る情報処理装置においては、前記ミクロ計測部は、無線操縦又は自動操縦が可能な飛行体に搭載されていることが考えられる。
無線操縦や自動操縦が可能な飛行体としてはいわゆるドローン、小型無線操縦固定翼飛行機、小型無線操縦ヘリコプタなどがある。
上記した本技術に係る情報処理装置においては、前記ミクロ計測部は、ミクロ計測センサとして、可視光イメージセンサ、ステレオカメラ、レーザ画像検出及び測距のセンサ、偏光センサ、ToF(Time of Flight)センサのいずれかを有することが考えられる。
なおレーザ画像検出及び測距のセンサはいわゆるLidar(light detection and ranging)として知られている。
上記した本技術に係る情報処理装置においては、前記マクロ計測部は、マクロ計測センサとして、マルチスペクトラムカメラ(Multi Spectrum Camera)、ハイパースペクトラムカメラ、フーリエ変換赤外分光光度計(FTIR:Fourier Transform Infrared Spectroscopy)、赤外線センサのいずれかを有することが考えられる。
上記した本技術に係る情報処理装置においては、外部装置から入力される前記補完分析演算部の補完分析演算プログラムを保持する保持部を有することが考えられる。
即ち補完分析演算部の演算アルゴリズムを規定するプログラムを外部装置から取得できるようにする。
上記した本技術に係る情報処理装置においては、前記補完分析情報に基づく出力画像データを生成して出力する出力部を有することが考えられる。
即ち補完分析演算部による補完分析結果の情報を画像化してユーザに提示できるようにする。
上記した本技術に係る情報処理装置においては、前記出力部は、補完分析結果をカラーマッピングした出力画像データを生成することが考えられる。
補完分析結果が複数の領域毎に得られている場合に、各領域に色当てした画像としてユーザに提示する画像を生成する。
上記した本技術に係る情報処理装置においては、前記出力部は、補完分析結果をカラーマッピングした画像と、他の画像を合成した出力画像データを生成することが考えられる。
各領域に色当てした画像と他の画像を、例えばオーバーレイや上書きなどの形で合成する。
上記した本技術に係る情報処理装置においては、前記他の画像は、前記ミクロ計測分析演算部の演算結果に基づく画像であることが考えられる。
他の画像として、ミクロ計測に基づく画像を用い、これを領域毎のマクロ計測に基づくカラーマッピング画像と合成する。
上記した本技術に係る情報処理装置においては、前記出力画像データは、前記第2の計測範囲の全部又は一部を表す画像について前記第1の空間分解能の単位で補完分析結果を示した画像データであることが考えられる。
第2の計測範囲は第1の計測範囲に含まれるため、マクロ計測とミクロ計測が行われている範囲となる。この第2の計測範囲の全部又は一部を表す画像において、第1の空間分解能の単位毎に分析結果が視認できるようにする。
本技術に係る情報処理方法は、計測対象の第1の計測範囲について第1の空間分解能でセンシングを行うマクロ計測部からの検出データについて演算を行うマクロ計測分析演算処理と、前記計測対象の前記第1の計測範囲に含まれる第2の計測範囲に対して前記第1の空間分解能より高い分解能である第2の空間分解能でセンシングを行うミクロ計測部からの検出データについて演算を行うミクロ計測分析演算処理と、前記マクロ計測分析演算処理による演算結果と前記ミクロ計測分析演算処理による演算結果とを用いた補完分析演算を行い、補完分析情報を生成する補完分析演算処理と、を情報処理装置が実行する。これにより情報処理装置において計測対象について、マクロ計測とミクロ計測を合わせた高度な分析結果情報の生成ができる。
本技術に係るプログラムは、上記方法の処理を情報処理装置に実行させるプログラムである。これにより高度な分析結果を生成するコンピュータ装置の実現が容易となる。
本技術に係るセンシングシステム、計測対象の第1の計測範囲について第1の空間分解能でセンシングを行うマクロ計測部と、前記計測対象の前記第1の計測範囲に含まれる第2の計測範囲に対して前記第1の空間分解能より高い分解能である第2の空間分解能でセンシングを行うミクロ計測部と、上述の情報処理装置を備える。
これによりマクロ計測とミクロ計測を行い、更にそれらの計測結果を用いた分析結果を生成するシステムを構築できる。
本技術の実施の形態のセンシングシステムにおけるマクロ計測部とミクロ計測部の説明図である。 実施の形態の圃場に対するリモートセンシングの例の説明図である。 実施の形態のマクロ計測部とミクロ計測部の計測の説明図である。 実施の形態のマクロ計測部とミクロ計測部の計測範囲と分解能の説明図である。 実施の形態の情報処理装置のハードウエア構成のブロック図である。 実施の形態の情報処理装置の機能構成のブロック図である。 実施の形態の分析処理例の概要の説明図である。 実施の形態の処理例のフローチャートである。 実施の形態のミクロ計測分析演算処理のフローチャートである。 実施の形態のミクロ計測分析演算で用いる画像の説明図である。 実施の形態のミクロ計測分析演算過程の画像の説明図である。 実施の形態の補完分析演算処理のフローチャートである。 実施の形態の補完演算の例の説明図である。 実施の形態の分析結果の例の説明図である。 実施の形態のカラーマッピングを用いた出力画像の説明図である。 実施の形態のカラーマッピング画像と他の画像の合成の説明図である。 実施の形態のカラーマッピング画像と他の画像の合成の説明図である。
以下、実施の形態を次の順序で説明する。
<1.センシングシステムの構成>
<2.情報処理装置の構成>
<3.処理例>
<4.各種例>
<5.まとめ及び変形例>
<1.センシングシステムの構成>
まず実施の形態のセンシングシステムについて説明する。
図1はセンシングシステムを構成するマクロ計測部2とミクロ計測部3を示している。
ミクロ計測部3は、測定対象4に対して比較的近い位置でセンシングを行う。一単位のセンシングを行う計測範囲は、ミクロ計測範囲RZ3として示す比較的狭い範囲とされる。なお、一単位とはセンサ種別にもよるが、例えばカメラであれば1フレームの画像撮像を行う範囲などとされる。
これに対してマクロ計測部2は、測定対象4に対してミクロ計測部3よりも遠い位置からセンシングを行う。一単位のセンシングを行う計測範囲は、マクロ計測範囲RZ2として示すように、ミクロ計測範囲RZ3よりも広い範囲とされる。但し、マクロ計測部2の一単位のセンシングを行う計測範囲は、ミクロ計測範囲RZ3と同一としてもよい。
本実施の形態の場合、ミクロ計測範囲RZ3はマクロ計測範囲RZ2と同一の範囲又はより狭い範囲とされる。即ち、測定対象4におけるミクロ計測範囲RZ3のエリアは、マクロ計測範囲RZ2にもカバーされている。換言すれば、ミクロ計測範囲RZ3は、ミクロ計測部3によるミクロ計測とマクロ計測部2によるマクロ計測の両方が行われる範囲である。
このようなマクロ計測部2とミクロ計測部3を用いるセンシングシステムとしては、例えば図2に示すような圃場300の植生状態のセンシングを行うシステムが例に挙げられる。
図2は圃場300の様子を示している。昨今、図2のように例えばドローンのような小型の飛行体200に搭載された撮像装置250を用いて、植生状態をリモートセンシングする取り組みが行われている。
飛行体200は、例えば操作者の無線操縦、或いは自動操縦等により、圃場300の上空を移動することができる。
飛行体200には撮像装置250が例えば下方を撮像するようにセットされている。飛行体200が、所定の経路で圃場300の上空を移動する際に、撮像装置250は例えば定期的に静止画撮像を行う。
このような飛行体200に装着された撮像装置250が図1のミクロ計測部3となる。そして撮像装置250による撮像画像がミクロ計測としての検出データとなる。撮像装置250の撮像範囲がミクロ計測範囲RZ3となる。
また図2には上空に位置する人工衛星210を示している。人工衛星210には撮像装置220が装備されており、地表側をセンシング可能とされている。
この撮像装置220により、圃場300のセンシング(撮像)を行うことができる。即ち撮像装置220がマクロ計測部2となる。そして撮像装置220による撮像画像がマクロ計測としての検出データとなる。撮像装置220による撮像範囲がマクロ計測範囲RZ2となる。
ここで飛行体200に搭載されるミクロ計測部3としての撮像装置250、つまり具体的なミクロ計測センサとしては、可視光イメージセンサ(R(赤)、G(緑)、B(青)の可視光を撮像するイメージセンサ)、ステレオカメラ、Lidar(レーザ画像検出及び測距のセンサ)、偏光センサ、ToFセンサ、NIR(Near Infra Red:近赤外域)画像撮像用のカメラなどが想定される。
またミクロ計測センサとして、デバイスサイズとして飛行体200に搭載させて運用が可能なものであれば、複数の波長帯の画像撮像を行うマルチスペクトラムカメラとして、例えばNIR画像とR(赤)画像の撮像を行うもので、得られる画像からNDVI(Normalized Difference Vegetation Index)が算出できるものが用いられてもよい。NDVIとは植生の分布状況や活性度を示す指標である。
これらは、例えば計測対象の形質、環境応答、環境状態(範囲、分布等)などの分析に適したセンサとすることが望ましい。なお形質とは計測対象の静的な形や特性である。環境応答とは計測対象の動的な形や特性である。環境状態とは計測対象の存在する環境の状態であり、計測対象の存在する範囲や分布、或いは環境の特性などである。
またこれらのセンサは、飛行体200に搭載し易い比較的小型軽量のセンサであることが望ましい。
一方、人工衛星210に搭載されるマクロ計測部2としての撮像装置220、つまり具体的なマクロ計測センサとしては、複数の波長帯の画像(例えばNIR画像とR画像)の撮像を行うマルチスペクトラムカメラ、ハイパースペクトラムカメラ、FTIR(フーリエ変換赤外分光光度計)、赤外線センサなどが考えられる。この場合、比較的大規模なセンシングデバイスが許容され、高精度なセンシングが可能のものが想定される。
そしてこれらのマクロ計測センサは、例えば光合成に関する情報など、各種の物性値の分析に適したセンサである。
またこれらはデバイスサイズや重量などの事情により、小型の飛行体200に搭載しにくいセンサであるが、本例のセンシングシステムでは、そのようなセンサを人工衛星210に搭載するものとする。
また撮像装置220、250で撮像されて得られる画像には、タグ情報が付加されている。タグ情報には撮像日時情報や、GPS(Global Positioning System)データとしての位置情報(緯度/経度情報)、撮像装置情報(カメラの個体識別情報や機種情報等)、各画像データの情報(画サイズ、波長、撮像パラメータ等の情報)などが含まれている。
なお位置情報や撮像日時情報は撮像装置220の画像(検出データ)と撮像装置250の画像(検出データ)を対応づける情報ともなる。
以上のように飛行体200に搭載された撮像装置250及び人工衛星210に搭載された撮像装置220によって得られる画像データやタグ情報は、情報処理装置1に送られる。情報処理装置1は画像データやタグ情報を用いて、圃場300を計測対象とした分析情報を生成する。また分析結果をユーザに対して、画像として提示する処理を行う。
情報処理装置1は、例えばPC(personal computer)やFPGA(field-programmable gate array)、或いはスマートフォンやタブレットなどの端末装置などとして実現される。
なお、図1では情報処理装置1は撮像装置250とは別体のものとしているが、例えば撮像装置250を含むユニット内に情報処理装置1となる演算装置(マイクロコンピュータ等)を設けてもよい。
図3でマクロ計測部2とミクロ計測部3の役割について説明する。
ミクロ計測部3は、計測範囲RZ3において個体毎の計測を行うことができる。例えば個体OB1,OB2,OB3,OB4・・・を示しているが、ミクロ計測部3によればこれらの形質、環境応答、環境状態や、それらに基づく領域の識別、などを計測又は判定できる。それらの情報は測定対象の振り分け(弁別)のために活用できる。
ミクロ計測部3による計測の主たる目的は、個体それぞれの測定と診断である。そのためミクロ計測センサは、個体1つ1つの形質が異なる中で、それらを取り扱える解像度や機能を持つものとされる。
マクロ計測部2は広い計測範囲RZ2において、複数の個体に関する情報を検出する。
検出した情報は、ミクロ計測部3の検出によって弁別される状態に応じて振り分けて適用することができる。
図4には分解能について示している。図4Aはマクロ計測範囲RZ2とミクロ計測範囲RZ3を平面的に示しており、図4Bはその一部を拡大している。
大きいマス目がマクロ計測分解能、小さいマス目がミクロ計測分解能を表す。これらの分解能で得られる情報とは、例えば撮像画像の1画素(1ピクセル)の情報に相当する。
即ちマクロ計測部2に搭載されるマクロ計測センサは、大きいマス目の分解能を持つセンサとされ、ミクロ計測部3に搭載されるミクロ計測センサは、小さいマス目の分解能を持つセンサとされる。
例えば図4Bに破線で示すように計測対象があった場合、細線で示す小さいマス目の分解能で計測対象の形質、環境応答、領域等が判別でき、太線で示す大きいマス目の分解能で物性値等が計測できる。
この場合、例えば、大きいマス目の単位の物性値は、小さいマス目の単位で計測できる計測対象の形質、環境応答、面積、領域割合、重量、分布量その他に応じて調整できる。
具体的には例えば、計測対象が「葉」であるとすると、大きいマス目のマクロ計測分解能で得られる葉の物性値は、その大きいマス目内で小さいマス目の単位(ミクロ計測分解能)で得られる葉の形状、面積比率等に応じて調整して得ることができる。
このようなセンシングシステムを必要とする背景について述べておく。
先述したように、昨今、ドローン等の飛行体200を用いたセンシングが多く行われ、可視光(RGB)の計測による形質の計測に加え、色々な光学波長や手法を用いることで対象の物性、生理状態などを計測することができる。しかし小型の飛行体200に搭載可能なセンシングデバイスは大きさや重量などの制限を受けることが多い。
多数の波長を取得し、成分分析などが行えるハイパースペクトラムカメラは、一般的に2次元の画像を取得するためにはスキャニング機構が必要でサイズが大きいため、大型の飛行体でないと搭載が困難である。
また、スキャンには一定の時間を要しホバリングする必要があり、測定時間が長く、飛行体200のバッテリーの容量では広い土地を測定できない場合も多い。
また、スキャン中に飛行体200の振動が影響し、測定精度が低下してしまうこともある。
また、より分光分解能が高いFTIR方式は、原理的に機器サイズが長く、飛行体200への搭載が難しい。
高精度のセンシングをしたい場合、大判のイメージャの搭載や多重露光を行うことでS/N(signal-noise ratio)を改善できる。しかし大判のイメージャでは光学系が大きくなり飛行体200への搭載に適さず、多重露光は飛行体200をホバリングさせることでの測定時間の増加や飛行体200の振動の影響が精度低下をもたらす。
また一般的に飛行体200の筐体は太陽に照らされ常温より高温になる。
高精度のセンシングではセンサの温度を低温に保つことで熱雑音を低下させることができる。分光光度計など室内で使われるセンサについてはペルチェ素子などで低温に保つことで精度を保つものが存在するが、ペルチェ素子は消費電力が大きいため、電力が限られる飛行体200への搭載には適さない。
エアコンディショナーに見られるようなコンプレッサーを用いたヒートポンプ式の温度調整デバイスは電力効率はよいが、飛行体200に搭載できるサイズ・重量ではない。
一方、衛星センシングでは高度なセンシングができる機材を搭載されたものが運用されている。しかしながら空間分解能(解像度)の側面で不十分である。
上記したハイパースペクトラムカメラ、FTIR、大判イメージャの搭載や、低温制御などについては、人工衛星210においてはさほど困難ではない。
但し空間分解能が低いと、単に形状が判別できないだけでなく、その空間分解能1単位に色々な対象が混ざってしまい、知りたい対象だけの計測ができない。特に植生計測の例では土がまざる、影がまざる、などが問題になる。
衛星センシングで空間分解能が低いことをカバーするためには、計測対象の形態の情報を含んだ「モデル(放射伝達特性モデルなど)」を用いたインバース計算で特定の対象の計測値を求めることを行われている。
ところが、測定対象がモデルの形状と齟齬なく広がっている場合はよいものの(植生では熱帯雨林など)、例えば圃場300の計測(スカウティング)では、形状そのものがこれから計測すべきもので特定できないから(作物が育ってゆく過程で形が変わったり、なんかの問題で成長が悪かったり枯れかかっているなど)正しく測定することができない。
ところでセンシングに求められる空間分解能は、計測に必要な分解能と、出力分解能を分けて考えることができる。
例えば人間の体重を知りたい場合、人間1人の体重がわかればよく、1cm3あたりの重量は必要ではない。しかし計測に必要な分解能を考えた場合、人間がプールの中にいる状態で体重を測定をしようとした場合は、人間と水の境界を識別して人と水の容積と重量を弁別して計測することが求められる。
プールの体重計測の例では、マクロ計測でプール全体の重量が測れ、ミクロ計測で人の容積が計れたならば、水の比重が既知であるから、両方の情報を組み合わせることで、人の比重及び体重を求めることが可能になる。
植生センシングでは例えば土と植物が混ざった状態での計測に相当し、飛行体200で土と植物の比率がわかり、衛星で一定範囲の分光反射率や蛍光などが測定でき、土の反射率が既知であったなら、同様に植物のみの計測結果を算出することができる。
そのような観点から本実施の形態では、2次元或は3次元で計測対象の形質(形態形質や生理形質)や環境応答(計測対象の置かれた環境と計測対象による当該環境への応答)を計測・分析するシステムを構築する。
即ち、計測範囲について個体単位の識別・抽出・分析ができる空間分解能を持つミクロ計測部3と、空間分解能は低いもののミクロ計測部3に存在しない形質や環境応答を計測することができるマクロ計測部2の2つの計測部を有するものとする。
そしてこれら2つの計測部で取得した情報が有線あるいは無線・メディアデバイスを通し入力される情報処理装置1において、補完分析演算を行うことで、ミクロ計測部3で識別・抽出した特定の計測対象についてマクロ計測部2の計測に基づく形質や環境応答を分析することができるようにする。
具体例を挙げると、マクロ計測分解能が0.5m、マクロ計測範囲が500m四方、ミクロ計測分解能が0.01m、ミクロ計測範囲が10m四方である場合に、10m四方に存在する植物についての物性値(光合成に関する情報など)が0.5mの分解能で求められる。
この時、飛行体200はRGB+NDVI2眼カメラ、衛星はハイパースペクトラムカメラと言う組み合わせが考えられる。
RGB画像,NDVI画像をミクロ計測部3により得、また例えば光合成に関する情報としてSIF(Solar-Induced chlorophyll Fluorescence)を人工衛星210側のマクロ計測部2で捉え、光合成速度に関する情報を得る。
つまり飛行体200にハイパースペクトラムカメラを搭載しなくても、人工衛星210側からの物性計測を用いて飛行体200によるセンシングの高度化を図る。
<2.情報処理装置の構成>
以上のセンシングシステムにおいてマクロ計測部2及びミクロ計測部3からの検出情報を取得して分析等の処理を行う情報処理装置1について説明する。
図5は情報処理装置1のハードウエア構成を示している。情報処理装置1は、CPU(Central Processing Unit)51、ROM(Read Only Memory)52、RAM(Random Access Memory)53を有して構成される。
CPU51は、ROM52に記憶されているプログラム、または記憶部59からRAM53にロードされたプログラムに従って各種の処理を実行する。RAM53にはまた、CPU51が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU51、ROM52、およびRAM53は、バス54を介して相互に接続されている。このバス54にはまた、入出力インタフェース55も接続されている。
入出力インタフェース55には、液晶パネル或いは有機EL(Electroluminescence)パネルなどよりなる表示部56、キーボード、マウスなどよりなる入力部57、スピーカ58、記憶部59、通信部60などが接続可能である。
表示部56は情報処理装置1と一体でも良いし別体の機器でもよい。
表示部56では、CPU51の指示に基づいて表示画面上に各種の分析結果等の表示が行われる。また表示部56はCPU51の指示に基づいて、各種操作メニュー、アイコン、メッセージ等、即ちGUI(Graphical User Interface)としての表示を行う。
入力部57は、情報処理装置1を使用するユーザが用いる入力デバイスを意味する。
例えば入力部57としては、キーボード、マウス、キー、ダイヤル、タッチパネル、タッチパッド、リモートコントローラ等の各種の操作子や操作デバイスが想定される。
入力部57によりユーザの操作が検知され、入力された操作に応じた信号はCPU51によって解釈される。
記憶部59は例えばHDD(Hard Disk Drive)や固体メモリなどの記憶媒体より構成される。記憶部59には、例えばマクロ計測部2やミクロ計測部3から受信した検出データや分析結果その他各種の情報が記憶される。また分析処理等のためのプログラムデータの格納にも記憶部59は用いられる。
通信部60は、インターネットを含むネットワークを介しての通信処理や、周辺各部の機器との間の通信を行う。
この通信部60は例えばミクロ計測部3(撮像装置250)やマクロ計測部2(撮像装置220)との通信を行う通信デバイスとされる場合もある。
入出力インタフェース55にはまた、必要に応じてドライブ61が接続され、メモリカード等のストレージデバイス6が装着され、データの書込や読出が行われる。
例えばストレージデバイス6から読み出されたコンピュータプログラムが、必要に応じて記憶部59にインストールされたり、CPU51で処理したデータが記憶されたりする。もちろんドライブ61は、磁気ディスク、光ディスク、光磁気ディスク等のリムーバブル記憶媒体に対する記録再生ドライブとされてもよい。これら磁気ディスク、光ディスク、光磁気ディスク等もストレージデバイス6の一態様である。
なお、実施の形態の情報処理装置1は、図5のようなハードウエア構成の情報処理装置(コンピュータ装置)1が単一で構成されることに限らず、複数のコンピュータ装置がシステム化されて構成されてもよい。複数のコンピュータ装置は、LAN等によりシステム化されていてもよいし、インターネット等を利用したVPN(Virtual Private Network)等により遠隔地に配置されたものでもよい。複数のコンピュータ装置には、クラウドコンピューティングサービスによって利用可能なコンピュータ装置が含まれてもよい。
またこの図5の情報処理装置1は、据え置き型、ノート型等のパーソナルコンピュータ、タブレット端末やスマートフォン等の携帯端末として実現できる。さらには情報処理装置1としての機能を有する測定装置、テレビジョン装置、モニタ装置、撮像装置、設備管理装置等の電子機器でも、本実施の形態の情報処理装置1を搭載することができる。
例えばこのようなハードウエア構成の情報処理装置1では、CPU51による演算機能や、ROM52、RAM53、記憶部59による記憶機能、通信部60やドライブ61によるデータ取得機能、表示部56などによる出力機能を有し、インストールされたソフトウエアが機能することで、図6のような機能構成を備えるようにされる。
即ち情報処理装置1には大きく分けて図6に示すデータ入力部10、補完分析実行部20、データ保存・出力部30が設けられる。
これらの処理機能はCPU51で起動されるソフトウエアにより実現される。
そのソフトウエアを構成するプログラムは、ネットワークからダウンロードされたり、ストレージデバイス6(例えばリムーバブル記憶媒体)から読み出されたりして図5の情報処理装置1にインストールされる。或いはそのプログラムが記憶部59等に予め記憶されていてもよい。そしてCPU51において当該プログラムが起動されることで、上記各部の機能が発現する。
また各種バッファ等の記憶機能は、例えばRAM53の記憶領域や記憶部59の記憶領域を用いて実現される。
この図6の機能による演算処理は各種の検出データの分析に用いることができるが、以下では植生の光合成に関する情報の分析を例に挙げながら説明していく。
そこで、まず植生の光合成に関する情報の分析に関する背景を述べておく。
SIF(クロロフィル蛍光)は、植物の光合成速度に関する情報を含むと考えられており、太陽光下での測定はFLD(Fraunhofer. Line-Discrimination)法(太陽暗線:フラウンフォーファー線)を用いた計測が一般的である。
しかしここで使う太陽暗線O2Aは、波長幅が1nm程度と細いため、一般的にはハイパースペクトラムカメラやFTIRといったセンサによるセンシングが適する。こういった機材は人工衛星210には搭載が容易なものの、飛行体200にとってはその大きさや重さから搭載が難しい。
また、一般的なカメラにバンドパスフィルタを構成して暗線を捉えようとした場合、光量が少ないため露光時間を長く撮る必要がある。この場合、飛行体200をいったん止めてホバリングさせるために計測時間が増加したり、飛行体200の振動が計測精度に支障をきたす。
また、光学系の設計においても、斜入射特性を考えると、センシング画像の中心部だけ切り出して使わざるをえず十分な測定範囲を測定できない。
フィルタの透過波長は、フィルタに入射する光軸の角度により影響を受け、斜めに入るほど長波長側へずれてしまう。つまり、画像の中心から周囲へ行けば行くほど透過波長がずれてしまう。例えば一例として、760nmを透過させるフィルタにおいて、わずか9度傾いただけで2nmもずれることがある。
波長幅が1nmという狭帯域フィルタでは、所望の特性を得ることができない。また、画像の中心においても、レンズの中心(光軸中心)を通りフィルタに入射する光はフィルタに直角に入射するが、レンズの周辺部を通り結像する光は傾きをもってフィルタに入射するため、半値幅が広がってしまう。
改善のために大きなレンズを用いると飛行体200への搭載性が悪化し、絞りを強くすると暗くなるから露光時間がさらに増加し、飛行体200への搭載が著しく困難となる。
一方で、ドローン等の飛行体200ではRGBカメラや、RカメラとNIRカメラを用いたNDVIの計測が普及しており、例えばこれらの値を用いて測定対象の形状に関する弁別を行うことができる。もちろん、ステレオカメラなどで直接形状を測定することもできる。
例えば図7Aは、植物を撮像したときに、その撮像した測定範囲RZ3のうち、太陽光に面している葉(陽葉)のみを抽出している。例えばNDVI画像について、NDVI>0.5として植物のみ取り出し(例えば土の画像の部分を除外する)、さらに一定のNIR反射強度以上を取り出すことで、陽葉のみを抽出できる。
光合成量は陽葉が寄与する比率が多いと考えられるため、陽葉のみを抽出することは、光合成に関する情報の分析にとって意味がある。
なお図7Aではミクロ計測センサ3Sの分解能に相当するラインを画像の上部及び左部に付記している。
このように測定範囲の中から高分解能の計測により特定測定対象を判読・抽出する一方で、マクロ計測センサ2Sによって得られる物性量(光合成に関係する数値)を工夫して組み合わせることで、物性量をマクロ計測の分解能で求めることができる。
図7Bにマクロ計測センサ2Sで得られた物性値(例えばSIF)のイメージを示している。各マス目の単位でSIFの値が得られている。
この各マス目の単位のSIF値は、単に計測されたそのままではなく、例えば図7Aのように抽出された陽葉の比率などにより調整することで、より有意な情報となる。
図7Cは分析結果をユーザに提示する場合の例である。図7Bのような物性値のみを表示してもユーザにとってはわかりにくいため、例えばRGB画像と合成して提示する。これにより、測定対象と測定結果を容易に理解できる。
なお、分析結果の物性値をRGB画像と合成して表示出力を行うことは一例で、RGB画像ではなく、例えばNDVI画像や、図7Aの陽葉抽出画像と合成して出力してもよい。
以上のような光合成に関する情報の分析を行う場合を想定して、図6の各機能を説明していく。
まず図6には情報処理装置1の外部装置としてマクロ計測部2、ミクロ計測部3、ネットワーク5、ストレージデバイス6を示している。
マクロ計測部2は上述したように例えば人工衛星210に搭載される。マクロ計測用センサ2SはハイパースペクトラムカメラやFTIRといった大型のセンサで、人工衛星210に搭載できるが飛行体200には搭載しづらいセンサである。これらは一般的には可視光外のセンサで、主に物性を計測するために用いられる。
ミクロ計測部3は飛行体200に搭載される。ミクロ計測用センサ3Sは、RGBカメラ、ステレオカメラなど、小型のセンサで飛行体200に搭載しやすいセンサである。一般的には可視光を中心としたセンサで、主に計測対象の形質、環境応答を計測するために用いられる。
ネットワーク5は例えばインターネット、ホームネットワーク、LAN(Local Area Network)等、衛星通信網、その他の各種のネットワークが想定される。
ストレージデバイス6は上述のようにメモリカード、ディスク状記録媒体など、主にリムーバブル記録媒体が想定される。
情報処理装置1において図6に示すデータ入力部10は、以上の外部装置からのデータ入力を受け付ける機能であり、センサ入力部11,12,プログラム・データ入力部13を有する。
センサ入力部11は、マクロ計測部2のマクロ計測センサ2Sによる検出情報を入力する。マクロ計測センサ2Sによる検出データは、例えばマクロ計測部2と図5の通信部60の通信により直接受信する場合がある。
或いはマクロ計測センサ2Sによる検出データは、ネットワーク5を介して通信部60により受信される場合がある。
さらにマクロ計測センサ2Sによる検出データはストレージデバイス6を介して取得される場合もある。
センサ入力部12は、ミクロ計測部3のミクロ計測センサ3Sによる検出情報を入力する。ミクロ計測センサ3Sによる検出データは、例えばミクロ計測部3と通信部60の通信により直接受信する場合や、ネットワーク5を介して通信部60により受信される場合、さらにはストレージデバイス6を介して取得される場合などがある。
なおセンサ入力部11,12では、光源分光補正などの前段処理を行うようにしてもよい。
プログラム・データ入力部13は、ネットワーク5を介したサーバからのダウンロード、或いはストレージデバイス6からの読出などにより、必要なプログラムを取得する。
補完分析実行部20はマクロ計測分析演算部21、マクロ計測分析値バッファ22、ミクロ計測分析演算部23、ミクロ計測分析値バッファ24、ポジションマッピング部25、補完分析演算プログラム・データ保持部26、補完分析演算部27を有する。
マクロ計測分析演算部21は、センサ入力部11が取得したマクロ計測用センサ2Sの検出データから、物質成分の量などを求める演算を行う。
例えばマクロ計測分析演算部21は、ハイパースペクトラムカメラやFTIRによる多波長のデータから、植生指数や、NIRS(近赤外分光法)、FLD法によるSIF算出などを行う。
マクロ計測分析値バッファ22は、マクロ計測分析演算部21で処理されたデータを一時的に保持する。
例えばマクロ計測分析値バッファ22は、マクロ計測分析演算部21で算出されたSIFや、マクロ計測部2から通知された位置情報等を保持する。
ミクロ計測分析演算部23は、センサ入力部12が取得したミクロ計測センサ3Sの検出データから、画像を弁別・抽出する演算を行う。
例えばミクロ計測分析演算部23は画像認識処理を行って弁別等を行う。或いはミクロ計測分析演算部23は、色や輝度値などを用いて対象ごとに分けてもよいし、物質成分の量を求めた上で弁別に利用してもよい。
これらの処理によりミクロ計測分析演算部23は、例えば陽葉の部分を弁別する。
ミクロ計測分析値バッファ24は、ミクロ計測分析演算部23で処理されたデータを一時的に保持する。
例えばミクロ計測分析値バッファ24は、ミクロ計測分析演算部23で求められた陽葉部分を弁別する情報や、ミクロ計測部3から通知された位置情報、さらにはRGB画像やNDVI画像等を保持する。
ポジションマッピング部25は、解像度や撮像単位(計測範囲RZ2、RZ3)が異なる画像群のなかから、同一地点を抽出するための演算を行う。例えばGPS情報を用いたり、オルソモザイク処理などを用いて、マクロ計測分析演算部21で処理した情報とミクロ計測分析演算部23で処理した情報について位置あわせを行う。
補完分析演算部27は、マクロ計測分析演算部21による演算結果とミクロ計測分析演算部23による演算結果とを用いた補完分析演算を行う。
例えばミクロ計測の測定範囲RZ3について、ミクロ計測部3が弁別した特定の対象についての形質や環境応答を、マクロ計測部2の情報を用い、マクロ計測解像度単位で求める演算を行う。
この補完分析演算部27による補完分析演算は、マクロ計測分析演算部21による演算結果を、ミクロ計測分析演算部23による演算結果を使って補完する演算処理とすることが考えられる。これにより、マクロ分析の演算結果の分解能をミクロ計測分析演算部による演算結果を使って上げることができ、検出精度を向上させることができる。
また、ミクロ計測分解能とマクロ計測分解能の違いにより、ミクロ計測分析演算部23による演算結果の分解能は、マクロ計測分析演算部21による演算結果の分解能より高くすることが可能である。このため補完分析演算は、マクロ計測分析演算部21による演算結果を、ミクロ計測分析演算部23による演算結果を使って補完する演算処理とすることで、マクロ計測分析演算部による演算結果では表れない情報を補完するような補完結果を得ることが可能となる。
補完演算プログラム・データ保持部26は、プログラム・データ入力部13が取得した補完演算のためのプログラム・データを保持する。このプログラム・データに基づいて補完分析演算部27の演算処理が行われる。
データ保存・出力部30は、解析データバッファ31、カラーマッピング部32、画像合成部33、グラフ生成部34、画像出力部35、データ出力部36を有する。
解析データバッファ31は補完分析演算部27の演算結果の情報を一時的に保存する。
補完分析演算部27が陽葉のみのSIF量を求めたのであれば、解析データバッファ31はその情報を保持する。またRGB画像やNDVI画像を保持する場合もある。
カラーマッピング部32は、物理値を可視化して表示するために、物理値の一定範囲を例えば、RGB三原色の各レベルを用い青から赤のカラーグラデーションに変換するための演算処理を行う。
画像合成部33は、カラーマッピングされた物理値データを画像の本来の空間的域に対応するように張り付けたり、RGB画像にオーバーレイ表示したりする演算処理を行う。
グラフ生成部34は、データを可視化して表示するために、物理値を折れ線で表示したり、2次元の物理値を散布図にしたりといった、グラフを作成する演算処理を行う。
画像出力部35は、カラーマッピング部32、画像合成部33、グラフ生成部34の処理で生成した画像データを外部の表示部56に出力して表示させる。或いは画像出力部35は、生成した画像データをネットワーク5を用いて外部装置に伝送したり、ファイル化してストレージデバイス6に保存するための出力を行う。
データ出力部36は、解析データバッファ31に保存された補完分析演算部27の演算結果の情報を出力する。例えばデータ出力部36は補完分析結果の情報(例えばSIFの値など)を、ネットワーク5を用い外部装置に伝送したり、ファイル化してストレージデバイス6に保存するための出力を行う。
<3.処理例>
以上の機能を有する情報処理装置1の処理例を説明していく。
図8に情報処理装置1の処理例を示す。
ステップS101で情報処理装置1はセンサ入力部11の機能によりマクロ計測部2による計測値を入力する。
ステップS102で情報処理装置1はマクロ計測分析演算部21の機能により、マクロ計測分析演算を行う。例えば光合成に関する情報としてSIF演算を行う。SIF演算については太陽光スペクトル中の暗線によるFLD法が知られている。
ステップS103で情報処理装置1はセンサ入力部12の機能によりミクロ計測部3による計測値を入力する。
ステップS104で情報処理装置1はミクロ計測分析演算部23の機能により、ミクロ計測分析演算を行う。例えば陽葉抽出を行う。
このステップS104のミクロ計測分析演算の処理例を図9に示す。
なおミクロ計測分析演算部23は、図10に示すRGB画像、NIR画像、R画像を取得しているものとする。
図9のステップS201でミクロ計測分析演算部23は、R画像とNIR画像からNDVI画像を求める。NDVI値は、
NDVI=(NIR-R)/(NIR+R)
で求められる。ここで「R」は可視域赤の反射率、「NIR」は近赤外域の反射率である。
NDVIの値は「-1」から「1」の間に正規化した数値であり、正の大きい数字になるほど植生が濃いことを表している。
図11Aには、このNDVIの値によるNDVI画像を模式的に示している。
ステップS202でミクロ計測分析演算部23は、NDVI画像のうちでNDVI値が一定以上の範囲を抽出する。即ちNDVI値が所定の閾値以上となっている画素を抽出した、図11Bの画像NDVIp(NDVIPlants Filtered)を生成する。このNDVI値が所定の閾値以上となっている画素を抽出した画像NDVIpは、植物部分を抽出したフィルタリング画像といえる。
ステップS203でミクロ計測分析演算部23は、NDVI画像のうちでNIR値が一定以上の範囲を抽出する。即ちNIR値が所定の閾値以上となっている画素を抽出した、図11Cの画像NDVIpr(NDVIPar Filtered)を生成する。
このNIR値が所定の閾値以上となっている画素を抽出した画像NDVIpは、陽の当たっている部分を抽出したフィルタリング画像といえる。
ステップS204でミクロ計測分析演算部23は、NDVIが一定以上で、かつNIR値が一定以上の範囲を抽出する。即ち図11B、図11Cのアンド条件として抽出を行い、図11Dの画像NDVIp-pr(NDVIPlants Filtered Par Filtered)を生成する。
この画像NDVIp-prは、陽葉を抽出した情報(画像)となる。
以上の処理で図8のステップS104を行ったら、情報処理装置1はステップS105で、ポジションマッピング部25の機能によりポジションマッピングを行う。
即ちマクロ計測分析演算で行った、マクロ計測分解能の領域(領域毎のSIF量)と、図11Dのミクロ計測分析演算結果の画像NDVIp-prの位置合わせを行う。
ステップS106で情報処理装置1は、補完分析演算部27の機能により補完分析演算を行う。この補完分析演算の処理例を図12に示す。
なお図13Aには、マクロ計測に基づくSIFを模式的に示している。SIFはマクロ計測分解能として図示するマス目の単位(マクロ分解能単位W1からWn)で求められている。図では濃さによりSIF量の違いを表しているものとする。
図13Bはミクロ計測分解能を細線の枠で示し、太線でマクロ計測分解能による1つのマクロ分解能単位W1を示している。図13Cは上述した陽葉を抽出した画像NDVIp-pr上に、太線で1つのマクロ分解能単位W1を示している。
補完分析演算は、ミクロ計測範囲に相当するマクロ分解能単位毎に行われる。図4等で説明したように、ミクロ計測範囲RZ3はマクロ計測範囲RZ2に含まれる。補完分析演算では、マクロ計測範囲RZ2内で、ミクロ計測範囲RZ3に相当する位置となっているマクロ分解能単位の計測値を順次参照していくことになる。即ち図13Aのマクロ分解能単位W1からWnについて順次処理を行う。
補完分析演算部27はステップS301でSIFを読み出し、変数aに代入する。
例えば最初に、マクロ分解能単位W1のSIFを変数aとする。
ステップS302で補完分析演算部27は、現在の対象のマクロ分解能単位における陽葉比率を算出し、算出した陽葉比率を変数bに代入する。例えば図13B、図13Cのマクロ分解能単位W1において、陽葉として抽出されている部分とそれ以外の部分の面積(例えば画素数)を求め、陽葉部分の比率を求める。
ステップS303で補完分析演算部27は、現在の対象のマクロ分解能単位における陽葉のSIF量(=c)を算出する。c=a/bとする。つまり1つのマクロ分解能単位のSIF量から陽葉比率を除算することで、当該マクロ分解能単位における陽葉のSIF量を求める。例えばSIF量(変数a)=0.1、陽葉比率(変数b)=0.5の場合、陽葉のSIF量cは0.2となる。
算出した陽葉のSIF量cは、現在対象のマクロ分解能単位におけるSIF量の値として保存する。
以上の処理を、ミクロ計測範囲の全てにおいて行うまで、ステップS304からS301に戻って繰り返す。つまり、マクロ分解能単位W1からマクロ分解能単位Wnについて、それぞれ上記のように陽葉のSIF量cの値を求めていく。
ミクロ計測範囲に相当する全てのマクロ分解能単位について処理を終えたら、補完分析演算部27はステップS305に進み、補完分析結果を解析データバッファ31に書き出す。この場合、マクロ分解能単位W1からマクロ分解能単位Wnについて、それぞれ陽葉のSIF量cの値を分析結果として書き出すことになる。図14には陽葉のSIF量cの値として求められた分析結果を模式的に示している。つまり図13Aのマクロ分解能単位毎のSIF量が、陽葉比率によって補正された情報となっている。
以上の処理で図8のステップS106を終えたら、情報処理装置1はデータ保存・出力部30の機能によりステップS107のカラーマッピング、ステップS108の画像合成、ステップS109の画像出力を行う。
これによりユーザは表示部56等で、分析結果を確認することができる。
この場合のカラーマッピング等を加えた出力画像の例を説明していく。
図15は上述のように得られたマクロ分解能単位毎の補完分析結果に対して色当て(カラーマッピング)した画像を生成する例である。ここでいう「色当て」とは、予め数値範囲毎に対応する色を設定しておき、対象の値に応じて色を選択し、該当画素に割り当てることをいう。
図15Aは補完分析結果として得られたマクロ分解能単位毎のSIF(上記cの値)を示している。このようなSIFの値について色当てを行って、図15Bのようなカラーマッピング画像を生成する。これは各領域についてSIF(c値)に該当する色が割り当てられた画像となる。
なお、図面では、斜線の種類や点描等により色の違いを示している。また有効なSIF値が存在しないマクロ分解能単位(例えば陽葉が存在しない部分など)は「NO DATA」として示している。「NO DATA」で示す領域については例えば背景色(白)が割り当てられる。
このようなカラーマッピング画像がユーザに提示されるようにすれば、各マクロ分解能単位の領域のSIFが色により表現されるものとなり、ユーザが領域毎の光合成状況を把握し易い画像となる。
次に図16は、植生の特定の状態である箇所に対して色当てした画像を合成する例である。図16Aは補完分析結果として得られたマクロ分解能単位毎のSIF(上記cの値)を示している。図16Bは、陽葉を抽出した画像NDVIp-prである。
そしてそれぞれのマクロ分解能単位で陽葉部分に色当てを行って図16Cのようなカラーマッピング画像を生成する。陽葉の部分のみが、そのSIFに応じた色となる画像である。そのため、ユーザが領域毎の陽葉の分布と、その光合成状況を把握し易い画像となる。
次に図17は可視光画像(RGB画像)にオーバーレイ表示する例である。
図17Aは補完分析結果として得られたマクロ分解能単位毎のSIF(上記cの値)を示している。図17Bは、RGB画像である。
そして図17Cに示すように、RGB画像において、各マクロ分解能単位にSIF値に応じて割り当てられた色がオーバーレイされるようにする。図では該当画素部分に色が付けられている状態を示している。
つまり、RGB画像上で、分析結果を示す色が表現される画像となる。そのため、ユーザが通常視認する画像上で例えば光合成状況を示す画像となり、ユーザが植生状況を把握し易い画像となる。
なお、オーバーレイでなく、該当の画素を割り当てた色で上書きするようにしてもよい。
例えば以上の図15、図16、図17のように出力画像が生成され、表示部56で表示されたり、ネットワーク5を用い外部装置に伝送したり、ファイル化してストレージデバイス6に保存されることで、ユーザは解析結果を利用できる。
<4.各種例>
ところで、以上の処理例では、陽葉部分を考慮したSIFの分析結果を出力する例としたが、その場合の変形例や、他のセンシングや出力情報の例が各種考えられる。以下では、マクロ計測、ミクロ計測と出力の組み合わせの例を挙げていく。
・マクロ計測:SIF
・ミクロ計測:RGB、NDVI、NIR反射率(陽葉弁別用)
・出力:光合成状態に関する情報
これは上記処理例に相当する組み合わせである。
上述した処理例では、ミクロ計測に基づいては陽葉を抽出しているだけだが、陽葉と陰葉(陽の当たっていない葉)を重みづけして使ってもよい。
・マクロ計測:SIF
・ミクロ計測:RGB、NDVI、NIR反射率(陽葉弁別用)、偏光センサ(またはステレオカメラまたはToFセンサ)(葉の角度測定用)
・出力:光合成状態に関する情報
葉の角度を測定することで、葉の角度情報を抽出条件に使ったり、重みづけして使うことで精度を上げることができる。
・マクロ計測:NDVI等の植生指数
・ミクロ計測:RGB(土と植物の弁別用)
・出力:葉のクロロフィル濃度等の葉や個体に関する情報
このような例では、一般的なRGBカメラを搭載したドローン等の飛行体200と衛星センシングを結合したNDVI等の植生指数提供サービスを構築しやすいものとなる。
・マクロ計測:NDVI等の植生指数
・ミクロ計測:RGB(土と植物の弁別用)、偏光センサ(またはステレオカメラまたはToFセンサ)(葉の角度測定用)
・出力:葉のクロロフィル濃度等の葉や個体に関する情報
葉の角度を測定することで、BRDF(Bidirectional Reflectance Distribution Function)補正(光学的補正)が可能になり精度を上げることができる。
・マクロ計測:赤外線
・ミクロ計測:RGB、NDVI、NIR反射率(陽葉弁別用)、偏光センサ(またはステレオカメラまたはToFセンサ)(葉の角度測定用)
・出力:葉の蒸散量に関する情報
赤外線で葉温を計測でき、ここから蒸散量を知ることができる。一般的に葉が太陽に照らされているかどうかで葉温は大きく変動するが、陽葉の抽出及び葉の角度を測定し、同一条件の値のみ抽出することで、蒸散に伴う葉温の低下を個体間で比較することができる。
ここまで植生センシングを想定して説明してきたが本開示の技術は多様な分野に適用できる。
例えばオフィスビル等の建物で中央熱源を用いている場合には、建物全体のエネルギー使用量が把握できる。ところが建物の一部(例えば或るフロアに入居している事業所のエネルギー使用量が不明確な場合がある。
こうした場合に、建物の場所毎(フロア毎)に照明、コンセントなど用途別のエネルギー使用量の計測値があれば、それを用いて、事業所等のエネルギー使用量を推計することができる。
このような場合に、建物全体のエネルギー使用量をマクロ計測として計測する。
また建物の場所毎の照明、コンセントなど用途別のエネルギー使用量をミクロ計測として計測する。
すると出力として、建物の一部(例えば或る事業所)で使用するエネルギーの量の推計値を得ることができる。
また例えば労働統計などの分野の例を挙げると、マクロ計測としてある程度の期間の失業率の推移を計測し、ミクロ計測としての季節毎の失業率の推移に基づき季節指数を生成する。
そして失業率の推移の情報を、季節指数により調整してものを出力とする。これにより例えば季節要因を除いた失業率の推移を観測できるような情報を得ることができる。
<5.まとめ及び変形例>
以上の実施の形態によれば次のような効果が得られる。
実施の形態の情報処理装置1は、計測対象のマクロ計測範囲RZ2(第1の計測範囲)についてマクロ計測分解能(第1の空間分解能)でセンシングを行うマクロ計測部2からの検出データについて演算を行うマクロ計測分析演算部21を備える。また情報処理装置1はマクロ計測範囲RZ2に含まれるミクロ計測範囲RZ3(第2の計測範囲)に対してマクロ計測分解能前より高い分解能であるミクロ計測分解能(第2の空間分解能)でセンシングを行うミクロ計測部3からの検出データについて演算を行うミクロ計測分析演算部23を備える。さらに情報処理装置1は、マクロ計測分析演算部21による演算結果とミクロ計測分析演算部23による演算結果とを用いた補完分析演算を行い、補完分析情報を生成する補完分析演算部27を備える。
この場合、空間分解能の高いセンシングが可能なミクロ計測部3の検出データと、空間分解能は低いもののより高機能なセンシングが可能なマクロ計測部2の検出データを合わせた演算を行うことで、ミクロ計測部3だけ、あるいはマクロ計測部2だけではできなかった、計測対象の形質や環境応答が計測できるようになる。
実施の形態の情報処理装置1においては、補完分析演算は、マクロ計測分析演算部21による演算結果を、ミクロ計測分析演算部23による演算結果を使って補完する演算処理とした。
これによりマクロ分析の演算結果の分解能をミクロ計測分析演算部による演算結果を使って上げることなどにより、検出精度を向上させることができる。
実施の形態の情報処理装置1においては、ミクロ計測分析演算部23による演算結果の分解能は、マクロ計測分析演算部22による演算結果の分解能より高いことが想定される。これにより、マクロ計測分析演算部による演算結果では表れない情報をミクロ計測分析演算部による演算結果で補完するような補完分析演算結果を得ることができる。
実施の形態では、情報処理装置1は、補完分析演算部27により、ミクロ計測範囲RZ3についてミクロ計測分析演算部23が分析結果として弁別した特定の対象についての物性値を、マクロ計測分析演算部21の分析結果であるマクロ計測分解能の単位での物性値として求めた補完分析情報を生成する例を挙げた。
空間分解能の高いセンシングが可能なミクロ計測部3の検出データによれば、計測範囲における対象物の弁別に有利である。例えば陽の当たっている葉(陽葉)の部分の弁別や、土と葉の弁別などは、ミクロ計測部3の検出データによることが適している。
一方で、高機能なセンシングが可能なマクロ計測部2の検出データによれば、物性値を精密に算出できる。従ってミクロ計測部3とマクロ計測部2の利点を生かした補完分析情報を得ることができる。
例えば弁別された計測対象の形質、環境応答、分布などとともに、上述したSIF等の光合成に関する情報などの環境応答を示した分析結果を得ることができる。
実施の形態では、物性値は植物の光合成に関する情報である例を示した。
光合成に関する情報としては、例えばSIFや、SIFから計算される各種情報がある。
この場合、光合成に関する情報を、ミクロ計測による形質、環境応答、範囲、分布等に応じて出力することができるようになる。
実施の形態では、ミクロ計測分析演算部23は、RGB画像又は植生指数に関する情報に基づいて測定対象の弁別を行う例を挙げた。
例えばRGB画像やNDVI画像を用い、所定の閾値と比較するなどの手法で弁別を行う。
この場合、例えば陽葉の部分の弁別、土と植物の部分の弁別などを適切に行うことができる。特にマクロ計測部2により光合成に関する情報を得る場合、陽葉部分や植物部分の弁別結果と合わせて、光合成に関する情報(例えばSIF)を表示できるようにしたり、値を調整したりすることで、より有意な情報を出力できる。
実施の形態では、マクロ計測部2は、ミクロ計測部3よりも計測対象4(例えば圃場300)からの距離が遠い位置に配置されてセンシングを行うものとした。
マクロ計測部2が、計測対象4から比較的離れている状況とすれば、比較的大規模な装置、デバイスをマクロ計測部2或いはマクロ計測部2を搭載した装置として実現しやすくなる。
なおミクロ計測部3は飛行体200に搭載され、マクロ計測部2は人工衛星210に搭載される例を挙げたが、マクロ計測部2もドローン等の飛行体200に搭載されてもよい。例えばより上空を飛行する飛行体200にマクロ計測部2を搭載してマクロ計測範囲RZ2のセンシングを行うことも考えられる。
実施の形態では、マクロ計測部2は人工衛星210に搭載されている例を挙げた。
人工衛星210の場合、比較的高機能であったり規模の大きいセンサを搭載し易いため、高度なセンシングを行うマクロ計測部2の搭載に適している。
例えば人工衛星210のマクロ計測部2を多数の農業主、センシング実施組織などで共用することで、運用コストの低減やマクロ計測センサ2Sの有効利用を図ることもできる。
なお人工衛星210を用いずに、飛行体200又は比較的大型の飛行体にマクロ計測部2を搭載し、ミクロ計測部3より高い位置からセンシングを行う例も考えられる。
実施の形態では、ミクロ計測部3は、無線操縦又は自動操縦が可能な飛行体200に搭載されている例を挙げた。
無線操縦又は自動操縦が可能な飛行体200としてはいわゆるドローン、小型無線操縦固定翼飛行機、小型無線操縦ヘリコプタなどがある。
小型の飛行体200の場合、圃場300などの計測対象から比較的低い高度でセンシングを行う。そしてこの場合、空間解像度の高いセンシングに適している。
また飛行体200にはマクロ計測部2を搭載しないことで、小型の飛行体200の運用が容易になったり、センシングを行うためのコストを低減できる。
実施の形態では、ミクロ計測部3は、ミクロ計測センサ3Sとして、可視光イメージセンサ、ステレオカメラ、レーザ画像検出及び測距のセンサ、偏光センサ、ToFセンサのいずれかを有する例を述べた。
これらは例えば形状分析など、計測対象の形質、環境応答、範囲、分布などの分析に適したセンサである。
またこれらは比較的、飛行体200に搭載し易いセンサであり、ドローン等の小型無人飛行体としての飛行体200の運用に適している。
実施の形態では、マクロ計測部2は、マクロ計測センサ2Sとして、マルチスペクトラムカメラ、ハイパースペクトラムカメラ、フーリエ変換赤外分光光度計、赤外線センサのいずれかを有する例を挙げた。
これらは例えば光合成に関する情報など、各種の物性値の分析に適したセンサである。
またこれらは比較的、飛行体200に搭載しにくいセンサである。そこで例えば人工衛星210に搭載するものとすれば、ドローン等の小型無人飛行体としての飛行体200の運用を容易化できる。
実施の形態の情報処理装置1は、外部装置から入力される補完分析演算部の補完分析演算プログラムを保持する保持部として補完分析演算プログラム・データ保持部26を有する例を挙げた。
即ち補完分析演算部の演算アルゴリズムを規定するプログラムを外部装置から取得できるようにしている。
例えばネットワーク5やストレージデバイス6などの外部装置から補完分析演算のためのプログラムを取得し、補完分析演算プログラム・データ保持部26に保存するようにし、このプログラムに基づいて補完分析演算部27の演算を行う。これにより情報処理装置1は多様な補完分析演算が可能となる。
実施の形態の情報処理装置1は、補完分析情報に基づく画像データを生成して出力するデータ保存・出力部30を有する。
補完分析結果は、そのままでは人が視認する画像としては適していない(評価結果がわかりにくい)場合がある。そこでデータ保存・出力部30では、補完分析結果を人への提示に適した状態に画像化して表示部56やネットワーク5、或はストレージデバイス6に出力する。これにより、補完分析結果を理解しやすい画像でユーザに提供できる。
実施の形態では、データ保存・出力部30は、補完分析結果をカラーマッピングした出力画像を生成する例を挙げた(図15参照)。
即ち補完分析結果がマクロ分解能単位である領域毎に得られている場合に、各領域に色当てした画像としてユーザに提示する画像を生成する。
これにより、色別で分析結果を認識できる画像をユーザに提供できる。
実施の形態では、データ保存・出力部30は、補完分析結果をカラーマッピングした画像と、他の画像を合成した出力画像を生成する例を挙げた(図16、図17参照)。
データ保存・出力部30は、他の画像とカラーマッピングした画像を例えばオーバーレイや上書きなどの形で合成することで、他の画像により各領域を認識しながら領域毎に色別で評価結果を認識できる画像をユーザに提供できる。
実施の形態では、補完分析結果をカラーマッピングした画像と合成する他の画像は、ミクロ計測分析演算部の演算結果に基づく画像であるとした。例えば画像NDVIp-prとした(図16参照)。
これにより、マクロ計測で得られた情報をミクロ計測範囲RZ3内での弁別結果を表現する画像上で視認することができるようにな画像をユーザに提供できる。
実施の形態では、出力画像は、ミクロ計測範囲RZ3の画像についてマクロ計測分解能の単位で補完分析結果を示した画像であるとした(図15,図16,図17参照)。
これにより、マクロ計測で得られた情報をミクロ計測範囲RZ3内での計測対象に合わせて視認することができるような画像をユーザに提供できる。
なお、出力画像は、ミクロ計測範囲RZ3の全部ではなく、ミクロ計測範囲RZ3の一部を表す画像についてマクロ計測分解能の単位で補完分析結果を示した画像としてもよい。
実施の形態のプログラムは、情報処理装置1に、計測対象のマクロ計測範囲RZ2についてマクロ計測分解能でセンシングを行うマクロ計測部2からの検出データについて演算を行うマクロ計測分析演算処理を実行させる。また該プログラムは、情報処理装置1に、マクロ計測範囲RZ2に含まれるミクロ計測範囲RZ3に対してマクロ計測分解能前より高い分解能であるミクロ計測分解能でセンシングを行うミクロ計測部3からの検出データについて演算を行うミクロ計測分析演算処理を実行させる。さらに該プログラムは、情報処理装置1に、マクロ計測分析演算部21による演算結果とミクロ計測分析演算部23による演算結果とを用いた補完分析演算を行い、補完分析情報を生成する補完分析演算処理を実行させる。
即ち図8、図9、図12の処理を情報処理装置に実行させるプログラムである。
このようなプログラムにより本実施の形態の画像処理装置1の実現が容易となる。
そしてこのようなプログラムはコンピュータ装置等の機器に内蔵されている記録媒体や、CPUを有するマイクロコンピュータ内のROM等に予め記憶しておくことができる。あるいはまた、半導体メモリ、メモリカード、光ディスク、光磁気ディスク、磁気ディスクなどのリムーバブル記録媒体に、一時的あるいは永続的に格納(記憶)しておくことができる。またこのようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、このようなプログラムは、リムーバブル記録媒体からパーソナルコンピュータ等にインストールする他、ダウンロードサイトから、LAN、インターネットなどのネットワークを介してダウンロードすることもできる。
なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。
なお本技術は以下のような構成も採ることができる。
(1)
計測対象の第1の計測範囲について第1の空間分解能でセンシングを行うマクロ計測部からの検出データについて演算を行うマクロ計測分析演算部と、
前記計測対象の前記第1の計測範囲に含まれる第2の計測範囲に対して前記第1の空間分解能より高い分解能である第2の空間分解能でセンシングを行うミクロ計測部からの検出データについて演算を行うミクロ計測分析演算部と、
前記マクロ計測分析演算部による演算結果と前記ミクロ計測分析演算部による演算結果とを用いた補完分析演算を行い、補完分析情報を生成する補完分析演算部と、を備えた
情報処理装置。
(2)
前記補完分析演算は、
前記マクロ計測分析演算部による演算結果を、前記ミクロ計測分析演算部による演算結果を使って補完する演算処理である
上記(1)に記載の情報処理装置。
(3)
前記ミクロ計測分析演算部による演算結果の分解能は、前記マクロ計測分析演算部による演算結果の分解能より高い
上記(1)又は(2)に記載の情報処理装置。
(4)
前記補完分析演算部は、
前記第2の計測範囲について前記ミクロ計測分析演算部が分析結果として弁別した特定の対象についての物性値を、前記マクロ計測分析演算部の分析結果である前記第1の空間分解能の単位での物性値として求めた補完分析情報を生成する
上記(1)から(3)のいずれかに記載の情報処理装置。
(5)
前記物性値は植物の光合成に関する情報である
上記(4)に記載の情報処理装置。
(6)
前記ミクロ計測分析演算部は、RGB画像又は植生指数に関する情報に基づいて測定対象の弁別を行う
上記(4)又は(5)に記載の情報処理装置。
(7)
前記マクロ計測部は、前記ミクロ計測部よりも前記計測対象からの距離が遠い位置でセンシングを行う
上記(1)から(6)のいずれかに記載の情報処理装置。
(8)
前記マクロ計測部は、人工衛星に搭載されている
上記(1)から(7)のいずれかに記載の情報処理装置。
(9)
前記ミクロ計測部は、無線操縦又は自動操縦が可能な飛行体に搭載されている
上記(1)から(8)のいずれかに記載の情報処理装置。
(10)
前記ミクロ計測部は、ミクロ計測センサとして、可視光イメージセンサ、ステレオカメラ、レーザ画像検出及び測距のセンサ、偏光センサ、ToFセンサのいずれかを有する
上記(1)から(9)のいずれかに記載の情報処理装置。
(11)
前記マクロ計測部は、マクロ計測センサとして、マルチスペクトラムカメラ、ハイパースペクトラムカメラ、フーリエ変換赤外分光光度計、赤外線センサのいずれかを有する
上記(1)から(10)のいずれかに記載の情報処理装置。
(12)
外部装置から入力される前記補完分析演算部の補完分析演算プログラムを保持する保持部を有する
上記(1)から(11)のいずれかに記載の情報処理装置。
(13)
前記補完分析情報に基づく出力画像データを生成して出力する出力部を有する
上記(1)から(12)のいずれかに記載の情報処理装置。
(14)
前記出力部は、補完分析結果をカラーマッピングした出力画像データを生成する
上記(13)に記載の情報処理装置。
(15)
前記出力部は、補完分析結果をカラーマッピングした画像と、他の画像を合成した出力画像データを生成する
上記(13)に記載の情報処理装置。
(16)
前記他の画像は、前記ミクロ計測分析演算部の演算結果に基づく画像である
上記(15)に記載の情報処理装置。
(17)
前記出力画像データは、前記第2の計測範囲の全部又は一部を表す画像について前記第1の空間分解能の単位で補完分析結果を示した画像データである
上記(13)から(15)のいずれかに記載の情報処理装置。
(18)
計測対象の第1の計測範囲について第1の空間分解能でセンシングを行うマクロ計測部からの検出データについて演算を行うマクロ計測分析演算処理と、
前記計測対象の前記第1の計測範囲に含まれる第2の計測範囲に対して前記第1の空間分解能より高い分解能である第2の空間分解能でセンシングを行うミクロ計測部からの検出データについて演算を行うミクロ計測分析演算処理と、
前記マクロ計測分析演算処理による演算結果と前記ミクロ計測分析演算処理による演算結果とを用いた補完分析演算を行い、補完分析情報を生成する補完分析演算処理と、
を情報処理装置が実行する情報処理方法。
(19)
計測対象の第1の計測範囲について第1の空間分解能でセンシングを行うマクロ計測部からの検出データについて演算を行うマクロ計測分析演算処理と、
前記計測対象の前記第1の計測範囲に含まれる第2の計測範囲に対して前記第1の空間分解能より高い分解能である第2の空間分解能でセンシングを行うミクロ計測部からの検出データについて演算を行うミクロ計測分析演算処理と、
前記マクロ計測分析演算処理による演算結果と前記ミクロ計測分析演算処理による演算結果とを用いた補完分析演算を行い、補完分析情報を生成する補完分析演算処理と、
を情報処理装置に実行させるプログラム。
(20)
計測対象の第1の計測範囲について第1の空間分解能でセンシングを行うマクロ計測部と、
前記計測対象の前記第1の計測範囲に含まれる第2の計測範囲に対して前記第1の空間分解能より高い分解能である第2の空間分解能でセンシングを行うミクロ計測部と、
前記マクロ計測部からの検出データについて演算を行うマクロ計測分析演算部と、
前記ミクロ計測部からの検出データについて演算を行うミクロ計測分析演算部と、
前記マクロ計測分析演算部による演算結果と前記ミクロ計測分析演算部による演算結果とを用いた補完分析演算を行い、補完分析情報を生成する補完分析演算部と、を備えた
センシングシステム。
1 情報処理装置、2 マクロ計測部、2S マクロ計測センサ、3 ミクロ計測部、3S ミクロ計測センサ、4 測定対象、5 ネットワーク、6 ストレージデバイス、10 データ入力部、11 センサ入力部、12 センサ入力部、13 プログラム・データ入力部、20 補完分析実行部、21 マクロ計測分析演算部、22 マクロ計測分析値バッファ、23 ミクロ計測分析演算部、24 ミクロ計測分析値バッファ、25 ポジションマッピング部、26 補完分析演算プログラム・データ保持部、27 補完分析演算部、30 データ保存・出力部、31 解析データバッファ、32 カラーマッピング部、33 画像合成部、34 グラフ生成部、35 画像出力部、36 データ出力部、51 CPU、52 ROM、53 RAM、54 バス、55 入出力インタフェース、56 表示部、57 入力部、58 スピーカ、59 記憶部、60 通信部、61 ドライブ、200 飛行体、210 人工衛星、220 撮像装置、250 撮像装置、300 圃場

Claims (18)

  1. 計測対象の第1の計測範囲について第1の空間分解能でセンシングを行うマクロ計測部からの検出データについて演算を行うマクロ計測分析演算部と、
    前記計測対象の前記第1の計測範囲に含まれる第2の計測範囲に対して前記第1の空間分解能より高い分解能である第2の空間分解能でセンシングを行うミクロ計測部からの検出データについて演算を行うミクロ計測分析演算部と、
    前記マクロ計測分析演算部による演算結果を前記ミクロ計測分析演算部による演算結果を使って補完する補完分析演算を行い、補完分析情報を生成する補完分析演算部と、
    前記補完分析情報として得られる補完分析結果をカラーマッピングした出力画像データを生成して出力する出力部と、を備えた
    情報処理装置。
  2. 前記出力部は、補完分析結果をカラーマッピングした画像と、他の画像を合成した出力画像データを生成する
    請求項1に記載の情報処理装置。
  3. 前記他の画像は、前記ミクロ計測分析演算部の演算結果に基づく画像である
    請求項2に記載の情報処理装置。
  4. 前記カラーマッピングは、前記ミクロ計測分析演算部の演算結果に基づく画像における特定の対象の部分のみに、前記マクロ計測分析演算部の分析結果である前記第1の空間分解能の単位での物性値に応じた色を割り当てる処理である
    請求項3に記載の情報処理装置。
  5. 前記出力画像データは、前記第2の計測範囲の全部又は一部を表す画像について前記第1の空間分解能の単位で補完分析結果を示した画像データである
    請求項1に記載の情報処理装置。
  6. 前記ミクロ計測分析演算部による演算結果の分解能は、前記マクロ計測分析演算部による演算結果の分解能より高い
    請求項1から請求項5のいずれかに記載の情報処理装置。
  7. 前記補完分析演算部は、
    前記第2の計測範囲について前記ミクロ計測分析演算部が分析結果として弁別した特定の対象について、前記マクロ計測分析演算部の分析結果である前記第1の空間分解能の単位での物性値を示す補完分析情報を生成する
    請求項1から請求項6のいずれかに記載の情報処理装置。
  8. 前記物性値は植物の光合成に関する情報である
    請求項7に記載の情報処理装置。
  9. 前記ミクロ計測分析演算部は、RGB画像又は植生指数に関する情報に基づいて測定対象の弁別を行う
    請求項7または請求項8に記載の情報処理装置。
  10. 前記マクロ計測部は、前記ミクロ計測部よりも前記計測対象からの距離が遠い位置でセンシングを行う
    請求項1から請求項9のいずれかに記載の情報処理装置。
  11. 前記マクロ計測部は、人工衛星に搭載されている
    請求項1から請求項10のいずれかに記載の情報処理装置。
  12. 前記ミクロ計測部は、無線操縦又は自動操縦が可能な飛行体に搭載されている
    請求項1から請求項11のいずれかに記載の情報処理装置。
  13. 前記ミクロ計測部は、ミクロ計測センサとして、可視光イメージセンサ、ステレオカメラ、レーザ画像検出及び測距のセンサ、偏光センサ、ToFセンサのいずれかを有する
    請求項1から請求項12のいずれかに記載の情報処理装置。
  14. 前記マクロ計測部は、マクロ計測センサとして、マルチスペクトラムカメラ、ハイパースペクトラムカメラ、フーリエ変換赤外分光光度計、赤外線センサのいずれかを有する
    請求項1から請求項13のいずれかに記載の情報処理装置。
  15. 外部装置から入力される前記補完分析演算部の補完分析演算プログラムを保持する保持部を有する
    請求項1から請求項14のいずれかに記載の情報処理装置。
  16. 計測対象の第1の計測範囲について第1の空間分解能でセンシングを行うマクロ計測部からの検出データについて演算を行うマクロ計測分析演算処理と、
    前記計測対象の前記第1の計測範囲に含まれる第2の計測範囲に対して前記第1の空間分解能より高い分解能である第2の空間分解能でセンシングを行うミクロ計測部からの検出データについて演算を行うミクロ計測分析演算処理と、
    前記マクロ計測分析演算処理による演算結果を前記ミクロ計測分析演算処理による演算結果を使って補完する補完分析演算を行い、補完分析情報を生成する補完分析演算処理と、
    前記補完分析情報として得られる補完分析結果をカラーマッピングした出力画像データを生成して出力する出力処理と、
    を情報処理装置が実行する情報処理方法。
  17. 計測対象の第1の計測範囲について第1の空間分解能でセンシングを行うマクロ計測部からの検出データについて演算を行うマクロ計測分析演算処理と、
    前記計測対象の前記第1の計測範囲に含まれる第2の計測範囲に対して前記第1の空間分解能より高い分解能である第2の空間分解能でセンシングを行うミクロ計測部からの検出データについて演算を行うミクロ計測分析演算処理と、
    前記マクロ計測分析演算処理による演算結果を前記ミクロ計測分析演算処理による演算結果を使って補完する補完分析演算を行い、補完分析情報を生成する補完分析演算処理と、
    前記補完分析情報として得られる補完分析結果をカラーマッピングした出力画像データを生成して出力する出力処理と、
    を情報処理装置に実行させるプログラム。
  18. 計測対象の第1の計測範囲について第1の空間分解能でセンシングを行うマクロ計測部と、
    前記計測対象の前記第1の計測範囲に含まれる第2の計測範囲に対して前記第1の空間分解能より高い分解能である第2の空間分解能でセンシングを行うミクロ計測部と、
    前記マクロ計測部からの検出データについて演算を行うマクロ計測分析演算部と、
    前記ミクロ計測部からの検出データについて演算を行うミクロ計測分析演算部と、
    前記マクロ計測分析演算部による演算結果を前記ミクロ計測分析演算部による演算結果を使って補完する補完分析演算を行い、補完分析情報を生成する補完分析演算部と、
    前記補完分析情報として得られる補完分析結果をカラーマッピングした出力画像データを生成して出力する出力部と、を備えた
    センシングシステム。
JP2019124763A 2019-07-03 2019-07-03 情報処理装置、情報処理方法、プログラム、センシングシステム Active JP7415347B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2019124763A JP7415347B2 (ja) 2019-07-03 2019-07-03 情報処理装置、情報処理方法、プログラム、センシングシステム
PCT/JP2020/025082 WO2021002279A1 (en) 2019-07-03 2020-06-25 Multi-spatial resolution measurements for generation of vegetation states
CN202080046947.XA CN114072843A (zh) 2019-07-03 2020-06-25 用于生成植被状态的多空间分辨率测量
US17/597,073 US20220254014A1 (en) 2019-07-03 2020-06-25 Information processing apparatus, information processing method, program, and sensing system
EP20739476.8A EP3994609A1 (en) 2019-07-03 2020-06-25 Multi-spatial resolution measurements for generation of vegetation states

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019124763A JP7415347B2 (ja) 2019-07-03 2019-07-03 情報処理装置、情報処理方法、プログラム、センシングシステム

Publications (2)

Publication Number Publication Date
JP2021012432A JP2021012432A (ja) 2021-02-04
JP7415347B2 true JP7415347B2 (ja) 2024-01-17

Family

ID=71575715

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019124763A Active JP7415347B2 (ja) 2019-07-03 2019-07-03 情報処理装置、情報処理方法、プログラム、センシングシステム

Country Status (5)

Country Link
US (1) US20220254014A1 (ja)
EP (1) EP3994609A1 (ja)
JP (1) JP7415347B2 (ja)
CN (1) CN114072843A (ja)
WO (1) WO2021002279A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020054394A (ja) * 2020-01-15 2020-04-09 国立研究開発法人農業・食品産業技術総合研究機構 施肥量決定装置および施肥量決定方法
DE102021200400A1 (de) 2021-01-18 2022-07-21 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren zur Erfassung von Pflanzen oder Pflanzenbestandteilen, Computerprogrammprodukt, Erfassungseinrichtung und landwirtschaftliches Fahrzeug
JP6970946B1 (ja) * 2021-03-07 2021-11-24 西日本技術開発株式会社 分布図作成装置、分布図作成方法、及び、プログラム
JP2023053705A (ja) * 2021-10-01 2023-04-13 ソニーセミコンダクタソリューションズ株式会社 スタイラス
CN113989652B (zh) * 2021-12-27 2022-04-26 中国测绘科学研究院 分层多重判定规则下的耕地变化检测方法及系统
JP7189585B1 (ja) 2022-02-07 2022-12-14 国立大学法人北海道大学 情報処理システムおよび分光計測器

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012088876A (ja) 2010-10-19 2012-05-10 Hitachi Ltd スペクトル情報抽出装置
WO2015145764A1 (ja) 2014-03-28 2015-10-01 株式会社日立製作所 画像生成システム及び画像生成方法
JP2017035055A (ja) 2015-08-12 2017-02-16 コニカミノルタ株式会社 植物生育指標測定装置、該方法および該プログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5162890B2 (ja) 2006-12-01 2013-03-13 株式会社サタケ リモートセンシングにおける補正方法
US9824276B2 (en) * 2014-04-15 2017-11-21 Open Range Consulting System and method for assessing rangeland
US10664750B2 (en) * 2016-08-10 2020-05-26 Google Llc Deep machine learning to predict and prevent adverse conditions at structural assets
CN108346143A (zh) * 2018-01-30 2018-07-31 浙江大学 一种基于无人机多源图像融合的作物病害监测方法和系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012088876A (ja) 2010-10-19 2012-05-10 Hitachi Ltd スペクトル情報抽出装置
WO2015145764A1 (ja) 2014-03-28 2015-10-01 株式会社日立製作所 画像生成システム及び画像生成方法
JP2017035055A (ja) 2015-08-12 2017-02-16 コニカミノルタ株式会社 植物生育指標測定装置、該方法および該プログラム

Also Published As

Publication number Publication date
US20220254014A1 (en) 2022-08-11
JP2021012432A (ja) 2021-02-04
CN114072843A (zh) 2022-02-18
WO2021002279A1 (en) 2021-01-07
EP3994609A1 (en) 2022-05-11

Similar Documents

Publication Publication Date Title
JP7415347B2 (ja) 情報処理装置、情報処理方法、プログラム、センシングシステム
JP7415348B2 (ja) 情報処理装置、情報処理方法、プログラム、センシングシステム
Frazer et al. Gap Light Analyzer (GLA), Version 2.0: Imaging software to extract canopy structure and gap light transmission indices from true-colour fisheye photographs, users manual and program documentation
JP7156282B2 (ja) 情報処理装置、情報処理方法、プログラム、情報処理システム
US11823447B2 (en) Information processing apparatus, information processing method, program, and information processing system
Deng et al. The effect of spatial resolution on radiometric and geometric performances of a UAV-mounted hyperspectral 2D imager
JP4950042B2 (ja) 検知システムのシミュレーティング
Crusiol et al. Reflectance calibration of UAV-based visible and near-infrared digital images acquired under variant altitude and illumination conditions
US10268889B2 (en) System for target material detection
Zhang Native vegetation classification using remote sensing techniques: A case study of dairy flat regrowth bush by using the AUT unmanned aerial vehicle
JP7218722B2 (ja) 情報処理装置、情報処理方法、プログラム
US20230408889A1 (en) Imaging apparatus and lens apparatus
Wijesingha Geometric quality assessment of multi-rotor unmanned aerial vehicle borne remote sensing products for precision agriculture
Haest et al. Radiometric calibration of digital photogrammetric camera image data
US20220319048A1 (en) Enhanced measurement of photosynthetically active radiation (par) and image conversion therefor
Um et al. Imaging Sensors
Paris Applications of remote sensing to agribusiness
Bartlett Improvement of retrieved reflectance in the presence of clouds

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220513

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20220831

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230612

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230725

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230904

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231218

R151 Written notification of patent or utility model registration

Ref document number: 7415347

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151