JP2024033962A - 分析装置、分析方法、およびプログラム - Google Patents

分析装置、分析方法、およびプログラム Download PDF

Info

Publication number
JP2024033962A
JP2024033962A JP2022137915A JP2022137915A JP2024033962A JP 2024033962 A JP2024033962 A JP 2024033962A JP 2022137915 A JP2022137915 A JP 2022137915A JP 2022137915 A JP2022137915 A JP 2022137915A JP 2024033962 A JP2024033962 A JP 2024033962A
Authority
JP
Japan
Prior art keywords
image
reference area
plant
markers
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022137915A
Other languages
English (en)
Inventor
祥宇 曾
Xiang Yu Ceng
心一 細見
Shinichi Hosomi
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2022137915A priority Critical patent/JP2024033962A/ja
Priority to PCT/JP2023/027297 priority patent/WO2024048143A1/ja
Publication of JP2024033962A publication Critical patent/JP2024033962A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A01AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
    • A01GHORTICULTURE; CULTIVATION OF VEGETABLES, FLOWERS, RICE, FRUIT, VINES, HOPS OR SEAWEED; FORESTRY; WATERING
    • A01G7/00Botany in general

Landscapes

  • Life Sciences & Earth Sciences (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Botany (AREA)
  • Ecology (AREA)
  • Forests & Forestry (AREA)
  • Environmental Sciences (AREA)
  • Image Processing (AREA)

Abstract

【課題】正確な生育情報を得ることのできる技術を提供する。【解決手段】分析装置が、植物と前記植物の周囲に予め設置された複数のマーカーとを含む範囲を複数の方向からそれぞれ撮影した複数の画像を取得する取得手段と、前記複数の画像それぞれに対し、前記複数のマーカーに基づく参照領域を設定する設定手段と、前記複数の画像それぞれの参照領域内を分析することで、前記植物の生育状態に関する情報を取得する分析手段とを有する。【選択図】図1

Description

本発明は、植物の生育状態に関する情報を取得する技術に関する。
農業に関する様々な技術が提案されており、例えば、特許文献1には、処理前の作物の撮影画像、処理後の農作物の撮影画像、および処理内容を互いに紐づけて、農業従事者の教育に利用する技術が開示されている。
植物を育てるうえで、当該植物の生育状態に関する情報(生育情報)を得ることは非常に重要である。例えば、生育情報を得ることで、植物の生育が遅れているか否かや、進み過ぎているか否かなどを容易に判断して、追肥や摘葉などの作業を好適に行うことができるようになる。
特開2021-21822号公報
しかしながら、従来は、物差しで葉の長さを測定するなど、手作業や目視で生育情報を得ていたため、生育情報を容易に得ることがでなかった。また、生育情報の正確性が不十分であり、次に行うべき適切な作業が判断できないことがあった。
本発明は、上記実情に鑑みなされたものであって、正確な生育情報を容易に得ることのできる技術を提供することを目的とする。
上記目的を達成するために、本発明は、以下の方法を採用する。
本発明の第一側面は、植物と前記植物の周囲に予め設置された複数のマーカーとを含む範囲を複数の方向からそれぞれ撮影した複数の画像を取得する取得手段と、前記複数の画像それぞれに対し、前記複数のマーカーに基づく参照領域を設定する設定手段と、前記複数の画像それぞれの参照領域内を分析することで、前記植物の生育状態に関する情報を取得する分析手段とを有することを特徴とする分析装置を提供する。
上述した構成によれば、手作業や目視などを行わずに、植物の生育状態に関する情報(生育情報)として、正確な情報を容易に得ることができる。例えば、複数の撮影画像を入力するという簡易な作業で、生育情報を容易に得ることできる。また、予め設置された複数のマーカーに基づいて参照領域を設定し、参照領域内を分析することで、生育情報が得られる。こうすることで、撮影範囲が変わっても、植物が植えられた畝などの同じ部分に着目して、正確性の高い生育情報を得ることができる。さらに、複数の方向からそれぞれ撮影した複数の画像を用いることで、或る撮影画像で葉などに隠れている別の葉や蕾、花、実などを、別の撮影画像から見つけ出して、正確性の高い生育情報を得ることができる。例えば、植物を略真上から撮影した画像には葉などで隠れて見えない部分があるが、その部分を、植物を斜めから撮影した画像で確認して、正確性の高い生育情報を得ることができる。
前記植物は、多層で葉(または蕾、花、実など)が作られる植物であるとしてもよい。そのような植物の場合は、撮影画像において、葉や蕾、花、実などが、別の葉などに隠れやすい。上述した構成によれば、そのような植物の場合にも、或る撮影画像で葉などに隠れている別の葉や蕾、花、実などを、別の撮影画像から見つけ出して、正確性の高い生育情報を得ることができる。層は、例えば、葉が展開して一回りする部分である。1/3の葉序で葉が展開する場合は、120度ずつ回るように葉が展開し、3枚の葉が展開すると一回りするため、当該3枚の葉の部分を1つの層と定義してもよい。このとき、120度の角度は、展葉角度などと呼ばれる。苺の葉は、通常、3枚の小葉と葉柄からなり、2/5の葉序(展葉角度144度)で冠部に着生し、上から見たときに1番目の葉と6番目の葉が重なる。そのため、1番目の葉から5番目の葉までを1層目の葉と定義し、6番目の葉から2層目の葉と定義してもよい。
前記複数の画像は、地面に対する角度が略90度の方向から撮影した第1の画像と、前記第1の画像とは異なる角度で撮影した第2の画像とを含み、前記分析手段は、前記第1の画像の参照領域内を分析することで、葉の面積の合計値である葉面積を判断し、前記第2の画像の参照領域内を分析することで、葉が形成する層の数を判断し、前記層の数に基づいて、前記葉面積を調整するとしてもよい。第1の画像は、植物を略真上から撮影した画像と捉えてもよい。第2の画像は、植物を斜めから撮影した画像と捉えてもよい。第1の画像からは、葉などに隠れている別の葉の面積を得ることができないため、正確性の高い葉面積が得られないことがある。また、第1の画像からは、葉が形成する層の数を高精度に判断することはできない。一方で、第2の画像からは層の数を高精度に判断することができる。第2の画像から高精度に判断された層の数を活用して、第1の画像から判断された葉面積を調整することで、正確性の高い葉面積を得ることができる。
前記複数の画像は、地面に対する角度が略90度の方向から撮影した第1の画像と、前記第1の画像とは異なる角度で撮影した第2の画像とを含み、前記第1の画像の参照領域から、花、実、または蕾である対象物を検出し、前記第2の画像の参照領域から、前記第1の画像に写っていない前記対象物を検出し、前記第1の画像から検出された前記対象物の数に、前記第2の画像から検出された前記対象物の数を加算して、前記参照領域内の対象物の数を判断するとしてもよい。第1の画像からは、葉などに(一部または全体が)隠れている対象物を検出できないが、そのような対象物は第2の画像から検出することができる。第1の画像から検出された対象物だけでなく、第2の画像から検出された対象物(第1の画像からは検出できない対象物)を加味することで、対象物の数として、正確性の高い値を得ることができる。
前記複数の画像は、前記複数のマーカーで指定された畝の略真上から撮影した第1の画像と、前記畝の所定の側から撮影した第2の画像とを含み、前記設定手段は、前記第2の画像の参照領域として、前記複数のマーカーから前記所定の側の参照領域を設定するとしてもよい。このような第2の画像では、複数のマーカーで囲まれた領域よりも、複数のマーカーから所定の側(第2の画像を撮影する際のカメラの位置から見て手前側)の領域の方が、葉が形成する層がよく(明りょう)に写る。そのため、複数のマーカーから所定の側の参照領域を設定することにより、当該参照領域内を分析して、層の数を高精度に判断することができるようになる。
前記マーカーは、複数の色を有するとしてもよい。こうすることで、マーカーを目立たせることができる。マーカーが目立つことで、撮影画像からマーカーを精度良く検出することができ、ひいては参照領域を精度良く設定することができる。例えば、前記複数の色は、黒と赤を含むとしてもよい。こうすることで、地面の土が明るかったり、地面の上に白色などの明るいビニールが敷かれていたりし、マーカーの周辺に植物の葉(緑)が多く存在する場合などおいても、マーカーを目立たせることができる。
前記複数のマーカーは、第1の態様のマーカーと、前記第1の態様とは異なる第2の態様のマーカーとを含むとしてもよい。こうすることで、撮影画像における複数のマーカーの並びから、当該撮影画像の撮影方向を判断することができる。
前記マーカーは、前記植物が到達しない高さに設置されるとしてもよい。こうすることで、撮影画像においてマーカーが植物に隠れることがなくなるため、撮影画像からマーカーを精度良く検出することができ、ひいては参照領域を精度良く設定することができる。
前記マーカーは、円、円環、中心が同じ円と円環の組み合わせ、または中心が同じ複数の円環の組み合わせであるとしてもよい。こうすることで、マーカーの向きを考慮しないシンプルなアルゴリズムで、撮影画像からマーカーを検出することができる。
撮影画像における複数のマーカーの間隔と、複数のマーカーの実際の間隔との比は、撮影画像における植物の各部のサイズと、植物の各部の実際のサイズとの比に対応する。そのため、前記分析手段は、前記画像における前記複数のマーカーの間隔に基づいて、前記画像における前記植物の各部のサイズから、前記植物の各部の実際のサイズを判断するとしてもよい。こうすることで、植物の各部の実際のサイズの情報として、正確性の高い情報を得ることができる。
植物の部位の特徴がよく現れる範囲は、部位に依存する。例えば、苺の場合には、花は畝全体に咲き、実は畝の下側(脇)にできる。そのため、前記設定手段は、前記複数の画像それぞれに対し、前記複数のマーカーとの位置関係が互いに異なる複数の参照領域を設定し、前記分析手段は、前記位置関係ごとに、前記複数の画像それぞれの参照領域内を分析し、前記位置関係ごとの分析結果を総合して、前記生育状態に関する情報を取得するとしてもよい。こうすることで、植物の部位の特徴の現れ方を想定して、正確性の高い生育情報を得ることができる。
前記生育状態に関する情報は、栄養成長に関する情報を含むとしてもよい。前記生育状態に関する情報は、生殖成長に関する情報を含むとしてもよい。栄養成長は、茎や葉などを作る成長であり、生殖成長は蕾や花、実などを作る成長である。前記分析手段は、前記参照領域から、葉、蕾、花、および実の少なくともいずれかを検出するとしてもよい。
前記複数の画像は、地面に対する角度が略90度の方向から撮影した第1の画像、前記角度が90度よりも小さい方向から撮影した第3の画像、および前記角度が90度よりも大きい方向から撮影した第4の画像を含むとしてもよい。前記第3の画像は、前記角度が略45度の方向から撮影した画像であり、前記第4の画像は、前記角度が略135度の方向から撮影した画像であるとしてもよい。前記第4の画像は、前記植物が植えられた畝の第1の側から撮影した画像であり、前記第4の画像は、前記畝の、前記第1の側とは反対の第2の側から撮影した画像であるとしてもよい。第1の画像からは、上側の葉や蕾、花、実(隠れていない葉や蕾、花、実)を高精度に検出することができる。また、第1の画像からは、葉などのサイズを高精度に算出することができる。第3の画像と第4の画像とからは、下側の葉や蕾、花、実(第1の画像で葉などに隠れている別の葉や蕾、花、実)を高精度に検出することができる。また、第3の画像と第4の画像とからは、葉などが形成している層の数を高精度に判断することができる。第3の画像と第4の画像のそれぞれは、上述した第2の画像の一例である。
前記設定手段は、前記第1の画像に対して、前記複数のマーカーに囲まれた第1の参照領域、前記複数のマーカーから前記第1の側の第2の参照領域、および前記複数のマーカーから前記第2の側の第3の参照領域を設定し、前記第3の画像に対して、前記第1の参
照領域および前記第2の参照領域を設定し、前記第4の画像に対して、前記第1の参照領域および前記第3の参照領域を設定するとしてもよい。第3の画像において、第3の参照領域(対象の植物の奥側)は、対象の植物の部位が大きく写らなかったり、他の植物が写ったりする。つまり、第3の画像において、第3の参照領域内の情報は信頼度が低い。同様に、第4の画像において、第2の参照領域内の情報は信頼度が低い。得られる情報の信頼度が低い参照領域を設定しないようにすることで、正確性の高い生育情報を得ることができる。
本発明の第二側面は、植物と前記植物の周囲に予め設置された複数のマーカーとを含む範囲を複数の方向からそれぞれ撮影した複数の画像を取得するステップと、前記複数の画像それぞれに対し、前記複数のマーカーに基づく参照領域を設定するステップと、前記複数の画像それぞれの参照領域内を分析することで、前記植物の生育状態に関する情報を取得するステップとを有することを特徴とする分析方法を提供する。
なお、本発明は、上記構成ないし機能の少なくとも一部を有する分析装置または分析システムとして捉えることができる。また、本発明は、上記処理の少なくとも一部を含む分析方法または分析システムの制御方法や、これらの方法をコンピュータに実行させるためのプログラム、または、そのようなプログラムを非一時的に記録したコンピュータ読取可能な記録媒体として捉えることもできる。上記構成および処理の各々は技術的な矛盾が生じない限り互いに組み合わせて本発明を構成することができる。
本発明によれば、正確な生育情報を得ることができる。
図1は、本発明が適用された分析装置の構成例を示すブロック図である。 図2は、葉が形成する層の一例を示す模式図である。 図3は、本発明の実施形態に係る分析システムの構成例を示すブロック図である。 図4は、本発明の実施形態に係る撮影の様子とマーカーの一例を示す模式図である。 図5は、本発明の実施形態に係る撮影画像の一例を示す模式図である。 図6は、本発明の実施形態に係るPCの処理フロー例を示すフローチャートである。
<適用例>
本発明の適用例について説明する。
植物を育てるうえで、当該植物の生育状態に関する情報(生育情報)を得ることは非常に重要である。例えば、生育情報を得ることで、植物の生育が遅れているか否かや、進み過ぎているか否かなどを容易に判断して、追肥や摘葉などの作業を好適に行うことができるようになる。しかしながら、従来は、物差しで葉の長さを測定するなど、手作業や目視で生育情報を得ていたため、生育情報を容易に得ることができなかった。また、生育情報の正確性が不十分であり、次に行うべき適切な作業が判断できないことがあった。
図1は、本発明が適用された分析装置100の構成例を示すブロック図である。分析装置100は、取得部101、設定部102、および分析部103を有する。取得部101は、植物と当該植物の周囲に予め設置された複数のマーカーとを含む範囲を複数の方向からそれぞれ撮影した複数の画像を取得する。設定部102は、取得部101によって取得
された複数の画像それぞれに対し、複数のマーカーに基づく参照領域を設定する。分析部103は、取得部101によって取得された複数の撮影画像それぞれの参照領域内を分析することで、植物の生育状態に関する情報(生育情報)を取得する。取得部101は取得手段の一例であり、設定部102は設定手段の一例であり、分析部103は分析手段の一例である。
上述した構成によれば、手作業や目視などを行わずに、植物の生育状態に関する情報(生育情報)として、正確な情報を容易に得ることができる。例えば、複数の撮影画像を入力するという簡易な作業で、生育情報を容易に得ることできる。また、予め設置された複数のマーカーに基づいて参照領域を設定し、参照領域内を分析することで、生育情報が得られる。こうすることで、撮影範囲が変わっても、植物が植えられた畝などの同じ部分に着目して、正確性の高い生育情報を得ることができる。さらに、複数の方向からそれぞれ撮影した複数の画像を用いることで、或る撮影画像で葉などに隠れている別の葉や蕾、花、実などを、別の撮影画像から見つけ出して、正確性の高い生育情報を得ることができる。例えば、植物を略真上から撮影した画像には葉などで隠れて見えない部分があるが、その部分を、植物を斜めから撮影した画像で確認して、正確性の高い生育情報を得ることができる。
ここで、植物は、多層で葉(または蕾、花、実など)が作られる植物であるとしてもよく、例えば広葉多段葉序型植物であってもよい。広葉多段葉序型植物は、幅の広い葉(広葉)が作られる植物であり、茎が地面から上に伸び、茎に複数の節が作られ、各節で葉(または蕾、花、実など)が作られる植物である。「広葉」は、幅の広い葉を意味し、「多段葉序」は、上に伸びる茎の各節で作られる葉などの並びを意味する。多層で葉などが作られる植物の場合は、撮影画像において、葉や蕾、花、実などが、別の葉などに隠れやすい。上述した図1の構成によれば、そのような植物の場合にも、或る撮影画像で葉などに隠れている別の葉や蕾、花、実などを、別の撮影画像から見つけ出して、正確性の高い生育情報を得ることができる。層は、例えば、葉が展開して一回りする部分である。1/3の葉序で葉が展開する場合は、120度ずつ回るように葉が展開し、3枚の葉が展開すると一回りするため、当該3枚の葉の部分を1つの層と定義してもよい。このとき、120度の角度は、展葉角度などと呼ばれる。図2に示すように、苺の葉は、通常、3枚の小葉と葉柄からなり、2/5の葉序(展葉角度144度)で冠部に着生し、上から見たときに1番目の葉と6番目の葉が重なる。そのため、1番目の葉から5番目の葉までを1層目の葉と定義し、6番目の葉から2層目の葉と定義してもよい。
取得部101が取得する複数の画像は、地面に対する角度が略90度の方向から撮影した第1の画像と、第1の画像とは異なる角度で撮影した第2の画像とを含むとしてもよい。そして、分析部103は、第1の画像の参照領域内を分析することで、葉の面積の合計値である葉面積を判断し、第2の画像の参照領域内を分析することで、葉が形成する層の数を判断し、層の数に基づいて、葉面積を調整するとしてもよい。第1の画像は、植物を略真上から撮影した画像と捉えてもよい。第2の画像は、植物を斜めから撮影した画像と捉えてもよい。第1の画像からは、葉などに隠れている別の葉の面積を得ることができないため、正確性の高い葉面積が得られないことがある。また、第1の画像からは、葉が形成する層の数を高精度に判断することはできない。一方で、第2の画像からは層の数を高精度に判断することができる。第2の画像から高精度に判断された層の数を活用して、第1の画像から判断された葉面積を調整することで、正確性の高い葉面積を得ることができる。
分析部103は、第1の画像の参照領域から、花、実、または蕾である対象物を検出し、第2の画像の参照領域から、第1の画像に写っていない対象物を検出してもよい。そして、分析部103は、第1の画像から検出された対象物の数に、第2の画像から検出され
た対象物の数を加算して、参照領域内の対象物の数を判断するとしてもよい。第1の画像からは、葉などに(一部または全体が)隠れている対象物を検出できないが、そのような対象物は第2の画像から検出することができる。第1の画像から検出された対象物だけでなく、第2の画像から検出された対象物(第1の画像からは検出できない対象物)を加味することで、対象物の数として、正確性の高い値を得ることができる。
第1の画像は、複数のマーカーで指定された畝の略真上から撮影した画像と捉えてもよい。第2の画像は、畝の所定の側から撮影した画像と捉えてもよい。設定部102は、第2の画像の参照領域として、複数のマーカーから所定の側の参照領域を設定するとしてもよい。このような第2の画像では、複数のマーカーで囲まれた領域よりも、複数のマーカーから所定の側(第2の画像を撮影する際のカメラの位置から見て手前側)の領域の方が、葉が形成する層がよく(明りょう)に写る。そのため、複数のマーカーから所定の側の参照領域を設定することにより、当該参照領域内を分析して、層の数を高精度に判断することができるようになる。
<実施形態>
本発明の実施形態について説明する。
図3は、本実施形態に係る分析システムの構成例を示すブロック図である。分析システムは、カメラ30(撮像装置)とPC300(パーソナルコンピュータ;分析装置)を有する。カメラ30とPC300は有線または無線で互いに接続される。カメラ30は、植物を撮影するために使用される。PC300は、カメラ30の撮影画像を分析し、分析結果を出力する。分析結果は、例えば表示部に表示されたり、記憶部に格納されたりする。
なお、カメラ30は固定されていなくてもよく、持ち運び可能なカメラであってもよい。本実施形態ではPC300がカメラ30とは別体の装置であるものとするが、PC300はカメラ30に内蔵されてもよい。上述した表示部や記憶部は、PC300の一部であってもよいし、そうでなくてもよい。また、PC300の設置場所は特に限定されない。例えば、PC300はカメラ30と同じ部屋に設置されてもよいし、そうでなくてもよい。PC300はクラウド上のコンピュータであってもよいし、そうでなくてもよい。PC300は、スマートフォンやタブレットなどであってもよい。
PC300は、入力部310、制御部320、記憶部330、および出力部340を有する。入力部310は、カメラ30の撮影画像を取得し、制御部320へ出力する。制御部320は、CPU(Central Processing Unit)やRAM(Random Access Memory)、ROM(Read Only Memory)などを含み、各構成要素の制御や、各種情報処理などを行う。本実施形態では、制御部320は、カメラ30の撮影画像を分析し、分析結果を出力部340へ出力する。記憶部330は、制御部320で実行されるプログラムや、制御部320で使用される各種データなどを記憶する。例えば、記憶部330は、ハードディスクドライブやソリッドステートドライブなどの補助記憶装置である。出力部340は、撮影画像の分析結果を制御部320から取得し、表示部や記憶部などへ出力する。
制御部320について、より詳細に説明する。制御部320は、取得部321、設定部322、および分析部323を有する。
取得部321は、カメラ30の撮影画像を入力部310から取得し、設定部322へ出力する。本実施形態では、植物と当該植物の周囲に予め設置された複数のマーカーとを含む範囲を複数の方向からそれぞれ撮影した複数の画像が取得される。取得部321は取得手段の一例である。
マーカーは、複数の色を有するとしてもよい。こうすることで、マーカーを目立たせることができる。マーカーが目立つことで、撮影画像からマーカーを精度良く検出することができ、ひいては参照領域を精度良く設定することができる。例えば、複数の色は、黒と赤を含むとしてもよい。こうすることで、地面の土が明るかったり、地面の上に白色などの明るいビニールが敷かれていたりし、マーカーの周辺に植物の葉(緑)が多く存在する場合などおいても、マーカーを目立たせることができる。
複数のマーカーは、第1の態様のマーカー、および第1の態様とは異なる第2の態様のマーカーを含むとしてもよい。こうすることで、撮影画像における複数のマーカーの並びから、当該撮影画像の撮影方向を判断することができる。
マーカーは、植物が到達しない高さに設置されるとしてもよい。こうすることで、撮影画像においてマーカーが植物に隠れることがなくなるため、撮影画像からマーカーを精度良く検出することができ、ひいては参照領域を精度良く設定することができる。
マーカーは、円、円環、中心が同じ円と円環の組み合わせ、または中心が同じ複数の円環の組み合わせであるとしてもよい。こうすることで、マーカーの向きを考慮しないシンプルなアルゴリズムで、撮影画像からマーカーを検出することができる。
マーカーの数は特に限定されないが、本実施形態では、図4に示すように2行2列の4つのマーカー41~44が予め設置されているとする。マーカー41,42は、黒い円を赤い円環と黒い円環で囲んだ態様を有し、マーカー43,44は、赤い円を黒い円環で囲んだ態様を有する。
撮影画像の数や、撮影方向などは特に限定されないが、本実施形態では、取得部321は、以下の3つの撮影画像を取得するとする。なお、第3の画像と第4の画像の両方を取得してもよいが、第3の画像と第4の画像の一方のみを取得してもよい。つまり、第1の画像と第3の画像との2枚の画像を取得してもよいし、第1の画像と第4の画像との2枚の画像を取得してもよい。第3の画像と第4の画像のそれぞれは、上述した第2の画像の一例である。
・地面に対する角度(撮影角度)が略90度の方向から撮影した第1の画像
・撮影角度が90度よりも小さい方向から撮影した第3の画像
・撮影角度が90度よりも大きい方向から撮影した第4の画像
本実施形態では、第3の画像は、撮影角度が略45度の方向から撮影した画像であり、第4の画像は、撮影角度が略135度の方向から撮影した画像であるとする。換言すれば、第3の画像は、植物が植えられた畝の第1の側(手前側)から撮影した画像であり、第4の画像は、畝の、第1の側とは反対の第2の側(奥側)から撮影した画像である。図4には、撮影の様子も示されている。図5に、第1の画像の一例である撮影画像51、第3の画像の一例である撮影画像52、および第4の画像の一例である撮影画像53を示す。
第1の画像からは、上側の葉や蕾、花、実(隠れていない葉や蕾、花、実)を高精度に検出することができる。また、第1の画像からは、葉などのサイズを高精度に算出することができる。第3の画像と第4の画像とからは、下側の葉や蕾、花、実(第1の画像で葉などに隠れている別の葉や蕾、花、実)を高精度に検出することができる。また、第3の画像と第4の画像とからは、葉などが形成している層の数を高精度に判断することができる。
設定部322は、取得部321によって取得された複数の撮影画像それぞれに対し、複
数のマーカーに基づく参照領域を設定し、複数の撮影画像と、各撮影画像に設定した参照領域の情報とを、分析部323へ出力する。例えば、設定部322は、撮影画像から複数のマーカーを検出し、複数のマーカーで囲まれた領域を参照領域として設定する。設定部322は設定手段の一例である。
分析部323は、取得部321によって取得された複数の撮影画像それぞれの参照領域内を分析することで、植物の生育状態に関する情報(生育情報)を取得する。そして、分析部323は、生育情報を出力部340へ出力する。生育情報は、栄養成長に関する情報を含むとしてもよいし、生殖成長に関する情報を含むとしてもよい。栄養成長は、茎や葉などを作る成長であり、生殖成長は蕾や花、実などを作る成長である。分析部323は、参照領域から、葉、蕾、花、および実の少なくともいずれかを検出するとしてもよい。生育情報は、葉の数や、蕾の数、花の数、実の数、葉の状態(サイズなど)、蕾の状態、花の状態、実の状態、それらの時間変化(時間変化率)などであってもよいし、植物の生育が遅れているか否かや、進み過ぎているか否かなどを示す指標(レベル)であってもよいし、他の情報であってもよい。制御部320(例えば分析部323)は、生育情報から、次に行うべき作業などを判断してもよい。
撮影画像における複数のマーカーの間隔と、複数のマーカーの実際の間隔との比は、撮影画像における植物の各部(葉や蕾、花、実など)のサイズと、植物の各部の実際のサイズとの比に対応する。そのため、分析部323は、撮影画像における複数のマーカーの間隔に基づいて、撮影画像における植物の各部のサイズから、植物の各部の実際のサイズを判断するとしてもよい。こうすることで、植物の各部の実際のサイズの情報として、正確性の高い情報を得ることができる。
植物の部位の特徴がよく現れる範囲は、部位に依存する。例えば、苺の場合には、花は畝全体に咲き、実は畝の下側(脇)にできる。そのため、設定部322は、複数の撮影画像それぞれに対し、複数のマーカーとの位置関係が互いに異なる複数の参照領域を設定してもよい。そして、分析部323は、上記の位置関係ごとに、複数の撮影画像それぞれの参照領域内を分析し、位置関係ごとの分析結果を総合して、生育情報を取得するとしてもよい。こうすることで、植物の部位の特徴の現れ方を想定して、正確性の高い生育情報を得ることができる。例えば、実の分布が適切か否かに関する情報として、正確性の高い情報を得ることができる。
設定部322は、図5に示すように参照領域を設定してもよい。図5では、撮影画像51(撮影角度が略90度である第1の画像)に対して、第1の参照領域54、第2の参照領域55、および第3の参照領域56が設定されている。撮影画像52(撮影角度が90度よりも小さい(略45度である)第3の画像)に対しては、第3の参照領域56は設定されておらず、第1の参照領域54および第2の参照領域55が設定されている。そして、撮影画像53(撮影角度が90度よりも大きい(略135度である)第4の画像)に対しては、第2の参照領域55は設定されておらず、第1の参照領域54および第3の参照領域56が設定されている。
第1の参照領域54は、複数のマーカーに囲まれた領域、具体的には4つのマーカー41~44を頂点とする四角形の領域である。第2の参照領域55は、複数のマーカーから第1の側(畝の手前側)の領域、具体的にはマーカー41とマーカー44を通る直線、マーカー42とマーカー43を通る直線、マーカー41とマーカー42を通る直線、および撮影画像の下辺に囲まれた領域である。第3の参照領域56は、複数のマーカーから第2の側(畝の奥側)の領域、具体的にはマーカー41とマーカー44を通る直線、マーカー42とマーカー43を通る直線、マーカー43とマーカー44を通る直線、および撮影画像の上端に囲まれた領域である。
撮影画像52(第3の画像)において、第3の参照領域56(対象の植物の奥側)は、対象の植物の部位が大きく写らなかったり、他の植物(隣の畝に植えられた植物など)が写ったりする。つまり、撮影画像52において、第3の参照領域56内の情報は信頼度が低い。同様に、撮影画像53(第4の画像)において、第2の参照領域55内の情報は信頼度が低い。得られる情報の信頼度が低い参照領域を設定しないようにすることで、正確性の高い生育情報を得ることができる。
図6は、PC300の処理フロー例を示すフローチャートである。
まず、取得部321は、カメラ30の撮影画像を入力部310から取得する(ステップS601)。例えば、図5の撮影画像51~53が取得される。
次に、設定部322は、ステップS601で取得された撮影画像から、複数のマーカーを検出する(ステップS602)。例えば、図5の撮影画像51~53それぞれから、マーカー41~44が検出される。
次に、設定部322は、ステップS602で検出したマーカーに基づいて、撮影画像に対して参照領域を設定する(ステップS603)。例えば、図5の撮影画像51に対して第1の参照領域54、第2の参照領域55、および第3の参照領域56が設定される。そして、撮影画像52に対して第1の参照領域54と第2の参照領域55が設定され、撮影画像53に対して第1の参照領域54と第3の参照領域56が設定される。
次に、分析部323は、ステップS603で設定された参照領域内を分析することで、生育情報を取得する(ステップS604)。
ステップS604の処理について、図5を参照して具体的に説明する。なお、以下の処理はあくまで一例であり、得たい情報などに依って適宜変更され得る。
まず、葉面積(葉の面積の合計値)の判断方法について説明する。
例えば、分析部323は、撮影画像51の第1の参照領域54内を解析して、第1の参照領域54の葉面積を算出(判断)する。例えば、緑の領域を画像処理で特定し、特定した領域の総面積(総画素数など)を葉面積として算出してもよい。画像処理では、例えば、RGB信号のうちのG信号の強度が所定値以上の領域が、緑の領域として特定される。葉面積の算出方法はこれに限られず、提案されている様々な方法で葉面積を算出してよい。
しかし、撮影画像51の第1の参照領域54内を解析して判断される葉面積は、撮影画像51の第1の参照領域54に写っている葉の面積であり、当該葉面積では、撮影画像51で葉などに隠れている別の葉の面積は考慮されていない。分析部323は、隠れている葉の面積を考慮するために、撮影画像52,53の少なくとも一方を用いる。ここでは、撮影画像52,53の両方を用いるとする。
分析部323は、撮影画像52の第1の参照領域54内を解析して、葉が形成している層の数を判断する。例えば、葉が層を形成している様子を表す所定のテンプレートを用いたマッチングにより層を検出して、層の数を判断してもよい。上述したように、1層あたりの葉の枚数は展葉角度によって決まり、展葉角度は植物の品目ごとに予め決まっている。そのため、マッチングでは、展葉角度ごと(品目ごと)に異なるテンプレートが使用される。同様に、分析部323は、撮影画像53の第1の参照領域54内を解析して、葉が
形成している層の数を判断する。そして、分析部323は、判断した層数(2つの層数の少なくともいずれか)に基づいて、撮影画像51の第1の参照領域54内を解析して判断した葉面積を調整することにより、第1の参照領域54の最終的な葉面積を取得する。例えば、分析部323は、判断した2つの層数の平均値(平均層数)を、撮影画像51の第1の参照領域54内を解析して判断した葉面積(真上葉面積)に乗算し、第1の参照領域54の最終的な葉面積を算出してもよい。分析部323は、真上葉面積に、平均層数と、植物種に応じた計数(1未満)とを乗算することにより、第1の参照領域54の最終的な葉面積を算出してもよい。
次に、分析部323は、撮影画像51の第2の参照領域55内を解析して、第2の参照領域55の葉面積を算出(判断)する。また、分析部323は、撮影画像52の第2の参照領域55内を解析して、葉が形成している層の数を判断する。そして、分析部323は、判断した層数を、撮影画像51の第2の参照領域55内を解析して判断した葉面積に乗算し、第2の参照領域55の最終的な葉面積を算出する。
同様に、分析部323は、撮影画像51の第3の参照領域56内を解析して、第3の参照領域56の葉面積を算出(判断)する。また、分析部323は、撮影画像53の第3の参照領域56内を解析して、葉が形成している層の数を判断する。そして、分析部323は、判断した層数を、撮影画像51の第3の参照領域56内を解析して判断した葉面積に乗算し、第3の参照領域56の最終的な葉面積を算出する。
なお、撮影画像52の第2の参照領域55には、植物の横側の端部が写るため、撮影画像52や撮影画像53の第1の参照領域54よりも、葉が形成する層がよく(明りょうに)写る。したがって、撮影画像52の第2の参照領域55内を解析して判断した層数(第2の層数)の信頼度は、撮影画像52や撮影画像53の第1の参照領域54内を解析して判断した層数(第1の層数)の信頼度よりも高い。そこで、第2の層数が第1の層数と異なる場合には、それらに基づいて第1の参照領域54を調整してもよい。例えば、第1の参照領域54の葉面積(上述した最終的な葉面積)に、第1の層数に対する第2の層数の割合(第2の層数/第1の層数)を乗算してもよい。
同様に、撮影画像53の第3の参照領域56には、植物の横側の端部が写るため、撮影画像52や撮影画像53の第1の参照領域54よりも、葉が形成する層がよく(明りょうに)写る。したがって、撮影画像53の第3の参照領域56内を解析して判断した層数(第3の層数)の信頼度は、撮影画像52や撮影画像53の第1の参照領域54内を解析して判断した層数(第1の層数)の信頼度よりも高い。そこで、第3の層数が第1の層数と異なる場合には、それらに基づいて第1の参照領域54を調整してもよい。例えば、第1の参照領域54の葉面積(上述した最終的な葉面積)に、第1の層数に対する第3の層数の割合(第3の層数/第1の層数)を乗算してもよい。
また、分析部323は、第1の参照領域54の葉面積、第2の参照領域55の葉面積、および第3の参照領域56の葉面積の合計値を算出してもよい。
次に、蕾の数の判断方法について説明する。花や実などの数も、同様の方法で判断できる。
例えば、分析部323は、撮影画像51の第1の参照領域54、撮影画像52の第1の参照領域54、および撮影画像53の第1の参照領域54から、蕾の候補を検出する。そして、分析部323は、マッチングを行い、撮影画像51~53の全てから検出された蕾の候補を、蕾として判断する。さらに、分析部323は、マッチングで蕾と判断されなかった候補のうち、信頼度(蕾らしさ)が閾値以上の候補を、蕾として判断する。判断した
蕾の数が、第1の参照領域54の蕾の数である。
同様に、分析部323は、撮影画像51の第2の参照領域55と、撮影画像52の第2の参照領域55とから、蕾の候補を検出する。そして、分析部323は、マッチングを行い、撮影画像51と撮影画像52の両方から検出された蕾の候補を、蕾として判断する。さらに、分析部323は、マッチングで蕾と判断されなかった候補のうち、信頼度(蕾らしさ)が閾値以上の候補を、蕾として判断する。判断した蕾の数が、第2の参照領域55の蕾の数である。
同様に、分析部323は、撮影画像51の第3の参照領域56と、撮影画像53の第3の参照領域56とから、蕾の候補を検出する。そして、分析部323は、マッチングを行い、撮影画像51と撮影画像53の両方から検出された蕾の候補を、蕾として判断する。さらに、分析部323は、マッチングで蕾と判断されなかった候補のうち、信頼度(蕾らしさ)が閾値以上の候補を、蕾として判断する。判断した蕾の数が、第3の参照領域56の蕾の数である。
なお、分析部323は、第1の参照領域54の蕾の数、第2の参照領域55の蕾の数、および第3の参照領域56の蕾の数の合計値を算出してもよい。
図6の説明に戻る。ステップS604の次に、出力部340は、ステップS604の分析の結果(例えば生育情報)を、表示部や記憶部などへ出力する(ステップS605)。
以上述べたように、本実施形態によれば、手作業や目視などを行わずに、植物の生育状態に関する情報(生育情報)として、正確な情報を容易に得ることができる。例えば、複数の撮影画像を入力するという簡易な作業で、生育情報を容易に得ることできる。また、予め設置された複数のマーカーに基づいて参照領域を設定し、参照領域内を分析することで、生育情報が得られる。こうすることで、撮影範囲が変わっても、植物が植えられた畝などの同じ部分に着目して、正確性の高い生育情報を得ることができる。さらに、複数の方向からそれぞれ撮影した複数の画像を用いることで、或る撮影画像で葉などに隠れている別の葉や蕾、花、実などを、別の撮影画像から見つけ出して、正確性の高い生育情報を得ることができる。例えば、植物を略真上から撮影した画像には葉などで隠れて見えない部分があるが、その部分を、植物を斜めから撮影した画像で確認して、正確性の高い生育情報を得ることができる。
<その他>
上記実施形態は、本発明の構成例を例示的に説明するものに過ぎない。本発明は上記の具体的な形態には限定されることはなく、その技術的思想の範囲内で種々の変形が可能である。
<付記1>
植物と前記植物の周囲に予め設置された複数のマーカーとを含む範囲を複数の方向からそれぞれ撮影した複数の画像を取得する取得手段(101,321)と、
前記複数の画像それぞれに対し、前記複数のマーカーに基づく参照領域を設定する設定手段(102,322)と、
前記複数の画像それぞれの参照領域内を分析することで、前記植物の生育状態に関する情報を取得する分析手段(103,323)と
を有することを特徴とする分析装置(100,300)。
植物と前記植物の周囲に予め設置された複数のマーカーとを含む範囲を複数の方向からそれぞれ撮影した複数の画像を取得するステップ(S601)と、
前記複数の画像それぞれに対し、前記複数のマーカーに基づく参照領域を設定するステップ(S603)と、
前記複数の画像それぞれの参照領域内を分析することで、前記植物の生育状態に関する情報を取得するステップ(S604)と
を有することを特徴とする分析方法。
100:分析装置 101:取得部 102:設定部 103:分析部
300:PC(分析装置)
310:入力部 320:制御部 330:記憶部 340:出力部
321:取得部 322:設定部 323:分析部
30:カメラ 41~44:マーカー 51~53:撮影画像
54:第1の参照領域 55:第2の参照領域 56:第3の参照領域

Claims (21)

  1. 植物と前記植物の周囲に予め設置された複数のマーカーとを含む範囲を複数の方向からそれぞれ撮影した複数の画像を取得する取得手段と、
    前記複数の画像それぞれに対し、前記複数のマーカーに基づく参照領域を設定する設定手段と、
    前記複数の画像それぞれの参照領域内を分析することで、前記植物の生育状態に関する情報を取得する分析手段と
    を有することを特徴とする分析装置。
  2. 前記植物は、多層で葉が作られる植物である
    ことを特徴とする請求項1に記載の分析装置。
  3. 前記複数の画像は、地面に対する角度が略90度の方向から撮影した第1の画像と、前記第1の画像とは異なる角度で撮影した第2の画像とを含み、
    前記分析手段は、
    前記第1の画像の参照領域内を分析することで、葉の面積の合計値である葉面積を判断し、
    前記第2の画像の参照領域内を分析することで、葉が形成する層の数を判断し、
    前記層の数に基づいて、前記葉面積を調整する
    ことを特徴とする請求項1または2に記載の分析装置。
  4. 前記複数の画像は、地面に対する角度が略90度の方向から撮影した第1の画像と、前記第1の画像とは異なる角度で撮影した第2の画像とを含み、
    前記第1の画像の参照領域から、花、実、または蕾である対象物を検出し、
    前記第2の画像の参照領域から、前記第1の画像に写っていない前記対象物を検出し、
    前記第1の画像から検出された前記対象物の数に、前記第2の画像から検出された前記対象物の数を加算して、前記参照領域内の対象物の数を判断する
    ことを特徴とする請求項1または2に記載の分析装置。
  5. 前記複数の画像は、前記複数のマーカーで指定された畝の略真上から撮影した第1の画像と、前記畝の所定の側から撮影した第2の画像とを含み、
    前記設定手段は、前記第2の画像の参照領域として、前記複数のマーカーから前記所定の側の参照領域を設定する
    ことを特徴とする請求項1または2に記載の分析装置。
  6. 前記マーカーは、複数の色を有する
    ことを特徴とする請求項1または2に記載の分析装置。
  7. 前記複数の色は、黒と赤を含む
    ことを特徴とする請求項6に記載の分析装置。
  8. 前記複数のマーカーは、第1の態様のマーカーと、前記第1の態様とは異なる第2の態様のマーカーとを含む
    ことを特徴とする請求項1または2に記載の分析装置。
  9. 前記マーカーは、前記植物が到達しない高さに設置される
    ことを特徴とする請求項1または2に記載の分析装置。
  10. 前記マーカーは、円、円環、中心が同じ円と円環の組み合わせ、または中心が同じ複数
    の円環の組み合わせである
    ことを特徴とする請求項1または2に記載の分析装置。
  11. 前記分析手段は、前記画像における前記複数のマーカーの間隔に基づいて、前記画像における前記植物の各部のサイズから、前記植物の各部の実際のサイズを判断する
    ことを特徴とする請求項1または2に記載の分析装置。
  12. 前記設定手段は、前記複数の画像それぞれに対し、前記複数のマーカーとの位置関係が互いに異なる複数の参照領域を設定し、
    前記分析手段は、
    前記位置関係ごとに、前記複数の画像それぞれの参照領域内を分析し、
    前記位置関係ごとの分析結果を総合して、前記生育状態に関する情報を取得する
    ことを特徴とする請求項1または2に記載の分析装置。
  13. 前記生育状態に関する情報は、栄養成長に関する情報を含む
    ことを特徴とする請求項1または2に記載の分析装置。
  14. 前記生育状態に関する情報は、生殖成長に関する情報を含む
    ことを特徴とする請求項1または2に記載の分析装置。
  15. 前記分析手段は、前記参照領域から、葉、蕾、花、および実の少なくともいずれかを検出する
    ことを特徴とする請求項1または2に記載の分析装置。
  16. 前記複数の画像は、地面に対する角度が略90度の方向から撮影した第1の画像、前記角度が90度よりも小さい方向から撮影した第3の画像、および前記角度が90度よりも大きい方向から撮影した第4の画像とを含む
    ことを特徴とする請求項1または2に記載の分析装置。
  17. 前記第3の画像は、前記角度が略45度の方向から撮影した画像であり、
    前記第4の画像は、前記角度が略135度の方向から撮影した画像である
    ことを特徴とする請求項16に記載の分析装置。
  18. 前記第3の画像は、前記植物が植えられた畝の第1の側から撮影した画像であり、
    前記第4の画像は、前記畝の、前記第1の側とは反対の第2の側から撮影した画像である
    ことを特徴とする請求項16に記載の分析装置。
  19. 前記設定手段は、
    前記第1の画像に対して、前記複数のマーカーに囲まれた第1の参照領域、前記複数のマーカーから前記第1の側の第2の参照領域、および前記複数のマーカーから前記第2の側の第3の参照領域を設定し、
    前記第3の画像に対して、前記第1の参照領域および前記第2の参照領域を設定し、
    前記第4の画像に対して、前記第1の参照領域および前記第3の参照領域を設定することを特徴とする請求項18に記載の分析装置。
  20. 植物と前記植物の周囲に予め設置された複数のマーカーとを含む範囲を複数の方向からそれぞれ撮影した複数の画像を取得するステップと、
    前記複数の画像それぞれに対し、前記複数のマーカーに基づく参照領域を設定するステップと、
    前記複数の画像それぞれの参照領域内を分析することで、前記植物の生育状態に関する情報を取得するステップと
    を有することを特徴とする分析方法。
  21. 請求項20に記載の分析方法の各ステップをコンピュータに実行させるためのプログラム。
JP2022137915A 2022-08-31 2022-08-31 分析装置、分析方法、およびプログラム Pending JP2024033962A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022137915A JP2024033962A (ja) 2022-08-31 2022-08-31 分析装置、分析方法、およびプログラム
PCT/JP2023/027297 WO2024048143A1 (ja) 2022-08-31 2023-07-26 分析装置、分析方法、およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022137915A JP2024033962A (ja) 2022-08-31 2022-08-31 分析装置、分析方法、およびプログラム

Publications (1)

Publication Number Publication Date
JP2024033962A true JP2024033962A (ja) 2024-03-13

Family

ID=90099161

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022137915A Pending JP2024033962A (ja) 2022-08-31 2022-08-31 分析装置、分析方法、およびプログラム

Country Status (2)

Country Link
JP (1) JP2024033962A (ja)
WO (1) WO2024048143A1 (ja)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7134428B2 (ja) * 2018-05-01 2022-09-12 株式会社クボタ 植物栽培装置
JP2020099215A (ja) * 2018-12-20 2020-07-02 三菱重工機械システム株式会社 植物管理システム
US10949974B2 (en) * 2019-02-28 2021-03-16 Iunu, Inc. Automated plant disease detection
JP2022170060A (ja) * 2021-04-28 2022-11-10 株式会社天地人 生育状況評価システム、生育状況評価装置、生育状況評価方法及びプログラム
JP2023035479A (ja) * 2021-09-01 2023-03-13 国立研究開発法人農業・食品産業技術総合研究機構 農業用シートおよび植物の計測方法

Also Published As

Publication number Publication date
WO2024048143A1 (ja) 2024-03-07

Similar Documents

Publication Publication Date Title
US10747999B2 (en) Methods and systems for pattern characteristic detection
EP2736318B1 (en) Plant growth kinetics captured by motion tracking
Malambo et al. Automated detection and measurement of individual sorghum panicles using density-based clustering of terrestrial lidar data
Hall et al. Characterising and mapping vineyard canopy using high-spatial-resolution aerial multispectral images
US20210311187A1 (en) Systems and methods for tagging and linking acoustic images
US20210142484A1 (en) Information processing apparatus, information processing method, and storage medium
JP7172605B2 (ja) 情報生成方法、情報生成装置、プログラム
KR101974638B1 (ko) 식물 영상 처리 장치 및 방법
WO2021100430A1 (ja) 情報処理装置、情報処理方法、プログラム
Lootens et al. High-throughput phenotyping of lateral expansion and regrowth of spaced Lolium perenne plants using on-field image analysis
CA3201908A1 (en) Plant detection and display system
CN107437262B (zh) 作物种植面积预警方法和系统
US9342895B2 (en) Device and method for detecting a plant against a background using photographs with different levels of brightness
Meivel et al. Monitoring of potato crops based on multispectral image feature extraction with vegetation indices
Hearst Remote sensing of soybean canopy cover, color, and visible indicators of moisture stress using imagery from unmanned aircraft systems
KR102531781B1 (ko) 딥러닝 세그멘테이션 인식 기술을 이용한 작물 생장 측정 장치 및 그 방법
KR20200080432A (ko) 딸기의 이미지 분석을 통한 생육 진단 방법
CN108122224A (zh) 一种测算树冠郁闭度的系统
WO2024048143A1 (ja) 分析装置、分析方法、およびプログラム
KR102114384B1 (ko) 영상기반 작물 생육데이터 측정 모바일 앱 및 그 디바이스
Susko et al. Quantifying cereal crop movement through hemispherical video analysis of agricultural plots
EP4111136A1 (en) Device and method for determining a crop height
Chéné et al. Shape descriptors to characterize the shoot of entire plant from multiple side views of a motorized depth sensor
Xing et al. Look how they have grown: Non-destructive Leaf Detection and Size Estimation of Tomato Plants for 3D Growth Monitoring
Rajkumar et al. Analysis of Seed Testing to Improve Cultivation using Image Processing Techniques