JP6592613B2 - コンピュータシステム、植物の診断方法及びプログラム - Google Patents

コンピュータシステム、植物の診断方法及びプログラム Download PDF

Info

Publication number
JP6592613B2
JP6592613B2 JP2018547088A JP2018547088A JP6592613B2 JP 6592613 B2 JP6592613 B2 JP 6592613B2 JP 2018547088 A JP2018547088 A JP 2018547088A JP 2018547088 A JP2018547088 A JP 2018547088A JP 6592613 B2 JP6592613 B2 JP 6592613B2
Authority
JP
Japan
Prior art keywords
plant
visible light
image
light image
temperature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018547088A
Other languages
English (en)
Other versions
JPWO2018078866A1 (ja
Inventor
俊二 菅谷
俊二 菅谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Optim Corp
Original Assignee
Optim Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Optim Corp filed Critical Optim Corp
Publication of JPWO2018078866A1 publication Critical patent/JPWO2018078866A1/ja
Application granted granted Critical
Publication of JP6592613B2 publication Critical patent/JP6592613B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A01AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
    • A01GHORTICULTURE; CULTIVATION OF VEGETABLES, FLOWERS, RICE, FRUIT, VINES, HOPS OR SEAWEED; FORESTRY; WATERING
    • A01G7/00Botany in general
    • A01G7/06Treatment of growing trees or plants, e.g. for preventing decay of wood, for tingeing flowers or wood, for prolonging the life of plants
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/25Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
    • G01N21/251Colorimeters; Construction thereof
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/25Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
    • G01N21/31Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/188Vegetation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/25Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
    • G01N21/31Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry
    • G01N21/314Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry with comparison of measurements at specific and non-specific wavelengths
    • G01N2021/3155Measuring in two spectral ranges, e.g. UV and visible
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N2021/8466Investigation of vegetal material, e.g. leaves, plants, fruits
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/194Terrestrial scenes using hyperspectral data, i.e. more or other wavelengths than RGB

Landscapes

  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Forests & Forestry (AREA)
  • Ecology (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Biochemistry (AREA)
  • Theoretical Computer Science (AREA)
  • Immunology (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Pathology (AREA)
  • Botany (AREA)
  • Environmental Sciences (AREA)
  • Wood Science & Technology (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Testing And Monitoring For Control Systems (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像により植物を診断するコンピュータシステム、植物の診断方法及びプログラムに関する。
近年、農業などの分野において、農作物に異常が発生しているか否かを、この農作物を撮像した画像に基づいて診断することが行われている。このような農作物の診断は、農作物の動画や静止画等の画像を撮像し、撮像した画像を画像解析することにより行われている。
このような農作物を診断するシステムとして、画像から異常に関するデータを抽出することにより、異常が発生しているか否かを診断する構成が開示されている(特許文献1参照)。
特開2016−168046号公報
しかしながら、特許文献1の構成では、例えば、植物に異常が発生し、葉が変色していた場合であっても、表面的には、通常の植物の状態との差を診断することが困難な場合があり、必ずしも正確な診断を行うことが困難であった。また、抽出したデータから判断される異常に、複数の原因が考えられる場合、正確な診断を行うことが困難であった。
本発明は、植物の診断の精度を向上させることが可能なコンピュータシステム、植物の診断方法及びプログラムを提供することを目的とする。
本発明では、以下のような解決手段を提供する。
本発明は、カメラにて撮像された植物の可視光画像を取得する第1画像取得手段と、
取得した前記可視光画像を、前記植物の通常の可視光画像と比較して画像解析する画像解析手段と、
前記画像解析の結果、前記植物の種類を特定する植物特定手段と、
前記画像解析の結果、前記植物の異常部分を特定する異常部分特定手段と、
前記植物がおかれた環境データを取得する環境データ取得手段と、
前記特定された種類と、前記特定された異常部分と、前記取得された環境データとから前記植物の状態を診断する第1診断手段と、
を備えることを特徴とするコンピュータシステムを提供する。
本発明によれば、コンピュータシステムは、カメラにて撮像された植物の可視光画像を取得し、取得した前記可視光画像を、前記植物の通常の可視光画像と比較して画像解析し、前記画像解析の結果、前記植物の種類を特定し、前記画像解析の結果、前記植物の異常部分を特定し、前記植物がおかれた環境データを取得し、前記特定された種類と、前記特定された異常部分と、前記取得された環境データとから前記植物の状態を診断する。
本発明は、コンピュータシステムのカテゴリであるが、植物の診断方法及びプログラム等の他のカテゴリにおいても、そのカテゴリに応じた同様の作用・効果を発揮する。
本発明によれば、植物の診断の精度を向上させることが可能なコンピュータシステム、植物の診断方法及びプログラムを提供することが可能となる。
図1は、植物診断システム1の概要を示す図である。 図2は、植物診断システム1の全体構成図である。 図3は、コンピュータ10の機能ブロック図である。 図4は、コンピュータ10が実行する植物診断処理を示すフローチャートである。 図5は、コンピュータ10が実行する植物診断処理を示すフローチャートである。 図6は、コンピュータ10が取得した可視光画像データを模式的に示した一例を示す図である。 図7は、コンピュータ10が取得した赤外線画像データを模式的に示した一例を示す図である。 図8は、コンピュータ10が、可視光画像における所定の部位を特定した状態を模式的に示した一例を示す図である。 図9は、コンピュータ10が、赤外線画像における領域を特定した状態を模式的に示した一例を示す図である。 図10は、コンピュータ10が記憶する診断データベースの一例を示す図である。
以下、本発明を実施するための最良の形態について図を参照しながら説明する。なお、これはあくまでも一例であって、本発明の技術的範囲はこれに限られるものではない。
[植物診断システム1の概要]
本発明の好適な実施形態の概要について、図1に基づいて説明する。図1は、本発明の好適な実施形態である植物診断システム1の概要を説明するための図である。植物診断システム1は、コンピュータ10から構成され、植物を撮像した画像を取得し、この植物の状態の診断を行う。
コンピュータ10は、図示していない可視光カメラや赤外線カメラ等のカメラ、センサ等に通信可能に接続された計算装置である。植物診断システム1は、可視光カメラから可視光画像を取得し、赤外線カメラから赤外線画像を取得し、センサから植物の生育時期、植物が位置する環境の気温、湿度、天気、降水量からなる群のうち少なくとも一つの環境データを取得する。
はじめに、コンピュータ10は、図示していないカメラにて撮像された可視光画像を取得する(ステップS01)。コンピュータ10は、可視光カメラが撮像する植物の動画や静止画等の可視光画像を取得する。
なお、コンピュータ10は、可視光画像に加え、赤外線カメラが撮像する植物の動画や静止画等の赤外線画像を取得してもよい。このとき、可視光カメラと赤外線カメラとは、同一の撮像装置により実現されてもよいし、可視光カメラと赤外線カメラとを並置又は近傍に設置することにより、可視光カメラと赤外線カメラとが同一の対象を撮像してもよい。すなわち、可視光カメラと赤外線カメラとは、同一の対象を、略同一の撮像地点から撮像する。
コンピュータ10は、取得した可視光画像を、植物の通常の可視光画像と比較して画像解析する(ステップS02)。コンピュータ10は、取得した可視光画像の特徴量や色と、植物の通常の可視光画像の特徴量や色とを比較する。コンピュータ10は、複数の植物の通常の可視光画像の特徴量や色と、取得した可視光画像の特徴量や色とを比較する。この植物の通常の可視光画像の特徴量や色には、植物の種類や名称等の植物を識別するための各種情報が紐付けられている。
なお、コンピュータ10は、取得した可視光画像の特徴量や色に加え、温度を比較してもよい。この場合、コンピュータ10は、可視光画像に加え、赤外線画像を取得し、この赤外線画像の温度を抽出し、抽出した温度と、植物の通常の赤外線画像の温度とを比較すればよい。
コンピュータ10は、画像解析の結果、植物の種類を特定する(ステップS03)。コンピュータ10は、上述した画像解析により、今回取得した可視光画像の特徴量や色が一致する植物の通常の可視光画像の特徴量や色を特定し、特定したこの可視光画像に紐付けられた植物の種類を、今回取得した可視光画像に存在する植物の種類として特定する。このとき、コンピュータ10は、取得した可視光画像の特徴量や色と近似又は一致する植物の通常の可視光画像の特徴量や色を特定する。
コンピュータ10は、画像解析の結果、植物の異常部分を特定する(ステップS04)。コンピュータ10は、上述した画像解析により、取得した可視光画像の特徴量や色のうち、植物の通常の状態とは異なる特徴量や色を有する部分を、異常部分として特定する。
なお、コンピュータ10は、植物の異常部分を上述した取得した赤外線画像の温度に基づいて、特定してもよい。この場合、コンピュータ10は、抽出した温度と、植物の通常の赤外線画像の温度とを比較し、温度差が所定の範囲内であるか否か、基準温度と一致するか否か等に基づいて、温度が異常である部分を、異常部分として特定すればよい。
コンピュータ10は、環境データを取得する(ステップS05)。コンピュータ10は、センサから植物の生育時期、植物が位置する環境の気温、湿度、天気、降水量からなる群のうち少なくとも一つの植物の生活環境についての環境データを取得する。
コンピュータ10は、特定された植物の種類と、特定された異常部分と、取得された環境データとから植物の状態を診断する(ステップS06)。コンピュータ10は、植物の種類と、異常部分と、環境データと、診断結果とを予め紐付けた診断データベースを参照することにより、植物の状態を診断する。コンピュータ10は、この診断データベースにおいて、今回特定された植物の種類と、特定された異常部分と、取得された環境データとに紐付けられた診断結果を抽出することにより、植物の診断を実行する。
以上が、植物診断システム1の概要である。
[植物診断システム1のシステム構成]
図2に基づいて、本発明の好適な実施形態である植物診断システム1のシステム構成について説明する。図2は、本発明の好適な実施形態である植物診断システム1のシステム構成を示す図である。植物診断システム1は、コンピュータ10、公衆回線網(インターネット網や、第3、第4世代通信網等)5から構成され、植物を撮像した画像を取得し、この植物の診断を行う。
植物診断システム1は、植物の動画や静止画等の可視光画像を撮像する可視光カメラ及び植物の動画や静止画等の赤外線画像を撮像する赤外線カメラ等のカメラ、植物の生育時期、植物が位置する環境の気温、湿度、天気、降水量からなる群のうち少なくとも一つの植物の生活環境についての環境データを検知するセンサとデータ通信可能に接続される。コンピュータ10は、これらから各種データを取得する。
コンピュータ10は、後述の機能を備えた上述した計算装置である。
[各機能の説明]
図3に基づいて、本発明の好適な実施形態である植物診断システム1の機能について説明する。図3は、コンピュータ10の機能ブロック図を示す図である。
コンピュータ10は、制御部11として、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)等を備え、通信部12として、他の機器(カメラ・センサ)と通信可能にするためのデバイス、例えば、IEEE802.11に準拠したWiFi(Wireless Fidelity)対応デバイスを備える。また、コンピュータ10は、記憶部13として、ハードディスクや半導体メモリ、記録媒体、メモリカード等によるデータのストレージ部を備える。記憶部13には、後述する各種データベースが記憶される。また、コンピュータ10は、処理部14として、画像処理、状態診断等の各種処理を実行するためのデバイス等を備える。
コンピュータ10において、制御部11が所定のプログラムを読み込むことにより、通信部12と協働して、画像データ取得モジュール20、環境データ取得モジュール21を実現する。また、コンピュータ10において、制御部11が所定のプログラムを読み込むことにより、記憶部13と協働して、記憶モジュール30を実現する。また、コンピュータ10において、制御部11が所定のプログラムを読み込むことにより、処理部14と協働して、可視光画像解析モジュール40、赤外線画像解析モジュール41、温度解析モジュール42、診断モジュール43、学習モジュール44を実現する。
[植物診断処理]
図4及び図5に基づいて、植物診断システム1が実行する植物診断処理について説明する。図4及び図5は、コンピュータ10が実行する植物診断処理のフローチャートを示す図である。上述した各モジュールが実行する処理について、本処理に併せて説明する。
はじめに、画像データ取得モジュール20は、植物の可視光画像及び赤外線画像の画像データを取得する(ステップS10)。ステップS10において、画像データ取得モジュール20は、可視光カメラが撮像した可視光画像である可視光画像データを取得する。また、画像データ取得モジュール20は、赤外線カメラが撮像した赤外線画像である赤外線画像データを取得する。画像データ取得モジュール20は、所定の時間間隔又は予め設定された時刻等の複数の時点における画像データを取得する。画像データ取得モジュール20が取得する画像データは、同一の撮像視点により撮像されており、同一の対象を撮像した画像データである。なお、以下の説明において、所定の時点における画像データに基づいて、コンピュータ10が植物を診断するものとして説明する。
なお、画像データ取得モジュール20は、可視光画像データのみを取得してもよい。この場合、後述する赤外線画像データを用いた処理を省略して、実行すればよい。
図6に基づいて、画像データ取得モジュール20が取得する植物の可視光画像データについて説明する。図6は、画像データ取得モジュール20が取得する植物の可視光画像データを模式的に示した一例を示す図である。図6において、画像データ取得モジュール20は、可視光画像データが示す可視光画像100を取得する。この可視光画像100には、植物110が写っている。なお、可視光画像100には、植物110以外の風景、自然物、人工物が写っていてもよいが、説明の簡略化のために、省略している。また、可視光画像100に複数の植物110や植物110とは異なる種類の植物が写っていてもよい。
図7に基づいて、画像データ取得モジュール20が取得する植物の赤外線画像データについて説明する。図7は、画像データ取得モジュール20が取得する植物の赤外線画像データを模式的に示した一例を示す図である。図7において、画像データ取得モジュール20は、赤外線画像データが示す赤外線画像200を取得する。赤外線画像200には、植物210が写っている。赤外線画像200において、各温度を便宜的にハッチングにより示している。なお、赤外線画像200には、植物210以外の風景、自然物、人工物が写っていてもよいが、説明の簡略化のために、省略している。また、赤外線画像200に複数の植物210や植物210とは異なる種類の植物が写っていてもよい。
可視光画像解析モジュール40は、取得した可視光画像を画像解析する(ステップS11)。ステップS11において、可視光画像解析モジュール40は、取得した可視光画像と、予め記憶モジュール30が記憶する植物の通常の状態の可視光画像とを比較する。植物の通常の状態の可視光画像とは、植物の種類や個体毎に、健康な状態の花、枝、葉、幹、果実等の植物の部位の一部又は全部を可視光カメラにより撮像した画像である。記憶モジュール30は、この植物の通常の状態の可視光画像に、植物の種類や個体等の植物を識別するための各種情報を紐付けて記憶する。可視光画像解析モジュール40は、取得した可視光画像の各部位の形状やサイズ等の特徴量や各部位の色を抽出する。また、可視光画像解析モジュール40は、記憶モジュール30が記憶する可視光画像の各部位の特徴量や色を抽出する。可視光画像解析モジュール40は、取得した可視光画像から抽出した特徴量や色と、記憶した可視光画像から抽出した特徴量や色とを比較する。
可視光画像解析モジュール40は、取得した可視光画像に対してエッジ解析等を実行することにより、この可視光画像に存在する植物の形状を認識する。また、可視光画像解析モジュール40は、記憶モジュール30が記憶する可視光画像に対してエッジ解析等を実行することにより、この可視光画像に存在する植物の形状を認識する。可視光画像解析モジュール40は、これらの形状を比較する。また、可視光画像解析モジュール40は、取得した可視光画像に対して色抽出等を実行することにより、この可視光画像のRGB値を認識する。また、可視光画像解析モジュール40は、記憶モジュール30が記憶する可視光画像に対して色抽出等を実行することにより、この可視光画像のRGB値を認識する。可視光画像解析モジュール40は、これらのRGB値を比較する。
可視光画像解析モジュール40は、画像解析の結果に基づいて、植物の種類を特定する(ステップS12)。ステップS12において、取得した可視光画像から抽出した特徴量や色に基づいて、この特徴量や色と一致又は近似する特徴量又は色を有する記憶した可視光画像を特定する。可視光画像解析モジュール40は、この可視光画像に紐付けられた植物を識別する各種情報を取得する。
なお、可視光画像解析モジュール40は、可視光画像に複数の植物の個体を認識した場合、各個体に対して、上述したステップS11及びステップS12の処理を実行し、各個体の種類を特定する。
また、コンピュータ10は、取得した赤外線画像に基づいて、植物の種類を特定してもよい。この場合、コンピュータ10は、取得した赤外線画像における各部位の温度と、記憶モジュール30が記憶する植物の通常の状態の赤外線画像における各部位の温度とを比較することにより、取得した赤外線画像から認識した温度と、一致又は近似する温度を有する記憶した赤外線画像を特定し、この特定した赤外線画像に紐付けられた植物の種類を特定すればよい。コンピュータ10は、赤外線画像に複数の植物の個体が存在する場合には、各個体に対してこの処理を実行すればよい。また、コンピュータ10は、取得した可視光画像及び赤外線画像の両者に基づいて、植物の種類を特定してもよい。この場合、上述したコンピュータ10が実行する可視光画像に対する処理と、赤外線画像に対する処理とを組み合わせて実行すればよい。
可視光画像解析モジュール40は、可視光画像における植物の複数の所定の部位に対応する領域を特定する(ステップS13)。ステップS13において、所定の部位とは、例えば、花、枝、葉、幹、果実等の構造の一部や予め設定された部位等である。可視光画像解析モジュール40は、構造の一部や予め設定された部位の可視光画像における位置を特徴量から認識し、この認識した位置を、所定の部位に対応する領域として特定する。また、可視光画像解析モジュール40は、構造の一部や予め設定された部位の可視光画像における位置を色から認識し、この認識した位置を、所定の部位に対応する領域として特定する。可視光画像解析モジュール40は、複数の所定の部位の各々に対応する複数の領域を特定する。
図8に基づいて、可視光画像解析モジュール40が特定する所定の部位に対応する領域について説明する。図8は、可視光画像解析モジュール40が所定の部位を特定した状態を模式的に示した一例を示す図である。図8において、可視光画像解析モジュール40は、抽出した特徴量や色に基づいて、花、枝、葉の所定の部位が位置する可視光画像100における領域を特定する。すなわち、可視光画像解析モジュール40は、植物110の、花300〜302、枝310〜312、葉320〜322の部位に対応する領域を特定する。図8において、特定した領域を便宜的にハッチングにより示している。この領域は、各部位の一部を指しているが、該当する部位全体を指してもよい。なお、特定する部位の数、種類及びその位置は適宜変更可能である。
なお、可視光画像解析モジュール40は、可視光画像に複数の植物の個体を認識した場合、各個体に対して、この処理を実行すればよい。また、可視光画像解析モジュール40は、各個体を認識するとともに、各個体の位置関係を認識してもよい。これは、撮像地点からの距離、可視光画像における座標等に基づいて、位置関係を認識すればよい。
赤外線画像解析モジュール41は、特定された可視光画像における領域に対応する赤外線画像における領域を特定する(ステップS14)。ステップS14において、赤外線画像解析モジュール41は、可視光画像と、赤外線画像とを比較することにより、特定した植物の各部位の領域に対応する赤外線画像の領域を特定する。赤外線画像解析モジュール41は、可視光画像における領域の位置を座標として取得し、この取得した座標に一致する位置を、特定された可視光画像における領域に対応する赤外線画像における領域として特定する。
図9に基づいて、赤外線画像解析モジュール41が特定する可視光画像における領域に対応する赤外線画像における領域について説明する。図9は、赤外線画像解析モジュール41が赤外線画像における領域を特定した状態を模式的に示した一例を示す図である。図9において、上述した可視光画像100において、特定した植物110の花300〜302、枝310〜312、葉320〜322の部位に対応する赤外線画像200における領域を特定する。これは、可視光画像100における位置と、赤外線画像200における位置とを比較することにより特定する。赤外線画像解析モジュール41は、可視光画像100における各部位の位置座標を取得し、この取得した位置座標に対応する赤外線画像における位置を、可視光画像における領域に対応する赤外線画像における領域として特定する。赤外線画像解析モジュール41は、植物210の花400〜402、枝410〜412、葉420〜422の部位を特定する。図9において、特定した領域を、便宜的にハッチングにより示している。この領域は、上述した可視光画像において特定した部位により、一部又は部位全体を指す。なお、特定する部位の数、種類及びその位置は、可視光画像に併せて適宜変更可能である。
温度解析モジュール42は、特定した赤外線画像における領域の温度を解析する(ステップS15)。ステップS15において、温度解析モジュール42は、赤外線画像に基づいて、各領域の温度を取得し、各領域の温度を特定する。
診断モジュール43は、特定された赤外線画像における領域の温度に基づいて、植物を診断し、異常が発生しているか否かを判断する(ステップS16)。ステップS16において、診断モジュール43は、取得した各領域の温度に基づいて、植物を診断する。診断モジュール43は、記憶モジュール30が記憶する各部位に対応する植物の通常の状態における温度である基準温度に基づいて、植物を診断する。診断モジュール43は、特定された赤外線画像における領域の温度と、この領域に対応する基準温度との間の温度差を算出し、算出した温度差が所定の範囲内(例えば、0.5℃以内、1℃以内、2℃以内等)であるか否かを判断する。診断モジュール43は、この温度差が所定の範囲内である場合、異常が発生していないと判断し、所定の範囲内ではない場合、異常が発生していると判断する。
なお、診断モジュール43は、上述した基準温度による診断以外の方法により、植物を診断してもよい。例えば、特定された赤外線画像における領域の温度のみにより、植物を診断してもよいし、複数の植物の個体が存在する場合、各個体の位置関係や各個体の温度に基づいて診断してもよい。また、これらを複数組み合わせることにより、植物を診断してもよい。例えば、診断モジュール43は、特定された赤外線画像における領域の温度として、異常な温度を特定した場合、異常が発生していると診断する。また、診断モジュール43は、特定された赤外線画像における第一の個体における領域の温度と第二の個体における領域の温度とを比較し、これらの間の温度差を算出し、算出したこの温度差が異常な値である場合、第一の個体又は第二の個体のいずれか又は双方に異常が発生していると診断する。
また、診断モジュール43は、一の可視光画像及び一の赤外線画像に基づいて、植物を診断しているが、所定の期間内に取得した複数の可視光画像又は赤外線画像のいずれか又は双方に基づいて、植物を診断してもよい。この場合、診断モジュール43は、可視光画像又は赤外線画像のいずれか又は双方から取得した個体の特徴量、色、温度の変化量、変化幅又は変化そのものに基づいて、植物を診断すればよい。また、診断モジュール43は、複数の赤外線画像から取得した個体や各部位の温度の平均値により、この植物を診断してもよい。すなわち、診断モジュール43は、この個体や各部位の温度の平均値と、基準温度とを比較することにより、この温度の平均値と、基準温度との間の温度差を算出し、この温度差が所定の範囲内であるか否かに基づいて、植物を診断すればよい。また、診断モジュール43は、これらの方法に限らず、その他の方法により植物を診断してもよい。
また、診断モジュール43は、赤外線画像を利用せずに、可視光画像のみに基づいて、植物を診断してもよい。この場合、診断モジュール43は、上述した可視光画像解析モジュール40が抽出した可視光画像に存在する各部位や予め設定された部位の特徴量や色等と、特定された植物の種類の特徴量や色等とを比較することにより、異常が発生しているか否かを判断すればよい。
ステップS16において、診断モジュール43は、異常が発生していないと判断した場合(ステップS16 NO)、本処理を終了する。なお、ステップS16において、コンピュータ10は、図示していない外部端末等に、植物に異常が発生していないことを示す通知を送信してもよい。外部端末は、この通知を自身の表示部により表示することやこの通知を音声出力することにより、その旨をユーザに通知してもよい。
一方、ステップS16において、診断モジュール43は、異常が発生していると判断した場合(ステップS16 YES)、診断モジュール43は、植物の異常が発生している部位である植物の異常部分を特定する(ステップS17)。ステップS17において、診断モジュール43は、可視光画像から抽出した各部位の特徴量や色又は赤外線画像から特定した各部位の温度のいずれか又は双方により、異常部分を特定する。診断モジュール43は、抽出した各部位の特徴量や色が、植物の通常の状態の特徴量や色と異なっている部位を異常部分として特定する。また、診断モジュール43は、特定した各部位の温度が、植物の通常の温度と異なっている部分を異常部分として特定する。
環境データ取得モジュール21は、植物の生活環境を示す環境データを取得する(ステップS18)。ステップS18において、環境データ取得モジュール21は、環境データとして、植物の生育時期、植物が位置する環境の気温、湿度、天気、降水量からなる群のうち少なくとも一つを取得する。環境データ取得モジュール21は、図示していない時計、気象測器、雨量計、雨雪量計、温度計、風向風速計、湿度計、気圧計、日射計、日照計、視程計等のセンサから、環境データを取得する。これらのセンサは、植物の近傍又はこの植物が植えられている場所の近傍に設置される。
なお、環境データ取得モジュール21は、環境データをこの他のタイミングにより取得してもよい。環境データ取得モジュール21は、例えば、植物の画像データを取得すると同時に環境データを取得してもよいし、植物の種類を特定した後に環境データを取得してもよい。すなわち、環境データ取得モジュール21は、環境データを、植物の状態を診断するよりも以前に取得すればよい。また、センサは、上述した例以外の環境データを検知してもよい。また、センサの設置位置は、上述した例に限らず、植物の生活環境を検知することが可能な位置に適宜変更可能である。
診断モジュール43は、特定された種類と、特定された異常部分と、取得された環境データとから植物の状態を診断する(ステップS19)。ステップS19において、診断モジュール43は、記憶モジュール30が記憶する植物の種類と、植物の異常部分と、植物の環境データと、診断結果とが紐付けられた診断データベースに基づいて、植物の状態を診断する。診断モジュール43は、今回特定された種類と、特定された異常部分と、取得された環境データの組み合わせに該当する箇所を、診断データベースを参照することにより特定する。診断モジュール43は、この箇所に該当する診断結果を抽出する。診断モジュール43は、抽出した診断結果を、この植物の状態として診断する。
なお、診断モジュール43は、特定された種類、特定された異常部分又は取得された環境データのいずれか又は複数の組み合わせにより、植物の状態を診断してもよい。この場合、診断モジュール43は、該当する複数の診断結果を抽出した際、これらの情報に基づいて、各診断結果に対して、確率を算出してもよい。例えば、診断モジュール43は、特定された異常部分において、複数の診断結果を得た場合、環境データの一致率に基づいて、各診断結果の確率を算出する。また、診断モジュール43は、取得された環境データにおいて、複数の診断結果を得た場合、環境データの各データに、重みづけを予め設定し、この重みづけと確率とを対応付けておくことにより、各診断結果に対して確率を算出してもよい。また、診断モジュール43は、その他の方法により、確率を算出してもよい。
[診断データベース]
図10に基づいて、記憶モジュール30が記憶する診断データベースについて説明する。図10は、記憶モジュール30が記憶する診断データベースの一例を示す図である。図10において、記憶モジュール30は、名称、分類、品種等の植物を識別するための情報と、天気、気温、湿度、降水量等の植物の生活環境を示す環境データと、病変色、病変温度等の発生する異常の内容を示す情報と、診断結果を示す情報とを対応付けて記憶する。名称は、植物の名称である。分類は、生産地等である。品種は、産業上区別する意味の認められる個体群である。時期は、植物の生育期間である。天気、気温、湿度、降水量は、植物の生活環境の各種データである。病変色は、植物が異常な状態にあるときの色である。病変温度は、植物が異常な状態にあるときの温度である。診断は、これらの状態にあるときの植物の状態である。診断データベースにおいて、各品種に対して、植物が通常の状態である場合と、異常が発生している場合とをそれぞれ対応付けている。記憶モジュール30は、植物が通常の状態である場合、病変色、病変温度及び診断結果が該当なしであることを対応付けて記憶する。記憶モジュール30は、植物に異常が発生している状態である場合、病変色、病変温度及び診断結果にそれぞれ該当する内容を対応付けて記憶する。
なお、診断データベースにおいて、植物を識別するための情報、環境データ、病変色、病変温度、診断結果を示す情報は、上述した例に限らず、その他の情報が追加されていてもよいし、上述した項目の一部が削除されていてもよい。また、病変温度はなくともよい。また、品種、分類、名称の数は、上述した例に限らず、これよりも多くとも少なくともよい。また、診断データベースは、名称毎、分類毎、品種毎のそれぞれで作成されていてもよい。
学習モジュール44は、診断結果を学習する(ステップS20)。ステップS20において、学習モジュール44は、環境データ及び可視光画像や赤外線画像の画像を特徴量として、診断結果を学習する。すなわち、記憶モジュール30が記憶する診断データベースにおける環境データ及び画像と診断結果とのペアを、「教師ありデータ」として学習し、診断判断データを生成する。記憶モジュール30は、この生成された診断判断データを記憶し、診断モジュール43は、新たな画像を取得した際には、この今回学習した診断判断データに基づいて診断結果を判断する。
以上が、植物診断処理である。
上述した手段、機能は、コンピュータ(CPU、情報処理装置、各種端末を含む)が、所定のプログラムを読み込んで、実行することによって実現される。プログラムは、例えば、コンピュータからネットワーク経由で提供される(SaaS:ソフトウェア・アズ・ア・サービス)形態で提供される。また、プログラムは、例えば、フレキシブルディスク、CD(CD−ROMなど)、DVD(DVD−ROM、DVD−RAMなど)等のコンピュータ読取可能な記録媒体に記録された形態で提供される。この場合、コンピュータはその記録媒体からプログラムを読み取って内部記憶装置又は外部記憶装置に転送し記憶して実行する。また、そのプログラムを、例えば、磁気ディスク、光ディスク、光磁気ディスク等の記憶装置(記録媒体)に予め記録しておき、その記憶装置から通信回線を介してコンピュータに提供するようにしてもよい。
以上、本発明の実施形態について説明したが、本発明は上述したこれらの実施形態に限るものではない。また、本発明の実施形態に記載された効果は、本発明から生じる最も好適な効果を列挙したに過ぎず、本発明による効果は、本発明の実施形態に記載されたものに限定されるものではない。
1 植物診断システム、10 コンピュータ

Claims (4)

  1. カメラにて撮像された植物の可視光画像及び赤外線画像を取得する画像取得手段と、
    取得した前記可視光画像を、前記植物の通常の可視光画像と比較して画像解析する画像解析手段と、
    前記画像解析の結果、前記植物の種類を特定する植物特定手段と、
    前記可視光画像において、前記植物の複数の所定の部位に対応する領域を特定する第1画像処理手段と、
    特定された前記可視光画像における各領域に対応する、前記赤外線画像における領域を特定する第2画像処理手段と、
    特定された前記赤外線画像における領域の温度に基づいて、前記植物の異常部分を特定する異常部分特定手段と、
    前記植物がおかれた環境データを取得する環境データ取得手段と、
    前記特定された種類と、前記特定された異常部分の温度と、前記取得された環境データとから前記植物の状態を診断する診断手段と、
    を備えることを特徴とするコンピュータシステム。
  2. 前記環境データ取得手段は、前記植物の生息時期、前記植物が位置する環境の気温、湿度、天気、降水量からなる群のうち少なくとも一つの環境データを取得する、
    ことを特徴とする請求項1に記載のコンピュータシステム。
  3. コンピュータシステムが実行する植物の診断方法であって、
    カメラにて撮像された植物の可視光画像及び赤外線画像を取得するステップと、
    取得した前記可視光画像を、前記植物の通常の可視光画像と比較して画像解析するステップと、
    前記画像解析の結果、前記植物の種類を特定するステップと、
    前記可視光画像において、前記植物の複数の所定の部位に対応する領域を特定するステップと、
    特定された前記可視光画像における各領域に対応する、前記赤外線画像における領域を特定するステップと、
    特定された前記赤外線画像における領域の温度に基づいて、前記植物の異常部分を特定するステップと、
    前記植物がおかれた環境データを取得するステップと、
    前記特定された種類と、前記特定された異常部分の温度と、前記取得された環境データとから前記植物の状態を診断するステップと、
    を備えることを特徴とする植物の診断方法。
  4. コンピュータシステムに、
    カメラにて撮像された植物の可視光画像及び赤外線画像を取得するステップ、
    取得した前記可視光画像を、前記植物の通常の可視光画像と比較して画像解析するステップ、
    前記画像解析の結果、前記植物の種類を特定するステップ、
    前記可視光画像において、前記植物の複数の所定の部位に対応する領域を特定するステップ、
    特定された前記可視光画像における各領域に対応する、前記赤外線画像における領域を特定するステップ、
    特定された前記赤外線画像における領域の温度に基づいて、前記植物の異常部分を特定するステップ、
    前記植物がおかれた環境データを取得するステップ、
    前記特定された種類と、前記特定された異常部分の温度と、前記取得された環境データとから前記植物の状態を診断するステップ、
    を実行させるためのコンピュータ読み取り可能なプログラム。
JP2018547088A 2016-10-31 2016-10-31 コンピュータシステム、植物の診断方法及びプログラム Active JP6592613B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2016/082301 WO2018078866A1 (ja) 2016-10-31 2016-10-31 コンピュータシステム、植物の診断方法及びプログラム

Publications (2)

Publication Number Publication Date
JPWO2018078866A1 JPWO2018078866A1 (ja) 2019-10-10
JP6592613B2 true JP6592613B2 (ja) 2019-10-16

Family

ID=62024530

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018547088A Active JP6592613B2 (ja) 2016-10-31 2016-10-31 コンピュータシステム、植物の診断方法及びプログラム

Country Status (3)

Country Link
US (1) US10685231B2 (ja)
JP (1) JP6592613B2 (ja)
WO (1) WO2018078866A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024066851A1 (zh) * 2022-09-27 2024-04-04 杭州睿胜软件有限公司 植物诊断方法、装置及计算机可读存储介质

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111024710B (zh) * 2019-12-17 2022-04-08 江苏恒宝智能系统技术有限公司 一种农作物异常检测系统及方法
KR102296216B1 (ko) * 2020-03-31 2021-09-01 주식회사 쎄슬프라이머스 식물 생육 모니터링 제어 시스템 및 식물 생육 모니터링 제어 방법
CN111724272A (zh) * 2020-06-08 2020-09-29 黑龙江省网络空间研究中心 农作物生长状况数据分析系统及方法
US20220259947A1 (en) * 2021-02-18 2022-08-18 Yantai Jereh Petroleum Equipment & Technologies Co., Ltd. Monitoring system and method for wellsite equipment
IT202100011411A1 (it) * 2021-05-05 2022-11-05 Metacortex Srl Sistema e metodo configurati per fornire informazioni sullo stato di salute di alberi e altre piante
CN113313193A (zh) * 2021-06-15 2021-08-27 杭州睿胜软件有限公司 植物图片识别方法、可读存储介质及电子设备
CN115294518B (zh) * 2022-07-18 2023-06-20 广东省农业科学院环境园艺研究所 一种园艺植物温室精准栽培的智能监控方法及系统
CN117313017B (zh) * 2023-11-28 2024-02-06 山东艺林市政园林建设集团有限公司 一种彩叶研发数据处理方法及系统

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03182185A (ja) * 1989-12-11 1991-08-08 Fujitsu Ltd 赤外線監視システム
JP3598379B2 (ja) 2002-05-24 2004-12-08 独立行政法人情報通信研究機構 画像生体診断装置
JP4599520B2 (ja) * 2004-09-17 2010-12-15 オリンパス株式会社 マルチスペクトル画像処理方法
JPWO2006064635A1 (ja) 2004-12-17 2008-06-12 コニカミノルタホールディングス株式会社 診断システム
CN104797913A (zh) * 2012-09-21 2015-07-22 杭州美盛红外光电技术有限公司 热像诊断装置和热像诊断方法
US10234439B2 (en) * 2012-11-07 2019-03-19 Airscout Inc. Methods and systems for analyzing a field
BR112015012761A2 (pt) * 2012-12-02 2017-07-11 Agricam Ab sistema e método para prever o resultado da saúde de um indivíduo em um ambiente, e, uso de um sistema
JP5731724B1 (ja) 2013-10-23 2015-06-10 日立マクセル株式会社 表面状態測定分析情報管理システムおよび表面状態測定分析情報管理方法
JP6539901B2 (ja) 2015-03-09 2019-07-10 学校法人法政大学 植物病診断システム、植物病診断方法、及びプログラム
US10585210B2 (en) * 2015-10-06 2020-03-10 Arable Labs, Inc. Apparatus for radiometric correction and orthorectification of aerial imagery
US10028452B2 (en) * 2016-04-04 2018-07-24 Beesprout, Llc Horticultural monitoring system
CN106067169A (zh) * 2016-05-24 2016-11-02 北京农业信息技术研究中心 植物水分胁迫状态自动监控方法及系统
JP6101878B1 (ja) * 2016-08-05 2017-03-22 株式会社オプティム 診断装置
US10339380B2 (en) * 2016-09-21 2019-07-02 Iunu, Inc. Hi-fidelity computer object recognition based horticultural feedback loop
WO2018078868A1 (ja) * 2016-10-31 2018-05-03 株式会社オプティム コンピュータシステム、物体の診断方法及びプログラム
US10852236B2 (en) * 2017-09-12 2020-12-01 Curadel, LLC Method of measuring plant nutrient transport using near-infrared imaging

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024066851A1 (zh) * 2022-09-27 2024-04-04 杭州睿胜软件有限公司 植物诊断方法、装置及计算机可读存储介质

Also Published As

Publication number Publication date
US10685231B2 (en) 2020-06-16
JPWO2018078866A1 (ja) 2019-10-10
WO2018078866A1 (ja) 2018-05-03
US20200042790A1 (en) 2020-02-06

Similar Documents

Publication Publication Date Title
JP6592613B2 (ja) コンピュータシステム、植物の診断方法及びプログラム
Gai et al. Automated crop plant detection based on the fusion of color and depth images for robotic weed control
Guo et al. Automated characterization of flowering dynamics in rice using field-acquired time-series RGB images
Yu et al. Automatic image-based detection technology for two critical growth stages of maize: Emergence and three-leaf stage
Paulus et al. Surface feature based classification of plant organs from 3D laserscanned point clouds for plant phenotyping
JP6441546B2 (ja) コンピュータシステム、物体の診断方法及びプログラム
US10643073B2 (en) System, method, program for display on wearable terminal
US10690644B2 (en) Computer system, plant diagnosis method, and program
JP2013111078A (ja) 植物の病気の識別方法、システムおよびその記録媒体
KR20170052416A (ko) 군락에서 영상이미지를 통한 작물기관별 이미지식별시스템
KR101822410B1 (ko) 작물 영상을 사용한 작물 생육 진단 장치
JP6618631B2 (ja) コンピュータシステム、動物の診断方法及びプログラム
Zhang et al. Estimating plant distance in maize using Unmanned Aerial Vehicle (UAV)
CN111479459A (zh) 生长状况或病虫害发生状况的预测系统、方法以及程序
CN113223040B (zh) 基于遥感的香蕉估产方法、装置、电子设备和存储介质
CN111918547B (zh) 树冠识别装置、识别方法、程序和记录介质
CN111681758A (zh) 一种家庭健康的监测方法、监测系统以及监测装置
Helmholz et al. Semi-automatic verification of cropland and grassland using very high resolution mono-temporal satellite images
CN115695734A (zh) 红外热成像防护监控方法、装置、设备、系统和介质
US11462008B2 (en) Device for collecting breeding data in farm field, device for analyzing feature in breeding, method for collecting breeding data in farm field, program, and recording medium
Laskin et al. Evaluating the level of agreement between human and time-lapse camera observations of understory plant phenology at multiple scales
CN117373110A (zh) 可见光-热红外成像的婴幼儿行为识别方法、装置及设备
Zhao et al. A dataset of pomegranate growth stages for machine learning-based monitoring and analysis
KR20220010374A (ko) 스마트 엣지 디바이스 기반의 생육 분석 방법 및 그를 위한 장치 및 시스템
Vong et al. Estimation of corn emergence date using UAV imagery

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190529

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190529

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190529

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20190809

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190917

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190920

R150 Certificate of patent or registration of utility model

Ref document number: 6592613

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250