JP6365668B2 - 情報処理装置、機器、情報処理システム、制御信号の生産方法、プログラム - Google Patents

情報処理装置、機器、情報処理システム、制御信号の生産方法、プログラム Download PDF

Info

Publication number
JP6365668B2
JP6365668B2 JP2016534326A JP2016534326A JP6365668B2 JP 6365668 B2 JP6365668 B2 JP 6365668B2 JP 2016534326 A JP2016534326 A JP 2016534326A JP 2016534326 A JP2016534326 A JP 2016534326A JP 6365668 B2 JP6365668 B2 JP 6365668B2
Authority
JP
Japan
Prior art keywords
information
plant
control signal
subject
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016534326A
Other languages
English (en)
Other versions
JPWO2016009752A1 (ja
Inventor
貴史 野口
貴史 野口
憲介 増田
憲介 増田
押切 幸治
幸治 押切
傳田 壮志
壮志 傳田
昌平 松村
昌平 松村
靖浩 冨井
靖浩 冨井
祐治 山中
祐治 山中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Publication of JPWO2016009752A1 publication Critical patent/JPWO2016009752A1/ja
Application granted granted Critical
Publication of JP6365668B2 publication Critical patent/JP6365668B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05BELECTRIC HEATING; ELECTRIC LIGHT SOURCES NOT OTHERWISE PROVIDED FOR; CIRCUIT ARRANGEMENTS FOR ELECTRIC LIGHT SOURCES, IN GENERAL
    • H05B45/00Circuit arrangements for operating light-emitting diodes [LED]
    • H05B45/10Controlling the intensity of the light
    • H05B45/12Controlling the intensity of the light using optical feedback
    • AHUMAN NECESSITIES
    • A01AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
    • A01GHORTICULTURE; CULTIVATION OF VEGETABLES, FLOWERS, RICE, FRUIT, VINES, HOPS OR SEAWEED; FORESTRY; WATERING
    • A01G7/00Botany in general
    • AHUMAN NECESSITIES
    • A01AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
    • A01GHORTICULTURE; CULTIVATION OF VEGETABLES, FLOWERS, RICE, FRUIT, VINES, HOPS OR SEAWEED; FORESTRY; WATERING
    • A01G9/00Cultivation in receptacles, forcing-frames or greenhouses; Edging for beds, lawn or the like
    • A01G9/24Devices or systems for heating, ventilating, regulating temperature, illuminating, or watering, in greenhouses, forcing-frames, or the like
    • AHUMAN NECESSITIES
    • A01AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
    • A01GHORTICULTURE; CULTIVATION OF VEGETABLES, FLOWERS, RICE, FRUIT, VINES, HOPS OR SEAWEED; FORESTRY; WATERING
    • A01G9/00Cultivation in receptacles, forcing-frames or greenhouses; Edging for beds, lawn or the like
    • A01G9/24Devices or systems for heating, ventilating, regulating temperature, illuminating, or watering, in greenhouses, forcing-frames, or the like
    • A01G9/247Watering arrangements
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/0205Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
    • G01J3/0208Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows using focussing or collimating elements, e.g. lenses or mirrors; performing aberration correction
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/0264Electrical interface; User interface
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/027Control of working procedures of a spectrometer; Failure detection; Bandwidth calculation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/02Details
    • G01J3/0278Control or determination of height or angle information for sensors or receivers
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2803Investigating the spectrum using photoelectric array detector
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2823Imaging spectrometer
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/30Measuring the intensity of spectral lines directly on the spectrum itself
    • G01J3/36Investigating two or more bands of a spectrum by separate detectors
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/42Absorption spectrometry; Double beam spectrometry; Flicker spectrometry; Reflection spectrometry
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/46Measurement of colour; Colour measuring devices, e.g. colorimeters
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/21Polarisation-affecting properties
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/25Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
    • G01N21/251Colorimeters; Construction thereof
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B15/00Systems controlled by a computer
    • G05B15/02Systems controlled by a computer electric
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/02Agriculture; Fishing; Forestry; Mining
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/188Vegetation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/12Generating the spectrum; Monochromators
    • G01J2003/1213Filters in general, e.g. dichroic, band
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N2021/8466Investigation of vegetal material, e.g. leaves, plants, fruits
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02ATECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A40/00Adaptation technologies in agriculture, forestry, livestock or agroalimentary production
    • Y02A40/10Adaptation technologies in agriculture, forestry, livestock or agroalimentary production in agriculture
    • Y02A40/25Greenhouse technology, e.g. cooling systems therefor

Landscapes

  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Environmental Sciences (AREA)
  • Immunology (AREA)
  • Business, Economics & Management (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Biochemistry (AREA)
  • Pathology (AREA)
  • Theoretical Computer Science (AREA)
  • General Business, Economics & Management (AREA)
  • Animal Husbandry (AREA)
  • Tourism & Hospitality (AREA)
  • Primary Health Care (AREA)
  • Marketing (AREA)
  • Agronomy & Crop Science (AREA)
  • Strategic Management (AREA)
  • Human Computer Interaction (AREA)
  • Human Resources & Organizations (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Botany (AREA)
  • Ecology (AREA)
  • Forests & Forestry (AREA)
  • Economics (AREA)
  • Mining & Mineral Resources (AREA)
  • Marine Sciences & Fisheries (AREA)
  • Automation & Control Theory (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Processing (AREA)

Description

本発明は、情報処理装置、制御信号の生産方法、情報処理システム及びプログラムに関する。
近年、IT(情報管理技術)の進展に伴い、農業分野へもIT技術が応用されてきている。例えば、施設園芸においては、植物工場という名で知られているが、植物を栽培する環境を管理して植物の栽培に適した状態となるように植物を栽培する環境を制御することにより、植物の生産性を高めることが検討されている。
植物工場において、植物を栽培する環境を制御する植物栽培システムは、栽培作業による負荷を低減して植物の供給を安定化することにより、植物の生産性を向上させる可能性があるものとして注目されている(例えば、特許文献1、特許文献2参照)。
特許文献1には、定点に配置されたカメラにより得られた植物の画像に基づいた情報と、標準的な植物の特徴を示す情報(標準データ)との類似性を判定することが記載されている。特許文献2には、カメラにより得られた画像から検出した植物の成長度合いを管理することが記載されている。
しかしながら、植物栽培システムにより植物を栽培する環境を制御して植物の生産性を高めるためには、植物の生産性に関する情報を効率良く収集することが不可欠である。しかし、特許文献1及び2に記載されたような技術では、植物自体の直接的な情報としては、カメラの輝度情報のみしか取得できておらず、植物の生産性に関する情報を効率的に収集できているとは言い難かった。
実開平5−17505号公報 特開2013−5725号公報
このような問題に鑑み、本発明は、システム全体の効率化をはかり、植物のような対象の生産性の向上に寄与する情報処理装置、機械、制御信号の生産方法、情報処理システム及びプログラムを提供することを目的とする。
上記課題を解決するために、本発明は、情報を処理して機器を制御する制御信号を生成する情報処理装置であって、撮像手段により撮像された特定の被写体の画像情報から生成される前記被写体の状態を示す第1の被写体状態情報を取得する取得手段と、 取得された前記第1の被写体状態情報に基づいて前記制御信号を生成する生成手段と、を有し、前記取得手段は、外部から所定の対象の動向を予測する予測情報を取得し、前記生成手段は、前記制御信号による植物の成長促進又は成長抑制の制御が行われない場合に前記予測情報に基づく前記機器を制御する制御信号を生成することを特徴とする。
本発明によればシステム全体の効率化をはかることができる。
発明の一実施形態における植物栽培システムのシステム構成を模式的に示す図である。 発明の一実施形態における全体的な制御を司るサーバ装置を含む情報通信システム構成を模式的に示す図である。 発明の一実施形態における機械の一例である作業機械を示す図である。 発明の一実施形態におけるセンサ装置の一種であるステレオカメラ装置の外観を示す図である。 発明の一実施形態におけるステレオカメラ装置の構成を示す図である。 発明の一実施形態におけるステレオカメラ装置に搭載されるFPGAの機能を機能ブロック図で示したものである。 発明の一実施形態におけるステレオカメラ装置で測距を行うための原理を説明する模式図である。 発明の一実施形態におけるステレオカメラ装置より検出できる画像を示す図である。 発明の一実施形態における、図8Aの基準画像に対するブロックマッチング法による視差画像を示す概念図である。 発明の一実施形態における、図8Aの基準画像に対するSGM法による視差画像を示す概念図である。 発明の一実施形態におけるステレオカメラ装置の基準画像における基準画素を示す概念図である。 発明の一実施形態におけるステレオカメラ装置により、基準画像のある領域(所定の基準画素)に対する比較画像の指定範囲におけるコスト(一致度または非類似度、類似度)を検出する過程を説明する図である。 発明の一実施形態におけるステレオカメラ装置で取得したずれ量とコスト値との関係を示す図である。 発明の一実施形態におけるステレオカメラ装置でコストを合成する過程を模式的に表現した図である。 発明の一実施形態におけるステレオカメラ装置でずれ量と合成したコスト値との関係を示す図である。 発明の一実施形態における偏光カメラ装置の外観を示す図である。 発明の一実施形態における偏光カメラ装置の構成を示す図である。 発明の一実施形態における偏光カメラ装置に搭載されたフィルタの正面図である。 発明の一実施形態における偏光カメラ装置に搭載されたフィルタと画素の対応を説明する図である。 発明の一実施形態におけるマルチスペクトルカメラ装置(測色カメラ装置)の外観を示す図である。 発明の一実施形態におけるマルチスペクトルカメラ装置(測色カメラ装置)の構成を示す図である(正面図)。 発明の一実施形態におけるマルチスペクトルカメラ装置(測色カメラ装置)の構成を示す図である(側面から見た断面図)。 発明の一実施形態におけるマルチスペクトルカメラ装置に搭載可能なフィルタと絞りを示す図である。 発明の一実施形態におけるマルチスペクトルカメラ装置の撮像画像を示す図である。 発明の一実施形態におけるマルチスペクトルカメラ装置の撮像画像におけるマクロピクセルの拡大図である。 発明の一実施形態におけるマルチスペクトルカメラ装置で測定できる波長と分光反射率の関係を示す図である。 発明の一実施形態におけるマルチスペクトルカメラ装置に搭載可能な他のフィルタと絞りの例である。 発明の一実施形態におけるマルチスペクトルカメラ装置に搭載可能な他のフィルタと絞りの例である。 植物の葉に対する典型的な分光反射スペクトルを示す図である。植物活性度の高い正常な葉及び植物活性度が低く枯れている葉、水ストレスをかけた葉の波長と分光反射率の様子が示されている。 発明の一実施形態における環境情報取得ユニット500を示す概念図である。 発明の一実施形態における環境調整ユニット600を示す概念図である。 発明の一実施形態における収穫時期予測処理を示すフローチャートである。 発明の一実施形態における収穫時期予測処理の他の例を示すフローチャートである。 発明の一実施形態における収穫時期調整処理を示すフローチャートである。 発明の一実施形態における害虫駆除処理を示すフローチャートである。 発明の一実施形態における補助光源照明処理を示すフローチャートである。 発明の一実施形態における収穫処理を示すフローチャートである。 PRIを説明するための図の一例である。 水ストレスとPRIの対応関係を表すデータを植物栽培システムが取得する処理のフローチャート図の一例である。 水ストレスの程度とPRIの関係の概念的な図の一例である。 育成月数と好ましいPRIの関係の概念的な図の一例である。 植物栽培システムが灌漑制御を行う手順を示すフローチャート図の一例である。
1 :植物栽培システム
10 :植物栽培施設
100 :作業機械
106 :収穫装置
108 :収穫バサミ
110 :把持アーム
112 :収穫ボックス
118 :制御装置
400 :植物情報取得ユニット
410 :ステレオカメラ装置
430 :偏光カメラ装置
450 :マルチスペクトルカメラ装置
500 :環境情報取得ユニット
600 :環境調整ユニット
704 :サーバ
706、708 :データベース
710、712 :ユーザ端末
1501 :システム
1502 :情報通信システム
5002 :温度センサ
5004 :湿度センサ
5006 :照度センサ
5008 :風速センサ
5010 :CO2濃度センサ
5012 :水分センサ
5014 :養分センサ
6002 :温度調整手段
6004 :湿度調整手段
6006 :照度調整手段
6008 :風速調整手段
6010 :CO2濃度調整手段
6012 :水分調整手段
6014 :養分調整手段
以下、図1から図31を用いて、本発明の実施形態について説明する。本実施の形態は、移動しながら作業を行ったり、移動した後に作業を行ったりする作業機械や建設機械等の走行機械、飛行機械、船舶、潜水機械、ロボット等の移動体自体と、それらの移動体に対して直接または間接的に制御を行い、所望の作業を実行するためのシステムについての一例を示すものである。本実施形態は上記のとおりさまざまな移動体に適用できるが、ここでは移動と作業の内容が直感的に分かりやすい作業機械を対象として基本的な構成や動作の説明を行う。
〔全体システムの概要〕
図1と図2を用いて、本実施形態における全体のシステムの概略を説明する。
<植物栽培システムの構成>
植物工場において植物の生産性を向上させることが課題となっており、本実施形態においては、上記課題を種々のカメラ装置を利用して解決する。なお、植物工場には、太陽光のみあるいは太陽光とLED等の人工光を併用する太陽光利用型と太陽光を一切使わない完全制御型が存在するが、本実施形態では、太陽光と人工光を併用する太陽光利用型の植物工場を例にとって説明する。図1に本実施形態が適用される植物栽培システム1の構成を示す。図1における植物栽培システム1は、植物栽培施設10内に、植物情報取得ユニット400を備える作業機械100と、環境情報取得ユニット500と、環境調整ユニット600と、を有する。それぞれの機械、装置の構成や動作は、後ほど詳細に説明が行われる。植物栽培施設10内には、上下6段の棚にわたって敷き詰められた植物が存在し、各植物はいくつかのグループにまとめられたうえで、各グループごとに植物管理IDが付されて管理されている。
図中の破線は、無線通信による情報の送受信を示しており、各ユニットは無線通信ネットワークを構築する。この無線通信は、図2で示す情報通信システム1502の無線アクセスポイント700に接続される。このように各ユニットは連携して動作を行うことにより、効率良く情報の伝達を行うことができる。これらの無線通信を使った植物栽培システム1の動作は、後ほど詳細に説明される。
なお、図1は屋内の植物工場としての植物栽培システム1を示しているが、これに限られず、屋外の、例えば圃場のようなものも本実施形態に含まれる。
この植物工場の植物栽培施設10におけるシステム1501と次に説明する情報通信システム1502とによって本実施形態における植物栽培システム1が構築される。
なお、図面の符号(図面内の番号)の後ろにつけられるアルファベットA、B、Cなどはその符号で示される装置や機械、部品等において、基本的な機能は同じであるが、異なる機能を有する場合に、それらを区別するためにつけられる。実施形態の説明において、これらの区別が不要な場合は、アルファベットは省略して説明を行う。この場合、アルファベットを有するすべての機械や装置がその説明の対象となる。
また、符号の後ろにハイフンと数字で示すものは、基本的に符号のみのものと同一または類似する機能を果たすが、構成が異なることを示す。今後の説明において、意識して区別していない場合は、符号の後ろのハイフンと数字は省略して説明を行う。この場合、符号のみのものと符号の後ろにハイフンと数字を有するすべての機械や装置がその説明の対象となる。
さらに、以後の説明で「ユーザ端末710、712」のように符号間に読点つけて連続で表現する場合には、基本的に「ある符合または/及び別の符号」または「すべての符号のうち少なくとも一つ」という意味である。上記の例だと、「ユーザ端末710または/及び712」または「ユーザ端末710と712のうち少なくとも一つ」である。
<情報通信システム構成>
図2は、本実施形態が適用される情報通信システム1502の構成を示す。情報通信システム1502は、無線アクセスポイント700、インターネット702、サーバ704、データベース706、データベース708、ユーザ端末710、ユーザ端末712を含んでいる。
無線アクセスポイント700、サーバ704、データベース706、708は、有線によってインターネット702に接続されているが、これに限られず無線接続でもよい。また、ユーザ端末710、712は、有線または無線によりインターネット702に直接接続されてもよいし、無線アクセスポイント700やその他の中継器を介して接続されていてもよい。
無線アクセスポイント700は、屋内用の無線LANアクセスポイントであり、指向性アンテナ701を備えている。特定の方向から情報が通信されない場合には指向性アンテナ701には無指向性アンテナが使用されてもよい。また、無線アクセスポイント700は、ルータタイプであって、ルーティング機能やネットワークアドレス変換(Network Address Translation:NAT)機能を有する。ルーティング機能により、TCP/IPネットワークにおいて、目的ホストまでのパケット送信時に、最適な経路を選択して送信することができる。また、NAT機能により、2つのTCP/IPネットワークの境界にあるルータやゲートウェイが、双方のIPアドレスを自動的に変換してデータを転送することができる。これらの機能によって、サーバ704などとの間で効率的な情報通信を行うことができる。
無線規格は、標準規格であるIEEE802.11シリーズに準拠しているものを使用するが、それに限られない。たとえば、移動体通信システムで使用される、W−CDMA(UMTS)方式やCDMA2000 1X方式、Long Term Evolution(LTE)方式などであってもよい。
サーバ704は、CPU(Central Processing Unit)7041、ROM(Read Only Memory)7044、RAM(Random Access Memory)7042、ソリッドステートドライブ(Solid State Drive:SSD)7043、I/F(Interface)7045を含む。なお、SSDに加えて、またはSSDに代えてハードディスクを備えていてもよい。CPU7041は、サーバ704においてプログラムを実行する主体である。ROM7044には、電源投入直後にCPU7041が処理すべき内容や最小限必要な命令群が記録されている。RAM7042は、CPU7041が処理するデータの一時保管のためのメモリである。このサーバ704は、作業機械100や植物情報取得ユニット400、環境情報取得ユニット500、環境調整ユニット600の制御を行う制御装置として機能する。
サーバ704は、無線アクセスポイント700を介して、図1に示す植物工場の作業機械100、環境情報取得ユニット500、環境調整ユニット600などと情報通信を行う。また、サーバ704は、データベース706、708、ユーザ端末710、712とも情報通信を行う。このサーバ704が実行する動作については後述する。サーバ704が実行する動作は、SSDに格納されたプログラムがCPUによってRAMに読み出され、RAMに読み出されたデータに基づいてCPUにより実行される。なお、SSDに格納されたプログラムは、更新可能となっている。また、プログラムは、CD−ROM、DVD−ROM、SDカード、USBメモリなどの携帯可能な記録媒体に格納されていてもよく、その場合、それらの媒体からサーバ704が読み出してプログラムが実行される。また、サーバ704はインタフェースを介してインターネット702に接続される。
無線アクセスポイント700は、サーバ704が作業機械100等から情報を取得する取得手段として機能する。また、CPUやROM、RAMは、作業機械100等の制御を行うための制御信号を生成する生成手段として機能する。
ここで、本実施形態の植物栽培システム1は無線通信により情報のやりとりが行われるため、その情報を正確に送受するとともに、その送受信される情報に対するセキュリティを確保しなければならないという課題がある。このため、サーバ704は、作業機械100やユーザ端末710、712等から取得した位置情報から、その作業機械100やユーザ端末710、712等が植物工場や情報通信関連施設など特定の領域内に位置するか否かを判断する。特定の領域に位置する場合には、その作業機械100やユーザ端末710、712等と認証処理を行い、認証に成功した場合にだけ、本実施形態の植物栽培システム1を適用する。すなわち、情報通信システム1502で通信される情報は暗号化されており、認証が成功した場合にだけ、復号のための鍵が付与され、意味のある情報通信が可能となる。一方、認証に失敗した場合には、情報の復号化ができないため、意味のある情報通信が行えず、情報通信システム1502が利用できなくなる。このようにして、情報通信システム1502の安全性を高めている。また、仮に作業機械100が盗難にあった場合であっても、認証ができない場合には、その作業機械100の使用ができないようにすれば、盗難防止に役立つ。なお、情報通信システム1502を利用するための機器が特定の領域内に位置するか否かを問わず、認証処理を行うものであってもよい。認証は本実施形態のように使用者のユーザID入力やパスワード入力によって行われてもよいし、各ユニット、または各ユニットを構成する装置が有する固有IDを使って行ってもよい。また、安全性を考慮しない場合には、認証や暗号化、復号化の処理は不要である。
また、情報通信システム1502を含む植物栽培システム1を利用者(ユーザ)に提供する場合に、植物栽培システム1の利用について正確かつ容易に把握し、効率的に利用者に植物栽培システム1の利用料等を請求できるようにすることが望まれる。このため、サーバ704は、後述の課金処理(請求書発行)も行う。このようにサーバ704では多くの処理を行うため、ハイパフォーマンスでロバストなコンピュータが使用される。ただし、これまで説明した、または今後説明するサーバ704で行う処理を複数のサーバ(コンピュータ)が分担して行ってもよい。たとえば、植物栽培システム1の管理用のサーバ、認識・分析用サーバ、課金管理用サーバなどに分けて処理を行うこともできる。
またさらに、植物栽培システム1のようにシステムは複数の構成要素が連動して動作することにより成り立つため、植物栽培システム1内における構成要素の障害に対して素早く対処することが課題となる。この課題に対応するため、サーバ704は、作業機械100等の各ユニットに故障等の障害が発生しないか監視する。障害を検知した場合には、サーバ704は、植物栽培システム1の提供者または植物栽培システム1によるサービス提供者及びユーザ端末710、712に自動的に通知するようになっている。なお、作業機械100等が故障等の障害を検知した場合に、サーバ704からのクエリを待たずにサーバ704に通知してもよい。このように、植物栽培システム1は障害対応を行えるので、植物栽培システム1で不具合が生じた場合にサービス提供者等は早急に事態を把握でき、対応を行うことができる。
植物栽培システム1では、各種処理のために植物の認識を正確に行うことが課題の一つとなっている。そこで、この認識処理を正確に、迅速に行うためにデータベース706は、各種のデータを保管する。サーバ704は、このデータベース706に保管されているデータを使って、後述の認識処理を行う。データベース706に格納されるデータは、主として、画像データ(認識処理に使う標準パターンなど)とその画像データの属性や種類及びその種類に対応する作業機械100の対応を示す情報である。画像データと属性や種類を示すデータ等は関連付けられた状態で保管される。なお、データベース706は、インターネット702を介して情報を提供するコンテンツデータを格納するものであってもよい。この場合も画像データとその属性や種類を示すデータ等は関連づけられている。このようなデータを蓄積すればするほど精度の高い認識処理を行うことができるようになる。
上記の認識処理に加え、植物工場における作業情報や作業対象である植物の状態などを蓄積し、上記の課金処理や将来の作業を効率的に行えるようにすることも重要である。このため、データベース708は、主として作業機械100、環境情報取得ユニット500など植物工場から送信される情報を格納するための保管場所である。たとえば、作業の開始時間、中断時間、終了時間や、作業が必要な場所の情報、肥料を与えた場所などの作業位置及び年月日時間、後述の正規化植生指数NDVI、害虫情報などである。このような情報をデータベース化して蓄積し、蓄積したデータを分析し、活用することで、将来の営農の効率化を図ることができる。すなわち、サーバ704等が蓄積した情報を分析して、植物の育成状況や出荷時期などに特定の傾向を導出し、その傾向に基づいて、たとえば、肥料をどの程度施せば、狙っている品質の植物や所望の時期に植物を得ることができるか等を割り出すことができる。とくに正規化植生指数NDVIの値によって収穫時期を予期できるようになるので、植物工場で育成される植物から多くの情報を蓄積することが望ましい。
またさらに、作物の販売価格は需要と供給の関係により決定されるため、需要が高いタイミングでその作物を出荷することが望まれる。そこでデータベース708は市場からの出荷情報や在庫情報も記憶する。たとえば、出荷される植物(の包装)に対して無線タグやバーコードなどの識別可能な情報を付与する。出荷から市場に出回るまで移動や保管を行うタイミングで識別情報から作物の種類を取得し、逐次、データベース708に識別された情報や識別場所、識別時間などの情報を保管する。なお、識別された情報の取得は、無線タグ読み取り装置やバーコードリーダーなどを有するシステムにおいてなされ、識別時間情報や識別場所情報等の植物の追跡に必要な情報とともにインターネット702を経由してデータベース708に保管される。これにより本実施形態におけるユーザ(ユーザ端末710、712を使用)やサーバ704は植物の移動を追跡することができ、植物の需要の状況を判断できる。すなわち、消費者が好む植物は在庫が少ない、あるいは移動が早いので、サーバ704は(あるいはユーザがユーザ端末710、712を介して)データベース708に保管された情報を分析し、そのような植物を特定できる。そして、サーバ704は、このような消費者が好む植物については早く出荷できるように、環境調整ユニット600などを制御してその施設内の環境の制御、すなわち肥料や水遣り、二酸化炭素の供給を行うなどして植物の生長を促進し、早期に収穫を行うことを可能とする。
また植物の収穫時期や収穫量を予測できるとシステム利用者(ユーザ)により大きな価値を提供できることになる。これを実現するため、サーバ704は、ユーザ端末710、712からの指示に応じて、後述する植物活性度(指標の1つである正規化植生指数NDVI)や水ストレスの度合いや散水や施肥の程度、日照時間、気温、湿度などの作物が実際に育成された条件(育成条件)とそれらの条件下での植物の育成度合い、収穫時期、収穫量などを使って多変量解析、分析を行うことができる。これらのデータが蓄積されればされるほど、高精度のアウトプット(収穫時期や収穫量)予測を行うことができる。なお、上記の育成条件は、植物工場にある作業機械100等の各ユニットやインターネットを介して提供される環境に関するコンテンツ情報(天候情報など)、ユーザによる入力などのいずれかまたはそれらの組み合わせによって、サーバ704が取得することになる。なお、予測されたアウトプットは、例えば、ユーザ端末710、712に送信され、表示が行われる。また、このアウトプットの予測情報はインターネットなどの電気通信回線を通して、またはその予測情報を記録した記録媒体の提供を通じて他のユーザや顧客に対して独立して販売することができる情報財(Information Goods)でもある。
なお、データベース706、708は、サーバ704と別の構成として説明したが、データベース706、708の少なくとも一つをサーバ704内に存在させてもよい。この場合、SSDの領域を分割して、それぞれのデータベースを構成するようにしてもよい。またはデータベース706、データベース708の少なくとも一つを、インターネット702を介さずにサーバ704に有線または無線で接続してもよい。このようにすることで、インターネットを介しての通信を行わなくて良いので、データベースにアクセスする必要がある処理の迅速化を図ることができる。
ユーザ端末710は、タブレットタイプのコンピュータである。また、ユーザ端末712は、スマートフォン等のように使用する場所を選ばないモバイルタイプのコンピュータである。なお、ユーザ端末710や712は、タブレットタイプのコンピュータやモバイルタイプのコンピュータに限られず、デスクトップタイプのコンピュータや何かに組み込まれた組み込み式のコンピュータ、あるいは腕時計や眼鏡などウェアラブルタイプのコンピュータであってもよい。
これらのユーザ端末710、712は、各ユニットからの通知や情報を、サーバ704経由で取得することができる。たとえば、ユーザ端末710、712では、作業機械100で取得した画像を表示することができる。サーバ704はこれらユーザ端末710、712と各ユニットとの間での情報のやり取りをモニタリングし、それらをデータベース706やデータベース708に記録する。なお、サーバ704でのモニタリングを行わない場合には、ユーザ端末710、712は、サーバ704を介さずに直接各ユニットと情報通信を行うことができる。
なお、本実施形態の情報通信システム1502はインターネット702経由で情報のやりとりを行う、いわゆるクラウドタイプのシステムであるが、これに限られず、たとえば、ユーザの施設内などに専用通信網を構築し、その専用通信網だけ、あるいはその専用通信網とインターネットの組み合わせにより情報のやりとりをおこなうものであってもよい。これにより、高速な情報伝達を行うことが可能となる。また、サーバ704の機能やそれが行う処理を作業機械100、あるいはユニットを構成する各装置が備えていてもよい。これによってさらに作業機械100が取得する画像データの処理速度を速めることができる。
なお、本実施形態の植物栽培システム1は図1に示すような植物工場におけるシステム1501と図2に示すような情報通信システム1502で構成されるが、上述の情報通信システム1502におけるサーバ704やデータベース706、708を植物工場におけるシステム1501における作業機械100等の各ユニットに組み込むこともできる。
〔各ユニットの説明〕
続いて図3から図31を使って、本実施形態における作業機械、作業機械に備え付けられるユニット、各種センサ装置、及び、植物工場内に設置される装置について説明する。
<作業機械>
植物栽培システム1の構成要素の一つである作業機械は、効率的な作業を実現するために、サーバ704からの指示あるいは自律走行に基づいて自動で走行し、自動で作業対象である植物などに対して作業を行うことができるものである。図3は主として作業機械100の外観を示す図である。なお、他の図面において同じ符号がつけられている場合には、同様の機能を発揮するので説明を省略する場合がある。
作業機械100は、駆動部102、収穫装置106、ステレオカメラ装置410、偏光カメラ装置430、マルチスペクトルカメラ装置450、無線通信用アンテナ114、制御装置118、及び、一組の前輪128と後輪130を備えている。ステレオカメラ装置410、偏光カメラ装置430及びマルチスペクトルカメラ装置450は、植物情報取得ユニット400として構成される。
駆動部102は、作業機械100の内部にあり、後輪130を駆動することにより作業機械100を移動させる。
収穫装置106は、収穫バサミ108、把持アーム110及び収穫ボックス112を備え、不図示のモータや油圧シリンダ等により収穫バサミ108及び把持アーム110を上下移動及び開閉駆動させ、収穫ボックス112を上下左右移動させる。そして、ステレオカメラ装置410が取得する距離情報を用い、収穫作業を行う。収穫バサミ108は、制御装置118からの制御指示に基づいて対象部分を切断する。把持アーム110は、制御装置118からの制御指示に基づいて、収穫バサミ108が切断する部分を把持する。収穫ボックス112は、底部が開閉可能な箱形の部材であり、収穫バサミ108により切断された対象物を一時的に収容し、収容した対象物が所定量溜まった際に底部を開けることにより不図示のベルトコンベア上に対象物を載置させる。
ステレオカメラ装置410は、2つの光学系と撮像素子を備え、主として測距のためのステレオ画像を取得するための撮像センサ装置である。このステレオカメラ装置410は、測定対象までの距離や対象の大きさを検知したりするのに使われる装置であり、作業機械100の作業、特に収穫作業に大きな役割を果たすものである。このステレオカメラ装置410は作業機械100の先頭近傍に、鉛直軸に対して回転可能に設置される。ステレオカメラ装置410の回転は手動または制御装置118からの制御により行う。先頭付近に設置することで、前方の画像を取得しやすく、測距精度も高められる。なお、設置位置は先頭近傍に限られず、たとえば、無線通信用アンテナ114が設置されている作業機械100上部のように作業機械100の周囲を見渡しやすい箇所に設置してもよい。また、ステレオカメラ装置410が上下移動できるように鉛直軸が可動に構成されていても良い。これにより、上限段に敷き詰められる植物をくまなく撮影することが可能となる。また、作業機械100の左右において植物を効率良く把握するため、作業機械100両側面など複数設置してもよい。また、本実施形態のように回転は一軸だけの回転に限られず、所望の位置、角度の画像を得ることができるように複数軸に対して回転できるものであってもよい。この場合も手動または制御装置118による制御で回転することができる。このステレオカメラ装置410の構成等は後に詳細に説明される。偏光カメラ装置430は物体からの偏光情報を取得する撮像センサ装置であり、害虫発生状況等を取得することができる。すなわち、ナミハダニ等の色が薄く通常の輝度画像等では認識し難い害虫であっても、偏光情報によるハイコントラストな画像によって認識することができる。この偏光カメラ装置430は鉛直軸に対して回転可能に設置されている。また、本実施形態のように回転は一軸だけの回転に限られず、所望の位置、角度の画像を得ることができるように複数軸に対して回転できるものであってもよい。これらの回転動作は手動または制御装置118からの制御により行う。
マルチスペクトルカメラ装置450は物体からの分光情報を取得する撮像センサ装置であり、農作物生育状況等を取得することができる。このマルチスペクトルカメラ装置450は鉛直軸に対して回転可能に設置されている。マルチスペクトルカメラ装置450は後述するように複数のLEDを備えており、LEDから所望の波長の光を出射して、その反射率を撮像画像という面で把握することができるので、農作物の正確な生育状況を観測することができる。また、本実施形態のように回転は一軸だけの回転に限られず、所望の位置、角度の画像を得ることができるように複数軸に対して回転できるものであってもよい。これらの回転動作は手動または制御装置118からの制御により行う。無線通信用アンテナ114は、他の作業機械100やその他各ユニット、無線アクセスポイント700などと無線通信で情報を送受信するためのアンテナである。無線信号を受信しやすいよう作業機械100の上部に取り付けられている。この無線通信用アンテナ114は無線の中継も行うことができる。
制御装置118は、駆動部102、収穫装置106、ステレオカメラ装置410、偏光カメラ装置430、マルチスペクトルカメラ装置450、及び、無線通信用アンテナ114等と情報のやり取りを行い、作業機械100の制御を行う。この制御装置118は、作業機械100の内部に設置されている。制御装置118は、無線通信用アンテナ114を介してサーバ704やユーザ端末710、712と通信することができる。なお、制御装置118は、CPUやRAM、ROM、メモリ等から構成されており、メモリに格納されたプログラムに基づいてCPUが制御処理を実行する。
前輪128は、作業機械100の移動や旋回動作を行うためのものである。後輪130は、駆動部102によって動力が伝達される箇所で、これらが回転することで作業機械100が動くことになる。
なお、本実施形態における作業機械100は、作業機械100の外から情報を取得するためのセンサ装置として、ステレオカメラ装置410、偏光カメラ装置430、マルチスペクトルカメラ装置450を備えるが、すべて備えていなければならないわけではなく、取得したい情報に応じて使用するセンサ装置を設置すればよい。また、当然、これらのセンサ装置以外のセンサ、たとえば、赤外線センサや温度センサ、湿度センサなどを備えていてもよい。それらのセンサで取得した情報は、サーバ704に送信される。サーバ704は、データベース708にそれらの情報を保管し、収穫時期などの予測に利用する。
<ステレオカメラ装置>
A.ステレオカメラ装置の構成
図4は、ステレオカメラ装置410の外観を示す。ステレオカメラ装置410はある領域を撮像して、作業機械100の制御装置118やサーバ704、ユーザ端末710、712に伝達可能な画像データを生成するのに加え、撮像した画像内の各地点におけるステレオカメラ装置410からの距離情報(または視差情報)を取得するものである。もちろん、距離情報(または視差情報)も制御装置118等に伝達可能である。このステレオカメラ装置410は、SGM(Semi−Global Matching)法を応用した測距を行うことができる。ステレオカメラ装置410は、本体部2と、本体部2に設けられた一対の円筒状の撮像装置10a及び撮像装置10bとを備えている。なお、このステレオカメラ装置410は、回転軸を有する柱によって作業機械100に回転可能に取り付けられる。この回転動作は手動または制御装置118からの制御により行う。
図5は、ステレオカメラ装置410の全体のハードウェア構成を示す。図5に示されているように、ステレオカメラ装置410は、撮像装置10a、撮像装置10b、信号変換装置20a、信号変換装置20b、及び画像処理装置30を備えている。
このうち、撮像装置10aは、前方の光景を撮像して画像を表すアナログ信号を生成するものであり、撮像レンズ11a、絞り12a、画像センサ13aを備えている。撮像レンズ11aは、撮像レンズ11aを通過する光を屈折させて物体の像を結像させるための光学素子である。絞り12aは、撮像レンズ11aを通過した光の一部を遮ることによって、後述する画像センサ13aに入力される光の量を調整する。画像センサ13aは、撮像レンズ11a及び絞り12aから入力された光を電気的なアナログの画像信号に変換する半導体の素子であり、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)によって実現される。なお、撮像装置10bは撮像装置10aと同じ構成を備えているため、撮像装置10bについての説明は省略する。また、撮像レンズ11aと撮像レンズ11bは、それぞれのレンズ光軸が互いに平行になるように設置されている。
なお、絞り12b、及び画像センサ13bはそれぞれ絞り12a、及び画像センサ13aと同じ構成であるため、それらについての説明は省略する。
また、信号変換装置20aは、撮像された画像を表すアナログ信号をデジタル形式の画像データに変換するものであり、CDS(Correlated Double Sampling)21a、AGC(Automatic Gain Control)22a、ADC(Analog Digital Converter)23a、及びフレームメモリ24aを備えている。CDS21aは、画像センサ13aによって変換されたアナログの画像信号から相関二重サンプリングによってノイズを除去する。AGC22aは、CDS21aによってノイズが除去されたアナログの画像信号の強度を制御する利得制御を行う。ADC23aは、AGC22aによって利得制御されたアナログの画像信号をデジタル形式の画像データに変換する。フレームメモリ24aは、ADC23aによって変換された画像データ(基準画像)を記憶する。
同様に、信号変換装置20bは、撮像装置10bによって変換されたアナログの画像信号から画像データを取得するものであり、CDS21b、AGC22b、ADC23b、及びフレームメモリ24bを有している。なお、CDS21b、AGC22b、ADC23b、及びフレームメモリ24bはそれぞれCDS21a、AGC22a、ADC23a、及びフレームメモリ24aと同じ構成であるため、それらについての説明は省略する。ただし、フレームメモリ24bは比較画像を記憶する。
さらに、画像処理装置30は、信号変換装置20a及び信号変換装置20bによって変換された画像データを処理するための装置である。この画像処理装置30は、FPGA(Field Programmable Gate Array)31、CPU32、ROM33、RAM34、I/F35及び上記FPGA31〜I/F35等の各構成要素を図5に示されているように電気的に接続するためのアドレスバスやデータバス等のバスライン39を備えている。
このうち、FPGA31は、製造後に購入者や設計者が構成を設定できる集積回路であり、ここでは、画像データが表す画像における視差値Δを算出する処理を行う。CPU32は、ステレオカメラ装置410の各機能を制御する。ROM33は、CPU32が視差値導出装置の各機能を制御するために実行する画像処理用プログラムを記憶している。RAM34はCPU32のワークエリアとして使用される。I/F35は、作業機械100の制御装置118と接続するためのインタフェースである。
なお、上記の画像処理用プログラムは、インストール可能な形式または実行可能な形式のファイルで、コンピュータで読み取り可能な記録媒体に記録して流通させてもよい。この記録媒体は、CD−ROMやSDカード等である。
次に、図6は、ステレオカメラ装置410の主要部のハードウェア構成を示す。FPGA31は、図6に示されているように、コスト(一致度または非類似度、類似度)算出部310、コスト合成部320、視差値導出部330を備えている。これらは、FPGAの回路の一部であるが、ROM33に格納された画像処理用プログラムが実行されることにより、同じ処理を行うことができるようにしてもよい。
このうち、コスト算出部310は、基準画像Ia内の基準画素の輝度値と、基準画素に対する比較画像Ib内におけるエピポーラ線上の複数の対応画素の候補の各輝度値とに基づいて、基準画素に対する各対応画素の候補のコスト値Cを算出する。
コスト合成部320は、コスト算出部310による一の基準画素に対する各対応画素の候補のコスト値と、コスト算出部310による他の基準画素に対する各対応画素の候補のコスト値とを合成し、合成コスト値Lsを出力する。なお、この合成の処理は、後述の(式3)に基づいてコスト値Cから経路コスト値Lrを算出した後、さらに、後述の(式4)に基づいて各放射線における経路コスト値Lrを加算して、最終的に合成コスト値Lsを算出する処理である。
視差値導出部330は、一の基準画素の基準画像における位置と、コスト合成部320による合成後の合成コスト値Lsが最小となる対応画素の比較画像における位置とに基づいて視差値Δを導出し、各画素における視差値を示す視差画像Icを出力する。ここで得られた視差値Δと、撮像レンズ11aと撮像レンズ11bの焦点距離f、撮像レンズ11aと撮像レンズ11bとの間の長さである基線長Bを用いて、後述の(式2)から距離Zを算出することができる。この距離Zを求める処理は視差値導出部330で行ってもよいし、CPU32またはサーバ704で行ってもよい。このようにしてステレオカメラ装置410は撮像した画像に対する視差を利用して撮像した画像の各地点までの距離情報(または視差情報)を得ることができる。なお、視差値を求める以外の画像処理や画像認識においては基準画像または比較画像のいずれか一方(すなわち、通常の単眼カメラで撮像した画像と同様に一方の画像センサ13aまたは13bから得られる画像)を用いることができる。
B.SGM法を用いた測距方法の説明
続いて、ステレオカメラ装置410による測距の方法、とくにSGM法を用いて視差値を求める方法について説明する。まず、図7から図12を用いて、SGM法を用いた測距方法の概略について説明する。
図7を用いて、ステレオ画像法により、ステレオカメラから物体に対する視差を導き出し、この視差を示す視差値によって、ステレオカメラから物体までの距離を測定する原理について説明する。また、以下では、説明を簡略化するため、複数画素からなる所定領域ではなく、一画素単位で説明する。
まず、図7で示される撮像装置10a及び撮像装置10bによって撮像された各画像を、それぞれ基準画像Ia及び比較画像Ibとする。なお、図7では、撮像装置10a及び撮像装置10bが平行等位に設置されているものとする。図7において、3次元空間内の物体E上のS点は、撮像装置10a及び撮像装置10bの同一水平線上の位置に写像される。すなわち、各画像中のS点は、基準画像Ia中の点Sa(x,y)及び比較画像Ib中の点Sb(x',y)において撮像される。このとき、視差値Δは、撮像装置10a上の座標におけるSa(x,y)と撮像装置10b上の座標におけるSb(x',y)とを用いて、(式1)のように表される。
Δ=x'−x (式1)
ここで、図7のような場合には、基準画像Ia中の点Sa(x,y)と撮像レンズ11aから撮像面上におろした垂線の交点との距離をΔaにし、比較画像Ib中の点Sb(x',y)と撮像レンズ11bから撮像面上におろした垂線の交点との距離をΔbにすると、視差値Δ=Δa+Δbとなる。
また、視差値Δを用いることで、撮像装置10a,10bと物体Eとの間の距離Zを導き出すことができる。具体的には、距離Zは、撮像レンズ11aの焦点位置と撮像レンズ11bの焦点位置とを含む面から物体E上の特定点Sまでの距離である。図7に示されるように、撮像レンズ11a及び撮像レンズ11bの焦点距離f、撮像レンズ11aと撮像レンズ11bとの間の長さである基線長B、及び視差値Δを用いて、(式2)により、距離Zを算出することができる。
Z=(B×f)/Δ (式2)
この(式2)により、視差値Δが大きいほど距離Zは小さく、視差値Δが小さいほど距離Zは大きくなる。
続いて、図8から図12を用いて、SGM法を用いた測距方法について説明する。なお、図8Aは基準画像、図8Bは、比較対象として、図8Aに対するブロックマッチング法による視差画像、図8Cは図8Aに対するSGM法による視差画像を示す概念図である。ここで、基準画像は、物体が輝度によって示された画像である。ブロックマッチング法による視差画像は、ブロックマッチング法から導き出された画像であり、基準画像のエッジ部のようなテクスチャが強い部分の視差値のみが示された画像である。SGM法の応用による視差画像は、SGM法の応用技術によって、基準画像から導き出された画像であり、基準画像の各座標における視差値が示された画像である。図8Cでは色の濃淡により視差値の違いを示している。本例では、色が濃くなるにつれて視差値が小さくなることを示す。すなわち、色が濃くなるにつれて距離が長くなる。
SGM法は、テクスチャが弱い物体に対しても適切に上記視差値を導き出す方法であり、図8Aに示されている基準画像に基づいて、図8Cに示されているSGM法による視差画像を導き出す方法である。なお、ブロックマッチング法を用いた場合には、図8Aに示されている基準画像に基づいて、図8Bに示されているエッジ視差画像が導き出される。図8B及び図8Cにおける破線の円801内を比べると分かるように、SGM法による視差画像は、ブロックマッチング法による視差画像に比べて、テクスチャが弱い領域等の詳細な情報を表すことができるため、より詳細な測距を行うことができる。
このSGM法は、非類似度であるコスト値を算出して直ちに視差値を導出せず、コスト値を算出後、さらに、合成非類似度である合成コスト値(Synthesis Cost)を算出することで視差値を導出し、最終的に全ての画素における視差値を示す視差画像(ここでは、SGM法による視差画像)を導き出す方法である。なお、ブロックマッチング法の場合は、コスト値を算出する点はSGM法と同じであるが、SGM法のように、合成コスト値を算出せずに、エッジ部のようなテクスチャの強い部分の視差値のみが算出される。
次に、図9及び図10を用いて、コスト値C(p,d)の算出方法について説明する。なお、以降、コスト値C(x,y,d)をC(p,d)と表記する。図9Aは基準画像における基準画素を示す概念図、図9Bは図9Aの基準画素に対して比較画像における対応画素の候補を順次シフトしながら(ずらしながら)シフト量(ずれ量)を算出する際の概念図である。図10は、シフト量毎のコスト値を示すグラフである。
図9Aに示されているように、基準画像内の所定の基準画素p(x,y)と、この基準画素p(x,y)に対する比較画像内におけるエピポーラ線(Epipolar Line)上の複数の対応画素の候補q(x+d,y)との各輝度値に基づいて、基準画素p(x,y)に対する各対応画素の候補q(x+d,y)のコスト値C(p,d)が算出される。dは、基準画素pと対応画素の候補qのシフト量(ずれ量)であり、本実施形態では、画素単位のシフト量が表されている。即ち、図9では、対応画素の候補q(x+d,y)を予め指定された範囲(例えば、0<d<25)において順次一画素分シフトしながら、対応画素の候補q(x+d,y)と基準画素p(x,y)との輝度値の類似度であるコスト値C(p,d)が算出される。このようにして算出されたコスト値C(p,d)は、図10に示されているように、シフト量d毎に示されるグラフによって表すことができる。図10では、コスト値Cは、シフト量d=5,12,19の場合が0(ゼロ)となるため、最小値を求めることができない。このように、テクスチャが弱い物体の場合には、最小値を求めることが困難になる。すなわち、ブロックマッチング法では、テクスチャが弱い場合に、正確な測距ができない場合がある。
次に、図11及び図12を用いて、合成コスト値Ls(p,d)の算出方法について説明する。図11は、合成コスト値を導き出すための概念図である。図12は、視差値毎の合成コスト値を示すグラフである。本実施形態における合成コスト値の算出は、コスト値C(p,d)の算出だけでなく、所定の基準画素p(x,y)の周辺の画素を基準画素とした場合のコスト値を、基準画素p(x,y)におけるコスト値C(p,d)に集約させて、合成コスト値Ls(p,d)を算出する方法である。
ここで、合成コスト値の算出方法について、より詳細に説明する。合成コスト値Ls(p,d)を算出すためには、まず、経路コスト値Lr(p,d)を算出する必要がある。(式3)は、経路コスト値Lr(p,d)を算出するための式であり、(式4)は、合成コスト値Lsを算出するための式である。
Lr(p,d)=C(p,d)+min{(Lr(p−r,d),Lr(p−r,d−1)+P1,Lr(p−r,d+1)+P1,Lrmin(p−r)+p2} (式3)
ここで、rは、集約方向を示す。min{}は、最小値を求める関数である。Lrは、式3に示されているように再帰的に適用される。また、P1及びP2は、予め実験により定められた固定パラメータであり、基準画素p(x,y)から離れた画素ほど、経路コスト値Lrに影響を与えないようなパラメータになっている。例えば、P1=48、P2=96である。
また、(式3)に示されているように、Lr(p,d)は、基準画素p(x,y)におけるコスト値Cに、図11に示されているr方向の各画素における各画素の経路コスト値Lrの最小値を加算することで求められる。このように、r方向の各画素におけるLrを求めるため、最初は、基準画素p(x,y)のr方向の一番端の画素からLrを求め、r方向に沿ってLrが求められる。
そして、図11に示されているように、8方向のLr0,Lr45,Lr90,Lr135,Lr180,Lr225,Lr270,Lr315求められ、最終的に(式4)に基づいて、合成コスト値Lsが求められる。
Ls(p,d)=ΣLr (式4)
このようにして算出された合成コスト値Ls(p,d)は、図12に示されているように、シフト量d毎に示されるグラフによって表すことができる。図12では、合成コスト値Lsは、シフト量d=3の場合が最小値となるため、視差値Δ=3として算出される。
なお、SGM法はブロックマッチング法に比べて処理時間がかかるので、測距の精度よりも処理を迅速に行う必要がある場合には、ブロックマッチング法により測距を行うようにしてもよい。この場合、図6におけるコスト合成部320の処理を行わず、視差値導出部330では、コスト算出部で算出されたコスト値から視差値を導出するようにする。
なお、ステレオカメラ装置410に撮像される物体が認識され、その距離がわかれば、その物体の大きさや長さがわかる。すなわち、ステレオカメラ装置410のROM33はその距離と一画素あたりの大きさ及び長さの関係のテーブルを記憶しているので、CPU32はその物体の大きさや長さも特定することができる。なお、ROM33が記憶しているのはテーブルでなく、距離と一画素あたりの関係式であってもよい。さらに、ステレオカメラ装置410内の処理ではなく、上記のようなテーブル等の大きさや長さの算出に必要なデータを有する、サーバ704や作業機械100の制御装置118が物体の大きさや長さを算出するものであってもよい。
<偏光カメラ装置>
図13は偏光カメラ装置430の構成を示す。
この偏光カメラ装置430は、輝度画像と輝度画像に対応する偏光比画像を得ることができるカメラ装置である。この偏光カメラ装置430は、取得される偏光比画像がハイコントラストであるため、輝度や分光の情報では認識できない物体であっても認識することができる。偏光カメラ装置430は、本体部40と鏡筒部50を有する。この偏光カメラ装置430は回転可能に作業機械100に設置される。この回転動作は手動または制御装置118からの制御により行う。これによって、作業機械100周辺に対してさまざまな方向にある対象物の偏光光を撮像し、害虫の認識等を行うことができる。
図14はこの偏光カメラ装置430の構成を示す図である。図14は側面からみた断面図である。本体部40は、偏光フィルタ42、センサ基板43を構成する基板43aと受光素子アレイ44、及びFPGA46を有する。鏡筒部50は、LED52、メインレンズ54、絞り56及び集光レンズ58を有する。
偏光フィルタ42は、S偏光を透過するS偏光透過領域とP偏光を透過するP偏光透過領域が二次元方向に交互に配列された光学フィルタである。受光素子アレイ44は、複数の受光素子を有し、受光素子(以下「画素」という場合がある)ごとのカラーフィルタが実装されていないモノクロセンサである。また、受光素子アレイ44は、光情報を電気情報に変換するセンサである。FPGA46は、受光素子アレイ44から出力されるS偏光とP偏光の電気情報に基づいて、輝度画像と偏光比画像を生成する画像生成部である。
この偏光カメラ装置430からの出力は、FPGA46で生成された輝度画像と偏光比画像である。これらの情報が作業機械100の制御装置118、サーバ704、ユーザ端末710、712等に伝達される。
LED52は、鏡筒部50の先端に等間隔に埋設状態で複数配置された光源である。LEDを光源とすることによって、撮影環境の影響を受けにくくなり、安定した偏光情報を得ることが可能となる。メインレンズ54は物体Opからの反射光を絞り56に導くレンズである。絞り56は、通過する光の量を調整するために用いる遮蔽物である。集光レンズ58は、絞り56を通過した光を偏光フィルタ42に導くためのレンズである。
LED52やその他の光を受けた物体Opからの反射光は、メインレンズ54に入射する。このメインレンズ54に入射した光束におけるS偏光及びP偏光の成分が分離して取得される。
図15Aは、本実施形態に用いられる偏光フィルタ42の正面図である。なお、図15Aの点線42aは偏光フィルタ42と受光素子アレイ44の一部を意味し、図15Aの下部に点線42aの拡大図が示されている。図15Bは偏光フィルタ42と画素の対応を説明する図である。偏光フィルタ42は、S偏光を透過するS偏光透過領域とP偏光を透過するP偏光透過領域が二次元方向に交互に配列されている。したがって、取得されるS偏光画像とP偏光画像は、各々、画素が1つおきに抜け落ちた画像となる。FPGA46では、まず抜け落ちた画素を、隣接する画素の値を用いて補間する処理を行う。これにより、S偏光画像とP偏光画像が取得される。続いて、S偏光画像とP偏光画像に基づいて、輝度画像及び偏光比画像が生成される。ここでいう偏光比画像の各画素を構成する偏光比は、取得した位相差の異なる偏光成分の特徴差を検出できれば良いので、下記の式6に示すように、P偏光成分とS偏光成分の差分であったり、式7に示すように、P偏光成分とS偏光成分の比と(P偏光成分+S偏光成分)の比率であったり、式8に示すように、(P偏光成分−S偏光成分)と(P偏光成分+S偏光成分)の比率であったりすれば良い。ここで式6などは差分であるが、本発明においてはこれら位相差のある偏光情報を利用する計算結果を総称して偏光比と呼ぶ。
偏光比=P偏光成分/S偏光成分 …(式5)
偏光比=P偏光成分−S偏光成分 …(式6)
偏光比={(P偏光成分/S偏光成分)/(P偏光成分+S偏光成分)…(式7)
偏光比=(P偏光成分−S偏光成分)/(P偏光成分+S偏光成分)…(式8)
なお、式7と式8における分母は正規化部分であるが、この正規化は、(P偏光成分+S偏光成分)との差分等でもよい。また、これらの式の例では、位相の異なる偏光比情報としてP偏光情報とS偏光情報を利用しているが、これらは位相が異なれば良いので、円偏光成分を利用しても良い。また、輝度画像の各画素を構成する輝度は、輝度=(P偏光成分+S偏光成分)となる。
<マルチスペクトルカメラ装置>
図16にマルチスペクトルカメラ装置450の外観を示す。このマルチスペクトルカメラ装置450は、撮像画像と撮像された画像における分光反射率を得ることができるカメラ装置である。このマルチスペクトルカメラ装置450は、ある一点ではなく、ある範囲(領域、面)における植物の状態を非接触・非破壊で一度に検出するのに適している。マルチスペクトルカメラ装置450は、本体部60と鏡筒部70を有する。このマルチスペクトルカメラ装置450は回転可能に作業機械100に設置される。この回転動作は手動または制御装置118からの制御により行う。これによって、作業機械100周辺に対してさまざまな方向にある対象物の反射光を撮像し、植物活性度や枝間の長さや葉の大きさなど育成状況を把握することができる。
図17はこのマルチスペクトルカメラ装置450の構成を示す図である。図17Aが正面図、図17Bが側面からみた断面図である。本体部60は、マイクロレンズアレイ62、受光素子アレイ64、FPGA66及び分光反射率算出部68を有する。鏡筒部70は、発光ダイオード(Light Emitting Diode:LED)72、メインレンズ74、絞り76、フィルタ78A及び集光レンズ79を有する。
マイクロレンズアレイ62は、複数の小レンズが二次元方向に配列された光学素子である。受光素子アレイ64は、複数の受光素子を有し、受光素子(以下「画素」という場合がある)ごとのカラーフィルタが実装されていないモノクロセンサである。また、受光素子アレイ64は、光情報を電気情報に変換するセンサである。FPGA66は、受光素子アレイ64から出力される分光情報である電気情報に基づいて複数種類の分光画像を生成する分光画像生成部である。
分光反射率算出部68は、CPUやROM、RAMなどの半導体素子から構成されており、FPGA66で生成された分光画像から画素ごとの分光反射率を算出する。
このマルチスペクトルカメラ装置450からの出力は、FPGA66で生成された複数種類の分光画像とそれらの分光画像の各画素の分光反射率である。これらの情報が作業機械100の制御装置118、サーバ704、ユーザ端末710、712等に伝達される。
LED72は、鏡筒部70の先端部に等間隔に埋設状態で複数配置された光源である。LEDを光源とすることによって、撮影環境の影響を受けにくくなり、安定した分光情報を得ることが可能となる。メインレンズ74は物体Omからの反射光を絞り76を経由してフィルタ78Aに導くレンズである。絞り76は、通過する光の量を調整するために用いる遮蔽物である。フィルタ78Aは、分光透過率が空間的に連続的に変化する。すなわち、フィルタ78Aは複数の分光特性を有する。なお、フィルタ78Aの分光透過率の連続性の方向性は、1つの面内であれば限定されない。例えば、メインレンズ74の光軸に直交する面において、図17の右図中の上下方向、または、これに直交する方向、あるいは斜めに交差する方向などで連続性を有していればよい。集光レンズ79は、フィルタ78Aを通過した光をマイクロレンズアレイ62に導くためのレンズである。
LED72やその他の光を受けた物体Omからの反射光は、メインレンズ74に入射する。このメインレンズ74に入射した光束が分光反射率測定の対象となる。メインレンズ74に入射した光束は無数の光線の集合であり、それぞれの光線は絞り76の異なる位置を通過する。メインレンズ74で集光された前記反射光は、絞り76で通過する光量が調整され、フィルタ78Aに入射する。なお、本実施形態では絞り76はフィルタ78A上に存在するが、これに限られない。フィルタ78Aに入射した各光線は異なる分光透過率のフィルタを通過する。フィルタ78Aを通過した光線は、集光レンズ79により集光され、マイクロレンズアレイ62付近でいったん結像する。なお、メインレンズ74の光軸と直交する方向に複数のマイクロレンズ(小レンズ)が配置されるようにマイクロレンズアレイ62は設置される。いったん結像した各光線はマイクロレンズアレイ62によって、それぞれ受光素子アレイ64の別の位置に到達する。すなわち、受光素子アレイの受光面の位置は光線が通過したフィルタ78Aの位置に対応するので、物体Omのある一点の分光反射率を同時に測定することができる。
図18は、本実施形態に用いられるフィルタ78A及び絞り76の正面図である。フィルタ78Aの下部が短波長、上部が長波長の分光透過率ピークを持つ。この場合、撮影画像は、図19に示すように、小さな円が並んだものとなる。円になるのはメインレンズ74の絞り76の形状が円であるためである。それぞれの小さな円を、ここでは「マクロピクセル」と呼ぶこととする。マクロピクセル77を全て集めると1つの画像となる。各マクロピクセル77は、マイクロレンズアレイ62を構成する各小レンズ(マイクロレンズ)の直下に形成される。マクロピクセル77の径とマイクロレンズの径はほぼ同じである。
図17に示すように、マクロピクセル77の上部はフィルタ78Aの下部を通過してきた光線が到達し、下部にはフィルタ78Aの上部を通過してきた光線が到達する。フィルタ78Aの下部が短波長、上部が長波長の分光透過率を持つような配置とすると、それに対応するように、マクロピクセル77の上部には短波長、下部には長波長の光線が到達する。FPGA66は、波長ごとの光線が到達する画素からの分光情報から分光画像を生成する。これにより所望の波長に対する分光画像が複数得られる。分光反射率算出部68は、各マクロピクセル77の行ごとの平均値を算出し、LED72等の照明の分光強度、メインレンズ74、集光レンズ79の分光透過率、フィルタ78Aの分光透過率、受光素子アレイ64の分光感度を考慮して計算することで分光反射率を求めることができる。
マクロピクセル77の拡大図を図20示す。ここでは、一つのマクロピクセル77が19×19の画素の場合を考える。この一つのマクロピクセル77から被検物としての物体Omのある点の分光反射率を求める。まず、最も短波長(λs)側の反射率を求める手順を述べる。マルチスペクトルカメラ装置450から得られるデータは受光素子からの出力値であり、出力値は受光素子に入射する光線量に対応している。光線量はLED72等の照明の分光強度、物体Omの分光反射率、光学系(メインレンズ74、集光レンズ79等)の分光透過率、フィルタ78Aの分光透過率、受光素子アレイ64の分光感度の5つの特性の波長λsにおける値の積である。よって、物体Omのλsにおける反射率を求めるには、出力値を分光反射率以外の4つの値で除算すればよい。
ここでの出力値には、図20の最下段の行の画素19個の出力値の総和をマクロピクセル77が形成されている面積で除した値を用いる。マクロピクセル77が形成されている面積とは、図20中黒く塗りつぶされている領域以外の光線が届いている面積のことである。これは各行の出力値を規格化するためである。以上の手順でλsでの反射率の相対値を得ることができる。絶対値は別途校正が必要となる。LED72等の照明の分光強度、メインレンズ74、集光レンズ79の分光透過率、フィルタ78Aの分光透過率、受光素子アレイ64の分光感度、マクロピクセル77の各行の面積は設計時に既知である。以上の処理をマクロピクセル77の各行に対して適用することで19の波長における反射率を得ることができる。
その測定結果の一例を図21に示す。横軸が波長、縦軸が分光反射率の相対値である。以上が一つのマクロピクセル77に対する処理であり、全てのマクロピクセル77に対して同じ処理を適用することで、二次元分光反射率を測定することが可能となるフィルタ78Aは、光学ガラスなどの透明基板に、薄膜を厚みがくさび状に変化するように蒸着することで作製することができる。本実施形態における薄膜の材質は五酸化ニオブであり、短波長側の材質は五酸化タンタルである。薄膜の膜厚は数十〜数百nmである。膜厚の薄いほうが短波長、厚いほうが長波長に対応する。薄膜の厚みがくさび状(無段階)に変化するため、分光透過率も連続的に変化する。
光の干渉により分光透過率を制御しているので、透過光が強め合う条件が分光透過率のピーク波長に相当する。透明基板の厚みは、フィルタの保持が可能であればよい。絞り位置付近にレンズが近接している設計のレンズもあり、その場合は薄いほうがよい。例えば0.5mm程度である。上記のように、連続的な分光透過特性をもつフィルタ78Aを利用することで、連続的な分光反射率を撮影と同時に直接得ることができる。これにより、推定処理は不要となり、ノイズに対するロバスト性の高い二次元分光反射率を測定することができる。
次に図22を使って、本実施形態のマルチスペクトルカメラ装置450に使用可能なフィルタの他の例を説明する。図22Aのフィルタ78Bは、透過帯域毎に分割した構成を有している。すなわち、フィルタ78Bは、400nmから500nmの波長域に対応するフィルタ78Baと、500nmから600nmの波長域に対応するフィルタ78Bbと、600nmから700nmの波長域に対応するフィルタ78Bcとから構成されている。したがって、フィルタ78Bは、紫外域あるいは赤外域においても連続的に分光透過率が変化するフィルタである。各フィルタ78Ba、78Bb、78Bcは、それぞれ空間的に連続的に分光透過率が変化するフィルタである。ここでは、図中上から下に向ってそれぞれ波長が大きくなっている。各フィルタ78Ba、78Bb、78Bcの長手方向の向きは統一する必要はない。要するに、分光透過率が連続的に変化する領域が存在すればよく、方向性は関係ない。また、各フィルタ78Ba、78Bb、78Bcは上記構成に限定されず、各々異なる波長域を少なくとも一部に有していればよい。各透過帯域は一例であり、これらの値に限定される趣旨ではない。このようにフィルタを分割することで、1画素に対応する波長幅を狭くすることができる。すなわち、波長的な分解能が高い分光反射率測定が可能となる。また、分割して配置することにより、細長いフィルタに比べ、狭い絞り径内で分光透過率の連続性を確保することができる。
なお、光を効率的に使うため、絞り76の形状を四角などの多角形やその他所望の形状に形成してもよい。
図23は、植物の葉に対する典型的な分光反射スペクトルを示す。実線2301は正常な葉(植物活性度が高い)、破線2302は枯れている葉(植物活性度が低い)のスペクトルである。この図の実線2301が示すように、植物活性度が高い正常な葉では波長が660nm近辺の可視赤域(及びそれよりも短い波長領域)2304で葉緑体の一種であるクロロフィルの吸収により反射率が低い。一方、近赤外域2305の700nmから1100nmでは反射率が高い。一方で植物活性度の低い枯れた葉では、クロロフィルが分解するため、可視赤域2304での吸収があまり行われずに正常な葉に比べて反射率が高くなる。なお、この傾向は植物の種類を問わず、同様であることが分かっている。そこで、可視赤域2304での分光反射率Rと近赤外域2305での分光反射率IRから(式9)を用いて正規化植生指数(Normalized Difference Vegetation Index:NDVI)を求めることができる。
NDVI=(IR−R)/(IR+R) (式9)
通常、正規化植生指数NDVIは−1から+1までの値があり、値が大きいほど植物の活性度が高いことを示す。マルチスペクトルカメラ装置450を使えば、理論的には撮像領域すべてにおいて、正規化植生指数NDVIを求めることができる。すなわち、図22Bのフィルタ78Cのように、可視赤域の660nmの波長域に対応するフィルタ78Caと、近赤外域である770nmの波長域に対応するフィルタ78Cbを本実施形態のマルチスペクトルカメラ装置450のフィルタとして採用する。なお、近赤外域として、785nmや900nmの波長域に対応するフィルタをフィルタ78Cbに採用してもよい。この場合、785nmはLEDで容易に得られる波長である。LED72の半分は波長が660nm付近の強度が高い光を照射するものを、残りの半分は波長が770nm付近で強度の高い光を照射できるものを設置する。このような構成で、マルチスペクトルカメラ装置450で対象の植物にLED光の照射を行い、反射光の撮像を行う。そして、FPGA66で波長660nmにおける分光画像と波長770nmにおける分光画像を得る。分光反射率算出部68によりそれらの分光画像内の所望の位置または領域における分光反射率を求める。さらに、分光反射率算出部68内のCPUは(式9)を適用して正規化植生指数NDVIを得る。なお、マルチスペクトルカメラ装置450内ではなく、分光画像や分光反射率情報を取得した作業機械100の制御装置118またはサーバ704が(式9)を適用し、正規化植生指数NDVIを求めてもよい。なお、農作物ごとの正規化植生指数NDVIはデータベース708に送られ、蓄積される。また、FPGA66が、上述の分光画像に基づいて画素ごとにNDVI値を有するNDVI画像を算出する構成としてもよい。なお、正規化植生指数NDVIではなく、可視赤域(たとえば660nm)の波長の分光反射率だけを用いて植物の育成状況を把握してもよい。この可視赤領域において、植物活性度の違いによる分光反射率の変化が大きいからである。これにより、生育状況を把握できるとともに近赤外域における分光反射率の測定や正規化植生指数NDVIの算出を省略でき、処理や判断の迅速化を図ることができる。一方、正規化植生指数NDVIを求めれば、正規化されたより精密な育成状況(植物活性度)の情報を得ることができる。
また、正規化植生指数NDVIの経日観測によって、収穫時期を正確に予期できる。たとえば、葉物野菜の場合、正規化植生指数NDVIが最大時(植物活性度が最も高いとき)に収穫することが望ましい。この正規化植生指数NDVIの最大値や最大をむかえる日は作物ごとに異なるので、植物ごとに収穫が望まれる正規化植生指数NDVIの範囲を決める。これにはデータベース708に蓄積された正規化植生指数NDVIのデータを使って、サーバ704あるいはユーザ端末710、712で行うことができる。たとえば、実験的に正規化植生指数NDVIの極大値を過ぎるような同種の農作物を複数観測し、そのばらつき度合い等から収穫すべき正規化植生指数NDVIの範囲(たとえば、レタスについてはNDVIが0.5から0.55)を決める。そして、マルチスペクトルカメラ装置450等で求めた正規化植生指数NDVIがその範囲内にある農作物を収穫すればよい。さらに、蓄積したデータから統計的に農作物ごとの正規化植生指数NDVIの経日変化の傾向を求めることで収穫時期を予測できる。
さらに、マルチスペクトルカメラ装置450によれば、色から成果物(果実)などの品質(糖度)の判定を行うことができる。この場合、図22Aの透過帯域(400nmから500nm(78Ba)、500nmから600nm(78Bb)、600nmから700nm(78Bc))毎に分割されたフィルタ78Bを使用し、さらに受光素子アレイ64の受光素子(画素)ごとにベイヤー配列でRGBのカラーフィルタが配置されたカラーセンサを利用する。このRGBカラーフィルタは、B(ブルー)では470nm付近に、G(グリーン)では540nm付近に、R(レッド)では620nm付近にそれぞれスペクトルのピーク(最大値)を有している。フィルタ78Bを構成する各フィルタ(78Baと78Bbと78Bc)と、カラーセンサにおける第2のフィルタを構成するRGBの各フィルタの分光特性はそれぞれ異なっている。フィルタ78Bを構成する各フィルタと、カラーセンサにおける第2のフィルタを構成する各フィルタを光線が通過することで、3×3=9種類のバンドパスフィルタを通ったのと同様の分光情報を同時に取得することができる。しかしながら、厳密には、各々のフィルタの分光透過領域の部分のみ光は透過することができるため、本実施形態では実質的に、6種類の分光情報を取得することとなる。このように6種類の分光情報を得られれば、自然界のスペクトルを精度良く計測することができ、撮像した色を正確に認識することが可能となる。このマルチスペクトルカメラ装置は、可視光を精度よく測定できる測色カメラ装置を構成する。たとえば、ある種のイチゴのように熟して赤くなるほど糖度が増す果実では、マルチスペクトルカメラ装置(測色カメラ装置)450でその果実全体の分光画像における可視赤域における分光反射率を求めることができるので、その糖度の評価を行うことができる。
さらに、モモ果実のように果皮が薄い果実に対して、マルチスペクトルカメラ装置450によって近赤外領域の分光反射率を測定してそのスペクトル分布から糖度を評価することができる。
さらに、マルチスペクトルカメラ装置450によれば、非破壊・非接触で植物の緑葉などが含有する水分量を測定することができる。これは植物において水分が不足するとその植物に水ストレスがかかり、緑葉の表面の分光特性が変化するので、この変化をとらえることによって水分量を測定するものである。図23に示すように可視赤域から近赤外域にかけて反射率が急に高まる領域(レッドエッジ)がある。植物は水ストレスがかかるとこの反射率が高まる領域が波長の短い青色側(左側)にずれることがわかっている(ブルーシフト)。図23の点線2303は水ストレスを与えた場合のブルーシフトの様子を示す。このずれ量を検出できれば植物の葉内の水分量(水ストレスのかかり具合)を特定できる。そこで、この水ストレスの度合いを検出するために、マルチスペクトルカメラ装置450は、可視赤域から近赤外域にかけて反射率が急に高まる領域の複数の波長における反射率を測定するため、その複数の波長域に対応できる分光フィルタを備える。たとえば、その分光フィルタは、フィルタ78Aのように可視赤域から近赤外域にかけて連続的に変化するものであってもよいし、所望の波長(たとえば、715nm、740nm)を選択して透過させるフィルタであってもよい。
これら可視赤域から近赤外域にかけて反射率が急に高まる領域における所望の波長に対する反射率を計測し、基準となる反射率(たとえば水ストレスをかけていない状態における、それぞれの波長に対する分光反射率)と比較することでずれ量を検出することができる。この場合にLED72として、可視赤域から近赤外域にかけて反射率が急に高まる領域において所望の波長の光を出力できるLEDを設置して、それらを使用してもよいし、LED72による照射を行わずに太陽光を利用して反射率測定を行ってもよい。太陽光を利用する場合には、植物で反射した太陽光から取得した前記複数の波長における分光反射率を、圃場または作業機械100に設置される標準白色板で反射された太陽光から得た反射率で除し、正規化されたレベル同士を比較することで、太陽光の光量変化による測定値の誤差の影響を少なくすることができる。なお、測定する分光反射率は、2つの波長に対するものに限られず、精度を上げるために3以上の波長に対して測定してもよい。このようにマルチスペクトルカメラ装置450によって植物の含有する水分量を測定することで、測定対象である植物に対して非破壊、非接触で、かつ、迅速な測定が可能となる。
なお、マルチスペクトルカメラ装置(測色カメラ装置)450を2台組み合わせて上述のステレオカメラ装置410と同様の原理で距離を測定するようにしてもよい。これにより、対象物の画像と分光情報及び距離情報(視差情報)を一回の撮像動作で取得することができる。
<環境情報取得ユニット>
図24は、環境情報取得ユニット500を示す概念図である。作業機械100が備える植物情報取得ユニット400(ステレオカメラ装置410、偏光カメラ装置430、マルチスペクトルカメラ装置450)が植物自体の情報を直接的に取得できるのに対し、環境情報取得ユニット500は、環境情報を取得することにより間接的に植物の情報を推定するのに用いられる。環境情報取得ユニット500は、植物栽培施設10内の、温度、湿度、照度等の環境情報を取得し、サーバ704に、環境情報を送信する。環境情報取得ユニット500は、温度センサ5002と、湿度センサ5004と、照度センサ5006と、風速センサ5008と、CO2濃度センサ5010と、水分センサ5012と、養分センサ5014と、各種センサを電気的に接続するバスライン5016と、無線通信手段5018と、を有している。なお、上記各センサは、簡単のため図24中には1つずつ示しているが、実際には、植物栽培施設10内の情報を満遍なく取得する必要があるため複数設けられる。
温度センサ5002は、雰囲気温度を取得可能なサーミスタ等の汎用のセンサであって、植物栽培施設10内の温度を取得する。湿度センサ5004は、雰囲気湿度を取得可能な抵抗変化型や静電容量型等の汎用のセンサであって、植物栽培施設10内の湿度を取得する。照度センサ5006は、周囲光の照度を取得可能なフォトトランジスタやフォトダイオード等を用いた汎用のセンサであって、植物栽培施設10内の照度を取得する。風速センサ5008は、所定のケーシングに流路が設けられた少なくとも風速を検知可能なセンサであって、植物栽培施設10内の風速を取得する。CO2濃度センサ5010は、雰囲気中のCO2(二酸化炭素)の濃度を取得可能なNDIR(Non Disperase Infrared Gas Analyzer)や光音響方式等の汎用のセンサであって、植物栽培施設10内のCO2濃度を取得する。水分センサ5012は、水分量を取得可能な抵抗変化型や静電容量型等の汎用のセンサであって、植物栽培施設10内において植物が植設される土中あるいはウレタンフォーム等の中の水分量を取得する。養分センサ5014は、電気伝導度等の測定に基づいて養分濃度を取得可能な汎用のセンサであって、植物栽培施設10内において植物が植設される土中あるいはウレタンフォーム等の中の養分量を取得する。無線通信手段5018は、温度センサ5002等の各センサによって取得された環境情報と、各センサのIDとを、対応付けてサーバ704へ送信する。
<環境調整ユニット>
図25は、環境調整ユニット600を示す概念図である。環境調整ユニット600は、サーバ704からの情報に基づいて、植物栽培施設10内の、温度、湿度、照度等の環境を調整する。環境調整ユニット600は、温度調整手段6002と、湿度調整手段6004と、照度調整手段6006と、風速調整手段6008と、CO2濃度調整手段6010と、水分調整手段6012と、養分調整手段6014と、各種センサを電気的に接続するバスライン6016と、無線通信手段6018と、を有している。上記各手段は、無線通信手段6018によって受信されるサーバ704からの制御信号に基づいて、制御される。
温度調整手段6002は、植物栽培施設10内全体の雰囲気調整により植物栽培施設10内の温度を調整する。なお、温度調整手段6002は、定点に冷暖房のための穴を有するパイプを張り巡らしたり、定点に向かって伸びるノズルを配設したりすることにより、植物の生長点や葉等の定点のみの温度を調整する構成としてもよい。最適温度あるいは昼夜の温度差等を考慮して温度調整することにより、光合成及び呼吸を調整し、植物の成長を促進または抑制させることができる。湿度調整手段6004は、デシカント方式等の加湿・除湿技術により植物栽培施設10内の湿度を調整する。湿度の制御により植物の蒸散の調整ができるため、植物の成長を促進または抑制させることが可能になる。照度調整手段6006は、LED等であり、必要に応じてON/OFFの制御及び光量の調節が行われ、植物栽培施設10内の照度を調整する。光は植物の光合成に大きな影響を与えるため、照度の制御により植物の成長も制御することが可能となる。風速調整手段6008は、送風機による送風によって植物栽培施設10内の風速を調整する。特に、植物の葉表面の風速を制御することにより、植物の蒸散量を調整することができ、成長の促進または抑制を行うことができる。CO2濃度調整手段6010は、外気の導入や燃料の燃焼等を行うことにより植物栽培施設10内のCO2を発生させ、CO2濃度を調整する。光合成及び呼吸によるCO2交換速度はCO2濃度に影響されるため、CO2濃度の制御によって、光合成及び呼吸の活性化、ひいては植物の成長促進が期待できる。なお、CO2濃度調整手段6010は、CO2の発生によらず、他の設備が発生させたCO2を再利用することもできる。水分調整手段6012は、水分を供給することにより植物栽培施設10内における土中あるいはウレタンフォーム中等の水分量を調整する。土等中の水分量は植物の蒸散に影響するため、植物の成長の調整にも寄与する。養分調整手段6014は、養液を供給することにより植物栽培施設10内における土中あるいはウレタンフォーム中等の養分量を調整する。養分量を制御することにより、植物の成長を調整できる。
上記各調整手段は、通常は、予め定められた設定条件に、環境状態を保つ調整をするよう、サーバ704によって制御されている。
〔システムの動作〕
図26から図31を用いて、本実施形態における植物栽培システム1の動作について説明を行う。植物栽培システム1の動作において、これらの図のフローチャートで示す動作は代表的なものである。その他の動作や詳細な動作はすでに文章で説明が行われたか、これから説明が行われる。また、作業機械100、サーバ704、ユーザ端末710、712、その他の環境情報取得ユニット500、環境調整ユニット600等との間における情報のやり取りは、すでに説明を行った有線または無線による通信によって直接または無線アクセスポイント等による中継を介して行われる。電波による無線が有効でない場合には、可視光または不可視光を用いた無線情報通信をおこなってもよい。
なお、これまでの説明及び以後の説明でサーバ704が主体となって動作を行うものは、正確にはサーバ内のCPUがSSDに格納されたプログラムにしたがって行う動作であるが、説明の簡単化のため、サーバ704が行うものとして説明する。また、これまでの説明及び以後の説明で作業機械100が主体となって動作を行うものは、正確には作業機械100に内蔵される制御装置118がそこに格納されたプログラムにしたがって行う動作であるが、説明の簡単化のため、作業機械100が行うものとして説明する。さらに、これまでの説明及び以後の説明でユーザ端末710、712が主体となって動作を行うものは、正確にはユーザ端末710及び/またはユーザ端末712に内蔵されるCPUが記録媒体に格納されたプログラム及び/またはユーザ端末の使用者の指示にしたがって行う動作であるが、説明の簡単化のため、まとめてユーザ端末710、712が行うものとして説明する。またさらに、これまで説明した、または今後説明される、その他の装置及びステレオカメラ装置410、偏光カメラ装置430、マルチスペクトルカメラ装置450、環境情報取得ユニット500、環境調整ユニット600等やデータベース706、708などの動作も、正確にはそれらが備えている制御プロセッサやCPUがそれらの装置やデータベースに格納されているプログラムの沿って行う動作であるが、説明の簡単のために、その他の装置及びステレオカメラ装置410、偏光カメラ装置430、マルチスペクトルカメラ装置450、環境情報取得ユニット500、環境調整ユニット600等やデータベース706、708等が行う動作として説明される。
〔収穫時期予測処理:実施例1〕
図26は、本実施形態における収穫時期予測処理を示すフローチャートである。
本実施形態の植物栽培システム1は、対象の植物の収穫時期を予測する収穫時期予測処理を行う。
具体的には、作業機械100のマルチスペクトルカメラ装置450は、収穫時期予測の対象を含む一定範囲の輝度画像及び正規化植生指数NDVIを取得するための画像(以下、NDVI画像という)を取得するとともに、植物の前に配置された不図示のプレート上の二次元コードから対象の植物(植物のグループ)の植物管理IDを取得する(S100A)。植物管理IDは、植物の種類を含むその他対象の情報が対応付けられてデータベース706に記憶されている。
マルチスペクトルカメラ装置450は、取得された輝度画像、及び記憶部に事前学習で記憶された特徴量に基づいて、対象の植物の認識を行い、植物に対応する画像上の領域を特定する(S102A)。
マルチスペクトルカメラ装置450は、取得されたNDVI画像及び特定された植物の領域に基づいて、対象の植物に対応するNDVI値を算出する(S104A)。ここでのNDVI値は、植物に対応する画像上における領域中の各画素のNDVI値の平均等を利用する。
作業機械100は、植物管理ID及び算出されたNDVI値を、サーバ704へ送信する(S106A)。サーバ704は、受信することによって植物管理ID及びNDVI値を取得し、取得された植物管理IDに基づいて、データベース706に記憶されたNDVI関数N(d)を取得する(S108A)。ここでいうNDVI関数N(d)は、環境が前述の設定条件である場合に、一定期間における対象の植物のNDVI値の時系列情報に基づいて求められた、経過日数d(0〜収穫時期dh)とNDVI値の関数である。少なくとも栽培開始から収穫時までは、経過日数dの経過に応じて植物の成長の程度、すなわちNDVI値は増加するため、NDVI関数N(d)はN'(d)≧0を満たす単調増加の関数となり、したがってNDVI値から植物が経過日数の何日目にあたるかが特定可能となる。
サーバ704は、取得されたNDVI関数N(d)及びNDVI値から、現在日dnを特定する(S110A)。特定された現在日dn及び収穫時期dhから収穫までの期間dh−dnを算出し、算出された期間及びサーバ704内蔵の時計によって取得される現在日に基づいて収穫予測日dpを特定する(S112A)。
サーバ704は、ユーザ端末710,712を制御して特定された収穫予測日dpに基づいた画面を表示させる制御信号を生成するか、または後述の収穫時期調整処理を行うための制御信号を生成する(S114A)。生成された制御信号は、各種制御に用いられる。そして、S114Aの処理を終えると、作業機械100は次の植物グループが栽培されている位置近傍に移動し、S100Aの処理から本処理を再開する。
なお、S102AからS104Aは、サーバ704で行っても良い。この場合、作業機械100は、S100Aで取得した情報をサーバ704へ送信する。また、S106Aの処理は不要となる。上記構成によれば、負荷のかかる処理をサーバ704で行うことができる。
また、NDVI画像を用いず、マルチスペクトルカメラ装置450でNDVI値を取得する構成にしてもよい。 〔収穫時期予測処理:実施例2〕
図27は、本実施形態における収穫時期予測処理の他の例を示すフローチャートである。
本実施形態の植物栽培システム1は、実施例1においてマルチスペクトルカメラ装置450により取得されるNDVI値に加えて、または代えて、ステレオカメラ装置410により取得される植物サイズ値に基づいて、収穫時期予測処理を行うことができる。以下ではNDVI値に加えて植物サイズ値を利用した例を示す。
作業機械100のマルチスペクトルカメラ装置450は、収穫時期予測の対象を含む一定範囲の輝度画像及びNDVI画像を取得する(S100B)。また、作業機械100のステレオカメラ装置410は、収穫時期予測の対象を含む一定範囲の輝度画像及び視差画像を取得するとともに、植物の前に配置されたプレート上の二次元コードから対象の植物(植物のグループ)の植物管理IDを取得する(S101B)。ここで、植物管理IDについては一般に比較的解像度の高いステレオカメラ装置410により取得しているが、マルチスペクトルカメラ装置450によって取得しても良い。
マルチスペクトルカメラ装置450は、取得された輝度画像、及び記憶部に事前学習で記憶された特徴量に基づいて、対象の植物の認識を行い、植物に対応する画像上の領域を特定する(S102B)。
ステレオカメラ装置410は、取得された輝度画像、及び記憶部に事前学習で記憶された特徴量に基づいて、対象の植物の認識を行い、植物に対応する画像上の領域を特定する(S103B)。
マルチスペクトルカメラ装置450は、取得されたNDVI画像及び特定された植物の領域に基づいて、対象の植物に対応するNDVI値を算出する(S104B)。
ステレオカメラ装置410は、取得された視差画像及び特定された植物の領域に基づいて、対象の植物に対応する植物サイズ値を算出する(S105B)。植物サイズ値は植物の大きさに対応するもので、例えば前回撮像した位置における同一対象物の枝間の距離を測定したり、葉の大きさを測定したりすることにより、ステレオカメラ装置410によって算出可能である。
作業機械100は、植物管理ID及び算出されたNDVI値及び植物サイズ値を、サーバ704へ送信する(S106B)。
サーバ704は、受信された植物管理IDに基づいて、データベース706に記憶された収穫時期特定関数H(d)を取得する(S108B)。ここでいう収穫時期特定関数H(d)は、NDVI関数N(d)と植物サイズ関数S(d)によって定められる関数で、実施例1と同様、経過日数d(0〜収穫時期dh)とNDVI値及び植物サイズ値の関数である。もっとも簡単には、H(d)=αN(d)+βS(d)(α≧0、β≧0)で定義される。αとβは重み係数であって、その種類の植物の収穫の基準としてNDVIと植物サイズのどちらを重視したいかによって定められる。したがって、収穫時期特定関数H(d)と同様、IDによって一意に特定される値となる。植物サイズ値もNDVI値と同様、少なくとも収穫時期までは経過日数dの経過に応じて増加するため、収穫時期特定関数H(d)は、H'(d)≧0を満たす単調増加の関数となり、したがってNDVI値及び植物サイズ値から植物が経過日数の何日目にあたるかが特定可能となる。
サーバ704は、取得された収穫時期特定関数H(d)及びNDVI値、植物サイズ値から、現在日dnを特定する(S110B)。特定された現在日dn及び収穫時期dhから収穫までの期間dh−dnを算出し、算出された期間及びサーバ704内蔵の時計によって取得される現在日に基づいて収穫予測日dpを特定する(S112B)。
サーバ704は、ユーザ端末710,712を制御して特定された収穫予測日dpに基づいた画面を表示させる制御信号を生成するか、または後述の収穫時期調整処理を行うための制御信号を生成する(S114B)。生成された制御信号は、各種制御に用いられる。ユーザ端末710,712に対して画面表示を行う場合は、ユーザからの入力に呼応して画面が表示されるようにしてもよい。そして、S114Bの処理を終えると、作業機械100は次の植物グループが栽培されている位置近傍に移動し、S100Bの処理から本処理を再開する。
なお、S101BからS105Bは、サーバ704で行っても良い。この場合、作業機械100は、S100B及びS101Bで取得した情報をサーバ704へ送信する。また、S106Bの処理は不要となる。上記構成によれば、負荷のかかる処理をサーバ704で行うことができる。
本実施例における収穫時期予測処理を行う場合、マルチスペクトルカメラ装置450とステレオカメラ装置410は別体でも良いが、前述したようにマルチスペクトルカメラ装置450を2台組み合わせてステレオカメラ装置410と同様の原理で距離を測定できるようにした装置を用いるのがより好ましい。このような装置を用いることで、マルチスペクトルカメラ装置450の処理とステレオカメラ装置410の処理で用いる画像の一部を共通化でき、より高効率・高精度なシステムを実現できる。
なお、本実施例においては植物サイズをステレオカメラ装置410によって取得しているが、マルチスペクトルカメラ装置450によって撮像した植物の前のプレートの画像との対比により、植物サイズを算出することも可能である。
また、NDVI画像を用いず、マルチスペクトルカメラ装置450でNDVI値を取得する構成にしてもよい。
〔収穫時期調整処理〕
図28は、本実施形態における収穫時期調整処理を示すフローチャートである。本実施形態の植物栽培システム1は、対象の植物の収穫時期を調整する収穫時期調整処理を行う。具体的には、サーバ704は、ユーザ端末710からユーザによって入力される収穫希望日dwを受信する(S200)。この収穫希望日dwは、ユーザによって入力された日そのものでも良い。また、ユーザによって入力される配達希望日から所定の配達日数を差し引くことにより得られる日であっても良く、このとき、ユーザは、希望の植物の注文をユーザ端末710から行うとともに、配達希望日及び配達希望地域を入力することとなる。サーバ704は、入力された配達希望日及び配達希望地域を受け付け、配達希望日からユーザの配達希望地域によって特定される配達日数を差し引くことにより、後述の収穫希望日を算出する。
サーバ704は、収穫希望日が算出された対象の植物グループをIDにより特定し、収穫時期予測処理のS112A,Bによって得られた収穫予測日dpが収穫希望日dwより早いかを判断する(S202)。dw−dp>0である場合(S202−Y)、収穫予測日が収穫希望日に対して早いので、サーバ704は、植物の成長を抑制する制御条件を求め、その制御を行うための抑制信号を、環境調整ユニット600へ送信する(S204)。
環境調整ユニット600は、受信した抑制信号に基づいて、温度調整手段6002や照度調整手段6006等による環境調整によって植物の成長を抑制する制御を行う(S206)。例えば、温度調整手段6002により対象の植物グループに対する環境温度を下げたり、照度調整手段6006により照度を下げたりする。
一方、dw−dp<0である場合(S202−N)、収穫予測日が収穫希望日に対して遅いので、サーバ704は、植物の成長を促進する制御を行うための制御条件を求め、その促進信号を、環境調整ユニット600へ送信する(S208)。環境調整ユニット600は、受信した促進信号に基づいて、温度調整手段6002や照度調整手段6006等による環境調整によって植物の成長を促進する制御を行う(S210)。例えば、温度調整手段6002により対象の植物グループに対する環境温度を上げたり、照度調整手段6006により照度を上げたり、CO2濃度調整手段6010によりCO2濃度を上げたりする。上記制御は、収穫予測日dp及び収穫希望日dwの日に基づいた制御であるが、植物栽培施設10内の環境の急激な変化を伴ってしまう場合がある。そこで、日の時間微分値に基づいた制御をかけることで、環境に比較的急激な変化のない制御を行うこともできる。
なお、収穫予測日と収穫希望日が同じ場合(dw−dp=0)には、これまでと同様の成長を行わせるための制御信号を環境調整ユニット600へ送信する。
上記においては、抑制信号と促成信号を区別して説明しているが、ともに環境調整ユニット600を制御する信号であり、区別しなくても良い。
また、これまでと同様の成長を行わせるための制御信号を送信する場合は、これに代えて、制御信号を送信しないようにしてもよい。
〔害虫駆除処理〕
図29は、本実施形態における害虫駆除処理を示すフローチャートである。本実施形態の植物栽培システム1は、対象の植物に付着する害虫を駆除する害虫駆除処理を行う。
具体的には、作業機械100の偏光カメラ装置430は、害虫駆除を要する可能性のある対象を含む一定範囲の輝度画像及び偏光比画像を取得するとともに、植物の前に配置されたプレート上の二次元コードから対象の植物(植物のグループ)の植物管理IDを取得する(S300)。
偏光カメラ装置430は、取得された輝度画像、及び記憶部に事前学習で記憶された特徴量に基づいて、対象の植物の認識を行い、植物に対応する画像上の領域を特定する(S302)。偏光カメラ装置430は、取得された偏光比画像及び特定された植物の領域に基づいて対象の植物に付着する害虫の認識を行い、害虫の付着する領域が植物の領域のうちの対象領域(例えば葉)に占める植物占有割合Pを算出する(S304)。
偏光カメラ装置430は、算出した植物占有割合P及び植物管理IDをサーバ704へ送信する(S306)。サーバ704は、受信することによって植物管理ID及び植物占有割合Pを取得し、取得された植物占有割合Pが予め定められた所定値P0(例えば5%)を上回るか判断する(S308)。
P>P0の場合には(S308−Y)、害虫駆除処理を行うことを示す駆除信号を生成してその駆除信号を作業機械100へ送信するとともに、植物管理IDとカウント値をデータベース706へ送信する(S310)。ここでのカウント値は、害虫駆除処理が何回行われたかをカウントするための指標値である。害虫駆除には一般的に農薬が用いられるため、植物の種類によっては人の健康面に配慮して回数を制限する必要がある。カウント値によって、害虫駆除処理の回数の管理を行うことができる。なお、上記回数は農薬散布の量を間接的に量ることのできる指標値であるが、直接的に量を示す情報を用いてもよい。
サーバ704は、カウント値によって数えられる回数が、予め定められた所定回数を超えるか判断する(S312)。作業機械100は、S312で所定回数を超えていないと判断された場合(S312−N)、受信された駆除信号に基づいて、作業機械100に設置されている不図示の農薬散布装置を用いて農薬を散布し、害虫駆除処理を行う(S314)。
その後、作業機械100は、次の対象へと移動して害虫駆除処理を開始する(S316)。
一方で、S312で所定回数を超えると判断された場合(S312−Y)及びS308においてP≦P0の場合には(S308−N)、害虫駆除処理を行わないことを示す非駆除信号を生成して作業機械100へ送信する(S318)。
作業機械100は、受信された非駆除信号に基づいて害虫駆除処理は実行されずに、次の対象へと移動して害虫駆除処理を開始する(S316)。この場合、サーバ704はユーザ端末710,712に害虫駆除できなかった旨を通知する。これによってユーザは、マニュアルで害虫駆除等を行うことができる。なお、S310で駆除信号を作業機械100へ送信することなく、S316において害虫駆除処理を行わずに次の対象へと移動させる制御をする信号を生成する構成でも良い。
上記は偏光比画像を用いたが、分光画像を用いても良い。通常の輝度画像では認識できない害虫であっても、分光画像上では認識され得る。
〔補助光源照明処理〕
図30は、本実施形態における補助光源照明処理を示すフローチャートである。本実施形態の植物栽培システム1は、太陽光を補助するための補助光源によって植物を照明する補助光源照明処理を行う。
具体的には、サーバ704は、インターネット経由で不図示の外部情報源から天気予報情報を取得する(S400)。サーバ704は、取得された天気予報情報及び収穫時期調整処理によって特定される照度調整手段6006としてのLEDの照明条件から、LEDによる照明を行うか判断する。すなわち、サーバ704は、図28で示すような収穫時期調整処理によって植物の成長を抑制する調整がなされるかを判断する(S402)。
植物の成長を抑制する調整がなされる場合(S402−Y)には、LEDによる照明は逆効果となってしまうため、天気予報如何にかかわらずLEDによる照明は行われない。
植物の成長を抑制する調整がなされない場合(S402−N)、サーバ704は、天気予報情報からLEDによる照明を行うか判断する(S404)。
天気予報によって雨天等の予報がなされ、晴天時に比べて照度が不足するためLEDによる照明を行うと判断された場合には(S404−Y)、サーバ704は、LEDの照明を行うことを示す照明信号を生成して環境調整ユニット600へ送信する(S406)。
環境調整ユニット600は、受信された照明信号に基づいて、照度調整手段6006としてのLEDによる照明を行う(S408)。
一方、天気予報によって晴天の予報がなされ、照度は十分とみなしてLEDによる照明は行わないと判断された場合には(S404−N)、LEDによる照明は行わない。なお、外部情報源とともに、または外部情報源に代えて、照度センサ5006で得られる照度に基づくLEDの照明制御を行っても良い。
〔収穫処理〕
図31は、本実施形態における収穫処理を示すフローチャートである。本実施形態の植物栽培システム1は、要収穫状態にある対象の植物を収穫する収穫処理を行う。
具体的には、作業機械100のマルチスペクトルカメラ装置450は、収穫するか否かの判断対象となる植物を含む一定範囲の輝度画像及びNDVI画像を取得するとともに、植物の前に配置されたプレート上の二次元コードから対象の植物の植物管理IDを取得する(S500)。
マルチスペクトルカメラ装置450は、取得された輝度画像、及び記憶部に事前学習で記憶された特徴量に基づいて、対象の植物の認識を行い、植物に対応する画像上の領域を特定する(S502)。
マルチスペクトルカメラ装置450は、現在日dnにおいて、取得されたNDVI画像及び特定された植物の領域に基づいて、対象の植物に対応するNDVI値(dn)を算出する(S504)。
作業機械100は、植物管理ID及び算出されたNDVI値(dn)を、サーバ704へ送信する(S506)。サーバ704は、受信することによって植物管理ID及びNDVI値を取得し、取得された植物管理IDに基づいて、データベース706に記憶されたNDVI値(dh)を取得する(S508)。ここでいうNDVI値(dh)は、収穫時期dhに対応するNDVI値である。
サーバ704は、取得されたNDVI値(dh)と作業機械100から受信されたNDVI値(dn)を比較し、対象の植物が要収穫状態にあるか判断する(S510)。NDVI値(dn)≧NDVI値(dh)、すなわちdn≧dhであって要収穫状態であると判断された場合(S510−Y)、サーバ704は、収穫することを示す収穫信号を生成して作業機械100へ送信する(S512)。
作業機械100は、受信された収穫信号に応じて、ステレオカメラ装置410によって対象の植物を含む領域を撮像し、輝度画像及び視差画像を取得する(S514)。
ステレオカメラ装置410は、取得された輝度画像、及び記憶部に事前学習で記憶された特徴量に基づいて、対象の植物の認識を行い、植物に対応する画像上の領域を特定する(S516)。
ステレオカメラ装置410は、視差画像に基づいて特定された領域の距離情報を取得する(S518)。
作業機械100は、取得された距離情報を用いて収穫のための切断位置を特定し、収穫装置106が有する収穫バサミ108、把持アーム110及び収穫ボックス112によって切断・収穫作業を行う(S520)。
その後、作業機械100は、当該植物グループ内の植物の収穫処理が終わるまでは隣の植物へ、植物グループの全ての処理が終われば次のグループへと移動して収穫処理を開始する(S522)。
一方、S510においてNDVI値(dn)<NDVI値(dh)、すなわちdn<dhであり要収穫状態でないと判断された場合(S510−N)、サーバ704は、収穫しないことを示す非収穫信号を生成して作業機械100へ送信する(S524)。
作業機械100は、非収穫信号に応じて、次の対象へと移動して収穫処理を開始する(S522)。
なお、収穫処理を行う場合、マルチスペクトルカメラ装置450とステレオカメラ装置410は別体でも良いが、前述したようにマルチスペクトルカメラ装置450を2台組み合わせてステレオカメラ装置410と同様の原理で距離を測定できるようにした装置を用いるのがより好ましい。このような装置を用いることで、マルチスペクトルカメラ装置450の処理とステレオカメラ装置410の処理で用いる画像の一部を共通化でき、より高効率・高精度なシステムを実現できる。
なお、収穫処理においては距離情報をステレオカメラ装置410によって取得しているが、マルチスペクトルカメラ装置450によって撮像した植物の前のプレートの画像との対比により、距離情報を取得することも可能である。その他、レーザレーダのような他の距離情報取得機器を利用することも可能である。
〔課金処理〕
上述のとおり、サーバ704(または課金管理用サーバ。以下同じ)は、課金処理(請求処理)も行う。システム提供者はシステム利用料を適切に回収できることで、経営を継続するとともに新たなサービスを開発したり、現在のサービスを改善したりすることが可能となるので、課金処理を技術によって自動的に正確かつ効率的に行えるようにすることが課題となる。
課金方法にはさまざまな形態があり、本実施形態の植物栽培システム1のユーザが選択できるようになっている。定額制の課金形態としては、i.図2で示すような情報通信システム1502の使用料、ii.図1で示すような植物工場のシステム(植物情報取得ユニット400、環境情報取得ユニット500、環境調整ユニット600など)1501の賃貸料(装置1個当たり100ドル/月、作業機械1個当たり200ドル/月など)、iii.土地(植物工場)の賃貸料(1平方メートルあたり15ドルなど)、がある。
システム利用開始時にシステム提供者と利用者の間で合意した課金の形態は、データベース708に登録される。サーバ704は、データベース708に登録された課金形態i〜iiiに対して、それぞれ単独の、または複数組み合わせたときの料金請求を定期的(たとえば、月ぎめ)でユーザ端末710、712に送信する。
従量制の課金形態としては、i.処理の種類、ii.処理時間、iii.処理箇所の大きさ、iv.サーバ704による分析実施、v.収穫日予測実施、vi市場の需要取得、vii植物栽培システム1内の情報通信量、のそれぞれ単独及び/または複数組み合わせ等がある。これらiからviiの情報(あるいはiからviiを生成するための情報)は、上述のようにサーバ704によりデータベース708に記録されている。たとえば、サーバ704は、iとiiの組み合わせに対して、処理の種類(収穫:5ドル/時間)と処理時間(20時間)で計100ドルの料金を発生させたり、iとiiiの組み合わせに対して作業の種類(整地:0.2ドル/平方メートル)と作業箇所の大きさ(1000平方メートル)で計200ドルの料金を発生させたりする。このように植物栽培システム1によれば所定の期間(たとえば1ヶ月間)における作業内容(作業の種類、作業時間、作業箇所の大きさ、作業を行った作業機械など)を特定することが容易にでき、その作業内容に応じた課金を行うことができる。また、サーバ704は、このiとiiなどの組み合わせに加え、たとえばvの収穫日予測(1回あたり10ドル)を実施した回数(5回)で計50ドルの料金を発生させることも可能である。これらiからviiは、作業ごとにデータベース708に登録される情報に基づいてサーバ704が算出し、一定期間(たとえば半年)ごとにユーザ端末710、712に料金請求を行う。
さらに植物栽培システム1は成功報酬型の課金形態も提供する。i.植物栽培システム1を使って収穫した植物に対する売上に対して一定の割合(たとえば20%)を課金したり、ii.植物栽培システム1を使って植物を育てた場合に、収穫量が増加した分の売上げに対して一定の割合(たとえば50%)で課金したり、iii.これらi、iiの課金に収穫した植物の市場価格を加味して料金を設定したり(たとえば、市場価格が基準価格に対して一定以上高騰した場合にi、iiの割合を増加させ、暴落した場合に低下させる)する。これらiからiiiを算出するための情報はデータベース708に記録されている。サーバ704は、データベース708に記憶されているデータからこれらの料金を算出し、一定期間(たとえば半年)ごとにユーザ端末710、712に料金請求を行う。
一方で、ユーザが一定の条件を満たした場合に料金を割り引いてもよい。たとえば、ユーザが植物栽培システム1に有益な情報(たとえば害虫の種類と発生場所及び発生規模)を与えた場合には、所定回数(10回/月)を上限として1回当たり3ドルの割引を行うことができる。所定の金額を上限としてもよい。この場合もデータベース708にその情報が記録されているので、サーバ704はそれを参照して割引を行う。これにより、植物栽培システム1のシステム提供者は、今後の植物栽培システム1の効率的な運用に必要なデータを取得できるとともに、ユーザはシステム使用料の割引を受けられるので、両者にとって利点があることになる。
また、ユーザが作業機械100などを遠隔操作等を通じて操作を行った場合に、自動制御のときよりもシステム使用料を低減することもできる。この場合の料金設定としては、植物栽培システム1によって提供される価値が高い順(自動制御、遠隔操作の順)に料金を高く設定する。サーバ704は、このような割引のための情報をデータベース706、708やサーバ704内のSSDに記憶されたデータから取得し、割引料金を算出し、算出した料金を割り引いてユーザ端末710、712への料金請求を行う。サーバ704は、これらの定額制料金、従量制料金、成功報酬型料金を単独でも、組み合わせて一緒にでも請求することができる。この際、上記の割引も行われることになる。このように作業開始から作業完了まで、さらには収穫以後農作物の小売までの情報を植物栽培システム1は自動取得、自動集計できるので、正確かつ効率的な課金処理を行うことが可能となる。
なお、植物栽培システム1のユーザはユーザ端末710、712など用いて、クレジットカードやデビットカードその他の電子マネーを使って電子決済を行うことができる。または銀行振り込みでも対応できる。サーバ704がユーザ端末710、712に料金の請求を行ってから所定期日内に料金の支払いを確認できない場合には、督促を、ユーザ端末710、712に送付したり、郵送等の別の手段により送付したりできる。督促の送付から所定期日内に振込みを確認できない場合には、サーバ704はそのユーザが植物栽培システム1の一部または全部の使用を利用できないようにする。これにより、使用料を支払わないユーザによる植物栽培システム1の利用を制限できる。
〔PRIを用いた灌漑制御〕
NDVIは急激には変化しにくい値であるため安定した育成制御が可能である反面、短周期に植物の状態を監視し育成を制御する指標としては適していない。そこで、PRI(Photochemical / Physiological Reflectance Index)という指標を用いることが有効である。PRIは式(10)により算出される。ただし、R531、R570はそれぞれ波長531nm、570nmの反射率である。
PRI = (R531 - R570) / (R531 + R570) (式10)
図32は、PRIを説明するための図の一例であり、植物の葉に対する500〜600nmの分光反射スペクトルが示されている。実線321は水ストレスが与えられていない葉の分光反射スペクトルであり、破線322は水ストレスが与えられた葉の分光反射スペクトルである。水ストレスが反射率に与える影響については図23においても説明されているが、図32の分光反射スペクトルも典型的なものといえる。すなわち、反射率の絶対値や波長に対する傾きは植物や気温、育成時期によって種々であるが、水ストレスは広い波長域に渡って反射率が大きくなるように変化させる。これは、植物に水ストレスが与えられると、葉に含まれる葉緑体の色素の性質が変化するため等によるものと考えられる。
このような変化は水ストレスが与えられてから1時間程度という比較的短い時間で生じるため、反射率の変化を監視できれば効果的な灌漑が可能になる。そして、この反射率の変化を監視するための有効な指標として上記のPRIが考えられる。
また、PRIは光合成速度と高い正の相関があることが知られている(光合成速度が大きいほどPRIは"1"に近づく)。光合成速度は植物に水ストレスが与えられると、葉の気孔が閉じて急激に低下することが知られている。したがって、光合成速度とPRIに関する知見からもPRIを用いて水ストレスを定量的に測定することが可能であることが裏付けられる。
すでに説明したようにマルチスペクトルカメラ装置450は、波長531nm、570nmの光の反射率をそれぞれ検出することができる。この場合、図22Bのフィルタ78Cにおいて、フィルタ78Caに531nmの波長域に対応するフィルタが採用され、フィルタ78Cbに570nmの波長域に対応するファイルが採用される。理論的には撮像領域すべてにおいてPRIを求めることができる。
また、マルチスペクトルカメラ装置450が備える複数のLED72のうち約半分には531nm付近の波長が強いLEDが採用され、残りの約半分には570nm付近の波長が強いLEDが採用される。このような構成で、マルチスペクトルカメラ装置450は対象の植物にLED光の照射を行い、反射光の撮像を行う。そして、FPGA66は波長531nmにおける分光画像と波長570nmにおける分光画像を得る。分光反射率算出部68はそれらの分光画像内の所望の位置または領域における分光反射率を求める。また、分光反射率算出部68は(式10)を用いてPRIを算出する。FPGA66が、上述の分光画像に基づいて画素ごとにPRIを算出してもよい。
なお、マルチスペクトルカメラ装置450ではなく、分光画像や分光反射率情報を取得した作業機械100の制御装置118またはサーバ704が(式10)を用いて、PRIを算出してもよい。このようにして算出された植物ごとのPRIはデータベース706に蓄積される。
PRIは、式(10)から明らかなように"-1"から"+1"の値を取り得るが、実際に葉の反射率から算出されるPRIはゼロ近辺の絶対値が小さい値をとることが多い。PRIの値がいくつであるから、水ストレスがない状態又は水ストレスが与えられている状態であるとサーバ704が断定することは一般には困難である。反射率は植物の種類や気温などにより影響されるためである。
しかし、植物工場のように安定した生育環境で育てられる植物であれば、マルチスペクトルカメラ装置450が、予め水ストレスが制御された状態で栽培対象の植物の反射光を測定しておくことができる。したがって、サーバ704は、水ストレスが制御された状態で観測された任意の植物の一定期間のPRIを蓄積しておくことができる。例えば、単位時間に散布された水の量とPRIの関係を蓄積しておくことができるので、ある植物における水ストレスとPRIの値との関係をあらかじめ取得しておくことができる。また、どのくらいの水ストレスが植物の育成に有効かは、収穫後の検査や実際の試食などにより植物の管理者が把握できる。
このように予め蓄積された知見データが参照されることで好ましいPRIの値が明らかになるので、PRIがある閾値(たとえば"0")を下回った場合に、サーバ704が水分調整手段6012に対し灌漑を開始させる制御が可能になる。PRIは水ストレスに対して1時間に満たない極めて短い時間で値が変化するため、サーバ704はPRIを数分間隔で観測することによって、適切な灌漑を行うことが可能である。植物栽培システム1はこのようなPRI観測−灌漑制御システムを構築することでそれぞれの植物に対し適切な灌漑を行うことができる。
なお、NDVIは育成状況や収穫時期など比較的長い期間に対する制御の指標として用いることができるのに対して、PRIは水ストレスが加わった場合に短周期の制御を可能とする指標である。両者の指標を用いることで、育成期間の全般にわたって、サーバ704等が植物の質と収穫量を所望の状態にするための制御を行うことが可能となる。
図33は、水ストレスとPRIの対応関係を表すデータを植物栽培システム1が取得する処理のフローチャートである。以下では、サーバ704がPRIを算出するものとする。
まず、植物栽培施設10の環境調整ユニット600は、サーバ704の制御や植物の管理者の操作に応じて水ストレスの制御を行う(S1)。水ストレスの制御は、水が十分な状態から作物の育成過程において許容される水分欠乏状態まで幅広く制御することが好ましい。
次に、作業機械100のマルチスペクトルカメラ装置450は、植物の葉の画像を取得する(S2)。植物の葉の画像は、水ストレスを与えることと並行に行われ、水ストレスが与えられた後、時間的に安定した水ストレスの影響をサーバ704が観測できるように複数枚の画像が取得されることが好ましい。
マルチスペクトルカメラ装置450はステップS2で取得した画像をサーバ704へ送信する(S3)。また、水ストレスが与えられたか否かの二値でなく、与えられた水ストレスの程度が制御された場合は水ストレスの程度もサーバ704へ送信する。
次に、サーバ704は画像を受信し(S4)、サーバ704は(式10)を用いてPRIを算出する(S5)。
サーバ704は水ストレスとPRIの対応関係を表すデータをデータベース706に蓄積させる(S6)。このようにして、ある植物の水ストレスの程度とPRIの関係がデータベース706に蓄積される。
図34Aは水ストレスの程度とPRIの関係の概念的な図の一例を示す。図34Aでは水ストレスが大きいほど(水が少ないほど)PRIが右下がりになっているが、この図はあくまで概念的なものであり、右上がりになっていてもよいし、一様に変化するとも限らない。
水ストレスがどの程度であればこの植物にとって好ましいかという知見は、農業などの従事者や収穫後の検査や実際の試食などから得られるので、図34Aから好ましいPRIも決定できる。
ところで、好ましい水ストレスは植物の育成時期によって異なる場合がある。このため、植物の育成時期に対し定期的(例えば、10日や1ヶ月ごと)にサーバ704が水ストレスの程度とPRIの関係を取得することが好ましい。これにより、育成時期の全域に渡って好ましいPRIを蓄積しておくことができる。
図34Bは育成月数と好ましいPRIの関係の概念的な図の一例を示す。図34Bによればこの植物は、育成時期の前半で高いPRIを示す水ストレスが与えられることが好適であり、育成時期の後半で低いPRIを示す水ストレスが与えられることが好適であることが分かる。このような水ストレスは「水切り」と呼ばれる場合がある。例えば果実収穫前に「水切り」と呼ばれる意図的な水分欠乏状態に植物が置かれることによって果実の糖度を高める技術が知られている。予め定められた育成時期にこのような所望の水分欠乏状態に相当するPRIの値がデータベース706に登録されていることで、サーバ704は自動的に水切りを実現することができる。したがって、図34Bのような知見がデータベース706に蓄積されていれば、サーバ704がPRIに基づいて意図的に好ましい水ストレス状態を作ることができる。
次に、図35を用いて、水ストレスと好ましいPRIの対応関係を表すデータを用いた灌漑制御について説明する。図35は植物栽培システム1が灌漑制御を行う手順を示すフローチャートを示す。図35の処理は例えば数分おきに繰り返し実行される。
作業機械のマルチスペクトルカメラ装置450は作物の画像を断続的に撮影する(S1)。画像の撮影間隔は1分毎程度が好ましい。
次に、マルチスペクトルカメラ装置450は取得した画像をサーバ704へ送信する(S2)。
サーバ704は画像を受信し(S3)、サーバ704は画像を解析してPRIを算出する(S4)。
次に、サーバ704はPRIをデータベース706のデータと照合し、水ストレスの状態を推定する(S5)。例えば、図34Bから現在の育成月数のPRIを読み出して、ステップS4で算出したPRIと比較する。
次に、サーバ704は推定した水ストレスの状態に応じて灌漑する/しないを判断する(S6)。具体的には、ステップ5で推定した水ストレスの状態と、所望の水ストレスの状態との差分を埋めるように制御する。すなわち、所望の水ストレスの状態(PRI)に対して推定された水ストレスの状態(PRI)が水分欠乏状態であれば灌漑を行うと判断し、水分過剰状態であれば灌漑しないと判断する。
灌漑する場合(S7のYes)、サーバ704は灌漑制御信号を生成して環境調整ユニット600に送信する(S8)。
環境調整ユニット600の水分調整手段6012は灌漑制御信号に応じた灌漑制御を行う(S9)。
以上のように、PRIを監視することで適切な灌漑が可能になる。なお、PRIの算出時には必ずしも波長531nm、570nmの反射率を用いる必要はなく、植物ごとに最適な波長の反射率を用いてよい。また、PRIを算出することなく任意の波長の反射率に基づいて水ストレスの状態を監視してもよい。
〔本実施形態に基づく発明〕
以上説明を行った本実施形態及び応用例には少なくとも次の特徴を有する発明が含まれる。
(1)情報を処理して作業機械100やユーザ端末710,712等の機器を制御する制御信号を生成するサーバ704等の情報処理装置であって、マルチスペクトルカメラ装置450等の撮像手段により撮像された植物等の特定の被写体の分光画像情報等の画像情報から生成される被写体の状態を示すNDVI値等の第1の被写体状態情報を取得する取得手段と、取得された第1の被写体状態情報に基づいて制御信号を生成する生成手段と、を有することを特徴とする。
(2)(1)であって、取得手段は、被写体の分光画像情報から生成される被写体の状態を示す第1の被写体状態情報を取得することを特徴とする。
(3)(1)であって、取得手段は、被写体の偏光画像情報から生成される被写体の状態を示す害虫の植物占有割合等の第1の被写体状態情報を取得することを特徴とする。
(4)(2)であって、取得手段は、被写体のNDVI値を取得することを特徴とする。
(5)(1)〜(4)であって、取得手段は、第1の被写体状態情報に加えて分光画像情報、距離画像情報及び偏光画像情報の少なくとも1つから生成される被写体の状態を示す植物サイズ値等の第2の被写体状態情報を取得し、取得された第1及び第2の被写体状態情報に基づいて制御信号を生成することを特徴とする。
(6)(1)〜(5)であって、生成手段は、第1の被写体状態情報に基づいて収穫予測日等の推定情報を生成し、生成された推定情報及びユーザから入力される収穫希望日や配達希望日等の入力情報に基づいて、制御信号を生成することを特徴とする。
(7)(1)〜(6)であって、生成手段は、第1の被写体状態情報に基づいて、現在の被写体の状態を、収穫時期等の所定時期において要収穫状態等の所望の被写体の状態にするための植物の成長を促進または抑制する等の制御条件を求め、制御条件に基づいて制御信号を生成することを特徴とする。
(8)(1)〜(7)であって、生成手段は、制御信号による制御の量に関するカウント値等の量情報を生成し、量情報に基づいて、制御信号または制御信号による制御を行わないことを示す非制御信号を生成することを特徴とする。
(9)(1)〜(8)であって、取得手段は、外部情報源から天気予報等の所定の対象の動向を予測する予測情報を取得し、生成手段は、収穫時期調整処理等の制御信号によるLEDの照明等の制御が行われる場合には予測情報に基づく制御信号は生成せず、制御信号による制御が行われない場合に予測情報に基づく制御信号を生成することを特徴とする。
(10)(1)〜(9)のサーバ704等の情報処理装置からの制御信号によって制御される作業機械100等の機器であって、制御信号に応じて機器から対象の植物等の対象物までの距離に関する距離情報を取得する取得手段と、取得された距離情報に基づいて対象物に対し収穫作業等の所定の作業を行う作業手段と、を有することを特徴とする。
(11)情報を処理して作業機械100やユーザ端末710,712等の機器を制御する制御信号を生成する植物栽培システム1等の情報処理システムであって、植物等の特定の被写体を撮像して分光画像情報を取得するマルチスペクトルカメラ装置等の撮像手段と、被写体の分光画像情報に基づいて生成される被写体の状態を示すNDVI値等の被写体状態情報を算出する算出手段と、算出された被写体状態情報に基づいて制御信号を生成する生成手段と、を有することを特徴とする。
(12)情報を処理して作業機械100やユーザ端末710,712等の機器を制御する制御信号を生産する制御信号の生産方法であって、マルチスペクトルカメラ装置450等の撮像手段により撮像された植物等の特定の被写体の分光画像情報から生成される被写体の状態を示すNDVI値等の被写体状態情報を取得する取得ステップと、取得された被写体状態情報に基づいて制御信号を生産する生産ステップと、を含むことを特徴とする。
(13)サーバ704等のコンピュータに、情報を処理して作業機械100やユーザ端末710,712等の機器を制御する制御信号の生成を実行させるためのプログラムであって、マルチスペクトルカメラ装置450等の撮像手段により撮像された植物等の特定の被写体の分光画像情報から生成される被写体の状態を示すNDVI値等の被写体状態情報を取得する取得ステップと、取得された被写体状態情報に基づいて制御信号を生成する生成ステップと、を実行させることを特徴とする。
なお、本国際出願は、2014年7月16日に出願した日本国特許出願2014−146161号及び2015年1月15日に出願した日本国特許出願2015−005745号に基づく優先権を主張するものであり、日本国特許出願2014−146161号、及び、日本国特許出願2015−005745号の全内容を本国際出願に援用する。
以上、農業機械や圃場のシステムを実施例により説明したが、本発明は上記実施例に限定されるものではなく、本発明の範囲内で種々の変形及び改良が可能である。

Claims (13)

  1. 情報を処理して機器を制御する制御信号を生成する情報処理装置であって、
    撮像手段により撮像された特定の被写体の画像情報から生成される前記被写体の状態を示す第1の被写体状態情報を取得する取得手段と、
    取得された前記第1の被写体状態情報に基づいて前記制御信号を生成する生成手段と、を有し、
    前記取得手段は、外部から所定の対象の動向を予測する予測情報を取得し、
    前記生成手段は、前記制御信号による植物の成長促進又は成長抑制の制御が行われない場合に前記予測情報に基づく前記機器を制御する制御信号を生成することを特徴とする情報処理装置。
  2. 請求項1に記載の情報処理装置であって、
    前記取得手段は、前記被写体の分光画像情報から生成される前記被写体の状態を示す第1の被写体状態情報を取得することを特徴とする情報処理装置。
  3. 請求項1に記載の情報処理装置であって、
    前記取得手段は、前記被写体の偏光画像情報から生成される前記被写体の状態を示す第1の被写体状態情報を取得することを特徴とする情報処理装置。
  4. 請求項2に記載の情報処理装置であって、
    前記取得手段は、前記被写体のNDVI値を取得することを特徴とする情報処理装置。
  5. 請求項2に記載の情報処理装置であって、
    前記取得手段は、前記被写体のPRI(Photochemical / Physiological Reflectance Index)を取得することを特徴とする情報処理装置。
  6. 請求項1乃至5のいずれか1項に記載の情報処理装置であって、
    前記取得手段は、前記第1の被写体状態情報に加えて分光画像情報、距離画像情報及び偏光画像情報の少なくとも1つから生成される前記被写体の状態を示す第2の被写体状態情報を取得し、取得された第1及び第2の被写体状態情報に基づいて前記制御信号を生成することを特徴とする情報処理装置。
  7. 請求項1乃至6のいずれか1項に記載の情報処理装置であって、
    前記生成手段は、前記第1の被写体状態情報に基づいて推定情報を生成し、生成された前記推定情報及びユーザから入力される入力情報に基づいて、前記制御信号を生成することを特徴とする情報処理装置。
  8. 請求項1乃至7のいずれか1項に記載の情報処理装置であって、
    前記生成手段は、前記第1の被写体状態情報に基づいて、現在の被写体の状態を、所定時期において所望の被写体の状態にするための制御条件を求め、前記制御条件に基づいて前記制御信号を生成することを特徴とする情報処理装置。
  9. 請求項1乃至8いずれか1項に記載の情報処理装置であって、
    前記生成手段は、前記制御信号による制御の量に関する量情報を生成し、前記量情報に基づいて、前記制御信号または前記制御信号による制御を行わないことを示す非制御信号を生成することを特徴とする情報処理装置。
  10. 請求項1乃至9のいずれか1項に記載の情報処理装置からの制御信号によって制御される機器であって、
    前記制御信号に応じて前記機器から対象物までの距離に関する距離情報を取得する取得手段と、
    取得された前記距離情報に基づいて前記対象物に対し所定の作業を行う作業手段と、を有することを特徴とする機器。
  11. 情報を処理して機器を制御する制御信号を生成する情報処理システムであって、
    特定の被写体を撮像して画像情報を取得する撮像手段と、
    前記被写体の画像情報に基づいて生成される前記被写体の状態を示す被写体状態情報を算出する算出手段と、
    算出された前記被写体状態情報に基づいて前記制御信号を生成する生成手段と、を有し、
    前記算出手段は、外部から所定の対象の動向を予測する予測情報を取得し、
    前記生成手段は、前記制御信号による植物の成長促進又は成長抑制の制御が行われない場合に前記予測情報に基づく前記機器を制御する制御信号を生成することを特徴とする情報処理システム。
  12. 情報を処理して機器を制御する制御信号を生産する制御信号の生産方法であって、
    撮像手段により撮像された特定の被写体の画像情報から生成される前記被写体の状態を示す被写体状態情報を取得する取得ステップと、
    取得された前記被写体状態情報に基づいて前記制御信号を生産する生産ステップと、を含み、
    前記取得ステップでは、外部から所定の対象の動向を予測する予測情報を取得し、
    前記生産ステップでは、前記制御信号による植物の成長促進又は成長抑制の制御が行われない場合に前記予測情報に基づく前記機器を制御する制御信号を生成することを特徴とする制御信号の生産方法。
  13. コンピュータに、情報を処理して機器を制御する制御信号の生成を実行させるためのプログラムであって、
    撮像手段により撮像された特定の被写体の画像情報から生成される前記被写体の状態を示す被写体状態情報を取得する取得ステップと、
    取得された前記被写体状態情報に基づいて前記制御信号を生成する生成ステップと、を実行させ、
    前記取得ステップでは、外部から所定の対象の動向を予測する予測情報を取得し、
    前記生成ステップでは、前記制御信号による植物の成長促進又は成長抑制の制御が行われない場合に前記予測情報に基づく前記機器を制御する制御信号を生成することを特徴とするプログラム。
JP2016534326A 2014-07-16 2015-06-10 情報処理装置、機器、情報処理システム、制御信号の生産方法、プログラム Active JP6365668B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2014146161 2014-07-16
JP2014146161 2014-07-16
JP2015005745 2015-01-15
JP2015005745 2015-01-15
PCT/JP2015/066773 WO2016009752A1 (ja) 2014-07-16 2015-06-10 情報処理装置、制御信号の生産方法、情報処理システム、プログラム

Publications (2)

Publication Number Publication Date
JPWO2016009752A1 JPWO2016009752A1 (ja) 2017-05-25
JP6365668B2 true JP6365668B2 (ja) 2018-08-01

Family

ID=55078254

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016534326A Active JP6365668B2 (ja) 2014-07-16 2015-06-10 情報処理装置、機器、情報処理システム、制御信号の生産方法、プログラム

Country Status (5)

Country Link
US (1) US20170118925A1 (ja)
EP (1) EP3171327A1 (ja)
JP (1) JP6365668B2 (ja)
CN (1) CN106575419A (ja)
WO (1) WO2016009752A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102573427B1 (ko) * 2020-10-30 2023-09-01 단국대학교 천안캠퍼스 산학협력단 옥상 녹화 습지 서식처 조성 방법
KR102615814B1 (ko) * 2020-10-30 2023-12-21 단국대학교 천안캠퍼스 산학협력단 옥상 녹화 습지 서식처 자동 관리 시스템

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3106562A1 (en) * 2015-06-19 2016-12-21 TF-Technologies A/S Correction unit
CN107709972B (zh) * 2015-06-22 2020-10-16 国立大学法人京都大学 Ndir式气体传感器、气体分析仪、光合成速度测定装置、以及光合成速度测定方法
BE1023152B1 (nl) * 2015-08-28 2016-12-02 Cnh Industrial Belgium Nv Oogstmachine met feedbackregeling van hakselparameters
EP3411705A4 (en) * 2016-02-04 2020-02-26 Gemmacert Ltd. SYSTEM AND METHOD FOR DETERMINING THE QUALITY OF PLANT MATERIAL
JP6764577B2 (ja) * 2016-04-18 2020-10-07 ソニー株式会社 情報処理装置、情報処理方法、及び、プログラム
JP6933211B2 (ja) * 2016-06-22 2021-09-08 ソニーグループ株式会社 センシングシステム、センシング方法、及び、センシング装置
EP3276079B1 (en) * 2016-07-26 2021-07-14 Caterpillar Paving Products Inc. Control system for a road paver
JP6635910B2 (ja) * 2016-12-28 2020-01-29 本田技研工業株式会社 情報処理装置、給水システム、情報処理システム及びプログラム
US11763457B2 (en) * 2017-02-15 2023-09-19 Sony Group Corporation Information generation method, information generation apparatus, and program
JP6862229B2 (ja) * 2017-03-15 2021-04-21 キヤノン株式会社 解析装置、撮像装置、解析方法、および、プログラム
JP6932563B2 (ja) * 2017-03-29 2021-09-08 西日本電信電話株式会社 結果予測装置、結果予測方法、及びプログラム
EP3626043B1 (en) * 2017-05-17 2024-02-14 Inaho, Inc. Agricultural work apparatus, agricultural work management system, and program
US10568275B2 (en) 2017-06-14 2020-02-25 Grow Solutions Tech Llc Systems and methods for providing temperature control in a grow pod
EP3657156A4 (en) * 2017-07-18 2020-06-17 Sony Corporation INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING METHOD, PROGRAM, AND INFORMATION PROCESSING SYSTEM
JP6810009B2 (ja) * 2017-09-29 2021-01-06 トヨタ自動車株式会社 視差算出装置
WO2019109006A1 (en) * 2017-11-30 2019-06-06 OnePointOne, Inc. Vertical farming systems and methods
US10937148B2 (en) * 2018-01-15 2021-03-02 The Boeing Company System and method for monitoring crops
WO2020021602A1 (ja) * 2018-07-23 2020-01-30 inaho株式会社 農作業装置及びこれを用いた農作業の方法
KR20210037681A (ko) 2018-07-23 2021-04-06 헬리포닉스 엘엘씨 자동화된 식물 성장 시스템
WO2020049575A1 (en) 2018-09-09 2020-03-12 Viewnetic Ltd. Inspection system for use in monitoring plants in plant growth areas
WO2020133242A1 (zh) * 2018-12-28 2020-07-02 深圳市大疆软件科技有限公司 农业植保无人机的控制方法、农业植保无人机和计算机可读存储介质
JP7310639B2 (ja) * 2020-02-19 2023-07-19 トヨタ自動車株式会社 情報処理装置、情報処理方法、及び、システム
JP7473951B2 (ja) 2020-02-27 2024-04-24 国立大学法人東海国立大学機構 情報処理装置、情報処理システム、情報処理方法、および、コンピュータプログラム
EP4114168A1 (en) 2020-03-03 2023-01-11 Signify Holding B.V. Estimating a harvesting time for a plant section based on light measurement information
IT202000004561A1 (it) * 2020-03-04 2021-09-04 Pierangelo Vercellino Sistema interattivo per la previsione e la cura di fitopatologie
JP7484243B2 (ja) 2020-03-10 2024-05-16 株式会社大林組 栽培施設の設計支援システム、栽培施設空調システム、栽培施設の設計支援方法、および、栽培施設の設計支援プログラム
IL295243A (en) * 2020-03-11 2022-10-01 Viewnetic Ltd Systems and methods for monitoring plants in growing areas
CN113673279A (zh) * 2020-05-14 2021-11-19 明谷农业生技股份有限公司 植物生长辨识方法及其系统
US20220141424A1 (en) * 2020-11-04 2022-05-05 Gary B. Levin System and method for image detection of pests
WO2023234020A1 (ja) * 2022-06-03 2023-12-07 ソニーグループ株式会社 撮像装置、および撮像装置の作動方法、並びにプログラム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3503207B2 (ja) * 1994-08-19 2004-03-02 井関農機株式会社 収穫ロボットの果実識別装置
JP2004177369A (ja) * 2002-11-29 2004-06-24 Jeneshia:Kk 偏光イメージングを用いた選果システム
JP3979535B2 (ja) * 2004-03-31 2007-09-19 独立行政法人 宇宙航空研究開発機構 Lctfとccdの交換が可能な液晶光学計測装置
JP4876439B2 (ja) * 2005-05-31 2012-02-15 パナソニック電工株式会社 植物育成情報の提供方法
JP4982823B2 (ja) * 2006-08-18 2012-07-25 長崎県 果実栽培における水管理方法
CA2679330C (en) * 2007-03-23 2015-08-25 Heliospectra Aktiebolag System for modulating plant growth or attributes
DE102010034603B4 (de) * 2010-08-13 2013-01-31 Franke Gmbh Sensorsystem und Verfahren zur Bestimmung einer optischen Eigenschaft einer Pflanze
US9495597B2 (en) * 2011-10-20 2016-11-15 Monsanto Technology Llc Plant stand counter
US8902413B2 (en) * 2012-02-21 2014-12-02 Trimble Navigation Limited Cell phone NDVI sensor
JP5930185B2 (ja) * 2012-04-27 2016-06-08 株式会社 伊藤園 茶葉の摘採適性評価方法及び摘採適性評価装置、摘採適性評価システム並びにコンピュータ使用可能な媒体
JP6147493B2 (ja) * 2012-11-29 2017-06-14 大和ハウス工業株式会社 植物生育環境制御システム及び植物生育環境制御方法
CN103018196A (zh) * 2012-12-11 2013-04-03 江苏大学 一种油菜需水信息的快速探测方法
JP2014216685A (ja) * 2013-04-23 2014-11-17 株式会社ニコン 撮像装置、及びプログラム
CN103310197A (zh) * 2013-06-13 2013-09-18 山东省农业可持续发展研究所 一种利用中分辨率卫星数据提取黄淮海平原区大蒜种植面积的方法
CN103439265B (zh) * 2013-08-15 2015-06-03 湖南农业大学 一种茶树精细化栽培生育性状实时监测方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102573427B1 (ko) * 2020-10-30 2023-09-01 단국대학교 천안캠퍼스 산학협력단 옥상 녹화 습지 서식처 조성 방법
KR102615814B1 (ko) * 2020-10-30 2023-12-21 단국대학교 천안캠퍼스 산학협력단 옥상 녹화 습지 서식처 자동 관리 시스템

Also Published As

Publication number Publication date
JPWO2016009752A1 (ja) 2017-05-25
WO2016009752A1 (ja) 2016-01-21
EP3171327A4 (en) 2017-05-24
CN106575419A (zh) 2017-04-19
EP3171327A1 (en) 2017-05-24
US20170118925A1 (en) 2017-05-04

Similar Documents

Publication Publication Date Title
JP6365668B2 (ja) 情報処理装置、機器、情報処理システム、制御信号の生産方法、プログラム
JP6344473B2 (ja) システム、機械、制御方法、プログラム
US12082541B2 (en) Plant treatment based on morphological and physiological measurements
US11367207B2 (en) Identifying and treating plants using depth information in a single image
JP2016049102A (ja) 圃場管理システム、圃場管理方法、プログラム
US11816874B2 (en) Plant identification using heterogenous multi-spectral stereo imaging
US20220101554A1 (en) Extracting Feature Values from Point Clouds to Generate Plant Treatments
Andritoiu et al. Agriculture autonomous monitoring and decisional mechatronic system
Marín et al. Urban lawn monitoring in smart city environments
Moreno et al. Proximal sensing for geometric characterization of vines: A review of the latest advances
Oehlschläger et al. UAV-based hyperspectral sensing for yield prediction in winter barley
US20220100996A1 (en) Ground Plane Compensation in Identifying and Treating Plants
Livanos et al. Extraction of reflectance maps for smart farming applications using unmanned aerial vehicles
Giustarini et al. PANTHEON: SCADA for precision agriculture
Duman et al. Design of a smart vertical farming system using image processing
Rovira-Más et al. Crop scouting and surrounding awareness for specialty crops
Thapa Irrigation Management in Vineyards: Modeling Water Stress Using Hyperspectral Imaging
Gahlot et al. A Bird Eye View on Next Generation Smart Farming Based on IoT with Machine Learning Approach–A Review
Sherazi et al. Utilizing Internet of Things for Automating Food Security and Savvy Agriculture: A Review
KR20240120040A (ko) 선진국 스마트팜 기술현황 및 국내 적용 방법
WO2024069631A1 (en) Plant phenotyping

Legal Events

Date Code Title Description
A529 Written submission of copy of amendment under article 34 pct

Free format text: JAPANESE INTERMEDIATE CODE: A5211

Effective date: 20170105

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170105

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170912

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171102

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180320

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180516

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180605

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180618

R151 Written notification of patent or utility model registration

Ref document number: 6365668

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151