JP7137426B2 - Harvest prediction system for greenhouse-grown fruits - Google Patents

Harvest prediction system for greenhouse-grown fruits Download PDF

Info

Publication number
JP7137426B2
JP7137426B2 JP2018187867A JP2018187867A JP7137426B2 JP 7137426 B2 JP7137426 B2 JP 7137426B2 JP 2018187867 A JP2018187867 A JP 2018187867A JP 2018187867 A JP2018187867 A JP 2018187867A JP 7137426 B2 JP7137426 B2 JP 7137426B2
Authority
JP
Japan
Prior art keywords
fruit
greenhouse
harvest
grown
prediction system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018187867A
Other languages
Japanese (ja)
Other versions
JP2020054289A (en
Inventor
広志 中島
玄太 三浦
徹 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toda Corp
Original Assignee
Toda Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toda Corp filed Critical Toda Corp
Priority to JP2018187867A priority Critical patent/JP7137426B2/en
Publication of JP2020054289A publication Critical patent/JP2020054289A/en
Application granted granted Critical
Publication of JP7137426B2 publication Critical patent/JP7137426B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02ATECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A40/00Adaptation technologies in agriculture, forestry, livestock or agroalimentary production
    • Y02A40/10Adaptation technologies in agriculture, forestry, livestock or agroalimentary production in agriculture
    • Y02A40/25Greenhouse technology, e.g. cooling systems therefor

Description

本発明は、施設栽培果実の収穫予測システムに係り、例えばイチゴ等の栽培果実の施設栽培果実における収穫時期、収穫量、サイズ等に関し、個別の果実ごとに収穫時期、収穫量、サイズを予測する施設栽培果実の収穫予測システムに関する。また、人工知能を活用したより精度の高い収穫時期、収穫量、サイズを予測する施設栽培果実の収穫予測システムに関する。本明細書では、施設栽培果実の対象として「イチゴ」の栽培を例として説明するが、これに限らず、例えば、トマト、パブリカ、みかん、ぶどう等の他の施設栽培される果実にも適用される。また、本明細書で例示するイチゴの品種は、「紅ほっぺ」、「とちおとめ」などあらゆるイチゴの品種を対象とする。 The present invention relates to a harvest prediction system for greenhouse-grown fruit, for example, regarding the harvest time, harvest amount, size, etc. of greenhouse-grown fruits such as strawberries, predicting the harvest time, harvest amount, and size for each individual fruit. It relates to a harvest prediction system for greenhouse-grown fruits. It also relates to a harvest prediction system for greenhouse-grown fruit that predicts harvest time, yield, and size with higher accuracy using artificial intelligence. In this specification, the cultivation of “strawberry” is explained as an example of the target of greenhouse-grown fruits, but it is not limited to this, for example, tomatoes, publica, oranges, grapes, etc. It is also applied to other greenhouse-grown fruits. be. In addition, the varieties of strawberries exemplified in this specification are all varieties of strawberries such as "Benihoppe" and "Tochiotome".

図6に、本収穫予測システム1が適用される温室100の一つの実施例を示す。収穫予測システム1は、室内環境が制御された温室100内に設けられた栽培ベッド108で栽培されている果実23であるイチゴ2について適用する。この温室100は、柱材101及び梁材102からなる骨組に、例えば、フッ素フィルム、ガラス等の透明被覆材107が取り付けられている。また、屋根には防虫ネット付き天窓103、及び攪拌扇104が設けられ、さらに、天井には太陽光の日射を制御する自動遮光カーテン105及び室内の気温を平均化する自動保温カーテン106が設けられ、温室100の室内環境が制御されている。図6に示す温室100は、いわゆる“ハウス栽培”を行う施設の実施例であり、本発明の温室100は、この実施例に限らない。 FIG. 6 shows an embodiment of a greenhouse 100 to which the harvest prediction system 1 is applied. The harvest prediction system 1 is applied to strawberries 2, which are fruits 23 cultivated in a cultivation bed 108 provided in a greenhouse 100 in which the indoor environment is controlled. This greenhouse 100 has a frame made up of pillars 101 and beams 102, and a transparent covering material 107 such as fluorine film or glass is attached to the framework. In addition, the roof is provided with a skylight 103 with an insect repellent net and a stirring fan 104, and the ceiling is provided with an automatic light-shielding curtain 105 for controlling solar radiation and an automatic heat-retaining curtain 106 for averaging the indoor temperature. , the indoor environment of the greenhouse 100 is controlled. The greenhouse 100 shown in FIG. 6 is an example of a facility for so-called "house cultivation", and the greenhouse 100 of the present invention is not limited to this example.

温室100には、栽培果実109であるイチゴ2を栽培する栽培ベッド108が並置され、この栽培ベッド108にイチゴ2の苗が設けられる。そして、その栽培ベッド108間の走行路110を自動走行ロボット113が走行し、この自動走行ロボット113に搭載された撮像カメラ114でイチゴ2を撮影する。この自動走行ロボット113には、画像モニタ112及び送受信アンテナ111が設けられ、栽培されているイチゴ2に関する情報を画像モニタ112に表示し、中央集中モニタなどに、栽培されているイチゴ2に関する情報を送受信する。また、自動走行ロボット113には、警告音発生器115などの報知手段が設けられ、栽培しているイチゴ2に変形果などの不良品が発生している場合やイチゴ2が突然変異を起こしている場合などに警告音を発生して担当者に報知する。 A cultivation bed 108 for cultivating strawberries 2 as cultivated fruits 109 is juxtaposed in the greenhouse 100 , and a seedling of the strawberry 2 is provided on the cultivation bed 108 . Then, an automatic traveling robot 113 travels along the traveling path 110 between the cultivation beds 108, and an imaging camera 114 mounted on the automatic traveling robot 113 captures an image of the strawberry 2. This automatic traveling robot 113 is provided with an image monitor 112 and a transmitting/receiving antenna 111, displays information about the cultivated strawberries 2 on the image monitor 112, and displays information about the cultivated strawberries 2 on a centralized monitor or the like. Send and receive. In addition, the automatic traveling robot 113 is provided with a notification means such as a warning sound generator 115, and when a defective product such as a deformed fruit is generated in the cultivated strawberry 2, or when the strawberry 2 undergoes mutation, A warning sound is generated to inform the person in charge of the situation.

イチゴ2は、台風や長雨などの自然環境の影響を受け易いため、近年、室内環境が制御された温室100内で栽培することが多い。このように、温室100内で栽培することで収穫時期をコントロールすることが可能になった。しかし、害虫や「うどん粉病」に代表される病気は、一旦発生すると温室100内で容易に蔓延してしまうため、人手をかけたイチゴ2の品質管理が必要となっている。 Strawberries 2 are easily affected by natural environments such as typhoons and long rains, so in recent years, they are often cultivated in greenhouses 100 in which the indoor environment is controlled. In this way, cultivation in the greenhouse 100 has made it possible to control the harvest time. However, pests and diseases typified by "mildew" easily spread within the greenhouse 100 once they occur, so quality control of the strawberries 2 requires manual labor.

特許文献1には、時間とコストを削減でき、かつ、広域な領域の作物の収穫量を予測する収穫予測装置及び方法が開示されている。ここでは、画像解析部は作物の写っている画像データからスペクトルデータを取得し、取得したスペクトルデータとスペクトルDBに記憶しているスペクトルデータを比較し、作物の種別、育成段階を識別して作付面積を算出する。また、画像解析部により得られた作物の種別、育成段階、作付面積と、作物情報DBに記憶されている作物の育成期間、単位面積あたりの収穫量とから、作物の収穫量を予測することが記載されている。 Patent Literature 1 discloses a harvest prediction device and method that can reduce time and cost and predict the yield of crops in a wide area. Here, the image analysis unit acquires spectral data from the image data showing crops, compares the acquired spectral data with the spectral data stored in the spectrum DB, identifies the type of crop and the stage of cultivation, and Calculate area. Predicting the crop yield from the crop type, growing stage, and planted area obtained by the image analysis unit, and from the crop growing period and yield per unit area stored in the crop information DB. is described.

特許文献2には、黄緑色の収穫物であっても確実迅速に自動収穫可能とする収穫装置が開示されている。ここでは、収穫物の摘取部と走行制御部とを持ち自走可能な移動体と、送信機と受信機とから移動体の位置検出装置とを有し、移動体により収穫対象物の開花状況及び結実状況を認識する画像処理装置を有し、画像処理装置で認識する開花位置と時間とを記憶するメモリと、開花状況から結実する時間を演算するデータベースを有し、かつ、データベースの入力内容と画像処理装置の検出結果とに基づいて結実する時間と位置とを予測する演算部とを備えることが記載されている。 Patent Literature 2 discloses a harvesting device capable of reliably and quickly automatically harvesting even a yellow-green crop. In this embodiment, a self-propellable mobile body having a picking section and a travel control section for harvested materials and a position detecting device of the mobile body from a transmitter and a receiver are provided, and the mobile body detects the blooming of the harvested material. Equipped with an image processing device for recognizing conditions and fruiting conditions, a memory for storing flowering positions and times recognized by the image processing device, and a database for calculating the time for fruiting from the flowering conditions, and inputting data into the database It is described that a calculation unit is provided for predicting the time and position of fruiting based on the content and the detection result of the image processing device.

特許文献3には、ドローン等の無人航空機でのセンシングにより得られたデータに基づいて、農地等の管理並びに農作物の生育予測、収穫予測等を自動的に行い、農地並びに農作物等の適正な管理を実現する農業管理予測システムが開示されている。ここでは、無人航空機と、管理端末と通信自在なサーバ装置において、管理端末から送られてきた画像データを受信する通信部と、画像データに基づいて植生指数化を行う植生指数化部と、指数情報の標準偏差化を行う標準偏差化部と、標準偏差を意味化する意味化部とを備え、管理端末により無人航空機の航路及び撮影を遠隔制御し、無人航空機で得られた画像データに基づいてサーバ装置側で農業の管理予測を行うことが記載されている。 In Patent Document 3, based on data obtained by sensing with an unmanned aerial vehicle such as a drone, management of farmland, etc., growth prediction of agricultural crops, harvest prediction, etc. are automatically performed, and proper management of agricultural land and crops, etc. Disclosed is an agricultural management forecasting system that achieves: Here, in the unmanned aerial vehicle and the server device that can freely communicate with the management terminal, a communication unit that receives image data sent from the management terminal, a vegetation indexing unit that converts the vegetation index based on the image data, an index Equipped with a standard deviation unit for standard deviation of information and a semantic unit for semanticizing the standard deviation. It is described that management prediction of agriculture is performed on the server device side.

特開2003-6612号公報JP-A-2003-6612 特開平6-133624号公報JP-A-6-133624 特開2018-46787号公報JP 2018-46787 A

イチゴの施設栽培では、イチゴ等が日持ちしない作物であることから過熟によるロス率の増加等が発生するという問題があり、栽培しているイチゴが適度に色づいたら早急に収穫するために人手をかける必要があり、人件費が嵩むという問題があった。 In the greenhouse cultivation of strawberries, there is a problem that the loss rate increases due to overripeness because strawberries do not last for a long time. There was a problem that it was necessary to carry out the work, and the labor cost increased.

また、イチゴの施設栽培では、果実の育成期間や収穫量等について精度よく予測できないか、熟練者の勘に頼らざるを得ないという問題があった。また、販売価格に大きな影響を与える果実のサイズについても精度よく予測できないという問題があった。 In addition, in the greenhouse cultivation of strawberries, there is a problem that it is impossible to accurately predict the growing period of the fruit, the harvest amount, etc., or that it is necessary to rely on the intuition of an expert. In addition, there is a problem that the size of the fruit, which greatly affects the selling price, cannot be accurately predicted.

本願の目的は、かかる課題を解決し、果実の収穫日、収穫量、サイズ等を精度よく予測することで、安価で確実な収穫労働力と優良で確実な出荷先の確保により商品価値の高い施設栽培果実の収穫予測システムを提供することである。 The purpose of the present application is to solve such problems and accurately predict the harvest date, harvest amount, size, etc. of the fruit, so that the product value is high by securing a cheap and reliable harvest labor force and an excellent and reliable shipping destination. It is to provide a harvest prediction system for greenhouse-grown fruits.

また、果実の施設栽培において、人工知能のニューラルネットワーク等により各果実の個別特徴量を抽出して個々の果実を個別管理し、人手をかけずに果実の収穫日、収穫量、サイズ等を予測し、商品価値を高めた施設栽培果実の収穫予測システムが提供できる。 In addition, in the greenhouse cultivation of fruit, the individual feature values of each fruit are extracted by artificial intelligence neural networks, etc., and individual management of each fruit is performed, and the harvest date, yield, size, etc. of the fruit can be predicted without human intervention. It is possible to provide a harvest prediction system for greenhouse-grown fruits with improved commercial value.

さらに、果実の施設栽培において、人工知能のディープラーニング等により、過去のビッグデータを参照して果実の収穫日、収穫量、サイズ等をより高精度の予測が可能となり、高品質な施設栽培果実の収穫予測システムが提供できる。 Furthermore, in the greenhouse cultivation of fruits, it is possible to predict the harvest date, harvest amount, size, etc. of fruits with higher accuracy by referring to past big data by deep learning of artificial intelligence, etc. of harvest prediction system can be provided.

上記目的を達成するため、本発明に係る施設栽培果実の収穫予測システムは、室内環境が制御された温室内で栽培される果実を撮像カメラにより撮影し、撮像カメラが撮影した経時画像から果実の開花日を確定し、開花日以降の温室内の予定積算温度から収穫日を設定する収穫日予測部と、果実の開花数情報を積算して果実の収穫数を予測する果実収穫数予測部と、撮像カメラが撮影した果実の花床体積を算定する花床体積算定部と、花床体積から果実のサイズ情報を予測する果実サイズ予測部とを備えることを特徴とする。 In order to achieve the above object, the yield prediction system for greenhouse-grown fruits according to the present invention captures images of fruits grown in a greenhouse in which the indoor environment is controlled with an imaging camera, and the time-lapse images captured by the imaging camera are used to predict the yield of fruits. A harvest date prediction unit that determines the flowering date and sets the harvest date based on the planned integrated temperature in the greenhouse after the flowering date, and a fruit harvest number prediction unit that integrates information on the number of fruit blooms and predicts the number of fruit harvests. and a fruit size prediction unit for estimating fruit size information from the flower bed volume.

上記構成により、室内環境が制御された温室内で栽培される各果実につき、撮像カメラにより撮影した経時画像から果実の収穫日、収穫数、及びサイズを的確に予側することができる。例えば、撮像カメラが撮影した定期的な経時画像から果実の開花日を確定し、開花日以降の温室内の予定積算温度から果実の収穫日を設定することができる。また、この果実の収穫日の予測を温室内の全ての果実について積算することで温室全体の果実の収穫数を予測することが可能となる。さらに、施設栽培される、例えばイチゴなどの果実の実の重量は、花床体積とほぼ比例関係にある。従って、果実の花床体積を計測することで販売単価が高い大粒のイチゴ等の果実の収穫量を事前に予測することができる。 With the above configuration, for each fruit cultivated in a greenhouse where the indoor environment is controlled, it is possible to accurately predict the harvest date, harvest number, and size of the fruit from time-lapse images captured by the imaging camera. For example, it is possible to determine the flowering date of the fruit from periodic time-lapse images taken by an imaging camera, and set the harvest date of the fruit from the planned accumulated temperature in the greenhouse after the flowering date. Further, by accumulating the predicted fruit harvest dates for all the fruits in the greenhouse, it is possible to predict the number of fruits harvested in the greenhouse as a whole. Furthermore, the weight of fruits such as strawberries grown in greenhouses is almost proportional to the flower bed volume. Therefore, by measuring the flower bed volume of the fruit, it is possible to predict in advance the yield of large fruits such as strawberries, which are sold at a high unit price.

また、施設栽培果実の収穫予測システムは、果実ごとに識別番号を付与する識別番号付与部と、果実の経時画像を解析して個別特徴量を抽出して識別番号と紐付する特徴量抽出部とを備えることが好ましい。このように、イチゴなどの果実の経時画像を人工知能のニューラルネットワーク等により解析して画像の個別特徴量を抽出して識別番号を付与する。このように、栽培されるイチゴなどの果実を個別認識して個別に管理することでより精度の高い品質管理が可能となる。 In addition, the yield prediction system for greenhouse-grown fruit includes an identification number assigning unit that assigns an identification number to each fruit, and a feature amount extraction unit that analyzes the time-lapse image of the fruit, extracts the individual feature amount, and associates it with the identification number. is preferably provided. In this way, a time-lapse image of a fruit such as a strawberry is analyzed by a neural network of artificial intelligence or the like to extract the individual feature amount of the image and assign an identification number to the image. In this way, by individually recognizing and individually managing fruits such as strawberries to be cultivated, more accurate quality control is possible.

また、施設栽培果実の収穫予測システムは、特徴量抽出部により撮影された各果実の個別特徴量が識別番号と共に個別果実管理データベースに個別特徴量として保存されることが好ましい。このように、果実ごとに異なる、例えば、イチゴ自体の形状的な個別特徴量、又は「がく片」等のイチゴ自体に関連した周辺の形状等の個別特徴量により、個別にイチゴ等の果実を識別することができる。そして、この個別果実管理データベースに基づき、より精度の高い品質管理が可能となる。 Further, in the greenhouse-grown fruit harvest prediction system, it is preferable that the individual feature amount of each fruit photographed by the feature amount extraction unit is stored as the individual feature amount in the individual fruit management database together with the identification number. In this way, fruits such as strawberries are individually selected by individual feature amounts such as the shape of the strawberry itself, or the peripheral shape related to the strawberry itself such as "sepal", which differs for each fruit. can be identified. Based on this individual fruit management database, more accurate quality control becomes possible.

また、施設栽培果実の収穫予測システムは、特徴量抽出部が撮像カメラにより撮影した果実の個別特徴量を個別果実管理データベースに記憶された果実の個別特徴量と比較し、果実を識別することが好ましい。これにより、撮像カメラにより撮影されるイチゴなどの果実は、定期的に成長してその形状も変化するが、その果実の個別特徴量から検索して撮像カメラにより撮像する度に個別に識別して管理することができる。 In addition, in the greenhouse-grown fruit harvest prediction system, the feature quantity extraction unit compares the individual feature quantity of the fruit photographed by the imaging camera with the individual feature quantity of the fruit stored in the individual fruit management database, and identifies the fruit. preferable. As a result, fruits such as strawberries photographed by an imaging camera grow periodically and change in shape. can be managed.

また、施設栽培果実の収穫予測システムは個別果実管理データベースには、各果実の花床の経時画像の履歴情報が保存されることが好ましい。これにより、イチゴなどの果実の花床の経時画像を保存してビッグデータとし、毎年の果実栽培の収穫日、収穫数、及びサイズの予測において活用することができる。 In addition, in the system for predicting the yield of fruits grown in a facility, it is preferable that the individual fruit management database stores history information of temporal images of flowerbeds of each fruit. As a result, time-lapse images of flowerbeds of fruits such as strawberries can be saved as big data, and utilized in predicting the harvest date, harvest number, and size of fruit cultivation every year.

また、施設栽培果実の収穫予測システムは、収穫日予測部が個別果実管理データベースに保存された果実の経時画像から設定された収穫日を修正することが好ましい。これにより、イチゴなどの果実の開花日と開花日以降のハウス内の予定積算温度から設定された収穫日が、例えば、日照条件など他の要因により当初の収穫日からずれた場合などに、個別果実管理データベースに保存された、イチゴなどの果実の過去の経時画像を反映させ、人工知能のディープラーニング等により設定された収穫日を修正することができる。 Further, in the greenhouse-grown fruit harvest prediction system, the harvest date prediction unit preferably corrects the set harvest date from the time-lapse images of the fruit stored in the individual fruit management database. As a result, if the harvest date set from the flowering date of fruits such as strawberries and the planned integrated temperature in the house after the flowering date deviates from the initial harvest date due to other factors such as sunshine conditions, individual It is possible to correct the harvest date set by artificial intelligence deep learning etc. by reflecting the past time-lapse image of fruits such as strawberries stored in the fruit management database.

また、施設栽培果実の収穫予測システムは、果実サイズ予測部が個別果実管理データベースに保存されている果実のサイズに関する過去のビッグデータと、果実の経時画像との比較から果実に関するサイズを予測することが好ましい。これにより、イチゴなどの果実の花床が肥大化して果実となる過去の経過情報から人工知能により最終的なサイズを精度よく予測することができる。なお、「イチゴなどの果実に関するサイズ」とはイチゴなどの果実の実の重量としても良い。 In addition, in the greenhouse-grown fruit yield prediction system, the fruit size prediction unit predicts the size of the fruit based on a comparison between past big data on the size of the fruit stored in the individual fruit management database and images of the fruit over time. is preferred. As a result, artificial intelligence can accurately predict the final size of fruits such as strawberries based on past progress information when the flower beds of fruits such as strawberries become enlarged and become fruits. Note that the “size related to the fruit such as strawberry” may be the weight of the fruit such as strawberry.

また、施設栽培果実の収穫予測システムは、撮像カメラは自動走行ロボットに搭載され、接写が可能な高さに調整された栽培ベッドに沿って並走することが好ましい。これにより、自動走行ロボットは、栽培ベッドに設けられた各イチゴなどの果実の花床や実等を接写して撮影することができ、人工知能により詳細に解析することができる。 In addition, in the system for predicting the yield of fruits grown in a facility, it is preferable that the imaging camera is mounted on an automatic traveling robot and that the robot travels side by side along a cultivation bed adjusted to a height that allows close-up photography. As a result, the automatic traveling robot can take close-up photographs of flowerbeds, fruits, etc. of each strawberry or other fruit provided on the cultivation bed, and analyze them in detail using artificial intelligence.

さらに、施設栽培果実の収穫予測システムは、果実品質確認部を更に備え、自動走行ロボットによる果実の撮影画像から果実に異常が発生している場合は、不良品発生として警報を発報することが好ましい。これにより、これまで目視に頼っていたイチゴなどの果実の異常、例えば、病気等によりイチゴなどの果実が実らない場合、イチゴなどの果実が突然変異を起こしている場合など出荷できない場合については、人工知能により事前に検出することができる。また、果実だけではなく、葉に「うどん粉病」などの病気が発生しているか否かも検出できる。 Furthermore, the system for predicting the yield of fruits grown in greenhouses is further equipped with a fruit quality confirmation unit, and if an abnormality occurs in the fruit from the photographed image of the fruit by the automatic traveling robot, an alarm can be issued as a defective product. preferable. As a result, abnormalities in fruits such as strawberries that have relied on visual inspection until now. It can be detected in advance by artificial intelligence. In addition, it is possible to detect whether or not a disease such as powdery mildew has occurred not only on the fruit but also on the leaves.

以上のように、本発明に係る施設栽培果実の収穫予測システムによれば、果実の収穫日、収穫量、サイズ等を精度よく予測することで、安価で確実な収穫労働力と優良で確実な出荷先の確保により商品価値の高い施設栽培果実の収穫予測システムが提供できる。 As described above, according to the harvest prediction system for greenhouse-grown fruit according to the present invention, by accurately predicting the harvest date, harvest amount, size, etc. of the fruit, a cheap and reliable harvest labor force and an excellent and reliable By securing a shipping destination, a harvest prediction system for greenhouse-grown fruits with high commercial value can be provided.

また、果実の施設栽培において、人工知能のニューラルネットワーク等により各果実の個別特徴量を抽出して個々の果実を個別管理し、人手をかけずに果実の収穫日、収穫量、サイズ等を予測し、商品価値を高めた施設栽培果実の収穫予測システムが提供できる。 In addition, in the greenhouse cultivation of fruit, the individual feature values of each fruit are extracted by artificial intelligence neural networks, etc., and individual management of each fruit is performed, and the harvest date, yield, size, etc. of the fruit can be predicted without human intervention. It is possible to provide a harvest prediction system for greenhouse-grown fruits with improved commercial value.

さらに、果実の施設栽培において、人工知能のディープラーニング等により、過去のビッグデータを参照して果実の収穫日、収穫量、サイズ等をより高度な精度の予測が可能となり、高品質な施設栽培果実の収穫予測システムが提供できる。 Furthermore, in the greenhouse cultivation of fruits, it is possible to predict the harvest date, harvest amount, size, etc. of fruits with a higher degree of accuracy by referring to past big data using artificial intelligence deep learning, etc., and high-quality greenhouse cultivation. A fruit harvest prediction system can be provided.

本発明に係る施設栽培果実の収穫予測システムの一つの実施形態の概略構成を示すブロック図である。BRIEF DESCRIPTION OF THE DRAWINGS FIG. 1 is a block diagram showing a schematic configuration of an embodiment of a system for predicting yield of greenhouse-grown fruit according to the present invention; 温室内で栽培されるイチゴ等の果実を個別に管理する個別果実管理データベースを示す説明図である。It is explanatory drawing which shows the individual fruit management database which manages fruits, such as a strawberry cultivated in a greenhouse, individually. 本収穫予測システムにより収穫日を予測する構成を示す説明図である。It is explanatory drawing which shows the structure which predicts a harvest date by this harvest prediction system. 本収穫予測システムにより収穫量を予測する構成を示す説明図である。It is explanatory drawing which shows the structure which predicts a yield by this harvest prediction system. 本収穫予測システムにより果実のサイズを予測する構成を示す説明図である。It is explanatory drawing which shows the structure which predicts the size of a fruit by this harvest prediction system. 本収穫予測システムを適用する温室の一つの実施例を示す平面図である。1 is a plan view showing one embodiment of a greenhouse to which this harvest prediction system is applied; FIG. 温室内において、撮像カメラが搭載された自動走行ロボットの一つの概略構造を示す説明図である。1 is an explanatory diagram showing one schematic structure of an automatic traveling robot equipped with an imaging camera in a greenhouse; FIG. 果実の一つの実施例であるイチゴの花及び果実の名称を示す説明図である。FIG. 2 is an explanatory diagram showing names of strawberry flowers and fruits, which is one example of fruits.

(果実の収穫予測システムの構成)
以下に、図面を用いて本発明に係る施設栽培果実における収穫予測システム1につき、詳細に説明する。図1に、収穫予測システム1の一つの実施形態の概略構成をブロック図で示す。本明細書では、施設栽培される果実23を「イチゴ」の場合について説明するが、これに限らず、例えば、トマト、パブリカ、みかん、ぶどう等の他の施設栽培されるイチゴ2にも適用される。また、本明細書で例示するイチゴ2の品種は、「紅ほっぺ」、「とちおとめ」などあらゆるイチゴ2の品種を対象とする。
(Configuration of fruit harvest prediction system)
Hereinafter, the yield prediction system 1 for greenhouse-grown fruit according to the present invention will be described in detail with reference to the drawings. FIG. 1 shows a block diagram of a schematic configuration of one embodiment of the harvest prediction system 1. As shown in FIG. In this specification, the case where the fruit 23 cultivated in a facility is "strawberry" will be described, but the present invention is not limited to this, and can also be applied to other strawberries 2 cultivated in a facility such as tomatoes, publica, mandarin oranges, and grapes. be. In addition, the varieties of strawberries 2 exemplified in this specification are all varieties of strawberries 2 such as “Benihoppe” and “Tochiotome”.

(自動走行ロボット)
図7に、撮像カメラ114が搭載された自動走行ロボット113の一つの概略構造を示す。温室100の内部を走行する自動走行ロボット113は、栽培ベッド108の周辺を自動走行する。そして、自動走行ロボット113は、栽培ベッド108の高さを接写できるように撮像カメラ114が搭載されている。これにより、自動走行ロボット113は、温室100内の総てのイチゴ2を接写することが可能となる。撮像カメラ114は、温室100で栽培されている総てのイチゴ2について定期的に経時画像20(図1参照)を撮影する。
(automatic driving robot)
FIG. 7 shows one schematic structure of the automatic traveling robot 113 on which the imaging camera 114 is mounted. The automatically traveling robot 113 that travels inside the greenhouse 100 automatically travels around the cultivation bed 108 . The automatic traveling robot 113 is equipped with an imaging camera 114 so that the height of the cultivation bed 108 can be taken close-up. This enables the automatic traveling robot 113 to take close-ups of all the strawberries 2 inside the greenhouse 100 . The imaging camera 114 periodically captures temporal images 20 (see FIG. 1) of all the strawberries 2 cultivated in the greenhouse 100 .

(施設栽培果実の収穫予測システムの構成)
図1に、収穫予測システム1の構成を示す。栽培ベッド108で栽培されている各イチゴ2は、撮像カメラ114で定期的に経時画像20として撮影される。この経時画像20は、基本的に1日1回開花が完了した時点を想定しているが、この時点に限らず、必要に応じて撮影しても良い。そして、収穫予測システム1は、撮影された各イチゴ2の経時画像20に基づき、イチゴ2の収穫日、収穫数、果実サイズを予測する。そして、収穫予測システム1は、果実収穫日予測部3、果実収穫数予測部4、花床体積算定部5、及び果実サイズ予測部6から構成される。
(Configuration of yield prediction system for greenhouse-grown fruit)
FIG. 1 shows the configuration of a harvest prediction system 1. As shown in FIG. Each strawberry 2 cultivated in the cultivation bed 108 is periodically photographed as time-lapse images 20 by the imaging camera 114 . This time-lapse image 20 is basically assumed to be taken once a day when flowering is completed, but it is not limited to this time point and may be taken as necessary. Then, the harvest prediction system 1 predicts the harvest date, harvest number, and fruit size of the strawberries 2 based on the time-lapse image 20 of each strawberry 2 that has been photographed. The harvest prediction system 1 comprises a fruit harvest date prediction unit 3, a fruit harvest number prediction unit 4, a flower bed volume calculation unit 5, and a fruit size prediction unit 6.

(果実の収穫日予測、収穫数予測、果実サイズ予測)
図8に、栽培されるイチゴ2の花及び果実の名称を示す。図8(a)は、イチゴの花であり、図8(b)は、イチゴの果実23である。果実収穫日予測部3は、撮像カメラ114が撮影した経時画像20からイチゴ2の開花日を確定する。そして、開花日以降については温室100の予定積算温度27からそのイチゴ2の開花日から収穫日までの日数を設定する。この予定積算温度27の単位は(℃・日)で表される。イチゴ2の場合、開花から収穫までの日数は、例えば「紅ほっぺ」や「とちおとめ」などの品種、及び温室100内での積算温度によって求めることができる。すなわち、温度などがコントロールされた温室内であれば、収穫日がほぼ正確に予測できる。果実収穫数予測部4は、上述した果実収穫日予測部3が予測したイチゴ2の開花日に関する情報、すなわち、開花数情報12を積算してイチゴ2の収穫数を予測する。開花した花からどれだけの数の健全な実が収穫できるかは、品種、気候、病気、害虫、みつばち等の働きなどにより変動するが、過去のデータなどにより概ね予測することができる。一つの算定式として、健全な実の数=開花数×着果率×(1-不良品率)で表すことができる。ここに、不良率とは、害虫害や変形果になる確率をいう。花床体積算定部5は、撮像カメラ114が撮影したイチゴ2の花床19aの体積を算定する。この花床体積14(V)は、V=花床19aの半径(R)×π×高さ/3で求められる。つまり、花床19a上にそう果が付着していて1個の種子が含まれる。花床19a上に種子数が多いほどイチゴ2は大きく肥大する。これにより、花床体積14とイチゴ2のサイズに相関関係があるといえる。果実サイズ予測部6は、花床体積算定部5が算定した花床19aの体積からイチゴ2のサイズ情報13を予測する。これは上述したように「イチゴ2の花床体積14と収穫される実の重量はほぼ比例関係にある」ことによる。
(Fruit harvest date prediction, harvest number prediction, fruit size prediction)
FIG. 8 shows names of flowers and fruits of cultivated strawberries 2 . 8(a) is a strawberry flower, and FIG. 8(b) is a strawberry fruit 23. FIG. The fruit harvest date prediction unit 3 determines the flowering date of the strawberry 2 from the time-lapse image 20 captured by the imaging camera 114 . After the flowering date, the number of days from the flowering date of the strawberry 2 to the harvest date is set from the planned integrated temperature 27 of the greenhouse 100 . The unit of this planned cumulative temperature 27 is expressed in (°C.day). In the case of the strawberry 2, the number of days from flowering to harvest can be obtained from the varieties such as “Benihoppe” and “Tochiotome” and the accumulated temperature in the greenhouse 100, for example. In other words, the harvest date can be almost accurately predicted in a greenhouse where the temperature is controlled. The fruit harvest number prediction unit 4 predicts the number of strawberries 2 to be harvested by accumulating the information on the flowering dates of the strawberries 2 predicted by the fruit harvest date prediction unit 3 , that is, the flowering number information 12 . The number of healthy fruits that can be harvested from blooming flowers varies depending on the variety, climate, disease, pests, actions of honeybees, etc., but can be roughly predicted from past data. As one calculation formula, the number of healthy fruits can be expressed as the number of flowering times the rate of fruiting x (1-defective product rate). Here, the defect rate means the probability of pest damage or deformation. The flower bed volume calculation unit 5 calculates the volume of the flower bed 19a of the strawberry 2 photographed by the imaging camera 114 . This flower bed volume 14 (V) is obtained by V=radius (R) of flower bed 19a×π×height/3. That is, a seed is attached to the flower bed 19a and one seed is included. As the number of seeds on the flowerbed 19a increases, the strawberry 2 grows larger. From this, it can be said that there is a correlation between the flower bed volume 14 and the size of the strawberry 2 . The fruit size prediction unit 6 predicts the size information 13 of the strawberry 2 from the volume of the flower bed 19a calculated by the flower bed volume calculation unit 5. FIG. This is because "the volume 14 of the flower bed of the strawberry 2 and the weight of the harvested fruit are in a substantially proportional relationship" as described above.

(果実の個別認識及び個別管理)
図1に、撮像カメラ114で撮影された経時画像20を画像解析し、イチゴ2に識別番号18を付与する識別番号付与部7と、そのイチゴ2の個別特徴量15を抽出する特徴量抽出部8を示す。また、温室100内で栽培されるイチゴ2に対して個別に認識して管理する個別果実管理データベース10を示す。この個別果実管理データベース10には、温室100内で栽培されるイチゴ2に関する識別番号18及び個別特徴量15が保存される。
(Individual recognition and individual management of fruits)
FIG. 1 shows an identification number assigning unit 7 that analyzes the time-lapse image 20 captured by the imaging camera 114 and assigns an identification number 18 to the strawberry 2, and a feature amount extraction unit that extracts the individual feature amount 15 of the strawberry 2. 8 is shown. Also shown is an individual fruit management database 10 for individually recognizing and managing strawberries 2 cultivated in the greenhouse 100 . The individual fruit management database 10 stores an identification number 18 and an individual feature amount 15 relating to the strawberries 2 grown in the greenhouse 100 .

このように、収穫予測システム1は、識別番号付与部7及び特徴量抽出部8を備え、識別番号付与部7は、イチゴ2ごとに識別番号18を付与して識別する。イチゴ2の個別特徴量15とは、例えば、図8に示す、花床19aのめしべ19bやおしべ19cの数量、位置、形状、及び、そう果19d,花弁19g、がく片19e、果柄19f,花弁19g、などの数量、位置、形状であり、イチゴ2ごとに他のイチゴ2と識別可能な特徴をいう。そして、個別特徴量15は、イチゴ2の「花床19a」の段階での個別特徴量15、及び、花床19aが肥大して発達して果肉となった段階での個別特徴量15のいずれも含まれる。特徴量抽出部8は、これらの個別特徴量15を抽出して識別番号18と紐付される。 As described above, the harvest prediction system 1 includes the identification number assigning unit 7 and the feature amount extracting unit 8, and the identification number assigning unit 7 assigns an identification number 18 to each strawberry 2 for identification. The individual feature quantity 15 of the strawberry 2 includes, for example, the number, position, and shape of pistils 19b and stamens 19c of the flower bed 19a shown in FIG. The number, position, and shape of the petals 19g, etc., and the characteristics by which each strawberry 2 can be distinguished from other strawberries 2. Then, the individual feature amount 15 is either the individual feature amount 15 at the stage of the "flower bed 19a" of the strawberry 2 or the individual feature amount 15 at the stage where the flower bed 19a has enlarged and developed to become flesh. is also included. The feature amount extraction unit 8 extracts these individual feature amounts 15 and associates them with the identification number 18 .

特徴量抽出部8は、撮像カメラ114により撮影するごとに、そのイチゴ2の個別特徴量15を個別果実管理データベース10に記憶されたイチゴ2の個別特徴量15と比較し、そのイチゴ2であることを識別する。すなわち、撮像カメラ114により定期的にイチゴ2が撮影されるが、その都度個別果実管理データベース10を検索し、個別特徴量15からそのイチゴ2を特定することができる。これにより、撮像カメラ114によりイチゴ2が撮像される度にイチゴ2の最新の画像が獲得される。このようにして、個別果実管理データベース10には、各イチゴ2の経時画像20について履歴情報17が保存される。 The feature amount extraction unit 8 compares the individual feature amount 15 of the strawberry 2 with the individual feature amount 15 of the strawberry 2 stored in the individual fruit management database 10 each time the image is captured by the imaging camera 114, and determines that the strawberry 2 is identify That is, the strawberry 2 is periodically photographed by the imaging camera 114 , and each time the individual fruit management database 10 is searched, the strawberry 2 can be identified from the individual feature amount 15 . As a result, the latest image of strawberry 2 is acquired every time strawberry 2 is imaged by imaging camera 114 . In this way, the individual fruit management database 10 stores the history information 17 for the temporal image 20 of each strawberry 2 .

図2に、温室100内で栽培されるイチゴ2を個別に管理する個別果実管理データベース10の中身を示す。図2の上部に示すように、温室100内ではイチゴ2の株を「株1」,「株2」,・・・「株n」として示す。各株では、イチゴ2の花弁19gが果肉となるが、これらのイチゴ2に識別願号18を付与して個別に管理する。例えば、株1には識別番号18として株1-1~株1-4が付与され、株2には識別番号18として株2-1~株2-3が付与され、株nには識別番号18として株n-1~株n-3が付与される。そして、個別果実管理データベース10には、各イチゴ2に対して識別番号18に紐付された個別特徴量15が保管される。 FIG. 2 shows the contents of the individual fruit management database 10 that individually manages the strawberries 2 grown in the greenhouse 100. As shown in FIG. As shown in the upper part of FIG. 2, in the greenhouse 100, the strains of strawberries 2 are indicated as "strain 1", "strain 2", . . . "strain n". In each strain, 19 g of the petals of the strawberries 2 become flesh, but these strawberries 2 are assigned an identification number 18 and managed individually. For example, stock 1 is given stock 1-1 to stock 1-4 as an identification number 18, stock 2 is given stock 2-1 to stock 2-3 as an identification number 18, and stock n is given an identification number. 18, strain n-1 to strain n-3. Then, in the individual fruit management database 10, the individual feature quantity 15 associated with the identification number 18 for each strawberry 2 is stored.

個別果実管理データベース10には、一つの例として識別番号18(株2-3)のイチゴ2について個別特徴量15が保存されるとともに、イチゴ2の開花日の経時画像20、イチゴ2の着果日の経時画像20、及びイチゴ2の収穫時の経時画像20が撮影日時とともに保存される。そして、イチゴ2の開花日の経時画像20には年、月、日及び時間の記録と共に開花したとの情報が書き込まれ、イチゴ2の着果日の経時画像20には年、月、日及び時間の記録と共に着果したとの情報が書き込まれ、及び、イチゴ2の収穫時の経時画像20が撮影日時とともに保存される。そして、イチゴ2の収穫日の経時画像20には年、月、日及び時間の記録と共に収穫したとの情報が書き込まれる。これらの情報から、総てのイチゴ2の開花日から着果日までの日数情報(N1)及び着果日から収穫日までの日数情報(N2)が算出され、個別果実管理データベース10に記録される。 As an example, the individual fruit management database 10 stores the individual feature amount 15 for the strawberry 2 with the identification number 18 (strain 2-3), a time-lapse image 20 of the flowering date of the strawberry 2, and the fruiting of the strawberry 2. A day-lapse image 20 and a time-lapse image 20 at the time of harvesting the strawberries 2 are stored together with the shooting date and time. Then, in the time-lapse image 20 of the flowering date of the strawberry 2, information that it has bloomed is written together with the record of the year, month, day and time, and in the time-lapse image 20 of the fruiting date of the strawberry 2 Along with recording the time, information indicating that the strawberry 2 has fruited is written, and a time-lapse image 20 of the strawberry 2 at the time of harvesting is stored together with the date and time of photography. Then, in the chronological image 20 of the harvest date of the strawberry 2, information indicating that the strawberry 2 was harvested is written together with the record of the year, month, day and time. From this information, the number of days information (N1) from the flowering date to the fruiting date of all the strawberries 2 and the number of days information (N2) from the fruiting date to the harvest date are calculated and recorded in the individual fruit management database 10. be.

(修正収穫日の算出)
図3に、果実収穫日予測部3により、各イチゴ2の収穫日を予測する構成をブロック図により示す。果実収穫日予測部3は、個別果実管理データベース10に保存されたイチゴ2の経時画像20から設定された収穫日を修正する。すなわち、上述したように、果実収穫日予測部3は、撮像カメラ114が撮影した経時画像20からイチゴ2の栽培計画26に基づく開花日情報25を確定する。そして、開花日以降については温室100内の予定積算温度27からそのイチゴ2の開花日から予想収穫日28aまでの日数を設定する。この予定積算温度27を設定するには品種データ31aが必要となる。この方法は、「温室100で環境を制御して栽培していれば、開花日から収穫日までの成熟日数をある程度予測可能である」ということに基づく。しかし、イチゴ2の生育に関係する気候変動、病気や害虫の発生、みつばち等の働き具合等により設定された収穫日が変動する場合がある。例えば、イチゴ2は、室内環境が制御された温室100内で栽培されるため、室内温度は一定であるはずだが、台風、寒波、などによる気候変動の影響を受ける場合がある。これに対し、人工知能のディープラーニング等により収穫日予測30aを行うことで修正収穫日28bを算出することができる。
(Calculation of Corrected Harvest Date)
FIG. 3 is a block diagram showing a configuration for predicting the harvest date of each strawberry 2 by the fruit harvest date prediction unit 3. As shown in FIG. The fruit harvest date prediction unit 3 corrects the harvest date set from the temporal image 20 of the strawberry 2 stored in the individual fruit management database 10 . That is, as described above, the fruit harvest date prediction unit 3 determines the flowering date information 25 based on the cultivation plan 26 of the strawberries 2 from the temporal images 20 captured by the imaging camera 114 . Then, after the flowering date, the number of days from the flowering date of the strawberry 2 to the expected harvest date 28a is set based on the planned accumulated temperature 27 in the greenhouse 100. FIG. In order to set the planned integrated temperature 27, the product type data 31a is required. This method is based on the fact that "if the environment is controlled and cultivated in the greenhouse 100, it is possible to predict the number of days to maturity from the date of flowering to the date of harvest to some extent." However, the set harvest date may change due to climate change related to the growth of the strawberries 2, the occurrence of diseases and pests, the working conditions of honeybees and the like. For example, the strawberries 2 are grown in the greenhouse 100 where the indoor environment is controlled, so the indoor temperature should be constant, but they may be affected by climate change due to typhoons, cold waves, and the like. On the other hand, the corrected harvest date 28b can be calculated by predicting the harvest date 30a by deep learning of artificial intelligence or the like.

修正収穫日28bの算出には、図2に示されたように、個別果実管理データベース10に保存された、過去の開花日から着果日までの日数情報(N1)、及び過去の着果日から収穫日までの日数情報(N2)をビッグデータとして人工知能により予測する方法が採用可能である。すなわち、果実収穫日予測部3は、個別果実管理データベース10に保存されたイチゴ2の経時画像20から設定された収穫日を修正することができる。すなわち、開花日から収穫日までの100内の予定積算温度27により、そのイチゴ2の開花日から予想収穫日28aまでの成熟日数が設定される。しかし、上述したように、予定積算温度27以外の要因により成熟日数が変動する場合があり、それを個別果実管理データベース10に保存されたイチゴ2の経時画像20により修正する。例えば、イチゴ2の成熟に関して、ある時点での成熟度が過去のデータから見て早まっているか、遅れている場合は、その日数の誤差(X)を考慮して修正収穫日28bが算出される。 For calculating the corrected harvest date 28b, as shown in FIG. It is possible to adopt a method of predicting the number of days (N2) from the harvest date to the harvest date as big data using artificial intelligence. That is, the fruit harvest date prediction unit 3 can correct the harvest date set from the temporal image 20 of the strawberry 2 stored in the individual fruit management database 10 . That is, the number of days of maturity from the flowering date to the expected harvesting date 28a of the strawberry 2 is set by the expected integrated temperature 27 within 100 from the flowering date to the harvesting date. However, as described above, the number of days for ripening may vary due to factors other than the planned integrated temperature 27 , and this is corrected by the temporal image 20 of the strawberry 2 stored in the individual fruit management database 10 . For example, regarding the maturity of the strawberry 2, if the maturity at a certain point is earlier or later than the past data, the corrected harvest date 28b is calculated considering the error (X) of the number of days. .

(人工知能の利用例)
果実収穫日予測部3は、人工知能のディープラーニングを利用し、個別果実管理データベース10に保存された総てのイチゴ2の経時画像20からイチゴ2の成熟度について、温室100内のイチゴ2の状態を平面的に整理することができる。例えば、どの座標位置、又は高さ位置のイチゴの成熟が、過去のデータから見てどの程度早まっているか、或いはどの程度遅れているかをディープラーニングにより分析する。これにより、上述した日数の誤差(X)の原因が、気候変動なのか、病気や害虫の発生なのか、みつばち等の働き具合なのか、或いはそれ以外の理由なのかを突き止めることができる。
(Example of using artificial intelligence)
The fruit harvest date prediction unit 3 uses artificial intelligence deep learning to obtain the maturity of the strawberries 2 from the time-lapse images 20 of all the strawberries 2 stored in the individual fruit management database 10. The state can be arranged in a plane. For example, deep learning is used to analyze how much the ripening of strawberries at which coordinate position or height position is earlier or later when viewed from past data. As a result, it is possible to ascertain whether the cause of the error (X) in the number of days described above is climate change, the occurrence of disease or insect pests, the working condition of bees or the like, or other reasons.

定期的に撮影されるイチゴ2の経時画像20に対し、人工知能は、微妙な変化も見逃さずに予定積算温度27以外の要因により成熟日数が変動したことを検知することができる。そして、この変動を累積することで最終的な収穫日を正確に修正できる。なお、温室100外で栽培する場合には、一般的には、栽培する作物の標準的なデータと平均的な気象データとがあればある程度の収穫時期の予測ができるが、人工知能によって予測する方法により、予定積算温度27以外の要因により成熟日数が変動する場合を考慮した収穫時期の予測ができる。 Artificial intelligence can detect changes in the number of days to ripen due to factors other than the scheduled integrated temperature 27 without overlooking subtle changes in the time-lapse images 20 of the strawberries 2 that are taken periodically. Accumulating this variation can then accurately correct the final harvest date. In addition, when cultivating outside the greenhouse 100, it is generally possible to predict the harvest time to some extent if there is standard data of the cultivated crops and average weather data, but prediction is performed by artificial intelligence. Depending on the method, it is possible to predict the harvest time in consideration of the case where the number of days for ripening varies due to factors other than the planned integrated temperature 27 .

(修正収穫数の算出)
図4に、果実収穫数予測部4により、各イチゴ2の収穫数を予測する構成をブロック図により示す。果実収穫数予測部4は、個別果実管理データベース10に保存されたイチゴ2の経時画像20から設定された収穫数を修正する。すなわち、上述したように、果実収穫数予測部4は、撮像カメラ114が撮影した経時画像20からイチゴ2の開花日情報25を確定する。そして、開花日以降については温室100内の予定積算温度27からそのイチゴ2の着果日を予測し、予想収穫数29aを設定する。この予想収穫数29aを設定するには品種データ31bとして着果率が必要となる。この方法は、「温室100で環境を制御して栽培していれば、開花日から収穫日までの成熟日数をある程度予測可能である」ということである。しかし、イチゴ2の生育に関係する気候変動、病気や害虫の発生、みつばち等の働き具合等により設定された収穫日が変動し、それに伴い収穫数が変動する場合がある。このような状況に対し、上述した人工知能により収穫数の誤差(Y)を考慮した収穫数予測30bを行うことで修正収穫数29bを算出することができる。
(Calculation of Corrected Harvest Number)
FIG. 4 is a block diagram showing a configuration for predicting the number of harvests of each strawberry 2 by the fruit harvest number prediction unit 4. As shown in FIG. The fruit harvest number prediction unit 4 corrects the harvest number set from the temporal image 20 of the strawberry 2 stored in the individual fruit management database 10 . That is, as described above, the fruit yield prediction unit 4 determines the flowering date information 25 of the strawberries 2 from the temporal images 20 captured by the imaging camera 114 . After the date of flowering, the date of fruiting of the strawberry 2 is predicted from the scheduled cumulative temperature 27 in the greenhouse 100, and the expected number of harvests 29a is set. In order to set the expected number of harvests 29a, the fruiting rate is required as the variety data 31b. According to this method, "if the environment is controlled and cultivated in the greenhouse 100, it is possible to predict to some extent the number of days to maturity from the date of flowering to the date of harvest." However, the set harvest date may change due to climate change, the occurrence of diseases and pests, the working conditions of honeybees, etc. related to the growth of the strawberries 2, and the number of harvests may change accordingly. In such a situation, the corrected harvest number 29b can be calculated by performing the harvest number prediction 30b in consideration of the harvest number error (Y) using the artificial intelligence described above.

定期的に撮影されるイチゴ2の経時画像20に対し、人工知能は、微妙な変化も見逃さずに予定積算温度27以外の要因により成熟日数が変動したことを検知することができる。そして、この変動を累積することで最終的な収穫数を正確に修正できる。なお、温室100外で栽培する場合には、一般的には、栽培する作物の標準的なデータと平均的な気象データとがあればある程度の収穫数の予測ができるが、人工知能により予測する方法により、予定積算温度27以外の要因により成熟日数が変動する場合を考慮した収穫数の予測ができる。 Artificial intelligence can detect changes in the number of days to ripen due to factors other than the scheduled integrated temperature 27 without overlooking subtle changes in the time-lapse images 20 of the strawberries 2 that are taken periodically. Then, by accumulating this variation, the final harvest numbers can be accurately corrected. In addition, when cultivating outside the greenhouse 100, it is generally possible to predict the number of harvests to some extent if there is standard data of the crops to be cultivated and average weather data, but prediction is performed by artificial intelligence. Depending on the method, it is possible to predict the number of harvests in consideration of the case where the number of days for maturation varies due to factors other than the planned integrated temperature 27 .

(果実サイズの予測システム)
図5に、果実サイズ予測部6により、各イチゴ2のサイズを予測する構成をブロック図により示す。果実サイズ予測部6は、各イチゴ2の経時画像20により、花床体積算定部5が算定した花床19aの体積からイチゴ2のサイズ情報13を予測する。これは、「花床体積14と収穫される実の重量は比例関係にある」とされているからである。しかし、イチゴ2の生育に関係する気候変動、病気や害虫の発生、みつばち等の働き具合等により設定された収穫日や収穫量が変動し、それに伴い果実サイズが変動する場合がある。このような状況に対し、人工知能による果実サイズ予測30cを行うことで修正されたイチゴ2のサイズ情報13を算出することができる。
(Fruit size prediction system)
FIG. 5 is a block diagram showing a configuration for predicting the size of each strawberry 2 by the fruit size prediction unit 6. As shown in FIG. The fruit size prediction unit 6 predicts the size information 13 of the strawberry 2 from the volume of the flower bed 19 a calculated by the flower bed volume calculation unit 5 based on the temporal image 20 of each strawberry 2 . This is because it is said that "the flower bed volume 14 and the weight of harvested fruits are in a proportional relationship." However, the set harvest date and harvest amount may fluctuate due to climate change, the occurrence of diseases and insect pests, and the working conditions of honeybees, etc., which are related to the growth of the strawberries 2, and the fruit size may fluctuate accordingly. In such a situation, the corrected size information 13 of the strawberry 2 can be calculated by performing the fruit size prediction 30c by artificial intelligence.

図5に示すように、果実サイズ予測部6は、個別のイチゴ2の個別果実管理データベース10に保存されている過去の果実収穫サイズデータ32と、イチゴ2の経時画像20との比較からイチゴ2のサイズ情報13を修正して予測することができる。例えば、イチゴ2の成熟に関して、ある時点でのサイズ情報13が過去のデータから見て大きいか、遅れている場合は、そのサイズ情報13の誤差(Z)を考慮して修正されたサイズ情報が予測される。 As shown in FIG. 5, the fruit size prediction unit 6 compares the past fruit harvest size data 32 stored in the individual fruit management database 10 of the individual strawberry 2 with the time-lapse image 20 of the strawberry 2. can be predicted by modifying the size information 13 of . For example, regarding the ripening of the strawberry 2, if the size information 13 at a certain point in time is large or delayed from the past data, the size information corrected in consideration of the error (Z) of the size information 13 is is expected.

果実サイズ予測部6は、人工知能のディープラーニングを利用し、個別果実管理データベース10に保存された総てのイチゴ2の経時画像20からイチゴ2のサイズについて、温室100内を平面的に整理することができる。例えば、どの座標位置、又は高さ位置のイチゴの成熟が、過去のデータから見てどの程度早まっているか、或いはどの程度遅れているかをディープラーニングにより分析する。これにより、上述したサイズ情報13の誤差(Z)の原因が、気候変動なのか、病気や害虫の発生なのか、みつばち等の働き具合なのか、或いはそれ以外の理由なのかを突き止めることができる。 The fruit size prediction unit 6 uses artificial intelligence deep learning to planarly organize the inside of the greenhouse 100 with respect to the size of the strawberries 2 from the time-lapse images 20 of all the strawberries 2 stored in the individual fruit management database 10. be able to. For example, deep learning is used to analyze how much the ripening of strawberries at which coordinate position or height position is earlier or later when viewed from past data. As a result, it is possible to ascertain whether the cause of the error (Z) in the size information 13 described above is climate change, the occurrence of disease or pests, the working condition of honeybees, or other reasons. .

イチゴの場合は、そのサイズ情報13によって販売先が異なる。従って、どのくらいのサイズのイチゴ2がどのくらいの量収穫できるかを事前に知ることは販売戦略上重要なことである。このように、イチゴ2であれば花床体積14からある程度サイズを予測でき、イチゴ2以外の作物であってもある程度のサイズ分布が推測できるが、人工知能により予測する方法により、予定積算温度27以外の要因により成熟日数が変動する場合を考慮したサイズの予測ができる。 In the case of strawberries, the sale destination differs depending on the size information 13 thereof. Therefore, it is important in terms of sales strategy to know in advance how much and what size strawberries 2 can be harvested. In this way, the size of the strawberry 2 can be predicted to some extent from the flowerbed volume 14, and the size distribution of crops other than the strawberry 2 can be estimated to some extent. It is possible to predict the size considering the case where the number of days to maturity fluctuates due to other factors.

(自動走行ロボットによる果実の品質管理)
収穫予測システム1は、さらに果実品質確認部9を備える。すなわち、自動走行ロボット113は、原則として温室100内の総てのイチゴ2を漏れなく定期的に撮影するという特徴を有する。また、イチゴ2の品質を個別に管理できるという特徴を有する。これらの特徴を生かして、これまで目視に頼っていたイチゴ2の異常、例えば、病気によりイチゴ2が実らない場合、イチゴ2に変形果などの不良品が発生している場合、イチゴ2が突然変異を起こしている場合など出荷できないイチゴ2について、人工知能により事前に排除することができる。
(Quality control of fruit by automatic driving robot)
The harvest prediction system 1 further includes a fruit quality checking section 9 . That is, in principle, the automatic traveling robot 113 has the feature of regularly photographing all the strawberries 2 in the greenhouse 100 without omission. Moreover, it has the characteristic that the quality of the strawberry 2 can be managed individually. Taking advantage of these characteristics, when an abnormality in the strawberry 2 that has been relied on visually until now, for example, when the strawberry 2 does not grow due to disease, or when a defective product such as a deformed fruit occurs in the strawberry 2, the strawberry 2 suddenly Strawberries 2 that cannot be shipped due to mutation, etc., can be eliminated in advance by artificial intelligence.

また、収穫予測システム1は、イチゴ2だけではなく、イチゴ2の葉に「うどんこ病」などの病気の兆候が発生しているか否かを検知し、もし発生していれば早期に対策を講じることができる。そして、病気の発生や不良品の発生が検知されれば、自動走行ロボット113は、そのイチゴ2の識別番号18と共に問題の種別を自動走行ロボット113のモニタ、又は品質管理用の中央集中モニタに表示することができる。これらのイチゴ2の品質管理は、これまで目視で行っていた作業を自動走行ロボット113に代替させることで人件費を削減することができ、かつ、チェック漏れを最小限に抑えることができる。 In addition, the harvest prediction system 1 detects not only the strawberry 2 but also the leaves of the strawberry 2 to detect whether signs of a disease such as powdery mildew have occurred. can teach. Then, when the occurrence of disease or the occurrence of defective products is detected, the automatic traveling robot 113 sends the identification number 18 of the strawberry 2 and the type of problem to the monitor of the automatic traveling robot 113 or the centralized monitor for quality control. can be displayed. For the quality control of these strawberries 2, labor costs can be reduced and check omissions can be minimized by substituting the work that has been performed visually until now with the automatic traveling robot 113.

以上の実施形態で説明された施設栽培果実の収穫予測システム1の構成、形状、大きさ、及び配置関係については、本発明が理解、実施できる程度に概略的に示したものにすぎない。従って、本発明は、説明された実施形態に限定されるものではなく、特許請求の範囲に示される技術的思想の範囲を逸脱しない限り様々な形態に変更することができる。 The configuration, shape, size, and layout of the greenhouse-grown fruit yield prediction system 1 described in the above embodiment are merely schematic representations to the extent that the present invention can be understood and implemented. Therefore, the present invention is not limited to the described embodiments, but can be modified in various forms without departing from the scope of the technical concept indicated in the claims.

1 (施設栽培果実の)収穫予測システム、2 イチゴ、3 果実収穫日予測部、4 果実収穫数予測部、5 花床体積算定部、6 果実サイズ予測部、7 識別番号付与部、8 特徴量抽出部、9 果実品質確認部、10 個別果実管理データベース、12 開花数情報、13 サイズ情報、14 花床体積、15 個別特徴量、17 履歴情報、18 識別番号、19a 花床,19b めしべ,19c おしべ,19d そう果,19e がく片,19f 果柄、19g 花弁、20 経時画像、23 果実、25 開花日情報、26 栽培計画、27 予定積算温度、28a 予想収穫日,28b 修正収穫日、29a 予想収穫数,29b 修正収穫数、30a 人工知能による収穫日予測、30b 人工知能による収穫数予測、30c 人工知能による果実サイズ予測、31a 品種データ(積算温度)、31b 品種データ(着果率)、32 過去の果実収穫サイズデータ、100 温室、101 柱材、102 梁材、103 防虫ネット付き天窓、104 攪拌扇、105 自動遮光カーテン、106 自動保温カーテン、107 透明被覆材、108 栽培ベッド、109 栽培果実(イチゴ)、110 (自動走行ロボット)走行路、111 送受信アンテナ、112 画像モニタ、113 自動走行ロボット、114 撮像カメラ、115 警告音発生器、116 排水口、117 点滴潅水チューブ、118 培地、N1 その果実の開花日から着果日までの日数情報、N2 その果実の着果日から収穫日までの日数情報、X 日数の誤差、Y 収穫数の誤差、Z サイズの誤差。
1 Harvest prediction system (of greenhouse-grown fruit) 2 Strawberry 3 Fruit harvest date prediction unit 4 Fruit harvest number prediction unit 5 Flowerbed volume calculation unit 6 Fruit size prediction unit 7 Identification number assignment unit 8 Feature quantity Extraction part 9 Fruit quality confirmation part 10 Individual fruit management database 12 Flowering number information 13 Size information 14 Flower bed volume 15 Individual feature quantity 17 History information 18 Identification number 19a Flower bed 19b Pistil 19c Stamen, 19d Seed, 19e Sepal, 19f Fruit stalk, 19g Petal, 20 Time-lapse image, 23 Fruit, 25 Flowering date information, 26 Cultivation plan, 27 Planned integrated temperature, 28a Expected harvest date, 28b Corrected harvest date, 29a Forecast Harvest number, 29b Corrected harvest number, 30a Harvest date prediction by artificial intelligence, 30b Harvest number prediction by artificial intelligence, 30c Fruit size prediction by artificial intelligence, 31a Variety data (accumulated temperature), 31b Variety data (fruiting rate), 32 Past fruit harvest size data, 100 greenhouses, 101 pillars, 102 beams, 103 skylights with insect nets, 104 stirring fans, 105 automatic light-shielding curtains, 106 automatic heat-retaining curtains, 107 transparent covering materials, 108 cultivation beds, 109 cultivated fruits (strawberry), 110 (automatic traveling robot) traveling path, 111 transmitting/receiving antenna, 112 image monitor, 113 automatic traveling robot, 114 imaging camera, 115 warning sound generator, 116 drainage port, 117 drip watering tube, 118 culture medium, N1 that Information on the number of days from the flowering date of the fruit to the date of bearing fruit, N2 Information on the number of days from the date of bearing fruit to the harvest date, X error in number of days, Y error in number of harvests, Z error in size.

Claims (9)

室内環境が制御されたハウス内で栽培される果実を生じる植物を撮像カメラにより撮影し、
前記撮像カメラが撮影した経時画像から前記植物の開花日を確定し、前記開花日以降のハウス内の予定積算温度から収穫日を設定する果実収穫日予測部と、
前記植物の開花数情報を積算して前記果実の収穫数を予測する果実収穫数予測部と、
前記撮像カメラが撮像した前記植物の花床体積を算定する花床体積算定部と、
前記花床体積から前記果実のサイズを予測する果実サイズ予測部と、
を備え、
前記植物は、イチゴである
ことを特徴とする施設栽培果実の収穫予測システム。
Photographing a fruit -bearing plant cultivated in a greenhouse where the indoor environment is controlled with an imaging camera,
a fruit harvest date prediction unit that determines the flowering date of the plant from the time-lapse images captured by the imaging camera and sets the harvesting date from the planned accumulated temperature in the greenhouse after the flowering date;
a fruit harvest number prediction unit that predicts the harvest number of the fruit by accumulating the flowering number information of the plant ;
a flower bed volume calculation unit that calculates the flower bed volume of the plant imaged by the imaging camera;
a fruit size prediction unit that predicts the size of the fruit from the volume of the flower bed;
with
The yield prediction system for greenhouse-grown fruit, wherein the plant is strawberry.
請求項に記載の施設栽培果実の収穫予測システムであって、前記果実ごとに識別番号を付与する識別番号付与部と、前記果実の前記経時画像を解析して前記果実の個別特徴量を抽出し、前記識別番号と紐付する特徴量抽出部とを備えることを特徴とする施設栽培果実の収穫予測システム。 2. The harvest prediction system for greenhouse-grown fruit according to claim 1 , wherein an identification number assigning unit assigns an identification number to each fruit, and an individual feature amount of the fruit is extracted by analyzing the time-lapse image of the fruit. and a feature quantity extraction unit associated with the identification number. 請求項に記載の施設栽培果実の収穫予測システムであって、前記特徴量抽出部により撮影された前記各果実の個別特徴量は、前記識別番号と共に個別果実管理データベースに個別特徴量として保存されることを特徴とする施設栽培果実の収穫予測システム。 3. The harvest prediction system for greenhouse-grown fruit according to claim 2 , wherein the individual feature amount of each fruit photographed by the feature amount extraction unit is stored as an individual feature amount in an individual fruit management database together with the identification number. A harvest prediction system for fruits grown in a facility, characterized by: 請求項1乃至のいずれか1項に記載の施設栽培果実の収穫予測システムであって、特徴量抽出部は、撮像カメラにより撮影した前記果実の個別特徴量を個別果実管理データベースに記憶された前記果実の個別特徴量と比較し、前記果実を識別することを特徴とする施設栽培果実の収穫予測システム。 4. The harvest prediction system for greenhouse-grown fruit according to claim 1 , wherein the feature quantity extraction unit stores the individual feature quantity of the fruit photographed by an imaging camera in an individual fruit management database. A yield prediction system for greenhouse-grown fruit, characterized in that the fruit is identified by comparing with individual feature values of the fruit. 請求項1乃至のいずれか1項に記載の施設栽培果実の収穫予測システムであって、個別果実管理データベースには、各果実の花床の経時画像の履歴情報が保存されることを特徴とする施設栽培果実の収穫予測システム。 5. The yield prediction system for greenhouse-grown fruit according to any one of claims 1 to 4 , wherein the individual fruit management database stores history information of temporal images of flowerbeds of each fruit. A harvest prediction system for fruits grown in facilities. 請求項1乃至のいずれか1項に記載の施設栽培果実の収穫予測システムであって、果実収穫日予測部は、個別果実管理データベースに保存された前記果実の経時画像から設定された収穫日を修正することを特徴とする施設栽培果実の収穫予測システム。 6. The harvest prediction system for the greenhouse-grown fruit according to any one of claims 1 to 5 , wherein the fruit harvest date prediction unit includes a harvest date set from the time-lapse image of the fruit stored in the individual fruit management database. A yield prediction system for greenhouse-grown fruit, characterized by correcting the 請求項1乃至のいずれか1項に記載の施設栽培果実の収穫予測システムであって、果実サイズ予測部は、個別果実管理データベースに保存されている前記果実のサイズに関する過去のビッグデータと、前記果実の経時画像との比較から前記果実に関するサイズを予測することを特徴とする施設栽培果実の収穫予測システム。 7. The yield prediction system for greenhouse-grown fruit according to any one of claims 1 to 6 , wherein the fruit size prediction unit includes past big data related to the size of the fruit stored in an individual fruit management database, A yield prediction system for greenhouse-grown fruit, characterized by predicting the size of the fruit based on comparison with time-lapse images of the fruit. 請求項1乃至のいずれか1項に記載の施設栽培果実の収穫予測システムであって、前記撮像カメラは、自動走行ロボットに搭載され、接写が可能な高さに調整された栽培ベッドに沿ってハウス内を並走することを特徴とする施設栽培果実の収穫予測システム。 8. The yield prediction system for greenhouse-grown fruit according to claim 1 , wherein the imaging camera is mounted on an automatic traveling robot and is adjusted to a height that allows close-up photography along a cultivation bed A harvest prediction system for greenhouse-grown fruit, characterized in that the fruits run side by side in a greenhouse. 請求項1乃至のいずれか1項に記載の施設栽培果実の収穫予測システムであって、果実品質確認部を更に備え、自動走行ロボットによる前記果実の撮影画像から前記果実に異常が発生している場合は、不良品発生として警報を発報することを特徴とする施設栽培果実の収穫予測システム。 The harvest prediction system for greenhouse-grown fruit according to any one of claims 1 to 8 , further comprising a fruit quality confirmation unit, wherein an abnormality occurs in the fruit from an image of the fruit captured by an automatic traveling robot A harvest prediction system for greenhouse-grown fruit, wherein an alarm is issued as a defective product when a defective product is found.
JP2018187867A 2018-10-03 2018-10-03 Harvest prediction system for greenhouse-grown fruits Active JP7137426B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018187867A JP7137426B2 (en) 2018-10-03 2018-10-03 Harvest prediction system for greenhouse-grown fruits

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018187867A JP7137426B2 (en) 2018-10-03 2018-10-03 Harvest prediction system for greenhouse-grown fruits

Publications (2)

Publication Number Publication Date
JP2020054289A JP2020054289A (en) 2020-04-09
JP7137426B2 true JP7137426B2 (en) 2022-09-14

Family

ID=70105472

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018187867A Active JP7137426B2 (en) 2018-10-03 2018-10-03 Harvest prediction system for greenhouse-grown fruits

Country Status (1)

Country Link
JP (1) JP7137426B2 (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112381028A (en) * 2020-11-23 2021-02-19 苏州极目机器人科技有限公司 Target feature detection method and device
JP2022104377A (en) * 2020-12-28 2022-07-08 株式会社クボタ Mowing planning apparatus
JP7078771B1 (en) * 2021-03-31 2022-05-31 日鉄ソリューションズ株式会社 Information processing equipment, information processing methods and programs
CN113673339B (en) * 2021-07-16 2024-02-23 北京农业信息技术研究中心 Unmanned aerial vehicle image-based on-site straw extraction method and device

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012191903A (en) 2011-03-17 2012-10-11 Nikon Corp Plant sorting device, robot, plant cultivation system, plant sorting method, and program
JP2016154510A (en) 2015-02-26 2016-09-01 日本電気株式会社 Information processor, growth state determination method, and program

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5970751B2 (en) * 2011-06-22 2016-08-17 株式会社ニコン Growth degree detection device, plant cultivation plant, growth degree detection method, plant cultivation method and program

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012191903A (en) 2011-03-17 2012-10-11 Nikon Corp Plant sorting device, robot, plant cultivation system, plant sorting method, and program
JP2016154510A (en) 2015-02-26 2016-09-01 日本電気株式会社 Information processor, growth state determination method, and program

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
果実,2022年02月28日,https://web.archive.org/web/20170819191827/https://www.biol.tsukuba.ac.jp/~algae/BotanyWEB/fruit1.html,2017年8月19日アーカイブ

Also Published As

Publication number Publication date
JP2020054289A (en) 2020-04-09

Similar Documents

Publication Publication Date Title
JP7137426B2 (en) Harvest prediction system for greenhouse-grown fruits
KR101936317B1 (en) Method for smart farming
JP2019187259A (en) Culture support method, culture support program, culture support device and culture support system
WO2015006675A2 (en) Method for automatic phenotype measurement and selection
JP2007310463A (en) Farm field management support method and system
US11925151B2 (en) Stereo-spatial-temporal crop condition measurements for plant growth and health optimization
KR101763841B1 (en) System for diagnosing growth state by image data to unit crop organ
WO2022099402A1 (en) Data processing platform for analyzing stereo-spatio-temporal crop condition measurements to support plant growth and health optimization
WO2020184241A1 (en) Crop yield amount prediction program and cultivation environment assessment program
JP7138012B2 (en) Management device for pollen-mating insects and method for managing pollen-mating insects
US11666004B2 (en) System and method for testing plant genotype and phenotype expressions under varying growing and environmental conditions
WO2022091092A1 (en) System and method for indoor crop management
US11555690B2 (en) Generation of stereo-spatio-temporal crop condition measurements based on human observations and height measurements
CA3196136A1 (en) Advanced crop manager for crops stress mitigation
JP2021057071A (en) Program and system for proposing crop cultivation method
US20220107297A1 (en) Platform for real-time identification and resolution of spatial production anomalies in agriculture
US20220104437A1 (en) Reduction of time of day variations in plant-related data measurements
CN112001343A (en) Gardening pest control management system
RU2783299C1 (en) METHOD FOR REMOTE MONITORING AND CONTROL OF AGRICULTURAL CROP POLLINATION NEAR BEEHIVES APPLYING THE INTERNET OF THINGS (IoT) AND SYSTEM FOR IMPLEMENTATION THEREOF
US20220222819A1 (en) Crop view and irrigation monitoring
KR101993761B1 (en) Method for tracking crops of agriculture
JP2020077124A (en) Prediction device, control method of prediction device, and program
JP2022120830A (en) Fruit bunch yield prediction methods and fruit bunch yield prediction systems
WO2024069631A1 (en) Plant phenotyping

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210510

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20211223

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20211224

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220308

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220426

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220607

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220726

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220809

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220902

R150 Certificate of patent or registration of utility model

Ref document number: 7137426

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150