CN118139522A - 农业辅助系统、农业辅助装置、农业辅助方法以及农业辅助程序 - Google Patents
农业辅助系统、农业辅助装置、农业辅助方法以及农业辅助程序 Download PDFInfo
- Publication number
- CN118139522A CN118139522A CN202280064588.XA CN202280064588A CN118139522A CN 118139522 A CN118139522 A CN 118139522A CN 202280064588 A CN202280064588 A CN 202280064588A CN 118139522 A CN118139522 A CN 118139522A
- Authority
- CN
- China
- Prior art keywords
- plant
- image
- predetermined
- model
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 39
- 230000007246 mechanism Effects 0.000 claims abstract description 80
- 235000013399 edible fruits Nutrition 0.000 claims description 82
- 238000003306 harvesting Methods 0.000 claims description 59
- 201000010099 disease Diseases 0.000 claims description 32
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 claims description 32
- 239000003337 fertilizer Substances 0.000 claims description 20
- 238000003384 imaging method Methods 0.000 claims description 17
- 238000000227 grinding Methods 0.000 claims description 16
- 239000000843 powder Substances 0.000 claims description 12
- 235000003715 nutritional status Nutrition 0.000 claims description 8
- 238000009423 ventilation Methods 0.000 claims description 6
- 230000007812 deficiency Effects 0.000 claims description 2
- 238000005286 illumination Methods 0.000 claims description 2
- 241000196324 Embryophyta Species 0.000 description 174
- 238000003860 storage Methods 0.000 description 38
- 238000004891 communication Methods 0.000 description 33
- 238000010586 diagram Methods 0.000 description 15
- 230000006870 function Effects 0.000 description 15
- 230000008569 process Effects 0.000 description 14
- 239000013598 vector Substances 0.000 description 12
- 230000007480 spreading Effects 0.000 description 9
- 238000003892 spreading Methods 0.000 description 9
- 230000010365 information processing Effects 0.000 description 8
- 230000000875 corresponding effect Effects 0.000 description 5
- 230000004044 response Effects 0.000 description 5
- 230000017260 vegetative to reproductive phase transition of meristem Effects 0.000 description 5
- 230000010152 pollination Effects 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 239000003795 chemical substances by application Substances 0.000 description 3
- 230000000052 comparative effect Effects 0.000 description 3
- 238000009434 installation Methods 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 238000009966 trimming Methods 0.000 description 3
- 235000016623 Fragaria vesca Nutrition 0.000 description 2
- 240000009088 Fragaria x ananassa Species 0.000 description 2
- 235000011363 Fragaria x ananassa Nutrition 0.000 description 2
- 230000001276 controlling effect Effects 0.000 description 2
- 125000004122 cyclic group Chemical group 0.000 description 2
- 230000002950 deficient Effects 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 239000003814 drug Substances 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 235000016709 nutrition Nutrition 0.000 description 2
- 239000002689 soil Substances 0.000 description 2
- 235000013311 vegetables Nutrition 0.000 description 2
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 2
- 241000219112 Cucumis Species 0.000 description 1
- 235000015510 Cucumis melo subsp melo Nutrition 0.000 description 1
- 240000008067 Cucumis sativus Species 0.000 description 1
- 235000010799 Cucumis sativus var sativus Nutrition 0.000 description 1
- 241000221785 Erysiphales Species 0.000 description 1
- 235000007688 Lycopersicon esculentum Nutrition 0.000 description 1
- 208000002720 Malnutrition Diseases 0.000 description 1
- 244000134552 Plantago ovata Species 0.000 description 1
- 235000003421 Plantago ovata Nutrition 0.000 description 1
- 239000009223 Psyllium Substances 0.000 description 1
- 240000003768 Solanum lycopersicum Species 0.000 description 1
- FJJCIZWZNKZHII-UHFFFAOYSA-N [4,6-bis(cyanoamino)-1,3,5-triazin-2-yl]cyanamide Chemical compound N#CNC1=NC(NC#N)=NC(NC#N)=N1 FJJCIZWZNKZHII-UHFFFAOYSA-N 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 235000005523 excessive nutrition Nutrition 0.000 description 1
- 206010016165 failure to thrive Diseases 0.000 description 1
- 230000009643 growth defect Effects 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 235000001705 insufficient nutrition Nutrition 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000035764 nutrition Effects 0.000 description 1
- 229940070687 psyllium Drugs 0.000 description 1
- 229910052709 silver Inorganic materials 0.000 description 1
- 239000004332 silver Substances 0.000 description 1
- -1 silver halide Chemical class 0.000 description 1
- 235000000112 undernutrition Nutrition 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/02—Agriculture; Fishing; Forestry; Mining
-
- A—HUMAN NECESSITIES
- A01—AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
- A01D—HARVESTING; MOWING
- A01D46/00—Picking of fruits, vegetables, hops, or the like; Devices for shaking trees or shrubs
-
- A—HUMAN NECESSITIES
- A01—AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
- A01G—HORTICULTURE; CULTIVATION OF VEGETABLES, FLOWERS, RICE, FRUIT, VINES, HOPS OR SEAWEED; FORESTRY; WATERING
- A01G7/00—Botany in general
-
- A—HUMAN NECESSITIES
- A01—AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
- A01G—HORTICULTURE; CULTIVATION OF VEGETABLES, FLOWERS, RICE, FRUIT, VINES, HOPS OR SEAWEED; FORESTRY; WATERING
- A01G7/00—Botany in general
- A01G7/04—Electric or magnetic or acoustic treatment of plants for promoting growth
- A01G7/045—Electric or magnetic or acoustic treatment of plants for promoting growth with electric lighting
-
- A—HUMAN NECESSITIES
- A01—AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
- A01G—HORTICULTURE; CULTIVATION OF VEGETABLES, FLOWERS, RICE, FRUIT, VINES, HOPS OR SEAWEED; FORESTRY; WATERING
- A01G7/00—Botany in general
- A01G7/06—Treatment of growing trees or plants, e.g. for preventing decay of wood, for tingeing flowers or wood, for prolonging the life of plants
-
- A—HUMAN NECESSITIES
- A01—AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
- A01H—NEW PLANTS OR NON-TRANSGENIC PROCESSES FOR OBTAINING THEM; PLANT REPRODUCTION BY TISSUE CULTURE TECHNIQUES
- A01H1/00—Processes for modifying genotypes ; Plants characterised by associated natural traits
- A01H1/02—Methods or apparatus for hybridisation; Artificial pollination ; Fertility
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30181—Earth observation
- G06T2207/30188—Vegetation; Agriculture
Landscapes
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Environmental Sciences (AREA)
- Physics & Mathematics (AREA)
- Biodiversity & Conservation Biology (AREA)
- Ecology (AREA)
- Forests & Forestry (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Botany (AREA)
- Business, Economics & Management (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Marketing (AREA)
- Strategic Management (AREA)
- Marine Sciences & Fisheries (AREA)
- Animal Husbandry (AREA)
- Economics (AREA)
- Agronomy & Crop Science (AREA)
- Human Resources & Organizations (AREA)
- Wood Science & Technology (AREA)
- Primary Health Care (AREA)
- Mining & Mineral Resources (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Quality & Reliability (AREA)
- Genetics & Genomics (AREA)
- Developmental Biology & Embryology (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Breeding Of Plants And Reproduction By Means Of Culturing (AREA)
Abstract
系统具备控制部以及与植物接触来进行规定的操作的操作机构,其中,控制部包括:模型生成部,其根据规定的生成条件的组合来生成植物的三维模型;学习部,其学习第一已学习模型,该第一已学习模型是通过将植物的图像和三维模型中的规定的参数作为学习数据进行学习而生成的;图像获取部,其获取作为判定对象的植物的图像;模型获取部,其获取第一已学习模型;参数估计部,其基于第一已学习模型和作为判定对象的植物的图像,来估计该作为判定对象的植物的规定部位的规定的参数;以及操作指示部,其基于估计出的规定的参数,来使操作机构进行规定的操作。
Description
技术领域
本公开涉及一种农业辅助系统、农业辅助装置、农业辅助方法以及农业辅助程序。
背景技术
在农业中,已知一种自动地进行果实等的受粉的技术。
在专利文献1中,记载了与无人机控制装置有关的技术,该无人机控制装置用于控制具备使花粉或坐果剂附着于雌蕊的附着用配件的无人机。
现有技术文献
专利文献
专利文献1:日本特开2021-45055号公报
发明内容
发明要解决的问题
在专利文献1所记载的技术中,记载了基于从无人机获取到的花的图像数据来判定开花状态并使花粉、坐果剂附着的技术。
然而,在专利文献1的技术中存在以下担忧:在花朝向旋转方向的情况下无法使花粉、坐果剂适当地附着。
因此,需要一种能够更加适当地实施受粉等与农业相关的各种作业的技术。
用于解决问题的方案
根据一个实施方式,提供一种农业辅助系统,具备控制部以及与植物接触来进行规定的操作的操作机构,其中,控制部包括:模型生成部,其根据规定的生成条件的组合来生成植物的三维模型;学习部,其学习第一已学习模型,该第一已学习模型是通过将植物的图像和所述三维模型中的规定的参数作为学习数据进行学习而生成的;图像获取部,其获取作为判定对象的植物的图像;模型获取部,其获取第一已学习模型;参数估计部,其基于第一已学习模型和作为判定对象的植物的图像,来估计该作为判定对象的植物的规定部位的规定的参数;以及操作指示部,其基于估计出的规定的参数,来使操作机构进行规定的操作。
发明的效果
根据本公开,能够更加适当地实施受粉等与农业相关的各种作业。
附图说明
图1是示出系统1整体的结构的框图。
图2是示出终端装置10的功能结构的图。
图3是示出服务器20的功能结构的图。
图4是示出农业辅助装置30的功能结构的图。
图5是示出第一实施方式所涉及的农业辅助装置30的外观(立体图)的例子的图。
图6是示出第一实施方式所涉及的农业辅助装置30的外观(侧视图)的例子的图。
图7是示出农业辅助装置30的主体部502的详细结构的图。
图8是表示农业辅助装置30基于所获取到的植物的图像和已学习模型来执行规定的操作的一系列的处理的流程图。
图9示出农业辅助装置30所具有的操作机构302针对植物的规定部位基于规定的参数来执行规定的操作的动作图。
图10示出农业辅助装置30所具有的操作机构302在检测到植物的病害的倾向时向管理农场的用户显示通知时的画面例。
具体实施方式
下面,参照附图来对本公开的实施方式进行说明。在下面的说明中,对相同的部件标注相同的附图标记。它们的名称和功能也是相同的。因而,不重复进行对它们的详细说明。
<第一实施方式>
<概要>
在下面的实施方式中,对以下技术进行说明:获取植物的图像,基于已学习模型来估计该植物的在三维空间中的规定的参数,基于该参数来操作设置于农业辅助装置的臂的前端部的操作机构。
作为与实施方式的比较例,对下面的结构进行说明。作为比较例,设想以下技术:获取植物的图像并确定花的雌蕊的位置,通过装置来进行自动受粉。例如,通过将花的学习用图像与开花状态进行关联而得到的已学习模型,来判定进行拍摄所得到的花的图像中的开花状态,根据被判定为开花状态的花的朝向来驱动配件以使花受粉。但是,在比较例中,花的朝向只是在基于拍摄到的图像的平面(二维)中的朝向,在花朝向里侧方向的情况下等,无法适当地进行开花判定和受粉,存在受粉作业产生遗漏、收获量受损的担忧。
因此,在本实施方式中进行说明的系统1中,提供一种农业辅助系统,具备控制部以及与植物接触来进行规定的操作的操作机构,其中,控制部包括:模型生成部,其根据规定的生成条件的组合来生成植物的三维模型;学习部,其学习第一已学习模型,该第一已学习模型是通过将植物的图像和三维模型中的规定的参数作为学习数据进行学习而生成的;图像获取部,其获取作为判定对象的植物的图像;模型获取部,其获取第一已学习模型;参数估计部,其基于第一已学习模型和作为判定对象的植物的图像,来估计该作为判定对象的植物的规定部位的规定的参数;以及操作指示部,其基于估计出的规定的参数,来使操作机构进行规定的操作。
像上面那样,系统1提供更加适当地实施受粉等与农业相关的各种作业的技术。
系统1例如能够在植物工厂、温室或塑料大棚中自动地进行受粉、收获、摘叶等的场面中被使用。由此,能够更加适当地实施受粉等与农业相关的各种作业。
下面,参照图1~图4来对本公开的第一实施方式所涉及的系统1的结构进行说明。系统1主要是如植物工厂、温室或塑料大棚那样计划性地生产植物的系统,包括下述所示的装置。
·对植物的花自动地进行授粉处理的装置
·对植物的果实自动地进行收获处理的装置
·对植物的叶、茎自动地进行摘叶、修剪、剔除的装置
·对植物自动地散布肥料的装置
上述装置具体地说是对花粉附在同一花的柱头上的自花授粉的花自动地进行授粉处理的装置,并且是对花粉附在其它花的柱头上的异花授粉的花自动地进行授粉处理的装置。
<1系统整体的结构图>
图1示出第一实施方式中的系统1整体的结构。
如图1所示,系统1包括终端装置10(在图1中仅图示了终端装置10,但是也可以由多个终端装置(10A、10B、10C等)构成。)、服务器20以及农业辅助装置30。终端装置10、服务器20以及农业辅助装置30经由网络80通信连接。网络80由有线或无线网络构成。
终端装置10是供各用户操作的装置。终端装置10是通过固置型的PC(PersonalComputer:个人计算机)、膝上PC等实现的。除此以外,终端装置10例如也可以是支持移动体通信系统的平板电脑、智能手机等便携式终端。如图1所示,终端装置10具备通信IF(Interface:接口)12、输入装置13、输出装置14、存储器15、存储部16以及处理器19。服务器20具备通信IF 22、输入输出IF 23、存储器25、存储单元26以及处理器29。农业辅助装置30具备通信IF 32、输入输出IF 33、存储器35、存储部36以及处理器39。
终端装置10经由网络80而与服务器20及农业辅助装置30以能够通信的方式连接。终端装置10通过与支持各种通信标准(5G、LTE(Long Term Evolution:长期演进)等)的无线基站81、支持IEEE(Institute of Electrical and Electronics Engineers:电子与电气工程师协会)802.11等无线LAN(Local Area Network:局域网)标准的无线LAN路由器82等通信设备进行通信来与网络80连接。
通信IF 12是为了终端装置10与外部的装置进行通信而用于输入输出信号的接口。输入装置13是用于受理来自用户的输入操作的输入装置(例如,触摸面板、触摸板、鼠标等指针设备、键盘等)。输出装置14是用于对用户呈现信息的输出装置(显示器、扬声器等)。存储器15用于临时地存储程序及通过程序等而被处理的数据等,例如是DRAM(DynamicRandom Access Memory:动态随机存取存储器)等易失性的存储器。存储部16是用于保存数据的存储装置,例如是快闪存储器、HDD(Hard Disc Drive:硬盘驱动器)。处理器19是用于执行程序中描述的命令组的硬件,由运算装置、寄存器、周边电路等构成。
服务器20管理与农业辅助装置所获取的已学习模型有关的信息等。对于已学习模型的详情,在后面记述。
在某个局面中,服务器20也可以管理经营农场的用户等的各种信息。具体地说,例如,服务器20也可以将下述的信息作为与经营农场的用户有关的信息来管理。
·用户在农场中栽培的蔬菜、果实的种类
·用户所管理的农场的面积
·用户所持有的器具、机械的种类
·用户所管理的农场的倾斜角度
·用户所管理的农场的土壤的性质
·用户在农场中使用的肥料的种类
·用户所管理的农场所在的地区
·用户所管理的农场所在的地区中的气候的信息(平均气温、降雨量、日照量等)
通信IF 22是为了服务器20与外部的装置进行通信而用于输入输出信号的接口。输入输出IF 23作为与用于受理来自用户的输入操作的输入装置以及用于对用户呈现信息的输出装置之间的接口而发挥功能。存储器25用于临时地存储程序及通过程序等而被处理的数据等,例如是DRAM(Dynamic Random Access Memory:动态随机存取存储器)等易失性的存储器。存储单元26是用于保存数据的存储装置,例如是快闪存储器、HDD(Hard DiscDrive:硬盘驱动器)。处理器29是用于执行程序中描述的命令组的硬件,由运算装置、寄存器、周边电路等构成。
在本实施方式中,还能够将各装置(终端装置、服务器等)理解为信息处理装置。即,能够将各装置的集合体理解为一个“信息处理装置”,也可以将系统1形成为多个装置的集合体。关于针对一个或多个硬件分配实现本实施方式所涉及的系统1所需要的多个功能的方法,能够考虑各硬件的处理能力和/或系统1所要求的规格等来适当决定。
农业辅助装置30是基于来自用户的指示或预先设定的条件来在农场中进行规定的作业的装置。规定的作业具体地说例如包括通过农业辅助装置30进行的、用户所管理的农场中的下述的作业。
·受粉(使花粉附着于雌蕊)作业
·收获作业
·摘叶(去除重叠的叶、多余的叶)作业
·肥料的散布作业
·对患病的果实、叶等的剔除作业
通信IF 32是为了农业辅助装置30与外部的装置进行通信而用于输入输出信号的接口。输入输出IF 33作为与用于受理来自用户的输入操作的输入装置以及用于对用户呈现信息的输出装置之间的接口而发挥功能。存储器35用于临时地存储程序及通过程序等而被处理的数据等,例如是DRAM(Dynamic Random Access Memory:动态随机存取存储器)等易失性的存储器。存储部36是用于保存数据的存储装置,例如是快闪存储器、HDD(HardDisc Drive:硬盘驱动器)。处理器39是用于执行程序中描述的命令组的硬件,由运算装置、寄存器、周边电路等构成。
<1.1终端装置10的结构>
图2是示出构成实施方式1的系统1的终端装置10的功能结构的框图。如图2所示,终端装置10包括多个天线(天线111、天线112)、与各天线对应的无线通信部(第一无线通信部121、第二无线通信部122)、操作受理部130(包括键盘1301和鼠标1302)、声音处理部140、麦克风141、扬声器142、显示器150、位置信息传感器160、存储部170以及控制部180。终端装置10还具有在图2中未特别图示的功能和结构(例如,用于保持电力的电池、控制从电池向各电路的电力的供给的电力供给电路等)。如图2所示,终端装置10中包括的各块通过总线等电连接。
天线111将终端装置10发出的信号作为电波发射。另外,天线111从空间接收电波并向第一无线通信部121赋予接收信号。
天线112将终端装置10发出的信号作为电波发射。另外,天线112从空间接收电波并向第二无线通信部122赋予接收信号。
第一无线通信部121为了终端装置10与其它无线设备进行通信而进行用于经由天线111发送接收信号的调制解调处理等。第二无线通信部122为了终端装置10与其它无线设备进行通信而进行用于经由天线112发送接收信号的调制解调处理等。第一无线通信部121和第二无线通信部122是包括调谐器、RSSI(Received Signal Strength Indicator:接收信号强度指示器)计算电路、CRC(Cyclic Redundancy Check:循环冗余校验)计算电路、高频电路等的通信模块。第一无线通信部121和第二无线通信部122进行对由终端装置10发送接收的无线信号的调制解调及频率转换,并向控制部180赋予接收信号。
操作受理部130具有用于受理用户的输入操作的机构。具体地说,操作受理部130包括键盘1301和鼠标1302。此外,操作受理部130例如也可以构成为通过使用静电电容方式的触摸面板来检测用户对触摸面板的接触位置的触摸屏。
键盘1301受理终端装置10的用户的输入操作。键盘1301是进行字符输入的装置,将所输入的字符信息作为输入信号输出到控制部180。
鼠标1302受理终端装置10的用户的输入操作。鼠标1302是用于对显示于显示器150的显示物进行选择等的指针设备,将在画面上选择的位置信息和表示按钮被按下的信息作为输入信号输出到控制部180。
声音处理部140进行声音信号的调制解调。声音处理部140对从麦克风141被赋予的信号进行调制,并向控制部180赋予调制后的信号。另外,声音处理部140向扬声器142赋予声音信号。声音处理部140例如是通过声音处理用的处理器实现的。麦克风141受理声音输入,向声音处理部140赋予与该声音输入对应的声音信号。扬声器142将从声音处理部140被赋予的声音信号转换为声音,并向终端装置10的外部输出该声音。
显示器150根据控制部180的控制来显示图像、视频、文本等数据。显示器150例如是通过LCD(Liquid Crystal Display:液晶显示器)或有机EL(Electro-Luminescence:电致发光)显示器实现的。
位置信息传感器160是用于检测终端装置10的位置的传感器,例如是GPS(GlobalPositioning System:全球定位系统)模块。GPS模块是在卫星定位系统中使用的接收装置。在卫星定位系统中,接收来自至少3个或4个卫星的信号,基于所接收到的信号来检测搭载有GPS模块的终端装置10的当前位置。例如,在系统1中,在能够参照用户的位置信息的情况下,也可以基于用户的位置信息来确定与用户所管理的农场的位置有关的信息等,从而确定该农场中的气候条件等。此外,在系统1中,在终端装置10等保持有与管理农场的用户有关的信息的情况下,也可以基于位置信息来确定在该地区内管理有农场的用户的信息。另外,位置信息传感器160也可以是基于在信息设备之间的近距离通信系统中使用的通信标准的发送接收装置。具体地说,位置信息传感器160是Bluetooth(注册商标)模块等,使用2.4GHz频带,接收来自搭载有Bluetooth(注册商标)模块的其它信息设备的信标信号。
存储部170例如由快闪存储器等构成,存储终端装置10所使用的数据和程序。在某个局面中,存储部170例如也可以将下述的信息作为与管理农场的用户有关的信息来存储。
·用户在农场中栽培的蔬菜、果实的种类
·用户所管理的农场的面积
·用户所持有的器具、机械的种类
·用户所管理的农场的倾斜角度
·用户所管理的农场的土壤的性质
·用户在农场中使用的肥料的种类
·用户所管理的农场所在的地区
·用户所管理的农场所在的地区中的气候的信息(平均气温、降雨量、日照量等)
控制部180通过读取存储于存储部170的程序并执行程序中包含的命令,来控制终端装置10的动作。控制部180例如是应用程序处理器。控制部180通过按照程序进行动作,来发挥作为输入操作受理部1801、发送接收部1802、数据处理部1803以及告知控制部1804的功能。
输入操作受理部1801进行受理用户对键盘1301等输入装置的输入操作的处理。此外,输入操作受理部1801在通过接触感测设备(touch sensitive device)(未图示)等输入装置等受理来自用户的输入操作的情况下,基于用户使手指等对接触感测设备进行接触的坐标的信息,来判定下述中包括的操作的类型。
·用户的操作是否为轻拂(flick)操作
·用户的操作是否为点击操作
·用户的操作是否为拖曳(轻扫(swipe))操作
发送接收部1802进行用于终端装置10与服务器20等外部的装置按照通信协议发送接收数据的处理。
数据处理部1803进行按照程序来对由终端装置10受理了输入的数据进行运算并向存储器等输出运算结果的处理。
告知控制部1804进行对用户呈现信息的处理。告知控制部1804进行使显示器150显示显示图像的处理、使扬声器142输出声音的处理等。
<1.2服务器20的功能结构>
图3是示出服务器20的功能结构的图。如图3所示,服务器20发挥作为通信部201、存储部202以及控制部203的功能。
通信部201进行用于服务器20与外部的装置进行通信的处理。
存储部202存储服务器20所使用的数据和程序。存储部202存储已学习模型数据库2021等。在某个局面中,存储部202也可以存储与管理农场的用户有关的各种信息。
已学习模型数据库2021是用于管理将植物的三维模型中的规定部位的规定的参数与植物的图像进行关联而得到的已学习模型的信息的数据库。这里,被进行关联的不限于是植物的图像。也可以与植物的视频等进行关联。
接收控制部2031控制服务器20按照通信协议来从外部的装置接收信号的处理。
发送控制部2032控制服务器20按照通信协议来对外部的装置发送信号的处理。
模型生成部2033控制基于规定的生成条件来生成植物的三维模型的处理。具体地说,例如,模型生成部2033以下述中包括的要素的组合为三维模型的生成条件来生成植物的三维模型。
·植物的叶、茎、花(包括雌蕊、雄蕊等)、果实
·植物的叶、茎、花(包括雌蕊、雄蕊等)、果实各自的大小
·植物的叶、茎、花(包括雌蕊、雄蕊等)、果实各自的数量
·植物的叶、茎、花(包括雌蕊、雄蕊等)、果实各自的色彩
·背景的信息
·照明的信息
·植物的叶、茎、花(包括雌蕊、雄蕊等)、果实各自的朝向
·植物的叶、茎、花(包括雌蕊、雄蕊等)、果实各自的位置
这里,三维模型的创建方法可以使用现有的任何三维绘制软件。
服务器20也可以将根据上述要素的组合生成的三维模型的信息累积于存储部202。
学习部2034控制学习将所生成的三维模型与植物的规定的参数进行关联而得到的已学习模型并将该已学习模型保存于服务器20的存储部202的已学习模型数据库2021的处理。
这里,对本公开中的已学习模型的创建方法进行例示。
例如,学习部2034获取由模型生成部2033生成的三维模型的信息。
接着,学习部2034从管理农场的用户处受理与三维模型相关联的植物的图像(或视频),将该植物的各部位的各种参数(雌蕊的位置、朝向、位置关系)与三维模型的各部位的各种参数进行关联。例如,学习部2034受理雌蕊的位置正在朝向规定的朝向的植物的图像。接着,学习部2034从管理农场的用户处受理在三维模型中雌蕊的位置与所受理的植物的图像中的雌蕊的位置正在朝向同一朝向的模型,并将该植物的图像与该模型中的各种参数进行关联。
服务器20当将植物的图像作为输入受理时,基于已学习模型来确定植物的规定部位(例如,花、雌蕊、叶等)的参数(例如,朝向、位置关系等),并将该参数作为用于对农业辅助装置进行操作的参数来输出。即,雌蕊正在朝向规定的方向(例如,里侧斜后方向),因此输出用于对该雌蕊从正面方向进行受粉的信息。此时,输出的信息可以是法向矢量,农业辅助装置也可以基于所输出的该法向矢量的信息,来对后述的操作机构进行操作。
由此,管理农场的用户能够在各种各样的条件下准确、精致地使农场中的作业自动进行。
在某个局面中,服务器20也可以除了存储上述所例示的已学习模型(第一已学习模型)以外,还将多个已学习模型的信息存储于存储部。具体地说,例如,服务器20也可以存储下述的已学习模型。
·对农场中的通风或日照中的至少任一者、以及收获时期的果实的收获量进行学习而得到的已学习模型(第二已学习模型)
·将果实的图像、果实的重量、果实的糖度以及果实的品质进行关联而得到的已学习模型(第三已学习模型)
·将植物的图像与植物的病害图像进行关联而得到的已学习模型(第四已学习模型)
·将植物的图像与植物的营养状况进行关联而得到的已学习模型(第五已学习模型)
这里,对各个已学习模型的生成方法进行例示。
在某个局面中,服务器20也可以按每种植物存储各种已学习模型。例如,也可以针对草莓、番茄、甜瓜、黄瓜等在农场栽培的植物分别存储上述的已学习模型。此时,服务器20也可以在根据所获取到的图像来确定出该植物是哪种植物的基础上决定要获取的已学习模型。
由此,管理农场的用户即使栽培了多个种类的植物,也能够即时地变更要获取的已学习模型,从而适当地进行各种操作。
对第二已学习模型的生成方法进行例示。服务器20从管理农场的用户处受理农场中的通风(也可以近似为植物的叶等的密集程度)或农场中的日照(基于植物的叶等的密集程度的在植物的各处的日照程度)的信息。接着,服务器20从管理农场的用户处受理收获时期的植物的果实等的收获量的信息,并将其与该通风、日照的信息进行关联。服务器20当将植物的图像作为输入受理时,基于第二已学习模型来输出收获量预测。
在某个局面中,农业辅助装置也可以基于所输出的该收获量预测,来估计成为最佳的收获量的叶等的位置关系,并基于进行该估计所得到的结果来执行摘叶等。
由此,管理农场的用户能够基于叶的通风等信息来以获得最佳的收获量的方式自动地进行调节。
对第三已学习模型的生成方法进行例示。服务器20也可以从管理农场的用户处受理果实的图像、果实的重量、果实的糖度以及果实的品质,并将它们进行关联。服务器20当将果实的图像、重量以及糖度作为输入受理时,输出该果实的品质。
由此,管理农场的用户能够定量地对果实的品质进行评价。
对第四已学习模型的生成方法进行例示。服务器20从管理农场的用户处受理基于植物遭受病害时的图像而创建的植物的三维模型的信息。此时,管理农场的用户也可以创建随机地设定了在下述中例示的条件而得到的植物的病害模型。
·病害的发生位置
·病害的发生量(叶、花上的面积等)
·一株植物中的病害的发生位置
接着,服务器20受理在植物的图像中出现病害的倾向的图像,并与它们的三维模型进行关联。即,在叶的一部分等出现了规定的病害(炭疽病、木虱、白粉病等,不被限定)的情况下,输出出现了该病害的倾向的部位的信息。
在某个局面中,农业辅助装置也可以基于所输出的该出现了病害的倾向的部位的信息,来执行该部位的摘除、剔除等。
由此,即使在农场的面积广的情况下,管理农场的用户也能够迅速地检测病害的倾向,能够早期地防止由病害造成的损害。
对第五已学习模型的生成方法进行例示。服务器20从管理农场的用户处受理基于各种各样的营养状况(营养不足、营养过剩等)下的植物的图像而创建的植物的三维模型的信息。接着,服务器20受理在植物的图像中出现了上述所示的营养状况的倾向的图像,并将其与它们的三维模型进行关联。即,在农场中一部分的植物出现了营养不足的情况下,输出出现了该倾向的部位的信息。
在某个局面中,农业辅助装置也可以基于所输出的该出现了营养不足的倾向的部位的信息,来对散布的肥料的量、比例等进行调整。
由此,管理农场的用户能够掌握肥料的散布状况的失衡等,能够收获质量均匀的果实等。
学习部2034控制将所生成的已学习模型保存于服务器20的存储部202的已学习模型数据库2021的处理。具体地说,例如,学习部2034既可以响应于从管理农场的用户处受理操作指示来向农业辅助装置30发送该已学习模型,也可以响应于从农业辅助装置30受理植物的图像来发送与该植物对应的已学习模型。
<1.3农业辅助装置30的功能结构>
图3是示出农业辅助装置30的功能结构的图。如图3所示,农业辅助装置30具有通信部301、操作机构302、存储部303、控制部304以及拍摄机构350。
通信部201用于农业辅助装置30与外部的装置进行通信。
操作机构302用于农业辅助装置30对植物进行规定的操作。规定的操作例如包括下述作业。
·受粉(使花粉附着于雌蕊)作业
·收获作业
·摘叶(去除重叠的叶、多余的叶)作业
·肥料的散布作业
·患病的果实、叶等的剔除作业
存储部303存储农业辅助装置30所使用的数据和程序。在某个局面中,存储部303也可以存储各种已学习模型以及与管理农场的用户有关的各种信息等。
控制部304通过读取存储于存储部303的程序并执行程序中包含的命令,来控制农业辅助装置30的动作。控制部304例如是应用程序处理器。控制部304通过按照程序进行动作,来发挥图像获取部3031、模型获取部3032、参数估计部3033以及操作指示部3034所示的功能。
图像获取部3031控制获取由后述的拍摄机构350进行拍摄而得到的图像或视频的动作。此时,图像获取部3031所获取的图像或视频的格式不被限定。例如,图像获取部3031获取包括下述在内的格式的图像或视频。
·JPEG(Joint Photographic Experts Group:联合图像专家组)格式
·PNG(Portable Network Graphics:便携式网络图形)格式
·GIF(Graphics Interchange Format:图形交换格式)格式
·TIFF(Tagged Image File Format:标签图像文件格式)格式
·位图格式
·MP4(Moving Picture Experts Group:动态图像专家组)格式
·MOV(QuickTime file format:影片格式)格式
·AVI(Audio Video still Images:音频视频交错)格式
·VOB(Video Object file:视频对象文件)格式
模型获取部3032控制从服务器20获取各种已学习模型的处理。具体地说,例如,模型获取部3032响应于图像获取部3031获取植物的图像,来获取各种已学习模型。此时,模型获取部3032也可以在存储部303中保持所获取到的已学习模型,从而省略进行对同一植物的各种操作时的已学习模型的获取处理。另外,模型获取部3032也可以将所获取到的已学习模型临时地保持于非易失性存储器,在每次操作时获取对应的已学习模型。
由此,用户即使在农业辅助装置难以保证充分的存储部的容量的状况下,也能够进行基于已学习模型的各种操作。
参数估计部3033控制基于由图像获取部3031获取到的植物的图像和由模型获取部获取到的已学习模型来估计植物的规定部位的规定的参数的处理。具体地说,规定部位例如包括下述部位。
·植物的花、花瓣
·植物的雌蕊
·植物的雄蕊
·植物的叶
·植物的果实
·植物的茎
另外,规定的参数例如包括下述参数。
·上述的植物的规定部位的朝向
·上述的植物的规定部位的位置关系
此时,参数估计部3033也可以不是计算朝上、朝下等参数来作为朝向的参数,而是以三维空间中的法向矢量来计算朝向的参数。三维空间中的法向矢量例如可以是将360°天球模型中的各种朝向以矢量进行显示而得到的。
由此,无论植物的花、叶等朝向任何方向,管理农场的用户都能够准确地估计出其方向并适当地进行受粉、收获、摘叶等操作。
操作指示部3034控制使农业辅助装置30的操作机构302执行规定的操作的处理。规定的操作例如包括下述作业。
·受粉(使花粉附着于雌蕊)作业
·收获作业
·摘叶(去除重叠的叶、多余的叶)作业
·肥料的散布作业
·患病的果实、叶等的剔除作业
拍摄机构350获取农场中的植物的图像。此时,拍摄机构350也可以获取植物的视频。
拍摄机构350不被限定,可以是现有的任何摄像机。拍摄机构350既可以是使用卤化银式胶片的摄像机,也可以是数字摄像机。
在某个局面中,农业辅助装置30也可以根据用途而具有上述以外的功能。例如,农业辅助装置也可以具有包括下述在内的功能(均未图示)。
·用于散布水的水散布部
·用于散布肥料的肥料散布部
·用于散布药剂的药剂散布部
作为其它功能,不限定于上述功能,也可以是对于进行农业而言所需要的任何功能。
<1.3农业辅助装置30的结构>
图5和图6是示出第一实施方式所涉及的农业辅助装置30的外观的例子的图。图5是农业辅助装置30的立体图,图6是农业辅助装置30的侧视图。
如图5和图6所示,农业辅助装置30具有托盘设置支架501、收获托盘5011、主体部502、信息处理部503以及行驶部504。此时,主体部502可以设置在能够沿上下移动的导轨上。
托盘设置支架501和收获托盘5011是用于收纳由农业辅助装置30收获到的果实等的机构。具体地说,例如,农业辅助装置30将用于收纳所收获到的果实的收获托盘5011设置于托盘设置支架501。农业辅助装置30将收获到的果实(例如,草莓)收纳于收获托盘5011。托盘设置支架501构成为多层式,在收获托盘5011的收纳容量达到规定值的情况下,使主体部502沿上下移动,使果实收纳于容量有空余的收获托盘5011。
由此,管理农场的用户能够高效地进行果实的收获。
在某个局面中,将收获托盘5011设置于托盘设置支架501的操作既可以由管理农场的用户进行,也可以自动地进行。具体地说,农业辅助装置30在主体部502具备能够向前后左右移动的托盘设置用臂(未图示),通过由该托盘设置用臂抓住收获托盘5011并使其移动,来将收获托盘5011设置于托盘设置支架501的规定位置。
由此,即使农业辅助装置30的托盘设置支架的层数增加,也能够减少管理农场的用户手动地设置支架的劳力。
另外,在某个局面中,托盘设置支架501和收获托盘5011也可以不是用于收获果实,而是用于收纳植物的苗木。在该情况下,主体部502也可以执行从收获托盘5011依次取出苗木并将其种植于农场的操作。
主体部502是用于在农场中进行各种作业(受粉、收获、摘叶等)的机构。详情在后面记述。
信息处理部503是用于农业辅助装置30与外部的终端进行通信的机构、或者是用于基于预先保持在信息处理部503中的程序来对主体部502等进行操作指示的机构。信息处理部503可以是具备处理器的计算机,也可以是微机(微型计算机)。
行驶部504是用于使农业辅助装置30在农场内移动的机构。具体地说,例如,行驶部504被设置于农业辅助装置30的下表面,可以是用于在地面上行驶的车轮,也可以是能够在导轨上移动的车轮。此外,行驶部504还可以通过下述所示的机构来使农业辅助装置30移动。
·具备磁传感器、并通过探测铺设于农场的路面的磁体来使农业辅助装置30行驶的机构
·具备线传感器、并通过探测在农场中绘制的线来使农业辅助装置30行驶的机构
除此以外,行驶部504也可以具备在汽车等的自动驾驶中使用的任何机构。
图7是示出农业辅助装置30的主体部502的详细结构的图。
如图7所示,农业辅助装置30具有主体部502、配置于主体部502的臂701、设置于臂前端部的操作机构302、驱动机构751以及配件752。
操作机构302可以搭载于臂701的前端部。拍摄机构350(未图示)除了搭载于操作机构302(也就是臂701的前端)以外,也可以搭载于臂701的其它位置。
在某个局面中,臂701也可以具备用于拍摄受粉的瞬间的受粉拍摄部(未图示)、以及基于进行拍摄所得到的受粉的瞬间的图像来进行收获量预测的收获量预测部(未图示)。除此以外,农业辅助装置30也可以将所预测出的收获量预测呈现给用户。由此,管理农场的用户能够基于受粉的瞬间的信息和收获量预测,来适当地判定是否完成了受粉。
另外,在某个局面中,农业辅助装置30也可以在收获量预测的结果是收获量比过去的收获量预测少的情况下,再次执行受粉操作。
由此,管理农场的用户能够在不存在受粉不足的情况下稳定地收获果实等。
操作机构302如图7所示那样设置于能够移动的臂701的前端部,操作机构302与植物的花、果实、叶等接触来进行规定的操作。操作机构302也可以根据其操作的种类而在前端部具有不同的机构。例如,在进行植物的受粉的操作的情况下,也可以在用于与植物的花接触的前端部具有纤维状的构件。另外,在进行果实的收获、摘叶等作业的情况下,也可以在前端具有用于修剪并收获果实的臂等。操作机构302通过在该前端具有的各种机构来对植物进行规定的操作。下面,呈现进行受粉操作时的动作。
例如,操作机构302具有驱动机构751和配件752。操作机构302按照控制部304的控制,针对应进行受粉的操作的植物的规定部位(例如,花的雌蕊)使驱动机构751驱动来使配件752与该规定部位接触。控制部304基于已学习模型和从拍摄机构350获取到的图像,来输出图像中的雌蕊的位置和该雌蕊的法向矢量。操作机构302按照控制部304输出的法向矢量的信息,来使驱动机构751在三维方向上驱动,并进行控制使得配件752垂直于雌蕊地(也就是说,对雌蕊从正前方)接触该雌蕊,使花粉全面且均匀地附着于雌蕊。另外,还能够使操作机构302一边与花的蕊接触一边在上下方向和左右方向上运动。
<2动作>
下面,对构成系统1的农业辅助装置30基于获取到的植物的图像和已学习模型来执行规定的操作的一系列的处理进行说明。
图8是表示农业辅助装置30基于获取到的植物的图像和已学习模型来执行规定的操作的一系列的处理的流程图。
在步骤S811中,终端装置10的控制部180受理来自管理农场的用户的操作输入。具体地说,例如,控制部180从管理农场的用户处受理用于农场中的规定的操作(受粉作业、果实的收获作业等)的操作输入。此时,控制部180既可以向农业辅助装置30发送从用户处输入的操作内容,也可以向农业辅助装置30发送预先被管理农场的用户设定的操作的信息。
在步骤S801中,农业辅助装置30的控制部304获取作为判定对象的植物的图像。具体地说,例如,农业辅助装置30通过设置于装置的下表面的导轨而移动到作为对象的植物前,通过拍摄机构350来拍摄植物的图像。控制部304也可以向服务器20发送所获取到的图像。关于拍摄方法,例如,具体地说,也可以是,拍摄机构350一边自动地判别花等来对该部位进行对焦并拍摄,一边通过例如红外线传感器或深度传感器那样的传感器来探测离所拍摄的花等的距离和角度,进而计算从操作机构302到花等的距离和角度。
在步骤S851中,服务器20的控制部203向农业辅助装置30发送第一已学习模型。具体地说,例如,控制部203按照来自农业辅助装置30的指示,向农业辅助装置30发送通过上述的方法进行学习而得到的第一已学习模型。此时,发送的已学习模型不限于第一已学习模型。控制部203也可以基于农业辅助装置30获取到的植物的图像来决定要发送的已学习模型。另外,也可以从管理农场的用户处受理要发送的已学习模型的信息。
在步骤S802中,农业辅助装置30的控制部304从服务器获取第一已学习模型。具体地说,构成控制部304的模型获取部3032响应于图像获取部3031获取植物的图像,来获取各种已学习模型。此时,模型获取部3032也可以在存储部303中保持所获取到的已学习模型,从而省略进行对同一植物的各种操作时的已学习模型的获取处理。另外,模型获取部3032也可以将所获取到的已学习模型临时地保持于非易失性存储器,在每次操作时获取对应的已学习模型。
在步骤S803中,农业辅助装置30的控制部304基于第一已学习模型和植物的图像,来估计规定的参数。具体地说,构成控制部304的参数估计部3033控制基于由图像获取部3031获取到的植物的图像和由模型获取部获取到的已学习模型来估计植物的规定部位的规定的参数的处理。具体地说,规定部位例如包括下述部位。
·植物的花、花瓣
·植物的雌蕊
·植物的雄蕊
·植物的叶
·植物的果实
·植物的茎
另外,规定的参数例如包括下述参数。
·上述的植物的规定部位的朝向
·上述的植物的规定部位的位置关系
此时,参数估计部3033也可以不计算朝上、朝下等参数来作为朝向的参数,而是以三维空间中的法向矢量来计算朝向的参数。三维空间中的法向矢量例如可以是将360°天球模型中的各种朝向以矢量进行显示而得到的。
在步骤S804中,农业辅助装置30的控制部304基于估计出的规定的参数来使操作机构进行规定的操作。具体地说,构成控制部304的操作指示部3034控制使农业辅助装置30的操作机构302执行规定的操作的处理。规定的操作例如包括下述作业。
·受粉(使花粉附着于雌蕊)作业
·收获作业
·摘叶(去除重叠的叶、多余的叶)作业
·果实的剔除作业
·肥料的散布作业
·患病的果实、叶等的剔除作业
通过上述处理,管理农场的用户无论植物的各部位(花、蕊、叶、茎、果实等)处于任何方向、位置关系,都能够适当地进行各种处理(受粉、收获、摘叶等)。因此,能够稳定地栽培品质更高的果实。
在某个局面中,服务器20也可以保持与自花受粉的植物通过异花受粉进行受粉时的果实的品质有关的结果。基于该结果,即使是自花受粉的植物,在进行了异花受粉时能够期待果实的品质的提高的情况下,服务器20也可以将该意思呈现给管理农场的用户。
由此,管理农场的用户能够适当地管理包括品质改良在内的受粉等操作。
<3动作例>
图9~图10是示出在本发明中公开的系统1基于从管理农场的用户处受理的用于农场中的规定的操作的输入来对农业辅助装置的操作机构等进行操作的一系列的处理的动作例等的图。
图9是示出农业辅助装置30所具有的操作机构302对植物的规定部位基于规定的参数来执行规定的操作的动作图。
在图9中,农业辅助装置30根据基于植物的图像和已学习模型而确定出的植物的规定部位的规定的参数来驱动臂701。在图9中,例示出对花的雌蕊执行受粉处理时的动作例。如图9所示,农业辅助装置30基于所确定的参数来使臂701和操作机构302的驱动机构751沿规定的方向运动,进行驱动使得设置在臂701的前端部的操作机构302的配件752与花的雌蕊垂直(正前方)。规定的方向例如由已学习模型输出,作为法向矢量,由下述所示的矢量的组合来决定。
·侧倾(roll)(x轴方向的旋转)
·俯仰(pitch)(y轴方向的旋转)
·横摆(yaw)(z轴方向的旋转)
由此,根据植物的图像(二维)的信息,也能够基于已学习模型来输出三维空间中的方向。农业辅助装置30能够通过将臂701的运动与驱动机构751的运动组合,来使配件752朝向任意的朝向并与植物接触。因此,即使例如从农业辅助装置30方向观察时花的雌蕊等朝向里侧方向,管理农场的用户也能够适当地进行受粉等操作。
在上述中所说明的操作不限于是受粉。即使是对于在农场中产生的操作(摘叶、修剪、果实的剔除等),也可以通过同样的机构来进行。
图10示出农业辅助装置30所具有的操作机构302在检测到植物的病害的倾向时向管理农场的用户显示通知时的画面例。
在图9中,在管理农场的用户所具有的终端装置10的显示器150中显示有拍摄图像1001、病害警告1002以及生长不良警告1003。拍摄图像1001是由农业辅助装置30所具备的拍摄机构350进行拍摄而得到的植物的图像。
病害警告1002表示针对在所拍摄到的植物的图像中出现了病害的倾向的植物显示的警告。具体地说,农业辅助装置30的控制部304基于获取到的植物的图像和上述的第四已学习模型,来估计在该植物中出现的倾向是否为病害的倾向。在估计出的结果是该植物染患有病害的情况下,将病害警告1002呈现给管理农场的用户。在某个局面中,农业辅助装置30也可以在该植物染患有病害的情况下,将病害警告1002呈现给管理农场的用户,并且使操作机构302进行将染患有病害的部位去除的操作。
由此,管理农场的用户能够早期地发现病害,能够防止由病害造成的损失。
生长不良警告1003表示针对在所拍摄到的植物的图像中出现了生长不良的倾向的植物显示的警告。具体地说,农业辅助装置30的控制部304基于获取到的植物的图像和上述的第五已学习模型,来估计在该植物中出现的倾向是否为基于生长不良的倾向。在估计出的结果是该植物生长不良的情况下,将生长不良警告1003呈现给管理农场的用户。在某个局面中,农业辅助装置30也可以在该植物生长不良的情况下,将生长不良警告1003呈现给管理农场的用户,并且使肥料调整部进行对农场的栽培有生长不良的植物的区域的肥料进行调整的操作。
由此,管理农场的用户能够早期地发现因肥料散布的不均等发生的生长不良,能够收获质量均匀的果实。
在某个局面中,农业辅助装置也可以在判定叶的重叠状况而得到的结果中也向管理农场的用户进行同样的通知。
在本公开中的实施方式中,作为农业辅助系统,以服务器20与农业辅助装置30进行信息的通信的形态进行了例示,但是实施方式不限于此。例如,也可以基于农业辅助装置30的存储部中保持的已学习模型,来在没有与服务器20之间进行通信的情况下执行一系列的处理。另外,也可以是,农业辅助装置30的控制部具有生成三维模型并学习已学习模型的功能。
<4变形例>
对本实施方式的变形例进行说明。即,也可以采用如下形态。
(1)一种信息处理装置,该程序既可以被预先安装,也可以之后被安装,还可以将这样的程序存储于外部的非暂态的存储介质,还可以通过云计算来使该程序动作。
(2)一种方法,使计算机作为信息处理装置发挥功能,在该信息处理装置中,该程序既可以被预先安装,也可以之后被安装,还可以将这样的程序存储于外部的非暂态的存储介质,还可以通过云计算来使该程序动作。
<附记>
下面附记在上面的各实施方式中进行了说明的事项。
(附记1)
一种系统1,是具备控制部304以及与植物接触来进行规定的操作的操作机构302的农业辅助系统1,其中,控制部304包括:模型生成部2033,其根据规定的生成条件的组合来生成植物的三维模型;学习部2034,其学习第一已学习模型,该第一已学习模型是通过将植物的图像和三维模型中的规定的参数作为学习数据进行学习而生成的;图像获取部3041,其获取作为判定对象的植物的图像;模型获取部3042,其获取第一已学习模型;参数估计部3043,其基于第一已学习模型和作为判定对象的植物的图像,来估计该作为判定对象的植物的规定部位的规定的参数;以及操作指示部3044,其基于估计出的规定的参数,来使操作机构302进行规定的操作。
(附记2)
根据附记1所记载的农业辅助系统1,其中,规定的参数是从包括以下参数的组中选择出的至少一者:三维空间中的植物的规定部位的朝向以及植物的规定部位的位置关系。
(附记3)
根据附记1或2所记载的农业辅助系统1,其中,规定的生成条件是从包括以下要素的组中选择出的至少一者:三维模型的大小、三维模型中的花瓣的数量、三维模型的色彩、三维模型的形状、生成三维模型的空间的背景、生成三维模型的空间中的照明的位置以及三维模型的朝向。
(附记4)
根据附记1至3中的任一项所记载的农业辅助系统1,其中,作为判定对象的植物的规定部位是从包括以下位置的组中选择出的至少一者:花的雌蕊的位置、花的雄蕊的位置、果实的位置以及叶的位置。
(附记5)
根据附记1至4中的任一项所记载的农业辅助系统1,其中,规定的操作是从包括以下操作的组中选择出的至少一者:花的受粉操作、果实的收获操作、摘叶操作以及果实的剔除操作。
(附记6)
根据附记1至5中的任一项所记载的农业辅助系统1,其中,还包括拍摄机构350,该拍摄机构350拍摄植物的图像。
(附记7)
根据附记1至6中的任一项所记载的农业辅助系统1,其中,模型获取部3032获取第二已学习模型,该第二已学习模型是对农场中的通风或日照中的至少任一者、以及收获时期的果实的收获量进行学习而得到的。
(附记8)
根据附记7所记载的农业辅助系统1,其中,控制部304还包括位置关系估计部,该位置关系估计部基于由第二已学习模型输出的收获量预测,来估计最佳的包括叶、花以及果实的组中的任一者的位置关系,操作指示部3044基于由位置关系估计部估计出的最佳的包括叶、花以及果实的组中的任一者的位置关系,来使操作机构302进行规定的操作。
(附记9)
根据附记6至8中的任一项所记载的农业辅助系统1,其中,控制部304还包括:受粉拍摄部,其使拍摄机构350拍摄受粉的瞬间;收获量预测部,其基于进行拍摄而得到的受粉的瞬间的图像,来进行收获量预测;以及输出部,其将进行预测而得到的收获量预测呈现给用户。
(附记10)
根据附记1至9中的任一项所记载的农业辅助系统1,还包括:重量传感器,其测定果实的重量;以及糖度传感器,其测定果实的糖度,模型获取部3032获取将果实的图像、果实的重量、果实的糖度以及果实的品质进行关联而得到的第三已学习模型,输出部基于果实的图像、重量、糖度以及所述第三已学习模型来确定果实的品质,并输出果实的品质。
(附记11)
根据附记1至10中的任一项所记载的农业辅助系统1,其中,模型获取部3032获取将植物的图像与植物的病害图像进行关联而得到的第四已学习模型,输出部当将植物的图像作为输入受理时,基于第四已学习模型输出植物是否染患有病害,在输出了植物染患有病害的情况下,操作指示部3044使操作机构302进行将染患有病害的部位去除的操作。
(附记12)
根据附记1至11中的任一项所记载的农业辅助系统1,其中,控制部304还包括肥料调整部,模型获取部3032获取将植物的图像与植物的营养状况进行关联而得到的第五已学习模型,输出部当将植物的图像作为输入受理时,基于第五已学习模型判定并输出植物的营养状况的过剩或不足,肥料调整部基于植物的营养状况,来调整对农场散布的肥料。
(附记13)
一种农业辅助装置30,具备控制部304以及与植物接触来进行规定的操作的操作机构302,其中,控制部304包括:模型生成部2033,其根据规定的生成条件的组合来生成植物的三维模型;学习部2034,其学习第一已学习模型,该第一已学习模型是通过将植物的图像和三维模型中的规定的参数作为学习数据进行学习而生成的;图像获取部3041,其获取作为判定对象的植物的图像;模型获取部3042,其获取第一已学习模型;参数估计部3043,其基于第一已学习模型和作为判定对象的植物的图像,来估计该作为判定对象的植物的规定部位的规定的参数;以及操作指示部3044,其基于估计出的规定的参数,来使操作机构302进行规定的操作。
(附记14)
一种农业辅助方法,使用了控制部304以及与植物接触来进行规定的操作的操作机构302,其中,控制部304执行以下步骤:模型生成步骤,根据规定的生成条件的组合来生成植物的三维模型;学习步骤,学习第一已学习模型,该第一已学习模型是通过将植物的图像和三维模型中的规定的参数作为学习数据进行学习而生成的;图像获取步骤(S801),获取作为判定对象的植物的图像;模型获取步骤(S802),获取第一已学习模型;参数估计步骤(S803),基于第一已学习模型和作为判定对象的植物的图像,来估计该作为判定对象的植物的规定部位的规定的参数;以及操作指示步骤(S804),基于估计出的规定的参数,来使操作机构302进行规定的操作。
(附记15)
一种程序,用于使计算机20执行农业辅助,在该农业辅助中使用了控制部304以及与植物接触来进行规定的操作的操作机构302,程序使控制部304执行以下步骤:模型生成步骤,根据规定的生成条件的组合来生成植物的三维模型;学习步骤,学习第一已学习模型,该第一已学习模型是通过将植物的图像和三维模型中的规定的参数作为学习数据进行学习而生成的;图像获取步骤(S801),获取作为判定对象的植物的图像;模型获取步骤(S802),获取第一已学习模型;参数估计步骤(S803),基于第一已学习模型和作为判定对象的植物的图像,来估计该作为判定对象的植物的规定部位的规定的参数;以及操作指示步骤(S804),基于估计出的规定的参数,来使操作机构302进行规定的操作。
附图标记说明
1:系统;10:终端装置;12:通信接口;13:输入装置;14:输出装置;15:存储器;16:存储部;19:处理器;20:服务器;22:通信接口;23:输入输出接口;25:存储器;26:存储单元;29:处理器;30:农业辅助装置;32:通信接口;33:输入输出接口;35:存储器;36:存储部;39:处理器;80:网络;170:存储部;180:控制部;1801:输入操作受理部;1802:发送接收部;1803:数据处理部;1804:告知控制部;130:操作受理部;1301:键盘;1302:鼠标;140:声音处理部;141:麦克风;142:扬声器;150:显示器;160:位置信息传感器;202:存储部;2021:已学习模型数据库;203:控制部;2031:接收控制部;2032:发送控制部;2033:模型生成部;3034:学习部;302:操作机构;303:存储部;304:控制部;3041:图像获取部;3042:模型获取部;3043:参数估计部;3044:操作指示部;350:拍摄机构。
Claims (15)
1.一种系统,具备控制部以及与植物接触来进行规定的操作的操作机构,
其中,所述控制部包括:
模型生成部,其根据规定的生成条件的组合来生成植物的三维模型;
学习部,其学习第一已学习模型,所述第一已学习模型是通过将植物的图像和所述三维模型中的规定的参数作为学习数据进行学习而生成的;
图像获取部,其获取作为判定对象的植物的图像;
模型获取部,其获取所述第一已学习模型;
参数估计部,其基于所述第一已学习模型和作为判定对象的植物的图像,来估计该作为判定对象的植物的所述规定部位的所述规定的参数;以及
操作指示部,其基于进行所述估计而得到的规定的参数,来使所述操作机构进行规定的操作。
2.根据权利要求1所述的农业辅助系统,其中,
所述规定的参数是从包括以下参数的组中选择出的至少一者:用于生成所述三维模型的三维空间中的所述植物的所述规定部位的朝向以及所述植物的所述规定部位的位置关系。
3.根据权利要求1或2所述的农业辅助系统,其中,
所述规定的生成条件是从包括以下要素的组中选择出的至少一者:所述三维模型的大小、所述三维模型中的花瓣的数量、所述三维模型的色彩、所述三维模型的形状、生成所述三维模型的空间的背景、生成所述三维模型的空间中的照明的位置以及所述三维模型的朝向。
4.根据权利要求1至3中的任一项所述的农业辅助系统,其中,
所述作为判定对象的植物的所述规定部位是从包括以下位置的组中选择出的至少一者:花的雌蕊的位置、花的雄蕊的位置、果实的位置以及叶的位置。
5.根据权利要求1至4中的任一项所述的农业辅助系统,其中,
所述规定的操作是从包括以下操作的组中选择出的至少一者:花的受粉操作、果实的收获操作、摘叶操作以及果实的剔除操作。
6.根据权利要求1至5中的任一项所述的农业辅助系统,其中,
还包括拍摄机构,所述拍摄机构拍摄所述植物的图像。
7.根据权利要求1至6中的任一项所述的农业辅助系统,其中,
所述模型获取部获取第二已学习模型,所述第二已学习模型是对农场中的通风和日照中的至少任一者、以及收获时期的果实的收获量进行学习而得到的。
8.根据权利要求7所述的农业辅助系统,其中,
所述控制部还包括位置关系估计部,所述位置关系估计部基于由所述第二已学习模型输出的收获量预测,来估计最佳的包括叶、花以及果实的组中的任一者的位置关系,
所述操作指示部基于由所述位置关系估计部估计出的最佳的包括叶、花以及果实的组中的任一者的位置关系,来使所述操作机构进行所述规定的操作。
9.根据权利要求6所述的农业辅助系统,其中,
所述控制部还包括:
受粉拍摄部,其使所述拍摄机构拍摄受粉的瞬间;
收获量预测部,其基于进行所述拍摄而得到的受粉的瞬间的图像,来进行收获量预测;以及
输出部,其将进行所述预测而得到的收获量预测呈现给用户。
10.根据权利要求9所述的农业辅助系统,还包括:
重量传感器,其测定果实的重量;以及
糖度传感器,其测定果实的糖度,
所述模型获取部获取将果实的图像、所述果实的重量、所述果实的糖度以及所述果实的品质进行关联而得到的第三已学习模型,
所述输出部基于所述果实的图像、重量、糖度以及所述第三已学习模型来确定所述果实的品质,并输出所述果实的品质。
11.根据权利要求9或10所述的农业辅助系统,其中,
所述模型获取部获取将所述植物的图像与所述植物的病害图像进行关联而得到的第四已学习模型,
所述输出部当将所述植物的图像作为输入受理时,基于所述第四已学习模型输出所述植物是否染患有病害,
在输出了所述植物染患有病害的情况下,所述操作指示部使所述操作机构进行将染患有所述病害的部位去除的操作。
12.根据权利要求9至11中的任一项所述的农业辅助系统,其中,
所述控制部还包括肥料调整部,
所述模型获取部获取将所述植物的图像与所述植物的营养状况进行关联而得到的第五已学习模型,
所述输出部当将所述植物的图像作为输入受理时,基于所述第五已学习模型判定并输出所述植物的营养状况的过剩或不足,
所述肥料调整部基于所述植物的营养状况,来调整对农场散布的肥料。
13.一种农业辅助装置,具备控制部以及与植物接触来进行规定的操作的操作机构,
其中,所述控制部包括:
模型生成部,其根据规定的生成条件的组合来生成植物的三维模型;
学习部,其学习第一已学习模型,所述第一已学习模型是通过将植物的图像和所述三维模型中的规定的参数作为学习数据进行学习而生成的;
图像获取部,其获取作为判定对象的植物的图像;
模型获取部,其获取所述第一已学习模型;
参数估计部,其基于所述第一已学习模型和作为判定对象的植物的图像,来估计该作为判定对象的植物的所述规定部位的所述规定的参数;以及
操作指示部,其基于进行所述估计而得到的规定的参数,来使所述操作机构进行规定的操作。
14.一种农业辅助方法,使用了控制部以及与植物接触来进行规定的操作的操作机构,在所述农业辅助方法中,所述控制部执行以下步骤:
模型生成步骤,根据规定的生成条件的组合来生成植物的三维模型;
学习步骤,学习第一已学习模型,所述第一已学习模型是通过将植物的图像和所述三维模型中的规定的参数作为学习数据进行学习而生成的;
图像获取步骤,获取作为判定对象的植物的图像;
模型获取步骤,获取所述第一已学习模型;
参数估计步骤,基于所述第一已学习模型和作为判定对象的植物的图像,来估计该作为判定对象的植物的所述规定部位的所述规定的参数;以及
操作指示步骤,基于进行所述估计而得到的规定的参数,来使所述操作机构进行规定的操作。
15.一种程序,用于使计算机执行农业辅助,在所述农业辅助中使用了控制部以及与植物接触来进行规定的操作的操作机构,所述程序使所述控制部执行以下步骤:
模型生成步骤,根据规定的生成条件的组合来生成植物的三维模型;
学习步骤,学习第一已学习模型,所述第一已学习模型是通过将植物的图像和所述三维模型中的规定的参数作为学习数据进行学习而生成的;
图像获取步骤,获取作为判定对象的植物的图像;
模型获取步骤,获取所述第一已学习模型;
参数估计步骤,基于所述第一已学习模型和作为判定对象的植物的图像,来估计该作为判定对象的植物的所述规定部位的所述规定的参数;以及
操作指示步骤,基于进行所述估计而得到的规定的参数,来使所述操作机构进行规定的操作。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021-164227 | 2021-10-05 | ||
JP2021164227A JP7090953B1 (ja) | 2021-10-05 | 2021-10-05 | 農業支援システム、農業支援装置、農業支援方法及び農業支援プログラム |
PCT/JP2022/009643 WO2023058259A1 (ja) | 2021-10-05 | 2022-03-07 | 農業支援システム、農業支援装置、農業支援方法及び農業支援プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
CN118139522A true CN118139522A (zh) | 2024-06-04 |
Family
ID=82163644
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202280064588.XA Pending CN118139522A (zh) | 2021-10-05 | 2022-03-07 | 农业辅助系统、农业辅助装置、农业辅助方法以及农业辅助程序 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20240212120A1 (zh) |
EP (1) | EP4413853A1 (zh) |
JP (2) | JP7090953B1 (zh) |
CN (1) | CN118139522A (zh) |
WO (1) | WO2023058259A1 (zh) |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS59160199A (ja) * | 1983-03-02 | 1984-09-10 | 松下電器産業株式会社 | 音声認識装置 |
JP6544453B1 (ja) * | 2018-03-16 | 2019-07-17 | 日本電気株式会社 | 栽培作物選定支援装置、栽培作物選定支援方法、及びプログラム |
JP6764511B1 (ja) | 2019-09-17 | 2020-09-30 | 一般財団法人未来科学研究所 | ドローン制御装置およびこれを用いた花粉・着果剤自動付着システム、ドローン制御プログラム、ドローン制御方法 |
JP6749720B1 (ja) * | 2020-05-26 | 2020-09-02 | 株式会社ディースピリット | 農作物収穫システム、及び農作物収穫装置 |
-
2021
- 2021-10-05 JP JP2021164227A patent/JP7090953B1/ja active Active
-
2022
- 2022-03-07 WO PCT/JP2022/009643 patent/WO2023058259A1/ja active Application Filing
- 2022-03-07 EP EP22878132.4A patent/EP4413853A1/en active Pending
- 2022-03-07 CN CN202280064588.XA patent/CN118139522A/zh active Pending
- 2022-06-08 JP JP2022092664A patent/JP2023055190A/ja active Pending
-
2024
- 2024-03-07 US US18/598,403 patent/US20240212120A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
JP2023055190A (ja) | 2023-04-17 |
EP4413853A1 (en) | 2024-08-14 |
US20240212120A1 (en) | 2024-06-27 |
JP2023055100A (ja) | 2023-04-17 |
JP7090953B1 (ja) | 2022-06-27 |
WO2023058259A1 (ja) | 2023-04-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10942528B2 (en) | Return path configuration for remote controlled aerial vehicle | |
WO2017033761A1 (ja) | 圃場管理システム、圃場管理方法、および農作業機システム | |
US10953985B2 (en) | System for measuring three-dimensional environment data, particularly for plant care, as well as sensor module | |
CN109642795A (zh) | 根据视频和地面内传感器数据生成实时传感器地图 | |
CN108496138B (zh) | 一种跟踪方法及装置 | |
DE102018132428A1 (de) | Photomosaische Bodenkartierung | |
González-Esquiva et al. | Development of a visual monitoring system for water balance estimation of horticultural crops using low cost cameras | |
JP7179382B2 (ja) | 田畑植物の表現型情報収集システム | |
CN103179386A (zh) | 一种基于矢量电子地图的监控方法和监控装置 | |
US20230113061A1 (en) | System and method for rf based robot localization | |
KR20210105345A (ko) | 측량 및 매핑 방법, 장치 및 기기 | |
CN118077561A (zh) | 喷灌设备的控制方法、装置、电子设备及存储介质 | |
CN118139522A (zh) | 农业辅助系统、农业辅助装置、农业辅助方法以及农业辅助程序 | |
CN114727028B (zh) | 图像曝光方法及装置、无人机 | |
CN108536156A (zh) | 目标跟踪系统和目标跟踪方法 | |
CN106020219B (zh) | 一种飞行器的控制方法和装置 | |
JP6962601B2 (ja) | 水田のリアルタイム管理システム、薬剤散布用水上エアクッション艇、操縦端末、リアルタイム管理方法、プログラム、および記録媒体 | |
CN108712604B (zh) | 一种全景拍摄方法及移动终端 | |
JP2011193843A (ja) | 農作物情報管理システム | |
WO2017033762A1 (ja) | 圃場管理システム、圃場管理方法、および農作業機システム | |
EP3896627A1 (en) | Automated work system | |
JP7478066B2 (ja) | 作業管理システム、作業管理方法及び作業管理プログラム | |
JP6571832B1 (ja) | 収容システム | |
CN207264197U (zh) | 一种甘蔗种植机的路线规划系统 | |
WO2017033763A1 (ja) | 圃場管理システム、圃場管理方法、および農作業機システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |