监测作物的系统和方法
技术领域
本发明的实施例涉及用于监测收割机和作物的系统和方法。更具体地说,一些实施例涉及,用于在收割阶段监测与一个或更多个已收割项目(如根茎类蔬菜)相关的一个或更多个参数的系统和方法。
背景技术
在收割前评估某些作物的相关参数是困难的。尤其是像土豆这样的根茎类蔬菜。特别是,在根茎类蔬菜收割之前,很难确定这些根茎类蔬菜的大小等参数,因为它们在地下。
为了确定这些参数,农民通常从田地的一个或更多个样本区收割根茎类蔬菜,分析所述或每个收割的样本以确定所述或每个样本的参数,然后推断这些结果,以估计更大区域(例如从中采集所述或每个样本的田地)的根茎类蔬菜的参数。
然而,这个过程容易出错。特别是,所述或每个样本可能代表不了所述较大区域。
通常情况下,根茎类蔬菜在处理待售时,会进行评估(例如通过使用筛子),以确定一个或更多个参数,如大小。预期参数和实际参数之间的不匹配可能会对根茎类蔬菜的销售、管理、处理和储存产生影响。
更好地确定与根茎类蔬菜相关的一个或更多个参数可以使更多的作物得以使用。
在收割过程的早期确定一个或更多个参数可以实现更高效的处理和资产管理。
从已知位置确定根茎类蔬菜的一个或更多个参数,可以更详细地分析该已知位置的生长条件以及这些生长条件如何影响一个或更多个参数。这反过来又可以控制生长条件,以改善一个或更多个参数中的一个或更多个。
除根茎类蔬菜外,其他可收割项目也会出现同样或类似的问题。
因此,实施例试图减轻与现有技术相关的一个或多个问题。
发明内容
本发明的一个方面提供了一种收割机监测系统,该系统配置为确定与一个或更多个已收割项目相关的一个或更多个参数,该系统包括:相机模块,具有视场并配置为生成与一个或更多个已收割项目相关的图像数据;安装支架,配置为将相机模块固定到收割机上,使收割机的传送带位于相机模块的视场内;位置子系统,配置为确定和输出表示收割机监测系统地理位置的位置数据;以及处理单元,配置为接收图像数据和位置数据,确定与一个或更多个已收割项目相关的一个或更多个参数,并将与位置数据相关的一个或更多个参数记录在计算机可读介质上。
相机模块可配置为确定一个或更多个已收割项目的深度数据。
深度数据可以是深度图。
相机模块可以包括立体相机。
相机模块可以包括可见光相机、红外发射器和红外接收器,深度数据是通过分析由红外发射器发射并由红外接收器接收的红外光的畸变图形来确定的。
相机模块可以包括护罩,该护罩配置为保护相机模块的相机免受环境光影响。
护罩可包括位于护罩的一部分的向下和向外延伸的裙板,该部分远离相机模块的相机。
收割机监测系统还可以包括一个保护壳,其中相机模块被安置在该保护壳中,其中该保护壳可以配置为保护相机模块免受液体、污垢和振动中的一种或多种的影响。
安装支架可以是可调整支架,配置为允许调整从传送带到相机模块之间的高度。
安装支架可以包括至少一个安装梁构件,安装梁构件具有一个或更多个与之相关的安装钩,一个或更多个安装钩配置为接合收割机的至少一部分。
一个或更多个安装钩可包括至少一个可伸缩地固定到至少一个安装梁构件上的安装钩。
位置子系统可以包括基于卫星的位置系统模块,该位置系统模块配置为接收来自基于卫星的位置系统的信号。
处理单元可以配置为对图像数据进行深度过滤,以排除或删除图像数据中距离相机模块大于最大距离的部分。
处理单元可以配置为对图像数据进行深度过滤,以排除或删除图像数据中距离相机模块小于最小距离的部分。
处理单元可以配置为将图像数据分割成至少一部分,该至少一部分表示一个或更多个已收割项目之一。
一个或更多个参数可能包含大小信息。
大小信息可以包括一个或更多个已收割项目的尺寸和一个或更多个已收割项目的重量中的一个或两个。
处理单元可以配置为基于大小信息对一个或更多个已收割项目进行分类。
处理单元可配置为,通过基于大小信息确定一个或更多个已收割项目是否将穿过虚拟筛的裁剪孔来对一个或更多个已收割项目进行分类。
收割机监测系统还可以包括存储子系统,该存储子系统可以配置为存储与位置数据相关的一个或更多个参数。
收割机监测系统还可以包括通信子系统,该通信子系统可以配置为将与位置数据相关的一个或更多个参数发往远程管理系统。
收割机监测系统还可以包括电力子系统,该电力子系统可以包括一个或更多个电池,一个或更多个电池用于补偿由收割机的电气系统向监测系统输送的电能的变化,或向监测系统提供电能,向监测系统提供的该电能的电压高于收割机的电气系统输送的电能的电压。
位置信息可以指示一个或更多个已收割项目的收割位置。
另一个方面提供了一种收割机,包括如上所述的收割机监测系统。
收割机监测系统可由收割机承载。
另一方面提供一种监测方法,以确定与一个或更多个已收割项目相关的一个或更多个参数,该方法包括:使用具有视场的相机模块生成与一个或更多个已收割项目相关的图像数据,通过安装支架将相机模块固定到收割机上,使得收割机的传送带位于相机模块的视场内;使用位置子系统确定并输出表示收割机监测系统地理位置的位置数据;在处理单元接收图像数据和位置数据;根据接收到的图像数据在处理单元确定与一个或更多个已收割项目相关的一个或更多个参数;以及使用处理单元,将与位置数据相关的所述一个或更多个参数记录在计算机可读介质上。
监测方法还可以包括:生成地图形式的图形表示,该地图根据位置数据指示在位置处的一个或更多个参数。
另一方面提供了一种计算机可读介质,其上存储有指令,当由处理单元执行时,该指令会使上述方法得以执行。
附图说明
本发明的实施例仅以示例的方式,参考附图进行描述,其中:
图1示出了根据一些实施例的收割机;
图2示出了根据一些实施例的收割机;
图3示出了根据一些实施例的收割机;
图4示出了根据一些实施例的护罩;
图5示出了根据一些实施例的护罩和传送带的一部分;
图6示出了根据一些实施例的监测系统的示意图;
图7示出了根据一些实施例的安装支架的一部分;
图8示出了根据一些实施例的安装支架的一部分;
图9和图10示出了根据一些实施例的相机模块;
图11和12示出了根据一些实施例的壳体和壳体安装支架;
图13示出了根据一些实施例的监测和管理系统的示意图;
图14示出了根据一些实施例的虚拟筛;
图15示出了根据一些实施例的“热图”表示;
图16示出了根据一些实施例的相机模块的示意图;
图17示出了根据一些实施例的通信子系统的示意图;
图18示出了根据一些实施例的存储子系统的示意图;
图19示出了根据一些实施例的处理单元的示意图;
图20示出了根据一些实施例的输出单元的示意图;
图21示出了根据一些实施例的电力子系统的示意图;
图22示出了根据一些实施例的位置子系统的示意图;
图23示出了根据一些实施例的远程管理系统的示意图;
图24示出根据一些实施例的图像和深度图的图形表示;
图25示出了根据一些实施例的收割机的示意图;
图26示出了根据一些实施例的拖拉机的示意图;
图27示出了根据一些实施例的收割机和拖拉机的示意图;
图28示出了根据一些实施例的光度立体技术的原理。
具体实施方式
实施例可包括监测系统1,配置为确定与一个或更多个已收割项目21相关的一个或更多个参数。
监测系统1(例如,参见图6)包括成像子系统11,其配置为确定一个或更多个参数。监测系统1可以包括以下中的一个或更多个:存储子系统12、通信子系统13、位置子系统14和电力子系统15。
位置子系统14可配置为确定监测系统1(或其部件)的当前位置。例如,这个位置可能是经度和纬度。在一些实施例中,该位置可以是相对于固定地理位置的位置。
存储子系统12可配置为存储一个或更多个参数和/或当前位置(如有提供,由位置子系统14确定)。存储子系统12还可配置为存储其他信息,从本说明书中可以明显看出。
通信子系统13可配置为将一个或更多个参数和/或当前位置(如有提供,由位置子系统14确定)传输到远程管理系统3。
电力子系统15可配置为向监测系统1的一个或更多个(或所有)组件提供电能。
监测系统1可配置为由收割机100承载。收割机100可配置为从一个或更多个可收割项目22收割一个或更多个已收割项目21。因此,收割机100可以配置为相对于一个或更多个可收割项目22移动,以便将这些一个或更多个项目22收割为一个或更多个已收割项目21。应理解,可收割项目22是等待收割的项目,可收割项目22一旦被收割机100收割,将成为已收割项目21。一个或更多个可收割项目22可排列在田地200中,以及一个或更多个可收割项目22是作物。
监测系统1和远程管理系统3(所提供的)可统称为监测管理系统4。
收割机100可以有多种不同的形式。例如,收割机100可以是自行式收割机100(例如,参见图3),也可以配置为由另一车辆(例如拖拉机300)牵引,例如,参见图1和图2。
因此,收割机100可以包括多个地面接合轮101,其配置为将收割机的主体102支承在地面上。收割机100可包括发动机103,在自行式收割机100的情况下,该发动机103配置为驱动一个或更多个地面接合轮101旋转和/或配置为驱动收割机100的一个或更多个其他部件的操作(对于牵引式收割机100也可能是这种情况)。
在一些实施例中,收割机100是牵引式收割机100(如图1和图2所示),并从牵引车(如从拖拉机301)接收电能和/或机械能。在一些实施例中,牵引车(例如拖拉机300)包括发动机301和电气系统302(例如,参见图26),它们可以分别机械且电耦合到收割机100。
收割机100可以包括驾驶室104,驾驶室104可以是主体102的一部分,操作员可以从驾驶室104控制收割机100的操作,包括例如,转向和控制发动机103的操作。对收割机100的驾驶室104的引用可以是对牵引式收割机100的驾驶室或控制面板的引用,也可以是对自行式收割机100的驾驶室104的引用,并且在包括此类车辆的实施例中被解释为包含牵引车(例如拖拉机300)的驾驶室303。
收割机100可包括电气系统105(例如,参见图25),其配置为向收割机100的一个或更多个部件提供电能(以例如驱动一个或更多个电动机的运行)。电气系统105可包括一个或更多个用于存储电能的电池和/或耦合到发动机103用于发电的交流发电机或其他发电机。在包括牵引车(例如拖拉机300)的实施例中,收割机100的电气系统105可与拖拉机300(或其他车辆)的电气系统302电耦合,以使收割机100至少部分地由拖拉机300(或其他车辆)提供动力,例如,参见图27。
收割机100配置用于收割一个或更多个可收割项目22。在一些实施例中,一个或更多个可收割项目22是埋在地下的根茎类蔬菜。一个或更多个可收割项目22可包括,例如土豆或胡萝卜。
因此,收割机100可包括锄铲106,其配置为将一个或更多个可收割项目22从土地(即从土壤)挖出,并将一个或更多个项目22(即现在的一个或更多个已收割项目21)传送到集装箱107(例如,参见图3)。
收割机100可包括传送带108,以将一个或更多个已收割项目21从锄铲106朝集装箱107传送。
传送带108可以是一系列间隔的条板或条带的形式,条板或条带的方向垂直于传送带108的移动方向,使得土壤和其他碎石土可以在条板或条带之间通过。
收割机100可包括采摘台109(例如,参见图1),该采摘台109可能是传送带108的一部分(即,可能是传送带108的一个基本平坦的部分,可供一个或更多个采摘者使用)。所述或每个已收割项目21由收割机传送经过采摘台109,一个或更多个采摘者可以手动清除石块和其他大的碎石土。采摘台109相对于一个或更多个已收割项目21经过收割机100的移动,通常位于集装箱107的上游(锄铲106位于采摘台109和传送带108的下游)。如图1中的示例所示,采摘台109可以包括顶棚。尽管图2和图3的收割机100中未描述采摘台107,但它们可能包括在此类收割机100中(带或不带顶棚)。
一个或更多个已收割项目21,可被从采摘台109和/或传送带108运输到集装箱107。该运输可能包括使用一个或更多个其他传送带,例如传送带110。
在一些实施例中,集装箱107由第二车辆(未显示)承载,第二车辆在收割机100旁边行驶。第二车辆可以是自行式车辆,例如牵引拖车的拖拉机,拖车上支撑着集装箱107。因此,第二车辆可能包括通常与拖拉机300相同或相似的拖拉机。
在一些实施例中,集装箱107由收割机100承载。
应理解,收割机100的形式可变化,但会包括一个部件,一个或更多个已收割项目21相对于该部件通过(或移动),在他们的移动过程中,由例如输送机108、采摘台109或一个或更多个其他输送机110驱动。
监测系统1可由收割机100承载或完全由收割机100承载。
成像子系统11可包括相机模块111(例如参见图9、10和16)和相机模块底座(其中部分示例如图4、5、7和8所示)。相机模块111配置为获取一个或更多个已收割项目21的一个或更多个图像,相机模块底座配置为,相对于收割机100的至少一个部件将相机模块111固定。
相机模块底座可配置为,相对于收割机100的部件,将相机模块111固定,一个或更多个已收割项目21相对于该部件通过(或移动)。在一些实施例中,相机模块底座可配置为,相对于传送带108、采摘台109或一个或更多个其他传送带110,将相机模块111固定。
相机模块底座配置为将相机模块111固定,使得一个或更多个已收割项目21经过相机模块111的视场。
相机模块底座可配置为将相机模块111固定,使得一个或更多个已收割项目21在相机模块111下方通过,因此,相机模块底座可将相机模块111固定在传送带108、采摘台109或一个或更多个其他传送带110的上方。正因如此,在这些实施例中,由传送带108、采摘台109或一个或更多个其他传送带110传送的一个或更多个已收割项目21,在传送时可以停留在传送带108、采摘台109或一个或更多个其他传送带110上。
相机模块底座可包括护罩112(参见图4和图5),该护罩112配置为减少相机模块111的操作部件暴露于的环境光的量—例如,相机模块111的操作部件包括透镜。因此,护罩112可减少眩光(和红外线干扰,见下文)对相机模块111的操作部件的影响。
护罩112包括第一部分112a和第二部分112b,它们耦合在一起。第一部分112a为近端部分,第二部分112b为远端部分。第一部分112a容纳相机模块111的操作部分,并且可容纳相机模块111的大部分(或整个相机模块111)。相机模块111的操作部分可位于第一部分112a的第一端,第一端通常远离护罩112的第二部分112b。第一部分112a的第一端通常是封闭的,以使光被抑制或基本上被阻止通过第一部分112a的第一端进入由护罩112限定的内部空间。
第一部分112a可具有通常为矩形或方形的横截面,并可通过高度延伸。
第一部分112a可包括承载一个或更多个面板以提供护罩112的第一部分112a的框架结构。例如,框架结构可以由塑料材料或金属形成。一个或更多个面板可通过一个或更多个连接构件(如铆钉或螺栓)固定到框架结构上。
护罩112的第二部分112b可连接到第一部分112a,以使第一部分112a的第二端与第二部分112b的第一端相邻。第二部分112b的第二端可为开口端(通过该开口,光可进入由护罩112限定的内部空间)。
护罩112的第二部分112b可以呈向下(和向外)延伸的裙板形式。第二部分112b的横截面面积可从其第一端向其第二端增加。第二部分112b可具有通常为方形或矩形的横截面。第二部分112b可以由塑料材料或金属形成。第二部分112b可以是自撑的(例如,这样就不需要框架来支撑第二部分112b(除第一部分112a中可能提供的框架外))。
护罩112可包括用于成像子系统11的安装支架113的一个或更多个夹具112c。一个或更多个夹具112c可包括,例如一个或更多个梁112ca,112cb。一个或更多个夹具112c可连接到护罩112的第一部分112a的外面部分。在一些实施例中,一个或更多个夹具112c包括至少一个梁112ca,112cb,该梁112ca,112cb连接到第一部分112a的第一端的外面部分。例如,至少一个梁112ca,112cb可以固定到护罩112的最高部分(例如,到其封闭端)。
一个或更多个夹具112c可包括一个或更多个安装板112cc,安装板112cc位于护罩112的第一部分112a的侧面。所述或每个安装板112cc可配置用于固定到安装支架113和/或作为收割机100的一部分,如本文所述。
安装支架113(图7和图8所示的示例)可以是一些实施例的相机模块底座的一部分。安装支架113配置为将相机模块111和/或护罩112固定(至少部分)在收割机100上。
因此,安装支架113配置为,一方面固定在收割机100的至少一部分上,另一方面固定在相机模块111和/或护罩112上。
安装支架113可配置为固定在单个收割机100上的多个不同位置和/或多种不同类型的收割机100上。正因如此,安装支架113可以是可调整安装支架113。这种可调整性可包括高度调整,即改变相机模块111和/或护罩112相对于安装支架113和/或传送带108、采摘台109或一个或更多个其他传送带110的部件的相对位置。
安装支架113可包括一个或更多个安装梁构件113a(也可包括两个这样的安装梁构件113a,他们可以以基本平行的配置排列)。所述或每个安装梁构件113a可以是管状构件。
所述或每个安装梁构件113a可包括两个相对的端部,每个端部承载各自的安装钩113b。
所述或每个安装梁构件113a的至少一个各自的安装钩113b可伸缩地安装到其安装梁构件113a上,以使得安装钩113b可相对于安装梁构件113a,在延伸和回缩配置之间移动。可提供用于所述或每个伸缩式安装的锁紧构件113c,锁紧构件113c配置为将安装钩113b锁定在延伸和回缩配置之间的位置。锁紧构件113c可包括螺纹栓,该螺纹栓配置为由安装梁构件113a限定的相应螺纹孔接收。在解锁配置中,锁紧构件113c不接合安装钩113b,以抑制安装钩113b的伸缩移动,在锁定配置中,锁紧构件113c延伸穿过安装梁构件113a的一部分,接合安装钩113b,以抑制或基本上阻止安装钩113b的伸缩移动。
每个安装钩113b可包括第一部分,该第一部分被配置为与相关安装梁构件113a接合(例如由相关安装梁构件113a接收)。每个安装钩113b可包括第二部分,该第二部分基本上垂直于安装梁构件113a延伸并远离摄像模块111。第一部分可针对安装梁构件113a提供相对于每个安装钩113b的钩部分的垂直偏移。因此,钩部分可由第二部分承载,并且可配置为与收割机100的一部分接合。特别是,该钩部分可配置为与收割机100的梁或其他部件接合。该钩部分可包括锁紧销,其配置为选择性地将梁或收割机100的其他部分困在钩部分内。
安装支架113可包括各自的多个支撑臂113d,支撑臂113d枢转连接到每个安装梁构件113a。在一些实施例中,支撑臂113d还连接到相机模块111和/或护罩112。因此,每个支撑臂113d的第一端可连接到安装梁构件113a的中一个,每个支撑臂113d的第二端可连接到相机模块111和/或防护罩112。在一些实施例中,每个支撑臂113d的第二端可以连接到一个或更多个夹具112c。在一些实施例中,两个支撑臂113d连接到每个梁112ca,112cb,并且这两个支撑臂113d可以连接到同一安装梁构件113a。在一些此类实施例中,两个支撑臂113d中的每一个连接到安装梁构件113a和梁112ca,112cb的相对侧。
支撑臂113d和一个或更多个夹具112C之间的连接可能是枢转连接。
安装支架113可包括一个或更多个调整臂113e,该调整臂113e枢转连接(例如在第一端)到一个或更多个安装梁构件113a中的一个。所述或每个调整臂113e还可连接到支撑臂113d中的一个。因此,一个或更多个调整臂113e可包括沿着其长度的多个连接位置,用于选择性地连接到其配置为连接的相关的支撑臂113d。因此,可以通过利用不同的连接位置来调整支撑臂113d的第二端与相关的安装梁构件113a之间的距离。每个连接位置可包括通过调整臂113e限定的孔,该孔配置为接收螺栓或其他构件,该螺栓或其他构件也配置为通过相关的支撑臂113d限定的孔接收。
在一些实施例中,所述或每个安装梁构件113a可包括各自的多个固定位置。该固定位置可以排列成一个阵列,例如沿着所述或每个安装梁构件113a的长排列。每个固定位置可以是通过安装梁构件113a限定的孔。每个固定位置可以配置为固定支撑臂113d或调整臂113e中的一个。
因此,通过使用调整臂113e并使支撑臂113d相对于相关的安装梁构件113a旋转,可以调整相机模块111的高度,然后将其锁定到位。
安装支架113可用于将相机模块111固定到收割机100上,并相对于收割机100的一部分,定位相机模块111,以使一个或更多个已收割项目21位于相机模块111的视场内。在一些实施例中,安装支架113可与所述或每个安装板112cc组合使用,以将相机模块111固定到收割机100上。
可以使用其他安装系统,并且可以根据收割机100的配置进行定制。
相机模块111可包括立体相机111a(参见图9),该立体相机配置为捕捉其视场的图像。立体相机111a可配置为基本上同时捕捉成对的图像,以提供视差,以便提供深度信息。
在一些实施例中,参见图10,例如,相机模块111可包括配置为捕捉可见光图像的相机111c,并且可包括红外发射器111d和红外接收器111e。红外发射器111d可包括红外激光器,其发射的光输出通过一个或更多个光学元件(例如衍射光栅)定向,以将该发射的光,例如以散斑图的形式分布在相对较宽的区域(例如相机模块111的视场)。红外接收器111e可配置为捕捉红外光谱中相机模块111的视场的图像。通过将发出的红外光图像与由红外接收器111e捕捉的接收到的红外光图像进行比较,可以通过分析红外光的畸变(即畸变图形),例如通过生成视差图来确定深度信息。例如,微软公司在Kinect(RTM)相机中使用了这种技术。
成像子系统11(例如,相机模块111)可包括照明设备111b,其配置为照亮视场(并可照亮护罩112的内部)。
相机模块111和/或照明设备111b(如果单独提供)可配备保护壳,该保护壳配置为保护相机模块111免受液体(例如水)、污垢和振动中一种或多种的影响。保护壳可具有内部填充物,以支撑相机模块111和/或照明设备111b。保护壳可具有至少一个透明部分,以允许相机模块111借此捕捉图像。
成像子系统11可包括处理单元114(例如参见图19),处理单元114配置为接收由相机模块111捕捉的代表一个或更多个图像的信号(相机模块111配置为将此信号输出到处理单元114)。因此,处理单元114与相机模块111通信耦合。在一些实施例中,这种通信耦合是通过无线或有线通信系统进行的。
处理单元114包括处理器114a,其配置为执行一个或更多个指令,该指令可以作为计算机程序存储在处理单元的内存114b上。内存114b可以包括易失性和/或非易失性内存。处理单元114可以是,例如计算机系统,并且可以是笔记本电脑、台式计算机、平板电脑、移动(蜂窝)电话、小型计算机等。
在一些实施例中,上述一个或更多个指令存储在非暂时性计算机可读介质上。
处理单元114可配置为存储图像或图像的一部分,这些图像或图像的一部分由相机模块11捕捉并发往处理单元114,在内存114b中作为图像数据。一个或更多个指令在执行时,可以对本文所述的图像进行一个或更多个处理。
在一些实施例中,监测系统1可包括输出单元115(例如,参见图20)。输出单元115配置为向用户或操作员提供指示监测系统1的操作方面的输出。正因如此,输出单元115可以与处理单元114和/或相机模块111通信耦合,处理单元114和/或相机模块111中每一个都可以配置为控制输出单元115或其部件,以传递关于其操作方面的信息。输出单元115可包括可视输出元件115a,例如灯(其可为发光二极管)或显示屏。输出单元115可包括音频输出元件115b,音频输出元件115b可包括发声器(例如蜂鸣器、铃或扬声器)。输出单元115可提供以下一项或多项的指示:监测系统1通电、监测系统1正在运行、相机模块111正在捕捉图像、监测系统1运行中存在错误、数据正从通信子系统13或存储器子系统12或类似系统传输。
如本文所述,在一些实施例中,成像子系统11可以与存储子系统12通信耦合(例如,参见图18)。特别是,在一些实施例中,处理单元114与存储子系统12通信耦合(例如,这种耦合可以通过有线数据总线进行)。
存储子系统12配置为接收来自成像子系统11(例如来自处理单元114)的数据,并将该数据存储在存储子系统12的存储设备121上。存储设备121可以是计算机可读介质。在一些实施例中,存储设备121可从监测系统1的一个或更多个其他部件中移除。因此,例如,存储设备121可以包括闪存驱动器(或者称为笔式驱动器或记忆棒)。闪存驱动器可以包括用于存储数据和通信元件的非易失性内存,以使闪存驱动器能够与计算设备(例如处理单元114)通信。存储子系统12可包括通信端口122(例如通用串行端口插座/插头),该通信端口122配置为与存储设备121的相应通信电源(例如插头/插座)有选择地匹配,以使数据能够从处理单元114(或成像子系统11的其他部件)传输到存储设备121。
存储子系统12可配置为接收来自存储设备121的数据,并将该数据通信给成像子系统11(例如,传输到处理单元114和/或相机模块111)。该数据可能包括,例如软件或固件更新、许可证密钥等。
通信子系统13(例如,参见图17)可与成像子系统11通信耦合。特别是,在一些实施例中,处理单元114与通信子系统13通信耦合(例如,通过有线数据总线进行)。
因此,通信子系统13可配置为接收来自成像子系统11(例如来自处理单元114)的数据,并将该数据(或其一部分)通信(即传输)到远程管理系统3。通信子系统13和远程管理系统3之间的通信耦合可以在有线和/或无线通信网络上进行。该网络可能包括使用多种不同协议和通信机制的部件。例如,通信子系统13可配置为使用以下一种或多种方式与远程管理系统3通信:蜂窝网、广域网(例如互联网)和局域网(例如使用以太网(RTM)或WiFi(RTM))。
因此,在一些实施例中,通信子系统13包括网络I/O模块131,该网络I/O模块131可以以电路形式配置为管理和启用与远程管理系统3的通信耦合。
通信子系统13可包括高速缓存内存132,其配置为在数据传输到远程管理系统3之前为数据提供临时本地存储。
因此,当与远程管理系统3的通信耦合不可用时,可以将通信子系统13配置为将数据存储在高速缓存内存132中。例如,如果通信子系统13和远程管理系统3之间的通信网络中存在无线链路,则该无线链路可能并不总是可用的--例如,收割机100在执行收割时可能会移入或移出无线链路的范围。因此,高速缓存内存132可为数据提供临时存储,然后当该链路可用时,将数据传输到远程管理系统3。
通信子系统13可配置为接收来自远程管理系统3的数据,并将该数据通信给成像子系统11(例如,通信给处理单元114和/或相机模块111)。该数据可能包括,例如软件或固件更新、许可证密钥等。
位置子系统14(例如,参见图22)配置为确定其地理位置,和因此确定监测系统1(以及一些实施例中的收割机100)的地理位置。位置子系统14可包括,例如,基于卫星的位置系统模块141,例如全球定位系统(GPS)接收器,或一个或更多个全球导航卫星系统(GLONASS)、伽利略定位系统(Galileo)、北斗卫星导航系统、印度区域导航卫星系统IRNSS(NAVIC)或准天顶卫星系统(QZSS)的接收器。在一些实施例中,位置子系统14配置为接收传输自一个或更多个信标的信号,并且可以使用接收到的信号(例如通过三角测量)来确定其相对于信标的位置。因此,位置子系统14可配置为确定和输出代表位置子系统14的地理位置的位置数据(以及,因此,确定和输出代表监测系统1的地理位置的位置数据)。
位置子系统14与成像子系统11(例如,与处理单元114)通信耦合,并配置为将数据发往成像子系统11(例如,发往处理单元114),该数据包括由位置子系统14确定的地理位置。在一些实施例中,位置子系统14还配置为将当前时间信息通信给成像子系统11(例如,通信给处理单元114)。
电力子系统15(例如,参见图21)可配置为向监测系统1的一个或更多个其他组件提供电能。例如,电力子系统15可配置为向成像子系统11(例如,向相机模块111和处理单元114中的一个或两个),和/或存储子系统12,和/或通信子系统13,和/或位置子系统14,提供电能。
电力子系统15可包括连接头151,该连接头151配置为与收割机100的电气系统105耦合。因此,电力子系统15可以从收割机1向监测系统1提供电能。
电力子系统15可包括一个或更多个电池152,该电池152配置为向监测系统1提供电能。
在一些实施例中,一个或更多个电池152用于提供不间断电源,以使得使用来自一个或更多个电池152的电能可以补偿收割机100的电气系统105的电能的变化。在一些实施例中,一个或更多个电池152与收割机152的电气系统105组合使用,以向监测系统1提供电能,监测系统1的电压高于由电气系统105提供的电压。
在一些实施例中,监测系统1与收割机100的电气系统105电隔离,因此电力子系统15提供操作监测系统1所需的所有电能,而不使用来自收割机100的电气系统105的电能(例如,这可以使用一个或更多个电池152来实现)。
在一些实施例中,电力子系统15配置为确定收割机100何时操作(例如,发动机103何时运行),并可根据已确定的收割机100的操作启动监测系统1。当收割机100停止操作时,电力子系统15可进一步配置为检测此变化并触发监测系统1的关闭(即停机)。该确定可基于电力子系统15与电气系统105的连接和/或可基于电力子系统15与收割机100的控制总线的连接。
在一些实施例中,监测系统1或其部件设置在壳体16内(例如,参见图11和12)。壳体16可配置为阻止或基本上防止液体(例如水)和/或污垢进入,和/或防止振动。在一些实施例中,壳体16可容纳处理单元114。在一些实施例中,壳体16可以容纳以下的一个或更多个:存储子系统12的至少一部分、通信子系统13的至少一部分、位置子系统14的至少一部分和电力子系统15的至少一部分。
壳体16可在其外壁中,承载通信端口12和连接头151中的一个或两个。在一些实施例中,壳体16限定了相机模块111和/或位置子系统14的电缆可通过的至少一个端口——在此类实施例中,监测系统1的这些部件或其部分位于壳体16的外部。应理解,基于卫星的位置系统模块141可能需要位于壳体16的外部,以便能够接收其操作信号。在一些实施例中,基于卫星的位置系统模块141或其天线可以位于,例如相机模块111内或附近。在其他实施例中,基于卫星的位置系统模块141可定位在收割机100上的其他位置。
在一些实施例中,壳体16可在其外壁中承载输出单元115的一个或更多个元件,例如可视输出元件115a和/或音频输出元件115b。
壳体16可包括壳体安装支架161,其用于将壳体16固定到收割机100的一部分。因此,在一些实施例中,壳体安装支架161可包括边缘161a(例如,以直角截面梁的形式),边缘161a配置与收割机100的基本水平的梁或其他构件接合。边缘161a可位于壳体16的上部。壳体安装支架161可包括钩构件161b,钩构件161b配置为与收割机100的基本垂直的梁或其他构件接合。钩构件161b可在延伸位置(在延伸位置,基本垂直的梁可移动到由钩构件161b限定的通道中)和回缩位置(在回缩位置,基本垂直的梁被困在所述通道中)之间移动。钩构件161b的移动可通过使用螺纹构件161c实现,该螺纹构件161c与钩构件161ba的螺纹部分接合(例如,参见图12)。
远程管理系统3(例如,参见图23)可包括计算设备31,该计算设备31与本文所述的监测系统1通信耦合。监测系统1(例如处理单元114)可配置为将数据通信给远程管理系统3,并可配置为接收来自远程管理系统3的数据。同样,远程管理系统3可配置为将数据传输给监测系统1并接收来自监测系统1的数据。
远程管理系统3可通过通信子系统13与监测系统1通信耦合,这种耦合可以是有线的或无线的。在一些实施例中,远程管理系统3远离监测系统1和收割机100。在一些实施例中,远程监测系统3远离监测系统1,但位于收割机100(或拖拉机300)上或内部。
远程管理系统3可配置为向监测系统1发送软件、软件更新、固件、固件更新、许可证密钥、许可证信息等。例如,监测系统1可配置为根据接收到的数据,安装或更新软件或固件。
远程管理系统3可以是笔记本电脑、台式计算机、平板电脑、移动(蜂窝)电话等。在一些实施例中,远程管理系统3包括服务器,并且可以包括多个服务器和其他计算设备。
如上所述,监测系统1可固定在收割机100的某个位置上,使得一个或更多个已收割项目21穿过成像子系统11(例如,相机模块111)的视场。在一些实施例中,可通过使用安装支架113来实现此固定。
在一些实施例中,监测系统1的定位使得护罩112的最下面部分距离表面10cm到30cm,这个表面为一个或更多个已收割项目21正在或将要经过的表面。为了达到所需的高度,可以使用所述或每个调整臂113e,调整安装支架113(如果使用)。
在收割机100的操作过程中,收割机100通常会在田地200内沿着一排排可收割项目22移动。如果可收割项目22是根茎类蔬菜,则可收割项目22一般埋在地下。收割机100的锄铲106将可收割项目22从土壤挖出到收割机100中,可收割项目22因此成为已收割项目21。
因此,一个或更多个已收割项目22穿过收割机100并经过成像子系统11的视场--通常在传送带上(如本文所述)。
监测系统1的操作方法由处理单元114执行的指令控制(如本文所述),在这方面提及的任何方法步骤都应理解为包含,在执行时使这些方法步骤产生的指令。
当一个或更多个已收割项目21经过成像子系统11的视场时,相机模块11被指示捕捉一个或更多个已收割项目21的一个或更多个图像。在一些实施例中,相机模块11在这方面由处理单元114指示。
如本文所述,相机模块11可包括立体相机111a,因此,立体相机111a捕捉立体相机111a的视场中的一个或更多个已收割项目21的一对图像。
相机模块11捕捉的一个或更多个图像被通信(即传输)给处理单元114,该处理单元114通过执行相应的指令,配置为处理一个或更多个图像,这些图像由图像数据表示。该处理可以包括识别这对图像中每一个的相应特征,然后计算深度信息。在一些实施例中,该步骤由立体相机111a执行,并且立体相机111a配置为向处理单元114输出可见光图像和该图像的深度图。
在一些实施例中,相机模块11包括相机111c、红外发射器111d和红外接收器111e。如上所述,由红外接收器111e捕捉的图像(包括红外发射器111d发射到相机模块111的视场中的红外光)可以通过分析红外光的畸变来确定深度信息。在此类实施例中,可将可见光图像连同红外光图像以及红外发射器111d发射的红外光的散斑图的信息发往处理单元114,该处理单元114可配置为利用该信息生成图像的深度图。在一些实施例中,相机模块111配置为执行该分析,并向处理单元114输出可见光图像和该图像的深度图。
深度图通常是包含有关成像子系统11(例如,照相机模块111)视场内的一个或更多个对象与成像子系统11(例如,照相机模块111)的距离(即深度)的信息的地图。在一些实施例中,深度图基于组成可见光图像的像素,提供有关逐像素的距离/深度信息——应理解,数字图像通常由多个像素组成,这些像素排列成一个阵列,并传送关于图像的那部分的信息。
为了便于说明,图24描述了两个已收割项目21的可见光图像(复制为线条图)401的示例。图24还描述了相同两个已收割项目21的深度图402的简化图示。可以看到,深度图40中较浓的阴影显示图像的部分,相对于较淡的阴影部分,这些部分更接近相机模块111。该图示被简化,因为它只通过色差显示两个不同的深度(包括项目21所在的白色表面在内是三个深度)。在一些实施例中,指定深度图中可能有许多不同的深度(即超过两个或三个)。
因此,对从相机模块111接收的图像数据的分析可包括确定深度图的初始步骤(或深度图可由相机模块111提供)。
因此,应理解,相机模块111可配置为获取三维图像数据。换句话说,相机模块11可以配置为确定二维图像数据和深度数据。该深度数据可以是距相机模块111的距离,术语在本文可以互换使用。
然后,可见光图像和深度图在处理单元114的控制下,进行一个或更多个进一步的处理步骤。
图像数据(即可见光图像和深度图)包括或可能包括与一个或更多个对象有关的信息,这些对象不相关,因为他们距离相机模块111太远或太近。
因此,处理单元114可以对图像数据进行深度过滤处理。根据深度过滤处理,深度图显示数据涉及的对象距离相机模块111远大于预定的最大距离的图像数据,可以从图像数据中删除。根据深度过滤处理,深度图显示数据涉及的对象距离相机模块111比预定的最小距离更近的图像数据,可以从图像数据中删除。可以应用这些深度过滤处理中的一个或两个。提及的图像数据的删除可包括从内存中清除图像数据或从后续处理步骤中排除该图像数据(不必清除数据)。深度过滤可应用于图像中有关的所有像素,以便依次考虑与每个像素相关的深度。
最大距离可以是由用户或操作员预定义的预定距离。最大距离可以是监测系统1在操作校准阶段确定的距离。
最大距离可以是,例如,从相机模块111到表面的距离,该表面是当一个或更多个已收集项目21经过相机模块111(即成像子系统11)的视场时支撑它们的表面。该表面可能是,例如传送带108、采摘台109或一个或更多个其他传送带110的表面。
在一些实施例中,最大距离可能在相机模块111(即成像子系统11)的视场中变化。因此,这可能会使监测系统1将支撑一个或更多个已收割项目21的表面相对于相机模块111的倾斜考虑进去。因此,例如,最大距离可由相对于经过摄像模块111(即成像子系统11)视场的法向平面倾斜的平面来限定。
在一些实施例中,相机模块111被定向,使得经过相机模块111视场的法向平面平行于上述表面,不需要如上文所述改变最大距离。
因此,图像数据中比最大距离更接近相机模块111的对象,是可能由上述表面支撑的对象,因此可能是已收割项目21。
最小距离可以是由用户或操作员预定义的预定距离。最小距离可以是监测系统1在操作校准阶段确定的距离。
最小距离可以是,例如从相机模块111到表面上方的高度的距离,该表面是当一个或更多个已收割项目21经过摄像头模块111(即成像子系统11)的视场时支撑他们的表面,一个或更多个已收割项目21中没有一个可能到达该视场。
在一些实施例中,最小距离可在相机模块111(即成像子系统11)的视场中,以最大距离可能变化的相同方式变化。实际上,最小距离可以由一个平面限定,该平面通常与限定最大距离的平面平行。
在一些实施例中,相机模块111被定向,使得经过相机模块111视场的法向平面平行于上述表面,不需要如上文所述改变最小距离。
因此,在深度过滤处理中使用最小和最大距离可排除不太可能是已收割项目21的对象——因为它们太大或位于一个或更多个已收割项目21经过的表面之下。使用深度过滤可以排除噪音以及通过传送带的板条和收割机100的结构部件(以及监测系统1的其他部件,如护罩112的部件)可以看到的特征。
最大距离可在成像子系统11被控制(例如,由处理单元114控制)的校准阶段设置,以确定到支撑一个或多更个已收割项目21的表面的距离。例如,当相机模块111(即成像子系统11)的视场中没有已收割项目21时,可以执行此操作。为了实现这一点,一些实施例可包括用户或操作员在该表面放置一块材料的步骤,该材料可由相机模块111识别。
在一些实施例中,校准阶段可在收割机100操作和/或一个或更多个收割机项目21在相机模块111(即成像子系统11)的视场内的情况下完成。这可以通过使用相机模块111识别与相机模块11大致保持恒定距离的图像数据部分,通过对图像数据进行颜色分析以确定与表面相关而不是与已收割项目21相关的图像数据部分,或者通过评估一个或更多个已收割项目21的可能大小,然后估计到支撑一个或更多个收割项目21的表面的可能距离来实现。在一些实施例中,从相机模块111到一个或更多个已收割项目21之一的外部部分的距离是围绕项目21的至少一部分周长确定的。然后确定从相机模块111到项目21的中心部分的距离(例如,中心部分不必是几何中心,(尽管可能是),但可以是项目21的最接近相机模块111的质心)。外部部分和中心部分之间的高度差可近似为项目21高度的一半。这样可以获得到传送带的距离的近似值(通过估计到传送带的距离,通常是到外部部分的距离加上外部部分和中心部分之间的距离差)。
可根据已收割项目21的性质设置最小距离,例如,可预计任何项目21的宽度/长度都不超过15cm。在一些实施例中,最小距离可由处理单元114根据最大距离和预定距离(可由操作员或用户设置)计算。在一些实施例中,最小距离由处理单元114根据护罩112的已知的或测量的尺寸计算得出。例如,如果已知护罩112延伸至相机模块111下方1米,且最大距离为1.20厘米,则任何大于20厘米的对象都不能从护罩112下方通过(在一些实施例中),且任何靠近相机模块111超过1米的对象都不能与一个或更多个已收割项目21相关。
因此,经过深度过滤的图像数据就是深度过滤后的图像数据。
然后分析深度过滤后的图像数据(或图像数据,如果没有进行深度过滤),以便在相机模块111(即成像子系统11)的视场内检测一个或更多个已收割项目21。这可能包括取决于一个或更多个项目21的性质(例如典型形状、颜色和/或大小)的各种技术的性能。
例如,处理单元114可以分析图像数据和/或深度过滤后的图像数据,以识别一个或更多个圆形或椭圆形对象。这可能包括图像数据或深度过滤后的图像数据的分割。该分割可包括,例如阈值、聚类、基于柱状图的方法、边缘检测、区域生长等。该分割可以基于深度图或可见光图像或两者。因此,在一些实施例中,分割可以基于二维形状或三维形状。
因此,图像数据或深度过滤后的图像数据被分割为一个或更多个可能的已收割项目21,其中一些图像数据被识别为与一个或更多个可能的已收割项目21无关。因此,该数据是分割的图像数据,并且包括至少一部分,该部分表示一个或更多个已收割项目21中的至少一个。
然后,在一些实施例中,可以由处理单元114对分割的图像数据进行进一步处理,以排除或删除不满足一个或更多个标准(或者相反地,确实满足一个或更多个标准)的一些可能的已收割项目21。例如,如果一个或更多个已收割项目21是土豆,则土豆至少部分地被土壤和其他地面物质(即碎石土)覆盖。一块或一团地面物质看起来很像土豆。然而,可以预计,土豆的分割的图像数据中至少有一部分将包括表示土豆可能颜色的图像数据,该颜色可能比地面物质更黄或更浅(可能是深棕色)。因此,通过对分割的数据进行颜色分析,可以识别一个或更多个可能的已收割项目21,这些项目不太可能是已收割项目21。
在一些实施例中,相机模块111可以包括配置为捕捉不可见光光谱中的图像的相机。这些额外的图像数据可以根据如上文所述的图像数据进行处理,并可用于帮助排除或删除可能的已收割项目21,这些项目实际上不太可能是已收割项目21。
在一些实施例中,分割过程可以包括,例如,分析可能的已收割项目21的外部部分与相机模块111之间的距离,以确定它们是否遵循预定轮廓,预定轮廓可以是基于典型的已收割项目21之一的近似轮廓。例如,这可能使一组已被分割为一个可能的已收割项目21的项目21能够进行分离。
然后,可以由处理单元114对分割的图像数据进行进一步处理,以从分割的图像数据,确定一个或更多个可能的已收割项目21的周长、最大尺寸(例如长轴和/或短轴长度)、面积、质心和高度中的一个或更多个。
在一些实施例中,通过分析分割的图像数据来确定一个或更多个可能的已收割项目21的高度,以确定针对该可能的已收割项目21的至少部分或基本全部的分割上的项目21的平均高度。
换句话说,对分割的图像数据进行分析,以确定一个或更多个可能的已收割项目21的尺寸。
根据尺寸信息,可将处理单元114配置为确定一个或更多个可能的已收割项目21中的至少一个的体积。这可以通过将项目21的高度整合到该面积来实现,或者通过将项目21建模为几何形状(例如椭球体)来实现。在一些实施例中,该过程可包括形状匹配步骤,以便在随后使用该形状确定体积之前,确定多个几何形状中哪一个与项目21的形状最匹配。
在这些过程中生成的尺寸信息与分割的图像数据相关联,尤其与与其相关的图像数据部分(即分割片段)相关联。因此,尺寸信息可由处理单元114存储(例如存储在内存114b中)。
分割的图像数据和相关的尺寸信息在本文中是指裁剪的图像数据,其可由处理单元114存储(例如,存储在内存114b中)。
然后,裁剪的图像数据可用于确定一个或更多个已收割项目21的一个或更多个属性。例如,可以确定一个或更多个已收割项目项21的大小和/或重量分布(重量根据一个或更多个项目21的体积和预定的近似密度进行估计)。因此,在多个已收割项目21的情况下,可以确定属于预定大小和/或重量范围内的项目21的数量。
在一些实施例中,裁剪的图像数据可通过处理单元114用于执行虚拟筛分处理。
根据虚拟筛分处理,可对裁剪的图像数据进行处理,以生成与通常在手动筛分一个或更多个已收割项目21时收集的数据相当的信息。
例如,虚拟筛分处理可以将一个或更多个已收割项目21(由裁剪的图像数据表示)匹配到一个或更多个虚拟的裁剪孔。如果项目21将通过裁剪孔,则根据与该裁剪孔相关的一个或更多个参数对项目21进行分类。
根据一些实施例,虚拟筛分处理包括取最小的两个轴线,并确定它们是否小于裁剪孔的相应尺寸。在一些实施例中,这可能包括在指定平面上取最小的两个垂直轴线。
在一些实施例中,虚拟筛分处理包括将已收割项目21(从裁剪的图像数据)建模为椭球体,并根据其轴线的长度对椭球体进行参数化。确定两个最短轴线21a,21b,并将虚拟筛212的裁剪孔211建模为边长s的正方形(参见图14)。
如果满足以下条件,项目21将穿过裁剪孔211:
s<√((2a2b2(a2+b2))/(a2+b2)2-(a2-b2)2))
其中,“a”是沿轴线21a的长度,“b”是沿轴线21b的长度。
因此,利用该处理,可确定项目21将穿过的筛子的最小大小。然后可以将这些筛子大小(即裁剪孔大小)置于所需范围内(例如,根据相关行业的惯例),以评估一个或更多个已收割项目21。
例如,在一些实施例中,所需范围可以是<45mm、45-65mm、65-80mm和>80mm(这些是s的范围)。
虚拟筛分处理的输出通常包括筛分数据。
裁剪的图像数据和/或筛分数据可输出可存储在内存114b中,和/或可通过处理单元114输出到输出单元115(用于向操作员显示)、存储子系统12(用于存储在存储设备121上)和/或通信子系统13(用于向远程管理系统3传输)。
在一些实施例中,图像数据和/或过滤后的图像数据和/或裁剪的图像数据和/或筛分数据可以与由位置子系统14确定的地理位置有关。因此,在收割期间,位置子系统14可以将位置信息输出到处理单元114,然后处理单元114将位置信息与图像数据等关联起来,使得可以确定从中收割一个或更多个项目21的位置。位置信息(或“位置数据”)的分辨率可以确定从某个田地中收割项目21的位置。因此,位置数据的分辨率例如可精确到5m、10m、20m、30m、40m或50m。
根据一些实施例,图像数据的处理可以配置为避免对同一已收割项目21重复分析。这可以以多种不同的方式实现。
例如,在处理帧(即来自单个时间点的图像数据)时,标识符可以与每个已收割项目21(即,在分割过程中或之后确定的每个可能的已收割项目21)相关。该标识符可与该已收割项目项21的一个或更多个特征相关,一个或更多个特征可包括,例如已收割项目21在相机模块111(即成像子系统11)视场内的位置、已收割项目21的大小、已收割项目21的颜色等。当处理单元114分析图像数据的下一帧时,处理单元114可试图(例如使用一个或更多个特征)识别其视场内的每个已收割项目21,该视场也存在于前一帧中。由于已收割项目21可能会(例如,按照传送它们的传送带指示)朝特定方向移动,因此特定的已收割项目21可能大致朝此方向移动,但可能不会朝不同方向移动(或可能不会大幅移动)。在每一帧中,可以更新特定项目21的一个或更多个特征。因此,通过使用一个或更多个特征,处理单元114可以在一个或更多个已收割项目21以连续帧的顺序穿过视场时跟踪它们。
因此,在一些实施例中,只处理在特定帧中进入视场的新的已收割项目21。
在一些实施例中,处理单元14可配置为在视场范围内识别和跟踪已收割项目21的子集(例如一个或更多个)。处理单元14可配置为处理第一帧的图像数据,在该帧中识别已收割项目21(以确定裁剪的图像数据和/或筛分数据),并且下一个如此分析的帧是,例如,最后一帧(在该帧识别已收割项目21)或第一后续帧(在该帧不识别已收割项目21)。
在一些实施例中,在其上运输一个或更多个已收割项目21的传送带上可能存在一个或更多个可检测标记,可由监测系统1检测到。一个或更多个可检测标记可用于确定下一帧的分析时间。应理解,一个或更多个可检测标记通常可沿传送带的长排列,一个或更多个已收割项目21可在传送带上运输经过视场。
在一些实施例中,从处理单元114(例如从用户或操作员输入)可知运输一个或更多个已收割项目21的传送带的移动速度。因此,可以使用该移动速度来确定捕捉帧进行分析的时间,使得每一帧相对于最后一帧基本上是唯一的和连续的。
在一些实施例中,处理单元114还配置为执行传送带移动检测过程。
根据传送带移动检测过程,处理单元114可以分析来自多个帧的图像数据,以确定运输一个或更多个已收割项目21的传送带是否正在移动。该过程的输出可接着用于确定,例如,是否应分析帧以确定裁剪的图像数据和/或筛分数据。
例如,传送带移动检测过程可能包括两个帧(可能是连续帧)之间的比较。根据这一过程,确定图像数据的像素(可能是可见光图像的像素,也可能是深度图的数据)的数量,其在帧之间的差异超过阈值水平。如果该数量超过最小值,则这被解释为传送带移动;如果这些像素的数量小于最小值,则这被解释为传送带静止。
在一些实施例中,该过程使用深度图数据,阈值水平约为2mm、3mm、4mm或5mm。由于深度图数据中存在噪声和闪烁,可能需要阈值水平。
在一些实施例中,对多个帧进行平均,以获得图像数据(可见光或深度图数据)的平均帧,并将其与单个帧或更多个帧一起平均的图像数据进行比较。平均值可以是中数、中间值或模态平均值。
因此,实施例可配置为生成和记录关于一个或更多个已收割项目21的信息,这些信息包括一个或更多个已收割项目21的大小(和/或重量)和特定大小(和/或重量)范围内的项目21的数量。
在一些实施例中,处理单元114和/或远程管理系统3可配置为生成处理后的数据的一个或更多个表格、图形或地图表示。
例如,可以将处理单元114和/或远程管理系统3配置为生成表格,该表格标识具有特定大小或在特定大小范围(这些可能是实际的大小或大小范围,或由虚拟筛分过程确定的大小和范围)内的已收割项目21的数量。
处理单元114和/或远程管理系统3可配置为生成图形,例如柱状图,该图形显示具有特定大小或在特定大小范围(这些可能是实际的大小或大小范围,或由虚拟筛分过程确定的大小和范围)内的已收割项目21的数量。
处理单元114和/或远程管理系统3可配置为,根据项目21被收割的位置生成地图,该地图显示具有特定大小或在特定大小范围(这些可能是实际的大小或大小范围,或由虚拟筛分过程确定的大小和范围)内的已收割项目21的数量。地图可采用“热图”的形式,其中项目21的数量和/或在不同地理位置收割的具有特定大小或大小范围的项目21的数量,在地图上通过不同颜色表示。图15显示了地图的简化图形表示,其中的淡阴影显示了收割机100穿过田地200的路径,而浓阴影显示了满足指定标准(如大小或大小范围)的项目21被收割的位置,或者这些项目21中的大部分是在何处被收割。该图简化了,因为可能会,例如,使用另外的阴影或颜色显示关于项目21的数量的更多的信息。
在一些实施例中,可将裁剪的图像数据、筛分数据和/或生成的表示与集装箱107或传送项目21到其中的集装箱107关联,例如通过将数据和/或表示与集装箱107的标识符或集装箱107关联。
可将日期和/或时间与裁剪的图像数据、筛分数据和/或生成的表示关联。此日期和/或时间可能说明收割日期和/或时间,并且可以与该数据或表示一起存储在通常相同的位置。
应理解,监测系统1生成的信息可在收割一个或更多个已收割项目21时生成。这在确保一个或更多个已收割项目21的有效操作和处理方面具有显著的优势,因为该信息是在很早的阶段就知道的。
例如,可以将确定的大小信息与来自客户的一个或更多个订单进行比较,以便将一个或更多个已收割项目21(例如,通过集装箱107)分配给特定订单,并根据该订单的要求进行处理。
在一些实施例中,通过监测系统1或监测管理系统4确定的大小信息,可以优先进行(例如自动地)一个或更多个已收割项目21的后续处理。
在一些实施例中,可以分析大小信息,以确定在过去已被收割的特定大小的已收割项目21的位置。这可能使可收割项目22的定向收割能够满足特定的订单或要求。
在一些实施例中,一个或更多个位置的情况,可以基于大小信息和为改变这些决策而采取的一个或更多个行动(例如施用化肥)来评估。
可以以自动化方式,例如通过远程管理系统3实施一个或更多个由此产生的行动,远程管理系统3指示装备执行由此产生的行动。
尽管已参照安装在收割机100上(并且可以改装到收割机100上)的监测系统1的规定描述了实施例,但一些实施例包括使用监测系统1制造的收割机100。在一些此类的实施例中,监测系统1的一个或更多个组件可以与收割机100的一个或更多个其他功能和/或系统共享。例如,位置子系统12可能是收割机100(或拖拉机300)等的导航系统的一部分。
如本文所述,可使用远程管理系统3显示关于一个或更多个已收割项目21的信息,并且在一些实施例中,远程管理系统3可设置在收割机100内。在一些此类实施例中,远程管理系统3可设置在收割机100的驾驶室104(或拖拉机300的驾驶室303)中。
在一些实施例中,远程管理系统3配置为与多个监测系统1通信,每个监测系统1与不同的收割机100关联(例如,参见图13)。由监测系统1输出的信息可在远程管理系统3中进行整理,远程管理系统3可进一步配置为评估动态,并根据接收到的信息,预测例如作物产量。
以下描述的是关于马铃薯收割的方法和技术,但应注意的是,提到的马铃薯一般应理解为指的是可收割项目22。可收割项目22可以是埋在地下的任何根茎类蔬菜。
光度立体技术是一种使用单个相机和一组已知位置的至少三个光源的技术。在这里,不是计算深度图像或点云,而是当视角方向保持不变时,从不同方向照亮的对象中恢复表面法向量场,(例如,参见图28)。特定方向上反射的入射光的比例取决于表面方向,这可以使用朗伯定律(Lambert’s Law)建模。因此,当已知入射光的方向并记录辐亮度值时,就可以推导出表面方向。
只要入射光的方向在方位上不共线,三个视角就足以唯一地确定每个像点的表面法向和反照率。四个光源/视角可用于改善重建性能。
可从三个恢复的图像中推导出确定反照率和表面法向量的方程:
设,I1(x,y),I2(x,y)和I3(x,y)是在不同的照明方向下捕捉的三幅图像。通过改变照明方向,反射图也随之改变,给出方程(1)。
其中,R1(P,Q)、R2(P,Q)和R3(P,Q)是不同照明方向下的反射图,而P和Q分别是X和Y方向上表面的梯度。表面方向和照明方向的梯度表示中的通用反射图可以用方程(2)表示。
其中,是反照率,限定曲面法向量, 限定照明方向。设表面为z=f(x,y),x和y方向的梯度为:
这些方程是在假设以下情况下推导出来的:1)对象大小相对于视距很小的;2)表面为朗伯体;3)表面不受投射阴影或自阴影的影响。
光度立体法每像素重建一个表面法向量,因此它能够在高分辨率下恢复表面法向。通过光度立体技术进行的三维重建在空间上与单个相机捕捉的光度立体图像(灰度)一致。这消除了困扰双目视觉解决方案的对应问题,即确定一幅图像中的像素在空间上如何与另一幅图像中的像素对应的问题。此外,光度立体重建的分辨率是灵活的,完全由所使用的相机决定,从而允许光度立体技术配置为用于特定设备或应用。相比之下,通过RGB-D相机获得的数据通常具有较低的空间和深度分辨率,随着传感器对象距离的增加,这些分辨率会严重降低。此外,光度立体重建提供了详细的高频三维纹理信息。必要时,也可以从光度立体表面法向中推导出三维深度信息(尽管在该步骤中可能会引入一些错误)。与光度立体相比,双目立体更容易产生噪音和伪影,因为它直接恢复表面的深度(以图像为中心)数据,而不是表面方向(以对象为中心)。虽然光度立体设备具有很高的精度和高分辨率,但它可以以与RGB-D或Kinect(RTM)相机相似或更低的成本构建,在便携或远程方面具有潜在的灵活性。因此,它是一个强大的三维成像解决方案。
尽管有这些潜在的优势,但与其他技术(如RGB-D相机)相比,光度立体技术在机器视觉应用中的利用相当有限。这可能是因为,RGB-D相机可以以Kinect(RTM)等设备的形式,以较低的成本从货架上购买,但光度立体的情况并非如此,相反,用户必须在已知的方向上安装和配置相机和一组光源。此外,有必要以高速和与图像捕捉完全同步的方式切换每个光源,所有这些在仪器和编程方面都可能是一个相当大的挑战。另一个原因是,顾名思义,RGB-D相机同时为指定场景生成RGB和深度图像。相比之下,实现光度立体技术需要处理和组合图像强度,并在使用灰度相机时确保最大分辨率,因此,反照率通常作为灰度图像出现。也可以用彩色相机替换灰度相机来捕捉RGB图像。这可用于植物分析领域。
除了恢复表面的纹理和形状外,光度立体技术还提供了一种分离表面3D和2D纹理的强大方法,从而在常规图像会反映色调效果或表面着色变化的情况下,提供高质量的3D表面数据和准确的颜色数据。在恢复三维表面形状数据后,必须对其进行分析,以确定用于定向除草的分生组织。这可以通过使用两个指标进行分析:Koenderink提出的“形状指数”和“HK分割”(基于使用表面二阶偏微分的Hessian矩阵计算的“主曲率”)。试验表明,与形状指数相比,HK测量可以更好地指示分生组织可能落下的位置。
光度立体的一个主要优点是,与其他方法相比,表面可以以更高的分辨率进行三维分析——它仅受所用照相机/透镜的成像分辨率的限制。因此,使用光度立体技术还提供了利用机器视觉产生新的先进的植物分析(如表型分析)能力的潜力。
四源光度立体系统无法从移动平台捕捉数据,因为第一帧和最后一帧之间的运动将阻止成功计算表面法向。因此,可以使用双源方法,允许计算一个方向(2.5维)的表面梯度。此方法要求光源与相机的X轴(即移动方向)保持一致,以便恢复该平面中的表面法向。在一些实施例中,两个近红外线光源可以从沿着传送带移动的图块恢复表面法向。尽管这可能不允许对表面进行完全三维重建,但沿X方向的梯度足以获得表面形状的有用表示,从而能够分割成型缺陷。植物分析的情况类似,仅使用两个光源的表面法向数据不完整,但X平面上的分量仍然可以用于分生组织的定位。这可以通过在一系列植物梯度图中手动标记分生组织来实现,并使用该位置数据训练分类器。然后,分类器可用于扫描其他植物的梯度图,以识别相似的梯度特征(通过热图显示匹配强度),从而定位分生组织。试验表明,尽管植物分生组织的识别比在四光源光度立体技术下更具挑战性,但它仍然是可以接受的。正在进行的工作包括进一步提高梯度图的分辨率,结合更强大的神经网络建模,目的是在广泛的植物类型上提高分生组织定位的可靠性。
继杂草检测方法之后,利用新出现的低成本视觉技术,在收割过程中在田地采集马铃薯块茎的三维数据。
通过恢复马铃薯表面的纹理和形状,可以检测出各种相关的重要特征。这可能包括病害(如马铃薯枯萎病或真菌感染)、动物(土壤中的害虫)造成的损害、收割期间受到的损害和/或马铃薯上存在大量土壤。
光度立体技术在马铃薯深入分析中的应用是一个很有前景的领域,也是目前研究的课题。
马铃薯计量系统可操作的马铃薯尺寸范围相对较广,例如<45mm、45-65mm、65-80mm和80+mm。由于土豆的形状不是真正的椭球体,因此对长轴(长度)的估计往往过高;但是,在大小估计中仅使用短轴(宽度)和高度,由此产生的大小梯度的质量没有受到影响。
用于便携式光度立体的电源也已试用。预计马铃薯计量系统可以通过拖拉机电源进行操作,在检测到线路输入断开时,只需要该电源就可以让计算机干净地关闭,并“清洁”来自拖拉机的信号,以产生可靠的19V输出。然而,研究表明,最好使用单独的12V铅酸蓄电池(即汽车电池)来运行系统,并且仅使用拖拉机电源为电池充电。
当在本说明书和权利要求书中使用时,术语“包含”和“包括”及其变化意味着包括指定的特征、步骤或整数。这些术语不得解释为排除其他特征、步骤或组件的存在。
上述描述或下列权利要求书或附图中披露的,以其特定形式或以执行所披露功能的手段或达到所披露结果的方法或过程表示的特征,(视情况而定)可单独地或以上述特征的任何组合,以其各种形式,用于实现本发明。