CN110191635A - 用于对蚊子进行性别分选的方法及其装置 - Google Patents
用于对蚊子进行性别分选的方法及其装置 Download PDFInfo
- Publication number
- CN110191635A CN110191635A CN201880007586.0A CN201880007586A CN110191635A CN 110191635 A CN110191635 A CN 110191635A CN 201880007586 A CN201880007586 A CN 201880007586A CN 110191635 A CN110191635 A CN 110191635A
- Authority
- CN
- China
- Prior art keywords
- mosquito
- insect
- individual
- conveyer
- classification
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 241000255925 Diptera Species 0.000 title claims abstract description 330
- 238000000034 method Methods 0.000 title claims abstract description 100
- 241000238631 Hexapoda Species 0.000 claims description 79
- 241000382353 Pupa Species 0.000 claims description 57
- 238000003860 storage Methods 0.000 claims description 30
- 238000013528 artificial neural network Methods 0.000 claims description 20
- 238000003384 imaging method Methods 0.000 claims description 20
- 230000003068 static effect Effects 0.000 claims description 9
- 238000005086 pumping Methods 0.000 claims description 8
- 230000000306 recurrent effect Effects 0.000 claims description 6
- 230000000717 retained effect Effects 0.000 claims description 6
- 230000008569 process Effects 0.000 description 38
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 18
- 238000001514 detection method Methods 0.000 description 17
- 230000000007 visual effect Effects 0.000 description 16
- 238000005057 refrigeration Methods 0.000 description 15
- 238000012545 processing Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 230000032669 eclosion Effects 0.000 description 7
- 238000009825 accumulation Methods 0.000 description 6
- 238000012360 testing method Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 5
- 238000013527 convolutional neural network Methods 0.000 description 5
- 238000013135 deep learning Methods 0.000 description 5
- 239000000463 material Substances 0.000 description 5
- 238000012986 modification Methods 0.000 description 5
- 230000004048 modification Effects 0.000 description 5
- 230000002829 reductive effect Effects 0.000 description 5
- 241000328422 Culiseta annulata Species 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 3
- 150000001875 compounds Chemical class 0.000 description 3
- 230000008030 elimination Effects 0.000 description 3
- 238000003379 elimination reaction Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 238000006467 substitution reaction Methods 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 238000012546 transfer Methods 0.000 description 3
- 230000003442 weekly effect Effects 0.000 description 3
- 241000282376 Panthera tigris Species 0.000 description 2
- 210000003323 beak Anatomy 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 244000309464 bull Species 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 2
- 238000007599 discharging Methods 0.000 description 2
- 239000006185 dispersion Substances 0.000 description 2
- 230000005284 excitation Effects 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000007710 freezing Methods 0.000 description 2
- 230000008014 freezing Effects 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 238000013526 transfer learning Methods 0.000 description 2
- 230000032258 transport Effects 0.000 description 2
- 241000196324 Embryophyta Species 0.000 description 1
- 240000008042 Zea mays Species 0.000 description 1
- 235000005824 Zea mays ssp. parviglumis Nutrition 0.000 description 1
- 235000002017 Zea mays subsp mays Nutrition 0.000 description 1
- 238000010521 absorption reaction Methods 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- XAGFODPZIPBFFR-UHFFFAOYSA-N aluminium Chemical compound [Al] XAGFODPZIPBFFR-UHFFFAOYSA-N 0.000 description 1
- 229910052782 aluminium Inorganic materials 0.000 description 1
- 239000004411 aluminium Substances 0.000 description 1
- 238000007664 blowing Methods 0.000 description 1
- 238000009395 breeding Methods 0.000 description 1
- 230000001488 breeding effect Effects 0.000 description 1
- 239000006227 byproduct Substances 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000001816 cooling Methods 0.000 description 1
- 235000005822 corn Nutrition 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000005553 drilling Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000003702 image correction Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 230000035800 maturation Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000012856 packing Methods 0.000 description 1
- 238000003908 quality control method Methods 0.000 description 1
- 230000000284 resting effect Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000000391 smoking effect Effects 0.000 description 1
- 230000004083 survival effect Effects 0.000 description 1
- 239000006188 syrup Substances 0.000 description 1
- 235000020357 syrup Nutrition 0.000 description 1
- 230000007723 transport mechanism Effects 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Classifications
-
- A—HUMAN NECESSITIES
- A01—AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
- A01K—ANIMAL HUSBANDRY; AVICULTURE; APICULTURE; PISCICULTURE; FISHING; REARING OR BREEDING ANIMALS, NOT OTHERWISE PROVIDED FOR; NEW BREEDS OF ANIMALS
- A01K67/00—Rearing or breeding animals, not otherwise provided for; New or modified breeds of animals
- A01K67/033—Rearing or breeding invertebrates; New breeds of invertebrates
-
- A—HUMAN NECESSITIES
- A01—AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
- A01K—ANIMAL HUSBANDRY; AVICULTURE; APICULTURE; PISCICULTURE; FISHING; REARING OR BREEDING ANIMALS, NOT OTHERWISE PROVIDED FOR; NEW BREEDS OF ANIMALS
- A01K1/00—Housing animals; Equipment therefor
- A01K1/02—Pigsties; Dog-kennels; Rabbit-hutches or the like
- A01K1/03—Housing for domestic or laboratory animals
-
- A—HUMAN NECESSITIES
- A01—AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
- A01K—ANIMAL HUSBANDRY; AVICULTURE; APICULTURE; PISCICULTURE; FISHING; REARING OR BREEDING ANIMALS, NOT OTHERWISE PROVIDED FOR; NEW BREEDS OF ANIMALS
- A01K29/00—Other apparatus for animal husbandry
- A01K29/005—Monitoring or measuring activity, e.g. detecting heat or mating
-
- A—HUMAN NECESSITIES
- A01—AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
- A01M—CATCHING, TRAPPING OR SCARING OF ANIMALS; APPARATUS FOR THE DESTRUCTION OF NOXIOUS ANIMALS OR NOXIOUS PLANTS
- A01M1/00—Stationary means for catching or killing insects
- A01M1/02—Stationary means for catching or killing insects with devices or substances, e.g. food, pheronones attracting the insects
- A01M1/026—Stationary means for catching or killing insects with devices or substances, e.g. food, pheronones attracting the insects combined with devices for monitoring insect presence, e.g. termites
-
- A—HUMAN NECESSITIES
- A01—AGRICULTURE; FORESTRY; ANIMAL HUSBANDRY; HUNTING; TRAPPING; FISHING
- A01M—CATCHING, TRAPPING OR SCARING OF ANIMALS; APPARATUS FOR THE DESTRUCTION OF NOXIOUS ANIMALS OR NOXIOUS PLANTS
- A01M1/00—Stationary means for catching or killing insects
- A01M1/22—Killing insects by electric means
- A01M1/223—Killing insects by electric means by using electrocution
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N35/00—Automatic analysis not limited to methods or materials provided for in any single one of groups G01N1/00 - G01N33/00; Handling materials therefor
- G01N35/0099—Automatic analysis not limited to methods or materials provided for in any single one of groups G01N1/00 - G01N33/00; Handling materials therefor comprising robots or similar manipulators
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B17/00—Systems involving the use of models or simulators of said systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/20—Processor architectures; Processor configuration, e.g. pipelining
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
- G06V20/698—Matching; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A50/00—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE in human health protection, e.g. against extreme weather
- Y02A50/30—Against vector-borne diseases, e.g. mosquito-borne, fly-borne, tick-borne or waterborne diseases whose impact is exacerbated by climate change
Landscapes
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Environmental Sciences (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Zoology (AREA)
- Evolutionary Computation (AREA)
- Pest Control & Pesticides (AREA)
- Multimedia (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Biodiversity & Conservation Biology (AREA)
- Animal Husbandry (AREA)
- Animal Behavior & Ethology (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Databases & Information Systems (AREA)
- Biophysics (AREA)
- Insects & Arthropods (AREA)
- Wood Science & Technology (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Clinical Laboratory Science (AREA)
- Robotics (AREA)
- Biochemistry (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Analytical Chemistry (AREA)
- Chemical & Material Sciences (AREA)
- Human Computer Interaction (AREA)
- Automation & Control Theory (AREA)
- Catching Or Destruction (AREA)
Abstract
用于通过从未分选的蚊子中提取一类蚊子来对蚊子进行机械性别分选的方法和装置,该方法包括:获得未分选的蚊子;获得处在静止阶段中的独立蚊子的图像;将来自图像的个体电子地分类为雄性蚊子和/或雌性蚊子以及还可能是无类别对象;获得雄性蚊子类别和雌性蚊子类别中的至少一种类别的个体的坐标;以及使用机器人臂伸到由获得的坐标识别的个体以储存或移除个体,从而提供经性别分选的蚊子。
Description
技术领域
本发明在其一些实施例中涉及对蚊子的性别分选,并且更具体地但非排它地涉及用于提供经分选的雄性蚊子的方法和装置。
背景技术
迄今为止,蚊子SIT(不育昆虫技术)已经在全球范围内的小规模项目中证明了自身是一种有前途且有效的用于对抗由蚊子传播的疾病的手段。这个想法是释放具有独特特征的雄性蚊子,使得它们的后代不会进化,或者分布的雄性是不育的,使得不会有任何后代。
不同的研究机构和公司进行了在小范围内释放了数百万只雄性蚊子的小规模试验,所有这些都表明在每周部署经改造的雄性蚊子持续数周之后,该地区的蚊子种群有所减少。
为了处理大面积区域,每天需要生产数百万只蚊子。
然而,如今与饲养和处理过程中涉及的劳动密集相关的操作成本阻止了蚊子SIT的按比例扩大。我们所指的饲养过程中的具体步骤是:
1.性别分选步骤。当目标是取代当地种群并创造一种新型的蚊子种群时,它只需要释放雄性,而不是释放雌性。需要在雌性和雄性之间对蚊子进行分选,并且在释放箱中应该只放雄性,该释放箱送到田间以进行释放。
2.将蚊子装入释放箱。如今,常见的步骤是将蛹(与水一起)放在释放箱内。由于每个释放箱可以包含约700-1500只蚊子,工人需要从其它较大的容器中转移蛹,并测量转移的数量,尽管不需要对单只蚊子的分辨能力。在每天需要数百万蛹的情况下将1000个蛹转移到释放箱中是需要时间和人力的高度密集的工作。对于大规模操作而言,成本太高。
目前正在进行研究以优化分选过程。然而,迄今为止,大多数系统都试图在蛹阶段进行分选(基于重量、大小、颜色)。其它尝试涉及在雌性蚊子成年时将它们消灭。
问题在于,成蚊可能非常活跃,并且因此从你分类好其性别的那一刻直到你设法做某事时,蚊子可能已经移动或飞走。
在视野中还具有其它蚊子时可能使视觉传感器模糊。对蛹的分选可能导致较大的附带损害(意味着许多雄性死亡)。
发明内容
本实施例可以使用成蚊静止的时间,以便应用成像并然后挑选所需的昆虫或消灭不需要的昆虫。此时间可以是昆虫从蛹中羽化出来的时间,或者当将昆虫制冷到使它们静止的温度时。在这两种情况下,昆虫静止一段时间,该时间足够长以通过成像过程进行识别,并然后拾取或消灭,因为成像过程能够引导机器人臂找到昆虫。
根据本发明的一些实施例的一个方面,提供了一种通过从未分选的蚊子中提取一类蚊子来对蚊子进行机械性别分类的方法,该方法包括:
获得所述未分选蚊子;
获得处在静止阶段中的所述未分选蚊子的个体的图像;
将来自所述图像的所述个体电子地分类为类别组中的至少一个成员,该类别组包括雄性蚊子、雌性蚊子和无类别对象;
获得所述雄性蚊子类别和所述雌性蚊子类别中的至少一种类别的个体的坐标;以及
使用机器人臂伸到由所获得的坐标中的一个坐标识别的个体以储存或移除所述个体,从而提供经性别分选的蚊子。
在一个实施例中,所述分类包括使用经训练的神经网络。
在一个实施例中,所述经训练的神经网络包括四层或更多层。
在一个实施例中,获得所述图像包括:获得连续帧;生成所述连续帧之间的差异;以及使用所述差异来确定哪些个体处于所述静止阶段中。
在一个实施例中,所述分类包括使用递归神经网络(RNN)。
在一个实施例中,所述未分选的昆虫是正在羽化的蛹,并且所述静止阶段是羽化。
在一个实施例中,所述未分选的昆虫是成虫,并且通过将所述昆虫制冷获得所述静止阶段。
该方法可以包括跟踪各个昆虫的移动以在使用所述机器人臂之前更新相应的所获得的坐标。
该方法可以包括使用第一较高分辨率相机获得所述图像以进行分类,以及使用第二较低分辨率相机执行所述跟踪。
在一个实施例中,所获得的坐标属于所述雄性的类别,并且拾取所识别的个体并将其放置储存。
在一个实施例中,所述机器人臂包括抽吸设备或鼓风设备以拾取所识别的个体并将其放置储存。
在一个实施例中,所获得的坐标属于所述雌性的类别,并且所识别的个体被消灭。
在一个实施例中,所述机器人臂包括用于消灭所识别的个体的灭杀器。
在一个实施例中,所述灭杀器是包括电极和激光器的组中的一个成员。
在一个实施例中,如果个体在预定时间内未被分类为雄性或雌性,则将图像发送给操作员。
在一个实施例中,如果个体在预定时间内未被分类为雄性,则将其分类为雌性。
在一个实施例中,在具有壁的容器中将所述昆虫制冷,使得所制冷的昆虫站立在所述壁的内侧,该方法包括拆解所述箱以呈现所述壁的所述内侧以便获得所述图像。
在一个实施例中,在具有活板门的容器中将所述昆虫制冷,并且所述活板门打开通往第一移动输送机,以允许所制冷的昆虫落下穿过,所述第一移动输送机将所述昆虫运送到成像位置以获得所述图像,并且所述输送机在昆虫位于所述成像位置处的情况下停止以获得所述坐标。
在一个实施例中,所述第一移动输送机是相对快速移动的输送机,从而防止昆虫的堆积扰乱成像,其中所获得的坐标属于雌性的类别,使得雄性昆虫保留在输送机上,第一移动输送机倒在第二移动输送机上,第二移动输送机是相对缓慢移动的输送机,所述相对缓慢移动的输送机输送所保留的昆虫以将其放置在储存盒中。
根据本发明的第二方面,提供了一种通过从未分选的蚊子中提取一类蚊子来对蚊子进行机械性别分类的装置,该装置包括:
未分选蚊子的来源;
相机,其配置成找到处在静止阶段中的个体蚊子并获得所述个体的图像和坐标;
分类器,其配置成将来自所述图像的所述个体电子地分类为类别组中的至少一个成员,该类别组包括雄性蚊子、雌性蚊子和无类别对象;以及
机器人臂,其连接到所述分类器并且配置成伸到由所获得的坐标中的一个坐标识别的个体以储存或移除所述个体,从而提供经性别分选的蚊子。
除非另外定义,否则在此使用的所有技术术语和/或科学术语具有与本发明所属领域的普通技术人员通常理解相同的含义。虽然与在此所述的方法和材料类似或等效的方法和材料可用于本发明实施例的实践或测试中,但是下文描述了示例性方法和/或材料。在有冲突的情况下,以包括定义的专利说明书为准。此外,材料、方法和实例仅是说明性的,而不意图是必然限制性的。
本发明实施例的机器人臂的成像和引导的实现可以涉及手动地、自动地或以其组合执行或完成选定的任务。此外,根据本发明的方法和/或系统的实施例的实际所用仪器和设备,若干选定的任务可以使用操作系统,通过硬件、通过软件或通过固件或通过其组合来实施。
举例来说,用于执行根据本发明实施例的选定任务的硬件可以实施为芯片或电路。作为软件,根据本发明实施例的选定任务可以实施为多条软件指令,该多条软件指令可由计算机使用任何合适的操作系统来执行。在本发明的示例性实施例中,由数据处理器执行根据本文描述的方法和/或系统的示例性实施例的一个或多个任务,诸如用于执行多个指令的计算平台。可选地,数据处理器包括用于存储指令和/或数据的易失性存储器,和/或用于存储指令和/或数据的非易失性存储器,例如磁性硬盘和/或可移动介质。可选地,还提供网络连接。还可选地提供显示器和/或用户输入装置,诸如键盘或鼠标。
附图说明
在本文中,参考附图和图像仅以举例的方式来描述本发明的一些实施例。现在具体参考附图,强调的是,所示出的细节是作为实例并且用于说明性地讨论本发明的实施例的目的。在这方面,结合附图进行的描述使得本领域技术人员了解如何实践本发明的实施例。
在这些附图中:
图1是本发明第一实施例的简化流程图,该实施例采用静止阶段对蚊子进行成像和分类,并然后进行分选;
图2是示出根据图1将所制冷的蚊子倒在输送机上以便在静止阶段中成像的实施例的简化图;
图3至图7示出了用于执行图1的方法的原型装置;
图8和图9是示出了根据本发明实施例的用于将昆虫吸入释放盒的抽吸设备的简化示意图;
图10和图11示出了在笼壁上的所制冷的昆虫,其处于准备好根据本发明的实施例进行成像和分类的状态下;
图12是表示雄性蚊子和雌性蚊子之间的视觉差异的图表;
图13和图14示出了使用本发明的实施例从具有用于分类的正在羽化的成蚊的蛹托盘中获取的两个实际图像;
图15是示出获得高分辨率帧和低分辨率帧并进行检测、分类和跟踪的过程的简化流程图;
图16是根据本发明的实施例的具有分类事件的蛹托盘的视图;
图17示出了具有尚未识别的目标区域的蛹托盘;
图18示出了根据本发明实施例的图17中发现的目标区域;
图19示出了由昆虫在图17的托盘中形成并根据本实施例跟踪的轨迹;
图20示出了堆积在托盘边缘上而被阻止对堆中的各个昆虫进行分类的效果;
图21至图23示出了根据本发明的实施例的将变冷的昆虫倒在输送机上而不堆积以进行分类;
图24是示出根据本发明实施例的将昆虫倒入变冷的输送机并进行分类的过程的简化流程图。
图25是示出了根据本发明的实施例的用于将具有直立昆虫的容器壁放置在变冷的输送机上并进行分类的替代过程的简化流程图。
图26和图27分别示出了根据本发明实施例的在分类和分选线上的机器人拾取器的示意图和图像;
图28至图32是示出根据本实施例的五种不同变型或机器人拾取器的示意图;以及
图33是示出如何给根据本实施例的满载容器中的昆虫喂食的简化图。
具体实施方式
在本发明的一些实施例中,本发明涉及对蚊子的性别分选,并且更具体地但非排它地,涉及用于提供分选的雄性蚊子的方法和装置。
用于通过从未分选的蚊子中提取一类蚊子来对蚊子进行机械或机电或其它自动性别分选的方法和装置,该方法包括:获得未分选的蚊子;获得处在静止阶段中的个体蚊子的图像;将来自图像的个体电子地分类为雄性蚊子和/或雌性蚊子以及还可能是无类别对象;获得雄性蚊子类别和雌性蚊子类别中的至少一种类别的个体的坐标,以及使用机器人臂伸到由获得的坐标识别的个体以储存或移除个体,从而提供经性别分选的蚊子。
静止阶段是其中蚊子不移动或几乎不移动的任何阶段。一种可能性是当昆虫被制冷并且在墙壁上保持不动时,或者进一步制冷以落到地板上。另一种可能性是当成虫从蛹中羽化。
在详细解释本发明的至少一个实施例之前,应当理解的是,本发明在其应用方面不必限于在以下描述中所阐明的和/或在附图和/或实例中所展示的组件的构造和布置和/或方法的细节。本发明能够具有其他实施例或能够按不同方式来实践或执行。
现在参考附图,图1示出了流程图,该流程图示出了本发明的通用实施例。通过从未分选的蚊子中提取一类蚊子来对蚊子进行机械性别分选的方法可以从未分选的蚊子10开始。静止阶段比方说在作为龄期的羽化期间被识别,或通过制冷来施加12,并且蚊子在静止期间成像-14。图像用于16对个体进行分类。使用的类别可以包括雄性和其它任何类别,或雌性和其它任何类别,或雄性、雌性和其它任何类别。提供坐标18以及目标个体的性别。在某些情况下,收集雄性,而在其它情况下,移除雌性。
然后,机器人臂可以用于伸到由获得的坐标识别的个体以储存或移除所述个体,从而提供经性别分选的蚊子22。
可以使用经训练的神经网络进行分类,并且神经网络可以是传统神经网络或深度网络,包括卷积神经网络,或任何其它种类的神经网络。
经训练的神经网络可以包括四层或更多层。
在一个实施例中,获得图像14的阶段可以涉及获得和考虑单个帧。或者,可以通过生成连续帧之间的差异并使用差异来确定哪些个体处于静止阶段中而将连续帧分类在一起。因此,如果连续帧示出蚊子形状并且几乎没有变化,则暗示正在观察静止的蚊子。
连续帧分类可以涉及使用递归神经网络(RNN),如下面将更详细地讨论的。
在一个实施例中,未分选的昆虫是正在羽化的蛹,而在12处的静止阶段是成虫从蛹中出来的羽化阶段。
或者,未分选的昆虫是成虫,并且通过制冷昆虫来获得静止阶段。
昆虫在静止阶段期间不一定是绝对静止的,并且因此一个实施例使用成像来跟踪24各个昆虫的运动以更新在框18中获得的坐标,从而机器人臂移动到正确的位置。
获得用于分类的图像可以使用第一较高分辨率相机,且跟踪可以使用具有宽视场的第二较低分辨率相机。或者,可以将单个相机用于两者,只要它将足够的分辨率与足够的视野组合。
在实施例中,获得的坐标属于雄性类别,并且拾取所识别的个体并将其放置储存。机器人臂可以使用抽吸设备或鼓风设备以拾取所识别的个体并将它们放置储存。
或者,所获得的坐标属于雌性类别,并且所识别的个体被消灭或以其它方式处置。可以保留较少数量以用于培育。机器人臂可以包括用于破坏所识别的个体的灭杀器,或者可以在使用之前作为抽吸设备或鼓风机。
灭杀器可以是电极或螺线管或激光器等。
在一个实施例中,如果个体在预定时间内未被分类为雄性或雌性,则将图像发送给操作员以进行判断。或者,如果个体在预定时间内未被分类为雄性,则将其分类为雌性。
在一个实施例中,为了成像,将昆虫在具有壁的容器中制冷,使得制冷的昆虫站立在壁的内侧。然后拆解箱以呈现壁的内侧以用于成像。
现在参考图2,昆虫在具有活板门的容器30中制冷,并且活板门打开通往也保持在低温的第一移动输送机32,以允许制冷的昆虫落到输送机上。第一移动输送机将昆虫运送到相机成像系统35下的成像位置34。输送机可以在昆虫到达成像位置时停止以允许用坐标进行成像,并且然后机器人36拾取所选择的昆虫,在这种情况下通常是雌性,使得雄性从输送机的末端掉落到释放箱38中。
在一个实施例中,超出成像区域的输送机32的部分40可以是第二输送机,其从第一输送机收集蚊子,并然后更慢地行进到填充区域。
第一移动输送机32可以是相对快速移动的输送机,其中速度使掉落的蚊子散开,使得昆虫不会堆积和扰乱成像。第一移动输送机32可以倒在第二移动输送机40上,第二移动输送机是相对慢速移动的输送机。
更详细地,本实施例提供用于蚊子的自动或半自动检测和分类的技术。
为了能够对蚊子进行良好的分类和选择,识别的蚊子需要处于供其可以被识别为个体并且清楚地看到的位置,并且然后其应该保持相对静止并且当然不应在分类和可以在分选过程中拾取或移除的时间之间飞离。
两个不同的实施例以不同方式提供这些特性。
第一实施例使用制冷来使空气变冷,使得蚊子不移动,并然后进行分类。在实施例中,温度降低至约6至12摄氏度,其足够低以使得蚊子不会飞,但其足够高以使它们继续站立,而不是落在地板上并且彼此混杂在一起。
同一实施例的变型进一步降低温度,或者使笼在先前的制冷水平下摇动,从而将蚊子震落在地板上。
第二实施例使用一种系统,该系统大约在羽化阶段监视蛹托盘,并利用此事实,即在成蚊完全羽化之前已经可以在视觉上识别出蚊子性别。此时,蚊子静止或几乎静止几分钟,从而提供足够的时间来检测、分类并然后进行选择。此种系统由带有水的蛹托盘、蛹和视觉系统制成。如将讨论的,图像分类的不同方法适用于不同的实施例,并且这些方法包括传统的神经网络以及卷积网络和涉及深度学习的其它网络。
本实施例可以基于分类过程自动分选和处理成虫,以在释放盒中提供分选的昆虫。
本实施例可以处理雄性以供选择和进一步使用,而将雌性留下,或处理雌性并将它们移除,留下雄性以供进一步使用。
机器人系统可以潜在地从检测和分类系统接收优先级列表,指示其首先处理哪只蚊子,如下面将更详细描述的。
一个实施例可以包括在内部具有水和蛹的蛹托盘。
可以进一步提供视觉传感器,以在蚊子羽化时检测和分类蚊子。
可选地,笼具有围绕蛹托盘的网,以防止任何羽化的蚊子逃逸到外面。
机器人系统可以包含用于处理个体蚊子的臂和处理工具。机器人系统还包括控制器,以用于接收坐标并引导机器人臂和处理工具移动到那些坐标。这些运动可以在X-Y-Z轴上,从而为处理工具提供能够伸到成蚊所站立的表面前方的所有区域的能力。
在一个实施例中,处理工具可以包括抽吸管和具有控制器的电动机。对于直径为约6至12mm的管直径,抽吸可以是约3至8米/秒。较大的管子是可能的,但是其可能吸入不仅仅是所选择的目标蚊子,从而破坏了系统的选择能力。
处理工具行进到蚊子X-Y位置,并且抽吸管沿着Z轴下降以与蚊子相遇。
现在参考图3和图4,其示出了具有水的蛹托盘位于保持机器人臂的框架下方的原型。如图3和图4所示,接近传感器50可以位于蛹托盘52上方以作为安全措施而感测与水面的距离。相同或另一个传感器可以跟随抽吸管54,抽吸管由机器人臂56操作以确保其伸到距蚊子约0.5cm的距离处,或距水面约1cm的距离处。也就是说,传感器提供关于抽吸管位置的反馈以进行正确的致动。
现在参考图6,该图是示出吸管62和电动机控制器64的示意图。管在托盘66的区域上方移动。一旦抽吸管在蚊子坐标上方,操作抽吸以拾取所选择的蚊子,蚊子行进到诸如图5所示的储存盒58。然后,蚊子60进入盒。
以这种方式,选择羽化的雄性蚊子并将其放入释放盒中。
为了维护种群,可以将选定的雌性和雄性一起转移并喷吹到饲养笼,以保持饲养种群的规模。如果需要,也可以通过转移到用于消除的雌性笼中消除雌性。
随着蚊子被逐一吸入,可以连续监测装入每个释放盒或装入饲养笼中的蚊子数量。图7示出了装满的释放盒70。
在另一个实施例中,代替吸入雌性蚊子,激光器模块可以射出激光束并杀死雌性蚊子,激光器模块可以设置为具有坐标。在该实施例中,激光束通过由检测和分类过程提供的坐标被导向雌性蚊子。
术语“消灭”在本文中用于描述杀死雌性蚊子的不同方式,包括此种使用激光束。
在另一个实施例中,替代于抽吸雄性,可以等到它们飞起。在这种情况下,有两种选择:
在第一选择中,将蛹托盘放在笼内。
雌性被提取或由机器人引导的灭杀器或激光束或其它类型的灭杀器(例如电击昆虫的电极,或在被触发时将雌性蚊子推入水中以使得淹死的螺线管)消灭。
然后可以留下雄性进入笼。
在这个过程结束时,我们的想法是存在没有蛹的蛹托盘和只有雄性的笼。
机器人灭杀器放置在笼的内部,这需要足够大的笼,或者每次视觉传感器将蚊子分类为雌性蚊子时,灭杀器可以通过开口进入。
视觉系统放置在为传感器提供所需的分辨率的距离处,无论其是在蛹盘正上方,还是在笼上方,该笼具有透明屋顶和放大功能。
典型的相机分辨率可能是500万像素,也就是说,使用2000×2500像素的传感器。如果视野是长度为30厘米的区域,则除以尺寸并获得每毫米的像素数。本实施例可以沿着蚊子的区别特征的长度具有至少两个到三个像素。因此将相机与托盘的距离和传感器上的像素数进行连接以提供灵敏度。
现在参考图8,其示出了第二选择。在蛹托盘80上方存在用于将羽化的蚊子引向释放盒的管82。以这种方式,从单个蛹托盘中羽化的许多蚊子可以通过管道被引导朝向释放盒。一旦系统识别出转移到该盒中的蚊子数量已达到所需数量,则可以切换该机构以开始对下一个盒的填充。例如,这可以通过移开填充满的盒并且在主管道的出口下方引入待填充的新释放盒来实现。
为了主动引导盒,可以将空气流引入管道以支持将蚊子沿着管道朝向主管道移动,并然后移动到释放盒。
现在参考图9,在运行检测和分类过程之后,抽吸单元90可以放置在托盘92中的所识别昆虫的由相机(未示出)提供的正确坐标的上方。具有气流的引导管道93导向释放盒94。
释放盒94具有开口,其中在从外部推动时,引导管道93可以进入释放盒而不会让蚊子逃逸到外部。
在原型中,羽化过程示出为花费大约3至5分钟,并且在蚊子完全羽化成具有其所有6条腿之后,它通常会在水上静止至少3分多钟。有些蚊子在3分钟后行走,有些蚊子在15分钟后或更长时间后行走或飞走。
每个帧的检测和分类示出为持续约0.5至1.5秒,其平均为1秒。
为了伸到蚊子的坐标,机器人灭杀器需要移动的距离为约数几十厘米。实现此所需的时间为约2秒,包括抽吸。分类过程可以与机器人操作并行地继续,因此,在机器人臂朝向蚊子移动的同时,算法已经对下一个进行分类,并且因此蚊子之间的总周期是2秒。这意味着超过24小时,机器人可以分选大约43000只蚊子。可以决定每24小时使用新鲜的板来提高生产率。因此,对于5M只蚊子的日分选生产率(或每周35M),需要大约116个机器人系统。
如今,在该尺寸和范程内的单个机器人的成本为约5000欧元,从而使得对于每周生产率为3500万只蚊子的设施的自动分选设备而言,总成本为约50万欧元。这比为了手动达到相同速率所需的数百个人要实惠得多。
在开头所述的第二主要实施例中,该系统包括:制冷单元,其能够以1摄氏度的分辨率将温度降低至6至12摄氏度;笼,该笼具有未分选的成蚊;机器人系统,其包括灭杀器和用于沿蚊笼的侧面和自上而下移动的机制,优选从笼的外侧移动。
该方法包括制冷温度并等待五分钟,直到蚊子停止飞行而是靠在笼壁上。
对蚊子进行检测和分类,并且对于个体蚊子,输出性别。如果因为分类表明需要收集或消灭蚊子而需要机器人,则提供输出,从而给出墙壁上的坐标和性别。
视觉传感器(通常是相机)沿着笼边放置以覆盖所有壁。或者,可以使用多个相机。
一旦雌性蚊子被分类,激光束在雌性蚊子坐标处杀死蚊子,或者,将抽吸管带到坐标以通过网吸入雌性蚊子。在那种情况下,抽吸力将高于目标是从蛹阶段羽化的成蚊的先前实施例中的抽吸力。通常速度可以在约20m/s的范围内,以便能够克服蚊子紧贴笼壁的努力。在另一个实施例中,抽吸单元灭杀器可以放置在笼内。
现在参考图10和图11,蚊子100在外壳102中,其被制冷到大约8度。在温度降低后,蚊子显得紧贴箱壁。可以很容易地看到明显的性别特征,并且可以对蚊子进行分类。图12并排示出了雄性和雌性蚊子,并且示出了两者之间的视觉差异。具体而言,在雄性中,触角是浓密的,下颚须更长,并且喙也更长。在雌性中,触角是光滑的,并且下颚须和喙都较短。
以下涉及一种自动检测蚊子和将其分类为雄性和雌性的方法,并且在从蛹羽化的情况下进行描述,但是也适用于在寒冷条件下成像。
对于半自动版本,系统可以向操作员发出关于其发现的信号以用于决策。
除了分类之外,系统可以向机器人控制器提供分类的蚊子的坐标以根据本文提到的任何选项工作,诸如引导抽吸管并抽吸蚊子以将其转移到盒,用激光束杀死蚊子等。
这个概念主要针对蚊子,但也可以适用于其它应用,在该其它应用中涉及昆虫饲养,需要进行性别分选,并且存在独特的可见模式,该模式可以以与本申请中提出的方法类似的方式成为计算机视觉算法的目标。
在下文中,我们参考其中蚊子羽化的版本来描述本实施例,但是相同的细节适用于降低温度,加以必要的修正。
相同的算法和方法适用于在寒冷条件下进行检测和分类,但存在差异。在寒冷的条件下:[1]没有必须捕获的羽化过程,[2]没有优先次序,因为没有羽化,[3]背景具有较少的视觉噪声(蛹壳、水面),这提高了常规性能(达到阳性结果的速度)。
当蚊子取向诸如图12中所示时,只要蚊子和位于上方的直接视觉传感器之间存在视线,则容易注意到这些特征。
如所建议的,实现这一点可以是在温度较低时,蚊子紧贴在壁上,或者在羽化过程中。
羽化过程需要几分钟(大约3至5分钟,可能有例外),直到蚊子从其蛹中出来,并然后它可能继续站在水面上。也就是说,羽化的蚊子可能会略微行走,但通常不会太多。通常,羽化的蚊子仍然保持静止持续附加的几分钟来硬化和干燥其外骨骼。在所有这段时间内,由于它几乎不移动,其取向对于从上方观察它的视觉系统而言相同。
图13和14是在充满蛹的托盘中从蛹中羽化的昆虫的实际图像。图13示出了雄性,而图14示出了雌性。
输出是为操作员或机器人控制器提供的分类蚊子的坐标。
该系统可包括蛹托盘。如在上述第二实施例中那样,存在用于制冷至6至12摄氏度的制冷单元,并且还可以提供用于被震落的蚊子的表面。
诸如相机、控制器单元和软件的视觉系统可以获取蚊子的一系列连续帧,以便检测分类和/或跟踪其位置。
由于蚊子可以以不同方式定向,并且在背景中存在一些视觉噪声,因此实施例可以使用基于卷积神经网络的深度学习方法来检测和分类蚊子性别。
在另一个实施例中,可以使用来自经典图像处理的方法来执行图像的预处理,诸如获得轮廓等。然后,向深度学习提供处理结果。
视觉模块可以处理分开且独立地拍摄多个帧中的每一个帧。或者,可以一起使用后续帧以使问题的顺序形式可用,并将输入视为视频。然而,通常认为:对于视频处理,将单个图像处理模块包装在RNN架构中可以获得更好的结果。
本实施例可以在蛹托盘上方包含一个或两个相机,其中预期成蚊将在任何时刻出现在托盘上,也可以提供具有激光器或任何其它灭杀器的机器人臂,其可以在根据算法集合给出的蚊子坐标上执行操作。
该算法集合可以在图像和物理世界中找到蚊子从蛹中羽化的地方,并且然后可以随时间跟踪其位置。
高分辨率相机可以寻找蚊子的特别标识性别的特征,例如触角区域。此外,可能需要低分辨率相机进行跟踪。或者,如果在相机视场(FOV)内覆盖跟踪区域,则可以提供单个相机以进行检测分类和跟踪。
用于成像和定位的输入是:来自托盘上部投影的连续序列图像,其中蚊子和蛹在托盘内的水中。
要求可能是:
“在任何特定时刻找到捕获的托盘中所有雌性蚊子的真实世界坐标”。
在这种情况下,对象将被分类为雌性或“其他”(雄性或蛹或其它视觉噪声)。这对于质量控制或仅需要提取雌性时可能是有效的。可以使用下面的算法细分并定义不同的目的-“在任何特定时刻找到捕获的托盘中所有雄性蚊子的真实世界坐标”,或者进一步“在任何特定时刻找到捕获的托盘中的所有雄性蚊子和雌性蚊子的真实世界坐标”。
为了此目的,我们可以使用以下功能:
1)相机校准(一次用于系统设置,并且在维护期间根据需要校准等)
2)检测每只蚊子的ROI(目标区域)
3)对每只蚊子的性别进行分类
4)对蚊子进行优先排序
5)跟踪每个已分类的雌性蚊子
6)将像素坐标系转换为真实世界坐标系
现在参考图15,该图是描述成像和定位流程的框图,其中假设使用两个相机;一个用于检测分类(也称为高分辨率相机)以及另一个具有较大的FOV以用于跟踪(也称为低分辨率相机)。
在框110中,获得高分辨率帧。在框112中,执行检测和分类。在框114中,为相机和机器人参考帧拍摄和转换坐标。在框116中,获得低分辨率帧,以及在框118中,执行跟踪以更新坐标。
可以重复布局以匹配具有更多托盘或相机的布局。均在托盘的一部分上观察的少数相机可以共同进行跟踪。
在系统设置时,存在相机校准过程,以便能够找到像素的坐标系和物理坐标系之间的转换。
如果系统包括两个相机,例如如上所述的高分辨率相机和低分辨率相机,则可以从每个相机的校准参数导出每个相机之间的校准。
使用棋盘或其它图案的相机校准是已知的,并且提供此类已知方法作为示例:
“A Flexible New Technique for Camera Calibration”,Zhengyou Zhang,1998年,微软(www(dot)microsoft(dot)com/en-us/research/publication/a-flexible-new-technique-for-camera-calibration/)。
“A Four-step Camera Calibration Procedure with Implicit ImageCorrection”,Janne Heikkila和Olli Silven,芬兰奥卢大学。
算法的实现是常识,并且示例代码是公开可用的。
在相机校准中,存在被分为外在参数(取向和位置)和内在参数(主要是光学参数)的模型。具有所有这些参数允许在图像坐标系和真实世界坐标系之间进行转换。
通过捕获棋盘的各种取向的若干图片或其它易于检测的图案来完成校准。通过图片的每个图片中的相应检测点或标记点,可以将优化过程转换为正确的相机模型参数。
一旦获得了转换参数(内在参数和外在参数),我们就可以将蚊子位置转换为物理位置以供机械系统工作。
由于相机在机械上是稳定的,因此校准过程只进行一次(或者出于维护原因,每隔数月或数年进行)。
通过使用两个相机并获得用于每个相机的转换参数,我们计算两个相机的像素坐标系之间的转换。然后,我们可以使用来自高分辨率相机的坐标并将它们转换成低分辨率相机以用于跟踪算法,并输出它们用于机械灭杀器或用于其中要找到分类蚊子的人类操作员的精准定位。
校准的准确度是用于跟踪算法和机械加农炮的系统参数。
可以通过以下算法中的任何算法联合解决检测(寻找蚊子在图像中的位置的任务)和分类(确定它是哪个性别的任务):
Sing Shot Multibox Detector(单发多框检测器)(https://arxiv(dot)org/abs/1512.02325,作者:Wei Liul,Dragomir Anguelov2,Dumitru Erhan3,ChristianSzegedy3,Scott Reed4,Cheng-Yang Ful,Alexander C.Bergl,UNC Chapel Hill 2 Zoox公司3 Google公司4密歇根大学安娜堡主校区)。
Faster(更快)rcnn:www(dot)arxiv(dot)org/abs/1506.01497("Faster R-CNN:Towards Real-Time Object Detection with Region Proposal Networks”,作者:Shaoqing Ren,Kaiming He,Ross Girshick,和Jian Sun)。
Yolo:www(dot)pjreddie(dot)com/media/files/papers/yolo(dot)pdf。
这些类型的算法可以训练网络,该网络是RPN(区域提议网络)和共享相同卷积特征的分类网络的组合。RPN提出了包含具有高概率的对象的各种边界框,并且这种方式实际上告知了分类网络在图像中查看的位置。可以训练分类网络以确定对象属于哪个类别。
在本实施例中,关于蚊子的检测分类,我们可以将可能的类别定义为雄性\雌性\无或仅雌性\无或仅雄性\无。为了训练网络,我们可以收集包含雄性和雌性蚊子的大量标签的图片。
例如,为了训练仅一个类别,例如雌性,我们可以为网络提供雄性图片或非雌性类别的背景图片。通过这种方式,网络可以训练以寻找雌性的相关属性而不是蚊子的对雄性和雌性共有的一般属性。
背景图片可以是清水、或蛹、或性别尚不能确定的蚊子。
可以改变这些算法中的每一个算法中的分类网,并且我们可以使用迁移学习作为微调或作为特征向量,这可以使用诸如Alexnet、VGG和Inception的网来完成。
在这些示例中描述迁移学习:
“ImageNet Classification with Deep Convolutional Neural Networks”,Alex Krizhevsky,Ilya Sutskever,Geoffrey E.Hinton (www(dot)papers(dot)nips(dot)cc/paper/4824-imagenet-classification-with-deep-con volutional-neural-networks(dot)pdf)。
“VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION”Karen Simonyan&Andrew Zisserman (www(dot)arxiv(dot)org/pdf/1409.1556v6(dot)pdf)。
单个图像的检测和分类的输出是矩形(ROI)列表以及关于它们中的每一只蚊子是否是雌性蚊子的对应概率,或者该对象属于类别中的每个类别的一般概率。此输出是向量列表(X_i,Y_i,W_i,H_i,[P_i_l,...P_i_n])
其中:I是ROI检测到的索引,以及n是类别的数量:
(X_i,Y_i)=是检测到的ROI在图像中所处的坐标;
(W_i,H_i)=是检测到的ROI的宽度和高度;以及
(P_i_l,P_i_2,...P_i_n)是ROI中的对象属于类别中的每个类别的概率列表。
现在参考图16,其示出了蛹托盘和正在羽化的成蚊。示出了针对两个类别和5个检测到的昆虫的检测和分类算法的结果。应注意,每个类别都有概率。
可能的网络配置可以是RNN(循环神经网络),该网络是存储状态和根据其当前状态进行不同分类的网络。
我们提出的架构适用于单个图像。众所周知,在视频处理中,使用RNN架构是有利的。以这种方式,在蚊子完全出现之前拍摄的图像的连续性影响它将是雄性或雌性的概率。来自每个帧的累积的附加知识增加了正分类的概率。
相关方法:
www(dot)cv-
foundation(dot)org/openaccess/content_cvpr_2015/papers/Ng_Beyond_Short_Snippets_2015_C VPR_paper(dot)pdf。
www(dot)static(dot)googleusercontent(dot)com/media/research.google(dot)corn/en//pubs/archive/42455(dot)pdf。
进一步的实现还使用先前帧来处理当前帧,并因此属于使用视频作为输入的标题。
在该实现中,由于相机稳定,并且蛹几乎不移动,因此仅相邻帧的羽化区域发生变化。因此,我们能够检测羽化时刻以用于优先次序,这将在下面更详细地讨论。可以通过向RPN的损失函数添加期限来使用此类知识,其描述了连续图像帧之间的增量,进而描述了图像或特征空间的L2度量。换句话说,该实施例处罚了其中存在很小的变化的检测结果,并且对于其中存在高变化的检测结果激励RPN。
在羽化阶段,出现蚊子停止改变其形状的时间点,此点可以根据羽化的开始到结束的平均或最长时间确认,或者从蚊子的六只腿离开蛹的时刻确认。
一种方法是确定图像ROI开始更快地改变的时间,比方说,使用相邻图像L2增量上的阈值。该方法是可行的,因为蛹图像在羽化过程开始之前是稳定的,到达羽化阶段的较老的蛹几乎不在水中移动。蛹托盘可能已根据化蛹日期(从幼虫转变为蛹)进行分选和标记。
第二种方法是训练分类网络以在两个以上的类别(即雄性和雌性)之间进行分类,并且替代地使用四个或更多类别:年轻雄性、成年雄性、年轻雌性和成年雌性。年轻雄性或雌性类别被定义为尚未完全看到其腿的那些蚊子,以及成年雄性或雌性是其身体完全暴露的那些蚊子。使用这种方法,类别的数量可以扩展到四个以上,以便更精细地区分不同水平的羽化。
系统可以在存储器中存储所有羽化的蚊子的实例及其时刻(根据上述规则),并然后根据FIFO队列(先羽化,先处理)提供下一个要处理的蚊子。
神经网络的训练过程是可以使用大型标记数据库执行一次的过程。影响良好训练的多个因素有:选择激活函数,选择优化模型,如何初始化网的权重,确定超参数,丢失,数据增强等等。
良好训练过程的结果是神经网络权重的最终值集合,其然后可以用于对图像进行分类。
在训练数据库上使用经训练的网络可以给出自所需的羽化开始至到达成功分类的时间。
例如,可按90%概率将从羽化开始到性别分类的平均帧数(给定恒定帧速率)认知为250帧(以每秒2帧的速率)。可以在训练过程期间收集的该信息可以在之后为机器人系统服务,以知道对分类的蚊子进行操作还剩多少时间。
图17是典型的输入图像,其中可以看到许多蛹并且需要寻找目标区域。
图18示出了在图17中发现的目标区域,并且该目标区域包含需要分类的成蚊。
如果提供的话,可以使用较低分辨率的相机来执行跟踪。
一旦完全羽化,蚊子可能在表面上行进并且建议跟踪以为操作员/机器人处理工具提供正确的坐标。
跟踪算法利用包含常见速度和加速度的运动模型的信息来惩罚\激励下一帧中目标的可能位置。使用跟踪,可以补偿目标检测的部分遮蔽或错误。
用于跟踪算法的跟踪参数可以包括:
蚊子的平均/最大速度;
蚊子的平均/最大加速度;
平均/最大移动持续时间;
运动的角速度;
运动的角加速度;
用于将所有空间单位转换为像素单位的相机参数,诸如焦距、相机距离托盘的距离、相机取向;以及
避免移动对象模糊的相机曝光时间。
可以使用的现有跟踪算法是基于卡尔曼滤波器的跟踪算法。
图19示出了昆虫117和由昆虫117遵循的轨迹119。
诸如图17至图19所示的蛹托盘包含蛹和水。视觉传感器可以从托盘捕获帧,并且深度学习算法使用该帧来对正在羽化的蚊子进行检测-分类。然后,如果蚊子移动,跟踪算法跟踪蚊子。然后可选地,可以在半自动过程中将坐标发送给操作员,或者可以将跟踪的坐标发送到机器人系统以执行蚊子的抽吸或用激光束或其它方式杀死蚊子。
替代实施例可以对昆虫起作用,因为它们被加热并慢慢变得活跃。该实施例可以包括将储存蚊子的空气制冷到6至12度的温度,使得蚊子休息,几乎不移动,但不落在地面上。或者,温度可以设定为低于6度,使得蚊子在地板上不动。
然后,视觉传感器在具有寒冷的和不动的蚊子的笼或板上操作。如在先前的实施例中,可以基于深度学习的视觉算法可以对蚊子进行检测-分类。如果温度高于6度,则可能需要跟踪,因为蚊子确实有些移动。在低于6度的温度下,没有运动,并且不需要跟踪。
如果仅训练一个类别(例如雌性),我们可以为网络提供雄性图片或非雌性类别的背景图片。通过这种方式,网络可以训练以寻找雌性的相关属性而不是蚊子的对雄性和雌性共有的一般属性。这可以创建更高效的网络。
一个实施例可以在相同的帧上并行运行两个网络-一个网络仅对雌性进行分类,而第二个网络仅对雄性进行分类。
如上所述,替代于处理单个帧,使用视频可能具有优势。
如果使用视频,则可能的网络配置是RNN(循环神经网络),该网络是存储状态并且根据其当前状态进行不同分类的网络。在蚊子完全出现之前拍摄的图像的连续性影响它将是雄性或雌性的概率。来自每个帧的累积的附加知识增加了正分类的概率。
系统可能能够识别,即检测正在羽化的蚊子以及它在羽化过程中所处的位置,也就是说,系统可以识别蚊子首次完全羽化的时间点。可以使用的度量包括从羽化开始的平均时间。或者,可以使用对羽化过程的一部分的视觉分类。该结果用于将当前羽化的蚊子输入机器人系统的队列中,然后该机器人系统可以按顺序处理。
为了将检测和分选过程扩大到较大的量,自动系统可以连续地向视觉系统供应蚊子,但是蚊子应该处于可以清楚地对它们进行成像的状态。因此,蚊子应该彼此分开,或者至少不是一个在另一个之上,使得视觉系统能够识别个体蚊子的独特性别特征,并且提供关于对象是否是蚊子的答案,以及其是雄性蚊子或雌性蚊子的答案。
然而,为了增加系统的产量,每单位时间可以有大量的蚊子通过视觉系统。
然而,如果提取具有大量蚊子的储存室并仅降低温度直到蚊子变得不动,那么就只能形成无法区分的蚊子的堆积。图20示出了一板亚洲虎蚊子,其中温度降低到8摄氏度以下,并且蚊子已经形成了堆积,其中不能对个体进行分类。
这里,我们很容易注意到此情况,其中对于蚊子不是一个在另一个上面的中间区域122,很容易识别蚊子,以及它们的性别,但是在边缘处,以120例示,我们看到成堆的蚊子,对其不可能识别出单个蚊子及其性别。
在下文中,我们提供了两个实施例以用于连续供应蚊子而不将一个蚊子堆叠在另一个上面。
第一实施例包括:
a.制冷系统;
b.蚊子储存室;
c.运送机制,其将蚊子向前移动;
d.具有控制器的视觉系统。控制器可以连接到输送机以在需要时停止并提供坐标;
e.抽吸或鼓吹的拾取和放置机器人。例如,其可以包括普通的抽吸移管或电动空气泵或可以用作吹气或相反地用作抽吸设备的鼓风机。机器人可以抽吸雄性蚊子或雌性蚊子。或者,诸如激光束的灭杀器可以以杀死蚊子的任何其它方式刺穿或提取雌性蚊子。
在该实施例中,降低温度以使得蚊子落到下面的地板上。然而,地板在移动,因为地板是移动的输送机,并因此不会发生堆积。
图21示出了蚊子从容器130落到移动的输送机132上,其中输送机的运动用于确保蚊子散开并且不堆积。在右侧是传感器134,其用于从上方识别蚊子。
一种变型是制冷蚊子,使得它们落成堆积,并然后打开下面的活板门通向移动的输送机上。这在图22和图23中示出。图22示出了没有任何蚊子的带140,以及图23示出了在活板门142打开后供蚊子落到上面的带。
在图23中,储存活板门打开,并且蚊子在输送机移动时下落,并且如图所示,蚊子在输送机上分散。
程序如图24的流程图所示。
a.蚊子储存室如上所述保持在低温-150。
b.储存室内的蚊子现在被震落-152。
c.然后,可以通过将蚊子直接倒在输送机上而将蚊子转移到输送机上-154。可以在输送机移动的同时进行转移以确保分散。通过直接从储存室中倒出蚊子或使用另一个物品将蚊子从储存室转移到输送机来进行转移。例如,抽吸管可以将蚊子从储存室地板吸到输送机表面上,
d.一旦将储存室的大部分或全部内容物转移到输送机上,就使另一个储存室(或室集合以便并行工作)155如此接近输送机以重复该过程。
2、输送机可以将蚊子在如上所述的寒冷条件下朝向机器人处理点移动。在实施例中,可以使用两个输送机。在此种情况下,第一输送机可能已经用于分散蚊子,并且在第一输送机的末端处,蚊子可能然后落在主输送机上,主输送机将蚊子带到机器人检查和分选站。在此种示例中,两个不同的输送机也可以以不同的速度移动。较高的速度可能有助于将蚊子分散,然后其落到次级输送机上,以便慢慢地朝向机器人站移动。
3、在检查点,顶部相机根据性别检测并分类158蚊子,如上所述。输送机控制器可以命令输送机停止移动156较短的一段时间,比方说,几秒钟,直到视觉系统算法完成对视野中的对象的检测-分类过程。输送机再次移动,并且一旦视野再次充满尚未分类的蚊子,则输送机再次停止。或者,检测分类过程可以发生在拾取机器人所处的位置的相同位置处,如下所述。在本替代中,输送机停止,拾取机器人拾取分类的蚊子,然后输送机再次移动预定距离以使另一组蚊子能够位于视觉和拾取机器人到达区域的下方。
4、可以由一个或两个相机执行接收坐标和对蚊子的跟踪。
5、拾取机器人,例如三角洲(Delta)拾取和放置机器人,接收蚊子拾取160的坐标。拾取可能如下:
a.拾取机器人保持抽吸源;
b.抽吸源吸入接近输送机的蚊子;
i.或者吸入临时抽吸管,然后在充满时将蚊子排出到释放储存单元或盒中,也就是说,当它们接收预定数量的吸入的蚊子时;
ii.或者在每次抽吸之后,将蚊子直接排出到靠近抽吸机器人定位的释放储存单元中,优选地也在寒冷条件下。
c.机器人可以计算162吸入和排出到释放箱中的蚊子的数量;
d.一旦释放储存单元已经获得一定数量的蚊子,则将释放储存箱更换为新的箱164。可以手动或自动进行更换。
第二实施例包括:
a.制冷系统;以及
b.蚊子储存室,其具有其中蚊子可能紧贴的壁。储存室可以是分离的或折叠的,使得代替箱,在将壁彼此分离之后,结果是其中蚊子紧贴的面板组。壁可以包括具有小孔的铝网。
因此,蚊子可以在不飞行的情况下呈现为在网上休息,而不是一个在另一个上面。
c.输送机或轨迹系统可以使具有蚊子的面板向前移动;
d.具有如上所述的控制器的视觉系统。控制器可以连接到输送机以在需要时停止输送机,以便将必要的坐标提供给如上所述的拾取和放置机器人;
e.如上所述的拾取和放置机器人。
现在参考图25讨论该过程,该图是示出本实施例的流程图。
最初,使用制冷系统降低温度170,使得蚊子不会在储存室中飞行,并且也不会落到储存室地板上。亚洲虎蚊子的此种温度通常低于13摄氏度,使得不能飞行,但高于4摄氏度,使昆虫能够紧贴在墙壁上-172。优选的温度高于8摄氏度。
然后将其中蚊子靠在的笼壁取出174并附接到移动的输送机或轨迹系统上。
当放置在移动元件(输送机或轨迹)上时,笼壁定向成使得蚊子停靠在顶部部分上,该顶部部分先前是储存室的内部部分,并且视觉系统以及拾取和放置机器人单元因此可以直接接触蚊子。
输送机可以向前传递壁,并且利用这些壁,蚊子在如上所述的寒冷条件下朝向机器人处理点向前传递。
在机器人处理点,顶部相机检测并分类蚊子性别-178,如上所述。由于温度足够高以允许蚊子在墙壁上行走,因此可能需要跟踪。输送机控制器可以命令输送机停止移动较短的一段时间176,比方说,几秒钟,直到视觉系统算法已经完成对视野中的对象的检测-分类过程。然后,输送机可以再次移动,并且一旦视野再次充满未分类的蚊子,输送机可以再次停止。或者,可以在拾取机器人所在的位置处进行检测分类过程,并且因此输送机可以等待拾取机器人拾取适当分类的蚊子180,然后移动预定距离以使得另一组蚊子位于视觉和拾取机器人到达区域的下方。
用于拾取蚊子的各种实施例与前述实施例中相同,并且不再重复。
如果已经分选蚊子,使得笼内只有一种性别,那么实施例可以用预定数量的蚊子装载释放箱。在此种情况下,视觉系统将只需要检测和分类单一类型的蚊子,而无需将其进一步分类为雄性或雌性。然后,如上所述,机器人可以使用抽吸将蚊子拾取和放置到释放箱中。
在实施例中,如果视觉系统不能将蚊子分类为雌性或雄性,则它可以将图像发送给操作员,该操作员可以执行分类。其它实施例可以将未识别的蚊子与雌性一起消灭。
图26和图27示出了集成到具有输送机204和206以及相机208的自动分选线202中的拾取和放置三角洲机器人200的示意图和示例。相机可以连接到视觉系统的其它组件210。
在本实施例中,根据上述实施例中的一些实施例,三角洲机器人200具有抽吸单元,然后它吸取直接躺在带上的蚊子并将它们吹入释放箱以填充箱,或者机器人可以从其中蚊子站立在的网上吸取蚊子。
现在参考图28,该图是示出识别并消灭雌性以及收集雄性的实施例的简化图。提供具有水和蛹280的容器,以及用于对正在羽化的成蚊进行成像以用于分类的相机282和用于消灭雌性的激光器284。来自风扇286的空气流通过管道288将存活的成蚊吹过相机290或计算通过的蚊子的其它传感器。容器292收集蚊子并在计数确定它已载满时换成新容器294。
现在参考图29,该图是与图28中的版本不同的实施例的简化图。这里,识别并主动地吸收雄性。与前一实施例中相同的部分被赋予相同的附图标记,并且除了理解本实施例所需的之外,不再对其进行描述。提供具有水和蛹280的容器,以及用于对正在羽化的成蚊进行成像以用于分类的相机282。抽吸管296设置在机器人臂298的端部上,以通过管道288主动吸入雄性。容器292收集蚊子并在满载时换成新容器294。
现在参考图30,该图是与图28中的版本不同的实施例的简化图。这里,雄性被留下飞行以进行收集,而雌性则被主动吸入单独的容器中。与前一实施例中相同的部分被赋予相同的附图标记,并且除了理解本实施例所需的之外,不再对其进行描述。提供具有水和蛹280的容器,以及用于对正在羽化的成蚊进行成像以用于分类的相机282。抽吸管296设置在机器人臂298的端部上,以主动地将雌性吸入容器300中。雄性飞行并进入由风扇286驱动的气流,以被驱使通过管道288经过相机290或对经过的蚊子进行计数的其它传感器。容器292收集蚊子并在计数确定它已载满时换成新容器294。
现在参考图31,该图是本发明另一实施例的简化图。与图28一样,激光器消灭雌性,而留下雄性飞入气流。与前一实施例中相同的部分被赋予相同的附图标记,并且除了理解本实施例所需的之外,不再对其进行描述。提供具有水和蛹280的容器,以及用于对正在羽化的成蚊进行成像以用于分类的相机282。激光284涉及消灭雌性。雄性被留下以飞行并进入由风扇286驱动的气流,以驱使通过管道288经过相机290或对经过的蚊子进行计数的其它传感器。容器292收集蚊子并在计数确定它已载满时换成新容器294。主动制冷管道288和容器以减慢蚊子的速度,从而可以将更多的蚊子装入单个容器中。
现在参考图32,该图是本发明另一实施例的简化图。在本实施例中,所有羽化的昆虫飞离蛹盘并被引到选择区域,在那里它们被制冷并因此被固定。然后,雄性和雌性分开。与前一实施例中相同的部分被赋予相同的附图标记,并且除了理解本实施例所需的之外,不再对其进行描述。提供具有水和蛹280的容器。所有羽化的成蚊被留下以飞行并进入由风扇286驱动的气流,以被驱使通过管道288经过相机290或对经过的蚊子进行计数的其它传感器,从而到达被制冷的选择表面310。上文制冷的选择表面310是相机282,其用于对正在羽化的成蚊进行成像,以用于分类。抽吸管296设置在机器人臂298的端部上,以通过管或管道316主动地将雄性吸入容器292中。第二抽吸管312由第二机器人臂314操作以将雌性吸入容器300中。容器292收集蚊子并在计数确定它已载满时换成新容器294。可以从相机290处的计数中减去来自第二机器人臂314的计数,以得出被引入容器292中的雄性的数量。也可以如前面一样主动制冷管道288和容器。
可以理解的是,任何前面的实施例都可以用于进行分选,并且当雄性被移除时,可以消灭雌性或将其留在原处等。
现在参考图33,该图是示出当昆虫处在容器中时如何给昆虫喂食的简化图。分选和填充站320提供充满蚊子的容器322。整个容器被转移以便储存,并且在一个表面324上具有喂食孔或喂食网。喂食机器人326将糖水或其它涂抹在表面324上以给昆虫喂食。预计在本申请成熟的专利寿命期间,将开发许多相关的机器人拾取技术、视觉技术和学习技术,并且相应术语的范围旨在包括所有此类新技术的先验。
术语“包含(comprises)”、“包含(comprising)”、“包括(includes)”、“包括(including)”“具有(having)”及其变化形式意味着“包括但不限于”。
术语“由...组成”意味着“包括但限制于”。
如本文所用,除非上下文另有明确规定,否则单数形式“一个(a)”,“一种(an)”和“该”包括复数指代物。例如,术语“化合物”或“至少一种化合物”可以包括多种化合物,包括其混合物。
应当理解,为了清楚起见而在单独实施例的上下文中描述的本发明的某些特征也可以在单个实施例中组合提供。相反,为简洁起见而在单个实施例的上下文中描述的本发明的不同特征也可以被单独的或以任何合适的子组合的方式或者作为适用于本发明的任何其他描述的实施例来提供。在不同实施例的上下文中描述的某些特征不应当被认为是这些实施例的必要特征,除非该实施例在没有这些元件的情况下不起作用。
虽然已经结合本发明的特定实施例描述了本发明,但显然,许多的替代、修改和变体对于本领域技术人员将是显而易见的。相应地,所意图的是涵盖落入所附权利要求书的精神和宽范围内的所有此类替代、修改和变体。
本说明书中提及的所有出版物、专利和专利申请均全文通过引用并入本说明书中,其程度等同于每个单独的出版物、专利或专利申请被具体和单独地被指出通过引用并入本文。另外,本申请中任何参考文献的引用或标识不应被解释为承认此种参考可用作本发明的现有技术。在使用章节标题的范围内,它们不应被解释为必需限制。
Claims (34)
1.一种通过从未分选的蚊子中提取一类蚊子来对蚊子进行机械性别分选的方法,所述方法包括:
获得所述未分选的蚊子;
获得处在静止阶段中的所述未分选的蚊子的个体的图像;
将来自所述图像的所述个体电子地分类为类别组中的至少一个成员,所述类别组包括雄性蚊子、雌性蚊子和无类别对象;
获得所述雄性蚊子类别和所述雌性蚊子类别中的至少一种类别的个体的坐标;以及
使用机器人臂伸到由所获得的坐标中的一个坐标识别的个体以储存或移除所述个体,从而提供经性别分选的蚊子。
2.根据权利要求1所述的方法,其中所述分类包括使用经训练的神经网络。
3.根据权利要求2所述的方法,其中所述经训练的神经网络包括四层或更多层。
4.根据权利要求2所述的方法,其中获得所述图像包括:获得连续帧;生成所述连续帧之间的差异;以及使用所述差异来确定哪些个体处于所述静止阶段中。
5.根据权利要求4所述的方法,其中所述分类包括使用递归神经网络(RNN)。
6.根据权利要求1所述的方法,其中所述未分选的昆虫是正在羽化的蛹,并且所述静止阶段是羽化。
7.根据权利要求1所述的方法,其中所述未分选的昆虫是成虫,并且通过将所述昆虫制冷来获得所述静止阶段。
8.根据权利要求1所述的方法,包括:跟踪各个昆虫的移动以在使用所述机器人臂之前更新相应的所获得的坐标。
9.根据权利要求8所述的方法,包括:使用第一较高分辨率相机来获得所述图像以进行分类;以及使用第二较低分辨率相机来执行所述跟踪。
10.根据前述权利要求中任一项所述的方法,其中所获得的坐标属于雄性类别,并且所识别的个体被拾取并放置储存。
11.根据权利要求10所述的方法,其中所述机器人臂包括抽吸设备或鼓风设备以拾取所识别的个体并将其放置储存。
12.根据权利要求1至10中任一项所述的方法,其中所获得的坐标属于雌性类别,并且所识别的个体被消灭。
13.根据权利要求12所述的方法,其中所述机器人臂包括用于消灭所识别的个体的灭杀器。
14.根据权利要求13所述的方法,其中所述灭杀器是包括电极和激光器的组中的一个成员。
15.根据前述权利要求中任一项所述的方法,其中如果个体在预定时间内未被分类为雄性或雌性,则将所述图像发送给操作员。
16.根据权利要求1至15中任一项所述的方法,其中如果个体在预定时间内未被分类为雄性,则将其分类为雌性。
17.根据权利要求7所述的方法,其中在具有壁的容器中将所述昆虫制冷,使得所制冷的昆虫站立在所述壁的内侧,所述方法包括:拆解所述容器以呈现所述壁的所述内侧以便获得所述图像。
18.根据权利要求7所述的方法,其中在具有活板门的容器中将所述昆虫制冷,并且所述活板门打开通往第一移动输送机,以允许所制冷的昆虫落下穿过,所述第一移动输送机将所述昆虫运送到成像位置以用于获得所述图像,并且所述输送机在昆虫位于所述成像位置处的情况下停止以获得所述坐标。
19.根据权利要求18所述的方法,其中所述第一移动输送机是相对快速移动的输送机,从而防止昆虫堆积扰乱成像,其中所获得的坐标属于雌性类别,使得雄性昆虫保留在所述输送机上,所述第一移动输送机倒在第二移动输送机上,所述第二移动输送机是相对缓慢移动的输送机,所述相对缓慢移动的输送机输送所保留的昆虫以将其放置在储存盒中。
20.一种通过从未分选的蚊子中提取一类蚊子来对蚊子进行机械性别分选的装置,所述装置包括:
未分选的蚊子的来源;
相机,其配置成找到处在静止阶段中的蚊子的个体并获得所述个体的图像和坐标;
分类器,其配置成将来自所述图像的所述个体电子地分类为类别组中的至少一个成员,所述类别组包括雄性蚊子、雌性蚊子和无类别对象;以及
机器人臂,其连接到所述分类器并且配置成伸到由所获得的坐标中的一个坐标识别的个体以储存或移除所述个体,从而提供经性别分选的蚊子。
21.根据权利要求20所述的装置,其中所述分类器包括经训练的神经网络。
22.根据权利要求21所述的装置,其中所述经训练的神经网络包括四层或更多层。
23.根据权利要求20至22中任一项所述的装置,其中相机配置成获得连续帧,并且附接到所述相机的处理器生成所述连续帧之间的差异帧,并且使用所述差异帧来确定哪些个体处于所述静止阶段中。
24.根据权利要求23所述的装置,其中所述分类器配置有递归神经网络(RNN)。
25.根据权利要求20至24中任一项所述的装置,其中所述未分选的昆虫是正在羽化的蛹,并且所述静止阶段是羽化。
26.根据权利要求20至24中任一项所述的装置,还包括制冷器,并且其中所述未分选的昆虫是成虫,并且通过将所述昆虫制冷来获得所述静止阶段。
27.根据权利要求20至26中任一项所述的装置,还包括跟踪器,所述跟踪器配置成跟踪各个昆虫的移动以在使用所述机器人臂之前更新相应的所获得的坐标。
28.根据权利要求27所述的装置,其中所述相机是较高分辨率相机,并且所述跟踪器是第二较低分辨率相机。
29.根据权利要求20至28中任一项所述的装置,其中所述机器人臂包括抽吸设备或鼓风设备以拾取所识别的个体并将其放置储存。
30.根据权利要求20至28中任一项所述的装置,其中所述机器人臂包括用于消灭所识别的个体的灭杀器。
31.根据权利要求30所述的装置,其中所述灭杀器是包括电极、螺线管和激光器的组中的一个成员。
32.根据权利要求20至31中任一项所述的装置,包括容器,所述容器具有与制冷器相关联的可拆卸壁,其中在所述容器中将所述昆虫制冷,使得所制冷的昆虫站立在所述壁的内侧,并且所述容器可拆解以呈现所述壁的所述内侧以用于获得所述图像。
33.根据权利要求20至31中任一项所述的装置,其包括第一移动输送机和容器,所述第一移动输送机通向所述相机和所述机器人,且所述容器具有活板门和制冷器,其中在所述容器中将所述昆虫制冷,并且所述活板门打开通往第一移动输送机,以允许所制冷的昆虫落下穿过,所述第一移动输送机将所述昆虫运送到所述相机下方的成像位置以获得所述图像,并且所述输送机配置成在昆虫位于所述成像位置处的情况下停止以获得所述坐标。
34.根据权利要求33所述的装置,其还包括第二移动输送机和储存盒,其中所述第一移动输送机是相对快速移动的输送机,从而防止昆虫堆积扰乱成像,其中所获得的坐标属于雌性类别,使得雄性昆虫保留在所述输送机上,所述第一移动输送机配置成倒到所述第二移动输送机上,所述第二移动输送机是相对缓慢移动的输送机,所述第二移动输送机配置成输送所保留的昆虫以将其放置在储存盒中。
Applications Claiming Priority (9)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201762449050P | 2017-01-22 | 2017-01-22 | |
US62/449,050 | 2017-01-22 | ||
US201762458065P | 2017-02-13 | 2017-02-13 | |
US62/458,065 | 2017-02-13 | ||
US201762529057P | 2017-07-06 | 2017-07-06 | |
US62/529,057 | 2017-07-06 | ||
US201762533242P | 2017-07-17 | 2017-07-17 | |
US62/533,242 | 2017-07-17 | ||
PCT/IL2018/050081 WO2018134829A1 (en) | 2017-01-22 | 2018-01-22 | Method for sex sorting of mosquitoes and apparatus therefor |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110191635A true CN110191635A (zh) | 2019-08-30 |
CN110191635B CN110191635B (zh) | 2022-03-15 |
Family
ID=61163762
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201880007586.0A Active CN110191635B (zh) | 2017-01-22 | 2018-01-22 | 用于对蚊子进行性别分选的方法及其装置 |
CN201880017616.6A Active CN110430751B (zh) | 2017-01-22 | 2018-01-22 | 自动处理和分选昆虫以用于生长和释放的装置和方法 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201880017616.6A Active CN110430751B (zh) | 2017-01-22 | 2018-01-22 | 自动处理和分选昆虫以用于生长和释放的装置和方法 |
Country Status (10)
Country | Link |
---|---|
US (4) | US11950579B2 (zh) |
EP (2) | EP3570665A2 (zh) |
CN (2) | CN110191635B (zh) |
AU (2) | AU2018209481B2 (zh) |
BR (2) | BR112019014513B1 (zh) |
ES (1) | ES2875464T3 (zh) |
MX (1) | MX2019008711A (zh) |
SG (3) | SG11201906521UA (zh) |
WO (2) | WO2018134828A2 (zh) |
ZA (1) | ZA201907691B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111280115A (zh) * | 2020-04-09 | 2020-06-16 | 浙江省海洋水产养殖研究所 | 一种基于声音诱导反馈的鱼类状态识别装置及应用方法 |
Families Citing this family (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
AU2017221510A1 (en) * | 2016-02-18 | 2018-08-30 | Happier Camper, Inc. | Modular system for a room, for a living, work or storage area, or for other three-dimensional spaces |
WO2018134828A2 (en) | 2017-01-22 | 2018-07-26 | Senecio Ltd. | Automatic handling and sorting of insects for growth and release |
EP3648586A2 (en) | 2017-07-06 | 2020-05-13 | Senecio Ltd. | Method and apparatus for sex sorting of mosquitoes |
SG10201708591SA (en) * | 2017-10-19 | 2019-05-30 | Orinno Tech Pte Ltd | Pupae separator |
CN112822941B (zh) * | 2018-09-21 | 2023-04-25 | 塞纳科有限公司 | 蚊虫分类、分拣和绝育 |
CN109221023A (zh) * | 2018-10-31 | 2019-01-18 | 贵州省植物保护研究所 | 一种鳞翅目雌雄成虫自动分离装置 |
CN109601409B (zh) * | 2019-01-22 | 2021-07-06 | 武汉市万千佳兴生物科技有限公司 | 一种实验兔自动化配套设备 |
US12102058B2 (en) * | 2019-04-10 | 2024-10-01 | Beetle Genius, SPRL | Automated insect rearing facility, container, and modules |
EP3963476A1 (en) | 2019-05-03 | 2022-03-09 | Verily Life Sciences LLC | Predictive classification of insects |
WO2020240335A1 (en) * | 2019-05-24 | 2020-12-03 | Romanova Anastasiia Romanivna | Mosquito monitoring and counting system |
WO2020257561A1 (en) | 2019-06-20 | 2020-12-24 | The Trustees Of The University Of Pennsylvania | Systems and methods for automated imaging and manipulation of small animals |
EP4018372B1 (en) | 2019-08-25 | 2024-10-02 | Diptera.AI Ltd. | System and method for sex-sorting of pre-adult insects |
CN114831079B (zh) * | 2021-02-01 | 2023-08-22 | 贵州中烟工业有限责任公司 | 一种寄生蜂饲养与释放装置及方法 |
IT202100014375A1 (it) * | 2021-06-01 | 2022-12-01 | Claret S R L | Dispositivo per l’identificazione di insetti |
US20230077353A1 (en) * | 2021-08-31 | 2023-03-16 | University Of South Florida | Systems and Methods for Classifying Mosquitoes Based on Extracted Masks of Anatomical Components from Images |
CN114568410B (zh) * | 2021-12-14 | 2023-06-09 | 三沙国海信通科技发展有限公司 | 农田病虫害收集分析系统 |
TWI793953B (zh) * | 2022-01-03 | 2023-02-21 | 逢甲大學 | 智能小黑蚊監測管理系統 |
CN114568344B (zh) * | 2022-03-18 | 2023-07-18 | 东北农业大学 | 一种生猪养殖疫病监测设备 |
WO2023197042A1 (en) * | 2022-04-14 | 2023-10-19 | Commonwealth Scientific And Industrial Research Organisation | Sex based arthropod sorting system and method |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
SU843897A1 (ru) * | 1979-07-24 | 1981-07-07 | Ордена Трудового Красного Знамени Инсти-Тут Медицинской Паразитологии И Тропи-Ческой Медицины Им. E.И. Марциновского | Среда дл экстракции полового секретаиз пРидАТОчНыХ жЕлЕз САМцОВ KOMAPOB |
US20030188698A1 (en) * | 2002-04-09 | 2003-10-09 | Donaldson Jeffrey D. | Robotic apparatus and methods for maintaining stocks of small organisms |
US20050100532A1 (en) * | 2002-04-05 | 2005-05-12 | Sanaria, Inc. | Apparatuses and methods for the production of haematophagous organisms and parasites suitable for vaccine production |
US7275499B2 (en) * | 2005-05-17 | 2007-10-02 | Eduardo Palomino | Method and apparatus for the in-vitro evaluation of substances as mosquito repellents |
CN102340988A (zh) * | 2009-01-15 | 2012-02-01 | 脱其泰有限责任公司 | 光子栅栏 |
CN102726358A (zh) * | 2012-05-31 | 2012-10-17 | 湖北天罡投资有限公司 | 激光灭蚊器 |
CN103004719A (zh) * | 2011-09-28 | 2013-04-03 | 沈金根 | 一种高效灭蚊方法及系统 |
WO2013082700A1 (en) * | 2011-12-06 | 2013-06-13 | Maxtech Mosquito Control Inc. | Apparatus and method for reducing populations of mosquitoes and the like |
CN104872108A (zh) * | 2015-05-05 | 2015-09-02 | 叶志刚 | 一种电子驱灭蚊器 |
WO2016088129A2 (en) * | 2014-12-04 | 2016-06-09 | Senecio Ltd. | Device and method for storage transportation and release of fragile insects and other fragile items |
Family Cites Families (30)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR2558037A1 (fr) * | 1984-01-18 | 1985-07-19 | Brocard Andre | Procede pour separer des lombrics de leur litiere d'origine dans le but de les trier ulterieurement par criblage |
US6642057B1 (en) * | 1989-03-30 | 2003-11-04 | Solomon Zaromb | Methods for the detection of harmful substances or traces thereof |
CA2126425A1 (en) * | 1993-06-21 | 1994-12-22 | Jeffrey K. Brown | Electronic insect control device with airflow trapping chamber and removable collection container |
JP3681438B2 (ja) * | 1995-06-15 | 2005-08-10 | 住友化学株式会社 | 昆虫類の包装方法及び昆虫類包装装置 |
JPH11266741A (ja) * | 1998-03-19 | 1999-10-05 | Masami Ohashi | 昆虫の幼虫羽化容器 |
US7496228B2 (en) | 2003-06-13 | 2009-02-24 | Landwehr Val R | Method and system for detecting and classifying objects in images, such as insects and other arthropods |
SG152938A1 (en) | 2007-11-21 | 2009-06-29 | Erich Dollansky | Automated insect breeding system |
US9946922B2 (en) * | 2009-01-15 | 2018-04-17 | Tokitae Llc | Photonic fence |
AU2009222557B2 (en) | 2009-06-17 | 2015-06-11 | Monash University | Modified arthropod and method of use |
US20120189549A1 (en) | 2011-01-14 | 2012-07-26 | Adam Claridge-Chang | Device for automating behavioral experiments on animals |
US9053528B2 (en) | 2012-07-05 | 2015-06-09 | Bernard Fryshman | Insect and other small object image recognition and instant response |
WO2013016211A1 (en) * | 2011-07-22 | 2013-01-31 | Biomerieux, Inc. | Method and kit isolating microorganisms from culture |
TWI590193B (zh) | 2011-09-29 | 2017-07-01 | 國立清華大學 | 昆蟲影像檢測方法以及昆蟲分類流程 |
JP2013174642A (ja) | 2012-02-23 | 2013-09-05 | Toshiba Corp | 映像表示装置 |
GB2503411B (en) | 2012-03-20 | 2015-03-25 | Oxitec Ltd | Sorting apparatus for arthropods and method of use thereof |
CN203416730U (zh) * | 2013-08-22 | 2014-02-05 | 贵州博康生物工程有限公司 | 用于生产蝇蛆的装料生产线 |
CN103738512B (zh) * | 2013-12-31 | 2015-09-30 | 曹东华 | 一种药丸计数灌装机 |
US10292592B2 (en) | 2014-11-13 | 2019-05-21 | The Board Of Trustees Of The Leland Stanford Junior University | Method and apparatus for optical recording of biological parameters in freely moving animals |
TWI549608B (zh) | 2014-12-19 | 2016-09-21 | 國立高雄應用科技大學 | 捕蚊燈 |
KR101677274B1 (ko) * | 2014-12-26 | 2016-11-21 | 충남대학교산학협력단 | 곤충사육장의 온도 및 환기 제어 시스템 및 그 제어방법 |
CN104686395B (zh) * | 2015-03-19 | 2017-03-15 | 叶达华 | 带自动移虫夹的智能移虫机 |
CN204518873U (zh) * | 2015-04-20 | 2015-08-05 | 中国长江三峡集团公司 | 一种丰年虫的孵化装置 |
ES2585261B2 (es) | 2016-03-14 | 2018-10-10 | Empresa De Transformación Agraria, S.A. (Tragsa) | Dispositivo y método de eliminación selectiva de pupas |
CN105746441B (zh) * | 2016-03-18 | 2018-05-25 | 乐山师范学院 | 半水生萤火虫的室内规模化人工养殖方法 |
US11395474B2 (en) * | 2016-05-10 | 2022-07-26 | Aspire Food Group Ltd | Harvesting and incubating systems for cultivation of insects |
US10779521B2 (en) * | 2016-10-05 | 2020-09-22 | Verily Life Sciences Llc | Automated mass rearing system for insect larvae |
US10278368B1 (en) * | 2016-10-05 | 2019-05-07 | Verily Life Sciences Llc | Automated flying insect separator |
US11151423B2 (en) * | 2016-10-28 | 2021-10-19 | Verily Life Sciences Llc | Predictive models for visually classifying insects |
WO2018134828A2 (en) | 2017-01-22 | 2018-07-26 | Senecio Ltd. | Automatic handling and sorting of insects for growth and release |
EP3648586A2 (en) | 2017-07-06 | 2020-05-13 | Senecio Ltd. | Method and apparatus for sex sorting of mosquitoes |
-
2018
- 2018-01-22 WO PCT/IL2018/050080 patent/WO2018134828A2/en active Application Filing
- 2018-01-22 CN CN201880007586.0A patent/CN110191635B/zh active Active
- 2018-01-22 EP EP18703371.7A patent/EP3570665A2/en not_active Withdrawn
- 2018-01-22 WO PCT/IL2018/050081 patent/WO2018134829A1/en active Application Filing
- 2018-01-22 AU AU2018209481A patent/AU2018209481B2/en active Active
- 2018-01-22 US US16/479,648 patent/US11950579B2/en active Active
- 2018-01-22 CN CN201880017616.6A patent/CN110430751B/zh active Active
- 2018-01-22 SG SG11201906521UA patent/SG11201906521UA/en unknown
- 2018-01-22 EP EP18703860.9A patent/EP3570666B1/en active Active
- 2018-01-22 AU AU2018209480A patent/AU2018209480A1/en not_active Abandoned
- 2018-01-22 ES ES18703860T patent/ES2875464T3/es active Active
- 2018-01-22 BR BR112019014513-3A patent/BR112019014513B1/pt active IP Right Grant
- 2018-01-22 SG SG10201913960WA patent/SG10201913960WA/en unknown
- 2018-01-22 BR BR112019014757-8A patent/BR112019014757A2/pt not_active Application Discontinuation
- 2018-01-22 SG SG11201906740YA patent/SG11201906740YA/en unknown
- 2018-01-22 MX MX2019008711A patent/MX2019008711A/es unknown
- 2018-01-22 US US16/479,649 patent/US20200154686A1/en not_active Abandoned
-
2019
- 2019-11-20 ZA ZA2019/07691A patent/ZA201907691B/en unknown
-
2020
- 2020-10-11 US US17/067,694 patent/US11785926B2/en active Active
-
2023
- 2023-10-16 US US18/380,242 patent/US20240057574A1/en active Pending
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
SU843897A1 (ru) * | 1979-07-24 | 1981-07-07 | Ордена Трудового Красного Знамени Инсти-Тут Медицинской Паразитологии И Тропи-Ческой Медицины Им. E.И. Марциновского | Среда дл экстракции полового секретаиз пРидАТОчНыХ жЕлЕз САМцОВ KOMAPOB |
US20050100532A1 (en) * | 2002-04-05 | 2005-05-12 | Sanaria, Inc. | Apparatuses and methods for the production of haematophagous organisms and parasites suitable for vaccine production |
US20030188698A1 (en) * | 2002-04-09 | 2003-10-09 | Donaldson Jeffrey D. | Robotic apparatus and methods for maintaining stocks of small organisms |
US7275499B2 (en) * | 2005-05-17 | 2007-10-02 | Eduardo Palomino | Method and apparatus for the in-vitro evaluation of substances as mosquito repellents |
CN102340988A (zh) * | 2009-01-15 | 2012-02-01 | 脱其泰有限责任公司 | 光子栅栏 |
CN103004719A (zh) * | 2011-09-28 | 2013-04-03 | 沈金根 | 一种高效灭蚊方法及系统 |
WO2013082700A1 (en) * | 2011-12-06 | 2013-06-13 | Maxtech Mosquito Control Inc. | Apparatus and method for reducing populations of mosquitoes and the like |
CN102726358A (zh) * | 2012-05-31 | 2012-10-17 | 湖北天罡投资有限公司 | 激光灭蚊器 |
WO2016088129A2 (en) * | 2014-12-04 | 2016-06-09 | Senecio Ltd. | Device and method for storage transportation and release of fragile insects and other fragile items |
CN104872108A (zh) * | 2015-05-05 | 2015-09-02 | 叶志刚 | 一种电子驱灭蚊器 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111280115A (zh) * | 2020-04-09 | 2020-06-16 | 浙江省海洋水产养殖研究所 | 一种基于声音诱导反馈的鱼类状态识别装置及应用方法 |
CN111280115B (zh) * | 2020-04-09 | 2021-10-22 | 浙江省海洋水产养殖研究所 | 一种基于声音诱导反馈的鱼类状态识别装置的识别方法 |
Also Published As
Publication number | Publication date |
---|---|
EP3570665A2 (en) | 2019-11-27 |
ES2875464T3 (es) | 2021-11-10 |
US11950579B2 (en) | 2024-04-09 |
EP3570666B1 (en) | 2021-03-03 |
AU2018209480A1 (en) | 2019-08-22 |
US20240057574A1 (en) | 2024-02-22 |
EP3570666A1 (en) | 2019-11-27 |
SG10201913960WA (en) | 2020-03-30 |
CN110191635B (zh) | 2022-03-15 |
MX2019008711A (es) | 2019-12-11 |
US20200154685A1 (en) | 2020-05-21 |
BR112019014757A2 (pt) | 2020-03-03 |
AU2018209481B2 (en) | 2024-03-28 |
WO2018134828A2 (en) | 2018-07-26 |
US20210022326A1 (en) | 2021-01-28 |
BR112019014513A2 (pt) | 2020-02-18 |
BR112019014513B1 (pt) | 2023-12-26 |
US20200154686A1 (en) | 2020-05-21 |
US11785926B2 (en) | 2023-10-17 |
WO2018134828A3 (en) | 2018-10-25 |
CN110430751A (zh) | 2019-11-08 |
SG11201906521UA (en) | 2019-08-27 |
ZA201907691B (en) | 2022-03-30 |
CN110430751B (zh) | 2022-07-08 |
SG11201906740YA (en) | 2019-08-27 |
AU2018209481A1 (en) | 2019-08-08 |
WO2018134829A1 (en) | 2018-07-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110191635A (zh) | 用于对蚊子进行性别分选的方法及其装置 | |
AU2018295914B2 (en) | Method and apparatus for sex sorting of mosquitoes | |
US8253054B2 (en) | Apparatus and method for sorting plant material | |
US10178857B2 (en) | Insect singulator system | |
USRE45489E1 (en) | Automated high-throughput seed sample handling system and method | |
US10746632B2 (en) | Automated plant product sampler | |
WO2021095039A1 (en) | System and method for automated and semi-automated mosquito separation identification counting and pooling | |
CN116528669A (zh) | 昆虫监测系统及方法 | |
EP3998585A1 (en) | Method and system for optical yield measurement of a standing crop in a field | |
EP3994973A1 (en) | Method and system for optical yield measurement of a standing crop in a field | |
CN112822941B (zh) | 蚊虫分类、分拣和绝育 | |
Rahman et al. | Role of artificial intelligence in pest management | |
WO2019244156A1 (en) | System for in-situ imaging of plant tissue | |
JP7506559B2 (ja) | 野菜選別システム及び野菜選別方法 | |
WO2023197042A1 (en) | Sex based arthropod sorting system and method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |