JP7229840B2 - 収穫装置およびその制御方法、並びにプログラム - Google Patents
収穫装置およびその制御方法、並びにプログラム Download PDFInfo
- Publication number
- JP7229840B2 JP7229840B2 JP2019077346A JP2019077346A JP7229840B2 JP 7229840 B2 JP7229840 B2 JP 7229840B2 JP 2019077346 A JP2019077346 A JP 2019077346A JP 2019077346 A JP2019077346 A JP 2019077346A JP 7229840 B2 JP7229840 B2 JP 7229840B2
- Authority
- JP
- Japan
- Prior art keywords
- fruit
- image
- viewpoint
- harvesting
- fruit vegetable
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Analysis (AREA)
- Harvesting Machines For Specific Crops (AREA)
Description
小果梗の先端に形成された果菜を収穫する収穫装置であって、
収穫対象となる果菜の第1の画像を撮像部により取得する取得手段と、
前記第1の画像から果菜および小果梗の領域を抽出する抽出手段と、
前記抽出手段にて抽出した果菜および小果梗の領域に基づいて、前記果菜の領域の中心座標と、前記果菜の領域と前記小果梗の領域との接続位置の座標とから前記果菜に対する座標軸を特定する特定手段と、
前記特定手段にて特定された座標軸の方向を上下方向として、前記果菜の側方からの視点となるように前記撮像部の視点を制御する制御手段と、
前記制御手段により前記側方からの視点となった前記撮像部により取得される第2の画像に基づいて、前記小果梗が延びている方向を識別する識別手段と
を有する。
本実施形態において、収穫対象の果菜として、トマトを例に挙げて説明する。上述したように、トマトには、果実を支える部分に小果梗および離層が存在し、本実施形態では、その位置を認識することを一つの目的とする。なお、収穫対象の果菜としてトマトに限定するものではなく、収穫などにおいて認識すべき構造を有するものであれば、他の果菜であってもよい。
図1は、本実施形態に係る収穫装置100の概略を示す図である。収穫装置100は、本体部101、収納部102、走行機構104、および、ロボットアーム105を備える。収納部102には、収穫した果実を保持するための格納庫103が設けられる。ロボットアーム105の先端部分には、画像を取得するための撮像装置106、および、果実を収穫するための収穫部107を備える。収穫部107の形状は特に限定するものでは無いが、本実施形態では、果実に当接した上でもぎ取り動作を行うことが可能な形状であるとする。また、ロボットアーム105は、複数の関節部108の動作により、先端部の位置や向きを変更可能であるとする。
図3は、本実施形態に係る果実の画像データを撮影する際の動作の概要を説明するための図である。上述したように、本実施形態では、収穫対象の果菜をトマトとして説明する。
図5を用いて、本実施形態に係る果実の姿勢を決定する流れについて説明する。本実施形態では、着目する果実(トマト)ごとにその姿勢を決定し、姿勢に対応した座標系(トマト座標系)が特定される。
図6は、本実施形態に係るトマトのもぎ取り方向の識別の流れを説明するための図である。視点の変更および側方視点については、上述した通りである。
(収穫動作)
図7は、本実施形態に係る果菜(ここでは、トマト)の収穫動作の流れを示すフローチャートである。本処理は、収穫装置100の制御部201が記憶部202等に格納された各種プログラムを読み出して実行し、図2に示した各部を制御することで実現される。本動作は、収穫装置100が収穫対象のトマトを検知し、そのトマトを着目トマトとして開始される。
図8は、本実施形態に係るトマト座標系の決定処理のフローチャートである。本処理は、収穫装置100の制御部201が記憶部202等に格納された各種プログラムを読み出して実行することにより実現される。本処理は、図7のS702に対応し、また、図5を用いて説明した流れに対応する。
上記実施形態の収穫装置は、小果梗の先端に形成された果菜を収穫する収穫装置(例えば、100)であって、
収穫対象となる果菜の第1の画像を撮像部(例えば、106)により取得する取得手段(例えば、201)と、
前記第1の画像から果菜および小果梗の領域を抽出する抽出手段(例えば、201)と、
前記抽出手段にて抽出した果菜および小果梗の領域に基づいて、前記果菜に対する座標軸を特定する特定手段(例えば、201)と、
前記特定手段にて特定された座標軸の方向を上下方向として、前記果菜の側方からの視点となるように前記撮像部の視点を制御する制御手段(例えば、201、105、203、204)と、
前記制御手段により前記側方からの視点となった前記撮像部により取得される第2の画像に基づいて、前記小果梗が延びている方向を識別する識別手段(例えば、201)と
を有する。
前記制御手段は、前記座標軸の方向を上下方向として、前記果菜の側方からの異なる視点となるように前記撮像部の視点を制御し、
前記識別手段は、前記制御手段により前記側方からの異なる視点となった前記撮像部により取得される第3の画像に基づいて、前記小果梗が延びている方向を更に識別する。
収穫対象となる果菜の第1の画像を撮像部(例えば、106)により取得する取得工程と、
前記第1の画像から果菜および小果梗の領域を抽出する抽出工程と、
前記抽出工程にて抽出した果菜および小果梗の領域に基づいて、前記果菜に対する座標軸を特定する特定工程と、
前記特定工程にて特定された座標軸の方向を上下方向として、前記果菜の側方からの視点となるように前記撮像部の視点を制御する制御工程と、
前記制御工程により前記側方からの視点となった前記撮像部により取得される第2の画像に基づいて、前記小果梗が延びている方向を識別する識別工程と
を有する。
小果梗の先端に形成された果菜を収穫する収穫装置(例えば、100)に搭載されたコンピュータ(例えば、201)を、
収穫対象となる果菜の第1の画像を撮像部(例えば、106)により取得する取得手段、
前記第1の画像から果菜および小果梗の領域を抽出する抽出手段、
前記抽出手段にて抽出した果菜および小果梗の領域に基づいて、前記果菜に対する座標軸を特定する特定手段、
前記特定手段にて特定された座標軸の方向を上下方向として、前記果菜の側方からの視点となるように前記撮像部の視点を制御する制御手段、
前記制御手段により前記側方からの視点となった前記撮像部により取得される第2の画像に基づいて、前記小果梗が延びている方向を識別する識別手段
として機能させる。
101…本体部
102…収納部
104…走行機構
105…ロボットアーム
106…撮像装置
107…収穫部
201…制御部
Claims (8)
- 小果梗の先端に形成された果菜を収穫する収穫装置であって、
収穫対象となる果菜の第1の画像を撮像部により取得する取得手段と、
前記第1の画像から果菜および小果梗の領域を抽出する抽出手段と、
前記抽出手段にて抽出した果菜および小果梗の領域に基づいて、前記果菜の領域の中心座標と、前記果菜の領域と前記小果梗の領域との接続位置の座標とから前記果菜に対する座標軸を特定する特定手段と、
前記特定手段にて特定された座標軸の方向を上下方向として、前記果菜の側方からの視点となるように前記撮像部の視点を制御する制御手段と、
前記制御手段により前記側方からの視点となった前記撮像部により取得される第2の画像に基づいて、前記小果梗が延びている方向を識別する識別手段と
を有することを特徴とする収穫装置。 - 前記識別手段にて識別された小果梗が延びている方向に基づいて、前記果菜のもぎ取り方向を決定する決定手段を更に有することを特徴とする請求項1に記載の収穫装置。
- 前記抽出手段は、機械学習に基づく画像分割処理を用いて前記第1の画像から果菜および小果梗の領域を抽出することを特徴とする請求項1または2に記載の収穫装置。
- 前記識別手段は、機械学習に基づく分類処理を用いて前記第2の画像を分類することにより、前記小果梗が延びている方向を識別することを特徴とする請求項1乃至3のいずれか一項に記載の収穫装置。
- 前記機械学習に基づく分類処理により前記第2の画像が所定のカテゴリに分類された場合、
前記制御手段は、前記座標軸の方向を上下方向として、前記果菜の側方からの異なる視点となるように前記撮像部の視点を制御し、
前記識別手段は、前記制御手段により前記側方からの異なる視点となった前記撮像部により取得される第3の画像に基づいて、前記小果梗が延びている方向を更に識別する
ことを特徴とする請求項4に記載の収穫装置。 - 前記所定のカテゴリは、前記小果梗が延びている方向が奥行方向であり、かつ、当該第2の画像において前記小果梗が延びている方向において当該小果梗が短いと判定されたカテゴリであることを特徴とする請求項5に記載の収穫装置。
- 小果梗の先端に形成された果菜を収穫する収穫装置の制御方法であって、
収穫対象となる果菜の第1の画像を撮像部により取得する取得工程と、
前記第1の画像から果菜および小果梗の領域を抽出する抽出工程と、
前記抽出工程にて抽出した果菜および小果梗の領域に基づいて、前記果菜の領域の中心座標と、前記果菜の領域と前記小果梗の領域との接続位置の座標とから前記果菜に対する座標軸を特定する特定工程と、
前記特定工程にて特定された座標軸の方向を上下方向として、前記果菜の側方からの視点となるように前記撮像部の視点を制御する制御工程と、
前記制御工程により前記側方からの視点となった前記撮像部により取得される第2の画像に基づいて、前記小果梗が延びている方向を識別する識別工程と
を有することを特徴とする収穫装置の制御方法。 - 小果梗の先端に形成された果菜を収穫する収穫装置に搭載されたコンピュータを、
収穫対象となる果菜の第1の画像を撮像部により取得する取得手段、
前記第1の画像から果菜および小果梗の領域を抽出する抽出手段、
前記抽出手段にて抽出した果菜および小果梗の領域に基づいて、前記果菜の領域の中心座標と、前記果菜の領域と前記小果梗の領域との接続位置の座標とから前記果菜に対する座標軸を特定する特定手段、
前記特定手段にて特定された座標軸の方向を上下方向として、前記果菜の側方からの視点となるように前記撮像部の視点を制御する制御手段、
前記制御手段により前記側方からの視点となった前記撮像部により取得される第2の画像に基づいて、前記小果梗が延びている方向を識別する識別手段
として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019077346A JP7229840B2 (ja) | 2019-04-15 | 2019-04-15 | 収穫装置およびその制御方法、並びにプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019077346A JP7229840B2 (ja) | 2019-04-15 | 2019-04-15 | 収穫装置およびその制御方法、並びにプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020174536A JP2020174536A (ja) | 2020-10-29 |
JP7229840B2 true JP7229840B2 (ja) | 2023-02-28 |
Family
ID=72935321
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019077346A Active JP7229840B2 (ja) | 2019-04-15 | 2019-04-15 | 収穫装置およびその制御方法、並びにプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7229840B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP4230675A1 (en) | 2020-10-16 | 2023-08-23 | Toyobo Co., Ltd. | Crosslinked polyester resin |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001095348A (ja) | 1999-10-01 | 2001-04-10 | Masateru Nagata | 果菜収穫用摘採ハンド及びそれを用いた果菜収穫方法 |
JP2012110256A (ja) | 2010-11-22 | 2012-06-14 | National Agriculture & Food Research Organization | 果柄切断装置 |
JP2016073265A (ja) | 2014-10-02 | 2016-05-12 | 大介 阿部 | 果実自動収穫装置 |
CN108182374A (zh) | 2016-12-08 | 2018-06-19 | 广州映博智能科技有限公司 | 一种针对果实串的采摘点识别方法 |
JP2018143214A (ja) | 2017-03-09 | 2018-09-20 | パナソニック株式会社 | 果梗位置推定装置および果梗位置推定方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3514323B2 (ja) * | 1993-10-20 | 2004-03-31 | ヤンマー農機株式会社 | 真空式収穫機 |
-
2019
- 2019-04-15 JP JP2019077346A patent/JP7229840B2/ja active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001095348A (ja) | 1999-10-01 | 2001-04-10 | Masateru Nagata | 果菜収穫用摘採ハンド及びそれを用いた果菜収穫方法 |
JP2012110256A (ja) | 2010-11-22 | 2012-06-14 | National Agriculture & Food Research Organization | 果柄切断装置 |
JP2016073265A (ja) | 2014-10-02 | 2016-05-12 | 大介 阿部 | 果実自動収穫装置 |
CN108182374A (zh) | 2016-12-08 | 2018-06-19 | 广州映博智能科技有限公司 | 一种针对果实串的采摘点识别方法 |
JP2018143214A (ja) | 2017-03-09 | 2018-09-20 | パナソニック株式会社 | 果梗位置推定装置および果梗位置推定方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2020174536A (ja) | 2020-10-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Ling et al. | Dual-arm cooperation and implementing for robotic harvesting tomato using binocular vision | |
Bohg et al. | Robot arm pose estimation through pixel-wise part classification | |
US10894324B2 (en) | Information processing apparatus, measuring apparatus, system, interference determination method, and article manufacturing method | |
CN113696186B (zh) | 复杂光照条件下基于视触融合的机械臂自主移动抓取方法 | |
Kang et al. | Visual perception and modeling for autonomous apple harvesting | |
US20090290758A1 (en) | Rectangular Table Detection Using Hybrid RGB and Depth Camera Sensors | |
JP5803367B2 (ja) | 自己位置推定装置、自己位置推定方法およびプログラム | |
US20230042756A1 (en) | Autonomous mobile grabbing method for mechanical arm based on visual-haptic fusion under complex illumination condition | |
Zou et al. | Fault-tolerant design of a limited universal fruit-picking end-effector based on vision-positioning error | |
EP3460756B1 (en) | Tracking system and method thereof | |
JP2016091108A (ja) | 人体部位検出システムおよび人体部位検出方法 | |
Gong et al. | Robotic harvesting of the occluded fruits with a precise shape and position reconstruction approach | |
Yuan et al. | Precise planar motion measurement of a swimming multi-joint robotic fish | |
Xiong et al. | An improved obstacle separation method using deep learning for object detection and tracking in a hybrid visual control loop for fruit picking in clusters | |
US20190122371A1 (en) | Moving object controller, landmark, and moving object control method | |
JP7229840B2 (ja) | 収穫装置およびその制御方法、並びにプログラム | |
US20240165807A1 (en) | Visual servoing of a robot | |
JP2006331108A (ja) | 画像処理装置、画像処理方法、および、プログラム | |
JP7187388B2 (ja) | 位置姿勢推定装置及び位置姿勢推定方法 | |
JP2022160363A (ja) | ロボットシステム、制御方法、画像処理装置、画像処理方法、物品の製造方法、プログラム、及び記録媒体 | |
JP6880457B2 (ja) | 把持方法、把持システム及びプログラム | |
KR102572571B1 (ko) | 로봇 수확을 위한 과일 줄기 자세 인식 시스템 | |
JP2020195335A (ja) | 果菜収穫装置及び果菜収穫方法 | |
KR102186875B1 (ko) | 움직임 추적 시스템 및 방법 | |
JP2021036821A (ja) | 収穫ロボット |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20210103 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210125 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211126 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220705 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220826 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221004 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230123 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230215 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7229840 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |