JP7471931B2 - Agricultural robots - Google Patents
Agricultural robots Download PDFInfo
- Publication number
- JP7471931B2 JP7471931B2 JP2020109080A JP2020109080A JP7471931B2 JP 7471931 B2 JP7471931 B2 JP 7471931B2 JP 2020109080 A JP2020109080 A JP 2020109080A JP 2020109080 A JP2020109080 A JP 2020109080A JP 7471931 B2 JP7471931 B2 JP 7471931B2
- Authority
- JP
- Japan
- Prior art keywords
- crop
- data
- estimation unit
- partial data
- obstacle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000003287 optical effect Effects 0.000 claims description 37
- 238000013075 data extraction Methods 0.000 claims description 24
- 239000000284 extract Substances 0.000 claims description 18
- 238000013135 deep learning Methods 0.000 claims description 5
- 238000004364 calculation method Methods 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 12
- 238000003306 harvesting Methods 0.000 description 11
- 239000010720 hydraulic oil Substances 0.000 description 11
- 210000000078 claw Anatomy 0.000 description 6
- 239000000463 material Substances 0.000 description 6
- 230000004044 response Effects 0.000 description 6
- 238000003898 horticulture Methods 0.000 description 4
- 241000219109 Citrullus Species 0.000 description 3
- 235000012828 Citrullus lanatus var citroides Nutrition 0.000 description 3
- 229910000831 Steel Inorganic materials 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 239000010959 steel Substances 0.000 description 3
- 235000000832 Ayote Nutrition 0.000 description 2
- 241000219112 Cucumis Species 0.000 description 2
- 235000015510 Cucumis melo subsp melo Nutrition 0.000 description 2
- 241000219122 Cucurbita Species 0.000 description 2
- 235000009854 Cucurbita moschata Nutrition 0.000 description 2
- 235000009804 Cucurbita pepo subsp pepo Nutrition 0.000 description 2
- 230000003028 elevating effect Effects 0.000 description 2
- 239000003921 oil Substances 0.000 description 2
- 235000015136 pumpkin Nutrition 0.000 description 2
- 238000005507 spraying Methods 0.000 description 2
- 238000009423 ventilation Methods 0.000 description 2
- 241000196324 Embryophyta Species 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 235000013399 edible fruits Nutrition 0.000 description 1
- 238000009313 farming Methods 0.000 description 1
- 239000003337 fertilizer Substances 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 238000003973 irrigation Methods 0.000 description 1
- 230000002262 irrigation Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000000575 pesticide Substances 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007921 spray Substances 0.000 description 1
- 229920003002 synthetic resin Polymers 0.000 description 1
- 239000000057 synthetic resin Substances 0.000 description 1
- 235000013311 vegetables Nutrition 0.000 description 1
Images
Landscapes
- Manipulator (AREA)
Description
本発明は、農業用ロボットに関する。 The present invention relates to an agricultural robot.
従来、特許文献1に開示された農業用ロボットが知られている。
特許文献1に開示された農業用ロボットは、走行体に作物の収穫を行うことが可能なマニピュレータが設けられている。
2. Description of the Related Art Conventionally, an agricultural robot is known, as disclosed in Japanese Patent Application Laid-Open No. 2003-233696.
The agricultural robot disclosed in
さて、スイカ、メロン、カボチャ等の作物は様々なところで栽培(作付け)されるのが一般的である。農業用ロボットで作業を行うにあたって、適正に作物を把握することが必要であるものの、様々な要因で適正に作物を把握することが難しいのが実情である。
本発明は、センシングデータから簡単に作物を推定することができる農業用ロボットを提供することを目的とする。
Now, crops such as watermelons, melons, and pumpkins are generally cultivated (planted) in various places. When using agricultural robots to operate, it is necessary to accurately grasp the crops, but the reality is that it is difficult to accurately grasp the crops due to various factors.
An object of the present invention is to provide an agricultural robot that can easily estimate crops from sensing data.
農業用ロボットは、走行体と、前記走行体に設けられ、作物に関する作業を行う作業部と、前記走行体に設けられた光学式センサと、前記光学式センサで得られたセンシングデータに基づいて、前記作物を推定する作物推定部と、を備え、前記作物推定部は、前記センシングデータに基づいて前記推定する作物を特定し且つ前記センシングデータのうち前記特定した作物及び前記作物の表面を隠す障害物を含むデータを部分データとして抽出するデータ抽出部と、前記データ抽出部によって抽出した前記部分データにおいて前記障害物を除いて得られた前記作物の表面状態から作物を推定する推定部と、を有し、前記推定部は、前記作物の種類を推定し且つ、前記部分データで得られた前記作物の周囲に関して前記推定した作物の表面を隠す前記障害物を推定する。 The agricultural robot comprises a running body, a working unit provided on the running body for performing work related to crops, an optical sensor provided on the running body, and a crop estimation unit for estimating the crop based on sensing data obtained by the optical sensor, the crop estimation unit having a data extraction unit that identifies the crop to be estimated based on the sensing data and extracts data from the sensing data that includes the identified crop and obstacles concealing the surface of the crop as partial data, and an estimation unit that estimates the crop from the surface condition of the crop obtained excluding the obstacles in the partial data extracted by the data extraction unit, and the estimation unit estimates the type of crop and estimates the obstacles concealing the surface of the estimated crop in relation to the surroundings of the crop obtained in the partial data .
前記推定部は、前記作物の表面において当該作物の表面の模様と判断した以外の部分を抽出し、当該部分において、前記作物の輪郭と重複する部分が、前記障害物の一部であると判断し、前記障害物の輪郭を画像処理により抽出する。
前記推定部は、前記部分データで示された作物に関し、前記作物の種類と、前記障害物を除いて得られた前記作物の表面状態とに基づいて、前記作物を推定する。
前記推定部は、前記障害物を除いて得られた前記作物の表面状態として前記作物の模様と、前記作物の種類とに基づいて、前記作物を推定する。
前記推定部は、前記推定した作物の推定結果に基づいて、前記部分データに含まれる前記作物の輪郭を演算する。
The estimation unit extracts parts of the surface of the crop other than what has been determined to be the pattern on the surface of the crop, determines that parts of the surface that overlap with the contour of the crop are part of the obstacle, and extracts the contour of the obstacle through image processing.
The estimation unit estimates the crop indicated by the partial data based on the type of the crop and the surface condition of the crop obtained by excluding the obstacle.
The estimation unit estimates the crop based on the pattern of the crop as the surface condition of the crop obtained by removing the obstacle, and the type of the crop.
The estimation unit calculates an outline of the crop included in the partial data based on the estimated crop outline.
前記作業部は、前記推定部で推定した前記障害物を、前記作物から遠ざける作業を行う。
農業用ロボットは、前記作物と前記作物の表面状態との関係を、深層学習することで表面状態モデルを生成するモデル生成部を備えている。
農業用ロボットは、走行体と、前記走行体に設けられ、作物に関する作業を行う作業部と、前記走行体に設けられた光学式センサと、前記光学式センサで得られたセンシングデータに基づいて、前記作物を推定する作物推定部と、を備え、前記作物推定部は、前記センシングデータに基づいて前記推定する作物を特定し且つ前記センシングデータのうち前記特定した作物及び前記作物の表面を隠す障害物を含むデータを部分データとして抽出するデータ抽出部と、前記データ抽出部によって抽出した前記部分データにおいて前記障害物を除いて得られた前記作物の表面状態から作物を推定する推定部と、を有し、前記推定部は、前記推定した作物の推定結果に基づいて、前記部分データに含まれる前記作物の輪郭を演算し、前記推定部は、前記作物の種類を推定した推定結果に基づいて、前記部分データに含まれる前記作物の輪郭を、以下の(i)~(iii)のいずれかを用いて、(i)前記作物の模様を構成する線のうち、前記作物の外縁にそれぞれ至る線の両端部を前記部分データから得ることができた場合、前記両端部を通る円形状又は楕円形状の線を、前記作物の輪郭とし、(ii)前記両端部のうちの一方の端部だけを抽出した場合、当該一方の端部から前記作物の基準サイズの1/2の位置を、前記作物の中心とし、前記中心から前記基準サイズの1/2を前記作物の半径として、前記一方の端部を通り且つ半径の円形状の線を、前記作物の輪郭とし、(iii)前記線が前記部分データの抽出画像枠に達している場合、前記抽出画像枠の前記作物の模様から前記作物の中心を推定し、前記作物の基準サイズの1/2を前記作物の半径とし、当該推定した前記中心から前記半径の円形状の線を、前記作物の輪郭とする演算を行う。
前記推定部は、前記作物の種類を推定した推定結果に基づいて、前記部分データに含まれる前記作物の輪郭を、以下の(i)~(iii)のいずれかを用いて、(i)前記作物の模様を構成する線のうち、前記作物の外縁にそれぞれ至る線の両端部を前記部分データから得ることができた場合、前記両端部を通る円形状又は楕円形状の線を、前記作物の輪郭とし、(ii)前記両端部のうちの一方の端部だけを抽出した場合、当該一方の端部から前記作物の基準サイズの1/2の位置を、前記作物の中心とし、前記中心から前記基準サイズの1/2を前記作物の半径として、前記一方の端部を通り且つ半径の円形状の線を、前記作物の輪郭とし、(iii)前記線が前記部分データの抽出画像枠に達している場合、前記抽出画像枠の前記作物の模様から前記作物の中心を推定し、前記作物の基準サイズの1/2を前記作物の半径とし、当該推定した前記中心から前記半径の円形状の線を、前記作物の輪郭とする演算を行う。
前記データ抽出部は、予め用意された作物の表面の模様を示す基準プロファイリングと、前記センシングデータの所定範囲内の画像プロファイリングとが一致した場合は、前記センシングデータの所定範囲内に前記作物が含まれていると判断し、当該作物を前記推定する作物として特定し且つ前記センシングデータのうち前記特定した作物及び前記作物の表面を隠す障害物を含むデータを前記部分データとして抽出する。
The working unit performs a task of moving the obstacle estimated by the estimation unit away from the crop.
The agricultural robot is equipped with a model generation unit that generates a surface condition model by deep learning the relationship between the crop and the surface condition of the crop.
The agricultural robot includes a traveling body, a working unit provided on the traveling body and performing work related to crops, an optical sensor provided on the traveling body, and a crop estimation unit that estimates the crop based on sensing data obtained by the optical sensor, the crop estimation unit having a data extraction unit that identifies the crop to be estimated based on the sensing data and extracts data from the sensing data that includes the identified crop and an obstacle concealing a surface of the crop as partial data, and an estimation unit that estimates the crop from a surface condition of the crop obtained by excluding the obstacle in the partial data extracted by the data extraction unit, the estimation unit calculates an outline of the crop included in the partial data based on an estimation result of the estimated crop, and the estimation unit calculates a contour of the crop included in the partial data based on an estimation result of the type of the crop. The contour of the crop is determined by using any of the following (i) to (iii): (i) if both ends of the lines that constitute the crop pattern and that each reach the outer edge of the crop can be obtained from the partial data, a circular or elliptical line passing through both ends is determined to be the contour of the crop; (ii) if only one of the ends is extracted, a position that is 1/2 the standard size of the crop from the one end is determined to be the center of the crop, and a circular line that passes through the one end and has a radius of 1/2 the standard size from the center is determined to be the contour of the crop; and (iii) if the line reaches the extracted image frame of the partial data, a calculation is performed to estimate the center of the crop from the crop pattern in the extracted image frame, set the radius of the crop to 1/2 the standard size of the crop, and determine the contour of the crop to be a circular line with the radius from the estimated center.
The estimation unit performs a calculation based on the estimation result of the type of crop to determine the contour of the crop included in the partial data using any of the following (i) to (iii): (i) if both ends of the lines constituting the crop pattern that each reach the outer edge of the crop can be obtained from the partial data, a circular or elliptical line passing through both ends is determined to be the contour of the crop; (ii) if only one of the ends is extracted, a position that is 1/2 of the standard size of the crop from the one end is determined to be the center of the crop, and a circular line that passes through the one end and has a radius of 1/2 of the standard size from the center is determined to be the contour of the crop; and (iii) if the line reaches an extracted image frame of the partial data, a center of the crop is estimated from the crop pattern in the extracted image frame, and a circular line that is 1/2 of the standard size of the crop is determined to be the contour of the crop .
When a pre-prepared reference profiling indicating the surface pattern of a crop matches an image profiling within a specified range of the sensing data, the data extraction unit determines that the crop is included within the specified range of the sensing data, identifies the crop as the estimated crop, and extracts data from the sensing data that includes the identified crop and any obstacles obscuring the surface of the crop as the partial data.
本発明によれば、センシングデータから簡単に作物を推定することができる。 According to the present invention, crops can be easily estimated from sensing data.
以下、本発明の一実施形態について、図面を適宜参照しつつ説明する。
図1、図2は、農業用ロボット1を例示している。農業用ロボット1は、図16~図19に示すようなハウス等の施設園芸、植物工場等の施設において、栽培される作物2に対して作業(農作業)を行うロボットである。農業用ロボット1は、例えば、スイカ、メロン、カボチャ等の比較的重量のある作物2である重量野菜、果実等に対して作業を行う。
Hereinafter, an embodiment of the present invention will be described with reference to the drawings.
1 and 2 show an example of an
まず、施設園芸の施設(施設園芸施設)を例にとり、施設について説明する。
図16~図19に示すように、施設100は、当該施設100を構成する構造物として、ハウス101と、ハウス101の内部に設置された機器102とを備えている。
ハウス101は、フレーム110と、被覆材111とを含んでいる。フレーム110は、例えば、I形鋼、H形鋼、C形鋼、角形鋼、丸形鋼等の様々な鋼材を組み合わせて、施設100の躯体を構成していて、複数の支柱部材110Aと、複数の連結部材110Bとを含んでいる。図16~図18に示すように、複数の支柱部材110Aは、地面等から起立した部材であって、横方向X1に所定の間隔で設置され且つ縦方向Y1に所定の間隔で設置されている。
First, we will explain facilities using greenhouse horticulture facilities (greenhouse horticulture facilities) as an example.
As shown in FIGS. 16 to 19, a
The
連結部材110Bは、横方向X1に離れた複数の支柱部材110Aの上端を互いに連結する。また、連結部材110Bは、縦方向Y1に離れた複数の支柱部材110Aを互いに連結する。
被覆材111は、少なくとも太陽光を取り入れ可能な透光性を有する部材であって、合成樹脂、ガラス等で構成されている。被覆材111は、例えば、フレーム110の外側から当該フレーム110の全体を覆っている。言い換えれば、被覆材111は、支柱部材110Aの外側、連結部材110Bの外側に配置されている。
The connecting
The covering
機器102は、作物2を栽培する際に使用する様々な機器であって、ハウス101内の温度、湿度、空気流動等を調整することができる機器である。詳しくは、機器102は、換気扇102A、循環扇102B、熱交換装置102C等である。図16、図17に示すように、換気扇102Aは、ハウス101の出入口130側に設置され、外部の空気をハウス101内の空気を外部に排出したり、外部の空気をハウス101内に取り入れる。
循環扇102Bは、ハウス101内に設置されていて、ハウス101内の空気を所定の方向に循環させる。熱交換装置102Cはハウス101の温度を変更可能な装置であり、例えば、ヒートポンプ構成されている。上述した機器102は、一例であり、灌水機器、照明機器、噴霧機器などであってもよいし限定されない。
The
The
農業用ロボット1は、施設100内において、栽培場所105で栽培された作物2に対して様々な農作業、例えば、作物2の収穫、肥料散布、農薬散布などの農作業を行う。農
業用ロボット1は、自立型のロボットである。
図1~図8は、農業用ロボット1を示している。図8は、農業用ロボットの支援システムを示している。
The
1 to 8 show an
以下、農業用ロボット1及び農業用ロボットの支援システムについて詳しく説明する。以下の説明において、図1、図2に矢印A1で示す方向を前方、矢印A2で示す方向を後方、矢印A3で示す方向を前後方向として説明する。したがって、図2に矢印B1で示す方向(図1の手前側)が左方であり、図2に矢印B2で示す方向(図1の奥側)が右方である。また、前後方向A3に直交する水平方向を機体幅方向(図2の矢印B3方向)として説明する。
The
図1に示すように、農業用ロボット1は、自律走行する走行体3を有している。走行体3は、機体6と、機体6を走行可能に支持する走行装置7とを有している。
図3、図4に示すように、機体6は、メインフレーム6Aと、原動機フレーム6Bとを有している。メインフレーム6Aは、機体幅方向B3で間隔をあけて配置された一対の第1フレーム6Aaと、各第1フレーム6Aaの下方に間隔をあけて配置された一対の第2フレーム6Abとを有している。第1フレーム6Aaと第2フレーム6Abとは、複数の縦フレーム6Acによって連結されている。縦フレーム6Acは、左の第1フレーム6Aaと左の第2フレーム6Abとの前部間、右の第1フレーム6Aaと右の第2フレーム6Abとの前部間、左の第1フレーム6Aaと左の第2フレーム6Abとの後部間、右の第1フレーム6Aaと右の第2フレーム6Abとの後部間に設けられている。
1, the
As shown in Figures 3 and 4, the
左の第1フレーム6Aaと右の第1フレーム6Aaとは、第1フレーム6Aa間に配置された第1横フレーム6Ad~第5横フレーム6Ahによって連結されている。第1横フレーム6Ad~第5横フレーム6Ahは、第1フレーム6Aaの前端から後端にわたって前後方向A3で間隔をあけて並行状に配置されている。
第2フレーム6Abの前部同士は、第6横フレーム6Ajによって連結され、第2フレーム6Abの後部同士は、第7横フレーム6Akによって連結されている。
The left first frame 6Aa and the right first frame 6Aa are connected by a first horizontal frame 6Ad to a fifth horizontal frame 6Ah that are arranged between the first frames 6Aa. The first horizontal frames 6Ad to the fifth horizontal frames 6Ah are arranged in parallel and spaced apart from each other in the front-to-rear direction A3 from the front end to the rear end of the first frame 6Aa.
The front portions of the second frames 6Ab are connected to each other by a sixth horizontal frame 6Aj, and the rear portions of the second frames 6Ab are connected to each other by a seventh horizontal frame 6Ak.
原動機フレーム6Bは、メインフレーム6Aの下方側に配置されている。原動機フレーム6Bは、前フレーム6Baと、後フレーム6Bbと、複数の連結フレーム6Bcと、複数の取付フレーム6Bdとを有している。前フレーム6Baは、上部が、左及び右の第2フレーム6Abの前部に取り付けられている。後フレーム6Bbは、上部が、左及び右の第2フレーム6Abの前部に取り付けられている。複数の連結フレーム6Bcは、前フレーム6Baと後フレーム6Bbの下部間を連結している。複数の取付フレーム6Bdは、連結フレーム6Bcの前後方向A3中央部に固定されている。
The
図4に示すように、取付フレーム6Bdには、原動機(エンジン)E1が取り付けられている。原動機E1には、油圧ポンプP1が取り付けられている。油圧ポンプP1は、原動機E1で駆動される。また、原動機フレーム6Bには、油圧ポンプP1から吐出する作動油を貯留する作動油タンク(図示省略)が搭載されている。
図5に示すように、メインフレーム6A(機体6)には、走行装置7を制御する複数のコントロールバルブ(第1コントロールバルブCV1~第4コントロールバルブCV4)が搭載されている。
As shown in Fig. 4, a prime mover (engine) E1 is attached to the mounting frame 6Bd. A hydraulic pump P1 is attached to the prime mover E1. The hydraulic pump P1 is driven by the prime mover E1. In addition, a hydraulic oil tank (not shown) that stores hydraulic oil discharged from the hydraulic pump P1 is mounted on the
As shown in FIG. 5, a plurality of control valves (first control valve CV1 to fourth control valve CV4) that control the traveling
図1、図2、図5に示すように、走行装置7は、4輪の車輪8を有する車輪型(4輪型)の走行装置7で構成されている。詳しくは、走行装置7は、機体6前部の左側に配置された第1車輪8La(左前輪)と、機体6前部の右側に配置された第2車輪8Ra(右前輪)と、機体6後部の左側に配置された第3車輪8Lb(左後輪)と、機体6後部の右側に配置された第4車輪8Rb(右後輪)とを備えている。なお、走行装置7は、少なくとも3輪の車輪8を有する車輪型走行装置で構成されていてもよい。また、走行装置7は、クローラ型の走行装置であってもよい。
As shown in Figures 1, 2 and 5, the traveling
走行装置7は、車輪8を支持する車輪支持体9を有している。車輪支持体9は、車輪8に対応する数設けられている。つまり、走行装置7は、第1車輪8Laを支持する第1車輪支持体9La、第2車輪8Raを支持する第2車輪支持体9Ra、第3車輪8Lbを支持する第3車輪支持体9Lb及び第4車輪8Rbを支持する第4車輪支持体9Rbを有し
ている。
The traveling
図5、図6に示すように、車輪支持体9は、走行フレーム10と、操向シリンダC1と、第1昇降シリンダC2と、第2昇降シリンダC3と、走行モータM1とを有している。
走行フレーム10は、主支持体10Aと、揺動フレーム10Bと、車輪フレーム10Cとを有している。主支持体10Aは、機体6に縦軸(上下方向に延伸する軸心)回りに可能に支持されている。詳しくは、主支持体10Aは機体6に固定された支持ブラケット11に上下方向に延伸する軸心を有する第1支軸12Aを介して回動可能に支持されている。
As shown in FIGS. 5 and 6, the
The traveling
図5に示すように、第1車輪支持体9Laを枢支する支持ブラケット11は機体6の前部左側に設けられ、第2車輪支持体9Raを枢支する支持ブラケット11は機体6の前部右側に設けられ、第3車輪支持体9Lbを枢支する支持ブラケット11は機体6の後部左側に設けられ、第4車輪支持体9Rbを枢支する支持ブラケット11は機体6の後部右側に設けられている。
As shown in FIG. 5, the
揺動フレーム10Bは、主支持体10Aに上下揺動可能に支持されている。詳しくは、揺動フレーム10Bは、上部が主支持体10Aに第2支軸12Bを介して横軸(機体幅方向B3に延伸する軸心)回りに回動可能に支持されている。
第1車輪支持体9La及び第2車輪支持体9Raの揺動フレーム10Bは前上部が主支持体10Aに枢支され、第3車輪支持体9Lb及び第4車輪支持体9Rbの揺動フレーム10Bは後上部が主支持体10Aに枢支されている。
The
The swaying frames 10B of the first wheel support 9La and the second wheel support 9Ra are pivotally supported at their front upper portions to the
車輪フレーム10Cは、揺動フレーム10Bに上下揺動可能に支持されている。詳しくは、車輪フレーム10Cは、揺動フレーム10Bに第3支軸12Cを介して横軸回りに回動可能に支持されている。
第1車輪支持体9La及び第2車輪支持体9Raの車輪フレーム10Cは後部が揺動フレーム10Bの後部に枢支され、第3車輪支持体9Lb及び第4車輪支持体9Rbの車輪フレーム10Cは前部が揺動フレーム10Bの前部に枢支されている。
The
The wheel frames 10C of the first wheel support 9La and the second wheel support 9Ra are pivotally supported at their rear portions to the rear portion of the
操向シリンダC1、第1昇降シリンダC2及び第2昇降シリンダC3は、油圧シリンダによって構成されている。
操向シリンダC1は、機体6と主支持体10Aとの間に設けられている。詳しくは、操向シリンダC1の一端は、第1フレーム6Aaの前後方向A3中央部に固定されたシリンダブラケット14Aに枢支され、操向シリンダC1の他端は、主支持体10Aに固定されたシリンダブラケット14Bに枢支されている。操向シリンダC1を伸縮することにより走行フレーム10が第1支軸12A回りに揺動し、車輪8(第1車輪8La~第4車輪8Rb)の向きを変更する(操向する)ことができる。本実施形態の走行装置7にあっては、各車輪8を独立して操向可能である。
The steering cylinder C1, the first lift cylinder C2 and the second lift cylinder C3 are constituted by hydraulic cylinders.
The steering cylinder C1 is provided between the
第1昇降シリンダC2は、一端が揺動フレーム10Bに枢支され、他端が第1リンク機構15Aに枢支されている。第1リンク機構15Aは、第1リンク15aと第2リンク15bとを有している。第1リンク15aの一端は、主支持体10Aに枢支され、第2リンク15bの一端は揺動フレーム10Bに枢支されている。第1リンク15aと第2リンク15bとの他端は、第1昇降シリンダC2の他端に枢支されている。第1昇降シリンダC2を伸縮することにより揺動フレーム10Bが第2支軸12B回りに上下揺動する。
One end of the first lifting cylinder C2 is pivotally supported to the
第2昇降シリンダC3は、一端が揺動フレーム10Bの前部に枢支され、他端が第2リンク機構15Bに枢支されている。第2リンク機構15Bは、第1リンク15cと第2リンク15dとを有している。第1リンク15cの一端は、揺動フレーム10Bに枢支され、第2リンク15dの一端は車輪フレーム10Cに枢支されている。第1リンク15cと第2リンク15dとの他端は、第2昇降シリンダC3の他端に枢支されている。第2昇降シリンダC3を伸縮することにより車輪フレーム10Cが第3支軸12C回りに上下揺動する。
One end of the second lifting cylinder C3 is pivotally supported to the front of the
第1昇降シリンダC2による揺動フレーム10Bの上下揺動と、第2昇降シリンダC3による車輪フレーム10Cの上下揺動とを組み合わせることによって車輪8を平行状に昇降させることができる。
走行モータM1は、油圧モータによって形成されている。走行モータM1は、各車輪8に対応して設けられている。即ち、走行装置7は、第1車輪8Laを駆動する走行モータM1と、第2車輪8Raを駆動する走行モータM1と、第3車輪8Lbを駆動する走行モータM1と、第4車輪8Rbを駆動する走行モータM1とを有している。走行モータM1は、車輪8の機体幅方向B3の内方に配置され、車輪フレーム10Cに取り付けられている。走行モータM1は、油圧ポンプP1から吐出される作動油によって駆動され、正逆転可能である。走行モータM1を正逆転させることにより、車輪8の回転を正転方向と逆転方向とに切り換えることができる。
By combining the up and down swinging of the
The travel motor M1 is formed by a hydraulic motor. The travel motor M1 is provided corresponding to each
第2車輪支持体9Ra、第3車輪支持体9Lb及び第4車輪支持体9Rbは、第1車輪支持体9Laを構成する構成部品と同様の構成部品を有している。第2車輪支持体9Raは、第1車輪支持体9Laと左右対称に構成されている。第3車輪支持体9Lbは、第2車輪支持体9Raを機体6の中心を通る上下方向のセンタ軸心回りに180°回転させた形態を呈している。第4車輪支持体9Rbは、第1車輪支持体9Laをセンタ軸心回りに180°回転させた形態を呈している。
The second wheel support 9Ra, the third wheel support 9Lb, and the fourth wheel support 9Rb have components similar to those constituting the first wheel support 9La. The second wheel support 9Ra is configured symmetrically to the first wheel support 9La. The third wheel support 9Lb has a shape in which the second wheel support 9Ra is rotated 180° around a vertical central axis that passes through the center of the
第1車輪支持体9Laに装備された油圧アクチュエータは、第1コントロールバルブCV1によって制御される。第2車輪支持体9Raに装備された油圧アクチュエータは、第2コントロールバルブCV2によって制御される。第3車輪支持体9Lbに装備された油圧アクチュエータは、第3コントロールバルブCV3によって制御される。第4車輪支持体9Rbに装備された油圧アクチュエータは、第4コントロールバルブCV4によって制御される。 The hydraulic actuator mounted on the first wheel support 9La is controlled by the first control valve CV1. The hydraulic actuator mounted on the second wheel support 9Ra is controlled by the second control valve CV2. The hydraulic actuator mounted on the third wheel support 9Lb is controlled by the third control valve CV3. The hydraulic actuator mounted on the fourth wheel support 9Rb is controlled by the fourth control valve CV4.
したがって、第1車輪8La~第4車輪8Rbは、それぞれ独立的に操向可能である。また、第1車輪8La~第4車輪8Rbは、それぞれ独立的に昇降可能である。
上記走行装置7にあっては、第1車輪8La~第4車輪8Rbを操向操作することで走行体3を操向することができる。第1車輪8La~第4車輪8Rbを正転させることで走行体3を前進させることができ、逆転させることにより走行体3を後進させることができる。第1車輪8La~第4車輪8Rbを昇降することにより走行体3を昇降することができる。第1車輪8La及び第2車輪8Raを第3車輪8Lb及び第4車輪8Rbに対して昇降することにより、或いは、第3車輪8Lb及び第4車輪8Rbを第1車輪8La及び第2車輪8Raに対して昇降することにより、機体6を前傾または後傾させることができる。第1車輪8La及び第3車輪8Lbを第2車輪8Ra及び第4車輪8Rbに対して昇降することにより、或いは、第2車輪8Ra及び第4車輪8Rbを第1車輪8La及び第3車輪8Lbに対して昇降することにより、機体6を、機体幅方向B3の一側が他側よりも高い傾斜状にすることができる。
Therefore, the first wheel 8La to the fourth wheel 8Rb can be steered independently of each other. Also, the first wheel 8La to the fourth wheel 8Rb can be raised and lowered independently of each other.
In the traveling
農業用ロボット1は、走行体3に装着されたマニピュレータ(作業部)4を備えている。マニピュレータ(作業部)4は、作業を行う部分であって、例えば、本実施形態では、少なくとも作物2の収穫を行うことが可能な装置である。
図3、図4に示すように、マニピュレータ4は、走行体3(機体6)に着脱可能に装着された装着体16と、装着体16に取り付けられたアーム17と、アーム17に設けられていて作物(対象物)2を把持可能なロボットハンド18とを備えている。
The
As shown in Figures 3 and 4, the
図1に示すように、装着体16は、本実施形態では、走行体3の後部に設けられている。なお、装着体16は、走行体3の前部に設けられていてもよい。つまり、走行体3における前後方向A3の中央部から一方側に偏倚して設けられていればよい。また、本実施形態では、農業用ロボット1は、走行体3を前方に進行させて収穫作業を行うので、装着体16は、進行方向とは反対側の方向である進行逆方向側に偏倚して設けられている。装着体16は、箱型に形成されていて走行体3に対して着脱可能である。
As shown in FIG. 1, in this embodiment, the
装着体16には、回動フレーム21が立設されている。回動フレーム21は、装着体16の内部に設けられた回動モータM2によって回動軸心J1の周囲を回動可能である。回動フレーム21を回動させることにより、ロボットハンド18を回動軸心J1を中心とする円周方向に移動(位置変更)させることができる。
図3、図4に示すように、アーム17は、回動フレーム21に上下揺動可能に支持され
ると共に長手方向の中途部で屈伸可能である。アーム17は、メインアーム29とサブアーム30とを有している。
A
3 and 4, the
メインアーム29は、回動フレーム21に上下揺動可能に枢支され、屈伸可能である。詳しくは、メインアーム29は、回動フレーム21に上下揺動可能に枢支された第1アーム部31と、第1アーム部31に揺動可能に枢支された第2アーム部32とを有し、第1アーム部31に対して第2アーム部32が揺動することで屈伸可能とされている。
第1アーム部31は、基部側31aがアームブラケット26に枢支されている。第1アーム部31は、図3に示すように、第1アームフレーム31L及び第2アームフレーム31Rを有している。第1アームフレーム31L及び第2アームフレーム31Rは、機体幅方向B3で並べて配置され且つ連結パイプ31A等で相互に連結されている。第1アームフレーム31Lと第2アームフレーム31Rとの基部側31a間にアームブラケット26の上部が挿入され、機体幅方向B3に延伸する軸心を有するアーム枢軸33A(第1アーム枢軸という)を介して第1アームフレーム31L及び第2アームフレーム31Rの基部側31aがアームブラケット26に第1アーム枢軸33Aの軸心回りに回動可能に支持されている。
The
The
第1アームフレーム31L及び第2アームフレーム31Rは中空部材で形成されている。第1アーム部31の長さは、走行体3(機体6)の前後方向A3の長さよりも短く形成されている。
図4に示すように、第1アーム部31は、基部側31aであって且つ第1アーム枢軸33Aよりも先端側31c寄りに、シリンダ取付部31bを有している。このシリンダ取付部31bとシリンダブラケット27のシリンダ取付部27aとにわたって第1アームシリンダ(第1油圧シリンダ)C4が設けられている。第1アームシリンダC4は、走行体3に設けた油圧ポンプP1から吐出される作動油によって駆動されて伸縮する。第1アームシリンダC4を伸縮させることで第1アーム部31が上下揺動する。第1アーム部31(アーム17)を上下揺動させることにより、ロボットハンド18を昇降させることができる。第1アームシリンダC4には、第1アームシリンダC4のストロークを検出する第1ストロークセンサが設けられている。
The
As shown in Fig. 4, the
図4に示すように、第1アーム部31の先端側31cには、枢支部材31Bが固定されている。詳しくは、枢支部材31Bは、基部31Baが第1アームフレーム31Lと第2アームフレーム31Rとの間に挿入されて第1アームフレーム31L及び第2アームフレーム31Rに固定されている。枢支部材31Bの基部31Baの下面側には、シリンダステー34が取り付けられている。枢支部材31Bの先端側31Bbは、第1アームフレーム31L及び第2アームフレーム31Rから前方に突出している。
As shown in FIG. 4, a
図3に示すように、第2アーム部32の長さは、第1アーム部31の長さよりも長く形成されている。第2アーム部32は、基部側32aが枢支部材31Bの先端側31Bbに枢支されている。第2アーム部32は、第3アームフレーム32L及び第4アームフレーム32Rを有している。第3アームフレーム32L及び第4アームフレーム32Rは、機体幅方向B3で並べて配置され且つ複数の連結プレート35によって相互に連結されている。第3アームフレーム32L及び第4アームフレーム32Rは中空部材で形成されている。第3アームフレーム32Lと第4アームフレーム32Rとの基部側32a間に枢支部材31Bの先端側31Bbが挿入されている。第3アームフレーム32L及び第4アームフレーム32R(第2アーム部32)は、機体幅方向B3に延伸する軸心を有するアーム枢軸(第2アーム枢軸という)33Bによって枢支部材31Bに枢支されている。
As shown in FIG. 3, the length of the
第2アーム部32の基部側32aであって第2アーム枢軸33Bよりも先端側32b寄りには、シリンダ取付部32cが設けられている。このシリンダ取付部32cとシリンダステー34とにわたって第2アームシリンダ(第2油圧シリンダ)C5が設けられている。第2アームシリンダC5は、走行体3に設けた油圧ポンプP1から吐出される作動油によって駆動されて伸縮する。第2アームシリンダC5を伸縮させることで第1アーム部31に対して第2アーム部32が揺動し、メインアーム29(アーム17)が屈伸(曲げたり伸ばしたりすること)する。なお、本実施形態では、メインアーム29は、最も伸びた
状態で直線状となるが、最も伸びた状態で若干曲がっていてもよい。
A
また、第2アームシリンダC5を伸縮させることで走行体3に対してロボットハンド18を遠近方向に移動させることができる。詳しくは、第2アームシリンダC5を伸長させることでロボットハンド18を走行体3から遠ざける方向に移動させることができ、第2アームシリンダC5を収縮させることでロボットハンド18を走行体3に近づける方向に移動させることができる。
In addition, by extending and contracting the second arm cylinder C5, the
図4に示すように、第2アームシリンダC5には、第2アームシリンダC5のストロークを検出する第2ストロークセンサが設けられている。
サブアーム30は、第2アーム部32に突出及び後退可能に設けられている。したがって、サブアーム30を突出及び後退させることにより、アーム17の長さが伸縮可能である。サブアーム30は、角パイプによって直線状に形成されている。サブアーム30は、第3アームフレーム32Lと第4アームフレーム32Rとの先端側(前部)間に長手方向移動可能に支持されている。また、サブアーム30は、対向する連結プレート35の間に配置されていて連結プレート35にボルト等の固定具によって固定可能とされている。サブアーム30の一側面には、第3アームフレーム32Lに当接する突起30aが設けられ、他側面には、第4アームフレーム32Rに当接する突起30aが設けられている。突起30aによってサブアーム30のがたつきを抑制することができる。
As shown in FIG. 4, the second arm cylinder C5 is provided with a second stroke sensor that detects the stroke of the second arm cylinder C5.
The sub-arm 30 is provided on the
サブアーム30は、最も後退させた位置(最後退位置)では、第3アームフレーム32Lと第4アームフレーム32Rとの間に没入する。なお、サブアーム30は、最後退位置で第2アーム部32から若干突出していてもよい。
図4に示すように、サブアーム30の先端側には、吊りプレート37が固定されている。吊りプレート37にロボットハンド18が枢支され、吊り下げられる(図1参照)。つまり、ロボットハンド18は、サブアーム30の先端側に揺動可能に取り付けられる。第2アーム部32の先端側には、サブアーム30の第2アーム部32からの突出量を測定(検出)する第3ストロークセンサが設けられている。
The sub-arm 30 is retracted between the
As shown in Fig. 4, a hanging
図1、図2に示すように、ロボットハンド18は、ベース部材18Aと、複数の把持ツメ18Bとを有している。ベース部材18Aの上面側には連結片63が設けられている。連結片63は吊りプレート37に枢支されている。つまり、ロボットハンド18はアーム17に吊り下げられている。複数の把持ツメ18Bは、ベース部材18Aの下面側に揺動可能に取り付けられている。ロボットハンド18は、複数の把持ツメ18Bが揺動することにより、把持ツメ18Bと把持ツメ18Bとの間で作物2を把持することが可能(図2参照)であると共に、把持した作物2を解放することが可能である。
As shown in Figures 1 and 2, the
図1、図2に示すように、農業用ロボット1は、光学式センサ5A、5Bを備えている。光学式センサ5A、5Bは、CCD(Charge Coupled Devices:電荷結合素子)イメージセンサを搭載したCCDカメラ、CMOS(Complementary Metal Oxide Semiconductor:相補性金属酸化膜半導体)イメージセンサを搭載したCMOSカメラ、赤外線カメラである。この実施形態では、光学式センサ5A、5Bは、撮像装置(CCDカメラ、CMOSカメラ、赤外線カメラ)である。光学式センサ5A、5Bは、レーザセンサ、即ち、ライダー(LiDAR: Light Detection And Ranging)であってもよい。レーザセンサ(ライダー)は、1秒間に何百万回ものパルス状の赤外線等を照射し、跳ね返って戻ってくるまでの時間を測定することで、走行体3周辺の3Dマップを構築することができるセンサである。この実施形態では、光学式センサ5A、5Bは、撮像装置(CCDカメラ、CMOSカメラ、赤外線カメラ)である。
1 and 2, the
光学式センサ5Aは、回動フレーム21に取り付けられている。詳しくは、アームブラケット26の上部に支柱40を介して取り付けられている。これに限定されることはなく、光学式センサ5Aは、走行体3等に取り付けてもよい。また、光学式センサ5Aは複数箇所に設けられていてもよい。つまり、農業用ロボット1は、光学式センサ5Aを複数有していてもよい。光学式センサ5Aは、走行体3の周囲を撮影可能であって、走行体3の周囲の情報を撮影によって取得する。
The
光学式センサ5Bは、第2アーム部32の先端側に取り付けられている。光学式センサ
5Bは、作物2を撮像することによって、例えば、作物2の大きさ、形、色、模様(スイカにあっては縞模様)、傷などの品質情報を取得することができる。
図1、図2に示すように、農業用ロボット1は、打音センサ50Cを備えている。打音センサ50Cは、作物2に打撃を与えた(作物2を叩いた)ときの打音を取得するセンサである。図7に示すように、打音センサ50Cは、ロボットハンド18(ベース部材18A)に設けられている。
The
1 and 2, the
打音センサ50Cは、打撃機構51と、録音機構52とを有している。打撃機構51は、把持ツメ18Bで把持された作物2に対して進退可能な打撃部材51Aを有している。打撃部材51Aは、当該打撃部材51Aを軸方向に移動させるアクチュエータ51Bに連結されている。アクチュエータ51Bは、例えば、電動であって、制御信号に応じて打撃部材51Aを軸方向に移動させることで、作物2に打撃を与えて打音を発生させる。録音機構52は、マイク(高指向性マイク)を有し、打撃部材51Aで作物2を打撃することによって発生した打音を録音(記録)する。
The
図8に示すように、農業用ロボット1は、制御装置41を有している。制御装置41は、例えば、CPU(Central Processing Unit)、EEPROM(Electrically Erasable
Programmable Read-Only Memory)などを備えたマイクロコンピュータ等である。
制御装置41には、光学式センサ5A、5B、打音センサ50C、走行モータM1、回動モータM2が接続されている。また、制御装置41には、複数の制御弁42が接続されている。制御弁42は、第1制御弁42A、第2制御弁42B、第3制御弁42C、第4制御弁42D、第5制御弁42Eを含んでいる。
As shown in Fig. 8, the
Examples of such devices include microcomputers equipped with a programmable read-only memory (PRAM).
The
第1制御弁42Aは、操向シリンダC1を制御する弁、第2制御弁42Bは、第1昇降シリンダC2を制御する弁、第3制御弁42Cは、第2昇降シリンダC3を制御する弁、第4制御弁42Dは、第1アームシリンダC4を制御する弁、第5制御弁42Eは、第2アームシリンダC5を制御する弁である。
第1制御弁42A、第2制御弁42B、第3制御弁42C、第4制御弁42D及び第5制御弁42Eは、例えば、制御装置41からの制御信号に基づいて作動する電磁弁である。より詳しくは、第1制御弁42A、第2制御弁42B、第3制御弁42C、第4制御弁42D及び第5制御弁42Eは、制御信号によって複数の位置に切り換わる電磁弁(3位置切換電磁弁)である。
The
The
制御装置41が第1制御弁42Aに制御信号を出力すると、制御信号に応じて第1制御弁42Aが所定位置に切り換わる。制御装置41が第2制御弁42Bに制御信号を出力すると、制御信号に応じて第2制御弁42Bが所定位置に切り換わる。
また、制御装置41が第3制御弁42Cに制御信号を出力すると、制御信号に応じて第3制御弁42Cが所定位置に切り換わる。制御装置41が第4制御弁42Dに制御信号を出力すると、制御信号に応じて第4制御弁42Dが所定位置に切り換わる。制御装置41が第5制御弁42Eに制御信号を出力すると、制御信号に応じて第5制御弁42Eが所定位置に切り換わる。
When the
When the
第1制御弁42A、第2制御弁42B、第3制御弁42C、第4制御弁42D及び第5制御弁42Eには、油路46が接続され、当該油路46には、作動油を吐出する油圧ポンプP1が接続されている。
以上によれば、第1制御弁42Aの切り換わりによって、操向シリンダC1のボトム側又はロッド側への作動油の供給が切り換わり、操向シリンダC1が伸縮する。第2制御弁42Bの切り換わりによって、第1昇降シリンダC2のボトム側又はロッド側への作動油の供給が切り換わり、第1昇降シリンダC2が伸縮する。第3制御弁42Cの切り換わりによって、第2昇降シリンダC3のボトム側又はロッド側への作動油の供給が切り換わり、第2昇降シリンダC3が伸縮する。
An
According to the above, the
また、第4制御弁42Dの切り換わりによって、第1アームシリンダC4のボトム側又はロッド側への作動油の供給が切り換わり、第1アームシリンダC4が伸縮する。第5制御弁42Eの切り換わりによって、第2アームシリンダC5のボトム側又はロッド側への作動油の供給が切り換わり、第2アームシリンダC5が伸縮する。
農業用ロボット1は、走行制御部41Aを有している。走行制御部41Aは、制御装置41に設けられた電気電子回路、当該制御装置41に格納されたプログラム等である。
Furthermore, the
The
走行制御部41Aは、走行装置7を制御する。即ち、走行制御部41Aは、操向シリンダC1(第1制御弁42A)、走行モータM1を制御する。走行制御部41Aは、第1制御弁42Aに制御信号を出力して、操向シリンダC1を伸縮させることによって、走行装置7(機体6)の操舵方向の変更を行う。走行制御部41Aは、走行モータM1に制御信号を出力して、走行モータM1の回転数又は回転方向を変更することにより、走行装置7(機体6)の速度の変更、走行装置7(機体6)の進行方向の変更を行う。
The
また、走行制御部41Aは、機体6の昇降、傾き等の制御を行ってもよい。例えば、走行制御部41Aは、第2制御弁42Bに制御信号を出力して、第1昇降シリンダC2を伸縮することによって、機体6の昇降、傾きの変更を行う。また、走行制御部41Aは、第3制御弁42Cに制御信号を出力して、第2昇降シリンダC3を伸縮することによって、機体6の昇降、傾きの変更を行う。
The
以上のように、走行制御部41Aの制御によって、農業用ロボット1は、施設100など自立走行することができる。
農業用ロボット1は、作業制御部41Bを有している。作業制御部41Bは、制御装置41に設けられた電気電子回路、当該制御装置41に格納されたプログラム等である。
作業制御部41Bは、マニピュレータ(作業部)4を制御する。即ち、作業制御部41Bは、第1アームシリンダC4、第2アームシリンダC5、回動モータM2を制御する。作業制御部41Bは、第4制御弁42Dに制御信号を出力して、第1アームシリンダC4を伸縮させることによって、第1アーム部31の揺動を行う。作業制御部41Bは、第5制御弁42Eに制御信号を出力して、第2アームシリンダC5を伸縮させることによって、第2アーム部32の揺動を行う。また、作業制御部41Bは、回動モータM2に制御信号を出力することによって、回動モータM2の回転方向を変更することにより、マニピュレータ(作業部)4の回動を行う。
As described above, the
The
The
以上のように、作業制御部41Bは、ロボットハンド18を任意(所望)の位置に移動させることができる。詳しくは、回動フレーム21の回動による回動軸心J1を中心とする円周方向のロボットハンド18の移動、第1アーム部31の上下揺動によるロボットハンド18の昇降、第2アーム部32の揺動によるロボットハンド18の走行体3に対する遠近方向の移動によって、ロボットハンド18を目的の位置に移動させることができる。
As described above, the
作業制御部41Bは、アクチュエータ51B(打撃部材51A)を制御する。例えば、アクチュエータ51Bに制御信号を出力することで、アクチュエータ51Bを作動させ、打撃部材51Aによって作物2に対して打撃を与える制御(打撃制御)を行う。
図8に示すように、農業用ロボット1は、作物推定部41Iを備えている。作物推定部41Iは、制御装置41に設けられた電気電子回路、当該制御装置41に格納されたプログラム等である。
The
8, the
作物推定部41Iは、光学式センサ5A又は光学式センサ5Bで得られたセンシングデータに基づいて、作物2を推定する。光学式センサ5A又は光学式センサ5Bが撮像装置である場合、センシングデータは、撮像した撮像画像(画像データ)である。光学式センサ5A又は光学式センサ5Bがレーザセンサ(ライダー)である場合、センシングデータは、光学式センサ5A又は光学式センサ5Bからセンシングした対象物(物体)までの距離、方向を含むスキャンデータである。
The
さて、図9に示すように、農業用ロボット1によって収穫などの作業を行う場合、施設100内において、農業用ロボット1を栽培場所105の間の通路106を走行させる。例えば、作業時において、農業用ロボット1を作業開始点P11から作業終了点P12まで栽培場所105(通路106)に沿って農業用ロボット1を走行させる。
図11に示すように、農業用ロボット1を走行させる際、作物推定部41Iは、光学式センサ5A又は光学式センサ5Bで得られたセンシングデータ(撮像画像、スキャンデータ)H11を参照して、作物2を推定する。
9 , when the
As shown in FIG. 11, when the
以下、作物推定部41Iについて詳しく説明する。
図8に示すように、作物推定部41Iは、データ抽出部85と、推定部86とを有している。データ抽出部85は、センシングデータ(撮像画像、スキャンデータ)H11に基づいて推定する作物2を特定し且つセンシングデータ(撮像画像、スキャンデータ)H11のうち特定した作物2の周囲のデータを部分データH13として抽出する。
The
8, the
具体的には、まず、図10に示すように、栽培場所105で栽培している作物2に対して作業を行うために、農業用ロボット1を進行方向に向けて自立走行をさせると、データ抽出部85は、センシングデータH11を参照し、推定する作物2の特定を行う。図11に示すように、データ抽出部85は、参照したセンシングデータH11に作物2の一部が含まれているか否かを判断する。センシングデータH11が撮像画像である場合、撮像画像の特徴量のマッチング、パターンマッチング等により、撮像画像内において、推定する作物2を特定する。
Specifically, first, as shown in FIG. 10, when the
例えば、データ抽出部85は、撮像画像の所定範囲内の特徴量と予め用意された作物の画像における特徴量とを比較し、両者の特徴量が一致した場合、撮像画像の所定範囲内に作物2があると判断し、両者の特徴量が一致しない場合は、撮像画像の所定範囲内に作物2があると判断しない。
或いは、データ抽出部85は、予め用意された作物2の表面の模様、凸凹などを示す基準プロファイリングと、撮像画像の所定範囲内の画像プロファイリングとを比較し、基準プロファイリングと画像プロファイリングとが一致した場合は、撮像画像の所定範囲内に作物2等が含まれていると判断し、基準プロファイリングと画像プロファイリングとが一致しなかった場合は、撮像画像の所定範囲内に作物2が含まれていないと判断する。
For example, the
Alternatively, the
なお、センシングデータH11がスキャンデータである場合、データ抽出部85は、スキャンデータで描写した描写体が、作物2であるか否かを判断する。この場合、データ抽出部85は、描写体の所定範囲内のデータプロファイリングと、基準プロファイリングとを比較し、基準プロファイリングとデータプロファイリングとが一致した場合は、スキャンデータ内に作物2が含まれていると判断し、基準プロファイリングとデータプロファイリングとが一致しなかった場合は、スキャンデータ内に作物2が含まれていないと判断する。
When the sensing data H11 is scan data, the
つまり、データ抽出部85は、撮像画像の特徴量のマッチング、パターンマッチング、描写体のパターンマッチングなどによって、センシングデータH11に作物2が存在するか否かを判断し、作物2が存在すると判断した場合に、存在すると判断した作物2を特定する。
図11、図12に示すように、データ抽出部85は、センシングデータH11のうち特定した作物2(特定作物2a)の周囲を、部分データH13として抽出する。言い換えれば、センシングされた対象物(センシングデータH11から得られた撮像画像、描写体)において、特定した作物2(特定作物2a)の周囲に対応する部分(部分画像)H16を抽出する。
In other words, the
11 and 12, the
次に、推定部86は、データ抽出部85によって抽出した部分データH13(部分画像H16)から得られた特定作物2aの表面状態から特定作物2aの種類などを推定する。
具体的には、図13に示すように、推定部86は、作物2の種類と、作物2の表面状態とを学習したモデル(表面状態モデル)を用いて、部分データH13の特定作物2の種類を推定する。表面状態モデルは、数多くの作物2の表面状態と作物2の種類とが関連付けられた作物表面情報を、コンピュータに入力し、当該コンピュータにおいて、人工知能(AI)による深層学習を実行し、学習済みモデルを構築したものである。
Next, the
13, the
表面状態モデルでは、特定作物2aの表面状態として、部分データH13(部分画像H16)から得られた特定作物2aの模様から作物2の種類を推定する。例えば、図14A~図14Cに示すように、表面状態モデルは、特定作物2aの表面において、模様(図柄)を構成する線W11の間隔、線W11の角度、線W11の繋がり、線W11の形状、線W11の配列パターンから、特定作物2の種類を推定する。
The surface condition model estimates the type of
また、推定部86は、特定作物2の種類を推定した推定結果に基づいて、部分データH13(部分画像H16)に含まれる特定作物2の輪郭R10を演算する。例えば、特定作
物2の推定結果(例えば、作物2の種類)から、推定部86は、作物2の輪郭R10の基本形状(円形、四角、楕円形)、基準サイズL10を参照する。また、図14Aに示すように、推定部86は、例えば、部分データH13(部分画像H16)において、特定作物2の模様を構成する線W11のうち、直線状の線W11aを抽出する。ここで、推定部86は、線W11aの両端部W11bを部分データH13(部分画像H16)から得ることができた場合、線W11aの両端部W11bを通る円形状又は楕円形状の線を、特定作物2の輪郭R10とする。
The
図14Bに示すように、推定部86は、線W11aの一方の端部W11bを抽出した場合、一方の端部W11bから基準サイズの1/2の位置を、特定作物2の中心O10とし、中心O10から基準サイズの1/2を特定作物2の半径R1として、一方の端部W11aを通り且つ半径R1の円形状の線を、特定作物2の輪郭R10とする。
図14Cに示すように、推定部86は、線W11の端部W11bが部分データH13(部分画像H16)で構成する抽出画像枠に達している場合、抽出画像枠の特定作物2の模様から特定作物2の中心O10を推定し、半径R1の円形状の線を、特定作物2の輪郭R10とする。
As shown in FIG. 14B , when the
As shown in FIG. 14C , when the end W11b of the line W11 reaches the extracted image frame formed by the partial data H13 (partial image H16), the
なお、図14A~図14Cは一例であり、表面状態モデルが作物2の模様等から作物の種類だけでなく、作物の大きさを推定してもよい。
さらに、図14A~図14Cに示すように、推定部86は、部分データH13(部分画像H16)で得られた作物2の周囲に関して推定した作物2の表面を隠す障害物W20を推定してもよい。図14A~図14Cに示すように、例えば、推定部86は、作物2の表面において表面状態モデルが作物2の表面の模様と判断した以外の部分W21を抽出し、部分W21において、特定作物2の輪郭R10と重複する部分が、障害物W20の一部であると判断し、障害物W20の全体の輪郭W22を画像処理等により抽出する。
14A to 14C are merely examples, and the surface condition model may estimate not only the type of crop but also the size of the crop from the pattern of the
14A to 14C, the
上述したように、推定部86が障害物W20の全体の輪郭W22を抽出、即ち、障害物W20を推定した場合、農業用ロボット1は、作物2の収穫時などに、障害物W20を作物2から遠ざける作業を行う。図15に示すように、作業制御部41Bは、マニピュレータ(作業部)4(ロボットハンド18)の収穫時の制御において、ロボットハンド18の先端を障害物W20に近づけ、ロボットハンド18の一部を障害物W20に当接し、先端部を当接させた状態でロボットハンド18を、障害物W20が作物2の表面から遠ざかる方向に移動させる。つまり、ロボットハンド18は、作物2の収穫時に、障害物W20を遠ざける動作する。
As described above, when the
上述した実施形態では、農業用ロボット1が学習済みモデル(表面状態モデル)を有していることについて説明したが、図8に示すように、農業用ロボット1は、表面状態モデルを生成するモデル生成部41Jを備えていてもよい。モデル生成部41Jは、制御装置41に設けられた電気電子回路、当該制御装置41に格納されたプログラム等である。
In the above embodiment, the
まず、農業用ロボット1が作物2の収穫を行う際、制御装置41は、光学式センサ5A又は光学式センサ5Bにて、作物2の表面をセンシングしたセンシングデータ(作物2の表面のデータ)を取得する。制御装置41は、作物2の収穫を行う毎に、作物2の表面のデータを取得し、データベース化して記憶する。モデル生成部41Jは、制御装置41が取得した数多くの作物2の表面のデータを、深層学習することによって、表面状態モデルを構築する。なお、モデル生成部41Jは、表面状態モデルの構築後も作物2の収穫を行う毎に、制御装置41から作物2の表面のデータを取得して、強化学習を続ける。
First, when the
農業用ロボット1は、走行体3と、走行体3に設けられ、作物2に関する作業を行う作業部4と、走行体3に設けられた光学式センサ5A、5Bと、光学式センサ5A、5Bで得られたセンシングデータに基づいて、作物2を推定する作物推定部41Iと、を備え、作物推定部41Iは、センシングデータに基づいて推定する作物2を特定し且つセンシングデータのうち特定した作物2に対応するデータを部分データH13として抽出するデータ抽出部85と、データ抽出部85によって抽出した部分データH13から得られた作物2の表面状態から作物2を推定する推定部86と、を有している。これによれば、センシ
ングデータから作物2を特定した後に、特定した作物2に対応するデータを部分データH13として抽出後、さらに、抽出した部分データH13の表面状態から作物2を推定するようにすることで、より効率良く精密に作物2を推定することができる。即ち、センシングデータから簡単に作物を推定することができる。
The
推定部86は、部分データH13で示された作物2に関し、作物2の種類と作物2の表面状態とに基づいて、作物2を推定する。これによれば、作物2の種類によって表面状態が異なることから、当該作物2の種類と表面状態とによって作物2を推定するようにすることで、より正確に作物2について推定することができる。特に、作物2の表面が障害物W20に覆い隠されていて、作物2の一部しか表面状態が分からない場合であっても、作物2の種類と表面状態との関係に基づいて、作物2が何であるかを簡単に推定することができる。
The
推定部86は、作物2の表面状態として作物2の模様と、作物2の種類とに基づいて、作物2を推定する。これによれば、作物2の種類によって模様が異なることを用いて、作物2を簡単に推定することができる。
推定部86は、推定した作物2の推定結果に基づいて、部分データH13に含まれる作物2の輪郭W22を演算する。これによれば、例えば、作物2の推定結果が作物2の種類である場合、作物2の種類に対応した大きさと、部分データH13とによって、簡単に作物2の輪郭W22を求めることができる。
The
The
推定部86は、作物2の種類を推定し且つ、部分データH13で得られた作物2の周囲に関して推定した作物2の表面を隠す障害物W20を推定する。これによれば、簡単に障害物W20の輪郭を推定することができ、どれくらいの大きさの障害物W20によって作物2の表面が覆われていたかを把握することができる。
作業部4は、推定部86で推定した障害物W20を、作物2から遠ざける作業を行う。これによれば、農業用ロボット1によって作物2に対して作業を行う場合に、作業に邪魔な障害物W20を作物2から遠ざけることができ、作業を効率よく行うことができる。例えば、作業が収穫である場合には、障害物W20を除いたうえで、作業部4によって収穫を行うことができる。また、作業が作物2に打撃を加える場合、打撃時の音を収集する場合なども、障害物W20を除いたうえで、作物2に打撃を加える等の作業を行うことができる。
The
The working
農業用ロボット1は、作物2と作物2の表面状態との関係を、深層学習することで表面状態モデルを生成するモデル生成部41Jを備えている。これによれば、作物2と作物2の表面状態との関係を推定するモデルを簡単に作成することができる。
以上、本発明の一実施形態について説明したが、今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。
The
Although one embodiment of the present invention has been described above, the embodiment disclosed herein should be considered as illustrative and not restrictive in all respects. The scope of the present invention is indicated by the claims, not the above description, and is intended to include all modifications within the meaning and scope of the claims.
1 :農業用ロボット
2 :作物
3 :走行体
4 :作業部
5A :光学式センサ
5B :光学式センサ
41I :作物推定部
41J :モデル生成部
85 :データ抽出部
86 :推定部
H11 :センシングデータ
H13 :部分データ
R10 :輪郭
W20 :障害物
W21 :部分
W22 :輪郭
1: Agricultural robot 2: Crop 3: Traveling body 4: Working
Claims (10)
前記走行体に設けられ、作物に関する作業を行う作業部と、
前記走行体に設けられた光学式センサと、
前記光学式センサで得られたセンシングデータに基づいて、前記作物を推定する作物推定部と、
を備え、
前記作物推定部は、前記センシングデータに基づいて前記推定する作物を特定し且つ前記センシングデータのうち前記特定した作物及び前記作物の表面を隠す障害物を含むデータを部分データとして抽出するデータ抽出部と、前記データ抽出部によって抽出した前記部分データにおいて前記障害物を除いて得られた前記作物の表面状態から作物を推定する推定部と、を有し、
前記推定部は、前記作物の種類を推定し且つ、前記部分データで得られた前記作物の周囲に関して前記推定した作物の表面を隠す前記障害物を推定する農業用ロボット。 A running body,
A working unit provided on the traveling body and performing work on crops;
An optical sensor provided on the traveling body;
a crop estimation unit that estimates the crop based on sensing data obtained by the optical sensor;
Equipped with
The crop estimation unit includes a data extraction unit that identifies the crop to be estimated based on the sensing data and extracts data from the sensing data that includes the identified crop and an obstacle hiding a surface of the crop as partial data, and an estimation unit that estimates the crop from a surface state of the crop obtained by excluding the obstacle in the partial data extracted by the data extraction unit ,
The agricultural robot , wherein the estimation unit estimates the type of the crop and estimates the obstacles that hide the estimated surface of the crop in relation to the surroundings of the crop obtained from the partial data.
前記走行体に設けられ、作物に関する作業を行う作業部と、A working unit provided on the traveling body and performing work on crops;
前記走行体に設けられた光学式センサと、An optical sensor provided on the traveling body;
前記光学式センサで得られたセンシングデータに基づいて、前記作物を推定する作物推定部と、a crop estimation unit that estimates the crop based on sensing data obtained by the optical sensor;
を備え、Equipped with
前記作物推定部は、前記センシングデータに基づいて前記推定する作物を特定し且つ前記センシングデータのうち前記特定した作物及び前記作物の表面を隠す障害物を含むデータを部分データとして抽出するデータ抽出部と、前記データ抽出部によって抽出した前記部分データにおいて前記障害物を除いて得られた前記作物の表面状態から作物を推定する推定部と、を有し、The crop estimation unit includes a data extraction unit that identifies the crop to be estimated based on the sensing data and extracts data from the sensing data that includes the identified crop and an obstacle hiding a surface of the crop as partial data, and an estimation unit that estimates the crop from a surface state of the crop obtained by excluding the obstacle in the partial data extracted by the data extraction unit,
前記推定部は、前記推定した作物の推定結果に基づいて、前記部分データに含まれる前記作物の輪郭を演算し、The estimation unit calculates an outline of the crop included in the partial data based on the estimated crop outline,
前記推定部は、前記作物の種類を推定した推定結果に基づいて、前記部分データに含まれる前記作物の輪郭を、以下の(i)~(iii)のいずれかを用いて、The estimation unit estimates the outline of the crop included in the partial data based on an estimation result of the type of the crop, by using any one of the following (i) to (iii):
(i)前記作物の模様を構成する線のうち、前記作物の外縁にそれぞれ至る線の両端部を前記部分データから得ることができた場合、前記両端部を通る円形状又は楕円形状の線を、前記作物の輪郭とし、(i) when both ends of a line that constitutes the pattern of the crop and that reaches the outer edge of the crop can be obtained from the partial data, a circular or elliptical line that passes through both ends is determined to be the outline of the crop;
(ii)前記両端部のうちの一方の端部だけを抽出した場合、当該一方の端部から前記作物の基準サイズの1/2の位置を、前記作物の中心とし、前記中心から前記基準サイズの1/2を前記作物の半径として、前記一方の端部を通り且つ半径の円形状の線を、前記作物の輪郭とし、(ii) when only one of the two ends is extracted, a position that is 1/2 the reference size of the crop from the one end is set as the center of the crop, and a circular line that passes through the one end and has a radius of the crop that is 1/2 the reference size from the center is set as the contour of the crop;
(iii)前記線が前記部分データの抽出画像枠に達している場合、前記抽出画像枠の前記作物の模様から前記作物の中心を推定し、前記作物の基準サイズの1/2を前記作物の半径とし、当該推定した前記中心から前記半径の円形状の線を、前記作物の輪郭とする(iii) if the line reaches the extracted image frame of the partial data, the center of the crop is estimated from the pattern of the crop in the extracted image frame, half of the reference size of the crop is set as the radius of the crop, and a circular line of the estimated center and radius is set as the outline of the crop.
演算を行う農業用ロボット。An agricultural robot that performs calculations.
(i)前記作物の模様を構成する線のうち、前記作物の外縁にそれぞれ至る線の両端部を前記部分データから得ることができた場合、前記両端部を通る円形状又は楕円形状の線を、前記作物の輪郭とし、
(ii)前記両端部のうちの一方の端部だけを抽出した場合、当該一方の端部から前記作物の基準サイズの1/2の位置を、前記作物の中心とし、前記中心から前記基準サイズの1/2を前記作物の半径として、前記一方の端部を通り且つ半径の円形状の線を、前記作物の輪郭とし、
(iii)前記線が前記部分データの抽出画像枠に達している場合、前記抽出画像枠の前記作物の模様から前記作物の中心を推定し、前記作物の基準サイズの1/2を前記作物の半径とし、当該推定した前記中心から前記半径の円形状の線を、前記作物の輪郭とする
演算を行う請求項5に記載の農業用ロボット。 The estimation unit estimates the outline of the crop included in the partial data based on an estimation result of the type of the crop, by using any one of the following (i) to (iii):
(i) when both ends of a line that constitutes the pattern of the crop and that reaches the outer edge of the crop can be obtained from the partial data, a circular or elliptical line that passes through both ends is determined to be the outline of the crop;
(ii) when only one of the two ends is extracted, a position that is 1/2 the reference size of the crop from the one end is set as the center of the crop, and a circular line that passes through the one end and has a radius of the crop that is 1/2 the reference size from the center is set as the outline of the crop;
The agricultural robot according to claim 5, wherein the agricultural robot performs a calculation such that (iii) if the line reaches an extracted image frame of the partial data, a center of the crop is estimated from the pattern of the crop in the extracted image frame, a radius of the crop is set to half the reference size of the crop , and a circular line of the estimated center and radius is set to the outline of the crop.
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020109080A JP7471931B2 (en) | 2020-06-24 | 2020-06-24 | Agricultural robots |
PCT/JP2021/022292 WO2021261294A1 (en) | 2020-06-24 | 2021-06-11 | Agricultural robot |
EP21829595.4A EP4173467A1 (en) | 2020-06-24 | 2021-06-11 | Agricultural robot |
US17/990,825 US20230078003A1 (en) | 2020-06-24 | 2022-11-21 | Agricultural robot |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020109080A JP7471931B2 (en) | 2020-06-24 | 2020-06-24 | Agricultural robots |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022006699A JP2022006699A (en) | 2022-01-13 |
JP7471931B2 true JP7471931B2 (en) | 2024-04-22 |
Family
ID=80110784
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020109080A Active JP7471931B2 (en) | 2020-06-24 | 2020-06-24 | Agricultural robots |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7471931B2 (en) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2000057129A1 (en) | 1999-03-19 | 2000-09-28 | Matsushita Electric Works, Ltd. | Three-dimensional object recognition method and pin picking system using the method |
WO2018211621A1 (en) | 2017-05-17 | 2018-11-22 | inaho株式会社 | Agricultural work machine, agricultural work management system, and program |
-
2020
- 2020-06-24 JP JP2020109080A patent/JP7471931B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2000057129A1 (en) | 1999-03-19 | 2000-09-28 | Matsushita Electric Works, Ltd. | Three-dimensional object recognition method and pin picking system using the method |
WO2018211621A1 (en) | 2017-05-17 | 2018-11-22 | inaho株式会社 | Agricultural work machine, agricultural work management system, and program |
Non-Patent Citations (3)
Title |
---|
Inkyu Sa, Zongyuan Ge, Feras Dayoub, Ben Upcroft, Tristan Perez and Chris McCool,DeepFruits: A Fruit Detection System Using Deep Neural Networks,Sensors,2016年08月03日,Vol. 16, No. 8,1222 |
Yang-Yang Zheng, Jianlei Kong, Xue-bo Jin, Tingli Su, Ming-Jun Nie, and Yuting Bai,Real-Time Vegetables Recognition System based on Deep Learning Network for Agricultural Robots,2018 Chinese Automation Congress (CAC),2018年11月30日,pp. 2223 - 2228 |
佐藤治、高橋伸弥、横道政裕、福嶋浩紀,機械学習を用いたスイカ果実検出,第38回計測自動制御学会九州支部学術講演会予稿集,日本,公益社団法人計測自動制御学会九州支部,2019年11月30日,pp. 17 - 20 |
Also Published As
Publication number | Publication date |
---|---|
JP2022006699A (en) | 2022-01-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Radcliffe et al. | Machine vision for orchard navigation | |
JP6737535B2 (en) | Robot vehicles and methods of using robots for automated processing of plant organisms | |
JP7321910B2 (en) | agricultural robot | |
CN102239756B (en) | Intelligent farming robot in greenhouse | |
WO2021261246A1 (en) | Agricultural robot and assistance system for agricultural robot | |
EP3815510A1 (en) | Plant removal apparatus and method | |
JP7191808B2 (en) | Robot hands and agricultural robots | |
Yang et al. | A review of core agricultural robot technologies for crop productions | |
KR20200095225A (en) | An weed removal robot using image processor | |
JP7214612B2 (en) | agricultural robot | |
JP7471931B2 (en) | Agricultural robots | |
JP7408496B2 (en) | agricultural robot | |
WO2021261294A1 (en) | Agricultural robot | |
JP7494023B2 (en) | Agricultural robots | |
JP7404169B2 (en) | Agricultural robots and agricultural robot support systems | |
JP7225081B2 (en) | agricultural robot | |
US20230292644A1 (en) | Mobile autonomous agricultural system | |
JP2022006697A (en) | Agricultural robot and support system of agricultural robot | |
JP7278931B2 (en) | agricultural robot | |
Aasted et al. | Autonomous mechanical thinning using scanning LIDAR | |
Vedula et al. | Computer vision assisted autonomous intra-row weeder | |
JP7254687B2 (en) | Robot hands and agricultural robots | |
CA3233366A1 (en) | Autonomous robot platform for pest identification and control | |
CN218588066U (en) | Agricultural robot | |
Pant et al. | Agricultural Robots: The Needs And Limitations In Large Scale Commercialization |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220622 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230725 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230911 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231121 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240109 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240312 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240410 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7471931 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |