JP7068781B2 - 収穫機 - Google Patents

収穫機 Download PDF

Info

Publication number
JP7068781B2
JP7068781B2 JP2017123440A JP2017123440A JP7068781B2 JP 7068781 B2 JP7068781 B2 JP 7068781B2 JP 2017123440 A JP2017123440 A JP 2017123440A JP 2017123440 A JP2017123440 A JP 2017123440A JP 7068781 B2 JP7068781 B2 JP 7068781B2
Authority
JP
Japan
Prior art keywords
recognition
unit
output data
image
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017123440A
Other languages
English (en)
Other versions
JP2019004772A (ja
Inventor
隼輔 宮下
憲一 石見
一浩 高原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kubota Corp
Original Assignee
Kubota Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kubota Corp filed Critical Kubota Corp
Priority to JP2017123440A priority Critical patent/JP7068781B2/ja
Priority to PCT/JP2018/019444 priority patent/WO2018235486A1/ja
Priority to KR1020197031226A priority patent/KR102589076B1/ko
Priority to CN201880029905.8A priority patent/CN110582198B/zh
Publication of JP2019004772A publication Critical patent/JP2019004772A/ja
Application granted granted Critical
Publication of JP7068781B2 publication Critical patent/JP7068781B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)
  • Combines (AREA)

Description

本発明は、圃場を走行しながら農作物を収穫し、撮影部によって取得された撮影画像に基づく収穫作業支援が可能な収穫機に関する。
圃場での収穫機を用いた農作物の収穫作業では、局所的に異なる農作物の生育状態や人物を含む障害物の存在に注意を払う必要がある。このため、例えば、特許文献1によるコンバインでは、刈取部の前方の穀稈を撮影するテレビカメラと画像処理装置とが備えられている。画像処理装置は、テレビカメラからの画像と、予め記憶させておいた種々の穀稈の植立状態を示す画像とを比較して、穀稈の特定の状態を検出する。例えば、刈取部前方の穀稈の一部が倒伏していることを、画像処理装置が検出すると、掻込みリールが穀稈倒伏側を下方にして傾動される。これにより、倒伏穀稈の刈取性能が向上する。また、特許文献1のコンバインと同様にテレビカメラと画像処理装置が備えられている特許文献2によるコンバインでは、刈取部の前方に穀稈が存在しないことが検出された場合に、コンバインが枕地に達したものとみなし、カッターへの動力伝達を遮断してカッターを上昇させ、走行速度を減速させる。これにより、枕地での回行中におけるカッターの畦等への衝突が回避されるとともに、コンバインの枕地の回行がスムーズに行われる。
特開平11-155340号公報 特開平11-137062号公報
特許文献1や特許文献2によるコンバインでは、刈取部前方の穀稈の状態が画像処理技術を用いて検出され、その検出結果に基づいて作業機器の動作が制御される。しかしながら、検出された穀稈の圃場における地図上の実際の位置は考慮されていない。このため、作業走行において問題となる状態の穀稈が検出され、その問題を解決するための回避制御を行うとしても、問題となる穀稈状態を示している領域とコンバインとが遠く離れている場合には、回避制御が早過ぎるとか遅すぎるとかいう問題が生じる。また、回避制御を終了すべきタイミングを適切に決定することも困難である。
上述した実情に鑑み、車体に設けられた撮影部による撮影画像を用いた収穫作業支援が効果的に行われる収穫機が要望されている。
本発明の第1の特徴は、圃場を走行しながら農作物を収穫する収穫機であって、衛星測位モジュールからの測位データに基づいて機体の地図座標である機体位置を算出する機体位置算出部と、前記機体に設けられ、収穫作業時に圃場を撮影する撮影部と、前記撮影部によって継時的に遂次取得された撮影画像の画像データが入力され、前記撮影画像における認識対象物が存在する存在領域を推定し、前記存在領域及び前記存在領域が推定された際の推定確率を含む認識出力データを出力する画像認識モジュールと、前記撮影画像が取得された時点の前記機体位置と前記認識出力データとから前記認識対象物の地図上の位置を示す認識対象物位置情報を生成する認識対象物位置情報生成部と、を備え、
前記撮影画像において前記認識対象物が前記撮影部から遠くに位置するほど、当該認識対象物の前記推定確率は低減される点にある。
本発明の第2の特徴は、圃場を走行しながら農作物を収穫する収穫機であって、衛星測位モジュールからの測位データに基づいて機体の地図座標である機体位置を算出する機体位置算出部と、前記機体に設けられ、収穫作業時に圃場を撮影する撮影部と、前記撮影部によって継時的に遂次取得された撮影画像の画像データが入力され、前記撮影画像における認識対象物が存在する存在領域を推定し、前記存在領域及び前記存在領域が推定された際の推定確率を含む認識出力データを出力する画像認識モジュールと、前記撮影画像が取得された時点の前記機体位置と前記認識出力データとから前記認識対象物の地図上の位置を示す認識対象物位置情報を生成する認識対象物位置情報生成部と、を備え、
複数の前記認識対象物位置情報が記憶され、記憶された複数の前記認識対象物位置情報が、対応する前記認識出力データに含まれている前記推定確率の統計的演算の結果に基づいて補正される点にある。
本発明の第3の特徴は、圃場を走行しながら農作物を収穫する収穫機であって、衛星測位モジュールからの測位データに基づいて機体の地図座標である機体位置を算出する機体位置算出部と、前記機体に設けられ、収穫作業時に圃場を撮影する撮影部と、前記撮影部によって継時的に遂次取得された撮影画像の画像データが入力され、前記撮影画像における認識対象物が存在する存在領域を推定し、前記存在領域及び前記存在領域が推定された際の推定確率を含む認識出力データを出力する画像認識モジュールと、前記撮影画像が取得された時点の前記機体位置と前記認識出力データとから前記認識対象物の地図上の位置を示す認識対象物位置情報を生成する認識対象物位置情報生成部と、を備え、
前記画像認識モジュールから遂次出力された前記認識出力データを認識出力データ列として一時的かつ経時的に記憶するデータ記憶部と、データ判定部とが備えられ、
前記データ判定部は、前記認識出力データ列において継時的に前後関係となる前記認識出力データの前記推定確率と比べて、所定レベル以上に低い前記推定確率を有する前記認識出力データを不適認識出力データとして判定する点にある。
本発明では、撮影画像である画像データから、撮影画像における認識対象物が存在する存在領域を推定する画像認識モジュールが、例えば、ニューラルネットワーク(ディープラーニングを含む)や強化学習などの技術を用いて構成されている。また、当該存在領域を推定した際の推定確率も同時に出力することができるように構成されているので、その確率値を用いた最適制御も可能となる。さらには、撮影画像が取得された時点の地図座標で示された機体位置が、機体位置算出部によって算出され、当該機体位置と、認識対象物の存在領域を示す認識出力データとから、認識対象物の地図上の位置を示す認識対象物位置情報が生成される。このような構成から、認識対象物の存在領域を推定する推定確率、及び、当該認識対象物の地図上の位置、結果的には当該認識対象物と収穫機との距離を考慮した収穫作業支援の制御が可能となる。
撮影部によって撮影された圃場の撮影画像では、遠近法の関係で、撮影部から遠い認識対象物に対する分解能は、撮影部から近い認識対象物に対する分解能に比べて低下する。このことから、撮影部から遠い場所で写っている認識対象物は、撮影部から近い場所で写っている認識対象物に比べてその認識信頼性は低いものとなってしまう。このことから、本発明の第1の特徴では、前記撮影画像において前記認識対象物が前記撮影部から遠くに位置するほど、当該認識対象物の前記推定確率は低減されるように構成されている。
撮像画像に基づく認識対象物位置情報の生成は、収穫機の車速と比較して高速で行うことができるので、同一の認識対象物に関する認識対象物位置情報は複数生成される。このため、同一の認識対象物に関する複数の認識対象物位置情報に含まれているそれぞれの推定確率を統計的演算することが可能となる。この統計的演算を通じて、より信頼度の高い認識対象物位置情報を生成することができる。ここでの統計的演算とは、算術平均、重み平均、中間値演算などであり、複数のデータ値からより信頼性の高いデータ値が導出されるような演算である。このような統計的演算を推定確率に対して利用することで、複数の認識対象物位置情報から、より適切な認識対象物位置情報を導出することが可能となる。このことから、本発明の第2の特徴では、複数の前記認識対象物位置情報が記憶され、記憶された複数の前記認識対象物位置情報が、対応する前記認識出力データに含まれている前記推定確率の統計的演算の結果に基づいて補正されるように構成されている。
機体に設けられた撮影部によって取得された撮影画像は、画像認識モジュールの入力ソースとなるにもかかわらず、撮影条件によって認識対象物の認識に不適当なものとなってしまう可能性がある。その結果、認識対象物が認識されたとしても、その認識出力データの認識確率は低いものとなってしまうので、当該認識出力データを、その後の処理にそのまま利用することは好ましくはない。このことから、本発明の第3の特徴では、前記画像認識モジュールから遂次出力された前記認識出力データを認識出力データ列として一時的かつ経時的に記憶するデータ記憶部と、データ判定部とが備えられ、前記データ判定部は、前記認識出力データ列において継時的に前後関係となる前記認識出力データの前記推定確率と比べて、所定レベル以上に低い前記推定確率を有する前記認識出力データを不適認識出力データとして判定する。不適認識出力データと判定された認識出力データは削除してもよいし、当該認識出力データの推定確率を、前後の認識出力データで補間した推定確率が置き換えるようにしてもよい。
圃場を走行しながら農作物を収穫する収穫機にとって重要となる認識対象物は、人物、倒伏穀稈、雑草、畦などである。作業走行の障害物となる人物を認識することは、障害物回避制御や障害物警報報知のトリガーとなるため、圃場における安全走行のために重要である。倒伏穀稈や雑草を認識することは、作業制御における倒伏穀稈対策制御や雑草対策制御のとなるため、高品質の収穫作業を行うために重要である。畦を認識することは、圃場の境界線を検出することになり、圃場の枕地走行制御等にとって重要である。
コンバインの全体側面図である。 コンバインの制御系を示す機能ブロック図である。 画像認識モジュールによる認識出力データの生成の流れを模式的に示す説明図である。 撮像画像から認識対象物位置情報を生成する際のデータの流れを示すデータ流れ図である。 認識対象物位置情報の1つとしての雑草位置情報をマップ化することによって得られた雑草マップを示す模式図である。
以下、本発明に係る収穫機の一例としてのコンバインの実施形態を図面に基づいて説明する。この実施形態で、機体1の前後方向を定義するときは、作業状態における機体進行方向に沿って定義する。図1に符号(F)で示す方向が機体前側、図1に符号(B)で示す方向が機体後側である。機体1の左右方向を定義するときは、機体進行方向視で見た状態で左右を定義する。
図1に示すように、コンバインでは、左右一対のクローラ走行装置10を備えた機体1の前部に横軸芯X周りで昇降操作自在に刈取部2が連結されている。機体1の後部には、機体横幅方向に並ぶ状態で脱穀装置11と、穀粒を貯留する穀粒タンク12とが備えられている。機体1の前部右側箇所に搭乗運転部を覆うキャビン14が備えられ、このキャビン14の下方に駆動用のエンジン15が備えられている。
図1に示すように、脱穀装置11は、刈取部2で刈り取られて後方に搬送されてくる刈取穀稈を内部に受け入れて、穀稈の株元を脱穀フィードチェーン111と挟持レール112とによって挟持して搬送しながら穂先側を扱胴113にて脱穀処理する。そして、扱胴113の下方に備えられた選別部にて脱穀処理物に対する穀粒選別処理が実行され、そこで選別された穀粒が穀粒タンク12へ搬送され、貯留される。また、詳述はしないが、穀粒タンク12にて貯留される穀粒を外部に排出する穀粒排出装置13が備えられている。
刈取部2には、倒伏した植立穀稈を引き起こす複数の引き起こし装置21、引起された植立穀稈の株元を切断するバリカン型の切断装置22、穀稈搬送装置23等が備えられている。穀稈搬送装置23は、株元が切断された縦姿勢の刈取穀稈を徐々に横倒れ姿勢に変更させながら、機体後方側に位置する脱穀装置11の脱穀フィードチェーン111の始端部に向けて搬送する。
穀稈搬送装置23は、切断装置22により刈り取られた複数条の刈取穀稈を刈幅方向中央に寄せ集めながら搬送する合流搬送部231、寄せ集めた刈取穀稈の株元を挟持して後方に搬送する株元挟持搬送装置232、刈取穀稈の穂先側を係止搬送する穂先係止搬送装置233、株元挟持搬送装置232の終端部から刈取穀稈の株元を脱穀フィードチェーン111に向けて案内する供給搬送装置234等を備えている。
キャビン14の天井部の前端に、カラーカメラを備えた撮影部70が設けられている。
この実施形態では、撮影部70の撮影視野の前後方向の広がりは、刈取部2の前端領域からほぼ地平線に達している。撮影視野の幅方法の広がりは、10m程度から数十mに達している。撮影部70によって取得された撮影画像は、画像データ化され、コンバインの制御系に送られる。
撮影部70は、収穫作業時に圃場を撮影するが、圃場には種々の物体が撮影対象として存在している。コンバインの制御系は、撮影部70から送られてきた画像データから特定の物体を認識対象物として認識する機能を有する。そのような認識対象物として、図1では、符号Z0で示された正常な植立穀稈群、符号Z1で示された植立穀稈より高く伸びた雑草群、符号Z2で示された倒伏穀稈群、符号Z3で示された人物が模式的に示されている。
キャビン14の天井部には、衛星測位モジュール80も設けられている。衛星測位モジュール80には、GNSS(global navigation satellite system)信号(GPS信号を含む)を受信するための衛星用アンテナが含まれている。衛星測位モジュール80による衛星航法を補完するために、ジャイロ加速度センサや磁気方位センサを組み込んだ慣性航法ユニットが衛星測位モジュール80に組み込まれている。もちろん、慣性航法ユニットは別の場所に配置できる。図1において、衛星測位モジュール80は、作図の便宜上、キャビン14の天井部における後部に配置されているが、例えば、切断装置22の左右中央部の直上方位置にできるだけ近づくように、天井部の前端部における機体中央側寄りの位置に配置されていると好適である。
図2には、コンバインの制御系の機能ブロック図が示されている。この実施形態の制御系は、多数のECUと呼ばれる電子制御ユニットと、各種動作機器、センサ群やスイッチ群、それらの間のデータ伝送を行う車載LANなどの配線網から構成されている。報知デバイス91は、運転者等に作業走行状態や種々の警告を報知するためのデバイスであり、ブザー、ランプ、スピーカ、ディスプレイなどである。通信部92は、このコンバインの制御系が、遠隔地に設置されているクラウドコンピュータシステム100や携帯通信端末200との間でデータ交換するために用いられる。携帯通信端末200は、ここでは、作業走行現場における監視者(運転者も含む)が操作するタブレットコンピュータである。
制御ユニット6は、この制御系の中核要素であり、複数のECUの集合体として示されている。衛星測位モジュール80からの測位データ、及び、撮影部70からの画像データは、配線網を通じて制御ユニット6に入力される。
制御ユニット6は、入出力インタフェースとして、出力処理部6Bと入力処理部6Aとを備えている。出力処理部6Bは、車両走行機器群7A及び作業装置機器群7Bと接続している。車両走行機器群7Aには、車両走行に関する制御機器、例えばエンジン制御機器、変速制御機器、制動制御機器、操舵制御機器などが含まれている。作業装置機器群7Bには、刈取部2、脱穀装置11、穀粒排出装置13、穀稈搬送装置23における動力制御機器などが含まれている。
入力処理部6Aには、走行系検出センサ群8Aや作業系検出センサ群8Bなどが接続されている。走行系検出センサ群8Aには、エンジン回転数調整具、アクセルペダル、ブレーキペダル、変速操作具などの状態を検出するセンサが含まれている。作業系検出センサ群8Bには、刈取部2、脱穀装置11、穀粒排出装置13、穀稈搬送装置23における装置状態及び穀稈や穀粒の状態を検出するセンサが含まれている。
制御ユニット6には、作業走行制御モジュール60、画像認識モジュール5、データ処理モジュール50、機体位置算出部66、報知部67が備えられている。
報知部67は、制御ユニット6の各機能部からの指令等に基づいて報知データを生成し、報知デバイス91に与える。機体位置算出部66は、衛星測位モジュール80から逐次送られてくる測位データに基づいて、機体1の地図座標(または圃場座標)である機体位置を算出する。
この実施形態のコンバインは自動走行(自動操舵)と手動走行(手動操舵)の両方で走行可能である。作業走行制御モジュール60には、走行制御部61と作業制御部62とに加えて、自動作業走行指令部63及び走行経路設定部64が備えられている。自動操舵で走行する自動走行モードと、手動操舵で走行する手動操舵モードとのいずれかを選択する走行モードスイッチ(非図示)がキャビン14内に設けられている。この走行モードスイッチを操作することで、手動操舵走行から自動操舵走行への移行、あるいは自動操舵走行から手動操舵走行への移行が可能である。
走行制御部61は、エンジン制御機能、操舵制御機能、車速制御機能などを有し、車両走行機器群7Aに走行制御信号を与える。作業制御部62は、刈取部2、脱穀装置11、穀粒排出装置13、穀稈搬送装置23などの動きを制御するために、作業装置機器群7Bに作業制御信号を与える。
手動操舵モードが選択されている場合、運転者による操作に基づいて、走行制御部61が制御信号を生成し、車両走行機器群7Aを制御する。自動操舵モードが選択されている場合、自動作業走行指令部63によって与えられる自動走行指令に基づいて、走行制御部61は、操舵に関する車両走行機器群7Aや車速に関する車両走行機器群7Aを制御する。
走行経路設定部64は、制御ユニット6、携帯通信端末200、クラウドコンピュータシステム100などのいずれかで作成された自動走行のための走行経路を、走行経路をメモリに展開する。メモリに展開された走行経路は、順次自動走行における目標走行経路として用いられる。この走行経路は、手動走行であっても、コンバインが当該走行経路に沿って走行するためのガイダンスのために利用することも可能である。
自動作業走行指令部63は、より詳しくは、自動操舵指令及び車速指令を生成して、走行制御部61に与える。自動操舵指令は、走行経路設定部64によって走行経路と、機体位置算出部66によって算出された自車位置との間の方位ずれ及び位置ずれを解消するように生成される。車速指令は、前もって設定された車速値に基づいて生成される。さらに、自動作業走行指令部63は、作業制御部62に、自車位置や自車の走行状態に応じて、作業装置動作指令を与える。
画像認識モジュール5には、撮影部70によって継時的に遂次取得された撮影画像の画像データが入力される。画像認識モジュール5は、この撮影画像における認識対象物が存在する存在領域を推定し、存在領域及び存在領域が推定された際の推定確率を含む認識出力データを、認識結果として出力する。画像認識モジュール5は、深層学習を採用したニューラルネットワーク技術を用いて構築されている。
画像認識モジュール5による認識出力データの生成の流れが、図3及び図4に示されている。画像認識モジュール5には、RGB画像データの画素値が入力値として入力される。図3の図例では、推定される認証対象物は、雑草と倒伏穀稈と人物である。したがって、認識結果としての認識出力データには、雑草の存在領域(以下、雑草領域と称する)とその推定確率、倒伏穀稈の存在領域(以下、倒伏穀稈領域と称する)とその推定確率、人物の存在領域(以下、人物領域と称する)とその推定確率が含まれる。
図3では、推定結果は模式化されており、雑草領域は符号F1を付与された矩形の枠で示され、倒伏穀稈領域は符号F2を付与された矩形の枠で示され、人物領域は符号F3を付与された矩形の枠で示されている。それぞれの領域には、その推定確率がリンクされる。雑草領域、倒伏穀稈領域、人物領域は、それぞれ4つのコーナ点で規定されるが、そのような各矩形の4つのコーナ点の撮影画像上の座標位置も推定結果に含まれている。もちろん、認証対象物が推定されなければ、認証対象物の存在領域は出力されず、その推定確率はゼロとなる。
なお、この実施形態では、画像認識モジュール5は、撮影画像において認識対象物が撮影部70から遠くに位置するほど、当該認識対象物の推定確率は低減されるように内部パラメータを設定している。これにより、撮影部70から遠く離れているために分解能が低くなっている撮影領域における認識対象物の認識を厳しくし、誤認識を低減させている。
データ処理モジュール50は、画像認識モジュール5から出力された認識出力データを処理する。図2及び図4に示すように、この実施形態のデータ処理モジュール50には、認識対象物位置情報生成部51、統計処理部52、データ記憶部53、データ判定部54、データ補正部55が含まれている。
認識対象物位置情報生成部51は、撮影画像が取得された時点の機体位置と認識出力データとから、認識対象物の地図上の位置を示す認識対象物位置情報を生成する。認識出力データに含まれている認識対象物(雑草、倒伏穀稈、人物)が存在する地図上の位置は、認証対象物の存在領域(雑草領域、倒伏穀稈領域、人物領域)を示す矩形の4つのコーナ点の撮影画像上の座標位置(カメラ座標位置)を、地図上の座標に変換することで得られる。
撮影部70は、所定時間間隔、例えば0.5秒間隔で撮影画像を取得し、その画像データを画像認識モジュール5に入力するので、画像認識モジュール5も、同じ時間間隔で、認識出力データを出力する。したがって、撮影部70の撮影視野に認識対象物が入っていた場合には、複数の認識出力データが同一の認識対象物に対する存在領域を含むことになる。その結果、同一の認識対象物に対する複数の認識対象物位置情報が得られる。その際、各元データである認識出力データに含まれている推定確率、つまり認識対象物位置情報に含まれる認識対象物の存在領域の推定確率は、撮影部70と認識対象物との間の位置関係が相違することから、違う値となることが多い。
したがって、この実施形態では、そのような複数の認識対象物位置情報が記憶され、記憶された複数の認識対象物位置情報のそれぞれに含まれる推定確率が統計的演算される。
統計処理部52は、複数の認識対象物位置情報の推定確率に対する統計的な演算を用いて、推定確率群の代表値を求める。その代表値を用いて、複数の認識対象物位置情報を、1つの最適認識対象物位置情報(認識対象物補正位置情報)に補正することができる。そのような補正の一例は、各推定確率の算術平均値または重み平均値あるいは中間値を基準値(代表値)として求め、その基準値以上の推定確率を有する存在領域の論理和を求め、それを最適存在領域とする補正認識対象物位置情報を生成することである。もちろん、これ以外の統計的演算を用いて信頼性の高い1つの認識対象物位置情報を生成することも可能である。つまり、複数の認識対象物位置情報が、当該認識対象物位置情報に対応する認識出力データに含まれている推定確率の統計的演算の結果に基づいて補正されるのである。
このようにして求められた認証対象物の存在領域(雑草領域、倒伏穀稈領域、人物領域)の地図上の位置を示す認識対象物位置情報(雑草位置情報、倒伏穀稈位置情報、人物位置情報)を用いることで、雑草、倒伏穀稈、人物の認識時において、それぞれ予め設定された走行作業制御や警告報知が行われる。
上述したように、本発明では、画像認識モジュール5から出力される推定確率は、最終的な認識対象物位置情報の生成にとって重要である。このため、この実施形態では、画像認識モジュール5から出力された認識出力データの推定確率の信頼性を調べて、信頼できない推定確率を有する認識出力データを不適認識出力データと判定する認識出力データ評価機能が、データ処理モジュール50に備えられている。
認識出力データ評価機能は、図2及び図4に示すように、データ記憶部53と、データ判定部54と、データ補正部55とによって実現する。データ記憶部53は、画像認識モジュール5から遂次出力された認識出力データを認識出力データ列として一時的かつ経時的に記憶する。データ判定部54は、認識出力データ列において、判定対象となる認識出力データの推定確率と、当該認識出力データに対して継時的に前後関係となる認識出力データの推定確率と比べて、所定レベル以上に低い推定確率を有する認識出力データを不適認識出力データとして判定する。
認識ソースとしての撮影画像は、コンバインの作業走行中に撮影されるので、コンバインの突発的な動きなどにより、撮影画像が不鮮明になることがある。さらに、コンバインは、畦近傍で方向転換するので、撮影方向が急激に変更されることもある。それに伴って、同一の認識対象物に対して順光での撮影と逆光での撮影とが混じることもある。このような撮影条件等の変動により、不測に低い推定確率を有する認識出力データが生じうるが、そのような認識出力データである不適認識出力データの抽出は、上述した認識出力データ評価機能により、可能である。
認識出力データの数が少ない場合には、不適認識出力データと判定された認識出力データの推定確率を、その前後の認識出力データの推定確率で補間補正するとよい。これにより、当該不適認識出力データは適切に補正されたことになって、利用可能となり、データ数が確保されるという利点が得られる。データ補正部55は、そのような補間補正を行う。もちろん、不適認識出力データと判定された認識出力データを破棄する場合には、補間補正が不要になるので、データ補正部55は省略される。
なお、認識対象物位置情報生成部51で生成された各認識対象物位置情報は、視覚的に分かりやすい表示のために、図5に示すようなマップ化が可能である。図5では、雑草位置情報をマップ化した雑草マップが例示されている。雑草位置情報において推定確率が相違する雑草存在領域が含まれている場合、図5に示すように、推定確率値の所定範囲でパターン分けされた形態で雑草存在領域を表示することも可能である。
なお、上記実施形態(別実施形態を含む、以下同じ)で開示される構成は、矛盾が生じない限り、他の実施形態で開示される構成と組み合わせて適用することが可能であり、また、本明細書において開示された実施形態は例示であって、本発明の実施形態はこれに限定されず、本発明の目的を逸脱しない範囲内で適宜改変することが可能である。
〔別実施の形態〕
(1)上述した実施形態では、画像認識モジュール5は、深層学習タイプのニューラルネットワーク技術を用いて構築されている。これに代えて、その他の機械学習技術を用いて構築された画像認識モジュール5が採用されてもよい。
(2)上述した実施形態では、画像認識モジュール5やデータ処理モジュール50は、コンバインの制御ユニット6に組み込まれていたが、その一部または全部は、コンバインから独立した制御ユニット、例えば、携帯通信端末200などに構築可能である。
(3)図2で示された各機能部は、主に説明目的で区分けされている。実際には、各機能部は他の機能部と統合してもよいし、またはさらに複数の機能部に分けてもよい。
本発明は、圃場を撮影する機能と機体位置を算出する機能とを有する収穫機であれば、稲や小麦等を収穫するコンバインだけでなく、トウモロコシなど他の農作物を収穫するコンバインや、ニンジンなどを収穫する収穫機にも適用可能である。
1 :機体
2 :刈取部
5 :画像認識モジュール
50 :データ処理モジュール
51 :認識対象物位置情報生成部
52 :統計処理部
53 :データ記憶部
54 :データ判定部
55 :データ補正部
6 :制御ユニット
60 :作業走行制御モジュール
61 :走行制御部
62 :作業制御部
66 :機体位置算出部
70 :撮影部
80 :衛星測位モジュール

Claims (4)

  1. 圃場を走行しながら農作物を収穫する収穫機であって、
    衛星測位モジュールからの測位データに基づいて機体の地図座標である機体位置を算出する機体位置算出部と、
    前記機体に設けられ、収穫作業時に圃場を撮影する撮影部と、
    前記撮影部によって継時的に遂次取得された撮影画像の画像データが入力され、前記撮影画像における認識対象物が存在する存在領域を推定し、前記存在領域及び前記存在領域が推定された際の推定確率を含む認識出力データを出力する画像認識モジュールと、
    前記撮影画像が取得された時点の前記機体位置と前記認識出力データとから前記認識対象物の地図上の位置を示す認識対象物位置情報を生成する認識対象物位置情報生成部と、を備え、
    前記撮影画像において前記認識対象物が前記撮影部から遠くに位置するほど、当該認識対象物の前記推定確率は低減される収穫機。
  2. 圃場を走行しながら農作物を収穫する収穫機であって、
    衛星測位モジュールからの測位データに基づいて機体の地図座標である機体位置を算出する機体位置算出部と、
    前記機体に設けられ、収穫作業時に圃場を撮影する撮影部と、
    前記撮影部によって継時的に遂次取得された撮影画像の画像データが入力され、前記撮影画像における認識対象物が存在する存在領域を推定し、前記存在領域及び前記存在領域が推定された際の推定確率を含む認識出力データを出力する画像認識モジュールと、
    前記撮影画像が取得された時点の前記機体位置と前記認識出力データとから前記認識対象物の地図上の位置を示す認識対象物位置情報を生成する認識対象物位置情報生成部と、を備え、
    複数の前記認識対象物位置情報が記憶され、記憶された複数の前記認識対象物位置情報が、対応する前記認識出力データに含まれている前記推定確率の統計的演算の結果に基づいて補正される収穫機。
  3. 圃場を走行しながら農作物を収穫する収穫機であって、
    衛星測位モジュールからの測位データに基づいて機体の地図座標である機体位置を算出する機体位置算出部と、
    前記機体に設けられ、収穫作業時に圃場を撮影する撮影部と、
    前記撮影部によって継時的に遂次取得された撮影画像の画像データが入力され、前記撮影画像における認識対象物が存在する存在領域を推定し、前記存在領域及び前記存在領域が推定された際の推定確率を含む認識出力データを出力する画像認識モジュールと、
    前記撮影画像が取得された時点の前記機体位置と前記認識出力データとから前記認識対象物の地図上の位置を示す認識対象物位置情報を生成する認識対象物位置情報生成部と、を備え、
    前記画像認識モジュールから遂次出力された前記認識出力データを認識出力データ列として一時的かつ経時的に記憶するデータ記憶部と、データ判定部とが備えられ、
    前記データ判定部は、前記認識出力データ列において継時的に前後関係となる前記認識出力データの前記推定確率と比べて、所定レベル以上に低い前記推定確率を有する前記認識出力データを不適認識出力データとして判定する収穫機。
  4. 前記認識対象物は、人物、倒伏穀稈、雑草、畦のうちの少なくとも1つである請求項1から3のいずれか一項に記載の収穫機。
JP2017123440A 2017-06-23 2017-06-23 収穫機 Active JP7068781B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017123440A JP7068781B2 (ja) 2017-06-23 2017-06-23 収穫機
PCT/JP2018/019444 WO2018235486A1 (ja) 2017-06-23 2018-05-21 収穫機
KR1020197031226A KR102589076B1 (ko) 2017-06-23 2018-05-21 수확기
CN201880029905.8A CN110582198B (zh) 2017-06-23 2018-05-21 收割机

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017123440A JP7068781B2 (ja) 2017-06-23 2017-06-23 収穫機

Publications (2)

Publication Number Publication Date
JP2019004772A JP2019004772A (ja) 2019-01-17
JP7068781B2 true JP7068781B2 (ja) 2022-05-17

Family

ID=65025457

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017123440A Active JP7068781B2 (ja) 2017-06-23 2017-06-23 収穫機

Country Status (1)

Country Link
JP (1) JP7068781B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7183121B2 (ja) * 2019-06-25 2022-12-05 株式会社クボタ 作業車
JP2021006011A (ja) 2019-06-27 2021-01-21 株式会社クボタ 農作業車のための障害物検出システム
WO2020262416A1 (ja) * 2019-06-28 2020-12-30 株式会社クボタ 自動走行システム、農作業機、プログラム、プログラムを記録した記録媒体、及び方法
JP2022092391A (ja) * 2020-12-10 2022-06-22 株式会社クボタ 作業車
JP7482838B2 (ja) 2021-06-28 2024-05-14 株式会社クボタ 作業支援システム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012198688A (ja) 2011-03-18 2012-10-18 Fujitsu Ltd 農作物画像処理プログラム、農作物画像処理方法及び農作物画像処理装置
JP2016086668A (ja) 2014-10-30 2016-05-23 井関農機株式会社 コンバイン

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2510564B2 (ja) * 1987-04-03 1996-06-26 株式会社日立製作所 画像特微点検出方法
JP2000125638A (ja) * 1998-10-28 2000-05-09 Yanmar Agricult Equip Co Ltd コンバイン
JP2008054915A (ja) * 2006-08-31 2008-03-13 Iseki & Co Ltd 作業車輌

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012198688A (ja) 2011-03-18 2012-10-18 Fujitsu Ltd 農作物画像処理プログラム、農作物画像処理方法及び農作物画像処理装置
JP2016086668A (ja) 2014-10-30 2016-05-23 井関農機株式会社 コンバイン

Also Published As

Publication number Publication date
JP2019004772A (ja) 2019-01-17

Similar Documents

Publication Publication Date Title
KR102589076B1 (ko) 수확기
JP7068781B2 (ja) 収穫機
KR102618797B1 (ko) 콤바인, 포장 영농 맵 생성 방법, 포장 영농 맵 생성 프로그램 및 포장 영농 맵 생성 프로그램이 기록된 기록 매체
US20220230444A1 (en) Obstacle Detection System, Agricultural Work Vehicle, Obstacle Detection Program, Recording Medium on Which Obstacle Detection Program is Recorded, and Obstacle Detection Method
JP6854713B2 (ja) コンバイン
JP7195543B2 (ja) 収穫機
JP7433362B2 (ja) 走行経路生成システム
JP2021007386A (ja) 自動走行システム
WO2020218464A1 (ja) 収穫機、障害物判定プログラム、障害物判定プログラムを記録した記録媒体、障害物判定方法、農作業機、制御プログラム、制御プログラムを記録した記録媒体、制御方法
JP2019187352A (ja) 作業車両
JP6904539B2 (ja) 収穫機
JP7246641B2 (ja) 農作業機
JP2018120364A (ja) 自動操舵システム
WO2020261824A1 (ja) 作業車、障害物検知方法、および障害物検知プログラム
JP2021007385A (ja) 農作業機
JP6765349B2 (ja) 収穫機
WO2020262416A1 (ja) 自動走行システム、農作業機、プログラム、プログラムを記録した記録媒体、及び方法
WO2020262287A1 (ja) 農作業機、自動走行システム、プログラム、プログラムを記録した記録媒体、及び方法
JP2019140929A (ja) 自脱型コンバイン
JP7174487B2 (ja) 農作業機
JP2024084284A (ja) 圃場作業車
JP2020202761A (ja) 収穫機
KR20230001514A (ko) 작업 지원 시스템

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190626

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200818

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201016

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210330

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210531

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20211019

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220119

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20220119

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20220126

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20220201

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220405

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220502

R150 Certificate of patent or registration of utility model

Ref document number: 7068781

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150