JP7076501B2 - 作業車 - Google Patents

作業車 Download PDF

Info

Publication number
JP7076501B2
JP7076501B2 JP2020112558A JP2020112558A JP7076501B2 JP 7076501 B2 JP7076501 B2 JP 7076501B2 JP 2020112558 A JP2020112558 A JP 2020112558A JP 2020112558 A JP2020112558 A JP 2020112558A JP 7076501 B2 JP7076501 B2 JP 7076501B2
Authority
JP
Japan
Prior art keywords
work
area
detection sensor
obstacle
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020112558A
Other languages
English (en)
Other versions
JP2020175890A (ja
Inventor
優之 松崎
義知 藤本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kubota Corp
Original Assignee
Kubota Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kubota Corp filed Critical Kubota Corp
Priority to JP2020112558A priority Critical patent/JP7076501B2/ja
Publication of JP2020175890A publication Critical patent/JP2020175890A/ja
Application granted granted Critical
Publication of JP7076501B2 publication Critical patent/JP7076501B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Guiding Agricultural Machines (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Description

本発明は、自車の周辺を俯瞰画像としてモニタに表示することができる作業車に関する。
特許文献1によるコンバインは、4台のカメラで取得した自車の周囲画像から、自車を上方から見た擬似的な画像である俯瞰画像を生成し、さらに記憶部に記憶された自車の平面視画像とクローラ部の位置を示す画像とクローラ部の左右方向の端部を前方に延長した線であるクローラ仮想延長部とを俯瞰画像に合成し、表示する。その際、コンバインが前進中であると判断された場合クローラ仮想延長部は前方へ延長して表示され、コンバインが後進中と判断された場合クローラ仮想延長部は後方へ延長して表示される。
特開2015-104375号公報
上述したような作業車(コンバイン)では、表示された俯瞰画像を通じて、クローラ部周辺が直感的に把握することができる。しかしながら、複数のカメラからの撮影画像の合成画像である俯瞰画像は、車体から比較的近距離の範囲しかカバーできず、また、俯瞰画像は視点変換による変形を受けているので、俯瞰画像における被写体の状況を正確に確認することは困難である。
このような実情から、俯瞰画像を用いながらも車体周辺情報を運転者にとって視認しやすい形態でモニタ表示できる技術が要望されている。
本発明による作業車は、車体の周辺を撮影する複数のカメラと、作業走行状況を検出する作業走行状況検出センサ群と、前記作業走行状況検出センサ群からの検出信号に基づいて注目領域を決定する注目領域決定部と、前記複数のカメラのうち前記注目領域が撮影視野に入っているカメラの撮影画像を優先表示画像とする優先表示画像決定部と、少なくとも前記優先表示画像を表示するモニタと、衛星測位データに基づいて前記車体の位置を算出する自車位置算出部と、を備え、前記作業走行状況検出センサ群に前記車体周辺の障害物を検出する障害物検出センサが含まれており、作業走行中に前記障害物検出センサによって前記障害物が検出され、かつ、前記障害物が作業地内にある場合は、減速または停車され、前記障害物が検出されても前記障害物が作業地外にある場合は作業が維持される。
また、前記複数のカメラの撮影画像を視点変換して合成することで前記車体周辺の俯瞰画像を生成する俯瞰画像生成部と、前記俯瞰画像を表示する第1表示領域と前記優先表示画像を表示する第2表示領域とに区分けされたモニタ表示画面を生成するモニタ画面生成部と、を備え、前記モニタ表示画面が前記モニタに表示されても良い。
この構成によれば、この作業車の作業走行の状態を検出する種々のセンサ群から出力される検出信号に基づいて、その時点で運転者が注目すべき領域が決定され、その注目すべき領域を含む撮影画像が俯瞰画像とともにモニタに表示される。作業車の場合、道路を走行する乗用車などに比べ、頻繁に行われる、進行方向の切替、操舵動作、車速変更、作業装置の動作などによって、車体の全周囲において注目すべき領域が時々刻々で変化する。したがって、そのような運転者が注目すべき領域は、作業走行状況を検出するセンサ群からの検出信号と密接に関係している。このことから、注目領域決定部によって決定された注目領域を含む優先表示画像が俯瞰画像とともにモニタ表示されることで、運転者は、俯瞰画像から車体の周辺領域の様子を知るとともに、優先表示画像から特に注目すべき領域も同時に知ることができる。
作業車の作業走行において、運転者がまず意識しなければならないのは、走行方向に向き合う領域(前進走行なら車体前方領域)の様子である。このことから、本発明の好適な実施形態の1つでは、前記作業走行状況検出センサ群に前記車体の前進走行と後進走行とを検出する進行方向検出センサが含まれており、前記注目領域決定部は、前進走行が検出されている場合には前進方向に向き合う領域を前記注目領域とし、後進走行が検出されている場合には後進方向に向き合う領域を前記注目領域とする。作業車では、前進と後進とが繰り返されることも少なくないので、作業車の進行方向(前進または後進)によって自動的に進行方向に向き合う領域を映し出している撮影画像を優先表示画像としてモニタで確認できることは、好都合である。
道路などとは異なり、作業地には、境界柵や畦などを含め、種々の走行障害物が存在している。このため、作業走行状況検出センサとして障害物検出センサが搭載されることが多い。しかしながら、障害物検出センサが何らかの物体を検出した信号を出力した際、停車すべきか、あるいはそのまま進むべきか、あるいは方向転換によって回避するべきかを運転者が判断するためには、目視することが重要である。また、照準方向が異なる複数の障害物検出センサが装備されている場合、どの方向を注視すべきかを、咄嗟に判断できない場合がある。このため、本発明の好適な実施形態の1つでは、前記障害物検出センサによって障害物が検出された場合には前記障害物の検出方向に向き合う領域を前記注目領域とする。これにより、障害物を検出した障害物検出センサの照準先の領域を映し出している撮影画像が優先表示画像としてモニタ表示されるので、好都合である。
隣接するカメラの撮影視野の一部が互いに重なりあうように配置されている場合、それぞれのカメラの撮影画像が重なり合う領域が注目領域とみなされることがある。このような場合、どちらの撮影画像がより有効であるかどうかを判定することは困難である。その際、有効な方策の1つは、2台以上の前記カメラにおいて前記注目領域が撮影視野に入っている場合、当該カメラの撮影画像が順次一定時間毎に前記優先表示画像となるように構成することである。もう1つの方策は、2台以上の前記カメラにおいて前記注目領域が撮影視野に入っている場合、当該カメラの撮影画像を合成した合成画像が前記優先表示画像となる構成することである。その際、それぞれの撮影画像を当該カメラの台数で按分した部分ずつ(例えば、当該カメラが2台の場合にはそれぞれの撮影画像の半分ずつ)を合成すると、画像が縮小されないので好都合である。このような方策を好適な実施形態として採用することで、運転者が確実に注目領域を確認することが可能となる。
注目領域が決定できない場合、つまり、複数の撮影画像において、その注目度に明確な差がない場合の解決策として、本発明の好適な実施形態の1つでは、前記注目領域が決定不能の場合、前記複数のカメラにおける全てのカメラの撮影画像が順次一定時間毎に前記優先表示画像として順番に表示される。
車体に対して姿勢変更する作業装置が装備される作業車がある。そのような作業車の作業装置に、カメラ取り付けられている場合、作業装置が姿勢変更することで、カメラの撮影方向も変化し、最適な領域を撮影することができなくなる。このことを避けるため、本発明の好適な実施形態の1つでは、前記車体に姿勢変更機構を介して作業装置が装備され、かつ前記カメラの少なくとも1つが作業装置カメラとして前記作業装置に取り付けられ、前記作業装置カメラは、前記撮影方向を維持するように前記作業装置の姿勢変更に応じて姿勢変更される。さらに、そのような作業装置に障害物検出センサも取り付けられている場合、障害物検出センサの検出方向も作業装置の姿勢変更にかかわらず、最適な方向を維持する必要がある。このため、本発明の好適な実施形態の1つでは、少なくとも1つの前記障害物検出センサが作業装置障害物検出センサとして前記作業装置に取り付けられ、前記作業装置障害物検出センサは、前記障害物の検出方向を維持するように前記作業装置の姿勢変更に応じて姿勢変更される。
作業車は、作業に応じて、超低速から中速まで広い速度範囲で走行する。超低速では、優先表示画像としてモニタに表示される撮像画面の時間当たりの移動が小さく、画面は流れにくいが、速度が速くなるほど、撮像画面の時間当たりの移動が大きく、画面が流れていく。このため、走行速度が大きくなれば、1つの画面で大きな領域を捉えた方が好ましいので、本発明の好適な実施形態の1つでは、前記作業走行状況検出センサ群に前記車体の走行速度を検出する車速検出センサが含まれており、前記車速検出センサによって検出された前記走行速度に応じて、前記優先表示画像の前記第2表示領域への表示拡縮率が変動するように構成されている
複数のカメラによる自車周辺の撮影画像に基づく俯瞰画像と優先表示画像とをモニタに表示する基本技術を説明する説明図である。 作業車の一例であるトラクタの側面図である。 トラクタの制御系を示す機能ブロック図である。 昇降する作業装置に取り付けられたカメラ及び障害物検出センサの利用形態を説明する説明図である。 昇降する作業装置に取り付けられたカメラ及び障害物検出センサの別の利用形態を説明する説明図である。
本発明による作業車の具体的な実施形態を説明する前に、図1を用いて、作業車に取り付けられた複数のカメラによる自車周辺の撮影画像に基づき、俯瞰画像と優先表示画像とを、モニタに表示する基本技術を説明する。
この作業車は、前後進可能な車体1を備え、車体1には作業装置30が装備されている。車体には、4台のカメラ4が取り付けられている。カメラ4は、車体1の前部、車体1の左側部、車体1の右側部、車体の後部に配置されている。各カメラ4は、広角レンズを備えており、4台のカメラ4によって車体1の全周域を撮影視野に収めることができる。車体1の全周域を撮影視野に収めることができる限りは、カメラ4の台数を減らすことも可能である。また、カメラ4の台数を増やして、車体1の全周域をより密な撮影方向から撮影するような構成を採用してもよい。また、カメラ4は車体1以外に、作業装置30に配置してもよい。
作業車は、種々の作業走行状況下で作業走行する。作業走行状況には、走行方向、操舵方向、車速状態、作業装置状態、作業地状態などが含まれている。これらの作業走行状況は、種々のセンサによって検出されるが、ここでは、これらのセンサをまとめて作業走行状況検出センサ群9と称している。作業走行状況検出センサ群9には障害物検出センサが含まれている場合、作業車の周囲に存在する障害物を検出することができる。障害物検出センサは、超音波ビーム、光ビーム、レーザビームなどを用いたものが採用され、障害物を検出するとともに、その検出信号を用いて車体1と障害物との間の距離を算出することが可能である。
この作業車には、地図上の座標位置(以下、自車位置とも称する)を算出する衛星測位機能も備えられている。
4台のカメラ4によって取得された撮影画像(図1ではカメラ毎の撮影画像を区別するために符号A~Dを付与している)は、車体1の上方に位置する視点からの画像に変換され、合成されることで、車体1が中央にくる俯瞰画像が生成される。この俯瞰画像はモニタ画面に表示され、運転者の周囲状況監視を支援する。モニタ画面は隣り合う2つの表示領域に区分けされており、一方の表示領域M1に俯瞰画像が表示される。他方の表示領域M2には、4台のカメラ4によって取得された撮影画像のうちの1つ、または2つの撮影画像の合成画像が表示される。この他方の表示領域に表示される撮影画像をここでは、優先表示画像と称する。
車体1の全周囲において最も注目すべき領域(注目領域)が撮影視野に入っているカメラ4の撮影画像が、優先表示画像として選択される。優先表示画像は、運転者の判断に基づいて手動で選択することも可能であるが、作業車の場合、運転者が行うべきことが多いので、運転者の負担を減らすために、本発明では、作業走行の状況に応じて自動的に注目領域が決定され、優先表示画像が選択される。もちろん、運転者により選択指示(例えば、A~Dの選択ボタンによる)により、運転者が所望する撮影画像を優先表示画像としてモニタ表示することも可能である。
作業走行の状況は、作業走行状況検出センサ群9からの検出信号によって把握することができ、その結果から、その時点での最も注目すべき領域を決定することができる。この注目領域の決定アルゴリズムとして、以下に2つの方式を例示する。
(1)ルール方式
ルール方式では、1つ以上の特定の作業状況検出センサが特定の作業走行状態を検出したことを条件として、車体周辺の特定領域を注目領域と見なし、当該特定領域を撮影視野とするカメラ4の撮影画像を優先画像とし、モニタ73の、俯瞰画像を表示している第1表示領域の隣に位置する第2表示領域に表示する。例えば、(1-1)車体1の前進走行と後進走行とを検出する進行方向検出センサが車体1の前進走行を検出した場合には、前進方向に向き合う領域を注目領域とする。これにより、当該領域を含む撮影画像(前方を撮影視野としているカメラ4の撮影画像)をモニタ73に表示する。逆に、車体1の後進走行が検出後進走行を検出した場合には、後進方向に向き合う領域を注目領域とし、当該領域を含む撮影画像(後方を撮影視野としているカメラ4の撮影画像)をモニタ73に表示する。類似例として、操舵方向検出センサが左方向への操舵を検出した場合には、車体1の左側を注目領域とし、左側部を撮影視野とするカメラ4の撮影画像がモニタ73に表示される。その際、車体1の左前方を注目領域とし、前方を撮影視野とするカメラ4の撮影画像の左半分と左側部を撮影視野とするカメラ4の撮影画像の上半分とを合成した画像を優先表示画像として、モニタ73に表示してもよい。同様に、操舵方向検出センサが右方向への操舵を検出した場合には、車体1の右側を注目領域とし、右側部を撮影視野とするカメラ4の撮影画像がモニタ73に表示される。なお、操舵方向による優先表示画像の決定において、車体1の右前方(または左前方)を注目領域とし、前方を撮影視野とするカメラ4の撮影画像の右半分(または左半分)と右側方(または左側方)を撮影視野とするカメラ4の撮影画像の上半分とを合成した画像を優先表示画像として、モニタ73に表示してもよい。
(1-2)車体周辺の障害物を検出する障害物検出センサが障害物を検出した場合には、障害物の検出方向に向き合う領域を注目領域とし、当該注目領域を撮影視野としているカメラ4の撮影画像をモニタ73に表示する。なお、障害物検出センサの検出信号に基づいて算出された車体1から障害物の距離と方向と、衛星測位機能によって算出される自車位置とを組み合わせると、障害物の地図座標位置を求めることができる。したがって、検出された障害物が作業地外に位置している場合、当該障害物が作業走行の邪魔にはならないので、この注目領域は無視するようにすることも可能である。
(2)機械学習方式
ルール方式では、1つ以上の特定の作業走行状況検出センサの検出結果と、注目領域とを予めリンクしているので、制御的には簡単であり、制御負担が軽いという利点がある。しかしながら、作業走行において注目すべき領域は、多くの条件によって影響される。例えば、左側に操舵する場合でも、その操舵角や車速や装備している作業装置30の姿勢などによっては、左側領域や左前方領域ではなく、車体1や作業装置30の尻振りをチェックするため右側後方領域を注目したい場合がある。また、前進走行においても、作業種類や車速などによっては、前方領域よりむしろ後方領域を注目したい場合もある。このことから、作業状況検出センサ群を構成する多数のセンサの検出信号(検出結果)を入力パラメータとして、注目領域を出力するような制御システムを構築する。その際、運転者の個性等も考慮する場合には、運転者により実際の作業走行を行い、種々の作業走行状況でどの領域を注目したいのかを学習させて、制御パラメータを決定する構成も可能である。
注目したい領域が複数の場合、複数の撮影画像を合成して優先表示画像とするのではなく、当該撮影画像を順次一定時間毎に優先表示画像として、順番に循環させて、モニタ表示してもよい。その際、注目度レベルが算出可能であれば、注目度レベルに応じて表示時間に差をつけてもよい。また、注目領域が決定不能の場合や、注目領域の決定機能が動作していないような場合には、全てのカメラ4の撮影画像を順次一定時間毎に優先表示画像とし、順番に循環させて、モニタ表示してもよい。
次に、図面を用いて、本発明による作業車の具体的な実施形態の1つを説明する。この実施形態では、作業車は、畦によって境界づけられた圃場(作業地)に対して走行作業を行うトラクタである。図2に示されているように、このトラクタは、前輪11と後輪12とによって支持された車体1の中央部に操縦部20が設けられている。車体1の後部には油圧式の昇降機構(姿勢変更機構の一種)31を介してロータリ耕耘装置である作業装置30が装備されている。前輪11は操向輪として機能し、その操舵角を変更することでトラクタの走行方向が変更される。前輪11の操舵角は操舵機構13の動作によって変更される。操舵機構13には自動操舵のための操舵モータ14が含まれている。手動走行の際には、前輪11の操舵は操縦部20に配置されているステアリングホイール22の操作によって可能である。トラクタのキャビン21には、GNSS(global navigation satellite system)モジュールとして構成されている衛星測位モジュール80が設けられている。衛星測位モジュール80の構成要素として、GPS(global positioning system)信号やGNSS信号を受信するための衛星用アンテナがキャビン21の天井領域に取り付けられている。なお、衛星測位モジュール80には、衛星航法を補完するために、ジャイロ加速度センサや磁気方位センサを組み込んだ慣性航法モジュールを含めることができる。
もちろん、慣性航法モジュールは、衛星測位モジュール80とは別の場所に設けてもよい。
さらに、車体1に車体周囲を撮影するための4台のカメラ4が取り付けられている。第1のカメラ4は車体前部(ボンネット)の中央に配置され、第2のカメラ4と第3のカメラ4とは車体左右の側部(後輪フェンダ)に配置され、第4のカメラ4は車体後部(キャビネット後端)の中央に配置されている。各カメラ4は、CCD(charge coupled device)やCIS(CMOS image sensor)などの撮像素子を用いて、毎秒15~30フレームの2次元画像を時系列に撮影し、デジタル変換してその撮影画像をリアルタイムに出力する。各カメラ4の撮影光軸は撮影視野に車体1や作業装置30の一部と圃場面とが入るように下方に向けられるとともに、広角レンズが装着されることで、4台のカメラ4によって取得される撮影画像は車体付近の全周領域をカバーすることができる。さらに、この実施形態では、各カメラ4に隣接して、レーザレーダとして構成された障害物検出センサ90が取り付けられている。各障害物検出センサ90は、90°を超えるスキャンレンジを有することで、4つの障害物検出センサ90によって車体付近の全周領域に存在する障害物を検出することができる。
図3には、このトラクタに構築されている制御系が示されている。この制御系には、図1を用いて説明された、複数のカメラ4による自車周辺の撮影画像に基づく俯瞰画像と優先表示画像とをモニタ73に表示する基本技術が組み込まれている。この制御系の中核要素である制御ユニット5には、入出力インタフェースとして機能する、出力処理部7、入力処理部8、通信処理部70が備えられている。出力処理部7は、車両走行機器群71、作業装置機器群72、液晶などのフラットパネルから構成されるモニタ73などと接続している。図示されていないが、出力処理部7は、運転者や監視者に作業走行上の注意を促すための報知を行うランプやスピーカとも接続している。車両走行機器群71には、操舵モータ14をはじめ、図示されていないが、変速機構やエンジンユニットなど車両走行のために制御される機器が含まれている。作業装置機器群72には、作業装置30の駆動機構や、作業装置30を昇降させる昇降機構31などが含まれている。
通信処理部70は、無線通信規格や有線通信規格を通じて外部のコンピュータとデータのやり取りを行う。図3では、外部のコンピュータとして、遠隔地の管理センタKS等に構築された管理コンピュータ100及び運転者や監視者が携帯するタブレットコンピュータやスマートフォン(モバイルフォン)からなる携帯端末101が示されている。
入力処理部8は、上述したカメラ4、衛星測位モジュール80、自動/手動切替操作具83、作業走行状況検出センサ群9などと接続している。作業走行状況検出センサ群9には、走行系検出センサ群81や作業系検出センサ群82のほか、上述した障害物検出センサ90も含まれている。走行系検出センサ群81には、操舵角やエンジン回転数や変速状態などの走行状態を検出するセンサが含まれている。作業系検出センサ群82には、作業装置30の地上高さや傾きを検出するセンサ、作業負荷などを検出するセンサなどが含まれている。自動/手動切替操作具83は、自動操舵で走行する自動走行モードと手動操舵で走行する手動操舵モードとのいずれかを選択するスイッチである。例えば、自動操舵モードで走行中に自動/手動切替操作具83を操作することで、手動操舵での走行に切り替えられ、手動操舵での走行中に自動/手動切替操作具83を操作することで、自動操舵での走行に切り替えられる。
制御ユニット5には、図1を用いて説明された基本技術を実現するための中核機能として、監視画像処理モジュール6と障害物検出処理部55とモニタ画面生成部56とが構築されている。そのほか、制御ユニット5には、走行制御部50、作業制御部53、自車位置算出部54、作業地管理部57、経路生成部58が備えられている。
車両走行機器群71を制御する走行制御部50は、このトラクタが自動走行(自動操舵)と手動走行(手動操舵)の両方で走行可能に構成されているため、手動走行制御部51と自動走行制御部52とが含まれている。手動走行制御部51は、運転者による操作に基づいて車両走行機器群71を制御する。自動走行制御部52は、自車位置と走行経路との偏差に基づいて自動操舵指令を生成し、出力処理部7を介して操舵モータ14に出力する。作業制御部53は、作業装置30の動きを制御するために、作業装置機器群72に制御信号を与える。
走行制御部50は、自動走行時と手動走行時とにおいて、異なる制御処理を実行する。自動走行時には、自車位置算出部54によって算出された自車位置と経路生成部58によって生成された走行経路とを比較評価し、自車位置と走行経路とに位置ずれが生じておれば、車体1が当該走行経路に沿うように、操舵変更データを生成して、自動走行制御部52に与える機能を実現する。
自車位置算出部54は、衛星測位モジュール80から送られてくる衛星測位データに基づいて、自車位置を算出する。
障害物検出処理部55は、4つの障害物検出センサ90からの検出信号に基づき、車体1の周辺に存在する障害物を検出する。この実施形態では、障害物検出センサ90は水平スキャンタイプであるので、障害物検出処理部55は、検出された障害物の水平方向の幅と、車体1からの距離を算出することができる。さらに、障害物検出処理部55は、自車位置算出部54からの自車位置及び作業地管理部57からの作業地境界線の地図座標を参照することで、検出された障害物が作業地内であるかどうかを判定することも可能である。つまり、作業地外の障害物は検出しないように、自車位置と作業地境界線の地図座標とを用いて、障害物検出センサ90の作業地の外領域を障害物不検出領域と設定することができる。また、障害物検出処理部55は、検出された障害物が作業車の進行方向に存在している場合、走行制御部50に障害物検知情報を与える。走行制御部50は、障害物検知情報に基づき、減速または停車、あるいは回避操舵を実行するように構成することができる。
作業地管理部57は、作業走行が行われる圃場に関する情報である圃場情報(作業地情報)を管理する。圃場情報には、圃場の地図位置、形状、大きさ、作付け品種などのデータが含まれている圃場情報は、遠隔地の管理センタKSや農家の自宅に設置されている管理コンピュータ100、あるいは運転者が持参する携帯端末101からダウンロード可能である。
経路生成部58は、圃場情報から、圃場の外形データを読み出し、この圃場における適正な走行経路を生成する。この走行経路の生成は、作業者によって入力される基本的な初期パラメータに基づいて自動的に行われてもよいし、作業者によって入力される走行経路を実質的に規定する入力パラメータに基づいて行われてもよい。また、走行経路自体も管理コンピュータ100からダウンロードされる構成を採用してもよい。いずれにしても、経路生成部58で取得された走行経路は、メモリに展開され、自動操舵走行または手動操舵走行にかかわらず、作業車が走行経路に沿って走行するために利用される。
監視画像処理モジュール6は、俯瞰画像生成部60と注目領域決定部61とモニタ画面生成部56とを備えている。俯瞰画像生成部60は4台のカメラ4によって取得された撮影画像を車体中心の上方の視点への視点変換を行い、視点変換された画像を合成することで、作業車周辺を上方からみたときの俯瞰画像を生成する。視点変換には、マッピングテーブルが用いられるが、作業装置30の種類や作業種類に応じてマッピングテーブルを変更することで、その都度の作業走行に最適な俯瞰画像の生成が可能となる。
注目領域決定部61は、作業走行状況検出センサ群9からの検出信号に基づいて注目領域を決定する。作業走行状況検出センサ群9には、走行系検出センサ群81、作業系検出センサ群82、障害物検出センサ90が含まれているので、昇降機構31の状態や作業装置30の状態(下降位置/上昇位置など)、操舵機構13の状態(左旋回/右旋回、急旋回/緩旋回など)や後輪12への動力伝達の状態(前進/後進、低速/高速など)、障害物の存在(検出物体の車体1からの距離と方向など)などに関する検出結果が制御ユニット5に入力される。したがって、注目領域決定部61は、これらの検出結果を入力パラメータとして、予め設定されたルールに基づき、その時点で、車体全周囲における注目すべき領域を決定して出力することができる。基本的なルール設定では、前進走行時には前方領域、後進走行時には後方領域、左旋回時には左側領域、右旋回時には左側領域が、注目領域となる。さらに、作業装置30の上昇位置から降下位置への移行時には、優先的に後方領域が注目領域となる。また、障害物検出センサ90によって検出された障害物の距離の方向とから障害物が車体1から所定距離内に存在していると見なされると、最優先で、障害物が存在している領域が注目領域となる。
優先表示画像決定部62は、注目領域決定部61で決定された注目領域が撮影視野に入っているカメラ4の撮影画像を、モニタ73に俯瞰画像とともに表示させる優先表示画像とする。このため、注目領域決定部61で決定される任意の注目領域がどの撮影画像に含まれているかを示すテーブルが用意されており、決定された注目領域から当該注目画像を含まれている撮影画像を特定することができる。具体的には、4台のカメラ4によって取得されるそれぞれの撮影画像が1つ以上の区画で区分けされており、その区画に識別コードが付与されているとともに、注目領域決定部61で決定される注目領域も当該識別コードによって規定される。例えば、注目領域は、特定のカメラ4の撮影画像の内の1つ以上の区画が規定される識別コードで表される。つまり、注目領域を示すこの識別コードによって、特定のカメラ4の撮影画像における特定の区画が特定される。撮影画像が区画に区分けされておらず、撮影画像が1つの区画しか持たない場合には、注目領域は、単にカメラ4を指定するだけでよい。撮影画像が複数の区画に区分けされており、注目領域がその1つの区画を指定している場合には、撮影画像から当該区画だけを切り出して優先表示画像とすることも可能である。また、注目領域を示す識別コードが複数あり、その識別コードが隣り合う2台のカメラの2つの撮影画像の区画を指定している場合、各撮影画像の指定された画像を合成して、優先表示画像とすることも可能である。つまり、優先表示画像決定部62は、注目領域を含む撮影画像を拡縮して優先表示画像とする機能を有する。
モニタ画面生成部56は、モニタ73に4台のカメラ4による撮影画像を表示するモニタ画面を生成する。モニタ画面生成部56は、図1に模式的に示されているように、モニタ画面を隣接する第1表示領域M1と第2表示領域M2とに区分けし、第1表示領域M1に俯瞰画像生成部60で生成された俯瞰画像を割り当て、第2表示領域M2に優先表示画像決定部62で決定された優先表示画像を割り当てる。
手動運転が行われている際には、運転者は、モニタ73を通じて俯瞰画像及び注目すべき領域の撮影画像をチェックすることができる。自動運転が行われている際には、車外または車内で自動運転を管理している管理者は、モニタ画面生成部56で生成されて通信処理部70を介して送られてくる俯瞰画像と撮影画像とを含むモニタ画面を携帯端末101等のディスプレイでチェックすることができる。
〔別実施の形態〕
(1)上述した実施形態では、カメラ4及び障害物検出センサ90は、車体1に固定されていた。これに代えて、カメラ4及び障害物検出センサ90の少なくとも1つを昇降機構(姿勢変更機構の一種)31によって昇降して姿勢変更する作業装置30に取り付けることも可能である。なお、この作業装置30は、上昇により水平姿勢から傾斜姿勢に移行する。図4で示された例では、1台のカメラ(作業装置カメラ)4と1つの(作業装置障害物検出センサ)90が作業装置30の後部に揺動機構を介して取り付けられている。この揺動機構は、車体横断方向に延びた揺動軸心を有し、昇降機構31の動きに連動して、揺動することで、上昇に伴う作業装置30の傾斜を相殺することができる。つまり、作業装置30が上昇した後も、下降状態での作業装置30におけるカメラ4の撮影光軸方向及び障害物検出センサ90のビーム照射方向が維持され、実質的にカメラ4の撮影視野及び障害物検出センサ90のスキャン領域が大きく変化しないように構成されている。
さらに、図5で示された例では、カメラ4及び障害物検出センサ90は、2組用意されている。第1(上側)の組のカメラ4及び障害物検出センサ90は、作業装置30が下降姿勢において、それぞれ最適な撮影方向と検出方向となるように固定されており、第2(下側)の組のカメラ4及び障害物検出センサ90は、作業装置30が上昇姿勢において、それぞれ最適な撮影方向と検出方向となるように固定されている。制御ユニット5側では、作業装置30が下降姿勢では、第1の組のカメラ4及び障害物検出センサ90がONとされ、第2の組のカメラ4及び障害物検出センサ90がOFFとされる。逆に、作業装置30が上昇姿勢では、第2の組のカメラ4及び障害物検出センサ90がONとされ、第1の組のカメラ4及び障害物検出センサ90がOFFとされる。
(2)優先表示画像決定部62は、注目領域を含む撮影画像を任意に拡縮(表示拡縮率の変更)して優先表示画像とする機能を有してもよい。その際、走行速度が大きくなれば、被写体の接近が速くなるので、作業走行状況検出センサ群9に含まれている車速検出センサからの信号に基づいて、高速走行であると判定された場合には、撮影画像の全域を優先表示画像(縮小画像)とすると好都合である。逆に、低速走行であると判定された場合には、撮影画像における注目領域に絞り込んだ部分領域を拡大して優先表示画像(拡大画像)とすると好都合である。
(3)図3で示された機能ブロック図における各機能部は、主に説明目的で区分けされている。実際には、各機能部は他の機能部と統合すること、または複数の機能部に分けることができる。
(4)上述した実施形態では、作業車として、ロータリ耕耘装置を作業装置30として装備したトラクタを、作業車として取り上げたが、そのようなトラクタ以外にも、例えば、田植機、施肥機、コンバインなどの農作業車、あるいは作業装置30としてドーザやローラ等を備える建設作業車等の種々の作業車も、実施形態として採用することができる。
本発明は、複数のカメラを用いて俯瞰画像をモニタに表示させる作業車に適用可能である。
1 :車体
30 :作業装置
31 :昇降機構(姿勢変更機構)
4 :カメラ(第1のカメラ、第2のカメラ、第3のカメラ、第4のカメラ、作業装置カメラ)
54 :自車位置算出部
56 :モニタ画面生成部
61 :注目領域決定部
62 :優先表示画像決定部
73 :モニタ
9 :作業走行状況検出センサ群
90 :障害物検出センサ

Claims (10)

  1. 車体の周辺を撮影する複数のカメラと、
    作業走行状況を検出する作業走行状況検出センサ群と、
    前記作業走行状況検出センサ群からの検出信号に基づいて注目領域を決定する注目領域決定部と、
    前記複数のカメラのうち前記注目領域が撮影視野に入っているカメラの撮影画像を優先表示画像とする優先表示画像決定部と、
    少なくとも前記優先表示画像を表示するモニタと、
    衛星測位データに基づいて前記車体の位置を算出する自車位置算出部と、を備え、
    前記作業走行状況検出センサ群に前記車体周辺の障害物を検出する障害物検出センサが含まれており
    作業走行中に前記障害物検出センサによって前記障害物が検出され、かつ、前記障害物が作業地内にある場合は、減速または停車され、前記障害物が検出されても前記障害物が作業地外にある場合は作業が維持される作業車。
  2. 前記複数のカメラの撮影画像を視点変換して合成することで前記車体周辺の俯瞰画像を生成する俯瞰画像生成部と、
    前記俯瞰画像を表示する第1表示領域と前記優先表示画像を表示する第2表示領域とに区分けされたモニタ表示画面を生成するモニタ画面生成部と、を備え、
    前記モニタ表示画面が前記モニタに表示される請求項1に記載の作業車。
  3. 前記作業走行状況検出センサ群に前記車体の前進走行と後進走行とを検出する進行方向検出センサが含まれており、前記注目領域決定部は、前進走行が検出されている場合には前進方向に向き合う領域を前記注目領域とし、後進走行が検出されている場合には後進方向に向き合う領域を前記注目領域とする請求項1または2に記載の作業車。
  4. 前記障害物検出センサによって前記障害物が検出された場合には前記障害物の検出方向に向き合う領域を前記注目領域とする請求項1から3のいずれか一項に記載の作業車。
  5. 2台以上の前記カメラにおいて前記注目領域が撮影視野に入っている場合、当該カメラの撮影画像が順次一定時間毎に前記優先表示画像となる請求項1から4のいずれか一項に記載の作業車。
  6. 2台以上の前記カメラにおいて前記注目領域が撮影視野に入っている場合、当該カメラの撮影画像を合成した合成画像が前記優先表示画像となる請求項1から4のいずれか一項に記載の作業車。
  7. 前記注目領域が決定不能の場合、前記複数のカメラにおける全てのカメラの撮影画像が順次一定時間毎に前記優先表示画像となる請求項1から6のいずれか一項に記載の作業車。
  8. 前記車体に姿勢変更機構を介して作業装置が装備され、かつ
    前記カメラの少なくとも1つが作業装置カメラとして前記作業装置に取り付けられ、前記作業装置カメラは、撮影方向を維持するように前記作業装置の姿勢変更に応じて姿勢変更される請求項1から7のいずれか一項に記載の作業車。
  9. 少なくとも1つの前記障害物検出センサが作業装置障害物検出センサとして前記作業装置に取り付けられ、
    前記作業装置障害物検出センサは、前記障害物の検出方向を維持するように前記作業装置の姿勢変更に応じて姿勢変更される請求項8に記載の作業車。
  10. 前記複数のカメラの撮影画像を視点変換して合成することで前記車体周辺の俯瞰画像を生成する俯瞰画像生成部と、
    前記俯瞰画像を表示する第1表示領域と前記優先表示画像を表示する第2表示領域とに区分けされたモニタ表示画面を生成するモニタ画面生成部と、を備え、
    前記モニタ表示画面が前記モニタに表示され、
    前記作業走行状況検出センサ群に前記車体の走行速度を検出する車速検出センサが含まれており、前記車速検出センサによって検出された前記走行速度に応じて、前記優先表示画像の前記第2表示領域への表示拡縮率が変動する請求項1から9のいずれか一項に記載の作業車。
JP2020112558A 2020-06-30 2020-06-30 作業車 Active JP7076501B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020112558A JP7076501B2 (ja) 2020-06-30 2020-06-30 作業車

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020112558A JP7076501B2 (ja) 2020-06-30 2020-06-30 作業車

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2016141292A Division JP6727971B2 (ja) 2016-07-19 2016-07-19 作業車

Publications (2)

Publication Number Publication Date
JP2020175890A JP2020175890A (ja) 2020-10-29
JP7076501B2 true JP7076501B2 (ja) 2022-05-27

Family

ID=72916290

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020112558A Active JP7076501B2 (ja) 2020-06-30 2020-06-30 作業車

Country Status (1)

Country Link
JP (1) JP7076501B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114274877B (zh) * 2021-11-29 2023-06-23 惠州华阳通用智慧车载系统开发有限公司 一种后视镜图像显示控制方法
JP2023110512A (ja) * 2022-01-28 2023-08-09 株式会社小松製作所 作業機械、作業機械を制御するための方法、及び、作業機械の制御システム
WO2023218643A1 (ja) * 2022-05-13 2023-11-16 ファナック株式会社 映像生成装置、及びコンピュータが読み取り可能な記憶媒体

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005121343A (ja) 2003-10-20 2005-05-12 Hitachi Constr Mach Co Ltd 作業機械のカメラ方向制御装置
JP2007235529A (ja) 2006-03-01 2007-09-13 Nissan Motor Co Ltd 車両周囲監視システム及び画像表示方法
JP2008144378A (ja) 2006-12-06 2008-06-26 Shin Caterpillar Mitsubishi Ltd 遠隔操縦作業機の制御装置
JP2008248613A (ja) 2007-03-30 2008-10-16 Hitachi Constr Mach Co Ltd 作業機械周辺監視装置
JP2013226088A (ja) 2012-04-26 2013-11-07 Iseki & Co Ltd 苗移植機
JP2014134912A (ja) 2013-01-09 2014-07-24 Fujitsu Ten Ltd 再生装置、再生システム、再生方法及びプログラム
JP2014180046A (ja) 2011-06-07 2014-09-25 Komatsu Ltd 作業車両の周辺監視装置
WO2015147149A1 (ja) 2014-03-28 2015-10-01 ヤンマー株式会社 自律走行作業車両

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06321011A (ja) * 1993-05-17 1994-11-22 Mitsubishi Electric Corp 周辺視野表示装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005121343A (ja) 2003-10-20 2005-05-12 Hitachi Constr Mach Co Ltd 作業機械のカメラ方向制御装置
JP2007235529A (ja) 2006-03-01 2007-09-13 Nissan Motor Co Ltd 車両周囲監視システム及び画像表示方法
JP2008144378A (ja) 2006-12-06 2008-06-26 Shin Caterpillar Mitsubishi Ltd 遠隔操縦作業機の制御装置
JP2008248613A (ja) 2007-03-30 2008-10-16 Hitachi Constr Mach Co Ltd 作業機械周辺監視装置
JP2014180046A (ja) 2011-06-07 2014-09-25 Komatsu Ltd 作業車両の周辺監視装置
JP2013226088A (ja) 2012-04-26 2013-11-07 Iseki & Co Ltd 苗移植機
JP2014134912A (ja) 2013-01-09 2014-07-24 Fujitsu Ten Ltd 再生装置、再生システム、再生方法及びプログラム
WO2015147149A1 (ja) 2014-03-28 2015-10-01 ヤンマー株式会社 自律走行作業車両

Also Published As

Publication number Publication date
JP2020175890A (ja) 2020-10-29

Similar Documents

Publication Publication Date Title
JP6727971B2 (ja) 作業車
JP6662762B2 (ja) 作業車
JP7076501B2 (ja) 作業車
JP7029910B2 (ja) 情報処理装置、情報処理方法及びプログラム
US20150199847A1 (en) Head Mountable Display System
US9457718B2 (en) Obstacle detection system
AU2014213529B2 (en) Image display system
JP7154362B2 (ja) 作業車
JP4796676B2 (ja) 車両上方視点画像表示装置
JP6512657B2 (ja) 移動機器の周囲状況提示システム
JPWO2017131243A1 (ja) 作業車両の周辺監視システム、作業車両、及び作業車両の周辺監視方法
US11595618B2 (en) Enhanced visibility system for work machines
CN114080579A (zh) 自动行驶系统
JPWO2020090985A1 (ja) 表示制御システムおよび表示制御方法
KR20150128140A (ko) 어라운드 뷰 시스템
JP2020120268A (ja) 表示システム、走行制御装置、表示制御方法およびプログラム
US11586225B2 (en) Mobile device, mobile body control system, mobile body control method, and program
US20210388580A1 (en) System and method for work machine
US20210404151A1 (en) System and method for work machine
JP7055158B2 (ja) 作業車
JP2005216255A (ja) 運転支援システム
WO2023234076A1 (ja) 表示システムおよび作業車両
US20210395980A1 (en) System and method for work machine
JP2024062176A (ja) 作業機の遠隔操作支援システム、遠隔装置
JP2022110448A (ja) 運転支援システム、車両、撮影装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200729

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200827

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210617

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210629

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210820

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220118

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220419

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220517

R150 Certificate of patent or registration of utility model

Ref document number: 7076501

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150