JP2022170068A - 表示制御装置、表示制御方法および作業機械 - Google Patents

表示制御装置、表示制御方法および作業機械 Download PDF

Info

Publication number
JP2022170068A
JP2022170068A JP2021075949A JP2021075949A JP2022170068A JP 2022170068 A JP2022170068 A JP 2022170068A JP 2021075949 A JP2021075949 A JP 2021075949A JP 2021075949 A JP2021075949 A JP 2021075949A JP 2022170068 A JP2022170068 A JP 2022170068A
Authority
JP
Japan
Prior art keywords
image
display
bird
turning
work machine
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021075949A
Other languages
English (en)
Other versions
JP7572907B2 (ja
Inventor
太郎 江口
Taro Eguchi
浩一 中沢
Koichi Nakazawa
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komatsu Ltd
Original Assignee
Komatsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komatsu Ltd filed Critical Komatsu Ltd
Priority claimed from JP2021075949A external-priority patent/JP7572907B2/ja
Priority to JP2021075949A priority Critical patent/JP7572907B2/ja
Priority to CN202280031314.0A priority patent/CN117280099A/zh
Priority to PCT/JP2022/019100 priority patent/WO2022230939A1/ja
Priority to US18/288,431 priority patent/US20240141621A1/en
Priority to KR1020237037003A priority patent/KR20230159892A/ko
Priority to DE112022001286.2T priority patent/DE112022001286T5/de
Publication of JP2022170068A publication Critical patent/JP2022170068A/ja
Publication of JP7572907B2 publication Critical patent/JP7572907B2/ja
Application granted granted Critical
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/24Safety devices, e.g. for preventing overload
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/264Sensors and their calibration for indicating the position of the work tool
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/20Drawing from basic elements, e.g. lines or circles
    • G06T11/203Drawing of straight lines or curves
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60YINDEXING SCHEME RELATING TO ASPECTS CROSS-CUTTING VEHICLE TECHNOLOGY
    • B60Y2200/00Type of vehicle
    • B60Y2200/40Special vehicles
    • B60Y2200/41Construction vehicles, e.g. graders, excavators
    • B60Y2200/412Excavators
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F3/00Dredgers; Soil-shifting machines
    • E02F3/04Dredgers; Soil-shifting machines mechanically-driven
    • E02F3/28Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
    • E02F3/36Component parts
    • E02F3/42Drives for dippers, buckets, dipper-arms or bucket-arms
    • E02F3/43Control of dipper or bucket position; Control of sequence of drive operations
    • E02F3/435Control of dipper or bucket position; Control of sequence of drive operations for dipper-arms, backhoes or the like

Landscapes

  • Engineering & Computer Science (AREA)
  • Mining & Mineral Resources (AREA)
  • Civil Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Structural Engineering (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

【課題】作業機械の運転に伴う着目範囲を運転者が容易に把握することができる表示制御装置、表示制御方法および作業機械を提供する。【解決手段】本開示の一態様は、下部走行体と前記下部走行体に旋回可能に支持された上部旋回体とを備える作業機械の前記上部旋回体に設置された1または複数の撮像装置が撮像した1または複数の撮像画像に基づき、前記作業機械の俯瞰画像を生成する俯瞰画像生成部と、前記上部旋回体の旋回に伴う旋回着目範囲と前記下部走行体の前後進に伴う走行着目範囲とを表す着目範囲画像を前記俯瞰画像に重畳した表示画像を生成する重畳部と、前記表示画像を出力する表示画像出力部とを備える表示制御装置である。【選択図】図4

Description

本開示は、表示制御装置、表示制御方法および作業機械に関する。
特許文献1に記載されている作業機械の視野補助装置では、運転室内に設けられた表示用モニタに次のような表示画像が表示される。すなわち、特許文献1に記載されている表示画像は、作業機械を上方から見た外観画像と、機体の周囲の俯瞰合成カメラ画像と、複数のカメラ画像とによって構成される。また、外観画像は、作業機械の機種毎に予め設定されたビットマップ画像により構成され、旋回体を表す旋回体画像を含む。また、旋回体を表す旋回体画像上に、走行体を表す走行体画像が重ねて表示される。なお、外観画像は固定画像であるのに対し、走行体画像は、旋回体の旋回に伴い旋回中心を中心に回転する。
特開2010-59653号公報
特許文献1に記載されている作業機械の視野補助装置によれば、運転者に対して好適な視野情報を提供することができ、進行方向の状況を常に運転者が認識することができる。しかしながら、周囲の障害物等に対して、作業機械の上部旋回体を旋回した場合に着目すべき範囲や、下部走行体によって作業機械を前後進させた場合に着目すべき範囲を運転者が容易に把握することができないという課題があった。
本開示は、上記事情に鑑みてなされたものであり、作業機械の運転に伴って着目すべき範囲を運転者が容易に把握することができる表示制御装置、表示制御方法および作業機械を提供することを目的とする。
上記課題を解決するため、本開示の一態様は、下部走行体と前記下部走行体に旋回可能に支持された上部旋回体とを備える作業機械の前記上部旋回体に設置された1または複数の撮像装置が撮像した1または複数の撮像画像に基づき、前記作業機械の周囲の俯瞰画像を生成する俯瞰画像生成部と、前記上部旋回体の旋回に伴う旋回着目範囲と前記下部走行体の前後進に伴う走行着目範囲とを表す着目範囲画像を前記俯瞰画像に重畳した表示画像を生成する重畳部と、前記表示画像を出力する表示画像出力部とを備える表示制御装置である。
本開示の各態様によれば、作業機械の運転に伴って着目すべき範囲を運転者が容易に把握することができる。
実施形態に係る作業機械の構成を示す概略図である。 実施形態に係る作業機械が備える複数のカメラの撮像範囲を模式的に示す平面図である。 実施形態に係る運転室の内部の構成を示す図である。 表示制御システムの構成を示す概略ブロック図である。 実施形態に係る表示画面の例を示す図である。 実施形態に係る表示画面の例を示す図である。 実施形態に係る表示画面の例を示す図である。 実施形態に係る表示制御装置の動作を示すフローチャートである。 実施形態に係る表示画面の他の例を示す図である。 実施形態に係る表示画面の他の例を示す図である。
以下、図面を参照して本開示の実施形態について説明する。なお、各図において同一または対応する構成には同一の符号を用いて説明を適宜省略する。
図1は、実施形態に係る作業機械100の構成を示す概略図である。図2は、実施形態に係る作業機械100が備える複数のカメラ(撮像装置)121A~121Dの撮像範囲を模式的に示す平面図である。図3は、実施形態に係る運転室140の内部の構成を示す図である。図4は、表示制御システム60の構成例を示す概略ブロック図である。図5~図7は、実施形態に係る表示画面の例を示す図である。図8は、実施形態に係る表示制御装置61の動作例を示すフローチャートである。図9~図10は、 実施形態に係る表示画面の他の例を示す図である。
図1に示すように、本実施形態においては、作業機械100にローカル座標系を設定し、ローカル座標系を参照しながら各部の位置関係について説明する。ローカル座標系において、作業機械100(上部旋回体120)の左右方向(車幅方向)に延伸する第1軸をx軸とし、作業機械100の前後方向に延伸する第2軸をy軸とし、作業機械100の上下方向に延伸する第3軸をz軸とする。x軸とy軸とは直交する。y軸とz軸とは直交する。z軸とx軸とは直交する。x軸の矢印方向は左方向であり、反対方向は右方向である。y軸の矢印方向は前方向であり、反対方向は後方向である。z軸の矢印方向は上方向であり、反対方向は下方向である。
(作業機械100の構成例)
図1は、実施形態に係る作業機械100の構成例を示す。作業機械100は、施工現場にて稼働し、土砂などの施工対象を施工する。実施形態に係る作業機械100は、一例として油圧ショベルである。作業機械100は、下部走行体110、上部旋回体120、および作業機130を備える。上部旋回体120は、運転室140と、表示制御装置61を搭載している。
下部走行体110は、作業機械100を走行可能に支持する。下部走行体110は、例えば左右一対の履帯110a(左履帯110aとも称する)および履帯110b(右履帯110bとも称する)を備える。
上部旋回体120は、下部走行体110に旋回中心cの回りに旋回可能に支持される。作業機130は、油圧により駆動する。作業機130は、上部旋回体120の前部に上下方向に駆動可能に支持される。運転室140は、オペレータ(運転者)が搭乗し、作業機械100の操作を行うためのスペースである。運転室140は、上部旋回体120の左前部に設けられる。ここで、上部旋回体120のうち作業機130が取り付けられる部分を前部という。また、上部旋回体120について、前部を基準に、反対側の部分を後部、左側の部分を左部、右側の部分を右部という。
なお、左右それぞれの履帯110aおよび110bは、駆動輪を独立して駆動(前進および後進)させることができる。左履帯110aと右履帯110bを同時に前進させれば下部走行体110は前進し、左履帯110aと右履帯110bを同時に後進させれば下部走行体110は後進する。また、一方の履帯の駆動輪と、他方の履帯の駆動輪を互いに逆向きに駆動、例えば右履帯110bを前進させると同時に左履帯110aを後進させると、下部走行体110は、旋回中心を中心に回転することができる。このような旋回方法は超信地旋回と呼ばれる。
なお、下部走行体110を超信地旋回させた際の旋回中心と、上部旋回体120の旋回中心cを、一致させるように構成してもよいし、異ならせてもよい。特許請求の範囲に記載された「旋回中心」は、超信地旋回させた際の旋回中心と、上部旋回体120の旋回中心cのどちらであってもよい。
また、作業機械100は、旋回角センサ160を備える。旋回角センサ160は、下部走行体110に対する上部旋回体120の所定の基準角度からの旋回角を計測する。旋回角センサ160は、上部旋回体120と下部走行体110との相対的な位置関係を把握するために用いられる。旋回角センサ160は、例えば、ロータリーポテンショメータ、ロータリエンコーダ等を用いて構成することができる。
(カメラの構成例)
上部旋回体120には、作業機械100の周囲を撮像する複数のカメラ(前方カメラ121A、左側方カメラ121B、後方カメラ121Cおよび右側方カメラ121D)が設けられる。なお、図1に示す例において前方カメラ121Aは、運転室140内に設けられている。また、前方カメラ121A、左側方カメラ121B、後方カメラ121Cおよび右側方カメラ121Dを総称する場合、複数のカメラ121A~121Dと称する。図2は、実施形態に係る作業機械100が備える複数のカメラ121A~121Dの撮像範囲を模式的に示す。
具体的には、上部旋回体120には、上部旋回体120の周囲のうち前方領域Raを撮像する前方カメラ121A、上部旋回体120の周囲のうち左側方領域Rbを撮像する左側方カメラ121B、上部旋回体120の周囲のうち後方領域Rcを撮像する後方カメラ121C、上部旋回体120の周囲の右側方領域Rdを撮像する右側方カメラ121Dが設けられる。なお、複数のカメラ121A~121Dの撮像範囲の一部は、互いに重複していてもよいし、重複していなくてもよい。また、複数のカメラ121A~121Dに代えて、あるいは、複数のカメラ121A~121Dとともに、例えば1台の全方位カメラ等を用いてもよい。
複数のカメラ121A~121Dの撮像範囲は、図2に示す例に限られない。例えば、運転室140から視認可能な左前方領域の撮影を省略してもよい。複数のカメラ121A~121Dの数および撮像範囲は、図1および図2に示す例と異なっていてよい。
(作業機130の構成例)
作業機130は、ブーム131、アーム132、バケット133、ブームシリンダ131C、アームシリンダ132C、およびバケットシリンダ133Cを備える。
ブーム131の基端部は、上部旋回体120にブームピン131Pを介して取り付けられる。アーム132は、ブーム131とバケット133とを連結する。アーム132の基端部は、ブーム131の先端部にアームピン132Pを介して取り付けられる。バケット133は、土砂などを掘削するための刃と掘削した土砂を収容するための収容部とを備える。バケット133の基端部は、アーム132の先端部にバケットピン133Pを介して取り付けられる。
ブームシリンダ131Cは、ブーム131を作動させるための油圧シリンダである。ブームシリンダ131Cの基端部は、上部旋回体120に取り付けられる。ブームシリンダ131Cの先端部は、ブーム131に取り付けられる。
アームシリンダ132Cは、アーム132を駆動するための油圧シリンダである。アームシリンダ132Cの基端部は、ブーム131に取り付けられる。アームシリンダ132Cの先端部は、アーム132に取り付けられる。
バケットシリンダ133Cは、バケット133を駆動するための油圧シリンダである。バケットシリンダ133Cの基端部は、アーム132に取り付けられる。バケットシリンダ133Cの先端部は、バケット133に接続されるリンク部材に取り付けられる。
(運転室140の構成例)
図3は、実施形態に係る運転室140の内部の構成例を示す。運転室140内には、運転席141、操作装置142、および表示入力装置145が設けられる。
操作装置142は、オペレータの手動操作によって下部走行体110、上部旋回体120および作業機130を駆動させるための装置である。操作装置142は、左操作レバー142LO、右操作レバー142RO、左フットペダル142LF、右フットペダル142RF、左走行レバー142LT、右走行レバー142RTを備える。
左操作レバー142LOは、運転席141の左側に設けられる。右操作レバー142ROは、運転席141の右側に設けられる。
左操作レバー142LOは、上部旋回体120の旋回動作、および、アーム132の掘削/ダンプ動作を行うための操作機構である。具体的には、作業機械100のオペレータが左操作レバー142LOを前方に倒すと、アーム132がダンプ動作する。また、作業機械100のオペレータが左操作レバー142LOを後方に倒すと、アーム132が掘削動作する。また、作業機械100のオペレータが左操作レバー142LOを右方向に倒すと、上部旋回体120が右旋回する。また、作業機械100のオペレータが左操作レバー142LOを左方向に倒すと、上部旋回体120が左旋回する。なお、他の実施形態においては、左操作レバー142LOを前後方向に倒した場合に上部旋回体120が右旋回または左旋回し、左操作レバー142LOが左右方向に倒した場合にアーム132が掘削動作またはダンプ動作してもよい。
右操作レバー142ROは、バケット133の掘削/ダンプ動作、および、ブーム131の上げ/下げ動作を行うための操作機構である。具体的には、作業機械100のオペレータが右操作レバー142ROを前方に倒すと、ブーム131の下げ動作が実行される。また、作業機械100のオペレータが右操作レバー142ROを後方に倒すと、ブーム131の上げ動作が実行される。また、作業機械100のオペレータが右操作レバー142ROを右方向に倒すと、バケット133のダンプ動作が行われる。また、作業機械100のオペレータが右操作レバー142ROを左方向に倒すと、バケット133の掘削動作が行われる。なお、他の実施形態においては、右操作レバー142ROを前後方向に倒した場合に、バケット133がダンプ動作または掘削動作し、右操作レバー142ROを左右方向に倒した場合にブーム131が上げ動作または下げ動作してもよい。
左フットペダル142LFは、運転席141の前方の床面の左側に配置される。右フットペダル142RFは、運転席141の前方の床面の右側に配置される。左走行レバー142LTは、左フットペダル142LFに軸支され、左走行レバー142LTの傾斜と左フットペダル142LFの押し下げが連動するように構成される。右走行レバー142RTは、右フットペダル142RFに軸支され、右走行レバー142RTの傾斜と右フットペダル142RFの押し下げが連動するように構成される。
左フットペダル142LFおよび左走行レバー142LTは、下部走行体110の左履帯110aの回転駆動に対応する。具体的には、作業機械100のオペレータが左フットペダル142LFまたは左走行レバー142LTを前方に倒すと、左履帯110aは前進方向に回転する。また、作業機械100のオペレータが左フットペダル142LFまたは左走行レバー142LTを後方に倒すと、左履帯110aは後進方向に回転する。
右フットペダル142RFおよび右走行レバー142RTは、下部走行体110の右履帯110bの回転駆動に対応する。具体的には、作業機械100のオペレータが右フットペダル142RFまたは右走行レバー142RTを前方に倒すと、右履帯110bは前進方向に回転する。また、作業機械100のオペレータが右フットペダル142RFまたは右走行レバー142RTを後方に倒すと、右履帯110bは後進方向に回転する。
表示入力装置145は、作業機械100が有する複数の機能に係る情報を表示したり、各種指示操作を入力したりする装置である。表示入力装置145は、ディスプレイ145Dを備える。ディスプレイ145Dは、例えばタッチパネル等から構成される。
(表示制御システム60の構成例)
図4は、実施形態に係る表示制御システム60の構成例を示す。表示制御システム60は、表示制御装置61と、複数のカメラ121A~121Dと、操作装置142と、旋回角センサ160と、表示入力装置145とを備える。
表示入力装置145は、表示ディスプレイ145Dを構成するハードウェアとハードウェアを制御するプログラム等のソフトウェアとの組み合わせから構成される機能的構成として、表示部145Aと選択部145Bとを備える。表示部145Aは、表示制御装置61からの指示に応じて表示ディスプレイ145Dに指示された画像を表示する。選択部145Bは、例えば表示ディスプレイ145Dに対するオペレータの入力操作に応じて、後述する十字線の表示ありと無しの設定を選択する。
表示制御装置61は、マイクロコンピュータ、CPU(Central Processing Unit)等のコンピュータと、コンピュータの周辺回路や周辺装置等のハードウェアを用いて構成することができる。そして、表示制御装置61は、ハードウェアと、コンピュータが実行するプログラム等のソフトウェアとの組み合わせから構成される機能的構成として、入出力部62、俯瞰画像生成部63、上部旋回体画像重畳部64、目安線重畳部65、十字線重畳部66、進行方向画像生成部67および表示画像出力部68を備える。
なお、表示制御装置61や表示入力装置145は、PLD(Programmable Logic Device)などのカスタムLSI(Large Scale Integrated Circuit)を用いて構成されていてもよい。PLDの例としては、PAL(Programmable Array Logic)、GAL(Generic Array Logic)、CPLD(Complex Programmable Logic Device)、FPGA(Field Programmable Gate Array)が挙げられる。この場合、プロセッサによって実現される機能の一部または全部が当該集積回路によって実現されてよい。
また、例えば、ディスプレイ145Dと操作装置142は作業機械100と遠隔に設けられた遠隔操作室に設けられた構成としてもよい。
入出力部62は、所定の周期で繰り返し、複数のカメラ121A~121Dが撮像した撮像画像を示す画送信号を入力したり、操作装置142の操作情報を入力したり、旋回角センサ160が計測した旋回角を示す信号を入力したり、表示入力装置145の選択部145Bに対する入力操作信号を入力したりする。
俯瞰画像生成部63は、複数のカメラ121A~121Dで撮像された画像に基づいて、作業機械100の周囲を上方から見ているかのように表示する俯瞰画像(図5の俯瞰画像G20を参照)を生成する。具体的には、所定の記憶部に記憶された変換情報を用いて画像データの座標変換を行い、複数のカメラ121A~121Dによって撮像された画像を、作業機械100の上方に位置する仮想視点から所定の仮想投影面上に投影される画像、すなわち上方視点画像に変換する。俯瞰画像生成部63は、4台のカメラ121A~121Dで撮像された各画像データをそれぞれ上方視点画像に変換した上で、変換後の各画像データを合成することにより、一つの作業機械100の周囲を俯瞰できる俯瞰画像を生成する。俯瞰画像生成部63は、例えば旋回中心cを基準として、周囲の画像を合成する。その際、俯瞰画像生成部63は、常に運転室140の前方が画像の上方向となるように俯瞰画像を生成する。本実施形態において、俯瞰画像生成部63は、下部走行体110と下部走行体110に旋回可能に支持された上部旋回体120とを備える作業機械100の上部旋回体120に設置された1または複数のカメラ(撮像装置)121A~121Dが撮像した1または複数の撮像画像に基づき、作業機械100の周囲の俯瞰画像を生成する。
上部旋回体画像重畳部64は、例えば、図5に示すように、俯瞰画像生成部63が生成した俯瞰画像G20に対して、予め用意された上部旋回体120および作業機130の上面画像IM1を重畳する。図5は、表示ディスプレイ145Dの表示例(表示画面1451)を示す。表示画面1451は、表示画像G21と、進行方向画像G22を含む。表示画像G21では、俯瞰画像G20に対して、上面画像IM1と、目安線画像m1およびm2と、十字線画像L1と、旋回中心画像c1とが重畳されている。上部旋回体画像重畳部64は、俯瞰画像生成部63で生成された俯瞰画像G20の中央部に作業機械100の上面画像IM1を重畳させる。そうすることにより、図5に示す表示画像G21を見たオペレータは、俯瞰画像G20中に表示された周囲の障害物等と作業機械100との位置関係や距離感の把握が容易になる。なお、俯瞰画像G20は、履帯110aおよび110bの実際の撮像画像を含む。
目安線重畳部65は、上部旋回体120の旋回に伴う旋回着目範囲を表す画像である目安線画像m1およびm2を生成して、俯瞰画像G20に対して重畳する。目安線重畳部65は、例えば、目安線画像m1およびm2(角が丸い矩形)を半透明の状態で俯瞰画像G20に対して重畳する。目安線画像m1および目安線画像m2は、例えば色が異なる。目安線画像m1は、例えば、上部旋回体120が旋回する場合の外縁(最外部の軌跡)に対応する画像である。目安線画像m1は、上部旋回体120が旋回した場合に目安線画像m1が示す範囲内に障害物等があったとき、接触、干渉、衝突等が発生するおそれが範囲外と比較して高く、オペレータが気をつけて見るべき範囲(旋回着目範囲)を表す画像である。なお、本実施形態において「着目」とは、気をつけて見ること、特に目をつけること等を意味し、例えば、「注意」、「留意」、「警戒」、「用心」等の文言に読み替えてもよい。目安線画像m2は、目安線画像m1から一定の距離(例えば2~3m)、上部旋回体120から離間した範囲を表す画像である。例えば、目安線画像m1は、旋回に伴って着目すべき範囲を示し、目安線画像m2は、目安線画像m1が示す範囲よりは注意の程度は低いものの旋回に伴って着目すべき範囲を示す。なお、目安線画像m1が示す範囲と目安線画像m2が示す範囲は、例えば、障害物等の自動検知による自動制御による停止制御範囲とその外側の減速制御範囲に対応する各範囲としたり、警告範囲とその外側の注意範囲としたり、停止判定範囲とその外側の減速判定範囲に対応する各範囲としたりしてもよい。
十字線重畳部66は、旋回角センサ160が計測した旋回角に基づき、十字線画像L1と旋回中心cを表す画像である旋回中心画像c1を生成して、俯瞰画像G20に対して重畳する。十字線重畳部66は、例えば、十字線画像L1を半透明の状態で俯瞰画像G20に対して重畳する。旋回中心画像c1は、旋回中心cを表す所定の形状を有する画像であって、例えば半透明あるいは非半透明の特定色の丸印等である。十字線画像L1は、下部走行体110の前後進に伴う走行着目範囲と、上部旋回体120の旋回に伴う旋回着目範囲とを表す画像(着目範囲画像)である。下部走行体110の前後進に伴う走行着目範囲は、下部走行体110を前進または後進させた場合(あるいは前進または後進させながら上部旋回体120を旋回させた場合)に、十字線画像L1が示す方向(前進方向または後進方向)で、十字線画像L1が示す範囲(幅と長さ)内に障害物等があったとき、接触等が発生するおそれが範囲外と比較して高く、オペレータが気をつけて見るべき範囲である。図5に示す例では、十字線画像L1は、矢印画像L11と、線分画像L12を含む。あるいは、十字線画像L1は、矢印画像L11と、線分画像L12と、旋回中心画像c1とを含む。なお、十字線重畳部66は、選択部145Bによる選択操作に従って、十字線画像L1を重畳したり、重畳を停止したりする。
矢印画像L11は、作業機械100のオペレータが左フットペダル142LFまたは左走行レバー142LTと右フットペダル142RFまたは右走行レバー142RTとを同時に前方に倒したときに、下部走行体110が走行する向きを、矢印の向きで示す。矢印画像L11は、また、矢印の長さで、走行着目範囲の長さの目安を表す。線分画像L12は、作業機械100の旋回中心cで矢印画像L11の矢印と交差して旋回着目範囲に対応する長さを示す線分を表す。図5に示す例では、矢印画像L11と線分画像L12は、旋回画像c1の位置で直交し、矢印画像L11が目安画像m2に接する長さを有し、線分画像L12が目安画像m1に接する長さを有する。
なお、図6は、図5に示す状態から、下部走行体110を右方向に45度旋回させた状態の表示画像G21aを示す。また、図7は、図5に示す状態から、下部走行体110を右方向に90度旋回させた状態の表示画像G21bを示す。
本実施形態において十字線重畳部66(重畳部)は、上部旋回体120の旋回に伴う旋回着目範囲と下部走行体110の前後進に伴う走行着目範囲とを表す十字線画像L1(着目範囲画像)を俯瞰画像G20に重畳した表示画像G21を生成する。また、十字線画像L1は、下部走行体110を操作する操作装置142に対する前進または後進の所定の指示操作(作業機械100のオペレータが左フットペダル142LFまたは左走行レバー142LTと右フットペダル142RFまたは右走行レバー142RTとを同時に前方に倒す操作)に対応する向きを示す情報(十字線画像L1の矢印の向き)を表す。また、十字線画像L1は、走行着目範囲に対応する長さと上記所定の指示操作に対応する向きを示す矢印を表す画像(矢印画像L11)と、作業機械100の旋回中心cで矢印(矢印画像L11が表す矢印)と交差して旋回着目範囲に対応する長さを示す線分を表す画像(線分画像L12)とを含む。
進行方向画像生成部67は、例えば操作装置142に対して前進または後進を指示する所定の指示操作が行われた場合、1または複数のカメラ121A~121Dの撮像画像に基づき下部走行体110の進行方向に対応する進行方向画像を生成する。図5に示す進行方向画像G22は、表示画像G21に表示された状態の作業機械100において前進を指示する指示操作が操作装置142に対して行われたときに表示される画像である。この場合、進行方向画像G22は、例えば、前方カメラ121Aの撮像画像である。進行方向画像生成部67は、例えば、進行方向が前後左右の場合、カメラ121A~121Dの撮像画像の一つを選択して進行方向画像としたり、カメラ121A~121Dの撮像画像を合成した画像から進行方向に対応する画像を切り出して進行方向画像としたりすることができる。なお、進行方向画像生成部67は、例えば操作装置142に対して前進または後進を指示する所定の指示操作が行われていない場合、1または複数のカメラ121A~121Dの撮像画像に基づき下部走行体110の前進方向に対応する進行方向画像を生成してもよい。
表示画像出力部68は、表示画像と進行方向画像を、表示部145Aに対して表示の指示とともに出力する。
(表示制御装置61の動作例)
図8と図5を参照して、図4に示す表示制御装置61の動作例について説明する。図8に示す処理は、所定の周期で繰り返し実行される。図8に示す処理が開始されると、まず、俯瞰画像生成部63が俯瞰画像G20を生成する(S1)。次に、上部旋回体画像重畳部64が上面画像IM1を俯瞰画像G20に重畳する(S2)。次に、目安線重畳部65が、上面画像IM1が重畳された俯瞰画像G20に、目安線画像m1と目安線画像m2を重畳する(S3)。次に、十字線重畳部66が、上面画像IM1と目安線画像m1と目安線画像m2が重畳された俯瞰画像G20に、十字線画像L1と旋回中心画像c1を重畳する(これが表示画像G21)(S4)。次に、進行方向画像生成部67が、進行方向画像G22を生成する(S5)。次に、表示画像出力部68が、表示画像G21と進行方向画像G22を表示部145Aに出力し、表示ディスプレイ145Dに表示画像G21と進行方向画像G22を表示させる(S6)。
(作用・効果)
本実施形態によれば、作業機械100の運転(走行および旋回)に伴う着目範囲をオペレータ(運転者)が容易に把握することができる。
(変形例)
次に図9と図10を参照して、図5に示す表示画像G21の変形例(表示画像G21cと表示画像G21d)について説明する。図9に示す表示画像G21cは、図5に示す表示画像G21に対して次の点が異なる。すなわち、図9に示す表示画像G21cは、図5に示す目安画像m1と目安画像m2を含まず、目安画像m3を含んでいる。目安画像m3は、目安画像m1内の領域(図9で網掛けして示す領域Rm1)のすべてと、矢印画像L11とを含む領域を示す。この場合、目安画像m3は、上部旋回体120の旋回に伴う旋回着目範囲と下部走行体110の前後進に伴う走行着目範囲とを含んでいる。すなわち、図9に示す表示画像G21cで、十字画像L1が単独で着目範囲画像であるとともに、目安画像m3も単独で着目範囲画像である。
一方、図10に示す表示画像G21dは、図5に示す表示画像G21に対して次の点が異なる。すなわち、図10に示す表示画像G21dは、図5に示す目安画像m1と目安画像m2と十字画像L11を含まず、目安画像m4を含んでいる。目安画像m4は、図9に示す目安画像m3と同一形状の領域を示す。ただし、目安画像m3と異なり、目安画像m4は、上半分の目安画像m4aと下半分の目安画像m4bの表示態様を変化させることで、下部走行体110の方向の向きを表している。表示態様の変化は、色の違い、点滅表示の周期の違い、破線の太さの違い等である。この場合、目安画像m4は単独で着目範囲画像であるとともに、下部走行体110を操作する操作装置142に対する前進または後進の所定の指示操作に対応する向きを示している。この場合、目安線重畳部65は、十字線重畳部66と同様、「重畳部」に対応する。
以上、この発明の実施形態について図面を参照して説明してきたが、具体的な構成は上記実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計変更等も含まれる。
例えば、上述した実施形態に係る作業機械100は、油圧ショベルであるが、これに限られない。例えば、他の実施形態に係る作業機械100は、例えば、ダンプトラック、ブルドーザ、ホイルローダなどの他の作業機械であってもよい。
また、上記実施形態でコンピュータが実行するプログラムの一部または全部は、コンピュータ読取可能な記録媒体や通信回線を介して頒布することができる。
100…作業機械 110…下部走行体 120…上部旋回体 121A~121D…カメラ 61…表示制御装置 62…入出力部 63…俯瞰画像生成部 64…上部旋回体画像重畳部 65…目安線重畳部 66…十字線重畳部 67…進行方向画像生成部 68…表示画像出力部 L1…十字画像 m1、m2、m3、m4…目安画像 G20…俯瞰画像 G21…表示画像 G22…進行方向画像

Claims (6)

  1. 下部走行体と前記下部走行体に旋回可能に支持された上部旋回体とを備える作業機械の前記上部旋回体に設置された1または複数の撮像装置が撮像した1または複数の撮像画像に基づき、前記作業機械の周囲の俯瞰画像を生成する俯瞰画像生成部と、
    前記上部旋回体の旋回に伴う旋回着目範囲と前記下部走行体の前後進に伴う走行着目範囲とを表す着目範囲画像を前記俯瞰画像に重畳した表示画像を生成する重畳部と、
    前記表示画像を出力する表示画像出力部と
    を備える表示制御装置。
  2. 前記着目範囲画像は、前記下部走行体を操作する操作装置に対する前進または後進の所定の指示操作に対応する向きを示す情報を表す
    請求項1に記載の表示制御装置。
  3. 前記着目範囲画像は、前記走行着目範囲に対応する長さと前記指示操作に対応する向きを示す矢印を表す画像と、前記作業機械の旋回中心で前記矢印と交差して前記旋回着目範囲に対応する長さを示す線分を表す画像とを含む
    請求項2に記載の表示制御装置。
  4. 前記1または複数の撮像画像に基づき前記下部走行体の進行方向に対応する進行方向画像を生成する進行方向画像生成部をさらに備え、
    前記表示画像出力部は、前記表示画像とともに、前記進行方向画像を出力する
    請求項1から3のいずれか1項に記載の表示制御装置。
  5. 下部走行体と前記下部走行体に旋回可能に支持された上部旋回体とを備える作業機械の前記上部旋回体に設置された1または複数の撮像装置が撮像した1または複数の撮像画像に基づき、前記作業機械の周囲の俯瞰画像を生成するステップと、
    前記上部旋回体の旋回に伴う旋回着目範囲と前記下部走行体の前後進に伴う走行着目範囲とを表す着目範囲画像を前記俯瞰画像に重畳した表示画像を生成するステップと、
    前記表示画像を出力するステップと
    を含む表示制御方法。
  6. 下部走行体と、
    前記下部走行体に旋回可能に支持された上部旋回体と、
    前記上部旋回体に設置された1または複数の撮像装置と、
    表示制御装置と
    を備え、
    前記表示制御装置が、
    前記1または複数の撮像装置が撮像した1または複数の撮像画像に基づき、前記上部旋回体と前記下部走行体の周囲の俯瞰画像を生成する俯瞰画像生成部と、
    前記上部旋回体の旋回に伴う旋回着目範囲と前記下部走行体の前後進に伴う走行着目範囲とを表す着目範囲画像を前記俯瞰画像に重畳した表示画像を生成する重畳部と、
    前記表示画像を出力する表示画像出力部と
    を有する
    作業機械。
JP2021075949A 2021-04-28 2021-04-28 表示制御装置、表示制御方法および作業機械 Active JP7572907B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2021075949A JP7572907B2 (ja) 2021-04-28 表示制御装置、表示制御方法および作業機械
KR1020237037003A KR20230159892A (ko) 2021-04-28 2022-04-27 표시 제어 장치, 표시 제어 방법 및 작업 기계
PCT/JP2022/019100 WO2022230939A1 (ja) 2021-04-28 2022-04-27 表示制御装置、表示制御方法および作業機械
US18/288,431 US20240141621A1 (en) 2021-04-28 2022-04-27 Display control device, display control method, and work machine
CN202280031314.0A CN117280099A (zh) 2021-04-28 2022-04-27 显示控制装置、显示控制方法以及作业机械
DE112022001286.2T DE112022001286T5 (de) 2021-04-28 2022-04-27 Anzeigesteuervorrichtung, Anzeigesteuerverfahren, und Arbeitsmaschine

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021075949A JP7572907B2 (ja) 2021-04-28 表示制御装置、表示制御方法および作業機械

Publications (2)

Publication Number Publication Date
JP2022170068A true JP2022170068A (ja) 2022-11-10
JP7572907B2 JP7572907B2 (ja) 2024-10-24

Family

ID=

Also Published As

Publication number Publication date
US20240141621A1 (en) 2024-05-02
WO2022230939A1 (ja) 2022-11-03
CN117280099A (zh) 2023-12-22
DE112022001286T5 (de) 2023-12-28
KR20230159892A (ko) 2023-11-22

Similar Documents

Publication Publication Date Title
US9845051B2 (en) Display device for self-propelled industrial machine
JP6204884B2 (ja) 旋回式作業機の周囲表示装置
US20140354813A1 (en) Surroundings Monitoring Device for Work Machine
JP5269026B2 (ja) 作業機械の周囲監視装置
JP5814187B2 (ja) 自走式産業機械の表示装置
KR20140035440A (ko) 작업 기계의 주위 감시 장치
JP6071786B2 (ja) 作業機械の周囲監視装置
WO2022230939A1 (ja) 表示制御装置、表示制御方法および作業機械
JP7572907B2 (ja) 表示制御装置、表示制御方法および作業機械
JP7550116B2 (ja) 掘削機械の稼働範囲設定システムおよびその制御方法
JP6224770B2 (ja) ダンプトラックの表示装置
JP6188858B2 (ja) 作業機械の周囲監視装置
JP7363560B2 (ja) 遠隔操作装置、遠隔操作支援サーバ、遠隔操作支援システムおよび遠隔操作支援方法
JP2023083245A (ja) 画像表示システム、遠隔操作支援システムおよび画像表示方法
JP2021075883A (ja) 作業機械の周囲監視装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240304

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240702

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240823

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20241001