JP2024042407A - 作業機械の表示システム、作業機械、及び作業機械の表示方法 - Google Patents

作業機械の表示システム、作業機械、及び作業機械の表示方法 Download PDF

Info

Publication number
JP2024042407A
JP2024042407A JP2022147097A JP2022147097A JP2024042407A JP 2024042407 A JP2024042407 A JP 2024042407A JP 2022147097 A JP2022147097 A JP 2022147097A JP 2022147097 A JP2022147097 A JP 2022147097A JP 2024042407 A JP2024042407 A JP 2024042407A
Authority
JP
Japan
Prior art keywords
image
camera image
displayed
message window
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022147097A
Other languages
English (en)
Inventor
舜 村上
Shun Murakami
亮介 古賀
Ryosuke Koga
剛宏 柴田
Takehiro Shibata
優樹 高橋
Yuki Takahashi
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komatsu Ltd
Original Assignee
Komatsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komatsu Ltd filed Critical Komatsu Ltd
Priority to JP2022147097A priority Critical patent/JP2024042407A/ja
Priority to PCT/JP2023/030935 priority patent/WO2024057894A1/ja
Publication of JP2024042407A publication Critical patent/JP2024042407A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/24Safety devices, e.g. for preventing overload
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Civil Engineering (AREA)
  • Structural Engineering (AREA)
  • Human Computer Interaction (AREA)
  • Mining & Mineral Resources (AREA)
  • General Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • Signal Processing (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Digital Computer Display Output (AREA)
  • Closed-Circuit Television Systems (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】作業機械の周辺のカメラ画像を表示する領域にメッセージウィンドウが表示される場合、適切に画像を表示すること。【解決手段】作業機械の表示システム1は、油圧ショベルの周辺を撮影したカメラ画像を表示する表示部11と、カメラ画像を表示部11に表示させる表示部コントローラ20と、油圧ショベルに関する所定のイベントが発生した際に、イベントの内容を示すメッセージウィンドウ画像を生成するメッセージウィンドウ画像生成部24とを備え、表示部コントローラ20は、油圧ショベルに関する所定のイベントが発生した際に、カメラ画像を表示するカメラ画像領域にイベントの内容を示すメッセージウィンドウ画像を表示させ、カメラ画像を縮小させて表示する。【選択図】図1

Description

本開示は、作業機械の表示システム、作業機械、及び作業機械の表示方法に関する。
特許文献1に示すように、ショベル等の作業機械は、エンジン水温、燃料残量、稼働時間等の作業機械に関する情報を表示したり、作業機械の周辺の画像を表示したりする表示部を運転室に備えている。
特開2021-042638号公報
作業機械に関する各種イベントが発生した場合、イベントに関するメッセージをメッセージウィンドウとして表示することがある。表示部の表示領域は限られている。メッセージウィンドウをカメラ画像が表示される領域に重畳して表示する場合、メッセージウィンドウ画像によってカメラ画像の表示内容が隠れてしまう。これにより、オペレータに適切に情報が伝わらなくなる可能性が考えられる。
本開示に従えば、作業機械の周辺を撮影したカメラ画像を表示する表示部と、前記カメラ画像を表示部に表示させる表示制御部と、前記作業機械に関する所定のイベントが発生した際に、前記イベントの内容を示すメッセージウィンドウ画像を生成するメッセージウィンドウ画像生成部と、を備え、前記表示制御部は、前記作業機械に関する所定のイベントが発生した際に、前記カメラ画像を表示するカメラ画像領域に前記イベントの内容を示すメッセージウィンドウ画像を表示させ、前記カメラ画像を縮小させて表示する、作業機械の表示システムが提供される。
本開示に従えば、上記の作業機械の表示システムと、作業機とを備える作業機械が提供される。
本開示に従えば、作業機械に関する所定のイベントが発生した際に、前記作業機械の周辺を撮影したカメラ画像を表示するカメラ画像領域に表示させるメッセージウィンドウ画像を生成することと、前記カメラ画像を表示させ、前記カメラ画像領域に前記メッセージウィンドウ画像が表示される場合、前記カメラ画像を縮小させることと、を含む作業機械の表示方法が提供される。
本開示によれば、作業機械の周辺のカメラ画像を表示する領域にメッセージウィンドウが表示される場合、適切に画像を表示することができる。
図1は、実施形態に係る作業機械の表示システムを示すブロック図である。 図2は、表示部の表示例の一例を示す図である。 図3は、表示部の表示例の他の例を示す図である。 図4は、表示部の表示例の他の例を示す図である。 図5は、表示部に表示された単カメラ画像の表示例の一例を示す図である。 図6は、表示部に表示された単カメラ画像の表示例の他の例を示す図である。 図7は、実施形態に係る作業機械の表示方法を示すフローチャートである。 図8は、実施形態に係るコンピュータシステムを示すブロック図である。
以下、本開示に係る実施形態について図面を参照しながら説明するが、本開示はこれに限定されない。以下で説明する実施形態の構成要素は、適宜組み合わせることができる。また、一部の構成要素を用いない場合もある。
[実施形態]
<作業機械の表示システム>
実施形態では、作業機械が油圧ショベルである場合を一例として説明する。油圧ショベルは、作業機と、作業機械の表示システム1を備える。作業機械の表示システム1は、表示装置10と、カメラシステム30とを備える。
カメラシステム30は、油圧ショベルの周辺を撮影する。カメラシステム30は、油圧ショベルの上部旋回体に設けられる。カメラシステム30は、撮像対象の画像を取得する。カメラシステム30は、油圧ショベルの周辺に存在する人又は他の油圧ショベル等の作業機械を含む対象物を検出する検出部として機能する。カメラシステム30は、油圧ショベルの周辺に複数配置される。実施形態では、カメラシステム30は、カメラ31、カメラ32、カメラ33及びカメラ34を含む。
カメラ31は、例えば、上部旋回体3の後部に設けられる後カメラである。カメラ31は、上部旋回体3の後方領域を撮像する。カメラ32は、例えば、上部旋回体3の右部に設けられる右後カメラである。カメラ32は、上部旋回体3の右後方領域を撮像する。カメラ33は、例えば、上部旋回体3の右部に設けられる右前カメラである。カメラ33は、上部旋回体3の右前方領域を撮像する。カメラ34は、例えば、上部旋回体3の左部に設けられる左後カメラである。カメラ34は、上部旋回体3の左後方領域を撮像する。カメラ31、カメラ32、カメラ33及びカメラ34のそれぞれは、光学系と、イメージセンサとを有する。イメージセンサは、CCD(Couple Charged Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを含む。
なお、カメラ34は、上部旋回体3の左側方領域及び左後方領域の範囲を撮像するものであるが、そのどちらか一方を撮像するものであってもよい。同様に、カメラ32は、上部旋回体3の右側方領域及び右後方領域の範囲を撮像するものであるが、そのどちらか一方を撮像するものであってもよい。同様に、カメラ33は、上部旋回体3の右前方領域及び右側方領域の範囲を撮像するものであるが、そのどちらか一方を撮像するものであってもよい。また、カメラシステム30は、上部旋回体3の左後方、後方、右後方、及び右前方を撮像するが、これに限定されない。
<表示装置>
表示装置10は、作業機械の周辺の画像を表示するモニタである。表示装置10は、例えば、周辺監視用のモニタである。表示装置10は、表示部11と、表示制御部である表示部コントローラ20とを備える。表示部コントローラ20は、表示装置10と分離されたコントローラでもよい。
表示部11は、油圧ショベルの周辺を撮影したカメラ画像等を表示する。表示部11は、液晶ディスプレイ又は有機ELディスプレイ(EL:Electro Luminescence)のようなフラットパネルディスプレイを含む。表示部11は、タッチパネル式であってもよい。
カメラ画像は、油圧ショベルの周辺の俯瞰カメラ画像101及び単カメラ画像102の一方又は両方を含む。実施形態では、カメラ画像は、油圧ショベルの周辺の俯瞰カメラ画像101及び単カメラ画像102である。
俯瞰カメラ画像101とは、カメラシステム30のそれぞれで取得された複数の画像データを油圧ショベルの上方視点に変換して合成することによって生成される画像である。俯瞰カメラ画像101には、油圧ショベルを上方から見た画像が中心部に表示される。
単カメラ画像102とは、カメラシステム30のうち1つのカメラで取得された油圧ショベルの周辺の一部の画像である。単カメラ画像102は、カメラ31で取得された油圧ショベルの後方の状況を示す後方単カメラ画像、カメラ32で取得された油圧ショベルの右後方の状況を示す右後方単カメラ画像、カメラ33で取得された油圧ショベルの右前方の状況を示す右前方単カメラ画像、及びカメラ34で取得された油圧ショベルの左後方の状況を示す左後方単カメラ画像の少なくとも一つを含む。
<表示部コントローラ>
表示部コントローラ20は、コンピュータシステムを含む。表示部コントローラ20は、インターフェース部21と、単カメラ画像生成部22と、俯瞰カメラ画像生成部23と、メッセージウィンドウ画像生成部24と、ゲージ画像生成部25と、画像出力部29とを有する。
インターフェース部21は、油圧ショベルが備える他のハードウェアとの通信を行う。実施形態では、インターフェース部21は、カメラシステム30から画像データを取得する。インターフェース部21は、カメラシステム30のカメラ31、カメラ32、カメラ33及びカメラ34のそれぞれと接続される。実施形態では、インターフェース部21は、カメラ31から油圧ショベルの後方の状況を示す画像データを取得する。インターフェース部21は、カメラ32から油圧ショベルの右後方の状況を示す画像データを取得する。インターフェース部21は、カメラ33から油圧ショベルの右前方の状況を示す画像データを取得する。インターフェース部21は、カメラ34から油圧ショベルの左後方の状況を示す画像データを取得する。
インターフェース部21は、作業機械のコントローラから作業機械の異常の検知を示す情報を取得する。インターフェース部21は、作業機械のコントローラからイベントの発生を示す情報を取得する。インターフェース部21は、作業機械のコントローラからエンジン水温、燃料残量、稼働時間等を示す情報を取得する。
単カメラ画像生成部22は、インターフェース部21によって取得された画像データに基づいて、油圧ショベルの周辺の状況を示す単カメラ画像102を生成する。より詳しくは、単カメラ画像生成部22は、カメラシステム30のうち1つのカメラで取得された画像データに基づいて、単カメラ画像102を生成する。
俯瞰カメラ画像生成部23は、インターフェース部21によって取得された画像データに基づいて、油圧ショベルの周辺の状況を示す俯瞰カメラ画像101を生成する。より詳しくは、俯瞰カメラ画像生成部23は、カメラシステム30のそれぞれで取得された画像データに基づいて、油圧ショベルの周辺の俯瞰カメラ画像101を生成する。俯瞰カメラ画像生成部23は、カメラ31、カメラ32、カメラ33及びカメラ34のそれぞれで取得された画像データを、油圧ショベルの上方の仮想視点から見た上方視点画像にそれぞれに変換する。俯瞰カメラ画像生成部23は、それぞれの上方視点画像から、俯瞰カメラ画像101を表示するフレーム領域に対応する部分を切り出す。俯瞰カメラ画像生成部23は、上方視点画像を合成して油圧ショベルの周辺の俯瞰カメラ画像101を生成する。
メッセージウィンドウ画像生成部24は、油圧ショベルに関する所定のイベントが発生した際に、油圧ショベルの周辺を撮影したカメラ画像を表示するカメラ画像領域に表示させるメッセージウィンドウ画像104を生成する。
メッセージウィンドウ画像104は、例えば、オペレータに対するガイダンスを示す内容である。メッセージウィンドウ画像104は、例えば、油圧ショベルの異常を示す内容である。
ゲージ画像生成部25は、油圧ショベルの状態を示すゲージ情報を示す画像を生成する。より詳しくは、ゲージ画像生成部25は、オペレータの指示により単カメラ画像102を表示する単カメラ画像102領域に、油圧ショベルの状態を示すゲージ情報を示すゲージ画像103を生成する。
ゲージ画像103は、油圧ショベルの状態を示すゲージ情報を示す画像である。ゲージ画像103は、例えば、エンジン水温、燃料残量、稼働時間等を示すゲージの画像である。
画像出力部29は、表示部11に油圧ショベルの周辺の状況を示す表示データを表示させる。表示データは、カメラ画像、メッセージウィンドウ画像104、及び、ゲージ画像103を含む。実施形態において、画像出力部29は、少なくとも油圧ショベルの周辺の俯瞰カメラ画像101、単カメラ画像102を表示部11に表示させる。
画像出力部29は、油圧ショベルの周辺を撮影したカメラ画像を表示部11に表示させる。画像出力部29は、表示部11のカメラ画像領域にメッセージウィンドウが表示される場合、カメラ画像を縮小して表示部11に表示させる。
実施形態では、画像出力部29は、表示部11に表示されたメッセージウィンドウ画像104の画面における面積に合わせて、カメラ画像を縮小させる割合を決定してもよい。画像出力部29は、メッセージウィンドウ画像104が表示されていない状態でカメラ画像が表示される領域のうち、メッセージウィンドウ画像104が表示される領域を除いた領域と同じ形状及び大きさに縮小したカメラ画像を表示部11に表示させる。
実施形態では、画像出力部29は、カメラ画像領域にメッセージウィンドウが表示される場合、単カメラ画像102を縮小させて表示部11に表示させてもよい。より詳しくは、画像出力部29は、単カメラ画像102領域にメッセージウィンドウが表示される場合、単カメラ画像102を縮小させて表示部11に表示させてもよい。
実施形態では、画像出力部29は、カメラ画像領域にメッセージウィンドウ、又はゲージ情報が表示される場合、単カメラ画像102を縮小させて表示部11に表示させてもよい。より詳しくは、画像出力部29は、単カメラ画像102領域にメッセージウィンドウ又はゲージ情報が表示される場合、単カメラ画像102を縮小させて表示部11に表示させてもよい。
実施形態では、画像出力部29は、メッセージウィンドウ画像104がオペレータに対するガイダンスを示す内容である場合、メッセージウィンドウ画像104を表示してから所定期間経過後に、単カメラ画像102の縮小を解除して表示部11に表示させてもよい。
実施形態では、画像出力部29は、メッセージウィンドウ画像104が油圧ショベルの異常を示す内容である場合、異常が解消されたとき、メッセージウィンドウ画像104の表示を停止して、単カメラ画像102の縮小を解除して表示部11に表示させてもよい。
画像出力部29は、油圧ショベルに関する所定のイベントが発生した際に、油圧ショベルの周辺を撮影したカメラ画像領域にメッセージウィンドウ画像104を表示させる。
油圧ショベルに関する所定のイベントとは、例えば、油圧ショベルの各種異常の検知を検知したこと、又は、オペレータに対するガイダンスを要する状態を検知したことである。
画像出力部29は、オペレータの指示により単カメラ画像102領域に、油圧ショベルの状態を示すゲージ情報を示すゲージ画像103を表示させる。
図2は、表示部の表示例の一例を示す図である。図2は、メッセージウィンドウ画像104(図3参照)が表示されていない状態である通常状態の表示部11の表示の一例である。図2に示す例では、表示部11には、俯瞰カメラ画像101、単カメラ画像102、ゲージ画像103、上部画像111、側方画像112及び下部画像113が表示されている。上部画像111、側方画像112及び下部画像113は、油圧ショベルの稼働状態を示す情報などがアイコン画像などで表示されている。
図3は、表示部の表示例の他の例を示す図である。図3に示す例では、図2において単カメラ画像102が表示される領域の上部に、メッセージウィンドウ画像104が表示されている。単カメラ画像102は、縮小されて表示されている。図2に示すように、メッセージウィンドウ画像104が表示されていない状態で単カメラ画像102が表示される領域のうち、図3に示すメッセージウィンドウ画像104が表示される領域を除いた領域に合わせて、単カメラ画像102が縮小されている。
図4は、表示部の表示例の他の例を示す図である。図4に示す例では、図2において単カメラ画像102が表示される領域の右側部に、ゲージ画像105が表示されている。単カメラ画像102は、縮小されて表示されている。図2に示すように、ゲージ画像105が表示されていない状態で単カメラ画像102が表示される領域のうち、図4に示すゲージ画像105が表示される領域を除いた領域に合わせて、単カメラ画像102が縮小されている。
図2ないし図4に示す例では、ゲージ画像103が単カメラ画像102の下方に常時表示されている。図5、図6に示すように、ゲージ画像103は、オペレータがゲージ画像103を表示するためのスワイプ操作を行ったときに表示されるようにしてもよい。図5は、表示部に表示された単カメラ画像102の表示例の一例を示す図である。図6は、表示部に表示された単カメラ画像102の表示例の他の例を示す図である。図5、図6は、表示部11の下方のみを示す図である。図5に示す例では、ゲージ画像103を表示するためのスワイプ操作をガイドするガイド画像106が表示されている。ガイド画像106は、下方から上方に向かう矢印に沿って、スワイプ操作を行うことをガイドする。オペレータによって、ガイド画像106に沿ってスワイプ操作が行われると、図6に示すように、ゲージ画像103が表示される。ガイド画像106は、表示されなくてもよい。
<表示方法>
図7は、実施形態に係る作業機械の表示方法を示すフローチャートである。油圧ショベルがキーオンされると、作業機械の表示システム1が起動する。作業機械の表示システム1が起動すると、カメラシステム30によって常時撮影が行われる。
表示部コントローラ20は、インターフェース部21によって、カメラシステム30が撮影したカメラ画像を取得する(ステップST11)。表示部コントローラ20は、インターフェース部21によって、カメラシステム30のカメラ31、カメラ32、カメラ33及びカメラ34のそれぞれから画像データを取得する。
表示部コントローラ20は、単カメラ画像生成部22によって、単カメラ画像102を生成する(ステップST12)。表示部コントローラ20は、単カメラ画像生成部22によって、カメラシステム30のうち1つのカメラで取得された画像データに基づいて、単カメラ画像102を生成する。表示部コントローラ20は、画像出力部29によって、生成した単カメラ画像102を表示部11に表示させる。
表示部コントローラ20は、俯瞰カメラ画像生成部23によって、俯瞰カメラ画像101を生成する(ステップST13)表示部コントローラ20は、俯瞰カメラ画像生成部23によって、カメラシステム30のそれぞれで取得された画像データに基づいて、油圧ショベルの周辺の俯瞰カメラ画像101を生成する。表示部コントローラ20は、画像出力部29によって、生成した俯瞰カメラ画像101を表示部11に表示させる。
表示部コントローラ20は、イベントが発生したか、又は、ゲージ表示指示がされたか否かを判定する(ステップST14)。表示部コントローラ20は、イベントが発生した、又は、ゲージ表示指示がされたと判定する場合(ステップST14でYes)、ステップST15へ進む。表示部コントローラ20は、イベントが発生しておらず、かつ、ゲージ表示指示がされていないと判定する場合(ステップST14でNo)、ステップST14の処理を再度実行する。
表示部コントローラ20は、単カメラ画像102を縮小する(ステップST15)。表示部コントローラ20は、画像出力部29によって、メッセージウィンドウ画像104が表示されていない状態でカメラ画像が表示される領域のうち、メッセージウィンドウ画像104が表示される領域を除いた領域と同じ形状及び大きさに縮小したカメラ画像を表示部11に表示させる。
表示部コントローラ20は、所定期間が経過したか、又は、メッセージウィンドウ又はゲージ表示の取り消しがされたかを判定する(ステップST16)。表示部コントローラ20は、画像出力部29によって、メッセージウィンドウ画像104を表示してから所定期間が経過したか否かを判定する。表示部コントローラ20は、表示部11に表示された操作ボタン又は操作メニューなどの操作部に対して、メッセージウィンドウ画像104の表示の取り消し操作、ゲージ画像103の表示の取り消し操作、又は、ゲージ画像105の表示の取り消し操作が行われたか否かを判定する。表示部コントローラ20は、所定期間が経過した場合、又は、メッセージウィンドウ画像104、ゲージ画像103又はゲージ画像105の表示の取り消しがされた場合(ステップST16でYes)、ステップST17へ進む。表示部コントローラ20は、所定期間が経過していない場合、かつ、メッセージウィンドウ画像104、ゲージ画像103及びゲージ画像105の表示の取り消しがされていない場合(ステップST16でNo)、ステップST16の処理を再度実行する。
所定期間が経過した場合、又は、メッセージウィンドウ画像104、ゲージ画像103又はゲージ画像105の表示の取り消しがされた場合(ステップST16でYes)、表示部コントローラ20は、単カメラ画像102の縮小を停止する(ステップST17)。
上記の処理を作業機械の表示システム1の起動中、繰り返し実行することで、油圧ショベルの表示装置10にカメラ画像を含めた画像を表示する。
<コンピュータシステム>
図8は、実施形態に係るコンピュータシステム1000を示すブロック図である。上述の表示部コントローラ20は、コンピュータシステム1000を含む。コンピュータシステム1000は、CPU(Central Processing Unit)のようなプロセッサ1001と、ROM(Read Only Memory)のような不揮発性メモリ及びRAM(Random Access Memory)のような揮発性メモリを含むメインメモリ1002と、ストレージ1003と、入出力回路を含むインターフェース1004とを有する。上述の表示部コントローラ20の機能は、コンピュータプログラムとしてストレージ1003に記憶されている。プロセッサ1001は、コンピュータプログラムをストレージ1003から読み出してメインメモリ1002に展開し、コンピュータプログラムに従って上述の処理を実行する。なお、コンピュータプログラムは、ネットワークを介してコンピュータシステム1000に配信されてもよい。
コンピュータプログラム又はコンピュータシステム1000は、上述の実施形態に従って、油圧ショベルに関する所定のイベントが発生した際に、油圧ショベルの周辺を撮影したカメラ画像領域に表示させるメッセージウィンドウ画像104を生成することと、油圧ショベルの周辺を撮影したカメラ画像を表示させ、カメラ画像領域にメッセージウィンドウが表示される場合、カメラ画像を縮小させること、を実行させることができる。
<効果>
以上説明したように、実施形態では、油圧ショベルに関する所定のイベントが発生した際に、カメラ画像を表示するカメラ画像領域にイベントの内容を示すメッセージウィンドウ画像104を表示させ、カメラ画像を縮小させて表示する。このように、実施形態によれば、油圧ショベルの周辺のカメラ画像領域にメッセージウィンドウ画像104が表示される場合、カメラ画像の一部を切り出すことなく、適切に画像を表示することができる。実施形態は、オペレータに適切に情報を伝えることができる。
実施形態では、カメラ画像領域にメッセージウィンドウ画像104が表示される場合、メッセージウィンドウ画像104の面積に合わせて、カメラ画像を縮小させる割合を決定する。
実施形態では、カメラ画像領域にメッセージウィンドウ画像104が表示される場合、単カメラ画像102を縮小させて表示する。実施形態では、俯瞰カメラ画像101は縮小されないので、油圧ショベルの周辺を確認しやすい表示を維持できる。
実施形態では、単カメラ画像102領域にメッセージウィンドウ画像104、ゲージ画像103又はゲージ画像105が表示される場合、単カメラ画像102を縮小させて表示する。実施形態によれば、単カメラ画像102領域にメッセージウィンドウ画像104、ゲージ画像103又はゲージ画像105が表示される場合、俯瞰カメラ画像101及び単カメラ画像102の一部を切り出すことなく、適切に画像を表示することができる。
実施形態では、メッセージウィンドウ画像104を表示してから所定期間経過後に、メッセージウィンドウ画像104の表示を停止して、単カメラ画像102の縮小を解除する。実施形態によれば、メッセージウィンドウ画像104の表示の必要性が低くなったときに、メッセージウィンドウ画像104の表示を停止して、単カメラ画像102を元の大きさに戻すことができる。実施形態によれば、単カメラ画像102の縮小及び縮小の解除を適切に制御できる。
実施形態では、メッセージウィンドウ画像104が油圧ショベルの異常を示す内容である場合、異常が解消されたとき、メッセージウィンドウ画像104の表示を停止して、単カメラ画像102の縮小を解除する。実施形態によれば、異常が解消されたときに、メッセージウィンドウ画像104の表示を停止して、単カメラ画像102を元の大きさに戻すことができる。実施形態によれば、単カメラ画像102の縮小及び縮小の解除を適切に制御できる。
上述の実施形態において、油圧ショベルは、鉱山などで使用されるマイニング用油圧ショベルでもよいし、建設現場において用いられる油圧ショベルでもよい。また、ダンプトラックや、ホイールローダや他の作業機械用の表示システムに適用可能である。
[変形例]
カメラ画像に油圧ショベルの周辺に存在する人又は他の油圧ショベル等の作業機械を含む対象物が表示されているか否かによって、単カメラ画像102を縮小するかどうかを変えてもよい。表示部コントローラ20は、さらに判定部を備える。
判定部は、カメラ画像から、油圧ショベルの周辺に存在する人又は他の油圧ショベル等の作業機械を含む対象物が存在するか否かを判定する。判定部は、カメラ画像にそのままメッセージウィンドウ、ゲージ画像103又はゲージ画像105を重ねて表示させた通常状態の表示において、メッセージウィンドウ、ゲージ画像103又はゲージ画像105が表示される領域に、対象物が表示されているか否かを判定する。より詳しくは、判定部は、インターフェース部21によって取得された画像データに基づいて、油圧ショベルの周辺に対象物が存在するか否かを判定する。判定部は、インターフェース部21によって取得された画像データを画像処理することによって、油圧ショベルの周辺における人の存否を判定する。画像処理は、画像データから対象物の特徴量を抽出する処理を含む。判定部は、画像データから抽出した特徴量と、特徴量記憶部に記憶された対象物の特徴量とを照合して、メッセージウィンドウ、ゲージ画像103又はゲージ画像105が表示される領域に対象物が存在するか否かを判定する。
表示部コントローラ20は、単カメラ画像102領域にメッセージウィンドウ、ゲージ画像103又はゲージ画像105が表示されており、メッセージウィンドウ、ゲージ画像103又はゲージ画像105が表示される領域に対象物が表示されていると判定される場合、単カメラ画像102を縮小させて表示する。表示部コントローラ20は、メッセージウィンドウ、ゲージ画像103又はゲージ画像105が表示される領域に対象物が表示されていないと判定される場合、単カメラ画像102の大きさを維持させて、単カメラ画像102領域にメッセージウィンドウ、ゲージ画像103又はゲージ画像105を重ねて表示させる。
<効果>
変形例によれば、単カメラ画像102領域にメッセージウィンドウ画像104、ゲージ画像103又はゲージ画像105が表示され、メッセージウィンドウ画像104、ゲージ画像103又はゲージ画像105が表示される領域に、対象物が表示されていると判定される場合、単カメラ画像102を縮小させて表示する。変形によれば、適切に単カメラ画像102を縮小させることができる。
[変形例]
上述の実施形態において、表示部コントローラ20は、俯瞰カメラ画像101領域にメッセージウィンドウ画像104、ゲージ画像103又はゲージ画像105を表示させ、俯瞰カメラ画像101領域を縮小させて表示させてもよい。この場合、単カメラ画像102を縮小することなく、カメラ画像領域にメッセージウィンドウ画像104、ゲージ画像103又はゲージ画像105を表示させることができる。
1…表示システム、10…表示装置、11…表示部、20…表示部コントローラ(表示制御部)、21…インターフェース部、22…単カメラ画像生成部、23…俯瞰カメラ画像生成部、24…メッセージウィンドウ画像生成部、25…ゲージ画像生成部、29…画像出力部、30…カメラシステム、31…カメラ、32…カメラ、33…カメラ、34…カメラ、101…俯瞰カメラ画像101領域、102…単カメラ画像、103…ゲージ画像、104…メッセージウィンドウ画像、105…ゲージ画像。

Claims (9)

  1. 作業機械の周辺を撮影したカメラ画像を表示する表示部と、
    前記カメラ画像を表示部に表示させる表示制御部と、
    前記作業機械に関する所定のイベントが発生した際に、前記イベントの内容を示すメッセージウィンドウ画像を生成するメッセージウィンドウ画像生成部と、
    を備え、
    前記表示制御部は、前記作業機械に関する所定のイベントが発生した際に、前記カメラ画像を表示するカメラ画像領域に前記イベントの内容を示すメッセージウィンドウ画像を表示させ、前記カメラ画像を縮小させて表示する、
    作業機械の表示システム。
  2. 前記表示制御部は、表示された前記メッセージウィンドウ画像の面積に合わせて、前記カメラ画像を縮小させる割合を決定する、
    請求項1に記載の作業機械の表示システム。
  3. 前記カメラ画像は、前記作業機械の周辺の俯瞰カメラ画像及び単カメラ画像であり、
    前記表示制御部は、前記カメラ画像領域に前記メッセージウィンドウ画像が表示される場合、前記単カメラ画像を縮小させて表示する、
    請求項1に記載の作業機械の表示システム。
  4. オペレータの指示により前記単カメラ画像を表示する単カメラ画像領域に前記作業機械の状態を示すゲージ画像を生成するゲージ画像生成部、
    を備え、
    前記表示制御部は、前記単カメラ画像領域に前記メッセージウィンドウ画像又は前記ゲージ画像が表示される場合、前記単カメラ画像を縮小させて表示する、
    請求項3に記載の作業機械の表示システム。
  5. 前記カメラ画像から、前記作業機械の周辺に存在する人又は他の作業機械を含む対象物が存在するか否かを判定する判定部、
    を備え、
    前記判定部は、前記メッセージウィンドウ画像又は前記ゲージ画像が表示される領域に、前記対象物が表示されているか否かを判定し、
    前記表示制御部は、前記単カメラ画像領域に前記メッセージウィンドウ画像又は前記ゲージ画像が表示され、前記メッセージウィンドウ画像又は前記ゲージ画像が表示される領域に、前記対象物が表示されていると判定される場合、前記単カメラ画像を縮小させて表示する、
    請求項4に記載の作業機械の表示システム。
  6. 前記表示制御部は、前記メッセージウィンドウ画像がオペレータに対するガイダンスを示す内容である場合、前記メッセージウィンドウ画像を表示してから所定期間経過後に、前記メッセージウィンドウ画像の表示を停止して、前記単カメラ画像の縮小を解除する、
    請求項3に記載の作業機械の表示システム。
  7. 前記表示制御部は、前記メッセージウィンドウ画像が前記作業機械の異常を示す内容である場合、前記作業機械の異常が解消されたとき、前記メッセージウィンドウ画像の表示を停止して、前記単カメラ画像の縮小を解除する、
    請求項3に記載の作業機械の表示システム。
  8. 請求項1から請求項4のいずれか一項に記載の作業機械の表示システムと、
    作業機と、
    を備える、作業機械。
  9. 作業機械に関する所定のイベントが発生した際に、前記作業機械の周辺を撮影したカメラ画像を表示するカメラ画像領域に表示させるメッセージウィンドウ画像を生成することと、
    前記カメラ画像を表示させ、前記カメラ画像領域に前記メッセージウィンドウ画像が表示される場合、前記カメラ画像を縮小させることと、
    を含む作業機械の表示方法。
JP2022147097A 2022-09-15 2022-09-15 作業機械の表示システム、作業機械、及び作業機械の表示方法 Pending JP2024042407A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022147097A JP2024042407A (ja) 2022-09-15 2022-09-15 作業機械の表示システム、作業機械、及び作業機械の表示方法
PCT/JP2023/030935 WO2024057894A1 (ja) 2022-09-15 2023-08-28 作業機械の表示システム、作業機械、及び作業機械の表示方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022147097A JP2024042407A (ja) 2022-09-15 2022-09-15 作業機械の表示システム、作業機械、及び作業機械の表示方法

Publications (1)

Publication Number Publication Date
JP2024042407A true JP2024042407A (ja) 2024-03-28

Family

ID=90275042

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022147097A Pending JP2024042407A (ja) 2022-09-15 2022-09-15 作業機械の表示システム、作業機械、及び作業機械の表示方法

Country Status (2)

Country Link
JP (1) JP2024042407A (ja)
WO (1) WO2024057894A1 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006340019A (ja) * 2005-06-02 2006-12-14 Nec Magnus Communications Ltd 情報表示システム、放送配信センタ装置、放送受信サーバ装置及びそれらに用いる情報表示方法
JP7171436B2 (ja) * 2016-11-01 2022-11-15 住友建機株式会社 作業機械用周辺監視システム、表示装置
CN111601935A (zh) * 2018-03-30 2020-08-28 住友建机株式会社 挖土机
JP2023014767A (ja) * 2021-07-19 2023-01-31 株式会社小松製作所 掘削機械の稼働範囲設定システムおよびその制御方法

Also Published As

Publication number Publication date
WO2024057894A1 (ja) 2024-03-21

Similar Documents

Publication Publication Date Title
US8994721B2 (en) Information processing apparatus, information processing method, and program for extending or expanding a viewing area of content displayed on a 2D workspace into a 3D virtual display screen
JP5941663B2 (ja) 建設機械用モニタシステム
EP1768097A1 (en) Image display system, image display method, and image display program
JP2009071790A (ja) 車両周辺監視装置
JPWO2017191853A1 (ja) 作業機械の表示装置及び表示システム
CN1721629A (zh) 工程机械的显示装置
KR20130069912A (ko) 건설기계의 작업 가이드 정보 표시 장치 및 방법
JP2016106192A (ja) ショベル
JP2009202689A (ja) 建設機械における表示装置
US20240177363A1 (en) Remote operation instructing system, and mount type device
WO2024057894A1 (ja) 作業機械の表示システム、作業機械、及び作業機械の表示方法
US20180061007A1 (en) Construction machinery
JP2019176380A (ja) 制御装置及び監視システム
JP2013253397A (ja) 作業機械の運転支援装置
KR20220127330A (ko) 작업 기계의 주변 감시 시스템, 작업 기계, 및 작업 기계의 주변 감시 방법
JP2024042408A (ja) 作業機械の表示システム、作業機械、及び作業機械の表示方法
JP6689763B2 (ja) ショベル
CN112218988B (zh) 挖土机
JP6689945B2 (ja) ショベル及びショベルの表示装置
EP4279667A1 (en) Remote operation assistance server and remote operation assistance system
JP7504838B2 (ja) ショベル、ショベルの表示方法及びショベルの表示装置
US20090110234A1 (en) Image processing system and method thereof applied with instant messaging program
JP2020063569A (ja) 油圧ショベル
WO2022163337A1 (ja) 表示システム及び表示方法
JP6567736B2 (ja) ショベル、ショベルの表示方法及びショベルの表示装置