JP6577034B2 - 作業機械の表示システム、および作業機械の表示方法 - Google Patents

作業機械の表示システム、および作業機械の表示方法 Download PDF

Info

Publication number
JP6577034B2
JP6577034B2 JP2017532270A JP2017532270A JP6577034B2 JP 6577034 B2 JP6577034 B2 JP 6577034B2 JP 2017532270 A JP2017532270 A JP 2017532270A JP 2017532270 A JP2017532270 A JP 2017532270A JP 6577034 B2 JP6577034 B2 JP 6577034B2
Authority
JP
Japan
Prior art keywords
image
control unit
time
work machine
display control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017532270A
Other languages
English (en)
Other versions
JPWO2017022042A1 (ja
Inventor
陽介 奥村
陽介 奥村
剛宏 柴田
剛宏 柴田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komatsu Ltd
Original Assignee
Komatsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komatsu Ltd filed Critical Komatsu Ltd
Publication of JPWO2017022042A1 publication Critical patent/JPWO2017022042A1/ja
Application granted granted Critical
Publication of JP6577034B2 publication Critical patent/JP6577034B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/04Diagnosis, testing or measuring for television systems or their details for receivers
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/24Safety devices, e.g. for preventing overload
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/445Receiver circuitry for the reception of television signals according to analogue transmission standards for displaying additional information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mining & Mineral Resources (AREA)
  • Civil Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Structural Engineering (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Quality & Reliability (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本発明は、簡易な構成で画像処理部を含む周辺監視制御部(表示制御部)の所定処理の異常を迅速に把握することができる作業機械の表示システム、および作業機械の表示方法に関する。
油圧ショベルなどの作業機械の分野では、車体の周辺に存在する障害物をオペレータが視認できるように、車体後方や車体側方に複数台のカメラを設置し、カメラが撮像した画像を単カメラ画像として作業機械の運転室内のモニタに映し出しているものがある。また、車体の周囲を同時に監視できるように、各カメラの画像を上方視点に変換した上で各カメラの画像を合成することにより俯瞰画像を生成してモニタに表示するものがある。
特許文献1には、選択された単カメラ画像を取得したカメラの配設位置を示すアイコンを画像上に表示するものが記載されている。これによって、どのカメラによって取得された単カメラ画像かを容易に認識することができる。
国際公開第2013/105597号
ところで、俯瞰画像を生成するといった画像処理は、負荷の大きい作業となるため、一般にモニタ等の表示部に機械ゲージ情報(エンジン水温や燃料の残量など)を表示させるためのモニタ制御部による処理では困難を伴う。そのため、モニタとは別体の汎用画像処理アクセラレータをもつ画像処理コントローラ(周辺監視制御部)によって処理される。そのような場合、画像処理コントローラによって生成された俯瞰画像を、映像信号としてモニタの表示部に出力し、表示部に俯瞰画像を表示させるようにしている。
ここで、画像処理コントローラに何らかの不具合が発生した場合、作業機械が動いているなどカメラが撮像する景色は変化しているにもかかわらず、画像処理コントローラが同一の俯瞰画像を表示部に送信し続ける可能性がある。この場合、複数のカメラが撮像している適正な画像を表示部に表示できていないにもかかわらず、オペレータにとっては俯瞰画像が表示されている以上、オペレータは画像処理コントローラに不具合が発生したと気づくことができない。
本発明は、上記に鑑みてなされたものであって、簡易な構成で画像処理部を含む周辺監視制御部(表示制御部)の所定処理の異常を迅速に把握することができる作業機械の表示システム、および作業機械の表示方法を提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明にかかる作業機械の表示システムは、作業機械の周囲状況を取得する1つもしくは複数のカメラと、時間変化画像を生成するとともに前記1つもしくは複数のカメラが撮像した画像に対して所定処理を行った画像を映像信号として出力する表示制御部と、前記表示制御部から出力された映像信号をもとに前記時間変化画像と前記所定処理を行った画像とを表示するモニタと、前記時間変化画像が所定時間変化しない場合、前記表示制御部に異常が発生したと判断する異常判断部と、を備えたことを特徴とする。
また、本発明にかかる作業機械の表示システムは、上記の発明において、前記表示制御部と前記異常判断部とは、別のコントローラにそれぞれ設けられることを特徴とする。
また、本発明にかかる作業機械の表示システムは、上記の発明において、前記表示制御部が所定処理を行った画像とは、単カメラ画像及び/または俯瞰画像であることを特徴とする。
また、本発明にかかる作業機械の表示システムは、上記の発明において、前記異常判断部は、前記表示制御部に異常が発生したと判断した場合、報知することを特徴とする。
また、本発明にかかる作業機械の表示システムは、上記の発明において、前記報知は、前記表示制御部に異常が発生した旨を知らせるメッセージ、又はアイコンを前記モニタに表示することであることを特徴とする。
また、本発明にかかる作業機械の表示システムは、上記の発明において、前記表示制御部が生成する時間変化画像は、単カメラ画像位置アイコン外枠に設けられることを特徴とする。
また、本発明にかかる作業機械の表示システムは、上記の発明において、前記表示制御部が生成する時間変化画像は、単カメラ画像または俯瞰画像の表示領域またはその周辺領域に設けられることを特徴とする。
また、本発明にかかる作業機械の表示システムは、上記の発明において、前記表示制御部が生成する時間変化画像は、前記表示制御部が生成する合成映像表示領域のいずれかの領域に設けられることを特徴とする。
また、本発明にかかる作業機械の表示システムは、上記の発明において、前記表示制御部が所定処理を行った画像が複数ある場合、前記時間変化画像は、前記複数の画像それぞれに設けられ、前記異常判断部は画像単位で異常を判断することを特徴とする。
また、本発明にかかる作業機械の表示方法は、作業機械の周囲状況を取得する1つもしくは複数のカメラと、所定の情報を表示するモニタと、を備え、時間変化画像を生成するとともに前記1つもしくは複数のカメラが撮像した画像に対して所定処理を行った画像を映像信号として出力する表示制御ステップと、前記表示制御ステップから出力された映像信号をもとに前記時間変化画像と前記所定処理を行った画像とを表示するステップと、前記時間変化画像が所定時間変化しない場合、異常が発生したと判断する異常判断ステップと、を備えたことを特徴とする。
本発明によれば、表示制御部としての周辺監視制御部が、時間変化画像を生成するとともに複数のカメラが撮像した画像に対して所定処理を行った画像を映像信号として出力し、表示部が、前記周辺監視制御部から出力された映像信号をもとに前記時間変化画像と前記所定処理を行った画像とを表示し、異常判断部としてのモニタ制御部が、前記時間変化画像が所定時間変化しない場合、前記周辺監視制御部の所定処理に異常が発生したと判断・報知するようにしているので、簡易な構成でオペレータが周辺監視制御部の所定処理の異常を迅速に把握することができる。
図1は、本発明の実施の形態である作業機械の周辺監視装置が搭載される油圧ショベルの全体構成を示す斜視図である。 図2は、運転室の内部配置を示す図である。 図3は、カメラの配置を示す平面図である。 図4は、油圧ショベルの制御系全体および周辺監視制御部の詳細な構成を示すブロック図である。 図5は、俯瞰画像生成部による俯瞰画像の生成処理を説明する説明図である。 図6は、時間変化画像の一例を示す図である。 図7は、モニタの表示部に標準画面が表示された状態を示す図である。 図8は、モニタ制御部による周辺監視制御部の異常処理手順を示すフローチャートである。
以下、添付図面を参照して本発明を実施するための形態について説明する。
[油圧ショベルの全体構成]
まず、図1は、本発明の実施の形態である作業機械の周辺監視装置が搭載される油圧ショベルの全体構成を示す斜視図である。この油圧ショベル1は、作業機械の一例として示した油圧ショベルである。油圧ショベル1は、自走可能な下部走行体2と、下部走行体2上に旋回自在に設置された上部旋回体3と、上部旋回体3の前部中央に屈曲起伏自在に動作する作業機4とを備える。
作業機4は、ブーム4a、アーム4b、バケット4c、ブームシリンダ4d,アームシリンダ4e、及びバケットシリンダ4fを有する。
上部旋回体3の前部左側部分には、運転室6が設置される。上部旋回体3の後部には、パワーコンテナ7が搭載される。パワーコンテナ7内には、エンジン、油圧ポンプ、ラジエータ、オイルクーラなどが収容されている。上部旋回体3の後端部には、カウンタウェイト8が装着される。
[運転室]
図2は、運転室6の内部配置を示す図である。図2に示すように、操作レバー11,12は、例えば運転室6内のオペレータシート10の左右に配置される。操作レバー11は上部旋回体3の旋回動作とアーム4bの動作に対応しており、操作レバー12はブーム4aの動作とバケット4cの動作に対応している。尚、操作レバー11,12の操作とどの作業機が動作するかの組み合わせは、本実施形態のものには限られない。
走行レバー13および走行レバー14は、操作に応じて下部走行体2の左側および右側の履帯の前進後進を行うことができる。
また、運転室6の右前には、モニタ15が配置される。モニタ15は、表示部16と操作部17とを有する。表示部16は、液晶ディスプレイなどの表示装置であり、エンジンや油圧ポンプなどの状態を含む各種情報、例えば、エンジン水温、油温、燃料の残量等の機械情報、機器の異常などを示す警告情報、メニュー画面やメンテナンス画面などを表示することができる。
また、モニタ15には、後述するカメラで撮影された画像(単カメラ画像)や、複数のカメラ画像を上方視点に変換した上で合成することにより生成される画像(俯瞰画像)を表示することができる。
操作部17は、表示部16の表示内容に対応して複数の機能を持たせたファンクションスイッチや、作業モード、走行モード、エアコンなどの各種設定を行うためのスイッチを含む。なお、モニタ15は、表示部16と操作部17とを一体化したタッチパネルで構成してもよい。また、操作部17を表示部16と別体とし、操作部17を運転室内の他の場所に設けてもよい。
[カメラの構成]
カメラC1〜C4は、上部旋回体3に取り付けられる。図3に示すように、カメラC1は、上部旋回体3の後方に取り付けられて上部旋回体3の後方を撮像する。また、カメラC2は、上部旋回体3の右側方に取り付けられて上部旋回体3の右後方を撮像する。また、カメラC3は、上部旋回体3の右側方に取り付けられて上部旋回体3の右前方を撮像する。また、カメラC4は、上部旋回体3の左側方に取り付けられて上部旋回体3の左側方を撮像する。なお、例えば、各カメラC1〜C4は、左右方向および高さ方向において所定角度の視野範囲を有する。カメラとしてCCD(Charge-Coupled Device)カメラを用いることができる。また、各カメラC1〜C4は、ワイドダイナミックレンジ(Wide Dynamic Range)機能を有してもよい。
[制御系の全体構成]
図4は、油圧ショベル1の制御系全体の構成を示すブロック図である。図4に示すように、周辺監視制御部40(表示制御部)、通信制御部42、モニタ制御部43(異常判断部)、エンジン制御部44、ポンプ制御部45等が、車内ネットワークの一つであるCAN41に接続される。
モニタ制御部43は、モニタ15に接続され、モニタ15の表示制御部として機能する。モニタ制御部43は、CAN41を介して各種センサから送信された情報や、モニタ15に設けられたスイッチを介して入力された情報といった作業機械の各種情報の入出力制御を行う。そして、モニタ15は、エンジン水温、油温、燃料の残量等の機械情報、機器の異常などを示す警告情報、メニュー画面やメンテナンス画面などを表示する制御を行うことができる。
周辺監視制御部40は、複数のカメラC1〜C4からなるカメラ群C、及び、モニタ15と接続しており、後述するように、複数のカメラの内のいずれかの単カメラ画像と俯瞰画像を合成した画像をモニタに出力する。
周辺監視制御部40は、画像処理部51、及び、表示制御部53を有する。さらに画像処理部51は、俯瞰画像生成部54、単カメラ画像生成部58、時間変化画像生成部55、及び、画像合成部56を有する。
俯瞰画像生成部54は、各カメラC1〜C4から得られた画像をもとに俯瞰画像61を生成する。図5に示すように、俯瞰画像生成部54は、各カメラC1〜C4から得られた画像P1〜P4を上方視点画像に変換する。すなわち、俯瞰画像生成部54は、油圧ショベル1の上方に位置する所定の仮想視点から見た画像に変換する。
具体的に、俯瞰画像生成部54は、油圧ショベル1の上方の仮想視点から地表面レベルに対応する所定の仮想投影面に投影する画像変換を行う。その後、俯瞰画像生成部54は、俯瞰画像を表示するフレームの各領域E1〜E4に対応する変換画像P11〜P14を切り出し、各変換画像P11〜P14をフレーム内で合成する。俯瞰画像生成部54が生成する俯瞰画像61には、油圧ショベルとの位置関係が明確になるよう油圧ショベル1を上方視した画像Pが予め貼り付けられている。
この俯瞰画像61の情報は、画像合成部56に入力される。なお、領域E0は、運転室6から視認できるため、俯瞰画像は生成されない。また、本実施の形態では、4つのカメラC1〜C4を用いているが、カメラの数はいくつでもよく、例えば3つのカメラC1,C2,C4を用いてもよい。この場合、カメラC2は、カメラC4と同様に右側方を撮像する。
単カメラ画像生成部58は、各カメラC1〜C4が撮像した画像の内いずれかのカメラの単カメラ画像62を、画像合成部56に出力する。具体的には、オペレータによって単カメラ画像62を切り替える操作が操作部17によってなされた場合、その信号がモニタ制御部43およびCAN41を介して単カメラ画像生成部58に伝送され、単カメラ画像生成部58は指令を受けた該当するカメラの単カメラ画像62を画像合成部56に出力する。
時間変化画像生成部55は、時間的に変化する時間変化画像63を生成する。例えば、図6に示す時間変化画像63における単カメラ画像位置アイコン70は、モニタ15の表示部16に表示される単カメラ画像62が、油圧ショベルに対してどの方向(後方、右後方、右前方、左後方)を撮影するカメラの画像であるかを示すためのアイコンであり、例えば図7における表示部16の単カメラ画像62の近傍に単カメラ画像位置アイコン70を設けることによって、オペレータは表示部16に表示されている単カメラ画像62がどの方向の単カメラ画像であるかが容易に判別できる。
単カメラ画像位置アイコン70における中央部にある矩形が油圧ショベルの平面図を表しており、単カメラ画像位置アイコン70の上側を前方側として表示されている単カメラ画像の方向に該当する領域が色つきで表示される。例えば、図6および図7の場合、中央部の矩形の下側の領域、すなわち油圧ショベルの後方を撮影する後方カメラの単カメラ画像が表示されていることを示している。
単カメラ画像位置アイコン70の外枠71は、時間の経過とともに所定の色を付して点滅する。例えば、点灯時は外枠71部分が黄緑色に表示され、消灯時は外枠71部分が黒色に表示される、すなわち時間経過によって黄緑色と黒色が交互に切り替わるようになっている。
ここで、周辺監視制御部40に何らかの不具合が発生した場合には、周辺監視制御部40が同一の画像をモニタに出力し続ける可能性があり、その場合には上記外枠71は、黄緑色で表示された状態から変化しないか、もしくは黒色の状態から変化しないことになる。そのため、オペレータは外枠71部分が点滅しているか否かを確認することによって、周辺監視制御部40が正常な画像処理を実行していることを認識することができる。
この単カメラ画像位置アイコン70と外枠71を合わせたものが時間変化画像63として、時間変化画像生成部55によって生成される。なお、一部領域72は外枠71の角部に設けられた領域であり、外枠71の他の領域と同様に、時間経過によって、例えば黄緑色と黒色とが交互に切り替わる。
後述するが、この一部領域72における輝度やRGB値等の映像信号の値が変化しているか否かを検出することにより、時間変化画像63が、時間経過に応じて変動しているか否かを判断している。時間変化画像生成部55によって生成された時間変化画像63は、画像合成部56に入力される。
画像合成部56には、上述した俯瞰画像61と、各カメラC1〜C4が撮像した単カメラ画像62と、時間変化画像63が入力される。画像合成部56は、CAN41を介してモニタ制御部43から指示される制御信号をもとに、上述した俯瞰画像61、単カメラ画像62、時間変化画像63を合成した画像を生成する。これら3つを合成した画像は、表示制御部53を介して表示部16に映像信号S1として出力される。
もし画像合成部56が、モニタ制御部43から俯瞰画像61、単カメラ画像62、時間変化画像63の合成画像の出力指示を受け取らない場合(例えば、メニュー画面が選択されている場合など)には、画像合成部56は当該合成画像をモニタに出力しない。
[モニタの標準画面]
図7は、モニタ15の表示部16に標準画面の一例が表示された状態を示す図である。標準画面は、キースイッチオン後、一定時間経過した状態で表示される初期画面であり、作業機械の各種情報、例えば、エンジン水温、油温、燃料の残量等の機械情報、機器の異常などを示す警告情報、メニュー画面やメンテナンス画面、俯瞰画像、単カメラ画像などが表示される。
図7に示すように、表示部16の左には、俯瞰画像61が表示され、右には、単カメラ画像62が表示される。図7の単カメラ画像62は、上部旋回体3の後方に設けられたカメラC1による後方を撮像した画像である。俯瞰画像61及び単カメラ画像62には、旋回中心からの距離や方向の目安を示す目安線Dが表示されている。単カメラ画像62の右上には、時間変化画像63が表示される。
俯瞰画像61、単カメラ画像62および時間変化画像63は、周辺監視制御部40側で生成された画像であり、これら3つの画像が表示される領域を合成映像表示領域60と定義する。なお、図7では俯瞰画像61が左側に、単カメラ画像62が右側に表示されているが、両者の表示位置が反対であってもよい。
合成映像表示領域60の下部には、左から、エンジンの冷却水の水温を示すエンジン水温ゲージG1、油圧回路内の作動油の油温を示す作動油温ゲージG2、および燃料の残量のレベルを示す燃料レベルゲージG3が表示される。また、作動油温ゲージG2は非表示であってもよい。
なお、ファンクションスイッチF1〜F6は、各スイッチの直上で表示部16が表示するアイコンに対応した信号を入力するためのスイッチである。図7では、ファンクションスイッチF3の上部には、単カメラ画像62を全画面表示に切り替えるアイコンI1が表示されている。また、ファンクションスイッチF4の上部には、単カメラ画像62のカメラを切り替える(例えばカメラC1の画像からカメラC2の画像への切り替え)アイコンI2が表示されている。ファンクションスイッチF6の上部には、メニュー画面へ切り替えるアイコンI3が表示されている。メニュー画面とは、作業機械の各種設定や状況を確認する際に用いる画面である。
なお、ファンクションスイッチに対応するアイコンI1〜I3を表示せず、対応するスイッチを別の操作部などに設けてもよい。アイコンI4は、サービスメータの値を表示する。また、アイコンI5は、作業モードの設定状態を表示する。
[周辺監視制御部の異常検出処理]
図8は、モニタ制御部43による周辺監視制御部40の異常処理手順を示すフローチャートである。モニタ制御部43が、本発明における「異常判断部」として機能する。図8に示すように、まずモニタ制御部43は、モニタ制御部43が、周辺監視制御部40に対して、俯瞰画像61、単カメラ画像62及び時間変化画像63の合成画像を要求しているか否かを判断する(ステップS101)。
モニタ制御部43が合成画像を要求している状態である場合(ステップS101,Yes)には、モニタ制御部43は、周辺監視制御部40からモニタ15に出力された合成映像表示領域60の合成画像中の時間変化画像63が所定時間変化していないか否かを判断する(ステップS102)。ここで、時間変化画像63の画像が所定時間変化していないか否かは、例えば図7における時間変化画像63を拡大した、図6の外枠71の一部領域72における映像信号の時間変化、例えば、輝度やRGB値などの時間変化から判断してもよい。「所定時間」をどの程度の時間にするかは、例えば外枠71部分の点滅速度に応じる等適宜設定すればよい。
時間変化画像63の画像が所定時間変化していない場合(ステップS102,Yes)には、周辺監視制御部40内の画像処理が異常である旨のエラー発報を行い(ステップS103)、エラーが発生していることをオペレータなどに何らかの形で報知する。なお、エラー発報の例として、例えばモニタ15の表示部16にメッセージやアイコン表示をしてもよいし、モニタ以外の場所にランプなどにより表示してもよい。また、音声によるブザー発報であってもよい。
一方、モニタ制御部43が周辺監視制御部40に合成画像を要求していない場合(ステップS101,No)または時間変化画像63の画像が所定時間変化している場合(ステップS102,No)には、ステップS101にリターンし、上述した処理を繰り返す。
なお、ステップS101を設ける理由は、もしモニタ制御部43が周辺監視コントローラ40に上記合成画像を生成するよう指示を出していない場合、すなわち図7における標準画面とは異なる、例えばメニュー画面が表示されている場合、標準画面において時間変化画像63が表示される領域には時間経過に応じて変化する画像が表示されず、同じ画像が表示され続けることになるため、モニタ制御部43は、周辺監視制御部40に異常が発生していないにもかかわらず、異常ありと判断してしまうためである。
なお、上述した実施の形態では、単カメラ画像位置アイコン70の外枠71を時間変化画像63として、その外枠70の一部領域72における輝度やRGB値、その他映像信号の時間変化の有無によって周辺監視制御部40の画像処理に異常があったか否かを検出していた。しかし、これに限らず、俯瞰画像61や単カメラ画像62内の一部領域やそれら画像の周辺など、周辺監視制御部40が生成する合成映像表示領域60内であればいずれの領域に時間変化画像を生成するようにしてもよい。この場合、生成する時間変化画像は、視認できるような大きさであればよい。
本実施形態である、時間変化画像63の外枠71を点滅させる場合には、視認できる程度であることが好ましい。オペレータが外枠71部分の点滅を視認することによって、周辺監視制御部40が正常な画像処理を実行していることを認識することができるためである。
なお、本発明は、オペレータが頻繁に外枠71部分が点滅しているか否かを確認することなく、周辺監視制御部40の画像処理に異常があったか否かを認識することができるため、オペレータの確認負荷を軽減できるという効果がある。
前記実施形態では、標準画面に俯瞰画像61と単カメラ画像62を同時に表示させる構成としていたが、本発明はこれに限られず、俯瞰画像のみや単カメラ画像のみを表示させる構成としてもよい。もしくは、標準画面には俯瞰画像61と単カメラ画像62を表示させず、画面切替によって表示させる形態であってもよい。
そして、本発明における「1つもしくは複数のカメラが撮像した画像に対して所定処理を行った画像」とは、俯瞰画像、単カメラ画像、及びその両者を含んだ画像としてもよく、合成映像表示領域60に表示される画像であってもよい。
また、周辺監視制御部40(表示制御部)と、モニタ制御部43(異常判断部)は、1つのコントローラ(装置)に設けられる構成であってもよいし、それぞれ別のコントローラ(装置)に設けられる構成であってもよい。
さらに、本実施形態では、時間変化画像63を1つしか設けなかったが、複数の画像を一画面で表示する場合には、それぞれの画像に対応する時間変化画像を用意し、それぞれの画像について異常が発生していないか検知するようにしてもよい。
なお、上記実施形態では油圧ショベルを用いて説明したが、作業機械であれば、ダンプトラック、ブルドーザー、ホイールローダー等の作業機械に本発明を適用してもよい。
また、上記実施形態では作業機械の運転室6にモニタ15を設けた構成で説明したが、その他の場所、例えば作業機械の遠隔操作を行うための遠隔操作室や、建設現場内にある複数の作業機械を全体的に管理・統制する管制室に表示部を設けた構成であってもよい。モニタ15が携帯端末として構成され(例えば取り外し可能であってもよい)、オペレータが携帯端末における表示部に表示された俯瞰画像を見られる構成であってもよい。
ここで、遠隔操作室や管制室においてモニタ15に俯瞰画像を表示する場合や携帯端末にモニタ15を設ける場合には、作業機械と、操作室・管制室・携帯端末等のそれぞれに何らかの通信手段を設け、俯瞰画像等の情報の送受信を行う構成であってもよい。
1 油圧ショベル
2 下部走行体
3 上部旋回体
4 作業機
4a ブーム
4b アーム
4c バケット
4d ブームシリンダ
4e アームシリンダ
4f バケットシリンダ
6 運転室
7 パワーコンテナ
8 カウンタウェイト
10 オペレータシート
11,12 操作レバー
13,14 走行レバー
15 モニタ
16 表示部
17 操作部
40 周辺監視制御部(表示制御部)
42 通信制御部
43 モニタ制御部(異常判断部)
44 エンジン制御部
45 ポンプ制御部
51 画像処理部
53 表示制御部
54 俯瞰画像生成部
55 時間変化画像生成部
56 画像合成部
58 単カメラ画像生成部
60 合成映像表示領域
61 俯瞰画像
62 単カメラ画像
63 時間変化画像
70 単カメラ画像位置アイコン
71 外枠
72 一部領域
C カメラ群
C1〜C4 カメラ
D 目安線
G1 エンジン水温ゲージ
G2 作動油温ゲージ
G3 燃料レベルゲージ
I1〜I5 アイコン
S1 映像信号

Claims (10)

  1. 作業機械の周囲状況を取得する1つもしくは複数のカメラと、
    時間的に変化する時間変化画像を生成する時間変化画像生成部を含み、前記時間変化画像を生成するとともに前記1つもしくは複数のカメラが撮像した画像に対して所定処理を行った画像を映像信号として出力する表示制御部と、
    前記表示制御部から出力された映像信号をもとに前記時間変化画像と前記所定処理を行った画像とを表示するモニタと、
    前記時間変化画像が所定時間変化しない場合、前記表示制御部に異常が発生したと判断する異常判断部と、
    を備えたことを特徴とする作業機械の表示システム。
  2. 前記表示制御部と前記異常判断部とは、別のコントローラにそれぞれ設けられることを特徴とする請求項1に記載の作業機械の表示システム。
  3. 前記表示制御部が所定処理を行った画像とは、単カメラ画像及び/または俯瞰画像であることを特徴とする請求項1または2に記載された作業機械の表示システム。
  4. 前記異常判断部は、前記表示制御部に異常が発生したと判断した場合、報知することを特徴とする請求項1〜3のいずれか一つに記載された作業機械の表示システム。
  5. 前記報知は、前記表示制御部に異常が発生した旨を知らせるメッセージ、又はアイコンを前記モニタに表示することであることを特徴とする請求項4に記載された作業機械の表示システム。
  6. 前記表示制御部が生成する時間変化画像は、単カメラ画像位置アイコン外枠に設けられることを特徴とする請求項1〜5のいずれか一つに記載された作業機械の表示システム。
  7. 前記表示制御部が生成する時間変化画像は、単カメラ画像または俯瞰画像の表示領域またはその周辺領域に設けられることを特徴とする請求項1〜5のいずれか一つに記載された作業機械の表示システム。
  8. 前記表示制御部が生成する時間変化画像は、前記表示制御部が生成する合成映像表示領域のいずれかの領域に設けられることを特徴とする請求項1〜5のいずれか一つに記載された作業機械の表示システム。
  9. 前記表示制御部が所定処理を行った画像が複数ある場合、前記時間変化画像は、前記複数の画像それぞれに設けられ、前記異常判断部は画像単位で異常を判断することを特徴とする請求項1〜8のいずれか一つに記載の作業機械の表示システム。
  10. 作業機械の周囲状況を取得する1つもしくは複数のカメラと、
    所定の情報を表示するモニタと、を備え、
    時間的に変化する時間変化画像を生成し、前記時間変化画像に、前記1つもしくは複数のカメラが撮像した画像に対して所定処理を行った画像を映像信号として出力する表示制御ステップと、
    前記表示制御ステップから出力された映像信号をもとに前記時間変化画像と前記所定処理を行った画像とを表示するステップと、
    前記時間変化画像が所定時間変化しない場合、異常が発生したと判断する異常判断ステップと、
    を備えたことを特徴とする作業機械の表示方法。
JP2017532270A 2015-07-31 2015-07-31 作業機械の表示システム、および作業機械の表示方法 Active JP6577034B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/071886 WO2017022042A1 (ja) 2015-07-31 2015-07-31 作業機械の表示システム、および作業機械の表示方法

Publications (2)

Publication Number Publication Date
JPWO2017022042A1 JPWO2017022042A1 (ja) 2018-03-08
JP6577034B2 true JP6577034B2 (ja) 2019-09-18

Family

ID=57943902

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017532270A Active JP6577034B2 (ja) 2015-07-31 2015-07-31 作業機械の表示システム、および作業機械の表示方法

Country Status (6)

Country Link
US (1) US20180295357A1 (ja)
JP (1) JP6577034B2 (ja)
KR (2) KR20170118831A (ja)
CN (1) CN107431783A (ja)
DE (1) DE112015006345T5 (ja)
WO (1) WO2017022042A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3537403A4 (en) * 2016-11-01 2020-01-08 Sumitomo (S.H.I.) Construction Machinery Co., Ltd. SECURITY MANAGEMENT SYSTEM FOR WORKING MACHINE, MANAGEMENT DEVICE, SECURITY MANAGEMENT METHOD
KR102669902B1 (ko) * 2017-02-20 2024-05-28 에이치디현대인프라코어 주식회사 건설 장비의 화면 표시 시스템 및 화면 표시 방법
JP2020063569A (ja) * 2018-10-15 2020-04-23 日立建機株式会社 油圧ショベル
US11131082B2 (en) * 2019-06-13 2021-09-28 Deere & Company Work vehicle with a payload tracking system
JPWO2021085608A1 (ja) * 2019-10-31 2021-05-06
JP7508815B2 (ja) * 2020-03-13 2024-07-02 コベルコ建機株式会社 作業支援サーバ、作業支援方法
JP7458850B2 (ja) * 2020-03-26 2024-04-01 住友重機械建機クレーン株式会社 作業機械の周囲表示装置
WO2022124322A1 (ja) * 2020-12-10 2022-06-16 株式会社クボタ 作業機の診断支援装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004214970A (ja) * 2002-12-27 2004-07-29 Sumitomo Electric Ind Ltd 画像表示システム、画像表示方法及び画像処理装置
JP2008283431A (ja) * 2007-05-10 2008-11-20 Matsushita Electric Ind Co Ltd 画像処理装置
JP5269026B2 (ja) * 2010-09-29 2013-08-21 日立建機株式会社 作業機械の周囲監視装置
JP5341044B2 (ja) * 2010-09-29 2013-11-13 日立建機株式会社 作業機械の表示システム
WO2012169352A1 (ja) * 2011-06-07 2012-12-13 株式会社小松製作所 作業車両の周辺監視装置
JP6167042B2 (ja) 2012-01-12 2017-07-19 日立建機株式会社 自走式産業機械の周囲監視装置
JP5411976B1 (ja) * 2012-09-21 2014-02-12 株式会社小松製作所 作業車両用周辺監視システム及び作業車両
JP5529943B2 (ja) * 2012-09-21 2014-06-25 株式会社小松製作所 作業車両用周辺監視システム及び作業車両

Also Published As

Publication number Publication date
WO2017022042A1 (ja) 2017-02-09
CN107431783A (zh) 2017-12-01
KR102027395B1 (ko) 2019-10-01
DE112015006345T5 (de) 2017-12-07
JPWO2017022042A1 (ja) 2018-03-08
KR20190073621A (ko) 2019-06-26
US20180295357A1 (en) 2018-10-11
KR20170118831A (ko) 2017-10-25

Similar Documents

Publication Publication Date Title
JP6577034B2 (ja) 作業機械の表示システム、および作業機械の表示方法
JP7108750B2 (ja) システムおよび方法
JP5956693B2 (ja) 作業機械の表示システム、作業機械の表示装置、および作業機械の表示方法
JP6427597B2 (ja) 作業機械の周辺監視装置及び作業機械の周辺監視方法
JP6216097B2 (ja) 作業機械の周辺監視装置
KR101945421B1 (ko) 작업 기계의 주변 감시 장치
JP2013253402A (ja) 作業機械の周囲監視装置
JP5926315B2 (ja) 作業車両用周辺監視システム及び作業車両
JP2015021246A (ja) 作業機械の周囲監視装置
JP6980391B2 (ja) 作業機械用周辺監視システム
JP2016169595A (ja) 作業機械の周囲監視装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190311

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190403

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190806

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190821

R150 Certificate of patent or registration of utility model

Ref document number: 6577034

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250