JP2018172857A - 作業機械の周囲監視装置 - Google Patents

作業機械の周囲監視装置 Download PDF

Info

Publication number
JP2018172857A
JP2018172857A JP2017069559A JP2017069559A JP2018172857A JP 2018172857 A JP2018172857 A JP 2018172857A JP 2017069559 A JP2017069559 A JP 2017069559A JP 2017069559 A JP2017069559 A JP 2017069559A JP 2018172857 A JP2018172857 A JP 2018172857A
Authority
JP
Japan
Prior art keywords
level
blind spot
obstacle
operator
visual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017069559A
Other languages
English (en)
Other versions
JP6581139B2 (ja
JP2018172857A5 (ja
Inventor
和重 黒髪
Kazushige KUROKAMI
和重 黒髪
坂本 博史
Hiroshi Sakamoto
博史 坂本
麻里子 水落
Mariko Mizuochi
麻里子 水落
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Construction Machinery Co Ltd
Original Assignee
Hitachi Construction Machinery Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2017069559A priority Critical patent/JP6581139B2/ja
Application filed by Hitachi Construction Machinery Co Ltd filed Critical Hitachi Construction Machinery Co Ltd
Priority to KR1020197006495A priority patent/KR102104380B1/ko
Priority to EP17903069.7A priority patent/EP3495570B1/en
Priority to US16/331,309 priority patent/US10570587B2/en
Priority to PCT/JP2017/039789 priority patent/WO2018179560A1/ja
Priority to CN201780055620.7A priority patent/CN109689983B/zh
Publication of JP2018172857A publication Critical patent/JP2018172857A/ja
Publication of JP2018172857A5 publication Critical patent/JP2018172857A5/ja
Application granted granted Critical
Publication of JP6581139B2 publication Critical patent/JP6581139B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • E02F9/262Surveying the work-site to be treated with follow-up actions to control the work tool, e.g. controller
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q5/00Arrangement or adaptation of acoustic signal devices
    • B60Q5/005Arrangement or adaptation of acoustic signal devices automatically actuated
    • B60Q5/006Arrangement or adaptation of acoustic signal devices automatically actuated indicating risk of collision between vehicles or with pedestrians
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q9/00Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
    • B60Q9/008Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for anti-collision purposes
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/31Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles providing stereoscopic vision
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B66HOISTING; LIFTING; HAULING
    • B66CCRANES; LOAD-ENGAGING ELEMENTS OR DEVICES FOR CRANES, CAPSTANS, WINCHES, OR TACKLES
    • B66C23/00Cranes comprising essentially a beam, boom, or triangular structure acting as a cantilever and mounted for translatory of swinging movements in vertical or horizontal planes or a combination of such movements, e.g. jib-cranes, derricks, tower cranes
    • B66C23/88Safety gear
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/24Safety devices, e.g. for preventing overload
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/107Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using stereoscopic cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8046Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for replacing a rear-view mirror system
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8093Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mechanical Engineering (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Structural Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Civil Engineering (AREA)
  • Mining & Mineral Resources (AREA)
  • Human Computer Interaction (AREA)
  • Databases & Information Systems (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Ophthalmology & Optometry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Acoustics & Sound (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Emergency Alarm Devices (AREA)
  • Alarm Systems (AREA)

Abstract

【課題】作業機械の周囲に存在する障害物に関して過不足の無い適切な警報を発すること。
【解決手段】コントローラ50に、油圧ショベルの姿勢及び動作の情報を取得する機械状態取り込み部400と、機械状態取り込み部400が取得した油圧ショベルの姿勢及び動作の情報に基づいて油圧ショベルの運転席1fからの死角領域を算出する死角算出部500と、死角算出部500が算出した死角領域と位置関係算出部200が算出した位置関係に基づいて障害物に対する視認レベルを決定する視認レベル決定部300とを備えた。さらに、コントローラ50の警報レベル決定部600で、視認レベル決定部300で決定された視認レベルに応じて警報レベルを補正することとした。
【選択図】 図3

Description

本発明は作業機械の周囲に存在する障害物を検出してオペレータに対する警報を出力する作業機械の周囲監視装置に関する。
油圧ショベルなどの作業機械には、接触事故を防止するために、作業機械の周囲に存在する人または物体等の障害物を検出し、作業機械のオペレータに対して警報を発する周囲監視装置を搭載したものがある。しかし、実際の作業現場においては、作業員が作業機械の近傍で作業を行っていることを知りながら作業機械を意図的に動作させるケースも多い。こうした環境下では、作業員が近傍にいることを知っているにも係わらず周囲監視装置から警報が発せられてしまう。
このような問題の解決を試みた装置の1つとして、特許文献1に記載のものがある。この装置は、画像処理を通じて作業機械の周囲に存在する障害物が人であるか否かを判断し、作業機械の状態や障害物との位置関係を踏まえて警報レベルを決定することで不必要な警報を抑制するものである。また、特許文献2に記載の装置では、オペレータの視線に基づいてオペレータが障害物を視認しているかどうかを判断して警報を発することにより、過剰な警報の防止を図っている。
特開2010−198519号公報 特開2006−027481号公報
しかしながら、特許文献1では、作業機械と周囲の障害物との位置関係や作業機械の動作に基づいて危険度合いを判定しているだけであり、オペレータがその障害物を実際に視認しているかどうかは全く考慮されていない。例えば、警報が出力される位置関係に作業機械と障害物があっても、オペレータが障害物の存在を認識した状態で操作を行っているのであれば、接触事故を引き起こす可能性は低く、オペレータに対する警報の必要性は高くない。このような場面でオペレータが障害物を認識していないときと同じ警報が継続して発せられるとオペレータに煩わしさを感じさせる可能性が高い。したがって、特許文献1に記載の装置には、オペレータが障害物を視認しているか否かに基づいて警報の発し方を改善する余地がある。
また、特許文献2では、オペレータの視線に基づき視認判定を行っているが、作業機械の操作に伴う死角の変化という作業機械特有の現象に関しては考慮されていない。特にフロント作業装置を備える作業機械では、作業中に絶えず死角の変化が生じ、オペレータの視線と障害物の位置が一致していたとしても、フロント作業装置の背後に存在する障害物は視認できないという事態が想定される。このように、引用文献2の技術を作業機械に転用する場合、視認判定の信頼性が十分でない。
本発明の目的は、作業機械の周囲に存在する障害物に関して過不足の無い適切な警報を発することにある。
本願は上記課題を解決する手段を複数含んでいるが、その一例を挙げるならば、作業機械の周囲に存在する障害物を検出する障害物検出部と、前記障害物検出部で検出された前記障害物と前記作業機械の位置関係を算出する位置関係算出部と、前記位置関係算出部で算出された前記位置関係に基づいて警報レベルを決定する警報レベル決定部と、前記警報レベル決定部で決定された前記警報レベルに応じた警報内容を出力装置に出力する警報出力部とを有する制御装置を備える作業機械の周囲監視装置において、前記制御装置は、前記作業機械の姿勢及び動作の情報を取得する機械状態取り込み部と、前記機械状態取り込み部が取得した前記作業機械の姿勢及び動作の情報に基づいて前記作業機械の運転席からの死角領域を算出する死角算出部と、前記死角算出部が算出した前記死角領域と前記位置関係算出部が算出した前記位置関係に基づいて前記障害物に対する視認レベルを決定する視認レベル決定部とをさらに有し、前記警報レベル決定部は、前記視認レベル決定部で決定された前記視認レベルに応じて前記警報レベルを補正するものとする。
本発明によれば、障害物の存在を知らせる警報に関して、オペレータの視線と作業機械の姿勢に基づいてオペレータが障害物を視認しているか否かが考慮されるので、適切な警報を発することができる。
本発明の実施の形態に係る油圧ショベルの概略構成図。 図1の油圧ショベルのシステム構成図。 本発明の第1実施形態に係るコントローラ50の機能ブロック図。 第1実施形態の死角算出部500の処理の流れを示した図。 死角領域データCの例を示した図。 オペレータ操作(油圧ショベルの動作)とオペレータ注視方向(視線方向)の関係図。 死角領域データAの例を示した図。 運転室1fのオペレータの視線の位置より上方にフロント作業装置1Aが位置する場合の視認可能領域511を示した図。 図8の場合よりもアーム1bをクラウド側に動作させた場合のオペレータの視認可能領域511を示した図。 図9の場合よりもさらにアーム1bをクラウド側に動作させた場合のオペレータの視認可能領域511を示した図。 視覚補助装置としてステレオカメラ13aを利用した場合の死角領域データBの例を示した図。 視覚補助装置としてサイドミラーを利用した場合の死角領域データBの例を示した図。 視認レベル決定部300の処理の流れを示した図。 警報レベル決定部600の処理の流れを示した図。 警報出力部700の処理の流れを示した図。 警報レベル1の警報画面の例を示した図。 警報レベル2の警報画面の例を示した図。 第2実施形態に係るコントローラ50の機能ブロック図。 第2実施形態の死角算出部500における処理の流れを示した図。
以下、本発明の実施の形態について図面を用いて説明する。
<第1実施形態>
[油圧ショベルの基本構成]
図1は本発明の実施の形態に係る油圧ショベルの概略構成図である。図1において、油圧ショベルは、クローラ式の走行体1eと、走行体1eの上部に旋回可能に取り付けられた旋回体1dを備えている。走行体1eは、左右の走行油圧モータ3e,3fによって駆動される。旋回体1dは、旋回油圧モータ3dの発生するトルクによって駆動され、左右方向に旋回する。
旋回体1d上には運転席1fが設置され、旋回体1dの前方には目標施工面の形成作業を行うことの可能な多関節型のフロント作業装置1Aが取り付けられている。
フロント作業装置1Aは、ブームシリンダ3aによって駆動されるブーム1aと、アームシリンダ3bによって駆動されるアーム1bと、バケットシリンダ3cによって駆動されるバケット1cとを備える。
運転席1fには、ブームシリンダ3a、アームシリンダ3b、バケットシリンダ3c、走行油圧モータ3e,3f及び旋回油圧モータ3dに対する制御信号(ギヤポンプ24(図2参照)から出力されるパイロット圧(以下ではPi圧とも称する))を操作方向及び操作量に応じて発生し、その制御信号によりブーム1a、アーム1b、バケット1c、旋回体1d及び走行体1eを動作させるための操作レバー26と、エンジン21(図2参照)の目標回転数を指令するエンジンコントロールダイヤル51(図2参照)と、オペレータに対して油圧ショベルの周囲で検出された障害物を報せるための警報出力装置10(表示装置10a及び音声出力装置10b)と、オペレータの視覚を補助するために旋回体1dの後方の領域を映すバックモニタ(視覚補助装置)11(図2参照)が設置されている。
旋回体1dの後方、右側方、左側方、前方にはそれぞれ、各方向の動画の撮影及び障害物の検知を行うステレオカメラ13a,13b,13c,13dが設置されている。ステレオカメラ13a,13b,13c,13dは、油圧ショベル周囲の障害物を検出するための障害物センサと、油圧ショベルから障害物までの距離を検出するための距離センサとして機能している。
図2は図1の油圧ショベルのシステム構成図である。本実施形態の油圧ショベルは、エンジン21と、エンジン21を制御するためのコンピュータであるエンジンコントロールユニット(ECU)22と、エンジン21の出力軸に機械的に連結されエンジン21によって駆動される油圧ポンプ23及びギヤポンプ(パイロットポンプ)24と、ギヤポンプ24から吐出される圧油を操作量に応じて減圧したものを、各油圧アクチュエータ3a,3b,3c,3d,3e,3fの制御信号としてコントロールバルブ25に出力する操作レバー26と、油圧ポンプ23から各油圧アクチュエータ3a,3b,3c,3d,3e,3fに導入される作動油の流量及び方向を、操作レバー26から出力される制御信号(パイロット圧)に基づいて制御する複数のコントロールバルブ25と、各コントロールバルブ25に作用するPi圧の圧力値を検出する複数の圧力センサ(パイロット圧センサ)41と、油圧ショベルの周囲に存在する障害物を検出してオペレータに対する警報及び車体制御の信号を生成・出力するコンピュータであるコントローラ(制御装置)50と、オペレータに対して油圧ショベルの周囲で検出された障害物を報せるための警報出力装置10(表示装置10a及び音声出力装置10b)と、オペレータの視覚を補助するために油圧ショベル周囲の所定の領域(ここでは旋回体1dの後方の領域)を映すバックモニタ(視覚補助装置)11を備えている。
油圧ポンプ23は、各油圧アクチュエータ3a,3b,3c,3d,3e,3fの目標出力の通りに車体が動作するよう、機械的にトルク・流量が制御されている。
ギヤポンプ24の吐出配管にはロック弁49が設けられている。ロック弁49は本実施形態では電磁切換弁であり、その電磁駆動部はコントローラ50と電気的に接続している。通常、ロック弁49は開いておりギヤポンプ24の吐出油は操作レバー26を介してコントロールバルブ25に供給される。しかし、コントローラ50内の車体制御部20からロック弁49に対して車体停止信号が入力されるとロック弁39が閉じてギヤポンプ24から操作レバー26への圧油の供給が遮断され、レバー操作が無効化される。
本実施形態では操作レバー26として、ブーム1aの上げ・下げとバケット1cのダンプ・クラウドをそれぞれ指示するための第1操作レバーと、アーム1bのダンプ・クラウドと旋回体1dの左・右旋回をそれぞれ指示するための第2操作レバーと、走行モータ3eの正転・逆転を指示するため第1走行レバーと、走行モータ3fの正転・逆転を指示するための第2走行レバー(いずれも図示せず)の複数のレバーを備えたものが搭載されている。第1操作レバーと第2操作レバーは2複合のマルチ機能操作レバーで、第1操作レバーの前後操作がブーム1aの上げ・下げ、左右操作がバケット1cのクラウド・ダンプ、第2操作レバーの前後操作がアーム1bのダンプ・クラウド、左右操作が旋回体1dの左・右回転に対応している。レバーを斜め方向に操作すると、該当する2つのアクチュエータが同時に動作する。第1走行レバーと第2走行レバーは単機能操作レバーで、第1走行レバーの前後操作が走行モータ3eの正転・逆転、第2走行レバーの前後操作が走行モータ3fの正転・逆転に対応している。
コントロールバルブ25は、制御対象の油圧アクチュエータ3a,3b,3c,3d,3e,3fと同数存在するが、図2ではそれらをまとめて1つで示している。各コントロールバルブには、その内部のスプールを軸方向の一方又は他方に移動させる2つのPi圧が作用している。例えば、ブームシリンダ3a用のコントロールバルブ25には、ブーム上げのPi圧と、ブーム下げのPi圧が作用する。
圧力センサ41は、各コントロールバルブ25に作用するPi圧を検出するもので、1つのコントロールバルブ25につき2つ存在しているが、図2ではそれらをまとめて1つで示している。圧力センサ41は、コントロールバルブ25の直下に設けられており、実際にコントロールバルブ25に作用するPi圧を検出している。圧力センサ41の検出圧は、操作レバー26である第1及び第2操作レバー及び第1及び第2走行レバーの操作方向及び操作量を示す。
コントローラ50は、入力部と、プロセッサである中央処理装置(CPU)と、記憶装置であるリードオンリーメモリ(ROM)及びランダムアクセスメモリ(RAM)と、出力部とを有している。入力部は、コントローラ50に入力される各種情報を、CPUが演算可能なように変換する。ROMは、後述する演算処理を実行する制御プログラムと、当該演算処理の実行に必要な各種情報等が記憶された記録媒体であり、CPUは、ROMに記憶された制御プログラムに従って入力部及びROM、RAMから取り入れた信号に対して所定の演算処理を行う。出力部からは、警報出力装置10から警報を出力するために必要な指令等が出力される。なお、記憶装置は上記のROM及びRAMという半導体メモリに限られず、例えばハードディスクドライブ等の磁気記憶装置に代替可能である。
コントローラ50には、警報出力装置10(表示装置10a及び音声出力装置10b)と、ECU22と、複数の圧力センサ41と、バケット角センサ8aと、アーム角センサ8bと、ブーム角センサ8cと、車体傾斜角センサ8dと、ロック弁49が接続されている。
コントローラ50は、バケット角センサ8a、アーム角センサ8b、ブーム角センサ8cおよび車体傾斜角センサ8dからの入力信号に基づいてフロント作業装置1Aの姿勢を算出し、圧力センサ41の入力信号に基づいてフロント作業装置1Aの動作を算出する。つまり、本実施形態では、バケット角センサ8a、アーム角センサ8b、ブーム角センサ8cおよび車体傾斜角センサ8dはフロント作業装置1Aの姿勢センサとして機能し、圧力センサ41はフロント作業装置1Aの動作センサとして機能している。なお、車体傾斜角は、2本のGNSSアンテナを設置し、これらからの入力信号から算出しても良い。
なお、本稿で説明するフロント作業装置1Aの姿勢やパイロット圧の算出に際して利用する手段・方法は一例に過ぎず、公知の算出手段・方法が利用可能である。
[コントローラ50の機能的構成]
図3は本発明の第1実施形態に係るコントローラ50の機能ブロック図である。この図に示すようにコントローラ50は、記憶装置に格納された制御プログラムに従った中央処理装置の演算処理により、障害物検出部100、位置関係算出部200、視認レベル決定部300、機械状態取り込み部400、死角算出部500、警報レベル決定部600、警報出力部700および車体制御部20として機能する。
障害物検出部100は、旋回体1dの外周部の上面に取り付けられたステレオカメラ13a,13b,13c,13dで取得した視差画像を基に画像処理を通じてショベル周囲に存在する障害物を検出し、各カメラ座標系における障害物の位置座標及び障害物の属性(人であるか、その他物体であるか)を算出する。ここで得られた障害物の位置座標は位置関係算出部200へ、障害物の属性は警報レベル決定部600へ出力される。
位置関係算出部200は、車体座標系におけるステレオカメラ13a,13b,13c,13dの位置と方向の情報を保有している。位置関係算出部200は、障害物検出部100で検出された障害物についての各カメラ座標系における位置座標を車体座標系における位置座標へ変換する。そして車体座標系における各障害物と油圧ショベルの位置関係を算出する。ここで算出された車体座標系における障害物の位置座標は視認レベル決定部300及び警報レベル決定部600及び警報出力部700へ出力される。
機械状態取り込み部400は、角度センサ8a,8b,8c,8dから得られた各リンク1a,1b,1cの角度を基に油圧ショベルの姿勢を演算する。また、パイロット圧センサ41からの出力を用いて、操作レバー26に対するオペレータの操作を判定し、油圧ショベルの動作を識別する。ここで求められた油圧ショベルの姿勢情報及び動作情報は死角算出部500及び警報レベル決定部600へ出力される。
死角算出部500は、機械状態取り込み部400が取得した油圧ショベルの姿勢情報及び動作情報に基づいて油圧ショベルの運転席からの死角領域を算出する。ここで求められた死角領域は視認レベル決定部300に出力される。死角算出部500が行う処理の詳細については図4を用いて後述する。
視認レベル決定部300は、死角算出部500が算出した死角領域と位置関係算出部200が算出した障害物と油圧ショベルの位置関係に基づいて障害物に対する視認レベルを決定する。ここで求められた視認レベルは警報レベル決定部600に出力される。視認レベル決定部300が行う処理の詳細については図13を用いて後述する。
警報レベル決定部600は、位置関係算出部200で算出された障害物と油圧ショベルの位置関係に基づいて警報レベルを決定し、その決定した警報レベルを視認レベル決定部300で決定された視認レベルに応じて補正する。ここで決定された警報レベルは警報出力部700に出力される。警報レベル決定部600が行う処理の詳細については図14を用いて後述する。
警報出力部700は、警報レベル決定部600で決定された警報レベルに応じた警報内容を警報出力装置10及び車体制御部20に出力する。警報出力部700が行う処理の詳細については図15を用いて後述する。
[死角算出部500の処理フロー]
まず、死角算出部500の処理の詳細について図4を用いて説明する。図4は死角算出部500の処理の流れを示した図である。記憶装置には或る代表姿勢における油圧ショベルの3次元モデルデータ(車体モデルデータ)530が格納されており、死角算出部500は、ステップ501では機械状態取り込み部400から得られた油圧ショベルの姿勢情報と車体モデルデータ530を基に、現在の姿勢情報を反映した車体モデルを生成する。
死角算出部500は、ステップ501と並行してステップ502において、操作レバー26に対して操作なし又は直進以外の走行操作を行っているかどうかをパイロット圧センサ41からの信号に基づいて判定する。なお、ここで「直進」とは、操作レバー26のうち第1走行レバーと第2走行レバーを同方向に略同量操作することで走行体1eを前進又は後退させることをいう。ステップ502で操作なし又は直進以外の走行操作を行っていると判定された場合にはステップ509に進み、操作あり又は直進以外の走行操作を行っていないと判定された場合にはステップ503に進む。
操作なし又は直進以外の走行操作をしているステップ509では、オペレータは複数方向へ注意を払っていることが想定されるため、オペレータの視線方向(視線)の推定を行わずに、死角算出部500は油圧ショベルの全周囲を死角領域と設定した「死角領域データC」を生成する。図5は死角領域データCの例を示した図である。この場合、死角算出部500は油圧ショベル516の全周囲を死角領域521として設定して処理を終了する。ステップ509で作成した死角領域データCは、視認レベル決定部300へ出力される。
ステップ503において、死角算出部500は、機械状態取り込み部400から得られた油圧ショベルの動作情報及び運転室1f内におけるオペレータの着座位置データ540を基に、オペレータの視線方向(視線)を推定する。オペレータの着座位置データ540は、運転室1f内の座席にオペレータが着座したときの頭部位置のデータである。この値はオペレータごとに設定することもできるが、本実施形態では複数のオペレータで共通の値とする。油圧ショベルが稼働する国や地域の成人の平均値を共通の値として利用しても良い。
オペレータは操作時(直進の走行操作も含む)に機械の動作方向へ視線を向けていることが想定される。そこで、本実施形態では、ステップ503において、各操作時におけるオペレータの注視方向(視線方向)を図6に記載されたように判断するものとする。
図6はオペレータ操作(油圧ショベルの動作)とオペレータ注視方向(視線方向)の関係図である。図中の「オペレータ注視方向」の列における「視覚補助装置」は、運転室1f内に設けられ、後方のステレオカメラ13aで撮影した映像が映し出されるバックモニタ11(図2参照)である。なお、視覚補助装置としては、バックモニタ11の他に例えばサイドミラー等が含まれるが、サイドミラーについては第2実施形態で説明する。死角算出部500は、パイロット圧センサ41の出力に基づいて油圧ショベルの現在の動作が、フロント動作、右旋回、左旋回、前進および後退のいずれかであるかを判定する。そして判定結果に係る動作を図6の表の「オペレータ操作」の列から検索し、該当するセルの右隣のセル(「オペレータ注視方向」の列のいずれかのセル)に記載されている場所をオペレータの注視方向とみなす。例えば、フロント作業装置1Aの動作が検出された場合には、バケット1cの爪先位置(フロント爪先位置)が注視方向となる。図6により注視方向が決まったら、死角算出部500は、着座位置データ540から得られたオペレータの頭部位置を原点とし、図6から得られた注視方向に伸びるベクトルでオペレータの視線方向を規定(推定)し、ステップ504に進む。なお、本実施の形態では、フロント作業装置1Aと他の動作の複合動作が検出された場合には、フロント爪先位置を注視方向とみなす。
ステップ504では、死角算出部500は、ステップ503で視覚補助装置を注視しているという判定がされたか否かを判定する。視覚補助装置を注視していない場合はステップ505、注視している場合はステップ506に進む。
ステップ504でオペレータは視覚補助装置を注視していないと判定された場合(ステップ505に進んだ場合)、オペレータは車体周囲の環境を直視によって確認していると考えられる。そこで、死角算出部500は、ステップ501で生成した現在の姿勢での車体モデル及びオペレータの着座位置データ540に基づき、フロント作業装置1Aの姿勢を考慮した「死角領域データA」を仮想的に生成する視界シミュレーションを行う。着座位置データ540で規定されるオペレータの頭部位置から瞳孔位置を推定し、この瞳孔位置を基準としてフロント作業装置1Aによって隠れる領域を作業装置死角領域とする。
図7は死角領域データAの例を示した図である。ステップ503で推定した車体座標系におけるオペレータの視線ベクトル(視線方向)514を基準に周辺視によって視認可能な視野領域515(例えば60から100度の任意の値)を規定し、これにフロント作業装置1Aの姿勢によって生じる作業装置死角領域512を反映している。この場合の死角領域は、視野外領域513に作業装置死角領域512を加えた領域となる。反対に視認可能領域511は視野領域515から作業装置死角領域512を除いた領域となる。
図7中の作業装置死角領域512は、フロント作業装置1Aの姿勢に応じて変化する。次にこの点を説明する。図8は運転室1fのオペレータの視線の位置より上方にフロント作業装置1Aが位置する場合の視認可能領域511を示した図である。この場合、フロント作業装置1Aによってオペレータの視界は遮られないのでフロント作業装置1Aによる作業装置死角領域は発生しない。すなわち視認可能領域511は視野領域515と一致する。図9は図8の場合よりもアーム1bをクラウド側(旋回体1d側)に動作させた場合のオペレータの視認可能領域511を示した図である。このような中間姿勢においてはフロント作業装置1Aによってオペレータの視界の一部が遮断されてしまうため、作業装置死角領域512が生じる。この場合の視認可能領域511は視野領域515から作業装置死角領域512を除いた領域となる。図10は図9の場合よりもさらにアーム1bをクラウド側に動作させた場合のオペレータの視認可能領域511を示した図である。この図では図9の場合よりもさらにオペレータの視界がフロント作業装置1Aに遮断された作業装置死角領域512が生じる。
ステップ507ではステップ505で得られた死角領域データAを視認レベル決定部300へ出力する。
一方、ステップ504でオペレータは視覚補助装置を注視していると判定された場合(ステップ506に進む場合)、オペレータは視覚補助装置に映し出されている領域のみを視認しており、その他の領域については死角となることが想定される。そのため、ステップ506では、ステップ501で生成した現在の姿勢における車体モデルと、ステレオカメラ13aの画角、取り付け位置及び取り付け角度等の情報を表す視覚補助装置パラメータ550とを用いて、オペレータが視覚補助装置を注視したときの間接視界を示した「死角領域データB」を作成する。
図11は視覚補助装置としてステレオカメラ13a(バックモニタ11)を利用した場合の死角領域データBの例を示した図である。注視している視覚補助装置が映している領域を視認可能領域511とし、その他の領域を死角領域521として設定する。
ステップ508で作成した死角領域データBは、視認レベル決定部300へ出力される。
[視認レベル決定部300の処理フロー]
視認レベル決定部300の処理の詳細について図13を用いて説明する。図13は視認レベル決定部300の処理の流れを示した図である。
視認レベル決定部300は、まず、ステップ301において死角算出部500から得られた死角領域データの種類を判定する。この判定の結果が死角領域データAの場合にはステップ302へ、死角領域データBの場合にはステップ304へ、死角領域データCの場合にはステップ307へ進む。
ステップ302では、視認レベル決定部300は、位置関係算出部200から得られた車体座標系における障害物の位置座標が死角領域データAに含まれているか否かを判定することで、オペレータが障害物を直接視界によって視認しているか否かを判定する。対象の障害物が死角領域に存在する場合(例えば、図10のように障害物1200が作業装置死角領域512内に位置する場合)には、オペレータはその障害物を視認していないとみなしてステップ307に進んで視認レベルを1に決定し、次の警報レベル決定部600の処理に移行する。一方、対象の障害物が視認可能領域に存在してオペレータが直接視界による視認をしているとみなす場合(例えば、図9のように障害物1200が視認可能領域511内に位置する場合)にはステップ303の処理へ進む。
ステップ303では、視認レベル決定部300は、障害物からオペレータの視線方向までの距離を基に、オペレータが障害物を中心視野で視認しているか否かを判定する。本実施形態では、オペレータの視野方向(ベクトル)を直線で定義し、その直線と障害物の距離が、所定距離D1以内の場合にはオペレータは障害物を中心視野で視認しているとみなし、所定距離D1を越える場合にはオペレータは周辺視野で視認しているとみなす。障害物が中心視野内に存在すれば、周辺視野内に存在する障害物よりも、オペレータが障害物を視認している可能性は高いと考えられる。そこで、オペレータが中心視野で視認していると判定された障害物は視認レベルを3に決定する(ステップ305)。反対に、オペレータが周辺視野で視認していると判定された障害物は視認レベルを2に決定する(ステップ306)。本稿の「視認レベル」はその値が高いほどオペレータが障害物を視認している可能性が高いことを表し、中心視野で視認することができていれば、最も視認の可能性が高いことを示す視認レベル3に決定する。
ステップ304では、ステップ302と同様に、視認レベル決定部300は、位置関係算出部200から得られた車体座標系における障害物の位置座標が死角領域データBに含まれているか否かを判定することで、オペレータが視覚補助装置を通じて障害物を視認しているか否かを判定する。視覚補助装置による間接視界は肉眼による直接視界に比べて視認性が低下することが想定されるため、視覚補助装置を通じて障害物を視認している場合は肉眼の場合よりもレベルを下げて視認レベルを2と決定する(ステップ306)。また、視認していない場合は視認レベルを1と決定する(ステップ307)。
ステップ301で死角領域データCと判定された場合には、全領域が死角領域となるため、視認レベル決定部300は障害物に対する視認レベルを1に決定する(ステップ307)。
上記のようにステップ305,306,307で決定した視認レベルは警報レベル決定部600へ出力する。
[警報レベル決定部600の処理フロー]
警報レベル決定部600の処理の詳細について図14を用いて説明する。図14は警報レベル決定部600の処理の流れを示した図である。警報レベル決定部600は、障害物の属性、油圧ショベルから障害物までの距離、及び、操作レバー26の操作内容等に応じて油圧ショベルと障害物の接触の危険性に関する警報レベルを設定し、これに対して視認レベル決定部300で決定した視認レベルに応じた補正を加えて最終的な警報レベルを決定する。
警報レベル決定部600は、まず、ステップ601において、位置関係算出部200と機械状態取り込み部400からの出力を基に、障害物が作業機械の作業半径内に存在するか否かを判定する。障害物が作業半径内に存在する場合にはステップ603に進み、作業半径内に存在しない場合にはステップ602に進む。なお、ここで「作業半径」とは、油圧ショベルの旋回中心からフロント作業装置1Aの最遠端までの距離であり、油圧ショベルの姿勢情報に応じて変化する。
ステップ603では、警報レベル決定部600は、油圧ショベルの動特性と障害物までの距離に基づき、油圧ショベルが障害物の存在する位置に到達するために要する最短の到達時間を算出する。この障害物までの最短の到達時間が2[s]以下である場合は接触の危険性が高いため、警報レベルを4とする(ステップ609)。反対に到達時間が2[s]以上であれば、ステップ604に進む。
ステップ602では、警報レベル決定部600は、障害物検出部100からの出力に基づいて障害物の属性が人と物体のいずれであるかを判定する。この判定で物体と判定され場合には、警報レベル決定部600はステップ606で警報レベルを最も低い1に決定して処理を終了する。反対に人であると判定された場合にはステップ604に進む。
ステップ604では、警報レベル決定部600は操作レバー26の操作内容(圧力センサ41の出力値)に基づいた動作の識別を行う。レバー操作が行われていないと判定された場合には警報レベルを1に決定して処理を終了する(ステップ606)。また、フロント作業装置1Aのリンク部材1a,1b,1cのみの操作が検出された場合には掘削作業と判断する。この場合、接触の危険性は比較的低いため、警報レベルを2とする(ステップ607)。一方、旋回モータ3dや走行モータ3e,3fの操作が検出された場合には、油圧ショベルは旋回又は走行動作をしているとみなしてステップ605に進む。
ステップ605では、警報レベル決定部600は油圧ショベルの動作する方向と障害物の位置する方向が一致しているか否かを判定する。本実施形態では、油圧ショベルの動作方向に障害物が存在している場合、油圧ショベルの動作方向と障害物の位置する方向が一致すると判定する。動作方向と障害物位置が一致していると判定された場合には接触の危険性が高いため警報レベルを3に決定する(ステップ608)。一方、一致していないと判定された場合には警報レベルを2に決定する(ステップ607)。
以上の処理において、ステップ607,608,609のいずれかを経由して警報レベルが2〜4と決定された場合には、ステップ610において、視認レベルに応じた警報レベルの補正を行い、最終的に出力する警報レベルを決定する。ここでは、視認レベル決定部300で決定された視認レベルが3、つまり障害物を視認している可能性が高い場合には、ステップ610に入力された警報レベル(ステップ607,608,609のいずれかで仮決定した警報レベル)を1つ下げる。同様に、視認レベルが2の場合には入力された警報レベルを維持し、視認レベルが1の場合には入力された警報レベルを1つ上げる。このように警報レベルの補正が完了したら、警報レベル決定部600は決定した警報レベルを警報出力部700に出力する。
上記処理のように、オペレータが障害物を視認している可能性を表す視認レベルに応じて警報レベルを補正することによって、オペレータの障害物に対する気づきを考慮した警報又は車体制御を実現できる。
[警報出力部700の処理フロー]
警報出力部700の処理の詳細について図15を用いて説明する。図15は警報出力部700の処理の流れを示した図である。この図に示したように、警報出力部700は、警報レベル決定部600で決定した警報レベルに応じた出力内容を決定し、その出力内容を実現するための信号を警報出力装置10と車体制御部20に出力する。
警報レベル1の場合、位置関係算出部200と機械状態取り込み部400の出力を基にし、車体モデルの俯瞰図に障害物位置を配置した表示を表示装置10aに行う。図16はその表示画面の例を示した図である。この表示画面には、車体モデル711を中心として、油圧ショベルの作業半径を示す円712、人(障害物)の位置を示すマーク714、物体の位置を示すマーク715が表示されている。なお、他の警報レベル2−5に関してもこの警報レベル1と同じ内容を表示装置10aに表示するものとする
警報レベル2の場合、警報レベル1における表示装置10aの表示画面710に加えて、警報マーク723による強調表示を表示装置10aに行う。図17はその警報画面の例を示した図である。警報マーク723は、画面720の上下に表示される赤等の警告色の帯であり、帯の上には「ALERT」という文字が付されている。
警報レベル3の場合、警報レベル2における表示画面720に加えて、警報レベル4,5の場合よりも相対的に小さい音量の警報音を音声出力装置10bから出力し、その警報音でオペレータに表示画面への注視を促す。
警報レベル4の場合、警報レベル2における表示画面720に加えて、警報レベル3の場合よりも相対的に大きい音量の警報音を音声出力装置10bから出力し、危険な状態であることをオペレータに強く警告する。
警報レベル5の場合、警報レベル4での表示及び音による警報に加えて、車体動作停止信号を生成する。決定した警報の内容は運転席内に設置された警報出力装置10へ出力し、車体動作停止信号は車体制御装置20へ出力し、それぞれの装置10a,10bによって警報又は車体動作停止制御を行う。例えば、油圧ショベルでは、オペレータの操作レバー26の操作によってパイロット圧を変化させ、ブームシリンダ3a、アームシリンダ3b、バケットシリンダ3c、旋回モータ3d及び左右の走行モータ3e、3fの各アクチュエータを駆動する油の流量を制御している。車体動作停止信号が入力された場合、車体制御装置20は、ロック弁39を閉じてギヤポンプ24から操作レバー26への圧油の供給を停止さえることで、レバー操作を無効化し、車体の停止制御を行う。
上記のように本稿の警報レベルは、レベルが高いほど画像、文字及び音声等の警報要素が加重されていき、オペレータによる障害物の認識が容易になるように設定されている。
以上のように警報レベルに応じた警報を警報出力装置10に出力したら、一連の処理を終了する。
[作用・効果]
上記のように構成された油圧ショベルにおいては、死角算出部500が、機械状態取り込み部400が取得した油圧ショベルの姿勢と動作の情報を考慮して油圧ショベルの運転室1fからのオペレータの死角領域及び視認可能領域を算出する。本実施形態には、油圧ショベルの動作と視覚補助装置の利用の有無に応じて死角領域としてA,B,Cの3パターンを利用している。そして、視認レベル決定部300が、死角算出部500が算出した死角領域内に障害物が存在するか否か、さらに障害物がオペレータの中心視野内に存在するか否かに応じて各障害物に1から3の視認レベルを付与する。そして、警報レベル決定部600が、視認レベル決定部300に付与された視認レベルを考慮して警報レベルを補正する。具体的には視認レベルが1の場合には当初の警報レベル(補正前の警報レベル)に1加算し、視認レベルが2に場合には当初の警報レベルを維持し、視認レベルが3の場合には当初の警報レベルを1減算する。このように警報レベルを決定すると、オペレータが障害物を視認可能かどうかが警報レベルに反映されるので、オペレータに対して適切な警報を出力することができる。
例えば、補正前の警報レベルが3の場合(図14のステップ608を通過する場合)、補正前の警報レベルに従えば、表示装置10aを介した図17の警告表示に加えて音声出力装置10bにより警報が出力されるが、視認レベル決定部300で決定された視認レベルが3の場合(つまり、障害物が視認可能領域内かつ中心視野内に存在し、オペレータが対象の障害物に気づいていると判断される場合(図13のステップ305を通過する場合))には警報レベルが1減って2に補正される。これにより、音声出力装置10bを介した警告音の出力が省略されるので、障害物を視認しているにも係わらず警告音が鳴ってオペレータが煩わしさを感じることを防止できる。つまり過剰な警報が抑制され適正化されるので、過剰な警報へのストレスに起因した作業効率の低下を防止できる。
また、バックモニタ11やサイドミラー15などの視覚補助装置を利用して障害物を視認する場合には肉眼による場合よりも視認性が低下することを考慮して、視認可能領域に障害物が存在していても従前と同じ警報レベルを維持することとした(図13のステップ304を経由して306に至る場合)。これにより間接視界により視認性が低下しても警報がそれをリカバーする方向に作用するので、警報が不十分となることなく適正なレベルを維持できる。
その一方で、障害物がフロント作業装置1Aの後ろ等の死角領域に存在する場合には、視認レベルは1に設定されるため、補正前の警報レベルが1増加するように構成されている。そのため、油圧ショベルの姿勢や動作の観点から視認できない場所に障害物が存在する場合には、警報によりその障害物を気づき易くなる。
<第2実施形態>
次に本発明の第2実施形態について説明する。
[構成]
図18は第2実施形態に係るコントローラ50の機能ブロック図である。第1実施形態との主な相違点は、ハードウェア構成として頭部位置検出装置800及び視線検出装置900を備える点と、バックモニタ11(第1視覚補助装置)とサイドミラー15(図12参照)(第2視覚補助装置)という複数の視覚補助装置を備える点と、コントローラ50内に視覚補助装置注視判定部1000を備える点である。以下では主に第1実施形態と異なる点について説明し、説明しない部分については第1実施形態と同じとする。
頭部位置検出装置800は、運転席1f内に設置されたオペレータ頭部撮影用のステレオカメラであり、このステレオカメラで取得した画像からオペレータ頭部の特徴点を抽出し、視差画像を基に車体座標系における頭部の位置座標と方向を算出する。ここで得られた頭部位置情報はコントローラ50内の死角算出部500及び視覚補助装置注視判定部1000に出力される。
視線検出装置900は、オペレータ頭部に装着されるアイカメラであり、このアイカメラで取得したオペレータの目の周辺の画像を基に画像処理を通じてオペレータの瞳孔中心及び目頭の特徴点を抽出し、両者の相対位置を求める。更に、左右の目それぞれについて、瞳孔中心と目頭の相対位置から眼球の垂直回転角及び水平回転角を算出し、オペレータ頭部座標系における視線ベクトル(視線方向)を求める。得られた視線ベクトルは死角算出部500及び視覚補助装置注視判定部1000へ出力される。
視覚補助装置注視判定部1000は、頭部位置検出装置800から得られた頭部の位置情報を基に、視線検出装置900から得られた頭部座標系におけるオペレータの視線ベクトルを車体座標系における視線ベクトルへと変換する。視覚補助装置注視判定部1000は油圧ショベルに取り付けられたステレオカメラ13a(バックモニタ11)及びサイドミラー15の位置情報を保有しており、視覚補助装置の位置とオペレータの視線ベクトルを比較することで、オペレータが2つの視覚補助装置のいずれかを注視しているか否か、また、注視している場合にはどの視覚補助装置を注視しているかを判別する。判別した結果は、死角算出部500へ出力される。
図19は、頭部位置検出装置800、視線検出装置900及び視覚補助装置注視判定部1000を備える本実施形態の死角算出部500における処理の流れを示したものである。
ステップ501で、死角算出部500は、機械状態取り込み部400から得られた車体の姿勢情報及び車体モデルデータ530を基に、現在の姿勢における車体モデルを生成する。
ステップ504では視覚補助装置注視判定部1000からの入力に基づき、オペレータが視覚補助装置を注視しているかどうかを判定する。ここで視覚補助装置を注視していないと判定された場合にはステップ505に進み、注視していると判定された場合にはステップ506に進む。
ステップ505では、死角算出部500は、視線検出装置900と頭部位置検出装置800からの入力をもとにオペレータの車体座標系上での視線ベクトルを求め、現在の姿勢を反映した車体モデルデータを用いた視界シミュレーションを実施することにより、フロント作業装置1Aによって生じる死角を反映させた死角領域データAを作成する。
ステップ506では、死角算出部500は、バックモニタ11とサイドミラー15のいずれの視覚補助装置をオペレータが注視しているかという情報と、現在注視している視覚補助装置に係る視界補助装置パラメータ550(ステレオカメラ13aの画角、取り付け位置及び取り付け角度、または、サイドミラー15の視界範囲、取り付け位置及び取り付け角度等の情報)を用いて死角領域データBを作成する。
図12は視覚補助装置としてサイドミラー15を利用した場合の死角領域データBの例を示した図である。注視している視覚補助装置が映している領域を視認可能領域511とし、その他の領域を死角領域521として設定する。なお、バックモニタ11を注視している場合の死角領域データBは図11の例に従って視認可能領域511と死角領域521が設定される。
ステップ505またはステップ506で得られた死角領域データは視認レベル決定手段300へ出力される。視認レベル決定部300以降の処理については、第1実施形態に記載の内容と同様の流れで処理を行う。
[作用・効果]
上記のように頭部位置検出装置800と視線検出装置900を備える油圧ショベルでは、オペレータの視線方向を具体的に特定できる。これによりオペレータの視線方向を基にバックモニタ11だけでなくサイドミラー15の注視判定を行うことができるため、サイドミラー15に映し出される領域を反映させた死角領域データBを利用できる。また、パイロット圧センサ41の検出値から油圧ショベルの動作を推測することに依らず、オペレータの視線方向を正確に求めることができるので、操作レバー26に対して操作が無い状態や直進以外の走行操作を行っている場合においても、実際に注視している方向に基づいた視界シミュレーションを実施することが可能である。そのため、第1実施形態のように油圧ショベルの全周囲を死角領域とする死角領域データCを生成する必要はなく、不要な警報や制御をさらに減らすことが可能となる。
<特徴>
上記の2つの実施形態に含まれる特徴についてまとめる。
(1)上記では、作業機械(油圧ショベル)の周囲に存在する障害物を検出する障害物検出部100と、障害物検出部100で検出された障害物と作業機械の位置関係を算出する位置関係算出部200と、位置関係算出部200で算出された位置関係に基づいて警報レベルを決定する警報レベル決定部600と、警報レベル決定部600で決定された警報レベルに応じた警報内容を警報出力装置10に出力する警報出力部700とを有するコントローラ(制御装置)50を備える作業機械の周囲監視装置において、コントローラ50は、作業機械の姿勢及び動作の情報を取得する機械状態取り込み部400と、機械状態取り込み部400が取得した作業機械の姿勢及び動作の情報に基づいて作業機械の運転席1fからの死角領域を算出する死角算出部500と、死角算出部500が算出した死角領域と位置関係算出部200が算出した位置関係に基づいて障害物に対する視認レベルを決定する視認レベル決定部300とをさらに有し、警報レベル決定部600は、視認レベル決定部300で決定された視認レベルに応じて警報レベルを補正することとした。
このような構成によれば、作業機械の姿勢と動作に基づいて視認レベル決定部300で決定された視認レベルに応じて警報レベルが補正されるので、作業機械の死角領域に障害物が存在するか否かに応じて適切な警報を出力できる。
(2)上記(1)の作業機械の周囲監視装置では、死角算出部500は、作業機械の動作に基づいてオペレータの視線を推定し、その視線と作業機械の姿勢に基づいて死角領域を算出することとした。
これにより、簡易な構成でオペレータの視線を推定でき、その推定結果に基づいて適切な死角領域を設定することが可能となった。
(3)上記(1)の作業機械の周囲監視装置では、作業機械のオペレータの頭部位置を検出する頭部位置検出装置800と、オペレータの視線を検出する視線検出装置900とをさらに備え、死角算出部500は、頭部位置検出装置800で検出された頭部位置、視線検出装置900で検出された視線および作業機械の姿勢に基づいて死角領域を算出することとした。
これにより、オペレータの視線を正確に取得でき、その結果に基づいて適切な死角領域を設定することが可能となった。
(4)上記(2)−(3)のいずれかの作業機械の周囲監視装置において、油圧ショベルの周囲の所定の領域を映し出す視覚補助装置(バックモニタ、サイドミラー)11,15をさらに備え、死角算出部500は、オペレータの視線に基づいてオペレータが視覚補助装置11,15を注視していると判定した場合、視覚補助装置11,15に映し出される領域に基づいて死角領域を算出し、オペレータの視線に基づいてオペレータが視覚補助装置11,15を注視していないと判定した場合、オペレータの視野に基づいて死角領域を算出することとした。
これにより肉眼の場合と死角補助装置を利用した場合とで異なる死角領域が設定されるので、適切な視認レベルを設定でき、結果的に適切な警報レベルを設定できる。
(5)上記(2)−(3)のいずれかの作業機械の周囲監視装置において、視認レベル決定部300は、さらに、障害物からオペレータの視線までの距離に基づいて視認レベルを決定することとした。
このように構成すると、視線からの距離に応じて視認レベルを設定できるので、適切な警報レベルを設定できる。
(6)上記(5)の作業機械の周囲監視装置において、視認レベルはレベルが高いほど作業機械のオペレータが障害物を認識している可能性が高いことを示し、前記視認レベルには複数のレベルが設定されており、視認レベル決定部300は、死角領域に障害物が位置する場合には視認レベルを第1レベルに決定し、死角領域に障害物が位置せずかつ視線が障害物から所定距離D1内に無い場合には視認レベルを第1レベルより高い第2レベルに設定し、死角領域に障害物が位置せずかつ視線が障害物から所定距離D1以上離れている場合には視認レベルを第2レベルより高い第3レベルに設定し、警報レベル決定部600は、視認レベルが第1レベルのとき警報レベルを上げ、視認レベルが第2レベルのとき警報レベルを維持し、視認レベルが第3レベルのとき警報レベルを下げることとした。
これにより視認レベルが第3レベルに設定された場合には、障害物を視認しているにも係わらず障害物を視認していない場合と同じ警報が出力されてオペレータが煩わしさを感じることを防止できる。つまり過剰な警報が抑制され適正化されるので、過剰な警報へのストレスに起因した作業効率の低下を防止できる。
<その他>
なお、本発明は、上記の実施の形態に限定されるものではなく、その要旨を逸脱しない範囲内の様々な変形例が含まれる。例えば、本発明は、上記の実施の形態で説明した全ての構成を備えるものに限定されず、その構成の一部を削除したものも含まれる。また、ある実施の形態に係る構成の一部を、他の実施の形態に係る構成に追加又は置換することが可能である。
第1実施形態の視認レベル決定部300は、ステップ303で障害物が中心視野に在るか否かを判定していたが、このステップ303の処理は省略可能である。ステップ303を省略した場合、ステップ302で障害物が死角に位置していない場合に進むステップは、作業現場の実情やオペレータの嗜好に合わせてステップ305(視認レベル3)とステップ306(視認レベル2)のどちらかを選択可能に構成することができる。
第2実施形態では、後方のステレオカメラ13aの映像が映し出されるバックモニタ11に加えて、運転室1fの前方左側に取り付けたサイドミラー15を視覚補助装置の1つとして利用する例を説明したが、他の場所に設けた鏡またはそれに類する機器・装置を視覚補助装置として利用することも可能である。
上記の各実施形態において、同時に複数の障害物が検出された場合には、その中で最も高い警報レベルに基づいて警報出力装置10から警報を出力するようにすることができる。
障害物検出と検出した障害物までの距離検出にステレオカメラ13を利用したが、レーザーセンサや超音波センサ等のステレオカメラと同等の機能を有するセンサに代替可能である。また、障害物検出に単眼カメラを使い、障害物までの距離検出にレーザーセンサや超音波センサを使用する等、複数種類のセンサを組合せて使用することも可能である。
上記では油圧ショベルを例に挙げて説明したが、運転室からのオペレータの視界を遮る可能性のある作業装置を備える作業機械(例えば、ホイールローダ、クレーン)であれば本発明は適用可能である。
また、上記のコントローラ(制御装置)50に係る各構成や当該各構成の機能及び実行処理等は、それらの一部又は全部をハードウェア(例えば各機能を実行するロジックを集積回路で設計する等)で実現しても良い。また、上記のコントローラ50に係る構成は、演算処理装置(例えばCPU)によって読み出し・実行されることで当該コントローラ50の構成に係る各機能が実現されるプログラム(ソフトウェア)としてもよい。当該プログラムに係る情報は、例えば、半導体メモリ(フラッシュメモリ、SSD等)、磁気記憶装置(ハードディスクドライブ等)及び記録媒体(磁気ディスク、光ディスク等)等に記憶することができる。
また、上記の各実施の形態の説明では、制御線や情報線は、当該実施の形態の説明に必要であると解されるものを示したが、必ずしも製品に係る全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えて良い。
1A…フロント作業装置、1B…車体、1a…ブーム、1b…アーム、1c…バケット、1d…旋回体、1e…走行体、1f…運転室、3a,3b,3c…油圧アクチュエータ(油圧シリンダ)、3e,3f…走行モータ、8a,8b,8c…角度検出器、8e…傾斜角センサ、41…パイロット圧センサ、13a,13b,13c,13d…ステレオカメラ(障害物検出器)、10…警報出力装置、11…バックモニタ(視覚補助装置)、15…サイドミラー(視覚補助装置)、20…車体制御部、100…障害物検出部、200…位置関係算出部、300…視認レベル決定部、400…機械状態取り込み部、500…死角算出部、600…警報レベル決定部、700…警報出力部、710…表示画面例(警報レベル1)、720…表示画面例(警報レベル2〜5)、800…頭部位置検出装置、900…視線検出装置、1000…視覚補助装置注視判定部

Claims (6)

  1. 作業機械の周囲に存在する障害物を検出する障害物検出部と、
    前記障害物検出部で検出された前記障害物と前記作業機械の位置関係を算出する位置関係算出部と、
    前記位置関係算出部で算出された前記位置関係に基づいて警報レベルを決定する警報レベル決定部と、
    前記警報レベル決定部で決定された前記警報レベルに応じた警報内容を出力装置に出力する警報出力部とを有する制御装置を備える作業機械の周囲監視装置において、
    前記制御装置は、
    前記作業機械の姿勢及び動作の情報を取得する機械状態取り込み部と、
    前記機械状態取り込み部が取得した前記作業機械の姿勢及び動作の情報に基づいて前記作業機械の運転席からの死角領域を算出する死角算出部と、
    前記死角算出部が算出した前記死角領域と前記位置関係算出部が算出した前記位置関係に基づいて前記障害物に対する視認レベルを決定する視認レベル決定部とをさらに有し、
    前記警報レベル決定部は、前記視認レベル決定部で決定された前記視認レベルに応じて前記警報レベルを補正する
    ことを特徴とする作業機械の周囲監視装置。
  2. 請求項1の作業機械の周囲監視装置において、
    前記死角算出部は、前記作業機械の動作に基づいてオペレータの視線を推定し、その視線と前記作業機械の姿勢に基づいて前記死角領域を算出する
    ことを特徴とする作業機械の周囲監視装置。
  3. 請求項1の作業機械の周囲監視装置において、
    前記作業機械のオペレータの頭部位置を検出する頭部位置検出装置と、
    前記オペレータの視線を検出する視線検出装置とをさらに備え、
    前記死角算出部は、前記頭部位置検出装置で検出された前記頭部位置、前記視線検出装置で検出された前記視線および前記作業機械の姿勢に基づいて前記死角領域を算出する
    ことを特徴とする作業機械の周囲監視装置。
  4. 請求項2の作業機械の周囲監視装置において、
    前記作業機械の周囲の所定の領域を映す視覚補助装置をさらに備え、
    前記死角算出部は、
    前記オペレータの視線に基づいてオペレータが前記視覚補助装置を注視していると判定した場合、前記視覚補助装置に映し出される領域に基づいて前記死角領域を算出し、
    前記オペレータの視線に基づいてオペレータが前記視覚補助装置を注視していないと判定した場合、前記オペレータの視野に基づいて前記死角領域を算出する
    ことを特徴とする作業機械の周囲監視装置。
  5. 請求項2の作業機械の周囲監視装置において、
    前記視認レベル決定部は、さらに、前記障害物から前記視線までの距離に基づいて前記視認レベルを決定する
    ことを特徴とする作業機械の周囲監視装置。
  6. 請求項5の作業機械の周囲監視装置において、
    前記視認レベルはレベルが高いほど前記作業機械のオペレータが障害物を認識している可能性が高いことを示し、前記視認レベルには複数のレベルが設定されており、
    前記視認レベル決定部は、前記死角領域に前記障害物が位置する場合には前記視認レベルを第1レベルに決定し、前記死角領域に前記障害物が位置せずかつ前記視線が前記障害物から所定距離内に無い場合には前記視認レベルを前記第1レベルより高い第2レベルに設定し、前記死角領域に前記障害物が位置せずかつ前記視線が前記障害物から所定距離以上離れている場合には前記視認レベルを前記第2レベルより高い第3レベルに設定し、
    前記警報レベル決定部は、前記視認レベルが第1レベルのとき前記警報レベルを上げ、前記視認レベルが前記第2レベルのとき前記警報レベルを維持し、前記視認レベルが前記第3レベルのとき前記警報レベルを下げる
    ことを特徴とする作業機械の周囲監視装置。
JP2017069559A 2017-03-31 2017-03-31 作業機械の周囲監視装置 Active JP6581139B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2017069559A JP6581139B2 (ja) 2017-03-31 2017-03-31 作業機械の周囲監視装置
EP17903069.7A EP3495570B1 (en) 2017-03-31 2017-11-02 Device to monitor area around a working machine
US16/331,309 US10570587B2 (en) 2017-03-31 2017-11-02 Periphery monitoring device of work machine
PCT/JP2017/039789 WO2018179560A1 (ja) 2017-03-31 2017-11-02 作業機械の周囲監視装置
KR1020197006495A KR102104380B1 (ko) 2017-03-31 2017-11-02 작업 기계의 주위 감시 장치
CN201780055620.7A CN109689983B (zh) 2017-03-31 2017-11-02 工程机械的周围监视装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017069559A JP6581139B2 (ja) 2017-03-31 2017-03-31 作業機械の周囲監視装置

Publications (3)

Publication Number Publication Date
JP2018172857A true JP2018172857A (ja) 2018-11-08
JP2018172857A5 JP2018172857A5 (ja) 2019-02-07
JP6581139B2 JP6581139B2 (ja) 2019-09-25

Family

ID=63674789

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017069559A Active JP6581139B2 (ja) 2017-03-31 2017-03-31 作業機械の周囲監視装置

Country Status (6)

Country Link
US (1) US10570587B2 (ja)
EP (1) EP3495570B1 (ja)
JP (1) JP6581139B2 (ja)
KR (1) KR102104380B1 (ja)
CN (1) CN109689983B (ja)
WO (1) WO2018179560A1 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110843667A (zh) * 2019-11-21 2020-02-28 三一重机有限公司 智能警示方法、智能警示系统及工程车辆
WO2020170527A1 (ja) * 2019-02-20 2020-08-27 コベルコ建機株式会社 作業機械用周辺監視装置
JP2020132358A (ja) * 2019-02-19 2020-08-31 株式会社タダノ 安全装置
JP2020139312A (ja) * 2019-02-28 2020-09-03 コベルコ建機株式会社 作業者検出装置、作業者検出方法、および、作業者検出プログラム
JPWO2020218452A1 (ja) * 2019-04-26 2020-10-29
JP2020193503A (ja) * 2019-05-29 2020-12-03 ナブテスコ株式会社 作業機械の操縦支援システム、作業機械の操縦支援方法、操縦支援システムの保守支援方法、建設機械
KR20210034064A (ko) * 2019-03-13 2021-03-29 히다찌 겐끼 가부시키가이샤 작업 기계
CN113396257A (zh) * 2019-02-19 2021-09-14 神钢建机株式会社 工程机械的目标位置推定装置
JPWO2021192655A1 (ja) * 2020-03-27 2021-09-30
KR20210120085A (ko) * 2019-03-14 2021-10-06 히다치 겡키 가부시키 가이샤 건설 기계

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6840645B2 (ja) * 2017-09-08 2021-03-10 株式会社小松製作所 施工管理装置および施工管理方法
JP6900897B2 (ja) * 2017-12-25 2021-07-07 コベルコ建機株式会社 建設機械の障害物検出装置
JP7232437B2 (ja) * 2018-02-19 2023-03-03 国立大学法人 東京大学 作業車両の表示システム及び生成方法
JP7123573B2 (ja) * 2018-02-28 2022-08-23 株式会社小松製作所 周辺監視装置、作業機械、周辺監視の制御方法及び表示装置
JP6734485B2 (ja) * 2018-03-14 2020-08-05 日立建機株式会社 作業機械
CN109095356B (zh) * 2018-11-07 2024-03-01 江苏徐工国重实验室科技有限公司 工程机械及其作业空间动态防碰撞方法、装置和系统
GB2580147B (en) * 2018-12-21 2021-12-08 Mtd Products Inc Outdoor power equipment machine with presence detection
JP7318258B2 (ja) * 2019-03-26 2023-08-01 コベルコ建機株式会社 遠隔操作システムおよび遠隔操作サーバ
CN113727883A (zh) * 2019-04-26 2021-11-30 住友建机株式会社 显示装置、挖土机、信息处理装置
JP7153627B2 (ja) 2019-10-31 2022-10-14 日立建機株式会社 作業機械および周囲監視システム
JP7400425B2 (ja) * 2019-12-10 2023-12-19 コベルコ建機株式会社 作業機械の遠隔操作支援システム
JP7290119B2 (ja) * 2020-01-24 2023-06-13 トヨタ自動車株式会社 車両報知装置
JP2021174054A (ja) * 2020-04-20 2021-11-01 株式会社小松製作所 作業機械の障害物報知システムおよび作業機械の障害物報知方法
CN116250027A (zh) * 2020-09-29 2023-06-09 索尼半导体解决方案公司 信息处理系统和信息处理方法
JP2022144601A (ja) 2021-03-19 2022-10-03 コベルコ建機株式会社 遠隔操作支援サーバおよび遠隔操作支援システム
CN113277431B (zh) * 2021-06-27 2022-09-16 赣州德业电子科技有限公司 一种塔机防碰撞监测系统

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000344465A (ja) * 1999-05-31 2000-12-12 Kobelco Contstruction Machinery Ltd ホイール式作業機械並びにその走行操作方法
JP2008026159A (ja) * 2006-07-21 2008-02-07 Aisin Aw Co Ltd 周辺監視システム
JP2010173619A (ja) * 2009-02-02 2010-08-12 Denso Corp ヘッドアップディスプレイ装置
JP2014064144A (ja) * 2012-09-20 2014-04-10 Komatsu Ltd 作業車両用周辺監視システム及び作業車両
US9409519B2 (en) * 2014-08-27 2016-08-09 Toyota Jidosha Kabushiki Kaisha Generating spatial information for a heads-up display
JP2016211149A (ja) * 2015-04-29 2016-12-15 日立建機株式会社 建設機械

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6744372B1 (en) * 1997-02-27 2004-06-01 Jack B. Shaw Crane safety devices and methods
US6549139B2 (en) * 1997-02-27 2003-04-15 Jack B. Shaw, Jr. Crane safety device and methods
JP4190661B2 (ja) 1999-06-07 2008-12-03 本田技研工業株式会社 自動二輪車の車体カバー構造
US6985085B1 (en) * 2003-04-24 2006-01-10 Eric Brown Safety view blind finder for a crane
JP2006027481A (ja) 2004-07-16 2006-02-02 Toyota Motor Corp 物体警告装置及び物体警告方法
JP2006195877A (ja) * 2005-01-17 2006-07-27 Hitachi Constr Mach Co Ltd 作業機械
JP5227841B2 (ja) 2009-02-27 2013-07-03 日立建機株式会社 周囲監視装置
US9269255B2 (en) * 2010-02-01 2016-02-23 Trimble Navigation Limited Worksite proximity warning
CN102947515B (zh) * 2010-06-18 2015-07-29 日立建机株式会社 作业机械的周围监视装置
CN103180522B (zh) * 2010-10-22 2016-01-13 日立建机株式会社 作业机械的周边监视装置
JP2012172350A (ja) * 2011-02-20 2012-09-10 Kajima Corp 魚眼レンズ利用の作業機械周囲監視方法及びシステム
WO2013112016A1 (ko) * 2012-01-27 2013-08-01 두산인프라코어 주식회사 건설기계의 조작안정성 향상장치
JP5667594B2 (ja) * 2012-03-15 2015-02-12 株式会社小松製作所 障害物検出機構付きダンプトラックおよびその障害物検出方法
KR102003998B1 (ko) * 2012-12-24 2019-07-25 두산인프라코어 주식회사 건설장비의 장애물 감지 장치 및 그 방법
KR102123127B1 (ko) * 2013-12-06 2020-06-15 두산인프라코어 주식회사 화면모드 선택 장치 및 방법
US10208459B2 (en) * 2014-12-12 2019-02-19 Hitachi, Ltd. Volume estimation device and work machine using same

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000344465A (ja) * 1999-05-31 2000-12-12 Kobelco Contstruction Machinery Ltd ホイール式作業機械並びにその走行操作方法
JP2008026159A (ja) * 2006-07-21 2008-02-07 Aisin Aw Co Ltd 周辺監視システム
JP2010173619A (ja) * 2009-02-02 2010-08-12 Denso Corp ヘッドアップディスプレイ装置
JP2014064144A (ja) * 2012-09-20 2014-04-10 Komatsu Ltd 作業車両用周辺監視システム及び作業車両
US9409519B2 (en) * 2014-08-27 2016-08-09 Toyota Jidosha Kabushiki Kaisha Generating spatial information for a heads-up display
JP2016211149A (ja) * 2015-04-29 2016-12-15 日立建機株式会社 建設機械

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7284450B2 (ja) 2019-02-19 2023-05-31 株式会社タダノ 安全装置
CN113396257B (zh) * 2019-02-19 2022-07-08 神钢建机株式会社 工程机械的目标位置推定装置
JP2020132358A (ja) * 2019-02-19 2020-08-31 株式会社タダノ 安全装置
CN113396257A (zh) * 2019-02-19 2021-09-14 神钢建机株式会社 工程机械的目标位置推定装置
JP2020136914A (ja) * 2019-02-20 2020-08-31 コベルコ建機株式会社 作業機械用周辺監視装置
WO2020170527A1 (ja) * 2019-02-20 2020-08-27 コベルコ建機株式会社 作業機械用周辺監視装置
JP2020139312A (ja) * 2019-02-28 2020-09-03 コベルコ建機株式会社 作業者検出装置、作業者検出方法、および、作業者検出プログラム
JP7159914B2 (ja) 2019-02-28 2022-10-25 コベルコ建機株式会社 作業者検出装置、作業者検出方法、および、作業者検出プログラム
KR20210034064A (ko) * 2019-03-13 2021-03-29 히다찌 겐끼 가부시키가이샤 작업 기계
US11447934B2 (en) 2019-03-13 2022-09-20 Hitachi Construction Machinery Co., Ltd. Work machine
KR102505529B1 (ko) * 2019-03-13 2023-03-03 히다찌 겐끼 가부시키가이샤 작업 기계
US12054913B2 (en) 2019-03-14 2024-08-06 Hitachi Construction Machinery Co., Ltd. Construction machine
KR102579791B1 (ko) * 2019-03-14 2023-09-19 히다치 겡키 가부시키 가이샤 건설 기계
KR20210120085A (ko) * 2019-03-14 2021-10-06 히다치 겡키 가부시키 가이샤 건설 기계
JPWO2020218452A1 (ja) * 2019-04-26 2020-10-29
WO2020218452A1 (ja) * 2019-04-26 2020-10-29 住友建機株式会社 ショベル、作業現場の安全装備確認システム
JP7463354B2 (ja) 2019-04-26 2024-04-08 住友建機株式会社 ショベル
JP2020193503A (ja) * 2019-05-29 2020-12-03 ナブテスコ株式会社 作業機械の操縦支援システム、作業機械の操縦支援方法、操縦支援システムの保守支援方法、建設機械
CN110843667A (zh) * 2019-11-21 2020-02-28 三一重机有限公司 智能警示方法、智能警示系统及工程车辆
WO2021192655A1 (ja) * 2020-03-27 2021-09-30 日立建機株式会社 作業機械
JPWO2021192655A1 (ja) * 2020-03-27 2021-09-30
JP7329134B2 (ja) 2020-03-27 2023-08-17 日立建機株式会社 作業機械

Also Published As

Publication number Publication date
US20190352885A1 (en) 2019-11-21
EP3495570A1 (en) 2019-06-12
KR102104380B1 (ko) 2020-04-24
JP6581139B2 (ja) 2019-09-25
WO2018179560A1 (ja) 2018-10-04
KR20190034649A (ko) 2019-04-02
EP3495570B1 (en) 2021-07-07
US10570587B2 (en) 2020-02-25
EP3495570A4 (en) 2020-03-25
CN109689983B (zh) 2021-05-28
CN109689983A (zh) 2019-04-26

Similar Documents

Publication Publication Date Title
JP6581139B2 (ja) 作業機械の周囲監視装置
US11149406B2 (en) Working machine
CA2980693C (en) Working machine
JP2018172857A5 (ja)
JP6590691B2 (ja) 作業車両および表示制御方法
JP2023053407A (ja) 作業機械および作業機械の制御システム
JPWO2012157438A1 (ja) 油圧ショベルの後方視野表示装置
US10942351B2 (en) Work vehicle and display control method
US20200318321A1 (en) Shovel and output device of shovel
JP7009063B2 (ja) 作業機械用周辺監視システム
US10662624B2 (en) Work vehicle and method for controlling work vehicle
WO2017110380A1 (ja) 作業車両および作業車両の制御方法
JP6980391B2 (ja) 作業機械用周辺監視システム
JP6559529B2 (ja) 建設機械
KR20230017724A (ko) 건설기계의 제어 시스템 및 방법
US12000115B2 (en) Hydraulic excavator
JP7479156B2 (ja) 作業機械、情報処理装置
JP7528892B2 (ja) 作業支援システムおよび作業支援複合システム
JP7428588B2 (ja) 建設車両用映像表示システム
CN115695717A (zh) 工程机械的控制系统及方法
WO2020145125A1 (ja) 建設機械の操作制御装置
JP2022081258A (ja) 建設機械
JP2023041559A (ja) 作業機械

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181220

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190820

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190829

R150 Certificate of patent or registration of utility model

Ref document number: 6581139

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150