JPWO2019111859A1 - 周辺監視装置 - Google Patents

周辺監視装置 Download PDF

Info

Publication number
JPWO2019111859A1
JPWO2019111859A1 JP2019558202A JP2019558202A JPWO2019111859A1 JP WO2019111859 A1 JPWO2019111859 A1 JP WO2019111859A1 JP 2019558202 A JP2019558202 A JP 2019558202A JP 2019558202 A JP2019558202 A JP 2019558202A JP WO2019111859 A1 JPWO2019111859 A1 JP WO2019111859A1
Authority
JP
Japan
Prior art keywords
alarm
excavator
work machine
unit
release
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019558202A
Other languages
English (en)
Other versions
JP7252137B2 (ja
Inventor
芳永 清田
芳永 清田
俊介 大槻
俊介 大槻
晋 相澤
晋 相澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Heavy Industries Ltd
Original Assignee
Sumitomo Heavy Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Heavy Industries Ltd filed Critical Sumitomo Heavy Industries Ltd
Publication of JPWO2019111859A1 publication Critical patent/JPWO2019111859A1/ja
Priority to JP2023047187A priority Critical patent/JP2023083299A/ja
Application granted granted Critical
Publication of JP7252137B2 publication Critical patent/JP7252137B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/24Safety devices, e.g. for preventing overload
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/02Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/2025Particular purposes of control systems not otherwise provided for
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/2025Particular purposes of control systems not otherwise provided for
    • E02F9/2033Limiting the movement of frames or implements, e.g. to avoid collision between implements and the cabin
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/2025Particular purposes of control systems not otherwise provided for
    • E02F9/205Remotely operated machines, e.g. unmanned vehicles
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/264Sensors and their calibration for indicating the position of the work tool
    • E02F9/265Sensors and their calibration for indicating the position of the work tool with follow-up actions (e.g. control signals sent to actuate the work tool)
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60TVEHICLE BRAKE CONTROL SYSTEMS OR PARTS THEREOF; BRAKE CONTROL SYSTEMS OR PARTS THEREOF, IN GENERAL; ARRANGEMENT OF BRAKING ELEMENTS ON VEHICLES IN GENERAL; PORTABLE DEVICES FOR PREVENTING UNWANTED MOVEMENT OF VEHICLES; VEHICLE MODIFICATIONS TO FACILITATE COOLING OF BRAKES
    • B60T2210/00Detection or estimation of road or environment conditions; Detection or estimation of road shapes
    • B60T2210/30Environment conditions or position therewithin
    • B60T2210/32Vehicle surroundings
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • E02F9/262Surveying the work-site to be treated with follow-up actions to control the work tool, e.g. controller

Abstract

作業機械の周辺に存在する監視対象の検知に基づく警報の出力や動作の制限等を行う場合に、作業性の低下を抑制することが可能な周辺監視装置を提供する。そのため、本発明の一実施形態の周辺監視装置は、ショベル500の周辺の所定の監視対象を検知する検知部301と、検知部301により、ショベル500の高さ方向で所定の第1範囲内に存在する前記監視対象が検知された場合に、警報を出力する、又は、ショベル500の動作制限を行う制御部(警報出力部303、動作制限部304)と、を備える。

Description

本発明は、ショベル等の作業機械に搭載される周辺監視装置等に関する。
ショベル等の作業機械の周辺の所定の監視対象(例えば、人)が検知されると、警報を出力したり、作業機械の動作を制限したり等し、作業機械の周辺の安全性を確保する周辺監視装置が知られている(例えば、特許文献1参照)。
特開2014−181508号公報
しかしながら、特許文献1等では、作業機械の周辺の監視対象領域内で検知される監視対象の全てが、警報の出力や動作の制限の対象となる可能性がある。そのため、実際上、作業機械と検知された監視対象とが接触等する可能性は極めて低い(例えば、ショベルの作業面と、監視対象が存在する平面との間に大きな段差がある)状況にも関わらず、作業機械における警報の出力や動作制限が実行される可能性がある。つまり、不要な警報の出力やショベルの動作制限が行われることで、作業機械の作業性を低下させる可能性がある。
そこで、上記課題に鑑み、作業機械の周辺に存在する監視対象の検知に基づく警報の出力や動作の制限等を行う場合に、作業性の低下を抑制することが可能な周辺監視装置等を提供することを目的とする。
上記目的を達成するため、本発明の一実施形態では、
作業機械の周辺の所定の監視対象を検知する検知部と、
前記検知部により、前記作業機械の高さ方向で所定の第1範囲内に存在する前記監視対象が検知された場合に、警報を出力する、又は、前記作業機械の動作制限を行う制御部と、を備える、
周辺監視装置が提供される。
また、本発明の他の実施形態では、
作業機械の外部に設けられ、前記作業機械又は前記作業機械と通信可能な情報処理装置と通信可能な情報処理端末であって、
前記作業機械に対して、前記作業機械で出力される警報又は前記作業機械で行われる動作制限の解除に関する通知を行う解除許可通知部を備える、
情報処理端末が提供される。
また、本発明の更に他の実施形態では、
作業機械の外部に設けられ、前記作業機械と通信可能な情報処理装置であって、
前記作業機械に対して、前記作業機械で出力される警報又は前記作業機械で行われる動作制限の解除に関する通知を行う解除許可通知部を備える、
情報処理装置が提供される。
また、本発明の更に他の実施形態では、
作業機械の外部に設けられ、前記作業機械、若しくは、前記作業機械と通信可能な情報処理装置と、通信可能な情報処理端末、又は、前記作業機械の外部に設けられ、前記作業機械と通信可能な情報処理装置に、
前記作業機械に対して、前記作業機械で出力される警報又は前記作業機械で行われる動作制限の解除の許可に関する情報を送信する解除許可通知ステップと、を実行させる、
情報処理プログラムが提供される。
上述の実施形態によれば、作業機械の周辺に存在する監視対象の検知に基づく警報の出力や動作の制限等を行う場合に、作業性の低下を抑制することが可能な周辺監視装置等を提供することができる。
周辺監視システムの構成の一例を示す概略図である。 作業機械の一例を示す図である。 周辺監視システムの詳細構成の一例を示すブロック図である。 監視エリアの一例を示す図である。 表示装置に表示される監視用画像の一例を示す図である。 周辺監視装置の動作の一例を模式的に説明する図である。 周辺監視装置の動作の一例を模式的に説明する図である。 周辺監視装置の動作の一例を模式的に説明する図である。 周辺監視装置の動作の一例を模式的に説明する図である。 周辺監視装置による監視処理の一例を概略的に示すフローチャートである。 外部装置による解除許可処理の一例を概略的に示すフローチャートである。 周辺監視装置による解除処理の一例を概略的に示すフローチャートである。 作業機械の他の例を示す図である。 周辺監視装置の構成の他の例を示す図である。 周辺監視装置による警報及び動作制限の対象から除外される監視対象の具体例を示す図である。 周辺監視装置による警報及び動作制限の対象から除外される監視対象の具体例を示す図である。 周辺監視装置による警報及び動作制限の対象から除外される監視対象の具体例を示す図である。 周辺監視装置による警報及び動作制限の対象から除外される監視対象の具体例を示す図である。 作業機械の更に他の例を示す図である。 作業機械の更に他の例を示す図である。 表示装置に表示される監視用画像の一例を示す図である。 警報及び動作制限の対象である監視対象が検知された場合の表示装置の表示内容の具体例を示す図である。 警報及び動作制限の対象である監視対象が検知された場合の表示装置の表示内容の具体例を示す図である。 警報及び動作制限の対象である監視対象が検知された場合の表示装置の表示内容の具体例を示す図である。 警報及び動作制限の対象である監視対象が検知された場合の表示装置の表示内容の具体例を示す図である。 周辺監視装置による監視処理の一例を概略的に示すフローチャートである。 周辺監視装置による監視処理の他の例を概略的に示すフローチャートである。
以下、図面を参照して発明を実施するための形態について説明する。
<周辺監視システムの一例>
最初に、図1〜図9を参照して、本実施形態に係る周辺監視システム1000の一例について説明をする。
[周辺監視システムの概要]
まず、本実施形態に係る周辺監視システム1000の概要について説明する。
図1は、周辺監視システム1000の構成の一例を示す概略図である。
周辺監視システム1000は、ショベル500と、管理端末700と、解除装置750と、管理端末800と、管理サーバ900を含む。
ショベル500は、作業機械の一例である。
ショベル500は、後述の如く、その周辺の所定範囲内(後述する監視エリア内)で所定の監視対象を検知すると、警報を出力する、或いは、動作制限を行う。
また、ショベル500は、警報が出力されている、或いは、動作制限が行われている場合に、所定の条件、例えば、オペレータによる所定操作(後述する解除スイッチ60に対する操作)や管理端末700等からの後述する解除許可通知の受信等に応じて、警報或いは動作制限(以下、包括的に「警報等」と称する)を解除する。
ショベル500は、所定の通信方法、例えば、ブルートゥース(Bluetooth)(登録商標)の通信規格に基づく通信(以下、「BT通信」と称する)や約300Hz〜3THzのRF(Radio Frequency)帯の電波(以下、RF電波と称する)による通信(以下「RF通信」と称する)等により、管理端末700等と通信可能に接続される。これにより、ショベル500は、管理端末700等から各種情報(例えば、解除許可通知等)を受信できる。また、ショベル500は、管理端末700等に各種情報(例えば、後述する警報出力通知、動作制限通知、解除依頼通知等)を送信できる。
また、ショベル500は、例えば、基地局を末端とする移動体通信網やインターネット網等の所定の通信ネットワークNWを通じて、管理サーバ900と通信可能に接続される。これにより、ショベル500は、管理サーバ900から各種情報(例えば、解除許可通知等)を受信することができる。また、ショベル500は、管理サーバ900に各種情報(例えば、警報出力通知、動作制限通知、解除依頼通知等)を送信できる。
管理端末700(情報処理端末の一例)は、ショベル500の周辺の作業者Wが所持する携帯端末であり、例えば、作業者Wにより入力される作業現場における各種情報や内蔵されるカメラ機能による作業現場の撮像画像等を管理サーバ900に適宜アップロードする。
管理端末700は、例えば、作業者Wが所持する携帯電話、スマートフォン、タブレット端末等の汎用の携帯端末であってよい。また、管理端末700は、ショベル500における警報等の解除を許可する機能に特化する専用端末(例えば、ショベル500に解除許可通知を送信するためのリモコンスイッチ等)であってもよいし、当該機能が備えられたショベル500等の作業機械を制御する専用端末(即ち、遠隔操作端末)であってもよい。
管理端末700は、例えば、BT通信やRF通信等の所定の通信方法により、ショベル500と通信可能に接続される。これにより、管理端末700は、ショベル500で警報が出力されている、或いは、動作制限が行われている場合に、警報等の解除を許可する解除許可通知をショベル500に送信できる。
また、管理端末700は、警報或いは動作制限の解除の許否を判定するための各種情報(例えば、後述するショベル500の周辺の状況に関する周辺状況情報)をショベル500から取得(受信)することができる。また、管理端末700は、押しボタンやキーボード等のハードウェアによる操作部やタッチパネルディスプレイ等に表示されるボタンアイコン等のソフトウェアによる操作部に対する所定操作を受け付けることができる。そのため、管理端末700は、取得した各種情報やショベル500の周辺状況を確認した作業者Wによる所定操作等に基づき、警報等の解除の許否を判定し、判定結果に応じて、解除許可通知をショベル500に送信できる。
尚、管理端末700は、ショベル500以外からショベル500の周辺の状況に関する周辺状況情報を取得してもよい。例えば、管理端末700は、ショベル500の作業現場の上空を飛行する監視用のドローンに搭載されるカメラによって撮像されたショベル500の周辺の撮像画像を含む周辺状況情報を当該ドローンから取得してよい。以下、解除装置750、管理端末800、管理サーバ900についても同様である。
また、管理端末700は、通信ネットワークNWを通じて、管理サーバ900と双方向で通信可能に接続されてもよい。この場合、管理端末700は、ショベル500から管理サーバ900にアップロードされた各種情報(例えば、周辺状況情報等)を通信ネットワークNW経由で取得してもよい。また、管理端末700は、管理サーバ900を経由して、ショベル500に各種情報(例えば、解除許可通知等)を送信してもよい。
尚、作業者Wには、ショベル500の周辺で実際に作業を行う作業者の他、ショベル500による作業を含む作業現場の一部又は全部を監督する監督者等が含まれうる。
解除装置750(情報処理装置の一例)は、例えば、ショベル500の周辺における十分に離れた場所(後述するショベル500の監視エリアの外部)に適宜配置される。
解除装置750は、管理端末700と同様、BT通信やRF通信等の所定の通信方法により、ショベル500と通信可能に接続される。これにより、解除装置750は、管理端末700と同様、ショベル500で警報が出力されている、或いは、動作制限が行われている場合に、解除許可通知をショベル500に送信できる。
また、解除装置750は、管理端末700と同様、警報或いは動作制限の解除の許否を判定するための各種情報(例えば、周辺状況情報等)をショベル500から取得することができる。また、解除装置750は、管理端末700と同様、ハードウェア或いはソフトウェアによる操作部に対する所定操作を受け付けることができる。そのため、解除装置750は、管理端末700と同様、取得した各種情報やショベル500の周辺状況を確認した作業者Wによる所定操作等に基づき、警報等の解除の許否を判定し、判定結果に応じて、解除許可通知をショベル500に送信できる。特に、解除装置750は、上述の如く、ショベル500の監視エリアの外部に設置される。そのため、解除装置750は、作業者Wが監視エリアに侵入してしまった場合に、監視エリアの外部に退避した当該作業者Wによる所定操作に基づき、監視エリア内の安全状況が確認された、つまり、警報等の解除を許可してよいと判定できる。
尚、解除装置750は、作業者Wによる操作に基づく警報等の解除の許否判定だけを行ってもよい。つまり、解除装置750は、周辺状況情報等の取得した情報に基づく警報等の解除の許否判定を行わない態様であってもよい。また、解除装置750は、監視対象及びショベル500を検知するセンサ、例えば、ミリ波レーダ、LIDAR(Light Detection And Ranging)、ステレオカメラ等を搭載してもよい。この場合、解除装置750は、センサの検知結果に基づき認識されうるショベル500と監視対象との相対位置関係に基づき、ショベル500の周辺の安全状況を確認した上で、後述する解除許可通知をショベル500に送信することができる。つまり、解除装置750は、センサの検知結果に基づき、監視エリア内に監視対象(人)がいないと判定した場合に、ショベル500に向けて解除許可通知を出力してよい。
管理端末800(情報処理端末の一例)は、例えば、作業現場に仮設される管理事務所等に設けられ、管理事務所で作業現場全体を管理する管理者Mや管理事務所で待機する作業者W等により利用される。管理端末800は、例えば、管理者Mや作業者Wにより入力される作業現場における各種情報や内蔵されるカメラ機能による作業現場の撮像画像等を管理サーバ900にアップロードする。
管理端末800(情報処理装置の一例)は、例えば、デスクトップ型或いはラップトップ型の汎用コンピュータであってよい。また、管理端末800は、警報等の解除を許可する機能を含む作業現場の管理に関する機能に特化する、デスクトップ型或いはラップトップ型の専用コンピュータであってもよい。また、管理端末800は、管理端末700と同様、作業者Wや管理者Mが携帯可能な携帯端末であってもよい。つまり、管理端末800は、管理端末700と兼用され、管理事務所から持ち出される態様であってもよい。
管理端末800は、管理端末700等と同様、BT通信やRF通信等の所定の通信方法により、ショベル500と通信可能に接続される。これにより、管理端末800は、管理端末700と同様、ショベル500で警報が出力されている、或いは、動作制限が行われている場合に、解除許可通知をショベル500に送信できる。
また、管理端末800は、管理端末700等と同様、警報或いは動作制限の解除の許否を判定するための各種情報(例えば、周辺状況情報等)をショベル500から取得することができる。また、管理端末800は、管理端末700と同様、ハードウェア或いはソフトウェアによる操作部に対する所定操作を受け付けることができる。そのため、管理端末800は、管理端末700と同様、取得した各種情報やショベル500の周辺状況を確認した管理者Mや作業者Wによる操作等に基づき、警報等の解除を許可するか否かを判定し、判定結果に応じて、解除許可通知をショベル500に送信できる。
また、管理端末800は、管理端末700と同様、通信ネットワークNWを通じて、管理サーバ900と双方向で通信可能に接続されてもよい。この場合、管理端末800は、ショベル500から管理サーバ900にアップロードされた各種情報(例えば、警報出力通知、動作制限通知、解除依頼通知等)を通信ネットワークNW経由で取得してもよい。また、管理端末800は、管理サーバ900を経由して、ショベル500に各種情報(例えば、解除許可通知等)を送信してもよい。
管理サーバ900は、ショベル500の作業現場の外部に設けられる。管理サーバ900は、例えば、管理端末700,800等から作業現場に関する各種情報(例えば、日報、作業現場の撮像画像等)を収集し、作業現場及びショベル500の管理を行う。管理サーバ900は、周辺監視システム1000の全体的な運用管理を行う事業者が所有するサーバ(いわゆる自社サーバ)であってよいし、当該事業者以外の事業者が所有し、運用管理を行うサーバ(いわゆるクラウドサーバ)であってもよい。
管理サーバ900は、通信ネットワークNWを通じて、ショベル500と通信可能に接続される。これにより、管理サーバ900は、ショベル500で警報が出力されている、或いは、動作制限が行われている場合に、解除許可通知をショベル500に送信できる。
また、管理サーバ900は、警報或いは動作制限の解除の許否を判定するための各種情報(例えば、周辺状況情報等)をショベル500から取得することができる。また、管理端末800は、管理端末700等と同様、ハードウェア或いはソフトウェアによる操作部に対する所定操作を受け付けることができる。そのため、管理端末800は、管理端末700と同様、取得した各種情報やショベル500の周辺状況を確認した作業者Wによる操作等に基づき、警報等の解除を許可するか否かを判定し、判定結果に応じて、解除許可通知をショベル500に送信できる。
以下、管理端末700、解除装置750、管理端末800、及び、管理サーバ900を包括的に「外部装置600」と称し、ショベル500と、外部装置600を含む周辺監視システム1000の詳細について説明する。
尚、本実施形態では、複数の外部装置600が設けられるが、少なくとも一つ設けられればよい。また、外部装置600には、上述以外の他の態様も含まれうる。例えば、外部装置600は、コンピュータ等の情報処理部やRF送受信機、移動通信モジュール等の通信機器を含み、ショベル500の作業現場の上空を飛行し、搭載されたカメラで、ショベル500の作業現場を撮像可能な監視用のドローン(情報処理装置の一例)であってもよい。これにより、外部装置600としてのドローンは、撮像画像から認識されうるショベル500と監視対象との相対位置関係に基づき、ショベル500の周辺の安全状況を確認し、解除許可通知をショベル500に送信することができる。つまり、当該外部装置600としてのドローンは、撮像画像に基づき、監視エリア内に監視対象(人)がいないと判定した場合に、解除許可通知をショベル500に送信することができる。
[作業機械の概要]
次に、図2を参照して、本実施形態に係る周辺監視システム1000(図3参照)に含まれる作業機械の概要について説明をする。
図2は、本実施形態に係る周辺監視システム1000に含まれる作業機械の一例を示す図であり、具体的には、ショベル500の側面図である。
尚、本実施形態に係る周辺監視システム1000には、ショベル500以外の任意の作業機械、例えば、ブルドーザ、ホイールローダ、アスファルトフィニッシャ、林業機械等が含まれてもよい。
ショベル500は、下部走行体1と、旋回機構2を介して旋回可能に下部走行体1に搭載される上部旋回体3と、アタッチメント(作業装置)としてのブーム4、アーム5、及び、バケット6と、オペレータが搭乗するキャビン10を備える。
下部走行体1は、例えば、左右1対のクローラを含み、それぞれのクローラが走行油圧モータ(不図示)で油圧駆動されることにより、自走する。
上部旋回体3は、旋回油圧モータ、或いは、電動機(共に不図示)等で駆動されることにより、下部走行体1に対して旋回する。
ブーム4は、上部旋回体3の前部中央に俯仰可能に枢着され、ブーム4の先端には、アーム5が上下回動可能に枢着され、アーム5の先端には、バケット6が上下回動可能に枢着される。ブーム4、アーム5、及び、バケット6は、それぞれ、ブームシリンダ7、アームシリンダ8、及び、バケットシリンダ9により油圧駆動される。
キャビン10は、オペレータが搭乗する操縦室であり、上部旋回体3の前部左側に搭載される。
[周辺監視システムの詳細]
次に、図1、図2に加えて、図3を参照して、本実施形態に係る周辺監視システム1000の具体的な構成について説明をする。
図3は、本実施形態に係る周辺監視システム1000の詳細構成の一例を示すブロック図である。
周辺監視システム1000は、上述の如く、ショベル500と、外部装置600を含む。
ショベル500には、周辺監視装置100が搭載される。
周辺監視装置100は、ショベル500の周辺の所定範囲内への監視対象である所定の物体(以下、単に「監視対象」と称する)の侵入を監視し、監視対象を検知した場合、警報を出力したり、ショベルの動作を制限したりする。監視対象には、ショベル500の周囲で作業する作業員や作業現場の現場監督等の人だけでなく、作業現場に仮置きされた資材等の定置された障害物やトラックを含む車両等の移動する障害物等、人以外の任意の物体が含まれうる。以下、監視対象は、人である前提で説明を続ける。
周辺監視装置100は、コントローラ30と、撮像装置40と、表示装置50と、音声出力装置52と、ゲートロック弁54と、解除スイッチ60と、確認動作状態検知部70と、通信機器72と、外部報知装置74を含む。また、周辺監視装置100に関連する構成として、ショベル500の外部に設けられる外部装置600が含まれ、本実施形態に係る周辺監視システム1000は、ショベル500に搭載される周辺監視装置100と、外部装置600を含む態様で構成される。
コントローラ30は、ショベル500の駆動制御を行う主たる制御装置である。例えば、コントローラ30は、キャビン10内に搭載され、周辺監視装置100に関する各種制御処理を行う。
コントローラ30は、その機能が任意のハードウェア、或いは、ハードウェア及びソフトウェアの組み合わせにより実現されてよい。コントローラ30は、例えば、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)、補助記憶装置、RTC(Real Time Clock)、各種通信用インターフェース等を含むマイクロコンピュータを中心に構成される。コントローラ30は、例えば、ROMや補助記憶装置に格納される各種プログラムをCPU上で実行することにより実現される機能部として、検知部301と、表示制御部302と、警報出力部303と、動作制限部304と、解除依頼通知部305と、周辺状況情報送信部306と、判定部307を含む。
撮像装置40は、上部旋回体3の上部に取り付けられ、ショベル500の周辺を撮像する。撮像装置40は、カメラ40B,40L,40Rを含む。
カメラ40B、カメラ40L、及び、カメラ40Rは、それぞれ、上部旋回体3の後端上部、左端上部、及び、右端上部に取り付けられ、上部旋回体3の後方、左側方、及び、右側方を撮像する。具体的には、カメラ40B、カメラ40L、及び、カメラ40Rは、それぞれ、上部旋回体3の上部において、光軸が斜め下方に向くように取り付けられ、ショベル500の近傍の地面からショベル500の遠方までを含む上下方向の撮像範囲(画角)を撮像する。カメラ40B、カメラ40L、及び、カメラ40Rは、それぞれ、ショベル500の運転中、所定周期(例えば、1/30秒)ごとに、撮像画像を出力し、出力された撮像画像は、コントローラ30に取り込まれる。
表示装置50は、キャビン10内の操縦席の周辺、具体的には、操縦席に着座するオペレータから視認し易い位置に設けられ、コントローラ30による制御の下、オペレータに通知する各種画像情報を表示する。表示装置50は、例えば、液晶ディスプレイや有機EL(Electroluminescence)ディスプレイであり、操作部を兼ねるタッチパネル式であってよい。具体的には、表示装置50は、撮像装置40の撮像画像(スルー画像)や、コントローラ30により撮像装置40の撮像画像に基づき生成される周辺画像(例えば、後述する視点変換画像)等を表示する。
音声出力装置52は、キャビン10内の操縦席の周辺に設けられ、コントローラ30による制御の下、オペレータに通知する各種音声情報を出力する。音声出力装置52は、例えば、スピーカやブザー等である。具体的には、音声出力装置52は、コントローラ30から制御指令に基づき、警報音を出力する。
ゲートロック弁54は、パイロットポンプ(不図示)からショベル500の動作要素(即ち、下部走行体1、上部旋回体3、ブーム4、アーム5、及び、バケット6等)を操作する操作装置(不図示)に対してパイロット圧を供給するパイロットラインの最上流に設けられ、パイロットラインの連通/非連通を切り替える。
例えば、ゲートロック弁54は、通常、キャビン10内の操縦席の入口に相当する部分に設けられるゲートロックレバー(不図示)の操作状態と連動する、ゲートロックスイッチの出力信号(ON/OFF)に応じて、パイロットラインの連通/非連通を切り替える。具体的には、ゲートロック弁54は、ゲートロックスイッチの出力信号が、ゲートロックレバーが引き上げられた状態(即ち、操縦席にオペレータが着座した状態)に対応するON信号である場合、パイロットラインを連通状態にする。一方、ゲートロック弁54は、ゲートロックスイッチの出力信号が、ゲートロックレバーが引き下げられた状態(即ち、操縦席からオペレータが離脱した状態)に対応するOFF信号である場合、パイロットラインを非連通状態にする。
また、例えば、ゲートロック弁54は、コントローラ30から入力される指令信号も受付可能に構成される。具体的には、ゲートロック弁54は、その信号入力部が、ゲートロックスイッチの出力信号とコントローラ30からの指令信号の双方が入力される論理積回路、即ち、少なくとも一方からOFF信号が入力されると、OFF信号を出力する論理回路に接続されてよい。これにより、ゲートロック弁54は、ゲートロックレバーが引き上げられた状態であっても、コントローラ30からの指令信号(ON信号/OFF信号)に応じて、パイロットラインの連通/非連通を切り替えることができる。即ち、ゲートロック弁54は、コントローラ30による制御の下、ゲートロックレバーが引き上げられた状態であっても、パイロットラインを非連通状態にする。
解除スイッチ60(解除意思入力部の一例)は、オペレータが後述する警報やショベル500の動作制限を解除する解除意思を入力する操作部である。解除スイッチ60は、例えば、後述する操作部50Bの押しボタン、レバー、回転ノブ等のハードウェアによる操作部であってもよいし、表示装置50に表示される操作画面上の仮想的なボタン(アイコン)等のソフトウェアによる操作部であってもよい。解除スイッチ60の操作状態に関する情報は、コントローラ30に取り込まれる。以下、後述する監視機能スイッチ62や表示内容切替スイッチ64等についても同様である。
尚、解除スイッチ60の代わりに、オペレータによる解除意思に対応する特定のポーズやジェスチャを認識するカメラ(解除意志入力部の一例)、オペレータによる解除意思に対応する特定の視線移動を認識する視線センサ(解除意志入力部の一例)等が採用されてもよい。
確認動作状態検知部70は、例えば、キャビン10内に搭載され、キャビン10内のオペレータによるショベル500の周辺の状況を確認する動作(以下、「周辺状況確認動作」と称する)を検出する。確認動作状態検知部70は、例えば、オペレータの顔を含むキャビン10内を撮像するカメラや、オペレータの視線を検知する視線センサ等である。これにより、カメラの撮像画像や視線センサの検出信号から認識されるオペレータの視線の動きに基づき、オペレータの周辺状況確認動作が検出されうる。また、確認動作状態検知部70は、例えば、オペレータが被る安全帽やヘルメットに設けられ、オペレータの脳波を検出する脳波センサである。これにより、オペレータの脳波の変化やその傾向に基づき、オペレータの周辺状況確認動作が検出されうる。
通信機器72は、外部装置600との間で制御信号や情報信号等の送受信を行うデバイスである。通信機器72は、コントローラ30の制御の下、各種信号(例えば、後述する警報出力通知、動作制限通知、解除依頼通知等)を外部装置600に送信する。また、通信機器72により受信される外部装置600からの信号は、コントローラ30に取り込まれる。
例えば、通信機器72は、外部装置600との間で、RF通信を行うRF送受信機を含みうる。また、例えば、通信機器72は、外部装置600との間で、BT通信を行うブルートゥース通信モジュール(BT通信モジュール)を含みうる。また、例えば、通信機器72は、外部装置600との間で、直接的に、或いは、所定のサーバ(管理サーバ900)等を経由し、移動体通信網等を通じて、各種信号の送受信を行う移動通信モジュールである。
外部報知装置74は、コントローラ30による制御の下、ショベル500の周辺に向けて、ショベル500の状況を報知するデバイスである。
例えば、外部報知装置74は、聴覚的な方法、つまり、音声によって、ショベル500の周辺にショベル500の状況を報知可能なスピーカやブザー等の音声出力装置であってよい。
また、例えば、外部報知装置74は、視覚的な方法、つまり、情報の表示によって、ショベル500の周辺にショベル500の状況を報知可能なディスプレイや電光掲示板等の表示装置であってもよい。
検知部301は、撮像装置40により撮像された撮像画像に基づき、ショベル500の周辺の所定領域(監視エリア)内、例えば、ショベル500からの距離Dが所定距離D1(例えば、5メートル)以内の所定の監視対象を検知する。
例えば、図4は、検知部301の監視エリアの一例を模式的に示す図である。
図4に示すように、監視エリアには、カメラ40B、カメラ40L、及び、カメラ40Rのそれぞれに対応する監視エリアMAB、監視エリアMAL、及び、監視エリアMARが含まれる。
コントローラ30は、監視エリアMAB,MAL,MARを、リソースとのバランスの範囲で、点線で示されるように広げたり、一点鎖線で示されるように狭めたりすることができる。例えば、コントローラ30は、監視エリアMABを一点鎖線で示されるように広げる場合、監視エリアMAL,MARの少なくとも一つを狭めることで、コントローラ30(検知部301)は、所定の処理時間内で、監視対象を検知する処理を完了させることができる。
図3に戻り、検知部301は、例えば、既知の各種画像処理手法や人工知能(AI:Artificial Intelligence)等を含む機械学習ベースの識別器等を任意に適用することにより、撮像画像内の監視対象を認識する。そして、検知部301は、認識した監視対象の実在位置(ショベル500から認識した監視対象までの距離D等)を特定することができる。また、検知部301は、監視対象の種類(例えば、人であるか、人以外の障害物であるか)を特定することも可能である。
監視対象は、上述の如く、例えば、ショベル500の周辺で作業する作業者や監督者等の人や、仮置きされた建材や工事車両等のショベル500の作業に支障を来す障害物を含む。
尚、検知部301は、撮像装置40の撮像画像に代えて、或いは、加えて、ショベル500に搭載される他のセンサの検出結果(距離画像等)に基づき、ショベル500の周辺の監視対象を検知してもよい。検知部301は、例えば、ショベル500に搭載されるミリ波レーダ、LIDAR、ステレオカメラ等の検出結果に基づき、監視対象を検出することができる。
表示制御部302は、表示装置50に各種情報画像を表示させる。
例えば、表示制御部302は、オペレータによる所定操作に応じて、撮像装置40の撮像画像に基づき、周辺画像を生成し、表示装置50に表示させる。具体的には、表示制御部302は、周辺画像として、カメラ40B、カメラ40L、及び、カメラ40Rの撮像画像に基づき、既知の視点変換処理を行うことにより、仮想視点から見た視点変換画像を生成し、表示装置50に表示させる。また、表示制御部302は、周辺画像を表示装置50に表示させる際、撮像装置40の撮像範囲とショベル500との相対位置関係を明示するため、ショベル500を模式的に表すショベル画像を併せて表示装置50に表示させる。即ち、表示制御部302は、ショベル画像と、ショベル500と撮像装置40の撮像範囲との相対位置関係に合わせて、ショベル画像の周囲に配置される周辺画像とを含む監視用画像を生成し、表示装置50に表示させる。
尚、表示制御部302の機能は、表示装置50に内蔵されてもよい。この場合、撮像装置40(カメラ40B、カメラ40L、カメラ40R)の撮像画像、及び、検知部301の検知結果等の情報は、それぞれ、撮像装置40及びコントローラ30から表示装置50に取り込まれる。
例えば、図5は、表示装置50に表示される監視用画像MPの一例を示す図である。
図5に示すように、表示装置50は、各種情報画像が表示される表示部50Aと、各種情報画像に表示される操作対象(例えば、操作ボタンアイコンやカーソル等)を操作するハードウェアによる操作部50Bを含む。
本例では、表示部50Aには、監視用画像MPだけでなく、ショベル500の運転に関連する各種情報を提示する運転情報画像IPが表示される。具体的には、表示部50Aの上半分には、監視用画像MPが表示され、下半分には、運転情報画像IPが表示される。
運転情報画像IPは、日時表示領域IPa、走行モード表示領域IPb、エンドアタッチメント表示領域IPc、エンジン制御状態表示領域IPe、エンジン作動時間表示領域IPf、冷却水温表示領域IPg、燃料残量表示領域IPh、回転数モード表示領域IPi、作動油温表示領域IPk、カメラ画像表示領域IPm、アラーム表示領域IPp、及び向き表示アイコンIPxを含む。
日時表示領域IPaは、現在の日時を画像表示する領域である。本例では、デジタル表示が採用され、日付が2013年2月19日であり、時刻が23時59分であることを示している。
走行モード表示領域IPbは、現在の走行モードを画像表示する領域である。走行モードは、可変容量ポンプを用いた走行用油圧モータの設定状態を表す。具体的には、走行モードは、低速モード及び高速モードを有する。低速モードは、「亀」を象ったマークで表示され、高速モードは「兎」を象ったマークで表示される。本例では、「亀」を象ったマークが表示されており、オペレータは、低速モードが設定されていることを認識できる。
エンドアタッチメント表示領域IPcは、現在装着されているエンドアタッチメントを表す画像を画像表示する領域である。ショベルに装着されるエンドアタッチメントには、バケット6の他、削岩機、グラップル、リフティングマグネットなど様々なエンドアタッチメントが含まれる。エンドアタッチメント表示領域IPcは、例えば、これらのエンドアタッチメントを象ったマークを表示する。本例では、削岩機を象ったマークが表示されており、オペレータは、削岩機がエンドアタッチメントとして取り付けられていることを認識できる。
エンジン制御状態表示領域IPeは、エンジンの制御状態を画像表示する領域である。本例では、オペレータは、エンジンの制御状態として「自動減速・自動停止モード」が選択されていることを認識できる。なお、「自動減速・自動停止モード」は、エンジン負荷が小さい状態の継続時間に応じて、エンジン回転数を自動的に低減し、さらにはエンジンを自動的に停止させる制御状態を意味する。その他、エンジンの制御状態には、「自動減速モード」、「自動停止モード」、「手動減速モード」等がある。
エンジン作動時間表示領域IPfは、エンジンの累積作動時間を画像表示する領域である。本例では、単位「hr(時)」を用いた値が表示される。
冷却水温表示領域IPgは、現在のエンジン冷却水の温度状態を画像表示する領域である。本例では、エンジン冷却水の温度状態を表すバーグラフが表示されている。なお、エンジン冷却水の温度は、エンジンに取り付けられる水温センサが出力するデータに基づき表示される。
具体的には、冷却水温表示領域IPgは、異常範囲表示IPg1、注意範囲表示IPg2、正常範囲表示IPg3、セグメント表示IPg4、及びアイコン表示IPg5を含む。
異常範囲表示IPg1、注意範囲表示IPg2、正常範囲表示IPg3は、それぞれ、エンジン冷却水の温度が異常高温状態、注意を要する状態、正常状態にあることをオペレータに知らせるための表示である。また、セグメント表示IPg4は、エンジン冷却水の温度の高低をオペレータに知らせるための表示である。また、アイコン表示IPg5は、異常範囲表示IPg1、注意範囲表示IPg2、正常範囲表示IPg3、及びセグメント表示IPg4がエンジン冷却水の温度に関する表示であることを表すシンボル図形等のアイコンである。
尚、アイコン表示IPg5は、エンジン冷却水の温度に関する表示であることを表す文字情報であってもよい。
本例では、セグメント表示IPg4は、点灯・消灯状態が個別に制御される8つのセグメントで構成され、冷却水温が高くなるほど点灯状態のセグメントの数が増加する。本例では、4つのセグメントが点灯状態となっている。また、セグメント表示IPg4は、所定円の一部(円弧)を構成し、エンジン冷却水の温度の上下動に応じてその円弧の長さが伸縮するように表示される。また、本例では、それぞれのセグメントが表す温度の幅は同じであるが、セグメントごとに温度の幅を変えてもよい。
また、本例では、異常範囲表示IPg1、注意範囲表示IPg2、正常範囲表示IPg3は、それぞれ、セグメント表示IPg4の伸縮方向(所定円の円周方向)に沿うように並べて配置される円弧状の図形であり、赤色、黄色、緑色で表示される。また、セグメント表示IPg4は、1番目(最下位)から6番目のセグメントが正常範囲に属し、7番目のセグメントが注意範囲に属し、8番目(最上位)のセグメントが異常範囲に属する。
尚、冷却水温表示領域IPgには、異常範囲表示IPg1、注意範囲表示IPg2、及び正常範囲表示IPg3が円弧状の図形として表示される代わりに、異常レベル、注意レベル、正常レベルを表す文字、記号等がそれぞれの境界部分に表示してもよい。
また、異常範囲表示、注意範囲表示、正常範囲表示、セグメント表示、及び、アイコン表示を含む上述の構成は、燃料残量表示領域IPh及び作動油温表示領域IPkにおいても同様に採用されうる。また、燃料残量表示領域IPhでは、異常範囲、注意範囲、及び正常範囲を表す円弧状の図形を表示する代わりに、「Full(満タン状態)」を表す文字「F」又は黒丸(塗りつぶされた丸印)、「Empty(空状態)」を表す文字「E」又は白丸(塗りつぶされていない丸印)等がそれぞれの境界部分に表示されてもよい。
燃料残量表示領域IPhは、燃料タンクに貯蔵されている燃料の残量状態を画像表示する領域である。本例では、現在の燃料の残量状態を表すバーグラフが表示される。燃料残量表示領域IPhの燃料の残量は、燃料タンク内の燃料残量センサにより出力されるデータに基づき表示される。
回転数モード表示領域IPiは、現在の回転数モードを画像表示する領域である。回転数モードは、例えば、上述のSPモード、Hモード、Aモード、及び、アイドリングモードの4つを含む。本例では、SPモードを表す記号「SP」が表示されている。
作動油温表示領域IPkは、作動油タンク内の作動油の温度状態を画像表示する領域である。本例では、作動油の温度状態を表すバーグラフが表示されている。作動油温表示領域IPkの作動油の温度は、作動油タンク内の油温センサにより出力されるデータに基づき表示される。
尚、冷却水温表示領域IPg、燃料残量表示領域IPh、及び、作動油温表示領域IPkでは、バーグラフ表示の代わりに針表示が採用されてもよい。
カメラ画像表示領域IPmは、カメラ40B、カメラ40L、及び、カメラ40Rのうちの少なくとも一つの撮像画像(スルー画像)をそのまま表示する領域である。これにより、オペレータは、監視用画像MPの他、撮像装置40により撮像された撮像画像(スルー画像)をそのまま運転情報画像IP内で視認することができる。
例えば、カメラ画像表示領域IPmには、ショベルが稼働している間、常にカメラ40Bにより撮像された撮像画像が表示されてよい。このとき、カメラ画像表示領域IPmのカメラ40Bの撮像画像(スルー画像)は、望ましくは、鏡像で表示されるとよい。
また、本例では、カメラ画像表示領域IPmは、運転情報画像IPの右側の3分の2程度の領域を占める。表示装置50が運転席の右側前方に設置される環境において、運転席(オペレータ)に近い側に燃料残量表示領域IPh等が表示され、運転席(オペレータ)から遠い側にカメラ画像表示領域IPmが表示されるようにして、全体的な視認性を高めるためである。但し、運転情報画像IPにおける各表示領域のサイズ及び配置は、必要に応じて変更されてもよい。
また、カメラ画像表示領域IPmに表示される撮像画像は、タッチパネル式の表示部50Aに対するタッチ操作等や操作部50Bに対する操作に応じて、表示される撮像画像の撮像元の撮像装置40が切り替えられたり、撮像画像の拡大或いは縮小が行われたりしてもよい。例えば、オペレータは、操作部50Bの十字ボタン50Baにより左右方向を指定する操作を行うことにより、カメラ画像表示領域IPmに表示される撮像画像(スルー画像)の撮像元の撮像装置40(カメラ40B、カメラ40L、カメラ40R)を切り替え可能な態様であってよい。また、オペレータは、拡縮ボタン50Bbの上方向を指定するボタン及び下方向を指定するボタンのそれぞれを押圧操作することより、撮像画像を拡大させたり、縮小させたりすることが可能な態様であってよい。このとき、オペレータは、タッチパネル式の表示部50A上のカメラ画像表示領域IPmの任意の位置をタッチすることにより、位置を指定し、当該指定位置を中心として、拡大縮小を行うことができる。また、オペレータは、十字ボタン50Baによって、カーソルを動かし、カーソル位置を中心として、拡大縮小を行うことが可能な態様であってもよい。
アラーム表示領域IPpは、アラームを表示する領域である。本例では、電気系統異常が発生したことを表す警告メッセージがスルー画像上に重畳表示されている。また、本例では、アラーム表示領域IPpには、カメラ40Bにより撮像された撮像画像がカメラ画像表示領域IPmに表示されないままレバー操作が行われた場合に、その旨を警告するアラームが表示される。また、アラーム表示領域IPpには、表示すべきアラームが存在しない場合、スルー画像がそのまま表示される。
向き表示アイコンIPxは、運転情報画像IPに表示される撮像画像(スルー画像)を撮像した撮像装置40の向きとショベル(上部旋回体3のアタッチメント)の向きとの相対的関係を表すアイコンである。本例では、カメラ画像表示領域IPmに表示されるカメラ画像を撮像する撮像装置40がカメラ40Bであることを表す向き表示アイコンIPxがカメラ画像表示領域IPmの右下隅に表示されている。
尚、向き表示アイコンIPxは、カメラ画像表示領域IPmの下部中央、左下隅、右上隅、左上隅等、右下隅以外の位置に表示されてもよく、カメラ画像表示領域IPmの外部に表示されてもよい。
また、運転情報画像IPは、上述の表示領域IPa〜IPkの一部を省略してもよいし、上述以外の表示領域を含んでもよい。例えば、運転情報画像IPは、排ガスフィルタ(例えば、ディーゼル微粒子除去装置(DPF:Diesel Particulate Filter)等)の詰まり具合を表示する排ガスフィルタ状態表示領域を含んでいてもよい。具体的には、排ガスフィルタ状態表示領域は、排ガスフィルタの許容最大使用時間に対する現在の使用時間の割合を表すバーグラフを表示してもよい。また、運転情報画像IPは、作動油の温度状態の表示を省略してもよく、作動油の温度状態及び冷却水の温度状態の表示を省略してもよい。
また、カメラ画像表示領域IPmの下部には、上部旋回体3のカバー3aの後端上縁の画像である車体画像としてのカバー画像IPqが含まれる。これにより、表示装置50は、カメラ画像表示領域IPmに表示される物体とショベルとの間の距離感をオペレータがより容易に掴めるようにする。また、本実施例では、向き表示アイコンIPxは、カバー画像IPq上に重畳表示される。向き表示アイコンIPxの背景色が常に同じになるようにしてその視認性を高めるためである。また、カメラ画像の見たい部分を表示アイコンIPxが隠してしまうのを防止するためである。但し、向き表示アイコンIPxは、カメラ画像表示領域IPmの外部に表示されてもよい。
また、図5に示すように、表示装置50の表示部50Aの上半分の横長の長方形の画面(例えば、アスペクト比4:3の画面)には、上述の如く、ショベル画像CGと、ショベル画像CGの周囲に配置される周辺画像EPとを含む監視用画像MPが表示されている。これにより、オペレータ等は、周辺画像EPに写っている監視対象(即ち、人)と、ショベル500との位置関係を適切に把握することができる。
本例における周辺画像EPは、ショベル500に隣接する周辺領域を真上から見た俯瞰画像BVPと、当該俯瞰画像BVPの周りに配置される、ショベル500から当該周辺領域を水平方向に見た水平画像HVPとを組み合わせた視点変換画像である。視点変換画像である周辺画像EPは、カメラ40B、カメラ40L、及び、カメラ40Rのそれぞれの撮像画像を空間モデルに投影した上で、その空間モデルに投影された投影画像を別の二次元平面に再投影することにより得られる。空間モデルは、仮想空間における撮像画像の投影対象であり、撮像画像が位置する平面以外の平面或いは曲面を含む一又は複数の平面或いは曲面で構成される。
また、監視用画像MPには、ガイドラインLN1が重畳表示される。ガイドラインLN1は、ショベル500からの距離Dが所定距離D2(≦D1)の位置を表す。これにより、オペレータ等は、周辺画像に監視対象(即ち、人)が写っている場合に、ショベル500からどの程度離れた位置にいるかを把握することができる。
また、本例では、監視用画像MPの周辺画像EPには、監視対象である人(作業者W1)が含まれる。周辺画像EPに含まれる、監視エリア内の作業者W1は、太線枠FR1で囲まれる態様で強調される。これにより、オペレータに向けて、監視エリアに監視対象が侵入している旨を警報(通知)することができる。
図3に戻り、警報出力部303(制御部の一例)は、検知部301により監視エリア、即ち、ショベル500からの距離Dが所定距離D1以内で監視対象(人)が検知された場合、キャビン10の内部、即ち、オペレータに向けて警報を出力する。これにより、周辺監視装置100は、オペレータに対して、ショベル500の周辺の監視エリア内に監視対象(人)が進入したことを認識させ、オペレータに対して、ショベル500の周辺の安全状況の確認を促すことができる。
例えば、警報出力部303は、聴覚的な方法、つまり、音による警報を出力する。具体的には、警報出力部303は、音声出力装置52に制御指令を出力し、警告音を出力させる。
尚、警報出力部303は、各種条件に応じて、警告音の音高、音圧、音色等や、警告音(例えば、ブザー音)を周期的に吹鳴させる場合の吹鳴周期等を異ならせてもよい。例えば、警報出力部303は、検知部301により検知された監視対象のショベル500に対する相対位置に応じて、警告音の音高、音圧、音色、吹鳴周期等を変化させてよい。具体的には、警報出力部303は、相対的にショベル500に近い監視対象が検知された場合と、相対的にショベル500から遠い監視対象が検知された場合とで、警告音の音高、音圧、音色、吹鳴周期等の少なくとも一つを異ならせてよい。これにより、周辺監視装置100は、警告音の相違によって、オペレータ等に、ショベル500との位置関係(接近度合い)を把握させることができる。以下、外部報知装置74を用いる場合についても同様である。
また、例えば、警報出力部303は、視覚的な方法による警報を出力する。具体的には、警報出力部303は、表示制御部302に警報要求を送信する。これにより、表示制御部302は、警報要求に応じて、表示装置50に表示される監視用画像MPの周辺画像EPに含まれる監視対象である人を太線枠で囲む等の強調させる処理を施し(図4参照)、表示装置50は、オペレータに対する警報を出力することができる。
尚、警報出力部303は、触覚的な方法による警報を出力してもよい。具体的には、警報出力部303は、例えば、操縦席に搭載される振動発生装置(バイブレータ)に制御指令を出力し、操縦席を振動させることにより、オペレータに対する触覚的な警報を出力してもよい。
また、警報出力部303は、警報を出力する場合、ショベル500の外部に向けて、ショベル500で警報が出力されている旨を通知する。
例えば、警報出力部303は、警報を出力する場合、外部報知装置74(外部通知部の一例)を制御し、聴覚的或いは視覚的な方法で、ショベル500の周辺に向けて、ショベル500で警報が出力されている旨を通知(報知)する。これにより、周辺監視装置100は、ショベル500の周辺で作業を行っている作業者、監督者等やショベル500から比較的近い場所にある管理事務所の管理者等に、ショベル500で警報が出力されていることを認識させることができる。
尚、警報出力部303は、触覚的な方法により、ショベル500で警報が出力されている旨を通知してもよい。具体的には、警報出力部303は、通信機器72(外部通知部の一例)を通じて、ショベル500の周辺で作業を行っている作業者、監督者等や管理事務所や管理サーバ900の管理者等が所持するバイブレータ機能付きの所定機器(例えば、後述する管理端末700等)に向けて、バイブレータ機能を作動させるための所定の通信規格による無線信号(RF通信やBT通信に対応する信号)を送信する。これにより、作業者等が所持する所定機器が振動するため、ショベル500は、周辺の作業者等に向けて、ショベル500で警報が出力されている旨を通知(報知)することができる。
また、例えば、警報出力部303は、警報を出力する場合、通信機器72(外部通知部の一例)を制御し、ショベル500で警報が出力されている旨の通知(以下、「警報出力通知」と称する)を外部装置600に送信する。これにより、周辺監視装置100は、警報解除の許否を判定する外部装置600や外部装置600の利用者(例えば、ショベル500の周辺の作業者、監督者や管理事務所の現場管理者や管理サーバ900の管理者等)に、ショベル500で警報が出力されている旨を認識させることができる。また、警報出力部303は、警報を出力する場合、通信機器72を制御し、外部装置600の利用者の予め登録されるメールアドレスや所定のソーシャルネットワーキングサービス(SNS:Social Networking Service)のアカウントに警報出力通知を送信してもよい。これにより、周辺監視装置100は、外部装置600の利用者に、ショベル500で警報が出力されていることを認識させることができる。
尚、オペレータ等の意思で、ショベル500で警報が出力されている旨をショベル500の外部に向けて通知させるための専用の入力部(外部通知意思入力部の一例。例えば、操作により意思を入力するボタンスイッチ等の操作部や、所定のジェスチャ、ポーズ、或いは、視線移動等により意思を入力するカメラ或いは視線センサ等)がキャビン10内に設けられてもよい。この場合、当該専用の入力部に対する意思入力があった場合に、外部報知装置74や通信機器72を通じて、ショベル500の外部に、ショベル500で警報が出力されている旨が通知される。
また、警報出力部303は、判定部307により、後述の如く、オペレータにより周辺状況確認動作が行われたと判定され、且つ、解除スイッチ60がオペレータにより操作された場合に、警報の出力を解除する、つまり、出力中の警報を停止させる。これにより、周辺監視装置100は、オペレータによりショベル500の周辺の安全状況が適切になされた上で、警報の出力を解除させることができる。従って、オペレータがショベル500の周辺状況を確認することなく、形式的に、解除スイッチ60を操作することで、警報が解除されてしまうような事態が抑制され、ショベル500の作業現場の安全性を向上させることができる。
また、警報出力部303は、判定部307により、後述の如く、ショベル500の外部で警報の解除が許可されたと判定され、且つ、解除スイッチ60がオペレータにより操作された場合に、警報の出力を解除する、つまり、出力中の警報を停止させる。これにより、周辺監視装置100は、ショベル500の外部において、ショベル500の周辺の安全状況の確認に基づく警報解除の許可が適切になされた上で、警報の出力を解除させることができる。従って、ショベル500の周辺状況が確認されることなく、オペレータによる形式的な解除スイッチ60の操作によって、警報が解除されてしまうような事態が抑制され、ショベル500の作業現場の安全性を向上させることができる。
動作制限部304(制御部の一例)は、検知部301により監視エリアで人が検知された場合、ショベル500の動作要素(下部走行体1、上部旋回体3、ブーム4、アーム5、及び、バケット6等)の動作を制限する。例えば、動作制限部304は、ゲートロック弁54に指令信号としてのON信号を送信することにより、ゲートロック弁54にパイロットラインを非連通状態にさせる。これにより、パイロットポンプ(不図示)からショベル500の動作要素を操作する操作装置(不図示)に作動油(パイロット圧)が供給されないため、オペレータが操作装置に操作入力を行っても、ショベル500の動作要素が動作しないように制限できる。そのため、ショベル500に近接する監視エリアに人が進入してしまった場合であっても、ショベル500の動作が制限され、ショベル500と人の衝突を抑制することができ、結果として、ショベル500の周辺における安全性の維持を図ることができる。
尚、例えば、操作装置から出力される二次側のパイロット圧を減圧する減圧弁が設けられ、動作制限部304は、ゲートロック弁54の代わりに、当該減圧弁を制御してもよい。この場合、当該減圧弁は、操作装置から出力される二次側のパイロット圧を操作量ゼロに相当する圧力値以下まで減圧させることにより、オペレータによる操作装置に対する操作を無効化することができる。そのため、動作制限部304は、当該減圧弁を制御することにより、結果として、ショベル500の動作要素の動作を制限することができる。また、動作制限部304は、当該減圧弁を制御することにより、ショベル500の動作要素を停止させず、オペレータによる操作に対する各種動作要素の動作を通常よりも緩やかに抑制する態様で、ショベル500の動作を制限してもよい。
また、動作制限部304は、ショベル500の動作制限を行う場合、ショベル500の外部に向けて、ショベル500の動作制限が行われている旨を通知する。
例えば、動作制限部304は、ショベル500の動作制限を行う場合、外部報知装置74(外部通知部の一例)を制御し、ショベル500の周辺に向けて、ショベル500の動作制限が行われている旨を通知(報知)する。これにより、周辺監視装置100は、ショベル500の周辺で作業を行っている作業者、監督者等やショベル500から比較的近い場所にある管理事務所の管理者等に、ショベル500の動作制限が行われていることを認識させることができる。
尚、動作制限部304は、警報出力部303の場合と同様、触覚的な方法により、ショベル500の動作制限が行われている旨を通知してもよい。
また、例えば、動作制限部304は、ショベル500の動作制限を行う場合、通信機器72(外部通知部の一例)を制御し、ショベル500の動作制限が行われている旨の通知(以下、「動作制限通知」と称する)を外部装置600に送信する。これにより、周辺監視装置100は、動作制限解除の許否を判定する外部装置600や外部装置600の利用者に、ショベル500の動作制限が行われている旨を認識させることができる。また、動作制限部304は、ショベル500の動作制限を行う場合、通信機器72を制御し、外部装置600の利用者の予め登録されるメールアドレスや所定のSNSのアカウントに警報出力通知を送信してもよい。これにより、周辺監視装置100は、外部装置600の利用者に、ショベル500の動作制限が行われていることを認識させることができる。
尚、警報の場合と同様、オペレータ等の意思で、ショベル500の動作制限が行われている旨をショベル500の外部に向けて通知させるための専用の入力部(外部通知意思入力部の一例)がキャビン10内に設けられてもよい。また、警報に対応する専用の入力部と、動作制限に対する専用の入力部とは、共通の入力部であってよい。この場合、当該専用の入力部に対する意思入力があった場合に、外部報知装置74や通信機器72を通じて、ショベル500の外部に、ショベル500の動作制限が行われている旨が通知される。
また、動作制限部304は、判定部307により、後述の如く、オペレータにより周辺状況確認動作が行われたと判定され、且つ、解除スイッチ60がオペレータにより操作された場合に、ショベル500の動作制限を解除する。これにより、周辺監視装置100は、オペレータによりショベル500の周辺の安全状況が適切になされた上で、ショベル500の動作制限を解除させることができる。従って、オペレータがショベル500の周辺状況を確認することなく、形式的に、解除スイッチ60を操作することで、ショベル500の動作制限が解除されてしまうような事態が抑制され、ショベル500の作業現場の安全性を向上させることができる。
また、動作制限部304は、判定部307により、後述の如く、ショベル500の外部でショベル500の動作制限の解除が許可されたと判定され、且つ、解除スイッチ60がオペレータにより操作された場合に、ショベル500の動作制限を解除する。これにより、周辺監視装置100は、ショベル500の外部において、ショベル500の周辺の安全状況の確認に基づく動作制限解除の許可が適切になされた上で、ショベル500の動作制限を解除させることができる。従って、ショベル500の周辺状況が確認されることなく、オペレータによる形式的な解除スイッチ60の操作によって、ショベル500の動作制限が解除されてしまうような事態が抑制され、ショベル500の作業現場の安全性を向上させることができる。
解除依頼通知部305は、オペレータにより解除スイッチ60が操作された場合に、通信機器72を制御し、警報或いは動作制限の解除を依頼する旨の通知(以下、「解除依頼通知」と称する)を外部装置600に送信する。また、解除依頼通知部305は、オペレータにより解除スイッチ60が操作された場合に、通信機器72を制御し、外部装置600の利用者の予め登録されるメールアドレスや所定のSNSのアカウントに解除依頼通知を送信してもよい。これにより、周辺監視装置100は、外部装置600や外部装置600の利用者に警報或いはショベル500の動作制限の解除の許可を積極的に依頼することができる。
尚、解除依頼通知は、警報の出力或いはショベル500の動作制限が開始された場合に、オペレータによる解除スイッチ60の操作の有無に依らず、外部装置600や外部装置600の利用者のメールアドレス等に送信されてもよい。また、解除依頼通知が送信される前に、上述の如く、警報出力通知や動作制限通知が外部装置600等に送信されるため、解除依頼通知の送信は省略されてもよい。つまり、解除依頼通知部305は、省略されてもよい。また、解除スイッチ60とは別にキャビン10内に設けられる、オペレータ等の意思で解除依頼通知を外部装置600や外部装置600の利用者のメールアドレス等に送信させるための専用の入力部(解除依頼意思入力部の一例。例えば、操作により意思を入力するボタンスイッチ等の操作部や、所定のジェスチャ、ポーズ、或いは、視線移動等により意思を入力するカメラ或いは視線センサ等)が設けられてもよい。この場合、解除依頼通知は、専用の入力部に対する意思入力があった場合に、外部装置600や外部装置600の利用者のメールアドレス等に送信されてもよい。
周辺状況情報送信部306は、警報の出力或いはショベル500の動作制限が行われている場合に、ショベル500の周辺の状況に関する情報(以下、「周辺状況情報」と称する)を定期的に外部装置600に送信する。周辺状況情報送信部306は、警報の出力或いはショベル500の動作制限が行われている場合、自動的に、外部装置600に周辺状況情報を送信してもよいし、外部装置600から通信機器72により受信されるリクエスト信号に応じて、外部装置600に周辺状況情報を送信してもよい。
周辺状況情報には、例えば、撮像装置40によるショベル500の周辺の撮像画像が含まれうる。また、周辺状況情報には、例えば、検知部301による監視対象の検知結果や検知された監視対象の位置等に関する情報が含まれうる。
判定部307は、オペレータによりショベル500の周辺の安全状況が確認されたか否か、つまり、周辺状況確認動作が行われたか否かを判定する。
例えば、判定部307は、確認動作状態検知部70の検知結果に基づき、オペレータにより周辺状況確認動作が行われたか否かを判定する。具体的には、判定部307は、上述の如く、確認動作状態検知部70としてのカメラや視線センサにより検知されるオペレータの視線の動きに基づき、オペレータにより周辺状況確認動作が行われたか否かを判定してよい。より具体的には、判定部307は、オペレータの視線がショベル500の周辺を間接視するためのミラー(例えば、バックミラー)或いは表示装置50に表示されるスルー画像や監視用画像を目視したと判断できる場合に、オペレータにより周辺状況確認動作が行われたと判定してよい。
また、判定部307は、上述の如く、確認動作状態検知部70としての脳波センサにより検知されるオペレータの脳波に基づき、オペレータにより周辺状況確認動作が行われたか否かを判定してよい。より具体的には、判定部307は、例えば、オペレータにより解除スイッチ60が操作された場合に、オペレータの脳波に基づき、当該操作が警報の出力やショベル500の動作制限に対して、無意識に(反射的に)行われたか否かを判定してよい。そして、判定部307は、当該操作が無意識に行われていない、即ち、当該操作が意識的に行われた場合に、オペレータにより周辺状況確認動作が行われたと判定したよい。
また、例えば、判定部307は、警報やショベル500の動作制限が開始されてからの経過時間に基づき、オペレータにより周辺状況確認動作が行われたか否かを判定する。具体的には、判定部307は、警報やショベル500の動作制限が開始されてから所定時間以上経過している場合に、オペレータによる周辺状況確認動作が行われたと判定してよい。警報やショベル500の動作制限の開始からある程度の時間が経過している場合、オペレータが周辺の状況を確認する時間的余裕があり、オペレータによる周辺状況確認動作が行われたとみなすことができるからである。
また、判定部307は、ショベル500の外部でショベル500の周辺の安全状況が確認され、警報或いは動作制限の解除が許可されたか否かを判定する。
例えば、判定部307は、通信機器72(取得部の一例)により、外部装置600から解除許可通知が取得された場合に、ショベル500の外部で警報或いは動作制限の解除が許可されたと判定する。
また、例えば、判定部307は、ショベル500の外部の作業者や監督者等から、安全状況が確認され、警報或いは動作制限の解除を許可する旨の合図が示された場合(例えば、予め規定されたポーズやジェスチャが示された場合)に、ショベル500の外部で警報或いは動作制限の解除が許可されたと判定する。具体的には、判定部307は、撮像装置40の撮像画像から、監視エリアに進入し、警報やショベル500の動作制限のトリガとなった作業者或いは監督者等の所定の第三者を認識する処理を行う。このとき、判定部307は、所定の第三者に固有の特徴情報(例えば、作業着やヘルメット等の色等の識別情報)に基づき、所定の第三者を認識してよい。そして、判定部307は、認識された作業者或いは監督者等の所定の第三者が、所定のポーズ或いはジェスチャをしていると判断できる場合に、ショベル500の外部で警報或いは動作制限の解除が許可されたと判定してよい。換言すれば、判定部307(取得部の一例)は、撮像装置40の撮像画像の中から、所定のポーズ或いはジェスチャをしている、作業者或いは監督者等の所定の第三者を含む撮像画像を取得した場合に、ショベル500の外部で警報或いは動作制限の解除が許可されたと判定してよい。
外部装置600は、ショベル500で警報の出力或いは動作制限が行われている場合に、所定の条件に応じて、警報或いは動作制限の解除を許可する。
外部装置600は、通信機器610と、情報処理部620と、表示部630と、音声出力部640と、操作部650を含む。
通信機器610は、ショベル500と双方向で通信を行う任意のデバイスである。通信機器610は、ショベル500の通信機器72と通信方式等の点で対応関係にあり、例えば、RF送受信機、BT通信モジュール、移動通信モジュール等を含みうる。
情報処理部620は、外部装置600における各種制御処理を行う。情報処理部620は、その機能が任意のハードウェア、或いは、ハードウェア及びソフトウェアの組み合わせにより実現されてよい。例えば、情報処理部620は、CPU、RAM、ROM、補助記憶装置、RTC、各種通信用インターフェース等を含むコンピュータを中心に構成される。情報処理部620は、例えば、ROMや補助記憶装置に格納される一以上のプログラムをCPU上で実行することにより実現される機能部として、ショベル状況通知部6201と、周辺状況情報取得部6202と、解除許可操作受付部6203と、判定部6204と、解除許可通知部6205を含む。
表示部630は、情報処理部620の制御の下、各種情報画像を表示する。表示部630は、例えば、液晶ディスプレイや有機ELディスプレイ等である。
音声出力部640は、情報処理部620の制御の下、外部に音声を出力する。音声出力部640は、例えば、スピーカやブザー等である。
操作部650は、外部装置600の利用者からの各種操作を受け付ける。操作部650は、例えば、押しボタン等のハードウェアによる操作部であってもよいし、タッチパネル式の表示部630に表示される操作画面のボタンアイコン等のソフトウェアによる操作部であってもよい。
ショベル状況通知部6201は、通信機器610を通じて、ショベル500から受信される各種情報に基づき、ショベル500の状況を利用者に通知する。
具体的には、ショベル状況通知部6201は、通信機器610を通じて、警報出力通知或いは動作制限通知が受信された場合、ショベル500で警報が出力されている旨、或いは、動作制限が行われている旨を外部装置600の利用者に通知してよい。これにより、外部装置600は、その利用者に、ショベル500で警報が出力されている、或いは、動作制限が行われていることを認識させることができる。特に、ショベル500から比較的離れた位置にある管理事務所の管理者や作業現場の外部の管理サーバ900の管理者等は、ショベル500の状況を直接的に把握しにくいため、有効である。
例えば、ショベル状況通知部6201は、表示部630に、ショベル500で警報が出力されている旨、或いは、動作制限が行われている旨を表示させてもよい。
また、例えば、ショベル状況通知部6201は、音声出力部640からショベル500で警報が出力されている旨、或いは、動作制限が行われている旨の音声を出力させてもよい。
また、ショベル状況通知部6201は、通信機器610を通じて、解除依頼通知が受信された場合、ショベル500から警報或いは動作制限の解除依頼が受信された旨を利用者に通知する。これにより、外部装置600は、利用者に、ショベル500の周辺の安全状況の確認に基づく警報或いは動作制限の解除を許可する所定の操作(後述する解除許可操作)を促すことができる。
例えば、ショベル状況通知部6201は、表示部630(第1通知部の一例)に、ショベル500から警報或いは動作制限の解除依頼が受信された旨を表示させてもよい。
また、例えば、ショベル状況通知部6201は、音声出力部640(第1通知部の一例)からショベル500から警報或いは動作制限の解除依頼が受信された旨の音声を出力させてもよい。
周辺状況情報取得部6202は、通信機器610を通じて、ショベル500で警報の出力或いは動作制限が行われている場合にショベル500から定期的に送信される周辺状況情報を取得する。
また、周辺状況情報取得部6202は、通信機器610を通じて、警報出力通知或いは動作制限通知が受信された場合に、通信機器610を通じて、周辺状況情報を要求するリクエスト信号をショベル500に送信してもよい。
また、周辺状況情報取得部6202は、取得した周辺状況情報の内容を利用者に通知する。これにより、外部装置600は、利用者にショベル500の周辺の状況の認識を促すことができる。
例えば、周辺状況情報取得部6202は、表示部630(第2通知部の一例)に、周辺状況情報の内容を表示させてもよい。
また、例えば、周辺状況情報取得部6202は、音声出力部640(第2通知部の一例)から周辺状況情報の内容に関する音声を出力させてもよい。
解除許可操作受付部6203は、外部装置600の利用者による操作部650(解除許可操作部の一例)に対するショベル500の警報或いは動作制限の解除を許可する所定の操作(以下、「解除許可操作」と称する)を受け付ける。
例えば、解除許可操作受付部6203は、外部装置600としての管理サーバ900の管理者や作業者等からの解除許可操作を受け付けてよい。また、外部装置600(例えば、管理サーバ900)を利用して、ショベル500の遠隔操作が可能な場合、解除許可操作受付部6203は、外部装置600を通じて、ショベル500の遠隔操作を行うオペレータ等からの解除許可操作を受け付けてよい。このとき、当該オペレータは、例えば、外部装置600の表示部630に表示されるショベル500の周囲の画像(具体的には、ショベル500の撮像装置40により撮像され、管理サーバ900にアップロードされる画像)に基づき、ショベル500の周囲の様子を確認することができる。
判定部6204は、ショベル500で警報の出力、或いは、動作制限が行われている場合に、警報或いは動作制限の解除の許否を判定する。
例えば、判定部6204は、周辺状況情報取得部6202により取得される周辺状況情報に基づき、ショベル500の周辺の安全状況を確認し、警報或いは動作制限の解除を許可する。具体的には、判定部6204は、周辺状況情報に基づき、ショベル500の監視エリア内に監視対象(人)がいないと確認した場合に、警報或いは動作制限の解除を許可してよい。
また、例えば、判定部6204は、解除許可操作受付部6203により解除許可操作が受け付けられた場合に、警報或いは動作制限の解除を許可する。
解除許可通知部6205は、判定部6204により警報或いは動作制限の解除が許可された場合に、通信機器610を通じて、警報或いは動作制限の解除を許可する旨の通知(解除許可通知)をショベル500に送信する。
[周辺監視システムの動作の概要]
次に、図6(図6A〜図6D)を参照して、本実施形態に係る周辺監視システム1000の動作の概要を説明する。
図6A〜図6Dは、周辺監視システム1000の動作の一例を模式的に示す図である。具体的には、図6Aは、監視対象である人(作業者402)がショベル500の監視エリア404に進入した場合の周辺監視装置100の動作の一例を模式的に示す図である。図6Bは、図6Aの状況を前提として、作業者402が監視エリア404の外に退避した場合の周辺監視装置100の動作の一例を模式的に示す図である。図6Cは、図6Bの状況を前提として、ショベル500のオペレータ401が周辺状況確認動作を行った場合の周辺監視装置100の動作の一例を模式的に示す図である。図6Dは、図6Bの状況を前提として、作業者402或いは監督者403が外部装置600(例えば、管理端末700、解除装置750)に対する所定の操作を行った場合の周辺監視装置100の動作の一例を模式的に示す図である。
尚、図中、撮像装置40の〇印は、撮像装置40により監視エリア404内の監視対象が撮像されている、つまり、検知部301により監視エリア404内の監視対象が検知されていることを表す。また、図中、音声出力装置52の〇印は、警報音が出力されていること、つまり、警報出力部303により警報が出力されていることを表す。また図中、ゲートロック弁54の〇印は、ゲートロック弁54が作動し、パイロットラインが非連通状態であること、つまり、動作制限部304によりショベル500の動作制限が行われていることを表す。また、図中、解除スイッチ60の〇印及び×印は、それぞれ、解除スイッチ60の操作が有効化された状態及び無効化された状態を表す。また、図中、確認動作状態検知部70の〇印は、オペレータ401による周辺状況確認動作が検知されていること、つまり、判定部307によりオペレータ401による周辺状況確認動作がおこなわれたと判定されたことを表す。また、図中、外部装置600の〇印は、外部装置600に対する所定の操作が行われたことを表す。
図6Aに示すように、周辺監視装置100は、撮像装置40の撮像画像に基づき、監視エリア404内に進入した作業者402を検知すると、音声出力装置52及びゲートロック弁54を作動させて、警報の出力及びショベル500の動作制限を開始する。これにより、周辺監視装置100は、オペレータ401に対して、監視エリア404内に監視対象(作業者402)が進入したことを認識させることができる。また、このとき、周辺監視装置100は、ショベル500の外部に向けて、警報の出力及びショベル500の動作制限が行われている旨を通知する。これにより、周辺監視装置100は、監視エリア内の作業者402に対して、ショベル500に接近し過ぎであることを認識させることができる。また、周辺監視装置100は、ショベル500の動作制限によって、ショベル500が動いて、作業者402との干渉等が発生する事態を抑制することができる。そのため、ショベル500の周辺の安全性を向上させることができる。
図6Bに示すように、ショベル500の監視エリア内に侵入した作業者402は、警報及び動作制限の原因が自分であると認識し、監視エリア404内から監視エリア404の外部に退避している。一方、周辺監視装置100は、作業者402が監視エリア404の外部に退避完了し、監視エリア404内に作業者402が検知されなくなっても、警報の出力及びショベル500の動作制限を継続する。これにより、仮に、作業者402が監視エリア404内に留まっている状況で、撮像装置40の撮像画像内の作業者402が背景と同化し、作業者402を認識(検知)できなくなってしまったような場合でも、警報やショベル500の動作制限が継続されうる。そのため、ショベル500の周辺の安全性を更に向上させることができる。
図6Cに示すように、周辺監視装置100は、オペレータ401がバックミラーや表示装置50の監視用画像(周辺画像)を視認する視線の動きが視線センサ等の確認動作状態検知部70により検知されると、解除スイッチ60に対する解除操作を有効化する。その後、周辺監視装置100は、解除スイッチ60に対する操作が有効になった状態で、オペレータ401により解除スイッチ60が操作されると、音声出力装置52を停止させると共に、ゲートロック弁54を作動させて、警報の解除及びショベル500の動作制限の解除を行う。これにより、周辺監視装置100は、警報やショベル500の動作制限の開始後、オペレータにショベル500の周辺の安全状況を確認させた上で、警報やショベル500の動作制限を解除させることができる。
また、図6Dに示すように、外部装置600は、監視エリア404の外部に退避した作業者402或いは監視エリア404の外部で作業現場を監督する監督者403から解除許可操作を受け付けると、解除許可通知405をショベル500に送信する。周辺監視装置100は、通信機器72により外部装置600から解除許可通知405を受信すると、ショベル500の外部で警報或いは動作制限の解除が許可されたと判定する。そして、周辺監視装置100は、音声出力装置52を停止させると共に、ゲートロック弁54を作動させて、警報の解除及びショベル500の動作制限の解除を行う。これにより、周辺監視装置100は、ショベル500の外部の作業者402や監督者403等の所定の人にショベル500の周辺の安全状況を確認させた上で、警報やショベル500の動作制限を解除することができる。
また、図6Dに示す状況において、上述の如く、外部装置600が周辺状況情報に基づき、自動的にショベル500の安全状況を確認し、ショベル500に解除許可通知405を送信してもよい。これにより、周辺監視装置100は、外部装置600にショベル500の周辺の安全状況を確認させた上で、警報やショベル500の動作制限を解除することができる。
[周辺監視装置の動作の詳細]
次に、図7〜図9を参照して、本実施形態に係る周辺監視システム1000による動作の詳細、具体的には、処理フローについて説明する。
まず、図7は、周辺監視装置100による監視対象の監視エリアへの侵入を監視する処理(監視処理)の一例を概略的に示すフローチャートである。本フローチャートによる処理は、例えば、ショベル500の運転中において、警報出力部303による警報の出力や動作制限部304によるショベル500の動作制限が行われていない場合に、所定の処理周期ごとに、繰り返し実行される。
ステップS702にて、検知部301は、撮像装置40から入力される撮像画像に基づき、監視エリア内の監視対象を検知する処理を行う。
ステップS704にて、検知部301は、監視対象が検知されたか否かを判定する。検知部301は、監視対象が検知された場合、ステップS706に進み、監視対象が検知されなかった場合、今回の処理を終了する。
ステップS706にて、警報出力部303は、音声出力装置52を通じて警報を出力し、動作制限部304は、ゲートロック弁54を作動させて、パイロットラインを非連通とすることにより、ショベル500の動作制限を行う。
ステップS708にて、警報出力部303及び動作制限部304は、それぞれ、通信機器72や外部報知装置74を制御し、ショベル500の外部に向けて、ショベル500で警報の出力及び動作制限が行われている旨を通知し、今回の処理を終了する。
続いて、図8は、外部装置600による警報及びショベル500の動作制限の解除を許可する処理(解除許可処理)の一例を概略的に示すフローチャートである。本フローチャートによる処理は、例えば、外部装置600がショベル500から警報出力通知や動作制限通知を受信した場合に、解除許可通知をショベル500に送信するまでの間、所定の制御周期ごとに、繰り返し実行されてよい。また、本フローチャートによる処理は、例えば、外部装置600がショベル500から解除依頼通知を受信した場合に、解除許可通知をショベル500に送信するまでの間、所定の処理周期ごとに、繰り返し実行されてよい。
ステップS802にて、判定部6204は、解除許可操作受付部6203により解除許可操作が受け付けられたか、或いは、周辺状況情報に基づき、ショベル500の周辺の安全状況を確認したかを判定する。判定部6204は、解除許可操作受付部6203により解除許可操作が受け付けられた場合、或いは、周辺状況情報に基づき、ショベル500の周辺の安全状況を確認した場合、ステップS804に進み、それ以外の場合、今回の処理を終了する。
ステップS804にて、判定部6204は、通信機器610を通じて、ショベル500に解除許可通知を送信し、今回の処理を終了する。
尚、本実施形態(本例)における解除許可通知は、ショベル500における警報或いは動作制限の解除(の許可)に関する情報の一例であり、その他の態様も想定されうる。
例えば、外部装置600は、ショベル500に、ショベル500の周囲確認に関する情報、即ち、警報或いは動作制限の解除に際して、ショベル500の周囲の確認を促す情報を送信してもよい。具体的には、外部装置600は、ショベル500に、オペレータによるショベル500の周囲の確認の有無を問う内容の情報を送信してよい。これにより、周辺監視装置100は、当該情報を受信した場合、オペレータにより周辺状況確認動作が行われたか否かを確認し、オペレータによる周辺状況確認動作が行われたときに、警報やショベル500の動作制限を解除することができる。また、周辺監視装置100は、当該情報を受信した場合、表示装置50や音声出力装置52(共に、オペレータ通知部の一例)を通じて、オペレータに対して、ショベル500の周囲を確認したか否かを確認したり、ショベル500の周囲を確認するように促したり等の通知を行うことができる。そして、周辺監視装置100は、オペレータによりショベル500の周囲を確認した旨の意思表示があったとき(例えば、所定の操作が行われた、或いは、カメラや視線センサにより所定のジェスチャ、ポーズ、或いは、視線移動が検出されたとき)や、オペレータによる周辺状況確認動作が行われたときに、警報やショベル500の動作制限を解除することができる。
続いて、図9は、周辺監視装置100による警報及びショベル500の動作制限を解除する処理(解除処理)の一例を概略的に示すフローチャートである。本フローチャートによる処理は、例えば、ショベル500の運転中、警報出力部303による警報の出力や動作制限部304によるショベル500の動作制限が行われている場合に、所定の処理周期ごとに、繰り返し実行される。
ステップS902にて、警報出力部303及び動作制限部304は、解除スイッチ60が操作されたか否かを判定する。警報出力部303及び動作制限部304は、解除スイッチ60が操作された場合、ステップS904に進み、操作されなかった場合、今回の処理を終了する。
尚、ステップS902の判定は、警報出力部303及び動作制限部304の何れか一方で行われてもよい。
ステップS904にて、判定部307は、オペレータによる周辺状況確認動作或いはショベル500の外部での警報及び動作制限の解除の許可が行われたか否かを判定する。判定部307は、オペレータによる周辺状況確認動作或いはショベル500の外部での警報及び動作制限の解除の許可が行われたと判定した場合、ステップS906に進み、それ以外の場合、今回の処理を終了する。
ステップS906にて、警報出力部303及び動作制限部304は、それぞれ、警報の解除及びショベル500の動作制限の解除を行い、今回の処理を終了する。
上述の特許文献1では、作業機械における警報や動作制限を解除するための操作部が設けられ、当該操作部に対するオペレータ等の操作により、警報や作業機械の動作制限が解除されうる。そのため、作業機械周辺の状況確認が不十分な場合でも、警報や作業機械の動作制限が解除されてしまう可能性がある。
これに対して、本例では、ショベル500或いはショベル500を操作するオペレータ等以外の外部装置600や外部装置600の操作者等、つまり、ショベル500及びそのオペレータとは異なる第三者に相当する装置や人により、ショベル500における警報や動作制限の解除の許否が判断される。これにより、ショベル500及びショベル500の外部からの目で、ショベル500の安全性が判断されうるため、作業機械周辺の状況確認が適切になされた上で、ショベル500における警報や動作制限を解除させることができる。よって、ショベル500及びショベル500の周囲の安全性をより向上させることができる。
尚、本例では、周辺監視装置100は、警報出力部303と動作制限部304の双方を含むが、何れか一方だけを含んでもよい。つまり、周辺監視装置100は、監視エリア内に監視対象を検知した場合に、警報の出力及びショベル500の動作制限の何れか一方だけを行う態様であってもよい。
また、本例では、判定部307は、オペレータにより周辺状況確認動作が行われたか否かと、ショベル500の外部で警報や動作制限の解除が許可されたか否かの双方を判定するが、何れか一方だけを判定してもよい。この場合、警報出力部303及び動作制限部304は、それぞれ、判定部307で判定される何れか一方の判定結果が肯定判定であり、且つ、解除スイッチ60がオペレータにより操作された場合に、警報及びショベル500の動作制限を解除する。換言すれば、周辺監視装置100は、判定部307で判定される何れか一方の判定結果が肯定判定である場合に、解除スイッチ60に対する操作を有効化する。また、上述の如く、解除許可通知と異なる他の態様の警報或いは動作制限の解除(の許可)に関する情報が外部装置600からショベル500で受信される前提の場合、周辺監視装置100は、当該情報が受信され、且つ、その後に、オペレータによる周辺状況確認動作が行われた場合に、解除スイッチ60に対する操作を有効化してもよい。また、同様に、周辺監視装置100は、当該情報が受信され、且つ、その後、オペレータによりショベル500の周囲を確認した旨の意思表示があった場合に解除スイッチ60に対する操作を有効化してもよい。
また、本例では、警報出力部303及び動作制限部304は、それぞれ、解除スイッチ60が操作されることを条件として、警報や動作制限を解除するが、解除スイッチ60の操作を条件としなくてもよい。つまり、警報出力部303及び動作制限部304は、それぞれ、判定部307によって、オペレータによる周辺状況確認動作、或いは、ショベル500の外部での警報や動作制限の解除の許可が行われたことだけを条件として、警報や動作制限を解除してもよい。
また、本例では、警報及びショベル500の動作制限は、オペレータによる周辺状況確認動作、或いは、ショベル500の外部での警報や動作制限の解除の許可が行われ、且つ、解除スイッチ60が操作された場合に、解除されるが、当該態様には限定されない。例えば、警報出力部303及び動作制限部304は、それぞれ、ショベル500の外部での警報や動作制限の解除の許可が行われるだけで、警報及びショベル500の動作制限を解除してもよい。つまり、警報及びショベルの動作制限は、ショベル500の外部装置600から解除可能であってよい。ショベル500の外部で行われる解除の許可に関する判断は、ショベル500のオペレータやコントローラ30等が行う判断よりも信頼性が相対的に高いと考えられるからである。また、例えば、警報出力部303及び動作制限部304は、それぞれ、オペレータによる周辺状況確認と外部での警報や動作制限の解除の許可の双方が行われ、且つ、解除スイッチ60が操作された場合に、警報及びショベル500の動作制限を解除してもよい。これにより、ショベル500の作業現場の周辺の安全性を更に向上させることができる。
また、本例において、外部装置600における警報及びショベル500の動作制限の解除の許否の判定は、機械学習に基づくAI(Artificial Intelligence:人工知能)関連の技術を適用することにより実現されてもよい。つまり、外部装置600からショベル500の警報や動作制限を解除したり、警報や動作制限の解除に関する情報を送信したりするための処理は、例えば、ディープラーニング(Deep Learning)等の機械学習に基づく識別器により実行されてもよい。この場合、当該識別器は、ショベル500や管理サーバ900で収集される、警報や動作制限の解除を許可できない状態を示す画像(つまり、安全が確保されていないショベル500の周辺の画像)と、許可できる状態を示す画像(つまり、安全が確保されているショベル500の周辺画像)で構成される教師データに基づき生成されうる。
また、本例では、一のショベル500と、外部装置600とを含む態様で、周辺監視システム1000が構成されるが、複数のショベル500と、外部装置600とを含む態様で、周辺監視システム1000が構成されてもよい。
また、本例に係る周辺監視装置100及び外部装置600(管理端末700、解除装置750、管理端末800、管理サーバ900)について、以下を開示する。
(1)
作業機械の周囲を監視する周辺監視装置であって、
前記作業機械の周辺の所定範囲で所定の監視対象を検知する監視対象検知部と、
前記監視対象検知部により前記監視対象が検知された場合に、警報を出力する、又は、前記作業機械の動作制限を行う制御部と、
前記作業機械の外部での前記警報又は前記動作制限の解除に関する情報を取得する取得部と、
オペレータにより前記警報又は前記動作制限を解除する意思が入力される解除意思入力部と、を備え、
前記制御部は、前記警報又は前記動作制限が行われている場合に、前記取得部により前記情報が取得され、且つ、前記解除意思入力部に対して前記意思が入力された場合に、前記警報又は前記動作制限を解除する、
周辺監視装置。
(2)
前記取得部は、所定の外部装置から前記警報又は動作制限の解除を許可する旨の通知を取得し、
前記制御部は、前記取得部により前記通知が取得され、且つ、前記解除意思入力部に対して前記意思が入力された場合に、前記警報又は前記動作制限を解除する、
(1)に記載の周辺監視装置。
(3)
オペレータに通知を行うオペレータ通知部を更に備え、
前記取得部は、所定の外部装置から前記作業機械の周囲確認に関する情報を取得し、
前記オペレータ通知部は、前記取得部により前記作業機械の周囲確認に関する情報が取得された場合に、当該情報の内容をオペレータに通知する、
(1)に記載の周辺監視装置。
(4)
前記作業機械の外部に向けて前記警報の出力又は前記動作制限が行われている旨を通知する外部通知部を更に備える、
(2)又は(3)に記載の周辺監視装置。
(5)
オペレータの意思で前記外部通知部による通知を行わせる外部通知意思入力部を更に備える、
(4)に記載の周辺監視装置。
(6)
前記外部通知部は、前記外部装置、又は、前記外部装置の利用者のメールアドレス若しくは所定のソーシャルネットワーキングサービスのアカウントに前記警報の出力又は前記動作制限が行われている旨の通知を送信する、
(4)又は(5)に記載の周辺監視装置。
(7)
前記外部通知部は、視覚的な方法、触覚的な方法、又は、聴覚的な方法によって、前記作業機械の周辺にいる人に前記警報の出力又は前記動作制限が行われている旨を通知する、
(4)乃至(6)の何れか一項に記載の周辺監視装置。
(8)
前記警報又は前記動作制限が行われている場合に、前記外部装置に前記警報又は前記動作制限の解除依頼の通知を送信する解除依頼通知部を更に備える、
(2)乃至(7)の何れか一項に記載の周辺監視装置。
(9)
オペレータの意思で前記解除依頼通知部による解除依頼の通知を行わせる解除依頼意思入力部を更に備える、
(8)に記載の周辺監視装置。
(10)
前記作業機械の周辺を撮像する撮像装置を更に備え、
前記取得部は、前記撮像装置の中から、所定のポーズ又はジェスチャをしている、前記作業機械の周辺に存在する所定の人を含む撮像画像を取得し、
前記制御部は、前記取得部により、前記ポーズ又は前記ジェスチャをしている前記人を含む撮像画像が取得され、且つ、前記解除意思入力部に対して前記意思が入力された場合に、前記警報又は前記動作制限を解除する、
(1)に記載の周辺監視装置。
(11)
前記解除意思入力部に対する前記意思の入力は、前記取得部により前記作業機械の外部で前記警報又は前記動作制限の解除が許可された旨の情報が取得された場合に有効になり、
前記制御部は、前記解除意思入力部に対する有効な前記意思の入力があった場合に、前記警報又は前記動作制限を解除する、
(1)乃至(10)の何れか一項に記載の周辺監視装置。
(12)
作業機械の外部に設けられ、前記作業機械又は前記作業機械と通信可能な情報処理装置と通信可能な情報処理端末であって、
前記作業機械の周辺の所定範囲で所定の監視対象が検知され、前記作業機械で警報が出力されている、又は、前記作業機械の動作制限が行われている場合に、前記警報又は前記動作制限の解除の許否を判定する判定部と、
前記判定部により前記警報又は前記動作制限の解除が許可された場合、前記作業機械に前記警報又は前記動作制限の解除の許可に関する情報を送信する解除許可通知部と、を備える、
情報処理端末。
(13)
前記作業機械の周辺の状況に関する情報を取得する周辺状況情報取得部を更に備え、
前記判定部は、前記周辺状況情報取得部により取得される情報に基づき、前記警報又は前記動作制限の解除を許可する、
(12)に記載の情報処理端末。
(14)
前記作業機械のオペレータが前記作業機械の周囲を確認したことを示す情報を取得する取得部を更に備え、
前記判定部は、前記取得部によりオペレータが前記作業機械の周囲を確認したことを示す情報が取得された場合に、前記警報又は前記動作制限の解除を許可する、
(12)又は(13)に記載の情報処理端末。
(15)
前記判定部は、前記周辺状況情報取得部により取得された情報に基づき、前記作業機械の前記所定範囲内に前記監視対象がいないと確認した場合に、前記警報又は前記動作制限の解除を許可する、
(13)に記載の情報処理端末。
(16)
当該情報処理端末の利用者が前記警報又は前記動作制限の解除を許可する操作を行う解除許可操作部を更に備え、
前記判定部は、前記解除許可操作部が操作された場合に、前記警報又は前記動作制限の解除を許可する、
(12)乃至(15)の何れか一項に記載の情報処理端末。
(17)
前記作業機械から前記警報の出力又は前記動作制限が行われている旨の通知、又は、前記警報又は前記動作制限の解除依頼の通知が受信された場合に、当該情報処理端末の利用者にその旨を通知する第1通知部を更に備える、
(16)に記載の情報処理端末。
(18)
前記作業機械の周辺の状況に関する情報を取得する周辺状況情報取得部と、
前記周辺状況情報取得部により取得された情報の内容を当該情報処理装置の利用者に通知する第2通知部と、を更に備える、
(16)又は(17)に記載の情報処理端末。
(19)
前記判定部は、前記作業機械から前記警報の出力又は前記動作制限が行われている旨の通知、又は、前記警報又は前記動作制限の解除依頼の通知が受信された場合に、前記警報又は前記動作制限の解除の許否を判定する、
(12)乃至(18)の何れか一項に記載の情報処理端末。
(20)
前記作業機械が作業する作業現場の所定の作業員が携帯する端末、前記作業現場の所定の事務所に設けられる端末である、
(12)乃至(19)の何れか一項に記載の情報処理端末。
(21)
作業機械の外部に設けられ、前記作業機械と通信可能な情報処理装置であって、
前記作業機械の周辺の所定範囲で所定の監視対象が検知され、前記作業機械で警報が出力されている、又は、前記作業機械の動作制限が行われている場合に、前記警報又は前記動作制限の解除の許否を判定する判定部と、
前記判定部により前記警報又は前記動作制限の解除が許可された場合、前記作業機械に前記警報又は前記動作制限の解除の許可に関する情報を送信する解除許可通知部と、を備える、
情報処理装置。
(22)
作業機械の外部に設けられ、前記作業機械、若しくは、前記作業機械と通信可能な情報処理装置と、通信可能な情報処理端末、又は、前記作業機械の外部に設けられ、前記作業機械と通信可能な情報処理装置に、
前記作業機械の周辺の所定範囲で所定の監視対象が検知され、前記作業機械で警報が出力されている、又は、前記作業機械の動作制限が行われている場合に、前記警報又は前記動作制限の解除の許否を判定する判定ステップと、
前記判定ステップにより前記警報又は前記動作制限の解除が許可された場合、前記作業機械に前記警報又は前記動作制限の解除の許可に関する情報を送信する解除許可通知ステップと、を実行させる、
情報処理プログラム。
<周辺監視システムの他の例>
次いで、図10〜図18を参照して、周辺監視システム1000の他の例について説明する。本例では、主に、周辺監視装置100及び周辺監視装置100が搭載されるショベル500の構成が異なる。
以下、本例では、上述した一例と異なる部分を中心に説明を行い、上述の一例と重複する説明を省略する場合がある。例えば、本例では、便宜上、周辺監視システム1000における周辺監視装置100及びショベル500以外の構成、つまり、外部装置600に関する説明や図示が省略される場合がある。また、本例では、便宜上、周辺監視装置100及びショベル500の構成のうち、周辺監視装置100(ショベル500)と外部装置600とのやり取りに関する説明や図示が省略される場合がある。
[周辺監視装置の構成]
次に、図10、図11を参照して、本実施形態に係る周辺監視装置100の具体的な構成について説明をする。
図10は、本実施形態に係る周辺監視装置100が搭載されるショベル500の他の例を示す図であり、具体的には、ショベル500の側面図である。図11は、本実施形態に係る周辺監視装置100の構成の他の例を示すブロック図である。図10、図11において、便宜上、周辺監視装置100及びショベル500の構成のうち、周辺監視装置100(ショベル500)と外部装置600とのやり取りに関する構成(例えば、解除依頼通知部305、周辺状況情報送信部306、判定部307、確認動作状態検知部70等)の図示は、省略される。
尚、本実施形態に係る周辺監視装置100は、上述の如く、ショベル500以外の任意の作業機械に搭載されてよい。例えば、周辺監視装置100は、エンドアタッチメントとしてリフティングマグネットが取り付けられたリフマグ機、ブルドーザ、ホイールローダ、アスファルトフィニッシャ、林業機械等に搭載されてもよい。
周辺監視装置100は、上述の一例と同様、ショベル500の周辺の所定範囲内への監視対象である所定の物体、つまり、監視対象の侵入を監視し、監視対象を検知した場合、警報を出力したり、ショベルの動作を制限したりする。
周辺監視装置100は、コントローラ30と、撮像装置40と、表示装置50と、音声出力装置52と、ゲートロック弁54と、解除スイッチ60と、監視機能ON/OFFスイッチ(以下、便宜的に「監視機能スイッチ」と称する)62と、表示内容切替スイッチ64を含む。
コントローラ30は、ショベル500の駆動制御を行う主たる制御装置である。例えば、コントローラ30は、キャビン10内に搭載され、周辺監視装置100に関する各種制御処理を行う。
コントローラ30は、その機能が任意のハードウェア、ソフトウェア、或いは、これらの組み合わせにより実現されてよい。コントローラ30は、上述の如く、例えば、CPU、RAM、ROM、補助記憶装置、RTC、各種通信用インターフェース等を含むマイクロコンピュータを中心に構成される。コントローラ30は、例えば、ROMや補助記憶装置に格納される各種プログラムをCPU上で実行することにより実現される機能部として、検知部301と、表示制御部302と、警報出力部303と、動作制限部304を含む。
撮像装置40(センサの一例)は、上部旋回体3の上部に取り付けられ、ショベル500の周辺を撮像する。撮像装置40は、カメラ40B,40L,40Rを含む。
カメラ40B、カメラ40L、及び、カメラ40Rは、上述の如く、それぞれ、上部旋回体3の後端上部、左端上部、及び、右端上部に取り付けられ、上部旋回体3の後方、左側方、及び、右側方を撮像する。例えば、カメラ40B、カメラ40L、及び、カメラ40R(それぞれ、単眼カメラの一例)は、それぞれ、非常に広い画角を有する単眼の広角カメラである。具体的には、カメラ40B、カメラ40L、及び、カメラ40Rは、それぞれ、上部旋回体3の上部において、光軸が斜め下方に向くように取り付けられ、ショベル近傍の地面からショベルの遠方までを含む上下方向の撮像範囲を撮像する。カメラ40B、カメラ40L、及び、カメラ40Rは、それぞれ、ショベル500の運転中、所定周期(例えば、1/30秒)ごとに、撮像画像を出力し、出力された撮像画像は、コントローラ30に取り込まれる。
監視機能スイッチ62は、例えば、キャビン10内に設けられ、オペレータ等が周辺監視装置100による監視機能をON/OFFするための操作部である。つまり、監視機能スイッチ62は、監視対象の検知に基づき実行される、警報の出力及びショベル500の動作制限の機能を有効状態或いは無効状態にするための操作部である。
例えば、監視機能スイッチ62に対するオペレータ等の操作に応じて、監視機能が有効になっている場合、後述する検知部301、表示制御部302、警報出力部303、及び、動作制限部304の機能は、有効になっている。
一方、例えば、監視機能スイッチ62に対するオペレータ等の操作に応じて、監視機能が無効になっている場合、検知部301、表示制御部302(少なくとも監視機能に関する部分)、警報出力部303、及び、動作制限部304の全ての機能は、無効になっている。また、この場合、検知部301、表示制御部302、警報出力部303、及び、動作制限部304のうち、警報出力部303及び動作制限部304の機能だけが無効であり、検知部301や表示制御部302の監視機能に関する部分の機能は有効のままであってもよい。これにより、監視機能を無効に維持しつつ、監視機能スイッチ62の操作に応じて、監視機能が有効化された場合に、検知部301、表示制御部302の機能を再起動させる必要がなく、監視機能の再開までに要する時間を短縮させることができる。
また、例えば、監視機能スイッチ62に対するオペレータ等の操作に応じて、監視機能が無効になっている場合、監視機能が無効状態であることを示すインジケータが、コントローラ30(後述する表示制御部302)による制御の下、表示装置50に表示される。また、キャビン10内に赤色ランプ等で構成される専用インジケータが設けられ、例えば、監視機能スイッチ62に対するオペレータ等の操作に応じて、監視機能が無効になっている場合、当該専用インジケータが点灯する態様であってもよい。これにより、周辺監視装置100は、監視機能(つまり、監視対象の検知に基づく警報の出力やショベル500の動作制限等の機能)が無効状態であることを、オペレータ等に認識させることができる。
監視機能スイッチ62の操作状態に関する情報は、コントローラ30に取り込まれる。
表示内容切替スイッチ64は、例えば、キャビン10内に設けられ、オペレータ等が表示装置50に表示される内容を切り替えるための操作部である。例えば、表示内容切替スイッチ64は、表示装置50の表示内容を、撮像装置40の撮像画像にするのか、後述の周辺画像を含む監視画像にするのか、或いは、双方の同時表示にするのか等を切り替える操作部である。表示内容切替スイッチ64の操作状態に関する情報は、コントローラ30に取り込まれる。
検知部301は、撮像装置40により撮像された撮像画像に基づき、ショベル500の周辺の所定領域、具体的には、ショベル500から見た水平方向、つまり、ショベル500が作業している(下部走行体1が接地している)平面に沿う方向(以下、単に「水平方向」と称する)の監視エリア内において、監視対象を検知する。具体的には、検知部301は、ショベル500からの水平方向の距離Dが所定距離D1(例えば、5メートル)以内の監視エリア内で、監視対象を検知する。
例えば、上述の図4に示すように、監視エリアは、カメラ40B、カメラ40L、及び、カメラ40Rのそれぞれに対応する監視エリアMAB、監視エリアMAL、及び、監視エリアMARを含む。
監視エリアMAB、監視エリアMAL、及び、監視エリアMARは、それぞれ、対応するカメラ40B,40L,40Rの水平方向の画角と、カメラ40B,40L,40Rから水平方向に延在する監視可能距離で規定されうる。
また、監視エリアMAB、監視エリアMAL、及び、監視エリアMARのうち、コントローラ30の利用可能な処理リソースの範囲内で、一の監視エリアで監視可能距離を長くし、他の監視エリアで短くする等のトレードオフが可能である(図中の点線及び一点鎖線参照)。
図10及び図11に戻り、また、検知部301は、撮像装置40により撮像された撮像画像に基づき、上述のショベル500から見た水平方向の条件に加えて、ショベル500から見た高さ方向、つまり、ショベル500が作業している(下部走行体1が接地している)平面を基準とする鉛直方向(以下、単に「高さ方向」と称する)の条件を満足する監視対象を検知する。具体的には、検知部301は、水平方向で規定される監視エリア内において、高さ方向で所定範囲HR1(第1範囲の一例)内の位置に存在する監視対象を検知する。つまり、検知部301は、監視エリア内において、ショベル500が作業を行う作業面との高さ方向の差が比較的小さい監視対象を検知する。より具体的には、検知部301は、監視エリア内において、ショベル500の特定の高さに関する基準位置に対して、正方向及び負方向の少なくとも一方の範囲で規定される所定範囲HR1(例えば、−2メートル〜+2メートル等)内に存在する監視対象を検知する。これにより、周辺監視装置100は、ショベル500の作業面との間の高さ方向の差が比較的大きい位置に存在する監視対象を監視機能の対象外にすることができる。
尚、当該基準位置は、例えば、ショベル500の作業面の高さに対応する下部走行体1のクローラの接地面の中心位置や前端或いは後端の位置等が適宜選択されうる。
例えば、検知部301は、既知の各種画像処理手法や人工知能(AI:Artificial Intelligence)等を含む機械学習ベースの識別器等を任意に適用することにより、撮像画像内の監視対象を認識する。
また、検知部301は、既知の各種手法を適用することにより、単眼の撮像装置40による撮像画像に含まれる、認識された監視対象(人)が存在する位置(以下、「実在位置」と称する。例えば、足元位置)を判定(推定)することができる。
例えば、検知部301は、認識された監視対象の撮像画像上における大きさ(例えば、撮像画像上の高さ方向の大きさ)に基づき、ショベル500から見た水平方向の位置(以下、「水平位置」と称する)を推定する。認識された監視対象の撮像画像上における大きさは、監視対象がショベル500から離れるほど小さくなる相関関係があるからである。具体的には、監視対象には、想定される大きさの範囲(例えば、想定される人の身長の範囲)が規定されうるため、想定された大きさの範囲に含まれる当該監視対象のショベル500から見た水平位置と、撮像画像上での大きさとの相関関係が予め規定されうる。そのため、検知部301は、例えば、コントローラ30の補助記憶装置等の内部メモリに予め格納される、撮像画像上の監視対象の大きさとショベル500から見た水平位置との相関関係を表すマップや変換式等に基づき、認識された監視対象の実在位置(ショベル500からの水平位置)を推定することができる。
また、例えば、検知部301は、監視対象がショベル500(の下部走行体1)と同じ平面上に存在する前提の下、撮像画像を当該平面上への射影変換(ホモグラフィ)等によって、その実在位置(例えば、足元位置)を推定することができる。この場合、撮像画像を構成するある部分(ある点)は、ショベル500と同じ平面上のある位置に対応づけられる。
ここで、監視対象の足元位置とショベル500の作業面との間に高さ方向の差がある場合、撮像画像上の監視対象は、監視対象がショベル500の作業面と同じ平面上に位置する場合(つまり、ショベル500と監視対象とが高さ方向で同じ位置にいる場合)と異なって見える。
例えば、ショベル500から見た水平位置が同じであっても、ショベル500の作業面と異なる高さ方向の位置(以下、「高さ位置」と称する)にいる監視対象は、ショベル500の作業面と同じ高さ位置にいる場合に対して、撮像画像上における高さ方向(例えば、撮像画像上の上下方向、或いは、上下方向に対して歪みによる像の倒れ等を考慮して規定される方向)にずれて見える。また、ショベル500の作業面と異なる高さ位置にいる監視対象は、ショベル500の作業面と同じ高さ位置にいる場合に対して、撮像装置40から見た方向にも差が生じるため、撮像画像上における高さ方向に対応する寸法にも差が生じる。
また、例えば、ショベル500の作業面と異なる高さ位置にいる監視対象は、仮に、監視対象がショベル500の作業面と同じ平面上に存在する前提下で推定された実在位置にいる場合に対して、撮像画像上における高さ方向に対応する寸法に差が生じる。上述の如く、撮像装置40は、地面に向けて斜め下方向に光軸が向けられているため、監視対象の高さ位置がショベル500の作業面からずれると、撮像装置40との距離が近くなったり、遠くなったりすることになるからである。
つまり、検知部301は、撮像画像上の監視対象の見え方がある範囲内(所定範囲HR2内)にあるときに、監視対象が、実空間において、高さ方向で所定範囲HR1内にあると判定することができる。
具体的には、検知部301は、撮像画像上における監視対象の基準位置(例えば、ショベル500の作業面上における推定した監視対象の水平位置に相当する撮像画像上の基準線)に対する高さ方向でのずれ量が所定範囲HR2内にあるときに、実空間において、監視対象が所定範囲HR1内にあると判定することができる。このとき、所定範囲HR2は、検知部301により推定される監視対象の実在位置(ショベル500から見た水平位置)に応じて予め規定される。より具体的には、所定範囲HR2は、検知部301により推定される監視対象の実在位置のショベル500から見た遠近の程度に応じて予め規定される。監視対象の足元位置とショベル500の作業面との高さ方向の差に対応する撮像画像上のずれ量は、監視対象がショベル500(撮像装置)から離れる(遠くなる)ほど小さくなるからである。
また、検知部301は、撮像画像上の監視対象の高さ方向に対応する寸法が、所定範囲HR2内にあるときに、監視対象が、実空間において、高さ方向で所定範囲HR1内にあると判定することができる。このとき、所定範囲HR2は、例えば、撮像画像上の監視対象が含まれる画像部分の位置に応じて予め規定される。より具体的には、所定範囲HR2は、撮像画像上の監視対象が含まれる画像部分の位置に応じて変化する態様で予め規定される。監視対象がショベル500の作業面と同じ平面に存在する前提下において、撮像画像上の任意の画像部分は、ショベル500の作業面上のある位置に一対一で対応づけられるため、ショベル500から見たその位置の遠近の程度によって、監視対象の高さ方向に対応する寸法が異なりうるからである。換言すれば、所定範囲HR2は、検知部301により推定される実在位置(監視対象がショベル500の作業面と同じ平面上に存在する前提下での実在位置)の遠近の程度に応じて規定される。
尚、当該所定範囲HR2は、実空間上で規定される所定範囲HR1に対応する撮像画像上の見え方の相違が予め演算処理されることにより導出されるマップ等の態様で、コントローラ30の補助記憶装置等の内部メモリに予め格納される。このとき、所定範囲HR2は、想定される監視対象の高さ方向に対応する寸法(例えば、想定される人の身長)や撮像装置40の取り付け高さや取り付け姿勢(角度)に応じて、規定されうる。想定される監視対象の高さ方向に対応する寸法によって、撮像装置40の撮像画像上における監視対象の見え方の変化の程度が異なりうるからである。また、撮像装置40の取り付け高さや取り付け姿勢によって、監視対象と光軸との関係が異なり、結果として、撮像装置40の撮像画像上における監視対象の見え方の変化の程度が異なりうるからである。また、ショベル500として複数の機種(例えば、中型機、大型機等)がある場合、撮像装置40の取り付け高さ等が異なるため、その結果、当該所定範囲HR2は、機種ごとに異なりうる。よって、想定される複数の機種ごとの所定範囲HR2(具体的には、所定範囲HR2に対応する上述のマップ等)は、全て、コントローラ30内の内部メモリに予め格納されていてもよい。これにより、機種ごとにコントローラ30の仕様を変更する必要が無く、コントローラ30の共通化を図ることができる。
例えば、図12(図12A〜図12D)は、上述した高さ方向の条件によって、監視機能(警報の出力及びショベル500の動作制限等)の対象外となる監視対象の具体例を示す図である。
図12Aは、作業者Wがショベル500の作業面よりも高さ方向で一段下がった平面に存在する状況を示す図である。
本例では、作業者Wは、ショベル500から見た同じ水平位置において、ショベル500と同じ作業面上にいる仮想的な作業者(仮想作業者)Wvよりも、下方に位置している。そのため、撮像装置40の撮像画像上に含まれる作業者Wは、ショベル500から見た同じ水平位置で、ショベル500と同じ作業面上に存在する仮想作業者Wvに対して高さ方向で下にずれて見える。
また、本例では、作業者Wは、ショベル500と同じ作業面上に存在する場合に対して、撮像装置40からの距離が遠くなる。そのため、ショベル500の作業面と同じ平面上に存在する前提下で推定された実在位置に、作業者Wが撮像装置40の光軸に合わせて投影されることにより得られる像Wiは、その高さ方向の寸法が、実際の作業者Wよりも小さくなる。つまり、撮像装置40の撮像画像上に含まれる作業者Wは、その高さ方向に対応する寸法が、ショベル500の作業面と同じ平面上に存在する前提下で推定された実在位置に存在する場合よりも小さく見える。
また、同様に、図12Bは、作業者Wがショベル500の作業面よりも高さ方向で一段上がった平面に存在する状況を示す図である。
本例では、作業者Wは、ショベル500から見た同じ水平位置において、ショベル500と同じ作業面上にいる仮想作業者Wvよりも、上方に位置している。そのため、撮像装置40の撮像画像上に含まれる作業者Wは、ショベル500から見た同じ水平位置で、ショベル500と同じ作業面上に存在する仮想作業者Wvに対して高さ方向で上にずれて見える。
また、本例では、作業者Wは、ショベル500と同じ作業面上に存在する場合に対して、撮像装置40からの距離が近くなる。そのため、ショベル500の作業面と同じ平面上に存在する前提下で推定された実在位置に、作業者Wが撮像装置40の光軸に合わせて投影されることにより得られる像Wiは、その高さ方向の寸法が、実際の作業者Wよりも大きくなる。つまり、撮像装置40の撮像画像上に含まれる作業者Wは、その高さ方向に対応する寸法が、ショベル500の作業面と同じ平面上に存在する前提下で推定された実在位置に存在する場合よりも大きく見える。
よって、高さ方向の上下の段差が所定範囲HR1を超える場合、撮像画像上の作業者Wの見え方は、ショベル500の作業面と同じ平面に存在する場合に対して、所定範囲HR2外になる。そのため、検知部301は、当該作業者Wを検知せず、周辺監視装置100の監視機能の対象外になる。ショベル500が、その作業面と比較的大きな段差を有する他の平面に移動する可能性は極めて低く、当該他の平面の作業者Wとの接触等の可能性も極めて低いと考えることができるからである。
また、図12Cは、ショベル500が傾斜面で作業しているときに、作業者Wが傾斜面の下り方向に隣接する水平面に存在する状況を示す図である。
本例では、作業者Wは、ショベル500から見た同じ水平位置において、傾斜面と水平面との角度差に応じて、ショベル500と同じ作業面上にいる仮想作業者Wvよりも高さ方向で上方(つまり、高くなる方向)に存在することになる。そのため、図12Bの場合と同様、撮像装置40の撮像画像上に含まれる作業者Wは、図12Bの場合と同様、ショベル500から見た同じ水平位置で、ショベル500と同じ作業面上に存在する仮想作業者Wvに対して高さ方向で上にずれて見える。
また、本例では、図12Bの場合と同様、作業者Wは、ショベル500と同じ作業面上に存在する場合に対して、撮像装置40からの距離が近くなる。そのため、ショベル500の作業面と同じ平面上に存在する前提下で推定された実在位置に、作業者Wが撮像装置40の光軸に合わせて投影されることにより得られる像Wiは、その高さ方向の寸法が、実際の作業者Wよりも大きくなる。つまり、撮像装置40の撮像画像上に含まれる作業者Wは、その高さ方向に対応する寸法が、ショベル500の作業面と同じ平面上に存在する前提下で推定された実在位置に存在する場合よりも大きく見える。
また、同様に、図12Dは、ショベル500が傾斜面で作業しているときに、作業者Wが傾斜面の上り方向に隣接する水平面に存在する状況を示す図である。
本例では、作業者Wは、ショベル500から見た同じ水平位置において、傾斜面と水平面との角度差に応じて、ショベル500と同じ作業面上にいる仮想作業者Wvよりも高さ方向で下方(つまり、低くなる方向)に存在することになる。そのため、図12Aの場合と同様、撮像装置40の撮像画像上に含まれる作業者Wは、仮想作業者Wvに対して高さ方向で下にずれて見える。
また、本例では、図12Aの場合と同様、作業者Wは、ショベル500と同じ作業面上に存在する場合に対して、撮像装置40からの距離が遠くなる。そのため、ショベル500の作業面と同じ平面上に存在する前提下で推定された実在位置に、作業者Wが撮像装置40の光軸に合わせて投影されることにより得られる像Wiは、その高さ方向の寸法が、実際の作業者Wよりも小さくなる。つまり、撮像装置40の撮像画像上に含まれる作業者Wは、その高さ方向に対応する寸法が、ショベル500の作業面と同じ平面上に存在する前提下で推定された実在位置に存在する場合よりも小さく見える。
よって、ショベル500が作業中の傾斜面と作業者Wが存在する水平面との角度差に起因する作業者Wの足元位置と傾斜面との高さ方向の差が所定範囲HR1を超える場合、撮像画像上の作業者Wの見え方は、ショベル500の作業面と同じ平面に存在する場合に対して、所定範囲HR2外になる。そのため、検知部301は、作業者Wを検知せず、周辺監視装置100の監視機能の対象外となる。作業者Wの足元位置とショベル500の作業面との高さ方向の差が比較的大きい状況は、ショベル500の作業面と作業者Wの存在面との間の角度差が比較的大きい状況やショベル500と作業者Wとの間の水平方向の距離もある程度離れている状況に対応するからである。より具体的には、ショベル500の作業面と作業者Wの存在面との間の角度差がある程度大きくなると、ショベル500が角度差を超えて作業者Wの存在面まで移動してくる可能性が極めて低くなり、作業者Wとの接触等の可能性も極めて低いと考えることができるからである。また、ショベル500と作業者Wとの間の水平方向の距離がある程度離れていると、ショベル500と作業者Wとの間の接触等の可能性が更に低くなるからである。
尚、監視機能の対象外とする条件に対応する高さ方向の上述した段差や角度差の範囲、つまり、所定範囲HR1は、ショベル500の走行性能に応じて、規定されうる。ショベル500の走行性能によって、段差や角度差を超えて、ショベル500が移動してくる可能性が異なり得るからである。
また、検知部301は、他の方法で、撮像装置40の撮像画像から認識される監視対象(人)が、高さ方向で所定範囲HR1内にあるか否かを判定してもよい。
例えば、図13は、周辺監視装置100が搭載されるショベル500の更に他の例を示す図である。本例では、ショベル500、つまり、周辺監視装置100は、更に、ライダ(LIDAR:Light Detection and Ranging)42を含む。
LIDAR42(センサの一例)は、ショベル500の周辺の障害物や地形を含む物体を検出する。また、LIDAR42は、検出した物体(検出物体)の位置(具体的には、当該物体のショベル500から見た方向及び距離)に関する情報を出力する。つまり、LIDAR42は、ショベル500の周辺の地形に関する位置情報(地形情報)を出力することができる。
これにより、検知部301は、LIDAR42から出力される地形情報に基づき、撮像画像から認識した監視対象の水平方向の位置に対応する地形を特定することができる。そのため、検知部301は、特定した地形に対応する高さ方向の位置に基づき、認識した監視対象が、高さ方向で所定範囲HR1内にあるか否かを判定することができる。
尚、本例では、地形情報が取得可能であれば、他のセンサが採用されてもよい。例えば、LIDAR42の代わりに、ミリ波レーダ、ステレオカメラ等が採用されてもよい。
また、例えば、図14は、周辺監視装置100が搭載されるショベル500の更に他の例を示す図である。本例では、ショベル500、つまり、周辺監視装置100は、更に、GPS(Global Positioning System)モジュール80と、通信機器72を含む。
GPSモジュール80(位置情報取得部の一例)は、ショベル500の上空の3以上、好ましくは、4以上の衛星から送信されるGPS信号を受信し、ショベル500の位置を測位する。GPSモジュール80により測位されたショベル500の位置情報は、コントローラ30に取り込まれる。
通信機器72(地形情報取得部の一例)は、所定の外部装置(例えば、作業現場の外部に設けられる管理サーバ900や作業現場の管理事務所に設けられる管理端末700等)との間で、所定の方式での通信を行う。通信機器72は、例えば、所定の通信ネットワークを通じて外部装置と通信を行う移動通信モジュールや、比較的近くに存在する外部装置と通信を行うRF(Radio Frequency)通信機器等である。
これにより、コントローラ30は、通信機器72を通じて、所定の外部装置(例えば管理サーバ900等)にアクセスし、当該外部装置からショベル500の作業現場の情報化施工に関する地形情報を取得することができる。そのため、検知部301は、GPSモジュール80によるショベル500の位置情報と、作業現場の地形情報とに基づき、作業現場におけるショベル500の位置を特定すると共に、撮像画像から認識した監視対象の水平方向の位置に対応する地形を特定することができる。そのため、検知部301は、図13の例示の場合と同様、特定した地形に対応する高さ方向の位置に基づき、認識した監視対象が、高さ方向で所定範囲HR1内にあるか否かを判定することができる。
尚、検知部301は、撮像装置40の撮像画像に代えて、或いは、加えて、ショベル500に搭載される他のセンサの検出結果(距離画像等)に基づき、ショベル500の周辺の監視対象を検知してもよい。検知部301は、例えば、ショベル500に搭載されるミリ波レーダ、LIDAR、ステレオカメラ等の検出結果に基づき、監視対象を検出することができる。この場合、検知部301は、図12A〜図12Dに対応する方法によって、監視対象が高さ方向で所定範囲HR1内にあるか否かを判定してよい。
表示制御部302は、表示装置50に各種情報画像を表示させる。
例えば、表示制御部302は、オペレータによる表示内容切替スイッチ64に対する操作に応じて、表示装置50に、カメラ40B,40L,40Rのうちの少なくとも一つのカメラの撮像画像を表示させる。以下、表示装置50に表示される当該撮像画像を「スルー画像」と称する場合がある。
また、例えば、表示制御部302は、オペレータによる表示内容切替スイッチ64に対する操作に応じて、撮像装置40の撮像画像に基づき、周辺画像(合成画像の一例)を生成し、表示装置50に表示させる。
具体的には、表示制御部302は、周辺画像として、カメラ40B,40L,40Rの撮像画像に基づき、既知の視点変換処理を行うことにより、仮想視点から見た視点変換画像を生成し、表示装置50に表示させる。また、表示制御部302は、周辺画像を表示装置50に表示させる際、撮像装置40の撮像範囲とショベル500との相対位置関係を明示するため、ショベル500を模式的に表すショベル画像を併せて表示装置50に表示させる。即ち、表示制御部302は、ショベル画像と、ショベル500と撮像装置40の撮像範囲との相対位置関係に合わせて、ショベル画像の周囲に配置される周辺画像とを含む監視用画像を生成し、表示装置50に表示させる。
尚、表示制御部302の機能は、表示装置50に内蔵されてもよい。この場合、撮像装置40(カメラ40B,40L,40R)の撮像画像、及び、検知部301の検知結果等の情報は、それぞれ、撮像装置40及びコントローラ30から表示装置50に取り込まれる。
例えば、図15は、表示装置50に表示される監視用画像MPの一例を示す図である。
図15に示すように、表示装置50は、各種情報画像が表示される表示領域である表示部50Aと、表示部50Aに表示される各種情報画像に関するオペレータ等による操作を受け付ける、ボタンスイッチ等のハードウェアによる操作部50Bを含む。
表示部50Aは、例えば、表示装置50における横長の長方形の画面(例えば、アスペクト比4:3の画面)画面である。表示部50Aには、上述の如く、ショベル画像CGと、ショベル画像CGの周囲に配置される周辺画像EPとを含む監視用画像MPが表示されている。これにより、オペレータ等は、周辺画像EPに写っている監視対象(即ち、人)と、ショベル500との位置関係を適切に把握することができる。
本例の周辺画像EPは、ショベル500に隣接する周辺領域を真上から見た俯瞰画像BVPと、当該俯瞰画像BVPの周りに配置される、ショベル500から当該周辺領域を水平方向に見た水平画像HVPとを組み合わせた視点変換画像である。視点変換画像である周辺画像EPは、カメラ40B,40L,40Rのそれぞれの撮像画像を空間モデルに投影した上で、その空間モデルに投影された投影画像を別の二次元平面に再投影することにより得られる。空間モデルは、仮想空間における撮像画像の投影対象であり、撮像画像が位置する平面以外の平面或いは曲面を含む一又は複数の平面或いは曲面で構成される。
また、監視用画像MPには、ガイドラインGL1が重畳表示される。ガイドラインGL1は、ショベル500からの水平方向の距離Dが所定距離D2(≦D1)の位置を表す。つまり、ガイドラインGL1は、ショベル500の真上から見た平面視に対応するショベル画像CGの輪郭形状を、ショベル画像CGの外側に所定距離D2に相当する量だけオフセット(拡大)させた線分である。これにより、オペレータ等は、周辺画像に監視対象(即ち、人)が写っている場合に、ショベル500からどの程度離れた位置にいるかを把握することができる。
尚、検知部301の監視対象を検知するための処理(監視対象検知処理)と、表示制御部302による監視用画像(周辺画像)を生成する処理(周辺画像生成処理)は、非同期処理であってよい。この場合、コントローラ30において、周辺画像生成処理は、監視対象検知処理よりも、起動や処理周期が高速になるような設定であってよい。これにより、周辺画像生成処理が滞り、表示装置50に表示される監視用画像内の周辺画像が更新されないような事態を抑制することができる。
図10及び図11に戻り、警報出力部303(制御部の一例)は、上述の如く、検知部301により水平方向で規定される監視エリア内において、高さ方向で所定範囲HR1内の監視対象が検知された場合、キャビン10の内部或いは外部に向けて、警報を出力する。
例えば、警報出力部303は、上述の如く、聴覚的な方法、つまり、音による警報を出力する。具体的には、警報出力部303は、音声出力装置52に制御指令を出力し、警告音を出力させる。
また、例えば、警報出力部303は、上述の如く、視覚的な方法、つまり、表示装置50への表示による警報を出力する。具体的には、警報出力部303は、表示制御部302に警報要求を送信する。これにより、表示制御部302は、警報要求に応じて、表示装置50に表示されるスルー画像或いは監視用画像MPの周辺画像EPに含まれる監視対象である人を強調させることで、表示装置50は、オペレータに対する警報を出力することができる。警報出力部303による監視対象の強調態様の詳細は、後述する(図16A〜16D参照)。
尚、警報出力部303は、上述の如く、触覚的な方法、例えば、オペレータが着座する操縦席を振動させる振動発生装置を通じて、警報を出力してもよい。
動作制限部304(制御部の一例)は、上述の如く、検知部301により水平方向で規定される監視エリア内において、高さ方向で所定範囲HR1内の監視対象が検知された場合、ショベル500の動作要素の動作を制限する。
[監視対象の検知時における表示装置の表示内容]
次に、図16(図16A〜図16D)を参照して、検知部301により監視対象が検知されている場合の表示装置50の表示内容の具体例について説明する。
図16A〜図16Dは、検知部301により監視対象が検知されている場合の表示装置50の表示内容の具体例を示す図である。
まず、図16Aは、表示装置50にカメラ40B,40L,40Rのうちの何れか一つの選択されたカメラのスルー画像TPが表示されている状況で、監視対象(作業者W1)が検知された場合の表示装置50に表示されるスルー画像TPの一例を示す図である。以下、表示装置50に表示されているスルー画像TPに対応する、カメラ40B,40L,40Rのうちの何れか一つの選択されたカメラを、便宜的に、「選択カメラ」と称する場合がある。
尚、オペレータは、例えば、表示内容切替スイッチ64を通じて、カメラ40B,40L,40Rの中から表示装置50に表示させるスルー画像TPに対応するカメラ(選択カメラ)を選択する(切り替える)ことができる。また、本例の作業者W1は、水平方向で監視エリア内に存在し、且つ、高さ方向で所定範囲HR1内に存在する前提で説明を進める。以下、後述する図16B〜図16Dの作業者W2〜W4についても同様の前提である。
図16Aに示すように、本例のスルー画像TPの中央部には、ショベル500の周辺で作業する作業者W1が写っている(つまり、作業者W1が含まれる)。
このとき、作業者W1は、水平方向において、選択カメラの略真正面に立っている。換言すれば、作業者W1は、選択カメラの水平方向における画角の中央付近に存在する。そのため、実空間の水平方向に対応する、スルー画像TP上の左右方向での作業者W1が含まれる画像部分の歪みは、非常に小さく、例えば、作業者W1の像がスルー画像TPの左右方向の外側に向けて倒れる現象(以下、便宜的に「像倒れ現象」と称する)等は発生しない。よって、地面上に立っている作業者W1は、スルー画像TP上において、表示部50Aの上下方向に沿って立っているように見える。
作業者W1は、上述の如く、水平方向で監視エリア内に存在し、且つ、高さ方向で所定範囲HR1内に存在する。そのため、検知部301は、当該作業者W1を検知し、警報出力部303は、表示制御部302を通じて、表示装置50に表示されるスルー画像TPに含まれる作業者W1を強調させるマーカ、具体的には、作業者W1を取り囲む枠FR1を重畳して表示させる。これにより、オペレータ等は、スルー画像TPを確認することで、ショベルの周辺で監視エリア内に進入した作業者W1を容易に認識することができ、当該作業者W1がどのような動作(作業)を行っているか等を素早く把握することができる。
このとき、枠FR1は、実在空間における高さ方向、つまり、地面に立っている作業者W1の足元位置から頭部位置に向かう方向(以下、便宜的に、「身長方向」と称する)に延在する四角形で構成される。本例の場合、上述の如く、実空間の水平方向において、作業者W1が選択カメラの略真正面に立っていることから、作業者W1の身長方向は、表示部50Aの縦方向(具体的には、表示部50Aの上方向)に相当する。そのため、枠FR1は、スルー画像TP上の作業者W1の足元位置付近の下方に一辺を有すると共に、当該底辺から身長方向に対応する表示部50Aの上方向に延在し、作業者W1の頭部位置に隣接する上方に上述の一辺と対向する他辺を有する四角形で構成される。これにより、作業者W1の身長方向(本例では、表示部50Aの上方向)に合わせて、作業者W1を強調させる枠FR1が表示されるため、オペレータ等は、検知された監視対象をスルー画像TP上で認識し易くなる。
また、上述の如く、カメラ40B,40L,40Rは、それぞれ、上部旋回体3の上端部に取り付けられ、ショベル500の周辺の地面に向かって斜め下方向に光軸を向ける態様でショベル500の周辺を撮像する。その結果、地面に立っている作業者W1は、スルー画像TP上において、地面近くの足元位置から頭部位置に近づくほどその像(体)が大きく見える。そのため、枠FR1を構成する四角形は、スルー画像TP上における作業者W1の見え方に合わせて、その身長方向での幅が足元位置から頭部位置に近づくにつれて広くなる、略台形形状を有する。これにより、枠FR1が作業者W1のスルー画像TP上の位置によっての見え方の違い、つまり、作業者W1のスルー画像TP上の高さ方向の位置によっての大きさの変化に沿うように形成されるため、オペレータ等は、検知部301により検知された監視対象をスルー画像TP上で更に認識し易くなる。
続いて、図16Bは、表示装置50に選択カメラのスルー画像TPが表示されている状況で、監視対象(作業者W2)が検知された場合の表示装置50に表示されるスルー画像TPの他の例を示す図である。
図16Bに示すように、本例のスルー画像TPにおける左右方向の中央より左寄りの部分には、ショベル500の周辺で作業する作業者W2が写っている(含まれる)。
このとき、作業者W2は、水平方向において、選択カメラから見た真正面を基準として左側にある程度外れた位置を歩いている。換言すれば、作業者W2は、選択カメラの水平方向における画角の中央から左方向にある程度外れた位置に存在する。そのため、実空間の水平方向に対応する、スルー画像TP上の左右方向での作業者W2が含まれる部分の歪みが比較的大きくなる。具体的には、図16Bに示すように、作業者W2の像がスルー画像TPの外側、つまり、左方向に傾斜する(倒れる)現象、つまり、像倒れ現象が発生する。
作業者W2は、図16Aの作業者W1の場合と同様、水平方向で監視エリア内に存在し、且つ、高さ方向で、所定範囲HR1内に存在する。そのため、検知部301は、当該作業者W2を検知し、警報出力部303は、表示制御部302を通じて、図16Aの場合と同様、表示装置50に表示されるスルー画像TPに含まれる作業者W2を取り囲む枠FR2を重畳して表示させる。
このとき、枠FR2は、図16Aの枠FR1の場合と同様、実在空間における高さ方向、つまり、地面に立っている作業者W2の身長方向に延在する四角形で構成される。本例の場合、上述の如く、実空間の水平方向において、作業者W2が選択カメラの真正面からある程度左方向に外れた位置を歩いていることから、作業者W2の身長方向は、像倒れ現象の影響で、表示部50Aの上方向から左側にある程度傾斜した方向に相当する。そのため、枠FR2は、スルー画像TP上における作業者W2の歪みに合わせて、足元位置に対応する一辺から頭部位置に対応する他辺に向けての延在方向が像の倒れ方向(本例の場合、左方向)に傾斜した態様で、スルー画像TP上に重畳して表示される。これにより、検知された監視対象を強調させる枠FR2がスルー画像TP上での歪みに起因する監視対象の見え方の相違に合わせて変化するため、オペレータ等は、例えば、作業者W2が歩いて移動しているような場合であっても、作業者W2を認識し易くなる。
続いて、図16Cは、表示装置50に選択カメラのスルー画像TPが表示されている状況で、監視対象(作業者W3)が検知された場合の表示装置50に表示されるスルー画像TPの更に他の例を示す図である。
図16Cに示すように、本例のスルー画像TPの右端部には、ショベル500の周辺で作業する作業者W3が写っている(含まれる)。
このとき、作業者W3は、水平方向において、選択カメラから見た真正面を基準として右側にある程度外れた位置を歩いている。換言すれば、作業者W2は、選択カメラの水平方向における画角の中央から左方向にある程度外れた位置に存在する。そのため、図16Bの作業者W2の場合と同様、実空間の水平方向に対応する、スルー画像TP上の左右方向での作業者W3が含まれる部分の歪みが比較的大きくなる。具体的には、図16Cに示すように、作業者W3の像がスルー画像TPの外側、つまり、右方向に傾斜する(倒れる)現象、つまり、像倒れ現象が発生する。
作業者W3は、図16Aの作業者W1等の場合と同様、水平方向で監視エリア内に存在し、且つ、高さ方向で、所定範囲HR1内に存在する。そのため、検知部301は、当該作業者W3を検知し、警報出力部303は、表示制御部302を通じて、図16A等の場合と同様、表示装置50に表示されるスルー画像TPに含まれる作業者W3を取り囲むように枠FR3を重畳して表示させる。
このとき、表示制御部302は、最初に、図16Aの枠FR1等と同様、実在空間における高さ方向、つまり、地面に立っている作業者W2の身長方向に延在する四角形で構成される枠FR3aをスルー画像TP上に重畳表示させることを試みる。しかしながら、図16Cに示すように、作業者W3がスルー画像TP上の右端部に含まれるため、枠FR3aは、スルー画像TPから外に飛び出してしまう。そのため、表示制御部302は、枠FR3aがスルー画像TPから飛び出してしまうと判断すると、枠FR3aを変形させたり、新たな枠形状を生成したり等することで、スルー画像TP内に収まる、修正された枠FR3をスルー画像TP上に重畳して表示させる。これにより、表示制御部302は、上述した最善策に相当するルールで形成される枠(以下、「最善枠」と称する)がスルー画像から飛び出してしまうような状況であっても、適宜、次善策に相当する修正された枠(以下、「次善枠」と称する)をスルー画像に重畳して表示させることができる。
尚、上述した最善枠を特定するための情報は、例えば、コントローラ30の内部メモリ等に予め保存されている。また、スルー画像TPから最善枠が飛び出してしまう場合に、修正された次善枠を特定するための情報(例えば、スルー画像上における構成点の座標を算出する条件式やマップ等)についても、上述の内部メモリ等に予め保存されている。これにより、表示制御部302は、当該内部メモリ内の該当する情報を参照することにより、当該情報で特定される最善枠や次善枠をスルー画像TP上に重畳して表示させることができる。
また、表示制御部302によりスルー画像に重畳して表示される枠(例えば、枠FR1〜FR3)の色は、例えば、地面等の背景に対して、オペレータ等が認識し易い色であれば、任意であってよい。また、枠FR1の色は、各種条件に応じて、変化してもよい。例えば、枠FR1の色は、検知部301により検知された監視対象のショベル500に対する相対位置に応じて、変化してよい。具体的には、枠FR1の色は、相対的にショベル500に近い監視対象の場合、色温度が低い色(例えば、赤)とし、相対的にショベル500から遠い監視対象の場合、色温度が高い色(例えば、青)としてよい。これにより、周辺監視装置100は、色の相違によって、オペレータ等に、ショベル500との位置関係(接近度合い)を把握させることができる。
また、検知部301は、当然の如く、カメラ40B,40L,40Rのうちの選択カメラ以外のカメラの撮像画像に基づき、監視対象を検知する処理を行う。そのため、例えば、警報出力部303は、検知部301により、カメラ40B,40L,40Rのうちの選択カメラ以外のカメラから監視対象が検知された場合、表示制御部302を通じて、表示装置50の表示内容を、自動的に、監視対象が検知された撮像画像に対応するカメラのスルー画像に切り替えてもよい。
続いて、図16Dは、表示装置50に監視用画像MPが表示されている状況で、監視対象(作業者W4)が検知された場合の表示装置50に表示される監視用画像MPの一例を示す図である。
図16Dに示すように、本例の監視用画像MPにおける周辺画像EPのショベル500の後方に相当する部分(つまり、合成画像におけるカメラ40Bの撮像画像に対応する部分)には、ショベル500の周辺(後方)で作業する作業者W4が写っている(含まれる)。
作業者W4は、図16Aの作業者W1等の場合と同様、水平方向で監視エリア内に存在し、且つ、高さ方向で、所定範囲HR1内に存在する。そのため、検知部301は、当該作業者W3を検知し、警報出力部303は、表示制御部302を通じて、表示装置50に表示される監視用画像MP内の周辺画像EPに含まれる作業者W4を強調させるマーカ(枠FR4)を重畳して表示させる。
具体的には、枠FR4は、周辺画像EP上の作業者W4が占める部分よりも十分に小さい四角形(本例では、表示部50Aの縦方向及び横方向に沿って四辺が構成される正方形)により構成される。より具体的には、枠FR4は、周辺画像EP内の作業者W4の足元位置を取り囲む態様で、監視用画像MPにおける周辺画像EP上に重畳して表示される。合成画像である周辺画像EP上における監視対象の形状は、実空間における監視対象の形状に対して、歪みが非常に大きくなる傾向があり、スルー画像TPの場合のように、監視対象を取り囲む枠を表示させると、反って、監視対象を把握しにくくなる可能性があるからである。
[周辺監視装置の動作の詳細]
次に、図17、図18を参照して、本実施形態に係る周辺監視装置100による動作の詳細を説明する。具体的には、周辺監視装置100による監視対象の検知に基づく警報の出力及びショベル500の動作制限に関する処理(以下、「周辺監視処理」と称する)処理フローについて説明する。
図17は、周辺監視装置100による周辺監視処理の一例を概略的に示すフローチャートである。本フローチャートによる処理は、例えば、ショベルが起動されてから停止するまでの運転中において、警報の出力及びショベル500の動作制限が行われていない場合、所定の処理周期ごとに、繰り返し実行される。以下、図18のフローチャートによる処理についても同様である。
ステップS102にて、検知部301は、撮像装置40の撮像画像に基づき、撮像画像に含まれる監視対象を認識する処理を行う。
ステップS104にて、検知部301は、水平方向で監視エリア内に存在する監視対象が認識されたか否かを判定する。検知部301は、水平方向で監視エリア内に存在する監視対象が認識された場合、ステップS106に進み、それ以外の場合、ステップS112に進む。
ステップS106にて、検知部301は、ステップS104で認識された監視対象が、水平方向で所定範囲HR1内に存在するか否かを判定する。検知部301は、ステップS104で認識された監視対象が、水平方向で所定範囲HR1内に存在する場合、ステップS108に進み、それ以外の場合、ステップS112に進む。
尚、ステップS104,S106の処理の順序は、逆であってもよい。
ステップS108にて、検知部301は、認識した監視対象を検知対象と判断する。そして、検知部301は、当該監視対象を検知した旨を警報出力部303及び動作制限部304に当該監視対象に関する情報(例えば、水平方向及び高さ方向に関する位置情報等)を通知する。
ステップS110にて、警報出力部303は、表示装置50や音声出力装置52を通じて、警報を出力する。また、併せて、動作制限部304は、ゲートロック弁54を通じて、ショベル500の動作制限を行う。そして、コントローラ30は、今回の処理を終了する。
一方、ステップS112にて、検知部301は、検知の対象となる監視対象が検知されなかったと判断し、今回の処理を終了する。
例えば、上述の特許文献1等では、ショベル等の作業機械の周辺の監視対象領域(監視エリア)内で検知される監視対象の全てが、警報の出力や動作の制限の対象となる可能性がある。そのため、実際上、作業機械と、検知された監視対象とが接触等する可能性は極めて低い(例えば、ショベルの作業面と、監視対象が存在する平面との間に大きな段差がある)状況にも関わらず、警報の出力やショベルの動作制限が実行される可能性がある。つまり、不要な警報の出力やショベルの動作制限が行われることで、ショベルの作業性を低下させる可能性がある。
これに対して、本例では、周辺監視装置100は、水平方向に規定される監視エリアにおいて、高さ方向で所定範囲HR1内に存在する監視対象を検知した場合に限定して、警報の出力やショベル500の動作制限が行われる。これにより、所定範囲HR1が適宜設定されることにより、ショベル500が監視対象と接触等する可能性が非常に低いような状況で、警報の出力やショベル500の動作制限が回避される。より具体的には、例えば、図12A〜図12Dに示したように、ショベル500の作業面に対して、段差や傾斜を介して隣接する異なる作業面上に監視対象が存在するような場合があり得る。この場合、段差や傾斜の大小の程度等によっては、ショベル500が段差や傾斜を超えて、監視対象が存在する作業面上まで移動する可能性が非常に低くなるからである。よって、周辺監視装置100は、不要な警報の出力やショベル500の動作制限を抑制し、ショベル500の作業性の低下を抑制することができる。
尚、検知部301の代わりに、警報出力部303及び動作制限部304の少なくとも一方によって、監視対象が高さ方向で所定範囲HR1内に存在するかどうかが判定されてもよい。以下、図18を用いて、この場合の処理フローについて説明する。
図18は、周辺監視装置100による周辺監視処理の他の例を概略的に示すフローチャートである。
ステップS202,S204の処理は、図17のステップS102,S104と同じであるため、説明を省略する。
ステップS204にて、検知部301は、水平方向で監視エリア内に存在する監視対象が認識された場合、ステップS206に進む。
ステップS206の処理は、図9のステップS108と同じであるため、説明を省略する。
ステップS208にて、警報出力部303及び動作制限部304の少なくとも一方(以下、便宜的に、「警報出力部303等」と称する)は、検知部301により検知された監視対象が高さ方向で所定範囲HR1内に存在するか否かを判定する。警報出力部303等は、検知部301により検知された監視対象が高さ方向で所定範囲HR1内に存在する場合、ステップS210に進み、それ以外の場合、今回の処理を終了する。
ステップS210,S212の処理は、図17のステップS110,S112と同じであるため、説明を省略する。
このように、本例では、図17の一例の場合と同様、水平方向に規定される監視エリアにおいて、高さ方向で所定範囲HR1内に存在する監視対象を検知した場合に限定して、警報の出力やショベル500の動作制限が行われる。これにより、図17の場合と同様の作用・効果を奏する。
尚、本例では、周辺監視装置100は、警報出力部303と動作制限部304の双方を含むが、上述の一例の場合と同様、何れか一方だけを含んでもよい。つまり、周辺監視装置100は、水平方向の監視エリア内で所定範囲HR1内の監視対象を検知した場合に、警報の出力及びショベル500の動作制限の何れか一方だけを行う態様であってもよい。
また、本例では、水平方向で監視エリアに存在し、且つ、高さ方向で所定範囲HR1内に存在する監視対象が検知された場合に、図16A〜図16Dに示す内容が表示装置50に表示されるが、当該態様には限定されない。具体的には、監視対象の高さ方向の位置に依らず、水平方向で監視エリアに存在する監視対象が検知される場合(例えば、上述の周辺監視システム1000の一例に含まれる周辺監視装置100)についても、図16A〜図16Dに示す内容が表示装置50に表示されてよい。
また、本例では、ショベル500の作業平面(基準面)とは異なる高さの段差面に存在する監視対象や、ショベル500の作業平面と異なる傾斜角を有する平面に存在する監視対象を警報や動作制限の対象から除外するが、当然の如く、これ以外の理由によって、ショベル500の高さ方向において、所定範囲HR1を外れる位置に存在する監視対象についても、警報や動作制限の対象から除外してよい。つまり、所定範囲HR1は、ショベル500の作業平面に対する段差や傾斜以外の理由による、ショベル500と監視対象との間の高さ方向でのずれも考慮された上で規定されてよい。
また、本例では、周辺監視装置100が周辺監視システム1000に組み込まれるが、周辺監視装置100は、周辺監視システム1000(外部装置600)を前提とせず、単独で(つまり、スタンドアローンの状態で)、上述の動作を行ってもよい。
また、本例に係る周辺監視装置100について、以下を開示する。
(1)
ショベルの周辺の所定の監視対象を検知する検知部と、
前記検知部により、前記ショベルの高さ方向で所定の第1範囲内に存在する前記監視対象が検知された場合に、警報を出力する、又は、前記ショベルの動作制限を行う制御部と、を備える、
周辺監視装置。
(2)
前記制御部は、前記検知部により、前記ショベルの高さ方向で、前記ショベルの特定の高さに対応する基準位置に対して、前記第1範囲内に存在する前記監視対象が検知された場合に、前記警報を出力する、又は、前記ショベルの動作制限を行う、
(1)に記載の周辺監視装置。
(3)
前記ショベルの周辺の前記監視対象の位置に関する検出情報を取得可能なセンサを更に備え、
前記検知部は、前記センサの検出情報に基づき、前記ショベルの高さ方向での前記監視対象の存在する位置を判定する、
(1)又は(2)に記載の周辺監視装置。
(4)
前記センサは、単眼カメラ、ステレオカメラ、ライダ、又は、レーダを含む、
(3)に記載の周辺監視装置。
前記ショベルの作業現場の情報化施工に関する地形情報を取得する地形情報取得部と、
前記ショベルの前記作業現場における位置情報を取得する位置情報取得部と、を更に備え、
前記検知部は、前記地形情報と前記位置情報とに基づき、前記ショベルの高さ方向での前記監視対象の存在する位置を判定する、
(1)又は(2)に記載の周辺監視装置。
(6)
前記検知部は、前記単眼カメラにより撮像された前記ショベルの周辺の撮像画像に前記監視対象が含まれる場合、前記撮像画像上の前記監視対象の見え方が予め規定される第2範囲内にあるときに、前記監視対象が、前記ショベルの高さ方向で、前記第1範囲内に存在すると判定する、
(4)に記載の周辺監視装置。
(7)
前記検知部は、前記撮像画像上における前記監視対象の前記ショベルの高さ方向での所定の基準位置に対するずれ量、又は、前記撮像画像上における前記監視対象の前記ショベルの高さ方向に対応する寸法が、前記ショベルから見た前記監視対象の遠近の程度に応じて予め規定される前記第2範囲内であるときに、前記監視対象が、前記ショベルの高さ方向で、前記第1範囲内に存在すると判定する、
(6)に記載の周辺監視装置。
(8)
前記単眼カメラにより撮像された前記ショベルの周辺の撮像画像を表示する表示装置を更に備え、
前記制御部は、前記検知部により、前記ショベルの高さ方向で所定の第1範囲内に存在する前記監視対象が検知された場合に、前記表示装置に表示される前記撮像画像上に、前記単眼カメラによる像の歪みの傾向に合わせて、前記監視対象を取り囲む枠を重畳して表示させる、
(4)、(6)、又は、(7)に記載の周辺監視装置。
(9)
前記制御部は、前記単眼カメラによる像の歪みの傾向に合わせてその形状が予め規定される前記枠が、前記表示装置に表示される前記撮像画像の外にはみ出す場合、前記撮像画像の中に収まるように変形された前記枠を前記表示装置に表示される前記撮像画像上に重畳して表示させる、
請求項(8)に記載の周辺監視装置。
(10)
撮像範囲が相互に異なる複数の前記単眼カメラと、
前記複数の前記単眼カメラのそれぞれの撮像画像に基づき生成される、ショベルの周辺の状況を示す合成画像を表示させる表示装置と、を更に備え、
前記制御部は、前記表示装置に表示される前記合成画像上の前記監視対象が含まれる部分に、前記合成画像上の前記撮像画像よりも小さく、且つ、前記合成画像上の位置によらず、同じ大きさのマーカを、重畳して表示させる、
(4)、(6)、又は、(7)に記載の周辺監視装置。
以上、本発明を実施するための形態について詳述したが、本発明はかかる特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。
最後に、本願は、2017年12月4日に出願した日本国特許出願2017−232908号、及び2018年1月25日に出願した日本国特許出願2018−010872号に基づく優先権を主張するものであり、これらの日本国特許出願の全内容を本願に参照により援用する。
30 コントローラ
40 撮像装置
40B,40L,40R カメラ(センサ)
42 ライダ(センサ)
50 表示装置(オペレータ通知部)
52 音声出力装置(オペレータ通知部)
54 ゲートロック弁
60 解除スイッチ(解除意思入力部)
62 監視機能ON/OFFスイッチ
64 表示内容切替スイッチ
70 確認動作状態検知部
72 通信機器(取得部、外部通知部、地形情報取得部)
74 外部報知装置(外部通知部)
80 GPSモジュール(位置情報取得部)
100 周辺監視装置
301 検知部
302 表示制御部
303 警報出力部(制御部)
304 動作制限部(制御部)
305 解除依頼通知部
306 周辺状況情報送信部
307 判定部(取得部)
500 ショベル
600 外部装置
610 通信機器
620 情報処理部
630 表示部(第1通知部、第2通知部)
640 音声出力部(第1通知部、第2通知部)
650 操作部(解除許可操作部)
700 管理端末(外部装置、情報処理端末、端末)
750 解除装置(外部装置、情報処理装置)
800 管理端末(外部装置、情報処理端末、端末)
900 管理サーバ(外部装置、情報処理装置)
1000 周辺監視システム
6201 ショベル状況通知部
6202 周辺状況情報取得部
6203 解除許可操作受付部
6204 判定部
6205 解除許可通知部
上記目的を達成するため、本発明の一実施形態では、
作業機械の周辺の所定の監視対象の位置に関する検出情報を取得可能なセンサと、
前記監視対象が前記センサによる前記検出情報の取得可能な範囲内に存在し且つ前記作業機械から所定距離以下の範囲内に存在し且つ前記作業機械の高さ方向で所定の第1範囲内に存在する場合に、警報を出力する、又は、前記作業機械の動作制限を行う制御部と、を備える、
周辺監視装置が提供される。
このとき、作業者W3は、水平方向において、選択カメラから見た真正面を基準として右側にある程度外れた位置を歩いている。換言すれば、作業者Wは、選択カメラの水平方向における画角の中央から方向にある程度外れた位置に存在する。そのため、図16Bの作業者W2の場合と同様、実空間の水平方向に対応する、スルー画像TP上の左右方向での作業者W3が含まれる部分の歪みが比較的大きくなる。具体的には、図16Cに示すように、作業者W3の像がスルー画像TPの外側、つまり、右方向に傾斜する(倒れる)現象、つまり、像倒れ現象が発生する。
作業者W4は、図16Aの作業者W1等の場合と同様、水平方向で監視エリア内に存在し、且つ、高さ方向で、所定範囲HR1内に存在する。そのため、検知部301は、当該作業者Wを検知し、警報出力部303は、表示制御部302を通じて、表示装置50に表示される監視用画像MP内の周辺画像EPに含まれる作業者W4を強調させるマーカ(枠FR4)を重畳して表示させる。
[周辺監視装置の動作の詳細]
次に、図17、図18を参照して、本実施形態に係る周辺監視装置100による動作の詳細を説明する。具体的には、周辺監視装置100による監視対象の検知に基づく警報の出力及びショベル500の動作制限に関する処理(以下、「周辺監視処理」と称する)フローについて説明する。
(5)
前記ショベルの作業現場の情報化施工に関する地形情報を取得する地形情報取得部と、
前記ショベルの前記作業現場における位置情報を取得する位置情報取得部と、を更に備え、
前記検知部は、前記地形情報と前記位置情報とに基づき、前記ショベルの高さ方向での前記監視対象の存在する位置を判定する、
(1)又は(2)に記載の周辺監視装置。
(9)
前記制御部は、前記単眼カメラによる像の歪みの傾向に合わせてその形状が予め規定される前記枠が、前記表示装置に表示される前記撮像画像の外にはみ出す場合、前記撮像画像の中に収まるように変形された前記枠を前記表示装置に表示される前記撮像画像上に重畳して表示させる
8)に記載の周辺監視装置。

Claims (36)

  1. 作業機械の周辺の所定の監視対象を検知する検知部と、
    前記検知部により、前記作業機械の高さ方向で所定の第1範囲内に存在する前記監視対象が検知された場合に、警報を出力する、又は、前記作業機械の動作制限を行う制御部と、を備える、
    周辺監視装置。
  2. 前記制御部は、前記監視対象が、前記作業機械が位置する基準面に対して、前記第1範囲を超えて前記高さが異なる段差面に存在している場合、又は、前記基準面と異なる傾斜角を有する傾斜面における前記基準面から前記高さ方向で前記第1範囲を超えた位置に存在している場合であっても、前記警報を出力せず、且つ、前記動作制限を行わない、
    請求項1に記載の周辺監視装置。
  3. 前記検知部は、検知範囲内において、前記作業機械の高さ方向で前記第1範囲外に前記監視対象が存在している場合であっても、当該監視対象を検知しない、
    請求項1に記載の周辺監視装置。
  4. 前記制御部は、前記検知部により、前記作業機械の高さ方向で、前記作業機械の特定の高さに対応する基準位置に対して、前記第1範囲内に存在する前記監視対象が検知された場合だけ、前記警報を出力する、又は、前記作業機械の動作制限を行う、
    請求項1に記載の周辺監視装置。
  5. 前記作業機械の周辺の前記監視対象の位置に関する検出情報を取得可能なセンサを更に備え、
    前記検知部は、前記センサの検出情報に基づき、前記作業機械の高さ方向での前記監視対象の存在する位置を判定する、
    請求項1に記載の周辺監視装置。
  6. 前記センサは、単眼カメラ、ステレオカメラ、ライダ、又は、レーダを含む、
    請求項5に記載の周辺監視装置。
  7. 前記作業機械の作業現場の情報化施工に関する地形情報を取得する地形情報取得部と、
    前記作業機械の前記作業現場における位置情報を取得する位置情報取得部と、を更に備え、
    前記検知部は、前記地形情報と前記位置情報とに基づき、前記作業機械の高さ方向での前記監視対象の存在する位置を判定する、
    請求項1に記載の周辺監視装置。
  8. 前記検知部は、前記単眼カメラにより撮像された前記作業機械の周辺の撮像画像に前記監視対象が含まれる場合、前記撮像画像上の前記監視対象の見え方が予め規定される第2範囲内にあるときに、前記監視対象が、前記作業機械の高さ方向で、前記第1範囲内に存在すると判定する、
    請求項6に記載の周辺監視装置。
  9. 前記検知部は、前記撮像画像上における前記監視対象の前記作業機械の高さ方向での所定の基準位置に対するずれ量、又は、前記撮像画像上における前記監視対象の前記作業機械の高さ方向に対応する寸法が、前記作業機械から見た前記監視対象の遠近の程度に応じて予め規定される前記第2範囲内であるときに、前記監視対象が、前記作業機械の高さ方向で、前記第1範囲内に存在すると判定する、
    請求項8に記載の周辺監視装置。
  10. 前記単眼カメラにより撮像された前記作業機械の周辺の撮像画像を表示する表示装置を更に備え、
    前記制御部は、前記検知部により、前記作業機械の高さ方向で所定の第1範囲内に存在する前記監視対象が検知された場合に、前記表示装置に表示される前記撮像画像上に、前記単眼カメラによる像の歪みの傾向に合わせて、前記監視対象を取り囲む枠を重畳して表示させる、
    請求項6に記載の周辺監視装置。
  11. 前記制御部は、前記単眼カメラによる像の歪みの傾向に合わせてその形状が予め規定される前記枠が、前記表示装置に表示される前記撮像画像の外にはみ出す場合、前記撮像画像の中に収まるように変形された前記枠を、前記表示装置に表示される前記撮像画像上に重畳して表示させる、
    請求項10に記載の周辺監視装置。
  12. 撮像範囲が相互に異なる複数の前記単眼カメラと、
    前記複数の前記単眼カメラのそれぞれの撮像画像に基づき生成される、作業機械の周辺の状況を示す合成画像を表示させる表示装置と、を更に備え、
    前記制御部は、前記表示装置に表示される前記合成画像上の前記監視対象が含まれる部分に、前記合成画像上の前記撮像画像よりも小さく、且つ、前記合成画像上の位置によらず、同じ大きさのマーカを、重畳して表示させる、
    請求項6に記載の周辺監視装置。
  13. 前記作業機械の外部における前記警報又は前記動作制限の解除に関する情報を取得する取得部を更に備え、
    前記制御部は、前記警報又は前記動作制限が行われている場合に、前記取得部による前記情報の取得に基づき、前記警報又は前記動作制限を解除する、
    請求項1に記載の周辺監視装置。
  14. 前記取得部は、所定の外部装置から前記警報又は前記動作制限の解除を許可する旨の通知を取得し、
    前記制御部は、前記取得部により前記通知の取得に基づき、前記警報又は前記動作制限を解除する、
    請求項13に記載の周辺監視装置。
  15. オペレータに通知を行うオペレータ通知部を更に備え、
    前記取得部は、所定の外部装置から前記作業機械の周囲確認に関する情報を取得し、
    前記オペレータ通知部は、前記取得部により前記作業機械の周囲確認に関する情報が取得された場合に、当該情報の内容をオペレータに通知する、
    請求項13に記載の周辺監視装置。
  16. 前記作業機械の外部に向けて前記警報の出力又は前記動作制限が行われている旨を通知する外部通知部を更に備える、
    請求項14に記載の周辺監視装置。
  17. オペレータの意思で前記外部通知部による通知を行わせる外部通知意思入力部を更に備える、
    請求項16に記載の周辺監視装置。
  18. 前記外部通知部は、前記外部装置、又は、前記外部装置の利用者のメールアドレス若しくは所定のソーシャルネットワーキングサービスのアカウントに前記警報の出力又は前記動作制限が行われている旨の通知を送信する、
    請求項16に記載の周辺監視装置。
  19. 前記外部通知部は、視覚的な方法、触覚的な方法、又は、聴覚的な方法によって、前記作業機械の周辺にいる人に前記警報の出力又は前記動作制限が行われている旨を通知する、
    請求項16に記載の周辺監視装置。
  20. 前記警報又は前記動作制限が行われている場合に、前記外部装置に前記警報又は前記動作制限の解除依頼の通知を送信する解除依頼通知部を更に備える、
    請求項14に記載の周辺監視装置。
  21. オペレータの意思で前記解除依頼通知部による解除依頼の通知を行わせる解除依頼意思入力部を更に備える、
    請求項20に記載の周辺監視装置。
  22. 前記作業機械の周辺を撮像する撮像装置を更に備え、
    前記取得部は、前記撮像装置の中から、所定のポーズ又はジェスチャをしている、前記作業機械の周辺に存在する所定の人を含む撮像画像を取得し、
    前記制御部は、前記警報又は前記動作制限が行われている場合に、前記取得部による前記ポーズ又は前記ジェスチャをしている前記人を含む撮像画像の取得に基づき、前記警報又は前記動作制限を解除する、
    請求項13に記載の周辺監視装置。
  23. オペレータにより前記警報又は前記動作制限を解除する意思が入力される解除意思入力部を更に備え、
    前記制御部は、前記警報又は前記動作制限が行われている場合に、前記取得部により前記情報が取得され、且つ、前記解除意思入力部に対して前記意思が入力された場合に、前記警報又は前記動作制限を解除する、
    請求項13に記載の周辺監視装置。
  24. 前記解除意思入力部に対する前記意思の入力は、前記取得部により前記作業機械の外部で前記警報又は前記動作制限の解除が許可された旨の情報が取得された場合に有効になり、
    前記制御部は、前記解除意思入力部に対する有効な前記意思の入力があった場合に、前記警報又は前記動作制限を解除する、
    請求項23に記載の周辺監視装置。
  25. 作業機械の外部に設けられ、前記作業機械又は前記作業機械と通信可能な情報処理装置と通信可能な情報処理端末であって、
    前記作業機械に対して、前記作業機械で出力される警報又は前記作業機械で行われる動作制限の解除に関する通知を行う解除許可通知部を備える、
    情報処理端末。
  26. 前記作業機械の周辺の所定範囲で所定の監視対象が検知され、前記作業機械で前記警報が出力されている、又は、前記作業機械の前記動作制限が行われている場合に、前記警報又は前記動作制限の解除の許否を判定する判定部を更に備え、
    前記解除許可通知部は、前記判定部により前記警報又は前記動作制限の解除が許可された場合、前記作業機械に前記警報又は前記動作制限の解除の許可に関する情報を送信する、
    請求項25に記載の情報処理端末。
  27. 前記作業機械の周辺の状況に関する情報を取得する周辺状況情報取得部を更に備え、
    前記判定部は、前記周辺状況情報取得部により取得される情報に基づき、前記警報又は前記動作制限の解除を許可する、
    請求項26に記載の情報処理端末。
  28. 前記作業機械のオペレータが前記作業機械の周囲を確認したことを示す情報を取得する取得部を更に備え、
    前記判定部は、前記取得部によりオペレータが前記作業機械の周囲を確認したことを示す情報が取得された場合に、前記警報又は前記動作制限の解除を許可する、
    請求項26に記載の情報処理端末。
  29. 前記判定部は、前記周辺状況情報取得部により取得された情報に基づき、前記作業機械の前記所定範囲内に前記監視対象がいないと確認した場合に、前記警報又は前記動作制限の解除を許可する、
    請求項27に記載の情報処理端末。
  30. 当該情報処理端末の利用者が前記警報又は前記動作制限の解除を許可する操作を行う解除許可操作部を更に備え、
    前記判定部は、前記解除許可操作部が操作された場合に、前記警報又は前記動作制限の解除を許可する、
    請求項26に記載の情報処理端末。
  31. 前記作業機械から前記警報の出力又は前記動作制限が行われている旨の通知、又は、前記警報又は前記動作制限の解除依頼の通知が受信された場合に、当該情報処理端末の利用者にその旨を通知する第1通知部を更に備える、
    請求項30に記載の情報処理端末。
  32. 前記作業機械の周辺の状況に関する情報を取得する周辺状況情報取得部と、
    前記周辺状況情報取得部により取得された情報の内容を当該情報処理装置の利用者に通知する第2通知部を更に備える、
    請求項30に記載の情報処理端末。
  33. 前記判定部は、前記作業機械から前記警報の出力又は前記動作制限が行われている旨の通知、又は、前記警報又は前記動作制限の解除依頼の通知が受信された場合に、前記警報又は前記動作制限の解除の許否を判定する、
    請求項26に記載の情報処理端末。
  34. 前記作業機械が作業する作業現場の所定の作業員が携帯する端末、前記作業現場の所定の事務所に設けられる端末である、
    請求項25に記載の情報処理端末。
  35. 作業機械の外部に設けられ、前記作業機械と通信可能な情報処理装置であって、
    前記作業機械に対して、前記作業機械で出力される警報又は前記作業機械で行われる動作制限の解除に関する通知を行う解除許可通知部を備える、
    情報処理装置。
  36. 作業機械の外部に設けられ、前記作業機械、若しくは、前記作業機械と通信可能な情報処理装置と、通信可能な情報処理端末、又は、前記作業機械の外部に設けられ、前記作業機械と通信可能な情報処理装置に、
    前記作業機械に対して、前記作業機械で出力される警報又は前記作業機械で行われる動作制限の解除の許可に関する情報を送信する解除許可通知ステップと、を実行させる、
    情報処理プログラム。
JP2019558202A 2017-12-04 2018-12-03 周辺監視装置 Active JP7252137B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023047187A JP2023083299A (ja) 2017-12-04 2023-03-23 周辺監視装置

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2017232908 2017-12-04
JP2017232908 2017-12-04
JP2018010872 2018-01-25
JP2018010872 2018-01-25
PCT/JP2018/044427 WO2019111859A1 (ja) 2017-12-04 2018-12-03 周辺監視装置、情報処理端末、情報処理装置、情報処理プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023047187A Division JP2023083299A (ja) 2017-12-04 2023-03-23 周辺監視装置

Publications (2)

Publication Number Publication Date
JPWO2019111859A1 true JPWO2019111859A1 (ja) 2020-12-24
JP7252137B2 JP7252137B2 (ja) 2023-04-04

Family

ID=66751090

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019558202A Active JP7252137B2 (ja) 2017-12-04 2018-12-03 周辺監視装置
JP2023047187A Pending JP2023083299A (ja) 2017-12-04 2023-03-23 周辺監視装置

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023047187A Pending JP2023083299A (ja) 2017-12-04 2023-03-23 周辺監視装置

Country Status (6)

Country Link
US (1) US11365527B2 (ja)
EP (1) EP3722519B1 (ja)
JP (2) JP7252137B2 (ja)
KR (1) KR102627093B1 (ja)
CN (1) CN111344460B (ja)
WO (1) WO2019111859A1 (ja)

Families Citing this family (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110114244B (zh) * 2017-02-17 2023-07-04 住友重机械工业株式会社 工作机械用周边监视系统
JP7232437B2 (ja) * 2018-02-19 2023-03-03 国立大学法人 東京大学 作業車両の表示システム及び生成方法
JP7070047B2 (ja) * 2018-04-26 2022-05-18 コベルコ建機株式会社 旋回式作業機械の旋回制御装置
JP7080750B2 (ja) * 2018-06-29 2022-06-06 株式会社小松製作所 表示制御システム、遠隔操作システム、表示制御装置、および表示制御方法
JP7283070B2 (ja) * 2018-12-19 2023-05-30 コベルコ建機株式会社 作業機械用周辺監視装置
US20220195704A1 (en) * 2019-04-04 2022-06-23 Komatsu Ltd. System including work machine, computer implemented method, method for producing trained posture estimation model, and training data
WO2020218453A1 (ja) * 2019-04-26 2020-10-29 住友建機株式会社 ショベル
WO2021025123A1 (ja) * 2019-08-08 2021-02-11 住友建機株式会社 ショベル、情報処理装置
JP2021033403A (ja) * 2019-08-19 2021-03-01 矢崎エナジーシステム株式会社 車載器および作業車両の運転支援システム
JP7340996B2 (ja) * 2019-09-03 2023-09-08 日立建機株式会社 現場管理システム
JP2021042638A (ja) * 2019-09-13 2021-03-18 株式会社小松製作所 作業機械の表示システムおよび作業機械の表示方法
JP7349880B2 (ja) * 2019-10-18 2023-09-25 株式会社小松製作所 作業機械の周辺監視システム、作業機械、及び作業機械の周辺監視方法
JP7234095B2 (ja) * 2019-10-31 2023-03-07 日立建機株式会社 建設機械
JP7153627B2 (ja) 2019-10-31 2022-10-14 日立建機株式会社 作業機械および周囲監視システム
JP7255454B2 (ja) * 2019-11-07 2023-04-11 コベルコ建機株式会社 作業機械の周囲監視装置
JP7400425B2 (ja) * 2019-12-10 2023-12-19 コベルコ建機株式会社 作業機械の遠隔操作支援システム
CN110942582A (zh) * 2019-12-23 2020-03-31 福建省特种设备检验研究院 基于机器视觉的扶手带人员异常行为的监测报警方法
JP7479156B2 (ja) * 2020-01-30 2024-05-08 住友重機械工業株式会社 作業機械、情報処理装置
JP7476558B2 (ja) * 2020-02-15 2024-05-01 コベルコ建機株式会社 作業機械の遠隔操作支援システム
JP2021143541A (ja) * 2020-03-13 2021-09-24 コベルコ建機株式会社 作業支援サーバ、作業支援方法
JP7260502B2 (ja) * 2020-03-24 2023-04-18 株式会社日立製作所 情報提示装置、遠隔操作システムおよびプログラム
WO2021192114A1 (ja) * 2020-03-25 2021-09-30 日立建機株式会社 作業機械の運転支援システム
JP7447670B2 (ja) * 2020-05-15 2024-03-12 トヨタ自動車株式会社 自律移動装置制御システム、その制御方法及びその制御プログラム
DE102020206373A1 (de) 2020-05-20 2021-11-25 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren zur Kollisionsvermeidung eines Arbeitswerkzeugs einer Arbeitsmaschine mit in einer Umgebung der Arbeitsmaschine befindlichen Hindernissen
EP4101996A4 (en) * 2020-05-29 2024-04-03 Hitachi Construction Mach Co WORKING MACHINE
JP2022014975A (ja) * 2020-07-08 2022-01-21 トヨタ自動車株式会社 車両周辺監視装置
US11773567B2 (en) * 2020-07-22 2023-10-03 Baidu Usa Llc Engineering machinery equipment, and method, system, and storage medium for safety control thereof
CN112053339B (zh) * 2020-08-31 2023-01-31 中冶赛迪信息技术(重庆)有限公司 一种基于机器视觉的棒材成品库行车安全监测方法、装置及设备
CN116250027A (zh) * 2020-09-29 2023-06-09 索尼半导体解决方案公司 信息处理系统和信息处理方法
US11898331B2 (en) * 2020-12-02 2024-02-13 Caterpillar Sarl System and method for detecting objects within a working area
JP7250749B2 (ja) 2020-12-14 2023-04-03 日立建機株式会社 作業内容および機能内容変更判定システム
KR102388054B1 (ko) * 2020-12-17 2022-04-21 (주)우신특장 공사차량 충돌방지시스템
CN114387759A (zh) * 2021-12-01 2022-04-22 深圳市原像天成科技有限公司 一种基于工程机械操作安全智能分析系统
US11958403B2 (en) * 2022-05-23 2024-04-16 Caterpillar Inc. Rooftop structure for semi-autonomous CTL
JP2024007313A (ja) 2022-07-05 2024-01-18 吉谷土木株式会社 作付け支援方法と圃場作業支援システム等

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012053105A1 (ja) * 2010-10-22 2012-04-26 日立建機株式会社 作業機械の周辺監視装置
JP2014181508A (ja) * 2013-03-19 2014-09-29 Sumitomo Heavy Ind Ltd 作業機械用周辺監視装置
JP2014183498A (ja) * 2013-03-19 2014-09-29 Sumitomo Heavy Ind Ltd 作業機械用周辺監視装置
JP2014225803A (ja) * 2013-05-16 2014-12-04 住友建機株式会社 作業機械用周辺監視装置
WO2016111148A1 (ja) * 2015-12-18 2016-07-14 株式会社小松製作所 施工情報表示装置および施工情報の表示方法
JP2017101419A (ja) * 2015-11-30 2017-06-08 住友重機械工業株式会社 作業機械用周辺監視システム

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011158955A1 (ja) * 2010-06-18 2011-12-22 日立建機株式会社 作業機械の周囲監視装置
JP5367665B2 (ja) * 2010-09-17 2013-12-11 日立建機株式会社 作業機械の表示システム
JP6270029B2 (ja) * 2011-05-26 2018-01-31 住友重機械工業株式会社 電動式旋回装置を備えたショベル及びその制御方法
DE112012004354T5 (de) * 2011-10-18 2014-07-10 Hitachi Construction Machinery Co., Ltd. Vorrichtung zum Überwachen der Umgebung von Maschinerie
JP6029306B2 (ja) * 2012-03-29 2016-11-24 住友建機株式会社 作業機械用周辺監視装置
JP5961472B2 (ja) * 2012-07-27 2016-08-02 日立建機株式会社 作業機械の周囲監視装置
JP5603520B1 (ja) * 2012-10-19 2014-10-08 株式会社小松製作所 油圧ショベルの掘削制御システム
JP6352592B2 (ja) * 2013-03-19 2018-07-04 住友重機械工業株式会社 ショベル
JP5952244B2 (ja) * 2013-09-12 2016-07-13 日立建機株式会社 掘削領域制限制御の基礎情報の演算装置及び建設機械
JP6165085B2 (ja) * 2014-03-07 2017-07-19 日立建機株式会社 作業機械の周辺監視装置
US10228232B2 (en) * 2014-04-14 2019-03-12 Caterpillar Inc. Operator assistance system
JP6262068B2 (ja) * 2014-04-25 2018-01-17 日立建機株式会社 車体近傍障害物報知システム
US9598845B2 (en) * 2014-06-04 2017-03-21 Komatsu Ltd. Posture computing apparatus for work machine, work machine, and posture computation method for work machine
JP6777375B2 (ja) * 2015-03-05 2020-10-28 株式会社小松製作所 作業機械の画像表示システム、作業機械の遠隔操作システム及び作業機械
EP3385457A4 (en) * 2015-11-30 2019-03-13 Sumitomo Heavy Industries, Ltd. PERIPHERAL MONITORING SYSTEM FOR A WORK MACHINE
CN107925745B (zh) * 2015-11-30 2020-09-08 住友重机械工业株式会社 施工机械用周边监视系统
FR3053762B1 (fr) 2016-07-07 2020-08-28 Valeo Iluminacion Sa Module lumineux pour vehicule automobile
JP7358070B2 (ja) * 2019-04-26 2023-10-10 住友建機株式会社 ショベル
JP2020183623A (ja) * 2019-04-26 2020-11-12 住友建機株式会社 ショベル

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012053105A1 (ja) * 2010-10-22 2012-04-26 日立建機株式会社 作業機械の周辺監視装置
JP2014181508A (ja) * 2013-03-19 2014-09-29 Sumitomo Heavy Ind Ltd 作業機械用周辺監視装置
JP2014183498A (ja) * 2013-03-19 2014-09-29 Sumitomo Heavy Ind Ltd 作業機械用周辺監視装置
JP2014225803A (ja) * 2013-05-16 2014-12-04 住友建機株式会社 作業機械用周辺監視装置
JP2017101419A (ja) * 2015-11-30 2017-06-08 住友重機械工業株式会社 作業機械用周辺監視システム
WO2016111148A1 (ja) * 2015-12-18 2016-07-14 株式会社小松製作所 施工情報表示装置および施工情報の表示方法

Also Published As

Publication number Publication date
KR102627093B1 (ko) 2024-01-18
JP7252137B2 (ja) 2023-04-04
WO2019111859A1 (ja) 2019-06-13
EP3722519B1 (en) 2022-05-11
KR20200090761A (ko) 2020-07-29
JP2023083299A (ja) 2023-06-15
CN111344460A (zh) 2020-06-26
US20200291614A1 (en) 2020-09-17
EP3722519A1 (en) 2020-10-14
US11365527B2 (en) 2022-06-21
CN111344460B (zh) 2022-04-26
EP3722519A4 (en) 2021-04-21

Similar Documents

Publication Publication Date Title
JP7252137B2 (ja) 周辺監視装置
KR102638317B1 (ko) 작업기계, 작업기계용 주변감시시스템
KR102449834B1 (ko) 작업기계용 주변감시 시스템
JP7108750B2 (ja) システムおよび方法
WO2018084161A1 (ja) 作業機械用安全管理システム、管理装置、安全管理方法
US20220042286A1 (en) Shovel
US20220074171A1 (en) Display device, shovel, and information processing apparatus
JP7463354B2 (ja) ショベル
US11092960B2 (en) Remote vehicle control device and remote vehicle control method
US20220042283A1 (en) Shovel
JP2018121221A (ja) 作業機械用周辺監視システム
JP2022157923A (ja) ショベル
WO2021149775A1 (ja) 作業機械、情報処理装置
JP2021120515A (ja) 作業機械、情報処理装置
JP2022081286A (ja) 周辺監視装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200602

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211020

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221018

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221215

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230323

R150 Certificate of patent or registration of utility model

Ref document number: 7252137

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150