JP7099358B2 - 作業機械用表示システム - Google Patents
作業機械用表示システム Download PDFInfo
- Publication number
- JP7099358B2 JP7099358B2 JP2019028325A JP2019028325A JP7099358B2 JP 7099358 B2 JP7099358 B2 JP 7099358B2 JP 2019028325 A JP2019028325 A JP 2019028325A JP 2019028325 A JP2019028325 A JP 2019028325A JP 7099358 B2 JP7099358 B2 JP 7099358B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- work machine
- control device
- communication
- communication method
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/183—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J13/00—Controls for manipulators
- B25J13/06—Control stands, e.g. consoles, switchboards
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
- E02F9/261—Surveying the work-site to be treated
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
- E02F9/264—Sensors and their calibration for indicating the position of the work tool
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
- B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
- B60R2300/307—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing virtually distinguishing relevant parts of a scene from the background of the scene
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/20—Drives; Control devices
- E02F9/2025—Particular purposes of control systems not otherwise provided for
- E02F9/205—Remotely operated machines, e.g. unmanned vehicles
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
- G01S17/894—3D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
Description
本発明は、作業機械の周辺の様子をオペレータに対して視認可能に表示するためのシステムに関する。
遠隔操作によって制御されるロボットを利用した作業時間を短縮するための技術が提案されている(例えば、特許文献1参照)。ロボットにより、遠隔操作端末から発行された第1指令の内容に基づき、次の第2指令が予測される。ロボットにより、第1指令の後に遠隔操作端末から発行された第3指令と第2指令との比較結果に基づき、第2指令(予測指令)に応じた動作部の動作結果を遠隔操作端末に送信するか否かが判定される。このように、次の遠隔指令が送信されてから実行されていたロボットの動作が、当該遠隔指令の待ち受け期間中に行うことができるため、作業全体の時間が短縮される。
しかし、ロボット等の作業機械の周辺の様子をオペレータが監視しながら当該ロボットを遠隔操作する状況では、当該監視に必要な遠隔操作端末およびロボットの間の通信が途絶した場合、オペレータの操作に応じた遠隔指令がロボットの周囲の状況に鑑みて不適当な指令になる可能性がある。
そこで、本発明は、作業機械に搭載されるスレーブ制御装置とマスタ制御装置との通信が途絶した場合も、当該作業機械の遠隔にあるユーザに対して、作業機械の周辺の状況を認識させることができるシステムを提供することを目的とする。
本発明は、作業機械を構成する動作機構および前記動作機構の周辺の撮像画像を表わす撮像画像データを取得するための撮像装置と、前記撮像装置による撮影範囲において、前記作業機械から前記動作機構およびその周辺に存在する物体のそれぞれまでの距離を表わす距離画像データを取得するための距離センサと、前記作業機械に搭載され、前記撮像画像データを第1通信方式にしたがって送信する機能と、前記距離画像データを前記第1通信方式とは異なる第2通信方式にしたがって送信する機能と、を有するスレーブ制御装置と、前記撮像画像データを前記第1通信方式にしたがって受信する機能と、前記距離画像データを前記第2通信方式にしたがって受信する機能と、を有するマスタ制御装置と、前記スレーブ制御装置から送信され、前記マスタ制御装置により受信された前記撮像画像データにより表わされる前記作業機械の動作機構およびその周辺の画像を表示するための画像出力装置と、を備えている作業機械用表示システムに関する。
本発明の作業機械用表示システムは、前記マスタ制御装置が、前記距離画像データに基づいて点群画像を生成し、前記第1通信方式にしたがった通信が途絶したか否かを判定し、当該通信が途絶したと判定したことを要件として、前記作業機械の動作機構およびその周辺の画像の代わりに前記点群画像を前記画像出力装置に表示させることを特徴とする。
当該構成の作業機械用表示システムによれば、作業機械に搭載されているスレーブ制御装置とマスタ制御装置との間の第1通信方式にしたがった通信(以下、適宜「第1形態の通信」という。)により、撮像装置により取得された撮像画像データに応じた作業機械の動作機構およびその周辺の画像が画像出力装置に表示される。これにより、ユーザ(または作業機械のオペレータ)は、作業機械の動作機構とその周辺にある物体との相対位置関係など、動作機構およびその周辺の様子を認識することができる。
第1通信が途絶した場合、スレーブ制御装置とマスタ制御装置との間の第2通信方式にしたがった通信(以下、適宜「第2形態の通信」という。)により、作業機械の動作機構およびその周辺の画像に代えて、距離センサにより取得された距離画像データに応じた点群画像が画像出力装置に表示される。第2通信方式は第1通信方式とは異なるため、第1形態の通信の途絶に際しても第2通信方式にしたがった距離画像データの送受信の途絶が回避されうる。距離画像データのデータ量が撮像画像データのデータ量より少ない場合、第2形態の通信の負荷低減により当該通信の途絶が回避されやすい。これにより、画像出力装置に表示される画像の情報量が低減しうるものの、その直前まで画像出力装置に表示されていた作業機械の動作機構とその周辺の画像に時系列的に続いて表示される点群画像により、動作機構およびその周辺の様子を継続的にユーザに認識させることができる。
本発明の作業機械用表示システムにおいて、前記作業機械が、基体を基準とした前記動作機構の姿勢を表わす姿勢データを取得するための姿勢センサを備え、前記スレーブ制御装置が、前記姿勢データを前記第2通信方式にしたがって送信する機能を有し、前記マスタ制御装置が、前記姿勢データを前記第2通信方式にしたがって受信する機能を有し、前記マスタ制御装置が、前記姿勢データおよび前記動作機構の主要諸元に基づき、前記姿勢データに応じた姿勢を有する前記動作機構を模擬的に表わす3次元モデル画像を生成し、前記第1通信方式にしたがった通信が途絶したと判定したことを要件として、前記作業機械の動作機構およびその周辺の画像の代わりに前記点群画像および前記3次元モデル画像を重畳的に前記画像出力装置に表示させることが好ましい。
当該構成の作業機械用表示システムによれば、画像出力装置における3次元モデル画像および点群画像の重畳表示により、当該点群画像を構成する点が、動作機構の特徴点およびその周辺の物体の特徴点のうちいずれを表わしているかが識別容易になり、この分だけ撮像画像データに応じた画像と比較した情報量の低減が抑制される。このため、第1形態の通信の途絶に際して、動作機構およびその周辺の様子をより正確にユーザに認識させることができる。
本発明の作業機械用表示システムにおいて、前記作業機械の動作を表わす動作データを取得するための動作センサを備え、前記マスタ制御装置が、前記動作データにより表わされる前記作業機械の動作状態の相違に応じて、表示形態が異なる前記3次元モデル画像を生成することが好ましい。
当該構成の作業機械用表示システムによれば、画像出力装置において点群画像と重畳表示される3次元モデル画像の表示形態の相違により、動作機構の動作方向、動作速度、周辺物体との接触有無などの動作機構の動作をユーザに認識させることができる。このため、第1形態の通信の途絶に際して、動作機構およびその周辺の様子を、当該動作機構の動作状態の相違も含めてより正確にユーザに認識させることができる。
本発明の作業機械用表示システムにおいて、前記マスタ制御装置が、前記第1通信方式にしたがった通信が途絶したか否かを判定し、当該通信が途絶したと判定したことを要件として、前記作業機械の動作機構およびその周辺の画像の代わりに前記点群画像およびテクスチャ素材を重畳的に前記画像出力装置に表示させることが好ましい。
当該構成の作業機械用表示システムによれば、画像出力装置におけるテクスチャ素材および点群画像の重畳表示により、当該点群画像を構成する点が、動作機構の特徴点およびその周辺の物体の特徴点のうちいずれを表わしているかが識別容易になり、この分だけ撮像画像データに応じた画像と比較した情報量の低減が抑制される。このため、第1形態の通信の途絶に際して、動作機構およびその周辺の様子をより正確にユーザに認識させることができる。
本発明の作業機械用表示システムにおいて、前記マスタ制御装置が、前記撮像装置および前記距離センサのそれぞれの位置および姿勢に応じた、前記撮像装置により取得される撮像画像の座標系および前記距離センサにより取得される距離画像の座標系の間の座標変換演算子にしたがって、前記点群画像の座標系を当該撮像画像の座標系に合わせて前記点群画像を生成することが好ましい。
当該構成の作業機械用表示システムによれば、撮像装置および距離センサが、あたかも実空間において同一の位置および姿勢で配置されているかのように、画像出力装置に表示される撮像画像データに応じた画像および距離画像データに応じた点群画像が切り替えられる。このため、画像出力装置に表示されていた作業機械の動作機構とその周辺の画像に時系列的に続いて表示される点群画像により、動作機構およびその周辺の様子をより容易にユーザに認識させることができる。
(構成)
図1に示されている本発明の一実施形態としての作業機械用表示システムは、撮像装置11と、距離センサ12と、姿勢センサ13と、動作センサ14と、スレーブ制御装置110と、マスタ制御装置120と、出力装置130と、を備えている。撮像装置11、距離センサ12、姿勢センサ13、動作センサ14およびスレーブ制御装置110は、作業機械200の一実施形態としてのクローラショベルに搭載されている。マスタ制御装置120および出力装置130は、操作装置400に搭載または連結されている。
図1に示されている本発明の一実施形態としての作業機械用表示システムは、撮像装置11と、距離センサ12と、姿勢センサ13と、動作センサ14と、スレーブ制御装置110と、マスタ制御装置120と、出力装置130と、を備えている。撮像装置11、距離センサ12、姿勢センサ13、動作センサ14およびスレーブ制御装置110は、作業機械200の一実施形態としてのクローラショベルに搭載されている。マスタ制御装置120および出力装置130は、操作装置400に搭載または連結されている。
作業機械200は、例えばクローラショベル(建設機械)であり、図2および図3に示されているように、クローラ式の下部走行体210と、下部走行体210に旋回機構230を介して旋回可能に搭載されている上部旋回体220と、を備えている。上部旋回体220の前方左側部にはキャブ(運転室)222が設けられている。上部旋回体220の前方中央部には作業アタッチメント240が設けられている。
作業アタッチメント240は、上部旋回体220に起伏可能に装着されているブーム241と、ブーム241の先端に回動可能に連結されているアーム243と、アーム243の先端に回動可能に連結されているバケット245と、を備えている。作業アタッチメント240には、伸縮可能な油圧シリンダにより構成されているブームシリンダ242、アームシリンダ244およびバケットシリンダ246が装着されている。
ブームシリンダ242は、作動油の供給を受けることにより伸縮してブーム241を起伏方向に回動させるように当該ブーム241と上部旋回体14との間に介在する。アームシリンダ244は、作動油の供給を受けることにより伸縮してアーム243をブーム241に対して水平軸回りに回動させるように当該アーム243と当該ブーム241との間に介在する。バケットシリンダ246は、作動油の供給を受けることにより伸縮してバケット245をアーム243に対して水平軸回りに回動させるように当該バケット245と当該アーム243との間に介在する。
操作装置400には、走行用操作装置と、旋回用操作装置と、ブーム用操作装置と、アーム用操作装置と、バケット用操作装置と、が含まれている。各操作装置は、回動操作を受ける操作レバーを有している。走行用操作装置の操作レバー(走行レバー)は、下部走行体210を動かすために操作される。走行レバーは、走行ペダルを兼ねていてもよい。例えば、走行レバーの基部または下端部に固定されている走行ペダルが設けられていてもよい。旋回用操作装置の操作レバー(旋回レバー)は、旋回機構230を構成する油圧式の旋回モータを動かすために操作される。ブーム用操作装置の操作レバー(ブームレバー)は、ブームシリンダ242を動かすために操作される。アーム用操作装置の操作レバー(アームレバー)はアームシリンダ244を動かすために操作される。バケット用操作装置の操作レバー(バケットレバー)はバケットシリンダ246を動かすために操作される。操作装置400は、作業機械200に搭載されている実機側無線通信装置と無線方式で通信するための無線通信装置を備えている。
操作装置400を構成する各操作レバーは、遠隔操作室においてオペレータが着座するシート402の周囲に設けられている。例えば、図4に示されているように、シート402の前方に左右のクローラに応じた左右一対の走行レバー410が左右横並びに配置されていてもよい。シート402は、アームレスト付きのハイバックチェアのような形態であるが、ヘッドレストがないローバックチェアのような形態、または、背もたれがないチェアのような形態など、オペレータが着座できる任意の形態でもよい。
遠隔操作室に設けられている操作レバーに対応する実機側操作レバーと、遠隔操作室から各操作レバーの操作態様に応じた信号を受信し、当該受信信号に基づいて実機操作レバーを動かす駆動機構またはロボットと、がキャブ222に設けられている。実機側操作レバーが、キャブ222に存在するオペレータにより直接的に操作されてもよい。すなわち、当該実機操作レバーと、その操作量に対応した大きさのパイロット圧を操作方向に対応したポートから出力するリモコン弁と、により操作装置400が構成されていてもよい。この場合、操作装置400は無線方式ではなく有線方式で作業機械200と通信可能に構成されていてもよい。
一の操作レバーが複数の操作レバーを兼ねていてもよい。例えば、図4に示されているシート402の右側フレームの前方に設けられている右側操作レバー420が、前後方向に操作された場合にブームレバーとして機能し、かつ、左右方向に操作された場合にバケットレバーとして機能してもよい。同様に、図4に示されているシート402の左側フレームの前方に設けられている左側操作レバー440が、前後方向に操作された場合にアームレバーとして機能し、かつ、左右方向に操作された場合に旋回レバーとして機能してもよい。レバーパターンは、オペレータの操作指示によって任意に変更されてもよい。
撮像装置11は、例えばCCDカメラにより構成され、作業機械200を構成する動作機構としての作業アタッチメント240およびその周辺の撮像画像を表わす撮像画像データを取得する。撮像画像は、輝度、色彩などの距離以外の物理量を画素値とする画像である。図3に示されているように、作業装置200の前方の撮像範囲S1が、作業アタッチメント240を含むようにキャブ222の内部空間に配置されている。
距離センサ12は、例えばTOFセンサにより構成され、作業機械200から動作機構およびその周辺に存在する物体のそれぞれまでの距離を表わす距離画像データを取得する。距離画像データは、物体までの距離を画素値として有する距離画像を表わすデータである。距離センサ12は、図3に示されているように、作業装置200の前方の撮像範囲S2が、撮像範囲S1と重複するように上部旋回体220の前方中央部に配置されている。
姿勢センサ13は、例えばロータリーエンコーダにより構成され、基体としての上部旋回体220を基準とした作業アタッチメント240(動作機構)の姿勢を表わす姿勢データを取得する。例えば、上部旋回体220に対するブーム241の回動角度、ブーム241に対するアーム243の回動角度、および、アーム243に対するバケット245の回動角度に基づき、上部旋回体220に対するブーム241、アーム243およびバケット245のそれぞれの姿勢を表わす角度が定められる。
動作センサ14は、例えば油圧センサにより構成され、ブームシリンダ242、アームシリンダ244およびバケットシリンダ246のそれぞれの作動油圧を作業機械200の動作として、当該動作を表わす動作データを取得する。
スレーブ制御装置110は、第1スレーブ通信装置111および第2スレーブ通信装置112を備えている。第1スレーブ通信装置111は、第1通信方式にしたがってデータを送受信する機能を有し、例えば「撮像画像データ」を第1通信方式にしたがって送信する機能を有している。第2スレーブ通信装置112は、第2通信方式にしたがってデータを送受信する機能を有し、例えば「距離画像データ」、「姿勢データ」および「動作データ」を第2通信方式にしたがって送信する機能を有している。
第1通信方式は例えば無線LAN(Wi-Fi)であり、第2通信方式は例えば第1通信方式とは異なるSTD-T108である。第1通信方式は「撮像画像データ」などサイズが大きいデータを伝送するため通信速度・容量を優先した通信方式である。第2通信方式は「距離画像データ」、「姿勢データ」、「動作データ」などデータサイズの小さい情報を「撮像画像データ」を補助する情報として伝送するため通信の安定性を優先した通信方式である。
第1通信方式は例えば無線LAN(Wi-Fi)であり、第2通信方式は例えば第1通信方式とは異なるSTD-T108である。第1通信方式は「撮像画像データ」などサイズが大きいデータを伝送するため通信速度・容量を優先した通信方式である。第2通信方式は「距離画像データ」、「姿勢データ」、「動作データ」などデータサイズの小さい情報を「撮像画像データ」を補助する情報として伝送するため通信の安定性を優先した通信方式である。
マスタ制御装置120は、第1マスタ通信装置121および第2マスタ通信装置122を備えている。第1マスタ通信装置121は、第1通信方式にしたがってデータを送受信する機能を有し、例えば「撮像画像データ」を第1通信方式にしたがって受信する機能を有している。第2マスタ通信装置122は、第2通信方式にしたがってデータを送受信する機能を有し、例えば「距離画像データ」、「姿勢データ」および「動作データ」を第2通信方式にしたがって受信する機能を有している。
スレーブ制御装置110およびマスタ制御装置120のそれぞれは、共通のまたは別個の演算処理装置(シングルコアプロセッサまたはマルチコアプロセッサもしくはこれを構成するプロセッサコア)により構成されており、メモリなどの記憶装置から必要なデータおよびソフトウェアを読み取り、当該データを対象として当該ソフトウェアにしたがった演算処理を実行することにより当該演算処理結果を出力する。
画像出力装置130は、作業機械200の運転空間である遠隔操作室(またはキャブ222の内部空間)においてオペレータが着座するシート402(オペレータの居場所)の座部を基準として前方に配置されている。画像出力装置130は、スピーカなどの音声出力装置を備えていてもよい。
(機能)
前記構成の作業機械用表示システムの機能について説明する。
前記構成の作業機械用表示システムの機能について説明する。
(スレーブ制御装置の機能)
撮像装置11により、動作機構である作業アタッチメント240およびその周辺の様子を表わす撮像画像データが取得される(図5/STEP112)。第1スレーブ通信装置111により、当該撮像画像データがマスタ制御装置120に宛てて送信される(図5/STEP118)。
撮像装置11により、動作機構である作業アタッチメント240およびその周辺の様子を表わす撮像画像データが取得される(図5/STEP112)。第1スレーブ通信装置111により、当該撮像画像データがマスタ制御装置120に宛てて送信される(図5/STEP118)。
距離センサ12により、動作機構である作業アタッチメント240およびその周辺にある物体までの距離を表わす距離画像データが取得される(図5/STEP122)。姿勢センサ13により、動作機構である作業アタッチメント240の上部旋回体220に対する姿勢を表わす姿勢データが取得される(図5/STEP124)。動作センサ14により、ブームシリンダ242、アームシリンダ244およびバケットシリンダ246のそれぞれの作動油圧を作業機械200の動作を表わす動作データが取得される(図5/STEP126)。第2スレーブ通信装置111により、当該距離画像データ、姿勢データおよび動作データ(以下、適宜「距離画像データ等」という。)がマスタ制御装置120に宛てて送信される(図5/STEP128)。
撮像画像データの取得および送信と、距離画像データ等の取得および送信と、が別個の演算処理要素(マルチコアプロセッサを構成する別個のコア)により並列的に実行されてもよく、単一の演算処理要素(シングルコアプロセッサ)により直列的に実行されてもよい。
(マスタ制御装置の機能)
第1マスタ通信装置121により撮像画像データが受信されたか否か、すなわち、第1通信方式にしたがった通信(第1形態の通信)が途絶していないか否かが判定される(図5/STEP202)。当該判定結果が肯定的である場合(図5/STEP202‥YES)、マスタ制御装置120により画像出力装置130に撮像画像データに応じた画像が表示される(図5/STEP204)。これにより、例えば図6に示されているように、作業機械200の動作機構である作業アタッチメント240およびその周辺の物体としての作業機械200の前方にある土山を表わす撮像画像が画像出力装置130に表示される。図6においては、作業アタッチメント240を構成するアーム243およびバケット245と、バケット245により部分的に土山の一部の土が掬われている。
第1マスタ通信装置121により撮像画像データが受信されたか否か、すなわち、第1通信方式にしたがった通信(第1形態の通信)が途絶していないか否かが判定される(図5/STEP202)。当該判定結果が肯定的である場合(図5/STEP202‥YES)、マスタ制御装置120により画像出力装置130に撮像画像データに応じた画像が表示される(図5/STEP204)。これにより、例えば図6に示されているように、作業機械200の動作機構である作業アタッチメント240およびその周辺の物体としての作業機械200の前方にある土山を表わす撮像画像が画像出力装置130に表示される。図6においては、作業アタッチメント240を構成するアーム243およびバケット245と、バケット245により部分的に土山の一部の土が掬われている。
その一方、当該判定結果が否定的である場合(図5/STEP202‥NO)、第2マスタ通信装置122により距離画像データ等が受信されたか否か、すなわち、第2通信方式にしたがった通信(第2形態の通信)が途絶していないか否かが判定される(図5/STEP206)。当該判定結果が肯定的である場合(図5/STEP206‥YES)、画像生成要素123により距離画像データに応じた点群画像が生成される(図5/STEP208)。点群画像を構成する各点は、所定の走査方向について隣接する画素の画素値(距離)が閾値を超えて変化するエッジまたはコーナーなどの特徴点を表わしている。この際、点群画像の座標系が撮像画像の座標系に座標変換される。この座標変換に際して、距離センサ12の位置および姿勢(光軸または中心軸線の向き)を、撮像装置11の位置および姿勢(光軸の向き)に一致させるような座標変換子(回転行列またはこれに同等なクォータニオンおよび並進行列)が用いられる。距離画像の画素値である距離が、撮像画像および距離画像の解像度の相違に応じた適当な補間方法を用いて撮像画像の各画素に割り当てられる。これにより、例えば図7に示されているような点群画像Img1が生成される。
さらに、画像生成要素123により、動作機構としての作業アタッチメント240の主要諸元と、姿勢データにより表わされる作業アタッチメント240の上部旋回体220に対する姿勢と、に基づき、3次元モデル画像が生成される(図5/STEP210)。
例えば、ブーム241の一端部の回動軸線まわりの上部旋回体220に対する回動角度と、当該ブーム241の主要諸元としてのサイズ(一端部の回動軸線と他端部の回動軸線との間隔など)と、に基づき、上部旋回体220に対するアーム243の一端部の回動軸線(=ブーム241の他端部の回動軸線)の位置および姿勢が推定される。アーム243の一端部の回動軸線まわりのブーム241に対する回動角度と、当該アーム243の主要諸元としてのサイズ(一端部の回動軸線と他端部の回動軸線との間隔など)と、に基づき、上部旋回体220に対するバケット245の回動軸線(=アーム243の他端部の回動軸線)の位置および姿勢が推定される。バケット245の回動軸線まわりのアーム243に対する回動角度と、当該バケット245の主要諸元としてのサイズ(一端部の回動軸線と他端部の回動軸線との間隔など)と、に基づき、上部旋回体220に対するバケット245の先端部等の各部位の位置および姿勢が推定される。当該推定結果に基づき、世界座標系または作業機械座標系(上部旋回体220に対して位置および姿勢が固定された座標系)における作業アタッチメント240およびその各構成要素241、243および245の配置態様または延在態様が推定され、さらには点群画像の座標系において当該推定結果に応じた延在態様を有する作業アタッチメント240の3次元モデル画像が生成される。
また、動作データにより表わされる作業機械200の動作状態の相違に応じて、異なる3次元モデル画像が生成される。例えば、バケット245を通じて作業アタッチメント240にかかっている負荷が一の負荷範囲に含まれている一の動作状態と、当該負荷が他の負荷範囲に含まれている他の動作状態と、の相違に応じて3次元モデル画像の色彩(色相、彩度、明度)が相違するように3次元モデル画像が生成される。バケット245が物体(土石など)に接触している一の動作状態と、バケット245が物体に接触していない他の動作状態と、の相違に応じて3次元モデル画像の色彩が相違するように3次元モデル画像が生成される。
そして、点群画像および3次元モデル画像が画像出力装置130に重畳的に表示される(図5/STEP212)。これにより、例えば図8に示されているように、点群画像Img1および3次元モデル画像Img2が重畳表示される。
今回制御周期において画像出力装置に表示される点群画像Img1および3次元モデル画像Img2は、当該今回制御周期において生成された画像のほか、前回以前の制御周期において生成され、マスタ制御装置120を構成する記憶装置に記憶保持された画像であってもよい。これにより、今回制御周期における画像生成を待つ必要がなくなるので、第1形態の通信途絶から点群画像の表示までの時間間隔の短縮が図られる。
第2形態の通信が途絶していると判定された場合(図5/STEP206‥NO)、第1形態の通信が途絶する直前の撮像画像データに応じた画像(静止画像)が画像出力装置130に表示される。
第1形態の通信が途絶していると判定され(図5/STEP202‥NO)、これに応じて点群画像および3次元モデル画像が重畳表示された後(図5/STEP212)、第1形態の通信が途絶していないと判定された場合(図5/STEP202‥YES)、再び撮像画像データに応じた画像が画像出力装置130に表示される(図5/STEP204および図6参照)。
(作用効果)
前記構成の作業機械用表示システムによれば、作業機械200に搭載されているスレーブ制御装置110とマスタ制御装置120との間の第1形態の通信により、撮像装置11により取得された撮像画像データに応じた作業機械200の作業アタッチメント240(動作機構)およびその周辺の画像が画像出力装置130に表示される(図5/STEP202‥YES→STEP204および図6参照)。これにより、ユーザ(または操作装置400を通じた作業機械200のオペレータ)は、作業アタッチメント240とその周辺にある物体との相対位置関係など、当該作業アタッチメント240およびその周辺の様子を認識することができる。
前記構成の作業機械用表示システムによれば、作業機械200に搭載されているスレーブ制御装置110とマスタ制御装置120との間の第1形態の通信により、撮像装置11により取得された撮像画像データに応じた作業機械200の作業アタッチメント240(動作機構)およびその周辺の画像が画像出力装置130に表示される(図5/STEP202‥YES→STEP204および図6参照)。これにより、ユーザ(または操作装置400を通じた作業機械200のオペレータ)は、作業アタッチメント240とその周辺にある物体との相対位置関係など、当該作業アタッチメント240およびその周辺の様子を認識することができる。
第1形態の通信が途絶した場合、スレーブ制御装置110とマスタ制御装置120との間の第2形態の通信により、作業機械の動作機構およびその周辺の画像に代えて、距離センサ12により取得された距離画像データに応じた点群画像が画像出力装置130に表示される(図5/STEP202‥NO→STEP212および図8参照)。
第2通信方式は第1通信方式とは異なるため、第1形態の通信の途絶に際しても第2通信方式にしたがった距離画像データの送受信の途絶が回避されうる。距離画像データのデータ量が撮像画像データのデータ量より少ない場合、第2形態の通信の負荷低減により当該通信の途絶が回避されやすい。この際、前記したような画像座標系の座標変換により、撮像装置11および距離センサ12が、あたかも実空間において同一の位置および姿勢で配置されているかのように、画像出力装置130に表示される撮像画像データに応じた画像および距離画像データに応じた点群画像が切り替えられる(図6および図8参照)。
よって、画像出力装置130に表示される画像の情報量が低減しうるものの、その直前まで画像出力装置に表示されていた作業機械200の動作機構としての作業アタッチメント240およびその周辺の画像に時系列的に続いて表示される点群画像により、当該作業アタッチメント240およびその周辺の様子を継続的にユーザに認識させることができる。
さらに、画像出力装置における3次元モデル画像および点群画像の重畳表示により、当該点群画像を構成する点が、動作機構の特徴点およびその周辺の物体の特徴点のうちいずれを表わしているかが識別容易になり、この分だけ撮像画像データに応じた画像と比較した情報量の低減が抑制される(図8参照)。このため、第1形態の通信の途絶に際して、動作機構およびその周辺の様子をより正確にユーザに認識させることができる。
さらに、画像出力装置130において点群画像と重畳表示される3次元モデル画像の表示形態(例えば色彩、明暗(点滅するように変化)もしくはモデル形状の変化(膨張または収縮)またはこれらの任意の組み合わせ)の相違により、動作機構としての作業アタッチメント240の動作方向、動作速度、周辺物体との接触有無などの動作状態をユーザに認識させることができる。このため、第1形態の通信の途絶に際して、作業アタッチメント240およびその周辺の様子を、当該作業アタッチメント240の動作状態の相違も含めてより正確にユーザに認識させることができる。
(本発明の他の実施形態)
マスタ制御装置120が、第1形態の通信が途絶したと判定したことを要件として、点群画像およびテクスチャ素材を重畳的に画像出力装置130に表示させてもよい。テクスチャ素材は、撮像画像データに基づいて、撮像画像の画像領域のそれぞれの種類が推定され、当該推定種類(例えば、土、石、植物、金属など)に応じたテクスチャ素材が記憶装置から読み出されて当該画像領域に点群画像に重畳表示されてもよい。例えば、図8に示されている点群画像において、土山に該当すると推定された領域に土を表わすテクスチャ素材が重畳表示されてもよい。
マスタ制御装置120が、第1形態の通信が途絶したと判定したことを要件として、点群画像およびテクスチャ素材を重畳的に画像出力装置130に表示させてもよい。テクスチャ素材は、撮像画像データに基づいて、撮像画像の画像領域のそれぞれの種類が推定され、当該推定種類(例えば、土、石、植物、金属など)に応じたテクスチャ素材が記憶装置から読み出されて当該画像領域に点群画像に重畳表示されてもよい。例えば、図8に示されている点群画像において、土山に該当すると推定された領域に土を表わすテクスチャ素材が重畳表示されてもよい。
当該構成の作業機械用表示システムによれば、画像出力装置130におけるテクスチャ素材および点群画像の重畳表示により、当該点群画像を構成する点が、作業アタッチメント240の特徴点およびその周辺の物体の特徴点のうちいずれを表わしているかが識別容易になり、この分だけ撮像画像データに応じた画像と比較した情報量の低減が抑制される。このため、第1形態の通信の途絶に際して、動作機構およびその周辺の様子をより正確にユーザに認識させることができる。
前記実施形態において姿勢センサ13が省略され、かつ、3次元モデル画像の生成および点群画像との重畳表示が省略されてもよい。この場合、例えば図7に示されているように、3次元モデル画像を含まない点群画像が画像出力装置130に表示される。
前記実施形態において動作センサ14が省略され、かつ、作業機械200の動作状態の相違に応じて3次元モデル画像の表示形態の差異化が省略されてもよい。
11‥撮像装置、12‥距離センサ、13‥姿勢センサ、14‥動作センサ、110‥スレーブ制御装置、111‥第1スレーブ通信装置、112‥第2スレーブ通信装置、120‥マスタ制御装置、121‥第1マスタ通信装置、122‥第2マスタ通信装置、123‥画像生成要素、130‥画像出力装置、200‥作業機械、240‥動作機構(作業アタッチメント)、400‥操作装置、402‥シート(オペレータの居場所)。
Claims (5)
- 作業機械を構成する動作機構および前記動作機構の周辺の撮像画像を表わす撮像画像データを取得するための撮像装置と、
前記撮像装置による撮影範囲において、前記作業機械から前記動作機構およびその周辺に存在する物体のそれぞれまでの距離を表わす距離画像データを取得するための距離センサと、
前記作業機械に搭載され、前記撮像画像データを第1通信方式にしたがって送信する機能と、前記距離画像データを前記第1通信方式とは異なる第2通信方式にしたがって送信する機能と、を有するスレーブ制御装置と、
前記撮像画像データを前記第1通信方式にしたがって受信する機能と、前記距離画像データを前記第2通信方式にしたがって受信する機能と、を有するマスタ制御装置と、
前記スレーブ制御装置から送信され、前記マスタ制御装置により受信された前記撮像画像データにより表わされる前記作業機械の動作機構およびその周辺の画像を表示するための画像出力装置と、を備えている作業機械用表示システムであって、
前記マスタ制御装置が、前記距離画像データに基づいて点群画像を生成し、前記第1通信方式にしたがった通信が途絶したか否かを判定し、当該通信が途絶したと判定したことを要件として、前記作業機械の動作機構およびその周辺の画像の代わりに前記点群画像を前記画像出力装置に表示させることを特徴とする作業機械用表示システム。 - 請求項1記載の作業機械用表示システムにおいて、
前記作業機械が、基体を基準とした前記動作機構の姿勢を表わす姿勢データを取得するための姿勢センサを備え、
前記スレーブ制御装置が、前記姿勢データを前記第2通信方式にしたがって送信する機能を有し、
前記マスタ制御装置が、前記姿勢データを前記第2通信方式にしたがって受信する機能を有し、
前記マスタ制御装置が、前記姿勢データおよび前記動作機構の主要諸元に基づき、前記姿勢データに応じた姿勢を有する前記動作機構を模擬的に表わす3次元モデル画像を生成し、前記第1通信方式にしたがった通信が途絶したと判定したことを要件として、前記作業機械の動作機構およびその周辺の画像の代わりに前記点群画像および前記3次元モデル画像を重畳的に前記画像出力装置に表示させることを特徴とする作業機械用表示システム。 - 請求項2記載の作業機械用表示システムにおいて、
前記作業機械の動作を表わす動作データを取得するための動作センサを備え、
前記マスタ制御装置が、前記動作データにより表わされる前記作業機械の動作状態の相違に応じて、表示形態が異なる前記3次元モデル画像を生成することを特徴とする作業機械用表示システム。 - 請求項1~3のうちいずれか1つに記載の作業機械用表示システムにおいて、
前記マスタ制御装置が、前記第1通信方式にしたがった通信が途絶したか否かを判定し、当該通信が途絶したと判定したことを要件として、前記作業機械の動作機構およびその周辺の画像の代わりに前記点群画像およびテクスチャ素材を重畳的に前記画像出力装置に表示させることを特徴とする作業機械用表示システム。 - 請求項1~4のうちいずれか1つに記載の作業機械用表示システムにおいて、
前記マスタ制御装置が、前記撮像装置および前記距離センサのそれぞれの位置および姿勢に応じた、前記撮像装置により取得される撮像画像の座標系および前記距離センサにより取得される距離画像の座標系の間の座標変換演算子にしたがって、前記点群画像の座標系を当該撮像画像の座標系に合わせて前記点群画像を生成することを特徴とする作業機械用表示システム。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019028325A JP7099358B2 (ja) | 2019-02-20 | 2019-02-20 | 作業機械用表示システム |
EP19915636.5A EP3900892B1 (en) | 2019-02-20 | 2019-11-19 | Display system for work machine |
PCT/JP2019/045321 WO2020170526A1 (ja) | 2019-02-20 | 2019-11-19 | 作業機械用表示システム |
US17/424,775 US11732444B2 (en) | 2019-02-20 | 2019-11-19 | Display system for work machine |
CN201980091702.6A CN113423543B (zh) | 2019-02-20 | 2019-11-19 | 作业机械用显示系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019028325A JP7099358B2 (ja) | 2019-02-20 | 2019-02-20 | 作業機械用表示システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020131365A JP2020131365A (ja) | 2020-08-31 |
JP7099358B2 true JP7099358B2 (ja) | 2022-07-12 |
Family
ID=72144397
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019028325A Active JP7099358B2 (ja) | 2019-02-20 | 2019-02-20 | 作業機械用表示システム |
Country Status (5)
Country | Link |
---|---|
US (1) | US11732444B2 (ja) |
EP (1) | EP3900892B1 (ja) |
JP (1) | JP7099358B2 (ja) |
CN (1) | CN113423543B (ja) |
WO (1) | WO2020170526A1 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7444094B2 (ja) * | 2021-02-05 | 2024-03-06 | コベルコ建機株式会社 | 遠隔操作支援システムおよび遠隔操作支援方法 |
JP2023005582A (ja) * | 2021-06-29 | 2023-01-18 | コベルコ建機株式会社 | 侵入検出システム |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017042873A1 (ja) | 2015-09-08 | 2017-03-16 | 株式会社日立製作所 | 遠隔操作システムおよび操作支援システム |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3364419B2 (ja) * | 1997-10-29 | 2003-01-08 | 新キャタピラー三菱株式会社 | 遠隔無線操縦システム並びに遠隔操縦装置,移動式中継局及び無線移動式作業機械 |
US6285931B1 (en) * | 1998-02-05 | 2001-09-04 | Denso Corporation | Vehicle information communication system and method capable of communicating with external management station |
US7181370B2 (en) * | 2003-08-26 | 2007-02-20 | Siemens Energy & Automation, Inc. | System and method for remotely obtaining and managing machine data |
US8996224B1 (en) * | 2013-03-15 | 2015-03-31 | Google Inc. | Detecting that an autonomous vehicle is in a stuck condition |
JP2015043488A (ja) * | 2013-08-26 | 2015-03-05 | 清水建設株式会社 | 遠隔操作装置及びそれを用いた遠隔施工方法 |
JP2015174155A (ja) | 2014-03-13 | 2015-10-05 | 三菱重工業株式会社 | ロボット、ロボットの制御方法、及びロボットの制御プログラム |
JP6777375B2 (ja) * | 2015-03-05 | 2020-10-28 | 株式会社小松製作所 | 作業機械の画像表示システム、作業機械の遠隔操作システム及び作業機械 |
JPWO2015125979A1 (ja) * | 2015-04-28 | 2018-02-15 | 株式会社小松製作所 | 作業機械の周辺監視装置及び作業機械の周辺監視方法 |
WO2019012992A1 (ja) * | 2017-07-14 | 2019-01-17 | 株式会社小松製作所 | 表示制御装置、表示制御方法、プログラムおよび表示システム |
JP6947101B2 (ja) * | 2018-03-28 | 2021-10-13 | コベルコ建機株式会社 | 遠隔操作システム及び主操作装置 |
-
2019
- 2019-02-20 JP JP2019028325A patent/JP7099358B2/ja active Active
- 2019-11-19 WO PCT/JP2019/045321 patent/WO2020170526A1/ja unknown
- 2019-11-19 EP EP19915636.5A patent/EP3900892B1/en active Active
- 2019-11-19 CN CN201980091702.6A patent/CN113423543B/zh active Active
- 2019-11-19 US US17/424,775 patent/US11732444B2/en active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2017042873A1 (ja) | 2015-09-08 | 2017-03-16 | 株式会社日立製作所 | 遠隔操作システムおよび操作支援システム |
Also Published As
Publication number | Publication date |
---|---|
EP3900892B1 (en) | 2024-01-10 |
US20220064908A1 (en) | 2022-03-03 |
EP3900892A1 (en) | 2021-10-27 |
WO2020170526A1 (ja) | 2020-08-27 |
CN113423543A (zh) | 2021-09-21 |
US11732444B2 (en) | 2023-08-22 |
CN113423543B (zh) | 2023-10-27 |
JP2020131365A (ja) | 2020-08-31 |
EP3900892A4 (en) | 2022-03-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102262871B1 (ko) | 작업차 | |
JP6807781B2 (ja) | 表示システム、表示方法、及び遠隔操作システム | |
CN113994052B (zh) | 远程操作系统及远程操作服务器 | |
JP7420733B2 (ja) | 表示制御システムおよび表示制御方法 | |
JP7099358B2 (ja) | 作業機械用表示システム | |
JP7318258B2 (ja) | 遠隔操作システムおよび遠隔操作サーバ | |
WO2020194883A1 (ja) | 遠隔操作システム | |
JP7310338B2 (ja) | 遠隔操作システムおよび遠隔操作サーバ | |
JP7376440B2 (ja) | 遠隔操作装置および遠隔操作システム | |
US20220106765A1 (en) | Periphery monitoring device for work machine | |
US20220412049A1 (en) | Work assisting server and method for selecting imaging device | |
CN114787453B (zh) | 远程操作装置及远程操作系统 | |
AU2020322381B2 (en) | Display system, remote operation system, and display method | |
WO2023136070A1 (ja) | 遠隔操作支援システムおよび遠隔操作支援方法 | |
JP2023032997A (ja) | 遠隔操作システム | |
JP2024043268A (ja) | 画像生成装置、操作支援システム | |
JP2023083245A (ja) | 画像表示システム、遠隔操作支援システムおよび画像表示方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211125 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220531 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220613 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7099358 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |