JP7484401B2 - 作業機械の遠隔操作支援システム - Google Patents

作業機械の遠隔操作支援システム Download PDF

Info

Publication number
JP7484401B2
JP7484401B2 JP2020084327A JP2020084327A JP7484401B2 JP 7484401 B2 JP7484401 B2 JP 7484401B2 JP 2020084327 A JP2020084327 A JP 2020084327A JP 2020084327 A JP2020084327 A JP 2020084327A JP 7484401 B2 JP7484401 B2 JP 7484401B2
Authority
JP
Japan
Prior art keywords
remote
work machine
remote operation
support
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020084327A
Other languages
English (en)
Other versions
JP2021179105A (ja
Inventor
涼太 羽馬
真輝 大谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kobelco Construction Machinery Co Ltd
Original Assignee
Kobelco Construction Machinery Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kobelco Construction Machinery Co Ltd filed Critical Kobelco Construction Machinery Co Ltd
Priority to JP2020084327A priority Critical patent/JP7484401B2/ja
Priority to EP21803548.3A priority patent/EP4116041A4/en
Priority to US17/917,980 priority patent/US20230142088A1/en
Priority to CN202180034922.2A priority patent/CN115552501A/zh
Priority to PCT/JP2021/017097 priority patent/WO2021230092A1/ja
Publication of JP2021179105A publication Critical patent/JP2021179105A/ja
Application granted granted Critical
Publication of JP7484401B2 publication Critical patent/JP7484401B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0011Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement
    • G05D1/0044Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement by providing the operator with a computer generated representation of the environment of the vehicle, e.g. virtual reality, maps
    • GPHYSICS
    • G08SIGNALLING
    • G08CTRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
    • G08C17/00Arrangements for transmitting signals characterised by the use of a wireless electrical link
    • G08C17/02Arrangements for transmitting signals characterised by the use of a wireless electrical link using a radio link
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F3/00Dredgers; Soil-shifting machines
    • E02F3/04Dredgers; Soil-shifting machines mechanically-driven
    • E02F3/28Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
    • E02F3/36Component parts
    • E02F3/42Drives for dippers, buckets, dipper-arms or bucket-arms
    • E02F3/43Control of dipper or bucket position; Control of sequence of drive operations
    • E02F3/435Control of dipper or bucket position; Control of sequence of drive operations for dipper-arms, backhoes or the like
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/2025Particular purposes of control systems not otherwise provided for
    • E02F9/205Remotely operated machines, e.g. unmanned vehicles
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B9/00Simulators for teaching or training purposes
    • G09B9/02Simulators for teaching or training purposes for teaching control of vehicles or other craft
    • G09B9/04Simulators for teaching or training purposes for teaching control of vehicles or other craft for teaching control of land vehicles
    • G09B9/048Simulators for teaching or training purposes for teaching control of vehicles or other craft for teaching control of land vehicles a model being viewed and manoeuvred from a remote point

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Mining & Mineral Resources (AREA)
  • Structural Engineering (AREA)
  • Civil Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Automation & Control Theory (AREA)
  • Business, Economics & Management (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • Operation Control Of Excavators (AREA)
  • Manipulator (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Selective Calling Equipment (AREA)

Description

本発明の遠隔操作支援装置は、作業機械を遠隔操作するオペレータを支援するシステムに関する。
オペレータの操作を直接受け付ける主操作部を有する遠隔操作装置と、操作器に対して通信可能に接続され操作器がオペレータから受け付けた操作量に基づいて作業機械の操作レバーを直接操作する従操作部が搭載される作業機械とにより構成される遠隔操作システムが知られている(例えば、特許文献1参照)。
特開平10-252101号公報
このような遠隔操作システムは、遠隔操作装置と作業機械との間で操作信号を通信することにより、操作器がオペレータから受け付けた操作量に基づいて従操作部が作業機械の操作レバーを操作することが可能となる。
しかし、通信が確立し操作器が受け付けた操作量に基づいて従操作部が作業機械の操作レバーを操作する状態になるまでの間、オペレータは主操作部になす操作量に対して従操作部により操作される操作レバーの駆動による作業機械の挙動を把握することができない。この結果、通信確立後にオペレータが操作感覚を把握するまでの間、オペレータは主操作部を必要以上に慎重になって操作することになり、作業性が低下してしまう。
そこで、本発明に係る遠隔操作支援装置はかかる背景に鑑みて、遠隔操作装置と作業機械との通信確立前にオペレータが作業機械の操作感覚を把握することができる遠隔操作装置及び遠隔操作支援システムを提供することを目的とする。
(1)作業機械の遠隔操作をシミュレーションするために用いられる遠隔操作支援システムであって、
画像を出力可能である遠隔出力インターフェースと、
隔操作機構の操作態様に応じた情報である疑似操作指令情報に基づいて、前記作業機械の姿勢が変化する様子を疑似的に表示する画像である疑似環境画像を生成する第1支援処理要素と、を備え、
前記第1支援処理要素は、前記遠隔操作機構における前記操作態様を認識する処理と、前記操作態様に基づいて疑似環境における前記作業機械の動作態様を認識する処理と、前記動作態様に応じて前記作業機械の姿勢変化を反映させた前記疑似環境画像を前記遠隔出力インターフェースに出力させる処理と、を含む第1支援処理を前記作業機械の遠隔操作の開始前に実行する
(作用効果)
当該構成の遠隔操作支援システムによれば、オペレータは、自身が遠隔操作することを予定している作業機械を実際に遠隔操作する前に、その作業機械の操作を疑似的に体験(シミュレーション)することができるので、その作業機械の操作特性を把握することができる。また、自身が作業機械を実際に遠隔操作した後であっても、その作業機械の操作を疑似的に体験(シミュレーション)することができるので、その作業機械の操作特性を振り返ることができる。
(2)前記第1支援処理要素は、前記遠隔操作機構を含む遠隔操作装置と、前記作業機械と、の間における通信環境の良し悪しに関する情報である通信情報を取得し、前記通信情報に応じて前記遠隔操作機構の入力に対して疑似環境における前記作業機械が遅れをもって動作する前記疑似環境画像を生成し、前記疑似環境画像を前記遠隔出力インターフェースに出力させる第1支援処理を実行することが好ましい。
(作用効果)
かかる構成によれば、遠隔操作機構の操作に対して遠隔出力インターフェースに出力される疑似環境画像を通じて、オペレータが通信状況を把握することができる。
)また、当該構成の遠隔操作支援システムにおいては、前記第1支援処理要素は、前記作業機械の遠隔操作をシミュレーションするために操作された前記遠隔操作機構の入力に関する情報である第1指定操作情報に基づいて疑似環境画像を生成することが好ましい。
(作用効果)
かかる構成によれば、オペレータは、自身が遠隔操作することを予定している作業機械を実際に遠隔操作する前に、その作業機械の操作を疑似的に体験(シミュレーション)することができるので、その作業機械の操作特性を把握することができる。
)また、当該構成の遠隔操作支援システムにおいては、前記作業機械を遠隔操作するために操作された前記遠隔操作機構の操作に関する情報である第2指定操作情報を取得し、前記第2指定操作情報に基づいて、前記作業機械の遠隔操作を可能とするための処理である第2支援処理を実行する第2支援処理要素を備えることが好ましい。
(作用効果)
かかる構成によれば、オペレータは、実際に作業機械を遠隔操作することができる
)また、当該構成の遠隔操作支援システムにおいては、前記第1支援処理要素は、前記第2支援処理要素が実行する前記第2支援処理よりも先に前記第1支援処理を実行することが好ましい。
(作用効果)
かかる構成によれば、オペレータは、実際に前記作業機械の遠隔操作をするよりも先に前記作業機械の遠隔操作をシミュレーションすることができる。すなわち、オペレータは、前記シミュレーションを行うことにより、前記作業機械の操作特性を予め把握することができる。従って、オペレータは、前記作業機械を遠隔操作する前に前記作業機械の操作特性を把握することができる。したがって、必要以上に慎重になって前記作業機械を遠隔操作せずに済むので、前記作業機械を用いて行う作業の作業性を上げることができる。
)また、当該構成の遠隔操作支援システムにおいては、前記第1支援処理要素は、前記作業機械及び当該作業機械を用いて行う作業もしくはこれらのうち少なくとも一方を含む対象である作業対象を指定した時点である第1指定時点から当該作業機械と前記遠隔操作機構を有する遠隔操作装置とがネットワークを通じて接続された時点である第2指定時点までの期間における所定期間に前記第1支援処理を実行することが好ましい。
(作用効果)
かかる構成によれば、オペレータは、自身が遠隔操作することを予定している作業機械か、自身が行うことを予定している作業のうち少なくとも一方を選択すれば、遠隔操作装置と作業機械が接続されるまでの間、その作業機械の遠隔操作をシミュレーションすることができる。すなわち、自身が前記作業対象を選択した時点から遠隔操作装置と作業機械が接続される時点までの待ち時間を使って、前記シミュレーションをすることができるので、前記作業機械を用いて行う作業の作業性を上げることができる。
)また、当該構成の遠隔操作支援システムにおいては、前記第1支援処理要素は、遠隔操作対象として指定された前記作業機械の操作特性に関する情報である特性情報が格納されたデータベースから当該特性情報を取得し、当該特性情報と、前記遠隔操作機構の操作態様に関する情報である操作情報と、に基づいて、前記作業機械の姿勢が変化する様子を疑似的に表示する画像である前記疑似環境画像を生成し、前記疑似環境画像を前記遠隔出力インターフェースに出力するための前記第1支援処理を実行することが好ましい。
(作用効果)
かかる構成によれば、オペレータは、作業機械の大きさや反応等の違いを鑑みた挙動(操作特性)を把握することができる
)また、当該構成の遠隔操作支援システムにおいては、前記第1支援処理要素は、前記遠隔操作機構の操作量に関する情報である操作情報を取得し、前記遠隔操作機構の操作態様に関する情報である操作情報に基づいて、前記作業機械が有する作動機構の姿勢が変化する様子を疑似的に表示する画像である前記疑似環境画像を生成し、前記疑似環境画像を前記遠隔出力インターフェースに出力するための処理である前記第1支援処理を実行することが好ましい。
(作用効果)
かかる構成によれば、オペレータは、作業機械が有する作動機構の動作に関する操作特性を把握することが出来る
(9)また、当該構成の遠隔操作支援システムにおいては、前記第1支援処理要素は、前記遠隔操作機構の操作量に関する情報である操作情報を取得し、前記操作情報に基づいて、前記作業機械が有する上部旋回体が旋回する様子を疑似的に表示する画像である前記疑似環境画像を前記遠隔出力インターフェースに出力するための処理である前記第1支援処理を実行することが好ましい。
(作用効果)
かかる構成によれば、オペレータは、作業機械の旋回特性を把握することができる。
本発明に係る構成の遠隔操作支援装置の一実施形態としての遠隔操作支援システムの構成に関する説明図。 遠隔操作装置の構成に関する説明図。 作業機械の構成に関する説明図。 本発明に係る構成の遠隔操作支援装置の一実施形態としての第1支援処理要素の機能に関する説明図。 本発明に係る構成の遠隔操作支援装置の一実施形態としての第2支援処理要素の機能に関する説明図。 本発明に係る構成の遠隔操作支援装置の一実施形態としての疑似環境画像の表示態様に関する説明図。 他の実施形態としての本発明に係る構成の遠隔操作支援装置の一実施形態としての作動機構の曲げ伸ばしに関する疑似環境画像の表示態様に関する説明図。 他の実施形態としての本発明に係る構成の上部旋回体の旋回に関する疑似環境画像の表示態様に関する説明図。
(遠隔操作支援システムの構成)
図1に示されている本発明に係る構成の遠隔操作支援装置の一実施形態としての遠隔操作支援システムは、遠隔操作支援サーバ10と、作業機械40を遠隔操作するための遠隔操作装置20と、により構成されている。遠隔操作支援サーバ10、遠隔操作装置20、および作業機械40は相互にネットワーク通信可能に構成されている。遠隔操作支援サーバ10および遠隔操作装置20の相互通信ネットワークと、遠隔操作支援サーバ10および作業機械40の相互通信ネットワークと、は同一であってもよく相違していてもよい。
また、作業機械40の台数は、1台でもよいし、複数台でもよい。また、作業機械40の種類は、同型の作業機械でもよいし、異なる種類の作業機械でもよい。
また、遠隔操作とは、オペレータが、作業機械40に搭乗せずに、作業機械40と離れた位置から作業機械40を操作することを意味する概念である。
また、オペレータとは、遠隔操作装置20を操作して作業機械40の操縦を行う者を指す概念である。
(遠隔操作支援サーバの構成)
遠隔操作支援サーバ10は、遠隔操作支援装置100と、データベース110及びサーバ無線通信機器122と、を備えている。遠隔操作支援装置100は、第1支援処理要素101と、第2支援処理要素102と、を備えている。各支援処理要素は、演算処理装置(シングルコアプロセッサまたはマルチコアプロセッサもしくはこれを構成するプロセッサコア)により構成され、メモリなどの記憶装置から必要なデータおよびソフトウェアを読み取り、当該データを対象として当該ソフトウェアにしたがった後述の演算処理を実行する。
データベース110は、撮像画像データ等を記憶保持する。また、データベース110は、作業機械40の属性と、当該作業機械40が行うことを予定している作業内容に関する情報を紐づけて記憶保持してもよい。また、データベース110は、作業機械40の一般的な操作特性に関する情報を記憶保持していてもよい。また、データベース110は、作業機械40の一般的な操作特性に関する情報と、当該作業機械40を用いて行う作業の一般的な作業内容に関する情報と、を紐づけて記憶保持してもよい。また、データベース110は、作業機械40における特有の操作特性に関する情報を記憶保持していてもよい。また、データベース110は、作業機械40における特有の操作特性に関する情報と、当該作業機械40を用いて行う特有の作業内容に関する情報と、を紐づけて記憶保持してもよい。
(遠隔操作装置の構成)
遠隔操作装置20は、遠隔制御装置200と、遠隔入力インターフェース210と、遠隔出力インターフェース220と、を備えている。遠隔制御装置200は、演算処理装置(シングルコアプロセッサまたはマルチコアプロセッサもしくはこれを構成するプロセッサコア)により構成され、メモリなどの記憶装置から必要なデータおよびソフトウェアを読み取り、当該データを対象として当該ソフトウェアにしたがった演算処理を実行する。遠隔入力インターフェース210は、遠隔操作機構211を備えている。遠隔出力インターフェース220は、画像出力装置221と、遠隔無線通信機器222と、を備えている。
遠隔操作機構211には、走行用操作装置と、旋回用操作装置と、ブーム用操作装置と、アーム用操作装置と、バケット用操作装置と、が含まれている。各操作装置は、回動操作を受ける操作レバーを有している。走行用操作装置の操作レバー(走行レバー)は、作業機械40の作動機構440の1つである下部走行体450を動かすために操作される。走行レバーは、走行ペダルを兼ねていてもよい。例えば、走行レバーの基部または下端部に固定されている走行ペダルが設けられていてもよい。旋回用操作装置の操作レバー(旋回レバー)は、作業機械40の作動機構440の1つである旋回機構430を構成する油圧式の旋回モータを動かすために操作される。ブーム用操作装置の操作レバー(ブームレバー)は、作業機械40のブームシリンダ442を動かすために操作される。アーム用操作装置の操作レバー(アームレバー)は作業機械40のアームシリンダ444を動かすために操作される。バケット用操作装置の操作レバー(バケットレバー)は作業機械40のバケットシリンダ446を動かすために操作される。
遠隔操作機構211を構成する各操作レバーは、例えば、図2に示されているように、オペレータが着座するためのシートStの周囲に配置されている。シートStは、アームレスト付きのハイバックチェアのような形態であるが、ヘッドレストがないローバックチェアのような形態、または、背もたれがないチェアのような形態など、オペレータが着座できる。任意の形態の着座部であってもよい。
シートStの前方に左右のクローラに応じた左右一対の走行レバー2110が左右横並びに配置されている。一つの操作レバーが複数の操作レバーを兼ねていてもよい。例えば、図2に示されているシートStの左側フレームの前方に設けられている左側操作レバー2111が、前後方向に操作された場合にアームレバーとして機能し、かつ、左右方向に操作された場合に旋回レバーとして機能してもよい。同様に、図2に示されているシートStの右側フレームの前方に設けられている右側操作レバー2112が、前後方向に操作された場合にブームレバーとして機能し、かつ、左右方向に操作された場合にバケットレバーとして機能してもよい。レバーパターンは、オペレータの操作指示によって任意に変更されてもよい。
画像出力装置221は、例えば図2に示されているように、シートStの前方、左斜め前方および右斜め前方のそれぞれに配置された略矩形状の画面を有する中央画像出力装置2210、左側画像出力装置2211および右側画像出力装置2212により構成されている。中央画像出力装置2210、左側画像出力装置2211および右側画像出力装置2212のそれぞれの画面(画像表示領域)の形状およびサイズは同じであってもよく相違していてもよい。
図2に示されているように、中央画像出力装置2210の画面および左側画像出力装置2211の画面が傾斜角度θ1(例えば、120°≦θ1≦150°)をなすように、左側画像出力装置2211の右縁が、中央画像出力装置2210の左縁に隣接している。図2に示されているように、中央画像出力装置2210の画面および右側画像出力装置2212の画面が傾斜角度θ2(例えば、120°≦θ2≦150°)をなすように、右側画像出力装置2212の左縁が、中央画像出力装置2210の右縁に隣接している。当該傾斜角度θ1およびθ2は同じであっても相違していてもよい。
中央画像出力装置2210、左側画像出力装置2211および右側画像出力装置2212のそれぞれの画面は、鉛直方向に対して平行であってもよく、鉛直方向に対して傾斜していてもよい。中央画像出力装置2210、左側画像出力装置2211および右側画像出力装置2212のうち少なくとも1つの画像出力装置が、複数に分割された画像出力装置により構成されていてもよい。例えば、中央画像出力装置2210が、略矩形状の画面を有する上下に隣接する一対の画像出力装置により構成されていてもよい。画像出力装置221(中央画像出力装置2210、左側画像出力装置2211および右側画像出力装置2212)は、スピーカ(音声出力装置)をさらに備えていてもよい。
作業機械40とは、作業現場において稼働可能な作業車両をいう。作業機械40は、土砂を押土又は掘削を実施可能な建設機械の少なくとも一方を含む。建設機械は、バケットを有する油圧ショベル及びブレードを有するブルドーザーの少なくとも一方を含む。
作業機械40は、例えばクローラショベル(建設機械)であり、図3に示されているように、クローラ式の下部走行体450と、下部走行体450に旋回機構430を介して旋回可能に搭載されている上部旋回体460と、を備えている。上部旋回体460の前方左側部にはキャブ424(運転室)が設けられている。上部旋回体460の前方中央部には作動機構440が設けられている。
実機入力インターフェース410は、実機操作機構411と、実機撮像装置412と、を備えている。実機操作機構411は、キャブ424の内部に配置されたシートの周囲に遠隔操作機構211と同様に配置された複数の操作レバーを備えている。遠隔操作レバーの操作態様に応じた信号を受信し、当該受信信号に基づいて実機操作レバーを動かす駆動機構またはロボットがキャブ424に設けられている。実機撮像装置412は、例えばキャブ424の内部に設置され、キャブ424の前側にある左右一対のピラー4240(左右を区別する場合には「L」および「R」を符号に含ませる。)により区画されているフロントウィンドウおよび左右一対のサイドウィンドウ越しに作動機構440の少なくとも一部を含む環境を撮像する。フロントウィンドウおよびサイドウィンドウのうち一部または全部が省略されていてもよい。
実機出力インターフェース420は、実機無線通信機器422を備えている。
作動機構440としての作業アタッチメントは、上部旋回体460に起伏可能に装着されているブーム441と、ブーム441の先端に回動可能に連結されているアーム443と、アーム443の先端に回動可能に連結されているバケット445と、を備えている。作動機構440には、伸縮可能な油圧シリンダにより構成されているブームシリンダ442、アームシリンダ444およびバケットシリンダ446が装着されている。
ブームシリンダ442は、作動油の供給を受けることにより伸縮してブーム441を起伏方向に回動させるように当該ブーム441と上部旋回体460との間に介在する。アームシリンダ444は、作動油の供給を受けることにより伸縮してアーム443をブーム441に対して水平軸回りに回動させるように当該アーム443と当該ブーム441との間に介在する。バケットシリンダ446は、作動油の供給を受けることにより伸縮してバケット445をアーム443に対して水平軸回りに回動させるように当該バケット445と当該アーム443との間に介在する。
(機能)
前記構成の遠隔操作支援システムの機能について図4及び図5に示されているフローチャートを用いて説明する。当該フローチャートにおいて「C●」というブロックは、記載の簡略のために用いられ、データの送信および/または受信を意味し、当該データの送信および/または受信を条件として分岐方向の処理が実行される条件分岐を意味している。
図4に示されているフローチャートを用いて、本実施形態の第1支援処理について説明する。第1支援処理は、作業機械40を遠隔操作するためのシミュレーションに関する処理である。
遠隔操作装置20において、遠隔制御装置200は、本実施形態の第1支援処理の前提として、オペレータが、遠隔操作を意図する作業機械40を指定する操作を行ったか否かの有無について判定をする(不示図)。当該判定結果が否定的である場合(不示図)、遠隔制御装置200は、当該判定の処理を繰り返す。その一方、当該判定結果が肯定的である場合(不示図)、遠隔制御装置200は、STEP211以降の処理を実行する(不示図)。
例えば、「作業機械40を指定する操作」とは、オペレータが、中央画像出力装置2210に表示された複数の作業機械40のうち、自身が遠隔操作することを意図している一又は複数の作業機械40を、遠隔入力インターフェース210をタップ、プッシュ、ピンチ、スワイプ等して選択する操作を含む概念である。
また、「作業機械40を指定する操作」の他の例として、オペレータが、中央画像出力装置2210に表示された複数の作業のうち、自身が行うことを意図している一又は複数の作業を、遠隔入力インターフェース210をタップ、プッシュ等して選択する操作が挙げられる。
この場合、例えば、各作業がどの作業機械40にて行われるのかが予め定められており、一又は複数の作業が選択されることにより一又は複数の作業が行われる場合に遠隔操作される一又は複数の作業機械40および各作業の開始時刻である指定時刻(第2指定時点)が自動的に決定されるようにてもよい。
具体的には、法面形成作業が、広島市の作業現場に存在する油圧ショベルで行われることが予め定められており、当該法面形成作業が選択されることにより、当該法面形成作業が行われる場合に遠隔操作される当該油圧ショベルおよび当該法面形成作業の開始時刻である指定時刻である午前10時が自動的に決定されるようにしてもよい。
遠隔操作装置20において、遠隔制御装置200は、オペレータによる第1指定操作が行われたか否かについて判定する(図4/STEP211)。また、「第1指定操作」とは、オペレータが、作業機械40の遠隔操作をシミュレーションするために遠隔操作機構211を操作することを含む概念である。
遠隔操作装置20において、STEP211の判定結果が否定的である場合(図4/STEP211‥NO)、遠隔制御装置200は、処理を終了する。その一方、当該判定結果が肯定的である場合(図4/STEP211‥YES)、遠隔制御装置200は、遠隔無線通信機器222を通じて、遠隔操作支援サーバ10に対して作業機械40の操作をシミュレーションするための要求(シミュレーション要求)に関する情報を含む第1操作信号が送信する(図4/STEP212)。
「第1操作信号」とは、オペレータが、作業機械40の遠隔操作をシミュレーションするために遠隔入力インターフェース210を操作して入力したシミュレーション操作に関する信号を含む概念である。「第1操作信号」には、遠隔操作装置20の識別子およびオペレータの識別子のうち少なくとも一方が含まれている。また、「第1操作信号」には、オペレータにより選択された作業機械40の識別子が含まれている。
ここで、遠隔操作装置20の識別子とは、遠隔操作支援サーバ10が、複数存在する遠隔操作装置20の中から、どの遠隔操作装置20と各データの送受信をすべきかを識別するための情報を含む概念である。
また、オペレータの識別子とは、遠隔操作支援サーバ10が、複数存在するオペレータの中から、どのオペレータと各データの送受信をすべきかを識別するための情報を含む概念である。
また、作業機械40の識別子とは、遠隔操作支援サーバ10が、複数存在する作業機械40の中から、どの作業機械40と各データの送受信をすべきかを識別するための情報を含む概念である。
遠隔操作支援サーバ10において、サーバ無線通信機器122を通じて第1操作信号を取得した場合(図4/C10)に、第1支援処理要素101は、疑似環境状況を認識する(図4/STEP110)。
疑似環境状況は、少なくともオペレータにより選択された作業機械40の識別子を含む。また、仮想作業現場における作業機械40の動作態様および環境変化態様が疑似環境状況として認識される。そして、第1支援処理要素101は、当該疑似環境状況に基づいて疑似環境データを遠隔操作装置20に対して送信する(図4/STEP111)。
疑似環境データには、疑似環境画像又は疑似環境画像を生成するための情報が含まれる。疑似環境画像は、仮想作業現場における作業機械40を疑似的に表示する画像であり、認識された動作態様および環境変化態様に応じて作業機械40の姿勢変化を反映可能に表示する画像である。当該疑似環境画像は、例えば、コンピューターグラフィックスで表された作業機械40の画像である(以下、適宜、疑似環境画像をシミュレーション画像と言ったり、CG画像と言ったり、バーチャル画像と言ったりする)。
遠隔操作装置20において、遠隔制御装置200が、疑似環境データを受信する場合(図4/C20)、疑似環境画像が遠隔出力インターフェース220(画像出力装置221)に出力される(図4/STEP214)。
これにより、例えば、図6に示すように、遠隔操作装置20と連携する作業機械40に搭載された実機撮像装置412により撮像されうる疑似環境画像が画像出力装置221において出力される。
遠隔制御装置200により、遠隔入力インターフェース210を通じた疑似環境画像出力の停止操作の有無が判定される(図4/STEP215)。疑似環境画像出力の停止操作とは、例えば、オペレータが作業機械40の操作シミュレーションを終了するための遠隔入力インターフェース210におけるタップ、プッシュ、ピンチ、スワイプ等の操作である。当該判定結果が肯定的である場合(図4/STEP215‥YES)、遠隔制御装置200により、疑似環境画像出力の停止要求が遠隔無線通信機器222を通じて遠隔操作支援サーバ10に対して送信される(図4/STEP216)。
その一方、当該判定結果が否定的である場合(図4/STEP215‥NO)、遠隔制御装置200により遠隔操作機構211の操作態様が認識され(図4/STEP218)、かつ、遠隔無線通信機器222を通じて、当該操作態様に応じた疑似操作指令が遠隔操作支援サーバ10に対して送信される(図4/STEP219)。
遠隔操作支援サーバ10おいて、疑似操作指令が受信された場合(図4/C10)、第1支援処理要素101により、当該疑似操作指令に応じた疑似環境状況が認識される(図4/STEP110)。例えば、遠隔操作機構211の操作態様が、作業機械40の作動機構440(ブーム441、アーム443、バケット445)を曲げ伸ばしさせる操作態様である場合、疑似環境において作動機構440がそのように動作する状況が疑似環境状況として認識される。
第1支援処理要素101は、当該疑似環境状況に基づいて疑似環境画像を遠隔操作装置20に対して送信する(図4/STEP111)。そして、疑似環境画像出力の停止の受信の有無が判定される(図4/STEP112)。当該判定結果が肯定的である場合(図4/STEP112‥YES)、本実施形態のシミュレーションを終了する。当該判定結果が否定的である場合(図4/STEP112‥NO)、オペレータが意図する作業の開始時刻である指定時刻(第2指定時点)になったか否かを判定する(図4/STEP113)。当該判定結果が肯定的である場合(図4/STEP113‥YES)、本実施形態のシミュレーションを終了する。当該判定結果が否定的である場合(図4/STEP113‥NO)、疑似操作指令の受信以降の処理が繰り返される(図4/C10→STEP110→STEP111→STEP112→STEP113)。
遠隔操作装置20において、遠隔出力インターフェース220を構成する遠隔無線通信機器222により疑似環境データが受信された場合(図4/C20)、遠隔出力インターフェース220を構成する画像出力装置221において疑似環境画像が出力される(図4/STEP214)これにより、例えば、図6に示すように、オペレータによる遠隔操作機構211の操作態様当該操作にあわせて、ブーム441のバーチャル画像441V、アーム443のバーチャル画像443V、バケット445のバーチャル画像445Vが、曲げ伸ばしされる様子が遠隔出力インターフェース220(画像出力装置221)に出力表示される。
これにより、オペレータは、作動機構440(ブーム441、アーム443、バケット445)の操作感覚、すなわち、遠隔操作機構211の操作態様と、作業機械40の作動機構440(ブーム441、アーム443、バケット445)の動作態様と、の相関関係を確かめることができる。
また、図6に示すように、オペレータが作業機械40の上部旋回体460を、オペレータの位置を基準として右方向に旋回させるように遠隔操作機構211を操作すると、当該操作にあわせて、当該旋回方向とは逆方向に(すなわち、オペレータの位置を基準として左方向に)作業現場における背景のバーチャル画像が変位する様子を遠隔出力インターフェース220(画像出力装置221)に出力してもよい。
これにより、オペレータは、自身が遠隔操作することを意図している作業機械40の操作感覚、すなわち、操作機構の操作態様と、作業機械の作動機構の動作態様と、の相関関係を確かめることができる。この場合、上部旋回体460のバーチャル画像460V(図7)の旋回にあわせて、作業現場の背景(作業現場に存在し、且つ自身が遠隔操作していないショベル、作業現場に存在する解体機、作業現場に存在するクレーン、ダンプトラック、ブルドーザー、ホイールローダ、砂山、岩、木、林、森、建物及び法面等)が流れるように(オペレータから見て右方向に変位するように)遠隔出力インターフェース220(画像出力装置221)に表示されるので、オペレータは、特に作動機構440(上部旋回体460)の操作感覚、すなわち、遠隔操作機構211の操作態様と、作業機械40の作動機構440(上部旋回体460)の動作態様と、の相関関係を確かめることができる。
図6に示すように、疑似環境画像の背景として、オペレータが作業することを意図している作業現場の様子が含まれてもよい。当該作業現場の様子は、実写の画像により、表されてもよいし、コンピューターグラフィックスで表された画像(CG画像)でもよい。当該疑似環境画像に背景を含ませる場合、第1支援処理要素101が、データベース110に当該作業機械40の属性と紐づけて記憶保持された作業現場の様子に関する情報を呼び出し、当該情報に基づいて、当該疑似環境画像の背景を生成し、遠隔出力インターフェース220に表示するための処理を実行することにより、当該オペレータが作業をすることを意図している作業現場の疑似的な環境画像が、遠隔出力インターフェース220に出力される。
例えば、図6に示すように、キャブ424の内部に設置された実機撮像装置412が撮像した撮像画像に基づいて、キャブ424の前側にある左右一対のピラー4240(左右を区別する場合には「L」および「R」を符号に含ませる。)のバーチャル画像4240V(4240RV、4240LV)により区画されているフロントウィンドウのバーチャル画像および左右一対のサイドウィンドウのバーチャル画像越しに作動機構440のバーチャル画像440V(441V、443V、445V)の少なくとも一部を含む疑似環境画像を表示してもよい。
図7に示すように、側面視からの作業機械40の姿勢を模した疑似環境画像を表示してもよい。例えば、オペレータが作業機械40の作動機構440(ブーム441、アーム443、バケット445)を曲げ伸ばしさせるように遠隔操作機構211を操作する際に、図7に示される疑似環境画像が遠隔出力インターフェース220に出力される。図6に示すようなキャブ424の内部からの疑似環境画像の片隅に図7に示すような側面視からの疑似環境画像を表示してもよい。
これにより、オペレータは、図6に示すようなキャブ424の内部からの疑似環境画像では把握しにくい作業機械40の作動機構440(ブーム441、アーム443、バケット445)の奥行き感を伴った動作態様を確かめることができる。
図8に示すように、上面視からの作業機械40の姿勢を模した疑似環境画像を表示してもよい。例えば、オペレータが作業機械40の上部旋回体460をオペレータの位置を基準として左方向に旋回させるように遠隔操作機構211を操作すると、当該操作にあわせて、上部旋回体460のバーチャル画像460Vが、オペレータの位置を基準として左方向に旋回する様子が遠隔出力インターフェース220(画像出力装置221)に表示される。
これにより、オペレータは、図6に示すようなキャブ424の内部からの疑似環境画像では把握しにくい作業機械40の作動機構440(上部旋回体460)の旋回量(旋回角度)を伴った動作態様を確かめることができる。
図5に示されているフローチャートを用いて、本実施形態の第2支援処理について説明する。第2支援処理は、作業機械40を実際に遠隔操作するための処理である。
遠隔操作装置20において、遠隔制御装置200は、遠隔入力インターフェース210を通じた第2指定操作の有無について判定する(図5/STEP221)。「第2指定操作」は、例えば、オペレータが実際に遠隔操作する作業機械40を指定するための遠隔入力インターフェース210におけるタップ、プッシュ等の操作である。「第2指定操作」の他の例として、オペレータが意図する作業を指定するための遠隔入力インターフェース210におけるタップ、プッシュ等の操作を含んでもよい。「第2指定操作」は、「第1指定操作」で指定された作業機械40による遠隔操作を開始させるための操作である。
当該判定結果が否定的である場合(図5/STEP221‥NO)、遠隔制御装置200は、第2指定操作の有無の判定以前の処理を繰り返す。その一方、当該判定結果が肯定的である場合(図5/STEP221‥YES)、遠隔制御装置200は、遠隔無線通信機器222を通じて、遠隔操作支援サーバ10に対して環境確認要求を送信する(図5/STEP222)。
遠隔操作支援サーバ10において、環境確認要求が受信された場合、第2支援処理要素102は、当該環境確認要求を該当する作業機械40に対して送信する(図5/C110)。
作業機械40において、実機無線通信機器422を通じて環境確認要求が受信された場合(図5/C40)、実機制御装置400は、実機撮像装置412を通じて撮像画像を取得する(図5/STEP402)。また、実機制御装置400は、実機無線通信機器422を通じて、当該撮像画像を表わす撮像画像データを遠隔操作支援サーバ10に対して送信する(図5/STEP404)。
遠隔操作支援サーバ10において、撮像画像データが受信された場合(図5/C121)、第2支援処理要素102は、撮像画像データを遠隔操作装置20に対して送信する(図5/STEP114)。第2支援処理要素102は、撮像画像データに代えて、撮像画像に基づいて生成された模擬的な環境画像を表わす環境画像データを遠隔操作装置20に対して送信してもよい。この際、第2支援処理要素102は、撮像画像データに応じた撮像画像の、画像出力装置221(中央画像出力装置2210、左側画像出力装置2211および右側画像出力装置2212)における分割表示態様の指令を遠隔操作装置20に対して送信してもよい。
遠隔操作装置20において、遠隔制御装置200は、遠隔無線通信機器222を通じて撮像画像データを受信した場合(図5/C21)、撮像画像データに応じた撮像画像の、3つの画像出力装置221(中央画像出力装置2210、左側画像出力装置2211および右側画像出力装置2212)における分割表示態様を制御する(図5/STEP223)。
また、遠隔制御装置200における撮像画像の出力制御の他の例として、中央画像出力装置2210、左側画像出力装置2211および右側画像出力装置2212に、撮像画像を分割表示せずに、1つの画像出力装置221(例えば、中央画像出力装置2210)のみに撮像画像を表示する出力制御の例が挙げられる。
遠隔操作装置20において、遠隔制御装置200は、遠隔操作機構211の操作態様を認識し(図5/STEP224)、かつ、遠隔制御装置200は、遠隔無線通信機器222を通じて、当該操作態様に応じた遠隔操作指令を遠隔操作支援サーバ10に対して送信する(図5/STEP225)。
遠隔操作支援サーバ10において、第2支援処理要素102は、遠隔操作指令が受信された場合、当該遠隔操作指令を作業機械40に対して送信する(図5/C132)。
作業機械40において、実機制御装置400は、実機無線通信機器422を通じて操作指令が受信した場合(図5/C42)、作動機構440等の動作を制御する(図5/STEP406)。例えば、バケット445により作業機械40の前方の土をすくい、上部旋回体460を旋回させたうえでバケット445から土を落とす作業が実行される。
(効果)
当該構成の遠隔操作支援システム、ならびに、これを構成する遠隔操作支援サーバ10および遠隔操作装置20によれば、遠隔操作支援装置100が有する第1支援処理要素101により生成された、作業機械40の遠隔操作をシミュレーションするための疑似環境画像が遠隔出力インターフェース220(画像出力装置221)に出力表示される。第1支援処理要素101は、オペレータにより選択された作業機械40の作業機械識別子に基づいて疑似環境データを生成し、当該疑似環境データに応じて疑似環境画像が遠隔出力インターフェース220に出力される。当該シミュレーションにおいては、遠隔操作機構の操作態様が認識され疑似操作指令が生成され、該疑似操作指令に基づいて疑似環境画像が出力される。
また、第2支援処理要素102が作業機械40を遠隔操作するための処理を実行する
このため、オペレータは、実際に当該作業機械40を遠隔操作する前に、遠隔出力インターフェース220(画像出力装置221)に表示される疑似環境画像を通じて、遠隔操作することを意図している作業機械40の操作感覚、すなわち、遠隔操作機構211の操作態様と、作業機械40における作動機構440の動作態様と、の相関関係を把握することができる。
また、第1支援処理要素は、STEP211にて作業機械40及び作業機械40を用いて行う作業もしくはこれらのうち少なくとも一方を含む対象である作業対象を指定した時点である第1指定時点から作業機械40が遠隔入力インターフェース210を有する遠隔操作装置20によりネットワークを通じて遠隔操作可能となる時点(実際に作業機械40を遠隔操作することが可能となる時点)である第2指定時点までの期間における所定期間に前記第1支援処理を実行する。
これにより、オペレータは、作業対象を選択した時点から遠隔操作装置20により作業機械40が遠隔操作可能となる時点(作業機械40の遠隔操作をすることができる。ようになるまでの時点)までの時間を使って、その作業機械40の遠隔操作をシミュレーションすることができる。すなわち、オペレータは、第1指定時点から第2指定時点までの待ち時間を有効に使うことができる。したがって、作業機械40を用いて行う作業の作業性を上げることができる。
また、データベース110に作業機械40の一般的な操作特性に関する情報が記憶保持されている場合、作業機械40の特有の操作特性に関する情報が無い場合であっても、オペレータは、作業機械40の一般的な操作特性に関する情報に基づいて、作業機械40の遠隔操作をシミュレーションすることができる。また、データベース110に作業機械40における特有の操作特性に関する情報が記憶保持されている場合、オペレータは、作業機械40における特有の操作特性に関する情報に基づいて、作業機械40の遠隔操作をシミュレーションすることができるので、作業機械40の一般的な操作特性に関する情報に基づいて、シミュレーションする場合に比べて、より具体的な情報に基づいて、シミュレーションをすることができる。
(本発明に係る構成の遠隔操作支援装置の他の実施形態)
前記実施形態において、第1支援処理が遠隔操作装置20と、遠隔操作支援サーバ10と、により実行される例を説明したが、そのような例に限定されない。例えば、第1支援処理要素101は、作業機械40と、遠隔操作支援サーバ10と、遠隔操作装置20と、におけるそれぞれの間における通信環境の良し悪しに関する情報である通信情報を取得し、該通信情報に応じて疑似環境画像を遠隔出力インターフェース220に表示する処理を実行してもよい。
「通信情報」とは、作業機械40、遠隔操作支援サーバ10、遠隔操作装置20、におけるそれぞれの間における電波強度の強弱に関する情報を含む概念であり、例えば、通信速度である。第1支援処理要素101は、通信情報に応じてオペレータが操作した遠隔操作機構211の入力に対して、疑似環境における作業機械40が遅れをもって動作する。例えば、オペレータが作業機械40の作動機構440(ブーム441、アーム443、バケット445)を曲げ伸ばしさせるように遠隔操作機構211を操作すると、疑似環境画像上では当該操作から遅れて作動機構440が動作する・
このようなケースにも、当該構成の遠隔操作支援サーバ10にかかる遠隔操作支援装置100を適用することができる。これにより、オペレータは、実際に当該作業機械40を遠隔操作する前に、遠隔操作機構211の操作に対して遠隔出力インターフェース220(画像出力装置221)に出力される疑似環境画像を通じて、通信状況を把握することができる。
前記実施形態において、作業機械40がバケット445を有する油圧ショベルである例を説明したが、そのような例に限定されない。作業機械40の他の例として、バケット445の代わりに破砕装置を設けた解体機、バケット445の代わりにグラップラーを設けた土木作業機、クレーンが挙げられる。また、オペレータが遠隔操作することを意図している作業機械40は、複数台存在してもよい。この場合、オペレータは、操作感覚、すなわち、遠隔操作機構211の操作態様と、作業機械40の作動機構440の動作態様と、の相関関係の異なる作業機械40の遠隔操作をシミュレーションし、遠隔操作機構211の操作態様と、作業機械40における作動機構440の動作態様と、の相関関係に馴染むことができる。
例えば、オペレータが、大型ショベルを遠隔操作した後、すぐにミニショベルを遠隔操作しようとする場合、ミニショベルの操作感覚、すなわち、操作機構の操作態様と、作業機械の作動機構の動作態様と、の相関関係は、大きく相違する。
ところが、オペレータは、ミニショベルを遠隔操作する前に、当該ミニショベルの遠隔操作をシミュレーションすることで、当該ミニショベルの操作感覚、すなわち、操作機構の操作態様と、作業機械の作動機構の動作態様と、の相関関係に応じた遠隔入力インターフェース210の操作量を把握することができる。これにより、オペレータは、当該ミニショベルを実際に遠隔操作する場合に、すぐに当該ミニショベルの操作感覚、すなわち、操作機構の操作態様と、作業機械の作動機構の動作態様と、の相関関係に馴染むことができる。
このようなケースにも、当該構成の遠隔操作支援サーバ10にかかる遠隔操作支援装置100を適用することができる。
前記実施形態において、遠隔操作支援装置100が遠隔操作支援サーバ10に設けられる例を説明したが、そのような例に限定されない。例えば、遠隔制御装置200及び実機制御装置400又はこれらのうちの一方に、遠隔操作支援装置100の機能の全部又は一部を担わせることができる。
このようなケースにも、当該構成の遠隔操作支援サーバ10にかかる遠隔操作支援装置100を適用することができる。
前記実施形態において、作動機構440にブーム441、アーム443、バケット445、上部旋回体460は含まれる例を示したが、そのような例に限定されない。作動機構440の他の例として、下部走行体450を含む例が挙げられる。この場合、前記実施形態における他のシミュレーションの例として、下部走行体450のバーチャル画像450Vを駆動させて作業機械40のバーチャル画像40Vを走行させる。これにより、オペレータは、作動機構440(下部走行体450)の操作感覚、すなわち、遠隔操作機構211の操作態様と、作業機械40の作動機構440(下部走行体450)の動作態様と、の相関関係を確かめることができる。
このようなケースにも、当該構成の遠隔操作支援サーバ10にかかる遠隔操作支援装置100を適用することができる。
前記実施形態において、第2支援処理要素102が行う第2支援処理要素がSTEP221から始まる例を示したが、そのような例に限定されない。第2支援処理要素102が行う第2支援処理要素の他の例として、STEP221よりも先に、第2支援処理要素102が、第1支援処理要素101において第1支援処理が行われたか否かを判定する例が挙げられる。当該判定が肯定的な場合、第2支援処理要素102は、STEP221の処理を行い、当該判定が否定的な場合、第2支援処理要素102は、当該判定以前の処理を繰り返す。これにより、オペレータは、作業機械40における遠隔操作のシミュレーションを終えてから、実際に当該作業機械40を遠隔操作することができる。すなわち、オペレータは、遠隔操作機構211の操作態様と、作業機械40の作動機構440の動作態様と、の相関関係を確かめてから、実際に当該作業機械40を遠隔操作することができる。従って、シミュレーションをせずに実際の遠隔操作をする場合に比べると、オペレータは、過度に注意を払わないで作業に取り掛かることができるので、作業効率を上げることができる。
このようなケースにも、当該構成の遠隔操作支援サーバ10にかかる遠隔操作支援装置100を適用することができる。
前記実施形態において、例えば、タブレットPCにより構成され遠隔操作装置20と相互通信し遠隔操作装置20の一部をなす手元端末が、遠隔入力インターフェース210および遠隔出力インターフェース220の一部を構成してもよい。この場合、オペレータは第1指定操作、第2指定操作、停止操作等の入力について手元端末を用いて行うことができる。
前記実施形態において、遠隔操作支援サーバ10において、第1支援処理要素101は、本実施形態の第1支援処理の前提として、シミュレーションの対象となる作業機械40が、実際に遠隔操作されているか、又は使用予定が入っているかを判定するようにしてもよい。当該作業機械40が、実際に遠隔操作されている場合(不示図)又はこれから使用される場合、第1支援処理要素101は、当該以前の処理を終了する。当該作業機械40が、実際に遠隔操作されていない場合(不示図)又はこれから使用可能となる場合、第1支援処理要素101は、STEP110以降の処理を実行する(不示図)。
10‥遠隔操作支援サーバ、20‥遠隔操作装置、40‥作業機械、100‥遠隔操作支援装置、101‥第1支援処理要素、102‥第2支援処理要素。

Claims (9)

  1. 作業機械の遠隔操作をシミュレーションするために用いられる遠隔操作支援システムであって、
    画像を出力可能である遠隔出力インターフェースと、
    隔操作機構の操作態様に応じた情報である疑似操作指令情報に基づいて、前記作業機械の姿勢が変化する様子を疑似的に表示する画像である疑似環境画像を生成する第1支援処理要素と、を備え、
    前記第1支援処理要素は、前記遠隔操作機構における前記操作態様を認識する処理と、前記操作態様に基づいて疑似環境における前記作業機械の動作態様を認識する処理と、前記動作態様に応じて前記作業機械の姿勢変化を反映させた前記疑似環境画像を前記遠隔出力インターフェースに出力させる処理と、を含む第1支援処理を前記作業機械の遠隔操作の開始前に実行する
    遠隔操作支援システム
  2. 作業機械の遠隔操作をシミュレーションするために用いられる遠隔操作支援システムであって、
    画像を出力可能である遠隔出力インターフェースと、
    遠隔操作機構の操作に関する情報である疑似操作指令情報に基づいて、前記作業機械の姿勢が変化する様子を疑似的に表示する画像である疑似環境画像を生成する第1支援処理要素と、を備え、
    前記第1支援処理要素は、前記遠隔操作機構を含む遠隔操作装置と、前記作業機械と、の間における通信環境の良し悪しに関する情報である通信情報を取得し、前記通信情報に応じて前記遠隔操作機構の入力に対して疑似環境における前記作業機械が遅れをもって動作する前記疑似環境画像を生成し、前記疑似環境画像を前記遠隔出力インターフェースに出力させる第1支援処理を実行する
    遠隔操作支援システム
  3. 請求項1又は請求項2に記載の遠隔操作支援システムであって、
    前記第1支援処理要素は、前記作業機械の遠隔操作をシミュレーションするために操作された前記遠隔操作機構の入力に関する情報である第1指定操作情報に基づいて疑似環境画像を生成する、
    遠隔操作支援システム
  4. 請求項1から請求項3の何れか1項に記載の遠隔操作支援システムであって、
    前記作業機械を遠隔操作するために操作された前記遠隔操作機構の操作に関する情報である第2指定操作情報を取得し、前記第2指定操作情報に基づいて、前記作業機械の遠隔操作を可能とするための処理である第2支援処理を実行する第2支援処理要素を備える、
    遠隔操作支援システム。
  5. 請求項4に記載の遠隔操作支援システムであって、
    前記第1支援処理要素は、前記第2支援処理要素が実行する前記第2支援処理よりも先に前記第1支援処理を実行する、
    遠隔操作支援システム
  6. 請求項1から請求項5の何れか1項に記載の遠隔操作支援システムであって、
    前記第1支援処理要素は、前記作業機械及び当該作業機械を用いて行う作業もしくはこれらのうち少なくとも一方を含む対象である作業対象を指定した時点である第1指定時点から当該作業機械と前記遠隔操作機構を有する遠隔操作装置とがネットワークを通じて接続された時点である第2指定時点までの期間における所定期間に前記第1支援処理を実行する、
    遠隔操作支援システム
  7. 請求項1から請求項6の何れか1項に記載の遠隔操作支援システムであって、
    前記第1支援処理要素は、遠隔操作対象として指定された前記作業機械の操作特性に関する情報である特性情報が格納されたデータベースから当該特性情報を取得し、当該特性情報と、前記遠隔操作機構の操作態様に関する情報である操作情報と、に基づいて、前記作業機械の姿勢が変化する様子を疑似的に表示する画像である前記疑似環境画像を生成し、前記疑似環境画像を前記遠隔出力インターフェースに出力するための前記第1支援処理を実行する、
    遠隔操作支援システム
  8. 請求項1から請求項7の何れか1項に記載の遠隔操作支援システムであって、
    前記第1支援処理要素は、前記遠隔操作機構の操作量に関する情報である操作情報を取
    得し、前記遠隔操作機構の操作態様に関する情報である操作情報に基づいて、前記作業機械が有する作動機構の姿勢が変化する様子を疑似的に表示する画像である前記疑似環境画像を生成し、前記疑似環境画像を前記遠隔出力インターフェースに出力するための処理である前記第1支援処理を実行する、
    遠隔操作支援システム
  9. 請求項1から請求項8の何れか1項に記載の遠隔操作支援システムであって、
    前記第1支援処理要素は、前記遠隔操作機構の操作量に関する情報である操作情報を取
    得し、前記操作情報に基づいて、前記作業機械が有する上部旋回体が旋回する様子を疑似的に表示する画像である前記疑似環境画像を前記遠隔出力インターフェースに出力するための処理である前記第1支援処理を実行する、
    遠隔操作支援システム。
JP2020084327A 2020-05-13 2020-05-13 作業機械の遠隔操作支援システム Active JP7484401B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2020084327A JP7484401B2 (ja) 2020-05-13 2020-05-13 作業機械の遠隔操作支援システム
EP21803548.3A EP4116041A4 (en) 2020-05-13 2021-04-28 REMOTE MANEUVERING ASSIST DEVICE AND REMOTE MANEUVERING ASSIST METHOD
US17/917,980 US20230142088A1 (en) 2020-05-13 2021-04-28 Remote operation assistance device and remote operation assistance method
CN202180034922.2A CN115552501A (zh) 2020-05-13 2021-04-28 远程操作辅助装置以及远程操作辅助方法
PCT/JP2021/017097 WO2021230092A1 (ja) 2020-05-13 2021-04-28 遠隔操作支援装置および遠隔操作支援方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020084327A JP7484401B2 (ja) 2020-05-13 2020-05-13 作業機械の遠隔操作支援システム

Publications (2)

Publication Number Publication Date
JP2021179105A JP2021179105A (ja) 2021-11-18
JP7484401B2 true JP7484401B2 (ja) 2024-05-16

Family

ID=78511099

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020084327A Active JP7484401B2 (ja) 2020-05-13 2020-05-13 作業機械の遠隔操作支援システム

Country Status (5)

Country Link
US (1) US20230142088A1 (ja)
EP (1) EP4116041A4 (ja)
JP (1) JP7484401B2 (ja)
CN (1) CN115552501A (ja)
WO (1) WO2021230092A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11906981B2 (en) * 2022-02-08 2024-02-20 Caterpillar Inc. System and method for updating virtual worksite
JP2024065932A (ja) * 2022-10-31 2024-05-15 株式会社小松製作所 表示システム、遠隔運転装置および表示制御方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018124098A1 (ja) 2016-12-27 2018-07-05 株式会社タダノ 遠隔操作端末及び遠隔操作システム
JP2019063952A (ja) 2017-10-02 2019-04-25 株式会社オカムラ 管理システム及び制御方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2947726B2 (ja) * 1995-03-01 1999-09-13 鹿島建設株式会社 遠隔操作支援用画像システム
JPH11119640A (ja) * 1997-10-13 1999-04-30 Komatsu Ltd クレーンのシミュレーション装置及び記録媒体
JP2000252101A (ja) 1999-03-01 2000-09-14 Tokai Konetsu Kogyo Co Ltd 水冷式抵抗器
US8139108B2 (en) * 2007-01-31 2012-03-20 Caterpillar Inc. Simulation system implementing real-time machine data
JP6612865B2 (ja) * 2014-11-17 2019-11-27 ヤンマー株式会社 作業機の遠隔操作のための表示システム
DE102016000351A1 (de) * 2016-01-14 2017-07-20 Liebherr-Werk Biberach Gmbh Kran-, Baumaschinen- oder Flurförderzeug-Simulator
CN107882103B (zh) * 2017-10-26 2019-09-10 南京工业大学 一种挖掘机三维姿态显示及远程自动控制系统

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018124098A1 (ja) 2016-12-27 2018-07-05 株式会社タダノ 遠隔操作端末及び遠隔操作システム
JP2019063952A (ja) 2017-10-02 2019-04-25 株式会社オカムラ 管理システム及び制御方法

Also Published As

Publication number Publication date
EP4116041A4 (en) 2023-08-23
WO2021230092A1 (ja) 2021-11-18
JP2021179105A (ja) 2021-11-18
CN115552501A (zh) 2022-12-30
EP4116041A1 (en) 2023-01-11
US20230142088A1 (en) 2023-05-11

Similar Documents

Publication Publication Date Title
US10508417B2 (en) Construction information display device and method for displaying construction information
JP7484401B2 (ja) 作業機械の遠隔操作支援システム
JP6803471B2 (ja) 表示制御装置、表示制御方法、プログラムおよび表示システム
JP2016079677A (ja) 領域制限掘削制御装置及び建設機械
JP7472578B2 (ja) 遠隔操作支援サーバ、遠隔操作支援システムおよび遠隔操作支援方法
US20210312721A1 (en) Reproduction device, analysis assistance system, and reproduction method
JP2023040971A (ja) 遠隔操作支援装置、遠隔操作支援システムおよび遠隔操作支援方法
WO2021131161A1 (ja) 作業支援サーバ、撮像装置の選択方法
JP7310637B2 (ja) 遠隔操作支援サーバ、遠隔操作支援システムおよび遠隔操作支援方法
WO2021256104A1 (ja) 遠隔操作支援装置および遠隔操作支援方法
JP7441733B2 (ja) 実機状態監視システムおよび実機状態監視方法
JP7415480B2 (ja) 作業支援サーバおよび作業支援システム
WO2023100533A1 (ja) 画像表示システム、遠隔操作支援システムおよび画像表示方法
WO2021131228A1 (ja) 作業支援サーバ、作業支援方法および作業支援システム
JP7363560B2 (ja) 遠隔操作装置、遠隔操作支援サーバ、遠隔操作支援システムおよび遠隔操作支援方法
WO2022230939A1 (ja) 表示制御装置、表示制御方法および作業機械
WO2022239296A1 (ja) 施工支援システムおよび施工支援方法
CN115516175B (zh) 远程操作支援装置及远程操作支援方法
WO2021240957A1 (ja) 遠隔操作支援装置、遠隔操作支援システム及び遠隔操作支援方法
EP4060129A1 (en) Remote operation support system and remote operation support method
WO2021166480A1 (ja) 災害対策支援サーバ、災害対策支援システムおよび災害対策支援方法
JP2024057362A (ja) 作業支援システム、遠隔操作支援システム、作業支援方法および表示装置
CN117043732A (zh) 远程操作支援服务器及远程操作支援系统
JP2022121138A (ja) 遠隔操作支援システム、遠隔操作支援方法および遠隔操作支援複合システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230206

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240131

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240402

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240415

R150 Certificate of patent or registration of utility model

Ref document number: 7484401

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150