JP2021086224A - 作業支援サーバおよび作業支援システム - Google Patents

作業支援サーバおよび作業支援システム Download PDF

Info

Publication number
JP2021086224A
JP2021086224A JP2019212617A JP2019212617A JP2021086224A JP 2021086224 A JP2021086224 A JP 2021086224A JP 2019212617 A JP2019212617 A JP 2019212617A JP 2019212617 A JP2019212617 A JP 2019212617A JP 2021086224 A JP2021086224 A JP 2021086224A
Authority
JP
Japan
Prior art keywords
work
client
designated area
designated
processing element
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019212617A
Other languages
English (en)
Other versions
JP7367486B2 (ja
Inventor
祐介 澤田
Yusuke Sawada
祐介 澤田
佐々木 均
Hitoshi Sasaki
均 佐々木
誠司 佐伯
Seiji Saeki
誠司 佐伯
山▲崎▼ 洋一郎
Yoichiro Yamazaki
洋一郎 山▲崎▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kobelco Construction Machinery Co Ltd
Original Assignee
Kobelco Construction Machinery Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kobelco Construction Machinery Co Ltd filed Critical Kobelco Construction Machinery Co Ltd
Priority to JP2019212617A priority Critical patent/JP7367486B2/ja
Priority to US17/768,340 priority patent/US20230169422A1/en
Priority to PCT/JP2020/030685 priority patent/WO2021106281A1/ja
Priority to EP20892752.5A priority patent/EP4030375A4/en
Priority to CN202080079418.XA priority patent/CN114730441A/zh
Publication of JP2021086224A publication Critical patent/JP2021086224A/ja
Application granted granted Critical
Publication of JP7367486B2 publication Critical patent/JP7367486B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • G06Q10/063Operations research, analysis or management
    • G06Q10/0631Resource planning, allocation, distributing or scheduling for enterprises or organisations
    • G06Q10/06311Scheduling, planning or task assignment for a person or group
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/06Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/08Construction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/04Real-time or near real-time messaging, e.g. instant messaging [IM]

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Human Resources & Organizations (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Economics (AREA)
  • Strategic Management (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Tourism & Hospitality (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Game Theory and Decision Science (AREA)
  • Quality & Reliability (AREA)
  • Operations Research (AREA)
  • Educational Administration (AREA)
  • Development Economics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Health & Medical Sciences (AREA)
  • Primary Health Care (AREA)
  • Health & Medical Sciences (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Information Transfer Between Computers (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】複数の作業箇所のそれぞれにおける作業機械を用いて遂行すべき作業内容等を当該作業機械の作業員に直感的に認識させることができるサーバおよびシステムを提供する。【解決手段】第1クライアント(例えば、作業員端末60)の入力インターフェース(例えば、入力インターフェース)610を通じて指定された指定エリアA1、A2の延在態様を示す作業現場の作業環境画像が、同じく第1クライアントの入力インターフェースを通じて指定された当該指定エリアに関する指定エリア関連情報とともに第2クライアント(例えば、遠隔操作装置20)の出力インターフェース(例えば、遠隔出力インターフェース220)に出力される。【選択図】図1

Description

本発明は、複数の作業員のそれぞれに対して割り当てられた複数のクライアントのそれぞれとの通信により、前記複数の作業員による作業に関する情報の共有を支援するための作業支援サーバに関する。
プラント内を巡回点検中の作業従事者と、その作業現場外に待機している者との間で十分な精度で情報の共有化を図るための遠隔監視支援システム用端末装置が提案されている(例えば、特許文献1参照)。この端末装置は、現場の映像データを入力する映像入力手段と、ペンあるいはマウスタイプの入力操作選択手段と、新規の映像取得の有無を検出する検出手段と、外部とのデータ送受信を無線で行う通信制御手段と、所定のデータを入力する入力画面を表示する入出力画面表示手段と、を備えている。
特開2005−242830号公報
しかし、複数の作業関係者が関与する作業現場において注意を要するエリアに関する情報を、当該複数の作業関係者の間で共有できることが好ましい。
そこで、本発明は、作業現場において注意を要するエリアに関する情報を、複数の作業関係者に共有させることができるサーバおよびシステムを提供することを目的とする。
本発明は、複数の作業員のそれぞれに対して割り当てられた複数のクライアントのそれぞれとの通信により、前記複数の作業員による作業に関する情報の共有を支援するための作業支援サーバに関する。
本発明の作業支援サーバは、前記複数のクライアントのうち第1クライアントとの通信に基づき、前記第1クライアントの出力インターフェースに作業現場の状況を示す作業環境画像を表示させ、前記第1クライアントの入力インターフェースを通じて前記作業環境画像において指定された前記作業現場の一部を構成する指定エリアの延在態様および当該指定エリアに関する指定エリア関連情報を認識する第1支援処理要素と、前記複数のクライアントのうち第2クライアントとの通信に基づき、前記第1支援処理要素により認識された前記指定エリアの延在態様を示す前記作業環境画像を、前記指定エリア関連情報とともに前記第2クライアントの出力インターフェースに表示させる第2支援処理要素と、を備えていることを特徴とする。
本発明の作業支援システムは、本発明の作業支援システムと、前記複数のクライアントと、により構成されていることを特徴とする。
本発明の作業支援サーバおよび作業支援システム(以下、適宜「作業支援サーバ等」という。)によれば、第1クライアントの入力インターフェースを通じて指定された指定エリアの延在態様を示す作業現場の作業環境画像が、同じく第1クライアントの入力インターフェースを通じて指定された当該指定エリアに関する指定エリア関連情報とともに第2クライアントの出力インターフェースに出力または表示される。このため、複数のクライアントのそれぞれを割り当てられた複数の作業員のそれぞれが、作業現場における指定エリアの延在態様およびこれに関する指定エリア関連情報を容易に共有することができる。
また、第2クライアントが第1クライアントとして機能し、さらに別の指定エリアの延在態様を示す作業現場の作業環境画像が、当該別の指定エリアに関する指定エリア関連情報とともに他の第2クライアントの出力インターフェースに表示されてもよい。第1クライアントが当該他の第2クライアントであってもよい。このため、例えば、共通の現場に携わっている複数の作業員のそれぞれが、各クライアントの入力インターフェースを通じて一または複数の指定エリアおよび指定エリア関連情報を指定することにより、各クライアントの出力インターフェースを通じて情報量の豊富な作業環境画像を当該複数の作業員の間で共有することができる。
本発明の作業支援サーバ等において、前記第2支援処理要素が、前記複数のクライアントのそれぞれとの通信に基づき、前記複数のクライアントのそれぞれの入力インターフェースを通じて入力されたチャットを認識し、前記チャットを、前記複数のクライアントのそれぞれの出力インターフェースに表示させ、前記第1支援処理要素が、前記第1クライアントとの通信に基づいて認識した前記チャットを前記指定エリア関連情報として認識することが好ましい。
当該構成の作業支援サーバ等によれば、複数の作業員のそれぞれから発せられたチャットが各クライアントの出力インターフェースを通じて出力される。また、第1クライアントを通じて発せられたチャットが指定エリア関連情報として認識され、これに応じて前記のように当該指定エリア関連情報が指定エリアの延在態様を示す作業環境画像とともに表示される。このため、チャットの時系列の中で一のチャットと作業環境画像に含まれている指定エリアとの関連性を当該複数の作業員の間で共有することにより、当該指定エリアに関する指定エリア関連情報の円滑な共有が図られる。
本発明の作業支援サーバ等において、前記第1支援処理要素が、前記第1クライアントとの通信に基づき、前記第1クライアントにおいて前記指定エリアが指定されたことを要件として、前記第1クライアントから発せられたチャットの内容の少なくとも一部を前記指定エリア関連情報として認識することが好ましい。
当該構成の作業支援サーバ等によれば、各クライアントを通じて発信されるチャットのうち、指定エリアの延在態様の指定を伴わないチャットは単なるチャットであると認識される一方、指定エリアの延在態様の指定を伴うチャットのうち少なくとも一部が指定エリア関連情報として認識されうる。
本発明の作業支援サーバ等において、前記第1支援処理要素が、前記第1クライアントとの通信に基づき、前記指定エリアの指定期間を前記指定エリア関連情報として認識し、前記第2支援処理要素が、前記第2クライアントとの通信に基づき、前記第1支援処理要素により認識された前記指定期間においてのみ、前記指定エリアの延在態様が表示される前記作業現場の作業環境画像を、前記指定エリア関連情報とともに前記第2クライアントの出力インターフェースに表示させることが好ましい。
当該構成の作業支援サーバ等によれば、指定エリアの延在態様が表示される作業現場の作業環境画像が、当該指定エリアに関する指定エリア関連情報としての指定期間とともに第2クライアントの出力インターフェースに表示される。このため、第2クライアントを通じて、指定エリアが時限的に存在することを作業員に認識させることができる。また、指定期間の経過後は、当該指定エリアが周囲と異なる形態では表示されないため、作業員に指定エリアが存在するという誤解を与える事態が回避される。
本発明の作業支援サーバ等において、前記第1演算処理要素が、前記第1クライアントまたは前記第1クライアントと連携している作業機械との通信に基づき、前記作業機械の位置を認識し、前記第2支援処理要素が、前記第2クライアントとの通信に基づき、前記第1支援処理要素により認識された前記作業機械の位置を示す前記作業現場の作業環境画像を、前記指定エリア関連情報とともに前記第2クライアントの出力インターフェースに表示させることが好ましい。
当該構成の作業支援サーバ等によれば、作業員が操作する作業機械の位置と指定エリアの位置関係を複数の作業員の間で共有することができる。
本発明の一実施形態としての作業支援システムの構成に関する説明図。 遠隔操作装置の構成に関する説明図。 作業機械の構成に関する説明図。 作業支援システムの第1機能に関する説明図。 作業支援システムの第2機能に関する説明図。 作業環境画像の遠隔出力形態に関する説明図。 作業環境画像の第2出力形態に関する説明図。 作業環境画像の第3出力形態に関する説明図。 作業環境画像の第4出力形態に関する説明図。 作業環境画像の第5出力形態に関する説明図。
(作業支援システムの構成)
図1に示されている本発明の一実施形態としての作業支援システムは、作業支援サーバ10と、作業機械40を遠隔操作するための遠隔操作装置20と、作業員端末60と、により構成されている。「複数のクライアント」は、一または複数の遠隔操作装置20および一または複数の作業員端末60により構成されていてもよく、複数の遠隔操作装置20または複数の作業員端末60により構成されていてもよい。作業支援サーバ10と、遠隔操作装置20と、作業機械40と、作業員端末60と、は相互にネットワーク通信可能に構成されている。
(作業支援サーバの構成)
作業支援サーバ10は、データベース102と、第1支援処理要素121と、第2支援処理要素122と、を備えている。データベース102は、作業現場の様子を示す作業環境画像のほか、指定エリアの延在態様および指定エリアに関する指定エリア関連情報ならびに複数の作業員の間のチャットなどを記憶保持する。データベース102は、作業支援サーバ10とは別個のデータベースサーバにより構成されていてもよい。各支援処理要素は、演算処理装置(シングルコアプロセッサまたはマルチコアプロセッサもしくはこれを構成するプロセッサコア)により構成され、メモリなどの記憶装置から必要なデータおよびソフトウェアを読み取り、当該データを対象として当該ソフトウェアにしたがった後述の演算処理を実行する。
(遠隔操作装置の構成)
一のクライアントを構成する遠隔操作装置20は、遠隔制御装置200と、遠隔入力インターフェース210と、遠隔出力インターフェース220と、を備えている。遠隔制御装置200は、演算処理装置(シングルコアプロセッサまたはマルチコアプロセッサもしくはこれを構成するプロセッサコア)により構成され、メモリなどの記憶装置から必要なデータおよびソフトウェアを読み取り、当該データを対象として当該ソフトウェアにしたがった演算処理を実行する。遠隔入力インターフェース210は、遠隔操作機構211を備えている。遠隔出力インターフェース220は、画像出力装置221と、遠隔無線通信機器222と、を備えている。
遠隔操作装置20と連携するまたは相互通信機能を有する携帯端末により当該一のクライアントが構成されていてもよい。当該携帯端末は、後述する作業員端末60と同様の構成を有している。
遠隔操作機構211には、走行用操作装置と、旋回用操作装置と、ブーム用操作装置と、アーム用操作装置と、バケット用操作装置と、が含まれている。各操作装置は、回動操作を受ける操作レバーを有している。走行用操作装置の操作レバー(走行レバー)は、作業機械40の下部走行体410を動かすために操作される。走行レバーは、走行ペダルを兼ねていてもよい。例えば、走行レバーの基部または下端部に固定されている走行ペダルが設けられていてもよい。旋回用操作装置の操作レバー(旋回レバー)は、作業機械40の旋回機構430を構成する油圧式の旋回モータを動かすために操作される。ブーム用操作装置の操作レバー(ブームレバー)は、作業機械40のブームシリンダ442を動かすために操作される。アーム用操作装置の操作レバー(アームレバー)は作業機械40のアームシリンダ444を動かすために操作される。バケット用操作装置の操作レバー(バケットレバー)は作業機械40のバケットシリンダ446を動かすために操作される。
遠隔操作機構211を構成する各操作レバーは、例えば、図2に示されているように、オペレータが着座するためのシートStの周囲に配置されている。シートStは、アームレスト付きのハイバックチェアのような形態であるが、ヘッドレストがないローバックチェアのような形態、または、背もたれがないチェアのような形態など、遠隔オペレータOP2が着座できる任意の形態でもよい。
シートStの前方に左右のクローラに応じた左右一対の走行レバー2110が左右横並びに配置されている。一の操作レバーが複数の操作レバーを兼ねていてもよい。例えば、図3に示されているシートStの右側フレームの前方に設けられている右側操作レバー2111が、前後方向に操作された場合にブームレバーとして機能し、かつ、左右方向に操作された場合にバケットレバーとして機能してもよい。同様に、図2に示されているシートStの左側フレームの前方に設けられている左側操作レバー2112が、前後方向に操作された場合にアームレバーとして機能し、かつ、左右方向に操作された場合に旋回レバーとして機能してもよい。レバーパターンは、オペレータの操作指示によって任意に変更されてもよい。
画像出力装置221は、例えば図2に示されているように、シートStの右斜め前方、前方および左斜め前方のそれぞれに配置された右斜め前方画像出力装置2211、前方画像出力装置2212および左斜め前方画像出力装置2213により構成されている。当該画像出力装置2211〜2213は、スピーカ(音声出力装置)をさらに備えていてもよい。
(作業機械の構成)
作業機械40は、実機制御装置400と、実機入力インターフェース410と、実機出力インターフェース420と、作動機構440と、を備えている。実機制御装置400は、演算処理装置(シングルコアプロセッサまたはマルチコアプロセッサもしくはこれを構成するプロセッサコア)により構成され、メモリなどの記憶装置から必要なデータおよびソフトウェアを読み取り、当該データを対象として当該ソフトウェアにしたがった演算処理を実行する。
作業機械40は、例えばクローラショベル(建設機械)であり、図2に示されているように、クローラ式の下部走行体410と、下部走行体410に旋回機構430を介して旋回可能に搭載されている上部旋回体420と、を備えている。上部旋回体420の前方左側部にはキャブ(運転室)424が設けられている。上部旋回体220の前方中央部には作業アタッチメント440が設けられている。
実機入力インターフェース410は、実機操作機構411と、撮像装置412と、を備えている。実機操作機構411は、キャブ424の内部に配置されたシートの周囲に遠隔操作機構211と同様に配置された複数の操作レバーを備えている。遠隔操作レバーの操作態様に応じた信号を受信し、当該受信信号に基づいて実機操作レバーを動かす駆動機構またはロボットがキャブ424に設けられている。撮像装置414は、例えばキャブ424の内部に設置され、キャブ424のフロントウィンドウ越しに作動機構440の少なくとも一部を含む環境を撮像する。
実機出力インターフェース420は、実機無線通信機器422を備えている。
作動機構としての作業アタッチメント440は、上部旋回体420に起伏可能に装着されているブーム441と、ブーム441の先端に回動可能に連結されているアーム443と、アーム443の先端に回動可能に連結されているバケット445と、を備えている。作業アタッチメント440には、伸縮可能な油圧シリンダにより構成されているブームシリンダ442、アームシリンダ444およびバケットシリンダ446が装着されている。
ブームシリンダ442は、作動油の供給を受けることにより伸縮してブーム441を起伏方向に回動させるように当該ブーム441と上部旋回体420との間に介在する。アームシリンダ444は、作動油の供給を受けることにより伸縮してアーム443をブーム441に対して水平軸回りに回動させるように当該アーム443と当該ブーム441との間に介在する。バケットシリンダ446は、作動油の供給を受けることにより伸縮してバケット445をアーム443に対して水平軸回りに回動させるように当該バケット445と当該アーム443との間に介在する。
(作業員端末の構成)
他のクライアントを構成する作業員端末60は、スマートホンまたはタブレット端末などの端末装置であり、制御装置600と、入力インターフェース610と、出力インターフェース620と、を備えている。制御装置600は、演算処理装置(シングルコアプロセッサまたはマルチコアプロセッサもしくはこれを構成するプロセッサコア)により構成され、メモリなどの記憶装置から必要なデータおよびソフトウェアを読み取り、当該データを対象として当該ソフトウェアにしたがった演算処理を実行する。
入力インターフェース610は、タッチパネル方式のボタンおよびスイッチなどにより構成されている。出力インターフェース620は、画像出力装置と、音声出力装置と、無線通信機器と、を備えている。
(機能)
(第1機能(作業環境画像およびチャットの出力))
前記構成の作業支援システムの機能について図4および図5に示されているフローチャートを用いて説明する。当該フローチャートにおいて「C●」というブロックは、記載の簡略のために用いられ、データの送信および/または受信を意味し、当該データの送信および/または受信を条件として分岐方向の処理が実行される条件分岐を意味している。図4には、作業員端末60が「第1クライアント」を構成し、遠隔操作装置20が「第2クライアント」を構成する場合のフローチャートが示されているが、これとは逆に、作業員端末60が「第2クライアント」を構成し、遠隔操作装置20が「第2クライアント」を構成していてもよい。
作業員端末60において、第1作業員により入力インターフェース610を通じて、指定操作(第1指定操作)があったことに応じて、作業員端末60から作業支援サーバ10に作業環境画像要求が送信される。これに応じて、第1支援処理要素121により、データベース102に登録または記憶保持されている作業環境画像が作業員端末60に対して送信される(図4/STEP102)。
作業員端末60において、出力インターフェース620を構成する無線通信機器により作業環境画像が受信された場合(図4/C60)、出力インターフェース620を構成する画像出力装置において作業環境画像が出力される(図4/STEP602)。
これにより、例えば図6に示されているように、作業現場の鳥瞰マップまたは鳥瞰撮像画像が出力インターフェース620を構成する画像出力装置において作業環境画像が出力される。鳥瞰撮像画像には、第1の作業機械40の画像Q1および2の作業機械40の画像Q2が含まれている。鳥瞰撮像画像は、例えば無人飛行機に搭載されている撮像装置または作業現場のポール等の構造物に設置されている撮像装置を通じて取得されてもよい。作業環境画像としての撮像画像の撮像箇所および画角のそれぞれは任意に変更されてもよい。鳥瞰マップは、鳥瞰撮像画像を基礎として生成されてもよい。
同様に、遠隔操作装置20において、第2作業員により遠隔入力インターフェース210を通じて、指定操作(第1指定操作)があったことに応じて、遠隔操作装置20から作業支援サーバ10に作業環境画像要求が送信される。これに応じて、第2支援処理要素122により、データベース102に登録または記憶保持されている作業環境画像が遠隔操作装置20に対して送信される(図4/STEP102)。
遠隔操作装置20において、遠隔出力インターフェース220を構成する遠隔無線通信機器222により作業環境画像が受信された場合(図4/C20)、遠隔出力インターフェース620を構成する画像出力装置621において作業環境画像が出力される(図4/STEP202)。
作業員端末60において、入力インターフェース610の操作を通じて、作業環境画像の一部(画像領域)として指定エリアの延在態様が指定されたか否かが判定される(図4/STEP604)。例えば、入力インターフェース610および出力インターフェース620の両方を構成するタッチパネルにおいて、第1作業員の指先またはペンの軌跡が認識されることにより、指定エリアの延在態様または輪郭が認識されてもよい。これにより、例えば図9に示されているように、作業環境画像において第1指定エリアA1および第2指定エリアA2が第1作業員により指定されうる。
当該判定結果が肯定的である場合(図4/STEP604‥YES)、フラグfが「0」に設定される(図4/STEP606)。その一方、当該判定結果が否定的である場合(図4/STEP604‥NO)、フラグfが「1」に設定される(図4/STEP608)。
作業員端末60において、入力インターフェース610を通じて、チャットが入力されたか否かが判定される(図4/STEP610)。例えば、入力インターフェース610を構成するマイクを通じて入力された第1作業員の発話内容が音声認識装置により認識された結果がチャットとして認識されてもよい。また、入力インターフェース610を構成するタッチ式キーパッドにおいて、第1作業員の指先の軌跡が認識されることによりチャットが認識されてもよい。
所定期間においてチャットが入力されたと判定された場合(図4/STEP610‥NO)、一連の処理が終了する。所定期間においてチャットが入力されたと判定された場合(図4/STEP610‥YES)、作業員端末60において、フラグfが0であるか否かが判定される(図4/STEP612)。当該判定結果が否定的である場合(図4/STEP612‥NO)、すなわち指定エリアの延在態様が指定されていない場合、当該チャットが作業支援サーバ10に対して送信される(図4/STEP614)。
その一方、当該判定結果が肯定的である場合(図4/STEP612‥YES)、すなわち指定エリアの延在態様が指定されている場合、当該チャットの内容の少なくとも一部が指定エリア関連情報として認識されたうえで作業支援サーバ10に対して送信される(図4/STEP616)。指定エリア関連情報には、例えば、当該エリアが一定期間だけ指定エリアであることを示す指定時限情報、指定エリアに存在する物体または環境に関する情報などが含まれていてもよい。
作業支援サーバ10において、チャットが受信された場合(図4/C11)、当該チャットがデータベース102に登録または記憶保持される(図4/STEP104)。その上で、第2支援処理要素122により、当該チャットが作業員端末60に対して送信される(図4/STEP106)。また、第2支援処理要素122により、当該チャットが遠隔操作装置20に対して送信される(図4/STEP106)。
作業員端末60において、チャットが受信された場合(図4/C61)、当該チャットが出力インターフェース620を構成する画像出力装置に出力される(図4/STEP618)。同様に、遠隔操作装置20において、チャットが受信された場合(図4/C21)、当該チャットが遠隔出力インターフェース220を構成する画像出力装置221に出力される(図4/STEP218)。これにより、例えば図6に示されているように、作業環境画像の右側に第1作業員のチャットC11が、作業員端末60(第1クライアント)の出力インターフェース620を構成する画像出力装置および遠隔操作装置20(第2クライアント)の出力インターフェース220を構成する画像出力装置221のそれぞれに出力される。
作業支援サーバ10において、指定エリアの延在態様および指定エリア関連情報(以下、適宜「指定エリア関連情報等」という。)が受信された場合(図4/C12)、または、第1支援処理要素121によりチャットの内容の少なくとも一部が指定エリア関連情報として認識された場合、当該指定エリア関連情報等がデータベース102に登録または記憶保持される(図4/STEP108)。その上で、第2支援処理要素122により、当該指定エリア関連情報等が作業員端末60に対して送信される(図4/STEP110)。また、第2支援処理要素122により、当該指定エリア関連情報等が遠隔操作装置20に対して送信される(図4/STEP110)。
作業員端末60において、指定エリア関連情報等が受信された場合(図4/C62)、当該指定エリア関連情報等が出力インターフェース620を構成する画像出力装置に出力される(図4/STEP620)。同様に、遠隔操作装置20において、指定エリア関連情報等が受信された場合(図4/C62)、当該指定エリア関連情報等が出力インターフェース620を構成する画像出力装置に出力される(図4/STEP220)。これにより、例えば図7に示されているように、指定エリアN4(作業場)の延在態様を示す作業環境画像に加えて、その右に第1作業員のチャットC12の形態での指定エリア関連情報が、作業員端末60(第1クライアント)の出力インターフェース620を構成する画像出力装置および遠隔操作装置20(第2クライアント)の出力インターフェース220を構成する画像出力装置221のそれぞれに出力される。
(実施例)
図4のフローチャートを用いて説明した作業支援システムの第1機能にしたがった、各クライアントの出力インターフェースにおける作業環境画像およびチャットの出力遷移態様の一例に関して図6〜図10を用いて説明する。この例では、各クライアントが第1クライアントおよび第2クライアントの両方として機能しうる。チャットのやり取りを示す画像は、作業環境画像の一部を構成していてもよく、作業環境画像とは別個の画像であってもよい。
図6に示されているように、作業現場の鳥瞰撮像画像または鳥瞰マップが作業環境画像として出力されている。この状態からまず、図6に示されているように、第1作業員による「今日はどこで作業してますか?」というチャットC11が出力される(図4/STEP218、STEP618参照)。
これに応じて、図7に示されているように、第2作業員により指定された作業場N1(指定エリア)の延在態様を示す画像(例えば輪郭線)および遠隔操作装置20の位置Q0を示す画像が出力され、かつ、当該第2作業員による「N1作業場です 運転席はここです」というチャットC21が指定エリア関連情報として出力される(図4/STEP220、STEP604‥YES→‥→STEP620参照)。次に、図7に示されているように、第2作業員による「次はN4で作業するのですがどこですか?」というチャットC22が出力される(図4/STEP218、STEP618参照)。
これに応じて、図8に示されているように、第1作業員により指定された作業場N4(指定エリア)の延在態様を示す画像(例えば輪郭線)が出力され、かつ、当該第1作業員による「N4はここです」というチャットC12が指定エリア関連情報として出力される(図4/STEP220、STEP604‥YES→‥→STEP620参照)。さらに、図8に示されているように、第2作業員による「ありがとうございます」というチャットC23が出力される(図4/STEP218、STEP618参照)。
続いて、図9に示されているように、第3作業員により指定された第1指定エリアA1の延在態様を示す画像(例えば輪郭線およびその内側の色彩または模様)が出力され、かつ、当該第3の作業員による「作業者がくるので10:00−12:00の間はここに侵入しないでください」というチャットC31が指定エリア関連情報として出力される(図4/STEP220、STEP604‥YES→‥→STEP620参照)。
また、図10に示されているように、第2作業員により指定された第2指定エリアA2の延在態様を示す画像(例えば輪郭線およびその内側の色彩または模様)が出力され、かつ、当該第2作業員による「昨日までなかった資材があったので注意です」というチャットC24が指定エリア関連情報として出力される(図4/STEP220、STEP604‥YES→‥→STEP620参照)。
(第2機能(作業機械の遠隔操作))
遠隔操作装置20において、オペレータOPにより遠隔入力インターフェース210を通じた指定操作(第2指定操作)の有無が判定される(図5/STEP240)。「指定操作」は、例えば、作業環境画像(図7参照)において、作業員が遠隔操作を意図する作業機械40を指定するための遠隔入力インターフェース210における画像Q1またはQ2のタップなどの操作である。当該判定結果が否定的である場合(図5/STEP240‥NO)、一連の処理が終了する。その一方、当該判定結果が肯定的である場合(図5/STEP240‥YES)、遠隔無線通信機器222を通じて、作業支援サーバ10に対して環境確認要求が送信される(図4/STEP242)。
作業支援サーバ10において、環境確認要求が受信された場合、第1支援処理要素121により当該環境確認要求が該当する作業機械40に対して送信される(図5/C13)。
作業機械40において、実機無線通信機器422を通じて環境確認要求が受信された場合(図5/C41)、実機制御装置400が撮像装置412を通じて撮像画像を取得する(図5/STEP402)。実機制御装置400により、実機無線通信機器422を通じて、当該撮像画像を表わす撮像画像データが遠隔操作装置10に対して送信される(図5/STEP404)。
作業支援サーバ10において、撮像画像データが受信された場合(図5/C14)、撮像画像データに応じた環境画像データ(撮像画像そのものの全部または一部またはこれに基づいて生成された模擬的な環境画像を表わすデータ)が遠隔操作装置20に対して送信される(図5/STEP112)。
遠隔操作装置20において、遠隔無線通信機器222を通じて環境画像データが受信された場合(図5/C23)、環境画像データに応じた環境画像が画像出力装置221に出力される(図5/STEP212)。これにより、例えば、作動機構としての作業アタッチメント440の一部であるブーム441、アーム443、バケット445およびアームシリンダ444が含まれている環境画像が画像出力装置221および第2画像出力装置221のそれぞれに表示される。
遠隔操作装置20において、遠隔制御装置200により遠隔操作機構211の操作態様が認識され(図5/STEP214)、かつ、遠隔無線通信機器222を通じて、当該操作態様に応じた遠隔操作指令が作業支援サーバ10に対して送信される(図5/STEP216)。
作業支援サーバ10において、当該遠隔操作指令が受信された場合、第1支援処理要素121により、当該遠隔操作指令が作業機械40に対して送信される(図5/C15)。
作業機械40において、実機制御装置400により、実機無線通信機器422を通じて操作指令が受信された場合(図5/C42)、作業アタッチメント440等の動作が制御される(図5/STEP406)。例えば、バケット445により作業機械40の前方の土をすくい、上部旋回体410を旋回させたうえでバケット445から土を落とす作業が実行される。
(効果)
当該構成の作業支援システムおよびこれを構成する作業支援サーバ10によれば、第1クライアント(例えば、作業員端末60)の入力インターフェース(例えば、入力インターフェース)610を通じて指定された指定エリアの延在態様を示す作業現場の作業環境画像が、同じく第1クライアントの入力インターフェースを通じて指定された当該指定エリアに関する指定エリア関連情報とともに第2クライアント(例えば、遠隔操作装置20)の出力インターフェース(例えば、遠隔出力インターフェース220)に出力される(図4/STEP616→‥→STEP220参照)。このため、複数のクライアントのそれぞれを割り当てられた複数の作業員のそれぞれが、作業現場における指定エリア(例えば、作業場N1、N4、第1指定エリアA1および第2指定エリアA2)の延在態様およびこれに関する指定エリア関連情報を容易に共有することができる(図6〜図10参照)。
また、第2クライアント(例えば、遠隔操作装置20)が第1クライアントとして機能し、さらに別の指定エリアの延在態様を示す作業現場の作業環境画像が、当該別の指定エリアに関する指定エリア関連情報とともに他の第2クライアント(例えば、作業員端末60)の出力インターフェースに表示されてもよい。このため、例えば、共通の現場に携わっている複数の作業員のそれぞれが、各クライアントの入力インターフェースを通じて一または複数の指定エリア(例えば、作業場N1、N4、第1指定エリアA1および第2指定エリアA2)および指定エリア関連情報を指定することにより、各クライアントの出力インターフェースを通じて情報量の豊富な作業環境画像を当該複数の作業員の間で共有することができる(図6〜図10参照)。
(本発明の他の実施形態)
前記実施形態では、作業支援サーバ10が、遠隔操作装置20、作業機械40および作業員端末60のそれぞれとは別個の一または複数のサーバにより構成されていたが(図1参照)、他の実施形態として、作業支援サーバ10が、遠隔操作装置20、作業機械40または作業員端末60の構成要素であってもよい。作業支援サーバ10の各構成要素110、121および122のそれぞれが、遠隔操作装置20、作業機械40および作業員端末60のうちの相互通信可能な2つ以上のそれぞれの構成要素であってもよい。
前記実施形態では、チャットの少なくとも一部が指定エリア関連情報として認識されたが、他の実施形態として、チャットとは無関係に入力インターフェースを通じて入力された情報が指定エリア関連情報として認識されてもよい。この場合、クライアントにおいて、当該入力情報が指定エリア関連情報であることが指定されたことを第1支援処理要素121が認識したうえで、当該入力情報が指定エリア関連情報であると認識されてもよい。
前記実施形態では、指定エリアが指定された後のチャットの内容の一部または全部が指定エリア関連情報として認識されたが、他の実施形態として、指定エリアが指定された時点よりも前の指定期間において入力された同一作業員のチャットの少なくとも一部が指定エリア関連情報として認識されてもよい。また、第1作業員により指定された指定エリアに関して、第2作業員が「この指定エリアには14:00に機材が運び込まれると聞きました」というチャットを発する場合のように、指定エリアの延在態様の指定が要件とされずに、チャットの少なくとも一部が当該指定エリアに関する指定エリア関連情報として認識されてもよい。この場合、クライアントにおいて、チャットが指定エリア関連情報であることが指定されたことを第1支援処理要素121が認識したうえで、当該チャットが指定エリア関連情報であると認識されてもよい。
10‥作業支援サーバ、20‥遠隔操作装置、40‥作業機械、60‥作業員端末、102‥データベース、121‥第1支援処理要素、122‥第2支援処理要素、210‥遠隔入力インターフェース、220‥遠隔出力インターフェース、410‥実機入力インターフェース、420‥実機出力インターフェース、440‥作業アタッチメント(作動機構)、610‥入力インターフェース、620‥出力インターフェース。

Claims (6)

  1. 複数の作業員のそれぞれに対して割り当てられた複数のクライアントのそれぞれとの通信により、前記複数の作業員による作業に関する情報の共有を支援するための作業支援サーバであって、
    前記複数のクライアントのうち第1クライアントとの通信に基づき、前記第1クライアントの出力インターフェースに作業現場の状況を示す作業環境画像を表示させ、前記第1クライアントの入力インターフェースを通じて前記作業環境画像において指定された前記作業現場の一部を構成する指定エリアの延在態様および当該指定エリアに関する指定エリア関連情報を認識する第1支援処理要素と、
    前記複数のクライアントのうち第2クライアントとの通信に基づき、前記第1支援処理要素により認識された前記指定エリアの延在態様を示す前記作業環境画像を、前記指定エリア関連情報とともに前記第2クライアントの出力インターフェースに表示させる第2支援処理要素と、を備えていることを特徴とする作業支援サーバ。
  2. 請求項1記載の作業支援サーバにおいて、
    前記第2支援処理要素が、前記複数のクライアントのそれぞれとの通信に基づき、前記複数のクライアントのそれぞれの入力インターフェースを通じて入力されたチャットを認識し、前記チャットを、前記複数のクライアントのそれぞれの出力インターフェースに表示させ、
    前記第1支援処理要素が、前記第1クライアントとの通信に基づいて認識した前記チャットを前記指定エリア関連情報として認識することを特徴とする作業支援サーバ。
  3. 請求項2記載の作業支援サーバにおいて、
    前記第1支援処理要素が、前記第1クライアントとの通信に基づき、前記第1クライアントにおいて前記指定エリアが指定されたことを要件として、前記第1クライアントから発せられたチャットの内容の少なくとも一部を前記指定エリア関連情報として認識することを特徴とする作業支援サーバ。
  4. 請求項1〜3のうちいずれか1項に記載の作業支援サーバにおいて、
    前記第1支援処理要素が、前記第1クライアントとの通信に基づき、前記指定エリアの指定期間を前記指定エリア関連情報として認識し、
    前記第2支援処理要素が、前記第2クライアントとの通信に基づき、前記第1支援処理要素により認識された前記指定期間においてのみ、前記指定エリアの延在態様が表示される前記作業環境画像を、前記指定エリア関連情報とともに前記第2クライアントの出力インターフェースに表示させることを特徴とする作業支援サーバ。
  5. 請求項1〜4のうちいずれか1項に記載の作業支援サーバにおいて、
    前記第1演算処理要素が、前記第1クライアントまたは前記第1クライアントと連携している作業機械との通信に基づき、前記作業機械の位置を認識し、
    前記第2支援処理要素が、前記第2クライアントとの通信に基づき、前記第1支援処理要素により認識された前記作業機械の位置を示す前記作業環境画像を、前記指定エリア関連情報とともに前記第2クライアントの出力インターフェースに表示させることを特徴とする作業支援サーバ。
  6. 請求項1〜5のうちいずれか1項に記載の作業支援サーバと、前記複数のクライアントと、により構成されていることを特徴とする作業支援システム。
JP2019212617A 2019-11-25 2019-11-25 作業支援サーバおよび作業支援システム Active JP7367486B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2019212617A JP7367486B2 (ja) 2019-11-25 2019-11-25 作業支援サーバおよび作業支援システム
US17/768,340 US20230169422A1 (en) 2019-11-25 2020-08-12 Work assist server, work assist method, and work assist system
PCT/JP2020/030685 WO2021106281A1 (ja) 2019-11-25 2020-08-12 作業支援サーバ、作業支援方法および作業支援システム
EP20892752.5A EP4030375A4 (en) 2019-11-25 2020-08-12 ASSISTING LABOR DEVICE, ASSISTING LABOR METHOD AND ASSISTING LABOR SYSTEM
CN202080079418.XA CN114730441A (zh) 2019-11-25 2020-08-12 作业支援服务器、作业支援方法以及作业支援系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019212617A JP7367486B2 (ja) 2019-11-25 2019-11-25 作業支援サーバおよび作業支援システム

Publications (2)

Publication Number Publication Date
JP2021086224A true JP2021086224A (ja) 2021-06-03
JP7367486B2 JP7367486B2 (ja) 2023-10-24

Family

ID=76087709

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019212617A Active JP7367486B2 (ja) 2019-11-25 2019-11-25 作業支援サーバおよび作業支援システム

Country Status (5)

Country Link
US (1) US20230169422A1 (ja)
EP (1) EP4030375A4 (ja)
JP (1) JP7367486B2 (ja)
CN (1) CN114730441A (ja)
WO (1) WO2021106281A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019114191A (ja) * 2017-12-26 2019-07-11 井関農機株式会社 農作業管理システム
JP2019185159A (ja) * 2018-04-03 2019-10-24 株式会社アルカディア 情報共有システム

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7162528B1 (en) * 1998-11-23 2007-01-09 The United States Of America As Represented By The Secretary Of The Navy Collaborative environment implemented on a distributed computer network and software therefor
JP2005242830A (ja) 2004-02-27 2005-09-08 Toshiba Corp 遠隔監視支援システムおよび遠隔監視支援システム用携帯端末装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019114191A (ja) * 2017-12-26 2019-07-11 井関農機株式会社 農作業管理システム
JP2019185159A (ja) * 2018-04-03 2019-10-24 株式会社アルカディア 情報共有システム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
"導入事例 三井住友建設株式会社様 GeoMation 作業員安全支援ソリューション", HITACHI SOCIAL INNOVATION FORUM 2019, JPN6020042477, 17 October 2019 (2019-10-17), JP, ISSN: 0005051525 *

Also Published As

Publication number Publication date
EP4030375A1 (en) 2022-07-20
US20230169422A1 (en) 2023-06-01
JP7367486B2 (ja) 2023-10-24
WO2021106281A1 (ja) 2021-06-03
EP4030375A4 (en) 2022-09-28
CN114730441A (zh) 2022-07-08

Similar Documents

Publication Publication Date Title
WO2021111677A1 (ja) 遠隔操作支援サーバ、遠隔操作支援方法および遠隔操作支援システム
WO2021124654A1 (ja) 作業支援サーバ、作業支援方法および作業支援システム
US20230073325A1 (en) Remote operation assistance server, remote operation assistance system, and remote operation assistance method
JP2019156299A (ja) 車両遠隔操作装置及び車両遠隔操作方法
WO2021153187A1 (ja) 作業支援サーバおよび作業支援システム
WO2021176883A1 (ja) 作業支援サーバ、作業支援方法
WO2021106281A1 (ja) 作業支援サーバ、作業支援方法および作業支援システム
WO2021106278A1 (ja) 作業支援サーバ、作業支援方法および作業支援システム
US11885101B2 (en) Remote operation system and remote operation server
WO2021106279A1 (ja) 作業支援サーバ、作業支援方法および作業支援システム
CN114902311A (zh) 作业辅助服务器、作业辅助方法以及作业辅助系统
WO2021106280A1 (ja) 作業支援サーバ、作業支援方法および作業支援システム
WO2021181916A1 (ja) 作業支援サーバ、作業支援方法
EP4075795A1 (en) Remote operation device, remote operation assistance server, remote operation assistance system, and remote operation assistance method
EP4279667A1 (en) Remote operation assistance server and remote operation assistance system
WO2022209018A1 (ja) 作業支援システムおよび作業支援複合システム
JP2022152338A (ja) 作業支援システムおよび作業支援複合システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220725

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230509

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230710

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230912

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230925

R150 Certificate of patent or registration of utility model

Ref document number: 7367486

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150