<第1の実施の形態>
以下、本発明の第1の実施形態にかかる作業支援システム1について図面を用いて詳細に説明する。第1の実施形態では、保守点検作業などを行う作業現場において、作業監督者が作業支援システム1を用いて作業実施者の現場作業を支援する場合を例示して説明する。
ここで、保守点検作業とは、プラント施設や屋外施設において、作業実施者がその設備の保守、点検、改修などの保全作業を行うことを言う。作業支援システム1は、このような作業現場において、作業監督者と作業実施者との間の作業支援を行うための装置である。本発明の作業支援システム1は、作業監督者と作業実施者との間のコミュニケーションの可否を判定するのみならず、作業実施者の作業状況に基づくコミュニケーションの可否に応じて、当該作業監督者が用いる端末(後述する、作業監督者端末200)を作業実施者が用いる端末(後述する、作業実施者端末300)に適切に接続する機能を有している。
<作業支援システム>
図1は、第1の実施形態にかかる作業支援システム1の機能構成を説明するブロック図である。
作業支援システム1は、作業支援装置100と、作業監督者が用いる作業監督者端末200と、作業実施者が用いる作業実施者端末300とを有して構成されている。これら作業支援装置100は、インターネットなどの適宜なネットワークNTを介して作業監督者端末200及び作業実施者端末300に接続されている。
<作業支援装置>
作業支援装置100は、例えば、作業現場の内外に設けられたコンピュータなどの電子計算機である。作業支援装置100は、作業員識別部10と、コミュニケーション可否判定部20と、会話必要度算出部30と、記憶部40と、通信部50と、入出力部60とを有して構成されている。これらの作業員識別部10、コミュニケーション可否判定部20、会話必要度算出部30、記憶部40、通信部50、及び入出力部60は、コンピュータのCPU(図示せず)が、記憶装置(例えば、後述するメモリ103)に記憶された制御プログラムを実行することで、コンピュータ上で実装される。
作業員識別部10は、通信部50を介して作業実施者端末300から所定情報を取得し、この取得した所定情報に含まれる作業実施者IDに基づいて、当該所定情報がどの作業実施者端末300から受信したものかを判断すると共に、この所定情報を記憶部40の作業手順データ記憶領域41に記憶する。なお、本実施形態では、作業現場で作業を行う複数の作業実施者が作業実施者端末300a~300dをそれぞれ保有しており、作業員識別部10は、この作業実施者IDに基づいて取得した所定情報がどの作業実施者の保有する作業実施者端末300a~300dのものであるかを判断する。
コミュニケーション可否判定部20は、作業実施者端末300(300a~300d)から取得した所定情報に基づく作業実施者の作業位置及び作業姿勢から、この作業実施者が他者とコミュニケーションが行える状態か否かを判定する。
会話必要度算出部30は、必要度算出部31と、閾値算出部32と、統計演算処理部33と、を有して構成されている。必要度算出部31は、作業実施者端末300(300a~300d)から取得した所定情報に基づいて、記憶部40の作業手順データ記憶領域41内に当該作業実施者の作業状況と一致する作業状況データがあるか否かを判定する。必要度算出部31は、所定情報に基づいて当該作業実施者の作業状況と一致する作業状況データが作業手順データ記憶領域41内にないと判定した場合、取得した所定情報に基づいて、会話必要度記憶領域42に記憶された必要度に応じた会話必要度を算出する。閾値算出部32は、取得した所定情報に基づいて作業実施者の会話必要度の閾値を算出する。統計演算処理部33は、必要度算出部31が算出した会話必要度と閾値算出部32が算出した閾値とに基づいて、作業実施者端末300(300a~300d)を作業監督者端末200に接続するか否かを判断する。例えば、統計演算処理部33は、会話必要度が閾値以上であると判定した場合、作業実施者端末300(300a~300d)を作業監督者端末200に接続し、会話必要度が閾値未満であると判定した場合、作業実施者端末300(300a~300d)を作業監督者端末200に接続しない。
記憶部40は、作業現場において作業実施者の作業手順を示す作業手順データが記憶される作業手順データ記憶領域41と、作業実施者の会話の必要度を示す会話必要度データが記憶される会話必要度記憶領域42とを有する。
通信部50は、前述したコミュニケーション可否判定部20により、作業実施者がコミュニケーション可能と判定された場合、作業監督者端末200と作業実施者端末300(300a~300d)との間の通信を確立する。
入出力部60は、作業監督者端末200と作業実施者端末300(300a~300d)との間で授受するデータの入出力処理を行う。
<作業監督者端末>
図1に示すように、作業監督者端末200は、作業監督者が装着するディスプレイ201と、作業監督者や作業監督者端末200に取り付けられる各種センサ202と、通信部203と、位置推定部204と、動作推定部205と、入出力部206と、表示内容生成部207と、表示部208と、作業環境認識部209と、記憶部210とを有して構成されている。
ディスプレイ201は、例えば、作業監督者の頭部に装着するヘッドマウントディスプレイ装置であり、スマートグラスとも言われる装置である。このディスプレイ201は、非透過型又は透過型の何れでもよい。ディスプレイ201は、作業監督者の目線に近い実際の映像にコンピュータにより生成される情報を重畳(拡張)して表示する拡張現実機能(Augmented Reality:AR)を有する。ディスプレイ201による表示は2D又は3Dにより表示される。
各種センサ202は、作業監督者の現在位置や姿勢(動作)を検出する複数のセンサから構成されている。各種センサ202は、例えば、作業監督者の目視に近い映像を取得できるカメラ、作業監督者の位置情報を取得するGPSセンサ、作業監督者の姿勢情報(動作情報)を取得する角度センサ、加速度センサ、ジャイロセンサ、筋電位センサ、作業監督者や周囲の音声を取得するためのマイク、などを含んで構成されている。また、各種センサ202は、照度センサ、温度センサ又は気圧センサを含めて構成されていてもよい。各種センサ202は、この各種センサ202にて取得されたセンサ情報を出力する。作業監督者端末200(後述する位置推定部204、動作推定部205)は、この各種センサ202で取得したセンサ情報に基づいて作業監督者と作業実施者との位置関係を推定する。
通信部203は、前述した作業支援装置100のコミュニケーション可否判定部20による判定の結果、作業実施者がコミュニケーション可能であると判定した場合、その判定結果に基づいて作業支援装置100との通信を確立させる。
位置推定部204は、作業監督者の位置情報と、作業実施者端末300の位置推定部304(詳細は後述する)で推定された作業実施者の位置情報とに基づいて、作業監督者と作業実施者との位置関係を推定すると共に、この推定した位置関係から作業監督者のディスプレイ201の表示範囲内に作業実施者が存在するか否かを判定する。
動作推定部205は、作業監督者に設けられたカメラから取得した実際の映像や、筋電位センサなどから取得したセンサ情報に基づいて、作業監督者がどのような動作状態(姿勢)であるかを推定する。この動作推定部205による作業監督者の動作状態の推定は、画像認識処理や機械学習によって行われる。
入出力部206は、作業監督者によるマウスや音声による操作情報の入力や、入力された操作情報を各種機器に出力する機能を有する。
表示内容生成部207は、表示部208から出力された制御信号に基づいて表示部208における提供情報の具体的な表示内容(実施の形態では、AR表示されるテキストやアイコン)を生成し、ディスプレイ201(後述する画面901)に表示させる。その際、表示内容生成部207は、後述する作業環境認識部209から出力された作業環境情報(例えば、作業監督者や作業実施者の位置や姿勢)に基づいて表示内容の表示位置を調整してディスプレイ201に表示させることで、AR表示を行う場合に、あたかも表示が実空間上に存在しているかのように見せることができる。このように、表示内容生成部207は、生成した表示内容を、調整された表示態様で表示部208を介してディスプレイ201に表示させることができる。
表示部208は、位置推定部204で推定された作業監督者の位置情報と、作業実施者端末300の位置推定部304で推定された作業実施者の位置情報とに基づいて、ディスプレイ201の所定の表示範囲内に作業実施者の作業状況情報を表示する。
作業環境認識部209は、各種センサ202により取得したセンサ情報に基づいて、作業監督者の作業環境となる作業空間の三次元マップと、その作業空間上での当該端末の位置及び向きからなる作業監督者の姿勢とを推定し、これらからなる作業環境情報を出力する。なお作業環境認識部209は、作業空間の三次元マップと作業監督者の姿勢との何れか一方を推定するものであってもよい。また、作業環境認識部209は、各種センサ202により取得されたセンサ情報に基づいて、作業環境として天候や昼夜の別などを推定する。
記憶部210は、各種センサ202から取得されたセンサ情報、及び各機能で演算された情報を一時的に記憶する。また、記憶部210は、作業実施者端末300から取得した作業実施者の位置情報及び動作の推定情報を一時的に記憶する。
<作業実施者端末>
図1に示すように、作業実施者端末300は、作業実施者が装着するディスプレイ301と、作業実施者に取り付けられる各種センサ302と、通信部303と、位置推定部304と、動作推定部305と、入出力部306と、表示内容生成部307と、表示部308と、作業環境認識部309と、記憶部310とを有して構成されている。
ディスプレイ301は、例えば、作業実施者の頭部に装着するヘッドマウントディスプレイ装置であり、スマートグラスとも言われる装置である。このディスプレイ301は、非透過型又は透過型の何れでもよい。ディスプレイ301は、作業者が行う作業状況の実際の映像にコンピュータにより生成された情報を重畳(拡張)して表示する拡張現実機能(Augmented Reality:AR)を有する。ディスプレイ301による表示は2D又は3Dにより表示される。
各種センサ302は、作業実施者の位置情報や姿勢(動作)を検出する複数のセンサから構成されている。各種センサ302は、例えば、作業実施者の目視に近い映像を取得できるカメラ、作業実施者の位置情報を取得するGPSセンサ、作業実施者の姿勢情報(動作情報)を取得する角度センサ、加速度センサ、ジャイロセンサ、筋電位センサ、作業実施者や周囲の音声を取得するためのマイク、などを含んで構成されている。また、各種センサ302は、照度センサ、温度センサ及び気圧センサを含めて構成されていてもよい。各種センサ302は、この各種センサ302にて取得されたセンサ情報を出力する。作業実施者端末300(後述する位置推定部304、動作推定部305)は、この各種センサ302で取得したセンサ情報に基づいて作業監督者と作業実施者との位置関係を推定する。
通信部303は、前述した作業支援装置100のコミュニケーション可否判定部20による判定の結果、作業実施者がコミュニケーション可能であると判定した場合、その判定結果に基づいて作業支援装置100との通信を確立させる。
位置推定部304は、作業実施者の位置情報と、作業監督者端末200の位置推定部204で推定された作業監督者の位置情報とに基づいて、作業実施者と作業監督者との位置関係を推定すると共に、作業実施者のディスプレイ301の表示範囲内に作業監督者が存在するか否かを判定する。
動作推定部305は、作業実施者に設けられたカメラから取得した映像や、筋電位センサなどから取得したセンサ情報に基づいて、作業実施者がどのような動作状態(姿勢)であるかを推定する。この動作推定部305による作業実施者の動作状態の推定は、画像認識処理や機械学習によって行われる。作業内容は、例えば、作業実施者が、作業対象設備のカバーを開けている、操作レバーを下方向に下げている、レンチでボルトを締めている、など、工具、作業対象、この作業対象がどこのパーツか、動作、の組み合わせで定義される。
入出力部306は、作業実施者によるマウスや音声による操作情報の入力や、入力された操作情報を各種機器に出力する機能を有する。
表示内容生成部307は、表示部308から出力された制御信号に基づいて表示部308における提供情報の具体的な表示内容(実施の形態では、AR表示されるテキストやアイコン)を生成し、ディスプレイ201(後述する画面901)に表示させる。その際、表示内容生成部307は、後述する作業環境認識部309から出力された作業環境情報(例えば、作業実施者の位置や姿勢)に基づいて表示内容の表示位置を調整してディスプレイ201に表示させることで、AR表示を行う場合に、あたかも表示が実空間上に存在しているかのように見せることができる。このように、表示内容生成部307は、生成した表示内容を、調整された表示態様で表示部308を介してディスプレイ201に表示させることができる。
表示部308は、位置推定部304で推定された作業実施者の位置情報と、作業監督者端末200の位置推定部204で推定された作業監督者の位置情報とに基づいて、ディスプレイ301の所定の表示範囲内に作業実施者の作業状況情報を表示する。
作業環境認識部309は、各種センサ302により取得したセンサ情報に基づいて、作業実施者の作業環境となる作業空間の三次元マップと、その作業空間上での当該端末の位置及び向きからなる作業実施者の姿勢とを推定し、これらからなる作業環境情報を出力する。なお作業環境認識部309は、作業空間の三次元マップと作業実施者の姿勢との何れか一方を推定するものであってもよい。また、作業環境認識部309は、各種センサ302により取得されたセンサ情報に基づいて、作業環境として天候や昼夜の別などを推定する。
記憶部310は、各種センサ302から取得されたセンサ情報、及び各機能で演算された情報を一時的に記憶する。また、記憶部310は、作業実施者端末300から取得した作業実施者の現在位置及び動作の推定情報を一時的に記憶する。
<作業支装置のハードウェア構成>
次に、作業支援装置100のハードウェア構成の一例を説明する。
図2は、作業支援装置100のハードウェア構成の一例を説明する図である。
図3は、作業手順データテーブル1012の一例を説明する図である。
図4は、作業実績データテーブル1013の一例を説明する図である。
図5は、作業空間データテーブル1014の一例を説明する図である。
図6は、作業姿勢データテーブル1015の一例を説明する図である。
図2に示すように、作業支援装置100は、記憶装置101と、演算装置102と、メモリ103と、入力装置104と、出力装置105と、通信装置106とを有して構成されている。これらの各装置はBUSを介して接続されている。
記憶装置101は、作業支援装置100の全体制御を行うための制御プログラム1011と、作業手順データテーブル1012と、作業実績データテーブル1013と、作業空間データテーブル1014と、作業姿勢データテーブル1015とを記憶している。これらの各データテーブルは、記憶部40の作業手順データ記憶領域41の一部を構成する。
<作業手順データテーブル>
図3に示すように、作業手順データテーブル1012には、各作業実施者による作業現場での作業の手順が記憶されている。具体的には、作業手順データテーブル1012には、少なくとも、作業手順データを識別するための作業手順ID1012aと、作業工程を示す作業工程1012bと、当該作業工程の具体的な作業内容を示す作業内容1012cと、当該作業内容に対して予め割当てられた所用時間を示す所要時間1012dと、当該作業手順の実施に用いられる対象設備を示す対象設備1012eと、当該作業内容を実行するための作業姿勢を示す作業姿勢1012fと、当該作業手順に割当てられた作業実施者(当該作業手順を実施する作業実施者)を示す作業割当1012gと、当該作業手順に対して作業実施者の会話の必要度を示す必要度1012hと、を対応付けたレコードの集合体となっている。
記憶装置101は、前述した記憶部40の少なくとも一部を構成し、作業手順データテーブル1012は、前述した記憶部40の作業手順データ記憶領域41の少なくとも一部を構成する。
<作業実績データテーブル>
次に、図4に示すように、作業実績データテーブル1013は、少なくとも、作業実施者の作業実績を識別する作業実績ID1013aと、当該作業実績データテーブル1013に作業実績を登録した登録者を示す実績登録者1013bと、実績登録者1013bによる当該作業実績の登録日時を示す登録日時1013cと、当該作業実績が作業中か完了かを示す作業状況1013dと、当該作業実績がどの作業手順を実行したか対応付ける作業手順ID1013eと、当該作業実績において作業実施者の会話の必要度を示す必要度1013fと、を対応付けたレコードの集合体となっている。
<作業空間データテーブル>
次に、図5に示すように、作業空間データテーブル1014は、少なくとも、作業現場における一定の作業空間を識別するための作業空間ID1014aと、当該作業空間に存在する実オブジェクト(例えば、装置や設備、工具など)の名を識別するためのオブジェクト名1014bと、この作業空間データテーブル1014に対する作業空間データの新規登録およびデータ更新された日時を示す空間登録日時1014cと、当該作業空間における実オブジェクトの少なくとも一点の座標を示す空間座標1014dと、当該作業空間における作業実施者の会話の必要度を示す必要度1014eと、を対応付けたレコードの集合体となっている。なお、前述した「一定の作業空間」とは、基準となるオブジェクトのある座標を含む体積範囲を示す。また体積範囲とは、少なくとも、長さ、幅、高さから算出される体積である。
ここで、空間座標1014dは、作業空間におけるオブジェクトの位置を特定するための座標である。空間座標1014dは、例えば、オブジェクトの設計データ(三次元CADデータなど)が取得できる場合には、オブジェクトの特定の1点の座標が分かればオブジェクトの三次元CADデータからオブジェクトの位置が特定できるため、オブジェクトの特定の1点の座標、又はオブジェクトの重心座標を記憶してもよい。また、空間座標1014dは、オブジェクトを特定するための複数の三次元座標を記憶してもよい。
例えば、図5で例示する空間座標1014dは、オブジェクト名1014bに設備が含まれている場合は重心座標とし、保守器具が含まれている場合は設置座標としてもよい。こうした空間座標1014bは、少なくとも、作業手順データテーブル1012と作業実績データテーブル1013とに基づいて算出される(作業支援装置100に予め設定してもよい)。
また、前述した必要度1014eは、少なくとも、作業手順データテーブル1012における対象設備1012eと作業空間データテーブル1014におけるオブジェクト名1014bとに基づいて算出される。
<作業姿勢データテーブル>
次に、図6に示すように、作業姿勢データテーブル1015は、少なくとも、作業実施者の作業姿勢を識別するための作業姿勢ID1015aと、当該作業姿勢の名称を識別するための作業姿勢名1015bと、当該作業姿勢の少なくとも骨格情報を示す姿勢1015cと、当該作業姿勢における作業実施者の会話の必要度を示す必要度1015dを有する。作業姿勢名1015bは、作業手順データテーブル1012の作業姿勢1012fと対応して関連付けられている。
作業支援装置100では、作業手順データテーブル1012の作業姿勢1012fと関連付けられた前述の作業姿勢名1015bにおいて、作業実施者端末300から受信した作業実施者の動作(姿勢)推定情報と、作業姿勢データテーブル1015における姿勢1015cとが一致しない場合、作業実施者が予定の作業姿勢を行っていないことを意味し、その作業状況に関しては作業監督者との会話の必要性が相応に高いと判断することとなる。また、前述した必要度1015dは、少なくとも、作業姿勢データテーブル1015における姿勢1015cに基づいて算出される。例えば、作業実施者が所定の作業姿勢名1015b(例えば、姿勢B)の姿勢1015cを行っている場合、その作業姿勢名1015bにおける作業実施者の会話必要度が高く(必要度が5)、他の作業姿勢名1015b(例えば、姿勢C)の姿勢1015cを行っている場合、その作業姿勢名における作業実施者の会話の必要性が低く(必要度が3)なるように予め算出及び設定されている。
また、前述した各必要度1013f、1014e、1015dは、作業手順データテーブル1012が更新された場合、会話必要度算出部30における統計演算処理部33が演算処理を実行し、記憶部40に追記するものとする。具体的には、例えば、作業実績データテーブル1013における各レコードを、その実績登録者1013bの登録回数の大きい順で5段階に分類し、それぞれ段階ごとの1~5の必要度を割り振る、といった演算処理を行うことができる(作業空間データテーブル1014、作業姿勢データテーブル1015でも同様)。あるいは、特段の演算処理を行わず、作業監督者が設定した値、作業姿勢1012fに応じた所定値、または、必ず作業監督者との会話が必要であることを示す最必要値「99」を設定してもよい。
次に、作業支援装置100における作業支援方法の一例を説明する。以下で説明する作業支援方法に対応する各種動作は、作業支援装置100がメモリ等に読み出して実行する制御プログラム1011によって実現される。そして、この制御プログラム1011は、以下に説明される各種の動作を行うためのコードから構成されている。
<作業支援装置による制御方法>
図7は、本実施形態における作業支援方法を説明するフローチャートの一例である。具体的には、作業支援装置100と作業監督者端末200と作業実施者端末300とにおける基本処理を示すフローチャートである。
ステップS101において、作業監督者端末200の表示部208は、ディスプレイ201の表示範囲内に、作業監督者に取り付けられたカメラ(各種センサ202)で撮影した映像と作業実施者の作業状況を表示する。具体的には、作業支援装置100は、作業監督者端末200の位置推定部204から取得した作業監督者の位置情報と、作業実施者端末300の位置推定部304から取得した作業実施者の位置情報とを受信すると共に、これらの位置情報を作業員識別部10に一時的に記憶する。作業監督者端末200の表示内容生成部207は、作業員識別部10に記憶された各々の位置情報と、各種センサ202から取得したセンサ情報(例えば、作業監督者や作業実施者の姿勢)とに基づいて作業監督者及び作業実施者の作業状況に関する情報を表示部208に送信する。そして、表示部208は、作業監督者のカメラで撮影した映像に表示内容生成部207から取得した作業状況に関する情報を重畳させてディスプレイ201の表示範囲内に表示する。
ステップS102において、作業監督者端末200の位置推定部204は、作業員識別部10に記憶された作業監督者の位置情報と作業実施者の位置情報とに基づいて作業監督者と作業実施者との位置関係を推測する。そして位置推定部204は、作業監督者のディスプレイ201の表示範囲内に作業実施者が存在するか否かを判定する。位置推定部204は、ディスプレイ201の表示範囲内に作業実施者が存在しないと判定した場合(ステップS102:No)、作業支援装置100は、作業手順データ記憶領域41からディスプレイ201の表示範囲内に該当する所定の作業状況データを表示内容生成部207に送信する。そして表示内容生成部207は、送信された作業状況データと各種センサ202から取得したセンサ情報とに基づいてディスプレイ201の表示範囲内に表示する作業監督者と作業実施者との作業状況に関する情報を表示部208に送信する。そして、表示部208は、作業監督者と作業実施者との作業状況に関する情報をディスプレイ201の表示範囲内に表示して処理を終了する。
一方、位置推定部204は、ディスプレイ201の表示範囲内に作業実施者が存在すると判定した場合(ステップS102:Yes)、作業支援装置100は、ステップS103の処理を行う。
ステップS103において、作業支援装置100の会話必要度算出部30は、ステップS101で取得した位置情報から決まる作業実施者を検索キーとして導出される作業手順データテーブル1012のレコードに基づいて、会話必要度記憶領域42に記憶されたデータd1、d2、・・・、dnと、当該データの重み係数w1、w2、・・・、wnと、作業工程の進捗率係数μと、を用いて当該作業工程における作業実施者の会話必要度Xを算出する。
会話必要度Xは、例えば、次の数式(1)により算出することができる。
X=μ×(Σ(w1×d1+w2×d2+・・・+wn×dn)) ・・・ (1)
会話必要度Xの算出処理(ステップS103)の詳細は後述する。
ステップS104において、作業支援装置100の会話必要度算出部30は、当該作業実施者の現在時刻での作業状況において、ステップS103で算出した会話必要度Xが所定の閾値Xth以上か否かを判定する。
会話必要度算出部30は、算出した会話必要度Xが所定の閾値Xth以上であると判定した場合(ステップS104:Yes)、ステップS105の処理を行い、会話必要度Xが所定の閾値Xth未満である場合(ステップS104:No)、ステップS107の処理を行う。ステップS107では、会話必要度算出部30は、ステップS103で算出した会話必要度Xを作業員識別部10に記憶すると共に、他の全ての作業実施者の会話必要度Xを算出したか否かを判定する。このステップS107の処理の詳細は後述する。
ステップS105において、会話必要度算出部30は、ステップS103で算出した会話必要度Xをコミュニケーション可否判定部20に送信する。コミュニケーション可否判定部20は、受信した会話必要度Xに基づいて作業監督者と作業実施者の会話すべき内容を具体化すると共に、コミュニケーションの可否を判定する。
具体的には、コミュニケーション可否判定部20は、該当作業実施者端末300の動作推定部305により推定された当該作業実施者の動作から姿勢名と姿勢を検索キーとして作業姿勢データテーブル1015にて検索を実行し、動作推定部305により推定された作業実施者の動作と最も類似度が高いレコードを特定し、当該レコードからデータを抽出する。なお、上述の類似度の判定方法は、前述した方法に限定されるものではなく、例えば、検索キーである姿勢と、作業姿勢データテーブル1015の各レコードの作業姿勢名1015bおよび姿勢(骨格情報)1015cのうちの何れか1つ、または任意の姿勢データとのヒストグラムマッチングや機械学習による多クラス分類から判定してもよい。
次に、コミュニケーション可否判定部20は、上述の抽出結果に基づいて、作業実施者がコミュニケーション可能か否かを判定する。この判定では、コミュニケーション可否判定部20は、例えば、上述の結果が姿勢Aを含む、または、作業監督者と対面している姿勢であることを示すものである場合、作業実施者がコミュニケーション可能と判定し、他方、上述の結果が姿勢Aを含まないことと、作業監督者が対面していない姿勢であることを示すものである場合、作業実施者はコミュニケーション不可と判定する。
前述したコミュニケーション可否判定部20による作業実施者のコミュニケーション可否の判定方法は一例であり、上記以外の方法を採用してもよい。例えば、コミュニケーション可否判定部20は、作業実施者端末300から当該作業実施者の10秒間の動作推定部305の動作推定結果を受信し、その間の姿勢(動作)が変化しなければコミュニケーション可能と判定してもよい。または、コミュニケーション可否判定部20は、前述したステップS103で取得した会話必要度Xが上述した作業姿勢データテーブル1015の必要度1015dの3倍以上の値であれば作業実施者がコミュニケーション可能と判定してもよい。
ステップS105での判定の結果、コミュニケーション可否判定部20は、作業実施者がコミュニケーション可能と判定した場合、作業監督者端末200に所定の情報を送信し、作業監督者端末200と作業実施者端末300の通信を通信部50に確立させる。
一方、ステップS105での判定の結果、コミュニケーション可否判定部20は、作業実施者がコミュニケーション不可と判定した場合、作業実施者がコミュニケーション可能となる時刻を推定し、作業監督者端末200に当該推定時刻に関する所定の情報を送信する。具体的には、コミュニケーション可否判定部20は、作業実績データテーブル1013における実績登録者1013bの値が当該作業実施者を含み、登録日時1013cの値が作業経過時間から現在時刻に最も近い登録日時を含み、且つ、作業状況1013dの値が“作業中”であるレコードを抽出し、その抽出したレコードの作業手順ID1013eを検索キーとして作業手順データテーブル1012から該当レコードの所要時間1012dを抽出し、前述した登録日時1013cに所要時間1012dを加えた時間を作業実施者がコミュニケーション可能となる時刻として推定する処理を行う。
続いて、コミュニケーション可否判定部20は、ここまでで導出した所定の情報を作業監督者端末200に出力し、ステップS105の処理を終了する。
ステップS106において、コミュニケーション可否判定部20は、作業監督者端末200に対して、作業実施者のコミュニケーションの可否を示す情報やコミュニケーションが可能となる推定時間に関する情報を出力する。
ステップS107において、作業支援装置100は、ディスプレイ201の表示範囲内に表示される全ての作業実施者の位置や姿勢などの情報を確認したか否かを判定する。具体的には、前述したステップS102で抽出した作業実施者を除いて、作業員識別部10に格納されている作業実施者の位置情報から作業監督者端末200との位置関係を算出し、他に表示すべき作業実施者を確認する。
作業支援装置100は、ディスプレイ201の表示範囲内に表示される全ての作業実施者の位置や姿勢を確認したと判定した場合(ステップS107:Yes)、処理を終了し、表示範囲内の全ての作業実施者を確認していないと判定した場合(ステップS107:No)、ステップS102に戻って、全ての作業実施者の位置や姿勢の確認が終了したと判定するまで、ステップS102~ステップS107の処理を繰り返し実行する。
ステップS107において、通信を確立した作業監督者端末200と作業実施者端末300との間の通信が終了した場合、すなわち会話が終了した場合、作業支援装置100は処理を終了する。
前述したステップS107において、作業支援装置100は、複数の作業実施者とのコミュニケーションが可能と判定した場合、会話必要度の高い順に作業監督者端末200と作業実施者端末300との間の通信を確立させる。また作業支援装置100は、作業監督者端末200と複数の作業実施者端末300(例えば、作業実施者端末300a~300d)とを同時に通信を確立してもよい。
また、前述した作業監督者端末200と作業実施者端末300との間の通信が確立している間、作業監督者端末200の表示部208と作業実施者端末300の表示部308は、作業状況に基づいた通信画面を表示させてもよい。
作業監督者が作業監督者端末200の入出力部206を用いた操作で通信の終了を選択することで、前述した作業監督者端末200と作業実施者端末300との間の通信が終了する。その結果は、新たな作業状況データにおける会話必要度Xとして通信部50と入出力部60の通信データから記憶部40に送信され、作業実績データテーブル1013などに格納される。
<会話必要度算出処理>
次に、前述したステップS103の会話必要度算出処理の詳細を説明する。
図8は、会話必要度算出処理のフローチャートである。
ステップS201において、会話必要度算出部30の必要度算出部31は、前述したステップS101での識別処理の結果、すなわち前述した該当作業実施者IDを作業員識別部10から受信し、これと作業経過時間をキーに作業手順データ記憶領域41の作業手順データテーブル1012を用いて検索処理を実行する。
ステップS202において、必要度算出部31は、前述したステップS201で取得した作業手順データテーブル1012のレコードから、作業手順ID1012a、所要時間1012d、作業割当1012gおよび必要度1012hの各値を参照し、これらの値に基づいて、該当作業実施者の作業経過時間における作業手順を推定し、会話必要度記憶領域42にて当該作業実施者と作業経過時間をキーとして作業実績の検索処理を実行し、該当作業実施者が所定の作業時間に本来実施すべき作業手順を実施しているかを判定する。
例えば、検索キーが“作業実施者A”、作業経過時間が“10min”であった場合、必要度算出部31は、前述した検索処理により、作業手順データテーブル1012から、作業手順ID“A001”、“A002”に関する所要時間1012dの値として“2min”、“5min”、必要度1012hの値として“5”、“4”を検索できる。また、必要度算出部31は、作業実績データテーブル1013から作業実績ID1013a“B001”と“B002”のレコードを抽出できる。図4の例では、必要度算出部31は作業経過時間から2番目のレコードの作業状況1013dの値は“完了”であることを正解と判断する。しかしながら、作業実績データテーブル1013の作業状況1013dの該当の値は“作業中”であり、必要度算出部31は、“該当作業実施者が所定の作業時間に本来実施すべき作業手順を実施していない”と判定する。
ステップS203において、必要度算出部31は、予め保持する作業工程からの進捗率係数μと変化量換算係数w1、w2、・・・、wNと、前述のステップS202の検索処理で取得した必要度1012hの値とを、前述した数式(1)に設定して会話必要度Χを算出する。
例えば、μ、w1、w2、・・・、wNが全て1であり、作業経過時間から現在時刻に最も近い登録日時に対応する作業実績データテーブル1013のレコードが上から2番目のレコードであったとする(図4参照)。この場合、必要度算出部31は、作業実績データテーブル1013の上から2番目のレコードの作業手順ID1013e“A002”を検索キーとして作業手順データテーブル1012(図3参照)の上から2番目のレコードを抽出する。そして必要度算出部31は、対象設備1012e“設備A”を検索キーとして作業空間データテーブル1014(図5参照)の上から1番目のレコードを抽出する。必要度算出部31は、作業手順データテーブル1012の作業姿勢1012f“姿勢A”を検索キーとして作業姿勢データテーブル1015(図6参照)の上から1番目のレコードを抽出する。必要度算出部31は、作業手順データテーブル1012(図3参照)の2番目のレコードから必要度「4」と、作業実績データテーブル1013(図4参照)の2番目のレコードから必要度「5」と、作業空間データテーブル1014(図5参照)の1番目のレコードから必要度「4」と、作業姿勢データテーブル1015(図6参照)の1番目のレコードから必要度「4」を取得し、これらを前述した数式(1)に設定して計算することで、会話必要度Χが「17」であると算定できる。
前述した会話必要度算出部30による会話必要度Xの算出方法は一例であり、上記以外の方法を採用してもよい。例えば、作業実績データテーブル1013の作業状況1013dが“完了”であるレコードを検索し、当該レコードから作業手順ID1012aの件数を抽出する。上述件数を作業手順データテーブル1012の全件数で除算した値で作業工程からの進捗率係数μを決定してもよい(例:進捗率60%ならμ=0.6、32%ならμ=0.32、など)。
次に、ステップS204において、会話必要度算出部30の閾値算出部32は、会話必要度Xの閾値Xthを算出する。具体的には、閾値算出部32は、作業手順データテーブル1012の各レコードのうち、必要度1012hの値が最大のもの以外のレコード全ての中央値と、作業実績データテーブル1013の各レコードのうち、必要度1013fの値が最大のもの以外のレコード全ての中央値と、作業空間データテーブル1014の各レコードのうち、必要度1014eの値が最大のもの以外のレコード全ての中央値と、作業姿勢データテーブル1015の各レコードのうち、必要度1015dの値が最大のもの以外のレコード全ての中央値と、を合算して閾値Xthを算出する。
前述した算出方法によれば、図3の作業手順データテーブル1012の上から3番目までのレコードと、作業実績データテーブル1013の上から3番目までのレコードと、作業空間データテーブル1014の上から3番目までのレコードと、作業姿勢データテーブル1015の上から3番目までのレコードから算出される閾値Xthは「15.5」となる。
ただし、前述した閾値算出部32による閾値Xthの算出方法は一例であり、上記以外の方法を採用してもよい。例えば、閾値算出部32は、中央値の合算ではなく平均値を合算して閾値算出を行ってもよい。またステップS203の処理を作業現場における全ての作業実施者に対して実行し、その平均値で閾値算出を行う方法でもよい。また、閾値算出部32は、各必要度の最大値と最小値のもの以外のレコードの中央値とを合算して、閾値Xthを算出してもよい。なお、閾値算出部32は、他の値と比べた異常値を除いたレコードの中央値を合算して閾値Xthを算出してもよい。
ステップS205において、会話必要度算出部30の統計演算処理部33は、前述したステップS203とステップS204で算出した会話必要度Χと閾値Xthとに基づいて、所定の統計演算処理を実行して処理を終了する。
<作業支援装置による表示例>
次に、作業支援装置100による作業監督者端末200のディスプレイ201への表示例を説明する。
図9は、作業支援装置100による作業監督者端末200のディスプレイ201への表示例を説明する図である。
図9に示すように、作業監督者端末200のディスプレイ201の表示範囲内に表示される画面901は、出力情報として、少なくとも、作業実施者の作業実績のAR表示を示すAR作業実績テキスト902と、作業実施者AのAR表示を示すAR作業実施者アイコン912、作業現場における作業進捗率921、その他情報アイコン932を表示するように構成される。作業監督者は、作業監督者端末200の入出力部206を用いた操作によって、上述の画面901での情報閲覧や、ネットワークで繋がった記憶部40の作業手順データ記憶領域41での検索、および作業実施者端末300との双方向入出力が可能である。なお実施形態の画面901には、作業実施者AのAR表示を示すAR作業実施者アイコン912、作業実施者BのAR表示を示すAR作業実施者アイコン913、作業実施者CのAR表示を示すAR作業実施者アイコン914、それぞれのAR作業実施者アイコン912~914に関連するその他情報アイコン932~934が表示されている場合を例示している。
実施の形態では、作業監督者のディスプレイ201に表示される画面901は、作業監督者の作業状況確認(前述したステップS101)に対して、作業支援装置100が作業監督者の周囲で作業を行う作業実施者の確認を3回実行したため、AR作業実施者アイコン912、913、914と、当該作業実施者のAR作業実績テキスト902、903、904と、作業進捗率921と、その他情報アイコン932、933、934と、を作業監督者のディスプレイ201の画面901に表示している状況を示している。またこの際、当該作業監督者は、画面901上でAR作業実績テキスト903を指定することでAR作業実施者アイコン913に対応する作業実施者Bと会話を開始することができる。
前述したAR表示されるテキストやアイコンは作業実施者A~Cの作業状況に応じて表示の位置、大きさ、色、変化(点滅など)、透明度、などを変えることができるようになっている。
作業監督者が入出力部206を用いた操作で通信の終了を選択することで、当該作業監督者端末200と作業実施者端末300との間の通信は終了する。その結果は、新たな作業状況データにおける会話必要度として通信部50と入出力部60の通信データが記憶部40に送信され、作業実績データテーブル1013などに格納される。このようにして取得された会話必要度により、会話必要度記憶領域42の各テーブルにおける必要度が適宜更新される。
以上説明した通り、第1の実施の形態にかかる作業支援システム1では、
(1)作業現場における複数のユーザの会話を支援する作業支援システム1であって、複数のユーザのうちの作業実施者(第1ユーザ)の位置および姿勢を推定する作業実施者端末300(第1ユーザ端末)と、複数のユーザのうちの作業監督者(第2ユーザ)の位置および姿勢を推定する作業監督者端末200(第2ユーザ端末)と、作業実施者が行う作業手順に関する情報を含む作業手順データ記憶領域41(作業手順データ)と、作業実施者が行う作業手順に関する情報と会話の必要度とを関連付けて規定した会話必要度記憶領域42(会話必要度データ)と、を保持する記憶部40と、作業実施者端末300により推定された作業実施者の姿勢と、作業手順データ記憶領域41に含まれる作業実施者の作業姿勢と、に基づいて、作業姿勢における作業実施者の会話の必要度を、会話必要度記憶領域42を用いて特定し、当該特定した会話の必要度に基づいて会話必要度Xを算出する会話必要度算出部30と、会話必要度が、作業実施者の作業姿勢に応じて予め設定された閾値Xth以上である場合、作業実施者端末300と作業監督者端末200との間の通信を確立すると共に、作業実施者の作業状況に関する情報を作業監督者端末200に出力する通信部50と、を有する構成とした。
このように構成すると、作業支援システム1は、作業現場において作業監督者と作業実施者との間のコミュニケーション(特に会話)の機会を適切に確保した上で、作業監督者に作業実施者の作業状況に関する情報を提供し、作業監督者に作業実施者の作業支援を行わせることができる。この結果、作業支援システム1は、保守点検作業などの作業現場において、作業監督者と作業実施者とが連携するためのコミュニケーションに関する処理効率をより向上させることができる。
(2)また、会話必要度Xが所定の閾値Xth以上である場合、作業実施者の位置と姿勢とに基づいて作業実施者がコミュニケーション可能か否かを判定するコミュニケーション可否判定部20を、さらに有し、通信部50は、コミュニケーション可否判定部20による作業実施者がコミュニケーション可能であるとの判定に基づいて、作業実施者の作業状況に関する情報と作業実施者がコミュニケーション可能である情報とを作業監督者端末200に出力する構成とした。
このように構成すると、作業支援システム1は、会話必要度Xが所定の閾値Xth以上であっても、作業実施者がコミュニケーション可能な場合のみ作業実施者の作業状況とコミュニケーション可能である旨の情報を作業監督者端末200に出力するので、作業実施者の会話が必要で、且つコミュニケーション可能な場合にのみ作業実施者の作業支援を適切に行うことができる。
(3)また、通信部50は、コミュニケーション可否判定部20による作業実施者がコミュニケーション不可であるとの判定に基づいて、作業実施者の作業状況に関する情報から当該作業実施者がコミュニケーション可能となり得る将来の最も近い時期情報を、作業手順データ記憶領域41または会話必要度記憶領域42のうちの少なくとも何れか一方のデータから抽出すると共に、抽出した時期情報から生成したコミュニケーション可能時期情報を作業監督者端末200に出力する構成とした。
このように構成すると、作業支援システム1は、会話すべき作業実施者に対して、その会話の機会を適切なタイミングに修正することで作業監督者と作業実施者との間の会話の機会を確保することができる。その結果、作業支援システム1は、保守点検作業などの作業現場において、作業支援の確度を高めて会話対応の頻度を抑制し、作業監督者と作業実施者とが連携するためのコミュニケーションに関する処理効率を向上させることができる。
(4)また、会話必要度算出部30は、作業監督者端末200で推定した作業監督者の位置と作業実施者端末300で推定して作業実施者の位置とに基づいて、作業監督者の位置の所定範囲内に他の作業実施者(第3ユーザ)がいるか否かを判定し、他の作業実施者がいると判定した場合、他の作業実施者端末により推定された他の作業実施者の姿勢と、作業手順データ記憶領域41に含まれる他の作業実施者の作業姿勢とに基づいて、作業姿勢における他の作業実施者の会話の必要度を、会話必要度記憶領域42を用いて特定すると共に、当該特定した会話の必要度に基づいて会話必要度Xを算出し、コミュニケーション可否判定部20は、会話必要度算出部30により算出された会話必要度Xが所定の閾値Xth以上である場合、他の作業実施者の位置と姿勢とに基づいて他の作業実施者がコミュニケーション可能か否かを判定し、通信部50は、コミュニケーション可否判定部20による他の作業実施者がコミュニケーション可能であるとの判定に基づいて、他の作業実施者の作業状況に関する情報と他の作業実施者がコミュニケーション可能である情報とを作業監督者端末200に出力する構成とした。
このように構成すると、作業支援システム1は、作業監督者の周囲に複数の作業実施者がいる作業環境であっても、会話が必要な作業実施者を的確に特定することができる。その結果、作業支援システム1は、保守点検作業などの作業現場において、作業監督者の近くにいる複数の作業実施者各々の作業支援を適切に行うことができると共に、作業監督者と複数の作業実施者の各々とが連携するためのコミュニケーションに関する処理効率を向上させることができる。
(5)また、通信部50は、作業実施者の会話必要度Xと他の作業実施者の会話必要度Xとのうち、会話必要度Xの高い順番で、作業監督者端末200と作業実施者端末300、または作業監督者端末200と他の作業実施者端末300(第3ユーザ端末)、との間の通信を確立する構成とした。
このように構成すると、作業支援システム1は、会話を行うべき作業実施者として適切な者を精度よく特定することができる。具体的には、作業支援システム1は、複数の作業実施者のうち、会話が必要で、コミュニケーションが可能で、さらに会話の必要度が高い作業実施者を特定することができ、作業監督者と作業実施者とが連携するためのコミュニケーションに関する処理効率を向上させることができる。
(6)また、会話必要度Xの閾値Xthは、会話必要度記憶領域42に格納された複数の会話の必要度の中央値または平均値の少なくとも何れかに基づいて算出される構成とした。
このように構成すると、作業支援システム1は、複数の会話の必要度に基づいて会話必要度Xを適切に算出することができ、作業実施者の会話の必要度をより的確に判断することができる。その結果、作業支援システム1は、作業監督者と作業実施者とのコミュニケーションに関する処理効率を向上させることができる。
(7)作業監督者端末200は、作業監督者の目視と同等の現実映像を画面901に映し出すディスプレイ201と、作業監督者の周囲にいる作業実施者の作業状況に関する仮想情報を、現実映像に重畳して画面901に表示する表示内容生成部207と、を有する構成とした。
このように構成すると、作業支援システム1では、作業監督者端末200のディスプレイ201に作業監督者の目視と同等の現実映像に作業実施者の作業状況に関する仮想情報を重畳して画面901に表示するので、作業監督者は、作業実施者の作業状況をより正確に把握することができる。その結果、作業支援システム1は、作業監督者と作業実施者とのコミュニケーションに関する処理効率を向上させることができる。
(8)作業実施者端末300は、作業実施者の目視と同等の現実映像を画面901に映し出すディスプレイ301と、作業実施者の周囲にいる他の作業実施者の作業状況に関する仮想情報を、現実映像に重畳して画面901に表示する表示内容生成部307と、を有する構成とした。
このように構成すると、作業支援システム1では、作業実施者端末300のディスプレイ301に作業実施者の目視と同等の現実映像に他の作業実施者の作業状況に関する仮想情報を重畳して画面901に表示するので、作業実施者は、他の作業実施者の作業状況をより正確に把握することができる。その結果、作業支援システム1は、作業実施者と他の作業実施者とのコミュニケーションに関する処理効率を向上させることができる。
<第2の実施の形態>
次に、本発明の第2の実施の形態にかかる作業支援システム1Aについて説明する。
第2の実施の形態にかかる作業支援システム1Aでは、作業支援装置100と作業対象設備400とが、ネットワークなどの通信回線を介して接続されている点が前述した実施の形態と異なる。
図10は、第2の実施の形態にかかる作業支援システム1Aの機能構成を説明するブロック図である。図10において、前述した実施の形態と同様の構成及び機能については、同一の符号を付し必要に応じて説明する。
作業対象設備400は、作業実施者の操作情報を受付ける操作情報受付部401と、各種センサ402と、作業支援装置100Aと作業監督者端末200と作業実施者端末300と双方向通信を行う通信部403と、を有する。操作情報受付部401は、作業実施者による操作情報を受け付ける。各種センサ402は、作業対象設備(機器)に設けられており、当該作業対象設備が正常に動作しているか否かを判断するために必要な照度センサや温度センサ、気圧センサなどである。また、各種センサ402には、加速度センサやジャイロセンサ、当該作業対象設備を含む周囲情報を取得するカメラ及びマイクを含めてもよい。前述した各種センサ402から取得したセンサ情報は時系列データとして管理され、予め設定された正常値との差異を比較する事で当該設備の稼働状況が正常または異常であるかを作業支援装置100Aに送信する。作業支援装置100Aでは、各種センサ402から送信された作業対象設備400の設備名、稼働状況、操作実績などのデータを含む設備管理データを記憶部40Aの設備管理データ記憶領域43に記憶する。
ここで、設備管理データ記憶領域43の一部を構成する設備管理データテーブル1016の一例を説明する。
図11は、第2の実施の形態における設備管理データテーブル1016の一例を説明する図である。
設備管理データテーブル1016は、少なくとも、作業対象設備400を識別する設備ID1016aと、設備名1016bと、前述した作業対象設備400から受信した設備の稼働状況が正常か異常かを示す稼働状況1016cと、該当作業対象設備400の操作実績を示す操作実績1016dと、当該作業対象設備400を操作する作業実施者における作業監督者とのコミュニケーション(会話など)の必要度1016eと、を対応付けたレコードの集合体となっている。実施の形態では、作業対象設備400が4つの場合を例示して説明しており、それぞれ設備ID400a、400b、400c、400dが設定されている。また、操作実績1016dは、少なくとも前述した操作情報受付部401の受付情報と記憶部40Aで保持している作業手順データ記憶領域41と会話必要度記憶領域42の情報とを合わせて各作業対象設備400a~400dが作業未実施か作業中か作業完了かを記録する。
例えば、前述した実施形態のステップS103(図7参照)において、作業実施者が所定の作業時間に対象作業を実施しているかの判定処理において、作業手順データテーブル1012における対象設備1012e(例えば、設備A、設備Bなど)を検索キーとして設備管理データテーブル1016に対して検索処理を行い、検索結果のレコードから検索キーを含む所定の情報(例えば、設備Aを含むレコード、又は設備Bを含むレコード)を抽出し、前述した判定処理に用いてもよい。例えば、図11に示す4番目レコード(設備Dを含むレコード)が抽出された場合、操作実績1016d“作業未実施”から対象作業が作業未実施であると判定する。
同様に、前述したステップS105(図7参照)において、コミュニケーション可否判定部20の作業実施者とのコミュニケーション可否判定処理おいて、作業手順データテーブル1012における対象設備1012e(例えば、設備A、設備Bなど)を検索キーとして設備管理データテーブル1016に検索処理を行い、検索結果のレコードから検索キーを含む所定の情報(例えば、設備Aを含むレコード、又は設備Bを含むレコード)を抽出し、前述した判定処理に用いてもよい。具体的には、図11に示す1番目レコード(設備Aを含むレコード)が抽出された場合、操作実績1016d“作業完了”から当該作業実施者がコミュニケーション可能であると判定する。
また、前述した実施形態のステップS106(図7参照)において、作業支援装置100が作業監督者端末200に作業監督者向け情報を出力する場合、設備管理データテーブル1016から所定の情報(例:設備名、稼働状況、操作実績)の少なくとも何れか又はそれらの組み合わせを読み出し、適宜に組み合わせて作業監督者端末200に出力する。
これにより、作業監督者端末200では、作業実施者により操作される作業対象設備400a~400dの操作実績1016d(“作業完了”、“作業中”、“作業未実施″)と稼働状況1016c(“正常″、“異常”、“停止”)を判断することができる。
なお、本実施形態では、各作業対象設備400a~400dの稼働状況1016cに応じて作業実施者の会話の必要度1016eを設定しており、例えば、稼働状況1016cが“正常”の場合には、作業実施者の会話の必要度は低いと判断し必要度1016eに“1”が設定されており、稼働状況1016cが“異常”の場合には、作業実施者の会話の必要性が高いと判断し必要度1016eに“4”が設定されている。
なお、稼働状況1016cが“異常”である場合に、後作業で影響が小さい場合(例えば、後作業で当該作業対象設備400a~400dを直ぐに使用しない場合など)には、必要度1016eを低く設定し(例えば、必要度1016eを“3”に設定)、後作業で影響が大きい場合(例えば、後作業で当該作業対象設備400a~400dを直ぐに使用する場合)には、必要度1016eを高く設定する(例えば、必要度1016eを“5”に設定)ようにしてもよい。このようにすることで、作業実施者との不要なコミュニケーションを減らすことができる。
以上説明した通り、第2の実施の形態にかかる作業支援システム1Aは、
(9)記憶部40Aは、作業現場で使用される作業対象設備400(400a~400d)に関する設備管理データ記憶領域43(設備管理データテーブル1016)を更に保持し、通信部50は、記憶部40Aが保持する設備管理データテーブル1016のうち、作業対象設備400(400a~400d)に設けられた各種センサ402のセンサ情報または作業対象設備400(400a~400d)の稼働状況のうちの少なくとも何れかに基づいて、作業実施者端末300または他の作業実施者端末300の通信の優先順位を特定し、当該優先順位の高い作業実施者端末300と作業監督者端末200との間の通信を確立する構成とした。
このように構成すると、作業支援システム1Aは、作業対象設備400(400a~400d)の稼働状況等に基づいて作業実施者との通信の通線順位を設定するので、通信判断のデータ量を幅広いものとすることができる。
<第3の実施の形態>
次に、本発明の第3の実施の形態にかかる作業支援システム1Bについて説明する。
第3の実施の形態にかかる作業支援システム1Bでは、作業監督者端末200と作業実施者端末300とが近距離無線通信などにより互いに直接通信を行うことができるように構成されている。この近距離無線通信には、Bluetooth(登録商標)などを用いることができる。
図12は、第3の実施の形態にかかる作業支援システム1Bの機能構成を説明するブロック図である。図12において、前述した実施の形態と同様の機能については、同一の符号を付し必要に応じて説明する。
作業支援システム1Bの作業監督者端末200Bは、会話必要度算出部211と、コミュニケーション可否判定部212と、をさらに有している。また作業実施者端末300は、会話必要度算出部311と、コミュニケーション可否判定部312と、をさらに有している。これらの会話必要度算出部211、311と、コミュニケーション可否判定部212、312とは、前述した実施形態の作業支援装置100の会話必要度算出部30、コミュニケーション可否判定部20と、それぞれ同様の処理及び機能を有している。
作業監督者端末200B及び作業実施者端末300Bとは、少なくとも作業監督者及び作業実施者の支援作業の開始前に記憶部210、310に作業支援装置100Aの記憶部40Aと同等の各データテーブルを保持する。
作業監督者端末200B及び作業実施者端末300Bは、それぞれ作業対象設備400(例えば、4台の作業対象設備400a~400d)とインターネットNTなどのネットワーク回線を介して通信可能に接続されている。作業監督者端末200B及び作業実施者端末300B及び作業対象設備400の通信が確立した場合、各々の端末は作業支援装置100Aを介さずに近距離無線通信による通信を継続し、その通信が終了するまで当該作業監督者端末200B及び作業実施者端末300B及び作業対象設備400の間で発生した通信データは、各通信データを発生した作業監督者端末200Bの記憶部210又は作業実施者端末300Bの記憶部310に保持される。記憶部210又は記憶部310に保持された通信データは作業支援装置100Aの記憶部40Aに出力される。
この作業支援システム1Bでは、前述した実施形態のステップS103(図7参照)において、作業実施者が所定の作業時間に対象作業を実施しているかの判定処理において、作業監督者端末200Bの記憶部210が保持する作業手順データテーブル1012、作業実績データテーブル1013、作業空間データテーブル1014、作業姿勢データテーブル1015を用いて検索処理を行い、検索結果のレコードから所定の情報を抽出し、会話必要度算出部211で前述した判定処理を行う。
同様に、前述した実施形態のステップS105(図7参照)において、作業監督者端末200Bの記憶部210が保持する作業手順データテーブル1012、作業実績データテーブル1013、作業空間データテーブル1014、作業姿勢データテーブル1015を用いて検索処理を行い、検索結果のレコードから所定の情報を抽出し、コミュニケーション可否判定部212で前述した判定処理を行う。
そして、前述した実施形態における各データの新規登録、更新処理を行う場合、作業監督者端末200Bの記憶部210、作業実施者端末300Bの記憶部310及び作業支援装置100Aの記憶部40Aの関連データ記憶領域にそれぞれ追加する。
なお、第3の実施形態にかかる作業支援システム1Bにおいて、作業監督者端末200Bと作業実施者端末200Bとは近距離無線通信により通信が確立されるので、作業監督者端末200Bと作業実施者端末300Bとの距離が離れすぎている場合には、通信の確立が行えない。そのため、作業監督者端末200Bの表示内容生成部207及び作業実施者端末300Bの表示内容生成部307は、ディスプレイ201、301の表示範囲内に表示される作業実施者との通信の可否を示すマーカを表示するようにしてもよい。
図13は、第3の実施の形態にかかる作業支援装置100Aによる作業監督者端末200Bのディスプレイ201への表示例を説明する図である。図13では、作業実施者の作業状況を上方から見た状態を示している。
例えば、図13に示すように、表示内容生成部207(307)は、作業監督者端末200Bの位置推定部204により推定された作業監督者の位置情報と、作業実施者端末300Bの位置推定部304により推定された作業実施者の位置情報とに基づいて、作業実施者の周囲に通信可能となる範囲を示すマーカK(K1、K2、K3)を、表示部208(308)を介してディスプレイ201(301)に表示する。実施の形態では、作業実施者の通信可能となる範囲を円マーカK1~K3(図中の破線参照)で表示しており、その円のマーカK1~K3内に入ることにより当該作業実施者の有する作業実施者端末200Bと通信が可能となることを意味している。これにより、作業監督者(又は他の作業実施者)が、会話の必要な作業実施者に対してどのくらいの距離まで近づけば当該作業実施者端末300Bと通信が可能となるかが視認可能となる。
また、表示内容生成部207(307)は、作業監督者の周囲にいる作業実施者の位置を、レーダーチャートにより表示してもよい。このようにすると、作業監督者の位置に対する作業実施者の位置(距離)の把握が容易となる。
以上説明した通り、第3の実施の形態にかかる作業支援システム1Bでは、
(10)記憶部40Aは、通信部50により作業監督者端末200Bと作業実施者端末300Bとの間の通信が確立された場合、当該確立された通信が終了するまで作業監督者端末200Bと作業実施者端末300Bとの間で行われた通信データを保持すると共に、作業監督者端末200Bと作業実施者端末300Bとの間で行われた通信データに基づいて生成された新たな作業手順データを保持する構成とした。
このように構成すると、作業支援システム1Bは、作業監督者が作業実施者の作業支援を行う場合、作業実施者の会話の必要性の判断の精度を向上させることができる。この結果、作業支援システム1Bは、作業監督者と作業実施者とのコミュニケーションに関する処理効率を向上させることができる。
(11)また記憶部40Aは、生成された新たな作業手順データ記憶領域41に含まれる作業実施者の作業手順に関する情報に関連付けられる会話必要度記憶領域42の会話の必要度を更新する構成とした。
このように構成すると、作業支援システム1Bは、新たな作業手順データ記憶領域41に基づいて、当該作業手順データに関連付けられる会話必要度記憶領域42の会話の必要度を更新するので、作業監督者と作業実施者との間の会話の必要性をより精度よく特定することができる。その結果、作業支援システム1Bは、作業監督者と作業実施者とのコミュニケーションに関する処理効率を向上させることができる。
(12)作業実施者端末300Bは、作業実施者が行う作業手順に関する情報を含む作業手順データ記憶領域41(作業手順データ)と、作業実施者が行う作業手順に関する情報と会話の必要度とを関連付けて規定した会話必要度記憶領域42(会話必要度データ)と、を保持する記憶部310と、作業実施者端末300Bにより推定された作業実施者の姿勢と、作業手順データ記憶領域41に含まれる作業実施者の作業姿勢とに基づいて、作業姿勢における作業実施者の会話の必要度を、会話必要度記憶領域42を用いて特定し、当該特定した会話の必要度に基づいて会話必要度Xを算出する会話必要度算出部311と、会話必要度Xが、作業実施者の作業姿勢に応じて予め設定された所定の閾値Xth以上である場合、作業実施者の位置と姿勢とに基づいて作業実施者がコミュニケーション可能か否かを判定するコミュニケーション可否判定部312と、会話必要度Xが、作業実施者の作業姿勢に応じて予め設定された閾値Xth以上である場合、作業実施者端末300Bと作業監督者端末200Bとの間の通信を確立すると共に、作業実施者の作業状況に関する情報を作業監督者端末200Bに出力する通信部303と、をさらに有し、作業監督者端末200Bは、作業実施者が行う作業手順に関する情報を含む作業手順データ記憶領域41と、作業実施者が行う作業手順に関する情報と会話の必要度とを関連付けて規定した会話必要度記憶領域42と、を保持する記憶部210と、作業実施者端末300Bにより推定された作業実施者の姿勢と、作業手順データ記憶領域41に含まれる作業実施者の作業姿勢とに基づいて、作業姿勢における作業実施者の会話の必要度を、会話必要度記憶領域42を用いて特定し、当該特定した会話の必要度に基づいて会話必要度Xを算出する会話必要度算出部211と、会話必要度Xが、作業実施者の作業姿勢に応じて予め設定された閾値Xth以上である場合、作業実施者の位置と姿勢とに基づいて作業実施者がコミュニケーション可能か否かを判定するコミュニケーション可否判定部212と、会話必要度Xが、作業実施者の作業姿勢に応じて予め設定された閾値Xth以上である場合、作業実施者端末300Bと作業監督者端末200Bとの間の通信を確立すると共に、作業実施者の作業状況に関する情報を作業監督者端末200Bに出力する通信部203と、をさらに有し、作業実施者端末300Bと作業監督者端末200Bとは、無線通信により互いに接続されており、作業実施者端末300Bの通信部303と、作業監督者端末200Bの通信部203とは、無線通信を介して作業実施者端末300Bと作業監督者端末200Bとの間の通信を確立する構成とした。
このように構成すると、作業支援システム1Bでは、作業監督者端末200Bと作業実施者端末300Bとが強固なネットワーク環境を準備することなく双方向の無線通信が可能となり、作業実施者の会話の必要性を特定することができる。この結果、作業支援システム1Bは、作業監督者と作業実施者とのコミュニケーションに関する処理効率を向上させることができる。
以上、本発明を実施するための最良の形態などについて具体的に説明したが、本発明はこれに限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能である。
こうした本実施形態によれば、保守点検作業を行う作業現場において、作業監督者と作業実施者とが連携するためのコミュニケーションに関する処理効率を良好なものとできる。
本明細書の記載により、少なくとも次のことが明らかにされる。
すなわち、本実施形態の作業支援装置において、演算装置は、前記会話必要度が所定の閾値以上である場合、前記作業現場における所定作業監督者の端末に対する所定のコミュニケーション可否判定処理を行い、これに成功した場合、前記作業監督者向け情報を前記が判定に成功した前記作業監督者の端末に出力するものである、としてもよい。
これによれば、適切なコミュニケーションの機会を確保した上で、当該作業監督者に作業実施者の作業状況に関して作業支援情報を提供し、その対応に当たらせることが可能となる。ひいては、保守点検作業を行う作業現場において、作業監督者と作業実施者とが連携するためのコミュニケーションに関する処理効率をより良好なものとできる。
また本実施形態の作業支援装置において、前記演算装置は、前記会話必要度が所定の閾値以上かつ前記コミュニケーション可否判定処理に失敗した場合、前記作業状況の内容から最も次にコミュニケーションの成功する機会を示す情報を、前記作業手順データおよび前記会話必要度データの少なくともいずれかから抽出し、前記抽出した情報を所定情報に設定して、前記作業監督者の端末に出力する処理を更に実行するものである、としてもよい。
これによれば、会話すべき作業実施者に対し、その会話の機会を適切なタイミングに修正することを促すことが可能となる。ひいては、保守点検作業を行う作業現場において、作業支援の確度を高めて会話対応の頻度を抑制し、作業監督者と作業実施者とが連携するためのコミュニケーションに関する処理効率を良好なものとできる。
また本実施形態の作業支援装置において、前記演算装置は、前記所定作業実施者の端末から受信した作業位置と動作の内容に基づき、前記作業監督者向けに追加の作業状況確認処理を行い、当該追加の確認処理に関して、これに成功した場合、前記作業監督者向け情報とコミュニケーション可能情報の追加生成を行い、前記作業監督者の端末に出力する処理を更に実行するものである、としてもよい。
これによれば、複数の作業実施者がいる作業状況に関しても、会話が必要な作業実施者を的確に特定し、ひいては、保守点検作業を行う作業現場において、作業監督者と作業実施者とが連携するためのコミュニケーションに関する処理効率をさらに良好なものとできる。
また本実施形態の作業支援装置において、前記記憶装置は、前記追加の作業状況確認処理に成功した場合、前記会話必要度の高い順に前記作業監督者の端末と前記作業実施者の端末の通信を確立する処理を更に実行するものである、としてもよい。
これによれば、会話を行うべき作業実施者として好適な者を精度良く特定し、ひいては、保守点検作業を行う作業現場において、作業監督者と作業実施者とが連携するためのコミュニケーションに関する処理効率をさらに良好なものとできる。
また本実施形態の作業支援装置において、前記演算装置は、前記必要度の特定に際して前記所定事項の照合対象とした前記会話必要度データにおいて、各事項の必要度の中央値または平均値を予め定めた所定ルールに従って算定し、当該算定で得た値を前記所定の閾値とする処理を更に実行するものである、としてもよい。
これによれば、会話が必要な作業実施者を的確に特定し、ひいては、保守点検作業を行う作業現場において、作業監督者と作業実施者とが連携するためのコミュニケーションに関する処理効率をさらに良好なものとできる。
また本実施形態の作業支援装置において、前記演算装置は、前記作業監督者の端末と前記作業実施者の端末との間の通信を確立した場合、当該通信が終了するまで当該通信のデータを記憶装置で保持し、当該通信のデータから前記作業手順データと前記会話必要度データの項目に対応する値を特定して新たな作業状況データを生成し、当該新たな作業状況データを前記記憶装置で保持する作業手順データと会話必要度データに追加する処理を更に実行するものである、としてもよい。
これによれば、作業監督者の作業支援に伴う会話の必要性について精度が向上できることとなる。ひいては、保守点検作業を行う作業現場において、作業監督者と作業実施者とが連携するためのコミュニケーションに関する処理効率をさらに良好なものとできる。
また本実施形態の作業支援装置において、前記演算装置は、前記新たな作業状況データの生成に伴って得た、前記作業状況データの項目に関する値により、前記記憶装置の前記作業手順データと前記会話必要度データにおける対応事項の値を更新する処理を更に実行するものである、としてもよい。
これによれば、作業監督者と作業実施者との会話の必要性についてさらに精度良く特定できることとなる。ひいては、保守点検作業を行う作業現場において、作業監督者と作業実施者とが連携するためのコミュニケーションに関する処理効率をさらに良好なものとできる。
また本実施形態の作業支援装置において、前記演算装置は、前記会話必要度の算出に関して、作業対象設備から、各種センサから取得した各時系列データの少なくともいずれかまたはそれらの組み合わせを受信した場合、前記受信したデータに対し、所定の音声認識および画像認識の各アルゴリズムの少なくともいずれかを適用して、前記受信したデータから設備の稼働状況、操作実績を取得し、記憶装置で予め保持しているデータと前記情報と合わせて算出する処理を更に実行するものである、としてもよい。
これによれば、作業監督者や作業実施者が受け取る情報として、そのデータ量を幅広いものとすることが可能となる。ひいては、保守点検作業を行う作業現場において、作業監督者と作業実施者とが連携するためのコミュニケーションに関する処理効率をさらに良好なものとできる。
また本実施形態の作業支援装置において、前記演算装置は、前記作業監督者の端末に情報を出力するに際し、前記作業対象設備情報を、記憶装置で予め保持しているデータと前記情報と合わせて出力するものである、としてもよい。
これによれば、作業監督者に提示する情報として、そのデータ量を幅広いものとすることが可能であり、そうしたデータ情報も含めて会話に活用できることとなる。ひいては、保守点検作業を行う作業現場において、作業監督者と作業実施者とが連携するためのコミュニケーションに関する処理効率をさらに良好なものとできる。
また本実施形態の作業支援装置において、前記作業監督者端末と前記作業実施者端末は、前記記憶装置における作業手順、作業空間、会話必要度、作業対象設備それぞれの情報を事前に端末記憶部に保持するものであり、作業現場において時々刻々と当該端末で会話必要度算出部が会話必要度を算出し、端末間でネットワーク接続し、前記通信の確立を実行するものである、としてもよい。
これによれば、作業監督者と作業実施者は強固なネットワーク環境を準備することなく双方向通信が可能であり、前記会話の必要性を特定できることとなる。ひいては、保守点検作業を行う作業現場において、作業監督者と作業実施者とが連携するためのコミュニケーションに関する処理効率をさらに良好なものとできる。
なお、前述した実施の形態では、第1ユーザを作業実施者、第2ユーザを作業監督者、第3ユーザを他の作業実施者とした場合を例示して説明したが、第1ユーザ、第2ユーザ、第3ユーザはそれぞれ作業実施者であってもよく、それぞれ作業監督者であってもよい。
以上、本発明の実施の形態の一例を説明したが、本発明は、前述した実施の形態を全て組み合わせてもよく、何れか2つ以上の実施の形態を任意に組み合わせても好適である。
また、本発明は、前述した実施の形態の全ての構成を備えているものに限定されるものではなく、前述した実施の形態の構成の一部を、他の実施の形態の構成に置き換えてもよく、また、前述した実施の形態の構成を、他の実施の形態の構成に置き換えてもよい。
また、前述した実施の形態の一部の構成について、他の実施の形態の構成に追加、削除、置換をしてもよい。