JP2017167991A - ヘッドマウント装置、プログラム及び作業支援システム - Google Patents

ヘッドマウント装置、プログラム及び作業支援システム Download PDF

Info

Publication number
JP2017167991A
JP2017167991A JP2016054564A JP2016054564A JP2017167991A JP 2017167991 A JP2017167991 A JP 2017167991A JP 2016054564 A JP2016054564 A JP 2016054564A JP 2016054564 A JP2016054564 A JP 2016054564A JP 2017167991 A JP2017167991 A JP 2017167991A
Authority
JP
Japan
Prior art keywords
work
information
unit
image
head mount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016054564A
Other languages
English (en)
Inventor
郁也 岡崎
Ikuya Okazaki
郁也 岡崎
史織 佐々木
Shiori Sasaki
史織 佐々木
小堀 純
Jun Kobori
純 小堀
晃司 浅野
Koji Asano
晃司 浅野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2016054564A priority Critical patent/JP2017167991A/ja
Publication of JP2017167991A publication Critical patent/JP2017167991A/ja
Pending legal-status Critical Current

Links

Images

Abstract

【課題】作業者が頭部に装着しているヘッドマウント装置によって該作業者に対して、作業を行う対象の各装置に対応する画像を提示すること。
【解決手段】ヘッドマウント装置は、画像を表示する表示部と、作業の内容を示す作業内容情報と、当該作業のスケジュールを示すスケジュール情報とを含む作業情報を取得する作業情報取得部と、現在の時刻を取得する時刻取得部と、作業情報取得部が取得する作業情報に含まれるスケジュール情報と、時刻取得部が取得する時刻とに基づいて、当該作業情報に含まれる作業内容情報が示す作業の内容の画像を表示部に表示させる表示制御部とを備える。
【選択図】図1

Description

本発明の実施形態は、ヘッドマウント装置、プログラム及び作業支援システムに関する。
従来、設備の保守や点検の作業では、作業者は、作業の手順が記載された作業手順書を適宜に閲覧しながら作業を行っていた。また、特許文献1には、コンピュータシステムの障害発生時に、作業者が頭部に装着しているヘッドマウントディスプレイ(Head Mounted Display)に、障害修復作業の方法を案内するコンピュータグラフィックス画像データを現実空間の映像と合成して表示する情報処理システムの技術が開示されている。また、特許文献2には、ヘッドマウントディスプレイの技術が開示されている。また、特許文献3,4には、被験者の視線を検出する視線検出装置の技術が開示されている。
特開2011−248860号公報 特開2013−077013号公報 特開2014−171586号公報 特開2014−195647号公報
作業者が作業中に作業手順書を閲覧する操作は、手間がかかるので、作業の効率の低下の一要因になり得る。また、作業場所によっては作業手順書を閲覧できるだけの空間がない場合もあった。この対処方法として、作業者が頭部に装着しているヘッドマウントディスプレイに作業手順書の内容を表示することが考えられる。しかし、上述した特許文献1の技術では、作業を行う対象の装置毎に作業の方法が異なると適用できない可能性があった。
本発明は、このような事情を考慮してなされたものであり、作業者が頭部に装着しているヘッドマウント装置によって該作業者に対して、作業を行う対象の各装置に対応する画像を提示することができる、ヘッドマウント装置、プログラム及び作業支援システムを提供することを課題とする。
(1)本発明の一態様は、画像を表示する表示部と、作業の内容を示す作業内容情報と、当該作業のスケジュールを示すスケジュール情報とを含む作業情報を取得する作業情報取得部と、現在の時刻を取得する時刻取得部と、前記作業情報取得部が取得する前記作業情報に含まれる前記スケジュール情報と、前記時刻取得部が取得する時刻とに基づいて、当該作業情報に含まれる前記作業内容情報が示す作業の内容の画像を前記表示部に表示させる表示制御部とを備えるヘッドマウント装置である。
(2)本発明の一態様は、上記(1)のヘッドマウント装置において、前記スケジュール情報が示す前記作業のスケジュールと、前記時刻取得部が取得する時刻とに基づいて、前記作業の進捗状況を判定する進捗状況判定部を更に備え、前記表示制御部は、前記進捗状況判定部による判定の結果を示す画像を前記表示部に表示させる。
(3)本発明の一態様は、上記(2)のヘッドマウント装置において、前記進捗状況判定部による判定の結果に基づいて、前記作業情報取得部が取得した前記作業情報を更新する作業情報更新部を更に備える。
(4)本発明の一態様は、上記(1)から(3)のいずれかのヘッドマウント装置において、自装置を利用する作業者以外の他作業者に割り当てられている作業のスケジュールを示す情報を含む他作業情報を取得する他作業情報取得部と、前記他作業情報取得部が取得する前記他作業情報と、前記作業情報取得部が取得する前記作業情報とに基づいて、前記作業者の作業と前記他作業者の作業との相対的な進捗状況を判定する他作業進捗状況判定部とを更に備え、前記表示制御部は、前記他作業進捗状況判定部による判定の結果を示す画像を前記表示部に表示させる。
(5)本発明の一態様は、上記(4)のヘッドマウント装置において、前記他作業進捗状況判定部による判定の結果に基づいて、前記作業情報取得部が取得した前記作業情報又は前記他作業情報取得部が取得した前記他作業情報を更新する。
(6)本発明の一態様は、上記(1)から(5)のいずれかのヘッドマウント装置において、音を出力する音出力部と、自装置が作業者の頭部に装着されているか否かを判定する装着判定部と、を更に備え、前記表示制御部は、前記作業内容情報が示す作業の内容の画像を前記表示部に表示させる際に、前記装着判定部が装着されていないと判定する場合には、前記音出力部から音を出力させる。
(7)本発明の一態様は、上記(1)から(6)のいずれかのヘッドマウント装置において、前記作業情報には、前記作業の着手が承認される予定時刻を示す承認予定時刻情報が含まれ、前記表示制御部は、前記作業情報取得部が取得する前記作業情報に含まれる前記承認予定時刻情報が示す前記予定時刻の画像を前記表示部に表示させる。
(8)本発明の一態様は、画像を表示する表示部を備えるヘッドマウント装置のコンピュータに、作業の内容を示す作業内容情報と、当該作業のスケジュールを示すスケジュール情報とを含む作業情報を取得する作業情報取得ステップと、現在の時刻を取得する時刻取得ステップと、前記作業情報取得ステップにおいて取得される前記作業情報に含まれる前記スケジュール情報と、前記時刻取得ステップにおいて取得される時刻とに基づいて、当該作業情報に含まれる前記作業内容情報が示す作業の内容の画像を前記表示部に表示させる表示制御ステップとを実行させるためのプログラムである。
(9)本発明の一態様は、上記(1)から(7)のいずれかのヘッドマウント装置と、前記ヘッドマウント装置との間において情報を授受する情報処理装置とを備え、前記ヘッドマウント装置は、自装置の位置を示す自位置情報を、前記情報処理装置に送信する自位置情報送信部を備え、前記情報処理装置は、前記自位置情報送信部が送信する前記自位置情報を受信する自位置情報受信部と、前記スケジュール情報と作業場所情報とが関連付けられて前記作業情報として記憶されている作業情報記憶部から、前記自位置情報受信部が受信する前記自位置情報に対応する前記作業場所情報が関連付けられている前記スケジュール情報を抽出するスケジュール情報抽出部と、前記スケジュール情報抽出部が抽出する前記スケジュール情報を前記ヘッドマウント装置に送信する作業支援システムである。
(10)本発明の一態様は、上記(9)の作業支援システムにおいて、前記ヘッドマウント装置は、当該ヘッドマウント装置の周辺の風景を撮像して画像を生成する撮像部と、前記撮像部が撮像する画像を、前記情報処理装置に送信する画像送信部と、を備え、前記情報処理装置は、前記画像送信部が送信する前記画像を受信する画像受信部と、前記画像受信部が受信する前記画像に含まれる作業対象の機器の情報を当該画像から抽出する機器情報抽出部と、作業対象の機器を示す機器情報と、当該機器についての作業手順を示す情報とが関連付けられて作業手順情報として記憶されている作業手順情報記憶部から、前記機器情報抽出部が抽出する前記機器の情報に対応する前記機器情報が関連付けられている前記作業手順情報を抽出する作業手順情報抽出部と、前記作業手順情報抽出部が抽出する前記作業手順情報を前記ヘッドマウント装置に送信する。
本発明によれば、作業者が頭部に装着しているヘッドマウント装置によって該作業者に対して、作業を行う対象の各装置に対応する画像を提示することができる。
一実施形態に係る作業支援システムの構成例を示す図である。 一実施形態に係るヘッドマウント装置の構成例を示す図である。 一実施形態に係る情報処理装置のハードウェア構成例を示す図である。 一実施形態に係る表示部に表示される画像の第1の例を示す図である。 一実施形態に係る表示部に表示される画像の第2の例を示す図である。 一実施形態に係る表示部に表示される画像の第3の例を示す図である。 一実施形態に係る表示部に表示される画像の第4の例を示す図である。 一実施形態に係る表示部に表示される画像の第5の例を示す図である。 一実施形態に係る表示部に表示される画像の第6の例を示す図である。 一実施形態に係るヘッドマウント装置の機能構成例を示す図である。 一実施形態に係る情報処理装置の機能構成例を示す図である。 一実施形態に係る作業スケジュール表示機能についての各装置の動作例を示す図である。 一実施形態に係る記憶装置に記憶されている作業情報の構成例を示す図である。 一実施形態に係る作業着手承認機能についての各装置の動作例を示す図である。 一実施形態に係る作業進捗判定機能についての各装置の動作例を示す図である。 一実施形態に係る作業重複判定機能についての各装置の動作例を示す図である。 一実施形態に係る作業内容の表示機能についての各装置の動作例を示す図である。 一実施形態に係る作業手順の表示機能についての各装置の動作例を示す図である。 一実施形態に係る対象装置の画像の一例を示す図である。 一実施形態に係る警告画像の一例を示す図である。
図1は、本実施形態に係る作業支援システム1の構成例を示す図である。図1において、作業支援システム1は、ヘッドマウント装置2と、情報処理装置4と、記憶装置6とを備える。ヘッドマウント装置2と情報処理装置4とは、通信回線8を介して、データを送受する。通信回線8として、例えば携帯電話ネットワークやインターネット等の通信ネットワークを適用できる。
ヘッドマウント装置2は、作業者Xの頭部に装着される。ヘッドマウント装置2は、該ヘッドマウント装置2を頭部に装着している作業者Xに対して、該作業者Xが視認できる画像を提示できる構成になっている。例えば、ヘッドマウント装置2は、透過型のヘッドマウントディスプレイである。図1に示される例では、ヘッドマウント装置2は眼鏡型の透過型のヘッドマウントディスプレイである。なお、ヘッドマウント装置2は、眼鏡型以外の形状の頭部装着型のヘッドマウントディスプレイであってもよい。
対象装置10は、作業者Xが作業を行う対象の装置である。作業者Xは、ヘッドマウント装置2を頭部に装着して、対象装置10に対する作業を行う。
情報処理装置4は、ヘッドマウント装置2に対して、該ヘッドマウント装置2によって表示する画像を提供する。記憶装置6は、対象装置10に対応する画像を記憶している。承認者Yは、作業者Xが行う作業を監視する役目を持つ。
[ヘッドマウント装置の部品構成]
図2は、本実施形態に係るヘッドマウント装置2の構成例を示す図である。図2において、ヘッドマウント装置2は、制御部21と、表示部22と、撮像部23と、通信部24と、記録部25と、センサー部26と、測位部27と、視線検出部28と、音声再生部29と収音部30とを備える。これら各部はデータを交換できるように構成されている。
制御部21は、ヘッドマウント装置2が備える各部を制御する。制御部21は、専用のハードウェアにより実現されるものであってもよく、又は、CPU(Central Processing Unit:中央演算処理装置)及びメモリにより構成され、制御部21の機能を実現するためのプログラムをCPUが実行することによりその機能を実現させるものであってもよい。
表示部22は、ヘッドマウント装置2を頭部に装着している作業者Xが視認できる画像を表示する。例えば、ヘッドマウント装置2が透過型のヘッドマウントディスプレイである場合、表示部22は、作業者Xの視線の先に透過型の仮想スクリーンを投影表示し、該透過型の仮想スクリーン上に画像を表示する。これにより、作業者Xは、自己の周辺の風景を見ながら、透過型の仮想スクリーン上に表示されている画像を視認することができる。制御部21は、表示部22によって表示する画像を表示部22へ出力する。
撮像部23は、ヘッドマウント装置2を頭部に装着している作業者Xの周辺の風景であって、該作業者Xの視線の方向の風景を撮像する。つまり、撮像部23は、ヘッドマウント装置2を頭部に装着している作業者Xの視線の方向を撮像するように、ヘッドマウント装置2に取り付けられている。撮像部23は、撮像した画像を通信部24と記録部25とへ出力する。撮像部23が撮像した画像のことを撮像画像と称する場合がある。
通信部24は、通信回線8を介して情報処理装置4と通信を行う。通信部24は、撮像画像などの情報を、通信回線8を介して情報処理装置4へ送信する。通信部24は、通信回線8を介して情報処理装置4から画像などの情報を受信する。通信部24が情報処理装置4から受信する画像は、例えば、情報処理装置4が記憶装置6から取得した対象装置10に対応する画像である。表示部22は、通信部24が情報処理装置4から受信した画像を表示する。
記録部25は、撮像部23が撮像した画像(撮像画像)のうち最新の一定時間分の撮像画像を記録する。記録部25は、記録した撮像画像の量が一定時間分に達した場合には、記録した撮像画像のうち古い方の撮像画像から順次消去して新しい撮像画像を記録する。
センサー部26は、一又は複数のセンサーを備える。センサー部26は、センサーが検出した結果の検出信号を制御部21へ出力する。
センサー部26は、ヘッドマウント装置2が作業者Xの頭部に装着されたことを検出するものであってもよい。この場合、センサー部26は、例えば、作業者Xの目線を検出するカメラであってもよい。また、センサー部26は、ヘッドマウント装置2が頭部に装着された際の装着圧や接触を検知するものであってもよい。
測位部27は、ヘッドマウント装置2の位置を測定し、測定結果の測位値を制御部21へ出力する。測位部27として、例えば、GPS(Global Positioning System)を利用してもよく、又は、準天頂衛星(quasi-zenith satellites: QZS)などの全地球航法衛星システム(Global Navigation Satellite System(s): GNSS)を利用してもよい。また、測位部27は、ビーコンや無線LANのスポットとの間における無線通信によってヘッドマウント装置2の位置を測定してもよい。
視線検出部28は、ヘッドマウント装置2を頭部に装着している作業者Xの視線を検出する。視線検出部28は、検出した結果の視線を示す視線情報を制御部21へ出力する。音声再生部29は、スピーカ又はイヤホンによって音声信号を再生する。制御部21は、音声再生部29によって再生する音声信号を音声再生部29へ出力する。収音部30はマイクロフォンを備える。収音部30は、マイクロフォンによって作業者Xの音声を収音する。また、収音部30は、マイクロフォンによって作業者Xの周辺から発せられる音を収音してもよい。収音部30は、マイクロフォンによって収音した音声や音の信号を制御部21へ出力する。
[情報処理装置の部品構成]
図3は、本実施形態に係る情報処理装置4のハードウェア構成例を示す図である。図2において、情報処理装置4は、CPU41と、メモリ42と、不揮発性メモリ43と、操作部44と、表示部45と、通信部46とを備える。これら各部はデータを交換できるように構成されている。CPU41は、不揮発性メモリ43に格納されるプログラム47を実行し、メモリ42をワークメモリとして使用して、情報処理装置4の各部を制御する。
メモリ42は、半導体素子を利用した揮発性のメモリ等のRAMによって構成され、CPU41のワークメモリとして使用される。不揮発性メモリ43は、例えばハードディスク(HD)やROM等によって構成される。不揮発性メモリ43には、CPU41によって実行されるプログラム47が格納される。
操作部44は、キーボード、テンキー、マウス等の入力デバイスから構成され、利用者の操作に応じたデータ入力を行う。表示部45は、液晶表示装置等の表示デバイスから構成され、データ表示を行う。また、データ入力とデータ表示の両方が可能なタッチパネルを備えてもよい。通信部46は、通信回線8を介してヘッドマウント装置2と通信を行う。情報処理装置4の通信部46とヘッドマウント装置2の通信部24とは、通信回線8を介してデータを送受する。
情報処理装置4として、例えばタブレット型のコンピュータ(タブレットPC)や据置き型のパーソナルコンピュータ、サーバコンピュータ等のコンピュータ装置を適用できる。
[作業支援システムの機能概要]
次に、作業支援システム1が提供する機能の一例について、その概要を説明する。この一例では、作業支援システム1は、作業スケジュール表示機能F11から作業手順の表示機能F16までの6つの機能を提供する。
[作業スケジュール表示機能]
作業支援システム1は、作業スケジュール表示機能F11を提供する。作業スケジュール表示機能F11とは、作業者Xが実施すべき作業の着手時刻が近づいた場合に、作業の着手時刻が近づいたことを作業者Xに対して通知する機能である。
作業支援システム1は、ヘッドマウント装置2にこれらの情報を画像として表示することにより、作業者Xの作業を支援する。例えば、作業の着手時刻が近づいた場合において、作業支援システム1は、作業者Xに対して図4に示す画像を表示する。
図4は、本実施形態に係る表示部22に表示される画像の第1の例を示す図である。作業スケジュール表示機能F11において、作業支援システム1は、表示部22に作業の着手時刻が近づいたことを示す画像P11Lや、作業内容を示す画像P11Rを表示する。具体的には、作業支援システム1は、左表示部22Lに「作業着手時刻が近づきました。;作業の準備をしてください。」との情報を、画像P11Lとして表示する。また、作業支援システム1は、右表示部22Rに「作業内容:ケーブルCL1の接続;承認予定時刻:9:50;作業予定時間:10:00−10:10」との情報を、画像P11Rとして表示する。
作業支援システム1は、表示部22に作業の着手時刻が近づいたことを示す情報を表示することにより、作業者Xは、作業の着手時刻が記載された作業指示書や時計などを確認することなく、作業の着手時刻が近づいていることを把握することができる。
また、作業支援システム1は、作業の着手時刻が近づいたことや、着手時刻になったことを、ヘッドマウント装置2を介して作業者Xに対して通知する際に、画像以外の方法によって通知してもよい。例えば、作業支援システム1は、ヘッドマウント装置2が使用されている場合には、作業の着手時刻が近づいたことや、着手時刻になったことを、画像によって通知する。また、作業支援システム1は、ヘッドマウント装置2が使用されていない場合には、作業の着手時刻が近づいたことや、着手時刻になったことを、音によって通知するようにしてもよい。この場合、ヘッドマウント装置2は、自装置が使用されているか否かを、自装置が作業者Xの頭部に装着されているか否かに基づいて判定してもよい。
[作業着手承認機能]
作業支援システム1は、作業着手承認機能F12を提供する。作業着手承認機能F12とは、作業者Xが行う作業の着手を承認者Yが承認する場合の、作業者Xや承認者Yの作業を支援する機能である。ここで、承認者Yとは、例えば、作業者Xが行う作業の責任者や監督者など、承認権限を有している者である。作業者Xは、対象装置10に対する作業に着手する前に、着手の承認を承認者Yに要求する。承認者Yは、作業者Xから作業着手の承認要求があった場合には、承認条件が成立していることを確認して、作業着手の承認を行う。この作業着手の承認は、承認者Yが情報処理装置4を操作することにより行われる。作業着手が承認された場合にヘッドマウント装置2の表示部22に表示される情報の一例を、図5に示す。
図5は、本実施形態に係る表示部22に表示される画像の第2の例を示す図である。同図に示すように、作業着手承認機能F12において、作業支援システム1は、表示部22に作業着手が承認されたことを示す画像P12Lを表示する。具体的には、作業支援システム1は、左表示部22Lに「作業着手が承認されました」との情報を、画像P12Lとして表示する。また、この場合、作業支援システム1は、承認された作業の内容を示す「作業内容:ケーブルCL1の接続」との情報を、右表示部22Rに画像P12Rとして表示してもよい。
ヘッドマウント装置2と情報処理装置4とは通信回線8を介して接続されている。ヘッドマウント装置2と情報処理装置4とは、通信回線8を介した通信ができればよく、これら2つの装置が同じ場所にある必要はない。したがって、作業着手承認機能F12によれば、承認者Yが作業現場に居なくても、作業現場に居る作業者Xに対して、承認者Yが作業着手の承認を行うことができる。つまり、作業支援システム1は、承認者Yによる遠隔承認を可能にする。
また、作業支援システム1は、作業者Xによる作業開始や作業終了の合図を検出してもよい。ヘッドマウント装置2は、音声を取得するマイクなどを備えていてもよい。この場合、ヘッドマウント装置2は、作業者Xの発声により、作業者Xによる作業開始や作業終了の合図を検出する。また、ヘッドマウント装置2は、作業者Xによる作業開始の合図を検出すると、作業者Xの目線の方向の録画や、周辺の音の録音を開始する。ヘッドマウント装置2は、作業者Xによる作業終了の合図を検出すると、作業者Xの目線の方向の録画や、周辺の音の録音を停止する。また、ヘッドマウント装置2は、作業者Xによる作業開始の合図を検出すると、承認者Yに対して、作業者Xが作業を開始したことを通知してもよい。
なお、ヘッドマウント装置2は、承認者Yに対する作業着手の承認要求を、作業現場への到着を条件にして、作業者Xの操作に依らず自動的に行ってもよい。この場合、ヘッドマウント装置2は、測位部27による自位置の測位結果に基づいて現場到着と判定されたことを条件にして、承認者Yに対する作業着手の承認要求を行ってもよい。この場合、作業支援システム1は、承認要求手順を簡素化することにより、作業者Xの手間を低減することができる。
また、ヘッドマウント装置2は、自装置が作業者Xの頭部に装着されたことを条件にして、承認者Yに対する作業着手の承認要求を行ってもよい。この場合、ヘッドマウント装置2は、センサを備えており、このセンサによって自装置が作業者Xの頭部に装着されたことを検出してもよい。このセンサは、例えば、作業者Xの目線を検出するカメラであってもよい。
[作業進捗判定機能]
作業支援システム1は、作業進捗判定機能F13を提供する。一例として、対象装置10に対する作業は、他の作業が完了していることが、作業の着手条件にされている場合がある。この場合、作業支援システム1は、他の作業が完了しているか否かを判定して、ヘッドマウント装置2に判定結果を表示する。
図6は、本実施形態に係る表示部22に表示される画像の第3の例を示す図である。同図に示すように、作業進捗判定機能F13において、作業支援システム1は、表示部22に作業が予定よりも遅れていることを示す画像P13Lを表示する。この一例では、作業者Xが実施すべき作業が対象装置10へのケーブルCL1の接続であり、作業の作業予定時間として、「10:00−10:10」が指定されている。現在時刻が「10:15」である場合に、このケーブルCL1の接続作業が完了していない場合、作業の遅れ時間は「5分」である。この場合、作業支援システム1は、左表示部22Lに「!作業が予定よりも遅れています。」との情報を、画像P13Lとして表示する。また、作業支援システム1は、右表示部22Rに「作業内容:ケーブルCL1の接続;現在の時刻:10:15 遅れ5分;作業予定時間:10:00−10:10」との情報を、画像P13Rとして表示する。
また、作業支援システム1は、作業予定時間と、実際の作業進捗とが乖離している場合、作業スケジュールを変更することもできる。作業支援システム1は、作業スケジュールを変更する場合、作業スケジュールを変更する旨を表示部22に表示する。
図7は、本実施形態に係る表示部22に表示される画像の第4の例を示す図である。同図に示すように、作業進捗判定機能F13において、作業支援システム1は、作業が予定よりも遅れている、又は進んでいる場合、作業スケジュールを変更することを示す画像P14Lを表示部22に表示する。この一例の場合には、対象装置10に接続されているケーブルCL1の接続作業の作業予定時間として、「10:00−10:10」が指定されている。現在時刻が「10:15」である場合に、このケーブルCL1の接続作業が完了していない場合、作業の遅れ時間は「5分」である。この場合、作業支援システム1は、左表示部22Lに「!作業スケジュールを変更します。」との情報を、画像P14Lとして表示する。また、作業支援システム1は、右表示部22Rに「作業内容:ケーブルCL1の接続;当初予定時間:10:00−10:10;→変更後時間:10:00−10:20」との情報を、画像P14Rとして表示する。
[作業重複判定機能]
作業支援システム1は、作業重複判定機能F14を提供する。ある作業現場において同時刻に複数の作業が計画されている場合には、これら複数の作業を同時並行に実施することができない場合がある。作業重複判定機能F14とは、複数の作業を同時並行に実施することができない場合に、作業が重複していることを作業者Xに対して通知する機能である。この一例では、作業者X1の作業と、作業者X2の作業とが重複している。この場合、作業支援システム1は、作業者X1の作業情報と、作業者X2の作業情報とをヘッドマウント装置2の表示部22に表示する。
図8は、本実施形態に係る表示部22に表示される画像の第5の例を示す図である。同図に示すように、作業重複判定機能F14において、作業支援システム1は、作業者X1の作業スケジュールと、作業者X2の作業スケジュールとを取得する。作業支援システム1は、作業者X1の作業スケジュールと、作業者X2の作業スケジュールとが重複している場合には、作業スケジュールが重複していることを示す画像P15Lを表示する。この一例の場合には、作業者X1の作業であるケーブルCL2の取り外し作業と、作業者X2の作業であるケーブルCL4の接続作業とが重複している。この場合、作業支援システム1は、左表示部22Lに「!他の作業との重複が生じています。」との情報を、画像P15Lとして表示する。また、作業支援システム1は、右表示部22Rに「<あなたの作業>;作業内容:ケーブルCL2の取り外し;作業予定時間:10:10−10:20;<他の作業>;作業内容:ケーブルCL4の接続;作業予定時間:10:10−10:20」との情報を、画像P15Rとして表示する。
また、作業支援システム1は、作業スケジュールが重複している場合などにおいて、作業スケジュールを変更することもできる。作業支援システム1は、作業スケジュールを変更する場合には、作業スケジュールを変更する旨を表示部22に表示する。
図9は、本実施形態に係る表示部22に表示される画像の第6の例を示す図である。同図に示すように、作業支援システム1は、作業スケジュールを変更する場合には、作業スケジュールを変更することを示す画像P16Lを表示部22に表示する。この一例の場合には、作業者X1及び作業者X2の作業スケジュールとして「作業予定時間:10:10−10:20」が指定されている。この場合、作業支援システム1は、左表示部22Lに「!作業スケジュールを変更します。」との情報を、画像P16Lとして表示する。また、作業支援システム1は、右表示部22Rに変更後の作業スケジュールを示す「<あなたの作業>;作業内容:ケーブルCL2の取り外し;作業予定時間:10:20−10:30;<他の作業>;作業内容:ケーブルCL4の接続;作業予定時間:10:10−10:20」との情報を、画像P16Rとして表示する。
[作業内容の表示機能]
作業支援システム1は、作業内容の表示機能F15を提供する。作業内容の表示機能F15とは、ヘッドマウント装置2の位置に応じた作業内容を作業者Xに提供する機能である。具体的には、作業支援システム1は、ヘッドマウント装置2の位置を取得して、この取得した位置に応じた作業内容を表示部22に表示させる。この作業内容の表示機能F15によれば、作業支援システム1は、ヘッドマウント装置2を装着した作業者Xが、ある作業現場に居る場合に、その作業現場で実施すべき作業の内容を表示部22に表示させることができる。この作業内容の表示機能F15により、作業者Xは、少なくとも片手がふさがってしまう紙やノート型コンピュータ、タブレットなどによらずに作業内容を確認することができるため、両手を空けた状態で作業内容を確認することができる。
[作業手順の表示機能]
作業支援システム1は、作業手順の表示機能F16を提供する。作業手順の表示機能F16とは、作業者Xが対象装置10の前に居る場合に、この対象装置10に対する作業手順を作業者Xに提供する機能である。作業支援システム1は、ヘッドマウント装置2の撮像部23が撮像する対象装置10の画像に基づいて、この対象装置10の作業手順を検索する。作業支援システム1は、検索結果として得られた作業手順の情報をヘッドマウント装置2の表示部22に表示させる。
[情報処理装置及びヘッドマウント装置の機能構成及び動作]
次に、上述した各機能を実現するための情報処理装置4の機能構成及び動作の具体例、及びヘッドマウント装置2の機能構成及び動作の具体例について説明する。以下、作業スケジュール表示機能F11から作業手順の表示機能F16までの機能ごとに、ヘッドマウント装置2の機能構成及び動作と、情報処理装置4の機能構成及び動作とを説明する。
図10は、本実施形態に係るヘッドマウント装置2の機能構成例を示す図である。図10に示される各部の機能は、図2に示す制御部21が不図示の記憶部に記憶されているプログラムを実行することにより実現される。
図11は、本実施形態に係る情報処理装置4の機能構成例を示す図である。図11に示される各部の機能は、図3に示すCPU41が不揮発性メモリ43に格納されるプログラム47を実行することにより実現される。
[機能構成及び動作;作業スケジュール表示機能]
ヘッドマウント装置2は、時刻取得部2101と、作業情報取得部2102と、作業情報表示判定部2103とを、作業スケジュール表示機能F11を実現する機能部として備えている。
情報処理装置4は、作業情報提供部4101を、作業スケジュール表示機能F11を実現する機能部として備えている。
以下、図12を参照して作業スケジュール表示機能F11についてのヘッドマウント装置2及び情報処理装置4の動作の一例について説明する。
図12は、本実施形態に係る作業スケジュール表示機能F11についての各装置の動作例を示す図である。
ヘッドマウント装置2が起動されると、ヘッドマウント装置2は、自装置が起動されたことを示す起動情報を、情報処理装置4に提供する(ステップS2105)。この起動情報には、自装置と他のヘッドマウント装置2とを識別するための装置識別情報などが含まれている。
情報処理装置4は、ヘッドマウント装置2から起動情報を取得することにより、このヘッドマウント装置2に対する送信処理を開始する(ステップS4105)。具体的には、情報処理装置4は、ヘッドマウント装置2から取得した起動情報に含まれる装置識別情報に基づいて、複数のヘッドマウント装置2のなかから、送信先のヘッドマウント装置2を選択する。
ヘッドマウント装置2の時刻取得部2101は、ヘッドマウント装置2が備える不図示の時計部から現在の時刻を取得する(ステップS2110)。
情報処理装置4の作業情報提供部4101は、記憶装置6から作業情報を取得する。記憶装置6に記憶されている作業情報の構成例について図13を参照して説明する。
図13は、本実施形態に係る記憶装置6に記憶されている作業情報の構成例を示す図である。記憶装置6には、作業IDと、作業現場(作業場所)の位置と、作業項目と、作業着手時刻と、作業終了時刻と、作業状況と、作業者とが互いに関連付けられて作業情報として記憶されている。作業IDは、個々の作業を識別する。作業現場の位置には、ビル名、部屋名、対象装置など、作業現場の位置を示す情報が含まれる。作業項目には、作業者Xが実施すべき作業の内容を示す情報が含まれる。
図12に戻り、作業情報提供部4101は、記憶装置6から取得した作業情報のうち、少なくとも作業内容(作業項目)の情報と、作業着手時刻及び作業終了時刻(作業時間)の情報とをヘッドマウント装置2に対して提供する(ステップS4110)。
ヘッドマウント装置2の作業情報取得部2102は、情報処理装置4が提供する作業情報を取得する(ステップS2120)。
なお、以下の説明において、作業情報のうち作業着手時刻や作業終了時刻、作業時間を「作業スケジュール」とも記載することがある。また、作業時間と、作業情報のうち作業時間以外の他の情報とを合わせて「作業スケジュール」とも記載することがある。
作業情報表示判定部2103は、作業スケジュールを表示するか否かを判定する(ステップS2130)。具体的には、作業情報表示判定部2103は、作業情報取得部2102が取得した作業情報に含まれる作業開始時刻と、ステップS2110において取得した現在の時刻とを比較する。作業情報表示判定部2103は、作業開始時刻と現在の時刻とが接近している場合に、作業スケジュールを表示すると判定する(ステップS2130;YES)。作業情報表示判定部2103は、例えば、作業開始時刻と現在の時刻との差が10分以内である場合に、作業スケジュールを表示すると判定する。
ステップS2140において、ヘッドマウント装置2の制御部21は、図4に示した画像P11L及び画像P11Rを表示部22に表示して、処理を終了する。
なお、この一例では、スケジュールの表示の要否を、上述したステップS2130においてヘッドマウント装置2が判定するとして記載したが、情報処理装置4が判定してもよい。この場合には、スケジュールを表示すると情報処理装置4が判定した場合に、情報処理装置4が作業情報をヘッドマウント装置2に提供してもよい。
[機能構成及び動作;作業着手承認機能]
ヘッドマウント装置2は、作業情報取得部2201と、承認予定時刻出力部2202と、承認要求動作取得部2203と、承認要求情報提供部2204と、承認情報取得部2205とを、作業着手承認機能F12を実現する機能部として備えている。
情報処理装置4は、作業情報提供部4201と、承認要求情報取得部4202と、4203と、承認情報提供部4204とを、作業着手承認機能F12を実現する機能部として備えている。
以下、図14を参照して作業着手承認機能F12についてのヘッドマウント装置2及び情報処理装置4の動作の一例について説明する。
図14は、本実施形態に係る作業着手承認機能F12についての各装置の動作例を示す図である。
情報処理装置4の作業情報提供部4201は、ヘッドマウント装置2に対して作業情報を提供する(ステップS4210)。この作業情報には、作業の承認予定時刻が含まれている。ここで、情報処理装置4は、複数のヘッドマウント装置2のうち、いずれのヘッドマウント装置2に対して作業情報を提供したのかを記憶する。また、情報処理装置4は、作業情報をヘッドマウント装置2に対して提供したのち、その作業情報が示す作業時間を、所定時間以上経過した場合には、当該作業情報を消去する指示情報をヘッドマウント装置2に対して送信する。ヘッドマウント装置2は、作業情報を消去する指示情報を受信すると、当該指示情報に基づいて、作業情報を消去する。
ヘッドマウント装置2の作業情報取得部2201は、ステップS4210において提供される作業情報を取得する(ステップS2210)。
承認予定時刻出力部2202は、ステップS2210において取得された作業情報に含まれている承認予定時刻を、表示部22に表示する(ステップS2220)。ここで承認予定時刻とは、作業者Xが行う作業に対する承認者Yによる承認作業が行われる予定の時刻である。承認者Yは、作業者Xが居る作業現場から離れた位置において、遠隔承認を行う場合がある。この場合、承認者Yが承認作業を行う作業位置(例えば、承認作業用コンピュータのある場所)から離れている場合がある。この場合には、作業者Xが承認要求をしたとしても、承認者Yがその承認要求に対してすぐに承認作業を行うことができない。ヘッドマウント装置2に承認予定時刻が表示されることにより、作業者Xは、承認者Yがいつ承認作業を行うのかを認識することができる。
次に、承認要求動作取得部2203は、対象装置10に対する承認要求操作を検出する。この承認要求操作には、作業者Xによるヘッドマウント装置2のセンサー部26に対する操作が含まれる。また、承認要求のジェスチャ(例えば、手の動き)が決まっている場合には、承認要求操作には、撮像部23が撮像した作業者Xによる承認要求のジェスチャが含まれる。また、ヘッドマウント装置2は、測位部27が測位する自装置の位置に基づいて、作業現場への現場到着判定を行ってもよい。この場合には、ヘッドマウント装置2が現場到着したと判定した場合に、承認要求操作を行ってもよい。この場合、承認要求操作取得部221は、現場到着を条件にして、作業者Xの操作によらずに承認要求操作を検出する。
承認要求情報提供部2204は、承認要求操作が検出された場合、作業着手承認要求情報を情報処理装置4に提供する(ステップS2230)。
情報処理装置4の承認要求情報取得部4202は、ステップS2230においてヘッドマウント装置2から提供される作業着手承認要求情報を取得し(ステップS4220)、取得した旨を表示部22に表示する(ステップS4230)。
承認者Yは、表示部22に作業着手承認要求があった旨が表示されると、承認するか否かを判断して、承認する場合には、承認操作を情報処理装置4に対して行う。例えば、承認者Yは、承認する場合には、表示部45に表示される「承認」の操作ボタン画像(不図示)をクリックやタップすることにより、承認操作を行う。
承認操作取得部4203は、承認者Yによる承認操作を検出する。承認情報提供部4204は、承認操作取得部4203が承認操作を検出した場合、作業着手承認情報をヘッドマウント装置2に対して提供して(ステップS4240)、処理を終了する。
ヘッドマウント装置2の承認情報取得部2205は、ステップS4240において提供された作業着手承認情報を取得する(ステップS2240)。
承認情報取得部2205は、作業着手承認情報を取得すると、作業着手が承認されたことを示す画像P12Lと、承認された作業の内容を示す画像P12Rとを、表示部22に表示して(ステップS2250)、処理を終了する。
また、作業支援システム1は、作業着手が承認されたことを、ヘッドマウント装置2を介して作業者Xに対して通知する際に、画像以外の方法によって通知してもよい。例えば、作業支援システム1は、ヘッドマウント装置2が使用されている場合には、作業着手が承認されたことを、画像によって通知する。また、作業支援システム1は、ヘッドマウント装置2が使用されていない場合には、作業着手が承認されたことを、音によって通知するようにしてもよい。この場合、ヘッドマウント装置2は、自装置が使用されているか否かを、自装置が作業者Xの頭部に装着されているか否かに基づいて判定してもよい。
また、ヘッドマウント装置2は、表示した画像の消去条件が成立すると、この画像の表示を終了するとともに、表示を終了したことを情報処理装置4に通知する。情報処理装置4は、この表示を終了したことの通知を受信すると、当該画像について表示を終了したこと記憶(登録)する。
[機能構成及び動作;作業進捗判定機能]
ヘッドマウント装置2は、時刻取得部2301と、作業情報取得部2302と、作業進捗判定部2303と、アラーム制御部2304と、スケジュール変更要求部2305とを、作業進捗判定機能F13を実現する機能部として備えている。
情報処理装置4は、作業情報提供部4301と、スケジュール変更部4302とを、作業進捗判定機能F13を実現する機能部として備えている。
以下、図15を参照して作業進捗判定機能F13についてのヘッドマウント装置2及び情報処理装置4の動作の一例について説明する。
図15は、本実施形態に係る作業進捗判定機能F13についての各装置の動作例を示す図である。
ヘッドマウント装置2の時刻取得部2301は、現在の時刻を取得する(ステップS2310)。
情報処理装置4の作業情報提供部4101は、記憶装置6から作業情報を取得して、取得した作業情報をヘッドマウント装置2に提供する(ステップS4310)。この作業情報には、少なくとも作業内容(作業項目)の情報と、作業着手時刻及び作業終了時刻(作業スケジュール)の情報とが含まれている。
ヘッドマウント装置2の作業情報取得部2302は、ステップS4310において提供された作業情報を取得する(ステップS2320)。
作業情報取得部2302は、取得された作業情報と、現在の時刻とに基づいて、作業計画と実際の作業進捗とに乖離があるか否か、つまり、作業進捗の進みや遅れの有無を判定する(ステップS2330)。作業情報取得部2302は、作業進捗の進みや遅れが有ると判定した場合(ステップS2330;YES)には、処理をステップS2340に進める。
ステップS2340において、アラーム制御部2304は、作業計画と実際の作業進捗とに乖離があることを示すアラームを出力する。具体的には、アラーム制御部2304は、図6に示したように、作業が予定よりも遅れていることを示す画像P13Lや、遅れの状況を示す画像P13Rを表示部22に表示する。作業が計画よりも遅れている場合には、次の作業の着手が遅れる。また、作業が計画よりも進んでいる場合には、例えば、他の作業との関係により本来作業に着手してはならない時刻に作業を行うことになる。作業支援システム1は、作業者Xに対してアラームを出力することにより、作業が計画通りに進捗するように促すことができる。
スケジュール変更要求部2305は、スケジュールの変更要求を情報処理装置4に対して出力する(ステップS2350)。スケジュールの変更要求とは、作業計画と実際の作業進捗とに乖離がある場合において、実際の作業進捗にあわせた作業計画の変更の要求である。スケジュールの変更要求には、変更後の作業スケジュールの情報が含まれている。
情報処理装置4のスケジュール変更部4302は、ヘッドマウント装置2からスケジュールの変更要求を取得すると、記憶装置6に記憶されている作業情報の作業スケジュールのうち、スケジュール変更要求に対応する作業スケジュールを変更する(ステップS4340)。
なお、この一例では、作業進捗の計画からの乖離の有無を、上述したステップS2330においてヘッドマウント装置2が判定するとして記載したが、情報処理装置4が判定してもよい。この場合には、ヘッドマウント装置2は、情報処理装置4に対して作業の進捗を示す情報を提供してもよい。また、作業進捗が計画から乖離していると情報処理装置4が判定した場合に、情報処理装置4がヘッドマウント装置2に対して、作業進捗が計画から乖離していることを示す情報を提供してもよい。
[機能構成及び動作;作業重複判定機能]
ヘッドマウント装置2は、作業情報取得部2401と、作業情報送信要求部2402と、重複判定部2403と、アラーム制御部2404と、スケジュール変更要求部2405とを、作業重複判定機能F14を実現する機能部として備えている。
情報処理装置4は、作業情報提供部4401と、送信要求取得部4402と、スケジュール変更部4403とを、作業重複判定機能F14を実現する機能部として備えている。
以下、図16を参照して作業重複判定機能F14についてのヘッドマウント装置2及び情報処理装置4の動作の一例について説明する。
図16は、本実施形態に係る作業重複判定機能F14についての各装置の動作例を示す図である。この一例では、ヘッドマウント装置2の利用者が作業者X1であり、自身つまり作業者X1の作業スケジュールと、この作業者X1以外の作業者X2の作業スケジュールとの重複を判定する場合について説明する。
情報処理装置4の作業情報提供部4401は、作業情報をヘッドマウント装置2に提供する(ステップS4410)。この作業情報は、作業者X1が実施すべき作業を示している。この作業情報提供部4401が提供する作業情報には、作業者X1が実施すべき作業の作業場所(作業現場)と、作業着手時刻及び作業終了時刻(作業スケジュール)の情報とが含まれている。具体的には、作業者X1についての作業情報には、図13に示す作業ID_WK01、作業ID_WK02、作業ID_WK03、…、作業ID_WK09が含まれている。
ヘッドマウント装置2の作業情報取得部2401は、ステップS4410において提供された作業情報、すなわち作業者X1が実施すべき作業の作業情報を取得する(ステップS2410)。
作業情報送信要求部2402は、作業者X2についての作業情報の送信要求を情報処理装置4に対して出力する(ステップS2420)。
送信要求取得部4402は、ステップS2420において出力された送信要求を取得する(ステップS4420)。
作業情報提供部4401は、ステップS4420において取得された送信要求に基づいて、作業情報をヘッドマウント装置2に提供する(ステップS4430)。この送信要求とは、作業者X2についての作業情報の送信要求である。作業情報提供部4401は、記憶装置6に記憶されている作業情報のうち、作業者X2についての作業情報を取得して、取得した作業情報をヘッドマウント装置2に提供する。この作業情報には、作業者X2が実施すべき作業の作業場所(作業現場)と、作業着手時刻及び作業終了時刻(作業スケジュール)の情報とが含まれている。具体的には、作業者X2についての作業情報には、図13に示す作業ID_WK11、及び作業ID_WK12が含まれている。
作業情報取得部2401は、ステップS4430において提供された作業情報、すなわち作業者X2が実施すべき作業の作業情報を取得する(ステップS2430)。
重複判定部2403は、作業者X1の作業情報と、作業者X2の作業情報とを比較することにより、作業どうしの重複の有無を判定する(ステップS2440)。具体的には、重複判定部2403は、作業情報のうち、作業現場の位置と、作業着手時刻及び作業終了時刻とが、作業者X1と作業者X2との間において一致するか否かを判定する。より具体的には、重複判定部2403は、作業情報から第1の作業と第2の作業との2つの作業を選択する。例えば、重複判定部2403は、第1の作業として作業ID_WK01を選択し、第2の作業として作業ID_WK2を選択する。次に、重複判定部2403は、作業情報のうちの「作業現場の位置」が、選択した2つの作業間において一致するか否かを判定する。また、重複判定部2403は、選択した2つの作業間において「作業時間」が重複している時間帯が有るか否かを判定する。重複判定部2403は、選択した2つの作業間において「作業現場の位置」が一致し、かつ「作業時間」が重複している場合には、選択した2つの作業どうしが重複していると判定する。一方、重複判定部2403は、選択した2つの作業間において「作業現場の位置」が一致しておらず、又は「作業時間」が重複していない場合には、選択した2つの作業どうしが重複していないと判定する。重複判定部2403は、作業情報の各作業について、第1の作業及び第2の作業としての2つの作業を選択することを繰り返し、作業どうしの重複の有無を判定する。
重複判定部2403による重複判定について、図13に例示する作業情報の場合を具体例にして説明する。重複判定部2403は、第1の作業として作業者X1の作業である作業ID_WK01を、第2の作業として作業者X2の作業である作業ID_WK11を、それぞれ選択する。重複判定部2403は、作業ID_WK01の「作業現場の位置」と、作業ID_WK11の「作業現場の位置」とを比較する。ここで、作業ID_WK01と、作業ID_WK11とは、「作業現場の位置」のうち「建物名」と「部屋名」とが一致する。また、作業ID_WK01と、作業ID_WK11とは、「作業現場の位置」のうち「対象装置」が一致しない。ここで、「対象装置」が一致していない場合であっても、「建物名」や「部屋名」が一致している場合には、2つの作業を同時に実施できない場合がある。この場合には、重複判定部2403は、2つの作業について、「作業現場の位置」のうち「建物名」と「部屋名」とが一致する場合には、これらの作業が重複していると判定する。また、「建物名」や「部屋名」が一致していても、「対象装置」が一致していない場合には、2つの作業を同時に実施できることがある。この場合には、重複判定部2403は、2つの作業について、「作業現場の位置」のうち「建物名」と「部屋名」とが一致していても、「対象装置」が一致していない場合には、これらの作業が重複していないと判定する。2つの作業の「対象装置」が一致していない場合に、これら2つの作業を同時に実施できるか否かは、2つの作業間の因果関係や、作業対象の装置間の配置などにより変化する。具体的には、2つの作業間に因果関係があると、例えば、第2の作業は、第1の作業が完了してからでないと着手できない場合がある。また、対象装置10−1と、対象装置10−2との設置間隔が狭い場合、複数の作業者Xが同時に作業できない場合がある。作業情報には、図13に例示した情報に加えて「作業間の因果関係」や、「対象装置の配置」などの情報が含まれていてもよい。この場合には、重複判定部2403は、作業情報に含まれる「2つの作業間の因果関係」や、「対象装置の配置」などの情報に基づいて、作業の重複を判定してもよい。
また、重複判定部2403が選択する2つの作業は、作業を実施すべき作業者Xが互いに異なる。作業を実施すべき作業者Xが互いに異なる場合、これらの作業は、場所と時間とが重複することがある。一方、作業ID_WK01と作業ID_WK02とのように、作業を実施すべき作業者Xが同一である場合には、これらの作業は、場所と時間とが重複することが、作業者Xが互いに異なる場合に比べて少ない。したがって、2つの作業を選択する場合に、作業を実施すべき作業者Xが互いに異なる作業を選択した方が、作業者Xが同一の作業を選択するよりも、作業どうしの重複を効率よく判定することができる場合がある。重複判定部2403は、作業を実施すべき作業者Xが互いに異なる作業を、作業者Xが同一の作業よりも優先的に選択する。重複判定部2403は、選択する2つ作業の組み合わせに優先度をつけることにより、作業の重複を効率よく判定する。
重複判定部2403は、作業どうしの重複が有ると判定した場合(ステップS2440;YES)には、処理をステップS2450に進める。
アラーム制御部2404は、作業どうしの重複が有ることを示すアラームを出力する(ステップS2450)。具体的には、アラーム制御部2404は、図8に例示する画像P15Lや画像P15Rを表示部22に表示する。
スケジュール変更要求部2405は、スケジュールの変更要求を情報処理装置4に出力する(ステップS2460)。このスケジュールの変更要求には、変更後の作業スケジュールの情報が含まれている。
情報処理装置4のスケジュール変更部4403は、ヘッドマウント装置2からスケジュールの変更要求を取得すると、記憶装置6に記憶されている作業情報の作業スケジュールのうち、スケジュール変更要求に対応する作業スケジュールを変更する(ステップS4440)。
なお、この一例では、作業の重複の有無を、上述したステップS2430においてヘッドマウント装置2が判定するとして記載したが、情報処理装置4が判定してもよい。この場合には、作業が重複していると情報処理装置4が判定した場合に、情報処理装置4がヘッドマウント装置2に対して、作業が重複していることを示す情報を提供してもよい。
[機能構成及び動作;作業内容の表示機能]
ヘッドマウント装置2は、自位置情報取得部2501と、自位置情報提供部2502と、作業情報取得部2503を、作業内容の表示機能F15を実現する機能部として備えている。
情報処理装置4は、自位置情報取得部4501と、作業情報検索部4502と、作業情報提供部4503とを、作業内容の表示機能F15を実現する機能部として備えている。
以下、図17を参照して作業内容の表示機能F15についてのヘッドマウント装置2及び情報処理装置4の動作の一例について説明する。
図17は、本実施形態に係る作業内容の表示機能F15についての各装置の動作例を示す図である。
ヘッドマウント装置2の自位置情報取得部2501は、測位部27から測位値を取得する。この測位値には、ヘッドマウント装置2の位置を示す自位置情報が含まれている。つまり、自位置情報取得部2501は、自位置情報を取得する自位置情報を取得する(ステップS2510)。
自位置情報提供部2502は、ステップS2510において取得された自位置情報を情報処理装置4に提供する(ステップS2520)。
情報処理装置4の自位置情報取得部4501は、ステップS2520において提供された自位置情報を取得する(ステップS4510)。
作業情報検索部4502は、ステップS4510において取得された自位置情報を検索キーにして、記憶装置6に記憶されている作業情報を検索する。作業情報検索部4502は、作業情報のうち作業現場の位置と、自位置情報が示す位置とが一致する作業情報を検索結果として抽出する(ステップS4520)。
作業情報提供部4503は、抽出された検索結果である作業情報を、ヘッドマウント装置2に提供する(ステップS4530)。
ヘッドマウント装置2の作業情報取得部2503は、ステップS4530において提供された作業情報を取得し(ステップS2530)、取得した作業情報を表示部22に表示して(ステップS2540)、処理を終了する。
[機能構成及び動作;作業手順の表示機能]
ヘッドマウント装置2は、撮像制御部2601と、画像提供部2602と、作業手順情報取得部2603とを、作業手順の表示機能F16を実現する機能部として備えている。
情報処理装置4は、画像取得部4601と、装置識別情報取得部4602と、作業手順情報検索部4603と、作業手順情報提供部4604とを、作業手順の表示機能F16を実現する機能部として備えている。
以下、図18を参照して作業手順の表示機能F16についてのヘッドマウント装置2及び情報処理装置4の動作の一例について説明する。
図18は、本実施形態に係る作業手順の表示機能F16についての各装置の動作例を示す図である。
ヘッドマウント装置2の撮像制御部2601は、対象装置10の画像を撮像部23に撮像させ(ステップS2610)、対象装置10の画像を取得する。この対象装置10の画像の一例について、図19を参照して説明する。
図19は、本実施形態に係る対象装置10の画像の一例を示す図である。この一例において、作業者Xが実施すべき作業は、対象装置10−1と対象装置10−2との間にケーブルを敷設し、該ケーブルで対象装置10−1と対象装置10−2とを接続する作業である。装置90−1、90−2及び90−3は、作業対象外の装置である。装置90−1、90−2、90−3のことを対象外装置と称する。ヘッドマウント装置2の表示部22は、画像IM1を表示している。画像IM1は、対象装置10が撮像された画像である。
図18に戻り、画像提供部2602は、ステップS2610において撮像された画像を、情報処理装置4に提供する(ステップS2620)。
情報処理装置4の画像取得部4601は、ステップS2620において提供された画像を取得する(ステップS4610)。
装置識別情報取得部4602は、ステップS4610において取得された画像に含まれる対象装置10の画像に基づいて、対象装置10を識別する。この一例では、装置識別情報取得部4602は、対象装置10−1及び対象装置10−2を識別する。この装置識別情報取得部4602による識別には、画像に含まれる対象装置10の外形や、名称、型番等の情報が用いられる。装置識別情報取得部4602は、既知の画像処理手順によって、対象装置10の画像から対象装置10の外形や、名称、型番等の情報を抽出し、抽出した情報を識別情報として取得する。
記憶装置6には、対象装置10の識別情報と、対象装置10に対する作業手順とが関連付けられて、作業手順情報として記憶されている。
作業手順情報検索部4603は、ステップS4620において取得された識別情報を検索キーにして、記憶装置6に記憶されている作業手順情報を検索する(ステップS4630)。作業手順情報検索部4603は、作業手順情報のうち、ステップS4620において取得された識別情報と、識別情報が一致する作業手順情報を検索結果として抽出する。
作業手順情報提供部4604は、ステップS4630において抽出された作業手順情報を、ヘッドマウント装置2に提供して(ステップS4640)、処理を終了する。
ヘッドマウント装置2の作業手順情報取得部2603は、ステップS4640において提供された作業手順情報を取得し(ステップS2630)、取得した作業手順情報を表示部22に表示して(ステップS2640)、処理を終了する。
ここで、作業手順情報とは、対象装置10の操作が文章や図によって表現されている電子マニュアルであってもよいし、作業における注意を促す警告画像であってもよい。この作業手順情報として表示部22に表示される、作業における注意を促す警告画像の一例について、図20を参照して説明する。
図20は、本実施形態に係る警告画像の一例を示す図である。この一例において、ヘッドマウント装置2の表示部22は、警告画像IM101、IM102、IM103、IM104、IM105及びIM106を表示する。警告画像IM101及びIM102は、該警告画像IM101及びIM102の表示に対応する部分が作業対象であることを示している。
一方、警告画像IM103、IM104、IM105及びIM106は、該警告画像IM103、IM104、IM105及びIM106の表示に対応する部分が作業対象ではないことを示している。警告画像IM103は、該警告画像IM103の表示に対応する部分が運用中であり注意するように、作業者Xに警告する画像である。警告画像IM104、IM105及びIM106は、該警告画像IM104、IM105及びIM106の表示に対応する部分が対象外装置であることを作業者Xに警告する画像である。警告画像IM105には、過去に誤作業が発生した箇所である旨と、該誤作業が発生した日時とが示されている。
警告画像IM101、IM102、IM103、IM104、IM105及びIM106によって、作業者Xに対し、作業内容の再確認を促すことができる。これにより、作業者Xが作業すべき内容とは異なる内容の作業を誤って実施してしまうことを未然に防止する効果が得られる。
なお、実際に作業者Xが実施した作業内容を確認するために、ヘッドマウント装置2の記録部25に記録されている一定時間分の撮像画像をヘッドマウント装置2から情報処理装置4へ送信し、該一定時間分の撮像画像を情報処理装置4の表示部45で表示してもよい。例えば、作業者Xに警告する時に該作業者Xに作業を中断させ、ヘッドマウント装置2の記録部25に記録されている一定時間分の撮像画像を情報処理装置4の表示部45で表示するようにしてもよい。これにより、承認者Yは、作業者Xに警告する時に、該表示部45が表示する一定時間分の撮像画像によって作業者Xが実施した作業内容を把握することができる。作業者Xが実施した作業内容を把握することによって、該把握内容を、作業者Xに対する警告内容や作業内容の指示などに反映することができる。
また、情報処理装置4が、ある特定の作業の電子マニュアルなどをヘッドマウント装置2に対して送信する場合には、ヘッドマウント装置2が録画した画像の記憶や、当該画像の情報処理装置4に対するリアルタイム送信を指示する情報を、ヘッドマウント装置2に対して併せて送信してもよい。
また、これまでヘッドマウント装置2と情報処理装置4とが直接、情報の送受を行う場合について説明したが、これに限られない。ヘッドマウント装置2と情報処理装置4とは、不図示の通信装置を介して情報の送受を行ってもよい。例えば、ヘッドマウント装置2の通信部24は、通信装置と通信を行う。通信装置は、通信回線8を介して、情報処理装置4とデータを送受する。ヘッドマウント装置2は、通信装置を介して、情報処理装置4とデータを送受する。
ヘッドマウント装置2の通信部24は、撮像画像等のデータを通信装置へ送信する。通信装置は、ヘッドマウント装置2から受信した撮像画像等のデータを、通信回線8を介して情報処理装置4へ送信する。
情報処理装置4の通信部46は、通信回線8を介して画像等のデータを通信装置へ送信する。通信装置は、情報処理装置4から受信した画像等のデータをヘッドマウント装置2へ送信する。ヘッドマウント装置2の通信部24は、通信装置から画像等のデータを受信する。ヘッドマウント装置2の表示部22は、通信部24が通信装置から受信した画像を表示する。
ヘッドマウント装置2の通信部24と通信装置とは、例えばビーエルイー(Bluetooth(登録商標) Low Energy:BLE)などの近距離無線通信技術によって無線データ通信を行う。これにより、ヘッドマウント装置2の通信部24が通信装置を介さずに直接に通信回線8を介して情報処理装置4とデータを送受する場合に比して、ヘッドマウント装置2の消費電力を低減することができる。これは、ヘッドマウント装置2のバッテリーの持ちをよくし、ヘッドマウント装置2のより長い使用時間の実現に貢献できる。
通信装置として、例えばスマートフォンやタブレット、ノート型コンピュータ等の携帯通信端末装置を適用できる。
以上、本発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。
上述した情報処理装置の機能を実現するためのコンピュータプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行するようにしてもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものであってもよい。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリ等の書き込み可能な不揮発性メモリ、DVD(Digital Versatile Disc)等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
1…作業支援システム、2…ヘッドマウント装置、4…情報処理装置、6…記憶装置、8…通信回線、10…対象装置、21…制御部、22…表示部、23…撮像部、24,46…通信部、25…記録部、26…センサー部、27…測位部、28…視線検出部、29…音声再生部、30…収音部、41…CPU、42…メモリ、43…不揮発性メモリ、44…操作部、45…表示部、47…プログラム

Claims (10)

  1. 画像を表示する表示部と、
    作業の内容を示す作業内容情報と、当該作業のスケジュールを示すスケジュール情報とを含む作業情報を取得する作業情報取得部と、
    現在の時刻を取得する時刻取得部と、
    前記作業情報取得部が取得する前記作業情報に含まれる前記スケジュール情報と、前記時刻取得部が取得する時刻とに基づいて、当該作業情報に含まれる前記作業内容情報が示す作業の内容の画像を前記表示部に表示させる表示制御部と
    を備えるヘッドマウント装置。
  2. 前記スケジュール情報が示す前記作業のスケジュールと、前記時刻取得部が取得する時刻とに基づいて、前記作業の進捗状況を判定する進捗状況判定部
    を更に備え、
    前記表示制御部は、
    前記進捗状況判定部による判定の結果を示す画像を前記表示部に表示させる
    請求項1に記載のヘッドマウント装置。
  3. 前記進捗状況判定部による判定の結果に基づいて、前記作業情報取得部が取得した前記作業情報を更新する作業情報更新部
    を更に備える請求項2に記載のヘッドマウント装置。
  4. 自装置を利用する作業者以外の他作業者に割り当てられている作業のスケジュールを示す情報を含む他作業情報を取得する他作業情報取得部と、
    前記他作業情報取得部が取得する前記他作業情報と、前記作業情報取得部が取得する前記作業情報とに基づいて、前記作業者の作業と前記他作業者の作業との相対的な進捗状況を判定する他作業進捗状況判定部と
    を更に備え、
    前記表示制御部は、
    前記他作業進捗状況判定部による判定の結果を示す画像を前記表示部に表示させる
    請求項1から請求項3のいずれか一項に記載のヘッドマウント装置。
  5. 前記他作業進捗状況判定部による判定の結果に基づいて、前記作業情報取得部が取得した前記作業情報又は前記他作業情報取得部が取得した前記他作業情報を更新する
    請求項4に記載のヘッドマウント装置。
  6. 音を出力する音出力部と、
    自装置が作業者の頭部に装着されているか否かを判定する装着判定部と、
    を更に備え、
    前記表示制御部は、
    前記作業内容情報が示す作業の内容の画像を前記表示部に表示させる際に、前記装着判定部が装着されていないと判定する場合には、前記音出力部から音を出力させる
    請求項1から請求項5のいずれか一項に記載のヘッドマウント装置。
  7. 前記作業情報には、前記作業の着手が承認される予定時刻を示す承認予定時刻情報が含まれ、
    前記表示制御部は、
    前記作業情報取得部が取得する前記作業情報に含まれる前記承認予定時刻情報が示す前記予定時刻の画像を前記表示部に表示させる
    請求項1から請求項6のいずれか一項に記載のヘッドマウント装置。
  8. 画像を表示する表示部を備えるヘッドマウント装置のコンピュータに、
    作業の内容を示す作業内容情報と、当該作業のスケジュールを示すスケジュール情報とを含む作業情報を取得する作業情報取得ステップと、
    現在の時刻を取得する時刻取得ステップと、
    前記作業情報取得ステップにおいて取得される前記作業情報に含まれる前記スケジュール情報と、前記時刻取得ステップにおいて取得される時刻とに基づいて、当該作業情報に含まれる前記作業内容情報が示す作業の内容の画像を前記表示部に表示させる表示制御ステップと
    を実行させるためのプログラム。
  9. 請求項1から請求項7のいずれか一項に記載のヘッドマウント装置と、前記ヘッドマウント装置との間において情報を授受する情報処理装置とを備え、
    前記ヘッドマウント装置は、
    自装置の位置を示す自位置情報を、前記情報処理装置に送信する自位置情報送信部
    を備え、
    前記情報処理装置は、
    前記自位置情報送信部が送信する前記自位置情報を受信する自位置情報受信部と、
    前記スケジュール情報と作業場所情報とが関連付けられて前記作業情報として記憶されている作業情報記憶部から、前記自位置情報受信部が受信する前記自位置情報に対応する前記作業場所情報が関連付けられている前記スケジュール情報を抽出するスケジュール情報抽出部と、
    前記スケジュール情報抽出部が抽出する前記スケジュール情報を前記ヘッドマウント装置に送信する
    作業支援システム。
  10. 前記ヘッドマウント装置は、
    当該ヘッドマウント装置の周辺の風景を撮像して画像を生成する撮像部と、
    前記撮像部が撮像する画像を、前記情報処理装置に送信する画像送信部と、
    を備え、
    前記情報処理装置は、
    前記画像送信部が送信する前記画像を受信する画像受信部と、
    前記画像受信部が受信する前記画像に含まれる作業対象の機器の情報を当該画像から抽出する機器情報抽出部と、
    作業対象の機器を示す機器情報と、当該機器についての作業手順を示す情報とが関連付けられて作業手順情報として記憶されている作業手順情報記憶部から、前記機器情報抽出部が抽出する前記機器の情報に対応する前記機器情報が関連付けられている前記作業手順情報を抽出する作業手順情報抽出部と、
    前記作業手順情報抽出部が抽出する前記作業手順情報を前記ヘッドマウント装置に送信する
    請求項9に記載の作業支援システム。
JP2016054564A 2016-03-17 2016-03-17 ヘッドマウント装置、プログラム及び作業支援システム Pending JP2017167991A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016054564A JP2017167991A (ja) 2016-03-17 2016-03-17 ヘッドマウント装置、プログラム及び作業支援システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016054564A JP2017167991A (ja) 2016-03-17 2016-03-17 ヘッドマウント装置、プログラム及び作業支援システム

Publications (1)

Publication Number Publication Date
JP2017167991A true JP2017167991A (ja) 2017-09-21

Family

ID=59913454

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016054564A Pending JP2017167991A (ja) 2016-03-17 2016-03-17 ヘッドマウント装置、プログラム及び作業支援システム

Country Status (1)

Country Link
JP (1) JP2017167991A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019141260A (ja) * 2018-02-19 2019-08-29 株式会社吉田製作所 情報表示システム、情報表示装置、情報表示方法および情報表示プログラム
JP2019204282A (ja) * 2018-05-23 2019-11-28 富士電機株式会社 サーバ、システム、方法、及びプログラム
DE112018004653T5 (de) 2017-08-31 2020-07-09 Yazaki Corporation Elementen-Verriegelungsstruktur
JP2022102681A (ja) * 2020-12-25 2022-07-07 ソフトバンク株式会社 眼鏡型デバイス、プログラム、及び制御方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06245378A (ja) * 1993-02-17 1994-09-02 Toshiba Corp 電力系統通報装置
JP2001034615A (ja) * 1999-07-16 2001-02-09 Nippon Telegr & Teleph Corp <Ntt> 作業支援システム及び作業支援方法
JP2007108880A (ja) * 2005-10-11 2007-04-26 Omron Corp 生産管理装置、生産管理方法、生産管理プログラム、生産管理プログラムを記録した記録媒体、および生産システム
JP2007164593A (ja) * 2005-12-15 2007-06-28 Toshiba Corp 作業工程管理装置及び作業工程管理方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06245378A (ja) * 1993-02-17 1994-09-02 Toshiba Corp 電力系統通報装置
JP2001034615A (ja) * 1999-07-16 2001-02-09 Nippon Telegr & Teleph Corp <Ntt> 作業支援システム及び作業支援方法
JP2007108880A (ja) * 2005-10-11 2007-04-26 Omron Corp 生産管理装置、生産管理方法、生産管理プログラム、生産管理プログラムを記録した記録媒体、および生産システム
JP2007164593A (ja) * 2005-12-15 2007-06-28 Toshiba Corp 作業工程管理装置及び作業工程管理方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112018004653T5 (de) 2017-08-31 2020-07-09 Yazaki Corporation Elementen-Verriegelungsstruktur
JP2019141260A (ja) * 2018-02-19 2019-08-29 株式会社吉田製作所 情報表示システム、情報表示装置、情報表示方法および情報表示プログラム
JP7121968B2 (ja) 2018-02-19 2022-08-19 株式会社吉田製作所 情報表示システム、情報表示装置、情報表示方法および情報表示プログラム
JP2019204282A (ja) * 2018-05-23 2019-11-28 富士電機株式会社 サーバ、システム、方法、及びプログラム
JP7059798B2 (ja) 2018-05-23 2022-04-26 富士電機株式会社 サーバ、システム、方法、及びプログラム
JP2022102681A (ja) * 2020-12-25 2022-07-07 ソフトバンク株式会社 眼鏡型デバイス、プログラム、及び制御方法

Similar Documents

Publication Publication Date Title
JP2017167992A (ja) ヘッドマウント装置、プログラム、作業支援システム及び情報処理装置
JP2017167991A (ja) ヘッドマウント装置、プログラム及び作業支援システム
JP6387468B2 (ja) ナビゲーション方法、装置、プログラム及び記録媒体
JP2004102727A (ja) 作業支援システム
JP2014206880A (ja) 作業支援装置
TW201741853A (zh) 虛擬實境即時導覽方法及系統
JP2008003781A (ja) 作業監視システム
US20220276701A1 (en) Remote work support system
JP2017016465A (ja) 表示制御方法、情報処理装置および表示制御プログラム
JP6910603B2 (ja) 施工管理システム、施工管理方法、携帯端末及びプログラム
JP4543694B2 (ja) コミュニケーションシステム、コミュニケーションシステムのサーバー、及びサーバーの処理方法
TWI439134B (zh) 三維場景數位影像監控系統及方法
JP2008065675A (ja) 複合現実感システムとそのイベント入力方法及びヘッドマウントディスプレイ
JP2017167978A (ja) 画像表示システム、情報処理装置、画像表示方法及びコンピュータプログラム
JP2019040005A (ja) 読み上げシステム及び読み上げ方法
JPWO2020080480A1 (ja) 航空機検査支援装置および航空機検査支援方法
EP3123355B1 (en) System comprising an audio device and a mobile device for displaying information concerning the audio device
US20160133243A1 (en) Musical performance system, musical performance method and musical performance program
WO2020262463A1 (ja) ガス検出端末装置及びガス検出システム
JP2016171477A (ja) 遠隔作業支援装置、モニタリングシステム、および、遠隔作業支援方法
JP6278404B2 (ja) カラオケ管理システム、プログラム、及び、カラオケシステム
JP5578143B2 (ja) 情報提供装置および情報提供システム
US20210385101A1 (en) Information processing apparatus and information processing method
TWI660305B (zh) 虛擬實境即時導覽方法及系統
JP6890868B1 (ja) 遠隔地間で意思疎通を行うための端末装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20160318

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180313

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20180314

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190423

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190924