JP2014150343A - 作業補助システム及び作業装置 - Google Patents

作業補助システム及び作業装置 Download PDF

Info

Publication number
JP2014150343A
JP2014150343A JP2013016971A JP2013016971A JP2014150343A JP 2014150343 A JP2014150343 A JP 2014150343A JP 2013016971 A JP2013016971 A JP 2013016971A JP 2013016971 A JP2013016971 A JP 2013016971A JP 2014150343 A JP2014150343 A JP 2014150343A
Authority
JP
Japan
Prior art keywords
communication mode
communication
unit
instruction
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013016971A
Other languages
English (en)
Inventor
Hiroshi Inoue
浩 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Brother Industries Ltd
Original Assignee
Brother Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Brother Industries Ltd filed Critical Brother Industries Ltd
Priority to JP2013016971A priority Critical patent/JP2014150343A/ja
Publication of JP2014150343A publication Critical patent/JP2014150343A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • Y02B60/50

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)

Abstract

【課題】無線通信を行うための消費電力を低減することが可能な作業補助システム及び作業装置を提供する。
【解決手段】HMDは、カメラと無線通信部とを備える。HMDのCPUは、PCとの通信の通信モードを、第一通信モードと、第一通信モードよりもデータ通信量の小さい第二通信モードとの間で切替可能である。カメラによって撮像された複数の画像の間の変化量が第一閾値より小さい場合において、PCにおいて第一通信モードから第二通信モードへの切り替えの指示が入力された場合、PCからHMDに、第一切替指示情報が送信される。第一切替指示情報は、第一通信モードから第二通信モードへの切り替えを指示する情報である。HMDのCPUは、第一切替指示情報を受信した場合(S21:YES)、通信モードを第一通信モードから第二通信モードに切り替える。
【選択図】図7

Description

本発明は、作業の指示を作業者に提示可能な作業補助システム及び作業装置に関する。
従来、作業の指示を作業者に提示可能な作業補助システムが知られている。例えば、特許文献1に記載の双方向情報伝送システムは、現場事務所の人員と、現場事務所から離れた場所に位置する作業者との間において映像と音声との情報を双方向に伝送可能に構成されている。作業者が着用するヘルメットには、第1テレビカメラ及び第1モニタ装置等が設けられている。第1モニタ装置は作業者の眼前に位置する。作業者は、第1信号送受信装置を背負う。現場事務所には、テレビ受像機と第2テレビカメラとが設けられている。第1テレビカメラは、作業者の視界内を撮影する。第1テレビカメラによって撮影された撮影映像は、第1信号送受信装置によって無線伝送されて現場事務所のテレビ受像機に表示される。現場事務所の第2テレビカメラによって撮影された設計図面等の撮影映像は、無線伝送されて第1信号送受信装置によって受信される。第1信号送受信装置によって受信された撮影画像は、作業者の眼前の第1モニタ装置に表示される。
特開平5−211650号公報
しかしながら、前記双方向情報伝送システムでは、第1テレビカメラによって撮影された撮影映像を無線伝送している。このため、撮影映像の符号化に伴う消費電力及び第1送受信装置による無線伝送に伴う消費電力等が発生し、消費電力が大きいという問題点がある。
本発明の目的は、無線通信を行うための消費電力を低減することが可能な作業補助システム及び作業装置を提供することである。
本発明の第1の態様に係る作業補助システムは、撮像部及び無線通信部を備え、作業の指示を受信して作業者に提示可能な作業装置と、第一表示部、入力部、及び通信部を備え、前記作業者に対する前記作業の指示を前記作業装置に送信可能な指示装置とを備え、前記作業装置及び前記指示装置がネットワークを介して接続された作業補助システムであって、前記作業装置は、前記無線通信部を使用した通信の通信モードを、前記撮像部によって撮像された画像の画像データを前記指示装置に送信する第一通信モードと、前記第一通信モードよりもデータ通信量の小さい第二通信モードとの間で切り替え可能な通信制御手段と、前記指示装置から送信される、前記第一通信モードから前記第二通信モードへの切り替えを指示する情報である第一切替指示情報を、前記無線通信部を介して受信する第一切替指示受信手段と、前記第一切替指示受信手段によって前記第一切替指示情報が受信された場合に、前記通信制御手段の前記通信モードを、前記第一通信モードから前記第二通信モードに切り替える第一通信切替手段とを備え、前記指示装置は、前記作業装置から送信された前記画像データを、前記通信部を介して受信する画像データ受信手段と、受信された前記画像データに基づく前記画像を前記第一表示部に表示する第一表示制御手段と、前記撮像部によって撮像された複数の前記画像の間の変化量が第一閾値より小さい場合に、前記第一通信モードから前記第二通信モードへの切り替えの指示が前記入力部に入力されたか否かを判断する第一切替判断手段と、前記第一切替判断手段によって前記第一通信モードから前記第二通信モードへの切り替えの指示が前記入力部に入力されたと判断された場合に、前記第一切替指示情報を前記作業装置に送信する第一切替指示手段とを備えている。
複数の画像の間の変化量が第一閾値より小さい場合において、第一通信モードから第二通信モードへの切り替えの指示が指示装置の入力部に入力されることによって、第二通信モードに切り替えることができる。このため、第一通信モードにおいて画像を送信し続ける場合に比べて、データ通信量を小さくでき、無線通信を行うための消費電力を低減できる。また、作業装置を装着している作業者からの入力を必要としないため、作業者の手を煩わせることはない。
前記作業補助システムにおいて、前記指示装置は、前記通信制御手段の前記通信モードが前記第一通信モードである場合に、前記画像データ受信手段によって受信された前記画像データに基づく複数の前記画像の間の変化量が前記第一閾値より小さいか否かを判断する第一変化量判断手段を備え、前記第一切替判断手段は、前記第一変化量判断手段によって複数の前記画像の間の変化量が前記第一閾値より小さいと判断された場合に、前記第一通信モードから前記第二通信モードへの切り替えの指示が前記入力部に入力されたか否かを判断してもよい。この場合、指示装置が複数の画像の間の変化量が第一閾値より小さいか否かを判断する。このため、作業装置が複数の画像の間の変化量が第一閾値より小さいか否かを判断する場合に比べて、作業装置の消費電力を低減できる。
前記作業補助システムにおいて、前記作業装置は、前記通信制御手段の前記通信モードが前記第一通信モードである場合に、撮像部によって撮像された複数の前記画像の間の変化量が前記第一閾値より小さいか否かを判断する第二変化量判断手段と、前記第二変化量判断手段によって複数の前記画像の間の変化量が前記第一閾値より小さいと判断された場合に、複数の前記画像の間の変化量が前記第一閾値より小さいことを示す情報である第一閾値情報を前記指示装置に送信する第一情報送信手段とを備え、前記指示装置は、前記第一情報送信手段によって送信された前記第一閾値情報を受信する第一情報受信手段を備え、前記第一切替判断手段は、前記第一情報受信手段によって前記第一閾値情報が受信された場合に、前記第一通信モードから前記第二通信モードへの切り替えの指示が前記入力部に入力されたか否かを判断してもよい。この場合、作業装置が複数の画像の間の変化量が第一閾値より小さいか否かを判断する。このため、指示装置が複数の画像の間の変化量が第一閾値より小さいか否かを判断する場合に比べて、指示装置の消費電力を低減できる。
前記作業補助システムにおいて、前記作業装置は、前記通信制御手段の前記通信モードが前記第二通信モードである場合に、前記撮像部によって撮像された複数の前記画像の間の変化量が第二閾値より大きいか否かを判断する第三変化量判断手段と、前記第三変化量判断手段によって複数の前記画像の間の変化量が前記第二閾値より大きいと判断された場合に、複数の前記画像の間の変化量が前記第二閾値より大きいことを示す情報である第二閾値情報を前記指示装置に送信する第二情報送信手段と、前記指示装置から送信される、前記第二通信モードから前記第一通信モードへの切り替えを指示する情報である第二切替指示情報を受信する第二切替指示受信手段と、前記第二切替指示受信手段によって前記第二切替指示情報が受信された場合に、前記通信制御手段の前記通信モードを、前記第二通信モードから前記第一通信モードに切り替える第二通信切替手段とを備え、前記指示装置は、前記第二情報送信手段によって送信される前記第二閾値情報を受信する第二情報受信手段と、前記第二情報受信手段によって前記第二閾値情報が受信された場合に、前記第二通信モードから前記第一通信モードへの切り替えの指示が前記入力部に入力されたか否かを判断する第二切替判断手段と、前記第二切替判断手段によって前記第二通信モードから前記第一通信モードへの切り替えの指示が前記入力部に入力されたと判断された場合に、前記第二切替指示情報を前記作業装置に送信する第二切替指示手段とを備えてもよい。
指示装置の第二切替判断手段によって第二通信モードから第一通信モードへの切り替えの指示が入力部に入力されたと判断された場合に、第一通信モードに切り替えられる。このため、指示者は、第二通信モードから第一通信モードへの切替の指示を指示装置に入力するか否かを選択することで、第一通信モードに切り替えるか否かを選択することができる。また、複数の画像の間の変化量が第二閾値より大きい場合に、第二通信モードよりデータ通信量の大きい第一通信モードに切り替えることができる。よって、指示者は、第一通信モードにおいて送信された画像データに基づく画像を確認しながら、指示を行うことができる。
前記作業補助システムにおいて、前記作業装置は、前記作業者の頭部に装着可能な第二表示部と、前記通信制御手段の前記通信モードが前記第二通信モードである場合に、前記撮像部によって撮像された前記画像を前記第二表示部に表示する第二表示制御手段とを備えてもよい。この場合、作業者は、第二通信モードである場合において撮像部によって撮像され、第二表示部に表示された画像を確認することができる。また、第二通信モードである場合に、撮像部によって画像が撮像されているので、例えば、撮像された画像の画像データを記憶することができる。
前記作業補助システムにおいて、前記第二表示制御手段は、前記通信制御手段の前記通信モードが前記第二通信モードである場合に、前記通信制御手段の前記通信モードが前記第一通信モードである場合に比べてフレームレートを下げて前記画像を前記第二表示部に表示してもよい。この場合、第二表示部に表示される画像のフレームレートが下げられるので、作業装置の消費電力をさらに低減することができる。
前記作業補助システムにおいて、前記作業装置は、前記通信制御手段の前記通信モードが前記第二通信モードである場合に、前記第二通信モードであることを報知する報知手段を備えてもよい。この場合、第二通信モードであることが報知されるので、作業者は、作業装置が第二通信モードであることを容易に認識することができる。
前記作業補助システムにおいて、前記第一変化量判断手段は、前記画像データ受信手段によって受信された前記画像データに基づく複数の前記画像の間の変化量が前記第一閾値より小さいか否かを判断する場合に、複数の前記画像それぞれの一部を比較してもよい。この場合、画像の一部が比較されるので、画像全体を比較する場合に比べて、比較のための処理量を低減することができる。よって、指示装置の消費電力を低減することができる。
前記作業補助システムにおいて、前記第二変化量判断手段は、前記撮像部によって撮像された複数の前記画像の間の変化量が前記第一閾値より小さいか否かを判断する場合に、複数の前記画像それぞれの一部を比較してもよい。この場合、画像の一部が比較されるので、画像全体を比較する場合に比べて、比較のための処理量を低減することができる。よって、作業装置の消費電力をさらに低減することができる。
前記作業補助システムにおいて、前記第三変化量判断手段は、前記撮像部によって撮像された複数の前記画像の間の変化量が前記第二閾値より大きいか否かを判断する場合に、複数の前記画像それぞれの一部を比較してもよい。この場合、画像の一部が比較されるので、画像全体を比較する場合に比べて、比較のための処理量を低減することができる。よって、作業装置の消費電力をさらに低減することができる。
本発明の第二の態様に係る作業装置は、第一表示部と入力部と通信部とを備えた指示装置であって作業者に対する作業の指示を送信可能な指示装置から送信される前記作業の指示を受信して前記作業者に提示可能であり、撮像部と無線通信部とを備えた作業装置であって、前記無線通信部を使用した通信の通信モードを、前記撮像部によって撮像された画像の画像データを前記指示装置に送信する第一通信モードと、前記第一通信モードよりもデータ通信量の小さい第二通信モードとの間で切り替え可能な通信制御手段と、撮像部によって撮像された複数の前記画像の間の変化量が第一閾値より小さい場合において、前記指示装置によって前記第一通信モードから前記第二通信モードへの切り替えの指示が前記入力部に入力されたと判断されて前記指示装置から送信される、前記第一通信モードから前記第二通信モードへの切り替えを指示する情報である第一切替指示情報を受信する第一切替指示受信手段と、前記第一切替指示受信手段によって前記第一切替指示情報が受信された場合に、前記通信制御手段の前記通信モードを、前記第一通信モードから前記第二通信モードに切り替える第一通信切替手段とを備えている。
複数の画像の間の変化量が第一閾値より小さい場合において、第一通信モードから第二通信モードへの切り替えの指示が指示装置の入力部に入力されることによって、第二通信モードに切り替えることができる。このため、第一通信モードにおいて画像を送信し続ける場合に比べて、データ通信量を小さくでき、無線通信を行うための消費電力を低減できる。また、作業装置を装着している作業者からの入力を必要としないため、作業者の手を煩わせることはない。
HMD1の物理的構成を示す図である。 HMD1とPC300とを備える作業補助システム10の電気的構成を示す図である。 画像表示部36及びディスプレイ340に表示される画面70の一例を示す図である。 画像表示部36及びディスプレイ340に表示される画面70の他の一例を示す図である。 第一切替指示受付画面705が表示された状態のディスプレイ340を示す図である。 ビューファインダーモードにおける画面70が表示された状態の画像表示部36を示す図である。 第一HMDメイン処理のフローチャートである。 第一HMDメイン処理のフローチャートである。 第一PCメイン処理のフローチャートである。 第一PCメイン処理のフローチャートである。 第二HMDメイン処理のフローチャートである。 第二PCメイン処理のフローチャートである。
以下、本発明を具体化した実施の形態について、図面を参照して説明する。本発明に係る図2に示す作業補助システム10は、図1に示すヘッドマウントディスプレイ1とパーソナルコンピュータ300とを備えている。以下の説明では、ヘッドマウントディスプレイ1を「HMD1」といい、パーソナルコンピュータ300を「PC300」という。HMD1は、作業者に装着され、作業の指示の情報を受信して作業者に提示可能である。PC300は、指示者が利用し、作業者に対する指示の情報をHMD1に送信する。HMD1は、作業者の眼の前方に配置される後述するハーフミラー8を透過する外界の風景に重ねて画像を表示する。HMD1は公知の無線通信を用いてPC300に接続し、PC300との間で画像データを含む各種データの送受信を行う。以下の説明において、図1の上方、下方、右斜め下方、左斜め上方、右斜め上方、及び左斜め下方が、それぞれ、HMD1の上方、下方、前方、後方、右方、及び左方である。
図1に示すように、HMD1は、投影装置100及び制御装置200を備える。投影装置100は専用の装着具である眼鏡91に装着して使用される。投影装置100は、作業者が日常的に使用する眼鏡、ヘルメット、ヘッドホンなど、他の装着具に取り付けられてもよい。投影装置100は、作業者の眼に画像光を照射する。投影装置100はハーネス150を介して制御装置200と着脱可能に接続する。制御装置200は、例えば作業者の腰ベルト等に装着して使用される。制御装置200は、投影装置100を制御する。
投影装置100の構成について説明する。投影装置100は筐体2を備える。筐体2の内部には、画像表示部36(図2参照)と接眼光学系(図示略)とが含まれる。画像表示部36は、制御装置200からハーネス150を介して送信される画像信号に基づく画像を表示する。画像表示部36は、例えば、液晶素子等の空間変調素子及び光源である。画像表示部36は、画像信号に応じた強度のレーザ光を2次元走査して画像表示を行う網膜走査型表示部や、有機EL(Organic Electro-luminescence)素子等であってもよい。接眼光学系は、画像表示部36に表示された画像を示す画像光を、作業者の眼に導くために集光する。接眼光学系から射出された画像光は、筐体2の左側に設けられたハーフミラー8によって少なくとも一部(例えば半分)が反射され、作業者の左の眼球(図示略)に入射する。ハーフミラー8は外界の実像からの光の少なくとも一部を透過するので、作業者は、自己の視野において外界の風景に重畳して画像を視認できる。
眼鏡91は、投影装置100を作業者の頭部に保持するための構成である。投影装置100の筐体2は、支持部96に保持されて、眼鏡91に取り付けられる。支持部96は作業者側から見て眼鏡91の上面左端側(図1における上面右端)に設けられる。支持部96は、筐体2の保持位置を上下方向及び左右方向に調整することができる。作業者は、眼球の位置に合わせた位置にハーフミラー8を配置することができる。
眼鏡91は、フレーム94の左右方向略中央に、カメラ39を備える。カメラ39は、作業者の視野前方の外界の風景を撮像する。カメラ39の撮像方向及び画角は、予め、作業者の視野に合わせて設定されている。例えば、カメラ39の撮像方向及び画角は、カメラ39による外界の風景の撮像範囲が、ハーフミラー8を透過する実像に重ねることのできる画像表示部36からの画像光の表示範囲を含む(例えば、ほぼ一致する)ように設定されている。また、眼鏡91は、フレーム94の右端側に、図示外のイヤホン及びマイクを内蔵するヘッドセット35を備える。ヘッドセット35には通常の気道式のヘッドホンの他、骨伝導型のものを用いてもよい。なお、眼鏡91自体の形状は通常の眼鏡に類似するため、詳細な説明は省略する。
制御装置200の構成について説明する。制御装置200は、例えば略直方体状のシステムボックスである。制御装置200は操作部50を備える。作業者は、投影装置100における各種設定や、使用時における各種操作等を、操作部50を介して行うことが可能である。制御装置200は、無線通信を介してPC300(図2参照)と接続し、各種データの送受信を行うことが可能である。制御装置200は有線通信のインターフェイスを備え、通信ケーブルを用いてネットワーク250に接続してもよい。なお、PC300は、パーソナルコンピュータであるが、スマートフォンやタブレット型携帯端末など、その他の機器であってもよい。
図2を参照し、作業補助システム10の電気的構成について説明する。まず、HMD1の電気的構成について説明する。投影装置100は、投影装置100全体の制御を行うCPU21を備える。CPU21は、プログラムROM23、RAM25、画像表示部36、インターフェイス12、及び接続コントローラ37と電気的に接続する。また、CPU21は、インターフェイス12を介してカメラ39及びヘッドセット35と電気的に接続する。プログラムROM23は、CPU21が実行する各種プログラム等を記憶する。各種プログラムは、投影装置100の出荷時にプログラムROM23に記憶される。なお、CPU21は、後述する制御装置200のフラッシュROM47に記憶されたプログラムも実行することができる。RAM25は、各種データを一時的に記憶する。
画像表示部36は、画像信号に基づいて画像を表示する。インターフェイス12はカメラ39及びヘッドセット35に接続し、信号の入出力を制御する。接続コントローラ37は、ハーネス150を介して制御装置200の接続コントローラ48に接続し、有線通信を行う。カメラ39は画像を撮像する。ヘッドセット35はイヤホン及びマイクを備える。なお、投影装置100又は制御装置200は、ヘッドセット35の代わりに、スピーカ及びマイクを内蔵してもよい。
制御装置200の電気的構成について説明する。制御装置200は、制御装置200全体の制御を行うCPU41を備える。CPU41は、プログラムROM43、RAM45、フラッシュROM47、接続コントローラ48、ビデオRAM57、画像処理部59、操作部50、及び無線通信部53と電気的に接続する。プログラムROM43は、後述する第一HMDメイン処理(図7参照)のプログラム等、CPU41が実行する各種プログラム等を記憶する。各種プログラムは、制御装置200の出荷時にプログラムROM43に記憶される。なおCPU41は、フラッシュROM47に記憶されたプログラムも実行することができる。
RAM45は、各種データを一時的に記憶する。フラッシュROM47は、制御装置200の出荷後にインストールされた各種プログラム等を記憶する。接続コントローラ48は、ハーネス150を介して投影装置100の接続コントローラ37に接続し、有線通信を行う。無線通信部53は、ネットワーク250の図示略のアクセスポイントへ無線で接続し、ネットワーク250に接続する他の機器と通信を行う。CPU41は、無線通信部53を使用した通信の通信モードを第一通信モードと第二通信モードとに切り替え可能である。第二通信モードは、第一通信モードよりもデータ通信量の小さい通信モードである。本実施形態では、一例として、第二通信モードは、HMD1のCPU41とPC300のCPU301との間の画像データと音声データとの送受信を停止するモードであるとする。操作部50は作業者による操作に応じた信号をCPU41に入力する。画像処理部59は、投影装置100の画像表示部36に表示させる画像を形成する処理を行う。ビデオRAM57は、画像処理部59が形成した画像を画像表示部36に表示するための画像信号を生成するため、画像を仮想的に表示した仮想画面を記憶領域内に形成する。
制御装置200は、電池44及び電源回路46を備えている。電源回路46は、電池44から供給される電力を使用して、投影装置100及び制御装置200の各電気部品に電力を供給する。
PC300の電気的構成について説明する。PC300は、指示者が使用する公知のパーソナルコンピュータである。PC300は、PC300全体の制御を行うCPU301を備える。CPU301は、データバスを介してROM303、RAM305、及び入出力バス309と電気的に接続する。以下の説明では、入出力バス309をI/Oバス309という。ROM303は、CPU301が実行するBIOS等のプログラムを記憶する読出し専用の記憶装置である。RAM305は、データを一時的に記憶する読み書き可能な記憶装置である。
I/Oバス309には、ハードディスクドライブ307、通信部311、音声制御部313、表示制御部315、及び入力部330が接続されている。以下の説明では、ハードディスクドライブ307をHDD307という。HDD307は、OS及び後述する第一PCメイン処理のプログラムを含む各種プログラム等がインストールされる記憶装置である。通信部311は、ネットワーク250の図示略のアクセスポイントへ有線又は無線で接続し、PC300をネットワーク250に接続する。音声制御部313はヘッドセット320に接続し、音声の入出力を制御する。表示制御部315は、各種画面をディスプレイ340に表示するための描画処理を行う。入力部330は、例えばディスプレイ340の表示画面に貼設された感圧式のタッチセンサ、マウス、キーボード等である。指示者は、例えば、入力部330を介して作業対象物に対して行う作業の指示等を入力することができる。
図3を参照して、HMD1の画像表示部36及びPC300のディスプレイ340に表示される画像の一例について説明する。図3においては、HMD1の画像表示部36とPC300のディスプレイ340とに表示される画像が同じであるとし、1つの図面で示している。図4も同様である。図3に示すように、画像表示部36及びディスプレイ340には、画面70が表示される。画面70には、撮像画像表示領域71及び情報表示領域72が設けられている。撮像画像表示領域71には、カメラ39によって撮像された画像が表示される。図3に示す例では、ミシン711の全体が表示されている。
情報表示領域72には、種々の情報が表示される、図3では、一例として、アイコン721,722が表示されている。指示者はディスプレイ340に表示されたアイコン721,722を入力部330を介して選択する。アイコン721,722のいずれか選択されると、選択されたアイコンに応じた機能が実行される。アイコン721は、画面70上に文字、図形等を任意に書き込むためのアイコンである。アイコン721が選択されると、指示者は、入力部330を操作して、画面70上に文字、図形等を任意に書き込むことができる。書き込まれた文字、図形等は、画像表示部36及びディスプレイ340に表示される。図3では、ミシン711の縫針713の周囲に丸印725が書き込まれている。アイコン722は、ミシン711の修理マニュアルを表示するためのアイコンである。指示者がアイコン722を選択すると、情報表示領域72にミシン711の修理マニュアルが表示される。
本実施形態における処理の概要について述べる。本実施形態では、作業者は、ミシン711の縫針713(図3参照)の周辺を修理する作業を行うこととする。即ち、縫針713の周辺が作業対象部位である。作業者がミシン711の前方においてHMD1を使用すると、図3に示すようにミシン711の全体が、HMD1の画像表示部36及びPC300のディスプレイ340に表示される(図7のS17及び図9のS48参照)。このとき、HMD1は、カメラ39によって撮像された画像データをPC300に第一通信モードで送信する(S18)。指示者は、入力部330を介して画面70を操作したり、声で指示したりすることで、作業者に作業の指示を行う。指示者の指示が確定していない場合、作業者は作業を行う対象部位を探す行為を行う。このため、作業者の視線の動きは大きく、作業者の頭部に装着されたカメラ39の位置の変化が大きくなる。この場合、カメラ39によって撮像される複数の画像の間の変化量は後述する第一閾値以上になる可能性が高くなる。変化量が第一閾値以上の場合(図9のS50:NO)、第一通信モードにおける通信が継続される。
例えば、指示者は、入力部330を介してアイコン721を選択し、縫針713の周囲を丸印725で囲む。丸印725は画像表示部36に表示され(図7のS17)、作業者に提示される。作業者は、丸印725が作業を行う作業対象部位であることを認識し、縫針713の周囲に顔を近づける。これによって、図4に示すように、カメラ39によって撮像された画像は、縫針713の周囲の作業対象部位となる。作業者が作業対象部位に近づき、指示者の指示が確定すると、作業者は指示された作業を行う。このため、指示者の指示が確定する前に比べて、作業者の視線の動きが小さくなり、作業者の頭部に装着されたカメラ39の位置の変化が小さくなる。故に、複数の画像の間の変化量が、後述する第一閾値より小さくなる可能性が高くなる。変化量が第一閾値より小さい場合(図9のS50:YES)、図5に示すように、後述する第一切替指示受付画面705がPC300のディスプレイ340に表示される(図9のS51)。
指示者が入力部330を介して第一切替指示受付画面705を操作して、通信モードを第一通信モードから第二通信モードに切り替える指示を入力すると、HMD1は第二通信モードに設定される(図8のS22)。即ち、画像データと音声データの送受信が停止される。このとき、HMD1の画像表示部36に表示される画面70は、図6に示すビューファインダーモードに設定される。ビューファインダーモードは、通信モードが第二通信モードである場合に、カメラ39によって撮像された画像を画像表示部36に表示するモードである。また、ビューファインダーモードでは、カメラ39によって撮像された画像は、第一通信モードの場合の撮像画像表示領域71(図5参照)より拡大されて表示される(図6参照)。
図7及び図8を参照して、第一HMDメイン処理について説明する。作業者が操作部50を操作し、第一HMDメイン処理のプログラムの起動指示を入力すると、CPU41は、プログラムROM43に記憶された第一HMDメイン処理のプログラムを実行する。
図7に示すように、第一HMDメイン処理では、HMD1とPC300との間で通信を確立することを要求する情報である通信要求情報をPC300に送信する(S11)。送信された通信要求情報は、PC300のCPU301による図9に示すS41によって受信される。次いで、PC300のCPU301とHMD1のCPU41との間で通信が確立される(S12)。このとき、CPU41によるS12とCPU301によるS42(図9参照)との処理によって通信が確立される。次いで、画面70が画像表示部36に表示される(S13)。なお、撮像画像表示領域71には、後述するS17において画像が表示され、情報表示領域72には、後述するS20において画像が表示される。
次いで、第一通信モードでPC300とデータ通信可能な状態に設定される(S14)。S14では、例えば、PC300に画像データを送信する場合のフレームレートが設定される。設定されたフレームレートは、RAM45に記憶される。フレームレートは、一例として40fpsであるとする。なお、例えば、S14では、撮像される画像の解像度が設定されてもよい。次いで、音声データの送受信が開始される(S15)。図示しないが、音声データの送受信は、S16〜S21が実行されている間、継続して実施される。音声データを送信する場合、CPU41は、ヘッドセット35のマイクを使用して音声データを取得し、PC300に送信する。送信された音声データに基づく音声は、PC300に接続されたヘッドセット320のイヤホンから出力される。また、CPU41は、PC300のCPU301によって送信される音声データを受信し、ヘッドセット35のイヤホンから出力する。このため、指示者は音声によって作業者に指示することもできる。
次いで、カメラ39が使用されて画像が撮像され、画像データが取得される(S16)。なお、撮像される画像は複数でもよいし、1枚でもよい。次いで、S16で取得された画像が画像表示部36の撮像画像表示領域71に表示される(S17)。次いで、S16において取得された画像データが、第一通信モードでPC300に送信される(S18)。CPU41は複数枚の画像の画像データを40fpsで送信してもよいし、1枚の画像の画像データを送信してもよい。なお、1枚の画像の画像データを送信する場合、フレームレートが40fpsとなる間隔でS18が実行される。送信された画像データは、PC300のS47(図9参照)において受信される。
次いで、PC300のS46(図9参照)において送信される画像データが受信されたか否かが判断される(S19)。画像データが受信された場合(S19:YES)、S19において受信された画像データが、画像表示部36に表示される(S20)。例えば、図3に示す情報表示領域72にアイコン721,722が表示される。また、指示者が入力部330を介して丸印725を入力した場合、丸印725を含む画像データが受信され(S19:YES)、画像表示部36に表示される(S20)。
S20が実行された後、又は、画像データが受信されていない場合(S19:NO)、PC300のS54(図9参照)によって送信される第一切替指示情報が受信されたか否かが判断される(S21)。第一切替指示情報は、第一通信モードから第二通信モードへの切り替えを指示する情報である。第一切替指示情報が受信されていない場合(S21:NO)、CPU41は処理をS16に戻す。
第一切替指示情報が受信された場合(S21:YES)、図8に示すように、第二通信モードに設定される(S22)。すなわち、CPU41は通信モードを第一通信モードから第二通信モードに切り替える。本実施形態では、第二通信モードは、HMD1のCPU41とPC300のCPU301との間の通信を停止するモードであるので、通信が停止される。S22では、無線通信部53が音声データと画像データとの通信を停止するスリープ状態に設定される。
次いで、撮像画像表示領域71が拡大される(S23)。これによって、後述する図4に示す撮像画像表示領域71が図6に示すように拡大される。CPU41は、撮像画像表示領域71を拡大することで、作業者に第二通信モードであることを報知する。次いで、第一通信モードで通信中の場合にS17において表示される画像のフレームレートと比べてフレームレートが下げられた状態で、画像が画像表示部36に表示されるように設定される(S24)。なお、本実施形態では、一例として、S17において表示される画像のフレームレートは40fpsであり、S24で設定されるフレームレートは20fpsであるとする。
次いで、カメラ39が使用されて画像が撮像され、画像データが取得される(S25)。次いで、S26において取得された画像が画像表示部36に表示される(S26)。すなわち、ビューファインダーモードにおける表示が行われる。S26においては、S24において設定されたフレームレートで画像が表示される。次いで、S26において表示された画像の画像データがフラッシュROM47に記憶される(S27)。
次いで、S25によって撮像された複数の画像の間の変化量が取得される(S28)。本実施形態では、一例として、S25において取得された画像データに基づく画像のうち、連続する2枚の画像が比較され、変化量が取得される。このとき、画像の一部が比較される。本実施形態では、比較される画像の一部は、図6に示すように、撮像画像表示領域71に表示される画像の外形よりも内側の領域712に位置する画像であるとする。変化量は、例えば、2枚の画像における同じ位置の画素のRGB値を比較した場合における、RGB値が異なる画素の総数である。
次いで、S28において取得された変化量が第二閾値より大きいか否かが判断される(S29)。第二閾値は、例えば、10万画素である。変化量が第二閾値より大きくない場合(S29:NO)、CPU41は処理をS25に戻す。変化量が第二閾値より大きい場合(S29:YES)、複数の画像の間の変化量が第二閾値より大きいことを示す情報である第二閾値情報がPC300に送信される(S30)。送信された第二閾値情報は、PC300のS56(図10参照)において受信される。次いで、PC300のS61(図9参照)によって送信される第二切替指示情報が受信されたか否かが判断される(S31)。第二切替指示情報は、第二通信モードから第一通信モードへの切り替えを指示する情報である。
第二切替指示情報が受信されていない場合(S31:NO)、PC300のS60(図10参照)によって送信される第二継続指示情報が受信されたか否かが判断される(S32)。第二継続指示情報は、第二通信モードを継続することを指示する情報である。第二継続指示情報が受信されていない場合(S32:NO)、CPU41は処理をS31に戻す。第二継続指示情報が受信された場合(S32:YES)、CPU41は処理をS25に戻す。すなわち、CPU41は第二通信モードを継続する。
第二切替指示情報が受信された場合(S31:YES)、ビューファインダーモードにおける画面70(図6参照)から、第一通信モードの場合の画面70(図4参照)に切り替えられる(S33)。次いで、CPU41は処理をS14に戻し、第二通信モードから第一通信モードに切り替える(S14)。
次いで、第一PCメイン処理について説明する。指示者によって入力部330が操作され、第一PCメイン処理のプログラムの起動指示が入力されると、CPU301は、HDD307に記憶された第一PCメイン処理のプログラムを実行する。
第一PCメイン処理では、まず、HMD1のS11(図7参照)において送信された通信要求情報が受信されたか否かが判断される(S41)。通信要求情報が受信されていない場合(S41:NO)、CPU301はS41を繰り返す。通信要求情報が受信された場合(S41:YES)、PC300のCPU301とHMD1のCPU41との間で通信が確立される(S42)。次いで、画面70(図4参照)がディスプレイ340に表示される(S43)。情報表示領域72には、アイコン721,722が表示される。なお、撮像画像表示領域71には、後述するS48において画像が表示される。
次いで、音声データの送受信が開始される(S44)。図示しないが、音声データの送受信は、S45〜S53が実行されている間、継続して実施される。音声データを送信する場合、CPU301は、ヘッドセット320のマイクを使用して音声データを取得し、HMD1に送信する。また、CPU301は、HMD1のCPU41によって送信される音声データを受信し、ヘッドセット320のイヤホンから出力する。
次いで、画像データが取得される(S45)。S45では、例えば、情報表示領域72(図3参照)に表示されているアイコン721,722、及び指示者が入力部330を介して画面70に記入した文字、記号、図形等のデータ等が取得される。次いで、S45において取得された画像データがHMD1に送信される(S46)。送信された画像データは、HMD1のCPU41によって受信され(図7のS19:YES)、表示される(S20)。
次いで、HMD1S18(図7参照)において送信された画像データが受信されたか否かが判断される(S47)。画像データが取得されていない場合(S47:NO)、CPU301は処理をS45に戻す。画像データが受信された場合(S47:YES)、S47において受信された画像データに基づく画像がディスプレイ340に表示される(S48)。これによって、例えば、図3に示すミシン711の画像が撮像画像表示領域71に表示される。
次いで、S47によって受信された画像データに基づく複数の画像の間の変化量が取得される(S49)。S49では、例えば、S47において受信された画像データに基づく画像のうち、連続する2枚の画像が比較され、変化量が取得される。このとき、画像の一部が比較される。S28(図8参照)の場合と同様に、比較される画像の一部は、撮像画像表示領域71に表示される画像の外形よりも内側の領域712に位置する画像であるとする。変化量は、例えば、2枚の画像における同じ位置の画素のRGB値を比較した場合における、RGB値が異なる画素の総数である。次いで、S49において取得された変化量が第一閾値より小さいか否かが判断される(S50)。第一閾値は、例えば、8万画素である。
前述したように、例えば、指示者の指示が確定していない場合、作業者の頭部に装着されたカメラ39の位置の変化が大きくなる。この場合、S16によって撮像される複数の画像の間の変化量は第一閾値以上になる。変化量が第一閾値以上である場合(S50:NO)、CPU301は処理をS45に戻す。このため、HMD1は第一通信モードにおける画像の送信を継続する(図7のS18)。指示者は作業対象部位に丸印725(図3参照)を入力したり、声で指示したりする。指示者の記入した丸印725は、HMD1に送信され(図9のS46)、作業者に提示される(図7のS20)。
作業者は、指示者の指示に応じて縫針713の周辺の作業対象部位に近づく。このため、カメラ39によって撮像される画像は、作業対象部位となる(図4参照)。指示者の指示が確定すると、作業者は指示された作業を行うため、S16によって撮像される複数の画像の間の変化量は第一閾値より小さくなる。変化量が第一閾値より小さい場合(S50:YES)、図5に示す第一切替指示受付画面705がディスプレイ340に表示される(S51)。図5に示すように、第一切替指示受付画面705には、「通信モードを第一通信モードから第二通信モードに切り替えますか?」のメッセージと、指示者が切り替えるか否かを選択するための「YES」「NO」の選択表示706とがディスプレイ340に表示される。指示者は、入力部330を操作し、選択表示706の「YES」又は「NO」を選択する。
次いで、入力部330が操作されることによって、選択表示706の「YES」又は「NO」が選択されたか否かが判断される(S52)。選択表示706の「YES」又は「NO」が選択されていない場合(S52:NO)、CPU301はS52の処理を繰り返す。選択表示706の「YES」又は「NO」が選択された場合(S52:YES)、「YES」が選択されたか否かが判断されることで、第一通信モードから第二通信モードへの切り替えの指示が入力されたか否かが判断される(S53)。「NO」が選択された場合、第一通信モードから第二通信モードへの切り替えの指示が入力されていないと判断され(S53:NO)、CPU301は処理をS45に戻す。即ち、HMD1は、第一通信モードによる通信を継続する。
「YES」が選択された場合、第一通信モードから第二通信モードへの切り替えの指示が入力されたと判断され(S53:YES)、第一切替指示情報がHMD1に送信される(S54)。送信された第一切替指示情報は、図7に示すようにHMD1のCPU41によって受信され(S21:YES)、通信モードが第一通信モードから第二通信モードに切り替えられる(S22)。
図10に示すように、通信部311がスリープ状態に設定され、HMD1のCPU41とPC300のCPU301との間の通信が停止される(S55)。なお、S55では、HMD1のS30(図8参照)によって送信される第二閾値情報を受信可能な状態で、通信部311がスリープ状態に設定される。
次いで、HMD1のS30(図8参照)によって送信される第二閾値情報が受信されたか否かが判断される(S56)。第二閾値情報が受信されていない場合(S56:NO)、CPU301はS56の処理を繰り返す。第二閾値情報が受信された場合(S56:YES)、図示しない第二切替指示受付画面がディスプレイ340に表示される(S57)。第二切替指示受付画面は、図5に示す第一切替指示受付画面705と異なるメッセージである「通信モードを第二通信モードから第一通信モードに切り替えますか?」が表示される。また、第一切替指示受付画面705の選択表示706と同様に、指示者が通信モードを切り替えるか否かを選択するための「YES」及び「NO」の選択表示が表示される。指示者は入力部330を操作し、選択表示の「YES」又は「NO」を選択する。
次いで、入力部330が操作されることによって、S57において表示された第二切替指示受付画面における選択表示の「YES」又は「NO」が選択されたか否かが判断される(S58)。「YES」又は「NO」が選択されていない場合(S58:NO)、CPU301はS58の処理を繰り返す。「YES」又は「NO」が選択された場合(S58:YES)、「YES」が選択されたか否かが判断されることで、第二通信モードから第一通信モードへの切り替えの指示が入力されたか否かが判断される(S59)。「NO」が選択された場合、第二通信モードから第一通信モードへの切り替えの指示が入力されていないと判断され(S59:NO)、第二継続指示情報がHMD1に送信される(S60)。送信された第二継続指示情報は、HMD1のCPU41によって受信され(図8のS32:YES)、第二通信モードが継続される。次いで、CPU301は処理をS56に戻す。
「YES」が選択された場合、第二通信モードから第二通信モードへの切り替えの指示が入力されたと判断され(S59:YES)、第二切替指示情報がHMD1に送信される(S61)。送信された第二切替指示情報は、HMD1のCPU41によって受信され(図8のS31:YES)、通信モードが第二通信モードから第一通信モードに切り替えられる(図7のS14)。図9及び図10に示すように、CPU301は処理をS44に戻す。
以上のように本実施形態における処理が実行される。本実施形態では、図9に示すように、複数の画像の間の変化量が第一閾値より小さい場合において(S50:YES)、第一通信モードから第二通信モードへの切り替えの指示が入力されたと判断された場合に(S53:YES)、第一切替指示情報がHMD1に送信される(S54)。図7及び図8に示すように、HMD1において第一切替指示情報が受信されると(S21:YES)、通信モードが第一通信モードから第二通信モードに切り替えられる(S22)。このため、第一通信モードにおいて画像データを送信し続ける場合に比べて、データ通信量を小さくすることができる。データ通信量が小さくなると、無線通信部53の消費電力、及び画像表示部36において撮像された画像データをPC300に送信可能に符号化するためのCPU41の消費電力等を低減することができる。よって、HMD1は、無線通信を行うための消費電力を低減することができる。特に本実施形態では、第二通信モードでは画像データの送信が停止されるので、PC300に画像データを送信する場合に比べて、さらに消費電力を低減することができる。また、第二通信モードでは、画像データの送信の他に、画像データの受信、及び音声データの送受信も停止されるので、PC300から送信される画像データを受信する場合、及びPC300との間で音声データを送受信する場合に比べて、さらに消費電力を低減できる。
また、HMD1は消費電力を低減できるので、電池44の消費電力が少なくなり、HMD1の駆動時間を長くすることができる。よって、作業者はより長時間、HMD1を使用することができる。
また、第一通信モードから第二通信モードへの切り替えの指示が指示者によって入力された場合に(図9のS53:YES)、通信モードが第一通信モードから第二通信モードに切り替えられる(図5のS22)。このため、指示者は、第一通信モードから第二通信モードへの切り替えの指示をPC300に入力するか否かを選択することで、第二通信モードに切り替えるか否かを選択することができる。よって、指示者の利便性が向上する。また、HMD1を装着する作業者からの入力を必要としないため、作業者の手を煩わせることはない。
また、前述したように、指示者の指示が確定した場合、S16によって撮像される複数の画像の間の変化量は、第一閾値より小さくなる可能性が高くなる。変化量が第一閾値より小さくなれば(図9のS50:YES)、CPU41は通信モードを第一通信モードから第二通信モードに切り替えることができる(図8のS22)。即ち、CPU41は指示者の指示が確定した場合に、第二通信モードに切り替えて、無線通信を行うための消費電力を低減することができる。
また、PC300において、複数の画像の間の変化量が第一閾値より小さいか否かが判断される(図9のS50)。このため、HMD1が複数の画像の間の変化量が第一閾値より小さいか否かを判断する場合に比べて、HMD1の消費電力を低減することができる。
また、図10に示すように、第二通信モードから第一通信モードへの切り替えの指示が入力された場合(S59:YES)、第二切替指示情報が送信される(S61)。そして、図7及び図8に示すように、通信モードが第二通信モードから第二通信モードに切り替えられる(S31:YES、S14)。このため、指示者は、第二通信モードから第一通信モードへの切り替えの指示をPC300に入力するか否かを選択することで、第一通信モードに切り替えるか否かを選択することができる。よって、指示者の利便性が向上する。また、HMD1を装着する作業者からの入力を必要としないため、作業者の手を煩わせることはない。また、複数の画像の間の変化量が第二閾値より大きい場合に、第二通信モードよりデータ通信量の大きい第一通信モードに切り替えられる(図9のS29:YES、S14、図7のS56:YES、及びS61)。よって、指示者は、第一通信モードにおいて送信された画像データに基く画像を確認しながら、指示を行うことができる。
また、第二通信モードである場合、作業者は、図8のS25において撮像され、S26において画像表示部36に表示された画像を確認することができる。また、第二通信モードである場合に、S25によって画像が撮像されているので、例えば、S27のように、撮像された画像の画像データを記憶することができる。記憶された画像データに基づく画像は、例えば、作業のトレーサビリティの確認等に使用することができる。
また、通信モードが第二通信モードである場合に、第一通信モードである場合に画像を画像表示部36に表示するS18の場合に比べてフレームレートが下げられて、画像が画像表示部36に表示される(図8のS26)。画像表示部36に表示される画像のフレームレートが下げられるので、消費電力をさらに低減することができる。
また、撮像画像表示領域71が拡大されることで、作業者に第二通信モードであることが報知される(図8のS23)。よって、作業者は、第二通信モードであることを容易に認識することができる。
また、図9のS47において複数の画像の間の変化量が取得される場合に、画像データに基づく画像の一部が比較されるので、画像全体を比較する場合に比べて、比較のための処理量を低減することができる。よって、PC300の消費電力を低減することができる。
同様に、図7のS28において複数の画像の間の変化量が取得される場合に、画像データに基づく画像の一部が比較されるので、画像全体を比較する場合に比べて、比較のための処理量を低減することができる。よって、画像全体を比較する場合に比べて、比較のための処理量を低減することができる。故に、HMD1の消費電力をさらに低減することができる。
上記実施形態において、HMD1は本発明の「指示装置」の一例である。PC300は本発明の「指示装置」の一例である。カメラ39は本発明の「撮像部」の一例である。図7のS18、及び図8のS22の処理を行うCPU41は本発明の「通信制御手段」の一例である。図8のS21の処理を行うCPU41は本発明の「第一切替指示受信手段」の一例である。図7の図8のS22の処理を行うCPU41は本発明の「第一通信切替手段」の一例である。図9のS47の処理を行うCPU301は本発明の「画像データ受信手段」の一例である。図9のS48の処理を行うCPU301は本発明の「第一表示制御手段」の一例である。ディスプレイ340は本発明の「表示部」の一例である。図9のS53の処理を行うCPU301は本発明の「第一切替判断手段」の一例である。図9のS54の処理を行うCPU301は本発明の「第一切替指示手段」の一例である。
図9のS49及びS50の処理を行うCPU301は本発明の「第一変化量判断手段」の一例である。図8のS28及びS29の処理を行うCPU41は本発明の「第三変化量判断手段」の一例である。S30の処理を行うCPU41は本発明の「第二情報送信手段」の一例である。S31の処理を行うCPU41は本発明の「第二切替指示受信手段」の一例である。S22で第二通信モードに設定された後、第一通信モードに切り替える図7のS14の処理を行うCP41は本発明の「第二通信切替手段」の一例である。図10のS56の処理を行うCPU301は本発明の「第二情報受信手段」の一例である。図10のS59の処理を行うCPU301は本発明の「第二切替判断手段」の一例である。図10のS61の処理を行うCPU301は本発明の「第二切替指示手段」の一例である。画像表示部36は本発明の「第二表示部」の一例である。図8のS26の処理を行うCPU41は本発明の「第二表示制御手段」の一例である。
なお、本発明は上記の実施形態に限定されるものではなく、種々の変更が可能である。例えば、第二通信モードである場合に、画像データの送受信及び音声データの送受信が停止されたが、これに限定されない。第二通信モードは第一通信モードよりデータ通信量が小さければよい。例えば、第二通信モードは、第一通信モードよりフレームレートを下げて、画像データをPC300に送信してもよい。また、第二通信モードは、第一通信モードより画像の解像度を下げて、画像データをPC300に送信してもよい。
また、第一通信モード及び第二通信モードにおいて、PC300からHMD1に画像データが送信されなくてもよい。また、第一通信モード及び第二通信モードにおいて、音声データは送受信されなくてもよい。すなわち、第一通信モード及び第二通信モードでは、少なくとも画像データがHMD1からPC300に送信されればよい。
図8に示すように、S25において撮像された画像の画像データが、S27においてフラッシュROM47に記憶されていたが、記憶されなくてもよい。また、第二通信モードの場合に、S25が実行されず、画像データが取得されなくてもよい。即ち、画像表示部36にカメラ39によって撮像された画像が表示されなくてもよい。
図8のS23において撮像画像表示領域71が拡大されることで、作業者に第二通信モードであることが報知されていたが、報知の方法は他の方法であってもよい。例えば、CPU41は「第二通信モードに変更されました。」等のメッセージを画像表示部41に表示してもよい。また、CPU41はヘッドセット35のイヤホンから音を出力して報知してもよい。また、CPU41は第二通信モードであることを作業者に報知しなくてもよい。
また、第二継続指示情報が受信された場合に(図8のS32:YES)、第二通信モードが継続されていたが、これに限定されない。例えば、S31において、第二継続指示情報が所定時間(例えば20秒)受信されなかった場合に、CPU41は処理をS25に戻し、第二通信モードを継続してもよい。この場合、図10のS60において第二継続指示情報がHMD1に送信されなくてもよい。
また、図8のS28及び図9のS49において変化量が取得される場合、画像の一部が比較されていたが、全体が比較されてもよい。また、画像の一部が比較される場合、画像の中央部でなくてもよく、例えば、画像の右下部が比較されてもよい。また、変化量は、複数の画像の間の変化量であればよく、単位時当たりの平均変化量が比較されてもよい。また、変化量はRGB値が異なる画素の総数であったが、他の値でもよい。例えば、変化量は、比較される領域の画素のRGB値の平均値についての、複数の画像の間の差分であってもよい。また、一辺が数十ピクセルの所定のブロック毎に比較される領域を区切り、そのブロック内でRGB値の平均を算出し、所定値以上平均値が変化したブロック数が変化量であってもよい。この場合、所定値以上平均値が変化したブロック数が所定量(第二閾値に相当)以上あった場合に、変化量が第二閾値より大きい(S29:YES)と判断されてもよい。
また、カメラ39によって撮像された複数の画像の間の変化量が、第一閾値以下であるか否かの判断は、PC300のCPU301によって実行されたが(図9のS50)、HMD1のCPU41によって実行されてもよい。図11及び図12を参照して、本変形例に係る第二HMDメイン処理及び第二PCメイン処理について説明する。図11及び図12において、図7に示す第一HMDメイン処理及び図9に示す第二PCメイン処理と同様の処理は同じ符号で示し、詳細の説明は省略する。第二HMDメイン処理は、CPU41によって実行され、第一PCメイン処理は、CPU301によって実行される。
図11に示すように、第二HMDメイン処理では、図7に示す第一HMDメイン処理と同様に、S11〜S20の処理が実行される。S20が実行された後、又は、画像データが受信されていない場合(S19:NO)、S16においてカメラ39によって撮像された複数の画像の間の変化量が取得される(S34)。例えば、S16においてカメラ39によって撮像された画像のうち、連続する2枚の画像が比較され、変化量が取得される。このとき、画像の一部である領域712(図3及び図4参照)が比較される。なお、画像全体が比較されてもよい。
次いで、S34において取得された変化量が第一閾値より小さいか否かが判断される(S35)。変化量が第一閾値より小さくない場合(S35:NO)、CPU41は処理をS16に戻す。変化量が第一閾値より小さい場合(S35:YES)、複数の画像の間の変化量が第一閾値より小さいことを示す情報である第一閾値情報がPC300に送信される(S36)。送信された第一閾値情報は、PC300のS71(図12参照)において受信される。次いで、図7のS21と同様に、PC300のS54(図12参照)において送信される第一切替指示情報が受信されたか否かが判断される(S37)。第一切替指示情報が受信されていない場合(S37:NO)、PC300のS72(図12参照)によって送信される第一継続指示情報が受信されたか否かが判断される。第一継続指示情報は、第一通信モードを継続することを指示する情報である。第一継続指示情報が受信されていない場合(S38:NO)、CPU41は処理をS37に戻す。第二継続指示情報が受信された場合(S38:YES)、CPU41は処理をS16に戻す。すなわち、CPU41は第一通信モードを継続する。
第一切替指示情報が受信された場合(S37:YES)、図8に示すように、CPU41は処理をS22に進める。即ち、CPU41は、通信モードを第一通信モードから第二通信モードに切り替える。S22以降の処理は、図8に示す第一HMDメイン処理のS22〜S33と同様である。
図12に示すように第二PCメイン処理では、図9に示す第一PCメイン処理と同様に、S41〜S48の処理が実行される。次いで、HMD1のS36において送信される第一閾値情報が受信されたか否かが判断される(S71)。第一閾値情報が受信されていない場合(S71:NO)、CPU301は処理をS45に戻す。この場合、S54が実行されず、第一切替指示情報がHMD1に送信されない。故に、HMD1のCPU41は、第一切替指示情報を受信していないと判断し(図11のS37:NO)、第一通信モードを継続する。
第一閾値情報が受信された場合(S71:YES)、図9及び図10に示す第一PCメイン処理と同様に、S51〜S53の処理が実行される。S52において「NO」が選択された場合(S52:YES)、第一通信モードから第二通信モードへの切り替えの指示が入力されていないと判断され(S53:NO)、第一継続指示情報がHMD1に送信される(S72)。送信された第一継続指示情報は、HMD1のCPU41によって受信され(図11のS38:YES)、第一通信モードが継続される。S53において、第一通信モードから第二通信モードへの切り替えの指示が入力された場合(S53:YES)、第一PCメイン処理(図9及び図10参照)と同様に、S54〜S61が実行される。このため、HMD1のCPU41は、第一切替指示情報が受信されたと判断し(図11のS37:YES)、通信モードを第一通信モードから第二通信モードに切り替える(図8のS22)。
以上のように本変形例における処理が行われる。本変形例では、第一HMDメイン処理及び第一PCメイン処理と同様の効果を得ることができる。また、HMD1において複数の画像の間の変化量が第一閾値より小さいか否かが判断される(図11のS35)。このため、PC300が複数の画像の間の変化量が第一閾値より小さいか否かを判断する場合に比べて、PC300の消費電力を低減することができる。
また、図11のS34において複数の画像の間の変化量が取得される場合に、画像の一部が比較されるので、画像全体を比較する場合に比べて、比較のための処理量を低減することができる。よって、HMD1の消費電力を低減することができる。
本変形例において、図11のS34及びS35の処理を行うCPU41は本発明の「第二変化量判断手段」の一例である。図11のS36の処理を行うCPU41は本発明の「第一情報送信手段」の一例である。図11のS37の処理を行うCPU41は本発明の「第一切替指示受信手段」の一例である。図12のS71の処理を行うCPU301は本発明の「第一情報受信手段」の一例である。
なお、第一継続指示情報が受信された場合に(図11のS38:YES)、第一通信モードが継続されていたが、これに限定されない。例えば、S37において、第一継続指示情報が所定時間(例えば20秒)受信されなかった場合に、CPU41は処理をS16に戻し、第一通信モードを継続してもよい。この場合、図12のS72において第二継続指示情報が送信されなくてもよい。
1 ヘッドマウントディスプレイ
10 作業補助システム
36 画像表示部
39 カメラ
41 CPU
53 無線通信部
250 ネットワーク
300 パーソナルコンピュータ
301 CPU
330 入力部

Claims (11)

  1. 撮像部及び無線通信部を備え、作業の指示を受信して作業者に提示可能な作業装置と、
    第一表示部、入力部、及び通信部を備え、前記作業者に対する前記作業の指示を前記作業装置に送信可能な指示装置とを備え、
    前記作業装置及び前記指示装置がネットワークを介して接続された作業補助システムであって、
    前記作業装置は、
    前記無線通信部を使用した通信の通信モードを、前記撮像部によって撮像された画像の画像データを前記指示装置に送信する第一通信モードと、前記第一通信モードよりもデータ通信量の小さい第二通信モードとの間で切り替え可能な通信制御手段と、
    前記指示装置から送信される、前記第一通信モードから前記第二通信モードへの切り替えを指示する情報である第一切替指示情報を、前記無線通信部を介して受信する第一切替指示受信手段と、
    前記第一切替指示受信手段によって前記第一切替指示情報が受信された場合に、前記通信制御手段の前記通信モードを、前記第一通信モードから前記第二通信モードに切り替える第一通信切替手段と
    を備え、
    前記指示装置は、
    前記作業装置から送信された前記画像データを、前記通信部を介して受信する画像データ受信手段と、
    受信された前記画像データに基づく前記画像を前記第一表示部に表示する第一表示制御手段と、
    前記撮像部によって撮像された複数の前記画像の間の変化量が第一閾値より小さい場合に、前記第一通信モードから前記第二通信モードへの切り替えの指示が前記入力部に入力されたか否かを判断する第一切替判断手段と、
    前記第一切替判断手段によって前記第一通信モードから前記第二通信モードへの切り替えの指示が前記入力部に入力されたと判断された場合に、前記第一切替指示情報を前記作業装置に送信する第一切替指示手段と
    を備えたことを特徴とする作業補助システム。
  2. 前記指示装置は、
    前記通信制御手段の前記通信モードが前記第一通信モードである場合に、前記画像データ受信手段によって受信された前記画像データに基づく複数の前記画像の間の変化量が前記第一閾値より小さいか否かを判断する第一変化量判断手段を備え、
    前記第一切替判断手段は、前記第一変化量判断手段によって複数の前記画像の間の変化量が前記第一閾値より小さいと判断された場合に、前記第一通信モードから前記第二通信モードへの切り替えの指示が前記入力部に入力されたか否かを判断することを特徴とする請求項1に記載の作業補助システム。
  3. 前記作業装置は、
    前記通信制御手段の前記通信モードが前記第一通信モードである場合に、撮像部によって撮像された複数の前記画像の間の変化量が前記第一閾値より小さいか否かを判断する第二変化量判断手段と、
    前記第二変化量判断手段によって複数の前記画像の間の変化量が前記第一閾値より小さいと判断された場合に、複数の前記画像の間の変化量が前記第一閾値より小さいことを示す情報である第一閾値情報を前記指示装置に送信する第一情報送信手段と
    を備え、
    前記指示装置は、
    前記第一情報送信手段によって送信された前記第一閾値情報を受信する第一情報受信手段を備え、
    前記第一切替判断手段は、前記第一情報受信手段によって前記第一閾値情報が受信された場合に、前記第一通信モードから前記第二通信モードへの切り替えの指示が前記入力部に入力されたか否かを判断することを特徴とする請求項1に記載の作業補助システム。
  4. 前記作業装置は、
    前記通信制御手段の前記通信モードが前記第二通信モードである場合に、前記撮像部によって撮像された複数の前記画像の間の変化量が第二閾値より大きいか否かを判断する第三変化量判断手段と、
    前記第三変化量判断手段によって複数の前記画像の間の変化量が前記第二閾値より大きいと判断された場合に、複数の前記画像の間の変化量が前記第二閾値より大きいことを示す情報である第二閾値情報を前記指示装置に送信する第二情報送信手段と、
    前記指示装置から送信される、前記第二通信モードから前記第一通信モードへの切り替えを指示する情報である第二切替指示情報を受信する第二切替指示受信手段と、
    前記第二切替指示受信手段によって前記第二切替指示情報が受信された場合に、前記通信制御手段の前記通信モードを、前記第二通信モードから前記第一通信モードに切り替える第二通信切替手段と
    を備え、
    前記指示装置は、
    前記第二情報送信手段によって送信される前記第二閾値情報を受信する第二情報受信手段と、
    前記第二情報受信手段によって前記第二閾値情報が受信された場合に、前記第二通信モードから前記第一通信モードへの切り替えの指示が前記入力部に入力されたか否かを判断する第二切替判断手段と、
    前記第二切替判断手段によって前記第二通信モードから前記第一通信モードへの切り替えの指示が前記入力部に入力されたと判断された場合に、前記第二切替指示情報を前記作業装置に送信する第二切替指示手段と
    を備えたことを特徴とする請求項1から3のいずれかに記載の作業補助システム。
  5. 前記作業装置は、
    前記作業者の頭部に装着可能な第二表示部と、
    前記通信制御手段の前記通信モードが前記第二通信モードである場合に、前記撮像部によって撮像された前記画像を前記第二表示部に表示する第二表示制御手段と
    を備えたことを特徴とする請求項1から4のいずれかに記載の作業補助システム。
  6. 前記第二表示制御手段は、前記通信制御手段の前記通信モードが前記第二通信モードである場合に、前記通信制御手段の前記通信モードが前記第一通信モードである場合に比べてフレームレートを下げて前記画像を前記第二表示部に表示することを特徴とする請求項5に記載の作業補助システム。
  7. 前記作業装置は、前記通信制御手段の前記通信モードが前記第二通信モードである場合に、前記第二通信モードであることを報知する報知手段を備えたことを特徴とする請求項1から6のいずれかに記載の作業補助システム。
  8. 前記第一変化量判断手段は、前記画像データ受信手段によって受信された前記画像データに基づく複数の前記画像の間の変化量が前記第一閾値より小さいか否かを判断する場合に、複数の前記画像それぞれの一部を比較することを特徴とする請求項2に記載の作業補助システム。
  9. 前記第二変化量判断手段は、前記撮像部によって撮像された複数の前記画像の間の変化量が前記第一閾値より小さいか否かを判断する場合に、複数の前記画像それぞれの一部を比較することを特徴とする請求項3に記載の作業補助システム。
  10. 前記第三変化量判断手段は、前記撮像部によって撮像された複数の前記画像の間の変化量が前記第二閾値より大きいか否かを判断する場合に、複数の前記画像それぞれの一部を比較することを特徴とする請求項4に記載の作業補助システム。
  11. 第一表示部と入力部と通信部とを備えた指示装置であって作業者に対する作業の指示を送信可能な指示装置から送信される前記作業の指示を受信して前記作業者に提示可能であり、撮像部と無線通信部とを備えた作業装置であって、
    前記無線通信部を使用した通信の通信モードを、前記撮像部によって撮像された画像の画像データを前記指示装置に送信する第一通信モードと、前記第一通信モードよりもデータ通信量の小さい第二通信モードとの間で切り替え可能な通信制御手段と、
    撮像部によって撮像された複数の前記画像の間の変化量が第一閾値より小さい場合において、前記指示装置によって前記第一通信モードから前記第二通信モードへの切り替えの指示が前記入力部に入力されたと判断されて前記指示装置から送信される、前記第一通信モードから前記第二通信モードへの切り替えを指示する情報である第一切替指示情報を受信する第一切替指示受信手段と、
    前記第一切替指示受信手段によって前記第一切替指示情報が受信された場合に、前記通信制御手段の前記通信モードを、前記第一通信モードから前記第二通信モードに切り替える第一通信切替手段と
    を備えたことを特徴とする作業装置。
JP2013016971A 2013-01-31 2013-01-31 作業補助システム及び作業装置 Pending JP2014150343A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013016971A JP2014150343A (ja) 2013-01-31 2013-01-31 作業補助システム及び作業装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013016971A JP2014150343A (ja) 2013-01-31 2013-01-31 作業補助システム及び作業装置

Publications (1)

Publication Number Publication Date
JP2014150343A true JP2014150343A (ja) 2014-08-21

Family

ID=51573021

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013016971A Pending JP2014150343A (ja) 2013-01-31 2013-01-31 作業補助システム及び作業装置

Country Status (1)

Country Link
JP (1) JP2014150343A (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016029794A (ja) * 2014-07-18 2016-03-03 株式会社半導体エネルギー研究所 表示システム、撮像装置、監視装置、表示装置、及び電子機器
JP2017010119A (ja) * 2015-06-17 2017-01-12 キヤノン株式会社 情報処理装置、画像処理装置、それらの制御方法及びプログラム
JP2017529708A (ja) * 2015-06-29 2017-10-05 シャオミ・インコーポレイテッド ビデオコンテンツを取得する方法及び機器
CN111667613A (zh) * 2020-05-14 2020-09-15 北京时代艾特智能科技有限公司 一种无线智能锁安全管理方法
WO2024190674A1 (ja) * 2023-03-16 2024-09-19 パナソニックIpマネジメント株式会社 情報処理方法、情報処理装置、及び情報処理プログラム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016029794A (ja) * 2014-07-18 2016-03-03 株式会社半導体エネルギー研究所 表示システム、撮像装置、監視装置、表示装置、及び電子機器
JP2017010119A (ja) * 2015-06-17 2017-01-12 キヤノン株式会社 情報処理装置、画像処理装置、それらの制御方法及びプログラム
JP2017529708A (ja) * 2015-06-29 2017-10-05 シャオミ・インコーポレイテッド ビデオコンテンツを取得する方法及び機器
CN111667613A (zh) * 2020-05-14 2020-09-15 北京时代艾特智能科技有限公司 一种无线智能锁安全管理方法
WO2024190674A1 (ja) * 2023-03-16 2024-09-19 パナソニックIpマネジメント株式会社 情報処理方法、情報処理装置、及び情報処理プログラム

Similar Documents

Publication Publication Date Title
US11231897B2 (en) Display system, display device, information display method, and program
US9448625B2 (en) Head-mounted display device, control method for head-mounted display device, and image display system
US9411160B2 (en) Head mounted display, control method for head mounted display, and image display system
KR102233223B1 (ko) 화상 표시 장치 및 화상 표시 방법, 화상 출력 장치 및 화상 출력 방법과, 화상 표시 시스템
EP3321776B1 (en) Operation input device and operation input method
JP6264014B2 (ja) 頭部装着型表示装置
JP6641763B2 (ja) 表示システム
JP2014150343A (ja) 作業補助システム及び作業装置
JP5949501B2 (ja) 作業補助システムおよびプログラム
JP2011091789A (ja) ヘッドマウントディスプレイ
JP6590050B2 (ja) 表示装置、表示システム、表示装置の制御方法、及び、プログラム
JP6268778B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2015176186A (ja) 情報処理装置、情報処理方法、及び情報処理システム
JP2015149552A (ja) ウェアラブル型電子機器
JP2020149140A (ja) 作業支援システム、作業支援方法、及びプログラム
JP2012108379A (ja) 情報表示システム、装置、方法及びプログラム
JP2019105885A (ja) 頭部装着型表示装置、情報処理装置、情報処理システム、及び頭部装着型表示装置の制御方法
CN109636715A (zh) 图像数据的传输方法、装置及存储介质
JP7292144B2 (ja) 表示制御装置、透過型表示装置
JP2014197802A (ja) 作業支援システムおよびプログラム
JP2018042004A (ja) 表示装置、頭部装着型表示装置、及び、表示装置の制御方法
JP5907034B2 (ja) 作業補助システムおよびプログラム
US11475866B2 (en) Head-mounted display apparatus, input method switching method, and input method switching program
JP5979110B2 (ja) ヘッドマウントディスプレイ、及び、制御プログラム
JP2018085595A (ja) 頭部装着型表示装置、及び、頭部装着型表示装置の制御方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20150513