JP7418870B2 - ディスプレイ装置、ディスプレイ装置の表示制御方法、ディスプレイ装置の表示制御プログラム - Google Patents

ディスプレイ装置、ディスプレイ装置の表示制御方法、ディスプレイ装置の表示制御プログラム Download PDF

Info

Publication number
JP7418870B2
JP7418870B2 JP2022533258A JP2022533258A JP7418870B2 JP 7418870 B2 JP7418870 B2 JP 7418870B2 JP 2022533258 A JP2022533258 A JP 2022533258A JP 2022533258 A JP2022533258 A JP 2022533258A JP 7418870 B2 JP7418870 B2 JP 7418870B2
Authority
JP
Japan
Prior art keywords
image
work
distance
display
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022533258A
Other languages
English (en)
Other versions
JPWO2022003752A1 (ja
Inventor
直樹 北原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
SEIDENSYA CO., LTD.
Original Assignee
SEIDENSYA CO., LTD.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SEIDENSYA CO., LTD. filed Critical SEIDENSYA CO., LTD.
Publication of JPWO2022003752A1 publication Critical patent/JPWO2022003752A1/ja
Application granted granted Critical
Publication of JP7418870B2 publication Critical patent/JP7418870B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/10Intensity circuits
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/122Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/66Transforming electric information into light information

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、ディスプレイ装置に関する。
複合現実(Mixed Reality 以下、「MR」という)技術を用いて、例えばヘッドマウントディスプレイ(以下、「HMD」という)を装着したユーザに対し、現実物体とコンピュータグラフィックス(Computer Graphics 以下「CG」という)により描画された仮想画像とを配置したMR空間(現実空間と仮想空間とを重ね合わせた複合現実空間)の疑似体験を提供する技術が知られている。MR技術を用いて疑似体験を提供する従来の構成では、例えば、MR空間において仮想画像の背後に隠れて見えない現実物体とユーザとの衝突防止のための各種の対策が検討されている(例えば特許文献1~3参照)。
特開2017-103787号公報 特開2016-122392号公報 特開2018-63567号公報
本発明者は、MR技術を、単なる疑似体験の提供ではなく、作業者が移動可能な作業現場(例えば工事現場等)で作業を行う場合に利用して作業効率の向上を図ることについて鋭意研究している。具体的には、作業現場で作業者にHMDを装着させ、そのHMDに、作業現場の現実空間を表す現実画像上に、作業対象箇所に対する作業情報を表示させたMR空間を表示させる。これにより、作業者は、HMDを介して、作業情報を視認しつつ、作業対象箇所に対する作業を効率良く行うことができる。ところで、作業者が移動可能な作業現場では、作業者は、まず、作業対象箇所を見つけ出す必要がある。しかし、例えば作業者が作業対象箇所から離れた位置にいる場合、HMDの表示を通じて作業対象箇所を見つけ出すことが難しく、HMDを用いると却って、作業現場における作業者の作業効率が低下するおそれがある、という課題がある。
なお、このような課題は、HMDに限らず、MR空間を表示可能なディスプレイ装置を作業者が移動可能な作業現場で利用する場合に共通の課題である。
本発明は、上述した課題を解決することが可能な技術を開示する。
(1)本明細書に開示されるディスプレイ装置は、現実空間を表す現実画像を取得する取得部と、表示部と、を備えるディスプレイ装置であって、前記現実空間に位置する現実物体における作業対象箇所と前記ディスプレイ装置との距離であるディスプレイ距離を特定する距離特定部と、前記ディスプレイ距離が基準距離以下である場合、前記取得部によって取得される前記現実画像上に、前記作業対象箇所に対する作業の基準位置を示す作業基準画像を含む近距離用画像を前記表示部に表示させ、前記ディスプレイ距離が前記基準距離を超える場合、前記近距離用画像に比べて視認性が高い遠距離用画像であって、前記作業対象箇所の位置を示す作業箇所画像を含む遠距離用画像を前記表示部に表示させる表示制御部と、を備える。
本ディスプレイ装置では、ディスプレイ距離が基準距離以下である場合、近距離用画像が表示部に表示される。この近距離用画像は、取得部によって取得される現実画像上に、作業対象箇所に対する作業の基準位置を示す作業基準画像を含む画像である。一方、ディスプレイ距離が基準距離を超える場合、遠距離用画像が表示部に表示される。遠距離用画像は、近距離用画像に比べて視認性が高く、かつ、作業対象箇所の位置を示す作業箇所画像を含む画像である。このため、作業者は、作業対象箇所から比較的に遠い位置では、遠距離用画像を通じて、作業対象箇所を容易に見つけ出すことができる。一方、作業者は、作業対象箇所から比較的に近い位置では、遠距離用画像による視界の制限を抑制しつつ、近距離用画像を通じて、作業対象箇所に対する作業を行うことができる。このように、本本ディスプレイ装置によれば、作業対象箇所を容易に見つけ出しつつ作業対象箇所での作業性の向上を図ることができる。
(2)上記ディスプレイ装置において、前記近距離用画像は、前記作業基準画像が前記作業箇所画像よりも相対的に強調された画像であり、前記遠距離用画像は、前記作業箇所画像が前記作業箇所画像よりも相対的に強調された画像である構成としてもよい。本ディスプレイ装置では、ディスプレイ距離が基準距離以下である場合、作業基準画像が前記作業箇所画像よりも相対的に強調された近距離用画像が表示部に表示される。一方、ディスプレイ距離が基準距離を超える場合、作業箇所画像が作業箇所画像よりも相対的に強調された遠距離用画像が表示部に表示される。このため、本ディスプレイ装置によれば、作業者は、作業対象箇所から比較的に遠い位置では、相対的に強調された作業箇所画像を通じて、作業対象箇所を、より容易に見つけ出すことができる。一方、作業者は、作業対象箇所から比較的に近い位置では、相対的に強調された作業基準画像を通じて、作業対象箇所に対する作業をより効率良く行うことができる。
(3)上記ディスプレイ装置において、前記作業箇所画像は、少なくとも一部分が前記作業対象箇所よりも手前に位置する立体画像である構成としてもよい。本ディスプレイ装置では、作業箇所画像は、少なくとも一部分が作業対象箇所よりも手前に位置する立体画像である。このため、例えば作業箇所画像が平面画像であったり、作業対象箇所の背後に位置する画像であったりする場合に比べて、作業者が作業対象箇所を斜め方向から見た場合でも、作業箇所画像を通じて作業対象箇所を容易に見つけ出すことができる。
(4)上記ディスプレイ装置において、前記近距離用画像と前記遠距離用画像との少なくとも一方の画像の表示態様を周囲の画像とは独立に変更する表示変更部を備える構成としてもよい。本ディスプレイ装置では、近距離用画像と遠距離用画像との少なくとも一方の画像の表示態様を変更可能である。これにより、作業の進行や環境が逐次変わる作業現場においてディスプレイ装置の利便性を向上させることができる。
(5)上記ディスプレイ装置において、前記作業対象箇所に対する作業の完了を検知する完了検知部を備え、前記表示変更部は、前記完了検知部が前記作業の完了を検知した場合、前記近距離用画像と前記遠距離用画像との少なくとも一方の画像の表示態様を変更する構成としてもよい。本ディスプレイ装置では、作業の完了の検知に基づき、近距離用画像と遠距離用画像との少なくとも1つの表示態様が変更される。これにより、作業者は、近距離用画像や遠距離用画像の表示態様の変更に基づき、作業対象箇所に対する作業の完了の有無を把握することができる。
(6)上記ディスプレイ装置において、前記現実画像における前記現実物体の画像色の変化を検知する色検知部を備え、前記表示変更部は、前記近距離用画像と前記遠距離用画像との少なくとも一方の画像の表示態様を、前記色検知部により検知された変化後の画像色に対して視認性が高くなるように変更する構成としてもよい。本ディスプレイ装置では、周囲環境の変化が反映される現実物体の画像色の変化に基づき、近距離用画像と遠距離用画像との少なくとも一方の画像の表示態様が、色検知部によって検知された変化後の画像色に対して視認性がより高い表示態様に変更される。これにより、作業者の周囲環境の変化に起因して近距離用画像と遠距離用画像が見づらくなって作業効率が低下することを抑制することができる。
(7)上記ディスプレイ装置において、前記表示部に表示される前記作業対象箇所に対応付けて情報を付加する情報付加部を備える構成としてもよい。本ディスプレイ装置では、表示部に表示される作業対象箇所に対応付けて情報を付加することができる。これにより、例えば、ディスプレイ装置の利便性を向上させることができる。
(8)上記ディスプレイ装置において、前記現実画像の明度の変化を検知する明度検知部を備え、前記表示変更部は、前記明度検知部により検知される明度の低下に応じて、前記近距離用画像と前記遠距離用画像との少なくとも一方の画像の明度を低下させる構成としてもよい。本ディスプレイ装置では、現実画像の明度の低下に応じて、近距離用画像と遠距離用画像との少なくとも一方の画像の明度が低下する。これにより、現実画像の明度が低下しても近距離用画像等の明度が維持される構成に比べて、局所的に明度が高い画像を目にすることに起因する作業者の目への負担(目の疲れ等)を軽減することができる。
(9)本明細書に開示されるディスプレイ装置の表示制御方法は、現実空間を表す現実画像を取得する取得部と、表示部と、を備えるディスプレイ装置の表示制御方法であって、前記現実空間に位置する現実物体における作業対象箇所と前記ディスプレイ装置との距離であるディスプレイ距離を特定する距離特定工程と、前記ディスプレイ距離が基準距離以下である場合、前記取得部によって取得される前記現実画像上に、前記作業対象箇所に対する作業の基準位置を示す作業基準画像を含む近距離用画像を前記表示部に表示させ、前記ディスプレイ距離が前記基準距離を超える場合、前記近距離用画像に比べて視認性が高い遠距離用画像であって、前記作業対象箇所の位置を示す作業箇所画像を含む遠距離用画像を前記表示部に表示させる表示制御工程と、を含む。
(10)本明細書に開示されるディスプレイ装置の表示制御プログラムは、現実空間を表す現実画像を取得する取得部と、表示部と、を備えるディスプレイ装置が備えるコンピュータに、前記現実空間に位置する現実物体における作業対象箇所と前記ディスプレイ装置との距離であるディスプレイ距離を特定する距離特定処理と、前記ディスプレイ距離が基準距離以下である場合、前記取得部によって取得される前記現実画像上に、前記作業対象箇所に対する作業の基準位置を示す作業基準画像を含む近距離用画像を前記表示部に表示させ、前記ディスプレイ距離が前記基準距離を超える場合、前記近距離用画像に比べて視認性が高い遠距離用画像であって、前記作業対象箇所の位置を示す作業箇所画像を含む遠距離用画像を前記表示部に表示させる表示制御処理と、を実行させる。
なお、本明細書に開示される技術は、種々の形態で実現することが可能であり、例えば、ディスプレイ装置、互いに通信可能に接続されるディスプレイ装置と通信装置とを備える作業支援システム、ディスプレイ装置の表示制御方法、それらの装置、システムまたは方法の機能を実現するためのコンピュータプログラム、そのコンピュータプログラムを記録した一時的でない記録媒体等の形態で実現することが可能である。
本実施形態における作業支援システム10の概略構成を示す説明図 工事現場選択画面Mを示す説明図 ボックス配置支援処理の内容を示すフローチャート ボックス配置作業における作業者Uの位置とHMD100の表示内容との関係を模式的に示す説明図 ボード開口支援処理の内容を示すフローチャート ボード開口作業における作業者Uの位置とHMD100の表示内容との関係を模式的に示す説明図 作業対象箇所Tを斜め方向から見たときの近距離用画像GN2を示す説明図 器具取付支援処理の内容を示すフローチャート 器具取付作業における作業者Uの位置とHMD100の表示内容との関係を模式的に示す説明図 天井側を見たときのHMD100の表示内容を示す説明図
A.実施形態:
A-1.作業支援システム10の構成:
図1は、本実施形態における作業支援システム10の概略構成を示す説明図である。作業支援システム10は、複合現実(Mixed Reality 以下、「MR」という)技術を用いて、作業現場における作業者U(例えば職人)の作業を支援するためのシステムである。すなわち、作業支援システム10では、ヘッドマウントディスプレイ(以下、「HMD」という)100を通じて、現実空間(作業現場の現実画像)と仮想空間(作業対象箇所や作業基準を示す仮想画像)とを融合したMR空間が作業者Uに提供される。本実施形態では、工事現場(例えば建築現場等)における電気工事に関する作業を例に挙げて説明する。
図1に示すように、作業支援システム10は、HMD100と、サーバ200と、端末装置300と、を備える。なお、作業支援システム10では、HMD100と端末装置300との少なくとも一方を複数備えることが可能である。すなわち、例えば複数のHMD100が、サーバ200から提供される3Dデータ等を共有できる構成としてもよい。また、複数の端末装置300は、サーバ200に対して個別に設計図面データ等を送信し、サーバ200は、送信されたそれぞれの設計図面データ等を端末装置ごとにサーバ記憶部220に記憶する構成としてもよい。
A-1-1.HMD100の構成
HMD100は、工事現場で作業を行う作業者Uに装着されるディスプレイ装置である。HMD100は、HMD制御部110と、HMD記憶部120と、空間位置センサ130と、カメラ140、HMD表示部150と、HMD操作入力部160と、インターフェース部170と、を備える。これらの各部は、バス190を介して互いに通信可能に接続されている。
空間位置センサ130は、現実空間におけるHMD100の位置を検出するためのセンサである。カメラ140は、HMD100の視界内における現実空間の動画や静止画を撮像し、その撮像データを生成する。HMD表示部150は、光学シースルー方式の表示部である。具体的には、HMD表示部150は、ハーフミラー(図示しない)を備えており、作業者Uは、外部の様子(現実空間)を、ハーフミラーを介して見ることができる。また、HMD表示部150は、液晶ディスプレイ等(図示しない)を備えており、作業者Uは、液晶ディスプレイに表示された仮想画像(例えば図形やテキスト等)を、ハーフミラーを介して視認することができる。なお、本実施形態のHMD表示部150では、ホログラフィック素子を用いたディスプレイが採用されている。HMD表示部150は、特許請求の範囲における取得部と表示部との一例である。また、HMD表示部150を介して作業者Uに視認される現実空間の情景(HMD100の視界内の外部の様子)は、特許請求の範囲における現実空間を表す現実画像の一例である。
HMD操作入力部160は、例えばボタンやマイク等により構成され、人の操作や指示(音声による指示を含む)を受け付ける。また、インターフェース部170は、例えばLANインターフェースやUSBインターフェース等により構成され、有線または無線により他の装置(サーバ200、端末装置300)との通信を行う。
HMD記憶部120は、例えばROMやRAM、NVRAM、フラッシュメモリ、HDD、EEPROMなどの書き換え可能なメモリ等により構成され、各種のデータ、プログラムを記憶したり、各種のプログラムを実行する際の作業領域やデータの一時的な記憶領域として利用されたりする。具体的には、HMD記憶部120には、作業支援PGM121が格納されている。作業支援PGM121は、HMD100のHMD表示部150の表示動作を制御するためのプログラムである。このプログラムは、例えば、CD-ROMやDVD-ROM、USBメモリ等のコンピュータによって読み取り可能な記録媒体(不図示)に格納された状態で提供され、HMD100にインストールすることによりHMD記憶部120に格納される。
HMD制御部110は、例えばCPU等により構成され、HMD記憶部120から読み出したコンピュータプログラムを実行することにより、HMD表示部150の表示動作を制御する。例えば、HMD制御部110は、HMD記憶部120から作業支援PGM121を読み出して実行することにより、後述の作業支援処理等を実行する。このとき、HMD制御部110は、距離特定部111と表示制御部112と表示変更部113と情報付加部114として機能する。これら各部の機能については、後述の処理の説明に合わせて説明する。
A-1-2.サーバ200の構成
サーバ200は、工事現場から離れた場所に配置されており、端末装置300から工事現場の建築物の設計図面データ(CADデータ等)を受信して3Dデータに変換して登録し、HMD100からの要求に応じて3DデータをHMD100に随時送信する。サーバ200は、サーバ制御部210と、サーバ記憶部220と、サーバ表示部250と、サーバ操作入力部260と、インターフェース部270と、を備える。これらの各部は、バス290を介して互いに通信可能に接続されている。
サーバ表示部250は、例えば液晶ディスプレイ等により構成され、各種の画像や情報を表示する。サーバ操作入力部260は、例えばキーボードやマウス、ボタン、マイク等により構成され、人の操作や指示を受け付ける。また、インターフェース部270は、例えばLANインターフェースやUSBインターフェース等により構成され、有線または無線により他の装置(HMD100や端末装置300)との通信を行う。
サーバ記憶部220は、例えばROMやRAM、ハードディスクドライブ(HDD)等により構成され、各種のデータ、プログラムを記憶したり、各種のプログラムを実行する際の作業領域やデータの一時的な記憶領域として利用されたりする。サーバ記憶部220には、3DデータDB221が格納されており、3DデータDB221には、端末装置300から受信した設計図面データを3D変換して生成された3Dデータが登録される。3Dデータは、上記設計図面データに基づく3次元空間の図面データであり、例えば工事現場における電気工事の作業対象箇所や配線の位置情報等が含まれる。
サーバ制御部210は、例えばCPU等により構成され、サーバ記憶部220から読み出したコンピュータプログラムを実行することにより、サーバ200の動作を制御する。例えば、サーバ制御部210は、サーバ記憶部220から図面変換PGM(図示しない)を読み出して実行することにより、データ変換処理を実行する。このとき、サーバ制御部210は、データ変換部211として機能する。具体的には、データ変換部211は、端末装置300から受信した設計図面データを3D変換して3Dデータを生成すると共に、該3Dデータを解析して、電気工事の作業対象箇所の位置を特定する。特定された作業対象箇所の位置情報は、3Dデータと共に3DデータDB221に記憶される。
A-1-3.端末装置300の構成
端末装置300は、例えば工事現場やサーバ200の設置場所から離れた場所に配置されており、工事現場の設計図面データをサーバ200に送信したり、HMD100での工事現場の撮像画像を、HMD100を介して受信したりする。端末装置300は、端末制御部310と、端末記憶部320と、端末表示部350と、端末操作入力部360と、インターフェース部370と、を備える。これらの各部は、バス390を介して互いに通信可能に接続されている。
端末表示部350は、例えば液晶ディスプレイ等により構成され、各種の画像や情報を表示する。端末操作入力部360は、例えばキーボードやマウス、ボタン、マイク等により構成され、人の操作や指示を受け付ける。また、インターフェース部370は、例えばLANインターフェースやUSBインターフェース等により構成され、有線または無線により他の装置(HMD100やサーバ200)との通信を行う。例えば、HMD100のカメラ140に生成される撮像データがサーバ200に送信され、HMD100の視界内の動画や静止画を端末表示部350に表示することができる。
端末記憶部320は、例えばROMやRAM、HDD等により構成され、各種のデータ、プログラムを記憶したり、各種のプログラムを実行する際の作業領域やデータの一時的な記憶領域として利用されたりする。端末記憶部320には、設計図面DB321が格納されており、設計図面DB321には、各工事現場の設計図面データ(各工事現場の建築物や構造物の位置や寸法等を含む)が格納されている。
端末制御部310は、例えばCPU等により構成され、端末記憶部320から読み出したコンピュータプログラムを実行することにより、端末装置300の動作を制御する。例えば、端末制御部310は、端末記憶部320から図面送信PGM(図示しない)を読み出して実行することにより、設計図面データをサーバ200に送信したり、工事現場での撮像画像を、HMD100を介して受信したりする。なお、作業支援システム10において、端末装置300からHMD100に所定の指示や情報を送信可能な構成としてもよい。
A-2.準備処理:
まず、本実施形態のHMD100の準備処理について説明する。まず、作業者Uは、工事現場にて、HMD100を装着し、HMD操作入力部160を介して所定の操作を行ってHMD100を起動させる。次に、作業者Uが、位置合わせの指示操作を行うと、HMD制御部110は、現実空間上の基準位置と、サーバ200からの3Dデータに基づく仮想空間上の基準位置とを合わせるための位置合わせ処理を行う。位置合わせ処理では、空間位置センサ130により検出されるHMD100の現在位置と、カメラ140によって撮像されるARマークを含む現実画像の解析結果とに基づき、現実空間上の基準位置と仮想空間上の基準位置とを一致させるよう、仮想空間上の基準位置を調整する。
次に、HMD100のHMD表示部150には、図2に示す工事現場選択画面Mが表示される。工事現場選択画面Mには、複数の工事現場(部屋)の選択肢(A室R1、B室R2・・・)が表示され、工事現場毎に、作業が完了していない未作業箇所の残数が表示されている。図2では、A室R1では、未作業箇所の残数は3箇所であり、B室R2では、未作業箇所の残数は0箇所であることが例示されている。作業者Uは、所定の操作を行うことにより、任意の工事現場を選択できる。以下、A室R1が選択された場合を例に挙げて説明する。
A-3.作業支援処理:
次に、本実施形態のHMD100により実行される作業支援処理について説明する。作業支援処理は、次の3つの処理を含む。
「ボックス配置支援処理」:A室R1を構成する骨組み2(柱や梁等)に後述のボード4を設置する前において、その骨組み2に電気ボックス3を配置するためのボックス配置作業を支援するための処理である。
「ボード開口支援処理」:上記ボックス配置作業後、骨組み2に設置されたボード4にボード開口4aを形成するためのボード開口作業を支援するための処理である。
「器具取付支援処理」:上記ボード開口作業後、上記ボード開口4aを覆うようにボード4の表面全体に貼り付けられた壁紙7に壁紙開口7aを形成する壁紙開口作業を支援するための処理である。なお、壁紙開口作業後、壁紙開口7a内に位置する電気ボックス3と電気器具8(コンセントプレート等)とを電気的に接続し、電気器具8を壁紙開口7aに取り付けることにより作業対象箇所Tに対する電気工事が完了する。以下、これらの処理を順番に説明する。
A-3-1.ボックス配置支援処理
図3は、ボックス配置支援処理の内容を示すフローチャートであり、図4は、ボックス配置作業における作業者Uの位置とHMD100の表示内容との関係を模式的に示す説明図である。図4には、ボックス配置作業前の状態のA室R1を上方から見た模式図が示されている。該模式図には、方向を特定するための互いに直交するXYZ軸が示されており、便宜的に、Z軸正方向を上方向と呼ぶものとする(他の図面も同じ)。ボックス配置作業前の状態のA室R1では、複数本の骨組み2が配置されているが、これらの骨組み2にボード4は設置されていない。A室R1には、例えば3箇所の作業対象箇所T(T1~T3)が存在するものとする。
図4に示された近距離画面MN1は、一の作業対象箇所T(T1)の近傍の位置にいる作業者U(UN)が装着したHMD100の表示画面である。図4の遠距離画面MF1は、一の作業対象箇所T(T1)から離れた位置(A室R1の入口付近)にいる作業者U(UF)が装着したHMD100の表示画面である。図4の作業後画面MC1は、一の作業対象箇所T(T1)に対するボックス配置作業が完了したときの表示画面である。
ボックス配置支援処理が開示されると、図3に示すように、距離特定部111は、HMD100の視界内に位置する作業対象箇所Tのディスプレイ距離を特定する(S110)。ディスプレイ距離は、現実空間に実在する現実物体(建築物の骨組み2)における作業対象箇所TとHMD100との距離である。従って、ディスプレイ距離は、工事現場内での作業者Uの移動に伴って変動する。距離特定部111は、空間位置センサ130により検出されるHMD100の現在位置情報と、サーバ200から送信される3Dデータとに基づき、ディスプレイ距離を特定できる。
次に、表示制御部112は、特定されたディスプレイ距離が基準距離以下であるか否かを判断する(S120)。なお、基準距離は、作業者Uが作業対象箇所Tに対して作業可能な距離(例えば作業者Uの手が作業対象箇所Tに届くなどして作業可能な距離)であることが好ましい。なお、工事現場(A室R1)に複数の作業対象箇所Tが存在する場合、複数の作業対象箇所Tのうち、HMD100の視界内に位置する作業対象箇所Tのみを対象として、S120の処理が実施される。換言すれば、作業者Uの視線が変わり、HMD100の視界内に位置する作業対象箇所Tが変われば、S120の処理対象の作業対象箇所Tも変わる。
表示制御部112は、ディスプレイ距離が基準距離以下であると判断した場合(S120:YES)、A室R1の現実画像上における作業対象箇所T(骨組み2の側面側)に近距離用画像GN1を投影したMR画像を、HMD表示部150に表示させる(S130)。図4の近距離画面MN1に示すように、近距離用画像GN1は、作業基準画像GA1を含む。作業基準画像GA1は、作業対象箇所Tに対する作業の基準位置(例えば電気ボックス3の取付の中心位置)を示すライン画像である。具体的には、作業基準画像GA1は、縦ガイドラインGA11と横ガイドラインGA12とを有する。縦ガイドラインGA11は、上下方向(Z軸方向)に延びる直線状のライン画像であり、横ガイドラインGA12は、水平方向(例えばX軸方向)に延びる直線状のライン画像である。縦ガイドラインGA11と横ガイドラインGA12との交点Pが、電気ボックス3の中心を配置すべき基準位置を意味し、作業者Uは、電気ボックス3の中心がMR空間中の交点Pに一致するように電気ボックス3を配置して骨組み2に固定する。これにより、作業者Uは、現場での寸法測定や設計図面の確認等を行うことなく、HMD100に表示される作業基準画像GA1を頼りに電気ボックス3を作業対象箇所Tに精度良く配置できる。
また、作業基準画像GA1は、さらに、外形画像GA13を含む。外形画像GA13は、作業対象箇所Tに取り付けるべき電気ボックス3の外形に応じた枠状のライン画像である。これにより、作業者Uが、間違ったサイズの電気ボックス3を作業対象箇所Tに配置することを抑制できる。また、例えば、1つの作業対象箇所Tに複数の電気ボックス3を配置する場合、外形画像GA13を、複数の電気ボックス3のそれぞれの外形に応じた複数の枠状のライン画像としてもよい。これにより、作業者Uが、1つの作業対象箇所Tに配置すべき電気ボックス3の数やサイズを間違えることを抑制できる。
一方、表示制御部112は、ディスプレイ距離が基準距離を超えたと判断した場合(S120:NO)、A室R1の現実画像上における作業対象箇所Tに遠距離用画像GF1を投影したMR画像を、HMD表示部150に表示させる(S140)。図4の遠距離画面MF1に示すように、遠距離用画像GF1は、近距離用画像GN1に比べて視認性が高い画像である。具体的には、遠距離用画像GF1は、上記作業基準画像GA1に加えて、作業箇所画像GB1を含む。作業箇所画像GB1は、作業対象箇所Tの位置を示す画像である。作業箇所画像GB1は、作業基準画像GA1に比べて視認性が高い画像である。ここで、画像の視認性が高いとは、HMD100の視界内において、作業者Uが視覚的に認識し易い表示方法(例えば、画像の濃淡、塗り潰し範囲、輝度、点滅周期等のうちの少なくとも1つを調整して視認性を調整)で表示されていることを言う。本実施形態では、作業箇所画像GB1は、ライン画像である作業基準画像GA1に比べて、単位面積当たりの塗りつぶし範囲が広い塗り潰し画像である。具体的には、作業箇所画像GB1は、上記外形画像GA13に囲まれる領域全体を塗りつぶす不透明または半透明な画像である。このように、遠距離用画像GF1は、作業基準画像GA1に加えて作業箇所画像GB1を含むため、作業箇所画像GB1を含まない近距離用画像GN1に比べて視認性が高く、その結果、作業対象箇所Tから基準距離以上離れた位置でも作業者Uは作業対象箇所Tを容易に見つけ出すことができる。
また、作業箇所画像GB1は、少なくとも一部分が作業対象箇所Tよりも手前に位置する立体画像である。具体的には、作業箇所画像GB1は、電気ボックス3の外形に応じた直方体の立体画像である。これにより、例えば作業箇所画像GB1が、平面画像や、作業対象箇所T(現実物体)の後ろ側に位置する画像である場合に比べて、例えば、作業者Uが作業対象箇所Tを斜め方向から見た場合でも、作業箇所画像GB1を通じて作業対象箇所Tを容易に見つけ出すことができる。なお、本実施形態では、作業箇所画像GB1の全体が作業対象箇所Tよりも手前に位置している。
表示制御部112は、ディスプレイ距離に応じて、遠距離用画像GF1または近距離用画像GN1を表示させた後、HMD100の視界内に位置する作業対象箇所Tに対する作業が完了したか否かを判断する(S150)。作業者Uは、所定の操作を行うことにより、該作業対象箇所Tに対するボックス配置作業が完了したことをHMD100に認識させることができる。ここでいう所定の操作とは、例えばHMD100の視界内に位置する上記近距離用画像GN1または遠距離用画像GF1に仮想的にタッチし、完了を意味する動作を行う操作である。このとき、表示制御部112は、カメラ140からの撮像データに基づき、現実空間の現実画像を常にスキャンしており、そのスキャン結果から、作業者Uの動作を検知する。このとき、カメラ140と表示制御部112とは、特許請求の範囲における完了検知部の一例である。また、作業者Uによる操作ではなく、作業者Uの声に基づき作業の完了の有無を判断してもよいし、カメラ140によって撮像した作業対象箇所Tの画像の解析結果に基づき作業の完了の有無を自動で判断してもよい。表示制御部112は、作業が完了していないと判断した場合(S150:NO)、S110の処理に戻る。すなわち、表示制御部112は、ディスプレイ距離に応じて、遠距離用画像GF1または近距離用画像GN1を表示させる動作を継続する。
表示制御部112は、作業が完了したと判断した場合(S150:YES)、ディスタンス距離の長短に関係なく、A室R1の現実画像上における作業対象箇所Tに完了画像GC1を投影したMR画像を、HMD表示部150に表示させる(S160)。完了画像GC1は、作業基準画像GA1’と作業箇所画像GB1’とを含む。作業基準画像GA1’は、上記作業基準画像GA1と形状は同じであるが、色が異なる。また、作業箇所画像GB1’は、上記作業箇所画像GB1と形状は同じであるが、色が異なる。これにより、作業者Uは、作業基準画像GA1’や作業箇所画像GB1’の色によって、作業の完了の有無を容易に判断できる。なお、表示制御部112は、作業が完了したと判断した場合(S150:YES)、A室R1におけるボックス配置作業についての未作業箇所の残数を更新する。また、未作業箇所の残数が、上記各画面MN1,MF1,MC1の少なくとも1つに表示される構成であってもよい。
次に、表示制御部112は、メモ機能が選択されたか否かを判断する(S170)。作業者Uは、所定の操作を行うことにより、メモ機能が選択されたことをHMD100に認識させることができる。ここでいう所定の操作とは、例えばHMD100の視界内に位置する作業後画面MC1に仮想的にタッチし、メモ機能の選択を意味する動作を行う操作である。表示制御部112は、メモ機能が選択されたと判断した場合(S170:YES)、情報付加部114がメモ情報を取得する(S180)。具体的には、作業後画面MC1に示すように、作業後画面MC1にメモ画面Hが表示され、作業者Uがメモしたいメモ情報を話すと、その音声がHMD操作入力部160(マイク)に入力され、音声データに応じたテキスト情報がメモ画面Hに表示されると共に、HMD記憶部120に記憶される。メモ情報とは、例えば、電気ボックス3を実際に配置した位置と設計図面上の位置とのずれや、後段の作業に役立つ情報などである。なお、メモ情報は、例えばHMD100からサーバ200または端末装置300に送信されてフィードバックされることが好ましい。これにより、例えば一の作業者Uが入力したメモ情報がサーバ200や端末装置300にて設計図面等に反映され、HMD100を使用する他の作業者Uにも共有できる。
表示制御部112は、メモ機能が選択されないと判断した場合(S170:NO)、S180の処理を行うことなく、S110の処理に戻る。なお、図3に示すボックス配置支援処理では、作業者Uが視線を変わり、HMD100の視界内に位置する作業対象箇所Tが変わった場合、表示制御部112は、視線が変わる前の作業対象箇所Tに対する処理を中断し、視線が変わった後の新たな作業対象箇所Tに対してS110の処理から行う。
以上の構成により、例えば、作業者U(UF)がA室R1の入口に立つと、各作業対象箇所Tに遠距離画面MF1が投影される。上述したように、遠距離画面MF1は、作業基準画像GA1に加えて、作業箇所画像GB1が含まれた画像であり、かつ、作業箇所画像GB1は、作業基準画像GA1に比べて、単位面積当たりの塗り潰し範囲が広い分だけ相対的に強調されている。このため、作業者U(UF)は、作業対象箇所Tから比較的に遠い位置では、相対的に強調された作業箇所画像GB1を通じて、作業対象箇所Tを、より容易に見つけ出すことができる。特にHMD100を装着した作業者Uは、HMD100によって視界が制約されるため、特に本実施形態が有効である。
次に、作業者U(UN)が作業対象箇所Tに近づくと、作業対象箇所Tに近距離画面MN1が投影される。近距離画面MN1は、作業基準画像GA1を含み、かつ、作業箇所画像GB1を含まない画像であり、作業箇所画像GB1に比べて、作業基準画像GA1が相対的に強調されている。このため、作業者U(UN)は、作業対象箇所Tから比較的に近い位置では、相対的に強調された作業基準画像GA1を通じて、作業対象箇所Tに対する作業をより効率良く行うことができる。
A-3-2.ボード開口支援処理
図5は、ボード開口支援処理の内容を示すフローチャートであり、図6は、ボード開口作業における作業者Uの位置とHMD100の表示内容との関係を模式的に示す説明図である。図6には、ボード開口作業前の状態のA室R1を上方から見た模式図が示されている。ボード開口作業前の状態のA室R1では、骨組み2に電気ボックス3が配置されると共に、電気ボックス3(作業対象箇所T)の前面を覆うように骨組み2にボード4が設置されている。すなわち、A室R1にいる作業者Uから見て、電気ボックス3はボード4の背後に隠れているため、ボード開口4aを形成すべき作業対象箇所Tを見つけることが難しい。
図6に示された近距離画面MN2は、一の作業対象箇所T(T1)の近傍の位置にいる作業者U(UN)が装着したHMD100の表示画面である。図6の遠距離画面MF2は、一の作業対象箇所T(T1)から離れた位置(A室R1の入口付近)にいる作業者U(UF)が装着したHMD100の表示画面である。図6の作業後画面MC2は、一の作業対象箇所T(T1)に対するボード開口作業が完了したときの表示画面である。
ボード開口支援処理が開示されると、図5に示すように、距離特定部111は、HMD100の視界内に位置する作業対象箇所Tの上記ディスプレイ距離を特定する(S210)。表示制御部112は、ディスプレイ距離が基準距離以下であると判断した場合(S220:YES)、A室R1の現実画像上における作業対象箇所T(ボード4の内側表面の内、電気ボックス3の手前に位置する部分)に近距離用画像GN2を投影したMR画像を、HMD表示部150に表示させる(S230)。図6の近距離画面MN2に示すように、近距離用画像GN2は、作業基準画像GA2を含む。作業基準画像GA2は、作業対象箇所Tに対する作業の基準位置(例えばボード4に形成すべきボード開口4aの中心位置)を示すライン画像である。具体的には、作業基準画像GA2は、縦ガイドラインGA21と横ガイドラインGA22とを有する。縦ガイドラインGA21は、上下方向(Z軸方向)に延びる直線状のライン画像であり、横ガイドラインGA22は、水平方向(例えばX軸方向)に延びる直線状のライン画像である。縦ガイドラインGA21と横ガイドラインGA22との交点Pが、ボード開口4aの中心になるべき基準位置を意味し、作業者Uは、ボード開口4aの中心がMR空間中の交点Pに一致するようにボード開口4aをボード4に形成する。これにより、作業者Uは、現場での寸法測定や設計図面の確認等を行うことなく、HMD100に表示される作業基準画像GA2を頼りにボード開口4aを作業対象箇所Tに精度良く形成できる。
また、作業基準画像GA2は、さらに、外形画像GA23を含む。外形画像GA23は、作業対象箇所Tに形成すべきボード開口4aの輪郭線に応じた枠状のライン画像である。これにより、作業者Uが、間違ったサイズのボード開口4aを作業対象箇所Tに形成することを抑制できる。
一方、表示制御部112は、ディスプレイ距離が基準距離を超えたと判断した場合(S220:NO)、A室R1の現実画像上における作業対象箇所Tに遠距離用画像GF2を投影したMR画像を、HMD表示部150に表示させる(S240)。図6の遠距離画面MF2に示すように、遠距離用画像GF2は、近距離用画像GN2に比べて視認性が高い画像である。具体的には、遠距離用画像GF2は、上記作業基準画像GA2に加えて、作業箇所画像GB2を含む。作業箇所画像GB2は、作業対象箇所Tの位置を示す画像である。作業箇所画像GB2は、作業基準画像GA2に比べて視認性が高い画像である。本実施形態では、作業箇所画像GB2は、ライン画像である作業基準画像GA2に比べて、単位面積当たりの塗りつぶし範囲が広い塗り潰し画像である。具体的には、作業箇所画像GB2は、上記外形画像GA23に囲まれる領域全体を塗りつぶす不透明または半透明な画像である。このように、遠距離用画像GF2は、作業基準画像GA2に加えて作業箇所画像GB2を含むため、作業箇所画像GB2を含まない近距離用画像GN2に比べて視認性が高く、その結果、作業対象箇所Tから基準距離以上離れた位置でも作業者Uは作業対象箇所Tを容易に見つけ出すことができる。
また、作業箇所画像GB2は、少なくとも一部分が作業対象箇所Tよりも手前に位置する立体画像である。具体的には、作業箇所画像GB2は、ボード開口4aの輪郭線に応じた矩形状で、かつ、厚みを有する立体画像である。ここで、図7は、作業対象箇所Tを斜め方向から見たときの近距離用画像GN2を示す説明図である。図7に示すように、作業者Uが上方から作業対象箇所Tを見たとき、近距離用画像GN2の作業箇所画像GB2は、厚みを有する板状体であり、ボード4から手前に浮かぶように配置されている。これにより、例えば作業箇所画像GB2が、ボード4上に位置する平面画像である場合に比べて、例えば、作業者Uが作業対象箇所Tを斜め方向から見た場合でも、作業箇所画像GB2を通じて作業対象箇所Tを容易に見つけ出すことができる。
表示制御部112は、ディスプレイ距離に応じて、遠距離用画像GF2または近距離用画像GN2を表示させた後、HMD100の視界内に位置する作業対象箇所Tに対する作業が完了したか否かを判断する(S250)。作業者Uは、所定の操作を行うことにより、該作業対象箇所Tに対するボード開口作業が完了したことをHMD100に認識させることができる。ここでいう所定の操作とは、例えばHMD100の視界内に位置する上記近距離用画像GN2または遠距離用画像GF2に仮想的にタッチし、完了を意味する動作を行う操作である。表示制御部112は、作業が完了していないと判断した場合(S250:NO)、S210の処理に戻る。すなわち、表示制御部112は、ディスプレイ距離に応じて、遠距離用画像GF2または近距離用画像GN2を表示させる動作を継続する。
表示制御部112は、作業が完了したと判断した場合(S250:YES)、ディスタンス距離の長短に関係なく、A室R1の現実画像上における作業対象箇所Tに完了画像GC2を投影したMR画像を、HMD表示部150に表示させる(S260)。完了画像GC2は、作業基準画像GA2’と作業箇所画像GB2’とを含む。作業基準画像GA2’は、上記作業基準画像GA2と形状は同じであるが、色が異なる。また、作業箇所画像GB2’は、上記作業箇所画像GB2と形状は同じであるが、色が異なる。これにより、作業者Uは、作業基準画像GA2’や作業箇所画像GB2’の色によって、作業の完了の有無を容易に判断できる。なお、表示制御部112は、作業が完了したと判断した場合(S250:YES)、A室R1におけるボード開口作業についての未作業箇所の残数を更新する。また、未作業箇所の残数が、上記各画面MN2,MF2,MC2の少なくとも1つに表示される構成であってもよい。図5におけるS170,S180の処理は、図3とほぼ同じであるため、説明を省略する。
以上の構成により、例えば、作業者U(UF)がA室R1の入口に立つと、各作業対象箇所Tに遠距離画面MF2が投影される。上述したように、遠距離画面MF2は、作業基準画像GA2に加えて、作業箇所画像GB2が含まれた画像であり、かつ、作業箇所画像GB2は、作業基準画像GA2に比べて、単位面積当たりの塗り潰し範囲が広い分だけ相対的に強調されている。このため、作業者U(UF)は、作業対象箇所Tから比較的に遠い位置では、相対的に強調された作業箇所画像GB2を通じて、作業対象箇所Tを、より容易に見つけ出すことができる。次に、作業者U(UN)が作業対象箇所Tに近づくと、作業対象箇所Tに近距離画面MN2が投影される。近距離画面MN2は、作業基準画像GA2を含み、かつ、作業箇所画像GB2を含まない画像であり、作業箇所画像GB2に比べて、作業基準画像GA2が相対的に強調されている。このため、作業者U(UN)は、作業対象箇所Tから比較的に近い位置では、相対的に強調された作業基準画像GA2を通じて、作業対象箇所Tに対する作業をより効率良く行うことができる。
A-3-3.器具取付支援処理
図8は、器具取付支援処理の内容を示すフローチャートであり、図9は、器具取付作業における作業者Uの位置とHMD100の表示内容との関係を模式的に示す説明図である。図9には、器具取付作業前の状態のA室R1を上方から見た模式図が示されている。器具取付作業前の状態のA室R1では、上記ボード開口4aを覆うようにボード4の内側表面全体に壁紙7が貼り付けられている。すなわち、A室R1にいる作業者Uから見て、ボード4に形成されたボード開口4aが壁紙7の背後に隠れているため、電気器具8を取り付けるべき作業対象箇所Tを見つけることが難しい。
図9に示された中距離画面MMは、一の作業対象箇所T(T1)から少し離れた位置にいる作業者U(UM)が装着したHMD100の表示画面である。図9に示された近距離画面MN3,MN3’は、一の作業対象箇所T(T1)の近傍の位置にいる作業者Uが装着したHMD100の表示画面である。図9の遠距離画面MF3は、一の作業対象箇所T(T1)から離れた位置(A室R1の入口付近)にいる作業者U(UF)が装着したHMD100の表示画面である。図9の作業後画面MC3は、一の作業対象箇所T(T1)に対する器具取付作業が完了したときの表示画面である。
器具取付支援処理が開示されると、図8に示すように、距離特定部111は、HMD100の視界内に位置する作業対象箇所Tの上記ディスプレイ距離を特定する(S310)。表示制御部112は、ディスプレイ距離が、第1基準距離以下であり、かつ、第2基準距離を超えると判断した場合(S320:YES、かつ、S340:NO)、A室R1の現実画像上における作業対象箇所T(壁紙7の内側表面の内、ボード開口4aの手前に位置する部分)に中距離用画像GMを投影したMR画像を、HMD表示部150に表示させる(S350)。第2基準距離は、例えば作業者Uが作業対象箇所Tに対して作業可能な距離であり、第1基準距離は、第2基準距離よりも長く、例えば作業者Uの手が作業対象箇所Tに届く少し手前の距離であることが好ましい。図9の中距離画面MMに示すように、中距離用画像GMは、作業基準画像GA3を含む。作業基準画像GA3は、作業対象箇所Tに対する作業の基準位置(例えば壁紙7に形成すべき壁紙開口7aの中心位置)を示すライン画像である。具体的には、作業基準画像GA3は、縦ガイドラインGA31と横ガイドラインGA32とを有する。縦ガイドラインGA31は、上下方向(Z軸方向)に延びる直線状のライン画像であり、横ガイドラインGA32は、水平方向(例えばX軸方向)に延びる直線状のライン画像である。作業者Uは、縦ガイドラインGA31と横ガイドラインGA32との交点P付近に、ボード開口4aが存在し、該交点P付近に壁紙開口7aを形成すればよいことが分かる。
表示制御部112は、ディスプレイ距離が、第2基準距離以下であると判断した場合(S320:YES、かつ、S340:YES)、図9の近距離画面MN3に示すように、作業対象箇所に対する画像(中距離用画像GM)を消去する(S360)。これにより、作業者Uは、画像に邪魔されることなく、図9の近距離画面MN3’に示すように壁紙7に壁紙開口7aを形成し、その壁紙開口7aおよびボード開口4aを介して、電気器具8を電気ボックス3に電気的に接続しつつ取り付けることができる。
一方、表示制御部112は、ディスプレイ距離が第1基準距離を超えたと判断した場合(S320:NO)、A室R1の現実画像上における作業対象箇所Tに遠距離用画像GF3を投影したMR画像を、HMD表示部150に表示させる(S330)。図9の遠距離画面MF3に示すように、遠距離用画像GF3は、中距離用画像GMに比べて視認性が高い画像である。具体的には、遠距離用画像GF3は、上記作業基準画像GA3に加えて、作業箇所画像GB3を含む。作業箇所画像GB3は、作業対象箇所Tの位置を示す画像である。作業箇所画像GB3は、作業基準画像GA3に比べて視認性が高い画像である。本実施形態では、作業箇所画像GB3は、ライン画像である作業基準画像GA3に比べて、単位面積当たりの塗りつぶし範囲が広い塗り潰し画像である。このように、遠距離用画像GF3は、作業基準画像GA3に加えて作業箇所画像GB3を含むため、作業箇所画像GB3を含まない中距離用画像GMに比べて視認性が高く、その結果、作業対象箇所Tから第1基準距離以上離れた位置でも作業者Uは作業対象箇所Tを容易に見つけ出すことができる。
表示制御部112は、ディスプレイ距離に応じて、遠距離用画像GF3または中距離用画像GMを表示させたり消去したりした後、HMD100の視界内に位置する作業対象箇所Tに対する作業が完了したか否かを判断する(S370)。作業者Uは、所定の操作を行うことにより、該作業対象箇所Tに対する器具取付作業が完了したことをHMD100に認識させることができる。ここでいう所定の操作とは、例えばHMD100の視界内に位置する作業対象箇所T付近の位置に仮想的にタッチし、完了を意味する動作を行う操作である。表示制御部112は、作業が完了していないと判断した場合(S370:NO)、S310の処理に戻る。
表示制御部112は、作業が完了したと判断した場合(S370:YES)、ディスタンス距離の長短に関係なく、A室R1の現実画像上における作業対象箇所Tに完了画像GC3を投影したMR画像を、HMD表示部150に表示させる(S380)。完了画像GC3は、作業基準画像GA3’と作業箇所画像GB3’とを含む。作業基準画像GA3’は、上記作業基準画像GA3と形状は同じであるが、色が異なる。また、作業箇所画像GB3’は、上記作業箇所画像GB3と形状は同じであるが、色が異なる。これにより、作業者Uは、作業基準画像GA3’や作業箇所画像GB3’の色によって、作業の完了の有無を容易に判断できる。なお、表示制御部112は、作業が完了したと判断した場合(S380:YES)、A室R1における器具取付作業についての未作業箇所の残数を更新する。また、未作業箇所の残数が、上記各画面MN3,MN3’,GM,MF3,MC3の少なくとも1つに表示される構成であってもよい。図8におけるS170,S180の処理は、図3とほぼ同じであるため、説明を省略する。
A-4.表示変更処理:
表示変更部113は、上記各画像GN1,GN2,GF1~GF3,GM,GC1~GC3の少なくとも1つの画像の表示態様を、その周囲の画像とは独立に変更する。具体的には、表示変更部113は、カメラ140からの撮像データに基づき、現実画像のうち、作業対象箇所Tの周囲の現実物体(例えば骨組み2やその背景、ボード4、壁紙7)の画像を定期的にスキャンし、その現実物体の画像色の変化を検知する。例えば、工事現場に配置された灯光器や作業者Uが備えるヘッドライト等の影響により、ボード4の画像色が白色に近くなり、該ボード4に投影される近距離用画像GN2や遠距離用画像GF2が見づらくなる。
ここで、近距離用画像GN2等の視認性に影響を与える周囲環境の変化は、周囲環境の変化を検知する専用のセンサ等を設けなくても、現実物体(ボード4)の画像色の変化に反映される。そこで、表示変更部113は、カメラ140からの撮像データに基づき、現実物体の画像色の変化を検知する。表示変更部113は、現実物体の画像色の変化を検知した場合、例えば近距離用画像GN2等の表示態様を、検知された変化後の画像色に対して、より視認性が高くなるように変更する。なお、画像色の変化には、異なる色に変化する場合に限らず、同じ色で輝度が変化する場合も含まれる。例えば、近距離用画像GN2等の画像色を、より濃度が濃い画像色に変えたり、塗りつぶし範囲を広げたり、点灯表示から点滅表示に変更したりする。これにより、作業者Uの周囲環境の変化に起因して近距離用画像GN2と遠距離用画像GF2が見づらくなって作業効率が低下することを抑制することができる。カメラ140と表示変更部113とは、特許請求の範囲における色検知部の一例である。
B.変形例:
本発明は、上述の実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の形態に変形することができ、例えば次のような変形も可能である。
上記実施形態における作業支援システム10の構成は、あくまで一例であり、種々変形可能である。例えば、HMD100は、光学シースルー方式に限らず、ビデオシースルー方式でもよい。また、ディスプレイ装置は、ゴーグル型(HMD100)に限らず、ヘルメット型、眼鏡型などでもよく、さらには、タブレットや携帯電話等の搬送可能な通信装置でもよい。上記実施形態では、取得部および表示部として、HMD表示部150(ハーフミラー)を例示したが、例えばHMD100がビデオシースルー方式である場合、カメラ140が特許請求の範囲における取得部の一例であり、カメラ140により撮像される現実空間の撮像画像が特許請求の範囲における現実空間を表す現実画像の一例であり、作業者が視認する液晶ディスプレイ等が特許請求の範囲における表示部の一例である。
上記実施形態における各種の処理の内容は、あくまで一例であり、種々変形可能である。例えば、上記実施形態において、近距離用画像GN1,GN2(作業基準画像GA1,GA2)は、縦ガイドラインGA11、横ガイドラインGA12、外形画像GA13の少なくとも1つを含まない構成でもよく、ライン画像に限らず、点画像や所定の形状の塗りつぶし画像でもよい。遠距離用画像GF1~GF3(作業箇所画像GB1~GB3)は、塗りつぶし画像を備えなくてもよい。また、遠距離用画像GF1~GF3は、作業基準画像GA1~GA3を備えなくてもよい。また、近距離用画像GN1,GN2は、例えば作業箇所画像GB1,GB2よりも画像の濃度が薄い(透明性が高い)画像を含んでもよい。
また、例えば上記実施形態において、遠距離用画像GF1(作業箇所画像GB1)は、近距離用画像GN1(作業基準画像GA1)に比べて、単位面積当たりの塗りつぶし範囲が広いことによって、視認性が高い画像であったが、これに限らず、例えば、画像の濃度が濃いこと、輝度が高いこと、点滅周期が短いこと等によって視認性が高い画像でもよい。また、上記実施形態では、遠距離用画像GF1と完了画像GC1とは互いの色が異なっていたが、これに限らず、濃淡、点灯周期、塗りつぶし範囲、輝度や形状等が異なることによって両画像GF1,GC1を区別可能としてもよい。
図10は、天井側を見たときのHMD100の表示内容を示す説明図である。図10には、複数の梁5にわたって天井ボード6が設置されている。また、2つの作業対象箇所T’が存在している。各作業対象箇所T’は、天井ボード6に対して円状のボード開口を形成するボード開口作業のための対象箇所である。各作業対象箇所T’に、遠距離用画像GF4が投影されている。遠距離用画像GF4は、作業基準画像GA4と作業箇所画像GB4とを含む。作業基準画像GA4は、作業対象箇所T’に対する作業の基準位置(例えば照明器具用の電気ボックス(図示しない)の取付の中心位置P’)を示すライン画像である。具体的には、作業基準画像GA4は、互いに直交する一対のガイドラインGA41,GA42を有する。作業者Uは、ボード開口の中心がMR空間中の交点P’に一致するようにボード開口を天井ボード6に形成する。作業基準画像GA4は、さらに、外形画像GA43を含む。外形画像GA43は、作業対象箇所T’に形成すべきボード開口の輪郭線に応じた枠状のライン画像である。これにより、作業者Uが、間違ったサイズのボード開口を作業対象箇所T’に形成することを抑制できる。作業箇所画像GB4は、上記外形画像GA43に囲まれる領域全体を塗りつぶす不透明または半透明な画像である。作業箇所画像GB4は、少なくとも一部分が作業対象箇所Tよりも手前に位置する立体画像である。このように、近距離用画像や遠距離用画像の形状は、矩形や円形に限定されず、作業内容等に応じた各種の形状であってもよい。
上記実施形態において、作業者UがHMD100のHMD操作入力部160を入力操作することにより、作業の完了を検知してもよい。このとき、HMD操作入力部160は、特許請求の範囲における完了検知部の一例である。
例えば、作業対象箇所Tを照らしていた灯光器の光が遮られたりすると、HMD100に表示される現実画像の明度が大きく低下する。このような場合、表示変更部113は、現実画像の明度の低下に応じて、近距離用画像等GN1,GN2,GF1~GF3,GM,GC1~GC3の少なくとも1つの画像の明度を低下させてもよい。表示変更部113は、カメラ140からの撮像データに基づき、現実画像を定期的にスキャンし、その現実画像の撮像データをグレイスケールデータに変換し、そのグレイスケールデータに基づき、現実画像の明度の変化を検知する。このとき、表示変更部113は、特許請求の範囲における明度検知部として機能する。これにより、現実画像の明度が低下しても近距離用画像等の明度が維持される構成に比べて、局所的に明度が高い画像を目にすることに起因する作業者の目への負担(目の疲れ等)を軽減することができる。
上記実施形態において、ハードウェアによって実現されている構成の一部をソフトウェアに置き換えるようにしてもよく、反対に、ソフトウェアによって実現されている構成の一部をハードウェアに置き換えるようにしてもよい。
上記実施形態では、作業現場として、工事現場を例示したが、これに限らず、例えば病棟など、所定の作業対象箇所に対してディスプレイ装置を備える作業者が移動可能な場所であれば本発明を提供して上記効果を得ることができる。また、作業として、電気工事に関する作業(ボックス配置作業、ボード開口作業、壁紙開口作業)を例示したが、これら以外の電気工事に関する作業であってもよく、また、例えば水道工事の配管作業や、エアコン設置工事における穴開け作業など、他の工事に関する作業であってもよく、さらには、工事以外の作業であってもよい。
2:骨組み 3:電気ボックス 4:ボード 4a:ボード開口 5:梁 6:天井ボード 7:壁紙 7a:壁紙開口 8:電気器具 10:作業支援システム 100:HMD 110:HMD制御部 111:距離特定部 112:表示制御部 113:表示変更部 114:情報付加部 120:HMD記憶部 121:作業支援PGM 130:空間位置センサ 140:カメラ 150:HMD表示部 160:HMD操作入力部 170,270,370:インターフェース部 190,290,390:バス 200:サーバ 210:サーバ制御部 211:データ変換部 220:サーバ記憶部 250:サーバ表示部 260:サーバ操作入力部 300:端末装置 310:端末制御部 320:端末記憶部 350:端末表示部 360:端末操作入力部 221:3DデータDB 321:設計図面DB GA1~GA4:作業基準画像 GB1~GB4:作業箇所画像 GC1~GC3:完了画像 GF1~GF4:遠距離用画像 GM:中距離用画像 GN1,GN2:近距離用画像 H:メモ画面 M:工事現場選択画面 T,T’:作業対象箇所 U:作業者

Claims (10)

  1. 現実空間を表す現実画像を取得する、または、前記現実空間の視界を取得する取得部と、作業者が視認する表示部と、を備え、前記作業者が搬送するディスプレイ装置であって、
    前記現実空間に位置する現実物体における作業対象箇所と前記ディスプレイ装置との距離であるディスプレイ距離を特定する距離特定部と、
    前記ディスプレイ距離が基準距離以下である場合、前記取得部によって取得される前記現実画像または前記現実空間の視界上に、前記作業対象箇所に対する作業の基準位置を示す作業基準画像を含む近距離用画像を前記表示部に表示させ、前記ディスプレイ距離が前記基準距離を超える場合、前記近距離用画像に比べて視認性が高い遠距離用画像であって、前記作業対象箇所の位置を示す作業箇所画像を含む遠距離用画像を前記表示部に表示させる表示制御部と、
    を備える、ディスプレイ装置。
  2. 請求項1に記載のディスプレイ装置であって、
    前記近距離用画像は、前記作業基準画像が前記作業箇所画像よりも相対的に強調された画像であり、
    前記遠距離用画像は、前記作業箇所画像が前記作業箇所画像よりも相対的に強調された画像である、
    ディスプレイ装置。
  3. 請求項1または請求項2に記載のディスプレイ装置であって、
    前記作業箇所画像は、少なくとも一部分が前記作業対象箇所よりも手前に位置する立体画像である、
    ディスプレイ装置。
  4. 請求項1から請求項3までのいずれか一項に記載のディスプレイ装置であって、
    前記近距離用画像と前記遠距離用画像との少なくとも一方の画像の表示態様を周囲の画像とは独立に変更する表示変更部を備える、
    ディスプレイ装置。
  5. 請求項4に記載のディスプレイ装置であって、
    前記作業対象箇所に対する作業の完了を検知する完了検知部を備え、
    前記表示変更部は、前記完了検知部が前記作業の完了を検知した場合、前記近距離用画像と前記遠距離用画像との少なくとも一方の画像の表示態様を変更する、
    ディスプレイ装置。
  6. 請求項4または請求項5に記載のディスプレイ装置であって、
    前記現実画像または前記現実空間の視界における前記現実物体の画像色の変化を検知する色検知部を備え、
    前記表示変更部は、前記近距離用画像と前記遠距離用画像との少なくとも一方の画像の表示態様を、前記色検知部により検知された変化後の画像色に対して視認性が高くなるように変更する、
    ディスプレイ装置。
  7. 請求項4から請求項6までのいずれか一項に記載のディスプレイ装置であって、
    前記現実画像または前記現実空間の視界の明度の変化を検知する明度検知部を備え、
    前記表示変更部は、前記明度検知部により検知される明度の低下に応じて、前記近距離用画像と前記遠距離用画像との少なくとも一方の画像の明度を低下させる、
    ディスプレイ装置。
  8. 請求項1から請求項7までのいずれか一項に記載のディスプレイ装置であって、
    前記表示部に表示される前記作業対象箇所に対応付けて情報を付加する情報付加部を備える、
    ディスプレイ装置。
  9. 現実空間を表す現実画像を取得する、または、前記現実空間の視界を取得する取得部と、作業者が視認する表示部と、を備え、前記作業者が搬送するディスプレイ装置の表示制御方法であって、
    前記現実空間に位置する現実物体における作業対象箇所と前記ディスプレイ装置との距離であるディスプレイ距離を特定する距離特定工程と、
    前記ディスプレイ距離が基準距離以下である場合、前記取得部によって取得される前記現実画像または前記現実空間の視界上に、前記作業対象箇所に対する作業の基準位置を示す作業基準画像を含む近距離用画像を前記表示部に表示させ、前記ディスプレイ距離が前記基準距離を超える場合、前記近距離用画像に比べて視認性が高い遠距離用画像であって、前記作業対象箇所の位置を示す作業箇所画像を含む遠距離用画像を前記表示部に表示させる表示制御工程と、
    を含む、ディスプレイ装置の表示制御方法。
  10. 現実空間を表す現実画像を取得する、または、前記現実空間の視界を取得する取得部と、作業者が視認する表示部と、を備え、前記作業者が搬送するディスプレイ装置が備えるコンピュータに、
    前記現実空間に位置する現実物体における作業対象箇所と前記ディスプレイ装置との距離であるディスプレイ距離を特定する距離特定処理と、
    前記ディスプレイ距離が基準距離以下である場合、前記取得部によって取得される前記現実画像または前記現実空間の視界上に、前記作業対象箇所に対する作業の基準位置を示す作業基準画像を含む近距離用画像を前記表示部に表示させ、前記ディスプレイ距離が前記基準距離を超える場合、前記近距離用画像に比べて視認性が高い遠距離用画像であって、前記作業対象箇所の位置を示す作業箇所画像を含む遠距離用画像を前記表示部に表示させる表示制御処理と、
    を実行させる、ディスプレイ装置の表示制御プログラム。
JP2022533258A 2020-06-29 2020-06-29 ディスプレイ装置、ディスプレイ装置の表示制御方法、ディスプレイ装置の表示制御プログラム Active JP7418870B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/025446 WO2022003752A1 (ja) 2020-06-29 2020-06-29 ディスプレイ装置、ディスプレイ装置の表示制御方法、ディスプレイ装置の表示制御プログラム

Publications (2)

Publication Number Publication Date
JPWO2022003752A1 JPWO2022003752A1 (ja) 2022-01-06
JP7418870B2 true JP7418870B2 (ja) 2024-01-22

Family

ID=79315162

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022533258A Active JP7418870B2 (ja) 2020-06-29 2020-06-29 ディスプレイ装置、ディスプレイ装置の表示制御方法、ディスプレイ装置の表示制御プログラム

Country Status (2)

Country Link
JP (1) JP7418870B2 (ja)
WO (1) WO2022003752A1 (ja)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010079121A (ja) 2008-09-29 2010-04-08 Brother Ind Ltd シースルー型ディスプレイ装置
JP2012152016A (ja) 2011-01-19 2012-08-09 Mitsubishi Electric Corp ケーブル接続作業支援装置
JP2014229020A (ja) 2013-05-21 2014-12-08 三菱電機ビルテクノサービス株式会社 情報提供装置及び情報提供システム
JP2015167349A (ja) 2014-02-14 2015-09-24 キヤノンマーケティングジャパン株式会社 情報処理装置、情報処理システム、その制御方法及びプログラム
JP2016224086A (ja) 2015-05-27 2016-12-28 セイコーエプソン株式会社 表示装置、表示装置の制御方法、及び、プログラム
JP2018066823A (ja) 2016-10-18 2018-04-26 株式会社日立システムズ 情報表示装置、及びその処理制御方法
JP2018156239A (ja) 2017-03-16 2018-10-04 Kddi株式会社 操作支援装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010079121A (ja) 2008-09-29 2010-04-08 Brother Ind Ltd シースルー型ディスプレイ装置
JP2012152016A (ja) 2011-01-19 2012-08-09 Mitsubishi Electric Corp ケーブル接続作業支援装置
JP2014229020A (ja) 2013-05-21 2014-12-08 三菱電機ビルテクノサービス株式会社 情報提供装置及び情報提供システム
JP2015167349A (ja) 2014-02-14 2015-09-24 キヤノンマーケティングジャパン株式会社 情報処理装置、情報処理システム、その制御方法及びプログラム
JP2016224086A (ja) 2015-05-27 2016-12-28 セイコーエプソン株式会社 表示装置、表示装置の制御方法、及び、プログラム
JP2018066823A (ja) 2016-10-18 2018-04-26 株式会社日立システムズ 情報表示装置、及びその処理制御方法
JP2018156239A (ja) 2017-03-16 2018-10-04 Kddi株式会社 操作支援装置

Also Published As

Publication number Publication date
WO2022003752A1 (ja) 2022-01-06
JPWO2022003752A1 (ja) 2022-01-06

Similar Documents

Publication Publication Date Title
EP3729915B1 (en) Lighting and internet of things design using augmented reality
US10642564B2 (en) Display system, display device, information display method, and program
EP3396511B1 (en) Information processing device and operation reception method
US10095458B2 (en) Information processing apparatus, information processing method, non-transitory computer-readable storage medium, and system
US10552665B2 (en) Methods and systems for training an object detection algorithm using synthetic images
JP4883774B2 (ja) 情報処理装置及びその制御方法、プログラム
JP4379532B2 (ja) 照明装置
JP2017187667A (ja) 頭部装着型表示装置およびコンピュータープログラム
JP2016126365A (ja) 表示システム、表示装置、情報表示方法、及び、プログラム
US20150186559A1 (en) X-ray vision for buildings
US20240104883A1 (en) Display apparatus and display method
WO2016203770A1 (ja) 画像処理システム、方法、及びプログラム
JP2005174021A (ja) 情報提示方法及び装置
JPWO2017122270A1 (ja) 画像表示装置
JP2022058753A (ja) 情報処理装置、情報処理方法及びプログラム
JP7418870B2 (ja) ディスプレイ装置、ディスプレイ装置の表示制御方法、ディスプレイ装置の表示制御プログラム
JP7501044B2 (ja) 表示システム、情報処理装置及び表示システムの表示制御方法
JP6540426B2 (ja) 表示システム、表示装置、情報表示方法、及び、プログラム
JP2016091348A (ja) 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム
JP2008217119A (ja) システム、画像処理装置、画像処理方法
JP2006215750A (ja) 画像処理方法、画像処理装置
CN107133028B (zh) 一种信息处理方法及电子设备
US20240005619A1 (en) Augmented reality processing system, information display device, and augmented reality processing method
JP2005251118A (ja) 画像処理方法、画像処理装置
JP3413145B2 (ja) 仮想空間の編集方法及び仮想空間の編集装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221021

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230815

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230929

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231227

R150 Certificate of patent or registration of utility model

Ref document number: 7418870

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150