JP7418870B2 - ディスプレイ装置、ディスプレイ装置の表示制御方法、ディスプレイ装置の表示制御プログラム - Google Patents
ディスプレイ装置、ディスプレイ装置の表示制御方法、ディスプレイ装置の表示制御プログラム Download PDFInfo
- Publication number
- JP7418870B2 JP7418870B2 JP2022533258A JP2022533258A JP7418870B2 JP 7418870 B2 JP7418870 B2 JP 7418870B2 JP 2022533258 A JP2022533258 A JP 2022533258A JP 2022533258 A JP2022533258 A JP 2022533258A JP 7418870 B2 JP7418870 B2 JP 7418870B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- work
- distance
- display
- display device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 37
- 230000008859 change Effects 0.000 claims description 26
- 238000001514 detection method Methods 0.000 claims description 18
- 238000012545 processing Methods 0.000 claims description 17
- 230000007423 decrease Effects 0.000 claims description 10
- 230000004044 response Effects 0.000 claims description 2
- 230000000007 visual effect Effects 0.000 claims 1
- 208000013057 hereditary mucoepithelial dysplasia Diseases 0.000 description 124
- 230000008569 process Effects 0.000 description 28
- 238000010276 construction Methods 0.000 description 27
- 238000013461 design Methods 0.000 description 16
- 238000010586 diagram Methods 0.000 description 16
- 238000009434 installation Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 10
- 238000005516 engineering process Methods 0.000 description 6
- 101001094026 Synechocystis sp. (strain PCC 6803 / Kazusa) Phasin PhaP Proteins 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 5
- 239000003086 colorant Substances 0.000 description 5
- 238000004590 computer program Methods 0.000 description 5
- 239000004973 liquid crystal related substance Substances 0.000 description 5
- 102100036738 Guanine nucleotide-binding protein subunit alpha-11 Human genes 0.000 description 4
- 101100283445 Homo sapiens GNA11 gene Proteins 0.000 description 4
- 230000004397 blinking Effects 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 230000015654 memory Effects 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 208000003464 asthenopia Diseases 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000002360 preparation method Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000005553 drilling Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000009428 plumbing Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/10—Intensity circuits
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/122—Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/66—Transforming electric information into light information
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- User Interface Of Digital Computer (AREA)
Description
A-1.作業支援システム10の構成:
図1は、本実施形態における作業支援システム10の概略構成を示す説明図である。作業支援システム10は、複合現実(Mixed Reality 以下、「MR」という)技術を用いて、作業現場における作業者U(例えば職人)の作業を支援するためのシステムである。すなわち、作業支援システム10では、ヘッドマウントディスプレイ(以下、「HMD」という)100を通じて、現実空間(作業現場の現実画像)と仮想空間(作業対象箇所や作業基準を示す仮想画像)とを融合したMR空間が作業者Uに提供される。本実施形態では、工事現場(例えば建築現場等)における電気工事に関する作業を例に挙げて説明する。
HMD100は、工事現場で作業を行う作業者Uに装着されるディスプレイ装置である。HMD100は、HMD制御部110と、HMD記憶部120と、空間位置センサ130と、カメラ140、HMD表示部150と、HMD操作入力部160と、インターフェース部170と、を備える。これらの各部は、バス190を介して互いに通信可能に接続されている。
サーバ200は、工事現場から離れた場所に配置されており、端末装置300から工事現場の建築物の設計図面データ(CADデータ等)を受信して3Dデータに変換して登録し、HMD100からの要求に応じて3DデータをHMD100に随時送信する。サーバ200は、サーバ制御部210と、サーバ記憶部220と、サーバ表示部250と、サーバ操作入力部260と、インターフェース部270と、を備える。これらの各部は、バス290を介して互いに通信可能に接続されている。
端末装置300は、例えば工事現場やサーバ200の設置場所から離れた場所に配置されており、工事現場の設計図面データをサーバ200に送信したり、HMD100での工事現場の撮像画像を、HMD100を介して受信したりする。端末装置300は、端末制御部310と、端末記憶部320と、端末表示部350と、端末操作入力部360と、インターフェース部370と、を備える。これらの各部は、バス390を介して互いに通信可能に接続されている。
まず、本実施形態のHMD100の準備処理について説明する。まず、作業者Uは、工事現場にて、HMD100を装着し、HMD操作入力部160を介して所定の操作を行ってHMD100を起動させる。次に、作業者Uが、位置合わせの指示操作を行うと、HMD制御部110は、現実空間上の基準位置と、サーバ200からの3Dデータに基づく仮想空間上の基準位置とを合わせるための位置合わせ処理を行う。位置合わせ処理では、空間位置センサ130により検出されるHMD100の現在位置と、カメラ140によって撮像されるARマークを含む現実画像の解析結果とに基づき、現実空間上の基準位置と仮想空間上の基準位置とを一致させるよう、仮想空間上の基準位置を調整する。
次に、本実施形態のHMD100により実行される作業支援処理について説明する。作業支援処理は、次の3つの処理を含む。
「ボックス配置支援処理」:A室R1を構成する骨組み2(柱や梁等)に後述のボード4を設置する前において、その骨組み2に電気ボックス3を配置するためのボックス配置作業を支援するための処理である。
「ボード開口支援処理」:上記ボックス配置作業後、骨組み2に設置されたボード4にボード開口4aを形成するためのボード開口作業を支援するための処理である。
「器具取付支援処理」:上記ボード開口作業後、上記ボード開口4aを覆うようにボード4の表面全体に貼り付けられた壁紙7に壁紙開口7aを形成する壁紙開口作業を支援するための処理である。なお、壁紙開口作業後、壁紙開口7a内に位置する電気ボックス3と電気器具8(コンセントプレート等)とを電気的に接続し、電気器具8を壁紙開口7aに取り付けることにより作業対象箇所Tに対する電気工事が完了する。以下、これらの処理を順番に説明する。
図3は、ボックス配置支援処理の内容を示すフローチャートであり、図4は、ボックス配置作業における作業者Uの位置とHMD100の表示内容との関係を模式的に示す説明図である。図4には、ボックス配置作業前の状態のA室R1を上方から見た模式図が示されている。該模式図には、方向を特定するための互いに直交するXYZ軸が示されており、便宜的に、Z軸正方向を上方向と呼ぶものとする(他の図面も同じ)。ボックス配置作業前の状態のA室R1では、複数本の骨組み2が配置されているが、これらの骨組み2にボード4は設置されていない。A室R1には、例えば3箇所の作業対象箇所T(T1~T3)が存在するものとする。
図5は、ボード開口支援処理の内容を示すフローチャートであり、図6は、ボード開口作業における作業者Uの位置とHMD100の表示内容との関係を模式的に示す説明図である。図6には、ボード開口作業前の状態のA室R1を上方から見た模式図が示されている。ボード開口作業前の状態のA室R1では、骨組み2に電気ボックス3が配置されると共に、電気ボックス3(作業対象箇所T)の前面を覆うように骨組み2にボード4が設置されている。すなわち、A室R1にいる作業者Uから見て、電気ボックス3はボード4の背後に隠れているため、ボード開口4aを形成すべき作業対象箇所Tを見つけることが難しい。
図8は、器具取付支援処理の内容を示すフローチャートであり、図9は、器具取付作業における作業者Uの位置とHMD100の表示内容との関係を模式的に示す説明図である。図9には、器具取付作業前の状態のA室R1を上方から見た模式図が示されている。器具取付作業前の状態のA室R1では、上記ボード開口4aを覆うようにボード4の内側表面全体に壁紙7が貼り付けられている。すなわち、A室R1にいる作業者Uから見て、ボード4に形成されたボード開口4aが壁紙7の背後に隠れているため、電気器具8を取り付けるべき作業対象箇所Tを見つけることが難しい。
表示変更部113は、上記各画像GN1,GN2,GF1~GF3,GM,GC1~GC3の少なくとも1つの画像の表示態様を、その周囲の画像とは独立に変更する。具体的には、表示変更部113は、カメラ140からの撮像データに基づき、現実画像のうち、作業対象箇所Tの周囲の現実物体(例えば骨組み2やその背景、ボード4、壁紙7)の画像を定期的にスキャンし、その現実物体の画像色の変化を検知する。例えば、工事現場に配置された灯光器や作業者Uが備えるヘッドライト等の影響により、ボード4の画像色が白色に近くなり、該ボード4に投影される近距離用画像GN2や遠距離用画像GF2が見づらくなる。
本発明は、上述の実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の形態に変形することができ、例えば次のような変形も可能である。
Claims (10)
- 現実空間を表す現実画像を取得する、または、前記現実空間の視界を取得する取得部と、作業者が視認する表示部と、を備え、前記作業者が搬送するディスプレイ装置であって、
前記現実空間に位置する現実物体における作業対象箇所と前記ディスプレイ装置との距離であるディスプレイ距離を特定する距離特定部と、
前記ディスプレイ距離が基準距離以下である場合、前記取得部によって取得される前記現実画像または前記現実空間の視界上に、前記作業対象箇所に対する作業の基準位置を示す作業基準画像を含む近距離用画像を前記表示部に表示させ、前記ディスプレイ距離が前記基準距離を超える場合、前記近距離用画像に比べて視認性が高い遠距離用画像であって、前記作業対象箇所の位置を示す作業箇所画像を含む遠距離用画像を前記表示部に表示させる表示制御部と、
を備える、ディスプレイ装置。 - 請求項1に記載のディスプレイ装置であって、
前記近距離用画像は、前記作業基準画像が前記作業箇所画像よりも相対的に強調された画像であり、
前記遠距離用画像は、前記作業箇所画像が前記作業箇所画像よりも相対的に強調された画像である、
ディスプレイ装置。 - 請求項1または請求項2に記載のディスプレイ装置であって、
前記作業箇所画像は、少なくとも一部分が前記作業対象箇所よりも手前に位置する立体画像である、
ディスプレイ装置。 - 請求項1から請求項3までのいずれか一項に記載のディスプレイ装置であって、
前記近距離用画像と前記遠距離用画像との少なくとも一方の画像の表示態様を周囲の画像とは独立に変更する表示変更部を備える、
ディスプレイ装置。 - 請求項4に記載のディスプレイ装置であって、
前記作業対象箇所に対する作業の完了を検知する完了検知部を備え、
前記表示変更部は、前記完了検知部が前記作業の完了を検知した場合、前記近距離用画像と前記遠距離用画像との少なくとも一方の画像の表示態様を変更する、
ディスプレイ装置。 - 請求項4または請求項5に記載のディスプレイ装置であって、
前記現実画像または前記現実空間の視界における前記現実物体の画像色の変化を検知する色検知部を備え、
前記表示変更部は、前記近距離用画像と前記遠距離用画像との少なくとも一方の画像の表示態様を、前記色検知部により検知された変化後の画像色に対して視認性が高くなるように変更する、
ディスプレイ装置。 - 請求項4から請求項6までのいずれか一項に記載のディスプレイ装置であって、
前記現実画像または前記現実空間の視界の明度の変化を検知する明度検知部を備え、
前記表示変更部は、前記明度検知部により検知される明度の低下に応じて、前記近距離用画像と前記遠距離用画像との少なくとも一方の画像の明度を低下させる、
ディスプレイ装置。 - 請求項1から請求項7までのいずれか一項に記載のディスプレイ装置であって、
前記表示部に表示される前記作業対象箇所に対応付けて情報を付加する情報付加部を備える、
ディスプレイ装置。 - 現実空間を表す現実画像を取得する、または、前記現実空間の視界を取得する取得部と、作業者が視認する表示部と、を備え、前記作業者が搬送するディスプレイ装置の表示制御方法であって、
前記現実空間に位置する現実物体における作業対象箇所と前記ディスプレイ装置との距離であるディスプレイ距離を特定する距離特定工程と、
前記ディスプレイ距離が基準距離以下である場合、前記取得部によって取得される前記現実画像または前記現実空間の視界上に、前記作業対象箇所に対する作業の基準位置を示す作業基準画像を含む近距離用画像を前記表示部に表示させ、前記ディスプレイ距離が前記基準距離を超える場合、前記近距離用画像に比べて視認性が高い遠距離用画像であって、前記作業対象箇所の位置を示す作業箇所画像を含む遠距離用画像を前記表示部に表示させる表示制御工程と、
を含む、ディスプレイ装置の表示制御方法。 - 現実空間を表す現実画像を取得する、または、前記現実空間の視界を取得する取得部と、作業者が視認する表示部と、を備え、前記作業者が搬送するディスプレイ装置が備えるコンピュータに、
前記現実空間に位置する現実物体における作業対象箇所と前記ディスプレイ装置との距離であるディスプレイ距離を特定する距離特定処理と、
前記ディスプレイ距離が基準距離以下である場合、前記取得部によって取得される前記現実画像または前記現実空間の視界上に、前記作業対象箇所に対する作業の基準位置を示す作業基準画像を含む近距離用画像を前記表示部に表示させ、前記ディスプレイ距離が前記基準距離を超える場合、前記近距離用画像に比べて視認性が高い遠距離用画像であって、前記作業対象箇所の位置を示す作業箇所画像を含む遠距離用画像を前記表示部に表示させる表示制御処理と、
を実行させる、ディスプレイ装置の表示制御プログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2020/025446 WO2022003752A1 (ja) | 2020-06-29 | 2020-06-29 | ディスプレイ装置、ディスプレイ装置の表示制御方法、ディスプレイ装置の表示制御プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2022003752A1 JPWO2022003752A1 (ja) | 2022-01-06 |
JP7418870B2 true JP7418870B2 (ja) | 2024-01-22 |
Family
ID=79315162
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022533258A Active JP7418870B2 (ja) | 2020-06-29 | 2020-06-29 | ディスプレイ装置、ディスプレイ装置の表示制御方法、ディスプレイ装置の表示制御プログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP7418870B2 (ja) |
WO (1) | WO2022003752A1 (ja) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010079121A (ja) | 2008-09-29 | 2010-04-08 | Brother Ind Ltd | シースルー型ディスプレイ装置 |
JP2012152016A (ja) | 2011-01-19 | 2012-08-09 | Mitsubishi Electric Corp | ケーブル接続作業支援装置 |
JP2014229020A (ja) | 2013-05-21 | 2014-12-08 | 三菱電機ビルテクノサービス株式会社 | 情報提供装置及び情報提供システム |
JP2015167349A (ja) | 2014-02-14 | 2015-09-24 | キヤノンマーケティングジャパン株式会社 | 情報処理装置、情報処理システム、その制御方法及びプログラム |
JP2016224086A (ja) | 2015-05-27 | 2016-12-28 | セイコーエプソン株式会社 | 表示装置、表示装置の制御方法、及び、プログラム |
JP2018066823A (ja) | 2016-10-18 | 2018-04-26 | 株式会社日立システムズ | 情報表示装置、及びその処理制御方法 |
JP2018156239A (ja) | 2017-03-16 | 2018-10-04 | Kddi株式会社 | 操作支援装置 |
-
2020
- 2020-06-29 WO PCT/JP2020/025446 patent/WO2022003752A1/ja active Application Filing
- 2020-06-29 JP JP2022533258A patent/JP7418870B2/ja active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010079121A (ja) | 2008-09-29 | 2010-04-08 | Brother Ind Ltd | シースルー型ディスプレイ装置 |
JP2012152016A (ja) | 2011-01-19 | 2012-08-09 | Mitsubishi Electric Corp | ケーブル接続作業支援装置 |
JP2014229020A (ja) | 2013-05-21 | 2014-12-08 | 三菱電機ビルテクノサービス株式会社 | 情報提供装置及び情報提供システム |
JP2015167349A (ja) | 2014-02-14 | 2015-09-24 | キヤノンマーケティングジャパン株式会社 | 情報処理装置、情報処理システム、その制御方法及びプログラム |
JP2016224086A (ja) | 2015-05-27 | 2016-12-28 | セイコーエプソン株式会社 | 表示装置、表示装置の制御方法、及び、プログラム |
JP2018066823A (ja) | 2016-10-18 | 2018-04-26 | 株式会社日立システムズ | 情報表示装置、及びその処理制御方法 |
JP2018156239A (ja) | 2017-03-16 | 2018-10-04 | Kddi株式会社 | 操作支援装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2022003752A1 (ja) | 2022-01-06 |
JPWO2022003752A1 (ja) | 2022-01-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3729915B1 (en) | Lighting and internet of things design using augmented reality | |
US10642564B2 (en) | Display system, display device, information display method, and program | |
EP3396511B1 (en) | Information processing device and operation reception method | |
US10095458B2 (en) | Information processing apparatus, information processing method, non-transitory computer-readable storage medium, and system | |
US10552665B2 (en) | Methods and systems for training an object detection algorithm using synthetic images | |
JP4883774B2 (ja) | 情報処理装置及びその制御方法、プログラム | |
JP4379532B2 (ja) | 照明装置 | |
JP2017187667A (ja) | 頭部装着型表示装置およびコンピュータープログラム | |
JP2016126365A (ja) | 表示システム、表示装置、情報表示方法、及び、プログラム | |
US20150186559A1 (en) | X-ray vision for buildings | |
US20240104883A1 (en) | Display apparatus and display method | |
WO2016203770A1 (ja) | 画像処理システム、方法、及びプログラム | |
JP2005174021A (ja) | 情報提示方法及び装置 | |
JPWO2017122270A1 (ja) | 画像表示装置 | |
JP2022058753A (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP7418870B2 (ja) | ディスプレイ装置、ディスプレイ装置の表示制御方法、ディスプレイ装置の表示制御プログラム | |
JP7501044B2 (ja) | 表示システム、情報処理装置及び表示システムの表示制御方法 | |
JP6540426B2 (ja) | 表示システム、表示装置、情報表示方法、及び、プログラム | |
JP2016091348A (ja) | 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム | |
JP2008217119A (ja) | システム、画像処理装置、画像処理方法 | |
JP2006215750A (ja) | 画像処理方法、画像処理装置 | |
CN107133028B (zh) | 一种信息处理方法及电子设备 | |
US20240005619A1 (en) | Augmented reality processing system, information display device, and augmented reality processing method | |
JP2005251118A (ja) | 画像処理方法、画像処理装置 | |
JP3413145B2 (ja) | 仮想空間の編集方法及び仮想空間の編集装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20221021 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230815 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230929 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231219 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231227 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7418870 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |