JP2021176004A - 表示装置、表示システムおよび表示方法 - Google Patents

表示装置、表示システムおよび表示方法 Download PDF

Info

Publication number
JP2021176004A
JP2021176004A JP2020195388A JP2020195388A JP2021176004A JP 2021176004 A JP2021176004 A JP 2021176004A JP 2020195388 A JP2020195388 A JP 2020195388A JP 2020195388 A JP2020195388 A JP 2020195388A JP 2021176004 A JP2021176004 A JP 2021176004A
Authority
JP
Japan
Prior art keywords
display
image
area
source image
procedure manual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020195388A
Other languages
English (en)
Other versions
JP7492904B2 (ja
Inventor
千代 大野
Chiyo Ono
航史 山崎
Koji Yamazaki
拓也 中道
Takuya NAKAMICHI
康行 味松
Yasuyuki Ajimatsu
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to US17/197,560 priority Critical patent/US11333892B2/en
Priority to EP21162072.9A priority patent/EP3901737A1/en
Publication of JP2021176004A publication Critical patent/JP2021176004A/ja
Application granted granted Critical
Publication of JP7492904B2 publication Critical patent/JP7492904B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】実空間で作業する作業者に適し、作業に係る情報を表示することを可能とする。【解決手段】HMD100は、本体の向きを検出するセンサ182と、ディスプレイ181と、ディスプレイ181の所定の第1表示領域に第1画像を表示し、ディスプレイ181の第2表示領域に第1画像に関連する第2画像をディスプレイ181の画面に表示する視野画像表示部112を備える。視野画像表示部112は、本体の向きに応じてディスプレイ181の画面における第2表示領域を決定する。【選択図】図2

Description

本発明は、作業を支援するための情報を表示する表示装置、表示システムおよび表示方法に関する。
工場(プラント)などにおける製品の製造や、工場設備の点検、修理などの作業において、手順書や図面などの作業書を見ながら作業を行う場合があるが、作業対象の近くに作業書を表示するディスプレイなどの装置を配置することが難しいときがある。このようなときに利用可能な表示装置として、作業者の頭部に装着して、現実空間に仮想空間の画像を重畳して表示するシースルー型頭部装着型表示装置(ヘッドマウントディスプレイ、Head-Mounted Display、以下ではHMDとも記す)やスマートグラスが注目されている。シースルー型HMDなどを使用すれば、作業者は表示装置を手に持ったり、遠くの表示装置を見に行ったりする必要がなく、作業効率を改善することができる。
HMDにおける表示制御については、HMDや作業者の状態、あるいは表示内容に応じて表示画面を変更・構成することにより使いやすいものとなる。例えば、特許文献1に記載のHMDでは、HMDが計測した視線の角度に応じて、仮想空間を撮影した仮想カメラの画像を生成し、角度に応じて変化しない画像と共に表示している。
特開2019−101330号公報
特許文献1に記載の発明では、例えば、非透過型のHMDに仮想空間の画像を表示しており、作業者(HMDの装着者)に仮想空間に入り込んだような感覚を与える画像を生成している。一方、工場などの現場での作業を支援するHMDでは、実空間で実物の作業対象や工具、現場周辺を見ながら作業する必要があるため、特許文献1に記載の技術は、現場での作業用の表示装置として適しているとは言えない。
本発明は、このような背景を鑑みてなされたものであり、実空間で作業する作業者に適し、作業に係る情報を表示することを可能とする表示装置、表示システムおよび表示方法を提供することを課題とする。
上記した課題を解決するため、本発明に係る表示装置は、本体の向きを検出する検出器と、表示器と、前記表示器の画面における所定の第1表示領域に第1画像を表示し、前記表示器の画面における第2表示領域に第1画像に関連する第2画像を表示する画像表示処理部を備え、前記画像表示処理部は、前記本体の向きに応じて前記表示器の画面における前記第2表示領域を決定することを特徴とする。
本発明によれば、実空間で作業する作業者に適し、作業に係る情報を表示することを可能とする表示装置、表示システムおよび表示方法を提供することができる。上記した以外の課題、構成および効果は、以下の実施形態の説明により明らかにされる。
第1の実施形態に係る表示システムの構成を示す図である。 第1の実施形態に係るHMDの機能ブロック図である。 第1の実施形態に係るスマートフォンの機能ブロック図である。 第1の実施形態に係る作業書データベースのデータ構成図である。 第1の実施形態に係る表示元画像の構成を示す図である。 第1の実施形態に係るディスプレイに表示される視野画像の構成を示す図である。 第1の実施形態に係る配置定義処理のシーケンス図である。 第1の実施形態における表示元画像生成処理のフローチャートである。 第1の実施形態における視野画像表示処理のフローチャートである。 第2の実施形態に係るHMDの機能ブロック図である。 第2の実施形態に係るスマートフォンの機能ブロック図である。 第2の実施形態に係る視野内手順書座標テーブルのデータ構成図である。 第2の実施形態に係る配置定義処理のシーケンス図(1)である。 第2の実施形態に係る配置定義処理のシーケンス図(2)である。 第2の実施形態における表示元画像生成処理のフローチャートである。 第2の実施形態における視野画像表示処理のフローチャートである。 第3の実施形態に係る作業書データベースのデータ構成図である。 第3の実施形態における表示元画像生成処理のフローチャートである。 第3の実施形態における視野画像表示処理のフローチャートである。 第4の実施形態に係る表示システムの構成を示す図である。 第4の実施形態に係るHMDの機能ブロック図である。 第4の実施形態に係るスマートフォンの機能ブロック図である。 第4の実施形態に係る表示元画像の構成を示す図である。 第4の実施形態に係るディスプレイに表示される視野画像の構成を示す図である。 第4の実施形態に係る配置定義処理のシーケンス図である。 第4の実施形態における表示元画像生成処理のフローチャートである。 第4の実施形態における視野画像表示処理のフローチャートである。 第5の実施形態に係るHMDの機能ブロック図である。 第5の実施形態に係る分割表示元画像領域を説明するための図である。 第5の実施形態に係るHMDに記憶される配置領域テーブルのデータ構成である。 第5の実施形態に係るスマートフォンの機能ブロック図である。 第5の実施形態に係るスマートフォンに記憶される配置領域テーブルを説明するための図である。 第5の実施形態に係るスマートフォンに記憶される配置領域テーブルのデータ構成図である。 第5の実施形態に係る配置定義処理のシーケンス図である。 第5の実施形態に係る手順書配置領域設定画面の画面構成図である。 第5の実施形態に係る手順書配置領域および図面配置領域の位置の変更を説明するための図である。 第5の実施形態に係る手順書配置領域および図面配置領域のサイズの変更を説明するための図である。 第5の実施形態における表示元画像生成処理のフローチャートである。 第5の実施形態に係るタッチパネルディスプレイに表示される変更モードの表示元画像を説明するための図である。 第5の実施形態に係るタッチパネルディスプレイに表示される変更不可モードの表示元画像を説明するための図である。 第5の実施形態における視野画像表示処理のフローチャートである。 第5の実施形態に係るHMDを装着した作業者にとって、ディスプレイに表示された画面がどのように見えるかを示す図である。 第5の実施形態に係るHMDを装着した作業者が右を向いたときに、ディスプレイに表示された画面がどのように見えるかを示す図である。
以下に、本発明を実施するための形態(実施形態)における表示システムを説明する。表示システムは、スマートフォン、および透過型のHMDを含んで構成される。スマートフォンには、作業の手順書、および図面が記憶され、作業者が行っている作業ステップの手順書と図面とをそれぞれの所定の領域に含む画像(表示元画像とも記す)を生成して、HMDに送信する。HMDは、表示元画像に含まれる手順書の領域から画像を切り出して、HMDの画面における所定の位置(例えば中央下)に表示する。
また、HMDは、本体の向きに応じて図面を表示する。例えば、図面の領域が表示元画像の右側にあるとする(後記する図5の表示元画像230内の図面配置領域232参照)。すると、HMDは、作業者が正面を向いているときには図面を表示しない。HMDは、作業者が小さく右を向いたことを検知すると図面の左側を画面の右側に表示し、作業者が大きく右を向いたことを検知すると図面全体を画面の右側に表示する。
このように、HMDが手順書と図面とを表示することにより、作業者は手順書を常時参照しながら作業することができる。また、右を向くことで作業者は、図面を参照することができる。正面を向いているときには図面は表示されず、作業者が作業対象や作業現場を見る視界が遮られることはない。結果として作業者は、手でスマートフォンやHMDを操作することなく両手で作業しながら、手順書や図面を参照しつつ作業することができるようになる。
≪第1の実施形態:表示システムの全体構成≫
図1は、第1の実施形態に係る表示システム10の構成を示す図である。表示システム10は、HMD(ヘッドマウントディスプレイ)100(表示装置)とスマートフォン200(携帯装置)とを含んで構成される。HMD100は、例えば、視界を覆うようにして頭部に装着するゴーグル型の表示装置である。HMD100とスマートフォン200とは、例えばUSB(Universal Serial Bus)ケーブルで接続されるが、他の規格のケーブルまたは無線で接続されてもよい。また、スマートフォン200にUSBを接続し、変換アダプタを介してHDMI(High-Definition Multimedia Interface)やDisplayPortなどの画像出力コネクタに変換し、HMD100に接続する形態でもよい。なお、HMD100には、メガネのようにかけて使用するスマートグラスも含めるものとする。同様に、スマートフォン200(携帯装置)には、タブレットやノートPCといった携帯可能な端末も含めるものとする。
≪第1の実施形態:HMD(ヘッドマウントディスプレイ)の構成≫
図2は、第1の実施形態に係るHMD100の機能ブロック図である。HMD100は、CPU(Central Processing Unit)を含んで構成される制御部110、ROM(Read Only Memory)やRAM(Random Access Memory)、フラッシュメモリなどから構成される記憶部120、ディスプレイ181、センサ182、および不図示の通信部を含んで構成される。通信部は、USBやWi-Fi(登録商標)など1つ以上の通信インターフェースを備え、スマートフォン200との間でデータを送受信する。
ディスプレイ181は、HMD100の前部に備えられる高い透過率を有する透過型の表示装置である(図1参照)。図1のような両眼型の他、左右の何れかの眼で使用する片眼型でも良い。作業者は、HMD100を装着してディスプレイ181に表示される情報を参照しながら作業することができる。
センサ182は、例えばMEMS(Micro Electro Mechanical Systems)式のジャイロスコープを含むセンサであって、HMD100の角度または角速度を検出して制御部110に出力する。周囲の照度を測定する照度センサ、および周囲や作業者を撮影するカメラを含んでもよい。
記憶部120には、プログラム121、表示元画像122、手順書座標123、関連図面座標124、および視野内手順書座標125が記憶される。プログラム121は、制御部110を構成するCPUが実行するプログラムであって、HMD100を制御する。プログラム121は、視野画像表示処理(後記する図9参照)他の処理手順を含む。
表示元画像122は、スマートフォン200から受信した表示元画像230(後記する図3、図5参照)であって、ディスプレイ181に表示される視野画像の元となる画像データである。手順書座標123、関連図面座標124、および視野内手順書座標125は、スマートフォン200から受信した表示元画像122中の領域を示す座標データであって、後記するスマートフォン200(図3参照)が記憶する手順書座標222、関連図面座標223、および視野内手順書座標224とそれぞれ同等である。
制御部110は、データ受信部111、および視野画像表示部112を備える。データ受信部111は、スマートフォン200から受信したデータを表示元画像122、手順書座標123、関連図面座標124、および視野内手順書座標125に格納する。視野画像表示部112は、手順書座標123、関連図面座標124、および視野内手順書座標125を参照して、表示元画像122(後記する図5に記載の表示元画像230)から画像を切り出してディスプレイ181に表示する。
≪第1の実施形態:スマートフォンの構成≫
図3は、第1の実施形態に係るスマートフォン200の機能ブロック図である。スマートフォン200は、CPUを含んで構成される制御部210、ROMやRAM、フラッシュメモリなどから構成される記憶部220、タッチパネルディスプレイ281、マイク282、および不図示の通信部を含んで構成される。通信部は、USBやWi-Fiなど1つ以上の通信インターフェースを備え、HMD100との間でデータを送受信する。
記憶部220には、プログラム221、表示元画像230、手順書座標222、関連図面座標223、視野内手順書座標224、作業書データベース240(図3では作業書DB(database)と記載、後記する図4参照)、および図面データベース250(図3では図面DBと記載)が記憶される。
プログラム221は、制御部210を構成するCPUが実行するプログラムであって、スマートフォン200を制御する。プログラム221は、表示元画像生成処理(後記する図8参照)他の処理手順を含む。
図4は、第1の実施形態に係る作業書データベース240のデータ構成図である。作業書データベース240は、例えば表形式のデータである。作業書データベース240の1つの行は、表示システム10の利用者である作業者が実行する1つの作業ステップを示し、ステップ番号241(図4では#と記載)、作業対象部位242、作業内容243、関連図面244、完了フラグ245(図4では完了Fと記載)、および完了日時246を含んで構成される。
ステップ番号241は、作業ステップに付与された番号であって、作業ステップの順番を示す。作業対象部位242は、修理や点検などの作業の対象となる部位を示し、例えば「機種Aの1号機」という作業対象の名称である。作業内容243は、ディスプレイ181(図1および図2参照)に表示される作業ステップの説明文であって、例えば、「スイッチBをオフにする」という作業内容の説明文である。関連図面244は、作業ステップに関連する図面であって、ディスプレイ181に表示される図面の識別情報である。完了フラグ245は、作業ステップが完了したか(「YES」)、未了であるか(「NO」)を示す。完了日時246は、作業ステップが完了した日時である。
図3に戻って、図面データベース250は、作業ステップに関連する図面を格納する。図面には関連図面244(図4参照)に対応する識別情報が付与されており、制御部210は、識別情報を指定することで、図面にアクセスすることができる。表示元画像230、手順書座標222、関連図面座標223、および視野内手順書座標224については、後記する図5および図6を参照しながら説明する。
≪第1の実施形態:表示元画像と視野画像≫
図5は、第1の実施形態に係る表示元画像230の構成を示す図である。表示元画像230は、ディスプレイ181(図1および図2参照)に表示される画像の元となる画像データである。手順書配置領域231は、表示元画像230のなかで手順書の内容(図4のステップ番号241、作業対象部位242、作業内容243、関連図面244、完了フラグ245)が表示される領域である。図面配置領域232は、表示元画像230のなかで手順書に関連する図面(図4の関連図面244で識別され、図面データベース250に記憶されている図面)が表示される領域である。
視野領域233は、表示元画像230の部分領域であって、ディスプレイ181(図1、図2参照)に表示される領域であり、領域の大きさはディスプレイ181の表示サイズである。視野領域233は、HMD100の向きに応じて表示元画像230内を移動する。例えば、作業者が左を向くとともに、センサ182(図2参照)がHMD100の左回転を検知すると、ディスプレイ181には、表示元画像230の左側にある視野領域233Aが表示される。
手順書座標222(図3参照)は、表示元画像230における手順書配置領域231の配置座標である。配置座標とは、例えば領域の左上頂点および右下頂点の表示元画像230内での座標である。配置座標は、領域の左上頂点の座標、および領域のサイズであってもよい。関連図面座標223は、表示元画像230における図面配置領域232の配置座標である。
図6は、第1の実施形態に係るディスプレイ181に表示される視野画像420の構成を示す図である。視野画像420は、視野領域233(図5参照)に対応する画像であり、表示元画像230から後記する視野内図面領域422を切り出した画像に、視野内手順書領域421が付加された画像である。ディスプレイ181において、視野内図面領域422および視野内手順書領域421以外の部分には画素が表示されないため、HMD100を装着した作業者には視野のその部分を通して作業場所の風景が見える。
視野内手順書領域421は、視野画像420の部分領域であって、手順書が表示される領域である。第1の実施形態では、視野内手順書領域421は、視野画像420の中央下側に配置されるが、別の位置に配置されてもよい。視野内手順書座標224(図3参照)は、視野画像420における視野内手順書領域421の配置座標である。
視野内図面領域422は、視野領域233(図5参照)と図面配置領域232とが重なった領域であって、図面の一部が含まれる領域である。視野領域233は、HMD100の向きに応じて表示元画像230内を移動するため、視野領域233と図面配置領域232とが重なった領域である視野内図面領域422もHMD100の向きに応じて変化する。例えば、作業者が左を向くと、視野領域233から視野領域233Aに移動する。すると、視野領域233Aと図面配置領域232とは重ならないため、視野内図面領域422は存在せず、ディスプレイ181に図面は表示されないことになる。
≪第1の実施形態:スマートフォンの構成:制御部≫
図3に戻って、制御部210は、配置定義部211、および表示元画像生成部212を備える。配置定義部211は、表示システム10の利用者である作業者の指示を受け付けて、表示元画像230(図5参照)における手順書配置領域231や図面配置領域232の配置(配置座標)、および視野画像420(図6参照)における視野内手順書領域421の配置を定義(設定)する。配置定義部211は、定義された配置座標をHMD100に送信する。表示元画像生成部212は、作業者が作業している作業ステップに係る手順書および関連図面を含んだ表示元画像230を生成して、HMD100に送信する。
≪第1の実施形態:配置定義処理≫
図7は、第1の実施形態に係る配置定義処理のシーケンス図である。図7を参照しながら、表示元画像230(図5参照)、および視野画像420(図6参照)に係る設定を行うスマートフォン200、およびHMD100の処理を説明する。
ステップS111においてスマートフォン200の配置定義部211は、表示システム10の利用者である作業者が指示した表示元画像230(図5参照)における手順書配置領域231の配置座標を取得して、手順書座標222(図3参照)に格納する。配置座標は、例えば領域の左上頂点および右下頂点の表示元画像230内での座標である。
ステップS112において配置定義部211は、作業者が指示した表示元画像230における図面配置領域232の配置座標を取得して、関連図面座標223に格納する。
ステップS113において配置定義部211は、作業者が指示した視野画像420(図6参照)における視野内手順書領域421の配置座標を取得して、視野内手順書座標224に格納する。
ステップS114において配置定義部211は、手順書座標222、関連図面座標223、および視野内手順書座標224をHMD100に送信する。
ステップS115においてHMD100のデータ受信部111は、受信した手順書座標222、関連図面座標223、および視野内手順書座標224を、それぞれ手順書座標123、関連図面座標124、および視野内手順書座標125に格納する。
配置定義処理に続いて、作業者が表示システム10を利用して作業するときの表示システム10の処理を説明する。
≪第1の実施形態:表示元画像生成処理≫
図8は、第1の実施形態における表示元画像生成処理のフローチャートである。図8を参照しながら、スマートフォン200が表示元画像230を生成して、HMD100に送信する処理を説明する。
ステップS131においてスマートフォン200の表示元画像生成部212は、作業ステップの完了指示があれば(ステップS131→YES)ステップS132に進み、なければ(ステップS131→NO)ステップS133に進む。作業ステップの完了指示とは、作業者が1つの作業ステップが完了したことを記録することを表示システム10に指示することである。表示元画像生成部212は、マイク282(図3参照)で取得した音から、作業者の「作業ステップ完了」の発声を検出することで、作業ステップの完了指示の有無を判断してもよい。または、表示元画像生成部212は、作業者のタッチパネルディスプレイ281に表示された作業ステップ完了ボタンのタップを検出して、作業ステップの完了指示があったと判断してもよい。
ステップS132において表示元画像生成部212は、作業ステップの完了を記録する。詳しくは、表示元画像生成部212は、現在の作業ステップの完了フラグ245(図4参照)を「YES」に、完了日時246を現在時刻に更新する。現在の作業ステップは、完了フラグ245が「NO」であってステップ番号241が最小の作業ステップである。
ステップS133において表示元画像生成部212は、空白の画像を生成して、表示元画像230に格納する。
ステップS134において表示元画像生成部212は、手順書を表示元画像230の手順書配置領域231(図5参照)に描画する。詳しくは、表示元画像生成部212は、現在の作業ステップのステップ番号241、作業対象部位242、作業内容243、関連図面244、完了フラグ245(図4参照)を手順書配置領域231に描画する。
ステップS135において表示元画像生成部212は、関連図面を表示元画像230の図面配置領域232に描画する。詳しくは、表示元画像生成部212は、現在の作業ステップの関連図面244にある識別情報に対応する図面を図面データベース250から取得して図面配置領域232に描画する。
ステップS136において表示元画像生成部212は、表示元画像230をHMD100に送信して、ステップS131に戻る。
≪第1の実施形態:視野画像表示処理≫
図9は、第1の実施形態における視野画像表示処理のフローチャートである。図9を参照しながら、HMD100がスマートフォン200から受信した表示元画像230(図8のステップS136参照)を基に視野画像をディスプレイ181に表示する処理を説明する。
ステップS151においてHMD100のデータ受信部111は、スマートフォン200が送信した表示元画像230を受信して表示元画像122に格納する。
ステップS152においてHMD100の視野画像表示部112は、手順書配置領域231(図5参照、手順書座標123で示される表示元画像122の部分領域)の画像を視野内手順書座標125で示されるディスプレイ181の領域(図6の視野内手順書領域421参照)に表示する。
ステップS153において視野画像表示部112は、センサ182で取得したHMD100の向き(角度)から視野領域233(図5参照)を算出する。
ステップS154において視野画像表示部112は、視野領域233(図5参照)と図面配置領域232の重複領域を、ディスプレイ181の対応する領域に表示して、ステップS151に戻る。ディスプレイ181の対応する領域とは、ディスプレイ181の表示画像を視野画像420(図6参照)と見なすときに、視野画像420内の視野内図面領域422に対応する領域である。
≪第1の実施形態:表示システムの特徴≫
HMD100のディスプレイ181には、作業者が作業している作業ステップの手順書と関連図面とが表示される。手順書はディスプレイ181の設定された位置(図6の視野内手順書領域421参照)に常時表示される。このため、作業者は手順書を常時参照しながら作業することができる。
関連図面は、作業者の頭部(HMD100)の向きに応じて表示される。仮に図面の位置が表示元画像230の右側に設定されたとする。すると、作業者が正面を向いているときには図面は表示されず、作業者は図面に邪魔されることなく作業できる。作業者は、右を向くことで図面を参照することができる。結果として作業者は、手でスマートフォン200やHMD100を操作することなく両手で作業しながら、手順書や図面を参照することができるようになる。
≪第2の実施形態≫
第1の実施形態では、視野画像420(図6参照)内の視野内手順書領域421には、手順書が常時表示されるが、作業者の指示より表示/非表示を切り替えられるようにしてもよい。また、手順書の表示領域は中央下側に固定されている(図6の視野内手順書領域421参照)が、作業者の指示により表示/非表示や表示位置を切り替えられるようにしてもよい。図面については、表示元画像230内の図面が、座標で指定される図面配置領域232を用いて図面を指定されるのではなく、背景色を指定して当該背景色以外の画素を図面として扱うようにしてもよい。以下、手順書の表示/非表示や表示位置の切り替え、背景色の指定を可能とする第2の実施形態を説明する。なお、手順書と同様に、作業者の指示より図面の表示/非表示を切り替えるようにしてもよい。
≪第2の実施形態:HMDの構成≫
図10は、第2の実施形態に係るHMD100Aの機能ブロック図である。第1の実施形態のHMD100(図2参照)と比較して、記憶部120において関連図面座標124がなくなり、背景色126、および手順書表示フラグ127が追加される。背景色126は、図面の背景となる色であって、表示元画像122において背景色126以外の色の画素が図面となる。手順書表示フラグ127は、ディスプレイ181に手順書を表示するか否かを示すフラグである。データ受信部111Aは、スマートフォン200から表示元画像や手順書座標の他に、背景色や手順書表示フラグを受信して記憶部120に格納する。視野画像表示部112Aは、背景色126、手順書表示フラグ127を参照して、手順書と図面とをディスプレイ181に表示する。
≪第2の実施形態:スマートフォンの構成≫
図11は、第2の実施形態に係るスマートフォン200Aの機能ブロック図である。第1の実施形態のスマートフォン200と比較して、記憶部220において視野内手順書座標224に替わり、視野内手順書座標テーブル260(後記する図12参照)および視野内手順書座標識別番号269が記憶される。また、背景色126、および手順書表示フラグ127に対応する背景色225、および手順書表示フラグ226が追加される。
図12は、第2の実施形態に係る視野内手順書座標テーブル260のデータ構成図である。視野内手順書座標テーブル260は、1つ以上の視野内手順書領域421(図6参照)の配置座標を記憶する。視野内手順書座標テーブル260は、例えば表形式のデータであって、1つの行(レコード)は、1つの視野内手順書座標を示し、視野内手順書座標識別番号261(図12では#と記載)および視野内手順書座標262の列(属性)を含む。視野内手順書座標識別番号261は、視野内手順書座標の識別情報である。視野内手順書座標262は、視野内手順書領域421の配置座標を示す。視野内手順書座標識別番号269(図11参照)は、作業者が指定した視野内手順書領域421(図6参照)の視野内手順書座標識別番号261である。
図11に戻って、配置定義部211Aは、作業者の指示を受け付けて手順書配置領域231の配置や背景色225を定義する。表示元画像生成部212Aは、手順書および関連図面を含んだ表示元画像230を生成して、HMD100Aに送信する。
≪第2の実施形態:配置定義処理≫
図13は、第2の実施形態に係る配置定義処理のシーケンス図(1)である。図14は、第2の実施形態に係る配置定義処理のシーケンス図(2)である。第2の実施形態においては、配置定義処理は、図13の処理に続いて、作業中に図14の処理が繰り返し実行される。
ステップS211においてスマートフォン200Aの配置定義部211Aは、表示システム10の利用者である作業者が指示した表示元画像230(図5参照)における手順書配置領域231の配置座標を取得して、手順書座標222に格納する。
ステップS212において配置定義部211Aは、作業者が指示した表示元画像230における図面配置領域232の配置座標を取得して、関連図面座標223に格納する。
ステップS213において配置定義部211Aは、作業者が指示した視野画像420(図6参照)における視野内手順書領域421の配置座標を取得して、視野内手順書座標テーブル260(図12参照)に格納する。視野内手順書領域421は、1つとは限らず、複数の場合もある。第2の実施形態では、作業者は3つの手順書配置領域を指示した(図12参照)として説明する。配置定義部211Aは、既定の視野内手順書座標識別番号として「1」を視野内手順書座標識別番号269に、既定の手順書表示フラグとして「ON」を手順書表示フラグ226に格納する。配置定義部211Aは、作業者に既定の視野内手順書座標識別番号や手順書表示フラグを問い合わせて、視野内手順書座標識別番号269や手順書表示フラグ226に格納してもよい。
ステップS214において配置定義部211Aは、作業者が指示した図面の背景色を取得して、背景色225に格納する。
ステップS215において配置定義部211Aは、手順書座標222、視野内手順書座標識別番号269に対応する視野内手順書座標262(図12参照)、背景色225、および手順書表示フラグ226をHMD100Aに送信する。
ステップS216においてHMD100Aのデータ受信部111Aは、受信した手順書座標222、視野内手順書座標識別番号269に対応する視野内手順書座標262、背景色225、および手順書表示フラグ226を、それぞれ手順書座標123、視野内手順書座標125、背景色126、および手順書表示フラグ127に格納する。
図14に移って、ステップS221において配置定義部211Aは、手順書表示に係る指示があれば(ステップS221→YES)ステップS222に進み、なければ(ステップS221→NO)ステップS221に戻る。手順書表示に係る指示とは、手順書の表示の当否、および表示位置の指示である。例えば、作業者は「手順書表示」や「手順書表示ON」と発声して、手順書の表示を指示する。また、作業者は「手順書表示位置2番」や「2番に手順書表示」と発声して、手順書の表示位置を指示する。配置定義部211Aは、マイク282で取得した音から、指示の有無を判断してもよい。または、配置定義部211Aは、作業者のタッチパネルディスプレイ281に表示された手順書の表示ON/OFFボタンや手順書表示位置ボタンのタップを検出して、指示の有無を判断してもよい。
ステップS222において配置定義部211Aは、ステップS221における指示が手順書の表示の指示であれば(ステップS222→YES)ステップS223に進み、表示の指示でなければ(ステップS222→NO)ステップS224に進む。
ステップS223において配置定義部211Aは、手順書表示フラグ226(図11参照)を「ON」に設定する。
ステップS224において配置定義部211Aは、ステップS221における指示が手順書の非表示の指示であれば(ステップS224→YES)ステップS225に進み、非表示の指示でなければ(ステップS224→NO)ステップS226に進む。
ステップS225において配置定義部211Aは、手順書表示フラグ226を「OFF」に設定する。
ステップS226において配置定義部211Aは、ステップS221における指示が手順書の表示位置を1番にする指示であれば(ステップS226→YES)ステップS227に進み、1番にする指示でなければ(ステップS226→NO)ステップS228に進む。
ステップS227において配置定義部211Aは、視野内手順書座標識別番号269を「1」に設定する。
ステップS228において配置定義部211Aは、ステップS221における指示が手順書の表示位置を2番にする指示であれば(ステップS228→YES)ステップS229に進み、2番にする指示でなければ(ステップS228→NO)ステップS230に進む。
ステップS229において配置定義部211Aは、視野内手順書座標識別番号269を「2」に設定する。
ステップS230において配置定義部211Aは、ステップS221における指示が手順書の表示位置を3番にする指示であれば(ステップS230→YES)ステップS231に進み、3番にする指示でなければ(ステップS230→NO)ステップS232に進む。
ステップS231において配置定義部211Aは、視野内手順書座標識別番号269を「3」に設定する。
ステップS232において配置定義部211Aは、視野内手順書座標識別番号269に対応する視野内手順書座標262、および手順書表示フラグ226をHMD100Aに送信して、ステップS221に戻る。
ステップS233においてHMD100Aのデータ受信部111Aは、受信した視野内手順書座標識別番号269に対応する視野内手順書座標262、および手順書表示フラグ226を、それぞれ視野内手順書座標125、および手順書表示フラグ127に格納する。
なお、作業者が作業している間、配置定義部211A、およびデータ受信部111Aは、図14の処理を繰り返す。
≪第2の実施形態:表示元画像生成処理≫
図15は、第2の実施形態における表示元画像生成処理のフローチャートである。図15を参照しながら、スマートフォン200Aが表示元画像230を生成して、HMD100Aに送信する処理を説明する。
ステップS241〜S242は、ステップS131〜S132(図8参照)と同様の処理である。
ステップS243において表示元画像生成部212Aは、背景色225と同色である空白の画像を生成して、表示元画像230に格納する。
ステップS244において表示元画像生成部212Aは、手順書表示フラグ226が「ON」であれば(ステップS244→YES)ステップS245に進み、「ON」でなければ(ステップS244→NO)ステップS246に進む。
ステップS245〜S247は、ステップS134〜S136と同様である。
≪第2の実施形態:視野画像表示処理≫
図16は、第2の実施形態における視野画像表示処理のフローチャートである。図16を参照しながら、HMD100Aが表示元画像230から視野画像を生成してディスプレイ181に表示する処理を説明する。
ステップS261は、ステップS151(図9参照)と同様の処理である。
ステップS262において視野画像表示部112Aは、手順書表示フラグ127が「ON」であれば(ステップS262→YES)ステップS263に進み、「ON」でなければ(ステップS262→NO)ステップS265に進む。
ステップS263は、ステップS152と同様の処理である。
ステップS264において視野画像表示部112Aは、手順書配置領域231(図5参照)以外の表示元画像122から背景色126以外の画素を関連図面として抽出する。
ステップS265において視野画像表示部112Aは、表示元画像122全体から背景色126以外の画素を関連図面として抽出する。
ステップS266は、ステップS153(図9参照)と同様の処理である。
ステップS267においてHMD100Aの視野画像表示部112Aは、視野領域233と、ステップS264またはステップS265で関連図面として抽出した画素との重複領域を、ディスプレイ181の対応する領域に表示して、ステップS261に戻る。換言すれば、視野画像表示部112Aは、視野領域233内にあって、ステップS264またはステップS265で関連図面として抽出された画素をディスプレイ181の対応する領域に表示して、ステップS261に戻る。
≪第2の実施形態:表示システムの特徴≫
第1の実施形態と比較して、HMD100Aは、ディスプレイ181に表示する手順書について、作業者に指示に従って表示/非表示を切り替えたり、表示位置を切り替えたりすることができる。このため、作業者は、より広い視野を確保したい場合には非表示を選択したり、作業に応じて手順書を表示する位置を切り替えたりすることができるようになる。作業者は、作業ステップや作業者の姿勢などに応じて視野が確保しやすくなり、作業効率が向上する。また、図面の表示部分が座標ではなく色で指定されるため、矩形のような単純な形状に限らず、複雑な形状の図形が表示できるようになる。
≪第3の実施形態≫
第2の実施形態では、作業者はディスプレイ181に表示される手順書の位置を変えることができる。以下では、作業ステップに応じて図面の位置を変えることができる第3の実施形態を説明する。
図17は、第3の実施形態に係る作業書データベース240Bのデータ構成図である。第1の実施形態の作業書データベース240(図4参照)と比較して、関連図面座標247の列(属性)が追加される。関連図面座標247は、表示元画像230(図5参照)における図面配置領域232の配置座標を示す。第2の実施形態では作業ステップ(図面)によらず全ての図面配置領域232は、同一であったが、第3の実施形態では作業ステップごとに図面配置領域232を設定することができる。また、第2の実施形態では作業ステップ(図面)によらず背景色225は、同一であったが、第3の実施形態では図面ごとに背景色を選定するようにする。
なお、図示はしていないが、第3の実施形態においては、表示システム10B、HMD100B、表示元画像生成部212B、視野画像表示部112Bのように符号を付与する。
≪第3の実施形態:表示元画像生成処理≫
図18は、第3の実施形態における表示元画像生成処理のフローチャートである。ステップS343,S346,S347を除くステップS341〜S347は、ステップS243,S246,S247を除くステップS241〜S247(図15参照)とそれぞれ同様である。
ステップS343において表示元画像生成部212Bは、現在の作業ステップの関連図面で最も使われていない色を背景色として選択して、この色の空白の画像を生成し、表示元画像230に格納する。また、表示元画像生成部212Bは、この色を背景色225に格納する。
ステップS346において表示元画像生成部212Bは、作業書データベース240Bを参照し、表示元画像230における現在の作業ステップの関連図面座標247(図17参照)に関連図面を描画する。
ステップS347において表示元画像生成部212Bは、表示元画像230、および背景色225をHMD100Bに送信する。
≪第3の実施形態:視野画像表示処理≫
図19は、第3の実施形態における視野画像表示処理のフローチャートである。ステップS361を除くステップS361〜S367は、ステップS261を除くステップS261〜S267(図16参照)と同様である。
ステップS361において視野画像表示部112Bは、表示元画像230と背景色225とを受信し、それぞれ表示元画像122と背景色126(図10参照)とに格納する。
≪第3の実施形態:表示システムの特徴≫
第2の実施形態と比較して、作業者は、作業ステップ(図面)ごとに図面の表示位置をあらかじめ設定しておくことができるようになる。これにより、作業部位に応じて図面が表示されるHMD100B(作業者の顔)の向きを決めることができ、表示システム10Bの使い勝手が向上する。
また、スマートフォン200Bは、それぞれの図面において最も使われていない色を背景色として選択しており、第2の実施形態と比較して作業者が背景色を設定する手間がなくなる。
≪第4の実施形態≫
上記した実施形態ではディスプレイ181には、手順書や図面が表示される。手順書や図面以外の情報が、ディスプレイ181に表示されるようにしてもよい。以下では、スマートフォンのバッテリ状態や時刻、後記するメッセージが表示される第4の実施形態を説明する。
図20は、第4の実施形態に係る表示システム10Cの構成を示す図である。表示システム10Cは、HMD100Cとスマートフォン200Cと管理者端末500とを含んで構成される。HMD100Cは、作業の様子を撮影するカメラ183を前部に備える。スマートフォン200Cと管理者端末500とは、無線通信、例えば第5世代移動通信システムを用いて接続される。管理者端末500を利用する管理者は、作業者の作業をモニタして、必要に応じてテキスト情報であるメッセージを送信して、作業者に作業を指示したり、注意を促したりする。
図21は、第4の実施形態に係るHMD100Cの機能ブロック図である。センサ182Cは、ジャイロスコープに加え、カメラ183を備える。手順書・バッテリ状態座標123C、時計座標128、および視野内手順書・バッテリ状態座標125Cについては、図23〜図24を参照しながら後記する。データ受信部111Cは、表示元画像の他に、手順書・バッテリ状態座標や時計座標を受信して記憶部120に格納する。視野画像表示部112Cは、手順書や図面の他に、時刻やバッテリ状態、メッセージを表示したり、カメラ183の画像をスマートフォン200Cに送信したりする。
図22は、第4の実施形態に係るスマートフォン200Cの機能ブロック図である。表示元画像230C、時計座標227、バッテリ状態座標228、手順書・バッテリ状態座標229、視野内手順書・バッテリ状態座標224C、および視野内時計座標270については、図23〜図24を参照しながら後記する。メッセージバッファ271は、管理者端末500から送信されたメッセージを保持する。配置定義部211Cは、手順書や図面の他に、バッテリ状態や時計の配置を設定して、配置座標をHMD100Cに送信する。表示元画像生成部212Cは、時計(時刻)やメッセージを含む表示元画像を生成してHMD100Cに送信するとともに、HMD100Cからカメラ183の画像を受信して管理者端末500に送信する。
図23は、第4の実施形態に係る表示元画像230Cの構成を示す図である。以下、表示元画像230(図5参照)との違いを説明する。時計配置領域234(図23ではCと記載)は、表示元画像230Cのなかで時計(時刻)が表示される領域である。バッテリ状態配置領域235(図23ではBと記載)は、表示元画像230Cのなかでスマートフォン200Cのバッテリ状態(バッテリの残量)が表示される領域である。手順書・バッテリ状態配置領域236は、手順書配置領域231とバッテリ状態配置領域235とを合わせた領域である。
時計座標227(図22参照)は、表示元画像230Cにおける時計配置領域234の配置座標である。バッテリ状態座標228は、表示元画像230Cにおけるバッテリ状態配置領域235の配置座標である。手順書・バッテリ状態座標229は、表示元画像230Cにおける手順書・バッテリ状態配置領域236の配置座標である。
図24は、第4の実施形態に係るディスプレイ181に表示される視野画像420Cの構成を示す図である。視野内手順書・バッテリ状態領域421Cは、視野画像420Cの部分領域であって、手順書とバッテリ状態とが並んで表示される領域である。管理者端末500からのメッセージがあれば、手順書とバッテリ状態とに替わってメッセージが視野内手順書・バッテリ状態領域421Cに表示される。視野内時計領域424は、視野画像420Cの部分領域であって、時計が表示される領域である。
視野内手順書・バッテリ状態座標224C(図22参照)は、視野画像420Cにおける視野内手順書・バッテリ状態領域421Cの配置座標である。視野内時計座標270は、視野画像420Cにおける視野内時計領域424の配置座標である。
≪第4の実施形態:配置定義処理≫
図25は、第4の実施形態に係る配置定義処理のシーケンス図である。
ステップS411において配置定義部211Cは、表示システム10Cの利用者である作業者が指示した表示元画像230C(図23参照)における手順書配置領域231の配置座標を取得して、手順書座標222に格納する。
ステップS412において配置定義部211Cは、作業者が指示した表示元画像230Cにおける図面配置領域232の配置座標を取得して、関連図面座標223に格納する。
ステップS413において配置定義部211Cは、作業者が指示した表示元画像230Cにおけるバッテリ状態配置領域235の配置座標を取得して、バッテリ状態座標228に格納する。
ステップS414において配置定義部211Cは、手順書・バッテリ状態配置領域236の配置座標を手順書・バッテリ状態座標を229に格納する。なお、手順書・バッテリ状態配置領域236は、手順書配置領域231とバッテリ状態配置領域235とを合わせた領域である。
ステップS415において配置定義部211Cは、作業者が指示した視野画像420C(図24参照)における視野内手順書・バッテリ状態領域421Cの配置座標を取得して、視野内手順書・バッテリ状態座標224Cに格納する。
ステップS416において配置定義部211Cは、作業者が指示した表示元画像230Cにおける時計配置領域234の配置座標を取得して、時計座標227に格納する。
ステップS417において配置定義部211Cは、作業者が指示した図面の背景色を取得して、背景色225に格納する。
ステップS418において配置定義部211Cは、手順書・バッテリ状態座標229、関連図面座標223、時計座標227、視野内手順書・バッテリ状態座標224C、および背景色225をHMD100Cに送信する。
ステップS419においてデータ受信部111Cは、受信した手順書・バッテリ状態座標229、関連図面座標223、時計座標227、視野内手順書・バッテリ状態座標224C、および背景色225を、それぞれ手順書・バッテリ状態座標123C、関連図面座標124、時計座標128、視野内手順書・バッテリ状態座標125C、および背景色126に格納する。
≪第4の実施形態:表示元画像生成処理≫
図26は、第4の実施形態における表示元画像生成処理のフローチャートである。第1の実施形態や第2の実施形態と比較して大きく異なる点は、管理者端末500からメッセージが届いた場合の処理である。
ステップS431〜S433は、ステップS241〜S243(図15参照)と同様の処理である。
ステップS434において表示元画像生成部212Cは、管理者端末500からメッセージを受信していれば(ステップS434→YES)ステップS435に進み、受信していなければ(ステップS434→NO)ステップS437に進む。
ステップS435において表示元画像生成部212Cは、受信したメッセージをメッセージバッファ271に保存する。
ステップS436において表示元画像生成部212Cは、メッセージバッファ271内のメッセージを表示元画像230Cの手順書・バッテリ状態配置領域236(図23参照)に描画して、ステップS441に進む。
ステップS437において表示元画像生成部212Cは、管理者端末500からメッセージの削除指示を受信していれば(ステップS437→YES)ステップS438に進み、受信していなければ(ステップS437→NO)ステップS439に進む。
ステップS438において表示元画像生成部212Cは、メッセージバッファ271に保存されたメッセージを削除する。
ステップS439において表示元画像生成部212Cは、メッセージバッファ271にメッセージがあれば(ステップS439→YES)ステップS436に進み、なければ(ステップS439→NO)ステップS440に進む。
ステップS440において表示元画像生成部212Cは、現在の作業ステップの作業内容243(図4参照)である手順書、およびバッテリ状態を表示元画像230Cの手順書配置領域231、およびバッテリ状態配置領域235(図23参照)にそれぞれ描画して、ステップS441に進む。
ステップS441は、ステップS135(図8参照)と同様である。
ステップS442において表示元画像生成部212Cは、時計(時刻)を表示元画像230Cの時計配置領域234に描画する。
ステップS443において表示元画像生成部212Cは、表示元画像230CをHMD100Cに送信する。
ステップS444において表示元画像生成部212Cは、HMD100Cからカメラ183が取得した画像を受信して、管理者端末500に送信して、ステップS431に戻る。なお、HMD100Cがカメラ183の画像を送信する処理は、後記する図27のステップS456に対応する。
≪第4の実施形態:視野画像表示処理≫
図27は、第4の実施形態における視野画像表示処理のフローチャートである。第2の実施形態の視野画像表示処理(図16参照)と比較して大きく異なる点は、カメラ183の画像を送信する処理(ステップS456参照)である。
ステップS451は、ステップS151(図9参照)と同様の処理である。
ステップS452において視野画像表示部112Cは、手順書・バッテリ状態配置領域236(図23参照、手順書・バッテリ状態座標123Cで示される表示元画像122の部分領域)を視野内手順書・バッテリ状態座標125Cで指定されるディスプレイ181の領域に表示する。
ステップS453において視野画像表示部112Cは、手順書・バッテリ状態配置領域236以外の表示元画像122から背景色126以外の画素を関連図面として抽出する。
ステップS454は、ステップS153と同様の処理である。
ステップS455において視野画像表示部112Cは、視野領域233と、ステップS453で関連図面として抽出した画素との重複領域を、ディスプレイ181の対応する領域に表示する。換言すれば、視野画像表示部112Cは、視野領域233内にある、ステップS453で関連図面として抽出した画素をディスプレイ181の対応する領域に表示する。
ステップS456において視野画像表示部112Cは、カメラ183が撮像した画像をスマートフォン200Cに送信して、ステップS451に戻る。
≪第4の実施形態:表示システムの特徴≫
第4の実施形態においては、手順書や図面の他に、スマートフォン200Cのバッテリ状態や時刻がディスプレイ181に表示される。これにより、作業を中断することなく、作業者はスマートフォン200Cのバッテリ状態や時刻を確認することができる。
管理者端末500を利用する管理者は、現場にはいないが、カメラ183の画像により作業の状態を知ることができる。また、管理者はメッセージを送信して作業者に指示したり、注意点を知らせて作業を支援したりすることができ、作業者は効率よく作業を進めることができるようになる。
≪第5の実施形態≫
上記した実施形態において作業者は、HMD100〜100Cのディスプレイ181に表示される手順書や図面などのコンテンツの位置を変えることができる。第1の実施形態における配置定義部211(図3参照)は、スマートフォン200がHMD100に対して、あらかじめ手順書配置領域231や図面配置領域232、視野内手順書領域421の配置座標を送信する(図7記載のステップS114参照)。
第2の実施形態における配置定義部211Aは、配置座標に加え、手順書の表示/非表示を示す手順書表示フラグ226(図11参照)もHMD100Aに送信する(図13記載のステップS215参照)。第4の実施形態における配置定義部211Cは、時計配置領域234(図23参照)や手順書・バッテリ状態配置領域236の配置座標もHMD100Cに送信する(図25記載のステップS418参照)。
第5の実施形態では、表示元画像230(図5、図23参照)は、複数の領域(以下、分割表示元画像領域とも記す)に分割され、作業者は、この分割表示元画像領域のなかから手順書配置領域231を選択する。これにより、作業者は簡単に手順書を配置する領域を指定することが可能となる。また、HMD100D(後記する図28参照)とスマートフォン200D(後記する図31参照)との間の通信手順を単純化することにより、実装が容易となる。
また、スマートフォン200Dが生成する表示元画像230において、手順書および図面以外の背景色を、HMD100Dが透過する色(例えば、R値=G値=B値=0)に設定する。これにより、HMD100Dは、手順書や図面などの配置座標を考慮する必要がなくなり、実装が容易となる。
第5の実施形態では、以下の(1)〜(4)を前提とする。
(1)HMD100Dのディスプレイ181のアスペクト比は、16:9である。
(2)スマートフォン200Dのタッチパネルディスプレイ281のアスペクト比は、18:9である。
(3)表示元画像230(図5参照)のサイズ(大きさ、画素数)は、ディスプレイ181の3×3倍(縦横ともに3倍)とする。表示元画像230のアスペクト比は、ディスプレイ181と同じであって、16:9となる。
(4)表示元画像230とタッチパネルディスプレイ281の横の長さ(画素数)は同じである。
なお、上記した前提は一例であって、この限りではない。例えば、アスペクト比は16:9や18:9と異なるアスペクト比であってもよい。また、表示元画像230と、ディスプレイ181やタッチパネルディスプレイ281との大きさの比率が、上記と異なってもよい。
≪第5の実施形態:HMDの構成≫
図28は、第5の実施形態に係るHMD100Dの機能ブロック図である。第1の実施形態のHMD100(図2参照)と比較して、手順書座標123の替わりに、手順書が配置される分割表示元画像領域の識別番号が格納される手順書領域番号123Dが記憶される。また、関連図面座標124、および視野内手順書座標125がなくなり、配置領域テーブル130(後記する図30参照)と背景色126が追加される。背景色126は、第2の実施形態(図10参照)と同様であって、手順書や図面の背景となる色であって、表示元画像230において背景色126以外の色の画素が手順書や図面となる。
データ受信部111Dは、スマートフォン200Dから表示元画像230、および手順書が配置される分割表示元画像領域の識別番号を受信して、それぞれ表示元画像122D、および手順書領域番号123Dに格納する。視野画像表示部112Dは、配置領域テーブル130、手順書領域番号123Dを参照して、手順書と図面とをディスプレイ181に表示する。
図29は、第5の実施形態に係る分割表示元画像領域を説明するための図である。分割表示元画像領域は、表示元画像230を3×3に分割された領域である。1〜9の番号は、分割表示元画像領域に割り振られて識別番号である。各分割表示元画像領域の大きさ(サイズ、縦横の画素数)は、HMD100Dのディスプレイ181(図1参照)の大きさと同じであって(上記した第5の実施形態の前提(3)参照)、横がa画素、縦がb画素である。
図30は、第5の実施形態に係るHMD100Dに記憶される配置領域テーブル130のデータ構成である。配置領域テーブル130は、表形式のデータであって、1つの行(レコード)は、1つの分割表示元画像領域を示し、番号131、座標132、およびサイズ133の列(属性)を含む。
番号131は、分割表示元画像領域の識別番号である。座標132は、分割表示元画像領域の座標であって、表示元画像230における分割表示元画像領域の左上頂点の座標である。なお、表示元画像230の左上が原点(0,0)である。サイズ133は、分割表示元画像領域のサイズである。
≪第5の実施形態:スマートフォンの構成≫
図31は、第5の実施形態に係るスマートフォン200Dの機能ブロック図である。第2の実施形態のスマートフォン200A(図11参照)と比較して、記憶部220においては、視野内手順書座標テーブル260、および視野内手順書座標識別番号269がなくなり、替わりに配置領域テーブル290(後記する図32参照)、図面表示フラグ226Aが追加される。
手順書表示フラグ226、および図面表示フラグ226Aは、それぞれ手順書および図面をHMD100Dのディスプレイ181に表示する/表示しないを設定するフラグである。第2の実施形態では、手順書表示フラグ226は、HMD100Aに送信されている(図13記載のステップS215、図14記載のステップS232参照)が、第5の実施形態では、手順書表示フラグ226、および図面表示フラグ226Aは送信されない(後記する図34のステップS515参照)。
図32は、第5の実施形態に係るスマートフォン200Dに記憶される配置領域テーブル290(後記する図33参照)を説明するための図である。1〜9の番号を振った各領域は、分割表示元画像領域であって、大きさは横がa画素、縦がb画素である。9つの分割表示元画像領域からハッチングした2つの領域(パディング)を除いた横がDx画素、縦がDy画素の領域は、スマートフォン200Dのタッチパネルディスプレイ281(図31参照)に対応し、Dx:Dy=18:9である。なお、上下のパディングの高さは、それぞれP/2である。Pの値は、Dx:Dy+P=16:9=a:bであって表示元画像230のアスペクト比となるように設定される。
なお、上記したパディングの位置やサイズは、一例である。例えば、パディングを左右、上のみ、または、上下左右に配置してもよい。パティングは、なくてもよい。例えば、表示元画像230やディスプレイ181、タッチパネルディスプレイ281のアスペクト比が同じ場合には、なくてもよい。
図33は、第5の実施形態に係るスマートフォン200Dに記憶される配置領域テーブル290のデータ構成図である。配置領域テーブル290は、表形式のデータであって、1つの行(レコード)は、1つのタッチパネルディスプレイ281上の分割表示元画像領域を示し、番号291、座標292、およびサイズ293の列(属性)を含む。
番号291は、分割表示元画像領域の識別番号である。座標292は、タッチパネルディスプレイ281上の分割表示元画像領域の座標であって、表示元画像230におけるタッチパネルディスプレイ281上の分割表示元画像領域の左上頂点の座標である。なお、表示元画像230の左上頂点が原点(0,0)である。サイズ293は、タッチパネルディスプレイ281上の分割表示元画像領域のサイズである。
識別番号が1〜3、および7〜9の分割表示元画像領域の高さは、(b−P/2)画素である。また、識別番号が1となるタッチパネルディスプレイ281上の分割表示元画像領域の座標292は、(0,P/2)となる。
図31に戻って、配置定義部211Dは、作業者の指示を受け付けて手順書配置領域231(図5参照)として配置領域テーブル290のなかから手順書を配置する領域を設定する。表示元画像生成部212Dは、手順書および関連図面を含んだ表示元画像230を生成して、HMD100Dに送信する。
≪第5の実施形態:配置定義処理≫
図34は、第5の実施形態に係る配置定義処理のシーケンス図である。
ステップS511においてスマートフォン200Dの配置定義部211Dは、作業者に対してタッチパネルディスプレイ281に手順書配置領域設定画面600(後記する図35参照)を表示し、手順書を配置する分割表示元画像領域を選択するように促す。
図35は、第5の実施形態に係る手順書配置領域設定画面600の画面構成図である。手順書配置領域設定画面600は、9つの分割表示元画像領域に分割された表示元画像230を示すマップ601を含む。作業者は、何れかの分割表示元画像領域をタップすることで手順書を配置する領域を選択する。図35では、識別番号が4の分割表示元画像領域がタップされ、ハイライト表示されて選択されたことを示している。以下の説明では、識別番号4の分割表示元画像領域が選択されたとして説明する。
図34に戻って、ステップS512において配置定義部211Dは、作業者が指示した背景色を取得して背景色225D(図31参照)に格納する。以下では、R値=G値=B値=0が指示されたとして説明する。
ステップS513において配置定義部211Dは、作業者が指示した手順書の表示の当否、および関連図面の表示の当否を取得して、手順書表示フラグ226、および図面表示フラグ226Aに格納する。
ステップS514において配置定義部211Dは、タッチパネルディスプレイ281に表示元画像230(後記する図36参照)を表示し、手順書配置領域231および図面配置領域232の位置やサイズの変更を受け付ける(後記する図36、図37参照)。変更を受け付けると、配置定義部211Dは、手順書配置領域231の配置座標を手順書座標222Dに格納し、図面配置領域232の配置座標の関連図面座標223Dに格納する。
図36は、第5の実施形態に係る手順書配置領域231および図面配置領域232の位置の変更を説明するための図である。表示元画像230上の破線は分割表示元画像領域の境界を示す。ステップS511において手順書を配置する領域として識別番号4の分割表示元画像領域239が選択された。このため、ステップS514の開始時点においては、手順書配置領域231は、分割表示元画像領域239(薄いハッチングの領域)に配置される。図面配置領域232は、その他の分割表示元画像領域(濃いハッチングの領域)に配置される。
配置定義部211Dは、手順書配置領域231のスワイプ操作を検出して、手順書配置領域231の移動の指示を受け付ける。なお、手順書配置領域231が移動できるのは、識別番号4の分割表示元画像領域239内である。
配置定義部211Dは、図面配置領域232のスワイプ操作を検出して、図面配置領域232の移動の指示を受け付ける。なお、図面配置領域232が移動できるのは、その他の分割表示元画像領域(濃いハッチングの領域)内である。
図37は、第5の実施形態に係る手順書配置領域231および図面配置領域232のサイズの変更を説明するための図である。配置定義部211Dは、手順書配置領域231の頂点または辺のスワイプ操作を検出して、手順書配置領域231のサイズ変更の指示を受け付ける。なお、手順書配置領域231が拡大できるのは、識別番号4の分割表示元画像領域239内である。図37では、手順書配置領域231の右下の頂点がスワイプされて領域231Aに拡大される操作が示されている。
配置定義部211Dは、図面配置領域232の頂点または辺のスワイプ操作を検出して、図面配置領域232のサイズ変更の指示を受け付ける。なお、図面配置領域232が拡大できるのは、その他の分割表示元画像領域(濃いハッチングの領域)内である。図37では、図面配置領域232の下辺がスワイプされて領域232Aに拡大される操作が示されている。
なお、配置定義部211Dは、手順書配置領域231、および図面配置領域232のサイズ変更操作として、ピンチインとピンチアウトの操作を受け付ける。
図34に戻って、ステップS515において配置定義部211Dは、手順書が配置される分割表示元画像領域の識別番号(現説明では4)と背景色とをHMD100Dに送信する。
ステップS516においてHMD100Dのデータ受信部111Dは、受信した識別番号および背景色をそれぞれ手順書領域番号123Dおよび背景色126に格納する。
≪第5の実施形態:表示元画像生成処理≫
図38は、第5の実施形態における表示元画像生成処理のフローチャートである。図38を参照しながら、スマートフォン200Dが表示元画像230を生成して、HMD100Dに送信する処理を説明する。
ステップS521〜S522は、ステップS131〜S132と同様の処理である。
ステップS523において表示元画像生成部212Dは、タッチパネルディスプレイ281の表示状態が変更モード(後記する図39参照)ならば(ステップS523→YES)ステップS524に進み、変更不可モード(後記する図40参照)ならば(ステップS523→NO)ステップS525に進む。
図39は、第5の実施形態に係るタッチパネルディスプレイ281に表示される変更モードの表示元画像230Aを説明するための図である。図40は、第5の実施形態に係るタッチパネルディスプレイ281に表示される変更不可モードの表示元画像230Bを説明するための図である。表示元画像230Bと比較して表示元画像230Aには、分割表示元画像領域の境界が破線として描画される。この境界が表示されているか否かで作業者は、変更モードか変更不可モードかが区別できる。配置定義部211Dは、変更モード時に手順書配置領域231および図面配置領域232の位置やサイズの変更を受け付ける。
変更モード時においてタッチパネルディスプレイ281に対する操作が、所定時間内にない場合には、変更不可モードに遷移する。変更不可モードにおいてタッチパネルディスプレイ281に対する操作が検知されると変更モードに遷移する。音声やボタン操作など、スマートフォン200Dに対する別の操作によって、変更不可モードから変更モードに遷移してもよい。
図38に戻って、ステップS524において配置定義部211Dは、配置定義処理(図34参照)を行う。
ステップS525において表示元画像生成部212Dは、背景色225Dと同色である空白の画像を生成して、表示元画像230に格納する。
ステップS526において表示元画像生成部212Dは、手順書表示フラグ226がONならば(ステップS526→ON)ステップS527に進み、OFFならばステップS528に進む。
ステップS527において表示元画像生成部212Dは、手順書座標222Dに記憶した手順書配置領域231の配置座標を参照して、手順書を手順書配置領域231に描画する。
ステップS528において表示元画像生成部212Dは、図面表示フラグ226AがONならば(ステップS528→ON)ステップS529に進み、OFFならばステップS530に進む。
ステップS529において表示元画像生成部212Dは、関連図面座標223Dに記憶した図面配置領域232の配置座標を参照して、関連図面を図面配置領域232に描画する。
ステップS530において表示元画像生成部212Dは、表示元画像230をHMD100Dに送信して、ステップS521に戻る。
≪第5の実施形態:視野画像表示処理≫
図41は、第5の実施形態における視野画像表示処理のフローチャートである。図41を参照しながら、HMD100Dが表示元画像122Dから視野画像を生成してディスプレイ181に表示する処理を説明する。
ステップS541においてHMD100Dのデータ受信部111Dは、スマートフォン200Dが送信した表示元画像230を受信して表示元画像122D(図28参照)に格納する。
ステップS542においてHMD100Dの視野画像表示部112Dは、センサ182で取得したHMD100の向き(角度)から視野領域233(図5参照)を算出する。
ステップS543において視野画像表示部112Dは、表示元画像230から視野領域233のなかで背景色126以外の画素をディスプレイ181に表示する。
ステップS544において視野画像表示部112Dは、手順書領域番号123Dと配置領域テーブル130(図30参照)とを参照して、表示元画像122Dに記憶される表示元画像230における手順書が配置される分割表示元画像領域を特定する。今の説明では、手順書領域番号123Dは4なので、当該分割表示元画像領域の座標は(0,b)で、サイズは(a,b)である。
ステップS545において視野画像表示部112Dは、ステップS544で特定した分割表示元画像領域のなかで背景色126以外の画素をディスプレイ181に表示する。ディスプレイ181内で画素が表示される位置は、分割表示元画像領域における画素の位置と同じである。換言すれば、視野画像表示部112Dは、ステップS544で特定した分割表示元画像領域を視野領域と見なして、背景色126以外の画素をディスプレイ181に表示する。なお、視野画像表示部112Dは、アルファブレンディングの手法を用いて、分割表示元画像領域と、ステップS542で算出した視野領域とを重ねて表示してもよい。
≪第5の実施形態:表示システムの特徴≫
第1の実施形態、第2の実施形態、第4の実施形態と比較すると、第5の実施形態では手順書を配置する分割表示元画像領域を指定することができるため、表示システムの使い勝手が向上する。また、HMD100Dはスマートフォン200Dから手順書が配置される分割表示元画像領域の識別番号と背景色のみを受け取る(図34のステップS515参照)ことで手順書の領域を特定することができる。このため、スマートフォン200Dとやり取りするデータを減らすことができ、HMD100Dの構成がシンプルになり、延いては開発コストを削減することができる。
なお、背景色が固定されているならば、背景色の設定(図34のステップS512参照)が不要となる。すると、ステップS515における背景色の送信が不要となり、さらにデータ量を減らしたり、開発コストを削減したりできる。
図42は、第5の実施形態に係るHMD100Dを装着した作業者にとって、ディスプレイ181に表示された画面がどのように見えるかを示す図である。ディスプレイ181に表示される画面は、表示元画像230内の視野領域233(図5参照)であり、そのアスペクト比は、表示元画像230と同じアスペクト比である。
手順書表示フラグ226がONならば、ディスプレイ181には手順書が常に表示される(図41のステップS545参照)。一方、関連図面は、作業者(HMD100D)の向きに応じて表示される部分が異なる。図42では、ディスプレイ181には関連図面の左下の一部が表示される(視野領域233には図面配置領域232の左下の一部が含まれる)。
図43は、第5の実施形態に係るHMD100Dを装着した作業者が右を向いたときに、ディスプレイ181に表示された画面がどのように見えるかを示す図である。作業者が右を向いたことにより、表示元画像230内で視野領域233が右に移動する。これにより、図面配置領域232にある図面の下半分が視野領域233に含まれ、作業者は図面の下半分を見ることができる。なお、手順は常に表示されており、図面より手前(図面の上)に表示される。
以上に説明したように、参照頻度の高い手順書は常に表示され、参照頻度の低い関連図面は作業者の頭部の動きで見える範囲を制御することができる。このため、表示システムの使い勝手が向上し、作業者の作業効率が向上する。また、手順書と関連図面とが重なる場合、作業者は手順書表示フラグあるいは図面表示フラグのON/OFFを指定する(図34のステップS513参照)ことで、どちらか一方を優先して表示する(図38のステップS526〜S529参照)ことができる。このため、手順書や図面、作業現場の視認性が向上する。
≪変形例:作業ステップの指定≫
上記した実施形態では、ステップ番号241(図4参照)の順番に作業ステップを進める前提であり、作業完了の指示を受けて次の作業ステップに進んでいる(図8のステップS131参照)。作業者がステップ番号を指示して、スマートフォン200は指示されたステップ番号の作業の手順書や図面を含む表示元画像を生成、HMDに送信するようにしてもよい。
≪変形例:HMDのバッテリ状態≫
第4の実施形態では、スマートフォン200Cのバッテリ状態がディスプレイ181に表示される。視野画像表示部112Cは、スマートフォン200Cのバッテリ状態の替わりに、HMD100Cのバッテリ状態を取得して表示してもよい。
≪変形例:背景色≫
第2の実施形態において関連図面は、表示元画像のなかで背景色以外の画素が構成する画像である。これとは逆に、関連図面を構成する画素の色を指定し、当該色の画素からなる画像を関連図面としてもよい。色は複数設定できるようにしてもよい。
≪変形例:完了記録≫
上記した実施形態の表示システムは、作業ステップの完了記録として完了日時246(図4参照)を記録している。完了日時と共に、HMDのカメラ183(図20参照)が撮像した画像や映像を記録するようにしてもよい。または、作業者の指示により、スマートフォンは、HMDに指示してカメラ183の撮像画像を取得して、現在の作業ステップに関連付けて記憶してもよい。こうすることにより、日時に加えて、作業後の写真が簡単に記録され、作業の証跡を残すことができる。
≪変形例:分割表示元画像領域と手順書配置領域≫
上記した第5の実施形態では、手順書配置領域は、1つの分割表示元画像領域に含まれている。手順書配置領域が、複数の分割表示元画像領域に含まれるようにしてもよい。例えば、例えば、表示元画像が10×10の分割表示元画像領域に分割され、そのうちの2×2の分割表示元画像領域を手順書配置領域としてもよい。
≪その他変形例≫
以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は、例示に過ぎず、本発明の技術的範囲を限定するものではない。例えば、上記した表示システムは、HMDとスマートフォンから構成されているが、HMDとスマートフォンが一体となってもよい。また、作業完了指示は、音声で行っているが、HMDに備わるボタンで指示し、HMDはボタンが操作されたことをスマートフォンに通知するようにしてもよい。スマートフォンは、手順書や図面を記憶しているが、スマートフォンとは異なる装置から通信回線を介して取得するようにしてもよい。
本発明はその他の様々な実施形態を取ることが可能であり、さらに、本発明の要旨を逸脱しない範囲で、省略や置換等種々の変更を行うことができる。これら実施形態やその変形は、本明細書等に記載された発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
10,10B,10C 表示システム
100,100A,100B,100C,100D HMD(表示装置)
111,111A,111B,111C,111D データ受信部
112,112A,112B,112C,112D 視野画像表示部(画像表示処理部)
181 ディスプレイ(表示器)
182 センサ(検出器)
183 カメラ(撮像デバイス)
200,200A,200B,200C,200D スマートフォン(携帯装置)
211,211A,211A,211C,211D 配置定義部
212,212A,212B,212C,212D 表示元画像生成部
230,230C 表示元画像
231 手順書配置領域
232 図面配置領域(第2元画像)
233,233A 視野領域
239 分割表示元画像領域
240 作業書データベース
250 図面データベース
420,420C 視野画像
421 視野内手順書領域(第1表示領域)
421C 視野内手順書・バッテリ状態領域(第1表示領域)
422 視野内図面領域(第2表示領域)
500 管理者端末(遠隔端末)

Claims (14)

  1. 本体の向きを検出する検出器と、
    表示器と、
    前記表示器の画面における所定の第1表示領域に第1画像を表示し、前記表示器の画面における第2表示領域に第1画像に関連する第2画像を表示する画像表示処理部を備え、
    前記画像表示処理部は、前記本体の向きに応じて前記表示器の画面における前記第2表示領域を決定する
    ことを特徴とする表示装置。
  2. 携帯装置から画像を受信するデータ受信部をさらに備え、
    前記第1画像および前記第2画像は、前記データ受信部が受信した画像である表示元画像の部分画像である
    ことを特徴とする請求項1に記載の表示装置。
  3. 前記部分画像は、前記表示元画像の所定位置の領域にある画像である
    ことを特徴とする請求項2に記載の表示装置。
  4. 前記部分画像は、前記表示元画像に含まれる所定の色の画素からなる画像、または、前記表示元画像に含まれる所定の色と異なる画素からなる画像である
    ことを特徴とする請求項2に記載の表示装置。
  5. 前記表示元画像は、前記第2画像を含む第2元画像を含み、
    前記第2表示領域は、前記本体の向きに応じて前記表示元画像内を移動する視野領域と前記第2元画像とが重なった領域である
    ことを特徴とする請求項2に記載の表示装置。
  6. 前記表示装置は、頭部に装着する表示装置であり、
    前記第1画像は、前記表示装置の装着者が行う作業の手順書であり、
    前記第2画像は、当該手順書に関連する図面である
    ことを特徴とする請求項1に記載の表示装置。
  7. 表示装置と携帯装置とを含んで構成される表示システムであって、
    前記携帯装置は、
    第1元画像と、前記第1元画像に関連する第2元画像とを含む表示元画像を生成して、前記表示装置に送信する表示元画像生成部を備え、
    前記表示装置は、
    本体の向きを検出する検出器と、
    表示器と、
    前記表示器の画面における所定の第1表示領域に前記第1元画像を表示し、前記表示器の画面における第2表示領域に前記第2元画像の部分画像または前記第2元画像を表示する画像表示処理部を備え、
    前記画像表示処理部は、
    前記本体の向きに応じて前記表示器の画面における前記第2表示領域を決定する
    ことを特徴とする表示システム。
  8. 前記携帯装置は、前記表示システムの利用者の指示を検出すると、前記第1元画像および前記第2元画像の少なくとも一方を別の画像に替える
    ことを特徴とする請求項7に記載の表示システム。
  9. 前記表示装置は、撮像デバイスを備え、
    前記携帯装置は、前記指示を検出すると、前記撮像デバイスが撮像した画像を取得して、前記第1元画像および前記第2元画像に関連付けて記憶する
    ことを特徴とする請求項8に記載の表示システム。
  10. 遠隔端末をさらに備え、
    前記携帯装置が、前記遠隔端末からメッセージを受信すると、前記表示元画像生成部は、当該メッセージの画像を前記第1元画像とする
    ことを特徴とする請求項7に記載の表示システム。
  11. 前記表示装置は、撮像デバイスを備え、
    前記画像表示処理部は、前記撮像デバイスが撮像した画像を前記携帯装置に送信し、
    前記携帯装置は、受信した画像を前記遠隔端末に送信する
    ことを特徴とする請求項10に記載の表示システム。
  12. 本体の向きを検出する検出器と、表示器とを備える表示装置の表示方法であって、
    前記表示器の画面における所定の第1表示領域に第1画像を表示し、前記表示器の画面における第2表示領域に第1画像に関連する第2画像を表示するステップを実行し、
    前記本体の向きに応じて前記表示器の画面における前記第2表示領域が決定される
    ことを特徴とする表示方法。
  13. 前記第1表示領域は、複数の領域に分割された前記表示元画像である分割表示元画像領域のなかで少なくとも1つの分割表示元画像領域に含まれる
    ことを特徴とする請求項2に記載の表示装置。
  14. 前記第1表示領域は、複数の領域に分割された前記表示元画像である分割表示元画像領域のなかで少なくとも1つの分割表示元画像領域に含まれる
    ことを特徴とする請求項7に記載の表示システム。
JP2020195388A 2020-04-24 2020-11-25 表示装置、表示システムおよび表示方法 Active JP7492904B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US17/197,560 US11333892B2 (en) 2020-04-24 2021-03-10 Display apparatus, display system, and display method
EP21162072.9A EP3901737A1 (en) 2020-04-24 2021-03-11 Display apparatus, display system, and display method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2020077750 2020-04-24
JP2020077750 2020-04-24

Publications (2)

Publication Number Publication Date
JP2021176004A true JP2021176004A (ja) 2021-11-04
JP7492904B2 JP7492904B2 (ja) 2024-05-30

Family

ID=78300373

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020195388A Active JP7492904B2 (ja) 2020-04-24 2020-11-25 表示装置、表示システムおよび表示方法

Country Status (1)

Country Link
JP (1) JP7492904B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024034011A1 (ja) * 2022-08-09 2024-02-15 マクセル株式会社 連係表示システム及び連係表示方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012007985A (ja) * 2010-06-24 2012-01-12 Nec Corp 確認業務支援システム、サーバ装置、ヘッドマウントディスプレイ装置、ウェアラブル端末、確認業務支援方法およびプログラム
JP2016081339A (ja) * 2014-10-17 2016-05-16 セイコーエプソン株式会社 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム
WO2016088420A1 (ja) * 2014-12-04 2016-06-09 ソニー株式会社 表示制御装置、表示制御方法およびプログラム
US20160232879A1 (en) * 2015-02-05 2016-08-11 Samsung Electronics Co., Ltd. Method and electronic device for displaying screen
JP2016218268A (ja) * 2015-05-21 2016-12-22 セイコーエプソン株式会社 可搬型表示装置、表示システム、表示方法
KR101980297B1 (ko) * 2017-11-14 2019-05-20 고범준 3차원 vr 영상 처리 장치, 방법 및 프로그램
WO2020157955A1 (ja) * 2019-02-01 2020-08-06 マクセル株式会社 仮想オブジェクト表示装置及び仮想オブジェクト表示方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012007985A (ja) * 2010-06-24 2012-01-12 Nec Corp 確認業務支援システム、サーバ装置、ヘッドマウントディスプレイ装置、ウェアラブル端末、確認業務支援方法およびプログラム
JP2016081339A (ja) * 2014-10-17 2016-05-16 セイコーエプソン株式会社 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム
WO2016088420A1 (ja) * 2014-12-04 2016-06-09 ソニー株式会社 表示制御装置、表示制御方法およびプログラム
JP2016110319A (ja) * 2014-12-04 2016-06-20 ソニー株式会社 表示制御装置、表示制御方法およびプログラム
US20160232879A1 (en) * 2015-02-05 2016-08-11 Samsung Electronics Co., Ltd. Method and electronic device for displaying screen
JP2016218268A (ja) * 2015-05-21 2016-12-22 セイコーエプソン株式会社 可搬型表示装置、表示システム、表示方法
KR101980297B1 (ko) * 2017-11-14 2019-05-20 고범준 3차원 vr 영상 처리 장치, 방법 및 프로그램
WO2020157955A1 (ja) * 2019-02-01 2020-08-06 マクセル株式会社 仮想オブジェクト表示装置及び仮想オブジェクト表示方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024034011A1 (ja) * 2022-08-09 2024-02-15 マクセル株式会社 連係表示システム及び連係表示方法

Also Published As

Publication number Publication date
JP7492904B2 (ja) 2024-05-30

Similar Documents

Publication Publication Date Title
JP6585929B2 (ja) システム、システムの制御方法
US10642564B2 (en) Display system, display device, information display method, and program
JP6387825B2 (ja) 表示システム、及び、情報表示方法
EP3901737A1 (en) Display apparatus, display system, and display method
KR101397214B1 (ko) 증강 현실 기술을 이용하여 가상 객체를 생성하기 위한시스템 및 방법
US20160165170A1 (en) Augmented reality remote control
JP2011128220A (ja) 情報提示装置、情報提示方法及びプログラム
JP2016224810A5 (ja)
US10062209B2 (en) Displaying an object in a panoramic image based upon a line-of-sight direction
TW201624304A (zh) 銜接系統
JP6590050B2 (ja) 表示装置、表示システム、表示装置の制御方法、及び、プログラム
JP2015176186A (ja) 情報処理装置、情報処理方法、及び情報処理システム
CN101380223B (zh) 眼睛检查装置
JP2021176004A (ja) 表示装置、表示システムおよび表示方法
WO2018025825A1 (ja) 撮像システム
JP7170798B2 (ja) 画像処理方法、画像処理システム
KR101269172B1 (ko) 메뉴화면 제공방법 및 이를 적용한 영상기기
CN111818326B (zh) 图像处理方法、装置、系统、终端设备及存储介质
JP7476128B2 (ja) 表示システムおよび表示装置
CN114089879B (zh) 一种增强现实显示设备的光标控制方法
JP2017062650A (ja) 表示システム、表示装置、情報表示方法、及び、プログラム
CN114979568A (zh) 一种基于增强现实技术的远程作业指导方法
US11852811B2 (en) Linked display system and head-mounted display
WO2020140905A1 (zh) 虚拟内容交互系统及方法
JP2018018315A (ja) 表示システム、表示装置、情報表示方法、及び、プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230301

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231018

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240305

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240417

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240514

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240520

R150 Certificate of patent or registration of utility model

Ref document number: 7492904

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150