JP6590050B2 - 表示装置、表示システム、表示装置の制御方法、及び、プログラム - Google Patents
表示装置、表示システム、表示装置の制御方法、及び、プログラム Download PDFInfo
- Publication number
- JP6590050B2 JP6590050B2 JP2018153067A JP2018153067A JP6590050B2 JP 6590050 B2 JP6590050 B2 JP 6590050B2 JP 2018153067 A JP2018153067 A JP 2018153067A JP 2018153067 A JP2018153067 A JP 2018153067A JP 6590050 B2 JP6590050 B2 JP 6590050B2
- Authority
- JP
- Japan
- Prior art keywords
- unit
- image
- display
- display device
- hmd
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- User Interface Of Digital Computer (AREA)
Description
本発明は上記事情に鑑みてなされたものであり、頭部装着型の表示装置を装着した人に対し、わかりやすい態様で多くの情報を伝達できるようにすることを目的とする。
本発明によれば、第1表示装置で撮像された撮像画像に基づく案内対象情報を第2表示装置に送信し、第2表示装置が案内対象情報に基づき画像を表示し、この画像の表示中の操作と案内対象情報とを関連付ける情報を含む案内情報が、第1表示装置に送信される。このため、第2表示装置の操作により、第1表示装置に対して、第1表示装置における撮像画像に関連付けた操作に関する情報を提供できるので、第1表示装置の使用者に対し、わかりやすい態様で多くの情報を伝達できる。
本発明によれば、第2表示装置において位置指示操作を行うことができ、第1表示装置において、第2表示装置の位置指示操作の指示位置を撮像画像に対応付けることができる。このため、第1表示装置の使用者に対し、第2表示装置で行う位置指示操作の内容を伝えることができる。
本発明によれば、第2表示装置において位置指示操作を行うことで、この位置指示操作による指示位置に対応して、第1表示装置が指示体の画像を表示する。このため、第2表示装置の操作によって、第1表示装置の使用者に対して位置を指し示すことができる。
本発明によれば、第2表示装置で位置指示操作を行うことにより、第1表示装置に対するGUI操作を行い、第1表示装置を制御できる。
本発明によれば、第2表示装置で操作を行うことにより、第1表示装置を制御できる。
本発明によれば、第1表示装置で撮像した撮像画像を編集して、第1表示装置の使用者に見せることができる。
本発明によれば、第2表示装置から撮像条件を指定して、指定した撮像条件で撮像された撮像画像に基づく案内対象情報を、第2表示装置が取得できる。このため、第2表示装置の使用者は、第1表示装置の環境における所望の情報を得ることができる。
本発明によれば、第2表示装置から撮像方向、或いはズーム倍率を指定して、指定した撮像条件で撮像された撮像画像に基づく案内対象情報を、第2表示装置が取得できる。このため、第2表示装置の使用者は、第1表示装置の環境における所望の撮像画像に関する情報を得ることができる。
本発明によれば、外景の一部を含む範囲の撮像画像に基づく案内対象情報を外部の装置に送信し、外部の装置から受信する案内情報に従って画像を表示する。これにより、外部の装置に対して、実行中の作業に関する情報を送信し、外部の装置が送信する情報を、使用者に効果的に見せることができる。
本発明によれば、第1表示装置で撮像された撮像画像に基づく案内対象情報を第2表示装置に送信し、第2表示装置が案内対象情報に基づき画像を表示し、この画像の表示中の操作と案内対象情報とを関連付ける情報を含む案内情報が、第1表示装置に送信される。このため、第2表示装置の操作により、第1表示装置に対して、第1表示装置における撮像画像に関連付けた操作に関する情報を提供できるので、第1表示装置の使用者に対し、わかりやすい態様で多くの情報を伝達できる。
本発明によれば、表示装置により、外景の一部を含む範囲の撮像画像に基づく案内対象情報を外部の装置に送信し、外部の装置から受信する案内情報に従って画像を表示できる。このため、外部の装置に対して、実行中の作業に関する情報を送信し、外部の装置が送信する情報を、使用者に効果的に見せることができる。
また、本発明は、このプログラムを記憶した記憶媒体として構成してもよい。
図1は、本発明を適用した実施形態に係る表示システム1の概略構成図である。
この図1に示すように、表示システム1は、複数のHMD100を、通信ネットワーク4を介して相互に通信可能に接続したシステムである。図1には3台のHMD100を通信ネットワーク4に接続する例を示すが、表示システム1が備えるHMD100の数に制限はない。
HMD100A、100Bは、図1に示すように使用者が頭部に装着する表示装置であり、頭部装着型表示装置(ヘッドマウントディスプレイ、Head Mounted Display)とも呼ばれる。HMD100A、100Bは、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型のHMDである。
なお、以下の説明では、HMD100A、100Bによって使用者が視認する虚像を便宜的に「表示画像」とも呼ぶ。また、画像データに基づいて生成された画像光を射出することを「画像を表示する」ともいう。
これにより、表示システム1では、作業サイトBで作業を行う作業者の視界を、指令サイトAにいる指令者が視認し、作業者のHMD100Bに対し、指示体やコンテンツを利用して、作業の案内や説明等を行うことができる。作業者は、コンテンツの画像や指示体の動きを見ながら作業を行うことができる。
また、HMD100Bは、画像表示部20、及び、制御装置10Bを備える。画像表示部20はHMD100Aと共通であり、使用者である作業者の頭部に装着された状態で、使用者に虚像を視認させる。制御装置10Bは、制御装置10Aと同様に画像表示部20を制御し、使用者がHMD100Bを操作するコントローラーとしても機能する。制御装置10Aと制御装置10Bは外観において共通であり、機能的構成は相違するが、この相違点については後述する。
調光板20Aは、右光学像表示部26及び左光学像表示部28に対し着脱可能としてもよく、複数種類の調光板20Aを交換して装着可能としてもよいし、省略してもよい。
カメラ61は、頭部装着型表示装置100の表側方向、換言すれば、頭部装着型表示装置100Aを装着した状態における使用者の視界方向の少なくとも一部の外景を撮像する。カメラ61の画角の広さは適宜設定可能であるが、カメラ61の撮像範囲が、使用者が右光学像表示部26、左光学像表示部28を通して視認する外界を含む範囲であることが好ましい。さらに、調光板20Aを通した使用者の視界の全体を撮像できるようにカメラ61の撮像範囲が設定されているとより好ましい。カメラ61は、制御部140の制御に従って撮像を実行し、撮像画像データを制御部140に出力する。
左表示駆動部24は、LED等の光源と拡散板とを有する左バックライト222、左バックライト222の拡散板から発せられる光の光路上に配置される透過型の左LCD242、および、左LCD242を透過した画像光Lを導くレンズ群等を備えた左投写光学系252を備える。左LCD242は、複数の画素をマトリクス状に配置した透過型液晶パネルである。
ハーフミラー262Aで反射した画像光Lは左眼LEに向けて左光学像表示部28から射出され、この画像光Lが左眼LEの網膜に像を結び、使用者に画像を視認させる。
ハーフミラー261Aで反射した画像光Lは右眼REに向けて右光学像表示部26から射出され、この画像光Lが右眼REの網膜に像を結び、使用者に画像を視認させる。
図2を参照して説明した内容に関し、HMD100Bの構成はHMD100Aと共通である。すなわち、上記説明において制御装置10Aを制御装置10Bに代えた構成となる。
図4に示すように、HMD100Aは、コンテンツの供給元となる種々の外部機器OAを接続するインターフェイス114を備える。インターフェイス114は、例えば、USBインターフェイス、マイクロUSBインターフェイス、メモリーカード用インターフェイス等の有線接続に対応したインターフェイスを用いることができ、無線通信インターフェイスで構成してもよい。外部機器OAは、HMD100に画像を供給する画像供給装置であり、パーソナルコンピューター(PC)、携帯電話端末、携帯型ゲーム機等が用いられる。
入力情報取得部110は、上記のトラックパッド14、方向キー16、電源スイッチ18等を含む操作部135に接続される。入力情報取得部110は、操作部135から入力される信号に基づき、操作部135における操作内容を検出し、操作内容を示す操作データを制御部140に出力する。また、制御装置10Aは、電源部(図示略)を備え、制御装置10A及び画像表示部20の各部に電源を供給する。
記憶部120は、設定データ121を記憶する。設定データ121は、制御部140が使用する各種の設定値を含む。設定データ121が含む設定値は、予め操作部135の操作で入力された値であってもよいし、通信部117またはインターフェイス114を介して外部機器OAまたは他の装置(図示略)から設定値を受信して記憶してもよい。
検出用データ122は、画像データから作業対象物の画像を検出するために利用されるデータである。作業対象物とは、HMD100Bを装着した作業者が行う作業の対象であり、作業時に作業者の視界に位置すると考えることができる。検出用データ122は、例えば、画像データから作業対象物の画像を抽出する処理に用いるデータを含み、より具体的には、作業対象物の画像の特徴量のデータを含む。特徴量は、色の特徴量であっても形状の特徴量であってもよく、処理対象の画像データの色数や解像度に対応して、複数の特徴量を含んでもよい。表示システム1では、HMD100Bを装着する作業者が対象とする作業対象物が事前に判明している場合に、この作業対象物に関する検出用データ122が、記憶部120に記憶される。
送信画像データ124は、HMD100AがHMD100Bに送信する指示情報に用いられる画像データであり、例えば、腕、手、指、或いは指示棒等の指示体の画像の画像データである。詳細は後述するが、指示情報には、カメラ61が撮像する指示体の撮像画像を含めることができるが、撮像画像の代わりに、予め用意された指示体の画像を用いることもできる。送信画像データ124は、撮像画像の代わりに指示情報に含めることが可能な画像データである。送信画像データ124は、例えば、作業者の腕や手指を模した画像の画像データであるが、矢印等の記号で構成されるポインターの画像の画像データであってもよく、その種類や内容は制限されない。
指示コンテンツデータ125は、HMD100AがHMD100Bに送信するコンテンツのデータであり、テキストデータ、静止画像データ、動画像データ、及び音声データ等を含むことができる。
GPS115は、アンテナ(図示略)を備え、GPS(Global Positioning System)信号を受信し、制御装置10Aの現在位置を算出する。GPS115は、GPS信号に基づいて求めた現在位置や現在時刻を制御部140に出力する。また、GPS115はGPS信号に含まれる情報に基づいて現在時刻を取得し、制御部140が計時する時刻を修正させる機能を備えていてもよい。
外部機器OAが、通信部117に無線接続された場合、制御部140は、コンテンツデータを通信部117より取得して、画像表示部20に画像を表示させる。一方、外部機器OAが、インターフェイス114に有線接続された場合、制御部140は、コンテンツデータをインターフェイス114より取得して、画像表示部20に画像を表示させる。通信部117及びインターフェイス114は、外部機器OAからコンテンツデータを取得するデータ取得部DAとして機能する。
なお、画像処理部160は、必要に応じて、画像データの解像度を右表示駆動部22及び左表示駆動部24に適した解像度に変換する解像度変換処理を行ってもよい。また、画像処理部160は、画像データの輝度や彩度を調整する画像調整処理、3D画像データから2D画像データを作成し、或いは2D画像データから3D画像データを生成する2D/3D変換処理等を実行してもよい。
指示情報生成部186は、HMD100Bに送信する指示情報を生成する。指示情報は、HMD100AがHMD100Bに送信するデータであり、本実施形態では、コンテンツの画像データ及び/又は音声データ、指示体の画像データ、音声処理部187が生成する指令者の音声のデータ、指示体の位置または動きを示すデータを含む。
また、インターフェイス25は、カメラ61、距離センサー64、9軸センサー66及び視線センサー68を接続するインターフェイスである。カメラ61の撮像データ、距離センサー64の検出結果、9軸センサー66による加速度(3軸)、角速度(3軸)、地磁気(3軸)の検出結果、及び、視線センサー68の検出結果は、インターフェイス25を介して制御部140に送られる。
なお、右バックライト制御部201と、右LCD制御部211と、右バックライト221と、右LCD241とを総称して、右の「画像光生成部」とも呼ぶ。同様に、左バックライト制御部202と、左LCD制御部212と、左バックライト222と、左LCD242とを総称して、左の「画像光生成部」とも呼ぶ。
制御装置10Bは、制御部140(図4)に代えて制御部300を有し、記憶部120(図4)に代えて340を有する。他の構成は図4に示した制御装置10Aと共通である。
記憶部340は、設定データ341を記憶する。設定データ341は、制御部300が使用する各種の設定値を含む。設定データ341が含む設定値は、予め操作部135の操作で入力された値であってもよいし、通信部117またはインターフェイス114を介して外部機器OAまたは他の装置(図示略)から設定値を受信して記憶してもよい。
検出用データ343は、画像データから作業対象物の画像を検出するために利用されるデータである。検出用データ343は、例えば、画像データから作業対象物の画像を抽出する処理に用いるデータを含み、より具体的には、作業対象物の画像の特徴量のデータを含む。特徴量は、色の特徴量であっても形状の特徴量であってもよく、処理対象の画像データの色数や解像度に対応して、複数の特徴量を含んでもよい。記憶部340が記憶する検出用データ343は、設定データ121と同一であってもよいし、設定データ121とは異なるデータであってもよい。
メニュー画像データ345は、画像処理部303及び表示制御部305により表示されるメニュー画像のデータである。
なお、画像処理部303は、必要に応じて、画像データの解像度を右表示駆動部22及び左表示駆動部24に適した解像度に変換する解像度変換処理を行ってもよい。また、画像処理部303は、画像データの輝度や彩度を調整する画像調整処理、3D画像データから2D画像データを作成し、或いは2D画像データから3D画像データを生成する2D/3D変換処理等を実行してもよい。
作業情報生成部315は、HMD100Aに送信するデータを取得し、取得したデータに基づき作業情報を生成する。作業情報生成部315は、カメラ61の撮像画像データを取得する。また、作業情報生成部315は、距離センサー64、9軸センサー66、及び視線センサー68の少なくとも一部のセンサーの検出値を取得してもよく、この場合、カメラ61の撮像画像データ、及び、センサーの検出値を含む作業情報を生成する。作業情報生成部315が検出値を取得するセンサーは予め設定されるが、HMD100AがHMD100Bに設定用のコマンドを送信して、取得する検出値を指定してもよい。また、作業情報生成部315は、カメラ61の撮像画像データそのものに限らず、撮像画像データから生成した画像データを含む作業情報を生成してもよい。
受信情報解析部317は、通信制御部311が受信したデータを解析する。本実施形態では、受信情報解析部317は、通信制御部311が受信した指示情報に含まれる指示体の画像データ、コンテンツの画像データ、音声データ、及び、その他の等を抽出する。また、受信情報解析部317は、通信制御部311が受信した指示情報から、指示体の位置や動きを示すデータを抽出する。
表示位置算出部321は、受信情報解析部317が抽出した画像データに基づき画像を表示する位置を算出する。受信情報解析部317が抽出する画像データは、指示体の画像データ、コンテンツの画像データ、及びその他の画像データである。これらのデータに基づき、表示位置算出部321は、指示体の画像の表示位置、コンテンツの画像データの表示位置、及び、その他の画像の表示位置を算出する。また、表示位置算出部321は、各画像の表示サイズを算出してもよい。また、指示検出部319が、指令者の操作をGUIの操作とすることを指示するデータを検出した場合、表示位置算出部321は、GUI操作を行うためのメニュー画像の表示位置を算出する。
HMD100Bでは、撮像制御部313がカメラ61を制御して撮像を実行して撮像画像データを取得し(ステップS21)、作業情報生成部315が各センサーの検出値を取得する(ステップS22)。
続いて、作業情報生成部315は、ステップS21の撮像画像データと、ステップS22で取得した検出値のデータとを含む作業情報を生成し、このデータを通信制御部311がHMD100Aに送信する(ステップS23)。
指示情報生成部186は、送信画像取得部185が取得した指示体の画像の画像データと、操作位置や操作の軌跡を示すデータと、操作位置や操作の軌跡をHMD100Bの撮像画像と対応付けるデータとを含む指示情報を生成して送信する(ステップS18)。
制御部140は、動作の終了条件が成立したか否かを判定し(ステップS19)、終了条件が成立していない場合は(ステップS19;NO)、ステップS11に戻る。また、終了条件が成立した場合は(ステップS19;YES)、本処理を終了する。終了条件は、例えば操作部135の操作により、動作終了やHMD100Aのシャットダウンが指示されること等が挙げられる。
制御部300は、動作の終了条件が成立したか否かを判定し(ステップS28)、終了条件が成立していない場合は(ステップS28;NO)、ステップS23に戻る。また、終了条件が成立した場合は(ステップS28;YES)、本処理を終了する。終了条件は、例えば操作部135の操作により、動作終了やHMD100Bのシャットダウンが指示されること等が挙げられる。
HMD100Aは、HMD100Bから作業情報を受信した場合に、図7(A)に示すようにHMD100Bの撮像画像を表示する(図6のステップS12)。表示領域401に、撮像画像表示用の表示領域403が設けられ、表示領域403に撮像画像が表示される。ハーフミラー261Aは外景を透過するので、指令者には、指令者が操作する指示体2が表示領域401越しに視認される。なお、図7(A)の例で、指示体2は指令者の手である。指令者は、表示領域401に表示される作業対象物の画像404に対し、例えば、指示体2で指し示す操作を行う。HMD100Aは、操作検出部183により指示体2が指示した指示位置405を検出し、指示位置405と、表示領域403に表示中の撮像画像との相対位置を算出する。
図7(C)はHMD100Aが2つのHMD100Bから受信した作業情報に基づき撮像画像を表示する例を示す。図7(C)の例では、表示領域401に、撮像画像を表示する2つの表示領域409、410が配置される。表示領域409には一方のHMD100Bが送信した作業情報に基づく画像が表示される。また、表示領域410には他方のHMD100Bが送信した作業情報に基づく画像が表示される。これら表示領域409、410に表示された画像に対し、指示体2による指示が行われた場合、HMD100Aは、指示された位置に対応する作業情報を送信したHMD100Bに対して、指示情報を生成して送信する。
HMD100Bを装着した別の作業者の視野VRBには、ハーフミラー261Aに相当する表示領域461に、作業対象物の画像462が表示され、指示位置464を指し示す指示体の画像463が表示される。視野VRB2には、図7(B)に示した作業者の視野VRB1とは異なり、作業対象物が見えておらず、無関係な外景が見えている。HMD100Aが送信する指示情報にHMD100Bの撮像画像が含まれていれば、図7(D)に示すように、表示領域461に作業対象物の画像462を表示できる。この例では、いずれかの作業者に対して送信した指示情報の内容を、他の作業者が知ることができる。
このため、HMD100Bが撮像した撮像画像に基づく作業情報をHMD100Aに送信し、HMD100Aが作業情報に基づき画像を表示し、この画像の表示中の操作と作業情報とを関連付ける情報を含む指示情報が、HMD100Bに送信される。このため、HMD100Aの操作により、HMD100Bに対して、HMD100Bにおける撮像画像に関連付けた操作に関する情報を提供できるので、HMD100Bを装着する作業者に対し、わかりやすい態様で多くの情報を伝達できる。
表示システム1は、例えば、作業者が機器を操作する作業を行う場合に、機器の操作を説明し、案内するなど、遠隔地から指令者が機器の操作に関する情報を提供して、作業を支援する目的で使用できる。具体的には、パーソナルコンピューターを作業対象物として、セットアップやアプリケーションプログラムの操作を行う場合に適用できる。また、例えば、工作機械、工業機械、家庭用各種電子機器などの機械を作業対象物として、機械の操作やメンテナンスを行う場合に適用できる。すなわち、各種機械のメンテナンスを行う作業者が、ユーザーの依頼に応じて作業対象の機械の設置場所を訪問し、メンテナンスを行う場合に、習熟度の低い作業者を指令者が支援する用途で表示システム1を使用できる。
この名刺交換を、指令サイトAの指令者と作業サイトBの作業者との間で実行し、その後に、上記実施形態で説明した動作を実行してもよい。
また、コンテンツのデータとして、音声データを指示情報に含めて、HMD100AからHMD100Bに送信してもよい。コンテンツの音声データは、予め記憶部120に記憶されたデータであってもよいし、指令者の音声をマイク63で集音した音声データであってもよい。
また、HMD100Aにより2以上の表示領域に、HMD100Aの表示とHMD100Bの撮像画像、或いは、2以上のHMD100Bの撮像画像を表示すれば、指令者が多くの状況を視認できる。
ここで、図7(C)に示すように、2以上の表示領域に2以上のHMD100Bに対応する画像を表示する場合、各表示領域におけるポインター等の形状、色を変えることで、各表示領域の混同を防止する構成も考えられる。
その他、表示システム1の適用範囲は何ら制限されず、他の用途への利用も勿論可能である。
図8及び図9は、第2実施形態における表示システム1の動作を示すフローチャートである。図8(A)はHMD100Aの動作を示し、図8(B)はHMD100Bの動作を示す。また、図10は、第2実施形態におけるHMD100A、100Bの表示例を示す図である。
第2実施形態の表示システム1は、上記第1実施形態で説明した表示システム1と同様に構成されるため、表示システム1の各部の構成について図示及び説明を省略する。また、図8及び図9のフローチャートにおいて第1実施形態で説明した動作(図6)と共通する動作については、同一のステップ番号を付す。
ステップS17において、送信画像取得部185が送信画像を取得した後、操作部135の操作により、HMD100Bに対するメニュー操作を行うか否かが指定される(ステップS31)。そして、指示情報生成部186は、メニュー操作を行うか否かを指定するデータを含む指示情報を生成し、HMD100Bに送信する(ステップS32)。ステップS32で生成される指示情報は、送信画像取得部185が取得した指示体の画像の画像データと、操作位置や操作の軌跡を示すデータと、操作位置や操作の軌跡をHMD100Bの撮像画像と対応付けるデータとを含む。
HMD100Bは、HMD100Aが送信する指示情報を通信制御部311で受信し、この指示情報に基づく表示情報を生成して、画像処理部303及び表示制御部305により表示させる(ステップS27)。
続いて、制御部300は、操作検出処理を実行する(ステップS35)。
この操作検出処理において、HMD100Bの操作検出部323は、ステップS24で受信した指示情報から、メニュー操作を行うか否かを指定するデータを抽出し、このデータに基づきメニュー操作を行うか否かを判定する(ステップS41)。メニュー操作を行わないと判定した場合は(ステップS41;NO)、図8(B)のステップS28に移行する。
ここで、操作位置がメニュー画像に対応する位置でないと判定した場合(ステップS44;NO)、制御部300はステップS28に移行する。
図10(C)はHMD100Aが2つのHMD100Bから受信した作業情報に基づき撮像画像を表示する例を示す。表示領域401に配置された表示領域409、410のうち、メニュー画像による操作の対象となる側の表示領域(ここでは表示領域409)にはメニュー画像413が表示される。このメニュー画像413の位置に合わせて指示体2を用いた操作が行われると、表示領域409に対応するHMD100Bに対し、操作位置とメニュー画像413等の位置とを含む指示情報が送信される。また、表示領域409に対する操作中、表示領域401には、他のHMD100Bの作業情報に基づく表示が継続される。
図11は、第3実施形態における表示システム1の動作を示すフローチャートである。図11(A)はHMD100Aの動作を示し、図11(B)はHMD100Bの動作を示す。
第3実施形態の表示システム1は、上記第1実施形態で説明した表示システム1と同様に構成されるため、表示システム1の各部の構成について図示及び説明を省略する。また、図11のフローチャートにおいて第1実施形態で説明した動作(図6)と共通する動作については、同一のステップ番号を付す。
これにより、HMD100Bの視野にある作業対象物に対する操作を、指令者が仮想的に行った結果を、作業者に見せることができる。このため、作業対象物に対する作業に関して、作業者に、より多くの情報を提供できる。
図12は、第4実施形態における表示システム1の動作を示すフローチャートである。図12(A)はHMD100Aの動作を示し、図12(B)はHMD100Bの動作を示す。
第4実施形態の表示システム1は、上記第1実施形態で説明した表示システム1と同様に構成されるため、表示システム1の各部の構成について図示及び説明を省略する。また、図12のフローチャートにおいて第1実施形態で説明した動作(図6)と共通する動作については、同一のステップ番号を付す。
第4実施形態の表示システム1では、HMD100Aで撮像画像を表示した後、撮像方向を指示する操作が可能である(ステップS71)。HMD100Aの制御部140は、操作検出部183で検出した操作に基づき撮像方向を指示する情報を生成して、通信部117で送信する(ステップS72)。
HMD100Bは、HMD100Aが送信する指示を受信し(ステップS81)、受信した指示に従って、操作検出部183がカメラ61の撮像方向を更新する(ステップS82)。その後、操作検出部183は、スタビライズ処理を開始する(ステップS82)。このスタビライズ処理では、作業者の動きによりHMD100Bの位置や方向が変化することで、カメラ61の撮像方向を安定させることが容易でない場合に、撮像画像を安定させる処理である。具体的には、カメラ61が、撮像素子やレンズをシフトさせる光学ブレ補正機能を有する場合には、操作検出部183はカメラ61のブレ補正機能により撮像画像の揺れを補正する。また、操作検出部183は、カメラ61の撮像画像データに対し、揺れを補正する画像処理を行ってもよい。
また、ステップS72で送信される情報のように、HMD100Aが送信し、撮像条件を指定する情報は、指示情報に含めてもよい。この場合、制御部300は、指示情報を受信して解析する一連の処理において、図12(B)の動作を実行できる。
例えば、画像表示部20に代えて、例えば帽子のように装着する画像表示部等の他の方式の画像表示部を採用してもよく、使用者の左眼に対応して画像を表示する表示部と、使用者の右眼に対応して画像を表示する表示部とを備えていればよい。また、本発明の表示装置は、例えば、自動車や飛行機等の車両に搭載されるヘッドマウントディスプレイとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。この場合、使用者の身体に対する位置を位置決めする部分、及び、当該部分に対し位置決めされる部分を装着部とすることができる。
また、HMD100A、100Bは、少なくとも、表示を行う画像表示部20が、使用者(作業者、指令者)の頭部に装着される装置であればよく、制御装置10A、10Bの装着状態は限定されない。このため、制御装置10A、10Bとして、ノート型コンピューター、タブレット型コンピューター又はデスクトップ型コンピューターを用いてもよい。また、制御装置10A、10Bとして、ゲーム機や携帯型電話機やスマートフォンや携帯型メディアプレーヤーを含む携帯型電子機器、その他の専用機器等を用いてもよい。また、制御装置10A、10Bが画像表示部20と分離して構成され、制御装置10A、10Bと画像表示部20との間で無線通信により各種信号を送受信する構成としてもよい。
また、画像光を使用者の眼に導く光学系としては、外部から装置に向けて入射する外光を透過する光学部材を備え、画像光とともに使用者の眼に入射させる構成を採用できる。また、使用者の眼の前方に位置して使用者の視界の一部または全部に重なる光学部材を用いてもよい。さらに、レーザー光等を走査させて画像光とする走査方式の光学系を採用してもよい。また、光学部材の内部で画像光を導光させるものに限らず、使用者の眼に向けて画像光を屈折及び/または反射させて導く機能のみを有する構成としてもよい。
例えば、レーザー網膜投影型のヘッドマウントディスプレイに対して本発明を適用することも可能である。すなわち、光射出部が、レーザー光源と、レーザー光源を使用者の眼に導く光学系とを備え、レーザー光を使用者の眼に入射させて網膜上を走査し、網膜に結像させることにより、使用者に画像を視認させる構成を採用してもよい。
また、本発明を、MEMSミラーを用いた走査光学系を採用し、MEMSディスプレイ技術を利用した表示装置に適用することも可能である。すなわち、信号光形成部と、信号光形成部が射出する光を走査するMEMSミラーを有する走査光学系と、走査光学系により走査される光によって虚像が形成される光学部材とを光射出部として備えてもよい。この構成では、信号光形成部が射出した光がMEMSミラーにより反射され、光学部材に入射し、光学部材の中を導かれて、虚像形成面に達する。MEMSミラーが光を走査することにより、虚像形成面に虚像が形成され、この虚像を使用者が眼で捉えることで、画像が認識される。この場合の光学部品は、例えば上記実施形態の右導光板261及び左導光板262のように、複数回の反射を経て光を導く部品であってもよく、ハーフミラー面を利用してもよい。
Claims (13)
- 外景を視認可能に画像を表示する頭部装着型の第1表示部と、
外部の第2表示装置と通信する第1通信部と、
前記第1通信部で前記第2表示装置から受信した案内情報に含まれる画像データに基づき、指示体の画像を前記第1表示部に表示させる第1制御部と、
対象物までの距離を検出する距離センサーと、を備え、
前記第1制御部は、前記第1表示部において、前記第1通信部で受信した案内情報に含まれるデータのうち前記第2表示装置で検出された前記指示体の位置を示すデータで指定される位置に前記指示体の画像を前記距離センサーで検出した対象物までの距離に基づき視差を設けて表示させること、
を特徴とする表示装置。 - 前記第2表示装置から受信する前記案内情報は、前記第2表示装置で撮影された前記指示体の画像の画像データと、前記指示体の位置または動きを示すデータとを含み、
前記第1制御部は、前記第1通信部で受信した前記案内情報から、前記指示体の画像データと、前記指示体の位置または動きを示すデータを抽出する処理を実行し、抽出した画像データに基づく前記指示体の画像を、抽出したデータで指定される位置に表示させること、
を特徴とする請求項1記載の表示装置。 - 前記第2表示装置から受信する前記案内情報は、前記第2表示装置を操作する指令者の腕、手または指の前記画像データを含み、
前記第1制御部は、前記第1表示部によって、前記案内情報に含まれる画像データに基づいて前記指令者の腕、手または指の画像を表示させること、
を特徴とする請求項1または2に記載の表示装置。 - 前記第2表示装置から受信する前記案内情報は、操作用画像の表示位置を指定するデータを含み、
前記第1制御部は、前記第1表示部により、前記案内情報に含まれるデータにより指定される位置に前記操作用画像を表示させ、前記操作用画像の表示位置と前記指示体の画像の表示位置とに基づいて、操作を検出すること、
を特徴とする請求項2または3に記載の表示装置。 - 撮像部を備え、
前記第1制御部は、前記撮像部で撮像した撮像画像データに基づき案内対象情報を生成して、前記第1通信部により前記第2表示装置に送信すること、
を特徴とする請求項1から4のいずれかに記載の表示装置。 - 第1表示装置及び第2表示装置を備え、
前記第1表示装置は、
外景を視認可能に画像を表示する頭部装着型の第1表示部と、
前記第2表示装置と通信する第1通信部と、
対象物までの距離を検出する距離センサーと、を備え、
前記第2表示装置は、
第2表示部と、
前記第1表示装置と通信する第2通信部と、
第2撮像部と、
指示体による操作を検出する操作検出部と、
前記指示体の画像データと、前記操作検出部により検出した前記指示体の位置を示すデータと、を含む案内情報を生成して、前記第2通信部で送信する第2制御部と、を備え、
前記第1表示装置は、前記第1通信部で前記第2表示装置から案内情報を受信した場合に、前記案内情報に含まれる画像データに基づき、指示体の画像を、前記案内情報に含まれる前記指示体の位置を示すデータで指定される位置に、前記距離センサーで検出した対象物までの距離に基づき視差を設けて前記第1表示部により表示させる第1制御部を備えること、
を特徴とする表示システム。 - 前記第1表示装置は、第1撮像部を備え、
前記第1制御部は、前記第1撮像部で撮像した撮像画像データに基づき案内対象情報を生成して、前記第1通信部により前記第2表示装置に送信し、
前記第2表示装置が備える前記第2表示部は、外景を視認可能に画像を表示する頭部装着型の表示部であり、
前記第2制御部は、前記第2通信部により前記案内対象情報を受信した場合に、受信した前記案内対象情報に基づき前記第1撮像部の撮像画像を前記第2表示部により表示させ、前記第2表示部に前記第1撮像部の撮像画像を表示中に前記操作検出部により検出した前記指示体の位置を示すデータを含む前記案内情報を、前記第2通信部により送信すること、
を特徴とする請求項6記載の表示システム。 - 前記第2表示装置の前記第2制御部は、前記第2表示部に前記第1撮像部の撮像画像を表示中に前記操作検出部により検出した前記指示体の操作位置を、前記第1撮像部の撮像画像と対応づけるデータを含む前記案内情報を、前記第2通信部により送信すること、
を特徴とする請求項7記載の表示システム。 - 前記第2表示装置の前記第2制御部は、前記第2表示部に前記第1撮像部の撮像画像を表示中に前記操作検出部により検出した操作に基づいて前記撮像画像を編集することにより、前記指示体の仮想的な操作に関するデータを含む前記案内情報を生成して、前記第2通信部により送信すること、
を特徴とする請求項8記載の表示システム。 - 前記第2表示装置の前記第2制御部は、前記第2撮像部の撮像画像から抽出した前記指示体の画像データを含む案内情報を生成して、前記第2通信部で送信すること、
を特徴とする請求項6から9のいずれかに記載の表示システム。 - 前記第2表示装置の前記第2制御部は、記憶部に記憶した前記指示体の画像データを含む案内情報を生成して、前記第2通信部で送信すること、
を特徴とする請求項6から9のいずれかに記載の表示システム。 - 外景を視認可能に画像を表示する頭部装着型の第1表示部と、外部の第2表示装置と通信する第1通信部と、対象物までの距離を検出する距離センサーと、を備えた表示装置の制御方法であって、
前記第1通信部で前記第2表示装置から受信した案内情報に含まれる画像データに基づき、指示体の画像を前記第1表示部に表示させ、
前記第1表示部において、前記第1通信部で受信した案内情報に含まれるデータのうち前記第2表示装置で検出された前記指示体の位置を示すデータで指定される位置に前記指示体の画像を前記距離センサーで検出した対象物までの距離に基づき視差を設けて表示させること、
を特徴とする表示装置の制御方法。 - 外景を視認可能に画像を表示する頭部装着型の第1表示部と、外部の第2表示装置と通信する第1通信部と、対象物までの距離を検出する距離センサーと、を備える表示装置を制御するコンピューターが実行可能なプログラムであって、
前記コンピューターにより、
前記第1通信部で前記第2表示装置から受信した案内情報に含まれる画像データに基づき、指示体の画像を前記第1表示部により表示させ、
前記第1表示部において、前記第1通信部で受信した案内情報に含まれるデータのうち前記第2表示装置で検出された前記指示体の位置を示すデータで指定される位置に前記指示体の画像を前記距離センサーで検出した対象物までの距離に基づき視差を設けて表示させること、
を特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018153067A JP6590050B2 (ja) | 2018-08-16 | 2018-08-16 | 表示装置、表示システム、表示装置の制御方法、及び、プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018153067A JP6590050B2 (ja) | 2018-08-16 | 2018-08-16 | 表示装置、表示システム、表示装置の制御方法、及び、プログラム |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014263853A Division JP6387825B2 (ja) | 2014-12-26 | 2014-12-26 | 表示システム、及び、情報表示方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018174003A JP2018174003A (ja) | 2018-11-08 |
JP6590050B2 true JP6590050B2 (ja) | 2019-10-16 |
Family
ID=64106741
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018153067A Active JP6590050B2 (ja) | 2018-08-16 | 2018-08-16 | 表示装置、表示システム、表示装置の制御方法、及び、プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6590050B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102288431B1 (ko) * | 2020-01-31 | 2021-08-10 | 주식회사 빌리버 | 가상현실을 이용한 이미지입력시스템 및 이를 이용한 이미지데이터 생성방법 |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6943913B2 (ja) | 2019-03-18 | 2021-10-06 | Necプラットフォームズ株式会社 | 情報表示システムおよびウェアラブルデバイス |
US11972037B2 (en) * | 2019-03-18 | 2024-04-30 | Maxell, Ltd. | Head mounted information processing apparatus and head mounted display system |
JP2021068145A (ja) | 2019-10-23 | 2021-04-30 | セイコーエプソン株式会社 | 頭部装着型表示装置の動作方法および頭部装着型表示装置 |
JP7310535B2 (ja) | 2019-10-23 | 2023-07-19 | セイコーエプソン株式会社 | 表示装置の制御方法および制御装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2955451B2 (ja) * | 1993-09-21 | 1999-10-04 | 株式会社クボタ | 作業遠隔指示装置 |
JP4288843B2 (ja) * | 2000-10-25 | 2009-07-01 | 沖電気工業株式会社 | 遠隔作業支援システム |
JP2006260191A (ja) * | 2005-03-17 | 2006-09-28 | Olympus Corp | 遠隔指示システム |
JP2007065944A (ja) * | 2005-08-31 | 2007-03-15 | Hitachi Ltd | 計算機情報の表示方法およびシステム |
JP2013016020A (ja) * | 2011-07-04 | 2013-01-24 | Nec Corp | 作業支援システム、装置、方法及びプログラム |
-
2018
- 2018-08-16 JP JP2018153067A patent/JP6590050B2/ja active Active
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102288431B1 (ko) * | 2020-01-31 | 2021-08-10 | 주식회사 빌리버 | 가상현실을 이용한 이미지입력시스템 및 이를 이용한 이미지데이터 생성방법 |
Also Published As
Publication number | Publication date |
---|---|
JP2018174003A (ja) | 2018-11-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11231897B2 (en) | Display system, display device, information display method, and program | |
US10642564B2 (en) | Display system, display device, information display method, and program | |
JP6590050B2 (ja) | 表示装置、表示システム、表示装置の制御方法、及び、プログラム | |
JP6693060B2 (ja) | 表示システム、表示装置、表示装置の制御方法、及び、プログラム | |
US9898868B2 (en) | Display device, method of controlling the same, and program | |
KR101773892B1 (ko) | 표시 장치, 두부 장치형 표시 장치, 표시 시스템 및 표시 장치의 제어 방법 | |
CN105739095B (zh) | 显示装置以及显示装置的控制方法 | |
CN110060614B (zh) | 头部佩戴型显示装置及其控制方法、显示系统 | |
US9870048B2 (en) | Head-mounted display device, method of controlling the same, and computer program | |
US20170289533A1 (en) | Head mounted display, control method thereof, and computer program | |
JP2018142857A (ja) | 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法 | |
JP6554948B2 (ja) | 表示装置、表示装置の制御方法、及び、プログラム | |
JP2016224086A (ja) | 表示装置、表示装置の制御方法、及び、プログラム | |
US20160021360A1 (en) | Display device, method of controlling display device, and program | |
JP2018182570A (ja) | 視線情報共有方法および視線情報共有システム | |
JP2017134575A (ja) | 表示装置、表示装置の制御方法、及び、プログラム | |
JP2016122177A (ja) | 表示装置、及び、表示装置の制御方法 | |
JP6540426B2 (ja) | 表示システム、表示装置、情報表示方法、及び、プログラム | |
JP6252002B2 (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 | |
JP6733401B2 (ja) | 表示システム、表示装置、情報表示方法、及び、プログラム | |
JP2016090853A (ja) | 表示装置、表示装置の制御方法、及び、プログラム | |
JP2017182413A (ja) | 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム | |
JP2016116066A (ja) | 表示装置、及び、表示装置の制御方法 | |
JP6394174B2 (ja) | 頭部装着型表示装置、画像表示システム、頭部装着型表示装置を制御する方法、および、コンピュータープログラム | |
JP2016181864A (ja) | 表示装置、及び、表示装置の制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180914 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180914 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190509 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190514 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190705 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190820 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190902 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6590050 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |