JP6394108B2 - 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム - Google Patents
頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム Download PDFInfo
- Publication number
- JP6394108B2 JP6394108B2 JP2014129062A JP2014129062A JP6394108B2 JP 6394108 B2 JP6394108 B2 JP 6394108B2 JP 2014129062 A JP2014129062 A JP 2014129062A JP 2014129062 A JP2014129062 A JP 2014129062A JP 6394108 B2 JP6394108 B2 JP 6394108B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- face
- distance
- user
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Description
透過型の頭部装着型表示装置であって、
使用者に画像を視認させるとともに、外景を透過し得る画像表示部と、
前記使用者の視線の向きを検出する視線方向検出部と、
前記視線の向きに存在する物体までの距離を取得する距離取得部と、
前記使用者の作業を支援する支援画像を前記画像表示部に表示する支援画像表示制御部と、
前記外景を撮影する外景撮影部と、
前記外景撮影部によって得られた撮影画像から人物の顔を検出し、検出結果として顔の領域の位置およびサイズを得る顔検出処理部と、
を備え、
前記支援画像表示制御部は、
前記支援画像の焦点距離が、前記距離取得部によって取得された前記距離に対応した長さとなり、前記支援画像の位置が、前記外景の一部として前記使用者が視認する前記物体の像の付近となるように、前記支援画像の表示を行い、
前記距離取得部は、
前記顔検出処理部によって検出された人物の顔の中から最も大きい最大顔を選択し、前記撮影画像における前記最大顔のサイズと、前記最大顔までの距離とを取得し、
前記顔検出処理部によって検出された人物の顔の中から最も小さい最小顔を選択し、前記撮影画像における前記最小顔のサイズと、前記最小顔までの距離とを取得し、
前記選択された前記物体としての顔のサイズを取得し、
前記最大顔のサイズと、前記最大顔までの距離と、前記最小顔のサイズと、前記最小顔までの距離と、前記物体としての顔のサイズとに基づいて、前記物体としての顔までの距離を推定する、頭部装着型表示装置。
A−1.頭部装着型表示装置の構成:
図1は、本発明の第1実施形態における頭部装着型表示装置の概略構成を示す説明図である。頭部装着型表示装置100は、頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。本実施形態のヘッドマウントディスプレイ100は、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置であって、使用者が視認する虚像における画像の焦点距離を変更可能な頭部装着型表示装置である。なお、本実施形態において「使用者が視認する虚像における画像の焦点距離」とは、ヘッドマウントディスプレイ100の使用者の両眼と、ヘッドマウントディスプレイ100の使用に伴い使用者が視認する虚像に含まれる画像が結像する位置と、の間の距離を意味する。
図4および図5は、台本表示処理の詳細を示すフローチャートである。台本表示処理は、前述したようにプレゼンテーションにおいて台本を表示する処理であり、制御部10のCPU140によって実行される。本実施形態によれば、図3に示した虚像VIとしてのメニュー画面に含まれる台本表示処理用の起動アイコンICを選択する操作が制御部10においてなされたときに、台本表示処理は実行開始される。なお、実行開始後においては、所定の終了指示を受けるまで、台本表示処理は所定時間毎に繰り返し実行される。
図9は、焦点距離調整処理の手順を示すフローチャートである。焦点距離調整処理は、ヘッドマウントディスプレイ100の使用者が視認する虚像における画像を変更する処理であり、台本表示処理のステップS210におけるサブルーチンとして実行される。すなわち、焦点距離調整処理は、画像処理部160(図2)の一部として機能するものであり、台本表示処理部164から読み出されて実行される。処理が開始されると、CPU140は、まず、目標焦点距離を取得する(ステップS212)。「目標焦点距離」とは、画像の焦点距離を調整する際における、焦点距離の目標値である。ここでは、目標焦点距離は、ステップS200によって求められた特定顔までの距離Dtと定める。
図9の焦点距離調整処理を終了し、図5のステップS210の処理を抜けると、次いで、CPU140は、画像表示部20に対して、ステップS180によって特定された特定顔の左隣りに台本画像を表示させる処理を行う(ステップS220)。
以上のように構成された第1実施形態の頭部装着型表示装置100によれば、図14に示すように、使用者は、視線の向きに存在して外景の一部として視認する特定顔SCtの左隣りに台本画像SNを見つけることができ、さらに、特定顔SCtまでの距離D1に調整された焦点距離Ftでもって、台本画像SNを見ることができる。このために、使用者は、外景の一部として視認する特定顔SCtから、焦点距離を切り替えることなく台本画像SNを見ることができる。したがって、頭部装着型表示装置100は、使用者の目の負担を軽減するとともに、使用者による台本画像SNの文章の違和感のないスムーズな読み込みを可能としている。また、この頭部装着型表示装置100によれば、特定顔までの距離を測距センサー等の新たなセンサーを設けることなく、撮影画像から求めることができることから、装置構成を簡略化することができる。
図15は、本発明の第2実施形態における台本表示処理の詳細を示すフローチャートである。第2実施形態の頭部装着型表示装置は、第1実施形態の頭部装着型表示装置100と比べて、台本表示処理の内容と、台本表示処理にて用いられるマップデータが記憶部120のROMに格納されていることとが相違する。第2実施形態の頭部装着型表示装置のその他の構成は、第1実施形態の頭部装着型表示装置100と同一である。なお、同一の構成要素については、以下の説明において同一の符合を付し、その説明を省略する。
図16は、本発明の第3実施形態における台本表示処理の詳細を示すフローチャートである。第3実施形態の頭部装着型表示装置は、第1実施形態の頭部装着型表示装置100と比べて、台本表示処理の内容と、測距センサーを備えることとが相違する。第3実施形態の頭部装着型表示装置のその他の構成は、第1実施形態の頭部装着型表示装置100と同一である。なお、同一の構成要素については、以下の説明において同一の符合を付し、その説明を省略する。
図17は、本発明の第4実施形態における台本画像の表示態様を示す説明図である。本発明の第4実施形態の頭部装着型表示装置は、第1実施形態の頭部装着型表示装置100と比べて、台本画像の表示の態様が相違する。第4実施形態の頭部装着型表示装置のその他の構成は、第1実施形態の頭部装着型表示装置100と同一である。
なお、この発明は上記第1ないし第4実施形態およびそれらの変形例に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能であり、例えば、次のような変形も可能である。
上記実施形態や変形例では、使用者の視認先として判定する物体を人物(人)の顔としていたが、これに換えて、人物の他の部位、例えば、目、首、肩幅等としてもよい。また、人の部位である必要もなく、人物が装着しているネクタイや帽子等の物であってもよい。さらに、必ずしも人物が装着している物である必要もなく、机や椅子等であってもよい。要は、比較的大きさが一定であり、使用者から見た大きさが装着者からの距離に比例もしくはほぼ比例するものであれば、いずれの物体としてもよい。
上記第1ないし第3実施形態では、台本画像を特定顔の左隣りに表示していたが、これに換えて、右隣り、上隣り、あるいは下隣りに表示する構成としてもよい。要は、視線方向にある特定顔の付近(あるいは「周辺」、「周囲」)、すなわち、特定顔に対応づけされていると視認しうる程度の近さの場所であれば、台本画像はいずれの位置に表示する構成としてもよい。また、第4実施形態の変形例としては、第1台本画像と第2台本画像とを縦、横に並べる構成としてもよい。
上記実施形態や変形例において、台本画像に対して、使用者の読み取っている位置を示すマーカーを付加する構成としてもよい。この読み取り位置は、視線方向検出部62により検出される視線の方向から判定することができる。また、9軸センサー66によって使用者の頭部の動きから判定してもよい。また、台本表示に際して、音声処理部170によって、台本画像に含まれる文章を音声によって発する構成としてもよい。
上記実施形態や変形例において、台本画像の表示の明るさや色あいを、背景の明るさや色あいに応じて変化させる構成としてもよい。例えば、台本画像の色あいを背景の色あいに対して目立つ色とすることで、台本画像を背景から目立たせることができる。ここで言う台本画像の色あいとは、文章(文字)の周囲の色あいであるが、これに換えて、台本画像に含まれる文字の明るさや色あいを、背景の明るさや色あいに応じて変化させる構成とすることもできる。さらに、台本画像の大きさや、台本画像に含まれる文字を大きさを、台本画像の焦点距離に応じて変化させる構成としてもよい。
上記実施形態や変形例では、特定顔の像の付近に表示する支援画像を、テキストデータである文章を含む台本画像としていたが、これに換えて、文章を含む他の種類の画像としてもよい。さらに、テキストデータである必要もなく、写真画像や、表計算ソフトのデータ、イラスト動画等の他の形式のデータに換えることもできる。要は、使用者の作業を支援するための画像であれば、どのような画像に換えることもできる。
上記実施形態では、焦点距離調整処理の一例を示した。しかし、焦点距離調整処理の手順はあくまで一例であり、種々の変形が可能である。例えば、一部のステップを省略してもよいし、更なる他のステップを追加してもよい。また、実行されるステップの順序を変更してもよい。
上記実施形態では、焦点距離テーブルの一例を示した。しかし、焦点距離テーブルの詳細はあくまで一例であり、種々の変更が可能である。例えば、フィールドの追加、削除、変更を行うことができる。また、焦点距離テーブルは、複数のテーブルに分割して正規化してもよい。例えば、移動量は、ピクセル以外の単位で表現されていてもよい。また、焦点距離は、メートル以外の単位で表現されていてもよい。焦点距離テーブルは省略可能である。焦点距離テーブルを省略する場合、画像処理部は、演算により移動量を求めることができる。
上記各実施形態や変形例に換えて、視線の向きに存在する物体側に測距センサーを設け、物体側で測定した物体から画像表示部20までの距離を、無線LANやBluetooth(登録商標)等の無線通信によって頭部装着型表示装置で受信する構成としてもよい。
上記各実施形態や変形例では、プレゼンテーションや朗読の場において本発明の頭部装着型表示装置を使用する構成としたが、これに換えて、映画や、芝居、オペラ等を観る際に使用する構成とすることもできる。使用者は、発話者に視線を向けることが常であるが、本発明の頭部装着型表示装置によれば、その視線先の発話者の像の付近に使用者が取得している言語で字幕を表示することができる。この構成によっても、使用者が焦点距離を変更する作業の頻度を抑えることができることから、使用者の目の負担を軽減することができる。なお、本発明の頭部装着型表示装置は、上述した使用用途に限る必要はなく、様々な場において使用することができる。
上記実施形態では、ヘッドマウントディスプレイの構成について例示した。しかし、ヘッドマウントディスプレイの構成は、本発明の要旨を逸脱しない範囲において任意に定めることが可能であり、例えば、各構成部の追加・削除・変換等を行うことができる。
12…点灯部
14…タッチパッド
16…十字キー
18…電源スイッチ
20…画像表示部
21…右保持部
22…右表示駆動部
23…左保持部
24…左表示駆動部
26…右光学像表示部
28…左光学像表示部
30…イヤホンプラグ
32…右イヤホン
34…左イヤホン
40…接続部
42…右コード
44…左コード
46…連結部材
48…本体コード
51…送信部
52…送信部
53…受信部
54…受信部
61…外景撮影用カメラ
62…視線方向検出部
110…入力情報取得部
100…ヘッドマウントディスプレイ(頭部装着型表示装置)
120…記憶部
122…焦点距離テーブル
130…電源
132…無線通信部
140…CPU
160…画像処理部
162…表示制御部
164…台本表示処理部
170…音声処理部
180…インターフェイス
190…表示制御部
201…右バックライト制御部
202…左バックライト制御部
211…右LCD制御部
212…左LCD制御部
221…右バックライト
222…左バックライト
241…右LCD
242…左LCD
251…右投写光学系
252…左投写光学系
261…右導光板
262…左導光板
PCLK…クロック信号
VSync…垂直同期信号
HSync…水平同期信号
OA…外部機器
PC…パーソナルコンピューター
SC…外景
SN…台本画像
Claims (7)
- 透過型の頭部装着型表示装置であって、
使用者に画像を視認させるとともに、外景を透過し得る画像表示部と、
前記使用者の視線の向きを検出する視線方向検出部と、
前記視線の向きに存在する物体までの距離を取得する距離取得部と、
前記使用者の作業を支援する支援画像を前記画像表示部に表示する支援画像表示制御部と、
前記外景を撮影する外景撮影部と、
前記外景撮影部によって得られた撮影画像から人物の顔を検出し、検出結果として顔の領域の位置およびサイズを得る顔検出処理部と、
を備え、
前記支援画像表示制御部は、
前記支援画像の焦点距離が、前記距離取得部によって取得された前記距離に対応した長さとなり、前記支援画像の位置が、前記外景の一部として前記使用者が視認する前記物体の像の付近となるように、前記支援画像の表示を行い、
前記距離取得部は、
前記顔検出処理部によって検出された人物の顔の中から最も大きい最大顔を選択し、前記撮影画像における前記最大顔のサイズと、前記最大顔までの距離とを取得し、
前記顔検出処理部によって検出された人物の顔の中から最も小さい最小顔を選択し、前記撮影画像における前記最小顔のサイズと、前記最小顔までの距離とを取得し、
前記選択された前記物体としての顔のサイズを取得し、
前記最大顔のサイズと、前記最大顔までの距離と、前記最小顔のサイズと、前記最小顔までの距離と、前記物体としての顔のサイズとに基づいて、前記物体としての顔までの距離を推定する、頭部装着型表示装置。 - 請求項1に記載された頭部装着型表示装置であって、
前記距離取得部は、
前記画像表示部に設けられ、前記視線の向きに存在する物体までの距離を計測する測距部を含む、頭部装着型表示装置。 - 請求項1または2に記載の頭部装着型表示装置であって、
前記支援画像は、文章を含む画像である、頭部装着型表示装置。 - 請求項3に記載の頭部装着型表示装置であって、
前記支援画像は、前記物体の前記使用者から見て左側に位置する第1支援画像と、前記物体の前記使用者から見て右側に位置する第2支援画像とを含み、
前記支援画像表示制御部は、
前記文章が横書きの場合に、前記第1支援画像に使用者がこれから読む文章を含み、前記第2支援画像に使用者が読み終えた文章を含むように、
前記文章が縦書きの場合に、前記第1支援画像に使用者が読み終えた文章を含み、前記第2支援画像に使用者がこれから読む文章を含むように、
前記支援画像の表示を行う、頭部装着型表示装置。 - 請求項1から請求項4までのいずれか一項に記載の頭部装着型表示装置であって、
前記支援画像表示制御部は、
画像を表す画像光を生成し射出する一対の表示駆動部を制御して、前記使用者の右目と左目との輻輳角を変化させることによって、前記支援画像の焦点距離を調整する、頭部装着型表示装置。 - 使用者に画像を視認させるとともに外景を透過し得る画像表示部を有する頭部装着型表示装置の制御方法であって、
前記使用者の視線の向きを検出する工程と、
前記視線の向きに存在する物体までの距離を取得する工程と、
前記使用者の作業を支援する支援画像を前記画像表示部に表示する工程と、
前記外景を撮影する工程と、
撮影によって得られた撮影画像から人物の顔を検出し、検出結果として顔の領域の位置およびサイズを得る工程と、
を備え、
前記支援画像を表示する工程は、
前記支援画像の焦点距離が、前記取得された前記距離に対応した長さとなり、前記支援画像の位置が、前記外景の一部として前記使用者が視認する前記物体の像の付近となるように、前記支援画像の表示を行い、
前記距離を取得する工程は、
検出された人物の顔の中から最も大きい最大顔を選択し、前記撮影画像における前記最大顔のサイズと、前記最大顔までの距離とを取得し、
前記検出された人物の顔の中から最も小さい最小顔を選択し、前記撮影画像における前記最小顔のサイズと、前記最小顔までの距離とを取得し、
前記選択された前記物体としての顔のサイズを取得し、
前記最大顔のサイズと、前記最大顔までの距離と、前記最小顔のサイズと、前記最小顔までの距離と、前記物体としての顔のサイズとに基づいて、前記物体としての顔までの距離を推定する、頭部装着型表示装置の制御方法。 - 使用者に画像を視認させるとともに外景を透過し得る画像表示部と、前記使用者の視線の向きを検出する視線方向検出部とを有する頭部装着型表示装置を制御するためのコンピュータープログラムであって、
コンピューターに、
前記使用者の視線の向きに存在する物体までの距離を取得する機能と、
前記使用者の作業を支援する支援画像を前記画像表示部に表示する機能と、
前記外景を撮影する機能と、
撮影によって得られた撮影画像から人物の顔を検出し、検出結果として顔の領域の位置およびサイズを得る機能と、
を実現させ、
前記支援画像を表示する機能は、
前記支援画像の焦点距離が、前記取得された前記距離に対応した長さとなり、前記支援画像の位置が、前記外景の一部として前記使用者が視認する前記物体の像の付近となるように、前記支援画像の表示を行い、
前記距離を取得する機能は、
検出された人物の顔の中から最も大きい最大顔を選択し、前記撮影画像における前記最大顔のサイズと、前記最大顔までの距離とを取得し、
前記検出された人物の顔の中から最も小さい最小顔を選択し、前記撮影画像における前記最小顔のサイズと、前記最小顔までの距離とを取得し、
前記選択された前記物体としての顔のサイズを取得し、
前記最大顔のサイズと、前記最大顔までの距離と、前記最小顔のサイズと、前記最小顔までの距離と、前記物体としての顔のサイズとに基づいて、前記物体としての顔までの距離を推定する、コンピュータープログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014129062A JP6394108B2 (ja) | 2014-06-24 | 2014-06-24 | 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014129062A JP6394108B2 (ja) | 2014-06-24 | 2014-06-24 | 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2016009056A JP2016009056A (ja) | 2016-01-18 |
JP2016009056A5 JP2016009056A5 (ja) | 2017-06-15 |
JP6394108B2 true JP6394108B2 (ja) | 2018-09-26 |
Family
ID=55226649
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014129062A Active JP6394108B2 (ja) | 2014-06-24 | 2014-06-24 | 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6394108B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101817952B1 (ko) * | 2016-06-23 | 2018-01-12 | 주식회사 맥스트 | 투과형 헤드 마운티드 디스플레이 장치 및 상기 장치에서의 화면 심도 제어 방법 |
CN112419399A (zh) * | 2019-08-23 | 2021-02-26 | 北京七鑫易维信息技术有限公司 | 一种图像测距方法、装置、设备和存储介质 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3717653B2 (ja) * | 1998-01-20 | 2005-11-16 | 株式会社リコー | 頭部搭載型画像表示装置 |
JP4544282B2 (ja) * | 2007-09-14 | 2010-09-15 | ソニー株式会社 | データ処理装置、およびデータ処理方法、並びにプログラム |
JP2009271814A (ja) * | 2008-05-09 | 2009-11-19 | Seiko Epson Corp | 表示装置、および、表示装置における表示方法 |
JP2010061265A (ja) * | 2008-09-02 | 2010-03-18 | Fujifilm Corp | 人物検索登録システム |
JP5651386B2 (ja) * | 2010-06-23 | 2015-01-14 | ソフトバンクモバイル株式会社 | 眼鏡型表示装置 |
-
2014
- 2014-06-24 JP JP2014129062A patent/JP6394108B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2016009056A (ja) | 2016-01-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6232763B2 (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 | |
US10162412B2 (en) | Display, control method of display, and program | |
US9959591B2 (en) | Display apparatus, method for controlling display apparatus, and program | |
US10627620B2 (en) | Head-mounted display device, method of controlling head-mounted display device, and computer program | |
CN112130329B (zh) | 头部佩戴型显示装置以及头部佩戴型显示装置的控制方法 | |
US9898868B2 (en) | Display device, method of controlling the same, and program | |
JP6089705B2 (ja) | 表示装置、および、表示装置の制御方法 | |
JP6337418B2 (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 | |
JP5970872B2 (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 | |
JP6217244B2 (ja) | 画像処理装置、これを有する頭部装着型表示装置、画像処理方法およびコンピュータープログラム | |
WO2016063504A1 (ja) | 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム | |
JP6369005B2 (ja) | 頭部装着型表示装置および頭部装着型表示装置の制御方法 | |
JP6459380B2 (ja) | 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム | |
JP6492673B2 (ja) | 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム | |
JP2016142887A (ja) | 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム | |
JP2017067876A (ja) | 頭部装着型表示装置、頭部装着型表示装置の制御方法、およびコンピュータープログラム | |
JP2016024208A (ja) | 表示装置、表示装置の制御方法、および、プログラム | |
JP2016186561A (ja) | 表示装置、表示装置の制御方法、及び、プログラム | |
JP2016033758A (ja) | 表示装置、表示装置の制御方法、および、プログラム | |
JP2016091348A (ja) | 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム | |
JP6394108B2 (ja) | 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム | |
JP6620417B2 (ja) | 表示装置およびその制御方法、並びにコンピュータープログラム | |
JP2016033763A (ja) | 表示装置、表示装置の制御方法、および、プログラム | |
JP2016109710A (ja) | 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム | |
JP6582374B2 (ja) | 表示装置およびその制御方法、並びにコンピュータープログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170427 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170427 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180219 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180227 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180419 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180731 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180813 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6394108 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |