JP2014155083A - 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム - Google Patents

頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム Download PDF

Info

Publication number
JP2014155083A
JP2014155083A JP2013024089A JP2013024089A JP2014155083A JP 2014155083 A JP2014155083 A JP 2014155083A JP 2013024089 A JP2013024089 A JP 2013024089A JP 2013024089 A JP2013024089 A JP 2013024089A JP 2014155083 A JP2014155083 A JP 2014155083A
Authority
JP
Japan
Prior art keywords
image
unit
head
user
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013024089A
Other languages
English (en)
Other versions
JP6135162B2 (ja
JP2014155083A5 (ja
Inventor
Yoshinori Hosoya
佳教 細谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2013024089A priority Critical patent/JP6135162B2/ja
Priority to US14/162,043 priority patent/US9411160B2/en
Priority to CN201410047859.8A priority patent/CN103984097B/zh
Publication of JP2014155083A publication Critical patent/JP2014155083A/ja
Publication of JP2014155083A5 publication Critical patent/JP2014155083A5/ja
Application granted granted Critical
Publication of JP6135162B2 publication Critical patent/JP6135162B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】使用者に特定の対象物の位置を示す画像を視認させる頭部装着型表示装置を提供する。
【解決手段】透過型の頭部装着型表示装置は、使用者の頭部に装着された状態において、画像を生成して、生成した画像を使用者に視認させる画像表示部と;画像表示部に対する特定の対象物の位置である対象位置を特定する位置特定部と;位置特定部が特定した対象位置に基づいて、画像表示部に対して、対象位置を示す対象位置表示画像を生成させると共に、画像表示部が画像を生成する領域である画像生成領域における対象位置表示画像の位置を設定する制御部と、を備える。
【選択図】図12

Description

本発明は、頭部装着型表示装置に関する。
頭部に装着する表示装置である頭部装着型表示装置(ヘッドマウントディスプレイ(Head Mounted Display)、HMD)が知られている。頭部装着型表示装置は、例えば、液晶ディスプレイおよび光源を利用して画像を表わす画像光を生成し、生成された画像光を投写光学系や導光板を利用して使用者の眼に導くことにより、使用者に虚像を視認させる。頭部装着型表示装置には、使用者が虚像に加えて外景も視認可能な透過型と、使用者が外景を視認できない非透過型と、の2つのタイプがある。透過型の頭部装着型表示装置には、光学透過型とビデオ透過型とがある。
他方、被写体に装着された発信機から発信される信号を受信して、受信した信号に基づいて被写体の位置を特定し、被写体の位置の変化に追尾して被写体を撮像できる自動追尾型の撮像装置であるビデオカメラが知られている。
特許文献1には、被写体に装着された赤外線発信機からの赤外光を受光することで被写体の位置を特定し、ビデオカメラを固定している三脚を可動させることで、被写体を自動追尾で撮像できる技術について開示されている。また、特許文献2には、被写体に装着された赤外線発信機からの赤外光を受光して特定した被写体の位置を画像信号へと変換して、ビデオカメラのファインダーに画像信号に基づいて生成される画像を被写体の位置と関連付けて表示する技術について開示されている。また、特許文献3には、被写体に装着された赤外線発信機を増やすことで、被写体の位置を特定しやすい自動追尾型のビデオカメラについて開示されている。また、特許文献4には、被写体に装着された発信機が発信する信号を受信して、被写体の位置および被写体の加速度を特定し、被写体の加速度に応じてズーム制御を行なう自動追尾型の撮像システムについて開示されている。
特開平9−74512号公報 特開平9−74504号公報 特開平9−74505号公報 特開2003−274252号公報
しかし、特許文献1から特許文献4までの特許文献に記載された技術では、被写体の速度や加速度といった移動量が大きい場合には、被写体を自動追尾できずに撮像できないおそれがある。また、被写体を撮像しているビデオカメラの使用者は、正常に撮像が行なわれているかの確認をファインダーやモニターを見て確認する必要があり、被写体を視認すると共に正常に被写体を撮像するための撮像方法について改善の余地があった。また、ビデオカメラにおいて、ビデオカメラの使用者が視認する外景と撮像される外景とが異なる場合があった。この他にも、被写体を撮像せずに、被写体の位置を特定したいという課題があった。そのほか、撮像機能を有し、さらに使い勝手の良い装置が望まれていた。
本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態として実現することが可能である。
(1)本発明の一形態によれば、透過型の頭部装着型表示装置が提供される。この頭部装着型表示装置は、使用者の頭部に装着された状態において、画像を生成して、生成した画像を使用者に視認させる画像表示部と;前記画像表示部に対する特定の対象物の位置である対象位置を特定する位置特定部と;前記位置特定部が特定した前記対象位置に基づいて、前記画像表示部に対して、前記特定の対象位置を示す対象位置表示画像を生成させると共に、前記画像表示部が画像を生成する領域である画像生成領域における前記対象位置表示画像の位置を設定する制御部と、を備える。この形態の頭部装着型表示装置によれば、使用者の頭部に装着された画像表示部における画像生成領域に、特定の対象物の位置を示す画像が使用者に視認される。そのため、使用者は、頭部を動かしたりしなくても、特定の対象物の位置を認識でき、使用者の利便性が向上する。また、使用者は、何らかの遮蔽物等によって特定の対象物を直接視認できなくても、特定の対象物がいる方向を知ることができる。
(2)上記形態の頭部装着型表示装置において、さらに;使用者の視線方向を含む所定の範囲の外景を撮像する撮像部を備えてもよい。この頭部装着型表示装置によれば、使用者が視認する外景とほぼ同じ外景を撮像することができ、使用者は、わざわざ撮像している画像を確認しなくても済むため、外景を撮像しやすく、使用者の利便性が向上する。
(3)上記形態の頭部装着型表示装置において、さらに;前記撮像部が撮像する前記所定の範囲である撮像方向範囲に前記特定の対象物が含まれているかを判定する判定部を備え;前記制御部は、前記判定部が前記撮像方向範囲に前記特定の対象物が含まれていると判定した場合には、前記対象位置に基づいて、前記画像表示部に対して、前記対象位置表示画像を生成させると共に、前記画像生成領域における前記対象位置表示画像の位置を設定し、前記判定部が前記撮像方向範囲に前記特定の対象物が含まれていないと判定した場合には、前記対象位置に基づいて、前記画像表示部に対して、前記対象表示特定画像を前記画像表示部から前記特定の対象物への方向を示す画像である対象方向推定画像として生成させると共に、前記画像生成領域における前記対象方向推定画像の位置を設定してもよい。この頭部装着型表示装置によれば、使用者に特定の対象物が視認されている状態および視認されていない状態のそれぞれにおいて、特定の対象物を示す画像の位置が異なるため、使用者は、特定の対象物が撮像部の画角の範囲に含まれているか否かを判断しやすく、使用者の利便性が向上する。
(4)上記形態の頭部装着型表示装置において、前記対象方向推定画像は、前記対象位置を示す画像を含んでもよい。この頭部装着型表示装置によれば、使用者は、特定の対象物を視認できない場合に、使用者に対する特定の対象物の位置を視認できるため、特定の対象物を見つけやすく、使用者の利便性が向上する。
(5)上記形態の頭部装着型表示装置において、前記制御部は、前記画像表示部に対して、前記撮像部が撮像した撮像画像を前記画像生成領域よりも小さい領域の画像となるように生成してもよい。この頭部装着型表示装置によれば、使用者は、画像表示部を透過して視認できる外景を妨げられることなく、撮像部の撮像画像を外景と同時に視認できるため、使用者の利便性が向上する。
(6)上記形態の頭部装着型表示装置において、前記制御部は、前記視線方向と、前記画像表示部から前記特定の対象物への方向とがなす角度に基づいて、前記画像生成領域における前記撮像画像の位置を設定してもよい。この頭部装着型表示装置によれば、使用者に特定の対象物が視認されている状態および視認されていない状態のそれぞれにおいて、特定の対象物を示す画像の位置が異なるため、使用者は、特定の対象物が撮像部の画角の範囲に含まれているか否かを判断しやすく、使用者の利便性が向上する。
(7)上記形態の頭部装着型表示装置において、前記制御部は、前記画像生成領域における前記撮像画像の位置を、前記画像生成領域における中心を除く周辺部分に設定してもよい。この頭部装着型表示装置によれば、使用者が外景をより視認しやすく、使用者の利便性がさらに向上する。
(8)上記形態の頭部装着型表示装置において、前記制御部は、前記対象位置に基づいて前記画像表示部と前記特定の対象物との距離を特定し、前記画像表示部に対して、特定した前記距離を示す画像を生成させてもよい。この頭部装着型表示装置によれば、使用者と特定の対象物との位置関係が特定されるだけでなく、使用者と特定の対象物との距離も特定される。そのため、使用者は、距離に応じて移動、または、視線方向のみ変更といった行動が選択できるので、使用者の利便性が向上する。
(9)上記形態の頭部装着型表示装置において、さらに;前記特定の対象物を示す画像である対象画像を記憶すると共に、前記撮像部が撮像した撮像画像に前記対象画像が含まれているかを判定する画像判定部を備え;前記位置特定部は、前記撮像画像に前記対象画像が含まれていると判定された場合には前記対象位置を特定し、前記撮像画像に前記対象画像が含まれていないと判定された場合には前記対象位置を特定しなくてもよい。この頭部装着型表示装置によれば、特定の対象物に予め発信機等の装置を携帯や装着させなくても、特定の対象物の位置を特定できるので、使用者の利便性が向上する。また、特定の対象物が撮像部の画角の範囲に含まれていても、特定の対象物が遮蔽物等によって撮像部の撮影画像に写らない場合には、特定の対象物の位置が特定されず、使用者は、特定の対象物をより効率的に撮像できる。
上述した本発明の各形態の有する複数の構成要素はすべてが必須のものではなく、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、適宜、前記複数の構成要素の一部の構成要素について、その変更、削除、新たな他の構成要素との差し替え、限定内容の一部削除を行なうことが可能である。また、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、上述した本発明の一形態に含まれる技術的特徴の一部または全部を上述した本発明の他の形態に含まれる技術的特徴の一部または全部と組み合わせて、本発明の独立した一形態とすることも可能である。
例えば、本発明の一形態は、画像表示部と、位置特定部と、制御部と、の3つ要素の内の一つ以上または全部の要素を備えた装置として実現可能である。すなわち、この装置は、画像表示部を有していてもよく、有していなくてもよい。また、装置は、位置特定部を有していてもよく、有していなくてもよい。また、装置は、制御部を有していてもよく、有していなくてもよい。画像表示部は、例えば、使用者の頭部に装着された状態において、画像を生成して、生成した画像を使用者に視認させてもよい。位置特定部は、例えば、画像表示部に対する特定の対象物の位置である対象位置を特定してもよい。また、制御部は、位置特定部が特定した対象位置に基づいて、画像表示部に対象位置を示す対象位置表示画像を生成させると共に、画像表示部が画像を生成する領域である画像生成領域における対象位置表示画像の位置を設定してもよい。こうした装置は、例えば、頭部装着型表示装置として実現できるが、頭部装着型表示装置以外の他の装置としても実現可能である。このような形態によれば、装置の操作性の向上および簡易化、装置の一体化や、装置を使用する使用者の利便性の向上、等の種々の課題の少なくとも1つを解決することができる。前述した頭部装着型表示装置の各形態の技術的特徴の一部または全部は、いずれもこの装置に適用することが可能である。
本発明は、頭部装着型表示装置以外の種々の形態で実現することも可能である。例えば、頭部装着型表示装置の制御方法、頭部装着型表示システム、頭部装着型表示システムの機能を実現するためのコンピュータープログラム、そのコンピュータープログラムを記録した記録媒体、そのコンピュータープログラムを含み搬送波内に具現化されたデータ信号等の形態で実現できる。
本発明の実施形態における撮像システム1000の概略構成を示す説明図である。 頭部装着型表示装置100の外観構成を示す説明図である。 頭部装着型表示装置100の構成を機能的に示すブロック図である。 画像光生成部によって画像光が射出される様子を示す説明図である。 被写体OBの位置画像表示処理の流れを示す説明図である。 使用者USが視認する視野VRの一例を示す説明図である。 被写体方向表示処理の流れについて示す説明図である。 使用者USが視認する視野VRの一例を示す説明図である。 使用者USが視認する視野VRの一例を示す説明図である。 使用者USが視認する視野VRの一例を示す説明図である。 使用者USが視認する視野VRの一例を示す説明図である。 使用者USが視認する視野VRの一例を示す説明図である。 使用者USが視認する視野VRの一例を示す説明図である。 使用者USが視認する視野VRの一例を示す説明図である。
次に、本発明の実施の形態を実施形態に基づいて以下の順序で説明する。
A.実施形態:
A−1.撮像システムの構成:
A−2.頭部装着型表示装置の構成:
A−3.被写体の位置画像表示処理:
B.変形例:
A.実施形態:
A−1.撮像システムの構成
図1は、本発明の実施形態における撮像システム1000の概略構成を示す説明図である。図1に示す撮像システムでは、運動会において、頭部装着型表示装置100(詳細は後述する)の使用者USが被写体OBの位置を特定する被写体位置特定装置500を装着した被写体OBを撮像している。撮像システム1000は、被写体位置特定装置500と、頭部装着型表示装置100と、を備えている。被写体位置特定装置500は、被写体OBが頭部に装着している帽子の中に形成されており、GPSモジュールを内蔵しており、GPS衛星からの信号を受信することにより、被写体OBの現在位置を検出する。被写体OBの現在位置が検出されることで、無線通信を介して、頭部装着型表示装置100の使用者USは、被写体OBの現在位置を特定できる。なお、撮像システム1000は、請求項における画像表示システムに相当し、被写体位置特定装置500は、対象位置情報送信装置に相当する。また、被写体OBは、請求項における特定の対象物に相当する。
A−2.頭部装着型表示装置の構成:
図2は、頭部装着型表示装置100の外観構成を示す説明図である。頭部装着型表示装置100は、頭部に装着する表示装置であり、ヘッドマウントディスプレイ(Head Mounted Display、HMD)とも呼ばれる。本実施形態の頭部装着型表示装置100は、使用者USが、虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置である。なお、本明細書では、頭部装着型表示装置100によって使用者USが視認する虚像を便宜的に「表示画像」とも呼ぶ。また、画像データに基づいて生成された画像光を射出することを「画像を表示する」ともいう。
頭部装着型表示装置100は、使用者USの頭部に装着された状態において使用者USに虚像を視認させる画像表示部20と、画像表示部20を制御する制御部10(コントローラー10)と、を備えている。
画像表示部20は、使用者USの頭部に装着される装着体であり、本実施形態では眼鏡形状を有している。画像表示部20は、右保持部21と、右表示駆動部22と、左保持部23と、左表示駆動部24と、右光学像表示部26と、左光学像表示部28と、カメラ61と、マイク63と、を含んでいる。右光学像表示部26および左光学像表示部28は、それぞれ、使用者USが画像表示部20を装着した際に使用者USの右および左の眼前に位置するように配置されている。右光学像表示部26の一端と左光学像表示部28の一端とは、使用者USが画像表示部20を装着した際の使用者USの眉間に対応する位置で、互いに接続されている。
右保持部21は、右光学像表示部26の他端である端部ERから、使用者USが画像表示部20を装着した際の使用者USの側頭部に対応する位置にかけて、延伸して設けられた部材である。同様に、左保持部23は、左光学像表示部28の他端である端部ELから、使用者USが画像表示部20を装着した際の使用者USの側頭部に対応する位置にかけて、延伸して設けられた部材である。右保持部21および左保持部23は、眼鏡のテンプル(つる)のようにして、使用者USの頭部に画像表示部20を保持する。
右表示駆動部22と左表示駆動部24とは、使用者USが画像表示部20を装着した際の使用者USの頭部に対向する側に配置されている。なお、以降では、右保持部21および左保持部23を総称して単に「保持部」とも呼び、右表示駆動部22および左表示駆動部24を総称して単に「表示駆動部」とも呼び、右光学像表示部26および左光学像表示部28を総称して単に「光学像表示部」とも呼ぶ。
表示駆動部22,24は、液晶ディスプレイ241,242(Liquid Crystal Display、以下「LCD241,242」とも呼ぶ)や投写光学系251,252等を含む(図3参照)。表示駆動部22,24の構成の詳細は後述する。光学部材としての光学像表示部26,28は、導光板261,262(図3参照)と調光板とを含んでいる。導光板261,262は、光透過性の樹脂材料等によって形成され、表示駆動部22,24から出力された画像光を使用者USの眼に導く。調光板は、薄板状の光学素子であり、使用者USの眼の側とは反対の側である画像表示部20の表側を覆うように配置されている。調光板は、導光板261,262を保護し、導光板261,262の損傷や汚れの付着等を抑制する。また、調光板の光透過率を調整することによって、使用者USの眼に入る外光量を調整して虚像の視認のしやすさを調整できる。なお、調光板は省略可能である。
カメラ61は、使用者USが画像表示部20を装着した際の使用者USの眉間に対応する位置に配置されている。カメラ61は、使用者USの眼の側とは反対側方向の外部の景色である外景を撮像し、外景画像を取得する。本実施形態におけるカメラ61は、単眼カメラであるが、ステレオカメラであってもよい。本実施形態で用いられるカメラ61の画角は、後述する頭部装着型表示装置100の使用者USの視線方向と同じ方向を中心として、上下においてはそれぞれ40度であり、左右においてはそれぞれ60度である。カメラ61は、請求項における撮像部に相当する。マイク63は、音声を取得する装置であり、使用者USが画像表示部20を装着した際の使用者USの眉間に対応する位置であると共にカメラ61の下の位置に配置されている。
画像表示部20は、さらに、画像表示部20を制御部10に接続するための接続部40を有している。接続部40は、制御部10に接続される本体コード48と、右コード42と、左コード44と、連結部材46と、を含んでいる。右コード42と左コード44とは、本体コード48が2本に分岐したコードである。右コード42は、右保持部21の延伸方向の先端部APから右保持部21の筐体内に挿入され、右表示駆動部22に接続されている。同様に、左コード44は、左保持部23の延伸方向の先端部APから左保持部23の筐体内に挿入され、左表示駆動部24に接続されている。連結部材46は、本体コード48と、右コード42および左コード44と、の分岐点に設けられ、イヤホンプラグ30を接続するためのジャックを有している。イヤホンプラグ30からは、右イヤホン32および左イヤホン34が延伸している。
画像表示部20と制御部10とは、接続部40を介して各種信号の伝送を行なう。本体コード48における連結部材46とは反対側の端部と、制御部10と、のそれぞれには、互いに嵌合するコネクター(図示しない)が設けられている。本体コード48のコネクターと制御部10のコネクターとの嵌合/嵌合解除により、制御部10と画像表示部20とが接続されたり切り離されたりする。右コード42と、左コード44と、本体コード48とには、例えば、金属ケーブルや光ファイバーを採用できる。
制御部10は、頭部装着型表示装置100を制御するための装置である。制御部10は、決定キー11と、点灯部12と、表示切替キー13と、トラックパッド14と、輝度切替キー15と、方向キー16と、メニューキー17と、電源スイッチ18と、を含んでいる。決定キー11は、押下操作を検出して、制御部10で操作された内容を決定する信号を出力する。点灯部12は、頭部装着型表示装置100の動作状態を、その発光状態によって通知する。頭部装着型表示装置100の動作状態としては、例えば、電源のON/OFF等がある。点灯部12としては、例えば、LED(Light Emitting Diode)が用いられる。表示切替キー13は、押下操作を検出して、例えば、コンテンツ動画の表示モードを3Dと2Dとに切り替える信号を出力する。トラックパッド14は、トラックパッド14の操作面上での使用者USの指の操作を検出して、検出内容に応じた信号を出力する。トラックパッド14としては、静電式や圧力検出式、光学式といった種々のトラックパッドを採用できる。輝度切替キー15は、押下操作を検出して、画像表示部20の輝度を増減する信号を出力する。方向キー16は、上下左右方向に対応するキーへの押下操作を検出して、検出内容に応じた信号を出力する。電源スイッチ18は、スイッチのスライド操作を検出することで、頭部装着型表示装置100の電源投入状態を切り替える。
図3は、頭部装着型表示装置100の構成を機能的に示すブロック図である。図3に示すように、制御部10は、入力情報取得部110と、記憶部120と、電源130と、無線通信部132と、GPSモジュール134と、操作部135と、CPU140と、インターフェイス180と、送信部51(Tx51)および送信部52(Tx52)と、を有している。操作部135は、使用者USによる操作を受け付け、決定キー11、表示切替キー13、トラックパッド14、輝度切替キー15、方向キー16、メニューキー17、電源スイッチ18、から構成されている。
入力情報取得部110は、使用者USによる操作入力に応じた信号を取得する。操作入力に応じた信号としては、例えば、トラックパッド14、方向キー16、電源スイッチ18、に対する操作入力がある。電源130は、頭部装着型表示装置100の各部に電力を供給する。電源130としては、例えば二次電池を用いることができる。無線通信部132は、無線LANやブルートゥースといった所定の無線通信規格に則って、例えば被写体位置特定装置500の現在位置を表わす位置情報の受信といった他の機器との間で各種情報の送受信を行なう。GPSモジュール134は、GPS衛星からの信号を受信することにより、自身の現在位置を検出する。GPSモジュール134の現在位置が検出されることで、頭部装着型表示装置100の使用者USの現在位置が特定される。記憶部120は、種々のコンピュータープログラムを格納している。記憶部120は、ROMやRAM等によって構成されている。CPU140は、記憶部120に格納されているコンピュータープログラムを読み出して実行することにより、オペレーティングシステム150(ОS150)、画像処理部160、表示制御部190、音声処理部170、方向判定部161、画像判定部142、として機能する。
画像処理部160は、コンテンツに含まれる画像信号を取得する。画像処理部160は、取得した画像信号から、垂直同期信号VSyncや水平同期信号HSync等の同期信号を分離する。また、画像処理部160は、分離した垂直同期信号VSyncや水平同期信号HSyncの周期に応じて、PLL(Phase Locked Loop)回路等(図示しない)を利用してクロック信号PCLKを生成する。画像処理部160は、同期信号が分離されたアナログ画像信号を、A/D変換回路等(図示しない)を用いてディジタル画像信号に変換する。その後、画像処理部160は、変換後のディジタル画像信号を、対象画像の画像データData(RGBデータ)として、1フレームごとに記憶部120内のDRAMに格納する。なお、画像処理部160は、必要に応じて、画像データに対して、解像度変換処理、輝度、彩度の調整といった種々の色調補正処理、キーストーン補正処理等の画像処理を実行してもよい。
画像処理部160は、生成されたクロック信号PCLK、垂直同期信号VSync、水平同期信号HSync、記憶部120内のDRAMに格納された画像データData、のそれぞれを、送信部51、52を介して送信する。なお、送信部51を介して送信される画像データDataを「右眼用画像データ」とも呼び、送信部52を介して送信される画像データDataを「左眼用画像データ」とも呼ぶ。送信部51、52は、制御部10と画像表示部20との間におけるシリアル伝送のためのトランシーバーとして機能する。
表示制御部190は、右表示駆動部22および左表示駆動部24を制御する制御信号を生成する。具体的には、表示制御部190は、制御信号により、右LCD制御部211による右LCD241の駆動ON/OFF、右バックライト制御部201による右バックライト221の駆動ON/OFF、左LCD制御部212による左LCD242の駆動ON/OFF、左バックライト制御部202による左バックライト222の駆動ON/OFFなど、を個別に制御する。これにより、表示制御部190は、右表示駆動部22および左表示駆動部24のそれぞれによる画像光の生成および射出を制御する。例えば、表示制御部190は、右表示駆動部22および左表示駆動部24の両方に画像光を生成させたり、一方のみに画像光を生成させたり、両方共に画像光を生成させなかったりする。
表示制御部190は、右LCD制御部211と左LCD制御部212とに対する制御信号のそれぞれを、送信部51および52を介して送信する。また、表示制御部190は、右バックライト制御部201と左バックライト制御部202とに対する制御信号のそれぞれを送信する。
方向判定部161は、後述する9軸センサー66が検出した画像表示部20の向きから推定される使用者USの視線方向と、画像表示部20から被写体OBへの方向である被写体方向と、がなす角度が予め定められた閾値以上であるか否かを判定する。方向判定部161は、視線方向と被写体方向とがなす角度に基づいて、以下の3つの状態の内のいずれかに該当するかを判定する。
(1)被写体OBがカメラ61の画角の範囲に含まれている状態。
(2)被写体OBがカメラ61の画角の範囲に含まれず、かつ、使用者USの視野VRに含まれている状態。
(3)被写体OBが使用者USの視野VRに含まれていない状態。
なお、使用者USの視野角は、左右のそれぞれが100度、上が50度、下が75度、と予め設定されており、カメラ61の画角よりも広い。使用者USの視線方向と被写体方向とがなす角度が使用者USの視野角の範囲を超えると、方向判定部161は、被写体OBが使用者USの視野VRに含まれていないと判定する。
画像判定部142は、カメラ61が撮像した外景画像の中に、記憶部120に予め記憶された画像データの表わす特定の画像と同じ被写体OBの画像が含まれているか否かを判定する。音声処理部170は、コンテンツに含まれる音声信号を取得し、取得した音声信号を増幅して、連結部材46に接続された右イヤホン32内のスピーカー(図示しない)および左イヤホン34内のスピーカー(図示しない)に対して供給する。なお、例えば、Dolby(登録商標)システムを採用した場合、音声信号に対する処理がなされ、右イヤホン32および左イヤホン34のそれぞれからは、例えば周波数等が変えられた異なる音が出力される。また、音声処理部170は、マイク63が取得した音声を音声信号に変換し、記憶部120は、変換された音声信号を記憶する。
インターフェイス180は、制御部10に対して、コンテンツの供給元となる種々の外部機器OAを接続するためのインターフェイスである。外部機器OAとしては、例えば、パーソナルコンピューター(PC)や携帯電話端末、ゲーム端末等、がある。インターフェイス180としては、例えば、USBインターフェイス、マイクロUSBインターフェイス、メモリーカード用インターフェイス等、を用いることができる。
画像表示部20は、右表示駆動部22と、左表示駆動部24と、右光学像表示部26としての右導光板261と、左光学像表示部28としての左導光板262と、カメラ61と、9軸センサー66と、マイク63と、を備えている。
9軸センサー66は、加速度(3軸)、角速度(3軸)、地磁気(3軸)、を検出するモーションセンサーである。9軸センサー66は、画像表示部20に設けられているため、画像表示部20が使用者USの頭部に装着されているときには、使用者USの頭部の動きを検出する。検出された使用者USの頭部の動きから画像表示部20の向きがわかるため、方向判定部161は、使用者USの視線方向を推定できる。
右表示駆動部22は、受信部53(Rx53)と、光源として機能する右バックライト制御部201(右BL制御部201)および右バックライト221(右BL221)と、表示素子として機能する右LCD制御部211および右LCD241と、右投写光学系251と、を含んでいる。右バックライト制御部201と右バックライト221とは、光源として機能する。右LCD制御部211と右LCD241とは、表示素子として機能する。なお、右バックライト制御部201と、右LCD制御部211と、右バックライト221と、右LCD241と、を総称して「画像光生成部」とも呼ぶ。
受信部53は、制御部10と画像表示部20との間におけるシリアル伝送のためのレシーバーとして機能する。右バックライト制御部201は、入力された制御信号に基づいて、右バックライト221を駆動する。右バックライト221は、例えば、LEDやエレクトロルミネセンス(EL)等の発光体である。右LCD制御部211は、受信部53を介して入力されたクロック信号PCLKと、垂直同期信号VSyncと、水平同期信号HSyncと、右眼用画像データと、に基づいて、右LCD241を駆動する。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。
右投写光学系251は、右LCD241から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。右光学像表示部26としての右導光板261は、右投写光学系251から出力された画像光を、所定の光路に沿って反射させつつ使用者USの右眼REに導く。なお、右投写光学系251と右導光板261とを総称して「導光部」とも呼ぶ。
左表示駆動部24は、右表示駆動部22と同様の構成を有している。左表示駆動部24は、受信部54(Rx54)と、光源として機能する左バックライト制御部202(左BL制御部202)および左バックライト222(左BL202)と、表示素子として機能する左LCD制御部212および左LCD242と、左投写光学系252と、を含んでいる。左バックライト制御部202と左バックライト222とは、光源として機能する。左LCD制御部212と左LCD242とは、表示素子として機能する。なお、左バックライト制御部202と、左LCD制御部212と、左バックライト222と、左LCD242と、を総称して「画像光生成部」とも呼ぶ。また、左投写光学系252は、左LCD242から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。左光学像表示部28としての左導光板262は、左投写光学系252から出力された画像光を、所定の光路に沿って反射させつつ使用者USの左眼LEに導く。なお、左投写光学系252と左導光板262とを総称して「導光部」とも呼ぶ。
図4は、画像光生成部によって画像光が射出される様子を示す説明図である。右LCD241は、マトリクス状に配置された各画素位置の液晶を駆動することによって、右LCD241を透過する光の透過率を変化させることにより、右バックライト221から照射される照明光ILを、画像を表わす有効な画像光PLへと変調する。左側についても同様である。なお、図4のように、本実施形態ではバックライト方式を採用したが、フロントライト方式や、反射方式を用いて画像光を射出する構成としてもよい。
A−3.被写体の位置画像表示処理:
図5は、被写体OBの位置画像表示処理の流れを示す説明図である。位置画像表示処理は、使用者USに被写体OBの位置を認識させるために、被写体OBの位置を示す画像を使用者USに視認させる処理である。図6は、使用者USが視認する視野VRの一例を示す説明図である。図6には、運動会において、使用者USが画像表示部20を装着した状態で、画像表示部20を透過して使用者USに視認される被写体OBを含む外景SCが示されている。なお、図6に示す最大画像表示領域PNは、画像表示部20が生成した画像を表示できる最大の領域である。なお、最大画像表示領域PNの外郭を示す実線は、本実施形態を説明するために示したものであり、実際には表示されていないため、使用者USには視認されない。本実施形態における最大画像表示領域PNは、横の画素数が960であり、縦の画素数が540であるが、他の実施形態では異なる画素数であってもよい。最大画像表示領域PNは、請求項における画像生成領域に相当する。
被写体OBの画像位置表示処理では、初めに、制御部10は、画像表示部20と被写体位置特定装置500との相対位置を特定する(ステップS310)。制御部10は、GPSモジュール134によって画像表示部20の現在位置を特定し、無線通信部132が特定された被写体位置特定装置500の現在位置を示す情報を取得する。本実施形態では、制御部10が使用者USに携帯され、画像表示部20が使用者USに装着されるため、制御部10の現在位置が画像表示部20の現在位置であるとみなすことができ、GPSモジュール134は、画像表示部20の現在位置を特定できる。制御部10は、画像表示部20および被写体位置特定装置500の現在位置に基づいて画像表示部20に対する被写体位置特定装置500の相対位置を特定する。なお、他の実施形態では、GPSモジュール134が画像表示部20に配置されていてもよい。制御部10は、請求項における位置特定部に相当する。
次に、制御部10の方向判定部161は、被写体OBがカメラ61の画角の範囲に含まれているか否かを判定する(ステップS320)。図6に示す例では、最大画像表示領域PNには被写体OBが含まれているため、カメラ61の画角の範囲に含まれていると判定されて(図5のステップS320:YES)、制御部10は、被写体OBの位置を示す画像を最大画像表示領域PNに表示する(図5のステップS340)。なお、カメラ61の画角の範囲に含まれるとは、カメラ61が撮像する外景SCに写っていることに限らず、カメラ61の画角の範囲にあるものの遮蔽物等によりカメラ61が撮像できない場合も含む。
ステップS320の処理において、被写体OBがカメラ61のカメラ61の画角の範囲に含まれていないと判定された場合には(ステップS320:NO)、制御部10は、画像表示部20から被写体OBへの方向を示す画像を表示する被写体方向表示処理を行なう(ステップS330)。図7は、被写体方向表示処理の流れについて示す説明図である。
図8は、使用者USが視認する視野VRの一例を示す説明図である。図8には、図6と異なり、使用者USの視線方向に対して被写体OBが右側にずれて、最大画像表示領域PNの範囲外、かつ、使用者USの視野VR内に視認されている状態が示されている。被写体方向表示処理では、初めに、方向判定部161は、被写体方向と視線方向とがなす角度が予め定められた使用者USの視野角の範囲であるか否かを判定する(図7のステップS321)。図8に示す例では、被写体OBは、使用者USの視野VRにおいて視認されているため、図7のステップS321の処理において使用者USの視野角の範囲であると判定され(ステップS321:YES)、制御部10は、画像表示部20の表示モードを第1の表示モードへと設定する(ステップS322)。
図9は、使用者USが視認する視野VRの一例を示す説明図である。図9には、画像表示部20の表示モードが第1の表示モードである場合に、最大画像表示領域PNに表示される被写体OBの方向を示す画像である矢印MK1が示されている。図9に示すように、被写体OBは、使用者USの視野VRに含まれると共に、最大画像表示領域PN外の右方向に存在する。そのため、第1の表示モードでは、矢印MK1は、最大画像表示領域PNにおいて、垂直方向では被写体位置特定装置500と同じ高さ、かつ、水平方向では被写体OBが存在する方向の右側の部分に表示されている。制御部10は、右方向を向いている矢印MK1を最大画像表示領域PNにおける右周辺部に表示することにより、被写体OBの方向を示している。
次に、方向判定部161は、被写体OBがカメラ61の画角の範囲に含まれているかを監視する(ステップS323)。被写体OBがカメラ61の画角の範囲に含まれていない場合には(ステップS323:NO)、再度、方向判定部161は、ステップS321の処理を行なう。被写体OBがカメラ61の画角の範囲に含まれている場合には(ステップS343:YES)、制御部10は、被写体OBの被写体方向表示処理を終了する。
ステップS321の処理において、使用者USの視野角の範囲外であると判定された場合には(ステップS321:NO)、制御部10は、画像表示部20の表示モードを第2の表示モードへと設定する(ステップS325)。図10は、使用者USが視認する視野VRの一例を示す説明図である。図10には、画像表示部20の表示モードが第2の表示モードである場合に、最大画像表示領域PNに表示されている被写体OBの方向を示す画像である矢印MK2と、鳥瞰図VI1と、が示されている。図10に示すように、被写体OBは、使用者USの視野VRに含まれていない。矢印MK2は、最大画像表示領域PNにおける右上の部分に表示されており、図9に示す矢印MK1よりも長い矢印の画像である。そのため、制御部10が矢印MK1よりも長い矢印MK2を表示することにより、矢印の長さによって感覚的に被写体方向と視線方向とがなす角度がどれだけ大きいかを使用者USに認識させることができる。
第2の表示モードにおける鳥瞰図VI1は、最大画像表示領域PNにおける中心を除く周辺部である右下の領域に表示されている。鳥瞰図VI1が表示される領域は、最大画像表示領域PNを縦と横とのそれぞれにおいて3分割した9つの領域の右下の領域であり、横の画素数は320、縦の画素数は180である。なお、他の実施形態では、鳥瞰図VI1が最大画像表示領域PNにおいて表示される領域や表示される位置が異なっていてもよい。また、最大画像表示領域PNにおける中心を除く周辺部とは、9つの領域の中央の1つの領域を除く部分である。最大画像表示領域PNにおける周辺部とは、最大画像表示領域PNを縦と横とのそれぞれにおいて4分割した16の領域における中央の4つの領域を除く部分だと、さらに好ましい。図10に示すように、鳥瞰図VI1では、使用者USから上方向が使用者USの視線方向とされ、想定される使用者USの視野範囲eyが点線で示され、画像表示部20の位置と被写体OBの位置との相対関係が上空から見下ろしたように示されている。鳥瞰図VI1において表示されている使用者USの位置および被写体OBの位置は、使用者USの視線方向の変化、使用者USおよび被写体OBの移動による相対位置の変化、等によってリアルタイムに変更される。その後、画像表示部20の向きが変わると、制御部10は、図7のステップS321以降の処理を行なう。
被写体方向表示処理が終了すると、次に、制御部10は、被写体OBの位置を示す画像を最大画像表示領域PNに表示する(図5のステップS340)。図11は、使用者USが視認する視野VRの一例を示す説明図である。図11に示すように、最大画像表示領域PNにおける被写体OBの上には、被写体OBの位置を示す矢印MK3が表示されている。本実施形態では、カメラ61の画角の範囲と最大画像表示領域PNとがほぼ同じになるように設定されているため、制御部10は、最大画像表示領域PNにおいて、外景SCの被写体OBの位置に対応するように矢印MK3を表示できる。矢印MK3は、被写体OBと重なって表示されるのが望ましくないため、被写体OBが装着している被写体位置特定装置500の位置から所定の距離だけ上方向に表示される。なお、矢印MK1、矢印MK2、矢印MK3、鳥瞰図VI1は、請求項における対象位置表示画像に相当する。また、矢印MK1、矢印MK2、鳥瞰図VI1は、請求項における対象方向推定画像に相当する。
次に、操作部135が使用者USからの所定の操作を受け付けると、制御部10は、カメラ61の撮像画像の録画を開始する前に、画像表示部20の表示モードをスタンバイモードに設定する。(図5のステップS350)。図12は、使用者USが視認する視野VRの一例を示す説明図である。図12では、図11に示す例に加えて、録画を開始した場合に、最大画像表示領域PNに録画されるカメラ61の撮像画像VI2が縮小されて表示されている。図12に示すように、撮像画像VI2は、最大画像表示領域PNにおける右下に、鳥瞰図VI1と同じ領域に表示される。
次に、操作部135が使用者USから録画開始の操作を受け付けると、制御部10は、カメラ61の撮像画像の録画を開始する。(図5のステップS360)。録画が開始されると、図12に示す撮像画像VI2における左上に「録画中」の文字が表示される。なお、他の実施形態では、「録画中」以外の文字であってもよいし、最大画像表示領域PNにおける文字が表示される位置が異なる位置であってもよい。そのため、使用者USは、視野VRを視認しながら、特に頭の向き等を変えなくても自然に、録画している撮像画像VI2の撮像画像を確認できる。
次に、制御部10は、録画しながら、被写体OBが引き続きカメラ61の画角の範囲に含まれているか否かを監視する(ステップS370)。被写体OBがカメラ61の画角の範囲に含まれている場合には(ステップS370:YES)、制御部10は、録画を終了する操作部135への入力があるかを監視する(ステップS390)。
ステップS370の処理において、被写体OBがカメラ61の画角の範囲に含まれなくなった場合には(ステップS370:NO)、制御部10は、ステップS330と同じ被写体方向表示処理を行なう(ステップS380)。ステップS380における被写体方向表示処理において、本実施形態では、制御部10は、撮像画像の録画を引き続き行なうが、他の実施形態では、被写体OBがカメラ61の画角の範囲に含まれなくなった場合に録画を自動で停止してもよい。また、被写体OBがカメラ61の画角の範囲に含まれなくなった場合に、制御部10は、録画を引き続き行なうか否かを決定する選択画像を最大画像表示領域PNに表示して、操作部135が受け付けた操作に基づいて録画を行なうか否かを決定させてもよい。なお、ステップS380の処理については、図7に示す被写体方向表示処理と同じであるため、説明を省略する。
ステップS380の被写体方向表示処理が終了すると、次に、制御部10は、被写体OBの位置を示す画像を最大画像表示領域PNに表示する(図5のステップS385)。その後、制御部10は、録画を終了する操作部135への入力があるかを監視する(ステップS390)。操作部135が使用者USから録画を終了する操作を受け付けた場合には(ステップS390:YES)、制御部10は、カメラ61の撮像画像の録画を終了する。ステップS390の処理において、操作部135が録画を終了する操作を受け付けなかった場合には(ステップS390:NO)、引き続き、撮像画像の録画が行なわれた状態で、方向判定部161は、被写体OBがカメラ61の画角の範囲に含まれているか否かを監視する(ステップS370)。
以上説明したように、本実施形態における頭部装着型表示装置100では、制御部10は、画像表示部20の現在位置を特定し、被写体位置特定装置500の現在位置を示す情報を取得して、画像表示部20に対する被写体位置特定装置500の相対位置を特定する。制御部10は、相対位置に基づいて、最大画像表示領域PNにおける被写体OBの位置を示す画像を画像表示部20に生成させて、最大画像表示領域PNにおける生成させた画像の位置を設定する。そのため、本実施形態における頭部装着型表示装置100では、使用者USの頭部に装着された画像表示部20における最大画像表示領域PNに、被写体OBの位置を示す画像が使用者USに視認される。そのため、使用者USは、頭を動かしたりしなくても、被写体OBの位置を認識でき、使用者USの利便性が向上する。また、使用者USは、被写体OBに予め被写体位置特定装置500を装着させておけば、何らかの遮蔽物等によって被写体OBを直接視認できなくても、被写体OBがいる方向を知ることができる。
また、本実施形態における頭部装着型表示装置100では、カメラ61が使用者USの視線方向を中心とするカメラ61の画角の範囲の外景SCを撮像する。そのため、本実施形態における頭部装着型表示装置100では、使用者USが視認する外景SCとほぼ同じ外景SCを撮像することができ、使用者USは、わざわざ撮像している画像を確認しなくても済むため、外景SCを撮像しやすく、使用者USの利便性が向上する。
また、本実施形態における頭部装着型表示装置100では、方向判定部161は、カメラ61の画角の範囲に被写体OBが含まれているかを判定する。方向判定部161がカメラ61の画角の範囲に被写体OBが含まれていると判定した場合には、制御部10は、最大画像表示領域PNにおける矢印MK3を被写体OBの近くに表示する。方向判定部161がカメラ61の画角の範囲に被写体OBが含まれていないと判定した場合には、制御部10は、最大画像表示領域PNにおける矢印MK1および矢印MK2のように、被写体OBの方向を示す画像を表示する。そのため、本実施形態における頭部装着型表示装置100では、使用者USに被写体OBが視認されている状態および視認されていない状態のそれぞれにおいて、被写体OBを示す画像の位置が異なるため、使用者USは、被写体OBがカメラ61の画角の範囲に含まれているか否かを判断しやすく、使用者USの利便性が向上する。
また、本実施形態における頭部装着型表示装置100では、画像表示部20の表示モードが第2の表示モードの場合に、最大画像表示領域PNに表示される鳥瞰図VI1では、使用者USから上方向が使用者USの視線方向とされ、画像表示部20の位置と被写体OBとの位置との相対関係が表されている。そのため、本実施形態における頭部装着型表示装置100では、使用者USは、被写体OBを視認できない場合に、使用者USに対する被写体OBの相対位置を視認できるため、被写体OBを見つけやすく、使用者USの利便性が向上する。
また、本実施形態における頭部装着型表示装置100では、制御部10は、カメラ61が撮像した撮像画像を最大画像表示領域PNよりも小さい領域の画像として画像表示部20に表示させる。そのため、本実施形態における頭部装着型表示装置100では、使用者USは、画像表示部20を透過して視認できる外景SCを妨げられることなく、カメラ61の撮像画像を外景SCと同時に視認できるため、使用者USの利便性が向上する。また、制御部10は、最大画像表示領域PNにおける撮像画像が表示される位置を、最大画像表示領域PNにおける中心を除く周辺部に設定する。そのため、本実施形態の頭部装着型表示装置100では、使用者USが外景SCをより視認しやすく、使用者USの利便性がさらに向上する。
B.変形例:
なお、この発明は上記実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能であり、例えば、次のような変形も可能である。
B1.変形例1:
上記実施形態では、図12に示すように、鳥瞰図VI1および撮像画像VI2が最大画像表示領域PNを9分割した場合の右下の領域に表示される態様としたが、鳥瞰図VI1および撮像画像VI2が表示される領域については、種々変形可能である。図13は、使用者USが視認する視野VRの一例を示す説明図である。図13では、上記実施形態における図12に示した図と異なり、最大画像表示領域PNにおける撮像画像VI2が表示される位置が異なる。この変形例の頭部装着型表示装置100では、制御部10は、最大画像表示領域PNにおいて撮像画像VI2が表示される位置を、特定した画像表示部20と被写体位置特定装置500の位置関係に基づいて、最大画像表示領域PNにおける被写体OBに重ならない位置に設定する。そのため、この変形例の頭部装着型表示装置100では、使用者USは、外景SCの被写体OBを常に視認でき、使用者USの利便性が向上する。
また、操作部135に受け付けた操作に基づいて、鳥瞰図VI1および撮像画像VI2の表示と非表示とが切り替えられてもよいし、表示位置および表示する領域の大きさが変更されてもよい。この変形例の頭部装着型表示装置100では、使用者USの意思によって鳥瞰図VI1および撮像画像VI2の表示態様が変更されるため、使用者USの利便性が向上する。
また、最大画像表示領域PNに表示する画像は、被写体OBの位置を示す画像、鳥瞰図VI1、撮像画像VI2に限られず、種々変形可能である。例えば、画像表示部20の表示モードが第2の表示モードの場合に、制御部10は、使用者USと被写体OBとの相対位置に基づいて使用者USと被写体OBとの距離を算出して、算出した距離を数値の画像として最大画像表示領域PNに表示してもよい。また、被写体OBがカメラ61の画角の範囲に含まれていても、使用者USと被写体OBとの距離に基づいて画像表示部20の表示モードを変更してもよいし、常に鳥瞰図VI1を最大画像表示領域PNに表示させていてもよい。この変形例の頭部装着型表示装置100では、鳥瞰図VI1のように、使用者USと被写体OBとの位置関係が特定されるだけでなく、使用者USと被写体OBとの距離も特定される。そのため、使用者USは、距離に応じて移動、または、視線方向のみ変更といった行動が選択できるので、使用者USの利便性が向上する。
B2.変形例2:
上記実施形態では、使用者USに対する被写体OBの相対位置に基づいて、最大画像表示領域PNに表示される被写体OBの位置を示す画像および最大画像表示領域PNにおける画像の位置が変更されたが、画像および画像を表示する位置についてはこれに限られず、種々変形可能である。図14は、使用者USが視認する視野VRの一例を示す説明図である。図14に示すように、最大画像表示領域PNの中心を含む部分に、被写体OBの位置を示す画像である矢印MK4が表示されている。図14では、使用者USの視野VRに被写体OBが含まれておらず、矢印MK4によって被写体OBが使用者USの右側にいることが示されている。この変形例の頭部装着型表示装置100では、使用者USの視野VRに被写体OBが含まれている場合には、最大画像表示領域PNに、上記実施形態における矢印MK3のような画像を表示しない。被写体OBが視野VRに含まれていない場合のみ、最大画像表示領域PNにおける同じ位置である中心に被写体OBの方向を示す矢印の画像を表示する。
B3.変形例3:
上記実施形態では、被写体OBの位置が被写体位置特定装置500によって特定され、画像表示部20と被写体位置特定装置500との相対位置が特定されたが、被写体OBの位置を特定する方法はこれに限られず、種々変形可能である。例えば、画像表示部20と被写体位置特定装置500との相対位置ではなく、単に被写体位置特定装置500の位置が特定されてもよいし、画像表示部20と被写体位置特定装置500との位置が別々に特定されてもよい。また、GPS衛星を用いずに、頭部装着型表示装置100と一対一対応の特定の周波数を発信する発信機を被写体OBに携帯させることで、被写体OBの位置が特定されてもよい。具体的な通信方法としては、無線LAN、Bluetooth(登録商標)、4G携帯通信等がある。また、被写体OBが携帯または装着しているGPS機能が搭載された携帯端末(例えば、スマートフォン)や時計によって、被写体OBの位置が特定されてもよい。なお、本明細書における相対位置とは、単に画像表示部20と被写体位置特定装置500との位置のみならず、画像表示部20および被写体位置特定装置500の向き等の位置情報を含む。
また、被写体OBの位置が画像認識によって特定されてもよい。例えば、被写体OBが人である場合、被写体OBの顔の画像を予め制御部10の記憶部120に登録しておき、制御部10の画像判定部142がカメラ61の撮像画像に、被写体OBの顔が含まれると判定されて、被写体OBの位置が特定されてもよい。また、被写体OBの顔以外の画像認識では、特定のマーカー、服の模様、特徴的な装着物、当によって被写体OBの位置が特定されてもよい。この変形例の頭部装着型表示装置100では、被写体OBに予め発信機等の装置を携帯および装着させなくても、被写体OBの位置を特定できるので、使用者USの利便性が向上する。また、被写体OBがカメラ61の画角の範囲に含まれていても、被写体OBが遮蔽物等によってカメラ61の撮影画像に写らない場合には、被写体OBの位置が特定されず、使用者USは、被写体OBが写らない場合を排除でき、より効率的に撮像できる。
また、上記実施形態では、GPSモジュール134によって画像表示部20の位置を特定したが、画像表示部20の位置および向き等を含む位置情報を特定する方法については、種々変形可能である。例えば、画像表示部20にGPSモジュール134を内蔵させ、内蔵されたGPSモジュール134と9軸センサー66とに基づいて、画像表示部20の位置情報がより詳細に特定される。この頭部装着型表示装置100では、使用者USの眼を覆う光学像表示部26,28の詳細な位置情報を特定できるので、使用者USの水平方向および垂直方向における向き等が特定されて、画像表示部20と被写体位置特定装置500とのより詳細な位置関係が特定される。そのため、使用者USに被写体OBの詳細な位置関係を知らせることができ、使用者の利便性がより向上する。
また、上記実施形態では、被写体OBの位置に基づいて被写体OBの位置を示す画像が最大画像表示領域PNに表示されたが、被写体OBの位置を示す画像を表示する制御に加えて、他の制御が行なわれてもよく、使用者USに被写体OBを視認させる方法については、種々変形可能である。例えば、使用者USと被写体OBとの距離に応じてオートフォーカスの制御が行なわれてもよい。具体的には、被写体OBがカメラ61の画角に含まれているが、使用者USと被写体OBとの距離が閾値以上離れている場合には、制御部10は、オートフォーカスによって予め定められた大きさ以上の被写体OBを録画する態様であってもよい。この変形例の頭部装着型表示装置100では、使用者USが被写体OBを視認しづらい場合であっても、被写体OBをより明確に撮像できる。また、被写体OBがカメラ61の画角に含まれているが、被写体OBの撮像される位置がカメラ61の画角における周辺部分である場合には、オートフォーカスによって被写体OBが中心に配置されるような撮像が行なわれていてもよい。
B4.変形例4:
上記実施形態では、制御部10が無線通信部132を介して被写体位置特定装置500の位置情報を取得し、GPSモジュール134によって画像表示部20の位置を特定したが、使用者USに対する被写体OBの相対位置を特定する方法はこれに限らず、種々変形可能である。例えば、屋内で行なわれる一定範囲でのイベントにおいて、複数の頭部装着型表示装置100の使用者USの位置を特定する位置情報を、サーバーに一時的に保管して、サーバーから個々の使用者USへと各使用者USの位置情報を送信してもよい。
また、上記実施形態では、画像表示部20に配置された9軸センサー66によって使用者USの視線方向が推定されたが、視線方向の推定方法はこれに限られず種々変形可能である。例えば、単に、画像表示部20の向きを視線方向としてもよいし、CCDカメラによって使用者の眼を撮像して、撮像した画像を解析することで、使用者の視線方向が推定されてもよい。
上記実施形態では、制御部10に操作部135を形成したが、操作部135の態様については種々変形可能である。例えば、制御部10とは別体で操作部135であるユーザーインターフェースがある態様でもよい。この場合に、操作部135は、電源130等が形成された制御部10とは別体であるため、小型化でき、使用者USの操作性が向上する。また、操作部135の動きを検出する9軸センサーを操作部135に形成して、検出した動きに基づいて各種操作が行なわれることで、使用者USは、感覚的に頭部装着型表示装置100の操作ができる。
B5.変形例5:
上記実施形態では、カメラ61が画像表示部20に固定されて配置されたが、カメラ61の配置および態様についてはこれに限られず、種々変形可能である。例えば、カメラ61は、画像表示部20に形成されるものの、画像表示部20に対して、向きが変えられる態様であってもよい。この変形例の頭部装着型表示装置100では、カメラ61の画角の範囲に被写体OBが含まれなくなった場合に、被写体OBを自動追尾で録画しながら、カメラ61の画角の範囲に被写体OBが含まれなくなったことを使用者USに知らせることができる。また、カメラ61は、制御部10に配置されてもよいし、制御部10や画像表示部20とは別体で、例えば、使用者USが装着するヘルメットの上部等に配置されてもよい。
上記実施形態では、カメラ61の画角の範囲と最大画像表示領域PNとがほぼ同じになるように設定されていたが、カメラ61の画角の範囲と最大画像表示領域PNとの範囲の関係についてはこれに限られず、種々変形可能である。例えば、カメラ61がズーム機能を有していて、ズーム後の画角の範囲と最大画像表示領域PNとの範囲の関係の変化が算出されるように設定されていてもよい。この場合に、制御部10は、カメラ61の画角の範囲が変化したとしても、最大画像表示領域PNに対する被写体OBの位置と、カメラ61の撮像画像に対する被写体OBと位置と、の関係を算出できる。そのため、カメラ61の画角の範囲と最大画像表示領域PNとが異なっていても、最大画像表示領域PNに被写体OBの位置を示す画像が表示される。
B6.変形例6:
例えば、画像光生成部は、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部とを備える構成としても良い。また、例えば、画像生成部は、LCDに代えて、LCOS(Liquid crystal on silicon, LCoS は登録商標)や、デジタル・マイクロミラー・デバイス等を用いることもできる。また、例えば、レーザー網膜投影型のヘッドマウントディスプレイに対して本発明を適用することも可能である。レーザー網膜投影型の場合、「画像光生成部における画像光の射出可能領域」とは、使用者USの眼に認識される画像領域として定義することができる。
また、例えば、ヘッドマウントディスプレイは、光学像表示部が使用者USの眼の一部分のみを覆う態様、換言すれば、光学像表示部が使用者USの眼を完全に覆わない態様のヘッドマウントディスプレイとしてもよい。また、ヘッドマウントディスプレイは、いわゆる単眼タイプのヘッドマウントディスプレイであるとしてもよい。また、請求項における画像生成領域は、使用者USに虚像を視認させる範囲とも言い換えることができる。
また、イヤホンは耳掛け型やヘッドバンド型を採用してもよく、省略しても良い。また、例えば、自動車や飛行機等の車両に搭載されるヘッドマウントディスプレイとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。
B7.変形例7:
上記実施形態における頭部装着型表示装置100の構成は、あくまで一例であり、種々変形可能である。例えば、制御部10に設けられた方向キー16やトラックパッド14の一方を省略したり、方向キー16やトラックパッド14に加えてまたは方向キー16やトラックパッド14に代えて操作用スティック等の他の操作用インターフェイスを設けたりしてもよい。また、制御部10は、キーボードやマウス等の入力デバイスを接続可能な構成であり、キーボードやマウスから入力を受け付けるものとしてもよい。
また、画像表示部として、眼鏡のように装着する画像表示部20に代えて、例えば帽子のように装着する画像表示部といった他の方式の画像表示部を採用してもよい。また、イヤホン32,34、カメラ61、は適宜省略可能である。また、上記実施形態では、画像光を生成する構成として、LCDと光源とを利用しているが、これらに代えて、有機ELディスプレイといった他の表示素子を採用してもよい。また、上記実施形態では、使用者USの頭の動きを検出するセンサーとして9軸センサー66を利用しているが、これに代えて、加速度センサー、角速度センサー、地磁気センサーのうちの1つまたは2つから構成されたセンサーを利用するとしてもよい。また、上記実施形態では、頭部装着型表示装置100は、両眼タイプの光学透過型であるとしているが、本発明は、例えばビデオ透過型や単眼タイプといった他の形式の頭部装着型表示装置にも同様に適用可能である。
また、上記実施形態において、頭部装着型表示装置100は、使用者USの左右の眼に同じ画像を表わす画像光を導いて使用者USに二次元画像を視認させるとしてもよいし、使用者USの左右の眼に異なる画像を表わす画像光を導いて使用者USに三次元画像を視認させるとしてもよい。
また、上記実施形態において、ハードウェアによって実現されていた構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されていた構成の一部をハードウェアに置き換えるようにしてもよい。例えば、上記実施形態では、画像処理部160や音声処理部170は、CPU140がコンピュータープログラムを読み出して実行することにより実現されるとしているが、これらの機能部はハードウェア回路により実現されるとしてもよい。
また、本発明の機能の一部または全部がソフトウェアで実現される場合には、そのソフトウェア(コンピュータープログラム)は、コンピューター読み取り可能な記録媒体に格納された形で提供することができる。この発明において、「コンピューター読み取り可能な記録媒体」とは、フレキシブルディスクやCD−ROMのような携帯型の記録媒体に限らず、各種のRAMやROM等のコンピューター内の内部記憶装置や、ハードディスク等のコンピューターに固定されている外部記憶装置も含んでいる。
また、上記実施形態では、図2および図3に示すように、制御部10と画像表示部20とが別々の構成として形成されているが、制御部10と画像表示部20との構成については、これに限られず、種々変形可能である。例えば、画像表示部20の内部に、制御部10に形成された構成の全てが形成されてもよいし、一部が形成されてもよい。また、上記実施形態における電源130が単独で形成されて、交換可能な構成であってもよいし、制御部10に形成された構成が重複して画像表示部20に形成されていてもよい。例えば、図2に示すCPU140が制御部10と画像表示部20との両方に形成されていてもよいし、制御部10に形成されたCPU140と画像表示部20に形成されたCPUとが行なう機能が別々に分けられている構成としてもよい。
また、制御部10がパーソナルコンピューター(PC)に内蔵されて、PCのモニターに代えて画像表示部20が使用される態様であってもよいし、制御部10と画像表示部20とが一体化して、使用者USの衣服に取り付けられるウェアラブルコンピューターの態様であってもよい。
本発明は、上記実施形態や変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態、変形例中の技術的特徴は、上述の課題の一部または全部を解決するために、あるいは、上述の効果の一部または全部を達成するために、適宜、差し替えや、組み合わせを行なうことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
10…制御部(位置特定部)
11…決定キー
12…点灯部
13…表示切替キー
14…トラックパッド
15…輝度切替キー
16…方向キー
17…メニューキー
18…電源スイッチ
20…画像表示部
21…右保持部
22…右表示駆動部
23…左保持部
24…左表示駆動部
26…右光学像表示部
28…左光学像表示部
30…イヤホンプラグ
32…右イヤホン
34…左イヤホン
40…接続部
42…右コード
44…左コード
46…連結部材
48…本体コード
51…送信部
52…送信部
53…受信部
54…受信部
61…カメラ(撮像部)
63…マイク
66…9軸センサー
100…頭部装着型表示装置
110…入力情報取得部
120…記憶部
130…電源
132…無線通信部
134…GPSモジュール
135…操作部
140…CPU
142…画像判定部
150…オペレーティングシステム
160…画像処理部
161…方向判定部(判定部)
170…音声処理部
180…インターフェイス
190…表示制御部
201…右バックライト制御部
202…左バックライト制御部
211…右LCD制御部
212…左LCD制御部
221…右バックライト
222…左バックライト
241…右LCD
242…左LCD
251…右投写光学系
252…左投写光学系
261…右導光板
262…左導光板
500…被写体位置特定装置(対象位置情報送信装置)
1000…撮像システム(画像表示システム)
OA…外部機器
OB…被写体(特定の対象物)
SC…外景
IL…照明光
PL…画像光
PN…最大画像表示領域(画像生成領域)
AP…先端部
VR…視野
US…使用者
ey…視野範囲
VI1…鳥瞰図(対象方向推定画像)
VI2…撮像画像
MK1,MK2,MK4…矢印(対象方向推定画像)
MK3…矢印(対象位置表示画像)

Claims (11)

  1. 透過型の頭部装着型表示装置であって、
    使用者の頭部に装着された状態において、画像を生成して、生成した画像を使用者に視認させる画像表示部と、
    前記画像表示部に対する特定の対象物の位置である対象位置を特定する位置特定部と、
    前記位置特定部が特定した前記対象位置に基づいて、前記画像表示部に対して、前記対象位置を示す対象位置表示画像を生成させると共に、前記画像表示部が画像を生成する領域である画像生成領域における前記対象位置表示画像の位置を設定する制御部と、を備える、頭部装着型表示装置。
  2. 請求項1に記載の頭部装着型表示装置であって、さらに、
    使用者の視線方向を含む所定の範囲の外景を撮像する撮像部を備える、頭部装着型表示装置。
  3. 請求項2に記載の頭部装着型表示装置であって、さらに、
    前記撮像部が撮像する前記所定の範囲である撮像方向範囲に前記特定の対象物が含まれているかを判定する判定部を備え、
    前記制御部は、前記判定部が前記撮像方向範囲に前記特定の対象物が含まれていると判定した場合には、前記対象位置に基づいて、前記画像表示部に対して、前記対象位置表示画像を生成させると共に、前記画像生成領域における前記対象位置表示画像の位置を設定し、前記判定部が前記撮像方向範囲に前記特定の対象物が含まれていないと判定した場合には、前記対象位置に基づいて、前記画像表示部に対して、前記対象表示特定画像を前記画像表示部から前記特定の対象物への方向を示す画像である対象方向推定画像として生成させると共に、前記画像生成領域における前記対象方向推定画像の位置を設定する、頭部装着型表示装置。
  4. 請求項3に記載の頭部装着型表示装置の頭部装着型表示装置であって、
    前記対象方向推定画像は、前記対象位置を示す画像を含む、頭部装着型表示装置。
  5. 請求項2から請求項4までのいずれか一項に記載の頭部装着型表示装置であって、
    前記制御部は、前記画像表示部に対して、前記撮像部が撮像した撮像画像を前記画像生成領域よりも小さい領域の画像となるように生成させる、頭部装着型表示装置。
  6. 請求項5に記載の頭部装着型表示装置であって、
    前記制御部は、前記視線方向と、前記画像表示部から前記特定の対象物への方向とがなす角度に基づいて、前記画像生成領域における前記撮像画像の位置を設定する、頭部装着型表示装置。
  7. 請求項5または請求項6に記載の頭部装着型表示装置であって、
    前記制御部は、前記画像生成領域における前記撮像画像の位置を、前記画像生成領域における中心を除く周辺部分に設定する、頭部装着型表示装置。
  8. 請求項2から請求項7までのいずれか一項に記載の頭部装着型表示装置であって、
    前記制御部は、前記対象位置に基づいて前記画像表示部と前記特定の対象物との距離を特定し、前記画像表示部に対して、特定した前記距離を示す画像を生成させる、頭部装着型表示装置。
  9. 請求項2から請求項8までのいずれか一項に記載の頭部装着型表示装置であって、さらに、
    前記特定の対象物を示す画像である対象画像を記憶すると共に、前記撮像部が撮像した撮像画像に前記対象画像が含まれているかを判定する画像判定部を備え、
    前記位置特定部は、前記撮像画像に前記対象画像が含まれていると判定された場合には前記対象位置を特定し、前記撮像画像に前記対象画像が含まれていないと判定された場合には前記対象位置を特定しない、頭部装着型表示装置。
  10. 使用者の頭部に装着された状態において、画像を生成して、生成した画像を使用者に視認させる画像表示部を有する透過型の頭部装着型表示装置の制御方法であって、
    前記画像表示部に対する特定の対象物の位置である対象位置を特定する工程と、
    特定された前記対象位置に基づいて、前記画像表示部に対して、前記対象位置を示す対象位置表示画像を生成させると共に、前記画像表示部が画像を生成する領域である画像生成領域における前記対象位置表示画像の位置を設定する工程と、を備える、制御方法。
  11. 特定の対象物の位置である対象位置を示す位置情報を送信する対象位置情報送信装置と、透過型の頭部装着型表示装置と、を備える画像表示システムであって、
    前記頭部装着型表示装置は、
    使用者の頭部に装着された状態において、画像を生成して、生成した画像を使用者に視認させる画像表示部と、
    前記対象位置情報送信装置が送信する前記位置情報を受信して、前記対象位置を特定する位置特定部と、
    前記位置特定部が特定した前記対象位置に基づいて、前記画像表示部に対して、前記対象位置を示す対象位置表示画像を生成させると共に、前記画像表示部が画像を生成する領域である画像生成領域における前記対象位置表示画像の位置を設定する制御部と、を備える、画像表示システム。
JP2013024089A 2013-02-12 2013-02-12 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム Active JP6135162B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2013024089A JP6135162B2 (ja) 2013-02-12 2013-02-12 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム
US14/162,043 US9411160B2 (en) 2013-02-12 2014-01-23 Head mounted display, control method for head mounted display, and image display system
CN201410047859.8A CN103984097B (zh) 2013-02-12 2014-02-11 头戴式显示装置、头戴式显示装置的控制方法以及图像显示系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013024089A JP6135162B2 (ja) 2013-02-12 2013-02-12 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム

Publications (3)

Publication Number Publication Date
JP2014155083A true JP2014155083A (ja) 2014-08-25
JP2014155083A5 JP2014155083A5 (ja) 2016-02-25
JP6135162B2 JP6135162B2 (ja) 2017-05-31

Family

ID=51576542

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013024089A Active JP6135162B2 (ja) 2013-02-12 2013-02-12 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム

Country Status (1)

Country Link
JP (1) JP6135162B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015087523A (ja) * 2013-10-30 2015-05-07 セイコーエプソン株式会社 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム
JP2016161734A (ja) * 2015-03-02 2016-09-05 セイコーエプソン株式会社 表示装置、表示装置の制御方法、および、プログラム
WO2016171190A1 (ja) * 2015-04-22 2016-10-27 日本電気株式会社 暗視装置、暗視方法およびプログラム
KR101761487B1 (ko) * 2015-11-25 2017-08-04 엘지전자 주식회사 Head 디바이스 및 그의 동작 방법
US11347306B2 (en) 2015-12-22 2022-05-31 Interdigital Ce Patent Holdings, Sas Method and apparatus for controlling a discrepant aiming direction of a camera

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009177611A (ja) * 2008-01-25 2009-08-06 Nikon Corp デジタルカメラ
JP2009218719A (ja) * 2008-03-07 2009-09-24 Panasonic Corp 撮像装置及び撮像方法
JP2010056834A (ja) * 2008-08-28 2010-03-11 Sony Corp 情報処理装置および方法、プログラム、並びに情報処理システムおよび方法
JP2012029245A (ja) * 2010-07-27 2012-02-09 Sanyo Electric Co Ltd 撮像装置
WO2012060039A1 (ja) * 2010-11-02 2012-05-10 Necカシオモバイルコミュニケーションズ株式会社 情報処理システム、および情報処理方法
US20130083003A1 (en) * 2011-09-30 2013-04-04 Kathryn Stone Perez Personal audio/visual system

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009177611A (ja) * 2008-01-25 2009-08-06 Nikon Corp デジタルカメラ
JP2009218719A (ja) * 2008-03-07 2009-09-24 Panasonic Corp 撮像装置及び撮像方法
JP2010056834A (ja) * 2008-08-28 2010-03-11 Sony Corp 情報処理装置および方法、プログラム、並びに情報処理システムおよび方法
JP2012029245A (ja) * 2010-07-27 2012-02-09 Sanyo Electric Co Ltd 撮像装置
WO2012060039A1 (ja) * 2010-11-02 2012-05-10 Necカシオモバイルコミュニケーションズ株式会社 情報処理システム、および情報処理方法
US20130083003A1 (en) * 2011-09-30 2013-04-04 Kathryn Stone Perez Personal audio/visual system

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015087523A (ja) * 2013-10-30 2015-05-07 セイコーエプソン株式会社 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム
JP2016161734A (ja) * 2015-03-02 2016-09-05 セイコーエプソン株式会社 表示装置、表示装置の制御方法、および、プログラム
WO2016171190A1 (ja) * 2015-04-22 2016-10-27 日本電気株式会社 暗視装置、暗視方法およびプログラム
KR101761487B1 (ko) * 2015-11-25 2017-08-04 엘지전자 주식회사 Head 디바이스 및 그의 동작 방법
US11347306B2 (en) 2015-12-22 2022-05-31 Interdigital Ce Patent Holdings, Sas Method and apparatus for controlling a discrepant aiming direction of a camera

Also Published As

Publication number Publication date
JP6135162B2 (ja) 2017-05-31

Similar Documents

Publication Publication Date Title
US9411160B2 (en) Head mounted display, control method for head mounted display, and image display system
JP6375591B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム
JP6337433B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6237000B2 (ja) 頭部装着型表示装置
US20160133051A1 (en) Display device, method of controlling the same, and program
JP6094305B2 (ja) 頭部装着型表示装置、および、頭部装着型表示装置の制御方法
JP6277673B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6459380B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP6488786B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP2012203128A (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2016004340A (ja) 情報配信システム、頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP6600945B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、コンピュータープログラム
JP2015115848A (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6135162B2 (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム
JP2016024208A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6303274B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6268778B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
US20160216520A1 (en) Head mounted display device, control method for head mounted display device, and computer program
JP2015087523A (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、画像表示システム
JP6252002B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2016033763A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6304415B2 (ja) 頭部装着型表示装置、および、頭部装着型表示装置の制御方法
JP6582374B2 (ja) 表示装置およびその制御方法、並びにコンピュータープログラム
JP6273677B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6136162B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160107

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160107

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20160530

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160906

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161222

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170328

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170410

R150 Certificate of patent or registration of utility model

Ref document number: 6135162

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150