JP6638325B2 - 表示装置、及び、表示装置の制御方法 - Google Patents

表示装置、及び、表示装置の制御方法 Download PDF

Info

Publication number
JP6638325B2
JP6638325B2 JP2015213656A JP2015213656A JP6638325B2 JP 6638325 B2 JP6638325 B2 JP 6638325B2 JP 2015213656 A JP2015213656 A JP 2015213656A JP 2015213656 A JP2015213656 A JP 2015213656A JP 6638325 B2 JP6638325 B2 JP 6638325B2
Authority
JP
Japan
Prior art keywords
control unit
sensor
unit
sub
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015213656A
Other languages
English (en)
Other versions
JP2017083732A (ja
Inventor
由貴 藤巻
由貴 藤巻
勇一 毛利
勇一 毛利
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2015213656A priority Critical patent/JP6638325B2/ja
Priority to US14/960,791 priority patent/US20160165220A1/en
Publication of JP2017083732A publication Critical patent/JP2017083732A/ja
Application granted granted Critical
Publication of JP6638325B2 publication Critical patent/JP6638325B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、表示装置、及び、表示装置の制御方法に関する。
従来、表示部とともに各種のセンサーを備えた表示装置が知られている(例えば、特許文献1参照)。この種の表示装置では、センサーの検出値を表示の制御に利用することがある。例えば、特許文献1に記載の表示装置は、センサー部を備え、センサー部によりセンシングをした結果を示す信号と、インタラプトを示す信号とが、制御装置の制御部に入力され、センシング結果をもとに制御部が表示制御を行う。
特開2013−114160号公報
ところで、センサーの種類によって、サンプリング周期や検出値のデータ量は様々である。このため、制御部は、接続されたセンサーの仕様に合わせて検出値を取得する必要があり、センサーの種類や数が多くなるほど負荷が増大する。また、多くのセンサーを制御部に接続すると、回路構成の複雑化を招く可能性もあった。
本発明は上記事情に鑑みてなされたものであり、センサーを備えた表示装置において、センサーの検出結果を利用する制御部の処理負荷を軽減し、回路構成の複雑化を回避することを目的とする。
上記目的を達成するために、本発明は、表示部を備えた表示装置であって、複数のセンサーと、前記表示装置を制御する第1制御部と、複数の前記センサーに接続され、前記第1制御部に、複数の前記センサーが検出した検出結果を含むデータを送信する第2制御部と、を備えることを特徴とする。
本発明によれば、複数のセンサーに接続する第2制御部が、表示装置を制御する第1制御部に対してセンサーの検出結果を含むデータを送信するので、第1制御部が直接センサーを制御しなくても良い。このため、表示装置を制御する第1制御部の負荷を増やすことなく、第2制御部により、例えばセンサーの仕様や特性の差に対応した制御を実行できる。従って、第1制御部の処理負荷を軽減し、第1制御部の消費電力の低減、及び、第1制御部の処理速度の向上を図ることができる。また、第1制御部を含む回路構成の複雑化を回避できる。
また、本発明は、上記表示装置において、前記第2制御部は、前記第1制御部の制御に基づき、複数の前記センサーの制御をとりまとめて実行すること、を特徴とする。
本発明によれば、第1制御部の負荷を増やすことなく、多数のセンサーの制御や、センサーに対するきめ細かい制御を行うことが可能となる。
また、本発明は、上記表示装置において、前記第2制御部は、複数の前記センサーの検出結果を、複数の異なるサンプリング周期で取得すること、を特徴とする。
本発明によれば、第1制御部は、サンプリング周期が異なる複数のセンサーの検出結果を取得でき、この検出結果を取得する処理における第1制御部の処理負荷を軽減できる。
また、本発明は、上記表示装置において、前記第2制御部は、第1サンプリング周期、及び、前記第1サンプリング周期より長い第2サンプリング周期で、複数の前記センサーの検出結果を取得し、前記第1サンプリング周期で取得した前記センサーの検出結果と、前記第2サンプリング周期で取得した前記センサーの検出結果とを含むデータを前記第1制御部に送信すること、を特徴とする。
本発明によれば、第1制御部は、サンプリング周期が異なる複数のセンサーの検出結果を取得でき、この検出結果を取得する処理における第1制御部の処理負荷を軽減できる。
また、本発明は、上記表示装置において、前記第2制御部は、前記第1制御部に対し、第1サンプリング周期に対応する第1送信形式、及び、第2サンプリング周期に対応する第2送信形式のいずれかの送信形式で前記センサーの検出結果を含むデータを送信可能であること、を特徴とする。
本発明によれば、センサーに接続される第2制御部が、センサーの検出結果を含むデータを、サンプリング周期に対応する送信形式で送信する。このため、センサーに適したサンプリング周期で、センサーの検出結果の取得、及び、検出結果を含むデータの送信を行える。
また、本発明は、上記表示装置において、前記第2制御部は、前記第1制御部から要求されるサンプリング周期に基づき、前記第1送信形式、及び、前記第2送信形式のいずれかの送信形式を選択して前記センサーの検出結果を含むデータを送信すること、を特徴とする。
本発明によれば、要求されるサンプリング周期で検出結果を取得し、サンプリング周期に適した送信形式で検出結果を含むデータを送信できる。
また、本発明は、上記表示装置において、前記第1制御部と前記第2制御部との間で、前記第2制御部が前記データを前記第1制御部に送信するタイミングを同期させる送信同期処理と、前記第2制御部から前記第1制御部に送信する前記データの設定を行うこと、を特徴とする。
本発明によれば、センサーの検出結果を含むデータを送信する第2制御部と、センサーの検出結果を含むデータを処理する第1制御部とが同期することにより、データ処理を効率よく行うことができる。
また、本発明は、上記表示装置において、前記第2制御部に接続され、前記第2制御部に接続される前記センサーに関する情報を記憶するセンサー情報記憶部を備え、前記第1制御部は、前記センサー情報記憶部に記憶された情報に基づき、前記第2制御部が送信する前記データの設定を行うこと、を特徴とする。
本発明によれば、センサーに関する情報を用いて、センサーの検出結果を含むデータの設定を行うので、例えばセンサーの特性や仕様等に合わせて設定を行うことができる。
また、本発明は、上記表示装置において、前記センサー情報記憶部は、前記センサーに対応して、前記センサーを識別するセンサー識別子と、前記センサーの検出結果を取得するサンプリング周期とを含む情報を記憶すること、を特徴とする。
本発明によれば、センサーを識別し、それぞれのセンサーに対応するサンプリング周期で検出結果を取得できる。
また、本発明は、上記表示装置において、前記センサー情報記憶部は、前記センサーに対応して前記第2制御部が実行する処理を示す情報を記憶すること、を特徴とする。
本発明によれば、センサーに対応して実行する処理を、予め記憶する情報により指定できる。
また、本発明は、上記表示装置において、前記第1制御部は前記第2制御部に対して制御信号を送信し、前記第2制御部は、前記第1制御部から初期化を指示する制御信号を受信した場合に、前記第2制御部に接続される前記センサーを初期化すること、を特徴とする。
本発明によれば、制御信号をトリガーとしてセンサーの初期化を行うことができる。
また、本発明は、上記表示装置において、前記第2制御部は、前記第1制御部から初期化を指示する制御信号を受信して前記センサーを初期化した場合に、前記第1制御部と同期処理を実行し、その後に取得する前記センサーの検出結果に検出時刻の時刻データを付加して前記第1制御部に送信すること、を特徴とする。
本発明によれば、制御信号をトリガーとして第1制御部と第2制御部とが同期し、センサーの初期化を行うことができる。これにより、センサーの検出結果を含むデータに対し、検出したタイミングを加味した処理を行うことができる。
また、本発明は、上記表示装置において、前記第1制御部に接続され、前記制御信号を光信号として送信する送信部と、前記第2制御部に接続され、前記送信部が送信する前記光信号を受信する受信部と、を備えること、を特徴とする。
本発明によれば、光信号を利用することにより制御信号を送受信する際の遅延を抑制できる。
また、本発明は、上記表示装置において、前記第1制御部に接続され、GPS信号に基づき時刻情報を取得する第1GPS受信部と、前記第2制御部に接続され、GPS信号に基づき時刻情報を取得する第2GPS受信部と、を備え、前記第1制御部及び前記第2制御部は、前記第1GPS受信部及び前記第2GPS受信部がそれぞれ取得する時刻情報に基づく同期処理を実行すること、を特徴とする。
本発明によれば、GPS信号を利用して第1制御部と第2制御部とを同期させることができる。
また、本発明は、上記表示装置において、前記第2制御部は、前記第1制御部から設定更新を要求する前記制御信号を受信した場合に、前記第2制御部に接続される前記センサーを初期化すること、を特徴とする。
本発明によれば、第1制御部の制御によりセンサーの初期化を実行できる。
また、本発明は、上記表示装置において、前記同期処理において、前記第1制御部から前記第2制御部に所定のタイミングで同期信号を送信し、前記第2制御部は前記第1制御部が送信する同期信号に基づいて、同期を行うこと、を特徴とする。
本発明によれば、同期信号を送受信することにより、第1制御部と第2制御部とを同期させることができる。
また、本発明は、上記表示装置において、前記同期処理の実行後、前記第1制御部及び前記第2制御部のそれぞれはタイムコードのカウントを実行し、前記第2制御部は、前記センサーの検出結果を取得した場合に、取得した検出結果に取得時刻を示すタイムコードを付加した前記データを送信すること、を特徴とする。
本発明によれば、センサーの検出結果を含むデータを送受信することにより、検出結果を取得した時刻を送受信できる。
また、本発明は、上記表示装置において、前記第2制御部は、前記センサーの検出結果を取得した場合に、取得時刻を示すタイムコードを、取得した検出結果のデータに埋め込み、或いは検出結果に付加して前記データを生成して送信すること、を特徴とする。
本発明によれば、センサーの検出結果を含むデータにタイムコードを埋め込むことで、データの送受信に係る処理の効率を向上できる。
また、本発明は、上記表示装置において、前記第2制御部は、前記第1制御部からコマンドを受信した場合に、前記センサーの検出結果に基づき予め設定された所定処理を実行すること、を特徴とする。
本発明によれば、センサーの検出値を取得する第2制御部が、センサーの検出結果に基づく処理を実行するので、第1制御部の処理負荷をより一層、軽減できる。
また、本発明は、上記表示装置において、前記第2制御部は、前記所定処理として、前記センサーの検出結果に基づき、前記表示部の環境に対応して前記表示部の表示状態を変化させる処理を実行すること、を特徴とする。
本発明によれば、第1制御部の負荷を増大させずに、表示部の環境に対応して表示状態を変化させる処理を実行できる。
また、本発明は、上記表示装置において、前記第2制御部は設定データを記憶する設定データ記憶部に接続され、前記設定データ記憶部に記憶された設定データを用いて前記所定処理を実行すること、を特徴とする。
本発明によれば、センサーの検出値を取得する第2制御部が、設定データに基づき表示状態を変化させる処理を実行できる。
ここで、設定データを記憶する設定データ記憶部を、第2制御部と一体に、或いは第2制御部の内部に設けてもよい。
また、本発明は、上記表示装置において、前記第2制御部は、前記センサーから取得した検出結果を前記第1制御部に送信するまで保持すること、を特徴とする。
本発明によれば、第2制御部がセンサーの検出結果を取得するタイミングに制約を受けることなく、第1制御部が処理を実行できるので、処理負荷を、より一層軽減できる。
また、本発明は、上記表示装置において、前記第2制御部は、いずれかの前記センサーの検出結果に基づき、他の前記センサーの検出結果に対する処理を実行し、処理後の検出結果を前記第1制御部に送信すること、を特徴とする。
本発明によれば、センサーの検出結果に基づき他のセンサーの検出結果を補正したり、センサーフュージョン等の処理を行ったりすることができる。
また、本発明は、上記表示装置において、前記第1制御部を有する第1本体と、前記第2制御部及び前記表示部を有する第2本体と、を備え、前記第2制御部は前記第2本体に設けられた複数の前記センサーに接続され、前記第1本体にはセンサーが設けられ、前記第1本体に設けられたセンサーは前記第1制御部に接続され、前記第1制御部は、前記第2本体の前記センサーの検出結果及び位置と、前記第1本体に設けられた前記センサーの検出結果及び位置とに基づき、特性値を算出すること、を特徴とする。
本発明によれば、第1制御部が、第1制御部を有する第1本体のセンサーの検出結果と、表示部を備える第2本体のセンサーの検出結果とを利用して、特性値を得ることができ、この特性値の算出に関して第1制御部の負荷を軽減できる。
また、本発明は、上記表示装置において、前記第1制御部、及び前記表示部を有する第1本体と、前記第2制御部を有する第2本体と、を備え、前記第2制御部は前記第2本体に設けられた複数の前記センサーに接続され、前記第1本体にはセンサーが設けられ、前記第1本体に設けられたセンサーは前記第1制御部に接続され、前記第1制御部は、前記第1本体に設けられた前記センサー及び前記第2本体に設けられた前記センサーの検出結果に基づき制御を行うこと、を特徴とする。
本発明によれば、表示部とともに第1本体に設けられた第1制御部が、第2本体のセンサーの検出結果を取得でき、この第2本体のセンサーの検出結果を取得する処理の負荷を軽減できる。
また、上記目的を達成するために、本発明の表示装置の制御方法は、表示部と、複数のセンサーと、第1及び第2制御部とを備えた表示装置を制御し、複数の前記センサーに接続された前記第2制御部により、複数の前記センサーに対する制御をとりまとめて行い、複数の前記センサーの検出結果を含むデータを、前記表示装置を制御する前記第1制御部に送信すること、を特徴とする。
本発明によれば、表示装置を制御する第1制御部が直接センサーを制御する必要がなく、この第1制御部の負荷を増やすことなく、第2制御部により、例えばセンサーの仕様や特性の差に対応した制御を実行できる。このため、第1制御部の処理負荷を軽減し、第1制御部の消費電力の低減、及び、第1制御部の処理速度の向上を図ることができる。また、第1制御部を含む回路構成の複雑化を回避できる。
第1実施形態の頭部装着型表示装置の外観構成を示す説明図。 画像表示部の光学系の構成を示す図。 頭部装着型表示装置を構成する各部の機能ブロック図。 頭部装着型表示装置の動作を示すフローチャートであり、(A)は制御装置の動作を示し、(B)は画像表示部の動作を示す。 頭部装着型表示装置の動作を示すフローチャートであり、(A)は制御装置の動作を示し、(B)は画像表示部の動作を示す。 頭部装着型表示装置の動作を示すフローチャートであり、(A)は制御装置の動作を示し、(B)は画像表示部の動作を示す。 第2実施形態の頭部装着型表示装置の動作を示すフローチャートであり、(A)は制御装置の動作を示し、(B)は画像表示部の動作を示す。 画像表示部が記憶するセンサーデータの構成例を示す模式図。 画像表示部が制御装置に送信するデータの送信形式の例を示す模式図。 頭部装着型表示装置の動作を示すフローチャートであり、(A)は制御装置の動作を示し、(B)は画像表示部の動作を示す。 第3実施形態の頭部装着型表示装置を構成する各部の機能ブロック図。 第4実施形態の通信システムの外観構成を示す説明図。 第4実施形態の通信システムを構成する各部の機能ブロック図。
[第1実施形態]
図1は、本発明を適用した第1実施形態に係る頭部装着型表示装置100(表示装置)の外観構成を示す説明図である。
頭部装着型表示装置100は、使用者の頭部に装着された状態で使用者に虚像を視認させる画像表示部20(表示部)と、画像表示部20を制御する制御装置10と、を備えている。制御装置10は、使用者が頭部装着型表示装置100を操作するコントローラーとしても機能する。
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有する。画像表示部20は、右保持部21と、右表示駆動部22と、左保持部23と、左表示駆動部24と、右光学像表示部26と、左光学像表示部28と、カメラ61(撮像部)と、マイク63とを備える。右光学像表示部26及び左光学像表示部28は、それぞれ、使用者が画像表示部20を装着した際に使用者の右及び左の眼前に位置するように配置されている。右光学像表示部26の一端と左光学像表示部28の一端とは、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置で、互いに連結されている。
右保持部21は、右光学像表示部26の他端である端部ERから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。同様に、左保持部23は、左光学像表示部28の他端である端部ELから、使用者が画像表示部20を装着した際の使用者の側頭部に対応する位置にかけて、延伸して設けられた部材である。右保持部21及び左保持部23は、眼鏡のテンプル(つる)のようにして、使用者の頭部に画像表示部20を保持する。
右表示駆動部22と左表示駆動部24とは、使用者が画像表示部20を装着した際の使用者の頭部に対向する側に配置されている。なお、右表示駆動部22及び左表示駆動部24を総称して単に「表示駆動部」とも呼び、右光学像表示部26及び左光学像表示部28を総称して単に「光学像表示部」とも呼ぶ。
表示駆動部22,24は、図2を参照して後述する液晶ディスプレイ241,242(Liquid Crystal Display、以下「LCD241,242」と呼ぶ)、投写光学系251,252等を含む。
右光学像表示部26及び左光学像表示部28は、導光板261,262(図2)と、調光板20Aとを備える。導光板261,262は、光透過性の樹脂等によって形成され、表示駆動部22,24が出力する画像光を、使用者の眼に導く。調光板20Aは、薄板状の光学素子であり、使用者の眼の側とは反対の側である画像表示部20の表側を覆うように配置される。調光板20Aは、光透過性がほぼ無いもの、透明に近いもの、光量を減衰させて光を透過するもの、特定の波長の光を減衰又は反射するもの等、種々のものを用いることができる。調光板20Aの光学特性(光透過率など)を適宜選択することにより、外部から右光学像表示部26及び左光学像表示部28に入射する外光量を調整して、虚像の視認のしやすさを調整できる。本実施形態では、少なくとも、頭部装着型表示装置100を装着した使用者が外の景色を視認できる程度の光透過性を有する調光板20Aを用いる場合について説明する。調光板20Aは、右導光板261及び左導光板262を保護し、右導光板261及び左導光板262の損傷や汚れの付着等を抑制する。
調光板20Aは、右光学像表示部26及び左光学像表示部28に対し着脱可能としてもよく、複数種類の調光板20Aを交換して装着可能としてもよいし、省略してもよい。
カメラ61は、右光学像表示部26と左光学像表示部28との境目部分に配置される。使用者が画像表示部20を装着した状態で、カメラ61の位置は、水平方向においては使用者の両眼のほぼ中間であり、鉛直方向においては使用者の両眼より上である。カメラ61は、CCDやCMOS等の撮像素子及び撮像レンズ等を備えるデジタルカメラであり、単眼カメラであってもステレオカメラであってもよい。
カメラ61は、頭部装着型表示装置100の表側方向、換言すれば、頭部装着型表示装置100を装着した状態における使用者の視界方向の少なくとも一部の外景を撮像する。カメラ61の画角の広さは適宜設定可能であるが、カメラ61の撮像範囲が、使用者が右光学像表示部26、左光学像表示部28を通して視認する外界を含む範囲であることが好ましい。さらに、調光板20Aを通した使用者の視界の全体を撮像できるようにカメラ61の撮像範囲が設定されているとより好ましい。
図2は、画像表示部20が備える光学系の構成を示す要部平面図である。図2には説明のため使用者の左眼LE及び右眼REを図示する。
左表示駆動部24は、LED等の光源と拡散板とを有する左バックライト222を備える。また、左表示駆動部24は、左バックライト222の拡散板で拡散された光の光路上に配置される透過型の左LCD242、および、左LCD242を透過した画像光Lを導くレンズ群等を備えた左投写光学系252を備える。左LCD242は、複数の画素をマトリクス状に配置した透過型液晶パネルである。
左投写光学系252は、左LCD242から射出された画像光Lを平行状態の光束にするコリメートレンズを有する。コリメートレンズにより平行状態の光束にされた画像光Lは、左導光板262(光学素子)に入射される。左導光板262は、画像光Lを反射する複数の反射面が形成されたプリズムであり、画像光Lは、左導光板262の内部において複数回の反射を経て左眼LE側に導かれる。左導光板262には、左眼LEの眼前に位置するハーフミラー262A(反射面)が形成される。
ハーフミラー262Aで反射した画像光Lは左眼LEに向けて左光学像表示部28から射出され、この画像光Lが左眼LEの網膜に像を結び、使用者に画像を視認させる。
右表示駆動部22は、左表示駆動部24と左右対称に構成される。右表示駆動部22は、LED等の光源と拡散板とを有する右バックライト221を備える。また、右表示駆動部22は、右バックライト221の拡散板で拡散された光の光路上に配置される透過型の右LCD241、および、右LCD241を透過した画像光Lを導くレンズ群等を備えた右投写光学系251を備える。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。
右投写光学系251は、右LCD241から射出された画像光Lを平行状態の光束にするコリメートレンズを有する。コリメートレンズにより平行状態の光束にされた画像光Lは、右導光板261(光学素子)に入射される。右導光板261は、画像光Lを反射する複数の反射面が形成されたプリズムであり、画像光Lは、右導光板261の内部において複数回の反射を経て右眼RE側に導かれる。右導光板261には、右眼REの眼前に位置するハーフミラー261A(反射面)が形成される。
ハーフミラー261Aで反射した画像光Lは右眼REに向けて右光学像表示部26から射出され、この画像光Lが右眼REの網膜に像を結び、使用者に画像を視認させる。
使用者の右眼REには、ハーフミラー261Aで反射した画像光Lと、調光板20Aを透過した外光OLとが入射する。左眼LEには、ハーフミラー262Aで反射した画像光Lと、調光板20Aを透過した外光OLとが入射する。このように、頭部装着型表示装置100は、内部で処理した画像の画像光Lと外光OLとを重ねて使用者の眼に入射させ、使用者にとっては、調光板20Aを透かして外景が見え、この外景に重ねて、画像光Lによる画像が視認される。このように、頭部装着型表示装置100は、シースルー型の表示装置として機能する。
なお、左投写光学系252と左導光板262とを総称して「左導光部」とも呼び、右投写光学系251と右導光板261とを総称して「右導光部」と呼ぶ。右導光部及び左導光部の構成は上記の例に限定されず、画像光を用いて使用者の眼前に虚像を形成する限りにおいて任意の方式を用いることができ、例えば、回折格子を用いても良いし、半透過反射膜を用いても良い。
画像表示部20(図1)は、制御装置10に接続部40を介して接続する。接続部40は、制御装置10に接続される本体コード48、右コード42、左コード44、及び、連結部材46を備えるハーネスである。右コード42及び左コード44は、本体コード48が2本に分岐し、右コード42は右保持部21の延伸方向の先端部APから右保持部21の筐体内に挿入され、右表示駆動部22に接続される。同様に、左コード44は、左保持部23の延伸方向の先端部APから左保持部23の筐体内に挿入され、左表示駆動部24に接続される。右コード42、左コード44、及び、本体コード48は、デジタルデータを伝送可能なものであればよく、例えば金属ケーブルや光ファイバーで構成できる。また、右コード42と左コード44とを一本のコードにまとめた構成としてもよい。
連結部材46は、本体コード48と、右コード42及び左コード44との分岐点に設けられ、イヤホンプラグ30を接続するためのジャックを有する。イヤホンプラグ30からは、右イヤホン32及び左イヤホン34が延伸する。イヤホンプラグ30の近傍にはマイク63が設けられる。イヤホンプラグ30からマイク63までは一本のコードにまとめられ、マイク63からコードが分岐して、右イヤホン32と左イヤホン34のそれぞれに繋がる。
マイク63は、例えば図1に示すように、マイク63の集音部が使用者の視線方向を向くように配置され、音声を集音して、音声信号を出力する。マイク63は、例えばモノラルマイクであってもステレオマイクであってもよく、指向性を有するマイクであってもよいし、無指向性のマイクであってもよい。
画像表示部20と制御装置10とは、接続部40を介して各種信号を伝送する。本体コード48の連結部材46とは反対側の端部、及び、制御装置10には、互いに嵌合するコネクター(図示略)が設けられる。本体コード48のコネクターと制御装置10のコネクターとを嵌合し、或いは、この嵌合を外すことで、制御装置10と画像表示部20とを接離できる。
制御装置10は、画像表示部20の本体(第2本体)とは別体となる箱形の本体(第1本体)を有し、頭部装着型表示装置100を制御する。制御装置10は、決定キー11、点灯部12、表示切替キー13、輝度切替キー15、方向キー16、メニューキー17、及び電源スイッチ18を含むスイッチ類を備える。また、制御装置10は、使用者が手指で操作するトラックパッド14を備える。
決定キー11は、押下操作を検出して、制御装置10で操作された内容を決定する信号を出力する。点灯部12は、LED(Light Emitting Diode)等の光源を備え、光源の点灯状態により、頭部装着型表示装置100の動作状態(例えば、電源のON/OFF)を通知する。表示切替キー13は、押下操作に応じて、例えば、画像の表示モードの切り替えを指示する信号を出力する。
トラックパッド14は、接触操作を検出する操作面を有し、操作面に対する操作に応じて操作信号を出力する。操作面における検出方式は限定されず、静電式、圧力検出式、光学式等を採用できる。輝度切替キー15は、押下操作に応じて画像表示部20の輝度の増減を指示する信号を出力する。方向キー16は、上下左右方向に対応するキーへの押下操作に応じて操作信号を出力する。電源スイッチ18は、頭部装着型表示装置100の電源オン/オフを切り替えるスイッチである。
図3は、頭部装着型表示装置100を構成する各部の機能ブロック図である。
制御装置10は、制御装置10及び画像表示部20を制御する制御部110(第1制御部)を備える。制御部110は、例えばマイクロプロセッサーで構成され、制御部110が処理するデータ等を一時的に記憶するメモリー121、及び、制御部110が処理するデータ等を不揮発的に記憶するフラッシュメモリー122に接続される。メモリー121及びフラッシュメモリー122はいずれも半導体素子により構成され、データバスを介して制御部110に接続する。
制御部110には、電源制御部123、UI(ユーザーインターフェイス)制御部124、無線I/F(インターフェイス)制御部125、音声制御部126、センサーIC127、及び、外部I/F(インターフェイス)部128が接続される。
頭部装着型表示装置100は、電源として一次電池または二次電池を備え、電源制御部123は、これら電池に接続されるICで構成される。電源制御部123は、制御部110の制御に従って電池の残容量の検出を行い、検出値のデータ、または残容量が設定値以下となったことを示すデータを制御部110に出力する。
UI制御部124は、図1に示した決定キー11、表示切替キー13、トラックパッド14、輝度切替キー15、方向キー16、及びメニューキー17の各操作部、点灯部12、及び、トラックパッド14が接続されるICである。上記各操作部は入力部として機能し、点灯部12及びトラックパッド14は出力部として機能し、頭部装着型表示装置100のユーザーインターフェイスを構成する。UI制御部124は、上記操作部における操作を検出して、操作に対応する操作データを制御部110に出力する。また、UI制御部124は、制御部110の制御に従って、点灯部12の点灯/消灯、及びトラックパッド14における表示を行う。
無線I/F制御部125は、無線通信インターフェイス(図示略)に接続される制御ICであり、制御部110の制御に従って、上記無線通信インターフェイスによる通信を実行する。制御装置10が備える無線通信インターフェイスは、例えば、無線LAN(WiFi(登録商標))、Miracast(登録商標)、Bluetooth(登録商標)等の規格に準じた無線データ通信を実行する。
音声制御部126は、右イヤホン32、左イヤホン34、及びマイク63に接続され、A/D(アナログ/ディジタル)コンバーターやアンプ等を備えるICである。音声制御部126は、制御部110から入力される音声データに基づき右イヤホン32及び左イヤホン34から音声を出力させる。また、音声制御部126は、マイク63が集音する音声に基づき音声データを生成して制御部110に出力する。
センサーIC127は、例えば、3軸加速度センサー、3軸ジャイロセンサー、及び3軸地磁気センサーを備え、例えば上記センサーを具備する1つのICで構成される。センサーIC127は、制御部110の制御に従って検出を実行し、各センサーの検出値を示すデータを制御部110に出力する。センサーIC127が備えるセンサーの数や種類は制限されず、照度センサー、温度センサー、圧力センサー等を備えてもよい。
外部I/F部128は、頭部装着型表示装置100を外部機器に接続するインターフェイスである。例えば、USBインターフェイス、マイクロUSBインターフェイス、メモリーカード用インターフェイス等の有線接続に対応したインターフェイスを用いることができ、無線通信インターフェイスで構成してもよい。外部I/F部128には、頭部装着型表示装置100に対してコンテンツを供給する種々の外部機器を接続できる。これらの外部機器は、頭部装着型表示装置100に画像を供給する画像供給装置ということもでき、例えば、パーソナルコンピューター(PC)、携帯電話端末、携帯型ゲーム機等が用いられる。また、外部I/F部128は、右イヤホン32、左イヤホン34及びマイク63に繋がる端子を設けてもよく、この場合、音声制御部126が処理するアナログ音声信号は外部I/F部128を介して入出力される。
制御部110には、I/F(インターフェイス)部115が接続される。I/F部115は接続部40に一端に接続するコネクター等を備えたインターフェイスであり、接続部40の他端は画像表示部20のI/F部155に接続される。
制御部110は、接続部40を介して、画像表示部20が備えるサブ制御部150とデータ通信を実行する。
制御部110は、内蔵するROMに記憶するプログラムを実行して、頭部装着型表示装置100の各部を制御する。制御部110は、センサーIC127から入力されるデータに基づきセンサーの検出値を取得して、メモリー121に記憶する。このとき、制御部110は、センサーの検出値に対応付けて、検出値を取得した時刻を示すタイムスタンプ情報を付加して記憶する。
また、制御部110は、接続部40を介して、画像表示部20が備えるセンサー(第1センサー161、第2センサー162、GPS163、及び、照度センサー164)の検出値を示すデータを受信する。制御部110は、受信したデータをメモリー121に記憶する。制御部110が受信するデータは、サブ制御部150が付加したタイムスタンプ情報を含む。制御部110は、上記のようにセンサーIC127の検出値に付加するタイムスタンプ情報を、サブ制御部150が付加したタイムスタンプ情報と区別できる態様で付加し、メモリー121に記憶する。メモリー121には、センサーの検出値が、データの属性の1つとしてタイムスタンプ情報が付加されたデータ形式で記憶される。ここで、制御部110は、センサーの検出値のデータを、フラッシュメモリー122に記憶してもよい。
制御部110は、外部I/F部128または無線I/F制御部125により接続する外部機器から、コンテンツのデータを受信して、フラッシュメモリー122に記憶する。コンテンツのデータは、画像表示部20で表示するテキストや画像等のデータであり、右イヤホン32及び左イヤホン34で出力する音声のデータを含んでもよい。制御部110は、頭部装着型表示装置100を制御してコンテンツを再生する。具体的には、制御部110は、コンテンツの表示用のデータをサブ制御部150に送信して表示を実行させ、コンテンツの音声データを音声制御部126に出力して音声を出力させる。また、外部機器から受信するコンテンツのデータが、再生に関する条件を示すデータを含む場合、制御部110は、この条件に従ってコンテンツを再生する。例えば、画像表示部20において検出される位置や傾き等のセンサーの検出値が、条件に該当する場合に、検出値に対応するテキストや画像を表示させる。
画像表示部20は、制御部110と通信を実行し、画像表示部20の各部を制御するサブ制御部150を備える。サブ制御部150は、例えばマイコン、SoC(System-on-a-chip)等のマイクロプロセッサーで構成され、I/F部155により接続部40に接続され、接続部40を介して制御部110との間でデータ通信を実行する。サブ制御部150は、プロセッサーの他、プロセッサーが実行する制御プログラムを不揮発的に記憶するROM(Read Only Memory)、ワークエリアを構成するRAM(Random Access Memory)を有してもよい。サブ制御部150は、内蔵するROMまたは後述するEEPROM165に記憶するプログラムを実行し、各種の機能を実現する。
サブ制御部150には、第1センサー161、第2センサー162、GPS163、及び照度センサー164のセンサー類が接続される。第1センサー161及び第2センサー162は、それぞれ、1または複数のセンサーを内蔵するICである。本実施形態では一例として、第1センサー161は、3軸加速度センサー、及び3軸ジャイロセンサーを内蔵し、第2センサー162は、3軸加速度センサー、3軸ジャイロセンサー、及び、3軸地磁気センサーを備える。
第1センサー161及び第2センサー162は、サブ制御部150の制御により駆動され、内蔵する各センサーの検出値を示すデータを、サブ制御部150に出力する。
第1センサー161と第2センサー162は、加速度センサー及びジャイロセンサーを備える点で共通するが、第1センサー161は狭レンジ、高分解能センサーとして構成され、第2センサー162は広レンジ、低分解能センサーとして構成される。すなわち、第1センサー161の加速度センサー及びジャイロセンサーは、第2センサー162の加速度センサー及びジャイロセンサーに比べ、分解能が高く、検出範囲が狭い。別の言い方をすれば、第2センサー162の加速度センサー及びジャイロセンサーは、第1センサー161の加速度センサー及びジャイロセンサーに比べ、分解能が低く、検出範囲が広い。
GPS163は、GPS衛星や屋内に設置される疑似GPS送信機(図示略)が送信する位置検出用の信号を受信して、画像表示部20の現在位置を算出し、算出したデータをサブ制御部150に出力する。GPS163は、位置検出用の信号を受信する受信機としての機能のみ有する構成としてもよく、この場合、GPS163が出力するデータに基づきサブ制御部150が現在位置を算出する処理を行えば良い。
照度センサー164は、画像表示部20において表面に露出する位置に配置され、サブ制御部150の制御により照度を検出し、検出値を示すデータをサブ制御部150に出力する。
EEPROM165(設定データ記憶部)は、サブ制御部150が実行する処理に関するデータ等を不揮発的に記憶する。
また、サブ制御部150にはカメラ61が接続され、サブ制御部150は、カメラ61を制御して撮像を実行させ、カメラ61の撮像画像データを制御部110に送信する。
サブ制御部150には、右LCD241を駆動して描画を行うLCD駆動部167、及び、左LCD242を駆動して描画を行うLCD駆動部168が接続される。サブ制御部150は、制御部110からコンテンツのデータを受信し、受信したデータに含まれるテキストや画像を表示する表示データを生成してLCD駆動部167、168に出力し、表示を実行させる。
また、サブ制御部150は、右バックライト221を駆動するバックライト駆動部169、及び、左バックライト222を駆動するバックライト駆動部170に接続される。サブ制御部150は、バックライト駆動部169、170に対し、PWM制御用のタイミングデータを含む制御データを出力する。バックライト駆動部169、170は、サブ制御部150から入力される制御データに基づき、右バックライト221、左バックライト222に駆動電圧とパルスを供給して、右バックライト221、左バックライト222を点灯させ、光量の制御を行う。
制御部110とサブ制御部150とを接続する接続部40は、制御データバス41A、画像データバス41B、表示データバス41C、41Dを含む複数のデータバスを有する。これらのデータバスは、互いに独立してデータを伝送可能であるが、各データバスを構成する信号線が物理的に区分された構成であってもよいし、各データバスが共通の信号線を用いて仮想的あるいは論理的に構成されてもよい。
制御データバス41Aは、制御部110からサブ制御部150に対して送信される制御データ、サブ制御部150が制御部110に送信するセンサーの検出値のデータ等を伝送する。画像データバス41Bは、サブ制御部150から制御部110に、カメラ61の撮像画像データを伝送する。表示データバス41Cは、右表示駆動部22で表示するデータを伝送し、表示データバス41Dは左表示駆動部24で表示するデータを伝送する。
画像表示部20は、第1センサー161、第2センサー162、GPS163、及び照度センサー164の複数のセンサーを備え、これらのセンサーのサンプリング周期は大きく異なることもある。例えば、第1センサー161及び第2センサー162の加速度センサーのサンプリング周期(サンプリング頻度)は200回/秒以上となることが考えられるが、照度センサー164のサンプリング周期は1回/秒程度でも十分に役立つことが考えられる。これらのセンサーは、サブ制御部150がサンプリング周期の設定を行い、設定したサンプリング周期に従ってサブ制御部150が検出値を取得する。サブ制御部150は、各センサーからサンプリングした検出値のデータを、制御データバス41Aにおいて時分割で制御部110に送信する。このため、サンプリング周期の遅い(サンプリング頻度が低い、或いは、サンプリング間隔が長いと言い換えられる)センサーを制御するために制御データバス41Aが長時間占有されることがない。これにより、制御データバス41Aのオーバーヘッドを低減し、制御データバス41Aで多数のセンサーの検出値を効率よく伝送できる。また、サブ制御部150は、RAM(図示略)を内蔵し、センサーの検出値を取得した場合はRAMに一時的に記憶する。サブ制御部150は、RAMに記憶したデータの送信タイミングを調整して、データを制御データバス41Aに送出する。このため、サブ制御部150の動作も、各センサーのサンプリング周期の制約を受けにくく、センサーの制御のためにサブ制御部150の処理が占有される事態を防止できる。
図4は、頭部装着型表示装置100の動作を示すフローチャートであり、(A)は制御装置10の動作を示し、(B)は画像表示部20の動作を示す。
頭部装着型表示装置100においてセンサーの検出値に基づく処理を実行する場合、制御部110が、センサーの有効化を指示するコマンドを生成してサブ制御部150に送信する(ステップS11)。このコマンドは制御データバス41Aを介して伝送され、サブ制御部150はコマンドを受信する(ステップS21)。サブ制御部150はコマンドに従って、第1センサー161、第2センサー162、GPS163、及び照度センサー164を有効化し(ステップS22)、サンプリング周期をセンサー毎に設定する(ステップS23)。続いて、制御部110は、検出を行う対象のセンサー、或いは、必要な検出値の種類を指定する検出値要求コマンドを生成して送信し(ステップS12)、この検出値要求コマンドをサブ制御部150が受信する(ステップS24)。ステップS22では、第1センサー161、第2センサー162、GPS163、及び照度センサー164の少なくとも一部について、電源供給の開始や初期化等の処理が行われる。サブ制御部150は、各センサーのうち、ステップS24で受信する検出値要求コマンドで要求された検出値に対応するセンサーのみを、ステップS24を受信した後に有効化及びサンプリング周期の設定をしてもよい。また、ステップS11で送信されるコマンド及びステップS12で送信される検出値要求コマンドが、ひとまとまりのデータ、或いは1つのコマンドとして送受信されてもよい。
サブ制御部150は、ステップS24で受信した検出値要求コマンドで要求された検出値が、複合処理により算出する必要のある検出値か否かを判定する(ステップS25)。例えば、検出値要求コマンドが、第1センサー161、第2センサー162、GPS163、及び照度センサー164の検出値を指定する場合、複合処理は必要ないと判定し(ステップS25;NO)、後述するステップS27に移行する。
これに対し、検出値要求コマンドで、画像表示部20が備えるセンサーの一部または全部の検出値に基づく演算処理で求められる検出値が指定された場合、サブ制御部150は、複合処理が必要と判定する(ステップS25;YES)。この場合、サブ制御部150は、実行すべき処理を設定し(ステップS26)、ステップS27に移行する。
サブ制御部150が実行する処理は、例えば、センサーフュージョン処理、補間処理、及び、代替処理である。センサーフュージョン処理は、第1センサー161、第2センサー162、GPS163、及び照度センサー164の検出値のうち、複数の検出値を用いた演算処理を行い、センサーで直接検出できない種類の値を擬似的に求める処理である。これにより、第1センサー161、第2センサー162、GPS163、及び照度センサー164の各センサーのうち一つ、或いは少数のセンサーでは直接検出できない種類の値を求めることができる。また、センサーフュージョン処理では、上記のセンサーの一つ、または複数のセンサーで直接検出し、センサーが検出値として出力できる種類の値を、より高精度で求める目的でも利用できる。つまり、センサーの検出値の基づく演算処理により、センサーが直接検出できない制度の値を求めることもできる。例えば、第1センサー161及び第2センサー162が出力する角速度の検出値に基づき、センサーフュージョン処理を行い、より高精度の角速度の検出値を求めることができる。加速度や地磁気の検出値、GPS163、及び照度センサー164の検出値についても同様である。
補間処理で、サブ制御部150は、第1センサー161、第2センサー162、GPS163、及び照度センサー164の検出値のいずれかについて、他のセンサーの検出値を用いて、ノイズ成分の除去、補間データの作成及び付加を行う演算処理を行う。サブ制御部150は、演算処理後の値を、実際の検出値と同様に制御部110に送信する。この場合、修正された検出値や演算処理で補完された検出値が、実際の検出値と同様に送信されるので、制御部110は、実際の検出値と同じように処理を実行できるので、制御部110が実行する処理に影響を与えずに、処理の精度向上を図ることができる。
また、代替処理は、画像表示部20が備えるセンサーのうち故障または正常に動作しないセンサーや、仕様上の都合で画像表示部20が備えていないセンサーの検出値を擬似的に求める処理である。
例えば、サブ制御部150は、画像表示部20を装着した使用者の頭部の中心または顔面の中心の位置における、加速度センサーの検出値を求めることができる。この場合、サブ制御部150は、第1センサー161及び第2センサー162の加速度センサーの検出値と、画像表示部20において第1センサー161及び第2センサー162が取り付けられた位置とに基づく演算を行う。また、この演算で画像表示部20と使用者の頭部との位置関係を加味してもよい。これにより、実際にはセンサーを装着できない使用者の頭の中心や顔の中心の傾きを、求めることができる。また、例えば、第1センサー161、第2センサー162が備える加速度センサーの検出値から、画像表示部20を叩くタップ操作を検出し、タップセンサーの検出値として出力することができる。
センサーフュージョン処理や代替処理で得られる検出値は、演算処理で求められる推定値である。サブ制御部150は、求めた検出値を、推定値であることを示す属性データを付加して制御部110に送信してもよいし、他のセンサーによる実際の検出値のデータと同様に送信してもよい。
ステップS27で、サブ制御部150は、第1センサー161、第2センサー162、GPS163、及び照度センサー164の各センサーのうち、検出対象のセンサーに対し、検出値を取得する処理を開始する(ステップS27)。サブ制御部150は、センサーの検出値を、ステップS23で各センサーに設定したサンプリング周期に従って取得し(ステップS28)、RAMに記憶する。
サブ制御部150は、検出値に基づく処理をステップS26で設定した場合は、設定した処理を実行する(ステップS29)。サブ制御部150は、設定した処理を実行するために複数のセンサーの検出値が必要な場合、これら複数のセンサーの全てについて検出値を取得するまで待機し、その後に処理を実行すれば良い。
サブ制御部150は、RAMに記憶したセンサーの検出値を送信する送信タイミングの調整を行い(ステップS30)、調整したタイミングに合わせて、RAMに記憶した設定値のデータを制御部110に送信する(ステップS31)。ここで、サブ制御部150は、検出値のデータに、検出した時刻を示すタイムスタンプ情報を含めて送信してもよい。
制御部110は、サブ制御部150が制御データバス41Aを介して送信するデータを受信し(ステップS13)、受信したデータに基づきコンテンツの再生制御等を実行する。
サブ制御部150は、制御部110へのデータ送信が成功したか否かを判定し(ステップS32)、送信に成功した場合(ステップS32;YES)、後述するステップS36に移行する。
サブ制御部150は、制御部110へのデータ送信が成功しなかった場合(ステップS32;NO)、サブ制御部150内部のRAMの空き容量が所定値以上であるか否かを判定する(ステップS33)。ここで、RAMの空き容量が、予め設定された所定値以上である場合(ステップS33;YES)、サブ制御部150は、検出値の記憶を継続して(ステップS35)、ステップS36に移行する。
また、RAMの空き容量が、予め設定された所定値より少ない場合(ステップS33;NO)、サブ制御部150は、既に記憶した検出値の平均を求めるなどの集計を行い(ステップS34)、ステップS36に移行する。ステップS34では、1つのセンサーの検出値がRAMに複数記憶されている場合に、平均値を算出し、この平均値をRAMに記憶してもとの検出値をRAMから削除する。これにより、RAMの記憶容量の不足を防止できる。この場合、サブ制御部150は、制御部110に対し、センサーの検出値として平均値を送信すればよい。
ステップS32〜S35の動作で、例えば、外部機器から制御部110がコンテンツのデータを受信する処理等により、制御部110の処理が占有されていて検出値のデータを受信できない場合であっても、画像表示部20が備える検出値の欠落を防止できる。
ステップS36で、サブ制御部150は、終了条件が成立したか否かを判定し(ステップS36)、終了条件が成立していない場合は(ステップS36;NO)、ステップS28に戻って検出値を取得する。また、終了条件が成立した場合(ステップS36;YES)、本処理を終了する。終了条件は、例えば、制御部110から処理終了を指示するコマンドを受信したこと、制御部110の検出値要求コマンドで検出値を取得する回数が指定された場合に、指定された回数の処理が完了したこと、等である。
このように、サブ制御部150が第1センサー161、第2センサー162、GPS163、及び照度センサー164等のセンサーを制御して検出値を取得し、制御部110に送信する。このため、制御部110が各センサーを制御する場合に比べて、制御部110の処理負荷、制御部110の処理の占有時間を大幅に軽減できる。また、制御部110に各センサーを接続した場合、サンプリング周期が異なるセンサーの検出値を同じ信号線で伝送することは困難であるから、接続部40に設ける信号線の数がセンサーの数に対応して多くなる。このため、接続部40のハーネスが太くなり取り回しが低下する、センサーの数が制限される等の好ましくない事態が懸念される。本実施形態のように、サブ制御部150が各センサーの検出値を取得し、制御データバス41Aを介した送信タイミングの調整を行い、複数のセンサーの検出値を送信することで、上記の事態を全て防止でき、効率のよい処理を実現できる。例えば、サブ制御部150は、サンプリング周期が短いセンサーの検出値を送信する動作を、予め設定したタイミングで優先的に行い、この動作の空き時間に、サンプリング周期の長いセンサーの検出値を送信してもよい。
制御部110は、図4の動作によりサブ制御部150から受信した検出値を用いて、頭部装着型表示装置100を制御する。例えば、制御部110は、サブ制御部150が検出値に付加したタイムスタンプ情報に基づいて、センサー間のアクセス時間差によるレイテンシーを求め、補間情報を算出して、レイテンシーを補正する処理を行える。
図4に示す動作では、サブ制御部150が、データを送信する度にセンサーからデータを取得する例を示したが、本発明はこれに限定されない。サブ制御部150は、センサーのサンプリングタイミングで並列にセンサーデータを取得して、取得したデータを、制御部110に送信せずに記憶しておいてもよい。この場合、サブ制御部150は、記憶したデータを、予め制御部110の制御で決められたタイミングで、制御部110に送信する。また、サブ制御部150は、記憶したデータのうち最新のデータをまとめて制御部110に送信してもよい。さらに、サブ制御部150が送信するデータには、前回センサーから取得した時から更新されていないデータを含んでもよい。つまり、サブ制御部150がデータを取得するサンプリング周期が、サブ制御部150が制御部110にデータを送信する間隔より長いセンサーについても、毎回、サブ制御部150から制御部110にデータを送信してもよい。この場合に、サブ制御部150は、センサーのデータにタイムスタンプを付与する処理を、データを第1制御部に送るときにまとめて実行してもよい。この場合、サブ制御部150が一時的に記憶した複数のデータについて、まとめてタイムスタンプが付与される。或いは、サブ制御部150は、センサーから検出値のデータを取得する毎に、それぞれのセンサーの検出値にタイムスタンプを付与してもよい。
また、サブ制御部150は、制御部110にカメラ61の撮像画像データを送信する際に、撮像画像データにタイムスタンプを付与する処理を行ってもよい。
図5は、頭部装着型表示装置100の動作を示すフローチャートであり、(A)は制御装置10の動作を示し、(B)は画像表示部20の動作を示す。図5には、制御部110の制御によりサブ制御部150がカメラ61で撮像をさせる場合の動作を示す。
この場合、制御部110は、サブ制御部150に対して撮像を指示する撮像コマンドを送信する(ステップS41)。撮像コマンドには、動画像を撮像するか静止画像を撮像するか、撮像解像度、撮像画像データのデータ量、撮像頻度(フレームレート、或いは撮像間隔)等の撮像条件を指定するデータを含んでもよい。サブ制御部150は、撮像コマンドを受信し(ステップS51)、受信した撮像コマンドに含まれるデータ、或いは、デフォルトの撮像条件のデータに従って、撮像条件を設定する(ステップS52)。
サブ制御部150はカメラ61を制御して撮像を実行させ(ステップS53)、撮像画像データを取得する(ステップS54)。サブ制御部150は、取得した撮像画像データを、画像データバス41Bを介して制御部110に送信し(ステップS55)、制御部110は撮像画像データを受信する(ステップS42)。
サブ制御部150は、終了条件が成立したか否かを判定し(ステップS56)、終了条件が成立していない場合は(ステップS56;NO)、ステップS53に戻って撮像を行う。また、終了条件が成立した場合(ステップS56;YES)、本処理を終了する。終了条件は、例えば、制御部110から撮像終了を指示するコマンドを受信したこと、制御部110の撮像コマンドで指定された回数、或いは時間の撮像が完了したこと、等である。
このように、サブ制御部150がカメラ61を制御して撮像を実行し、撮像画像データを取得して制御部110に送信するので、制御部110がカメラ61を制御する場合に比べて、制御部110の処理負荷を大幅に軽減できる。また、制御部110とサブ制御部150との間では、制御データバス41Aを介したコマンドの送受信、及び画像データバス41Bによる撮像画像データの送受信が行われるが、制御部110がカメラ61を制御する場合に比べ大幅なデータ量の増大はない。このため、処理をサブ制御部150が実行することによる効率の低下はない。
図6は、頭部装着型表示装置100の動作を示すフローチャートであり、(A)は制御装置10の動作を示し、(B)は画像表示部20の動作を示す。
図6には、制御部110が送信するコマンドに従って、サブ制御部150が、センサーの検出値に基づく処理を実行する例を示す。この場合、制御部110は、処理実行を指示するコマンドを生成して送信し(ステップS61)、サブ制御部150は、コマンドを受信する(ステップS62)。図6の例では、制御部110が、照度センサー164の検出値に基づき右バックライト221、左バックライト222(図2)の明るさを調整する照度適合処理の実行を指示する。
サブ制御部150は、受信したコマンドに従って、照度適合処理を開始し(ステップS63)、照度センサー164の検出値を取得する(ステップS64)。サブ制御部150は、EEPROM165に記憶された設定値を参照する(ステップS65)。EEPROM165には、右バックライト221、左バックライト222の個体ばらつきを補正する補正用の設定値のデータ等が記憶される。サブ制御部150は、参照した設定値に基づき、ステップS64で取得した検出値を用いた演算処理を実行して、右バックライト221、左バックライト222の輝度を設定し、或いは設定値を更新する(ステップS66)。
サブ制御部150は、終了条件が成立したか否かを判定し(ステップS67)、終了条件が成立していない場合は(ステップS67;NO)、ステップS64に戻って検出値を取得する。ここで、サブ制御部150は、ステップS64〜S66の処理の実行間隔と、照度センサー164のサンプリング周期とを、例えばステップS63で設定してもよい。
終了条件が成立した場合(ステップS67;YES)、本処理を終了する。終了条件は、例えば、制御部110から照度適合処理終了を指示するコマンドを受信したこと、制御部110のコマンドで指定された回数、或いは時間の動作が完了したこと、等である。
図6の例では、サブ制御部150が照度センサー164の検出値を処理して、バックライト駆動部169、170を制御し、右バックライト221、左バックライト222の輝度を周辺の明るさに対応して調整できる。この照度適合処理は、制御部110が実行することも勿論可能である。例えば、サブ制御部150が照度センサー164の検出値を取得して制御部110に送信し、制御部110がバックライト駆動部169、170を制御するための制御データを制御部110に送信すればよい。図6の動作では、制御部110が照度適合処理を実行する場合に比べ、制御部110の処理負荷を軽減できる。第1に、サンプリング周期が比較的遅い照度センサー164の検出値と、サンプリング周期が比較的早い第1センサー161、第2センサー162等の検出値とを送信するタイミングの調整が不要である。このため、送信タイミングの調整に係るサブ制御部150の負荷を軽減できる。また、照度センサー164の検出値を送信する際に、上記のように送信に失敗する等の事象が発生すると、照度センサー164の検出値を取得してから輝度を調整するまでに遅延が発生する。サブ制御部150が照度適合処理を実行すれば、検出値の伝送に係る遅延がないため、速やかに右バックライト221、左バックライト222の輝度を適切に調整できる。
図6は、サブ制御部150が、センサーの検出値に基づき、画像表示部20の環境に対応して画像表示部20の表示状態を変化させる処理の一例として、照度センサー164の検出値に基づく処理を説明した。サブ制御部150が実行する処理は、この例に限定されず、例えば、画像表示部20が温度センサーを備え、この温度センサーがサブ制御部150に接続された構成として、サブ制御部150が温度に基づく制御を行ってもよい。この場合、サブ制御部150は、温度センサーが検出する画像表示部20の環境温度に対応して、画像表示部20の劣化を抑えるように、LCD駆動部167、168、及びBL駆動部169、170を制御してもよい。これにより、右バックライト221、左バックライト222、右LCD241及び左LCD242を含む各部の長寿命化を図ることができる。この構成は、温度センサーに加えて、或いは温度センサーに代えて湿度センサーを設けても実現できる。また、サブ制御部150は、カメラ61の撮像画像に基づき、使用者が視認する外景の背景としての色を検出し、この背景の色に応じて画像表示部20が表示する画像の色合いを調整する処理を実行してもよい。また、サブ制御部150は、マイク(図示略)に接続され、このマイクで検出した環境音に対応する処理を行ってもよい。この処理には、画像表示部20の表示の制御の他、画像表示部20がスピーカーやヘッドホンから音声を出力する構成とした場合に、出力する音声を調整する処理を含んでもよい。
サブ制御部150が、制御部110のコマンドに応じて実行する処理は図5、図6の例に限定されない。例えば、制御部110がデータの種類の切り替えを指示するコマンドを送信すると、サブ制御部150がデータの種類を変更する動作が可能である。具体的には、制御部110が、画像表示部20を装着した使用者の前方にある対象物、或いは、カメラ61の撮像範囲内にある対象物までの距離データを必要とする場合、サブ制御部150に、距離データの送信を指示する。サブ制御部150は、カメラ61の撮像画像データを解析して、撮像画像データから被写体の画像を検出し、撮像画像におけるサイズ等をもとに距離データを算出して、算出した距離データを送信する。この場合、サブ制御部150は、カメラ61の撮像画像データを制御部110に送信しない。すなわち、送信するデータの種類を、撮像画像データから距離データに切り替える。
また、逆の切り替えも勿論可能である。制御部110が撮像画像データを要求し、距離データを不要とするコマンドを送信した場合に、サブ制御部150は撮像画像データを取得せず制御部110に送信してもよい。
以上説明したように、本発明を適用した第1実施形態の頭部装着型表示装置100は、画像表示部20と、第1センサー161、第2センサー162、GPS163、照度センサー164等の複数のセンサーを備える。また、頭部装着型表示装置100を制御する制御部110と、複数のセンサーに接続され、複数のセンサーの検出値を含むデータを制御部110に送信するサブ制御部150と、を備える。このため、サブ制御部150を利用することで、多数のセンサーを制御部110に接続する必要がなく、制御部110が直接制御するセンサーの数を減らすことで制御部110の処理負荷を軽減できる。また、例えば、複数のセンサーに接続するサブ制御部150が、各センサーの仕様や特性の差に対応するための処理を実行できる。また、それぞれのセンサーを制御部110に接続する必要がなく、サブ制御部150から制御部110にまとめてセンサーの検出値を送信すること等もできる。このため、制御部110の処理負荷を軽減し、制御部110の消費電力の低減、及び、制御部110の処理速度の向上を図ることができる。また、制御部110に多数のセンサーを接続する必要がなくなるので、制御装置10の回路構成の複雑化を回避できる。
また、頭部装着型表示装置100では、サブ制御部150が、制御部110の制御に基づき、複数の前記センサーの制御をとりまとめて実行する。このため、制御部110の負荷を増やすことなく、多数のセンサーの制御や、センサーに対するきめ細かい制御を行うことが可能となる。
また、サブ制御部150は、複数のセンサーの検出値を、複数の異なるサンプリング周期で取得するので、センサーの検出値を取得する処理における制御部110の処理負荷を軽減できる。
また、サブ制御部150は、第1センサー161、第2センサー162、GPS163、及び照度センサー164を含む複数のセンサーのいずれかに対し、第1サンプリング周期、及び、第1サンプリング周期より長い第2サンプリング周期で検出値を取得する。サブ制御部150は、第1サンプリング周期で取得したセンサーの検出値と、第2サンプリング周期で取得したセンサーの検出値とを含むデータを制御部110に送信する。このように、制御部110は、サンプリング周期が異なる複数のセンサーの検出値を取得でき、この検出値を取得する処理における制御部110の処理負荷を軽減できる。
また、サブ制御部150は、制御部110からコマンドを受信した場合に、センサーの検出値に基づき予め設定された処理を実行できるので、制御部110の処理負荷をより一層、軽減できる。
例えば、サブ制御部150は、所定処理として、センサーの検出値に基づき、画像表示部20の環境に対応して画像表示部20の表示状態を変化させる処理を実行する。より具体的には、図6に示したように、照度センサー164の検出値に基づき、右バックライト221、左バックライト222の明るさ(輝度)を調整する処理を行い、制御部110の負荷を軽減できる。この例で、サブ制御部150は設定データを記憶するEEPROM165に接続され、EEPROM165に記憶された設定データを用いて所定処理を実行できる。ここで、サブ制御部150がROMやRAMを内蔵する構成とすることもでき、この場合に、ROMやRAMに設定データを記憶させてもよい。または、サブ制御部150にROM等が一体に設けられた構成とすることもでき、この場合に、ROMに設定データを記憶させてもよい。
また、サブ制御部150は、センサーから取得した検出値を制御部110に送信するまで、例えば内蔵するRAMに保持するので、サブ制御部150がセンサーの検出値を取得するタイミングに制約を受けることなく、制御部110が処理を実行できる。
また、サブ制御部150は、いずれかのセンサーの検出値に基づき、他のセンサーの検出値に対する処理を実行し、処理後の検出値を制御部110に送信できる。例えば、センサーの検出値に基づき他のセンサーの検出値を補正したり、センサーフュージョン等の処理を行ったりすることができる。
頭部装着型表示装置100は、制御部110を有する制御装置10の本体(第1本体))と、サブ制御部150を有する画像表示部20の本体(第2本体)と、を備える。サブ制御部150は画像表示部20の本体に設けられた複数のセンサーに接続される。また、制御装置10の本体にはセンサーが設けられ、この制御装置10の本体に設けられたセンサーは制御部110に接続される。このような構成において、制御部110は、画像表示部20の本体のセンサーの検出値及び位置と、制御装置10の本体に設けられたセンサーの検出値及び位置とに基づき、特性値を算出してもよい。
例えば、制御装置10が有するセンサーICと画像表示部20の第1センサー161及び第2センサー162の相対位置と、各センサーによる加速度または角速度の検出値に基づき、頭部装着型表示装置100の動きを示す特性値を求めても良い。すなわち、特性値は、頭部装着型表示装置100全体の移動速度や移動方向を示す値であってもよい。また、制御部110は、地磁気センサーの検出値を用いて、方角を示すデータを含む特性値を求めてもよい。さらに、制御部110は、制御装置10と画像表示部20との相対的な位置変化を検出し、速度や変位の方向に関する特性値を求めてもよい。また、制御装置10の本体にサブ制御部150を設け、画像表示部20の本体に制御部110を設ける構成とすることも勿論可能である。さらに、制御装置10の本体に、表示部としての光学系、LCD等を設けた構成とすることも可能である。このように、制御部110は、制御装置10の本体のセンサーの検出値と、画像表示部20の本体のセンサーの検出値とを利用して、特性値を得ることができ、この特性値の算出に関して制御部110の負荷を軽減できる。
また、上記実施形態では、略箱形の制御装置10の本体に、制御部110を設けた構成としたが、画像表示部20を有する本体に制御部110を設け、サブ制御部150を、画像表示部20とは別体の制御装置10の本体に設けてもよい。この場合、画像表示部20の本体のセンサーに制御部110が接続され、制御装置10の本体が備えるセンサーはサブ制御部150に接続される。言い換えれば、使用者の頭部に装着される画像表示部20が制御機能を備え、この画像表示部20とは別体で構成される小型の機器が、サブ制御部150を備える構成としてもよい。この構成においても、頭部装着型表示装置の全体を制御する制御部の負荷を軽減し、データバスを構成するハーネスが太くなる等の事態を防止できるという利点がある。
さらに、制御装置10と画像表示部20とを一体に構成してもよい。すなわち、制御装置10の本体と画像表示部20の本体とが一つの本体であってもよい。この場合、制御部110とサブ制御部150とが同じ本体に実装される構成とし、本発明を適用してもよい。例えば、同じ本体に実装された制御部110とサブ制御部150とを、制御データバス、画像データバス、及び表示データバスで接続し、制御部110と、サブ制御部150とが異なるセンサーに接続された構成が考えられる。
[第2実施形態]
図7は、本発明を適用した第2実施形態の頭部装着型表示装置100の動作を示すフローチャートであり、(A)は制御装置10の動作を示し、(B)は画像表示部20の動作を示す。
第2実施形態に係る頭部装着型表示装置100の構成は、上記第1実施形態と共通である。制御装置10及び画像表示部20は、図1〜図3を参照して説明した構成を具備するので、これら各装置の構成および機能ブロックについては、同符号を付して図示及び説明を省略する。
図7には、例えば頭部装着型表示装置100の起動時に実行され、制御部110とサブ制御部150とが制御データを送受信することにより、サブ制御部150の検出動作に関する設定を行う場合のフローチャートである。
制御部110とサブ制御部150とは、通信開始に関する各種制御データを送受信して、接続部40を介した通信を確立する(ステップS101、S111)。
続いて、制御部110がサブ制御部150に対し、サブ制御部150が検出結果を取得可能なセンサーに関するセンサー情報を要求する(ステップS102)。サブ制御部150は、センサー情報の要求を受信すると(ステップS112)、要求されたセンサー情報をEEPROM165から読み出して、制御部110に送信する(ステップS113)。
画像表示部20は、サブ制御部150に接続される各種センサーに関するセンサー情報を記憶する。このセンサー情報は、例えば、サブ制御部150を構成するマイコン或いはSoCが内蔵するROMに記憶してもよいが、本実施形態では、EEPROM165に記憶してもよい。
図8は、EEPROM165が記憶するセンサー情報165aの構成例を示す模式図である。本実施形態のセンサー情報165aは、図8に示すようにテーブル形式で構成される。
センサー情報165aは、サブ制御部150が検出値を取得可能なセンサーを特定する情報と、それぞれのセンサーに対応付けられるセンサー識別子とを含む。センサー識別子は、それぞれのセンサーを制御部110及びサブ制御部150が特定するための情報である。例えば、後述するように、サブ制御部150が制御部110に送信する検出結果にセンサー識別子を含めると、制御部110は、どのセンサーの検出結果なのかを特定できる。
センサーを特定する情報として、図8のセンサー情報165aは、センサーの種類と、センサーに予め付与されるIDとを含む。例えば、加速度センサー(1)は、画像表示部20が備える加速度センサーのうち、ID「1」が付与された加速度センサーを指す。画像表示部20は同種のセンサーを複数具備する構成とすることができる。第1センサー161が3軸加速度センサー及び3軸ジャイロセンサーを備え、第2センサー162が3軸加速度センサー、3軸ジャイロセンサー、及び、3軸地磁気センサーを備える場合、画像表示部20は2個の加速度センサーを有する。この場合、それぞれの加速度センサーに、例えばID「1」、「2」が付与されれば、各加速度センサーを区別できる。センサー情報165aは、サブ制御部150に直接または間接的に接続され、サブ制御部150により検出結果を取得できるそれぞれのセンサー、望ましくは全てのセンサーについて、センサーを特定する情報を含む。
センサー識別子は、それぞれのセンサーを識別するための情報として、サブ制御部150から制御部110に送信するデータに含めた場合の利便性を考慮し、単純な構成とすることが好ましく、例えば図8に示すように数や文字等の符号で表される。異なるセンサーに同一のセンサー識別子が付与されることはない。また、画像表示部20が備えるセンサーが、複数のセンサーを具備する複合的な素子で構成される場合、それぞれのセンサーにセンサー識別子が付与されることが好ましい。
センサー情報165aは、センサー識別子に対応付けて、検出値のサンプリング周期(サンプリング周波数)を含む。センサーが対応可能なサンプリング周期は、センサーの仕様、或いは特性により定められる。センサー情報165aに含まれるサンプリング周期に関する情報は、センサーの製造事業者が定める定格や、頭部装着型表示装置100の動作条件に基づき決定される。センサーが対応可能なサンプリング周期が単一ではない場合、或いは、センサーが対応可能なサンプリング周期の範囲が定められている場合、センサー情報165aには、対応可能なサンプリング周期の上限を示す情報が含まれる。
センサー情報165aは、センサーの検出値の取得に関してサブ制御部150が実行可能な処理を示す情報として、「マクロ命令」を含む。サブ制御部150が実行可能な処理とは、例えば、サンプリング周期の設定、センサーの動作条件(検出感度、検出範囲等)の設定等である。「マクロ命令」は、制御部110がコマンドを送信することによりサブ制御部150がセンサーに対して実行する処理を示すコードが含まれる。制御部110がコードを指定するコマンドを送信することで、コードに該当する処理をサブ制御部150が実行する。コードと処理の内容とは、予め、サブ制御部150及び制御部110に設定される。例えば、加速度センサー(1)に対しては、コード0の処理、コード1の処理、及び、コード2の処理を、サブ制御部150が実行できる。
センサー情報165aは、センサーの検出値を取得する場合に生じるレイテンシーを示す情報を含む。レイテンシーの情報は、実測値、或いは、センサーとサブ制御部150とを接続するインターフェイスの仕様に基づき設定される。図8の例では、レイテンシーを予め区分されたレベルで示す。
また、センサー情報165aは、センサーの仕様や特性に関するその他の情報を含んでもよい。図8の例では、各センサーの検出範囲を示す情報が含まれる。この例に限らず、センサーの検出値の解像度、センサーの分解能、或いは検出精度や、検出値の温度特性等を示す情報をセンサー情報165aに含めてもよい。
制御部110は、ステップS102で、サブ制御部150が検出結果を取得可能な全てのセンサーについて情報を要求してもよいし、必要とする種類のセンサーに関して、情報を要求してもよい。サブ制御部150は、ステップS113で、センサー情報165aを参照して、要求された情報を取得して制御部110に送信する。
制御部110は、サブ制御部150から送信される情報を受信し(ステップS103)、受信した情報に基づいて、使用するセンサーとサンプリング周期とを選択し、決定する(ステップS104)。ステップS104では、例えば、制御部110が実行するアプリケーションプログラムの要求により、使用するセンサーが選択される。サンプリング周期も同様である。また、制御部110が実行するアプリケーションプログラムの要求、或いは仕様により、ステップS104で、センサーの解像度等の条件を決定してもよい。ステップS104では、サンプリング周期やその他の条件が、センサー毎に選択される。
制御部110は、ステップS104で選択したセンサーとサンプリング周期及びその他の条件を指定する情報を、サブ制御部150に送信する(ステップS105)。サブ制御部150は、制御部110が送信する情報を受信して、指定されたセンサーを有効化する処理、及び、サンプリング周期を設定する処理を行う(ステップS114)。センサーの有効化とは、センサーの電源オン、初期化、及び、スリープ状態からの復帰等を含む。サンプリング周期(サンプリング周波数)の設定は、例えば、センサーからサブ制御部150に対する割り込み処理の割り込みタイミングとして設定される。ステップS114でセンサーの有効化とサンプリング周期の設定を行った後、サブ制御部150は、有効化したセンサーによる検出を開始させ、検出値の取得を開始してもよい。
ステップS114で、サンプリング周期を設定する場合、例えば、センサーからサブ制御部150に割り込み処理を行うタイミングの設定を行う。サブ制御部150に接続されるセンサーは、サブ制御部150に割り込み処理を行うセンサーに限定されない。例えば、サブ制御部150にアナログ電圧を出力するセンサーを用いてもよい。この種のセンサーは、サブ制御部150にアナログ電圧を直接出力してもよいし、ゲートアレイ、或いは、アナログの出力値をデジタルデータに変換するA/Dコンバーターを介してサブ制御部150に接続されてもよい。この種のセンサーは、サブ制御部150に対して常時、出力値を出力する。この種のセンサーに関して、サブ制御部150は、ステップS114で、サブ制御部150がセンサーの検出値(アナログ電圧値またはデジタルデータに変換された出力値)を検出または取得するタイミングとして、サンプリング周期を設定してもよい。
また、サブ制御部150に接続されるセンサーとして、サブ制御部150がセンサーに対して出力値を取得する割り込み処理(割り込み制御)を行うと、この割り込み処理をトリガーとしてセンサーがサブ制御部150に検出値を出力するセンサーを用いてもよい。この種のセンサーに関して、サブ制御部150は、ステップS114で、サブ制御部150がセンサーに対し検出値を検出または取得するトリガーを与えるタイミングとして、サンプリング周期を設定してもよい。
サブ制御部150は、センサーの検出値を含むデータを制御部110に送信する周期を設定する(ステップS115)。サブ制御部150は、例えばステップS115で、制御部110がステップS105で送信した情報により要求されたセンサーのサンプリング周期のうち、最も高速(最も短周期)のサンプリング周期に合わせて設定する。
また、ステップS105で、制御部110が、サブ制御部150から制御部110にデータを送信する周期を指定してもよい。この場合、サブ制御部150は、検出値を取得する対象のセンサーと、対象の各センサーから検出値を取得するサンプリング周期と、制御部110にデータを送信する周期(更新間隔)とを、それぞれ、制御部110の指定に従って設定する。
サブ制御部150は、制御部110に対し、初期化が完了したことを示す通知を送信し(ステップS116)、通信開始要求を待機する。
制御部110は、サブ制御部150が送信した通知を受信し(ステップS106)、サブ制御部150に対して通信開始を要求する(ステップS107)。
サブ制御部150は、通信開始要求の受信を割り込みタイミングとして、タイマーのカウントを開始し(ステップS117)、ステップS115で設定した送信周期に従って、制御部110に対するデータ送信を開始する(ステップS118)。
また、制御部110は、サブ制御部150が送信するデータの受信を開始する(ステップS108)。
ここで、制御部110は、ステップS107で通信開始要求を送信する際にタイマーのカウントを開始することができる。この場合、制御部110とサブ制御部150とが同期してタイマーのカウントを開始するので、制御装置10と画像表示部20とが同期する。通信開始要求の送信と受信との間にレイテンシーがある場合、制御部110は、レイテンシーを加味したタイミングでカウントを開始すればよい。
ステップS108,S118でデータの送受信を開始すると、制御部110及びサブ制御部150は、例えば、図4のステップS13、及びステップS27〜S36で説明した動作を実行する。
ここで、制御部110は、サブ制御部150から受信するデータに含まれるセンサーの検出値を、タイムコードに対応付けてメモリー121またはフラッシュメモリー122に記憶してもよい。この場合、メモリー121またはフラッシュメモリー122に記憶する検出値のデータは、累積的に記憶してもよいし、最新の検出値により上書き更新されてもよい。
また、ステップS105で、制御部110は、サブ制御部150が制御部110にデータを送信する周期として、複数の周期を設定してもよい。例えば、Fast(150Hz)、Normal(100Hz)、Slow(50Hz)の3段階の周期を指定してもよい。この場合、サブ制御部150は、Fast(150Hz)、Normal(100Hz)、Slow(50Hz)の3つの周期を設定し、それぞれの周期に従って制御部110にデータを送信する。具体例を挙げると、サンプリング周期が短い(高速な)センサーである加速度センサーの検出値を含むデータを、Fast(150Hz)の周期で送信する。また、サブ制御部150は、サンプリング周期が加速度センサーより長い(低速な)地磁気センサーの検出値を含むデータを、Normal(100Hz)の周期で送信し、カメラの撮像画像データを含むデータを、Slow(50Hz)の周期で送信する。このように、サブ制御部150に、データを送信する複数の周期を設定し、それぞれの周期で送信するデータに含む検出値の種類、すなわちセンサーの種類を、周期毎に指定してもよい。
また、制御部110が、ステップS105で複数のデータ送信の周期を設定し、設定した周期のうち、使用する周期を制御データにより随時切り替えることが可能な構成としてもよい。この場合、サブ制御部150は、ステップS114で受信する情報に従って、例えば上述したFast(150Hz)、Normal(100Hz)、Slow(50Hz)の3つの周期を設定する。つまり、サブ制御部150は、ステップS115の初期化の動作において、複数の周期を切替可能に設定される。サブ制御部150は、設定した3つの周期のうち使用する周期を、制御部110が送信する情報に基づき選択し、選択した周期でデータの送信を開始する。この場合、ステップS108、S118で、サブ制御部150から制御部110へのデータの送信を開始した後に、制御部110が、送信周期の切り替えを指示する制御データを送信することで、サブ制御部150がデータの送信周期を切り替える。この場合、サブ制御部150は、制御部110からの制御データの受信を割り込み処理として、ステップS115で設定した周期のうち別の周期を選択する。
ここで、サブ制御部150は、サブ制御部150に接続されるセンサーのうち制御部110が選択したセンサーについて、制御部110が指定する送信形式を選択できる。例えば、サブ制御部150は、加速度センサーの検出値を制御部110に送信する送信形式として、50Hzで送信する形式、100Hzで送信する形式、150Hzで送信する形式のうち、制御部110が要求(指定)する形式を選択して使用できる。この場合の「送信形式」とは、データの送信周期を指してもよく、データのフレーム構成等も含んでもよい。センサーの種類が同一であっても、異なる送信形式(或いは送信周期)を採用できる。
サブ制御部150は、制御部110が要求する送信周期よりも高速(短周期)でセンサーの検出値を取得できる。たとえば、サブ制御部が加速度センサーの検出値を150Hzで取得し、制御部110に対し、加速度センサーの検出値を含むデータを50Hzで送信することが可能である。この場合、サブ制御部150は、加速度センサーから取得した3回分の検出値を含むデータを、制御部110に送信してもよい。また、サブ制御部150は、制御部110へのデータ送信周期に対応して取得した最新の1つの加速度センサーの検出値を含むデータを、制御部110に送信してもよい。
図9は、サブ制御部150が制御部110に送信するデータの送信形式の例を示す模式図である。
サブ制御部150が制御部110に送信するデータは、例えば所定長さのフレームで構成され、ヘッダー、EOF、及びペイロードを含み、ペイロードにはセンサーの検出値を含むデータが格納される。
図9に示すデータD1の送信形式は、ペイロードD13に、センサー識別子と、当該センサー識別子が示すセンサーの検出値であるセンサーデータと、当該センサーデータを取得したときのタイムコードとを含む。タイムコードは、センサーの検出値をサブ制御部150が取得した時刻におけるタイマーのカウント値を示す。図9の送信形式でサブ制御部150が制御部110にデータを送信する場合、制御部110は、サブ制御部150が取得したセンサーの検出結果と、検出結果を取得したタイミングとを得ることができる。例えば、センサーの検出結果を制御部110が受信し処理するまでに遅延がある場合、制御部110は、受信したタイムコードと、制御部110のタイマーのカウント値とに基づき遅延を算出でき、遅延を加味した処理を行うことができる。
また、データD1において、ペイロードD13に、センサー識別子とセンサーデータとを含み、タイムコードを含まない形式とすることもできる。
サブ制御部150は、複数のセンサーの検出結果を含むフレームを送信することができる。ペイロードD13では、センサー識別子、センサーデータ、及びタイムコードの組合せが1つのセンサーの検出結果に対応するので、この組合せを複数、ペイロードD13に格納できる。
上述したように、ステップS105で、制御部110がデータを送信する周期として複数の周期を指定し、サブ制御部150が複数の周期でデータを送信する場合、サブ制御部150は、周期により異なる送信形式でデータを送信してもよい。例えば、Slow(50Hz)の周期でデータを送信する場合は図9に示す送信形式でデータを送信し、Fast(150Hz)でデータを送信する場合は、異なるデータ形式で送信してもよい。
このように、サブ制御部150は、制御部110に対し、第1サンプリング周期に対応する第1送信形式、及び、第2サンプリング周期に対応する第2送信形式のいずれかの送信形式でセンサーの検出結果を含むデータを送信可能であってもよい。この場合、サブ制御部150が、センサーの検出結果を含むデータを、サンプリング周期に対応する送信形式で送信するので、センサーに適したサンプリング周期で、センサーの検出結果の取得、及び、検出結果を含むデータの送信を行える。
また、サブ制御部150は、制御部110から要求されるサンプリング周期に基づき、第1送信形式、及び、第2送信形式のいずれかの送信形式を選択してセンサーの検出結果を含むデータを送信してもよい。この場合、要求されるサンプリング周期で検出結果を取得し、サンプリング周期に適した送信形式で検出結果を含むデータを送信できる。
図10は、頭部装着型表示装置100の動作を示すフローチャートであり、(A)は制御装置10の動作を示し、(B)は画像表示部20の動作を示す。
図10に示す動作は、図7の動作により画像表示部20の初期設定が完了し、データの送信を開始した後で、設定を変更する動作である。
制御部110が、サブ制御部150に対して設定更新の命令を送信すると(ステップS131)、サブ制御部150は命令を受信し(ステップS141)、センサーの検出値の取得を停止する(ステップS142)。
サブ制御部150は、検出値の取得を停止したことを制御部110に通知し(ステップS143)、制御部110はサブ制御部150からの通知を受信する(ステップS132)。制御部110は、ステップS104と同様に、使用するセンサーとサンプリング周期とを選択し、決定する(ステップS133)。
その後、制御部110は、図7のフローチャートで説明したステップS105〜S108の動作を実行し、これに応じてサブ制御部150は、ステップS114〜S118の動作を実行する。
この図10の動作により、サブ制御部150がセンサーの検出値の取得及び制御部110へのデータの送信を開始した後で、データ送信の周期や検出値を取得するセンサーに関する設定を変更できる。
また、上述したように、サブ制御部150がデータを送信する周期として複数の周期を設定した場合に、設定した周期を切り替える処理を、図10の動作により行ってもよい。
図10に示す設定更新の動作を行う際に、制御部110とサブ制御部150との通信が確立されていない場合、設定更新が正常に行われない可能性が考えられる。このような場合の対策として、サブ制御部150は、ステップS141で制御部110から設定更新に係る命令を受信した場合に、制御部110との通信状態を判定してもよい。例えば、サブ制御部150は、ステップS141で命令を受信した後に制御部110との通信状態を判定し、通信状態が正常、或いは良好であると判定するまで、センサーの検出値の取得を停止しない構成とすることができる。この場合、サブ制御部150は、制御部110との通信状態が正常、或いは良好であると判定した後に、ステップS142に移行して、センサーの検出値の取得を停止し、続いてステップS143以後の処理を実行すればよい。
このように、本発明を適用した第2実施形態の頭部装着型表示装置100は、図7に示したように、サブ制御部150がデータを制御部110に送信するタイミングを同期させる送信同期処理と、サブ制御部150から制御部110に送信するデータの設定を行う。これにより、サブ制御部150と制御部110との間で、センサーの検出値を取得したタイミングを同期してカウントできる。このため、制御部110において、センサーの検出値を含むデータを、検出値を取得したタイミングを加味して処理できるので、データ処理を効率よく行うことができる。
また、画像表示部20は、サブ制御部150に接続されるEEPROM165(センサー情報記憶部)に、サブ制御部150に接続されるセンサーに関する情報を、例えばセンサー情報165aとして記憶する。制御部110は、センサー情報記憶部に記憶された情報に基づき、サブ制御部150が送信するデータの設定を行う。これにより、制御部110が、センサーに関する情報を用いて、センサーの検出結果を含むデータの設定を行うことができ、例えばセンサーの特性や仕様等に合わせて設定を行える。
また、EEPROM165等が記憶するセンサー情報165aは、センサーに対応して、センサーを識別するセンサー識別子と、センサーの検出結果を取得するサンプリング周期とを含む情報とすることができる。この場合、センサー情報165aに基づいて、サブ制御部150が、センサーを識別し、それぞれのセンサーに対応するサンプリング周期で検出結果を取得できる。また、制御部110は、それぞれのセンサーを識別して、それぞれのセンサーの仕様や特性に対応する設定を行える。
また、センサー情報165aは、センサーに対応してサブ制御部150が実行する処理を示す情報として、例えば「マクロコード」を含んでもよい。この場合、サブ制御部150がセンサーに対応して実行する処理を、制御部110が、センサー情報165aに基づき指定できる。
また、図7に示す動作のように、制御部110はサブ制御部150に対して制御信号を送信し、サブ制御部150は、制御部110から初期化を指示する制御信号を受信した場合に、サブ制御部150に接続されるセンサーを初期化する。このため、サブ制御部150は、制御信号をトリガーとして、制御部110が指定するタイミングでセンサーの初期化を行うことができる。
また、サブ制御部150は、制御部110から初期化を指示する制御信号を受信してセンサーを初期化した場合に、制御部110と同期処理(ステップS107、S117)を実行する。サブ制御部150は、その後に取得するセンサーの検出結果に検出時刻の時刻データであるタイムコードを付加して制御部110に送信できる。このため、制御部110とサブ制御部150とが同期し、センサーの初期化を行うことができる。これにより、センサーの検出結果を含むデータに対し、検出したタイミングを加味した処理を行うことができる。
また、同期処理において、制御部110からサブ制御部150に所定のタイミングで同期信号を送信し、サブ制御部150は制御部110が送信する同期信号に基づいて、同期を行うこと、を特徴とする。
本発明によれば、同期信号を送受信することにより、制御部110とサブ制御部150とを同期させることができる。
また、同期処理の実行後、制御部110及びサブ制御部150のそれぞれはタイマーのカウントを実行し、サブ制御部150は、センサーの検出結果を取得した場合に、取得した検出結果に取得時刻を示すタイムコードを付加したデータを送信する。このため、制御部110は、センサーの検出結果を含むデータを受信し、検出結果を取得した時刻を送受信できる。また、サブ制御部150は、センサーの検出結果を取得した取得時刻を示すタイムコードを、取得した検出結果のデータに埋め込んでもよい。また、検出結果に付加してデータを生成して送信してもよい。これらのいずれの形式であっても、データを受信する制御部110は、センサーの検出値を用いて効率よく処理を行える。
[第3実施形態]
図11は、本発明を適用した第3実施形態の頭部装着型表示装置100Bを構成する各部の機能ブロック図である。なお、図11に示す頭部装着型表示装置100Bの構成において、第1実施形態で説明した頭部装着型表示装置100(図3)と共通の構成部については同符号を付して説明を省略する。
頭部装着型表示装置100Bは、第1実施形態の頭部装着型表示装置100において、制御装置10が備える各種センサー、及び、画像表示部20が備える各種センサーの具体的な例を示す構成である。
すなわち、制御装置10Bは、制御装置10についてセンサーIC127と説明した構成として、位置検出部420、撮像部430、及び、状態検出部440を備える。位置検出部420は、GPS421、9軸センサー422、及び、位置検出部423を備える。撮像部430は、IRカメラ431、照度センサー432、及び、熱感知センサー433を備える。状態検出部440は、温度センサー441、発汗センサー442、心拍センサー443、及び、血圧センサー444を備える。
GPS421(第1GPS受信部)は、GPS衛星や屋内に設置される疑似GPS送信機(図示略)が送信する位置検出用の信号を受信して、画像表示部20の現在位置を算出する。位置検出部420は、制御部110から入力される制御信号に基づき、或いは予め設定された周期で、IRカメラ431が算出した現在位置の情報を制御部110に出力する。
9軸センサー422は、3軸加速度センサー、3軸ジャイロセンサー、及び、3軸地磁気センサーを備えるモーションセンサーである。位置検出部420は、制御部110から入力される制御信号に基づき、或いは予め設定された周期で、9軸センサー422の3軸加速度センサー、3軸ジャイロセンサー、及び、3軸地磁気センサーの検出値を、制御部110に出力する。
位置検出部423は、例えば、2.4GHz帯或いは5GHz帯の無線LAN(WiFiを含む)の無線信号、或いはその他の無線信号を送受信し、周辺に位置する基地局(図示略)やアクセスポイント(図示略)の位置を基準として、制御装置10Bの位置を検出する。位置検出部420は、制御部110から入力される制御信号に基づき、或いは予め設定された周期で、位置検出部423が検出した位置の情報を制御部110に出力する。
IRカメラ431は、赤外光を受光する受光素子を備え、受光素子の受光状態に基づき撮像画像データを生成するデジタルカメラである。撮像部430は、制御部110から入力される制御信号に基づき、或いは予め設定された周期で、IRカメラ431により撮像を実行し、IRカメラ431の撮像画像データを制御部110に出力する。
照度センサー432は、制御装置10Bにおいて表面に露出する位置に配置され、外光を受光して、受光強度に対応する検出値を出力する。撮像部430は、制御部110から入力される制御信号に基づき、或いは予め設定された周期で、照度センサー432の検出値を制御部110に出力する。
熱感知センサー433は、制御装置10Bにおいて表面に露出する位置に配置され、赤外光を受光して、赤外光の受光強度に基づき温度を検出する。撮像部430は、制御部110から入力される制御信号に基づき、或いは予め設定された周期で、熱感知センサー433により検出した温度の検出値を制御部110に出力する。
状態検出部440は、頭部装着型表示装置100Bを使用する使用者の身体状態を検出する。使用者の身体状態は、いわゆるバイタルサイン(血圧、脈拍、体温等)を含み、バイタルサイン以外に、身体の状態に関与するデータであって外的に検出可能なデータを含む。身体状態に関する検出値(検出結果)は、バイタルサインと呼んでもよいし、バイタルサインより広義の生体情報、生命情報等と呼ぶことができる。本実施形態では、一例として、使用者の体温、発汗状態、心拍数、及び血圧を状態検出部440により検出し、検出値を生体情報として制御部110に出力する。
状態検出部440は、使用者の身体表面に接触し、或いは非接触で体温を検出する温度センサー441を備え、制御部110から入力される制御信号に基づき、或いは予め設定された周期で、温度センサー441の体温の検出値を制御部110に出力する。発汗センサー442は、使用者の身体表面に接触し、或いは非接触で発汗状態を検出する。状態検出部440は、制御部110から入力される制御信号に基づき、或いは予め設定された周期で、発汗センサー442の検出値を制御部110に出力する。心拍センサー443は、使用者の身体表面に接触して拍動を検出する構成、或いは、血管に対し光を照射して反射光や透過光を検出することで拍動を検出する構成等を有し、使用者の脈拍を測定する。状態検出部440は、制御部110から入力される制御信号に基づき、或いは予め設定された周期で、心拍センサー443の測定値を制御部110に出力する。
血圧センサー444は、使用者の血圧を検出し、態検出部240は、制御部110から入力される制御信号に基づき、或いは予め設定された周期で、血圧センサー444の検出値を制御部110に出力する。
制御装置10Bが、使用者の身体に接触して装着される構成では、状態検出部440を制御装置10Bに収容した構成とすることができる。また、状態検出部440を、制御装置10Bとは別体として構成してもよい。例えば、状態検出部440を腕時計型のケース(図示略)に収容して、このケースを使用者の身体に装着させてもよい。また、例えば、温度センサー441、発汗センサー442、心拍センサー443、及び血圧センサー444を、1個ずつ又は複数をまとめて、ケース(図示略)に収容し、使用者の身体に複数のケースを装着する構成であってもよい。この場合、分離される各部はケーブルにより有線接続してもよいし、無線通信回線により接続してもよい。
この構成において、制御部110は、位置検出部420、撮像部430、及び状態検出部440が検出する検出結果を含むデータを取得できる。
画像表示部20Bは、画像表示部20について第1センサー161、及び第2センサー162と説明した構成として、動き検出部450、眼運動計測部460、視覚計測部470、状態検出部480、及び入力検出部490を備える。
動き検出部450は、9軸センサー451、GPS452を備える。9軸センサー451は、第2センサー162(図3)として説明したセンサーと同様に、3軸加速度センサー、3軸ジャイロセンサー、及び、3軸地磁気センサーを備えるモーションセンサーである。GPS452(第2GPS受信部)は、GPS163(図3)として説明したセンサーと同様に構成される。動き検出部450は、制御部110から入力される制御信号に基づき、或いは予め設定された周期で、9軸センサー451の検出値の情報、及び、GPS452が検出する現在位置の情報を、それぞれ、制御部110に出力する。
眼運動計測部460は、使用者の眼球の運動を検出する。眼運動計測部460は、使用者の眼を赤外光により撮像するIRカメラ461、及び、眼筋の電位を検出する筋電位センサー462を備える。IRカメラ461は、例えば、右光学像表示部26(図1)及び左光学像表示部28(図1)の内側に配置してもよい。また、筋電位センサー462は、使用者の顔面に装着されてもよい。眼運動計測部460は、IRカメラ461の撮像画像データ、及び筋電位センサー462の検出値、サブ制御部150に出力する。また、眼運動計測部460は、IRカメラ461の撮像画像データ、及び、筋電位センサー462の検出値のいずれか、又は両方についてデータ処理をした処理結果を、サブ制御部150に出力してもよい。
視覚計測部470は、赤外光により撮像するIRカメラ471、紫外光により撮像するUVカメラ472、熱感知センサー473、及び、照度センサー474を備える。IRカメラ471は、赤外光を受光する受光素子を備え、受光素子の受光状態に基づき撮像画像データを生成するデジタルカメラである。視覚計測部470は、サブ制御部150から入力される制御信号に基づき、或いは予め設定された周期で、IRカメラ471により撮像を実行し、IRカメラ471の撮像画像データをサブ制御部150に出力する。
熱感知センサー473は、画像表示部20Bにおいて表面に露出する位置に配置され、赤外光を受光して、赤外光の受光強度に基づき温度を検出する。視覚計測部470は、サブ制御部150から入力される制御信号に基づき、或いは予め設定された周期で、熱感知センサー473により検出した温度の検出値をサブ制御部150に出力する。
照度センサー474は、画像表示部20Bにおいて表面に露出する位置に配置され、外光を受光して、受光強度に対応する検出値を出力する。視覚計測部470は、サブ制御部150から入力される制御信号に基づき、或いは予め設定された周期で、照度センサー432の検出値をサブ制御部150に出力する。
状態検出部480は、頭部装着型表示装置100Bを使用する使用者の身体状態を検出する。使用者の身体状態は、いわゆるバイタルサイン(血圧、脈拍、体温等)を含み、バイタルサイン以外に、身体の状態に関与するデータであって外的に検出可能なデータを含む。身体状態に関する検出値(検出結果)は、バイタルサインと呼んでもよいし、バイタルサインより広義の生体情報、生命情報等と呼ぶことができる。本実施形態では、一例として、使用者の体温及び発汗状態を状態検出部480により検出し、検出値を生体情報としてサブ制御部150に出力する。
状態検出部480は、使用者の身体表面に接触し、或いは非接触で体温を検出する温度センサー481を備え、サブ制御部150から入力される制御信号に基づき、或いは予め設定された周期で、温度センサー481の体温の検出値をサブ制御部150に出力する。発汗センサー482は、使用者の身体表面に接触し、或いは非接触で発汗状態を検出する。状態検出部480は、サブ制御部150から入力される制御信号に基づき、或いは予め設定された周期で、発汗センサー482の検出値をサブ制御部150に出力する。
画像表示部20Bは使用者が頭部に装着する。温度センサー481及び発汗センサー482は、例えば、画像表示部20Bにおいて使用者の頭部に接触する右保持部21(図1)、左保持部23(図1)、或いは、右光学像表示部26及び左光学像表示部28(図1)の下方に配置される。
入力検出部490は、脳波センサー491、及び、マイク492を備える。脳波センサー491は、頭部装着型表示装置100Bを装着する使用者の脳波を検出する。入力検出部490は、サブ制御部150から入力される制御信号に基づき、或いは予め設定された周期で、脳波センサー491が検出する脳波の検出結果をサブ制御部150に出力する。マイク492は、マイク63とは別体として設けられてもよいし、マイク63をマイク492として利用してもよい。入力検出部490は、サブ制御部150から入力される制御信号に基づき、或いは予め設定された周期で、マイク492の検出結果をサブ制御部150に出力する。
この構成において、サブ制御部150は、動き検出部450、眼運動計測部460、視覚計測部470、状態検出部480、及び入力検出部490が検出する検出結果を含むデータを取得できる。
図11に示す制御装置10Bの制御部110、及び、画像表示部20Bのサブ制御部150は、第1実施形態で説明した図4〜図6の動作、及び、第2実施形態の図7、図10の動作を実行できる。この構成では、多数のセンサーを搭載した制御装置10Bと画像表示部20Bとの間でデータを送受信することにより、制御部110がセンサーの検出結果を効率よく取得できる。そして、第1実施形態、及び第2実施形態で説明した頭部装着型表示装置100と同様の効果を奏することができる。
また、制御装置10Bは、制御部110に接続され、GPS信号に基づき時刻情報を取得するGPS421を備える。制御部110は、GPS421が受信する衛星からの電波に基づき時刻情報を取得して、現在時刻を取得できる。
この構成では、制御装置10B及び画像表示部20Bが、GPS信号に基づき同期を行ってもよい。例えば、制御部110がGPS421から時刻情報を取得し、サブ制御部150が、GPS163により、衛星からの電波を受信して、受信した情報に含まれる時刻情報を取得できる。制御部110からサブ制御部150に対し、ステップS107(図7)で通信開始要求を送信し、この通信開始要求をトリガーとして制御部110とサブ制御部150のそれぞれが、GPSで受信した時刻情報を基準として時刻のカウントを開始してもよい。この場合、制御部110とサブ制御部150とは、グローバル基準時に従って同期を行うことができる。
[第4実施形態]
図12は、本発明を適用した第4実施形態の表示システム1の外観構成を示す説明図である。
表示システム1は、頭部装着型表示装置100Cと、画像表示部20とを有し、さらに、使用者が身体に装着する身体装着デバイス3を備える。身体装着デバイス3は、使用者の身体に装着可能な、いわゆるウェアラブルデバイスであり、本実施形態では使用者の腕に装着される腕時計状の形状とする。
頭部装着型表示装置100Cは、第1実施形態と同様に構成され、後述するように、制御装置10(図3)に赤外線通信部131を備えた制御装置10Cを有する。制御装置10C及び画像表示部20において、制御装置10Cが赤外線通信部131を備える他は、第1実施形態と共通する構成である。このため、第1実施形態と共通の構成部については同符号を付して説明を省略する。
身体装着デバイス3は、腕時計のバンドと同様の形状であるバンド部300を有する。バンド部300は、図示しないバックル等の固定部を有し、例えば使用者の前腕部に巻き付けて固定できる。身体装着デバイス3のバンド部300には、時計の文字盤に相当する位置に、略円盤状のケース部300Aが形成される。ケース部300Aには、LCD303、複数のボタン309が設けられる。
LCD303は、文字や画像を表示するLCD(Liquid Crystal Display:液晶ディスプレイ)である。ボタン309は、ケース部300Aの外側に配置される押しボタン式スイッチである。
LCD303には、現在時刻や、身体装着デバイス3の動作状態を示す情報が表示される。
また、ボタン309は、身体装着デバイス3を使用者が動作させるための操作子として機能する。
図13は、表示システム1を構成する各部の機能ブロック図である。
図13に示す構成において、身体装着デバイス3は、サブ制御部350を備える。また、身体装着デバイス3は、サブ制御部350に接続される第1センサー351、第2センサー352、GPS353、EEPROM354、カメラ355、表示部356、及び、赤外線通信部357を備える。
制御装置10Cは、制御装置10(図3)の構成に加え、赤外線通信部131を備える。
赤外線通信部357、及び、赤外線通信部131は、赤外光を発する赤外LED(図示略)、及び、赤外光を受光する受光素子(図示略)を備え、赤外線信号を相互に送受信する。これにより、制御装置10Cと身体装着デバイス3とは赤外線通信リンク3Aを形成し、この赤外線通信リンク3Aを介して、制御部110とサブ制御部350とが、制御データやセンサーの検出値を含むデータを送受信できる。
第1センサー351は、画像表示部20が備える第1センサー161に相当する。また、第2センサー352は、第2センサー162に相当し、GPS353はGPS163に相当する。EEPROM354はEEPROM165に相当し、カメラ355はカメラ61に相当する。サブ制御部350は、サブ制御部150が第1センサー161、第2センサー162、GPS163、照度センサー164、及びカメラ61の各センサーの検出値を取得する動作と同様の動作を実行できる。
EEPROM354は、EEPROM165と同様に、サブ制御部350が処理するデータを不揮発的に記憶する。
また、表示部356は、LCD303(図12)に接続され、サブ制御部350の制御に従って現在時刻や各種センサーの検出値等をLCD303に表示させる。
サブ制御部350は、第1センサー351、第2センサー352、GPS353、及びカメラ355の各センサーの検出値を、所定のサンプリング周期に従って取得し、取得した検出値を含むデータを制御部110に送信する。この動作は、具体的には、第1実施形態で説明した図4〜図6の動作、及び、第2実施形態の図7、図10の動作である。
また、EEPROM354は、身体装着デバイス3が備える各センサーに関する情報として、例えばセンサー情報165a(図8)と同様の情報を記憶してもよい。
制御部110とサブ制御部350とは、例えば、図7に示す動作を実行する。この場合においてサブ制御部350は、サブ制御部150と同様に動作する。
制御部110は、上述のように、画像表示部20が備えるサブ制御部150との間でデータを送受信し、サブ制御部150に接続される各種センサーの検出値を取得する。また、制御部110は、サブ制御部150が各センサーの検出値を取得するサンプリング周期、サブ制御部150がデータを送信する周期等を設定できる。
そして、制御部110は、身体装着デバイス3が備えるサブ制御部350に対しても、サブ制御部150と同様に、身体装着デバイス3の各センサーの検出値を取得させ、取得した検出値を含むデータを送信させることができる。そして、サブ制御部350は、制御部110が送信する制御データを受信し、第1センサー351、第2センサー352、GPS353、及びカメラ355を初期化及び有効化し、サンプリング周期等に関する設定を行う。
サブ制御部350は、制御部110が送信する通信開始要求を受信したタイミングでタイムコードのカウントを開始し、これにより制御部110とサブ制御部350とは同期する。サブ制御部350は、制御部110の指定に従って設定したサンプリング周期で、指定されたセンサーの検出結果を取得して、検出結果を含むデータを制御部110に送信する。
制御部110は、サブ制御部350に対して、赤外線通信リンク3Aにより通信開始要求を送信する。通信開始要求はタイムコードのカウントの開始タイミングを指定する情報であり、同期に係る情報である。このように同期に係る情報を、光信号として送受信することにより、通信開始要求の送受信に関する遅延を抑えることができ、より正確に、制御部110とサブ制御部350とを同期させることができる。
この効果は、例えば、制御部110とサブ制御部150とが、赤外線通信を実行する構成とした場合にも、得ることができる。
また、第4実施形態の表示システム1では、制御部110が、画像表示部20における各センサーの検出値と、身体装着デバイス3が備える各センサーの検出値とを取得できる。これらの多数のセンサーの検出値を取得する場合に、サブ制御部150及びサブ制御部350は、制御部110が指定するサンプリング周期でセンサーの検出値を取得し、制御部110が指定するタイミングでデータを送信する。このため、制御部110の負荷増大を抑えて、制御部110が多数のセンサーの検出結果を含むデータを取得し、処理できるという利点がある。
ここで、サブ制御部150が制御部110に送信するデータ、及び、サブ制御部350が制御部110に送信するデータの形式は、例えば図9に示すフレーム形式とすることができる。この場合において、センサー識別子に、画像表示部20が備えるセンサーと身体装着デバイス3が備えるセンサーとを識別することが可能な符号やデータを付加してもよい。また、フレームのペイロードD13やヘッダーに、センサー識別子やセンサーデータとは別に、送信元がサブ制御部150かサブ制御部350かを示すデータを含めてもよい。或いは、センサー識別子またはセンサーデータにより、当該フレームが、サブ制御部150が送信したフレームかサブ制御部350が送信したフレームかを特定できるようにしてもよい。
表示システム1は、制御部110とデータを送受信可能に構成され、センサーを有するデバイスの一例として、腕時計型のデバイスである身体装着デバイス3を備えた構成を示した。この他、使用者の身体に装着するデバイスの例としては、使用者の衣服に装着または収容可能な構成としてもよいし、衣服、帽子、靴、手袋等と一体となった形状が挙げられる。また、制御部110と通信可能なデバイスの数に制限はなく、既にサブ制御部150とともに使用される制御部110に、新たなデバイスを追加して、通信させる構成であってもよい。
第4実施形態の構成において、制御装置10Cと身体装着デバイス3とは赤外線通信リンク3Aを介して、制御データやセンサーの検出値を含むデータを送受信する構成を例示したが、制御装置10Cと身体装着デバイス3との接続形態はこれに限定されず、他の種類の通信手段により接続してもよい。例えば、制御装置10Cと身体装着デバイス3とを、無線LAN(WiFi(登録商標)を含む)、Bluetooth(登録商標)等の無線通信インターフェイス、或いは、LAN、USB等の有線通信インターフェイスで接続してもよい。
第2実施形態では、制御部110及びサブ制御部150が、同期してタイムコードのカウントを開始することにより、タイムコードを同期させる構成を説明した。また、第3実施形態で、制御部110とサブ制御部350とがタイムコードのカウントを同期する構成を説明した。これらの構成において、制御部110とサブ制御部150とがカウントする1カウントあたりの時間が異なる場合、タイムコードのカウントが進行する間に同期がずれる可能性がある。制御部110とサブ制御部350との間においても同様の可能性がある。そこで、予め、制御部110とサブ制御部150、及び/または、制御部110とサブ制御部350との間で、カウントを同期する構成としてもよい。
具体的には、制御部110とサブ制御部150とが1カウントを行う時間が同一となるように、制御部110及びサブ制御部150のいずれか、或いは両方に対し設定を行う方法が挙げられる。
また、サブ制御部150における1カウントの時間を、サブ制御部150から制御部110に通知し、或いは制御部110が取得する方法が挙げられる。この方法では、制御部110が、制御部110のタイムコードのカウント値からサブ制御部150のタイムコードのカウント値を算出し、或いは、サブ制御部150から受信するデータに含まれるタイムコードを制御部110がカウントするタイムコードに換算して、同期を維持できる。
これらの方法は、勿論、制御部110とサブ制御部350との間でも実行できる。
これにより、制御部110とサブ制御部150、及び/または、制御部110とサブ制御部350との間で、1カウントに要する時間が異なる場合であっても、同期してタイムコードのカウントを行うことができる。
なお、この発明は上記各実施形態の構成に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能である。
例えば、上記各実施形態で、EEPROM165にセンサー情報165aを記憶し、サブ制御部150がセンサー情報165aを参照して、制御部110にセンサーに関する情報を送信する構成を説明した。本発明はこれに限定されず、たとえば、制御部110またはサブ制御部150が通信可能な外部の装置が、センサーに関する情報を記憶してもよい。この外部の装置は、WiFiやLAN等、構内の通信回線により、制御部110またはサブ制御部150と通信可能な装置に限定されず、インターネット等のオープンネットワークを介して接続される装置でもよい。この場合、制御部110、またはサブ制御部150は、通信回線を介して外部の装置と通信し、センサーに関する情報を取得してもよい。
この構成において、外部の装置が記憶するセンサー情報165aは、サブ制御部150を備える機器を特定する情報が付加され、或いは、当該情報を含んでもよい。サブ制御部150を備える機器を特定する情報は、例えば、機器のベンダー、型式、型名、名称、シリアルコード等が挙げられる。この場合、制御部110またはサブ制御部150は、通信回線を介して外部の装置と通信し、サブ制御部150を備える機器に対応するセンサー情報165aを検索または指定して取得することができる。例えば、制御部110は、サブ制御部150を備える機器である制御装置10を特定する情報を取得し、或いは識別して、この情報をもとに外部の機器からセンサー情報165aを取得できる。サブ制御部350を備える身体装着デバイス3についても同様である。身体装着デバイス3を特定する情報を、外部の装置が記憶するセンサー情報165aに付加し、或いは、当該情報をセンサー情報165aに含ませてもよい。この場合、制御部110は、通信回線を介して外部の装置と通信し、身体装着デバイス3に対応するセンサー情報165aを検索または指定して取得することができる。制御部110は、身体装着デバイス3の型番、型式、或いは名称を検出することで、この身体装着デバイス3に対応するセンサー情報165aを外部の機器から取得できる。
また、例えば、画像表示部20、20Bに代えて、例えば帽子のように装着する画像表示部等の他の方式の画像表示部を採用してもよく、使用者の左眼に対応して画像を表示する表示部と、使用者の右眼に対応して画像を表示する表示部とを備えていればよい。また、本発明の表示装置は、例えば、自動車や飛行機等の車両に搭載されるヘッドマウントディスプレイとして構成されてもよい。また、例えば、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。この場合、使用者の身体に対する位置を位置決めする部分、及び、当該部分に対し位置決めされる部分を装着部とすることができる。
また、制御装置10、10B、10Cとして、ノート型コンピューター、タブレット型コンピューター又はデスクトップ型コンピューターを用いてもよい。或いは、制御装置10、10B、10Cとして、ゲーム機や携帯型電話機やスマートフォンや携帯型メディアプレーヤーを含む携帯型電子機器、その他の専用機器等を用いてもよい。
また、例えば、画像表示部20、20Bにおいて画像光を生成する構成として、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部とを備える構成としてもよい。また、画像光を生成する構成として、LCOS(Liquid crystal on silicon, LCoSは登録商標)や、デジタル・マイクロミラー・デバイス等を用いることもできる。
また、画像光を使用者の眼に導く光学系としては、外部から装置に向けて入射する外光を透過する光学部材を備え、画像光とともに使用者の眼に入射させる構成を採用できる。また、使用者の眼の前方に位置して使用者の視界の一部または全部に重なる光学部材を用いてもよい。さらに、レーザー光等を走査させて画像光とする走査方式の光学系を採用してもよい。また、光学部材の内部で画像光を導光させるものに限らず、使用者の眼に向けて画像光を屈折及び/または反射させて導く機能のみを有するものであってもよい。
例えば、レーザー網膜投影型のヘッドマウントディスプレイに対して本発明を適用することも可能である。すなわち、光射出部が、レーザー光源と、レーザー光源を使用者の眼に導く光学系とを備え、レーザー光を使用者の眼に入射させて網膜上を走査し、網膜に結像させることにより、使用者に画像を視認させる構成を採用してもよい。
また、本発明を、MEMSミラーを用いた走査光学系を採用し、MEMSディスプレイ技術を利用した表示装置に適用することも可能である。すなわち、信号光形成部と、信号光形成部が射出する光を走査するMEMSミラーを有する走査光学系と、走査光学系により走査される光によって虚像が形成される光学部材とを光射出部として備えてもよい。この構成では、信号光形成部が射出した光がMEMSミラーにより反射され、光学部材に入射し、光学部材の中を導かれて、虚像形成面に達する。MEMSミラーが光を走査することにより、虚像形成面に虚像が形成され、この虚像を使用者が眼で捉えることで、画像が認識される。この場合の光学部品は、例えば上記実施形態の右導光板261及び左導光板262のように、複数回の反射を経て光を導くものであってもよく、ハーフミラー面を利用してもよい。
さらに、本発明の光学素子は、ハーフミラー261A、262Aを有する右導光板261、左導光板262に限定されず、画像光を使用者の眼に入射させる光学部品であればよく、具体的には、回折格子、プリズム、ホログラフィー表示部を用いてもよい。
また、図3、図11、図13に示した各機能ブロックのうち少なくとも一部は、ハードウェアで実現してもよいし、ハードウェアとソフトウェアの協働により実現される構成としてもよく、図3、図11、図13に示した通りに独立したハードウェア資源を配置する構成に限定されない。また、図3、図11、図13に示した各機能部は、マイクロプロセッサーとICで構成する例に制限されず、より大規模の集積回路に複数の機能部を実装する構成としてもよいし、SoC等の形態としても良い。また、制御装置10、10Bに形成された構成が重複して画像表示部20、20Bに形成されていてもよい。
1…通信システム、3…身体装着デバイス、10、10B、10C…制御装置、20、20B…画像表示部(表示部)、22…右表示駆動部、24…左表示駆動部、32…右イヤホン、34…左イヤホン、40…接続部、41A…制御データバス、41B…画像データバス、41C、41D…表示データバス、42…右コード、44…左コード、48…本体コード、61…カメラ、63…マイク、100、100B、100C…頭部装着型表示装置(表示装置)、110…制御部(第1制御部)、115…I/F部、121…メモリー、122…フラッシュメモリー、123…電源制御部、124…UI制御部、125…無線I/F制御部、126…音声制御部、127…センサーIC、128…外部I/F部、131…赤外線通信部(送信部)、150…サブ制御部(第2制御部)、155…I/F部、161…第1センサー、162…第2センサー、163…GPS(第2GPS受信部)、164…照度センサー、165…EEPROM(設定データ記憶部)、165a…センサー情報、167…LCD駆動部、168…LCD駆動部、169…バックライト駆動部、170…バックライト駆動部、221…右バックライト、222…左バックライト、241…右液晶ディスプレイ、242…左液晶ディスプレイ、251…右投写光学系、252…左投写光学系、300…バンド部、300A…ケース部、303…LCD、309…ボタン、350…サブ制御部(第2制御部)、351…第1センサー、352…第2センサー、353…GPS、354…EEPROM、355…カメラ、357…赤外線通信部(受信部)、420…位置検出部、421…GPS、422…9軸センサー、422…センサー、423…位置検出部、430…撮像部、431…IRカメラ、432…照度センサー、433…熱感知センサー、440…状態検出部、441…温度センサー、442…発汗センサー、443…心拍センサー、444…血圧センサー、450…動き検出部、451…軸センサー、452…GPS、460…眼運動計測部、461…IRカメラ、462…筋電位センサー、470…視覚計測部、471…IRカメラ、472…UVカメラ、473…熱感知センサー、474…照度センサー、480…状態検出部、481…温度センサー、482…発汗センサー、490…入力検出部、491…脳波センサー、492…マイク。

Claims (23)

  1. 表示部を備えた表示装置であって、
    記表示装置を制御する第1制御部を有する第1本体と、
    加速度センサー、ジャイロセンサー、磁気センサー、カメラ、照度センサー及びGPSのいずれかである複数のセンサーと、複数の前記センサーに接続され、前記第1制御部に、複数の前記センサーが検出した検出結果を含むデータを送信する第2制御部と、前記表示部と、を有する第2本体と、
    を備え
    前記第1本体には、加速度センサー、ジャイロセンサー、磁気センサーのいずれかを含むセンサーが設けられ、
    前記第1制御部は、前記第1本体の前記センサーと前記第2本体の複数の前記センサーとの相対位置と、前記第1本体の前記センサー及び前記第2本体の複数の前記センサーの検出結果と、に基づき、前記表示装置の動きを示す特性値を算出することを特徴とする表示装置。
  2. 前記第2制御部は、前記第1制御部の制御に基づき、複数の前記センサーの制御をとりまとめて実行すること、を特徴とする請求項1記載の表示装置。
  3. 前記第2制御部は、複数の前記センサーの検出結果を、複数の異なるサンプリング周期で取得すること、を特徴とする請求項1または2記載の表示装置。
  4. 前記第2制御部は、第1サンプリング周期、及び、前記第1サンプリング周期より長い第2サンプリング周期で、複数の前記センサーの検出結果を取得し、前記第1サンプリング周期で取得した前記センサーの検出結果と、前記第2サンプリング周期で取得した前記センサーの検出結果とを含むデータを前記第1制御部に送信すること、を特徴とする請求項3記載の表示装置。
  5. 前記第2制御部は、前記第1制御部に対し、第1サンプリング周期に対応する第1送信形式、及び、第2サンプリング周期に対応する第2送信形式のいずれかの送信形式で前記センサーの検出結果を含むデータを送信可能であること、
    を特徴とする請求項4記載の表示装置。
  6. 前記第2制御部は、前記第1制御部から要求されるサンプリング周期に基づき、前記第1送信形式、及び、前記第2送信形式のいずれかの送信形式を選択して前記センサーの検出結果を含むデータを送信すること、
    を特徴とする請求項5記載の表示装置。
  7. 前記第1制御部と前記第2制御部との間で、前記第2制御部が前記データを前記第1制御部に送信するタイミングと前記第1制御部が前記データを受信するタイミングとを同期させる送信同期処理を行い、
    前記第1制御部が前記第2制御部に対し、前記第2制御部から前記第1制御部に送信する前記データの送信周期、或いは、検出結果を送信する前記センサーの指定を含む設定行うこと、
    を特徴とする請求項1から6のいずれかに記載の表示装置。
  8. 前記第2制御部に接続され、前記第2制御部に接続される前記センサーに関するセンサー情報を記憶するセンサー情報記憶部を備え、
    前記第1制御部は、前記第2制御部に対し前記センサー情報を要求し、要求に応じて前記第2制御部が送信する前記センサー情報基づき、前記第2制御部が送信する前記データの設定を行うこと、
    を特徴とする請求項7記載の表示装置。
  9. 前記センサー情報、前記センサーに対応して、前記センサーを識別するセンサー識別子と、前記センサーの検出結果を取得するサンプリング周期とを含むと、
    を特徴とする請求項8記載の表示装置。
  10. 前記センサー情報記憶部は、前記センサーに対応して前記第2制御部が実行する処理を示す情報を記憶すること、
    を特徴とする請求項8または9記載の表示装置。
  11. 前記第1制御部は前記第2制御部に対して制御信号を送信し、
    前記第2制御部は、前記第1制御部から初期化を指示する制御信号を受信した場合に、前記第2制御部に接続される前記センサーを初期化すること、
    を特徴とする請求項1から10のいずれかに記載の表示装置。
  12. 前記第2制御部は、前記第1制御部から初期化を指示する制御信号を受信して前記センサーを初期化した場合に、前記第1制御部と同期処理を実行し、その後に取得する前記センサーの検出結果に検出時刻の時刻データを付加して前記第1制御部に送信すること、
    を特徴とする請求項11記載の表示装置。
  13. 前記第1制御部に接続され、前記制御信号を光信号として送信する送信部と、
    前記第2制御部に接続され、前記送信部が送信する前記光信号を受信する受信部と、を備えること、
    を特徴とする請求項11または12記載の表示装置。
  14. 前記第1制御部に接続され、GPS信号に基づき時刻情報を取得する第1GPS受信部と、
    前記第2制御部に接続され、GPS信号に基づき時刻情報を取得する第2GPS受信部と、を備え、
    前記第1制御部及び前記第2制御部は、前記第1GPS受信部及び前記第2GPS受信部がそれぞれ取得する時刻情報に基づく同期処理を実行すること、
    を特徴とする請求項11から13のいずれかに記載の表示装置。
  15. 前記第2制御部は、前記第1制御部から設定更新を要求する前記制御信号を受信した場合に、前記第2制御部に接続される前記センサーを初期化すること、
    を特徴とする請求項11から14のいずれかに記載の表示装置。
  16. 前記同期処理において、前記第1制御部から前記第2制御部に所定のタイミングで同期信号を送信し、前記第2制御部は前記第1制御部が送信する同期信号に基づいて、同期を行うこと、
    を特徴とする請求項12記載の表示装置。
  17. 前記同期処理の実行後、前記第1制御部及び前記第2制御部のそれぞれはタイムコードのカウントを実行し、
    前記第2制御部は、前記センサーの検出結果を取得した場合に、取得した検出結果に取得時刻を示すタイムコードを付加した前記データを送信すること、
    を特徴とする請求項1または16記載の表示装置。
  18. 前記第2制御部は、前記センサーの検出結果を取得した場合に、取得時刻を示すタイムコードを、取得した検出結果のデータに埋め込み、或いは検出結果に付加して前記データを生成して送信すること、
    を特徴とする請求項17記載の表示装置。
  19. 前記第1制御部は、検出値の種類を指定して検出値を要求する検出値要求コマンドを前記第2制御部に送信し、
    前記第2制御部は、前記第1制御部から受信した前記検出値要求コマンドが、複数の前記センサーの検出結果に基づく演算処理で求められる検出値を要求する場合に、複数の前記センサーの検出結果を演算して要求された前記検出値を求める所定処理を実行すること、を特徴とする請求項1から18のいずれかに記載の表示装置。
  20. 前記第2制御部は設定データを記憶する設定データ記憶部に接続され、前記設定データ記憶部に記憶された設定データを用いて前記所定処理を実行すること、を特徴とする請求項19載の表示装置。
  21. 前記第2制御部は、前記センサーから取得した検出結果を前記第1制御部に送信するまで保持すること、を特徴とする請求項1から20のいずれかに記載の表示装置。
  22. 前記第2制御部は、いずれかの前記センサーの検出結果他の前記センサーの検出結果とに基づいて、前記センサーで直接検出できない種類の値を擬似的に求める前記所定処理を実行し、処理後の検出結果を前記第1制御部に送信すること、を特徴とする請求項19記載の表示装置。
  23. 第1制御部を有する第1本体と、表示部、加速度センサー、ジャイロセンサー、磁気センサー、カメラ、照度センサー及びGPSのいずれかである複数のセンサー、及び、複数の前記センサーに接続されて、前記第1制御部に、複数の前記センサーが検出した検出結果を含むデータを送信する第2制御部を有する第2本体と、を備える表示装置であり、前記第1制御部により前記表示装置を制御するよう構成され、前記第1本体に、加速度センサー、ジャイロセンサー、磁気センサーのいずれかを含むセンサーが設けられ前記表示装置を制御し、
    複数の前記センサーに接続された前記第2制御部により、数の前記センサーの検出結果を含むデータを記第1制御部に送信し、
    前記第1制御部により、前記第1本体の前記センサーと前記第2本体の複数の前記センサーとの相対位置と、前記第1本体の前記センサー及び前記第2本体の複数の前記センサーの検出結果と、に基づき、前記表示装置の動きを示す特性値を算出すること、
    を特徴とする表示装置の制御方法。
JP2015213656A 2014-12-08 2015-10-30 表示装置、及び、表示装置の制御方法 Active JP6638325B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015213656A JP6638325B2 (ja) 2015-10-30 2015-10-30 表示装置、及び、表示装置の制御方法
US14/960,791 US20160165220A1 (en) 2014-12-08 2015-12-07 Display apparatus and method of controlling display apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015213656A JP6638325B2 (ja) 2015-10-30 2015-10-30 表示装置、及び、表示装置の制御方法

Publications (2)

Publication Number Publication Date
JP2017083732A JP2017083732A (ja) 2017-05-18
JP6638325B2 true JP6638325B2 (ja) 2020-01-29

Family

ID=58714173

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015213656A Active JP6638325B2 (ja) 2014-12-08 2015-10-30 表示装置、及び、表示装置の制御方法

Country Status (1)

Country Link
JP (1) JP6638325B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4088648A1 (en) * 2021-05-10 2022-11-16 J. Morita Manufacturing Corporation Imaging device, ocular movement data processing system, and control method
EP4088647A1 (en) * 2021-05-10 2022-11-16 J. Morita Manufacturing Corporation Imaging device, ocular movement data processing system, and control method

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000010543A (ja) * 1998-06-19 2000-01-14 Denso Corp 車両用画像表示装置
US20020172309A1 (en) * 2001-05-15 2002-11-21 International Business Machines Corporation Universal clock reference
JP5187485B2 (ja) * 2007-07-20 2013-04-24 株式会社ニコン 出力機器
JP6062651B2 (ja) * 2012-04-13 2017-01-18 ローム株式会社 携帯電話
CN104584115B (zh) * 2012-08-27 2019-04-05 索尼公司 图像显示设备和图像显示方法、信息通信终端和信息通信方法以及图像显示系统
JP6020092B2 (ja) * 2012-11-29 2016-11-02 ソニー株式会社 データ処理装置、データ処理方法、及び、プログラム
US9342929B2 (en) * 2013-01-22 2016-05-17 Microsoft Technology Licensing, Llc Mixed reality experience sharing
JP2015079543A (ja) * 2015-01-26 2015-04-23 和浩 山本 温度等のセンサ一体型のバーコードリーダ

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4088648A1 (en) * 2021-05-10 2022-11-16 J. Morita Manufacturing Corporation Imaging device, ocular movement data processing system, and control method
EP4088647A1 (en) * 2021-05-10 2022-11-16 J. Morita Manufacturing Corporation Imaging device, ocular movement data processing system, and control method

Also Published As

Publication number Publication date
JP2017083732A (ja) 2017-05-18

Similar Documents

Publication Publication Date Title
US10175753B2 (en) Second screen devices utilizing data from ear worn device system and method
US9959591B2 (en) Display apparatus, method for controlling display apparatus, and program
US20160165220A1 (en) Display apparatus and method of controlling display apparatus
US9411160B2 (en) Head mounted display, control method for head mounted display, and image display system
US20170111723A1 (en) Personal Area Network Devices System and Method
US10782528B2 (en) Head mounted display and control method thereof
US10838215B2 (en) Head-mounted display apparatus, display control method, and computer program
US9904053B2 (en) Display device, and method of controlling display device
JP6492531B2 (ja) 表示装置、及び、表示装置の制御方法
JP6405991B2 (ja) 電子機器、表示装置、及び、電子機器の制御方法
JP2018142857A (ja) 頭部装着型表示装置、プログラム、及び頭部装着型表示装置の制御方法
JP2016206374A (ja) 表示装置、表示装置の制御方法、及び、プログラム
US10121409B2 (en) Display device, method of controlling display device, and program
JP2016122177A (ja) 表示装置、及び、表示装置の制御方法
JP6464729B2 (ja) 表示装置、及び、表示装置の制御方法
JP6439448B2 (ja) 表示システム、プログラム、及び、表示装置の制御方法
JP2018055416A (ja) 表示装置、頭部装着型表示装置、表示装置の制御方法、及び、プログラム
JP6638325B2 (ja) 表示装置、及び、表示装置の制御方法
US20190086677A1 (en) Head mounted display device and control method for head mounted display device
JP2016033763A (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6638195B2 (ja) 表示装置、表示装置の制御方法、および、プログラム
JP6609920B2 (ja) 表示装置、及び、表示装置の制御方法
JP2016116066A (ja) 表示装置、及び、表示装置の制御方法
JP6540004B2 (ja) 表示装置、及び、表示装置の制御方法
JP2016181864A (ja) 表示装置、及び、表示装置の制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181023

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190724

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190820

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191011

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191209

R150 Certificate of patent or registration of utility model

Ref document number: 6638325

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150