以下、本発明の一実施形態にかかる表示制御装置を説明する。本発明の一実施形態にかかる表示制御装置は、第1情報取得部で透過型の表示部の位置に関する第1情報を取得し、第2情報取得部で通信機能を有する複数の電子機器のそれぞれの位置に関する第2情報を取得し、第3情報取得部で複数の電子機器それぞれの少なくとも通信状態に関する第3情報を取得する。そして、表示制御部が、第1情報取得部が取得した第1情報と第2情報取得部が取得した第2情報と第3情報取得部が取得した第3情報とに基づいて、透過して表示部上に映された電子機器に関連付けて、電子機器に関する情報を表示部上に表示させる。このようにすることにより、透過型の表示部を通して映されている電子機器の実像に当該電子機器に関する情報を拡張現実画像(AR画像)等として表示させればよいので、ブレンディング処理などの時間がかかる処理を行う必要が無くなる。即ち、第1情報〜第3情報を取得して例えばネットワーク接続状態等を電子機器に関する情報として可視化して表示するのみであるので、ネットワーク接続状態等の表示の高速化を図ることができる。
また、第1情報取得部は、表示部の表示の向きに関する情報を更に取得し、表示制御部は、表示の向きに関する情報に更に基づいて、電子機器に関する情報を表示部上に表示させるようにしてもよい。このようにすることにより、表示部が例えば光学透過ヘッドマウントディスプレイ装置など、使用者が装着するような機器の場合に、その表示部の向きにある電子機器に対応する情報を表示させることができる。
また、第2情報取得部は、GPSに基づく測位情報から第2情報を取得するようにしてもよい。このようにすることにより、GPS(Global Positioning System)を利用して電子機器の位置を検出することができ、GPS受信機等を備えている電子機器であれば、電子機器に部品等を付加することなく、第2情報を取得することができる。また、第2情報を取得するために電子機器を撮像装置により撮像して認識する必要も無いので、カメラ等の撮像装置も不要となる。
また、第2情報取得部は、電子機器が発する無線信号を取得し、無線信号に基づいて電子機器の位置を特定する特定部を更に備えてもよい。このようにすることにより、電子機器から光を点滅させたり、超音波を発信したりすることにより、当該電子機器の位置を特定することができる。
また、第2情報取得部は、表示部の表示方向を撮影する撮像部を備え、撮像部が撮像した画像から画像認識処理により電子機器の位置を特定する画像認識部を更に備えてもよい。このようにすることにより、表示部の表示範囲にある電子機器の位置を画像認識により特定することができ、電子機器に無線等の発信機が不要となる。
また、第3情報取得部は、電子機器の属性情報を更に取得するようにしてもよい。このようにすることにより、例えば、電子機器の動作状態やバッテリの残量など電子機器の属性にかかる情報を表示させることができる。
また、本発明の一実施形態にかかる表示制御装置は、位置情報取得部で通信機能を有する複数の電子機器それぞれの位置に関する情報を取得し、通信情報取得部で複数の電子機器それぞれの少なくとも通信状態に関する情報を取得する。そして、表示制御部で位置情報取得部が取得した位置情報と通信情報取得部が取得した通信情報とに基づいて、透過型の表示部上に透過して映された電子機器に関連付けて、電子機器に関する情報を表示させている。このようにすることにより、透過型の表示部を通して映されている電子機器の実像に当該電子機器に関する情報を拡張現実画像(AR画像)等として表示させればよいので、ブレンディング処理などの時間がかかる処理を行う必要が無くなる。即ち、複数の電子機器それぞれの位置に関する情報と少なくとも通信状態に関する情報を取得して例えばネットワーク接続状態等を電子機器に関する情報として可視化して表示するのみであるので、ネットワーク接続状態等の表示の高速化を図ることができる。
また、本発明の一実施形態にかかる表示制御方法は、第1情報取得工程で透過型の表示部の位置に関する第1情報を取得し、第2情報取得工程で通信機能を有する複数の電子機器のそれぞれの位置に関する第2情報を取得し、第3情報取得工程で複数の電子機器それぞれの少なくとも通信状態に関する第3情報を取得する。そして、表示制御工程で、第1情報取得工程で取得した第1情報と第2情報取得工程で取得した第2情報と第3情報取得工程で取得した第3情報とに基づいて、透過して表示部上に映された電子機器に関連付けて、電子機器に関する情報を表示部上に表示させる。このようにすることにより、透過型の表示部を通して映されている電子機器の実像に当該電子機器に関する情報を拡張現実画像(AR画像)等として表示させればよいので、ブレンディング処理などの時間がかかる処理を行う必要が無くなる。即ち、第1情報〜第3情報を取得して例えばネットワーク接続状態等を電子機器に関する情報として可視化して表示するのみであるので、ネットワーク接続状態等の表示の高速化を図ることができる。
また、上述した表示制御方法をコンピュータにより実行させる表示制御プログラムとしてもよい。このようにすることにより、コンピュータを用いて、透過型の表示部を通して映されている電子機器の実像に当該電子機器に関する情報を拡張現実画像(AR画像)等として表示させればよいので、ブレンディング処理などの時間がかかる処理を行う必要が無くなる。即ち、第1情報〜第3情報を取得して例えばネットワーク接続状態等を電子機器に関する情報として可視化して表示するのみであるので、ネットワーク接続状態等の表示の高速化を図ることができる。また、コンピュータにより実行されるプログラムであるので、専用のハードウェア等が不要となり、汎用の情報処理装置等にインストールして機能させることができる。
また、上述した表示制御プログラムをコンピュータ読み取り可能な記録媒体に格納してもよい。このようにすることにより、当該プログラムを機器に組み込む以外に単体でも流通させることができ、バージョンアップ等も容易に行える。
また、本発明の一実施形態にかかる表示制御方法は、位置情報取得工程で通信機能を有する複数の電子機器それぞれの位置に関する情報を取得し、通信情報取得工程で複数の電子機器それぞれの少なくとも通信状態に関する情報を取得する。そして、表示制御工程で位置情報取得工程で取得した位置情報と通信情報取得工程で取得した通信情報とに基づいて、透過型の表示部上に透過して映された電子機器に関連付けて、電子機器に関する情報を表示させている。このようにすることにより、透過型の表示部を通して映されている電子機器の実像に当該電子機器に関する情報を拡張現実画像(AR画像)等として表示させればよいので、ブレンディング処理などの時間がかかる処理を行う必要が無くなる。即ち、複数の電子機器それぞれの位置に関する情報と少なくとも通信状態に関する情報を取得して例えばネットワーク接続状態等を電子機器に関する情報として可視化して表示するのみであるので、ネットワーク接続状態等の表示の高速化を図ることができる。
また、上述した表示制御方法をコンピュータにより実行させる表示制御プログラムとしてもよい。このようにすることにより、コンピュータを用いて、透過型の表示部を通して映されている電子機器の実像に当該電子機器に関する情報を拡張現実画像(AR画像)等として表示させればよいので、ブレンディング処理などの時間がかかる処理を行う必要が無くなる。即ち、複数の電子機器それぞれの位置に関する情報と少なくとも通信状態に関する情報を取得して例えばネットワーク接続状態等を電子機器に関する情報として可視化して表示するのみであるので、ネットワーク接続状態等の表示の高速化を図ることができる。また、コンピュータにより実行されるプログラムであるので、専用のハードウェア等が不要となり、汎用の情報処理装置等にインストールして機能させることができる。
また、上述した表示制御プログラムをコンピュータ読み取り可能な記録媒体に格納してもよい。このようにすることにより、当該プログラムを機器に組み込む以外に単体でも流通させることができ、バージョンアップ等も容易に行える。
本発明の第1の実施例にかかる表示制御装置を図1乃至図9を参照して説明する。図1は、本発明の第1の実施例にかかる表示制御装置を有するシステム構成を示した図である。図1に示したシステムは、表示端末10と、サーバ20と、電子機器30と、を有している。
表示端末10は、例えば、図2に示すように、眼鏡型の表示部11を備えている。そして、サーバ20から電子機器の位置情報と通信状態等の情報を取得し、サーバ20から取得した情報と自身の位置と向きに関する情報に基づいて、表示部11が映している範囲内の電子機器の通信状態等の情報を架空画像(AR画像)として表示する。
サーバ20は、電子機器30から取得した電子機器30の位置情報および通信状態等の情報が格納されている。サーバ20は、表示端末10からの要求に基づいて電子機器30の位置情報および通信状態等の情報を表示端末10に送信する。
電子機器30は、例えば、パーソナルコンピュータ、テレビ受像機、スマートフォン、タブレット型端末など、有線または無線ネットワークに接続可能な機器である。電子機器30は、サーバ20に対して自身の位置情報および通信状態等の情報を送信する。なお、図1では電子機器30は1つしか記載していないが複数あってもよい。
そして、表示端末10と電子機器30は、無線または有線LAN(Local Area Network)や、インターネットや公衆回線等を介してサーバ20と接続されている。表示端末10および電子機器30と、サーバ20とは、上述したように、インターネットや公衆回線等を介してもよく、必ずしも同じ部屋や建物内など近傍にある必要は無い。また、表示端末10と電子機器30は、表示端末10の位置が固定の場合は表示装置の表示範囲内に位置する必要があるが、図2に示したように使用者等が装着する形態であれば、近傍にある必要は無い。
次に、上述した各装置の構成を説明する。表示端末10は、表示部11と、無線通信部12と、GPS部13と、データ記憶部14と、演算処理部15と、加速度センサ16と、電子コンパス17と、を備えている。
表示部11は、本実施例では図2に示したように眼鏡型の光学透過ヘッドマウントディスプレイ装置として構成されている。表示部11は、外界からの像を透過すると共に表示部11上に表示されたAR画像を反射することで、外界からの像にAR画像を投影する透過型の表示装置である。表示部11は、電子機器30の実像に対して虚像のAR画像を重畳させることで、使用者は、表示部11を透過した電子機器30の実像にAR画像を同時に視認することができる。
第2情報取得部、第3情報取得部としての無線通信部12は、サーバ20と無線通信を行い、サーバ20に格納されている電子機器30の位置情報および通信状態等の情報を受信(取得)する。即ち、通信機能を有する複数の電子機器のそれぞれの位置に関する第2情報と、複数の電子機器それぞれの少なくとも通信状態に関する第3情報を取得している。
第1情報取得部としてのGPS部13は、公知であるように複数のGPS衛星から発信される電波を受信して、自身(表示端末10)の位置情報を求める。即ち、透過型の表示部の位置に関する第1情報を取得している。
データ記憶部14は、例えば書き換え可能な揮発性メモリや書き換え可能な不揮発性メモリなどの記憶装置で構成されている。データ記憶部14は、無線通信部12が受信した情報や演算処理部15が演算した結果等が記憶されている。
表示制御部としての演算処理部15は、例えばRAM(Random Access Memory)やROM(Read Only Memory)などのメモリを備えたCPU(Central Processing Unit)で構成されている。演算処理部15は、表示端末10の制御を司るとともに、無線通信部12が受信した電子機器30の位置情報および通信状態等の情報と、GPS部13が求めた自身の位置情報と、加速度センサ16、電子コンパス17で求めた表示部11の表示方向、傾きに基づいて、表示部11の表示範囲に存在する電子機器30の通信状態等を示すAR画像を生成し、表示部11に虚像として表示させる。即ち、第1情報と第2情報と第3情報とに基づいて、透過して表示部上に映された電子機器に関連付けて、電子機器に関する情報を表示部上に表示させている。つまり、AR画像が本実施例においては電子機器に関する情報となる。
加速度センサ16は、例えば静電容量型やピエゾ抵抗型などの加速度を検出する公知のセンサであり、表示部11の傾きを検出する。
電子コンパス17は、公知のように、磁気センサにより地磁気を検出し、地磁気に基づいて表示部11の方位角に関する検出信号を出力する。即ち、加速度センサ16と電子コンパス17は、表示部11の向きに関する情報を取得する第1情報取得部として機能する。
また、表示端末10は、図2に示したように、眼鏡のフレームの腕に相当する部分に表示部11以外の部分が取り付けられている。この部分が、本発明の第1の実施例にかかる表示制御装置としての表示制御ユニット10aとなる。
サーバ20は、データ記憶部21と、演算処理部22と、通信部23と、を備えている。
データ記憶部21は、例えばハードディスクや半導体メモリなどの不揮発性の記憶媒体で構成されている。データ記憶部21は、電子機器30から受信した位置情報および通信状態等の情報を格納(記憶)する。
演算処理部22は、例えば表示端末10の演算処理部15と同様にCPUで構成されている。演算処理部22は、サーバ20の制御を司るとともに、通信部23が受信した電子機器30の位置情報および通信状態等の情報をデータ記憶部21に格納したり、表示端末10からの要求に応じて、データ記憶部21に格納されている電子機器30の位置情報および通信状態等の情報を読み出して通信部23に出力する。
通信部23は、表示端末10や電子機器30と、有線通信や無線通信を行う。通信部23は、電子機器30から位置情報および通信状態等の情報を受信する。また、通信部23は、表示端末10から電子機器30の位置情報および通信状態等の情報の要求を受信したり、演算処理部22がデータ記憶部21から読み出した電子機器30の位置情報および通信状態等の情報を表示端末10に送信する。
電子機器30は、通信部31と、GPS部32と、データ記憶部33と、演算処理部34と、を備えている。
通信部31は、サーバ20と有線通信または無線通信を行い、電子機器30の位置情報および通信状態等の情報を送信する。また、通信部31は、他の電子機器30やネットワークと通信ことができるように構成されていてもよい。要するに、通信機能を有し、少なくとも1つ以上の電子機器30(この場合サーバ20も含む)と通信することができればよい。この通信も、無線や有線LANに限らず、Bluetooth(登録商標)やNFC(Near Field Communication)などの近距離無線通信など複数の通信規格に対応していてもよい。
GPS部32は、表示端末10のGPS部13と同様に、複数のGPS衛星から発信される電波を受信して、自身(電子機器30)の位置情報を求める。即ち、第2情報としてGPSに基づく測位情報から取得している。
データ記憶部33は、例えば書き換え可能な揮発性メモリや書き換え可能な不揮発性メモリなどの記憶装置で構成されている。データ記憶部33は、演算処理部34が演算した結果等が記憶されている。
演算処理部34は、例えば表示端末10の演算処理部15と同様にCPUで構成されている。演算処理部34は、電子機器30の制御を司るとともに、GPS部32が求めた電子機器30の位置情報および通信状態等の情報をデータ記憶部33に格納したり、当該位置情報および通信状態等の情報を通信部31に出力する。
なお、電子機器30には、図示しないがそれぞれが持つ固有の機能部も備えている。例えば、パーソナルコンピュータであればキーボードやマウスなどの入力装置や液晶ディスプレイなどの表示装置など、テレビ受像機であれば液晶ディスプレイなどの表示画面やチューナなど、スマートフォンであれば、液晶ディスプレイなどの表示画面やタッチパネルなどの入力装置および電話機能を実現する回路等が挙げられる。
次に、上述した構成のシステムにおいて、サーバ20に蓄積される情報の一例を図3を参照して説明する。
サーバ20には電子機器30ごとに図3の表に示すように電子機器30の名称、GPSの有無、位置情報、ID、接続先、付加情報がデータベースとしてデータ記憶部21に格納される。名称は電子機器30の名称が格納される。図3では、スマホ(スマートフォン)、ルーター、TV(テレビ受像機)、デスクトップ(パーソナルコンピュータ)の4つの電子機器30が登録されている。GPSの有無はGPS部32(GPS受信機)の有無を示す情報が格納される。本実施例の場合GPSを利用して位置情報を取得するので有のみとなる。なお、GPS無しの場合は他の実施例で説明する。
位置情報はGPS部32で求めた電子機器30の位置情報が格納される。IDは、例えば電子機器30のMAC(Media Access Control)アドレスやIP(Internet Protocol)アドレスなどのネットワーク上の固有のアドレスが格納される。
接続先は、接続先モジュールと接続方法が格納される。接続先モジュールは当該電子機器30が接続されているモジュール(機器)のMACアドレスやIPアドレスが格納され、接続方法は、例えばIEEE(The Institute of Electrical and Electronics Engineers, Inc.)802.11g、Bluetooth(登録商標)、LTE(Long Term Evolution)などの通信方式の種類が格納されている。また、接続先は、複数の接続先がある場合は接続先モジュールと接続方法の欄を複数設けてもよい(図3ではAとBの2つ設けている)。
付加情報は、電子機器30の通信状態以外の当該電子機器30に属する情報(属性情報)が格納されている。例えば、OS(Operating System)の種類、動作しているアプリケーションプログラム、バッテリ残量、ハードディスクなどの記憶媒体の残量などが挙げられる。即ち、図3に示した表は第2情報と第3情報を示している。
次に、上述した構成のシステムにおいて、表示端末10、サーバ20、電子機器30、それぞれの間における情報の送受信動作を示したシーケンスを図4を参照して説明する。図4では、電子機器30は電子機器A、電子機器Bの2つを有するシステムとしている。
まず、電子機器Aがネットワークに接続される(T11)。すると、電子機器AのGPS部32がGPS衛星からの電波を受信して位置情報を求めて取得する(T12)。そして、接続情報(ID、接続先、つまり通信状態の情報)、位置情報、付加情報などをサーバ20に送信して通知する(T13)。なお、接続情報、位置情報、付加情報は情報に変化があった場合または定期的にサーバ20に送信する。
電子機器Bにおいてもネットワークに接続されると(T21)、電子機器Aと同様に位置情報を取得して(T22)、接続情報、位置情報、付加情報などをサーバ20に送信して通知する(T23)。
サーバ20は、電子機器Aから通知された接続情報、位置情報、付加情報などを図3に示したようなデータベース(DB)に登録し蓄積する(T31)。電子機器Bから通知された接続情報、位置情報、付加情報なども同様にデータベースに登録し蓄積する(T32)。
表示端末10は、電子機器30の位置情報の取得を開始すると、電子機器Aおよび電子機器Bの位置情報、接続情報、付加情報などをサーバ20に要求する(T41)。サーバ20は、表示端末10からの要求に対応して、電子機器Aおよび電子機器Bの位置情報、接続情報、付加情報などを表示端末10に送信(返信)する(T33)。このようにして表示端末10の電子機器の位置情報の取得が終了する。なお、表示端末10が、電子機器Aおよび電子機器Bの位置情報、接続情報、付加情報などをサーバ20に要求する際に、表示部11の表示範囲など情報を取得する範囲の指定を行ってもよい。
次に、表示端末10の動作を図5のフローチャートを参照して説明する。このフローチャートは演算処理部15で実行される。
まず、ステップS11において、初期設定を確認してステップS12に進む。初期設定とは、例えば、表示部11の表示範囲や表示形式(表示される情報等)の設定である。
次に、ステップS12において、自己位置情報の取得をしてステップS13に進む。つまり、GPS部13で求めた位置情報と、加速度センサ16および電子コンパス17から自身の姿勢(傾きと向き)を取得する。即ち、第1情報取得工程として機能する。
次に、ステップS13において、電子機器30の位置情報を取得してステップS14に進む。取得方法は、図4のシーケンス図を参照して説明した方法で行う。なお、本ステップで付加情報も合わせて取得する。即ち、第2情報取得工程、第3情報取得工程として機能する。
次に、ステップS14において、ステップS12とステップS13で取得した自己位置情報と、電子機器30の位置情報に基づいて、表示部11にAR画像を描画してステップS15に進む。即ち、表示制御工程として機能する。
ここで、描画処理について図6のフローチャートを参照して説明する。このフローチャートは演算処理部15で実行される。まず、ステップS21において、ワールド座標系を取得してステップS22に進む。ワールド座標系とは、表示端末10や電子機器30などが位置している空間全体を表す座標系である。ワールド座標系は、GPS部13やGPS部32で求めた位置情報から変換してもよいし、GPS部13などで予めワールド座標系で位置情報を求めておいてもよい。
次に、ステップS22において、ステップS21に取得したワールド座標系をビュー座標系に変換してステップS23に進む。ビュー座標系とは、視点を基準とした座標系である。本実施例の場合は表示端末10を基準とした座標系に変換する。この際に、図7に示したように、加速度センサ16で傾き(Z軸を基準として、XY面からの傾き)を検出し、電子コンパス17で自分の視認している方向を検出する。つまり、図7のX´Y´Z´の座標系に変換する。
次に、ステップS23において、射影変換を行ってステップS24に進む。射影変換とは、基準となる位置(視点)から見て近くにあるものは大きく、遠くにあるものは小さくなるようにすることである(透視法射影)。つまり、表示部11に表示させるAR画像をどの程度の大きさで表示するかを決める。
表示部11は視点から見える範囲の上下方向の角度である視野角や水平方向の角度であるアスペクト比が予め分かっているため、表示部11から見える範囲に電子機器Aまたは電子機器Bが位置しているかはビュー座標系から判別できる。また、ビュー座標系から電子機器Aや電子機器Bまでの距離も求めることができるため、視点からどの程度離れているかが分かり、どの程度の大きさでどの位置にAR画像を表示させればよいかが決まる。
次に、ステップS24において、ステップS23で射影変換を行ったAR画像をスクリーン座標系に変換する。スクリーン座標系とは、表示部11上に定義されている2次元の座標系に変換することである。このようにすることにより、例えば、図8に示したように、電子機器30(電子機器Aまたは電子機器B)が遠くにある場合はAR画像50は小さく表示され(図8(a))、電子機器30が近くにある場合はAR画像50は大きく表示される(図8(b))。
図5のフローチャートに戻って、ステップS15において、AR画像の表示機能がOFFか否かを判断し、OFFである場合(YESの場合)は終了し、OFFでない場合(NOの場合)はステップS2に戻る。
図9に本実施例の表示例を示す。図9(a)は、AR画像50を表示していない状態(実像のみが透過して観察できる)、図9(b)は、図9(a)に対してAR画像50を表示させた状態である。図9から明らかなように、表示部11の位置情報および向きに関する情報と、電子機器30の位置情報と電子機器の接続情報に基づいてAR画像50を表示している。
図9では、電子機器30として、ルーター30a、テレビ受像機30b、スマートフォン30c、タブレット型端末30d、パーソナルコンピュータ30eを示している。そして、AR画像50として、電子機器30の位置に表示される画像50aと、電子機器30間の接続を示す画像50bと、が表示されている。電子機器30の位置に表示される画像50aは、上述したように、近くにある電子機器30(スマートフォン30c)は大きく表示され、遠くにある電子機器30(ルーター30a)は小さく表示される。この例では、タブレット型端末30dは、電源OFF状態などのため、どの電子機器30とも接続されていない。そのため、電子機器30の位置に表示される画像50aは表示されない。
電子機器30間の接続を示す画像50bは、ネットワークによる接続関係がある電子機器30同士を接続する画像である。電子機器30間の接続を示す画像50bは、図3に示した接続先モジュールの情報からどの電子機器30間に描画すればよいか分かる。また、図3に示した接続方法に応じて電子機器30間の接続を示す画像50bの色を変えるようにしてもよい。あるいは接続方法を電子機器30間の接続を示す画像50bに加えてもよい。その場合、例えば電子機器30間の接続を示す画像50bの横などに表示させればよい。以上の説明のように、AR画像50は、電子機器30に関連付けて表示されている。
また、図9に図3の付加情報を表示させるようにしてもよい。この付加情報は、対応する電子機器30の周囲等に表示させるようにすればよい。例えば、スマートフォン30cであれば、動作しているアプリ(アプリケーションプログラム)の名称や、バッテリの残量などを表示する。即ち、AR画像50として表示される情報(電子機器30に関する情報)は、表示端末10の位置情報(第1情報)、電子機器30の位置情報(第2情報)、接続情報や付加情報(第3情報)に基づいて生成可能な情報であればよい。
また、図9では、AR画像50としてアイコン等の絵の情報を示したが、テキスト情報として表示してもよい。このテキスト情報もAR画像50として含める。また、サーバ20が図9に例示した表示例の範囲に位置している場合は、サーバ20も電子機器としてAR画像50が表示される。
なお、電子機器30に、サーバ20に位置情報、接続情報、付加情報を送信するか否かを設定することができるアプリケーションプログラムやスイッチ等を設け、電子機器30側で情報を通知するか決められるようにしてもよい。あるいは位置情報、接続情報、付加情報の各情報ごとにサーバ20に送信するか否かを設定できるようにしてもよい。この場合、位置情報、接続情報、付加情報をサーバ20に送信しない設定とした電子機器30は、電源が投入されている状態であってもAR画像50は表示されないようにすることができる。
本実施例によれば、表示端末10のGPS部13が、自身(表示部11)の位置情報を取得し、無線通信部12が複数の電子機器30のそれぞれの位置情報と、接続情報、付加情報とを取得する。そして、演算処理部15が、GPS部13が取得した自身の位置情報と無線通信部12が取得した無線通信部12が複数の電子機器30のそれぞれの位置情報、接続情報、付加情報に基づいて、表示部11上に映された電子機器30に関連付けて、AR画像50を表示させる。このようにすることにより、透過型の表示部11を通して(透過して)映されている電子機器30に電子機器30のそれぞれの接続情報や付加情報に基づいたAR画像50が表示されるので、ブレンディング処理などの時間がかかる処理を行う必要が無くなる。また、各位置情報や接続情報や付加情報等を取得してAR画像50のみ生成するので、ネットワーク接続状態の表示の高速化を図ることができる。
また、加速度センサ16や電子コンパス17により、表示部11の傾きや表示の向きに関する情報を更に取得し、演算処理部15は、傾きや表示の向きに関する情報に更に基づいて、AR画像50を表示させているので、表示部11が例えば光学透過ヘッドマウントディスプレイ装置など、使用者が装着するような機器の場合に、その表示部11の向きにある電子機器30に対応する接続情報や付加情報を表示させることができる。
また、電子機器30の位置をGPSに基づく測位情報から取得するので、GPSを利用して電子機器30の位置を検出することができ、GPS受信機等を備えている電子機器30であれば、電子機器30に部品等を付加することなく、位置情報を取得することができる。また、位置情報を取得するために電子機器30をカメラなどにより撮像して認識する必要も無いので、撮像装置も不要となる。
なお、上述した図1では、表示端末10とサーバ20は別に構成していたが、一体的に構成しても良い。つまり、表示端末10のデータ記憶部14の容量をサーバ20のデータ記憶部21が記憶しているデータベースが格納することができる大きさとすることでサーバ20の機能を持たせることができる。
また、表示端末10のデータ記憶部14と演算処理部15は、表示端末10の他の構成部とは別体としてもよい。別体としたデータ記憶部14と演算処理部15は、表示部11(眼鏡部分)とは無線通信や有線通信でデータ等の送受信を行うようにすればよい。
次に、本発明の第2の実施例にかかる表示制御装置を図10および図11を参照して説明する。なお、前述した第1の実施例と同一部分には、同一符号を付して説明を省略する。
本実施例におけるシステム構成を図10に示す。表示端末10およびサーバ20は第1の実施例と同様である。本実施例の電子機器30は、GPS部を持っていない構成である。そのため、発光部35を備えている。発光部35は、例えば複数のLED(Light Emitting Diode)などで構成され、後述する位置検出ユニット40で電子機器30との位置を検出するための光を発する。なお、発光部35が発する光は可視光でもよいがユーザ等が認識しない赤外光などが好ましい。
また、本実施例では、位置検出ユニット40が追加されている。位置検出ユニットは、撮像素子41と、演算処理部42と、通信部43と、GPS部44と、を備えている。この位置検出ユニット40は、例えば、部屋の天井や壁等の部屋内が見渡せる位置に設置することが好ましい。
撮像素子41は、例えばCMOS(Complementary Metal Oxide Semiconductor)センサなどの固体撮像素子で構成され、発光部35が発光した光を検出する。即ち、電子機器30が発する無線信号を取得している。撮像素子41は、発光部35が発光する光を検出できればよいので、感度や解像度(画素数)などは多くなくてもよい。また、撮像素子41は、発光部35で発光した光を検出するので、発光部35が発光する波長の光を撮影可能な素子であることはいうまでもない。
演算処理部42は、例えば表示端末10の演算処理部15と同様にCPUで構成されている。演算処理部42は、位置検出ユニット40の制御を司るとともに、発光部35に発光を要求し、撮像素子41が検出した光と後述するGPS部44が求めた自身の位置情報からから電子機器30の特定と位置を検出する。即ち、無線信号に基づいて電子機器30の位置を特定する特定部として機能する。
通信部43は、サーバ20と有線通信または無線通信を行い、電子機器30と無線通信する。位置検出動作時に電子機器30に対して発光部35の発光を要求する情報を送信する。通信部43は、電子機器30から接続情報や付加情報を受信するとともに、演算処理部42で検出された電子機器30の位置情報を接続情報や付加情報とともにサーバ20に送信する。
GPS部44は、表示端末10のGPS部13と同様に、複数のGPS衛星から発信される電波を受信して、自身(位置検出ユニット40)の位置情報を求める。
したがって、表示端末10の表示制御ユニット10aと、位置検出ユニット40と、で本発明の第2の実施例にかかる表示制御装置を構成する。
次に、上述した構成のシステムにおいて、表示端末10、サーバ20、電子機器30、位置検出ユニット40それぞれの間における情報の送受信動作を示したシーケンスを図11を参照して説明する。
まず、電子機器30がネットワークに接続される(T111)。そして、接続情報、付加情報を通知(送信)するとともに、自身の位置の検出要求を通知(送信)する(T112)。
次に、位置検出ユニット40が電子機器30に対して位置測定スタンバイ信号を送信する(T121)。この信号は上述した発光部35の発光要求である。電子機器30では、この位置測定スタンバイ信号に対応して発光部35を特定パターンで発光させる(T113)。位置検出ユニット40では、発光部35の発光パターンを撮像素子41で撮影する(T122)。そして、発光部35の発光パターン(明滅パターン)を解析して電子機器30を特定する(T123)。つまり、発光部35が発光する特定パターンとは電子機器30ごとに予め定められた複数のLEDの発光または消灯の組み合わせによる発光パターンであり、この発光パターンを検出することにより電子機器30を特定することができる。
次に、位置検出ユニット40の位置を変化させる(T124)。この位置ユニットの位置の変化は後述するステレオ法を行うためのものであり、撮像素子41の位置が変化すればよい。そのため、例えば互いに異なる位置に2つの撮像素子41を配置し切り替えるようにすればよい。
次に、位置検出ユニット40が電子機器30に対して位置測定スタンバイ信号を送信する(T125)。電子機器30では、この位置測定スタンバイ信号に対応して発光部35を特定パターンで発光させる(T114)。位置検出ユニット40では、発光部35の発光パターンを撮像素子41で撮影する(T126)。このとき撮像するのは1回目とは異なる撮像素子41である。そして、発光部35の明滅パターン(発光パターン)を解析して電子機器30を特定する(T127)。
次に、ステレオ法を利用して2回の撮影(T122、T126)で撮影された画像を解析して位置を検出する(T128)。ステレオ法とは、公知のように、カメラの視差を利用して3次元位置を計測する方法であり、まず、視点の異なる2つのカメラで撮像された画像上で3次元位置を計測したい点の対応点を求める。そして、これら各画像上の対応点及び既知である各カメラの位置関係から3角測量の原理によって3次元位置を算出する方法である。ステレオ法で検出した位置検出ユニット40を基準にした位置は、GPS部44が求めた位置情報に基づいて第1の実施例と同様の位置情報に変換する。そして、検出した位置情報と電子機器30から受信した接続情報、付加情報を合わせてサーバ20に送信する(T129)。
サーバ20では、位置検出ユニット40から送信された接続情報、位置情報、付加情報などを図3に示したようなデータベース(DB)に登録し蓄積する(T131)。
表示端末10は、電子機器30の位置情報の取得を開始すると、電子機器30の位置情報、接続情報、付加情報などをサーバ20に要求する(T141)。サーバ20は、表示端末10からの要求に対応して、電子機器30の位置情報、接続情報、付加情報などを表示端末10に送信(返信)する(T133)。このようにして表示端末10の電子機器の位置情報の取得が終了する。なお、表示端末10における動作(図5、図6)は第1の実施例と同様である。
本実施例によれば、位置検出ユニット40が、電子機器30が発する発光パターンを撮影し、その撮影した発光パターンに基づいてステレオ法により電子機器30の位置を検出しているので、電子機器30がGPS受信機を備えていない場合でも、電子機器30の位置を検出することができる。また、撮像素子41は、発光パターンを認識できる程度の感度や解像度を有していればよいので、安価な素子を用いることができる。
次に、本実施例の第3の実施例にかかる表示制御装置を図12および図13を参照して説明する。なお、前述した第1、第2の実施例と同一部分には、同一符号を付して説明を省略する。
本実施例におけるシステム構成を図12に示す。表示端末10およびサーバ20は第1の実施例と同様である。本実施例の電子機器30は、第2の実施例と同様にGPS部を持っていない構成である。そのため、発光部35と音波発生部36を備えている。発光部35は、第2の実施例と同様に例えば複数のLEDなどで構成され、後述する位置検出ユニット40で電子機器30との位置を検出するための光を発する。音波発生部36は、パルス信号発生回路とスピーカ等から構成され、特定のパルス波形からなる音波を発生する。この音波は可聴周波数帯の音波でもよいが本実施例では超音波とする。つまり、本実施例では、光と音波を無線信号として利用する。
また、位置検出ユニット40は、第2の実施例の構成に、マイク45が追加されている。マイク45は、音波発生部36が発生させた音波を検出可能なマイクである。本実施例では超音波マイク(超音波センサともいう)で構成されている。したがって、表示端末10の表示制御ユニット10aと、位置検出ユニット40と、で本発明の第3の実施例にかかる表示制御装置を構成する。
次に、上述した構成のシステムにおいて、表示端末10、サーバ20、電子機器30、位置検出ユニット40それぞれの間における情報の送受信動作を示したシーケンスを図13を参照して説明する。
電子機器30のシーケンスT111〜T113と、位置検出ユニット40のシーケンスT121〜T122は第2の実施例と同様である。以下T223以降の動作を説明する。
T122で発光部35の発光パターンを撮像素子41で撮影すると、その発光パターンを解析して、電子機器30の大体の位置を把握する(T223)。つまり、撮影された画像の発光パターンの位置から電子機器30の位置を把握する。大体の位置とは、例えば、位置検出ユニット40からの方向などである。
次に、位置検出ユニット40が電子機器30に対して距離測定スタンバイ信号を送信する(T125)。電子機器30では、この距離測定スタンバイ信号に対応して音波発生部36は特定のパルスの音波(超音波)を発生させると同時に更に発光部35を発光させる(T214)。
位置検出ユニット40は、電子機器30が発生した音波(超音波)をマイク45で検出し、さらに電子機器30が発生した光を撮像素子41で検出する。そして、マイク45が音波を検出したときの時間(t1とする)と撮像素子41が光を検出したときの時間(t2とする)とを比較し、前記t2と前記t1の差(遅延時間Δt)より電子機器30までの距離を検出する(T226)。そして、T223で撮影した画像とT226で検出した距離から電子機器30の位置を特定する(T227)。そして特定された位置は、第2の実施例と同様にGPS部44が求めた位置情報に基づいて第1の実施例と同様の位置情報に変換する。そして、検出した位置情報と電子機器30から受信した接続情報、付加情報を合わせてサーバ20に送信する(T129)。T131以降は第2の実施例と同様である。
本実施例によれば、位置検出ユニット40が、電子機器30が発する発光パターンを撮影して、電子機器30が発する音波及び光の到達時間差を利用して距離を検出し、発光パターンを撮影した画像と距離から電子機器30の位置を検出しているので、電子機器30がGPS受信機を備えていない場合でも、電子機器30の位置を検出することができる。また、撮像素子41は、発光パターンを認識できる程度の感度や解像度を有していればよいので、安価な素子を用いることができる。ステレオ法を用いないので異なる位置から発光パターンを撮影する必要が無く、撮像素子41が1つでよくなる。
なお、第2、第3の実施例で示した位置検出ユニット40は、サーバ20と一体的に構成してもよい。あるいは、表示端末10と位置検出ユニット40を一体的に構成してもよいし、表示端末10、サーバ20、位置検出ユニット40を一体的に構成してもよい。
次に、本実施例の第4の実施例にかかる表示制御装置を図14および図15を参照して説明する。なお、前述した第1乃至第3の実施例と同一部分には、同一符号を付して説明を省略する。
本実施例は、電子機器30がGPS部を持ってなく、また、位置検出ユニット40もない構成で、表示端末10が電子機器30の位置を検出する場合の構成である。システム構成を図14に示す。基本的に図1の構成であるが、電子機器30が、第2の実施例で説明した発光部35を備え、表示端末10が、撮像素子18を備えている。
撮像部としての撮像素子18は、第2の実施例と同様に、例えばCMOSセンサなどの固体撮像素子で構成され、発光部35が発光した光を検出する。なお、撮像素子18は、表示部11を透過して視認できる方向、つまり、視線とほぼ平行な方向(表示部11の表示方向)を撮影するように取り付けられている。なお、撮像素子18は、後述するように画像認識処理を行う画像を撮影するため、当該画像認識処理で必要とする程度の感度や解像度を有する。
図15に本実施例のシステムにおいて、表示端末10、サーバ20、電子機器30、位置検出ユニット40それぞれの間における情報の送受信動作のシーケンスを示す。
まず、電子機器30がネットワークに接続される(T311)。そして、接続情報、付加情報を通知(送信)するとともに、位置情報は不明である旨を通知(送信)する(T312)。
サーバ20では、電子機器30から通知された接続情報、付加情報などを図3に示したようなデータベース(DB)に登録し蓄積する(T321)。
表示端末10は、電子機器30の位置情報、接続情報、付加情報などをサーバ20に要求する(T331)。サーバ20は、表示端末10からの要求に対応して、電子機器30の接続情報、付加情報などを表示端末10に送信(返信)する(T332)。なお、このときに位置情報は不明であることも合わせて送信する。
次に、表示端末10は、位置情報が不明の電子機器30がある場合はその捜索を行う(T332)。そして、表示端末10は、位置情報が不明の電子機器30に対して位置測定スタンバイ信号を送信する(T333)。電子機器30では、この位置測定スタンバイ信号を受信した場合発光部35を特定パターンで発光させる(T313)。このスタンバイ信号は特定の電子機器30を指定しないので、位置情報が不明な電子機器30は全てこの動作を行う。
表示端末10は、撮像素子18で撮影する(T334)。そして、撮影された画像の発光パターン(明滅パターン)を解析して、電子機器30を特定する(T335)。そして、撮影された画像から画像認識処理により電子機器の位置を検出する(T336)。画像認識処理は、例えば演算処理部15で行えばよい。その場合、演算処理部15が画像認識部として機能する。撮像素子18は、表示部11を透過して視認できる方向を撮影するので、表示部11の表示範囲にある電子機器30を特定することができる。なお、表示端末10における動作(図5、図6)は、図5のステップS13が上述したように、自身が画像認識処理により行うようにしたこと以外は第1の実施例と同様である。
本実施例によれば、表示端末10が画像認識によって電子機器30の位置を検出しているので、位置検出ユニット40が不要となり、システム構成を簡素化することができる。
なお、上述した4つの実施例では、電子機器30の位置を検出していたが、電子機器30の位置が予め決まっており固定されている場合は、サーバ20に予め位置情報を登録(記憶)するようにしてもよい。
また、上述した4つの実施例では透過型の表示部として光学透過ヘッドマウントディスプレイ装置で構成されている例で説明したがそれに限らない。例えばヘッドアップディスプレイ装置など透過して実像を観察できるとともに、その実像にAR画像を重畳することができる透過型の表示装置であれば本発明を適用することができる。また、表示部は、使用者等が装着するに限らず、所定の位置に固定して使用するものであってもよい。固定して使用する場合であれば、表示部(表示端末11)の位置情報は、必ずしも取得する必要は無く、電子機器30の位置情報と、電子機器30それぞれの少なくとも通信状態に関する情報を取得できれば、表示部上に透過して映された電子機器30に関連付けて、電子機器30に関する情報を表示することが可能である。
また、図5のフローチャートをコンピュータで実行可能なプログラムとして構成することで、表示制御プログラムとして構成することができる。
また、本発明は上記実施例に限定されるものではない。即ち、当業者は、従来公知の知見に従い、本発明の骨子を逸脱しない範囲で種々変形して実施することができる。かかる変形によってもなお本発明の表示制御装置の構成を具備する限り、勿論、本発明の範疇に含まれるものである。