JP2015523642A - 仮想表示機能を改善させた頭部装着コンピュータ - Google Patents

仮想表示機能を改善させた頭部装着コンピュータ Download PDF

Info

Publication number
JP2015523642A
JP2015523642A JP2015515031A JP2015515031A JP2015523642A JP 2015523642 A JP2015523642 A JP 2015523642A JP 2015515031 A JP2015515031 A JP 2015515031A JP 2015515031 A JP2015515031 A JP 2015515031A JP 2015523642 A JP2015523642 A JP 2015523642A
Authority
JP
Japan
Prior art keywords
display
information layer
user interface
input
voice command
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015515031A
Other languages
English (en)
Other versions
JP6110938B2 (ja
JP2015523642A5 (ja
Inventor
パーキンソン・クリストファー
ホプキンス・リューク
ニランド・デイビッド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kopin Corp
Original Assignee
Kopin Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US13/799,888 external-priority patent/US9377862B2/en
Application filed by Kopin Corp filed Critical Kopin Corp
Publication of JP2015523642A publication Critical patent/JP2015523642A/ja
Publication of JP2015523642A5 publication Critical patent/JP2015523642A5/ja
Application granted granted Critical
Publication of JP6110938B2 publication Critical patent/JP6110938B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)

Abstract

【課題】仮想表示機能を改善させた頭部装着コンピュータを提供する。【解決手段】頭部装着コンピュータのディスプレイにユーザインターフェースを表示する方法は、頭部装着コンピュータのディスプレイ上のユーザインターフェース内に第1の情報層を表示することを含んでいてもよい。この方法は、体の動き、アイトラッキング、またはハンドジェスチャーからの方向入力を受信することをさらに含んでいてもよい。この方法は、ユーザインターフェースの領域を、ディスプレイ上で第2の情報層でハイライト表示することを、追加的に含んでいてもよい。該領域は、受信した方向入力に基づいてユーザインターフェース内に配置され得る。【選択図】 図4A

Description

関連出願
本願は、2012年5月30日に出願された米国仮特許出願第61/653,127号の利益を主張する、2013年3月13日に出願された米国継続特許出願第13/799,888号の優先権を主張するものである。上記出願の全内容は、参照により本明細書に組み込まれる。
ノートPC、スマートフォン、タブレットコンピューティングデバイスなどのモバイルコンピューティングデバイスは、現在、ビジネスと私生活の両方において、データを生成、分析、伝達および消費するために用いられる一般的なツールとなっている。高速ワイヤレス通信技術のユビキタス化とともに、デジタル情報へのアクセスの容易さが増すに連れて、消費者は、モバイルデジタルライフスタイルを享受し続けている。モバイルコンピューティングデバイスの一般的な用途は、多くの場合デバイスにワイヤレスでストリーム配信される大量の高解像度のコンピュータグラフィックス情報およびビデオコンテンツの表示を含む。これらのデバイスは、典型的には、表示スクリーンを含むが、そのようなデバイスの物理的な大きさが、可動性の向上のために制限されるため、高解像度の大型ディスプレイの好ましい視覚体験は、そのようなモバイルデバイスでは容易に再現され得ない。上述のデバイスのタイプの別の欠点は、ユーザインターフェースが、手に依存するものであり、典型的には、ユーザが、物理的または仮想的なキーボードまたはタッチスクリーンディスプレイを用いてデータ入力や選択を行う必要があることである。結果として、消費者は、手に依存するモバイルデバイスを拡張するまたはこれに取って代わる、ハンズフリーの高品質で携帯可能なカラー表示のソリューションを求めている。
一実施形態では、頭部装着コンピュータのディスプレイにユーザインターフェースを表示する方法は、前記頭部装着コンピュータのディスプレイ上の前記ユーザインターフェース内に第1の情報層を表示することを含んでいてもよい。この方法は、体の動き、アイトラッキング(目の動きの追跡、視線追跡、瞳孔の動きの追跡等のこと)、またはハンドジェスチャーからの方向入力を受信することをさらに含んでいてもよい。この方法は、前記ユーザインターフェースの領域を、前記ディスプレイ上で第2の情報層でハイライト表示することを、追加的に含んでいてもよい。該領域は、前記受信した方向入力に基づいて前記ユーザインターフェース内に配置され得る。
他の実施形態では、この方法は、前記第2の情報層を前記第1の情報層と並べることを含んでいてもよい。この方法は、また、前記受信した方向入力と同じ方向におよび前記受信した方向入力に比例させて前記ユーザインターフェースの前記ハイライト表示した領域を移動させることを含んでいてもよい。
他の実施形態では、前記第2の情報層は、前記第1の情報層の領域を起動させるボイスコマンドを表示してもよい。この方法は、前記第2の情報層に表示したボイスコマンドを受信することをさらに含んでいてもよい。この方法は、また、前記ボイスコマンドに対応する前記第1の情報層の機能を起動させることを含んでいてもよい。
他の実施形態では、この方法は、また、選択ユーザ入力に基づいて前記ディスプレイ上の前記ユーザインターフェースの前記領域を第3の情報層でハイライト表示することを含んでいてもよい。前記選択ユーザ入力は、前記第1、第2、および第3の情報層で、前記ディスプレイ上の前記ユーザインターフェースの前記ハイライト表示された領域を巡回するよう構成されてもよい。前記受信した方向入力は頭部の動きから得られる。前記領域は前記頭部の動きと同じ方向に移動してもよい。
前記第1の情報層は、ウェブページの表示を含んでいてもよい。前記第2の情報層は、前記ウェブページ内のリンクを起動させるボイスコマンドの表示を含んでいてもよい。
この方法は、また、ボイスコマンドの表示を、その表示が重複せず読み取り可能であるように、再編成することを含んでいてもよい。
他の実施形態では、ユーザインターフェースを表示するための頭部装着コンピュータシステムは、体の動き、アイトラッキング、ハンドジェスチャーのうちの少なくとも1つからの方向入力を受信するよう構成された受信モジュールを備えていてもよい。この頭部装着コンピュータは、前記頭部装着コンピュータのディスプレイ上の前記ユーザインターフェース内に第1の情報層を表示し、さらに前記ユーザインターフェースの領域を、前記ディスプレイ上で第2の情報層でハイライト表示するよう構成された表示モジュールを、さらに備えていてもよい。該領域は、前記受信した方向入力に基づいて前記ユーザインターフェース内に配置され得る。
上記は、添付図面に示す以下の本発明の例示的な実施形態のさらに詳細な説明から明らかになるであろう。添付図面において、異なる図全体にわたり、同様の部分は同様の参照符号で示す。図面は必ずしも原寸に比例しておらず、本発明の実施形態の説明に重点が置かれている。
ワイヤレス・ハンズフリー・ビデオコンピューティングヘッドセット(またはヘッドマウントディスプレイ(HMD)、またはヘッドセットコンピュータ(HSC))を示す斜視図である。 ヘッドセットコンピュータによってユーザに表示されるウェブページ層の例示的な実施形態のユーザインターフェースを示す画像図である。 ハイライト表示されたウェブページ層の例示的な実施形態のユーザインターフェースを示す画像図である。 局所領域内のハイライト表示されたウェブページ層を示すスポットライト(またはトーチライト)および残りのユーザインターフェース内のウェブページ層の例示的な実施形態のユーザインターフェースを示す画像図である。 局所領域内のハイライト表示されたウェブページ層を示すスポットライト(またはトーチライト)および残りのユーザインターフェース内のウェブページ層の例示的な実施形態のユーザインターフェースを示す画像図である。 地図アプリケーションで用いられるスポットライトの例示的な実施形態のユーザインターフェースを示す画像図である。 本発明を実施できるコンピュータネットワークまたは同様のデジタル処理環境を示す概略図である。 図6のコンピュータシステム内のコンピュータ(例えば、クライアントプロセッサ/デバイスまたはサーバコンピュータ)の内部構造を示すブロック図である。
以下に、本発明の例示的な実施形態について説明する。
図1は、1つまたは複数のマイクロディスプレイと、ローカルプロセッサと、オーディオ/ボイス、および/またはグラフィカル/ビデオデータを含み得るデータの通信のためのワイヤレストランシーバとを含むワイヤレス・ハンズフリー・ビデオコンピューティングヘッドセット(またはヘッドマウントディスプレイ(HMD)、またはヘッドセットコンピュータ(HSC))を示す。ワイヤレス・ハンズフリー・ビデオコンピューティングヘッドセットは、1つまたは複数の周辺機器とさらに一体化されていてもよい、または一体化されていなくてもよい。そのような一体化された周辺機器の例として、マイクロホン、スピーカ、3軸〜9軸自由度方位検知、地理測位センサ、大気センサ、健康状態センサ、GPS、デジタルコンパス(多軸磁力計)、フラッシュライト、高度計、圧力センサ、さまざまな環境センサ、対人センサ、エネルギーセンサ、光学センサおよび/またはカメラが含まれるが、これらには限定されない。
ワイヤレス・ハンズフリー・ビデオコンピューティングヘッドセットは、ユーザに情報をグラフィカルに提示するマイクロディスプレイ装置を含み得て、任意のボイスコマンドと共に頭部の動き、手の動き、および/またはジェスチャーなどの動作を検出する、頭部追跡加速度計、ジャイロまたは1つもしくは複数のカメラなどの入力装置を用いて、さまざまな方法でローカルプロセッサまたはリモートホストプロセッサ上で動作しているアプリケーションの遠隔制御を提供し得る。
図1に図示された例示的な実施形態は、WQVGAまたはそれ以上の解像度のマイクロディスプレイ要素1010と以下に記載する他の機能とを含むワイヤレスコンピューティングヘッドセットデバイス100(本明細書では、HSC100であるビデオアイウエアデバイス100とも呼ぶ)を示す。ヘッドセットに組み込まれた、および/または1つ以上の周辺機器ポートを介してデバイスに取り付けられた、1つ以上のマイクロホン(複数可)、入出力スピーカ(複数可)、地理測位検知、3軸〜9軸自由度方位検知、大気センサ、健康状態センサ、GPS、デジタルコンパス、圧力センサ、環境センサ、エネルギーセンサ、加速度用、位置用、高度用、運動用、速度用または光学用センサ、カメラ(可視光、赤外線(IR)、紫外線(UV)用など)、付加的なワイヤレス無線(Bluetooth(登録商標)、Wi−Fi(登録商標)、4GのLTEセル方式、FMなど)、補助照明、距離計など、および/またはセンサ配列を含む(図1では詳細に図示していない)、オーディオ入力および/または出力装置をHSC100は有していてよい。(Bluetooth(登録商標)は、ワシントン州カークランドのBluetooth Sig, Inc.の登録商標であり、Wi−Fi(登録商標)は、テキサス州オースチンのWi-Fi Alliance Corporationの登録商標である。)また、筐体内に典型的に配置されているのは、すぐに理解されるように、マイクロコンピュータ(シングルまたはマルチコア)、1以上の有線もしくは無線インターフェースおよび/または光学インターフェースを含むさまざまな電子回路、付随するメモリおよび/または記憶装置、さまざまなセンサ、ならびに「ホットシュー」などのひとつまたは複数の周辺マウントである。
デバイス100は、種々の方法で使用することができる。デバイス100は、リモートホストコンピューティングデバイス120によって提供されたストリーミングビデオ信号のリモートディスプレイとして用いられ得る。ホスト120は、例えば、ラップトップコンピュータ、携帯電話、ブラックベリー(登録商標)、iPhone(商標)、または、ワイヤレスコンピューティングヘッドセットリモートコントロールデバイス100より計算量が少ないまたは多いその他のコンピューティングデバイスであってもよい。さらに、ホスト120は、他のネットワークに、例えば有線または無線接続122を介してインターネットに、接続されてもよい。デバイス100とホスト120は、Bluetooth(登録商標)、Wi−Fi(登録商標)、セルラー方式、LTE、WiMax(登録商標)または他のワイヤレス無線リンク150によって提供されるような1つ以上の好適な無線接続を介して、接続される。
デバイス100は、ホスト120用のリモコン装置としても用いられ得る。例えば、デバイス100によって、ユーザは、ホスト120の仮想ディスプレイ140で区画されたかなり大きい領域内の視野130を選択できる。ユーザは、典型的には、例えば、HSC100で検出された音声コマンドとともに、頭部の動き、手の動き、または体のジェスチャーを用いるか、または他の方法で、視野130の位置、大きさ(例えば、X−Yまたは3D範囲)および/または倍率を制御できる。ワイヤレスコンピューティングヘッドセットデバイス100は、よって、例えばパンおよびズームをしたり、ディスプレイの視野を制御するための専用のユーザ入力周辺機器および処理を備え得る。
また、デバイス100内に配置されているのは、すぐに理解されるように、マイクロコンピュータ(シングルまたはマルチコア)、1つ以上のワイヤレスインターフェースを含む回路、付随するメモリもしくは他の記憶装置、1つ以上のカメラ(光学センサ)および/または先に述べた各種センサである。カメラ(複数可)、運動センサ(複数可)および/または位置センサ(複数可)は、ユーザの頭部、手および/または体の動き、および/または位置を追跡するために、少なくとも第1軸111(水平)において、好ましくは、第2軸(垂直)112、第3軸(奥行き)113、第4軸(ピッチ)114、第5軸(ロール)115、および第6軸(ヨウ)116においても、用いられる。3軸磁力計(デジタルコンパス)が、ワイヤレスコンピューティングヘッドセットまたは周辺機器に、完全な9軸自由度位置精度を提供するために、付加され得る。
デバイス100は、また、少なくとも1つのマイクロホン、対応する電子機器、および/または音声認識のためのプログラム可能なプロセッサを含む。デバイス100は、ユーザのボイスを検出し、音声認識を用いて、コマンドおよび/またはディクテーションしたものを導き出す。デバイス100は、音声認識から導き出されたコマンドを用いて、当該コマンドで示された機能を実行する。
述べたように、デバイス100は、ホストコンピューティングデバイス120用のリモコン装置として用いられる。ホスト120は、例えば、ラップトップコンピュータ、携帯電話、ブラックベリー(登録商標)、iPhone(商標)、または、リモートコントロールデバイス100より計算量が少ないまたは多いその他のコンピューティングデバイスであってもよい。さらに、ホスト120は、他のネットワークに、例えば無線接続122を介してインターネットに、接続されてもよい。リモコン装置100とホスト120は、Bluetooth(登録商標)、Wi−Fi(登録商標)、または他の短距離無線リンク150によって提供されるような好適な無線接続を介して、接続される。
以下、さらに詳細に説明する局面によれば、リモートコントロールデバイス100によって、ユーザは、仮想ディスプレイで区画されたかなり大きい領域内の視野130を選択できる。ユーザは、典型的には、視野130の位置、大きさ(例えば、X−Yまたは3D範囲)および/または倍率を制御できる。
HSC100は、1つ以上のホストプロセッサと通信150をする。ホストプロセッサは、典型的なパソコン(PC)200、ワイヤレステストプローブを備える気象用、診断用、もしくは他の試験用機器145、および/または、これらに限定されないがプリンタ160、サーモスタットまたは車両の車載コンピュータシステムを備える任意の他のコンピューティングデバイス等のデバイスに組み込まれていてもよい。ワイヤレス・ハンズフリー・ビデオコンピューティングヘッドセット100は、ホストにコマンド150を送信して、これらのコマンドに基づいた応答を受信する。
HSC100が受信した応答150は、ホストプロセッサからの状態メッセージを含んでいてもよい。該状態メッセージは、コンピューティングデバイスの状態、自己診断処理結果のデータ、または他の情報を示す。
変形形態では、HSCコマンド150と受信した応答150は、1つ以上のエキスパートによるディシジョンツリーを利用した診断手順を円滑化して実行するメッセージングを含んでいてもよい。
また更なる変形形態では、HSC100のホストプロセッサとの通信150は、オーディオ、グラフィカル、および/またはビデオデータを、リアルタイムにライブでエキスパートと送受信することを含んでいてもよい。
また更なる変形形態では、HSC100のホストプロセッサとの通信150は、ユーザ近隣の環境における物理的オブジェクトおよび非物理的オブジェクトの表現または表示を含み得る、ユーザのボディの三次元表現のビデオ、および/またはユーザにエキスパートのガイダンスを提供する、エキスパートのボディのオーバレイを含んでいてもよい。
一実施形態では、HSC100により、ハイパーリンクされたページの「サーチライトナビゲーション」を可能とする。ユーザインターフェース画面と、アプリケーションと、ウェブページ等の複雑にハイパーリンクされたページとを、音声、ボイス、またはジェスチャーによってナビゲートできる。HSC100は、ページ上にハイパーリンクをハイライト表示し、対応するボイスコマンドで各々を列挙する。列挙されたボイスコマンドによって、ユーザは、リンク番号、名称、またはコードワードを音声で発してもよく、それによりHSC100は、選択されたハイパーリンク先に移動する。この手法は、例えば、ページ毎に列挙するリンクが30未満のウェブページなど、ウェブページが単純な性質である場合によく機能する。しかし、ウェブページはもっと複雑であり得、ページ毎に数百ものリンクをユーザに提供し得る。さらに、ウェブページは、ハイライト表示して個々にラベルを付与することが難しい小さくタイトに詰め込まれたリンクを提供し得る。
一実施形態では、システムは、ユーザに追加的な関連情報を提示するユーザインターフェースでサーチライト(例えば、スポットライト、トーチライト、ハイライト表示領域等)を有効にし、画面および/またはウェブページの一部にのみにフォーカスして、HSCにおいて複雑なウェブページのナビゲーションを容易にする。サーチライトは、円形、矩形、または他の形状で典型的なウェブページを表して、ユーザがフォーカスしている画面の領域をハイライト表示する。このサーチライトは、頭部追跡(またはアイトラッカ、ハンドジェスチャー、またはこの3つの任意の組み合わせ)を用いて、ウェブページ中を移動することができる。自然な頭部の動き110、111、112で、サーチライトを左方、右方、上方および下方に、または、任意の傾きの斜線上を動かすことができる。ジェスチャーで、さらに、サーチライトの大きさを大きくまたは小さくできる。
サーチライトの外では、ウェブページは、オーバレイされたリンクが無く、通常どおりに表示される。しかし、サーチライトの中では、リンクがハイライト表示され列挙される。HSC100のサーチライトは、さらに、密に詰め込まれたリンク間を「広げ(explode)」て、サーチライトの形状の外部周辺にリンクの対応するラベルをリスト化または一覧表示できる。
別の実施形態では、サーチライトナビゲーションは、多層ドキュメントの「X線透視」を提供する。そして、HSC100は、音声のリンクに加え多数の視覚データのタイプに同じ手法を適用して、最上層すなわち最初に見える層の下のデータセットまたは層に「X線」可視性、すなわち透視性を与え得る。例えば、多層の電子基板の概略配置図などの多層図表において、最上層を図示してもよく、サーチライトは、下の層を追跡するのに用いてもよい。さらに、一実施形態では、ハンドジェスチャーで多数の下の層の間を巡回できる。
同様に、HSC100は、最上部レベルに道路地図を表示でき、サーチライト内に衛星写真を重畳して示すことができる。サーチライトは、頭部の動きによる制御で誘導される。ジェスチャーで、例えば、地形を示す地図、交通を示す地図、および衛星写真を示す地図などの複数の地図の間を巡回できる。
図2は、HSC100によってユーザに表示されるウェブページ層202の例示的な実施形態を示すユーザインターフェースの画像図200である。ウェブページ層202では、ユーザに通常示されるような、ニュースのウェブページが示される。このウェブページは、ユーザが他のウェブページを閲覧するよう選択できる複数のハイパーリンクを含む。しかし、ユーザが、ボイスコマンドでナビゲーションしているとき、ユーザは、適切なハイパーリンクの選択を可能とするようプロンプトを必要としてもよい。
図3は、ハイライト表示されたウェブページ層302の例示的な実施形態を示すユーザインターフェースの画像図300である。ハイライト表示されたウェブページ層302は、ハイライト表示されたリンク304a〜sを含む。ハイライト表示されたリンク304a〜sの各々は、リンク(例えば、リンク1〜19)を開く各コマンドすなわちボイスタグを示す。いくつかの実施形態では、ハイライト表示されたリンク304a〜sは、ユーザが下にあるハイパーリンクのテキストを見ることができるように半透明であってもよい。さらに、ハイライト表示されたリンク層302は、広告がボイスタグと組み合わされることを防いで、さらに、ユーザに提示される選択項目を簡素化するよう構成され得る。
図4Aは、局所領域内のハイライト表示されたウェブページ層302を示すスポットライト(またはトーチライト)402および残りのユーザインターフェース内のウェブページ層202の例示的な実施形態を示すユーザインターフェースの画像図400である。スポットライトの中には、ハイライト表示されたリンク304c〜i、304k、304n、および304qがある。スポットライトは、円形等の形状であり、第1の層に関連する他の層の情報を示す。この例では、スポットライトは、ウェブページ層202の上にハイライト表示されたウェブページ層302を見せる。そして、ユーザは、所定のハイパーリンクを起動させるために図示されたボイスコマンドを読んでもよい。さらに、ユーザは、ユーザの頭を動かすことで、他のハイライト表示されるリンクを表示するために、スポットライトをユーザインターフェースの中で移動させることができる。HSC100は、頭部追跡技術から頭部の動きを判別して対応する態様でスポットライトを動かすことができる。
他の実施形態では、ユーザにハイライト表示されるリンク層302の全体を提示する「Show Commands(コマンド表示)」などのボイスコマンドをユーザが音声で発してもよい。スポットライトモードに入る「show spotlight(スポットライト表示)」などのボイスコマンドをユーザが発することもできる。
図4Bは、局所領域内のハイライト表示されたウェブページ層454を示すスポットライト(またはトーチライト)456および残りのユーザインターフェース内のウェブページ層452の例示的な実施形態を示すユーザインターフェースの画像図450である。スポットライト456は、図4Aとの関連で述べたスポットライトと同様のものであるが、図4Bのスポットライト456は、最小限のテキストを示すハイライト表示されたリンク458a〜dを含む、ハイライト表示されたウェブページ層454を示す。すなわち、これらは、リンクに関連する番号を示す(例えば、それぞれ、1〜4)。この実施形態では、ハイライト表示されたリンク458a−dは、さらにコンパクトであり、例えば、小さい領域により多くのリンクをハイライト表示できる。
図5は、地図アプリケーションで用いられるスポットライト508の例示的な実施形態を示すユーザインターフェースの画像図500である。ユーザインターフェース502は、衛星地図層504とスポットライト508を示す。スポットライトの中には、道路地図層506がある。ユーザは、上述のように、頭部追跡技術を用いて、ユーザインターフェース内にわたってスポットライト508を移動させることができ、他の領域の道路地図層506を示すことができる。
スポットライトはまた、複数の層の間を巡回できる。例えば、ユーザは、他の層を表示するために、「次の層」または「前の層」などのボイスコマンドまたはジェスチャーコマンドを出してもよい。例えば、地図アプリケーションでは、他の層は、地形層または交通層であり得る。
図6は、本発明を実施できるコンピュータネットワークまたは同様のデジタル処理環境を示す。
クライアントコンピュータ(複数可)/デバイス50およびサーバコンピュータ(複数可)60は、アプリケーションプログラム等を実行する処理装置、記憶装置、および入/出力装置を提供する。クライアントコンピュータ(複数可)/デバイス50はまた、コミュニケーションネットワーク70を介して、他のクライアントデバイス/処理50およびサーバコンピュータ(複数可)60を含む他のコンピューティングデバイスにリンクされ得る。コミュニケーションネットワーク70は、一般に各プロトコル(TCP/IP、Bluetooth(登録商標)等)を使用して相互に通信するリモートアクセスネットワーク、グローバルネットワーク(例えば、インターネット)、コンピュータのワールドワイドの集合体、ローカルエリアネットワークまたは広域ネットワーク、およびゲートウェイの一部であり得る。他の電子デバイス/コンピュータネットワークアーキテクチャは上記の構成に適するようになっている。
図7は、図6のコンピュータシステム内のコンピュータ(例えば、クライアントプロセッサ/デバイス50またはサーバコンピュータ60)の内部構造の図である。コンピュータ50、60の各々は、システムバス79を含み、システムバスは、コンピュータシステムまたは処理システムの構成要素間のデータ転送に用いられる一組のハードウェア回線である。バス79は、本質的に、要素間での情報の転送を可能にするコンピュータシステムの異なる要素(例えば、プロセッサ、ディスク記憶装置、メモリ、入/出力ポート、ネットワークポート等)間を接続する共用のコンジットである。システムバス79に取り付けられるのは、種々の入力および出力装置(例えば、キーボード、マウス、ディスプレイ、プリンタ、スピーカ等)をコンピュータ50、60に接続するためのI/Oデバイスインターフェース82である。ネットワークインターフェース86によって、ネットワーク(例えば、図6のネットワーク70)に取り付けられた種々の他のデバイスにコンピュータを接続できる。メモリ90は、本発明の実施形態(例えば、先に詳述したスポットライトモジュールコード)を実行するために用いられるコンピュータソフトウェア命令92およびデータ94のための揮発性記憶装置を提供する。ディスク記憶装置95は、本発明の実施形態を実行するために用いられるコンピュータソフトウェア命令92およびデータ94のための不揮発性記憶装置を提供する。中央プロセッサユニット84も、システムバス79に取り付けられ、コンピュータ命令の実行を行う。
一実施形態では、プロセッサルーチン92およびデータ94は、本発明のシステムのためのソフトウェア命令の少なくとも一部を提供するコンピュータ読み取り可能な媒体(例えば、1つ以上のDVD−ROM、CD−ROM、ディスケット、テープ等の着脱可能な記憶媒体)を含む、コンピュータプログラム(プロダクト)である(総称して92で参照する)。コンピュータプログラム(プロダクト)92は、この技術の分野において周知の任意の好適なソフトウェアインストール手順によってインストールできる。他の実施形態では、ソフトウェア命令の少なくとも一部はまた、ケーブル、通信および/または無線接続を介してダウンロードされてもよい。他の実施形態では、本発明のプログラムは、伝播媒体(例えば、電波、赤外線波、レーザ波、音波、またはインターネット等のグローバルネットワークもしくは他のネットワーク(複数可)を伝わる電気波)上の伝搬信号において具現化されるコンピュータプログラム伝搬信号プロダクト107である。このようなキャリア媒体または信号は本発明のルーチン/プログラム92のためのソフトウェア命令の少なくとも一部を提供する。
変形形態では、伝搬信号は、伝播媒体上を伝搬されるデジタル信号またはアナログ搬送波である。例えば、伝搬信号は、グローバルネットワーク(例えば、インターネット)、電気通信ネットワーク、または他のネットワーク上を伝播するデジタル化された信号であってもよい。一実施形態では、伝搬信号は、数ミリ秒、数秒、数分、またはこれより長い期間にわたってネットワーク上をパケットで送信されるソフトウェアアプリケーションのための命令のような、ある期間にわたって伝播媒体上を送信される信号である。他の実施形態では、コンピュータプログラムプロダクト92のコンピュータ読み取り可能な媒体は、コンピュータプログラム伝搬信号プロダクトのために上述したように、伝播媒体を受信し伝播媒体で具現化された伝搬信号を識別することなどによって、コンピュータシステム50が受信および読み取りできる伝播媒体である。
一般的に言えば、用語「キャリア媒体」すなわち一時的なキャリアは、前述の一時的な信号、伝搬信号、伝播媒体、記憶媒体等を包含する。
本明細書に引用したすべての特許、公開された出願、および参考文献の内容は参照によりその全体が組み込まれる。
本発明をその例示的な実施形態を参照して詳細に示して説明してきたが、添付の特許請求の範囲に包含される本発明の範囲を逸脱することなく、さまざまな形の変更および詳細化がなされ得ることが当業者によって理解されるであろう。

Claims (18)

  1. 頭部装着コンピュータのディスプレイにユーザインターフェースを表示する方法であって、
    前記頭部装着コンピュータのディスプレイ上の前記ユーザインターフェース内に第1の情報層を表示することと、
    体の動き、アイトラッキング、ハンドジェスチャーのうちの少なくとも1つからの方向入力を受信することと、
    前記ユーザインターフェースの領域であって、前記受信した方向入力に基づいて前記ユーザインターフェース内に配置される該領域を、前記ディスプレイ上で第2の情報層でハイライト表示することとを含む方法。
  2. 請求項1に記載の方法において、前記第2の情報層を前記第1の情報層と並べることをさらに含む方法。
  3. 請求項1に記載の方法において、前記受信した方向入力と同じ方向におよび前記受信した方向入力に比例させて前記ユーザインターフェースの前記ハイライト表示した領域を移動させることをさらに含む方法。
  4. 請求項1に記載の方法において、前記第2の情報層は、前記第1の情報層の領域を起動させるボイスコマンドを表示する方法。
  5. 請求項4に記載の方法において、
    前記第2の情報層に表示したボイスコマンドを受信することと、
    前記ボイスコマンドに対応する前記第1の情報層の機能を起動させることとをさらに含む方法。
  6. 請求項1に記載の方法において、
    選択ユーザ入力に基づいて前記ディスプレイ上の前記ユーザインターフェースの前記領域を第3の情報層でハイライト表示することをさらに含み、
    前記選択ユーザ入力は、前記第1、第2、および第3の情報層で、前記ディスプレイ上の前記ユーザインターフェースの前記ハイライト表示された領域を巡回するよう構成される方法。
  7. 請求項1に記載の方法において、前記第1の情報層は、ウェブページの表示を含み、前記第2の情報層は、前記ウェブページ内のリンクを起動させるボイスコマンドの表示を含む方法。
  8. 請求項1に記載の方法において、ボイスコマンドの表示を、その表示が重複せず読み取り可能であるように、再編成することをさらに含む方法。
  9. 請求項1に記載の方法において、前記受信した方向入力は頭部の動きから得られ、前記領域は前記頭部の動きと同じ方向に移動する方法。
  10. ユーザインターフェースを表示するための頭部装着コンピュータシステムであって、
    体の動き、アイトラッキング、ハンドジェスチャーのうちの少なくとも1つからの方向入力を受信するよう構成された受信モジュールと、
    前記頭部装着コンピュータのディスプレイ上の前記ユーザインターフェース内に第1の情報層を表示し、さらに前記ユーザインターフェースの領域であって、前記受信した方向入力に基づいて前記ユーザインターフェース内に配置される該領域を、前記ディスプレイ上で第2の情報層でハイライト表示するよう構成された表示モジュールとを備えるシステム。
  11. 請求項10に記載のシステムにおいて、前記表示モジュールは、さらに、前記第2の情報層を前記第1の情報層と並べるよう構成されるシステム。
  12. 請求項10に記載のシステムにおいて、前記表示モジュールは、さらに、前記受信した方向入力と同じ方向におよび前記受信した方向入力に比例させて前記ユーザインターフェースの前記ハイライト表示した領域を移動させるよう構成されるシステム。
  13. 請求項10に記載のシステムにおいて、前記第2の情報層は、前記第1の情報層の領域を起動させるボイスコマンドを表示するシステム。
  14. 請求項13に記載のシステムにおいて、
    前記受信モジュールは、さらに、前記第2の情報層に表示したボイスコマンドを受信するよう構成され、
    前記表示モジュールは、さらに、前記ボイスコマンドに対応する前記第1の情報層の機能を起動させるよう構成されるシステム。
  15. 請求項10に記載のシステムにおいて、
    前記表示モジュールは、さらに、選択ユーザ入力に基づいて前記ディスプレイ上の前記ユーザインターフェースの前記領域を第3の情報層でハイライト表示するよう構成され、
    前記選択ユーザ入力は、前記第1、第2、および第3の情報層で、前記ディスプレイ上の前記ユーザインターフェースの前記ハイライト表示された領域を巡回するよう構成されるシステム。
  16. 請求項10に記載のシステムにおいて、前記第1の情報層は、ウェブページの表示を含み、前記第2の情報層は、前記ウェブページ内のリンクを起動させるボイスコマンドの表示を含むシステム。
  17. 請求項10に記載のシステムにおいて、前記表示モジュールは、さらに、ボイスコマンドの表示を、その表示が重複せず読み取り可能であるように再編成するよう構成されるシステム。
  18. 請求項10に記載のシステムにおいて、前記受信した方向入力は頭部の動きから得られ、前記領域は前記頭部の動きと同じ方向に移動するシステム。
JP2015515031A 2012-05-30 2013-05-16 仮想表示機能を改善させた頭部装着コンピュータ Active JP6110938B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201261653127P 2012-05-30 2012-05-30
US61/653,127 2012-05-30
US13/799,888 US9377862B2 (en) 2010-09-20 2013-03-13 Searchlight navigation using headtracker to reveal hidden or extra document data
US13/799,888 2013-03-13
PCT/US2013/041349 WO2013180966A1 (en) 2012-05-30 2013-05-16 Head -worn computer with improved virtual display function

Publications (3)

Publication Number Publication Date
JP2015523642A true JP2015523642A (ja) 2015-08-13
JP2015523642A5 JP2015523642A5 (ja) 2016-06-16
JP6110938B2 JP6110938B2 (ja) 2017-04-05

Family

ID=48579475

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015515031A Active JP6110938B2 (ja) 2012-05-30 2013-05-16 仮想表示機能を改善させた頭部装着コンピュータ

Country Status (5)

Country Link
EP (1) EP2856284B1 (ja)
JP (1) JP6110938B2 (ja)
KR (1) KR20150027163A (ja)
CN (1) CN104508601B (ja)
WO (1) WO2013180966A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9316827B2 (en) 2010-09-20 2016-04-19 Kopin Corporation LifeBoard—series of home pages for head mounted displays (HMD) that respond to head tracking
US9377862B2 (en) 2010-09-20 2016-06-28 Kopin Corporation Searchlight navigation using headtracker to reveal hidden or extra document data
CN114760555A (zh) * 2013-12-26 2022-07-15 寇平公司 用户可配置的话音命令
US20170075653A1 (en) * 2014-03-26 2017-03-16 Sony Corporation Electronic device and method for controlling the electronic device
JP6609994B2 (ja) * 2015-05-22 2019-11-27 富士通株式会社 表示制御方法、情報処理装置及び表示制御プログラム
US9959677B2 (en) * 2015-05-26 2018-05-01 Google Llc Multidimensional graphical method for entering and exiting applications and activities in immersive media
WO2017096093A1 (en) * 2015-12-01 2017-06-08 Quantum Interface, Llc. Motion based interface systems and apparatuses and methods for making and using same using directionally activatable attributes or attribute control objects
KR20170100309A (ko) 2016-02-25 2017-09-04 삼성전자주식회사 음성 인식 제어를 제공하는 전자 장치 및 그 동작 방법
CN108269460B (zh) * 2018-01-04 2020-05-08 高大山 一种电子屏幕的阅读方法、系统及终端设备
US11340756B2 (en) 2019-09-27 2022-05-24 Apple Inc. Devices, methods, and graphical user interfaces for interacting with three-dimensional environments
US11567625B2 (en) * 2020-09-24 2023-01-31 Apple Inc. Devices, methods, and graphical user interfaces for interacting with three-dimensional environments
US11615596B2 (en) 2020-09-24 2023-03-28 Apple Inc. Devices, methods, and graphical user interfaces for interacting with three-dimensional environments

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007048295A (ja) * 2005-08-10 2007-02-22 Internatl Business Mach Corp <Ibm> 音声イネーブル・リンクのための可視的マーカ
JP2007303878A (ja) * 2006-05-09 2007-11-22 Denso Corp ナビゲーション装置
WO2011070705A1 (ja) * 2009-12-11 2011-06-16 日本電気株式会社 情報表示装置、そのコンピュータプログラムおよびデータ処理方法
JP2011198304A (ja) * 2010-03-24 2011-10-06 Brother Industries Ltd ヘッドマウントディスプレイ
JP2012022668A (ja) * 2010-06-17 2012-02-02 Ns Solutions Corp 情報処理装置、情報処理方法及びプログラム
US20120068914A1 (en) * 2010-09-20 2012-03-22 Kopin Corporation Miniature communications gateway for head mounted display

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050047629A1 (en) * 2003-08-25 2005-03-03 International Business Machines Corporation System and method for selectively expanding or contracting a portion of a display using eye-gaze tracking
CN101510121A (zh) * 2009-03-12 2009-08-19 重庆大学 一种基于手势识别的界面漫游操作方法与装置
KR20130000401A (ko) * 2010-02-28 2013-01-02 오스터하우트 그룹 인코포레이티드 대화형 머리­장착식 아이피스 상의 지역 광고 컨텐츠
US8982160B2 (en) * 2010-04-16 2015-03-17 Qualcomm, Incorporated Apparatus and methods for dynamically correlating virtual keyboard dimensions to user finger size

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007048295A (ja) * 2005-08-10 2007-02-22 Internatl Business Mach Corp <Ibm> 音声イネーブル・リンクのための可視的マーカ
JP2007303878A (ja) * 2006-05-09 2007-11-22 Denso Corp ナビゲーション装置
WO2011070705A1 (ja) * 2009-12-11 2011-06-16 日本電気株式会社 情報表示装置、そのコンピュータプログラムおよびデータ処理方法
JP2011198304A (ja) * 2010-03-24 2011-10-06 Brother Industries Ltd ヘッドマウントディスプレイ
JP2012022668A (ja) * 2010-06-17 2012-02-02 Ns Solutions Corp 情報処理装置、情報処理方法及びプログラム
US20120068914A1 (en) * 2010-09-20 2012-03-22 Kopin Corporation Miniature communications gateway for head mounted display

Also Published As

Publication number Publication date
CN104508601A (zh) 2015-04-08
KR20150027163A (ko) 2015-03-11
CN104508601B (zh) 2017-11-21
JP6110938B2 (ja) 2017-04-05
EP2856284B1 (en) 2017-10-04
WO2013180966A1 (en) 2013-12-05
EP2856284A1 (en) 2015-04-08

Similar Documents

Publication Publication Date Title
JP6110938B2 (ja) 仮想表示機能を改善させた頭部装着コンピュータ
US9377862B2 (en) Searchlight navigation using headtracker to reveal hidden or extra document data
Kuriakose et al. Tools and technologies for blind and visually impaired navigation support: a review
KR101932003B1 (ko) 실시간 동적으로 결정된 감지에 기초하여 무인 운전 차량에서 콘텐츠를 제공하는 시스템 및 방법
AU2010344676B2 (en) Method for providing information on object which is not included in visual field of terminal device, terminal device and computer readable recording medium
JP6280134B2 (ja) ヘルメットベースのナビゲーション通知方法、装置およびコンピュータプログラム
USRE46737E1 (en) Method and apparatus for an augmented reality user interface
JP5383930B2 (ja) 端末装置の視野に含まれている客体に関する情報を提供するための方法、端末装置及びコンピュータ読み取り可能な記録媒体
KR102108488B1 (ko) 컨텍스트적 지도 뷰
CN109561282B (zh) 一种用于呈现地面行动辅助信息的方法与设备
WO2014003981A1 (en) Enhanced information delivery using a transparent display
US20130231857A1 (en) Method and apparatus for triggering conveyance of guidance information
CN109656319B (zh) 一种用于呈现地面行动辅助信息方法与设备
US10743127B2 (en) Apparatus and associated methods for presentation of augmented reality content
Królewski et al. Public transport navigation system with augmented reality interface
AU2013242831B2 (en) Method for providing information on object which is not included in visual field of terminal device, terminal device and computer readable recording medium

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160422

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160422

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170131

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170214

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170310

R150 Certificate of patent or registration of utility model

Ref document number: 6110938

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250