JP2009508274A - 3次元グラフィカル・ユーザ・インターフェースを提供するシステム及び方法 - Google Patents

3次元グラフィカル・ユーザ・インターフェースを提供するシステム及び方法 Download PDF

Info

Publication number
JP2009508274A
JP2009508274A JP2008531348A JP2008531348A JP2009508274A JP 2009508274 A JP2009508274 A JP 2009508274A JP 2008531348 A JP2008531348 A JP 2008531348A JP 2008531348 A JP2008531348 A JP 2008531348A JP 2009508274 A JP2009508274 A JP 2009508274A
Authority
JP
Japan
Prior art keywords
virtual space
objects
output
space
computer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2008531348A
Other languages
English (en)
Other versions
JP2009508274A5 (ja
Inventor
バクハッシュ,イー・エディー
Original Assignee
スペースタイムスリーディー・インコーポレーテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=37865595&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=JP2009508274(A) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by スペースタイムスリーディー・インコーポレーテッド filed Critical スペースタイムスリーディー・インコーポレーテッド
Publication of JP2009508274A publication Critical patent/JP2009508274A/ja
Publication of JP2009508274A5 publication Critical patent/JP2009508274A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/26Visual data mining; Browsing structured data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/951Indexing; Web crawling techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/954Navigation, e.g. using categorised browsing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482Interaction with lists of selectable items, e.g. menus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/34Indicating arrangements 

Abstract

改善された3次元グラフィカル・ユーザ・インターフェースを提供する方法及びシステムが提供される。一実施の形態では、その方法は包括的には、エンドユーザから入力を受信すること、及び受信したエンドユーザ入力に応答して、少なくとも1つのコンピュータソースからコンピューティング出力を取り込むことを含む。コンピューティング出力は、エンドユーザに対して表示される3次元仮想空間の中で少なくとも2つ以上のオブジェクトとして提示することができる。一実施の形態では、その方法は、仮想空間の中で提示されるオブジェクト毎に1つのアイコンを含む時系列を生成することをさらに含む。別の実施の形態では、その方法は、仮想空間内で提示される各オブジェクトに関するデータを格納及び分類するためのデータベースを提供することをさらに含む。
【選択図】図16B

Description

本発明は、コンピュータを操作すると共にコンピュータ上の情報にアクセスするグラフィカル・ユーザ・インターフェースに関し、より詳細には、限定はしないが、ウェブからのメタ検索結果;API、ウェブサービス、検索エンジン、アプリケーションプログラム及びネットワークからの情報;並びにエンドユーザのデスクトップ上のファイルを含む、リアルタイムソース及び静的ソースからの情報を含む、3次元(「3D」)インタラクティブ・コンピューティング・インターフェース及びソーティングインターフェースに関する。
[関連出願の相互参照]
本出願は、米国特許法第119条(e)項に従って、2005年9月13日に出願の米国仮特許出願第60/717,019号に対する優先権を主張し、その仮特許出願は特に、参照によりその全体が本明細書に援用される。
[著作権表示]
本特許明細書は、著作権保護の対象となる資料を含む。著作権所有者は、合衆国又は他の国の特許庁の出願書類の中に現れるときに、本特許明細書及び関連する資料を複製することに異存はないが、それ以外の場合には、何であれ全ての著作権を保有する。
現在、人々は、所与の出力を得るために、コンピュータに情報を入力することによってコンピュータを使用する。多くの場合に、これは、アプリケーション及びドキュメントを実行するか、又は情報をナビゲートする一連の退屈なステップ(マウスクリック及びキーボード入力)になることがある。新たなコンピューティング経験に移行するために、人々は多くの場合に、現在のアプリケーション及びドキュメントを閉じたり、それらを隠したり、又は互いの上に描画することによって限られたデスクトップ上でそれらを重ね合わせなければならず、その後、後の時点で、それらを再び見つけるために、階層になっている複数のフォルダの中を探さなければならない。ユーザのデスクトップが限られているので、何度も同じ作業を繰り返さなければならない。これは、(i)ドキュメントを開閉するために何度もマウスをクリックする必要があること、(ii)所与の目的を果たすために必要とされるかもしれないプログラム及びドキュメントの全ての組み合わせを覚えておく必要があること、並びに(iii)複雑な階層的フォルダシステムを作成して、アプリケーション及びドキュメントを格納及び呼び出す過程を支援する必要があることによって、時間を無駄にする。これは主に、エンドユーザがデスクトップ上で有する空間が限られることに起因する。
人々は現在、2D(2次元)画像表示において、ドキュメント、アプリケーション及びオペレーティングシステムのインターフェースのようなコンピュータ出力を提示するオペレーティングシステムの中でコンピュータを使用する。ブートプログラムによってコンピュータの中に最初にロードされた後に、オペレーティングシステムは、コンピュータ内の全ての他のプログラムを制御する。典型的には、この出力が表示されるスタイルを呼び出すオペレーティングシステムのコンポーネントは、GUI、すなわちグラフィカル・ユーザ・インターフェースと呼ばれる。よく出来たGUIは、アイコンのようなグラフィック要素を利用して、オペレーティングシステムの入力及び出力をより管理しやすくするメタファーを含む、スクリーンプレゼンテーションを用いるであろう。大部分のコンピュータオペレーティングシステムは、2次元グラフィックスを利用するGUIを組み込み、エンドユーザからの全ての入力を、高さ及び幅だけを有する2D形式において取り込み、処理し、出力する。
この出力は通常、所与の長さ及び幅を有する、限られたサイズのデスクトップ、すなわちコンピュータの作業エリア上に描画されるウインドウ内に限定される。コンピュータの出力が、この限られた作業グラフィカルエリアを越えるとき、GUIの要素(ウインドウ)は典型的には、GUIコンポーネントが互いに重なり合うように、互いの上に描画される。オペレーティングシステムの中には、これらの重なり合ったウインドウが深さを有するかのように見せるために、デスクトップ上の重なり合うウインドウの下に影が描かされるものもある。この技法によって、エンドユーザは、重なり合うウインドウを、より容易に特定できるようになる。
私たちは3D(3次元)の世界の中で生きており、その世界において見る対象物は、数学の3次元座標系に基づいて、水平位置(x)及び垂直位置(y)を有するだけでなく、奥行(z)も有し、それは時間としても知られている。このようにビジュアルコンピュータメタファーにおいて奥行又は時間を表現する概念は、エンドユーザのコンピューティングセッションの視覚的な履歴を作成する上で重要である。限られたデスクトップ上に存在するものを重ね合わせないか、又は置き換えない仮想空間内にコンピュータの新たな出力をプロットする(入れ替えるのではない)ことによって、奥行及び時間を通る新たな仮想空間が作成される。たとえば、URLhttp://www.yahoo.comのウェブページを表示させ、その後、ハイパーリンク(たとえば、ファイナンス)をクリックすると、そのウインドウ内の現在のウェブページは、Yahoo!ファイナンスのウェブページで置き換えられることになるであろう。
3Dは、主に以下の分野、すなわち(1)ゲーム、(2)CAD/メディカルビジュアライゼーション、及び(3)仮想世界のコンピューティングにおいて現れている。仮想世界は、コンピュータシミュレーション環境であり、その世界において、ユーザはアバターを介して居住及び対話することができる。この居住は通常、ヒューマノイド(又は他のグラフィカルアバター若しくはテキストベースアバター)の2次元又は3次元のグラフィカル表現の形で表される。
多くのデスクトップ・オペレーティングシステムのナビゲーションウインドウは、コントロール及びボタンを用いて、エンドユーザが、ファイルシステムの階層構造内の他のフォルダ及びウインドウにナビゲートできるようにする。多くの場合に、新たなウインドウにナビゲートする際に、その新たなウインドウは、現在のウインドウの表示と入れ替わる。したがって、ウインドウのグループを容易に編成、格納、及び検索することができる仮想空間の中をユーザが効率的にナビゲートできるようにする、改善されたグラフィカル・ユーザ・インターフェースを提供することが非常に望ましいであろう。
本発明は、従来技術のシステム及び方法の短所に対処する。詳細には、本発明は、改善された3Dグラフィカル・ユーザ・インターフェースを提供するシステム及び方法を対象とする。
本明細書において記載される実施の形態の一態様によれば、シミュレートされたリアルタイム3次元(「3D」)没入型(immersive)デカルト空間(直交座標空間、Cartesian space)において、ユーザのコンピュータの2次元(「2D」)ディスプレイを用いて、3Dオブジェクトを表示するグラフィカル・ユーザ・インターフェースが提供される。
一実施の形態では、システムが提供され、そのシステムによれば、元の出力を失うことなく、新たなコンピューティング出力が、元の出力の近くの新たな仮想空間を占有する。エンドユーザが、ウェブページ上のハイパーリンクをクリックするとき、その仮想空間の中に、それにリンクされる新たなウェブページが現れるが、その新たなウェブページは、そのウインドウ内の現在のウェブページと入れ替わるのではなく、新たな仮想空間内に描画される。このようにして、エンドユーザは、その後も過去のビジュアルコンピューティングの瞬間を訪問することができる。
本明細書において記載される実施の形態の別の態様によれば、エンドユーザから入力を受信すること、受信したエンドユーザ入力に応答して、少なくとも1つのコンピュータソースからコンピューティング出力を取り込むこと、及びエンドユーザに対して表示される3次元仮想空間内で、そのコンピューティング出力を少なくとも2つのオブジェクトとして提示することを含む、3次元グラフィカル・ユーザ・インターフェースを提供する方法が提供される。
一実施の形態では、その方法は、仮想空間内で提示されるオブジェクト毎のアイコンを含む時系列(タイムライン、timeline)を生成することであって、それらのアイコンは、オブジェクトが仮想空間内に提示された時刻に基づいて直線的な時間順に編成される、生成すること、及びその時系列を仮想空間内に表示することをさらに含む。別の実施の形態では、その方法は、仮想空間内に提示される各オブジェクトに関するデータを格納及び分類するためのデータベースモジュールを設けること、仮想空間内に提示される各オブジェクトのそれぞれのビューポイントに、データベースモジュール内のハイパーリンクを与えること、及び仮想空間と共に提示されるデータベースモジュール内に、オブジェクトのうちの1つ又は複数に関するデータを表示することをさらに含む。
本明細書において記載される実施の形態の別の態様によれば、ディスプレイ画面と、エンドユーザからの入力を受信するための入力デバイスと、ディスプレイ画面及びユーザ入力デバイスに動作可能に接続されるプロセッサモジュールと、プロセッサモジュールに動作可能に接続されるメモリモジュールとを備える、3次元グラフィカル・ユーザ・インターフェースを提供するシステムが提供される。メモリモジュールは、プロセッサが、受信したユーザ入力に応答して、少なくとも1つのコンピュータソースからコンピューティング出力を取り込むと共に、ディスプレイ画面上に表示される3次元仮想空間内で、そのコンピューティング出力を少なくとも2つのオブジェクトとして提示するための実行可能コードを含むことが好ましい。
一実施の形態では、メモリモジュールは、プロセッサが、仮想空間内に提示されるオブジェクト毎のアイコンを含む時系列であって、それらのアイコンは、オブジェクトがデカルト空間内に提示された時刻に基づいて直線的な時間順に編成される、時系列を生成すると共に、仮想空間内に時系列を表示するための実行可能コードをさらに含む。別の実施の形態では、メモリモジュールは、プロセッサが、仮想空間内に提示される各オブジェクトに関するデータを格納及び分類するためのデータベースモジュールを設けると共に、仮想空間内に提示される各オブジェクトのそれぞれのビューポイントにデータベースモジュール内のハイパーリンクを与えると共に、仮想空間と共に提示されるデータベースモジュール内のオブジェクトのうちの1つ又は複数に関するデータを表示するための実行可能コードをさらに含む。
本明細書において記載される実施の形態の別の態様によれば、コンピュータネットワーク内に3次元グラフィカル・ユーザ・インターフェースを設けるシステムが提供され、そのシステムは、コンピュータネットワークに接続されるサーバと、エンドユーザから入力を受信する機能、受信したエンドユーザ入力に応答して少なくとも1つのコンピュータソースからコンピューティング出力を取り込む機能、及びエンドユーザに対して表示される3次元仮想空間内にコンピューティング出力を少なくとも2つのオブジェクトとして提示する機能を提供するために、サーバと連携して実行されるユーザインターフェースアプリケーションとを備える。
一実施の形態では、サーバと連携して実行されるユーザインターフェースアプリケーションは、仮想空間内に提示されるオブジェクト毎のアイコンを含む時系列を生成する機能であって、それらのアイコンは、オブジェクトがデカルト空間内に提示された時刻に基づいて直線的な時間順に編成される、時系列を生成する機能と、仮想空間内に時系列を表示する機能とをさらに提供する。一実施の形態では、サーバと連携して実行されるユーザインターフェースアプリケーションは、仮想空間内に提示される各オブジェクトに関するデータを格納及び分類するためのデータベースモジュールを設ける機能と、仮想空間内に提示される各オブジェクトのそれぞれのビューポイントにデータベースモジュール内のハイパーリンクを与える機能と、仮想空間と共に提示されるデータベースモジュール内のオブジェクトのうちの1つ又は複数に関するデータを表示する機能とをさらに提供する。
本明細書において記載される実施の形態の別の態様によれば、3次元グラフィカル・ユーザ・インターフェースを提供するネットワークシステムが提供され、そのネットワークシステムは、互いに通信する複数のサーバを含むコンピュータ−サーバネットワークと、コンピュータ−サーバネットワークに動作可能に接続される少なくとも1つのディスプレイ画面と、エンドユーザから入力を受信するための少なくとも1つの入力デバイスであって、コンピュータ−サーバネットワークに動作可能に接続される、少なくとも1つの入力デバイスと、一連の画面表示をエンドユーザに与えるためのソフトウエアモジュールであって、コンピュータ−サーバネットワークのサーバのうちの1つ又は複数によってアクセス可能である、ソフトウエアモジュールとを備える。そのソフトウエアモジュールは、受信したエンドユーザ入力に応答して、少なくとも1つのネットワークソースからコンピューティング出力を取り込むこと、及びディスプレイ画面上に表示されるシミュレートされた3次元デカルト空間内に、コンピューティング出力を少なくとも2つのオブジェクトとして提示することを、サーバに指示するための命令を含むことが好ましい。
一実施の形態では、そのソフトウエアモジュールは、デカルト空間内に提示されるオブジェクト毎のアイコンを含む時系列を生成することであって、それらのアイコンは、オブジェクトがデカルト空間内に提示された時刻に基づいて直線的な時間順に編成される、生成すること、及びデカルト空間内に時系列を表示することをサーバに指示するための命令をさらに含む。別の実施の形態では、ソフトウエアモジュールは、仮想空間内に提示される各オブジェクトに関するデータを格納及び分類するためのデータベースモジュールを設けること、仮想空間内に提示される各オブジェクトのそれぞれのビューポイントにデータベースモジュール内のハイパーリンクを与えること、及び仮想空間と共に提示されるデータベースモジュール内のオブジェクトのうちの1つ又は複数に関するデータを表示することを、サーバに指示するための命令をさらに含む。
本明細書において記載される実施の形態の別の態様によれば、コンピュータプログラムを格納するコンピュータ読取り可能記録媒体が提供され、そのコンピュータプログラムによってコンピュータは、エンドユーザから入力を受信すること、受信したエンドユーザ入力に応答して、少なくとも1つのコンピュータソースからコンピューティング出力を取り込むこと、及びエンドユーザに対して表示されるシミュレートされた3次元デカルト空間内に、コンピューティング出力を少なくとも2つのオブジェクトとして提示することを実行する。
一実施の形態では、そのコンピュータプログラムによってコンピュータは、デカルト空間内に提示されるオブジェクト毎のアイコンを含む時系列を生成することであって、それらのアイコンは、オブジェクトがデカルト空間内に提示された時刻に基づいて直線的な時間順に編成される、生成すること、及び、そのデカルト空間内に時系列を表示することを実行する。別の実施の形態では、そのコンピュータプログラムによってコンピュータは、仮想空間内に提示される各オブジェクトに関するデータを格納及び分類するためのデータベースモジュールを設け、仮想空間内に提示される各オブジェクトのそれぞれのビューポイントにデータベースモジュール内のハイパーリンクを与え、且つ仮想空間と共に提示されるデータベースモジュール内のオブジェクトのうちの1つ又は複数に関するデータを表示する。
本明細書において記載される実施の形態の別の態様によれば、3次元(「3D」)内に無限の空間があるという錯覚を引き起こしながら、1つのコンピューティング環境から別のコンピューティング環境にユーザを導く3Dグラフィカル・ユーザ・インターフェースが提供される。ユーザの従来の2次元デスクトップの出力を取り込むことによって、3D GUIは、3Dにプログラムのウインドウ又は他のグラフィカル表現をプロットすることにより、この出力を3D空間内にシームレスにステージする(実施する、stage )。本発明の一実施の形態では、その3D GUIは、ユーザが次に求めるもの(たとえば、検索結果内の次のウェブページ)を予想し、休止状態のコンピューティング時間をなくし、古いコンピューティング経験を視覚的に記録しながら、新たなコンピューティング経験を自動的にプロットすることによって、ユーザを、クリック回数が少ないコンピューティング環境に置く。
3D GUIは、3D内に無限の空間があるという錯覚を引き起こすので、ユーザのコンピューティングセッションの視覚的な履歴を生成することができ、それにより、ユーザは、以前に記録された状態又はビューポイントに単にナビゲートすることによって、過去の視覚的なコンピューティングイベント(又は、時間のスナップショット)を訪問することができる。したがって、3D GUIは、ユーザのコンピューティングセッションの視覚的な時間順の履歴としての役割を果たすことができ、それにより、ユーザは、3D空間内の位置(又はビューポイント)を通じて現時点で得ているコンピュータ経験に名前を付けて、後の時点で、その名前又はタイトルを呼び出すことによって、そこを再び訪問することができる。その3D GUIは、ユーザが最後に視覚的に中断した場所を覚えておくことによってコンピューティングを自動化し、その結果、その同じ所与の出力を達成するために、ユーザが同じ一連の入力を必要とする次の時点で、3D GUIは、ユーザが最後に中断した場所の視覚的な履歴である3D空間を通じてユーザをナビゲートできるようにする。
一実施の形態では、3D GUIは、コンピュータのデスクトップ上にブラウザウインドウ内のアクティブXコントロールとして(Internet Explorerのようなウェブブラウザプログラムと共に)実行することができる。さらに、本発明は、スタンドアローンアプリケーションとして実行することができるか、又はHTMLページ内に埋め込むことができる。たとえば、3D GUIのアクティブXコントロールバージョンのためのコードを、そのコンポーネントのためのシンタックスに従って、HTMLページのマークアップ言語内に埋め込むことによって、異なるスタイルの宝石を身に付けたモデルの一連の写真の(3D GUI内にセーブされた)3D仮想空間を、宝石のe−コマースサイト上に埋め込むことができる。
そのプログラムは、たとえば、Internet Explorer、他のウェブブラウザ、又はスタンドアローンアプリケーションと共に実行することができる。3D GUIによって、ユーザは、そのコンピュータ又はウェブ上に3D空間を作り出すことができるようになる。プログラム的(programmatic)アクセス又はヘルパーアプリケーション(たとえば、3D空間内のインタラクティブアイコンによって表される)を通じて、その3D GUIによって、ユーザは、データ、アプリケーション、アプリケーションによって作成されるファイル、デスクトップウインドウ、HTMLページ及び3Dアプリケーションの位置を特定できるようになり、3D GUIは、そのインタラクティブ3D空間内でこれらのファイル及びプログラムのグラフィカル出力を容易にするか、又は促進する。包括的には、本発明は、2Dプログラム及びドキュメントの機能を保持しながら、3Dの無限の空間内に、ユーザの2Dの限られたデスクトップからのグラフィックスを表示する。ユーザは、制約を受けることなく、3D空間内で、これらのファイル及びアプリケーションを使用できるようになるであろう。
本明細書において記載される実施の形態の別の態様によれば、その3D GUIによって、ユーザは、1つ又は複数の3D空間をその場で作成できるようになり、ファイル及びアプリケーションのグラフィカル出力が容易になる。たとえば、ユーザは、多数の3D空間を互いにリンクするというオプションを有することができ、それにより、3D空間のネットワークを構成することができる。ファイル又はアプリケーションが配置される場所に関係なく(たとえば、同じフォルダ内、サブフォルダ内、異なるコンピュータ上、ネットワーク内、異なるネットワーク上、インターネット上等)、ユーザは、そのネイティブプログラムを通じてファイルに、又はデフォルトブラウザを通じてウェブサイトに、完全にアクセスできるようになるであろう。このようにして、その3D GUIによって、異種のコンピュータプログラムの出力が、1つの拡張可能で、変更可能な3D空間内に視覚的に集合できるようになる。
好ましい実施の形態の以下の詳細な説明を検討することによって、当業者であれば、開示される3Dグラフィカル・ユーザ・インターフェースをさらに完全に理解できるようになり、その3Dグラフィカル・ユーザ・インターフェースのさらなる利点及び目的も理解できるであろう。添付の図面が参照されることになるが、それらの図面に関する簡単な説明も本明細書中に含まれる。
本発明は、改善された3次元グラフィカル・ユーザ・インターフェースを提供するシステム及び方法が必要とされていることに応える。詳細には、本発明は、エンドユーザから入力を受信すること、受信したエンドユーザ入力に応答して、少なくとも1つのコンピュータソースからコンピューティング出力を取り込むこと、及びエンドユーザに対して表示される3次元仮想空間内でコンピューティング出力を少なくとも2つのオブジェクトとして提示することによって、3次元グラフィカル・ユーザ・インターフェースを表示するためのシステム及び方法に関する。その方法は、仮想空間内に提示されるオブジェクト毎に1つのアイコンを含む時系列を生成することをさらに含むことが好ましく、それらのアイコンはそれぞれ、オブジェクトが仮想空間内に提示された時刻に基づいて、直線的な時間順に編成される。以下に記載される詳細な説明では、図面のうちの1つ又は複数において示される類似の構成要素を示すために、類似の構成要素の参照符号が用いられる。
本明細書において説明されるのは、(i)異種のソース(ローカルコンピュータ又はネットワーク)からのコンピューティング出力及び情報(ウェブページ、アプリケーション、ドキュメント、デスクトップ及び/又はコンピュータ上で視覚化することができるもの)を選択的に取り込み、(ii)共通の3D仮想空間内でそれをステージするか、又は描画することによって、取り込まれた出力及び情報が視覚的に集合できるようにし、(iii)新規の3D GUIを用いて、このステージされた出力を意味があるように編成して、エンドユーザが、この取り込まれた出力及び情報を、より容易に、且つ効率的に編成し、視覚化し、検索し、ソートできるようにし、且つ(iv)それらをセーブするか、ウェブ上に公開するか、電子メールで配信するか、又はそれらを同時に視認及び変更することによって複数のユーザが協調できるようにすることによって、これらの仮想空間を共有するためのシステムである。
本明細書において説明されるのは、2Dオペレーティングシステムの出力の既存のインフラストラクチャに基づいて、この新たな3Dコンピューティング経験を生み出し、管理するためのシステムである。図1A〜図1Cに図示される、このシステムの好ましい実施形態が、後にさらに詳細に説明される。本明細書において記載される一実施形態の一態様によれば、ウェブからのメタ検索結果、API、ウェブサービス、検索エンジン出力、アプリケーションプログラム出力及びネットワークからの情報、並びに固有のインタラクティブ3Dインターフェース内のエンドユーザのデスクトップ/ラップトップ上のファイル等の、リアルタイムソース及び静的ソースからの情報を含む、3Dインタラクティブ・コンピューティング・インターフェース及びソーティングインターフェースを形成するためのシステム及び方法が提供される。
「メタ検索」は、2つ以上の検索エンジン又はディレクトリに対して問い合わせが送出され、場合によっては、同じものを除去し、ソートした後に、全ての検索エンジンからの結果が報告される検索を指している。「API」は、1つのプログラムを呼び出すことによって、又はそのプログラムによって呼び出されることによって、そのプログラムが別のプログラムによって提供される機能を使用できるようにするインターフェースを指している。より高いレベルでは、APIは、プログラミングシステムによって供給される1組の機能であり、その場合に、特定のシステム内にあるAPIの組み合わせは、そのシステムが実施することができるものを明らかにする。「ウェブ」は、共通のプロトコルによって互いにリンクされ、無数のハイパーリンクリソースにアクセスできるようにする、サーバのネットワークを指している。それは、WWW、W3及びワールドワイドウェブとしても知られている。「ウェブサービス」は、インターネットを介して、種々のプラットフォーム及びフレームワーク上で実行される種々のソフトウエアアプリケーション間で相互運用するための標準的な手法を指している。それは、ネットワーク上で実行され、URI(ユニバーサルリソース識別子)アドレス及びXML定義の情報インターフェースを通じてアクセスされる、XML標準規格に基づく情報サービスを提供するソフトウエアである。「リアルタイム」は、アプリケーションが、さらに後のデータ入力に影響を及ぼすほど十分に速く応答することができる、インタラクティブセッションにおいてデータが入力される、伝送モード又はデータ処理モードを指している。
本発明は、エンドユーザのコンピュータの2次元ディスプレイを用いて、シミュレートされたリアルタイム3D没入型デカルト空間内に情報(たとえば、ウェブページ、及び3Dオブジェクト上にマッピングされる他の情報)を表示するグラフィカル・ユーザ・インターフェース(GUI)を提供する。そのプログラムは、ウェブブラウザ(たとえば、Internet Explorer及びMozilla Firefox)内で実行されるか、又はローカルオペレーティングシステムに適合するスタンドアローンのアプリケーションとして実行される。その3D GUIプログラムは、図10の実施形態において示されるように、コンピュータのデスクトップ上にある2Dウインドウ内で、見掛け上の3D空間を生み出す。そのプログラムは、ユビキタスインタラクティブ及び没入型3Dレンダリングブラウザ又はプレーヤを利用することができ、それは、ブラウザに固有の描画言語において書かれた高レベルの言語コード(プログラム)に基づいて、3D描画命令を処理する。
そのプログラムは、遠近法のビジュアルルールを遵守することによって、エンドユーザのコンピュータの2次元ディスプレイ又はウインドウ内に、無限のシミュレートされた3Dデカルト空間を生み出し、それにより、図10〜図12の例示的な実施形態において示されるように、近くにあると想定されるジオメトリ(geometry)又はオブジェクトほど、その空間属性に関して大きく見えるようにし、遠くに離れたオブジェクト又はジオメトリほど小さく見えるようにする。そのプログラムは、視認者からの認識される距離によって決定されるように、空間内のオブジェクトを互いに対して再描画することによって、2Dウインドウ内で3D空間をシミュレートする。遠くにあると想定されるオブジェクトほど小さくなるのに対して、近くにあると想定されるオブジェクトほど大きくなる。
プログラムは、シミュレートされたリアルタイム3D没入型デカルト空間の双方向性(インタラクティビティ)を生み出す。ユーザがこの3D空間内に没入するとき、プログラムは、ユーザからの命令を取り込み、その命令は、グラフィカル・ユーザ・インターフェースによって起動されるコントロールによって提示されるイベントハンドラによって処理され、それらのコントロールは、その遠近感又はビューポイント(局所的な座標系又は3次元空間内の、場所又は視覚的な遠近感と定義される)を、近くに動かすか、遠くに離すか、角度を変更するか、又はその両方によって変更することができる。そのプログラムが、ユーザによって起動された入力を受信し、そのシーンの視覚的な遠近感を変更すると、そのプログラムは、そのシーンを再描画して、ユーザによって起動された入力、及び視覚的な遠近感への変化を反映させるであろう。
本明細書において記載される実施形態の一態様によれば、3次元のグラフィカル・ユーザ・インターフェースを提供するシステム及び方法が提供される。図5Aを参照すると、一実施形態では、システム710は、ディスプレイ画面712と、エンドユーザから入力を受信する入力デバイス714、716とを備える。システム710は、プロセッサモジュール718(ディスプレイ画面712及びユーザ入力デバイス714、716に動作可能に接続される)と、メモリモジュール720(プロセッサモジュール718に動作可能に接続される)とをさらに備える。
メモリモジュール720は、プロセッサモジュール718が、受信したエンドユーザ入力に応答して、少なくとも1つのコンピュータソースからコンピューティング出力を取り込み、ディスプレイ画面712上に表示される3次元仮想空間内に、そのコンピューティング出力を少なくとも2つのオブジェクトとして提示するための実行可能コードを含むことが好ましい。一実施形態では、メモリモジュール720は、プロセッサモジュール718が、仮想空間300内に提示されるオブジェクト毎に1つのアイコンを含む時系列340を生成するための実行可能コードをさらに含むことが好ましく、それらのアイコンは、オブジェクトがデカルト空間300内に提示された時刻に基づいて、直線的な時間順に編成される。別の実施形態では、メモリモジュール720は、プロセッサモジュール718が、仮想空間内に提示される各オブジェクトに関するデータを格納及び分類するコンパス又はデータベースモジュール440を設け、仮想空間内に提示される各オブジェクトのそれぞれのビューポイントにデータベースモジュール内のハイパーリンクを与え、仮想空間300と共に提示されるデータベースモジュール440内のオブジェクトのうちの1つ又は複数に関するデータを表示する実行可能コードを含むことが好ましい。
本明細書において記載される実施形態の別の態様によれば、コンピュータネットワークにおいて3次元グラフィカル・ユーザ・インターフェースを提供するシステムが提供される。図5Bを参照すると、一実施形態では、システム730は、コンピュータネットワーク(734、736、738、740)に接続されるサーバ732と、サーバ732と連携して、エンドユーザからの入力を受信する機能と、受信したエンドユーザ入力に応答して、少なくとも1つのコンピュータソースからコンピューティング出力を取り込む機能と、エンドユーザに対して表示される3次元仮想空間内に、コンピューティング出力を少なくとも2つのオブジェクトとして提示する機能とを提供するために実行されるユーザインターフェースアプリケーションとを含む。一実施形態では、サーバ732と連携して実行されるユーザインターフェースアプリケーションは、仮想空間300内に提示されるオブジェクト毎に1つのアイコンを含む時系列340を生成する機能であって、それらのアイコンは、オブジェクトがデカルト空間300内に提示された時刻に基づいて、直線的な時間順に編成される、生成する機能と、時系列340を仮想空間300内に表示する機能とを提供することが好ましい。別の実施形態では、サーバ732と連携して実行されるユーザインターフェースアプリケーションはさらに、仮想空間内に提示される各オブジェクトに関するデータを格納及び分類するコンパス又はデータベースモジュール440を設ける機能と、仮想空間内に提示される各オブジェクトのそれぞれのビューポイントにデータベースモジュール内のハイパーリンクを与える機能と、仮想空間300と共に提示されるデータベースモジュール440内のオブジェクトのうちの1つ又は複数に関するデータを表示する機能とを提供することが好ましい。
本明細書において記載される実施形態の別の態様によれば、3次元グラフィカル・ユーザ・インターフェースを提供するネットワークシステムが提供される。図5Cを参照すると、一実施形態では、ネットワークシステム750は、互いに通信する複数のサーバ(752、754、756、758)を含むコンピュータ−サーバネットワーク751と、コンピュータ−サーバネットワーク751と動作可能に通信するか、又は動作可能に接続される(直接的又は間接的に)少なくとも1つのディスプレイ画面721と、エンドユーザからの入力を受信する少なくとも1つの入力デバイス(714、716)であって、当該入力デバイス(714、716)はコンピュータ−サーバネットワーク751に動作可能に接続される、入力デバイスと、エンドユーザに対して一連の画面表示を提供するためのソフトウエアモジュール760であって、ソフトウエアモジュール760は、コンピュータ−サーバネットワーク751のサーバ(752、754、756、758)のうちの1つ又は複数によってアクセス可能である、ソフトウエアモジュールとを備える。
ソフトウエアモジュール760は、受信したエンドユーザ入力に応答して、少なくとも1つのコンピュータソースからコンピューティング出力を取り込み、ディスプレイ画面712上に表示されるシミュレートされた3次元デカルト空間300内に、コンピューティング出力を少なくとも2つのオブジェクトとして提示することをサーバ(752、754、756、758)に指示する命令を含むことが好ましい。一実施形態では、ソフトウエアモジュール760は、デカルト空間300内に提示されるオブジェクト毎に1つのアイコンを含む時系列340を生成し、時系列340をデカルト空間300内に表示することをサーバ(752、754、756、758)のうちの1つ又は複数に指示する命令をさらに含み、それらのアイコンは、オブジェクトがデカルト空間300内に提示された時刻に基づいて、直線的な時間順に編成される。別の実施形態では、ソフトウエアモジュール760は、仮想空間内に提示される各オブジェクトに関するデータを格納及び分類するコンパス又はデータベースモジュール440を設け、仮想空間内に提示される各オブジェクトのそれぞれのビューポイントにデータベースモジュール内のハイパーリンクを与え、仮想空間300と共に提示されるデータベースモジュール440内のオブジェクトのうちの1つ又は複数に関するデータを表示することをサーバ(752、754、756、758)のうちの1つ又は複数に指示する命令をさらに含む。
その3D GUIが作り出す3D没入型空間内では、ユーザのビューポイントを変更することができる。ただし、「ビューポイント」は、ユーザがシーン又はファイルを視認することができる、局所的な座標系(3D空間)内の特定の場所又は遠近感と定義される。その場合に、図11の例示的な実施形態において示されるように、コンパス440と呼ばれるインターフェースを用いて、ユーザが3D空間内のビューポイントに名前を付け、マッピングし、ナビゲートするのを助けることができる。ここで、仮想空間300のディスプレイの左側に配置される、コンパス又はデータベースモジュール440を用いて、3D空間内に没入しながら、いつでもユーザの現在のビューポイントを記録することができる。たとえば、エントリ442は、コンパス440においてインデックスを付されたビューポイント「Yahoo!」を示す。コンパス440を用いて、記録されたビューポイントに1つ又は複数の名前を付けることができ、且つ/又はビューポイント(複数可)の名前を、リレーショナル(関係型、relational)データベース内の名前の集合の中の1つの名前として格納することができる。それらの名前は、3D空間のマップと、そのマップをナビゲートする方法とを構成する。たとえば、一実施形態では、複数のアイコン(502、504、506、508)を有する、時系列340と呼ばれる直線的なマップが提供される。時系列内のアイコン502、504、506、508は、コンパス440においてインデックスを付されたビューポイントを表し、ウインドウ510、512、514、518にそれぞれ対応する。コンパスは、格納された名前/ビューポイントのリレーショナルデータベースへのユーザインターフェースとしての役割を果たすこともできる。コンパスはドロップ−ダウンメニューを有することができ、各メニューは、ユーザによって割り当てられるか、又はアプリケーションプログラムによって自動的に生成されるビューポイントの名前(複数可)及び/又はフィールドを格納する(リレーショナルデータベース内の)レコードである。コンパスは、無限の数のメニュー又はレコードを容易にするように拡張可能であり、それにより、レコードのテーブル又はグループを作成することができる。
図11に示される実施形態では、3D GUIウィンドウのエクスプローラ・ウィンドウ枠(ペイン)は、それがWindows環境に関連するときに、コンパス440としての役割を果たす。このウィンドウ枠において、セーブされた空間450、デスクトップ451、お気に入り452、ウェブブラウザ453、検索454、画像検索455、映画検索456、検索457、ピクチャ458、音/音楽459、3D460、メモ461を付されるタブを見ることができる。これらのタブは、プログラム的アクセス又はヘルパーアプリケーションを表し、それは後にさらに詳細に説明される。
図11の実施形態において示されるように、ウェブブラウザ453と呼ばれるタブが選択され、その下にウェブブラウザメニューが現れ、そのURLがhttp://www.yahoo.comであり、それがコンパス440に関連付けられるときのビューポイント名が「http://www.yahoo.com−Yahoo!」442であるウェブページのビューポイントの名前が現れる(メインウインドウすなわち仮想空間内に示される)。より具体的には、コンパス440のメニューに列挙されるのは、そのURLがhttp://www.yahoo.com、http://www.google.com、http://www.ebay.com及びhttp://www.msn.comであり、コンパスに関連付けられる(そして、そのように列挙される)ときのビューポイント名が「http://www.yahoo.com−Yahoo!」442、「http://www.google.com−Google」443、「http://www.ebay.com−ebay」444及び「http://www.msn.com−MSN」445であるウェブページの4つのビューポイントの名前である(メインウインドウすなわち仮想空間内に示される)。このようにして、エンドユーザは、プログラム的アクセス又はヘルパーアプリケーション(450〜461)を用いて、それらのコンテンツを3D仮想空間内にステージさせることができ、コンパス440の中で、それらのコンテンツのビューポイント表現に自動的にインデックスを付けて、編成することができ、コンパス440内のグラフィカルイベントの直線的な表現に、3Dアイコン(502、504、506、508)を介して、時系列340上でインデックスを付けることができる。
本発明の好ましい実施形態では、ヘルパーアプリケーションは、ウインドウ内(たとえば、3D空間内)にファイル及びプログラムの出力を表示するようになっている。本発明の代替の一実施形態では、プログラム的アクセス又はヘルパーアプリケーションは、そのグラフィカルデザインが、それらが表現しようとする実世界の対象物のように見える、カスタマイズされたインターフェースを介して、情報を表示するようになっている。たとえば、図22の実施形態を参照すると、ユーザが、音楽ファイル用のヘルパーアプリケーション又はプログラム的アクセスを実行することができる。音/音楽用のヘルパーアプリケーションのためのアイコンをクリックした後に、3D GUIは、ユーザに、そのローカルコンピュータ上、ネットワーク化されたコンピュータ上、又はワールドワイドウェブ上にある音楽ファイルの場所を特定するように指示する。その後、ヘルパーアプリケーションは、3D空間(300)内に、好ましくはコンパクトディスクの形で、音楽ファイルのためのインターフェース(680、682、684)を描画する。その後、ユーザは、音楽ファイルのグラフィカル表現(たとえば、CDのグラフィカル表現)を対話形式で操作し、インターフェース690に示される音楽ファイルを実行し、再生することができる。
格納されたビューポイントのネーミングは、コンパス内の1つのメニューの中の単一の名前として、又は複数のメニューの中の複数の名前の組み合わせとして存在することができる。一実施形態では、各ビューポイントは、各メニューの中のただ1つの名前に関連付けられる。このようして、ユーザは、複数のメニューの中で複数の名前を選択し、名前の意味のある組み合わせを作成することができ、その組み合わせによって、選択された名前の関係に基づいて、格納されたビューポイントが動的に検索される。ユーザはコンパスのメニューを編集し、それにより、カテゴリを追加若しくは除去するか、又はメニューを拡張することができる。この全てがリアルタイムに起こることができ、それはユーザは自身の3Dシーン(複数可)をオーサリングし、対話形式で操作するためである。また、ユーザは、2つ以上の異種のコンパスインターフェースを組み合わせることができ、それにより、1つ又は複数の3D空間のためのさらに大きな仮想マップ及びナビゲーションシステムを作り出すことができる。コンパスにおいて名前を付けられたビューポイントは、現在のシーンにおけるビューポイント、ローカルデスクトップ上の別の3Dファイルにおけるビューポイント、又はワールドワイドウェブ上にホストされる別の3Dファイルにおけるビューポイントにリンクすることができる。このようにして、コンパスは、任意の所与のファイル(ローカルデスクトップのファイル、ウェブ上のファイル等)内のビューポイント間の抽象化を生み出すナビゲーションのメニューを作成する。
本発明の一実施形態では、3D GUIはさらに、コンパス内の特定のメニューアイテムのための格納されたビューポイント及び名前のカスタム2Dマップを生成するようになっている。具体的には、その3D GUIは、コンパスを介して名前を付けられ、作成されたビューポイント毎の3Dアイコンを作成して、それらのアイコンを3D空間内にプロットし、それぞれの名前がそれらのアイコンにサインポストとして割り当てられ、ユーザが3D空間内の全てのビューポイントをマッピングし、ビューポイントを区別して、異種のビューポイントの間の関係を確かめることができるようにする。
図11の実施形態を参照すると、無限の可能性があるマップの中の1つの直線的なマップ340(仮想空間300の下余白上に描画される)が提供され、それにより、3D GUIは、格納されたビューポイントのマップを、時系列340として表されるコンパス440内の特定のメニューアイテムのための名前を有する3Dアイコンとして表すようになっている(エンドユーザはそれらの名前上にマウスポインタを置くものと仮定する)。ここで、時系列340は、もともとコンパス440において作成され、インデックスを付された、そのようなシーケンス内の各3Dアイコンをユーザがクリックする場合に、最初のビューポイントから最後のビューポイントまで直線的に推移するアニメーションを表すマップである。基本的には、各3Dアイコン(502、504、506、508)は、(クリックされるときに)新たな場所又はビューポイントにジャンプするハイパーリンク又はグラフィックである。
本発明のシステムは、全てのビジュアルイベント及び重要なアクションが発生するのに応じて(その場で)、直線的な時間順でこれらのビジュアルイベントのためのアイコンを仮想空間内に描画することによって、仮想空間内で生じる全てのビジュアルイベント及びアクションを、エンドユーザが(i)インデックスを付けて、経過を追い、(ii)ナビゲートし、(iii)再生できるようにする、時系列と呼ばれる固有のグラフィカル・ユーザ・インターフェースを利用する(図18を参照)。本明細書において用いられるときに、「ビジュアルイベント」は、他のソースから取り込まれ(プログラム的アクセスを通じて自動的に、又はエンドユーザによって手動で)、3D仮想空間内に描画される情報及び出力を追加することによって典型的に引き起こされる、見掛け上の3D仮想空間の変化を指している(図1及び図2のボックス22、24、26を参照)。
一実施形態では、エンドユーザからの入力の結果として開始されるか、そうでなければプログラム的アクセスによって開始され、結果としてビジュアルイベントを引き起こす新たなアクションがそれぞれ、コンパスの中に自動的に格納され、その後、動的な時系列直線マップ340上に1つのアイコンとしてプロットされる(図11、図12及び図13Aを参照)。時系列340上にアイコンとして描画されるビジュアルイベントを構成する全ての起こり得る種類のコンピューティングイベントを列挙することは不可能であることは当業者には理解されよう。一実施形態では(図11、図12及び図13Aを参照)、時系列340は、ページの下余白上に、水平方向に直線的に描画される。別の実施形態(図示せず)では、時系列は、ページの左余白又は右余白に垂直方向に描画することができる。
時系列上にプロットされる各アイテムは、時系列上にアイコンが作成されたビジュアルイベントを引き起こすために、エンドユーザが開始したアクションを表すアイコンである。たとえば、水平方向の時系列に関して、時系列上の所与のアイテムの左側にあるアイテムは、その所与のアイテムの前に生じたのに対して、時系列上の所与のアイテムの右側にあるアイテムは、所与のアイテムの後に生じた。図18の例示的な実施形態を参照すると、アイコン612が時系列340上に描画されたビジュアルイベント(610)は、アイコン622が時系列340上に描画されたビジュアルイベント(620)の前に生じた。同様に、アイコン632が時系列340上に描画されたビジュアルイベント(630)は、アイコン622が時系列340上に描画されたビジュアルイベント(620)の後に生じた。
このようにして、エンドユーザは、時系列上の任意のアイコン(直線的な順序、、ランダムな順序等)をクリックすることによって、過去のコンピューティング経験(アイコンが作成され、時系列に追加された時点で、仮想空間内の或るビューポイントまたx、y、z座標に描画されていたもの)に戻ることができ、そのアイコンによって、エンドユーザは、ビジュアルイベントに関する情報が仮想空間内に、この場合、この実施形態では、その自身の固有の3D又はビジュアルスタック内にプロットされた、ビューポイントに結び付けられる。
図13Aを参照すると、一実施形態では、デスクトップ451と呼ばれるヘルパーアプリケーションが提供され、そのアプリケーションによって、ユーザは、データベースモジュール440のメニュー441内に示されるアイテムを仮想空間300の中にドラッグ・アンド・ドロップできるようになる。時系列340の形の動的な直線的マップ(仮想空間の下余白上に描画される)が設けられて、エンドユーザの入力のアクションが、時系列340上のアイコンとして表される。ユーザが時系列340上の任意のアイコンをクリックする場合には、ユーザのビューポイントが、そのアクション又はビジュアルイベントのために作成された、3Dスタック(すなわち、3Dで視覚化されたスタック)内の第1のアイテムに変化するであろう。結局のところ、時系列340は、ヘルパーアプリケーション(450〜461)が取り込み、3D GUIのステージすなわち仮想空間300内に描画する全てのアイテム又は出力のための直線的なマップである。
図16Aに示される別の実施形態では、エンドユーザが、Yahoo!検索(520)と呼ばれるヘルパーアプリケーションを選択し、検索項目(たとえば、「アルバート・アインシュタイン」又は「トーマス・エジソン」)を、ヘルパーアプリケーションのテキスト入力フィールド(530)に打ち込む。ヘルパーアプリケーションは、ウェブサービス又は他の技法(図4A及び図4B)を通じて、検索を要求された情報を収集し、固有の3Dスタック560内に検索結果をプロットし、それはアイコン562によって時系列340内に表される。ヘルパーアプリケーションによって、検索結果を自身の3Dスタック内にプロットすることによって、1つのビジュアルイベントが構成され、すなわちアイコンが描画され、時系列に追加される3D仮想空間への視覚的な変化が引き起こされる。
エンドユーザが、Yahoo!画像検索(520)と呼ばれる別のヘルパーアプリケーションを選択し、Yahoo!画像検索テキスト入力フィールドの検索フィールド(530)内に同じ検索項目を入力することができる。Yahoo!画像検索ヘルパーアプリケーションは、Yahoo!のウェブサービスと接続することによって、この検索要求のための情報を収集し、その後、その検索結果を、以前にプロットされた3Dスタック又は3Dにおいて視覚化されたスタックの右側に平行移動した(3Dデカルト仮想空間において+x)自身の固有の3Dスタック570にプロットする。さらに、その仮想空間内に新たなビジュアルスタックを描画することによって、ビジュアルイベントが構成され、それにより、スタック570を表す別のアイコン572が時系列に(最後のアイコン562の右側に)追加される。
図16Bを参照すると、エンドユーザが、「アドレス」:コマンドラインインターフェース464を通じて、http://www.google.comのような、仮想空間内のウェブブラウザページを作成し(図1A〜図1Cのボックス60)、それにより、エンドユーザがURLを入力し、そのURLを仮想空間に追加させることができ(図1A〜図1Cのボックス60)、その新たなウェブページは、以前にプロットされた3Dスタック560、570の右側に平行移動した(3Dデカルト仮想空間において+x)、自身の3Dスタック580内に描画される。これは、時系列に(最後のアイコン572の右側に)別のアイコン582を追加する。エンドユーザが仮想空間内でナビゲートし、そのビューポイントを変更して、3D GUIシステムの「レコードビューポイント」機構を選択した場合には(図1A〜図1Cのボックス50)、仮想空間内にx、y、z位置(ビューポイント)が記録され、これがデータベースモジュールに、たとえば、お気に入りと呼ばれるタブの下に追加される。
図20に示されるように、ユーザが、「レコードビューポイント」アイコン650をクリックすると、システムは、仮想空間内にx、y、z位置(ビューポイント)を記録し、これを、お気に入り452と呼ばれるタブの下にあるアイテム652として、コンパス440に追加する。当該システムによって、ユーザは、そのビューポイントに名前を付けて、3D仮想空間内に、仮想空間内の格納されたビューポイントの位置をサインポストとして指示する3Dアイコン654を描画できるようになることが好ましい。ビジュアルイベントとして分類されるときに、システムは、ユーザが、新たに作成されたビューポイントのための3Dアイコン656を、時系列上に以前に描画されたアイコンの右側に平行移動した時系列340上に描画することが好ましい。このようにして、仮想空間に追加された各ビジュアルイベントが、そのアイコンを通じて時系列上にその場でアーカイブされ、表される。
左から右に次々と時系列上のアイコンをそれぞれクリックする結果として、エンドユーザのビューポイントに対して一連の変化が生じるであろう。このようにして、仮想空間内のビジュアルイベントは、それらのビジュアルイベントが発生するのに応じてアーカイブされ、直線的な順序でその場で表現される。ユーザは、仮想空間内に描画され、そのアイコンが時系列上に作成された「ビジュアルイベント」を表す、時系列上のアイコンを単にクリックすることによって、時間を遡ることができる。時系列上のアイコンをクリックすることによって、エンドユーザのビューポイントが、そのビジュアルイベントがもともと描画された仮想空間内の位置、この場合には、各3Dスタック内の第1のアイテムに変更される。
3D GUIシステム内では、時系列へのアイテムの追加は動的であり、新たなビジュアルイベントが引き起こされたときに生じる。さらに、仮想空間が作成者以外のエンドユーザによって(電子メールを通じて、又はサーバ上にセーブされた空間の公開されたURLを訪問することによって)視認されるときに、時系列はGUIシステムの重要なコンポーネントになる。別のエンドユーザが創作した仮想空間を初めて視認する際に、エンドユーザは、左から右に直線的に時系列上のアイコンをクリックし、それの仮想空間を作成したときに仮想空間の作成者が経験したものを時間順に経験することができる。このようにして、時系列は時間順に仮想空間の視覚的な変化を取り込むか、又は記録するので、それを視認する他のエンドユーザは、左から右に次々に時系列上のアイコンをクリックすることによって、仮想空間を再経験することができる。
3D GUIは、このシステムに基づいて、3D GUIのためにプログラムされたコードを実行するために用いられるアプリケーションプログラム又はランタイム環境を利用することが好ましい。たとえば、プログラムは、ブラウザプログラムに固有の描画言語で書かれた、より高いレベルの言語コード(プログラム)に基づいて、3D描画命令を処理するインタラクティブ且つ没入型の3Dレンダリングブラウザを利用することができる。これを果たすために用いることができる数多くのプログラミング言語及びランタイム環境/3Dレンダリングブラウザがある。ランタイム環境又はブラウザとして、(1)スタンドアローンアプリケーション、(2)ウェブブラウザ内のアクティブXコントロール若しくはオブジェクト、及び/又は(3)ウェブページに埋め込まれたオブジェクトを用いることができる。
このシステム、又は3Dインタラクティブ・コンピューティング・インターフェースは、コンピュータデスクトップ上に仮想空間として知られているものを作成し、それはブラウザプログラムを通じて実行される。仮想空間は単に、図2に示されるように、仮想空間内のオブジェクトを、視認者からの認識される距離に応じて互いに対して再描画することによって、平坦な2Dディスプレイ内で3D空間をシミュレートするプログラムである(ランタイム環境/3Dレンダリングブラウザ内で実行される)。遠く離れていると想定されるオブジェクトほど小さく描画されるのに対して、近くにあると想定されるオブジェクトほど大きく描画される。
さらに、その経験が本当にインタラクティブであると感じるように、描画されるオブジェクトの変化がエンドユーザの反応に基づいて十分に迅速に生じなければならないので、そのシーンをリフレッシュするために、エンドユーザのコンピュータの2次元ディスプレイ又はウインドウ内に描画されるシミュレートされた3Dデカルト空間の対象物は、周期的に再描画されることが好ましい(図1及び図2のボックス22、24、26)。
仮想空間に関与する情報は、ファイルを構成する情報を自由自在に格納し、名前を付け、修正することができる任意の他のファイルに似たものである(図1A〜図1Cのボックス94)。さらに、3D仮想空間は、(1)その3D仮想空間が入力及び出力のために利用するグラフィカル・ユーザ・インターフェースを表現するために、そして(2)システム上でソートされ、検索されるべき情報を視覚化するためのステージとして用いられるので、オペレーティングシステムのファイルシステムの一部であるコマンドの多くを、セーブされた仮想空間にも適用することができる。さらに、セーブされた各仮想空間(図1A〜図1Cのボックス96)は、ヘルパーアプリケーション(図1A〜図1Cのボックス32、34、36、38、40)を通じて仮想空間に追加された全てのアイテムのためのコンテナとしての役割を果たすことができ、それらのヘルパーアプリケーションは、システムの仮想空間内に情報が流れ込むことができるようにするブリッジとしての役割を果たす。インターネットの普及している機能のうちの1つがダウンロードし、コンピュータ間でファイルを転送することであるため、これらのファイルを電子メールで送信するか、又は他の方法で転送するための媒体として、ファイル、コンテンツ及び情報を出力し、追加するために仮想空間を利用する概念は今までになく、有用である。仮想空間がファイルとしてアーカイブされると、それを、任意の他の電子メール又はファイルと同じように容易に、別のサーバ若しくはコンピュータに電子メールで、又はFTPを介して送信することができることは当業者には理解されよう。
現在のコンピューティングパラダイムでは、電子メールメッセージは、写真、ビデオ、音及び実行可能ファイルのような2値ファイルを添付されたメッセージとして、互いに送信される。電子メールメッセージが受信されて、添付ファイルが視認されると、受取人は、(i)そのファイルを選択し、(ii)その電子メールソフトウエアを用いて各ファイルを復号化し、(iii)ファイルをダウンロードし、(iv)ファイルを作成した、又はそれを視認することができる別個のプログラムを用いて、自身の新たなウインドウ内でそのファイルを起動しなければならない。対照的に、本発明の3D GUIでは、写真、ビデオ、音、ウェブページ又は他のコンテンツのような、仮想空間に追加される全てのファイル(図1A〜図1Cのボックス32、42、50、58、60、62、72、74、84、86、88、90、92、94、104)は、全体として1つのファイルにおいて電子メールで送信することができる。電子メールの受取人が電子メールを受信すると、電子メールのコンテンツが(i)電子メールに添付されるにしても、(ii)サーバにセーブされるにしても、セーブされた空間へのハイパーリンクをクリックすることによって、電子メールの全てのコンテンツを有する仮想空間に一度のクリックでアクセスすることができる(図1A〜図1Cのボックス98)。そうすることにより、エンドユーザが1つずつ別々にファイルを開くことを必要とすることなく、仮想空間が開かれ、全てのコンテンツがステージされる。
より具体的には、仮想空間が電子メールを介して受信されるか、又はウェブ上のサーバから、若しくはウェブ上のFTPを介してエンドユーザのコンピュータにダウンロードされると、電子メール又はFTPファイルを表示することに関与するウェブページ内のセーブされた空間へのハイパーリンクは、一度のクリックで、電子メールで受信されるか、又は他の方法で転送されたファイルを実行するアクティブXコントロール又はアプリケーションための埋め込まれたHTML<object>タグを見る。一般的に、このタグは、コントロールを実行するために必要とされる情報を含み、それはGUIサーバ上に、又は他の場所に配置されることがある。このようにして、3D GUIシステム(本発明のこの実施形態ではアクティブXコントロールとして構成される)は、任意の他のコンピュータ上で実行することができ、それにより、エンドユーザのコンテンツを有するセーブされた仮想3D空間が、電子メール、ファイル転送プロトコル、又は他の方法を介して任意の他のコンピュータに送信されるようになり、エンドユーザが、その仮想空間内の全てのコンテンツに一度のクリックでアクセスできるようになる。
本発明のシステムの一実施形態では、3D GUIシステムによって、エンドユーザは、たとえば、プロトコル内のパブリッシュボタン等をクリックすることによる等して、その空間をGUIサーバ(図8のボックス282)に公開できるようになる。3D GUIプログラムは、それをアップロードすることによって、又はそれをサーバに公開することによってファイルをセーブし、このファイルのためのアドレスをURLとして作成する(図8のボックス284及び286)。1人又は複数のユーザ(図8のボックス290〜290)が、この公開されたURLを同時に訪問することができる。このURLを訪問することによって、エンドユーザのクライアントコンピュータのそれぞれの3D GUIアクティブXコントロールが起動され、複数のユーザのコンピュータ(図8のボックス288)のそれぞれにファイルの最新のバージョンが別個にダウンロードされ、それらのユーザは仮想空間を対話形式で操作し、使用することができるようになる。最初に、各エンドユーザは、そのクライアントコンピュータ上に最初にダウンロードされた仮想空間ファイルの同じバージョンを実行する。サーバは、クライアント(複数可)及びサーバコンピュータの間でネットワーク通信を通じてファイルをダウンロードした全てのエンドユーザ(「複数のユーザ」として知られている)のインデックスを保持する。
ビジュアルイベントを通じて多数のユーザの仮想空間のうちのいずれかが変更されると、自身のファイル内に仕訳けされる。ここで、ビジュアルイベントは、典型的には、他のソースから取り込まれ、3D仮想空間内に描画される情報及び出力を追加することによって引き起こされる、3D仮想空間の見掛けの変化を指している(図2のボックス22、24、26)。用語「仕訳け(ジャーナライジング、journalizing)」は、メインファイルに変化を実際に書き込む前に、それらの変化をジャーナルに記録するファイルシステムを指している。あらゆるクライアントコンピュータからの新たなビジュアルイベント毎に仕訳けされた変化毎の各ファイルが、ネットワーク接続を通じて、サーバにプッシュされ(図8のボックス296)、仕訳けエントリとして元のファイルに追加される。サーバがファイルへの仕訳けエントリを受信すると、サーバは、変化が起こったクライアントコンピュータを除く、全ての複数のユーザのクライアントコンピュータに、元のファイルへの追加をプッシュする。このようにして、全ての複数のユーザからの新たなビジュアルイベント、又は仕訳けされたファイルが、全ての複数のユーザの仮想空間において更新される。この過程は、周期的に迅速に繰り返され、それにより、全ての複数のユーザからの全ての変化を、リアルタイムに反映できるようにすることが好ましい。
3D GUIプログラムは、シミュレートされたリアルタイム3D没入型デカルト空間の双方向性を提供する。エンドユーザがこの3D空間内に没入するとき、プログラムは、グラフィカル・ユーザ・インターフェースによって起動されるコントロールによって提示されるイベントハンドラによって処理される、ユーザからの命令を取り込み、コントロールは、その遠近感又はビューポイントを変更することができる。遠近感又はビューポイントは、局所的な座標系又は3次元空間内の場所又は視覚的な遠近感を指している。したがって、エンドユーザは、仮想空間内のオブジェクト(たとえば、ウェブページ)に近づくように、又は遠ざかるように動くことによって、且つ/又は仮想空間内のウェブページの角度又は遠近感を変更することによって、1つの仮想空間において多数の特有のビューポイントを達成することができる。
本発明の一実施形態では、エンドユーザが仮想空間内の遠近感を変更するのを助けるグラフィカル・ユーザ・インターフェース・コントロールはナビゲータと呼ばれ、それは図11及び図12において見ることができる。ナビゲータ上のアイコンをクリックすることによって、エンドユーザは、3D仮想空間内のその遠近感又はビューポイントを変更することができる。図11及び図12に示される実施形態では、(1)ナビゲータ上の「+」ボタンは、3Dデカルト空間内のz軸に沿って前方にエンドユーザを動かし、(2)ナビゲータ上の「−」ボタンは、3Dデカルト空間内のz軸に沿って後方にエンドユーザを動かし、(3)「上矢印」は、3Dデカルト空間内のy軸に沿って上にエンドユーザを動かし、(4)「下矢印」は、3Dデカルト空間内のy軸に沿って下にエンドユーザを動かし、(5)「左矢印」は、3Dデカルト空間内のx軸に沿って左にエンドユーザを動かし、(6)「右矢印」は、3Dデカルト空間内のx軸に沿って右にエンドユーザを動かす。
プログラムがユーザによって起動される入力を受信し、シーンの遠近感を変更すると、図2に示されるように、プログラムは、そのシーンを再描画して、ユーザによって起動される入力、及び視覚的な遠近感への変更を反映させる。プログラムは、そのシーン/3D内のオブジェクト又はジオメトリの形状及びサイズを計算し直して、局所的な座標系内のエンドユーザの場所又は視覚的な遠近感を反映させる。現実的なリアルタイム経験を達成するために、プログラムは、周期的にシーンを再描画する。
イベントハンドラは、特定のイベント(たとえば、マウスのクリック、スクロールバーのドラッグ、又はボタンの押下)に応答して、そのプログラムがいかに動作するかを指示するために作成されたコンピュータプログラムの一部である。そのプログラムのカスタムイベント処理機能は、イベントディスパッチャ(event dispatcher)によって実行されることになり、それはオペレーティングシステムの一部であり、グラフィカル・ユーザ・インターフェース(GUI)イベントを検出し、実行プログラム内の機能を呼び出して、それらのイベントを処理する(en.wikipedia.org/wiki/Event_handlerを参照されたい)。
プログラムは、シーン/3Dデカルト空間内のオブジェクト又はジオメトリの形状及びサイズを計算し直して、局所的な3次元座標系内のエンドユーザの場所又は視覚的な遠近感を反映させる(イベントハンドラによって収集される入力に基づく)。現実的なリアルタイム経験を達成するために、プログラムは、そのシーンを、周期的に再描画する。このようにして、エンドユーザは、3D没入型空間内の自身のナビゲーション、位置及びビューポイントを制御することができ、選択された任意の角度又はビューポイントにおいて、3D空間内の任意のジオメトリを視覚化する自由を与えられる(図2を参照)。
本明細書において記載される実施形態の一態様によれば、検索エンジン出力からのインタラクティブメタ検索結果を介して、ハイパーリンクからウェブページの3D出力を生成する方法及びシステムが提供される。図4A及び図4Bの実施形態を参照すると、3Dシーン内の入力インターフェース又はヘルパーアプリケーション(ボックス162)のようなグラフィカル・ユーザ・インターフェースが提供され、それにより、エンドユーザがその3D空間内に入ると、エンドユーザは検索項目又は検索項目の組み合わせを入力できるようになる。ヘルパーアプリケーション又はプログラム的アクセスによって、ユーザは、検索項目(複数可)を入力できるようになるだけでなく、検索結果が情報源にすべきソース(たとえば、eBay、Yahoo!、Google、電子メール、デスクトップ、MySpace、MSN又は他の利用可能なあらゆる情報源(図4A及び図4Bのボックス164に示される))も入力できるようになる。したがって、適当なヘルパーアプリケーションは、情報源を取り込むように、又は3D GUIシステムと情報源とを接続するようにカスタマイズされなければならない。ワールドワイドウェブ上の大部分の検索エンジン、ポータル又は情報発行者は、ウェブサービスを通じて自身の情報を公開して、他のシステムがその情報と接続できるようにするために、種々のプログラム的アクセス技法を必要とする。システムを変更することなく、3D GUIとこの情報とを橋渡しするために、わずかな変更が加えられなければならないことは当業者には理解されよう。たとえば、その方法は、情報を3D GUIシステムに橋渡しするのを容易にするために、http://www.google.comと接続することを含むことができる。
検索エンジンのクローラが、ハイパーリンクを訪問し、URLを格納し、出合った各ページのキーワード及びテキストにインデックスを付けることによって、ワールドワイドウェブを動き回るのと同じようにして、一実施形態では、3D GUIプログラムは、3D GUI内の子ウインドウのようなオペレーティングシステムのウェブ・ブラウザ・コントロール(図4A及び図4Bのボックス184)を通じて、画面外に描画される(隠れた)、選択された検索エンジンのホームページの1つの2D HTMLページ(この場合には、http://www.google.com、図4A及び図4Bのボックス184)を開くことによって、エンドユーザが選んだ検索システム又はウェブサイト内でこれらの検索項目を用いて、その場でワールドワイドウェブの検索を実施することができる。その後、本発明のプログラムは、検索項目を検索エンジンのホームページ(図4A及び図4Bのボックス188)のオフ・スクリーン・テキスト入力フィールドに入力し、キャリッジリターンをエミュレートし、検索結果(図4A及び図4Bのボックス192)を検索し、各HTML内で見つけられる検索結果をパースし、検索エンジンが検索結果としてエンドユーザに返した各ハイパーリンクを特定し、これをアレイの中に格納する。1つの手法では、プログラムは、所与のハイパーリンクのためのURLにおいて見つけられるウェブページを表示する、このアレイの要素毎に、又は検索システムの結果ページ上で見つけられるハイパーリンク毎に、3D空間内に1つの新たなウェブページ又はウインドウを(検索結果ページの背後に)を開く。
エンドユーザが新たな検索を実施する場合には、プログラムは、入力インターフェースに入力される検索フレーズ毎に、画面外で選択された検索システムのURLで新たなブラウザウインドウを開き、ステージングエリアのようなこの検索ページにキーワードフレーズを転送し、キャリッジリターンをエミュレートする。検索結果が現れると、それらの結果はプログラムに再び組み込むことができる。しかしながら、新たな検索結果はそれぞれ、画面外に描画される自身のブラウザウインドウを有し、その後、3Dデカルト空間の中に戻されなければならない。
さらに、Windowsオペレーティングシステム内のウェブ・ブラウザ・コントロールは、アプリケーションに、ブラウジング能力、ドキュメントビューイング能力及びデータダウンロード能力を追加することに留意されたい。このコントロールを用いるアプリケーションによって、エンドユーザは、ワールドワイドウェブ上のサイト、並びにローカルファイルシステム内及びネットワーク上のフォルダを閲覧できる。ウェブ・ブラウザ・コントロールは、本発明の或る特定の実施形態において用いられる。しかしながら、3D GUIシステムは、コンピュータからの出力を取り込み、表示する方法として、ウェブ・ブラウザ・コントロール以外の、オペレーティング・システム・シェルの任意の部分又は他のコンポーネントを利用することもできることに留意されたい。
3D GUIプログラムは、このアレイの要素毎に、又は検索システムの結果ページ上で見つけられるハイパーリンク毎に、3D空間内に(検索結果ページの背後に)1つの新たなウェブページ又はウインドウを開くことができ(図4A及び図4Bのボックス202)、それにより、所与のハイパーリンクのためのURLにおいて見つけられたウェブページが表示される。このように、データベース内にインデックスとして格納する代わりに、システムが出合う実際のウェブページ、情報及びハイパーリンクを3D仮想空間内にその場で視覚化することを除いて、3D GUIは、検索エンジンのクローラと似たものである。図4A及び図4Bのボックス202では、2つのウェブページの前に描画される検索結果ページを特定することができる。そのシステムは、デフォルトとして、図示されるように、「3Dスタック」と呼ばれるもの(すなわち、3Dで視覚化されるスタックであり、3Dスタックと呼ばれることもある)の中に新たな各ウェブページを描画する。ただし、新たな各ウェブページは、z軸に沿って遠くまで描画される(ただし、所与の遠近感に起因して、小さく見える)ことを除いて、既存のウェブページの位置に類似のx、y、z座標を占有し、x軸又はy軸又はx、yの両方の軸上で平行移動し、エンドユーザが任意の所与の遠近感から複数のウェブページを見えることができるようにする。たとえば、図9の実施形態では、仮想空間300内に描画される4つの3Dスタック302、304、306、308の鳥瞰図を見ることができ、各3Dスタック(この実施形態では、それぞれ約10項目を含む)は新たな検索を表す。
図10の実施形態を参照すると、フレーム366及び371が、検索エンジン(たとえば、Google)を用いて実施される2つの検索結果を提供する。各検索の結果として、それぞれ自身の3Dスタック(360、370)が生成され、各スタックは約10個のウェブページを含む。3D仮想空間300内にこれらの3Dスタック(360、370)を動的に生成することは、3D GUIディスプレイエンジンが、3D仮想空間の編成された情報出力内で見つけられる要素を出力するために用いるデフォルトのゲシュタルト(形態、gestalt)である。別の実施形態では、そのディスプレイエンジンは、他のカスタムテンプレートをロードし、1つ又は複数の異なるゲシュタルト(たとえば、3Dスタック等)を達成する能力を有する。
続けて図10を参照すると、ナビゲータの別の実施形態380が提供される。次ページ382及び前ページ384のような、ナビゲータ380上のアイコンをクリックすることによって、エンドユーザは、ナビゲータ380上のボタンの意味と一致するように、自分の遠近感又はビューポイントを容易に変更することができる。たとえば、ナビゲータ380上の次ページ382をクリックすることによって、エンドユーザは、3Dスタック内の次のページのクローズアップビューポイントに結び付けられる(たとえば、ページ/フレーム/ウインドウ361からページ/フレーム/ウインドウ364に動く)。さらに、(a)+ボタン390は、エンドユーザを、3Dデカルト空間内の+z軸に沿って前方に動かし、(b)−ボタン392は、エンドユーザを、3Dデカルト空間内の−z軸に沿って後方に動かす。
また、画面のボタンの近くに一群のナビゲーションボタン396も設けられる。ボタン324をクリックすることによって、3Dスタックの最初のページ(たとえば、スタック360のページ361)が前面に呼び出されるのに対して、ボタン406は、3Dスタックの最後のページ(たとえば、スタック360のページ368)をプルアップする。別の言い方をすると、ボタン398をクリックすると、エンドユーザが、3Dスタック内の最初のページのクローズアップビューポイントに結び付けられるのに対して、ボタン406をクリックすると、ユーザは、スタック内の最後のページのクローズアップビューポイントに結び付けられる。同様に、ボタン400をクリックすると、前ページが呼び出されるのに対して、ボタン404は、所与のスタック内の次のページをプルアップする。ボタン402をクリックすることによって、プログラムは、ウインドウ及びオブジェクトの現在のデカルト空間配列のスナップショットを記録し、それにより、後の時点で、ユーザが現在のデカルト空間をプルアップできるようにする。「次の10ページ」ボタン(図示せず)をクリックすることによって、3D空間内に次の10ページが描画され、それを元の10ページに追加して、3D空間内に全部で20ページが作成される。前の10ページボタン408をクリックすることによって、エンドユーザは、3Dスタック内の前の10ページのクローズアップビューポイントに結び付けられる(たとえば、20ページ目から10ページ目に戻される)。
図10の実施形態には、3D仮想空間300内の自身の遠近感又はビューポイントを変更するための補助ナビゲーションボタン410も示される。たとえば、(a)上矢印412は、エンドユーザを、3Dデカルト空間内の+y軸に沿って上に動かし、(b)下矢印414は、エンドユーザを、3Dデカルト空間内の−y軸に沿って下に動かし、(c)左矢印418は、エンドユーザを、3Dデカルト空間内の−x軸に沿って左に動かし、(d)右矢印416は、エンドユーザを、3Dデカルト空間内の+x軸に沿って右に動かす。
エンドユーザが、3Dスタック内に表されるウェブ・ブラウザ・コントロールの任意のテクスチャマップ上にある閉じるボタン420をクリックするとき、3D GUIは3Dスタックからページを除去し、除去されたページの後に、スタック内の除去されたページの位置と入れ替わるように次のページを描画し、除去される前に以前に描画されていたページの元の位置に、その以前に描画されていたページの後のページを描画し、3D仮想スタック内の次のページを、以前に描画されていたページの位置と入れ替わるように前方に描画し、以前に描画されていたページの位置にスタック内の次のページを描画し、3Dスタックの終わり、又はアレイの最後の要素に達するまで、この過程を繰り返す。
さらに、本発明の別の実施形態では、或る方式に対応するように3D GUIを容易にカスタム化することができ、3Dスタック内に描画される各ウェブページ(又は他のアイテム)の位置、又はx、y、zの座標を動的に計算して、全体として見た目が本明細書においてカスタムゲシュタルトと呼ばれるものになるようにし、それにより、複数の要素から成る構成又はパターン(仮想空間内のx、y、zの座標)が全体として1つのまとまりになり、単に複数の部分の集まりとして描写されないようにすることができる。たとえば、一実施形態(図示せず)では、複数のウェブページを描画するための1つの異なるゲシュタルト又はパターンが、3次元立方体の形状をとり、各ウェブページが、その立方体の3つの側面の交差する点にプロットされる(図9のカラムゲシュタルトとは異なる)。
別の実施形態では、3D GUIは、ヘルパーアプリケーションから画像を検索し、その後、それらの画像は1つのマトリックス内に提示され、4つのピクチャが、仮想空間内のx平面及びy平面に沿って3Dスタック毎に2行及び2列に描画される。さらに別の実施形態では、視覚的なゲシュタルトは、16個のピクチャが仮想空間のゲシュタルト内のx平面及びy平面に沿って3Dスタック毎に4行及び4列に描画されるマトリックスから成る。
本明細書において記載される実施形態の別の態様によれば、3D GUI「ゲシュタルト」は、仮想空間内の検索結果内の任意のオブジェクト又はウェブページのためのゲシュタルトと組み合わせて、「リンクイン/リンクアウト」機構を提供するようになっているものとすることができる。最初に、ユーザが要求する場合には、プログラムによって自動的に、エンドユーザは、任意の所与のウェブページ又はオブジェクトから「リンクアウト」する全てのウェブページ又はオブジェクトを3D仮想空間内にプロットできるようになる。次に、ユーザが要求する場合には、プログラムによって自動的に、エンドユーザは、任意の所与のウェブページ又はオブジェクトに「リンクイン」する全てのウェブページ又はオブジェクトを3D仮想空間内にプロットできるようになるであろう。
また、3D GUIシステムのディスプレイエンジンは、電子メールに適しているカスタムゲシュタルトを出力するようになっているものとすることもできる。3Dデカルト空間内に描画されるラベル、リンクイン/リンクアウトのためのそれらの位置及び角度をカスタム化して、提示されるデータの種類に対応する任意のタイトルを表示することができる。3Dスタック内に表示される情報及びリンクイン/リンクアウトをプロットするための3Dデカルト空間内のそれぞれの座標又は位置は、3Dデカルト空間内のゲシュタルトの見た目を変更するためにプログラムと適合するカスタムテンプレート内で修正することができる変数である。これは、プログラムの拡張可能性を利用する、テンプレート内のxml符号化データを用いることによって果たすことができる。当業者は、システムで機能するこれらの拡張可能なデータテーブルを作成することができるであろう。プログラムは、テンプレートファイルを通じて同時に複数のテンプレートを処理することができ、インターフェースパネルからの入力を通じてエンドユーザが要求する際に、その場で種々のテーマを切り替えることができる。
1つの手法では、3Dスタック内に表示される3Dデカルト空間内のそれぞれの座標又は位置は、3Dデカルト空間内のゲシュタルトの見た目を変更するためにプログラムと適合するカスタムテンプレートによって修正される変数である。これは、プログラムの拡張可能性を利用するテンプレートファイル内のxml符号化データを用いることによって果たされる。たとえば、8つのウインドウのクラスタを、立方体構成の角に配置することができ、各ウインドウは、立方体構成を通じて回転し、クラスタ内のページの中でソートすることができる。リンクイン/リンクアウト機構は、各クラスタを接続する線分によって表すことができる。立方体クラスタが例示にすぎないこと、及び表示すべき様々な数のページを有するクラスタも同じように考えられることに留意されたい。たとえば、別の実施形態では、ピラミッド構成を有するクラスタ内に5つのウインドウが表現され、そのピラミッドは、4つの点を有する長方形の底面と、長方形の底面の上方に配置されるただ1つの点とを含む。
本発明の一実施形態では、3D GUIは、ユーザのコンピューティングセッションの視覚的な履歴時間表とすることができ、それにより、そのアプリケーションは、コンピューティングセッションの日時においてビューポイントを記録することによって、新たな各ビジュアルイベントの日時をアーカイブし、その日時においてビューポイントを再現することによって、これらのビジュアルイベントを再訪問することができる。ここで、他のソースから取り込まれ、3D仮想空間内に描画される情報及び出力を追加する(図2のボックス22、24、26)ことによって通常引き起こされる、見掛け上の3D仮想空間の任意の変化を、「ビジュアルイベント」と呼んでいる。本発明の一実施形態では、仮想空間が図21に示されるように作成される。さらに、「Yahoo!検索」と呼ばれるヘルパーアプリケーションを利用して、検索を実施し、自身の3Dスタック内の3D仮想空間内に、検索結果のためのウェブページをプロットする。コンパス440内の検索タブ454が選択され、それぞれの検索結果又はウェブページがプロットされた日時が、その下にあるウインドウ枠内の仮想空間内に時間順に示される(コンパス440のメニュー441内のエントリ660〜672を参照されたい)。
本明細書では、ビューポイントのようなプログラムに関連付けられる3D GUI内の情報を格納することができるプログラム内のエリアを「コンパス」と呼んでいる。コンパスは、情報が格納されるカテゴリを有することができる。カテゴリを変更することによって、エンドユーザは異なる情報にアクセスすることができ、情報が存在するカテゴリを選択することに基づいて、情報をフィルタリング又は発見できるようにする。
ここで、仮想空間300内に示されるか、又は描画されるイベント(674、676)が、コンパスの検索タブ内のイベント毎にインデックスを付される、アーカイブされた日時に対応することがわかる。3D仮想空間は、(i)(x)として知られている水平方向の位置と、(ii)(y)として知られている垂直方向の位置と、(iii)時間としても知られている、奥行方向(z)の位置とを有するので、(z)軸に沿ってさらに遠くにある新たな位置及び日付において新たな出力をプロットすることによって、エンドユーザのコンピューティングセッションの視覚的な履歴を作成し、それにタイムスタンプを付けることができる方法を明らかにすることができる(たとえば、2006年8月8日−6:00p.m.を示すエントリ670)。実際には、そのシステムをプログラムして、適当なオペレーティングシステムコントロールと組み合わせられる任意の情報、又はカスタムヘルパーアプリケーションの助けによって、3D仮想空間内に描画されることになる次のビジュアルイベントにおける他の出力をアーカイブすることができる。たとえば、グラフィカルイベントとして、「アドレス:」464を付されるコマンドラインインターフェース上に、http://www.yahoo.comのようなURLを打ち込み、その後、キャリッジリターンを実施することによって、そのGUIの3D仮想空間内にウェブページを作成することができる。
同じ所与の出力を達成するためにユーザが同じ入力シーケンスを必要とする次の時点において、3D GUIが、ユーザが最後に中断した場所の視覚的な履歴である記録された3D空間の中でユーザをナビゲートし、仮想空間内に出力されたアイテムが、そのままステージされるように、ユーザが最後に中止した場所を視覚的に覚えておくことによって、その3D GUIはコンピューティングにおけるナビゲーションを自動化する。
図13Aを参照すると、一実施形態では、3D GUIのアプリケーションは、Internet Explorerのウェブブラウザ内のアクティブXコントロールとして実行される。エクスプローラウィンドウ枠の中でセーブ空間タブを選択し、その下にあるメニュー内の全てのセーブされた空間を見えるようにすることができる。セーブされた空間をクリックすることによって、3D仮想空間がメインウインドウ内にロードされる。ウインドウ490は、デスクトップ451と呼ばれる別のヘルパーアプリケーションの出力を示しており、その名前は、コンパス440内の1つのタブとして示される。例示される実施形態では、セーブされたMicrosoft Wordのドキュメント500が、アイテム492、494、496、498と並んで、3D仮想空間300内のウインドウ490内で実行されている。これらのアイテムの全ての出力は、「双方向性及びパーシステンシ」と呼ばれる方法を用いて、ヘルパーアプリケーションによるエンドユーザの入力を通じて取り込まれた(図3に示される例示的な手法を参照されたい)。ここで仮想空間300としてセーブされる出力は、異種のソースから互いに組み合わせて、仮想空間300内の1つの出力として一緒にセーブすることができる。
さらに、その出力が3D仮想空間ウインドウ490内で実行されているMicrosoft Wordのドキュメント500は、グラフィカルイベントとして示される3D GUIアプリケーションのエクスプローラウィンドウ枠において、デスクトップ451を付されるヘルパーアプリケーションのメニューからドラッグ・アンド・ドロップすることによって(図1A〜図1Cのボックス78)、エンドユーザによって(3D仮想空間300の中に)入力された。デスクトップ451を付されるヘルパーアプリケーションを用いるとき、Microsoft Wordのドキュメント500が仮想空間300に追加されたのと同じようにしてドラッグ・アンド・ドロップすることによって(図1A〜図1Cのボックス78)、任意のファイル、ドキュメント、アプリケーション又はデスクトップを、3D GUI仮想空間に追加することができる。さらに、ファイル、ドキュメント、アプリケーション又はデスクトップが仮想空間300に追加されると、それは十分にインタラクティブで、且つ機能性があり、そのプログラムが3Dデカルト空間300において存在しないときに機能する元の様式とは異ならないように、すなわち元の様式に近いように見える。
図13Bは、そのファイル名がncn(510)と呼ばれるセーブされた仮想空間を示しており、その「Yahoo!検索」(520)と呼ばれるヘルパーアプリケーションからのアイテム化された出力が、3D GUIウインドウのエクスプローラウィンドウ枠441内でインデックスを付される。これらのインデックスを付された名前(ビューポイント)のうちの1つをクリックすることによって、エンドユーザが、ヘルパーアプリケーションによって生成されるビューポイントに結び付けられ、それにより、エンドユーザの視覚に、3D仮想空間内のこの特定のウェブページのための出力の好ましいビューポイント/遠近感がもたらされる。その場合に、検索タブ454の下にあるウインドウのエクスプローラウィンドウ枠(コンパス又はデータベースモジュール440)においてインデックスを付される各名前は、ヘルパーアプリケーションによって収集される検索結果のインデックス、及び検索結果内の各ウェブページの3D仮想空間内の好ましいビューポイントへのハイパーリンク又はトリガの両方としての役割を果たす。
場合によっては、3D仮想空間内のファイル、ドキュメント、アプリケーション、デスクトップ又は他の出力を対話形式で操作するのが難しいことがある。これは、エンドユーザが仮想空間内の好ましくないビューポイントを占有している場合に相当し、そのビューポイントでは、オブジェクトが仮想空間内で歪んで描画される。そのような場合には、3D GUIシステムは、「HUD設定」と呼ばれる技法を使用し、その技法は、ファイル、ドキュメント、ウェブページ、アプリケーション、デスクトップ又は他の出力をHUD上に描画することによって、それを見えるようにすることを含む。用語「HUD」又は「ヘッドアップディスプレイ」が、人間の視野の中に直に情報を投影する方法を包括的に指していることは、当業者には理解されよう。この技法は、他に先駆けて軍事航空のために開発されたが、他のアプリケーションにおいても実験的に用いられてきた。これは、仮想空間内のエンドユーザのビューポイントを変更して、エンドユーザの視野内に直に存在するようにすることによって、果たすことができる。
仮想空間内のエンドユーザのビューポイントによって、ウェブページが歪んで描画されているとき、多くの場合に、いずれか一方に向かって正規分布の形状に歪みが生じているであろう。そのような場合に、3D GUIシステムは、HUD設定機構を利用し、それにより、アイコン又はボタンをクリックする(Windowsオペレーティングシステム環境において最小化することに類似)ことによって、仮想空間内のエンドユーザのビューポイントの変更がトリガされ、ウェブページがエンドユーザの視野の中に直に現れ、それにより、さらに容易に対話形式で操作できるようになる。一実施形態では、これは、最初に隠れているか、又は画面外に描画されたウェブページの2Dバージョンを見えるようにし、それを3D仮想空間の前面にあるレイヤ内に配置し、エンドユーザが2Dにおいてこのレイヤを対話形式で操作できるようにすることによって果たされる。さらに、エンドユーザは、適当なボタンをクリックすることによって、HUDの設定を解除するか、又は最初に隠れていたか若しくは画面外に描画された2Dウェブページを再び隠すことも自由である(この場合も、Windowsオペレーティングシステム環境における最小化ボタンに類似)。その場合に、エンドユーザは、この技法を用いることによって3D仮想空間内に思いのままに描画された、任意の選択的に取り込まれたコンピューティング出力及び情報(ウェブページ、アプリケーション、ドキュメント、デスクトップ又はコンピュータ上で視覚化することができる任意のもの)のために2Dと3Dとをトグルするか又は切り替えることができる。
3D GUIは見掛け上、無限の空間を利用するので、アプリケーション及びドキュメントの出力は、閉じられるか、隠されるか、又はファイルされる必要はない。それらはステージされ、それらがある場所及びユーザが最後に中断した様式で、永久に視覚的に開いたまま存在することができる(それらの出力を3D仮想空間内に記録することによる)。ユーザが、かつて実施された全てのものを視覚的に記録し、無限の空間を通って、再訪問できるようにすることによって、3D GUIはこれを果たす。ユーザが新たなコンピュータ経験を要求する場合には、単に、さらに多くの仮想空間を作成し、ヘルパーアプリケーション又はプログラム的アクセスを通じて、この新たに作成された仮想空間内に新たなアプリケーション及びドキュメントをプロットする。
ユーザが過去のコンピューティング経験を要求する場合には、3D GUIは、画面のグラフィカル出力を変更して、ユーザが過去のコンピューティング経験中に見たもの(たとえば、特定の日時において記録されたか、又は或るファイル名でアーカイブされた特定のビューポイントにおけるデータ)を視覚的に表す。この過去のコンピューティング経験は、本明細書において「セーブされた空間」と呼ばれるものとして、ファイルにセーブすることができる。セーブ空間コマンドを利用することによってエンドユーザが選択するときにはいつでも、セーブされた空間が、3D GUIプログラムが仮想空間内で見ることができる情報を格納するので、セーブされた空間は任意の他のファイルとは違わない。さらに、3D GUIは、日時によって仮想空間への任意の新たな視覚的な変更又は追加を系統的にアーカイブし、日時によって過去の仮想空間内で見られたものを呼び出すことができる。このようにして、3D GUIによって、人は、コンピューティング時間の中を(視覚的に)遡る。
本発明の一実施形態によれば、その3D GUIは、新規のシミュレートされたリアルタイム3D没入型デカルト空間内に再描画される、ユーザのコンピュータの2Dディスプレイの完全な機能性及び双方向性を提供し(グラフィカルウインドウ、デスクトップ、HTMLページ及び汎用プログラム出力を選択的に、且つ個別に取り込むことを含む)、それにより、2Dグラフィックスが3Dオブジェクト上に描画又はマッピングされる。
本発明の3D GUIは、情報をオペレーティングシステムの出力に橋渡しし、且つオペレーティングシステムの出力からのこの情報を処理する3Dステージを提供する新規のシステムである。本明細書において開示される3D GUIシステムは、オペレーティングシステムへの任意のプログラム的な変更若しくは構造的な変更、それが出力する方法、又はオペレーティングシステムをプログラムするか、若しくはオペレーティングシステムを対話形式で操作するために用いられるプログラム的イベントのシーケンスに関係なく、オペレーティングシステムの言語において、任意のオペレーティングシステムからの任意の出力を取り込むようになっているものとすることができる。
一実施形態では、3D GUIシステムは、オペレーティングシステムコントロール又は他のオペレーティングシステム出力の、無限に没入型なインタラクティブ3Dデカルト空間へのインタラクティブな複合テクスチャマッピングを実施し、情報(たとえば、限定はしないが、ウェブページ、アプリケーション、ドキュメント、ウインドウ、ネットワーク、ウェブサービス等)を検索、ソートし、GUIシステムをブラウジングするのを容易にする。
(1)それがウェブページ、ピクチャ、ウインドウ、アプリケーション、デスクトップ画面、pdfファイル等のいずれにしても、そのプログラムに(オペレーティングシステムの出力を通じて)もたらされる情報の種類、又は(2)それがAPI、メタ検索若しくはウェブサービスのいずれを通じてであっても、情報がプログラムによって取り込まれる方法、又は(3)それら配信されるプログラム的アクセス(コントロール、ウインドウ、デスクトップ、画像、VNC)には関係なく、もたらされる情報が、十分にインタラクティブで、且つ機能性があり、それが3Dデカルト空間内に存在しなかったときにプログラムが機能する元の様式と異ならないように、すなわち元の様式に近いように見えるようにして、プログラムが、その情報を、シミュレートされた3Dインタラクティブデカルト空間内で再現することが極めて重要である。
本明細書において記載される実施形態の一態様によれば、取り扱われる情報(たとえば、ウェブページ)が、3Dで機能するように3D空間内で適当に機能するような、オペレーティングシステムからの特別なコントロールが提供される。したがって、コンピューティングの世界では、「コントロール」は、ユーザのインタラクション又は入力が多くの場合に、アクションを開始できるか、情報を表示できるか、又は値を設定できるようにするオブジェクトと定義される。たとえば、ワールドワイドウェブ上のウェブページが、エンドユーザのコンピュータの2Dデスクトップ上にある典型的なウインドウにおいてオペレーティングシステムで適当に機能するために、そのウェブページが表示され、適当に機能するために、そのウェブページの言語(HTML)が、オペレーティングシステムプログラム又はコントロールによって読み出されなければならない。Windowsオペレーティングシステムによって用いられる1つのそのような特定のコントロールは、ウェブ・ブラウザ・コントロールと呼ばれ、それはウェブページ及び典型的なデスクトップウインドウを取り扱う。現在、大部分のWindowsコントロールは、2Dパラダイムを用いて視覚化される。1つのそのようなコントロールの名前は、MSHTML/ウェブ・ブラウザ・コントロールと呼ばれ、Windowsデスクトップ上のHTMLウェブページ及び他のコンテンツを1つのウインドウ内に描画する。
ユーザが見るだけであるピクチャとは異なり、ウェブページは、仮想空間内で適当に機能するために双方向性を必要とする。3Dインタラクティブ仮想空間のエンドユーザのビューポイントは変化することがあるので、それに応じて、描画されるオブジェクトの形状及びサイズが、仮想空間内のエンドユーザのナビゲーションに基づいて変化する。オブジェクトが、それらの上にマッピングされるコントロールのようなオペレーティングシステム出力を有する3D仮想空間内に描画される場合には、特別なシステムを作り出して、エンドユーザが、2Dデスクトップにおいて見出すのと同じ入力及び出力応答性で、3D仮想空間内のマッピングされるオブジェクトを対話形式で操作できるようにしなければならない。したがって、本明細書において記載されるのは、オペレーティングシステムの2D出力(たとえば、2Dが表示されているプログラム的アクセスは、コントロールと、コントロールが表示することができる全ての情報とを利用する)から3Dインタラクティブデカルト空間への情報の視覚的なブリッジとしての役割を果たすためのインタラクティブ3D複合テクスチャマッピングであり、表現されるオブジェクトは、エンドユーザが選択するいずれのビューポイントからでも、没入型空間内で完全に機能性を保持する(図3を参照)。
その場合に、そのプログラムは、新規のシミュレートされたリアルタイム3D没入型デカルト空間内に再描画されるエンドユーザのコンピュータの2次元ディスプレイの完全な機能性及び双方向性を実現し(グラフィカルウインドウ、デスクトップ、HTMLページ、及び汎用プログラム出力、又はコントロールが表示することができる任意の情報、又は非コントロールアイテムを選択的に、且つ別個に取り込むことを含む)、それにより、2次元グラフィックスが3次元オブジェクト上に描画又はマッピングされる。
この3D空間内に没入している間に、エンドユーザは、取り込まれ、再描画された2次元コンピュータディスプレイコンポーネントを見て、それらを十分に対話形式で操作することができ、全く新しいコンピューティング方法を生み出すことができる。マッピング又は再描画された2次元ディスプレイを対話形式で操作しながら、エンドユーザは、それに近づくか、それから遠ざかるか、その角度を変更するか、又はそれらを合わせて行うことによって、その遠近感又はビューポイント(局所的な座標系又は3次元空間内の場所又は遠近感と定義される)を変更することができる。
1つの例示的な実施形態では、通常、2Dデスクトップ上で出力を見ることになるオペレーティングシステムのコントロールの視覚的な出力(たとえば、ウェブ・ブラウザ・コントロール/msHTML)は、GUIシステムの3D没入型仮想空間内の3D形状(たとえば、立方体、ピラミッド等)にテクスチャマッピングされる。これは、取り得るオペレーティングシステムコントロール、API又は任意の出力の無限のライブラリから選択される1つのオペレーティングシステムコントロールであり、その出力は、3D GUIによって取り込まれ、3D空間内の任意のオブジェクト上に描画することができる。さらに、オペレーティングシステムのコントロールの視覚的な出力を得るための情報源及び方法を、それが何であるか、又はそれがどのようにして取り込まれるかに関係なく、GUIシステムの3D没入型仮想空間内の3D形状上にテクスチャマッピングすることができる。
図3を参照すると、仮想空間において、インタラクティブ複合テクスチャマッピング、並びに双方向性及びパーシステンシの両方を達成するために必要とされる情報の処理を示す、双方向性及びパーシステンシの流れ図が提供される。この流れ図において、この過程は、クライアントコンピュータ又はサーバコンピュータ上にインストールすることができる3D GUIアプリケーションを起動することによって開始される。
サーバ上で実行される3D GUIは、ネットワークによってリンクされる他のコンピュータに情報及びソフトウエアを配信することができる。ここで、クライアントは、クライアント/サーバ関係において、要求を出すアプリケーションプログラム又はユーザである。たとえば、3D GUIクライアントアプリケーションは、ウェブ上で3D GUIサーバから情報を得るために、有効にクライアント要求を行うことができる。3D GUIプログラムそのものは、要求された情報を取り込み、返送しているコンピュータとの関係においてクライアントである。要求を処理し、情報を返送するコンピュータは、3D GUIサーバである。
この実施形態では、3D GUIアプリケーションプログラムは、ネットワーク接続によるウェブアプリケーション又はネットワークアプリケーションとしてではなく、コンピュータ上でローカルに実行される。しかしながら、いずれの構成も実現可能である。本発明がサーバ又は他のそのようなコンピュータ上で実行される場合には、これにより、クライアントコンピュータのユーザが、他のコンピュータのオペレーティングシステムの出力にアクセスできるようになるであろう。最初に、そのアプリケーションは、流れ図内の起動アプリケーションによって示されるように起動される。「インタラクティブ3Dデカルト空間を作成する」によって、その空間がプログラムを通じて実行されるコンピュータデスクトップ上に仮想空間が作成される。仮想空間は単に、仮想空間内にオブジェクトを再描画することによって、平坦な2Dディスプレイ内で3D空間をシミュレートするプログラムである(ランタイム環境/3Dレンダリングブラウザ内で実行される)。当面のアプリケーション又はコンピューティングの目的に応じて、そのプログラムは、意図したプログラムカスタマイゼーションに基づくユーザ入力要求を取り込む。
プログラム的アクセスを通じて、そのアプリケーションは、3D仮想空間から、2Dデスクトップに、又はAPI呼出しを通じてコンピュータのオペレーティングシステムに直にユーザ要求を転送し、開始する。3Dから2Dへのユーザ要求のこの転送が、API呼出しを用いることなく2Dデスクトップに対して直に行われる場合には、画面外のイベントハンドラからの要求又はデバイス入力を、隠れた2Dミラーコンポーネント上でシミュレート/エミュレートするか又は再現し、同期して再び2Dミラーからの出力の応答又は変化を取り込み、それを任意の3D形状にマッピングして戻すことによって、そのユーザ要求が転送される。2Dデスクトップ又はオペレーティングシステムコントロールは、3D仮想空間上に意識を集中させるためにユーザから見えないので、画面外にあると言われる。このようにして、エンドユーザは、3D仮想空間の中で、2Dデスクトップからの同じ出力でコンピューティングすることができ、3D仮想空間は、2D出力への3Dウインドウとしての役割を果たし、切れ目ない無限の仮想空間でコンピューティングするためのステージを設定する。
プログラムカスタマイゼーションに基づいて、そのアプリケーションは、その場の目的を果たすためにエンドユーザによって「要求される情報の種類を検索するのに適したOSコントロールを判定する」。たとえば、これは、(限定はしないが)(1)ウェブページを開くこと、(2)ファイル若しくはドキュメントを開くこと、(3)アプリケーションを起動すること、(4)ウインドウを作成すること、又は(5)ローカルで、又はネットワーク接続を介して任意の他のプログラムを実行することを含むことができる。
その場合に、適当なオペレーティングシステムコントロールが指定され、その場所が特定されると、このシステムコントロールのためのアプリケーションプログラムインターフェース呼出しが実行される。このコントロール、又は仮想空間内の他のオペレーティングシステムアプリケーションプログラムインターフェースの有用性及び機能性を可能にするために、3D GUIは、OSコントロール、ビットマップ又はAPIの視覚的な出力を任意の3D形状上に転送又はマッピングする。任意の3D形状という言い回しは、この構造が、特定のゲシュタルトを利用するテンプレートを通じて、3D GUIがカスタマイズされる仮想空間のテーマに固有にすることができることを明確にするために用いられる。
各オペレーティングシステムがコントロール及びその出力を処理する特有の方法を有するので、3D GUIは、このマップ若しくは「OSコントロールの視覚的な出力」を取り込むか、又はミラーへのユーザの要求をシミュレートするか若しくは渡す1つの方法には限定されないことに留意されたい。
3D仮想空間内で、3D形状上にマッピングされるオペレーティングシステムコントロールからのマウスクリック、カーソル位置、キーボード入力及び動きを、2D環境上で実行されるミラーコントロールに渡すために、デバイス入力イベントハンドラが用いられる。
現在、オペレーティングシステム出力を取り込むと共にそれを3D仮想空間内に描画するこの方法又は周期的な過程は、当面の問題に対するオペレーティングシステムの欠点を克服するために実施される次善策又は手動手順である。別の実施形態では、オペレーティングシステムは、3D GUIシステムがAPIを利用できる将来の時点では、1回の簡単なAPIコールでこの機構又はそれに類似の機構を組み込むことができる。
(1)オペレーティングシステムコントロールから仮想空間内の3D形状上に可視要素をマッピングすること、(2)デバイス入力イベントハンドラを走査すること、(3)この入力を、2D環境において実行されるミラーコントロールに、又はオペレーティングシステムに直に渡すことから成るこの過程は、周期的に繰り返され、仮想空間内のエンドユーザのビューポイント又は遠近感に関係なく、仮想空間内のオペレーティングシステムコントロール又はオペレーティングシステム出力を対話形式で操作するリアルタイム経験を生み出す。3D GUIアプリケーションはリアルタイムに実行され、ここでは、仮想空間及び2Dマップ又はオペレーティングシステムAPI出力の間で時間に遅延を生じることなく、情報が受信され、直ちに応答される。あまりにも大きな遅延があると、システムラグが生じることになるので、この同期通信は好都合である。
図3から理解できるように、オペレーティングシステムコントロールが存在しないか、又はオペレーティングシステムコントロールのマップ又は視覚的な出力を取り込むプログラム的アクセスが行われない状況では、転送によって(次々に画像、又は画像の一部を複製するために)フレームバッファ、ビデオドライバ、オペレーティングシステムグラフィックスAPI又はビデオメモリからのビットマップとして、オペレーティングシステムコントロール又は出力(たとえば、ウインドウ)の画面上の出力を周期的に取り込むために、コンティンジェンシが組み込まれる。図3をさらに参照すると、本明細書において記載されるような3D GUIを提供する方法及びシステムによれば、システムが、任意のコンピュータソースからの視覚的な出力を、その出所又はそれが出力された方法に関係なく取り込むことができるようになることがわかるであろう。たとえば、図3のボックス128、140、142は、OSコントロールを指しており、且つ/又は、たとえば、「…要求された情報の種類に特有の適当なOSコントロールを実行する」を指しているが、本発明は、OSコントロールを含むアプリケーションに限定されことはなく、より一般的には、プログラム的アクセス等を含むアプリケーションに関連付けることができることに留意されたい。たとえば、或る特定の実施形態では、図3の流れ図のボックス140は、「3D表現へのミラーとしての役割を果たすことになる、要求された情報の種類への適当なプログラム的アクセスを実行する」を読み出すことができる。
ユーザの従来の2次元デスクトップの出力を取り込むことによって、GUIは、ウインドウ、又はプログラムの他のグラフィカル表現を3Dにプロットすることによって、この出力を切れ目のない3D空間内にステージする。本発明の一実施形態では、3D GUIは、ユーザが次に求める可能性があるものを予想し(たとえば、検索結果の次のウェブページ)、休止状態のコンピューティング時間を排除し、古いコンピューティング経験を視覚的に記録しながら、新たなコンピューティング経験を自動的に(他の何かの上に重ね合わせるのではなく、新たな空間内に)プロットすることによって、ユーザを、クリックが少ないコンピューティング環境に入れる。3D GUIは、3Dにおける無限の空間の錯覚を生み出すので、その3D GUIは、ユーザのコンピューティングセッションの視覚的な履歴を作り出すことができ、それにより、ユーザは、以前に記録された状態に単にナビゲートすることによって、過去の視覚的なコンピューティングイベント(又は時間のスナップショット)を訪問することができる。古い情報を置き換えることによって、又は古い情報を重ね合わせることによって、仮想空間内でグラフィカルに表現される新たな情報が古い情報と入れ替わらないので、これを果たすことができる。代わりに、それは新たな仮想空間内に描画される。したがって、3D GUIは、ユーザのコンピューティングセッションの視覚的な履歴時間表としての役割を果たすことができ、それにより、ユーザは、3D空間内の自分の位置(複数可)(又はビューポイント)を通じて、現時点で有しているコンピュータ経験に名前を付け、後の時点で、その名前又はタイトルを呼び出すことによって、そこを再訪問することができる。
この3D空間内に没入しながら、ユーザは、取り込まれ且つ再描画された自分の2Dコンピュータディスプレイを見ることができ、それを対話形式で完全操作することができ、コンピューティングの全く新しい方法を生み出すことができる。マッピングされるか又は再描画される2Dディスプレイを対話形式で操作しながら、ユーザは、それに近づくか、それから遠ざかるか、若しくはその角度を変更するか、又はその両方によって、自分の遠近感又はビューポイント(局所的な座標系又は3D空間内の場所又は視覚的な遠近感と定義される)を変更することができる。
その上に(又はその隣に)描画されている3Dオブジェクトは集合的に、家、図書館又はさらには近所のような、再描画されるコンテンツのためのテーマ又は背景を表すことができる。たとえば、電子音楽ファイルがCD又はレコードの3D写真上にマッピングされることができ、電子ビデオファイルがテレビ又は映画スクリーンの上にマッピングされることができ、他も同様である(図22を参照)。インタラクティブ3Dオブジェクト上に2Dコンピュータ画面を再描画することによって、視覚的なコンピューティング空間が増加し、それによりユーザは、オブジェクト上又はオブジェクト付近にコンピュータ出力を編成できるようになり、そのオブジェクトの3D視覚構成物は、コンピュータ出力が関連付けられる実世界の対象物を表すことができる。
本発明の一態様によれば、3D GUIは、視覚的なコンピューティング履歴を作成するようになっており、それにより、2Dコンピュータディスプレイ出力への通常の変更は、変更が生じる度に現在の出力又は2Dディスプレイと入れ替わるのではなく、新たな3Dオブジェクト上に描画されるか、又はマッピングされる。たとえば、一実施形態では、ユーザがウェブページA上のハイパーリンクをクリックすると、この結果として、新たなウェブページBが作成され、それはAと入れ替わらない。たとえば、ユーザが、3次元オブジェクト上にマッピングされる2次元出力を対話形式で操作することによってインターネットを閲覧するとき、リンクをクリックすることによってユーザが通常ハイパーリンクすることになるページは、2Dコンピュータディスプレイと入れ替わるであろう。しかしながら、3D GUIは、全く新しい3Dオブジェクトを作成するようになっており、その3Dオブジェクトの表面は、通常であれば元の2Dインタラクティブページと入れ替わることになる新たな表示コンテンツでマッピングされる。
新たな各グラフィカルイベントの日時を格納し、アーカイブすることによって、ユーザは自分のコンピューティングセッションの視覚的な時間表を作成し、それは、時系列上のアイコンをクリックすることによって呼び出すことができ、時系列上の各アイコンは、特定の日時におけるエンドユーザのアクションを表す。過去のグラフィカルイベントに関与するプログラム的アクセスもアーカイブされるであろう。たとえば、或るページがハイパーリンクしている第2のHTMLページを視認する場合、以前のURLはセーブされるであろう。このようにして、ユーザは常に、現在の表示を出力する前にコンピュータが以前に表示したものを見返すことができ、グラフィカルに表現されるような、以前にセーブされたコンピューティング状態を対話形式で操作し、目的を果たすことができる。3Dでコンピューティング履歴を視覚的に取り込むこの過程は、無制限に続けることができ、それにより、3Dビジュアル空間をセーブ、アーカイブ、及び再訪問することができ、時系列は、これを表すためのアイコンを追加しながら動的に増大するであろう。
本発明の一実施形態によれば、コンパス(又はデータベースモジュール)アプリケーションが提供される。ユーザは、コンパス上の少なくとも1つのボタンをクリックし、ビューポイント(局所的な座標系又は3次元空間内の場所又は視覚的な遠近感と定義される)に1つ又は複数の名前を割り当てることができるようになる。その後、ユーザは、そのビューポイントに関連付けられる3次元画像を視認し、その対応する名前と共にこのビューポイント(又は視覚的な遠近感)をファイルにセーブすることができ、そのファイルのコンテンツ又はデータは、コンパスによってアクセスすることができる。本発明の一実施形態では、コンパスは電子ダイヤル錠としての役割を果たし、それにより、ユーザによって割り当てられ且つコンパスのダイヤルに追加される1つ又は複数の名前の組み合わせ又はシーケンスによって、格納された場所が特定される。
たとえば、ユーザが、The Beatlesのコンパクトディスクの3Dオブジェクトを示す3Dインタラクティブ空間に没入する状況を考える。現在のビューポイントを視認するために、ユーザは、「音楽」、「ロック」、「外国」、「イギリスの侵略」等の多数の名前を割り当てることができ、各名前は、グラフィカル・ユーザ・インターフェースの数多くのダイヤルのうちの1つにおいて1つの空間を占有するであろう。ダイヤルを名前「音楽」、「ロック」、「外国」、「イギリスの侵略」に合わせることによって、そのプログラムは、The Beatlesのコンパクトディスクの3Dオブジェクトを示す3Dインタラクティブ空間へのビューポイントの変更を開始するであろう。3D空間においてビューポイントに名前を付け、格納し、再訪問するためのインターフェース機構の使用は汎用性があり、ユーザのコンピュータ上の3Dのローカルファイル、ネットワーク化されたファイル、及びワールドワイドウェブ上のファイルに適用することができる。
本発明の一態様によれば、ユーザは、コンパスと呼ばれるグラフィカルインターフェース上の格納されたビューポイントにアクセスすることができ、コンパスは、電子ダイヤル錠としての役割を果たすことができる。この実施形態では、コンパスは、そのダイヤルが、各ダイヤルに割り当てられる適当な名前によってダイヤルの文字盤上で特定される位置の所定のシーケンスを通じて合わせられるときに、格納されたビューポイントを開く(視覚的に訪問する)。それゆえ、コンパスを用いて、一連のビューポイントを互いに接続し、一連の接続されて格納されたビューポイントを視覚的に訪問することができる。
本発明の一態様によれば、ユーザは3D空間に没入し、新空間等と呼ばれるボタンを与えられる。このボタンがクリックされると、全く新しい3Dインタラクティブ空間のための別のファイルが作成され、それにより、3Dオブジェクト又はポータルボタンをクリックすることによって、新たな3Dインタラクティブ空間が現在の空間からアクセス可能である。ポータルボタンは、新たな空間を現在の空間に電子的にリンクし、新たな空間のビューポイント又は視覚的な遠近感のピクチャによって表すことができる。新空間ボタンをクリックすることによって、3D GUIは、新たな空間にリンクする現在の空間内に、ポータルボタンを自動的に作成する。さらに、3D GUIによって、ユーザは、新たな空間に1つ又は複数の名前を同時に割り当て、これらの名前をデータベースモジュール(コンパスとしても知られている)に追加できるようにもなる。
ユーザが新たな空間を作成し、この空間をセーブするか、又は電子メールで送信する場合には(図1A〜図1Cのボックス96、98)、3D GUIは、新たな空間、コンパスを介して新たな空間に割り当てられる名前、及び3Dファイルの種々のビューポイント又は視覚的な遠近感のスナップショットによる新たな空間のピクチャを記述するHTMLページのためのマークアップを書くことによって、コンテンツページのテーブルを自動的に作成するようになっているものとすることができる(図1A〜図1Cのボックス100)。この情報は全て、1つのHTMLファイルにまとめることができ、そのファイルは、ワールドワイドウェブを横断する数多くの検索エンジンによって見つけられ且つクロールされるのを助長するために、1つ又は多数のワールドワイドウェブサーバに自動的に公開されるか、又はファイル転送プロトコル(FTP)によって送信される。
新たに作成された3D空間のためのコンテンツページのこれらのHTMLテーブルをその場で作成すると共にそれらをワールドワイドウェブに公開する1つの目的は、それらをポータルページとして用いることができるようにすることであり、それにより、ユーザは、(i)キーワードを用いてワールドワイドウェブを検索することができ、(ii)その内容がキーワードに対応するコンテンツページのテーブルを見つけることができ、(iii)コンテンツページの2Dテーブルから、その内容がコンテンツページのテーブルに対応する3Dインタラクティブ空間にエンドユーザをハイパーリンクすることができる。たとえば、コンテンツページのHTMLテーブルは、(i)そのHTMLページのタイトルとしての新しい空間の名前、(ii)名前が、コンパスインターフェースのビューポイントに割り当てられる名前から得られる可能性があるメタタグ、(iii)新しい空間の元のビューポイント又は視覚的な遠近感のラスター画像又はピクチャ、(iv)新しい空間内で見つけられる全てのハイパーリンクのリスト、(v)シーンの記述、(vi)シーンの作成者、(vii)リモートデスクトップ接続設定、及び/又は(viii)新しい空間内で示される全てのリモートデスクトップ接続リンクのためのデスクトップへのURLを含むことができる。
ワールドワイドウェブ上の情報にインデックスを付ける検索エンジンは主に、HTML(ウェブページ)、ピクチャ及び(場合によっては)ファイルに関してインデックスを付けるので、本明細書において開示されるコンテンツページのHTMLテーブルは、検索エンジンのインデックスに含まれるべき、セーブされた3D仮想空間のための戸口としての役割を果たす。コントロールを実行することに関与する3D GUIアクティブXコントロールについての情報が、コンテンツページのテーブルを構成する、本明細書において開示される他の情報と共に、HTML<object>タグを用いることによって、コンテンツページのHTMLテーブルに符号化される。このようして、3D GUIシステムによって、エンドユーザは、自分の3D仮想空間を通じてコンテンツを作成し、それをコンテンツページのテーブルを通じてサーバ上に公開し、これらのページを、現在のパラダイムのワールドワイドウェブを通じて検索エンジンによってクロール及び見ることができるようにすることができる。検索エンジンは主に、クローラ又はスパイダを用いて、ウェブページ上のハイパーリンク及びワードを調べる。
本発明の一態様によれば、コンピュータ画面上の3Dの表示は、一方向の放送媒体のようなウインドウ又はウェブブラウザにおけるテープ録音のような予めプログラムされた3D空間を再生するランタイム実行モデルを含むことができる。この3D空間のプログラミングは、プログラムをハンドコーディングすることによって、又はプレーヤのためのファイルを作成するエディタを用いることによって果たされる。本発明の一実施形態では、3D空間内のウインドウ内のファイルのディスプレイ出力又はプログラムの機能を容易にするインタラクティブアイコンのグラフィカル・ユーザ・インターフェースを通じて、プレーヤからヘルパーアプリケーションにアクセスすることができる(その間、ユーザは3D空間を使用し、その中に没入している)。
一実施形態では、3D GUIアプリケーションの仮想空間内へのコンテンツ出力は、eBay検索又はYahoo画像検索のようなヘルパーアプリケーションを実行することによって生成される。結果として最初に生成される製品画像出力及びその製品情報が、ヘルパーアプリケーションによって生成され、その機能図が図4A及び図4Bに示される。その出力は、直線的なマップ(たとえば、仮想空間の下余白上に描画される)を含むことが好ましく、それにより、3D GUIは、時系列として表される特定の検索項目ために、格納された検索のマップを、3Dアイコンとして名前と共に表すようになっている(エンドユーザがそれらにマウスオーバするものと仮定する)。ここで、時系列は、エンドユーザが、コンパス内で当初にインデックスを付される、そのようなシーケンス内にある各アイコンをクリックする場合に、各3Dスタック内の最初のアイテムの最初のビューポイントから、最後の3Dスタック内の最初のアイテムの最後のビューポイントまで直線的に推移するアニメーションを表すマップである。基本的に、各3Dアイコンはハイパーリンクであり、クリックされると、グラフィックが、その3Dアイコンに対応する現在の仮想空間内の新たな場所又はビューポイントにジャンプする。本発明のこの実施形態では、新たに検索する度に、その結果として、対応する3Dアイコンが描画されている3D仮想空間内にプロットされる検索結果のために新たな3Dスタックが作成される。
たとえば、図9の実施形態では、eBay検索ヘルパーアプリケーションで行われた4つの固有の検索(すなわち、ロレックスデイトナ、アイビーエムラップトップ、プラズマテレビ、及びTreo650)を表す時系列340内に3つの3Dアイコン(342、344、346、348)を見ることができる。各固有検索の結果として、自身の3Dスタック302、304、306、308(この実施形態では、各スタックは一度に10個のアイテムを示す)と、3D仮想空間300の下余白にある時系列マップ340内にプロットされる自身の固有の3Dアイコンが作成された。本発明のこの実施形態では、エンドユーザが任意のハイパーリンク又は3Dアイコンをクリックする場合には、3D GUIは、エンドユーザを、その3Dスタック内の最初のeBay検索結果のビューポイントに視覚的に連れて行くであろう。
このようにして、エンドユーザは、(1)eBayヘルパーアプリケーションの中へ新たな検索項目を連続して入力し、(2)それらの検索を開始するためにキャリッジリターンを押下し、(3)自身の固有のビジュアルコラム内にプロットされる検索結果を視覚化し、(4)仮想空間の下余白上の時系列として表される3Dアイコンのマップを視覚化し、(5)それらが3Dスタック内に表されるのに応じて、時系列上の3Dアイコンのハイパーリンクを単にクリックすることによって、検索を(固有の3Dスタックそれぞれの中の最初のアイテムのビューポイントを通じて)迅速にナビゲートし、次のページ322、最後のページ324、次の10ページ326及び最後の10ページ328のような、ナビゲータ320上のコマンドをクリックすることによって、各3Dスタック内の各アイテムをシャッフル又はソートすることができる。また、ナビゲータ320上のアイコンをクリックすることによって、エンドユーザは、3D仮想空間300内の遠近感又はビューポイントを変更することができる。たとえば、(1)+符号337は、エンドユーザを、3Dデカルト空間内の+z軸に沿って前方に動かし、(2)−符号338は、エンドユーザを、3Dデカルト空間内の−z軸に沿って後方に動かし、(3)上矢印330は、エンドユーザを、3Dデカルト空間内の+y軸に沿って上に動かし、(4)下矢印334は、エンドユーザを、3Dデカルト空間内の−y軸に沿って下に動かし、(5)左矢印336は、エンドユーザを、3Dデカルト空間内の−x軸に沿って左に動かし、(6)右矢印332は、エンドユーザを、3Dデカルト空間内の+x軸に沿って右に動かす。
図11の実施形態では、アドレス:コマンドライン464インターフェース又はヘルパーアプリケーションが提供され、それにより、エンドユーザが、ローカルオペレーティングシステムのローカルファイルシステムのウインドウ、ドキュメント又はアプリケーション等のためのURL又はアドレスを入力することができる。エンドユーザが、コマンドラインインターフェースのアドレスフィールド上にhttp://www.yahoo.comを打ち込むと、図に示されるように、アプリケーションは、適当なウェブ・ブラウザ・コントロールを通じて、そのHTMLページを3D仮想空間内に描画する。この過程は、アドレス:を付されたコマンドライン上にさらにURLを入力して、それらを3Dスタック内に提示させるために、無限に繰り返すことができる。http://www.yahoo.comの後にキャリッジリターン、http://www.google.comの後にキャリッジリターン、http://www.ebay.comの後にキャリッジリターン、そしてhttp://www.msn.comの後にキャリッジリターンを順次打ち込むことによって、3D GUI仮想空間内に4つのウェブページ(510、512、514、516)が作成される。コマンドラインインターフェース、ヘルパーアプリケーション464は、ユーザが、HTMLページ、デスクトップウインドウ、ドキュメント、アプリケーション、vncデスクトップ、又は命令を受けてその場で仮想空間に視覚化することができる何か他のものを作成及びオーサリングするための1つの方法である。
本発明の代替の一実施形態では、各ヘルパーアプリケーションは、グラフィカルデザイン及び構成が表現しようとする実世界の対象物に似ているカスタマイズされた3Dインターフェースを通じて情報を表示するようになっている。たとえば、音楽ファイルのためのヘルパーアプリケーションを実行することができる。ヘルパーアプリケーションのためのアイコンをクリックした後に、3D GUIは、ユーザのローカルコンピュータ、ネットワーク化されたコンピュータ又はワールドワイドウェブサービスのいずれかで、ユーザに音楽ファイル(複数可)の場所を特定するように指示するか、又は自動的に場所を特定することができる。その後、ヘルパーアプリケーションは、3D空間内に音楽ファイル(複数可)のためのインターフェースを描画することができる。その後、ユーザは、音楽ファイルのグラフィカル表現(たとえば、CDのグラフィカル表現)を対話形式で操作し、その音楽ファイルを実行し、再生することができる。
3D GUI内に表示されるファイル又はアプリケーションが配置される場所(たとえば、同じフォルダ内、サブフォルダ内、異なるコンピュータ内、ネットワーク内、異なるネットワーク内、インターネット経由等)には関係なく、ユーザは、そのネイティブプログラムを通じてファイルに、又はデフォルトブラウザを通じてウェブサイトに完全にアクセスできるようになる。このようにして、その3D GUIによれば、異種のコンピュータプログラムの出力を、拡張可能で、変更可能な3D空間内に視覚的にまとめることができるようになる。また、その3D GUIは、所与の種類又は判定基準の任意のファイルを得るために、ローカルコンピュータ内のフォルダ及びサブフォルダ、ネットワークコンピュータ、ウェブサーバ又はインターネットを検索又は走査するようにユーザに指示し、ヘルパーアプリケーションを介して、3D空間内にまとめて、ウインドウ又はカスタマイズされた3D実世界対象物アイコンとして、その出力を表示することができる。このようにして、ユーザは、この機構を用いて、ただ1つのファイルを選択的に選択することができるか、又は入手可能な全てのファイルを自動的に選択することができる。
本明細書において記載される実施形態の別の態様によれば、エンドユーザは、コンピューティング出力及び情報(ウェブページ、アプリケーション、ドキュメント、デスクトップ又はコンピュータ上で視覚化することができるあらゆるもの)を選択的に取り込む能力を与えられ、それにより、それを3D仮想空間内に視覚的にまとめることができる。本発明の一実施形態では、3D GUIは、エンドユーザのデスクトップ(又はネットワーク化されたデスクトップ)上に表されるファイル、フォルダ、アプリケーション、ウインドウ、ドキュメント、又は何か他のものの形をとるコンテンツを3D仮想空間にドラッグ・アンド・ドロップする能力を提供する。ドラッグ・アンド・ドロップは、デスクトップ上又はデスクトップ上のウインドウ内にそれを配置し、そのアイテムのアイコン(複数可)(又はそのウインドウを通じて開いたアイテム)を3D GUIウインドウの仮想空間にドラッグして、それを追加することによって行われる。ドラッグ・アンド・ドロップは、マウスで行うことができる特定のアクションを示す。オブジェクトを新たな場所にドラッグするとき、フォルダのようなオブジェクトをクリックし、その後、マウスボタンを押し下げたままにする。マウスボタンを離すことによって、そのオブジェクトをドロップすることができる。ドラッグ・アンド・ドロップを用いて、オブジェクト又はファイルを別の場所に容易に動かすことができるか、又は埋め込むことができる。
アイコンが仮想空間内にドラッグされると、ドキュメント、アプリケーション、ファイル等は、(1)仮想空間内のウインドウ内で開くことができるか、又は(2)仮想空間内でそのアイコンによって表すことができる。本発明の一実施形態では、ドラッグ・アンド・ドロップされたアイテムは、仮想空間内でアイコンによって表される場合には、仮想空間内で又は2Dデスクトップ上の仮想空間の外側においてそれを開くために、ダブルクリックすることができる。たとえば、仮想空間内のInternet Explorerアプリケーションのアイコンを3D GUIの中にドラッグ・アンド・ドロップして、アイコンとして示すことができる。
エンドユーザがこのアイコンをダブルクリックする場合には、3D仮想空間内でInternet Explorerウインドウを開くことができる。1つの手法では、エンドユーザがこのアイコンをダブルクリックし、同時にシフトキーを押したままにする場合には、Internet Explorerウインドウが、3D仮想空間の前面でデスクトップの一部としての2Dウインドウ内に開くであろう。エンドユーザが1つのドラッグ・アンド・ドロップ動作を完了する度に、一度のドラッグ・アンド・ドロップの全てのアイコンがその3Dスタック内にファイルされ、これを表す時系列上に1つのアイコンがプロットされる。
本発明の別の実施形態では、エンドユーザが、デスクトップから多数のアイテムを含む1つのフォルダをドラッグ・アンド・ドロップする場合には、そのフォルダ内にある全てのアイテムが、3D仮想空間内のその3Dスタック内に個別に(フォルダの外側に)描画される。さらに、エンドユーザによるドラッグ・アンド・ドロップアクションを通じて3D仮想空間を変更するこのビジュアルイベントを表すアイコンは、その機能に応じて、時系列に追加されることが好ましい。この場合、時系列上でインデックスを付されるのに応じて、フォルダのアイコンが、このアクション(仮想空間内へのフォルダのドラッグ・アンド・ドロップ)を表す時系列上に描画される。
本発明の一態様によれば、エンドユーザは、ソーティングのような特定の目的のために書かれたヘルパーアプリケーション(図1A〜図1Cのボックス32)のスクリプト又はプログラムを通じて自動的に、又は1つのアイテム又は複数のアイテムをグループとしてクリック(コントロール−クリック)し、ドラッグ・アンド・ドロップを通じて、それらを新たな場所に動かすことによって手動で、3D仮想空間内にプロットされたアイテムを並べ替えるか、動かし回すか、又はさらに編成することができる。ドラッグ・アンド・ドロップは、マウスを使って行うことができる特定のアクションを表す。ピクチャ又はウェブページのようなオブジェクトを新たな場所にドラッグするとき、そのオブジェクトをクリックして、その後、マウスボタンを押し下げたままにする。マウスボタンを離すことによって、オブジェクトがドロップされる。
たとえば、図17Aに示される一実施形態では、仮想空間300内に5つのアイテム(590、592、594、596及び598)を見ることができ、その5つのアイテムはそれぞれ、アイコン600、602、604、606及び608によって時系列340内に表される。エンドユーザは、3D仮想空間内の任意のアイテムを、単に、それをクリックし、マウスボタンを押し下げながら、そのオブジェクトを新たな場所にドラッグし、マウスボタンを離すことによって、それをx、y軸に沿って平行移動することにより、仮想空間内の任意の他の場所に動かすことができる。たとえば、エンドユーザがウェブページ590をクリックし、マウスボタンを押し下げたまま、ウェブページを3D空間内の左(−x)上(+y)にドラッグし、マウスボタンを離す場合には、そのウェブページは、新たな場所を占有する(図17Bを参照)。また、エンドユーザは、アイテムをz軸に沿って平行移動させることによって、それらのアイテムを仮想空間内のビューポイントのより近くに(大きく見えるようになる)、又はビューポイントからより遠くに(小さく見えるようになる)動かすこともできる。仮想空間内で−z(より遠くなる)又は+z(より近くなる)方向にアイテムの平行移動を達成するために、エンドユーザは、そのアイテムのドラッグ・アンド・ドロップの開始と同時に、シフトキーを押し下げる。たとえば、図17A〜図17Cを参照すると、エンドユーザが画像596をクリックし、マウスボタン及びシフトキーを同時に押し下げて、マウスを後方にドラッグして自分に近づける場合には、画像596は、+z方向において前方に平行移動して、より大きく見えるようになり、仮想空間において新たな場所を占有する。同様に、エンドユーザがウェブページをクリックし、マウスボタン及びシフトキーを同時に押し下げて、自分から離れるように前方にマウスをドラッグする場合には、そのウェブページは−z方向において後方に平行移動し、より小さく見えるようになり、仮想空間内の新たな場所を占有する(図示せず)。
本発明の一態様によれば、ユーザは、画面の底部にあるタスクバー上に配置されるアイコンをクリックすることによって、3Dインタラクティブシーンに没入しながら、ヘルパーアプリケーションにアクセスすることができる。これらのアニメーション化された3Dアイコンをクリックすることによって、それらのアイコンを3Dシーンの中に複製又はアニメーション化することができ、アイコンが最初にクリックされた当面のタスクのための3Dグラフィカルオブジェクトとしての機能の開始を提供する。たとえば、このヘルパーアプリケーションを開始するためのタスクバー上のアイコンは、開いた戸口から成ることができる。タスクバー上の3Dの開いた戸口のアイコンがクリックされると、新たな空間のビューポイント又は視覚的な遠近感のピクチャを、タスクバーからシーンの中にアニメーション化することができる。このピクチャが3Dシーンの中からクリックされるならば、それは、現在のシーンから別のシーンにユーザをハイパーリンクすることになる戸口としての役割を果たすであろう。
本発明の一態様によれば、コンピュータ画面上の3Dの表示は、一方向の放送媒体のようなウインドウ又はウェブブラウザにおけるテープ録音のような予めプログラムされた3D空間を再生するランタイム実行モデルを含むことができる。この3D空間のプログラミングは、プログラムをハンドコーディングすることによって、又はプレーヤのためのファイルを作成するエディタを用いることによって果たされる。ジオメトリのためのヘルパーアプリケーションには、幾何学的なオブジェクト(立方体、球体、錐体)又は実世界の対象物(部屋、机、建物、階段、CDラック)のユーザインターフェースに基づいて、3Dシーンへの2D及び3Dのオブジェクトの表示又は入力を容易にするインタラクティブアイコンのグラフィカル・ユーザ・インターフェースを通じて、プレーヤからアクセスすることができる(その間、ユーザは3D空間を使用し、その中に没入している)。このようにその場で3Dシーンにジオメトリを追加することが、ユーザがその出力を満たすことができる3D空間の、この場合以外に生じる果てしない接続に意味を与えるのを助ける。3D GUIはさらに、3Dジオメトリファイルの位置を特定するために特別な検索及びブラウズのアプリケーションを含むことができる。ユーザは、ローカルコンピュータのフォルダ及びサブフォルダ、ネットワークコンピュータ、ウェブサーバ又はワールドワイドウェブ内に(又はそれを越えて)存在するジオメトリファイルを検索するために、たとえば、検索及びブラウズのアプリケーションを用いることができる。
本発明の一態様によれば、コンピュータ画面上の3Dの表示は、一方向の放送媒体のようなウインドウ又はウェブブラウザにおけるテープ録音のような予めプログラムされた3D空間を再生するランタイム実行モデルを含むことができる。この3D空間のプログラミングは、プログラムをハンドコーディングすることによって、又はプレーヤのためのファイルを作成するエディタを用いることによって果たされる。オーディオ、音及び音楽のためのヘルパーアプリケーションには、予め録音されたオーディオ、音及び音楽を提供するインタラクティブアイコンのグラフィカル・ユーザ・インターフェースを通じて、プレーヤからアクセスすることができ(その間、エンドユーザは3D空間を使用し、その中に没入している)、そのヘルパーアプリケーションは、コンピュータに接続されるマイクロホンを通じて音の録音を容易にすることもでき、3Dシーンにラベルを付け(又は解説を加え)、そのシーン内のオブジェクトに隣接して内容を記録して、それらにさらに意味を与える手段として、その場でアイコン(たとえば、スピーカのアイコン)を通じて3Dシーンの中に挿入されることができる。ユーザはさらに、ローカルコンピュータのフォルダ及びサブフォルダ、ネットワークコンピュータ、ウェブサーバ又はワールドワイドウェブ内に(又はそれを越えて)存在するオーディオ、音又は音楽のファイルを検索するために、たとえば、検索及びブラウズのアプリケーションを用いることができる。
本発明の一態様によれば、コンピュータ画面上の3Dの表示は、一方向の放送媒体のようなウインドウ又はウェブブラウザにおけるテープ録音のような予めプログラムされた3D空間を再生するランタイム実行モデルを含むことができる。この3D空間のプログラミングは、プログラムをハンドコーディングすることによって、又はプレーヤのためのファイルを作成するエディタを用いることによって果たされる。その3D GUIは、インタラクティブ3D仮想空間内でエンドユーザに対するオーサリング能力を組み合わせる点で特有である(図2のボックス22、24、26)。たとえば、ピクチャ、アニメーション、映画及びビデオのためヘルパーアプリケーションには、インタラクティブアイコンのグラフィカル・ユーザ・インターフェースを通じて、プレーヤからアクセスすることができ、それらのアイコンは、そのようなピクチャ、アニメーション、映画及びビデオの場所を特定し、そのようなメディアを、エンドユーザの要請でその場で3Dシーンの中に挿入するのを助ける(図1A〜図1Cのボックス74、86を参照。その間、ユーザは3D空間を使用し、その中に没入している)。
図13Aに示される一実施形態では、エンドユーザが、データベースモジュール440内のデスクトップヘルパーアプリケーション451を選択する。デスクトップタブ451を選択することによって、ウインドウ枠又は下のメニュー441内にエンドユーザのローカルハードドライブ又はネットワーク上のファイルが現れる。このウインドウ枠441内で、エンドユーザのローカルハードドライブ上に示されるファイルを見ることができる。また、GUI 3D仮想空間300内に、これらのファイルのうちの1つ又は複数をドラッグ・アンド・ドロップすることもでき(図1A〜図1Cのボックス78)、その結果として、3D仮想空間300の時系列340内に表される3Dインタラクティブアイコンと共に、3D仮想空間内に取り込まれるピクチャ、ビデオ及びウェブページが表示される。
図15に示される別の実施形態では、3D GUIアプリケーションの仮想空間内へのコンテンツ出力が、ヘルパーアプリケーション522で開始される検索から生じる(たとえば、Yahoo!画像検索)。このヘルパーアプリケーションは、このヘルパーアプリケーションのテキスト入力フィールド530内に入力された、検索項目「バン・ゴッホ」を示す。結果として生成される最初の4つの画像出力(552、554、556、558)が、ヘルパーアプリケーション522によって生成され(図4A及び図4Bに示される機能図を参照されたい)、3D仮想空間内に示されるように、Yahoo!ウェブサービスからの画像及び情報の3D出力が作成された。マップ又は時系列340の先頭(すなわち、仮想空間の下余白上のアイコン550)が与えられ、したがって、3D GUIは、そのマップを、名前を有する3Dアイコンを通じて格納された検索の時系列として表すようになっている(ユーザがそれらをマウスオーバするものと仮定する)。ここで、時系列340は、仮想空間内のイベントの直線的に推移するイベントを表すマップである。エンドユーザが、データベースモジュールにおいて当初にインデックスを付される、そのようなシーケンス内の各3Dアイコンをクリックする場合に、3Dアイコン(たとえば、アイコン550)をクリックすることによって、各3Dスタック内の最初のアイテムの第1のビューポイントから、最後の3Dスタック内の最初のアイテムの最後のビューポイントまでアニメーション化されるであろう。
基本的に、3Dアイコン550は、ハイパーリンクと同様であり、すなわち、(クリックされるときに)3Dアイコンに対応する現在の仮想空間内の新たな場所又はビューポイントにジャンプするグラフィックである。図15の例示的な実施形態では、新たなYahoo!画像検索の結果として、3D仮想空間内にプロットされる検索結果のための新たな3Dスタックが作成され、その対応する3Dアイコンが時系列上に描画される。情報の検索として、ウェブサービスから入手可能な画像、ビデオ又は任意の他のコンテンツを考えることができる。ユーザはさらに、ローカルコンピュータのフォルダ及びサブフォルダ、ネットワークコンピュータ、ウェブサーバ又はワールドワイドウェブ内に(又はそれを越えて)存在するピクチャ、アニメーション、映画又はビデオのファイルを検索するために、たとえば、検索及びブラウズのアプリケーションを用いることができる。
本発明の別の態様によれば、コンピュータ画面上の3Dの表示は、一方向の放送媒体のようなウインドウ又はウェブブラウザにおけるテープ録音のような予めプログラムされた3D空間を再生するランタイム実行モデルを含むことができる。この3D空間のプログラミングは、プログラムをハンドコーディングすることによって、又はプレーヤのためのファイルを作成するエディタを用いることによって果たされる。3D GUIは、インタラクティブ3D仮想空間内でエンドユーザに対するオーサリング能力を組み合わせる点で特有である。図14に示される一実施形態では、ユーザは、データベースモジュール又はコンパス440内の3Dヘルパーアプリケーションタブ460を選択し、その後、メニュー441内の「ペイントブラシを追加する」の機能を選択することによって、ペイントブラシ機能にアクセスすることができる。インタラクティブアイコン542、544のユーザインターフェースが仮想空間200内に現れ、アイコン542、544は、シーン内のオブジェクトに注釈を付けるか、又はそのオブジェクトを飾るか、又はオブジェクトに隣接する図を作成し、それらにさらに意味を与える手段として、その場でシーンの中にペイントされるマウスイベントに基づいて、2D及び3Dの自由に形成される線及び図546の表示又は出力を容易にする。より具体的には、ペイントブラシアイコン542をクリックすることによって、ペインティングツールが、仮想空間300内に現れる。
本発明のこの実施形態では、3D GUIシステムは、3D仮想空間を周期的に再描画し、エンドユーザの入力に基づく、3D空間内のコンテンツ及び遠近感の変化を反映させる(図1及び図2のボックス22)。そのプログラムは、数多くのヘルパーアプリケーションのうちの1つからの入力のためにイベントハンドラを走査する(図1A〜図1Cのボックス30)。この例示的な実施形態では、ヘルパーアプリケーションは「ペイントブラシを追加する」である。エンドユーザは、ペイントブラシアイコン542を選択し、それにより、エンドユーザのカーソルがブラシアイコンに変更される。3D GUIは、(マウスボタンが押下される場合には)エンドユーザのマウスの動きを取り込み、この動きを描画又はペイントし、この例では、その動きは、(i)矢印、(ii)アンダーライン及び(iii)赤色の仮想空間の3Dデカルト空間内のエンドユーザのビューポイントのx平面及びy平面上に赤色(546)でペイントされる重要なワードである。
本発明の別の態様によれば、シーン内のオブジェクトにラベルを付けて、そのシーン内のオブジェクトに隣接して内容を書き込んで、それらにさらに意味を与える手段として、その場でシーン内への2D及び3Dのテキストの表示又は出力を容易にするインタラクティブアイコンのグラフィカル・ユーザ・インターフェースを通じて、プレーヤから容易にアクセスすることができるテキスト用のヘルパーアプリケーションが提供される(その間、ユーザは3D空間を使用し、その中に没入している)。
一実施形態では、ヘルパーアプリケーションは、テキスト追加コマンドである(図1A〜図1Cのボックス72)。たとえば、図14の実施形態に示されるように、エンドユーザが、アイコン544をクリックすることによって、「テキスト追加コマンド」を選択するとき、エンドユーザのカーソルは、テキストIビームアイコンに変化する。3D GUIは、エンドユーザのキーボード入力を取り込み、仮想空間の3Dデカルト空間内のエンドユーザのビューポイントのx平面及びy平面上にこのテキストを描画又はペイントする。
本発明の別の態様によれば、コンピュータ画面上の3Dの表示は、一方向の放送媒体のようなウインドウ又はウェブブラウザにおけるテープ録音のような予めプログラムされた3D空間を再生するランタイム実行モデルを含むことができる。この3D空間のプログラミングは、プログラムをハンドコーディングすることによって、又はプレーヤのためのファイルを作成するエディタを用いることによって果たされる。エンドユーザが、そのウェブブラウザ又はスタンドアローンアプリケーション上にあるプレーヤを通じてコンピュータ上の3D空間又はシーンを見ている場合には常に、検索アプリケーションを用いて、1つ又は複数の検索項目を入力することができる。
その際、3D GUIは、検索エンジン毎にウインドウ内に描画される1つの2D HTMLページ又は3Dシーン内の他のオブジェクトを開き、検索毎のHTMLページの出力を表示することによって、少なくとも1つの検索エンジン(Google、MSN、Yahoo!)においてこれらの検索項目を用いて、ワールドワイドウェブ検索を行う。その後、3D GUIは、各HTMLページにおいて見つけられる検索結果をパースし、検索エンジンが検索結果としてエンドユーザに返した各ハイパーリンクを特定する。特定されると、その後、3D GUIは、ハイパーリンクのためのURLにおいて見つけられる(たとえば、次の1組の検索結果、特定の検索結果、特定の広告等の)ウェブページを表示することになる、検索結果ページ上で見つけられる少なくとも1つのハイパーリンクのための1つの新たなウインドウ(検索結果ページの後にある)を、3D空間内で開くことができる。
本発明の一実施形態では、3D GUIは、1つ又は複数の検索エンジンについて検索結果ページにおいて見つけられるハイパーリンク毎にまとめてこれを実施し、それらを空間の中に配置することができる。このように検索結果を3Dシーンの中にプロットすることは、ウェブ検索及びインターネットブラウジングの両方のために利用することができる視覚的なコンピューティング空間を拡張するので、消費者にとって好都合である。
本発明の別の実施形態では、3D GUIは、エンドユーザがネットワークに接続されている間に休止しているコンピューティング時間を利用する。たとえば、大部分のユーザは検索を実施し、ページを走査し、1つのリンクをクリックするであろう。クリックしたリンクが不十分であることがわかると、ブラウザの戻るボタンがクリックされ、ページが走査し直され、別のリンクがクリックされるであろう。消費者がページを走査している時間、リンクをクリックしている時間、新たなリンクにおいてページを読み、元の検索結果ページに戻る時間は、休止しているコンピューティング時間であり、この時間において、コンピュータはワールドワイドウェブに接続し、元の検索結果ページ上で見つけられるハイパーリンクページの全て(又は一部)を連続してダウンロードし、これらの結果を3Dシーンの中に描画することができる。その3D GUIによれば、ユーザは、容易に視認できるようにするために、1つずつ、各検索結果ページを示す1つのビューポイントを系統的に訪問できるようになる。グラフィカル・ユーザ・インターフェースは、現在の検索結果を1つのファイルの中にセーブするためのオプションを有し、データベースモジュール上に検索の名前、ハイパーリンクの名前、URL、日付/時刻、及び/又はソースを掲示する。
この同じ切れ目のない無限の3D仮想空間を用いるとき、その3D GUIによって、ユーザは、任意の開いている又はアクティブなウェブページを自動的にパースして、(i)どのHTMLページがそのウェブページへのリンクであるかを判定し、(ii)そのウェブページが、どのHTMLページにリンクするかを判定し、(iii)これらのページをグループ又はクラスタとしてプロットできるようになる。さらに、3D空間内に、任意の所与のアクティブなウェブページにリンクするページの視覚的なグループ又はクラスタが描画されることがある。このようにして、ユーザは、3D空間内のウェブページのクラスタリングの所与のビューポイントにおいて、アクティブなページにリンクするか又はアクティブなページからリンクされているページのうちの何れをクリックするかを一目で判定することができる。さらに、3D空間内に描画される任意のクラスタ内の任意のアクティブなページを選択し、このアクティブなページがリンクするウェブページの新たなクラスタを作成することによって、又はこのアクティブなページにリンクされるウェブページの新たなクラスタを作成することによって、ウェブページのこのネットワークを視覚的に拡張できることがある。このようにして、3D GUIは、ユーザの要請によって、ワールドワイドウェブの視覚的なゲシュタルトを生み出す。
本発明の別の態様によれば、コンピュータ画面上の3Dの表示は、一方向の放送媒体のようなウインドウ又はウェブブラウザにおけるテープ録音のような予めプログラムされた3D空間を再生するランタイム実行モデルを含むことができる。この3D空間のプログラミングは、プログラムをハンドコーディングすることによって、又はプレーヤのためのファイルを作成するエディタを用いることによって果たされる。エンドユーザが、ウェブブラウザ又はスタンドアローンアプリケーションのいずれかのインタラクティブプレーヤを通じて、そのコンピュータ上の3D空間又はシーンを見ている場合には常に、その3D GUIは、テキスト、オーディオ、ビデオ、マルチメディア、ウェブ広告及び/又は3D広告を配信することができ、その表現が、3Dの現在の表示に関与するプログラミングに自動的に取り込まれる。このように、検索又はコンピューティングのいずれかである内容又はコンテクストを定義するのを助けるユーザ入力に基づいて、3D GUIは、1つの広告又は広告の組み合わせを配信することができる(たとえば、3D空間内に以前に記述された広告等)。
本明細書において記載される3D GUIは、本明細書において記載される3D GUIが、3Dのエディタ概念及びプレーヤ概念を1つのハイブリッドエディタ及びプレーヤに融合して、エンドユーザの入力を予想して、その場で3D仮想空間をナビゲートし、コンテンツを追加し(ヘルパーアプリケーションを用いる)、それによりエンドユーザが創作を行うことができるようにするという点で、3Dアニメーションを再生する既存のプレーヤよりも優れた改善形態である。それを果たす際に、そのGUIシステムは、エンドユーザの入力に基づいて、3D仮想空間を周期的に描画し直して、3D空間内のコンテンツ及び遠近感の変化を反映させる。(図1及び図2のボックス22)。そのプログラムは、数多くのヘルパーアプリケーションのうちの1つからの入力のためにイベントハンドラを走査する(図1A〜図1Cのボックス30)。
ヘルパーアプリケーションは、限定はしないが、(i)カスタムスクリプト及びそのアイコンをロードして、新たな情報の中に流れ込むようにプログラム的アクセスを通じて3D仮想空間のアプリケーションロジックを変更し、新たなテーマを獲得すること(eBay検索のようなヘルパーアプリケーションとしても知られている)、(ii)ビューポイントコマンドを訪問して、現在の仮想空間又はそれにハイパーリンクされる別の仮想空間におけるエンドユーザの視覚的な遠近感を変更すること、(iii)仮想空間において現在のビューポイントを記録すること、(iv)仮想空間にデスクトップの出力を追加すること、(v)3D仮想空間内のウインドウを通じてデスクトップ上のドキュメント、ウェブページ又はファイル及びフォルダを視認するためのウェブブラウザを仮想空間に追加すること、(vi)仮想空間にテキストコマンドを追加し、(vii)3D仮想空間にピクチャを追加すること、(viii)3D仮想空間に音楽を追加すること(図22のアイテムA)、(iv)3D仮想空間にビデオを追加すること、(x)音を録音し、それを3D仮想空間に追加すること、(xi)3D仮想空間にマップを追加すること、(xii)VRML、X3D又は他のファイル形式を通じて3D仮想空間に3Dを追加すること、及び/又は(xiii)テキスト、ピクチャ、ビデオ又は他のマルチメディアの形で3D仮想空間に広告を追加すること(たとえば、後にさらに詳細に説明される図19の実施形態)のような、3D仮想空間へのコンテンツの出力を開始することができる。3D GUIシステム内の3D仮想空間に、そのようなコンテンツを追加することは、図1A〜図1Cのボックス32、42、50、58、60、62、72、74、84、86、88、90、92、94、104に示される。
3D GUIシーンが、3D仮想空間への出力、情報及びコンテンツの追加に基づいて、そのシーン内のジオメトリを計算し直したなら(図1及び図2のボックス24)、シーンを再描画して(図1及び図2のボックス26)、この新たなコンテンツの追加を反映させる。3D GUIシステムは、(i)ファイルの名前、HTMLページ、ビューポイント、ハイパーリンク、及びそのシーンの3D仮想空間コンテンツに関連付けられる任意の他の入手可能な情報、(ii)ファイル、HTMLページ、ビューポイント、ハイパーリンク、及び3D仮想空間内の他の入手可能な情報又はヘルパーアプリケーションの入力フィールドに入力されるワード(図1A〜図1Cのボックス106)内の実際のデータに関連付けられる全てのワードにインデックスを付けることによって、3D仮想空間内の出力、情報及びコンテンツの内容又は意味を判定し、(iii)頻度によって、インデックスを付されたワードをソートして、最も頻繁に現れるワードを特定することによって3D仮想空間の内容を判定するか、又は他の方法を利用して意味を判定し、(iv)3D仮想空間の内容を、インターネット要求を通じて、広告サーバに送信し(図1A〜図1Cのボックス110)、(v)広告サーバ、ウェブサービス又は他の場所から、適当なテキスト、ピクチャ(複数可)、ビデオ、音、音楽、ハイパーリンク又は他の広告コンテンツ、及びそれぞれのソフトウエアコードを返し、(vi)プログラムコードを用いて、広告サーバ又は他の場所からのテキスト、ピクチャ(複数可)、ビデオ(複数可)、音(複数可)、音楽、ハイパーリンク又は他の広告コンテンツを3D仮想空間内に描画し(図1A〜図1Cのボックス114)及び(vii)そのシーンを再描画する(図1及び図2のボックス26)。数多くのウェブサイトが、インターネットを通じて広告を配信するためにこの技法を利用するので、当業者は、インターネットを通じて広告要求を出すこの過程を理解することができる。
図19に示される一実施形態では、エンドユーザが、検索項目「ニュース」をヘルパーアプリケーション640(たとえば、Yahoo!検索)に入力するときに、ヘルパーアプリケーション640は、ウェブページ642を返す(たとえば、URLhttp://www.ncn.com)。3D GUIシステムは、入力項目(この場合には、ニュース)をさらに利用することができ(図1A〜図1Cのボックス104)、広告テキスト644のグループを返すことができる。その(a)ハイパーリンク及び関連するタイトル(eBayのニュース(News on eBay));(b)説明(低料金でニュース項目を見る。毎日、500万以上のアイテムが売りに出されており、あなたは...);及び(c)URLwww.ebay.comと共に、テキストを提示することによって、3D仮想空間300の中に広告テキスト644を取り込むことができ、その結果として、より詳細な広告646が生成される。現在、テキスト広告はワールドワイドウェブ上で広く行き渡っており、それゆえ、本発明のこの実施形態に援用されている。しかしながら、たとえば、ピクチャ(複数可)、ビデオ(複数可)、音(複数可)、音楽、ハイパーリンク及び/若しくはマルチメディア、並びに/又はそれらの組み合わせのような他の形の広告を、3D仮想空間300内に取り込むことができることは理解されよう。
本発明は、限定はしないが、ユーザのデスクトップ上の空間が増加すること、ユーザが必要とする度にプログラムを絶えず開閉するか又はプログラムを隠し、見せることが不要であること、休止しているコンピューティング時間を利用して、情報をダウンロード及び/又は表示すること、マウスクリックを少なくすること、並びに従来のようにフォルダの中にフォルダを入れる格納システムよりも自然な、プログラム及びドキュメントにアクセスするための代替形態を提供することを含む、従来技術よりも優れた数多くの利点を提供する。たとえば、図12の例示的な実施形態では、40のウェブページが、それぞれの3Dスタック470、472、474、476及び487の中に編成される3D仮想空間300の中に出力され、それらのスタックはそれぞれ、アイコン480、482、484、486及び488として時系列340上に表される。先に説明されたように、本発明は、新規の3Dグラフィカル・ユーザ・インターフェースを提供することによって、ウェブブラウザ及びデスクトップ経験も改善する。
本明細書において記載される実施形態のさらに別の態様によれば、メモリ管理方法が提供され、それにより、コンピュータメモリがプログラムの要求時に3D GUIシステムに割り当てられ、メモリをアンロードすることによってもはや不要であるときに、再利用するために解放される。より具体的には、仮想メモリを使用する方法が提供され、それにより、全てのデータを保持するのにRAMが不十分であるときに、ハードディスクの一部を用いて、このデータがスワップアウトされる。一実施形態では、エンドユーザが情報の出力を3Dスタック内の3D GUIの中にプロットし、それにより、新たな各ビジュアルイベントが、時系列上の1つのアイコンとして付加的に示される。3D GUI仮想空間内に情報の出力が追加される結果として、時系列上に連続して描画される新たなアイコンと共に、新たな3Dスタックが生成され、時系列及び3Dスタックを通じて表現されるような仮想空間を通じて、エンドユーザのアクションの直線的なパスと呼ばれるものが作成される。この過程が無限に続けられる場合には、3D GUIシステムが迅速にアクセスすることができるこのデータのためのメモリ又は電子情報の保管場所が使い果たされるであろう。エンドユーザがそのようなメモリ限界に達しないで済むようにして、最後のコンピュータ経験を作成するために、本明細書では、メモリ限界に達すると、3D GUIシステムが、この直線パス上のエンドユーザの位置を表すプログラム内の点を指示し、それを仮想メモリにセーブすることによって、メモリをアンロードするシステムが提供される。このようにメモリを解放することによって、エンドユーザは、仮想空間内に新たな情報を絶えず出力できるようになる。このように、メモリを仮想メモリにアンロードし、仮想空間内に新たな情報を絶えず出力する過程は、無限に続けることができる。エンドユーザが、既に完了している直線パス(又はトラック)の一部にわたって、自分の進路をバックトラックする、又は遡る場合には、エンドユーザが直線パス上の任意のマークを再訪問すると、3D GUIシステムは、仮想メモリに格納された情報をメモリにリロードする。
本発明は、限定はしないが、数例を挙げると、検索エンジン、デスクトップ、映像音楽ダウンロードサービス、ショッピングモール、共有ドキュメントのための共同空間、テレビ会議のための共同空間、ウェブページを公開するためのツール、仮想ネットワークコンピュータシステム、ケーブルテレビセット又はマルチメディアPCのためのインターフェース、大型フラットパネルディスプレイのためのコンピューティングインターフェース、教育的な訓練及び視覚化のためのフォーラム、並びに電子メールビジュアライゼーションプログラムを含む、数多くのアプリケーションにおいて用いることができる。本明細書において、本発明が、モニタを備えるデスクトップパーソナルコンピュータを利用するオペレーティングシステムの実施形態の中で説明される場合であっても、本発明の精神を捨てることなく、当業者は、そのシステムを、たとえば、携帯電話、PDA、ハンドヘルドモバイルデバイス、フラットパネルディスプレイ等の他の電子デバイスにおいてもうまく機能するようにすること等ができるであろう。
こうして、改善された3次元グラフィカル・ユーザ・インターフェースを提供するための方法及びシステムの好ましい実施形態が説明されてきたが、システム内部の或る一定の利点が達成されていることは当業者には明らかであろう。また、本発明の範囲及び精神の中で、その種々の変更、改変及び代替の実施形態を実施できることも理解されよう。たとえば、改善された3D GUIはWindowsオペレーティングシステムとの関連で提示されてきたが、上記の本発明の概念の多くは、他のオペレーティングシステム及びデバイスにも同じく当てはまることは明らかであろう。
改善された3次元グラフィカル・ユーザ・インターフェースにおいて提供する過程の一実施形態を詳細に示すブロック図である。 改善された3次元グラフィカル・ユーザ・インターフェースにおいて提供する過程の一実施形態を詳細に示すブロック図である。 改善された3次元グラフィカル・ユーザ・インターフェースにおいて提供する過程の一実施形態を詳細に示すブロック図である。 ユーザ入力に基づいて3Dデカルト空間を周期的に再描画する過程を示す流れ図である。 情報を処理して、仮想空間において、インタラクティブ複合テクスチャマッピング、並びに双方向性及びパーシステンシを達成する1つの例示的な手法を示す流れ図である。 ハイパーリンクからウェブページ又は他のコンテンツの3D出力を生成する過程を示す流れ図である。 ハイパーリンクからウェブページ又は他のコンテンツの3D出力を作成する過程を示す流れ図である。 3D GUIを提供するシステムの一実施形態のブロック図である。 コンピュータネットワークにおいて3D GUIを提供するシステムの一実施形態のブロック図である。 3D GUIを提供するネットワークシステムの一実施形態のブロック図である。 3Dスタック内でウェブページのアレイをソートする過程を詳細に示すブロック図である。 3Dスタック内でウェブページのアレイをソートする過程を示す流れ図である。 複数のユーザが仮想空間において同時に競合し、その仮想空間を協調的に変更する過程及びシステムの流れ図である。 3D GUIアプリケーションウインドウの一実施形態を示す図である。 3D GUIアプリケーションウインドウの別の実施形態を示す図である。 開放データベースモジュールを有する3D GUIアプリケーションウインドウの一実施形態を示す図である。 3D GUIアプリケーションウインドウの仮想空間内のウインドウの配置を示す図である。 開放データベースモジュールを有する3D GUIアプリケーションウインドウの別の実施形態を示す図である。 開放データベースモジュールを有する3D GUIアプリケーションウインドウの別の実施形態を示す図である。 ペイントブラシ機構を有する3D GUIの一実施形態を示す図である。 3D GUIアプリケーションウインドウ内のウインドウ及び時系列アイコンの1つの例示的な配置を示す図である。 3D GUIアプリケーションウインドウ内の3Dスタック及び時系列アイコンの例示的な配置を示す図である。 3D GUIアプリケーションウインドウ内の3Dスタック及び時系列アイコンの例示的な配置を示す図である。 3D GUIアプリケーションウインドウ内のウインドウ及び時系列アイコンの例示的な配置を示す図である。 3D GUIアプリケーションウインドウ内のウインドウ及び時系列アイコンの例示的な配置を示す図である。 3D GUIアプリケーションウインドウ内のウインドウ及び時系列アイコンの例示的な配置を示す図である。 3D GUIアプリケーションウインドウ内の3Dスタック及び時系列アイコンの別の例示的な配置を示す図である。 エンドユーザの仮想空間内に広告を配信する3D GUIの一実施形態を示す図である。 データベースモジュール内でお気に入りヘルパーアプリケーションが開かれている3D GUIを示す図である。 データベースモジュール内で検索ヘルパーアプリケーションが開かれている3D GUIを示す図である。 仮想空間内で音楽ファイルのための1つの例示的なヘルパーアプリケーションが開かれている3D GUIを示す図である。

Claims (66)

  1. 3次元グラフィカル・ユーザ・インターフェースを提供する方法であって、
    エンドユーザから入力を受信するステップ、
    前記受信したエンドユーザ入力に応答して、少なくとも1つのコンピュータソースからコンピューティング出力を取り込むステップ、
    前記エンドユーザに対して表示される3次元仮想空間の中で、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示するステップ、
    前記仮想空間の中で提示されるオブジェクト毎に1つのアイコンを含む時系列を生成するステップであって、前記アイコンはそれぞれ、前記オブジェクトが前記仮想空間内に提示された時刻に基づいて、直線的な時間順に編成される、生成するステップ、及び
    前記仮想空間内で前記時系列を表示するステップ
    を含む、方法。
  2. 前記3次元仮想空間の中で前記コンピューティング出力を少なくとも2つのオブジェクトとして提示するステップは、シミュレートされた3次元デカルト空間内で前記少なくとも2つのオブジェクトを提示するステップを含む、請求項1に記載の方法。
  3. 前記入力を受信するステップは、前記エンドユーザによって入力される検索クエリを受信するステップを含む、請求項1に記載の方法。
  4. 前記少なくとも1つのコンピュータソースからコンピューティング出力を取り込むステップは、ネットワークサーバから少なくとも1つの出力を取り込むステップを含む、請求項1に記載の方法。
  5. 遠隔のインターネットサイトから少なくとも1つの出力を取り込むステップは、
    第1のウェブ検索サービスから第1の出力を取り込むステップ、及び
    第2のウェブ検索サービスから第2の出力を取り込むステップ
    を含む、請求項4に記載の方法。
  6. 前記第1のウェブ検索サービスから第1の出力を取り込むステップは、前記エンドユーザによって入力される第1の検索項目に基づいて、第1のウェブ検索を実行するステップを含む、請求項5に記載の方法。
  7. 前記第2のウェブ検索サービスから第2の出力を取り込むステップは、前記第1の検索項目に基づいて、第2のウェブ検索を実行するステップを含む、請求項6に記載の方法。
  8. 前記第2のウェブ検索サービスから第2の出力を取り込むステップは、前記エンドユーザによって入力される第2の検索項目に基づいて、第2のウェブ検索を実行するステップを含む、請求項6に記載の方法。
  9. 前記少なくとも1つのコンピュータソースからコンピューティング出力を取り込むステップは、ローカルオペレーティングシステムから少なくとも1つの出力を取り込むステップを含む、請求項1に記載の方法。
  10. 前記ローカルオペレーティングシステムから少なくとも1つの出力を取り込むステップは、第1のオブジェクトを前記ローカルオペレーティングシステムから前記仮想空間内にドラッグ・アンド・ドロップするステップを含む、請求項9に記載の方法。
  11. 前記少なくとも1つのコンピュータソースからコンピューティング出力を取り込むステップは、遠隔のオペレーティングシステムから少なくとも1つの出力を取り込むステップを含む、請求項1に記載の方法。
  12. 前記コンピューティング出力を少なくとも2つのオブジェクトとして提示するステップは、前記少なくとも2つのオブジェクトを前記仮想空間内で互いに関連付けて表示するステップを含む、請求項1に記載の方法。
  13. 前記少なくとも2つのオブジェクトを互いに関連付けて表示するステップは、前記仮想空間内で3Dスタックとして前記少なくとも2つのオブジェクトを表示するステップを含む、請求項12に記載の方法。
  14. 前記コンピューティング出力を少なくとも2つのオブジェクトとして提示することは、変更可能なゲシュタルトに基づいて、前記仮想空間内に前記少なくとも2つのオブジェクトを表示するステップを含む、請求項1に記載の方法。
  15. 前記コンピューティング出力を少なくとも2つのオブジェクトとして提示するステップは、前記仮想空間内の3Dスタックとして前記少なくとも2つのオブジェクトのうちの1つを表示するステップを含む、請求項1に記載の方法。
  16. 前記コンピューティング出力を少なくとも2つのオブジェクトとして提示するステップは、前記仮想空間内のウインドウとして前記少なくとも2つのオブジェクトのうちの1つを表示するステップを含む、請求項1に記載の方法。
  17. 前記コンピューティング出力を少なくとも2つのオブジェクトとして提示するステップは、プログラム的アクセスを利用して、前記少なくとも2つのオブジェクトを生成するステップを含む、請求項1に記載の方法。
  18. 前記コンピューティング出力を少なくとも2つのオブジェクトとして提示するステップは、第1のオブジェクトに第1のハイパーリンクを与えるステップを含む、請求項3に記載の方法。
  19. 前記第1のハイパーリンクをクリックすることによって、前記仮想空間内の選択されたゲシュタルトに関連して、第2のオブジェクトが現れる、請求項18に記載の方法。
  20. 前記第1のハイパーリンクをクリックすることによって、前記仮想空間内の選択されたゲシュタルトに関連して、第3のオブジェクトが現れる、請求項19に記載の方法。
  21. 後の時点における検索用のビューポイントとして前記少なくとも2つのオブジェクトの配置をセーブするステップをさらに含む、請求項1に記載の方法。
  22. 後の時点における前記ビューポイントの検索用に、該ビューポイントを表すビューポイントアイコンを前記時系列に追加するステップをさらに含む、請求項21に記載の方法。
  23. 前記エンドユーザが前記時系列内の前記ビューポイントアイコンをクリックすると、前記仮想空間内の表示用の前記ビューポイントを再現するステップをさらに含む、請求項22に記載の方法。
  24. 後の時点における検索用に、前記時系列内の前記アイコンの配置をセーブするステップをさらに含む、請求項1に記載の方法。
  25. ヘッドアップディスプレイとして前記少なくとも2つのオブジェクトのうちの1つを投影するステップをさらに含む、請求項1に記載の方法。
  26. 3次元グラフィカル・ユーザ・インターフェースを提供するシステムであって、
    ディスプレイ画面と、
    エンドユーザから入力を受信する入力デバイスと、
    前記ディスプレイ画面及び前記ユーザ入力デバイスに動作可能に接続されるプロセッサモジュールと、
    前記プロセッサモジュールに動作可能に接続されるメモリモジュールであって、前記プロセッサモジュールに、
    前記受信したエンドユーザ入力に応答して少なくとも1つのコンピュータソースからコンピューティング出力を取り込ませ、
    前記ディスプレイ画面に表示される3次元仮想空間内に、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示させ、
    前記仮想空間内で提示されるオブジェクト毎に1つのアイコンを含む時系列であって、該アイコンはそれぞれ、前記オブジェクトが前記デカルト空間内に提示された時刻に基づいて、直線的な時間順に編成される、時系列を生成させ、
    前記仮想空間内で前記時系列を表示させる
    実行可能コードを含む、メモリモジュールと
    を備える、システム。
  27. 前記プロセッサモジュールは、シミュレートされた3次元デカルト空間内に前記少なくとも2つのオブジェクトを提示することによって、前記コンピューティング出力を3次元仮想空間内の少なくとも2つのオブジェクトとして提示する、請求項26に記載のシステム。
  28. 前記プロセッサモジュールは、前記エンドユーザによって入力されるインターネット検索クエリを受信することによって入力を受信する、請求項26に記載のシステム。
  29. 前記プロセッサモジュールは、遠隔のインターネットサイトから少なくとも1つの出力を取り込むことによって、少なくとも1つのコンピュータソースからコンピューティング出力を取り込む、請求項26に記載のシステム。
  30. 前記プロセッサモジュールは、ローカルオペレーティングシステムから少なくとも1つの出力を取り込むことによって、少なくとも1つのコンピュータソースからコンピューティング出力を取り込む、請求項26に記載のシステム。
  31. 前記プロセッサモジュールは、遠隔のオペレーティングシステムから少なくとも1つの出力を取り込むことによって、少なくとも1つのコンピュータソースからコンピューティング出力を取り込む、請求項26に記載のシステム。
  32. 前記プロセッサモジュールは、前記少なくとも2つのオブジェクトを前記仮想空間内の3Dスタックとして表示することによって、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示する、請求項26に記載のシステム。
  33. 前記プロセッサモジュールは、前記少なくとも2つのオブジェクトを前記仮想空間内の3Dスタックとして表示することによって、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示する、請求項26に記載のシステム。
  34. 前記プロセッサモジュールは、前記少なくとも2つのオブジェクトを前記仮想空間内の2つ以上の3Dスタックとして表示することによって、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示する、請求項26に記載のシステム。
  35. 前記プロセッサモジュールは、プログラム的アクセスを利用して、前記少なくとも2つのオブジェクトを生成することによって、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示する、請求項26に記載のシステム。
  36. 前記プロセッサモジュールは、前記仮想空間において少なくとも1つのウェブページを提供することによって、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示する、請求項29に記載のシステム。
  37. 前記メモリモジュールは、前記プロセッサに、後の時点における検索用のビューポイントとして前記仮想空間内の前記少なくとも2つのオブジェクトの配置をセーブさせる実行可能コードをさらに含む、請求項26に記載のシステム。
  38. 前記メモリモジュールは、前記プロセッサに、後の時点における前記ビューポイントの検索用に、該ビューポイントを表すビューポイントアイコンを前記時系列に追加させる実行可能コードをさらに含む、請求項38に記載のシステム。
  39. 前記メモリモジュールは、前記エンドユーザが前記時系列内の前記ビューポイントアイコンをクリックすると、前記プロセッサに、前記仮想空間内の表示用の前記ビューポイントを再現させる実行可能コードをさらに含む、請求項38に記載のシステム。
  40. 前記メモリモジュールは、前記プロセッサに、後の時点における検索用に、前記時系列内の前記アイコンの配置をセーブさせる実行可能コードをさらに含む、請求項26に記載のシステム。
  41. 前記メモリモジュールは、前記プロセッサに、ヘッドアップディスプレイとして前記少なくとも2つのオブジェクトのうちの1つを投影させる実行可能コードをさらに含む、請求項26に記載のシステム。
  42. コンピュータネットワークにおいて3次元グラフィカル・ユーザ・インターフェースを提供するシステムであって、
    前記コンピュータネットワークに接続されるサーバと、該サーバと連携して実行されるユーザ・インターフェース・アプリケーションであって、
    エンドユーザから入力を受信する機能と、
    前記受信したエンドユーザ入力に応答して、少なくとも1つのコンピュータソースからコンピューティング出力を取り込む機能と、
    前記エンドユーザに対して表示される3次元仮想空間内で、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示する機能と、
    前記仮想空間内で提示されるオブジェクト毎に1つのアイコンを含む時系列を生成する機能であって、前記アイコンはそれぞれ、前記オブジェクトがデカルト空間内に提示された時刻に基づいて、直線的な時間順に編成される、生成する機能と、
    前記仮想空間内で前記時系列を表示する機能と
    を提供する、ユーザ・インターフェース・アプリケーションとを備える、システム。
  43. 前記サーバは、シミュレートされた3次元デカルト空間内に前記少なくとも2つのオブジェクトを提示することによって、前記コンピューティング出力を3次元仮想空間内の少なくとも2つのオブジェクトとして提示する、請求項42に記載のシステム。
  44. 前記サーバは、前記エンドユーザによって入力されるインターネット検索クエリを受信することによって入力を受信する、請求項42に記載のシステム。
  45. 前記サーバは、遠隔のインターネットサイトから少なくとも1つの出力を取り込むことによって、少なくとも1つのコンピュータソースからコンピューティング出力を取り込む、請求項42に記載のシステム。
  46. 前記サーバは、ローカルオペレーティングシステムから少なくとも1つの出力を取り込むことによって、少なくとも1つのコンピュータソースからコンピューティング出力を取り込む、請求項42に記載のシステム。
  47. 前記サーバは、ローカルオペレーティングシステムから少なくとも1つの出力を取り込むことによって、少なくとも1つのコンピュータソースからコンピューティング出力を取り込む、請求項42に記載のシステム。
  48. 前記サーバは、前記少なくとも2つのオブジェクトを前記仮想空間内の3Dスタックとして表示することによって、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示する、請求項42に記載のシステム。
  49. 前記サーバは、前記少なくとも2つのオブジェクトを前記仮想空間内の3Dスタックとして表示することによって、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示する、請求項42に記載のシステム。
  50. 前記サーバは、前記少なくとも2つのオブジェクトを前記仮想空間内の2つ以上の3Dスタックとして表示することによって、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示する、請求項42に記載のシステム。
  51. 前記サーバは、プログラム的アクセスを利用して、前記少なくとも2つのオブジェクトを生成することによって、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示する、請求項42に記載のシステム。
  52. 前記サーバは、前記仮想空間において少なくとも1つのウェブページを提供することによって、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示する、請求項45に記載のシステム。
  53. 前記ユーザ・インターフェース・アプリケーションは、前記サーバと連携して実行され、後の時点における検索用のビューポイントとして前記仮想空間内の前記少なくとも2つのオブジェクトの配置をセーブするというさらなる機能を提供する、請求項42に記載のシステム。
  54. 前記ユーザ・インターフェース・アプリケーションは、前記サーバと連携して実行され、後の時点における前記ビューポイントの検索用に、該ビューポイントを表すビューポイントアイコンを前記時系列に追加するというさらなる機能を提供する、請求項53に記載のシステム。
  55. 前記メモリモジュールは、前記エンドユーザが前記時系列内の前記ビューポイントアイコンをクリックすると、前記プロセッサに、前記仮想空間における表示用の前記ビューポイントを再現させる実行可能コードをさらに含む、請求項54に記載のシステム。
  56. 前記ユーザ・インターフェース・アプリケーションは、前記サーバと連携して実行され、後の時点における検索用に前記時系列内の前記アイコンの配置をセーブするというさらなる機能を提供する、請求項42に記載のシステム。
  57. 前記ユーザインターフェースアプリケーションは、前記サーバと連携して実行され、前記少なくとも2つのオブジェクトのうちの1つをヘッドアップディスプレイとして投影するというさらなる機能を提供する、請求項42に記載のシステム。
  58. 3次元グラフィカル・ユーザ・インターフェースを提供するネットワークシステムであって、
    互いに通信する複数のサーバを含むコンピュータ・サーバ・ネットワークと、
    前記コンピュータ・サーバ・ネットワークに動作可能に接続される少なくとも1つのディスプレイ画面と、
    エンドユーザからの入力を受信する少なくとも1つの入力デバイスであって、前記コンピュータ・サーバ・ネットワークに動作可能に接続される、入力デバイスと、
    前記エンドユーザに一連の画面表示を提供するソフトウエアモジュールであって、前記コンピュータ・サーバ・ネットワークの前記サーバのうちの1つ又は複数によってアクセスすることができ、前記サーバに、
    前記受信したエンドユーザ入力に応答して、少なくとも1つのコンピュータソースからコンピューティング出力を取り込み、
    前記ディスプレイ画面に表示されるシミュレートされた3次元デカルト空間内で、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示し、
    前記デカルト空間内で提示されるオブジェクト毎に1つのアイコンを含む時系列であって、該アイコンはそれぞれ、前記オブジェクトが前記デカルト空間内に提示された時刻に基づいて、直線的な時間順に編成される、時系列を生成し、
    前記デカルト空間内で前記時系列を表示する
    ように指示する命令を含む、ソフトウエアモジュールと
    を備える、システム。
  59. コンピュータプログラムを格納するコンピュータ読取り可能記録媒体であって、前記コンピュータプログラムは、コンピュータに、
    エンドユーザから入力を受信するステップ、
    前記受信したエンドユーザ入力に応答して、少なくとも1つのコンピュータソースからコンピューティング出力を取り込むステップ、
    前記エンドユーザに対して表示されるシミュレートされた3次元デカルト空間内で、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示するステップ、
    前記デカルト空間内で提示されるオブジェクト毎に1つのアイコンを含む時系列を生成するステップであって、前記アイコンはそれぞれ、前記オブジェクトが前記デカルト空間内に提示された時刻に基づいて、直線的な時間順に編成される、生成するステップ、及び
    前記デカルト空間内で前記時系列を表示するステップ
    を実行させる、コンピュータ読取り可能記録媒体。
  60. 3次元グラフィカル・ユーザ・インターフェースを提供する方法であって、
    エンドユーザから入力を受信するステップ、
    前記受信したエンドユーザ入力に応答して、少なくとも1つのコンピュータソースからコンピューティング出力を取り込むステップ、
    前記エンドユーザに対して表示される3次元仮想空間内で、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示するステップ、
    前記仮想空間内で提示される各オブジェクトに関するデータを格納及び分類するデータベースモジュールを提供するステップ、及び
    前記仮想空間と共に提示される前記データベースモジュール内の前記オブジェクトのうちの1つ又は複数に関するデータを表示するステップ
    を含む、方法。
  61. 前記データベースモジュール内で、前記オブジェクトであって、該オブジェクトに関して前記データが表示される、オブジェクトのそれぞれのビューポイントへのハイパーリンクを提供するステップをさらに含む、請求項60に記載の方法。
  62. 前記仮想空間内で提示されるオブジェクト毎に1つのアイコンを含む時系列を生成するステップであって、前記アイコンはそれぞれ、前記オブジェクトが前記仮想空間内に提示された時刻に基づいて、直線的な時間順に編成される、生成するステップ、及び
    前記仮想空間内で前記時系列を表示するステップ
    をさらに含む、請求項60に記載の方法。
  63. 3次元グラフィカル・ユーザ・インターフェースを提供するシステムであって、
    ディスプレイ画面と、
    エンドユーザから入力を受信する入力デバイスと、
    前記ディスプレイ画面及び前記ユーザ入力デバイスに動作可能に接続されるプロセッサモジュールと、
    前記プロセッサモジュールに動作可能に接続されるメモリモジュールであって、前記プロセッサモジュールに、
    前記受信したエンドユーザ入力に応答して少なくとも1つのコンピュータソースからコンピューティング出力を取り込ませ、
    前記ディスプレイ画面に表示される3次元仮想空間内に、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示させ、
    前記仮想空間内で提示される各オブジェクトに関するデータを格納及び分類するデータベースモジュールを提供させ、
    前記仮想空間内で提示される各オブジェクトのそれぞれのビューポイントへの前記データベースモジュール内のハイパーリンクを提供させ、且つ
    前記仮想空間と共に提示される前記データベース内の前記オブジェクトのうちの1つ又は複数に関するデータを表示させる
    実行可能コードを含む、メモリモジュールと
    を備える、システム。
  64. コンピュータネットワークにおいて3次元グラフィカル・ユーザ・インターフェースを提供するシステムであって、
    前記コンピュータネットワークに接続されるサーバと、該サーバと連携して実行されるユーザ・インターフェース・アプリケーションであって、
    エンドユーザから入力を受信する機能と、
    前記受信したエンドユーザ入力に応答して、少なくとも1つのコンピュータソースからコンピューティング出力を取り込む機能と、
    前記エンドユーザに対して表示される3次元仮想空間内で、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示する機能と、
    前記仮想空間内で提示される各オブジェクトに関するデータを格納及び分類するデータベースモジュールを提供する機能と、
    前記仮想空間内で提示される各オブジェクトのそれぞれのビューポイントへの前記データベースモジュール内のハイパーリンクを提供する機能と、
    前記仮想空間と共に提示される前記データベースモジュール内の前記オブジェクトのうちの1つ又は複数に関するデータを表示する機能と
    を提供する、ユーザインターフェースアプリケーションとを備える、システム。
  65. 3次元グラフィカル・ユーザ・インターフェースを提供するネットワークシステムであって、
    互いに通信する複数のサーバを含むコンピュータ・サーバ・ネットワークと、
    前記コンピュータ・サーバ・ネットワークに動作可能に接続される少なくとも1つのディスプレイ画面と、
    エンドユーザからの入力を受信する少なくとも1つの入力デバイスであって、前記コンピュータ・サーバ・ネットワークに動作可能に接続される、入力デバイスと、
    前記エンドユーザに一連の画面表示を提供するソフトウエアモジュールであって、前記コンピュータ・サーバ・ネットワークの前記サーバのうちの1つ又は複数によってアクセスすることができ、前記サーバに、
    前記受信したエンドユーザ入力に応答して、少なくとも1つのコンピュータソースからコンピューティング出力を取り込み、
    前記ディスプレイ画面に表示されるシミュレートされた3次元デカルト空間内で、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示し、
    前記仮想空間内で提示される各オブジェクトに関するデータを格納及び分類するデータベースモジュールを提供し、
    前記仮想空間内で提示される各オブジェクトのそれぞれのビューポイントへの前記データベースモジュール内のハイパーリンクを提供し、
    前記仮想空間と共に提示される前記データベースモジュール内の前記オブジェクトのうちの1つ又は複数に関するデータを表示する
    ように指示する命令を含む、ソフトウエアモジュールと
    を備える、システム。
  66. コンピュータプログラムを格納するコンピュータ読取り可能記録媒体であって、前記コンピュータプログラムは、コンピュータに、
    エンドユーザから入力を受信するステップ、
    前記受信したエンドユーザ入力に応答して、少なくとも1つのコンピュータソースからコンピューティング出力を取り込むステップ、
    前記エンドユーザに対して表示されるシミュレートされた3次元デカルト空間内で、前記コンピューティング出力を少なくとも2つのオブジェクトとして提示するステップ、
    前記仮想空間内で提示される各オブジェクトに関するデータを格納及び分類するデータベースモジュールを提供するステップ、
    前記仮想空間内で提示される各オブジェクトのそれぞれのビューポイントへの前記データベースモジュール内のハイパーリンクを提供するステップ、及び
    前記仮想空間と共に提示される前記データベースモジュール内の前記オブジェクトのうちの1つ又は複数に関するデータを表示するステップ
    を実行させる、コンピュータ読取り可能記録媒体。
JP2008531348A 2005-09-13 2006-09-13 3次元グラフィカル・ユーザ・インターフェースを提供するシステム及び方法 Pending JP2009508274A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US71701905P 2005-09-13 2005-09-13
PCT/US2006/035970 WO2007033354A2 (en) 2005-09-13 2006-09-13 System and method for providing three-dimensional graphical user interface

Publications (2)

Publication Number Publication Date
JP2009508274A true JP2009508274A (ja) 2009-02-26
JP2009508274A5 JP2009508274A5 (ja) 2009-08-20

Family

ID=37865595

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008531348A Pending JP2009508274A (ja) 2005-09-13 2006-09-13 3次元グラフィカル・ユーザ・インターフェースを提供するシステム及び方法

Country Status (6)

Country Link
US (9) US7735018B2 (ja)
EP (1) EP1932141A4 (ja)
JP (1) JP2009508274A (ja)
CN (1) CN101300621B (ja)
CA (1) CA2621488A1 (ja)
WO (1) WO2007033354A2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009093633A (ja) * 2007-10-11 2009-04-30 Internatl Business Mach Corp <Ibm> 複数の検索を実行するためのコンピュータ実装方法、データ処理システム及びコンピュータ・プログラム
JP2011507130A (ja) * 2007-12-18 2011-03-03 マイクロソフト コーポレーション ピラミッド状容量広告スペース
JP2011114868A (ja) * 2009-11-23 2011-06-09 Samsung Electronics Co Ltd Gui提供方法及びこれを用いたディスプレイ装置と3d映像提供システム
JP2012060636A (ja) * 2010-09-08 2012-03-22 Nhn Corp 3次元コンテンツを提供する方法およびシステム
KR101139238B1 (ko) 2011-06-20 2012-05-14 유택상 아이디어 창출 지원 방법 및 시스템
JP2013503406A (ja) * 2009-08-31 2013-01-31 マイクロソフト コーポレーション 視覚検索および三次元結果
US8561015B2 (en) 2009-06-15 2013-10-15 Microsoft Corporation Source code semantic zoom and spatial layout
US10296170B2 (en) 2015-09-29 2019-05-21 Toshiba Client Solutions CO., LTD. Electronic apparatus and method for managing content
JP2019516182A (ja) * 2016-07-25 2019-06-13 バイドゥ オンライン ネットワーク テクノロジー (ベイジン) カンパニー リミテッド 検索結果用インタラクティブ方法及び装置

Families Citing this family (494)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AUPQ363299A0 (en) * 1999-10-25 1999-11-18 Silverbrook Research Pty Ltd Paper based information inter face
US7694233B1 (en) * 2004-04-30 2010-04-06 Apple Inc. User interface presentation of information in reconfigured or overlapping containers
JP4476719B2 (ja) * 2004-07-02 2010-06-09 よこはまティーエルオー株式会社 ナビゲーションシステム
JP2006024168A (ja) * 2004-07-06 2006-01-26 Fujitsu Ltd サーバシステム,ユーザ端末並びに同サーバシステムおよび同ユーザ端末を用いたサービス提供方法
US8001476B2 (en) 2004-11-16 2011-08-16 Open Text Inc. Cellular user interface
US8418075B2 (en) * 2004-11-16 2013-04-09 Open Text Inc. Spatially driven content presentation in a cellular environment
US8464176B2 (en) 2005-01-19 2013-06-11 Microsoft Corporation Dynamic stacking and expansion of visual items
US7461345B2 (en) * 2005-03-11 2008-12-02 Adobe Systems Incorporated System and method for displaying information using a compass
US8066194B2 (en) * 2005-09-20 2011-11-29 Teradata Us, Inc. System and method for managing information
US7721208B2 (en) 2005-10-07 2010-05-18 Apple Inc. Multi-media center for computing systems
US7966577B2 (en) 2005-10-11 2011-06-21 Apple Inc. Multimedia control center
US7404150B2 (en) * 2005-11-14 2008-07-22 Red Hat, Inc. Searching desktop objects based on time comparison
US7509588B2 (en) 2005-12-30 2009-03-24 Apple Inc. Portable electronic device with interface reconfiguration mode
IL174107A0 (en) * 2006-02-01 2006-08-01 Grois Dan Method and system for advertising by means of a search engine over a data network
US7868893B2 (en) * 2006-03-07 2011-01-11 Graphics Properties Holdings, Inc. Integration of graphical application content into the graphical scene of another application
US7747686B2 (en) * 2006-03-31 2010-06-29 Yahoo! Inc. System and method for interacting with data using visual surrogates
JP2007304667A (ja) * 2006-05-08 2007-11-22 Sony Computer Entertainment Inc ユーザインタフェース装置、ユーザインタフェース方法及びプログラム
EP1883020B1 (en) * 2006-07-28 2013-05-22 Dassault Systèmes Method and system for navigating in a database of a computer system
US20080028302A1 (en) * 2006-07-31 2008-01-31 Steffen Meschkat Method and apparatus for incrementally updating a web page
US9009115B2 (en) 2006-08-04 2015-04-14 Apple Inc. Restoring electronic information
US7853566B2 (en) * 2006-08-04 2010-12-14 Apple Inc. Navigation of electronic backups
US20080034017A1 (en) * 2006-08-04 2008-02-07 Dominic Giampaolo Links to a common item in a data structure
US20080034019A1 (en) * 2006-08-04 2008-02-07 Pavel Cisler System for multi-device electronic backup
US8104048B2 (en) 2006-08-04 2012-01-24 Apple Inc. Browsing or searching user interfaces and other aspects
US7856424B2 (en) * 2006-08-04 2010-12-21 Apple Inc. User interface for backup management
US20080034004A1 (en) * 2006-08-04 2008-02-07 Pavel Cisler System for electronic backup
US8370853B2 (en) 2006-08-04 2013-02-05 Apple Inc. Event notification management
US7860839B2 (en) * 2006-08-04 2010-12-28 Apple Inc. Application-based backup-restore of electronic information
US8311988B2 (en) 2006-08-04 2012-11-13 Apple Inc. Consistent back up of electronic information
US20080126442A1 (en) * 2006-08-04 2008-05-29 Pavel Cisler Architecture for back up and/or recovery of electronic data
US8166415B2 (en) * 2006-08-04 2012-04-24 Apple Inc. User interface for backup management
US20080033919A1 (en) * 2006-08-04 2008-02-07 Yan Arrouye Methods and systems for managing data
US10313505B2 (en) 2006-09-06 2019-06-04 Apple Inc. Portable multifunction device, method, and graphical user interface for configuring and displaying widgets
US8564543B2 (en) * 2006-09-11 2013-10-22 Apple Inc. Media player with imaged based browsing
US7581186B2 (en) * 2006-09-11 2009-08-25 Apple Inc. Media manager with integrated browsers
US8736557B2 (en) * 2006-09-11 2014-05-27 Apple Inc. Electronic device with image based browsers
US20080065992A1 (en) * 2006-09-11 2008-03-13 Apple Computer, Inc. Cascaded display of video media
US10409849B2 (en) 2006-09-29 2019-09-10 A9.Com, Inc. System and method for displaying columns of search results
US8943401B2 (en) * 2006-09-29 2015-01-27 Yahoo! Inc. Script-based content-embedding code generation in digital media benefit attachment mechanism
US8965783B2 (en) * 2006-09-29 2015-02-24 Yahoo! Inc. Content-embedding code generation in digital media benefit attachment mechanism
US8037060B1 (en) * 2006-09-29 2011-10-11 A9.Com, Inc. System and method for displaying columns of search results
US8056014B2 (en) * 2006-10-04 2011-11-08 International Business Machines Corporation Web portal page interactive user interfaces with maximum accessibility to user selected portlets
US8381130B2 (en) * 2006-11-29 2013-02-19 Yahoo! Inc. Method and user interface tool for navigation through grid of scheduled items
US20080126980A1 (en) * 2006-11-29 2008-05-29 Sap Ag Central display floor plan for displaying a plurality of data objects
KR100842294B1 (ko) * 2006-12-11 2008-06-30 한국전자통신연구원 웹 기반의 개인화 서비스 제공을 위한 장치 및 그 방법
US9582804B2 (en) * 2006-12-22 2017-02-28 Excalibur Ip, Llc Link retrofitting of digital media objects
US8519964B2 (en) 2007-01-07 2013-08-27 Apple Inc. Portable multifunction device, method, and graphical user interface supporting user navigations of graphical objects on a touch screen display
US9001047B2 (en) 2007-01-07 2015-04-07 Apple Inc. Modal change based on orientation of a portable multifunction device
US7986324B2 (en) 2007-01-12 2011-07-26 Fujitsu Limited Display device, display program storage medium and display method
US8825625B2 (en) * 2007-02-01 2014-09-02 Yahoo! Inc. Method and system for improved categorical searching
JP4372169B2 (ja) * 2007-02-26 2009-11-25 株式会社ソニー・コンピュータエンタテインメント オーディオ再生装置およびオーディオ再生方法
US8949215B2 (en) * 2007-02-28 2015-02-03 Microsoft Corporation GUI based web search
JP4845794B2 (ja) * 2007-04-06 2011-12-28 株式会社エヌ・ティ・ティ・ドコモ サーバ装置およびプログラム
US8031170B2 (en) 2007-05-09 2011-10-04 Research In Motion Limited User interface for selecting a photo tag
US9633028B2 (en) 2007-05-09 2017-04-25 Illinois Institute Of Technology Collaborative and personalized storage and search in hierarchical abstract data organization systems
US10042898B2 (en) 2007-05-09 2018-08-07 Illinois Institutre Of Technology Weighted metalabels for enhanced search in hierarchical abstract data organization systems
US9128954B2 (en) * 2007-05-09 2015-09-08 Illinois Institute Of Technology Hierarchical structured data organization system
US8099392B2 (en) 2007-06-08 2012-01-17 Apple Inc. Electronic backup of applications
US8432396B2 (en) * 2007-06-08 2013-04-30 Apple Inc. Reflections in a multidimensional user interface environment
US8725965B2 (en) * 2007-06-08 2014-05-13 Apple Inc. System setup for electronic backup
US8429425B2 (en) * 2007-06-08 2013-04-23 Apple Inc. Electronic backup and restoration of encrypted data
US9791994B2 (en) 2007-06-08 2017-10-17 Apple Inc. User interface for application interface manipulation
US20080307362A1 (en) * 2007-06-08 2008-12-11 Apple Inc. Desktop Filter
US20080307017A1 (en) 2007-06-08 2008-12-11 Apple Inc. Searching and Restoring of Backups
US8468136B2 (en) 2007-06-08 2013-06-18 Apple Inc. Efficient data backup
US8307004B2 (en) * 2007-06-08 2012-11-06 Apple Inc. Manipulating electronic backups
US8010900B2 (en) 2007-06-08 2011-08-30 Apple Inc. User interface for electronic backup
US8745523B2 (en) * 2007-06-08 2014-06-03 Apple Inc. Deletion in electronic backups
US8185839B2 (en) * 2007-06-09 2012-05-22 Apple Inc. Browsing or searching user interfaces and other aspects
US8201096B2 (en) * 2007-06-09 2012-06-12 Apple Inc. Browsing or searching user interfaces and other aspects
US8049748B2 (en) * 2007-06-11 2011-11-01 Honeywell International Inc. System and method for digital video scan using 3-D geometry
US9933937B2 (en) 2007-06-20 2018-04-03 Apple Inc. Portable multifunction device, method, and graphical user interface for playing online videos
US8339418B1 (en) * 2007-06-25 2012-12-25 Pacific Arts Corporation Embedding a real time video into a virtual environment
JP4877831B2 (ja) * 2007-06-27 2012-02-15 久美子 石井 確認システム、情報提供システム、ならびに、プログラム
US8533176B2 (en) * 2007-06-29 2013-09-10 Microsoft Corporation Business application search
US11126321B2 (en) * 2007-09-04 2021-09-21 Apple Inc. Application menu user interface
US8619038B2 (en) 2007-09-04 2013-12-31 Apple Inc. Editing interface
KR102473653B1 (ko) * 2007-09-26 2022-12-02 에이큐 미디어 인크 오디오-비주얼 내비게이션 및 통신
US20090083672A1 (en) * 2007-09-26 2009-03-26 Autodesk, Inc. Navigation system for a 3d virtual scene
US9268856B2 (en) * 2007-09-28 2016-02-23 Yahoo! Inc. System and method for inclusion of interactive elements on a search results page
US8370370B2 (en) * 2007-10-15 2013-02-05 International Business Machines Corporation Bridging real-world web applications and 3D virtual worlds
US9058337B2 (en) * 2007-10-22 2015-06-16 Apple Inc. Previewing user interfaces and other aspects
US8397168B2 (en) * 2008-04-05 2013-03-12 Social Communications Company Interfacing with a spatial virtual communication environment
US7769806B2 (en) 2007-10-24 2010-08-03 Social Communications Company Automated real-time data stream switching in a shared virtual area communication environment
US8407605B2 (en) 2009-04-03 2013-03-26 Social Communications Company Application sharing
KR101481512B1 (ko) * 2007-10-24 2015-01-20 엘지전자 주식회사 휴대 단말기 및 그 제어 방법
US20090125504A1 (en) * 2007-11-08 2009-05-14 Randy Adams Systems and methods for visualizing web page query results
US8584044B2 (en) * 2007-11-16 2013-11-12 Microsoft Corporation Localized thumbnail preview of related content during spatial browsing
JP5181180B2 (ja) * 2007-11-22 2013-04-10 インターナショナル・ビジネス・マシーンズ・コーポレーション 三次元仮想空間上での取引方法、プログラム及びそのサーバシステム
US20090138296A1 (en) * 2007-11-27 2009-05-28 Ebay Inc. Context-based realtime advertising
US8396851B2 (en) * 2007-11-30 2013-03-12 Kinkadee Systems Gmbh Scalable associative text mining network and method
US9513765B2 (en) * 2007-12-07 2016-12-06 Sony Corporation Three-dimensional sliding object arrangement method and system
FI124000B (fi) * 2007-12-11 2014-01-31 Documill Oy Menetelmä ja järjestely tiedonhakutulosten käsittelemiseksi
US8395660B2 (en) * 2007-12-13 2013-03-12 Apple Inc. Three-dimensional movie browser or editor
US20090164928A1 (en) * 2007-12-21 2009-06-25 Nokia Corporation Method, apparatus and computer program product for providing an improved user interface
US8549402B2 (en) * 2007-12-29 2013-10-01 Joseph Harold Moore System and method for providing internet radio service
US20090172557A1 (en) * 2008-01-02 2009-07-02 International Business Machines Corporation Gui screen sharing between real pcs in the real world and virtual pcs in the virtual world
US8327272B2 (en) 2008-01-06 2012-12-04 Apple Inc. Portable multifunction device, method, and graphical user interface for viewing and managing electronic calendars
JP4434284B2 (ja) * 2008-02-06 2010-03-17 ソニー株式会社 情報処理装置、表示データ提供方法、およびプログラム
US8266139B2 (en) * 2008-02-12 2012-09-11 Microsoft Corporation System and interface for co-located collaborative web search
US8543933B2 (en) * 2008-02-21 2013-09-24 Emtrace Technologies Usa, Inc. Slideshow display of images for user-defined groups of applications
US20090228442A1 (en) * 2008-03-10 2009-09-10 Searchme, Inc. Systems and methods for building a document index
US20090228817A1 (en) * 2008-03-10 2009-09-10 Randy Adams Systems and methods for displaying a search result
US20090228811A1 (en) * 2008-03-10 2009-09-10 Randy Adams Systems and methods for processing a plurality of documents
US20090241044A1 (en) * 2008-03-18 2009-09-24 Cuill, Inc. Apparatus and method for displaying search results using stacks
JP5130979B2 (ja) * 2008-03-21 2013-01-30 ソニー株式会社 情報処理装置及び検索結果表示方法
WO2009146130A2 (en) 2008-04-05 2009-12-03 Social Communications Company Shared virtual area communication environment based apparatus and methods
US8085265B2 (en) * 2008-04-23 2011-12-27 Honeywell International Inc. Methods and systems of generating 3D user interface for physical environment
GB2460107A (en) * 2008-05-15 2009-11-25 Ionoco Ltd Method and Apparatus for Arranging Data
US20090307086A1 (en) * 2008-05-31 2009-12-10 Randy Adams Systems and methods for visually grouping links to documents
US20090300051A1 (en) * 2008-05-31 2009-12-03 Randy Adams Systems and Methods for Building Albums Having Links to Documents
US20090300473A1 (en) * 2008-05-31 2009-12-03 Randy Adams Systems and Methods for Displaying Albums Having Links to Documents
US8762887B2 (en) * 2008-06-06 2014-06-24 Apple Inc. Browsing or searching user interfaces and other aspects
US8516038B2 (en) 2008-06-06 2013-08-20 Apple Inc. Browsing or searching user interfaces and other aspects
US8607166B2 (en) * 2008-06-06 2013-12-10 Apple Inc. Browsing or searching user interfaces and other aspects
US20090307622A1 (en) * 2008-06-06 2009-12-10 Julien Jalon Browsing or searching user interfaces and other aspects
DE102008028023A1 (de) * 2008-06-12 2009-12-17 Siemens Aktiengesellschaft Verfahren zur Darstellung mehrerer Bilddatensätze und Benutzerinterface zur Darstellung mehrerer Bilddatensätze
US20090319929A1 (en) * 2008-06-22 2009-12-24 Microsoft Corporation Interface for multiple user spaces
US8893015B2 (en) 2008-07-03 2014-11-18 Ebay Inc. Multi-directional and variable speed navigation of collage multi-media
US10282391B2 (en) 2008-07-03 2019-05-07 Ebay Inc. Position editing tool of collage multi-media
US11017160B2 (en) * 2008-07-03 2021-05-25 Ebay Inc. Systems and methods for publishing and/or sharing media presentations over a network
US9191625B2 (en) * 2008-09-26 2015-11-17 Janos Redei System and methods for transmitting and distributing media content
US8347230B2 (en) * 2008-09-30 2013-01-01 Apple Inc. Visual presentation of multiple internet pages
US8321783B2 (en) * 2008-09-30 2012-11-27 Apple Inc. Visualizing content positioning within a document using layers
US8429540B1 (en) * 2008-10-10 2013-04-23 Adobe Systems Incorporated End user created collaborative and non-collaborative workspace application container system and method
US20100094865A1 (en) * 2008-10-13 2010-04-15 Haswell Michael R Systems and methods for distributing and maintaining product or service information
CN102105854A (zh) * 2008-10-30 2011-06-22 夏普株式会社 便携信息终端
US7752565B2 (en) * 2008-11-06 2010-07-06 Sap Ag Graphical user interface for displaying objects
KR101580259B1 (ko) * 2008-12-11 2015-12-28 삼성전자주식회사 Gui 제공방법 및 이를 적용한 전자장치
US8762885B2 (en) * 2008-12-15 2014-06-24 Verizon Patent And Licensing Inc. Three dimensional icon stacks
US8306522B1 (en) * 2008-12-23 2012-11-06 Sprint Communications Company L.P. Dynamic interface for mobile devices
KR20100077270A (ko) * 2008-12-29 2010-07-08 엘지전자 주식회사 Dtv 및 이를 이용한 gui 제공 방법
US9853922B2 (en) 2012-02-24 2017-12-26 Sococo, Inc. Virtual area communications
US9319357B2 (en) 2009-01-15 2016-04-19 Social Communications Company Context based virtual area creation
US9176747B2 (en) * 2009-02-17 2015-11-03 Sandisk Il Ltd. User-application interface
US8572513B2 (en) 2009-03-16 2013-10-29 Apple Inc. Device, method, and graphical user interface for moving a current position in content at a variable scrubbing rate
US20100257468A1 (en) * 2009-04-06 2010-10-07 Francisco Javier Gonzalez Bernardo Method and system for an enhanced interactive visualization environment
KR101548273B1 (ko) * 2009-04-08 2015-08-28 삼성전자주식회사 휴대용 단말기에서 웹 검색 속도를 향상시키기 위한 장치 및 방법
WO2010118528A1 (en) * 2009-04-16 2010-10-21 Xtranormal Technology Inc. Visual structure for creating multimedia works
US8448074B2 (en) 2009-05-01 2013-05-21 Qualcomm Incorporated Method and apparatus for providing portioned web pages in a graphical user interface
JP5132629B2 (ja) * 2009-05-11 2013-01-30 ソニーモバイルコミュニケーションズ, エービー 情報端末、情報端末の情報提示方法及び情報提示プログラム
WO2010132718A2 (en) * 2009-05-13 2010-11-18 Coincident.Tv , Inc. Playing and editing linked and annotated audiovisual works
CA2765956C (en) * 2009-06-19 2015-10-06 Google Inc. User interface visualizations
US8887068B2 (en) * 2009-07-31 2014-11-11 Verizon Patent And Licensing Inc. Methods and systems for visually chronicling a conference session
US9176962B2 (en) * 2009-09-07 2015-11-03 Apple Inc. Digital media asset browsing with audio cues
US9262120B2 (en) * 2009-09-11 2016-02-16 Nokia Technologies Oy Audio service graphical user interface
US20110066971A1 (en) * 2009-09-14 2011-03-17 Babak Forutanpour Method and apparatus for providing application interface portions on peripheral computing devices
US20110078626A1 (en) * 2009-09-28 2011-03-31 William Bachman Contextual Presentation of Digital Media Asset Collections
KR20110036463A (ko) * 2009-10-01 2011-04-07 엘지전자 주식회사 이동단말기 및 그의 브라우징 방법
US8898596B2 (en) * 2009-10-08 2014-11-25 Lg Electronics Inc. Mobile terminal and data extracting method in a mobile terminal
KR101623783B1 (ko) * 2009-10-08 2016-05-24 엘지전자 주식회사 이동 단말기 및 이것의 데이터 추출 방법
US10635734B2 (en) 2009-10-12 2020-04-28 The Boeing Company System and method for utilizing a three dimensional model for accessing databases
US10832182B2 (en) 2009-10-12 2020-11-10 The Boeing Company Method and system for managing a program relating to a product
KR101185186B1 (ko) * 2009-11-05 2012-09-24 주식회사 팬택 3차원 축을 이용한 사용자 인터페이스 장치 및 3차원 축을 경계로 하는 2차원 평면을 이용한 사용자 인터페이스 장치
US8373741B2 (en) * 2009-11-20 2013-02-12 At&T Intellectual Property I, Lp Apparatus and method for collaborative network in an enterprise setting
US8448092B2 (en) * 2009-11-25 2013-05-21 International Business Machines Corporation Positional effects in a three-dimensional desktop environment
WO2011072456A1 (en) * 2009-12-18 2011-06-23 Nokia Corporation Desktop display apparatus
US20110154214A1 (en) * 2009-12-18 2011-06-23 Microsoft Corporation Offloading Content Retrieval And Decoding In Pluggable Content-Handling Systems
US8736561B2 (en) * 2010-01-06 2014-05-27 Apple Inc. Device, method, and graphical user interface with content display modes and display rotation heuristics
US8698845B2 (en) 2010-01-06 2014-04-15 Apple Inc. Device, method, and graphical user interface with interactive popup views
US8780130B2 (en) 2010-11-30 2014-07-15 Sitting Man, Llc Methods, systems, and computer program products for binding attributes between visual components
US9715332B1 (en) 2010-08-26 2017-07-25 Cypress Lake Software, Inc. Methods, systems, and computer program products for navigating between visual components
US20110179390A1 (en) * 2010-01-18 2011-07-21 Robert Paul Morris Methods, systems, and computer program products for traversing nodes in path on a display device
US10007393B2 (en) * 2010-01-19 2018-06-26 Apple Inc. 3D view of file structure
US20110179376A1 (en) * 2010-01-21 2011-07-21 Sony Corporation Three or higher dimensional graphical user interface for tv menu and document navigation
JP5506427B2 (ja) * 2010-01-26 2014-05-28 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
US10397639B1 (en) 2010-01-29 2019-08-27 Sitting Man, Llc Hot key systems and methods
US9110495B2 (en) * 2010-02-03 2015-08-18 Microsoft Technology Licensing, Llc Combined surface user interface
USD653671S1 (en) 2010-02-03 2012-02-07 Facebook, Inc. Display panel of a programmed computer system with a graphical user interface
US9285589B2 (en) 2010-02-28 2016-03-15 Microsoft Technology Licensing, Llc AR glasses with event and sensor triggered control of AR eyepiece applications
US9341843B2 (en) 2010-02-28 2016-05-17 Microsoft Technology Licensing, Llc See-through near-eye display glasses with a small scale image source
US9128281B2 (en) 2010-09-14 2015-09-08 Microsoft Technology Licensing, Llc Eyepiece with uniformly illuminated reflective display
US9097890B2 (en) 2010-02-28 2015-08-04 Microsoft Technology Licensing, Llc Grating in a light transmissive illumination system for see-through near-eye display glasses
US8482859B2 (en) 2010-02-28 2013-07-09 Osterhout Group, Inc. See-through near-eye display glasses wherein image light is transmitted to and reflected from an optically flat film
US9097891B2 (en) 2010-02-28 2015-08-04 Microsoft Technology Licensing, Llc See-through near-eye display glasses including an auto-brightness control for the display brightness based on the brightness in the environment
US20150309316A1 (en) 2011-04-06 2015-10-29 Microsoft Technology Licensing, Llc Ar glasses with predictive control of external device based on event input
US9091851B2 (en) 2010-02-28 2015-07-28 Microsoft Technology Licensing, Llc Light control in head mounted displays
WO2011106798A1 (en) 2010-02-28 2011-09-01 Osterhout Group, Inc. Local advertising content on an interactive head-mounted eyepiece
US9759917B2 (en) 2010-02-28 2017-09-12 Microsoft Technology Licensing, Llc AR glasses with event and sensor triggered AR eyepiece interface to external devices
US8477425B2 (en) 2010-02-28 2013-07-02 Osterhout Group, Inc. See-through near-eye display glasses including a partially reflective, partially transmitting optical element
US20120249797A1 (en) 2010-02-28 2012-10-04 Osterhout Group, Inc. Head-worn adaptive display
US8488246B2 (en) 2010-02-28 2013-07-16 Osterhout Group, Inc. See-through near-eye display glasses including a curved polarizing film in the image source, a partially reflective, partially transmitting optical element and an optically flat film
US9366862B2 (en) 2010-02-28 2016-06-14 Microsoft Technology Licensing, Llc System and method for delivering content to a group of see-through near eye display eyepieces
US9129295B2 (en) 2010-02-28 2015-09-08 Microsoft Technology Licensing, Llc See-through near-eye display glasses with a fast response photochromic film system for quick transition from dark to clear
US10180572B2 (en) 2010-02-28 2019-01-15 Microsoft Technology Licensing, Llc AR glasses with event and user action control of external applications
US9223134B2 (en) 2010-02-28 2015-12-29 Microsoft Technology Licensing, Llc Optical imperfections in a light transmissive illumination system for see-through near-eye display glasses
US8472120B2 (en) 2010-02-28 2013-06-25 Osterhout Group, Inc. See-through near-eye display glasses with a small scale image source
US9229227B2 (en) 2010-02-28 2016-01-05 Microsoft Technology Licensing, Llc See-through near-eye display glasses with a light transmissive wedge shaped illumination system
US8467133B2 (en) 2010-02-28 2013-06-18 Osterhout Group, Inc. See-through display with an optical assembly including a wedge-shaped illumination system
US9134534B2 (en) 2010-02-28 2015-09-15 Microsoft Technology Licensing, Llc See-through near-eye display glasses including a modular image source
US9182596B2 (en) 2010-02-28 2015-11-10 Microsoft Technology Licensing, Llc See-through near-eye display glasses with the optical assembly including absorptive polarizers or anti-reflective coatings to reduce stray light
US9513716B2 (en) * 2010-03-04 2016-12-06 Autodesk, Inc. Bimanual interactions on digital paper using a pen and a spatially-aware mobile projector
US20110225566A1 (en) * 2010-03-10 2011-09-15 Microsoft Corporation Testing user interfaces in multiple execution environments
KR20110107939A (ko) * 2010-03-26 2011-10-05 삼성전자주식회사 휴대 단말기 및 그 휴대 단말기에서 아이콘 제어 방법
KR101781846B1 (ko) * 2010-05-19 2017-09-26 엘지전자 주식회사 이동 단말기 및 이것의 이미지 디스플레이 제어 방법
US8826184B2 (en) * 2010-04-05 2014-09-02 Lg Electronics Inc. Mobile terminal and image display controlling method thereof
US10788976B2 (en) 2010-04-07 2020-09-29 Apple Inc. Device, method, and graphical user interface for managing folders with multiple pages
US9052926B2 (en) * 2010-04-07 2015-06-09 Apple Inc. Device, method, and graphical user interface for managing concurrently open software applications
US9823831B2 (en) 2010-04-07 2017-11-21 Apple Inc. Device, method, and graphical user interface for managing concurrently open software applications
US9513801B2 (en) 2010-04-07 2016-12-06 Apple Inc. Accessing electronic notifications and settings icons with gestures
US9170708B2 (en) 2010-04-07 2015-10-27 Apple Inc. Device, method, and graphical user interface for managing folders
AU2011240674B2 (en) 2010-04-12 2015-04-02 Google Inc. Collaborative cursors in a hosted word processor
US20110252312A1 (en) 2010-04-12 2011-10-13 Google Inc. Real-Time Collaboration in a Hosted Word Processor
AU2010201721A1 (en) * 2010-04-29 2011-11-17 Snipey Holdings Pty Ltd Content Transformation Based Job Board and Job Search Engine
CA2738428A1 (en) * 2010-04-30 2011-10-30 Iliv Technologies Inc. Collaboration tool
US9520056B2 (en) 2010-05-11 2016-12-13 Universal Electronics Inc. System and methods for enhanced remote control functionality
US8860672B2 (en) * 2010-05-26 2014-10-14 T-Mobile Usa, Inc. User interface with z-axis interaction
US8694553B2 (en) * 2010-06-07 2014-04-08 Gary Stephen Shuster Creation and use of virtual places
EP2580708A4 (en) * 2010-06-10 2016-11-16 Univ Brown PARAMETRIZED 2D HUMAN MODEL WITH RACES
WO2011154917A2 (en) * 2010-06-11 2011-12-15 Visual Domains Ltd. Method and system for displaying visual content in a virtual three-dimensional space
KR20120000663A (ko) * 2010-06-28 2012-01-04 주식회사 팬택 3d 객체 처리 장치
USD807392S1 (en) * 2010-07-02 2018-01-09 Arris Enterprises Llc Display screen or portion thereof with graphical user interface
US20120005624A1 (en) 2010-07-02 2012-01-05 Vesely Michael A User Interface Elements for Use within a Three Dimensional Scene
CN103098049B (zh) * 2010-07-12 2017-04-12 汤姆逊许可公司 用于内容搜索的系统、方法和用户界面
US8643569B2 (en) 2010-07-14 2014-02-04 Zspace, Inc. Tools for use within a three dimensional scene
US20120042282A1 (en) * 2010-08-12 2012-02-16 Microsoft Corporation Presenting Suggested Items for Use in Navigating within a Virtual Space
US8443300B2 (en) * 2010-08-24 2013-05-14 Ebay Inc. Three dimensional navigation of listing information
US9207859B2 (en) * 2010-09-14 2015-12-08 Lg Electronics Inc. Method and mobile terminal for displaying fixed objects independent of shifting background images on a touchscreen
US8817053B2 (en) 2010-09-30 2014-08-26 Apple Inc. Methods and systems for opening a file
US11265510B2 (en) 2010-10-22 2022-03-01 Litl Llc Video integration
US20120102403A1 (en) * 2010-10-22 2012-04-26 Robert Sanford Havoc Pennington Video integration
KR101783961B1 (ko) * 2010-11-17 2017-10-10 삼성전자주식회사 직관적인 폴더 편집 및 열람을 위한 사용자 인터페이스 표시 방법 및 장치
US8719727B2 (en) * 2010-12-15 2014-05-06 Microsoft Corporation Managing an immersive environment
KR101788049B1 (ko) * 2010-12-15 2017-10-19 엘지전자 주식회사 이동 단말기 및 그 제어방법
US9244606B2 (en) 2010-12-20 2016-01-26 Apple Inc. Device, method, and graphical user interface for navigation of concurrently open software applications
US8682107B2 (en) * 2010-12-22 2014-03-25 Electronics And Telecommunications Research Institute Apparatus and method for creating 3D content for oriental painting
US20120174038A1 (en) * 2011-01-05 2012-07-05 Disney Enterprises, Inc. System and method enabling content navigation and selection using an interactive virtual sphere
US20120182286A1 (en) * 2011-01-14 2012-07-19 Wang xiao yong Systems and methods for converting 2d data files into 3d data files
US8943026B2 (en) 2011-01-14 2015-01-27 Apple Inc. Visual representation of a local backup
US8984029B2 (en) 2011-01-14 2015-03-17 Apple Inc. File system management
US9582144B2 (en) * 2011-01-20 2017-02-28 Blackberry Limited Three-dimensional, multi-depth presentation of icons associated with a user interface
JP5977922B2 (ja) * 2011-02-24 2016-08-24 セイコーエプソン株式会社 情報処理装置および情報処理装置の制御方法、透過型頭部装着型表示装置
US8996985B1 (en) 2011-03-16 2015-03-31 Google Inc. Online document processing service for displaying comments
US8533593B2 (en) * 2011-04-19 2013-09-10 Autodesk, Inc Hierarchical display and navigation of document revision histories
US8874525B2 (en) 2011-04-19 2014-10-28 Autodesk, Inc. Hierarchical display and navigation of document revision histories
US8533595B2 (en) * 2011-04-19 2013-09-10 Autodesk, Inc Hierarchical display and navigation of document revision histories
US8533594B2 (en) * 2011-04-19 2013-09-10 Autodesk, Inc. Hierarchical display and navigation of document revision histories
US20120272180A1 (en) * 2011-04-20 2012-10-25 Nokia Corporation Method and apparatus for providing content flipping based on a scrolling operation
US8718822B1 (en) * 2011-05-06 2014-05-06 Ryan Hickman Overlaying sensor data in a user interface
US20120287114A1 (en) * 2011-05-11 2012-11-15 Microsoft Corporation Interface including views positioned in along multiple dimensions
US9116607B2 (en) 2011-05-11 2015-08-25 Microsoft Technology Licensing, Llc Interface including selectable items corresponding to single or multiple data items
US20120297345A1 (en) * 2011-05-19 2012-11-22 Apple Inc. Three-Dimensional Animation for Providing Access to Applications
US8725318B1 (en) * 2011-05-20 2014-05-13 Rockwell Collins, Inc. Systems and methods for incorporating virtual network computing into a cockpit display system and controlling a remote aircraft system with the VNC-incorporated CDS
US10417018B2 (en) 2011-05-27 2019-09-17 Microsoft Technology Licensing, Llc Navigation of immersive and desktop shells
US9843665B2 (en) 2011-05-27 2017-12-12 Microsoft Technology Licensing, Llc Display of immersive and desktop shells
US9176957B2 (en) 2011-06-10 2015-11-03 Linkedin Corporation Selective fact checking method and system
US8185448B1 (en) 2011-06-10 2012-05-22 Myslinski Lucas J Fact checking method and system
US9015037B2 (en) 2011-06-10 2015-04-21 Linkedin Corporation Interactive fact checking system
US8768782B1 (en) 2011-06-10 2014-07-01 Linkedin Corporation Optimized cloud computing fact checking
US9087048B2 (en) 2011-06-10 2015-07-21 Linkedin Corporation Method of and system for validating a fact checking system
US20120314020A1 (en) * 2011-06-13 2012-12-13 Honda Motor Co,, Ltd. Move-it: monitoring, operating, visualizing, editing integration toolkit for reconfigurable physical computing
US8751538B1 (en) 2011-07-07 2014-06-10 Google Inc. Method and apparatus for panel-based management of data
US8060533B1 (en) 2011-07-07 2011-11-15 Google Inc. Panel-based management of data objects from a plurality of data sources
US8949857B2 (en) 2011-07-15 2015-02-03 Microsoft Corporation Value provider subscriptions for sparsely populated data objects
WO2013011343A1 (en) * 2011-07-19 2013-01-24 Sculpteo Method for creating personalized functional objects, computer, computer readable medium and computer program related thereto
US20130055078A1 (en) * 2011-08-24 2013-02-28 Salesforce.Com, Inc. Systems and methods for improved navigation of a multi-page display
US9336137B2 (en) 2011-09-02 2016-05-10 Google Inc. System and method for performing data management in a collaborative development environment
GB201115369D0 (en) * 2011-09-06 2011-10-19 Gooisoft Ltd Graphical user interface, computing device, and method for operating the same
US20130063429A1 (en) * 2011-09-08 2013-03-14 Parham Sina System and method for distributing three-dimensional virtual world data
USD667457S1 (en) * 2011-09-12 2012-09-18 Microsoft Corporation Display screen with icon
USD667453S1 (en) * 2011-09-12 2012-09-18 Microsoft Corporation Display screen with icon
USD667452S1 (en) * 2011-09-12 2012-09-18 Microsoft Corporation Display screen with icon
CN115167675A (zh) * 2011-09-19 2022-10-11 视力移动技术有限公司 增强现实设备
US20130155053A1 (en) * 2011-09-22 2013-06-20 Virual World & Suns, Llc Multi-dimensional visual display interface
US10289657B2 (en) * 2011-09-25 2019-05-14 9224-5489 Quebec Inc. Method of retrieving information elements on an undisplayed portion of an axis of information elements
US9569066B2 (en) * 2011-10-03 2017-02-14 Google Inc. Interface for navigating imagery
US8471871B1 (en) 2011-10-17 2013-06-25 Google Inc. Authoritative text size measuring
US10430388B1 (en) 2011-10-17 2019-10-01 Google Llc Systems and methods for incremental loading of collaboratively generated presentations
US8266245B1 (en) 2011-10-17 2012-09-11 Google Inc. Systems and methods for incremental loading of collaboratively generated presentations
US8434002B1 (en) 2011-10-17 2013-04-30 Google Inc. Systems and methods for collaborative editing of elements in a presentation document
US20150199308A1 (en) 2011-10-17 2015-07-16 Google Inc. Systems and methods for controlling the display of online documents
US8397153B1 (en) * 2011-10-17 2013-03-12 Google Inc. Systems and methods for rich presentation overlays
US8812946B1 (en) 2011-10-17 2014-08-19 Google Inc. Systems and methods for rendering documents
DE102012110278A1 (de) * 2011-11-02 2013-05-02 Beijing Lenovo Software Ltd. Verfahren und Vorrichtungen zur Fensterdarstellung und Verfahren und Vorrichtungen zur Berührungsbedienung von Anwendungen
US8738706B1 (en) 2011-11-16 2014-05-27 Google Inc. Systems and methods for collaborative document editing
CN103135916A (zh) * 2011-11-30 2013-06-05 英特尔公司 手持无线设备中的智能图形界面
JP5238872B2 (ja) * 2011-12-02 2013-07-17 株式会社東芝 情報処理装置、表示制御方法およびプログラム
US20130145266A1 (en) * 2011-12-02 2013-06-06 Louie D. Mantia Graphical user interface having interactive stacks of images corresponding to digital assets
US9645733B2 (en) 2011-12-06 2017-05-09 Google Inc. Mechanism for switching between document viewing windows
US9395868B2 (en) * 2011-12-06 2016-07-19 Google Inc. Graphical user interface window spacing mechanisms
US9594487B2 (en) 2012-02-27 2017-03-14 Autodesk, Inc Systems and methods for manipulating a 3D object in a 3D model using a software widget and surface constraints
US8910063B2 (en) * 2012-03-27 2014-12-09 Cisco Technology, Inc. Assisted display for command line interfaces
US20130265297A1 (en) * 2012-04-06 2013-10-10 Motorola Mobility, Inc. Display of a Corrected Browser Projection of a Visual Guide for Placing a Three Dimensional Object in a Browser
US9367522B2 (en) 2012-04-13 2016-06-14 Google Inc. Time-based presentation editing
US9378283B2 (en) * 2012-04-23 2016-06-28 Excalibur Ip, Llc Instant search results with page previews
WO2013169842A2 (en) 2012-05-09 2013-11-14 Yknots Industries Llc Device, method, and graphical user interface for selecting object within a group of objects
WO2013169843A1 (en) 2012-05-09 2013-11-14 Yknots Industries Llc Device, method, and graphical user interface for manipulating framed graphical objects
DE112013002381T5 (de) 2012-05-09 2015-02-26 Apple Inc. Vorrichtung, Verfahren und grafische Benutzeroberfläche für die Bewegung und Ablegen eines Benutzerschnittstellenobjekts
WO2013169851A2 (en) 2012-05-09 2013-11-14 Yknots Industries Llc Device, method, and graphical user interface for facilitating user interaction with controls in a user interface
WO2013169849A2 (en) 2012-05-09 2013-11-14 Industries Llc Yknots Device, method, and graphical user interface for displaying user interface objects corresponding to an application
EP2847662B1 (en) 2012-05-09 2020-02-19 Apple Inc. Device, method, and graphical user interface for providing feedback for changing activation states of a user interface object
KR101823288B1 (ko) 2012-05-09 2018-01-29 애플 인크. 제스처에 응답하여 디스플레이 상태들 사이를 전이하기 위한 디바이스, 방법, 및 그래픽 사용자 인터페이스
WO2013169845A1 (en) 2012-05-09 2013-11-14 Yknots Industries Llc Device, method, and graphical user interface for scrolling nested regions
CN104487929B (zh) 2012-05-09 2018-08-17 苹果公司 用于响应于用户接触来显示附加信息的设备、方法和图形用户界面
WO2013169875A2 (en) 2012-05-09 2013-11-14 Yknots Industries Llc Device, method, and graphical user interface for displaying content associated with a corresponding affordance
KR101670570B1 (ko) 2012-05-09 2016-10-28 애플 인크. 사용자 인터페이스 객체를 선택하는 디바이스, 방법, 및 그래픽 사용자 인터페이스
WO2013169865A2 (en) 2012-05-09 2013-11-14 Yknots Industries Llc Device, method, and graphical user interface for moving a user interface object based on an intensity of a press input
CN108241465B (zh) 2012-05-09 2021-03-09 苹果公司 用于针对在用户界面中执行的操作提供触觉反馈的方法和装置
US20130304820A1 (en) * 2012-05-11 2013-11-14 Samsung Electronics Co., Ltd. Network system with interaction mechanism and method of operation thereof
US8732620B2 (en) 2012-05-23 2014-05-20 Cyberlink Corp. Method and system for a more realistic interaction experience using a stereoscopic cursor
WO2013181026A1 (en) 2012-06-02 2013-12-05 Social Communications Company Interfacing with a spatial virtual communications environment
US20130346875A1 (en) * 2012-06-20 2013-12-26 Microsoft Corporation Personalized Interactive Entertainment Profile
US9280589B2 (en) * 2012-06-22 2016-03-08 Sap Se Virtual business desktop for arrangement of objects
KR102064836B1 (ko) * 2012-06-25 2020-01-13 삼성전자주식회사 모바일 장치에서의 메뉴 표시 장치 및 방법
US8957855B2 (en) 2012-06-25 2015-02-17 Cyberlink Corp. Method for displaying a stereoscopic cursor among stereoscopic objects
US9674501B2 (en) * 2012-07-06 2017-06-06 Lg Electronics Inc. Terminal for increasing visual comfort sensation of 3D object and control method thereof
US9098516B2 (en) * 2012-07-18 2015-08-04 DS Zodiac, Inc. Multi-dimensional file system
CN102819400A (zh) 2012-08-14 2012-12-12 北京小米科技有限责任公司 一种移动终端的桌面系统及界面交互方法、装置
US9696879B2 (en) * 2012-09-07 2017-07-04 Google Inc. Tab scrubbing using navigation gestures
RU124014U1 (ru) * 2012-09-12 2013-01-10 Арташес Валерьевич Икономов Система для обеспечения персонализированного поиска информации
USD736231S1 (en) * 2012-09-24 2015-08-11 Robert Bosch Gmbh Display screen with graphical user interface
RU2586571C2 (ru) * 2012-10-01 2016-06-10 Общество С Ограниченной Ответственностью "Яндекс" Способ для отображения перекрывающихся веб-страниц
US20140108978A1 (en) * 2012-10-15 2014-04-17 At&T Mobility Ii Llc System and Method For Arranging Application Icons Of A User Interface On An Event-Triggered Basis
US20150193285A1 (en) * 2012-10-24 2015-07-09 OpenMobile World Wide, Inc. Hosted app integration services in multi-operating system mobile and other computing devices
US8793573B2 (en) * 2012-10-29 2014-07-29 Dropbox, Inc. Continuous content item view enhanced through smart loading
USD729264S1 (en) 2012-11-07 2015-05-12 Microsoft Corporation Display screen with graphical user interface
US9529785B2 (en) 2012-11-27 2016-12-27 Google Inc. Detecting relationships between edits and acting on a subset of edits
US9483159B2 (en) * 2012-12-12 2016-11-01 Linkedin Corporation Fact checking graphical user interface including fact checking icons
EP2939095B1 (en) 2012-12-29 2018-10-03 Apple Inc. Device, method, and graphical user interface for moving a cursor according to a change in an appearance of a control icon with simulated three-dimensional characteristics
AU2013368443B2 (en) 2012-12-29 2016-03-24 Apple Inc. Device, method, and graphical user interface for transitioning between touch input to display output relationships
CN105264479B (zh) 2012-12-29 2018-12-25 苹果公司 用于对用户界面分级结构进行导航的设备、方法和图形用户界面
EP2912542B1 (en) 2012-12-29 2022-07-13 Apple Inc. Device and method for forgoing generation of tactile output for a multi-contact gesture
CN104885050B (zh) 2012-12-29 2017-12-08 苹果公司 用于确定是滚动还是选择内容的设备、方法和图形用户界面
KR102029242B1 (ko) * 2013-01-03 2019-11-08 엘지전자 주식회사 이동 단말기 제어방법
USD735744S1 (en) * 2013-01-04 2015-08-04 Samsung Electronics Co., Ltd. Portable electronic device with animated graphical user interface
USD742400S1 (en) * 2013-01-04 2015-11-03 Samsung Electronics Co., Ltd. Display screen or portion thereof with animated graphical user interface
TWD166319S (zh) * 2013-01-04 2015-03-01 三星電子股份有限公司 顯示螢幕之動畫圖形化使用者介面
USD745028S1 (en) * 2013-01-04 2015-12-08 Samsung Electronics Co., Ltd. Display screen or portion thereof with animated graphical user interface
AU350141S (en) * 2013-01-04 2013-08-13 Samsung Electronics Co Ltd Display Screen For An Electronic Device
USD742399S1 (en) * 2013-01-04 2015-11-03 Samsung Electronics Co., Ltd. Display screen or portion thereof with animated graphical user interface
US10956667B2 (en) 2013-01-07 2021-03-23 Google Llc Operational transformations proxy for thin clients
US9462037B2 (en) 2013-01-07 2016-10-04 Google Inc. Dynamically sizing chunks in a partially loaded spreadsheet model
US9311622B2 (en) 2013-01-15 2016-04-12 Google Inc. Resolving mutations in a partially-loaded spreadsheet model
KR20140094671A (ko) * 2013-01-18 2014-07-30 삼성전자주식회사 가이드를 제공하는 방법 및 전자 장치
US9858245B2 (en) * 2013-01-28 2018-01-02 The Boeing Company Panoptic visualization of elements of a complex system using a model viewer
JP5889223B2 (ja) 2013-01-29 2016-03-22 ジーイー・メディカル・システムズ・グローバル・テクノロジー・カンパニー・エルエルシー 表示装置及び画像表示システム
US10304037B2 (en) 2013-02-04 2019-05-28 Haworth, Inc. Collaboration system including a spatial event map
US11861561B2 (en) 2013-02-04 2024-01-02 Haworth, Inc. Collaboration system including a spatial event map
US10264090B2 (en) 2013-02-27 2019-04-16 Pavlov Media, Inc. Geographical data storage assignment based on ontological relevancy
US10951688B2 (en) 2013-02-27 2021-03-16 Pavlov Media, Inc. Delegated services platform system and method
US20140250377A1 (en) * 2013-03-04 2014-09-04 Atigeo Llc Method and system for searching and analyzing large numbers of electronic documents
US20140372956A1 (en) * 2013-03-04 2014-12-18 Atigeo Llc Method and system for searching and analyzing large numbers of electronic documents
US10922697B2 (en) * 2013-03-12 2021-02-16 Credibility, Llc Credibility techniques
US10261650B2 (en) * 2013-03-12 2019-04-16 Oracle International Corporation Window grouping and management across applications and devices
US20150331575A1 (en) * 2013-03-15 2015-11-19 Yahoo! Inc. Method and System for Intent Centric Multi-Facet Content Presentation
US9164653B2 (en) 2013-03-15 2015-10-20 Inspace Technologies Limited Three-dimensional space for navigating objects connected in hierarchy
US9477404B2 (en) 2013-03-15 2016-10-25 Apple Inc. Device, method, and graphical user interface for managing concurrently open software applications
US8826170B1 (en) * 2013-03-15 2014-09-02 Google Inc. Window switching interface
US9888059B2 (en) * 2013-03-15 2018-02-06 Gordon E. Seay Methods and systems for switching between software applications
US9658740B2 (en) 2013-03-15 2017-05-23 Apple Inc. Device, method, and graphical user interface for managing concurrently open software applications
US20140298243A1 (en) * 2013-03-29 2014-10-02 Alcatel-Lucent Usa Inc. Adjustable gui for displaying information from a database
US10019130B2 (en) 2013-04-21 2018-07-10 Zspace, Inc. Zero parallax drawing within a three dimensional display
US10387546B1 (en) 2013-06-07 2019-08-20 United Services Automobile Association Web browsing
USD741350S1 (en) * 2013-06-10 2015-10-20 Apple Inc. Display screen or portion thereof with animated graphical user interface
CN104346054A (zh) * 2013-07-30 2015-02-11 维沃移动通信有限公司 一种实现仿3d场景桌面的方法及系统
US9971752B2 (en) 2013-08-19 2018-05-15 Google Llc Systems and methods for resolving privileged edits within suggested edits
US9890967B2 (en) 2013-08-28 2018-02-13 Trane International Inc. Systems and methods for HVAC and irrigation control
USD857738S1 (en) 2013-09-03 2019-08-27 Samsung Electronics Co., Ltd. Display screen or portion thereof with transitional graphical user interface
USD817994S1 (en) 2013-09-03 2018-05-15 Samsung Electronics Co., Ltd. Display screen or portion thereof with transitional graphical user interface
USD767587S1 (en) * 2013-09-03 2016-09-27 Samsung Electronics Co., Ltd. Display screen or portion thereof with graphical user interface
US20150082145A1 (en) * 2013-09-17 2015-03-19 Amazon Technologies, Inc. Approaches for three-dimensional object display
US10067634B2 (en) 2013-09-17 2018-09-04 Amazon Technologies, Inc. Approaches for three-dimensional object display
US10592064B2 (en) 2013-09-17 2020-03-17 Amazon Technologies, Inc. Approaches for three-dimensional object display used in content navigation
US20150081106A1 (en) * 2013-09-18 2015-03-19 Trane International Inc. Systems and Methods for HVAC and Irrigation Control
US9940404B2 (en) 2013-10-01 2018-04-10 Aaron Scott Dishno Three-dimensional (3D) browsing
US9348803B2 (en) 2013-10-22 2016-05-24 Google Inc. Systems and methods for providing just-in-time preview of suggestion resolutions
JP6393325B2 (ja) 2013-10-30 2018-09-19 アップル インコーポレイテッドApple Inc. 関連するユーザインターフェースオブジェクトの表示
KR101512084B1 (ko) * 2013-11-15 2015-04-17 한국과학기술원 가상현실 기반의 3차원 웹 검색 인터페이스를 제공하는 웹 검색 시스템 및 그 제공 방법
US9436577B2 (en) * 2013-11-22 2016-09-06 Nintendo Co., Ltd. System and method for generating a code execution timeline from an executing program
EP2887195B1 (en) * 2013-12-20 2020-01-22 Dassault Systèmes A computer-implemented method for designing a three-dimensional modeled object
USD754171S1 (en) * 2013-12-30 2016-04-19 Samsung Electronics Co., Ltd. Display screen or portion thereof with animated graphical user interface
US9910884B2 (en) 2014-01-13 2018-03-06 Microsoft Technology Licensing, Llc Resuming items in their last-used presentation modes
US9229674B2 (en) 2014-01-31 2016-01-05 Ebay Inc. 3D printing: marketplace with federated access to printers
KR20150101915A (ko) * 2014-02-27 2015-09-04 삼성전자주식회사 3차원 gui 화면의 표시 방법 및 이를 수행하기 위한 디바이스
EP3111296B1 (en) 2014-02-27 2022-07-27 Aptiv Technologies Limited In-process trapping for service substitution in hosted applications executing on mobile devices with multi operating system environment
USD766323S1 (en) * 2014-02-28 2016-09-13 Citibank, N.A. Touchscreen display or portion thereof with a graphical user interface
US20150277678A1 (en) * 2014-03-26 2015-10-01 Kobo Incorporated Information presentation techniques for digital content
US9535945B2 (en) 2014-04-30 2017-01-03 Excalibur Ip, Llc Intent based search results associated with a modular search object framework
USD773498S1 (en) 2014-04-30 2016-12-06 Yahoo! Inc. Display screen or portion thereof with a graphical user interface
US9830388B2 (en) 2014-04-30 2017-11-28 Excalibur Ip, Llc Modular search object framework
USD773497S1 (en) 2014-04-30 2016-12-06 Yahoo! Inc. Display screen or portion thereof with a graphical user interface
USD776140S1 (en) * 2014-04-30 2017-01-10 Yahoo! Inc. Display screen with graphical user interface for displaying search results as a stack of overlapping, actionable cards
US9827714B1 (en) 2014-05-16 2017-11-28 Google Llc Method and system for 3-D printing of 3-D object models in interactive content items
US9990126B2 (en) * 2014-05-30 2018-06-05 Visa International Service Association Method for providing a graphical user interface for an electronic transaction with a handheld touch screen device
USD785018S1 (en) * 2014-06-02 2017-04-25 Samsung Electronics Co., Ltd. Display screen or portion thereof with graphical user interface
USD755798S1 (en) * 2014-08-26 2016-05-10 Tencent Technology (Shenzhen) Company Limited Portion of a display screen with graphical user interface
WO2016036510A1 (en) 2014-09-02 2016-03-10 Apple Inc. Music user interface
US11347793B2 (en) * 2014-09-22 2022-05-31 Interdigital Madison Patent Holdings, Sas Use of depth perception as indicator of search, user interest or preference
US20160132301A1 (en) * 2014-11-06 2016-05-12 Microsoft Technology Licensing, Llc Programmatic user interface generation based on display size
US10949075B2 (en) 2014-11-06 2021-03-16 Microsoft Technology Licensing, Llc Application command control for small screen display
USD787553S1 (en) 2014-11-20 2017-05-23 General Electric Company Display screen or portion thereof with icon
CN105718132B (zh) * 2014-12-05 2018-10-30 富泰华工业(深圳)有限公司 桌面导航系统及方法
US9595037B2 (en) 2014-12-16 2017-03-14 Ebay Inc. Digital rights and integrity management in three-dimensional (3D) printing
USD768702S1 (en) * 2014-12-19 2016-10-11 Amazon Technologies, Inc. Display screen or portion thereof with a graphical user interface
USD792444S1 (en) * 2014-12-26 2017-07-18 Sony Corporation Display panel or screen with transitional graphical user interface
US20160216858A1 (en) * 2015-01-22 2016-07-28 Manzurul Khan Method and program product for an interactive e-book
CN105988760A (zh) * 2015-02-10 2016-10-05 上海品奇数码科技有限公司 基于打印的互动显示方法及系统
US20160247077A1 (en) * 2015-02-19 2016-08-25 Hcl Technologies Limited System and method for processing raw data
US9857939B2 (en) 2015-02-27 2018-01-02 Accenture Global Services Limited Three-dimensional virtualization
US20160259523A1 (en) * 2015-03-06 2016-09-08 Greg Watkins Web Comments with Animation
US10095396B2 (en) 2015-03-08 2018-10-09 Apple Inc. Devices, methods, and graphical user interfaces for interacting with a control object while dragging another object
US9645732B2 (en) 2015-03-08 2017-05-09 Apple Inc. Devices, methods, and graphical user interfaces for displaying and using menus
US10048757B2 (en) 2015-03-08 2018-08-14 Apple Inc. Devices and methods for controlling media presentation
US9785305B2 (en) 2015-03-19 2017-10-10 Apple Inc. Touch input cursor manipulation
US10088993B2 (en) * 2015-04-01 2018-10-02 Ebay Inc. User interface for controlling data navigation
US20170045981A1 (en) 2015-08-10 2017-02-16 Apple Inc. Devices and Methods for Processing Touch Inputs Based on Their Intensities
USD759083S1 (en) * 2015-04-02 2016-06-14 Xerox Corporation Production inkjet printer screen with graphical user interface
USD791830S1 (en) * 2015-04-10 2017-07-11 Visa International Service Association Display screen or portion thereof with animated graphical user interface
USD777752S1 (en) * 2015-04-30 2017-01-31 Cinematique LLC Display panel or portion thereof with animated graphical user interface
USD777751S1 (en) * 2015-04-30 2017-01-31 Cinematique LLC Display panel or portion thereof with animated graphical user interface
EP3292524B1 (en) 2015-05-06 2020-07-08 Haworth, Inc. Virtual workspace viewport follow mode in collaboration systems
CA2980124A1 (en) 2015-05-13 2016-11-17 Halliburton Energy Services, Inc. Timeline visualization of events for monitoring well site drilling operations
US10417259B2 (en) * 2015-05-13 2019-09-17 International Business Machines Corporation Representing search results via a three-dimensional matrix
US20160342590A1 (en) * 2015-05-20 2016-11-24 Fti Consulting, Inc. Computer-Implemented System And Method For Sorting, Filtering, And Displaying Documents
USD786910S1 (en) 2015-05-25 2017-05-16 Mitsubishi Electric Corporation Display screen with graphical user interface
USD771650S1 (en) * 2015-06-02 2016-11-15 Nobotgames, Inc. Display screen or portion thereof with graphical user interface
US10289290B2 (en) * 2015-06-04 2019-05-14 Samsung Electronics Co., Ltd. Apparatus and method for displaying a portion of a plurality of background applications
US10268647B2 (en) * 2015-06-05 2019-04-23 Apple Inc. Asset catalog layered image support
US9860451B2 (en) 2015-06-07 2018-01-02 Apple Inc. Devices and methods for capturing and interacting with enhanced digital images
US9674426B2 (en) 2015-06-07 2017-06-06 Apple Inc. Devices and methods for capturing and interacting with enhanced digital images
CN106325652B (zh) * 2015-06-19 2019-12-10 深圳超多维科技有限公司 图形用户界面交互方法及触摸终端
FR3038995B1 (fr) * 2015-07-15 2018-05-11 F4 Dispositif interactif a affichage personnalisable
WO2017018388A1 (ja) 2015-07-29 2017-02-02 京セラ株式会社 ウェアラブル装置、制御方法及び制御プログラム
JP6510648B2 (ja) * 2015-07-29 2019-05-08 京セラ株式会社 ウェアラブル装置、制御方法及び制御プログラム
US10447761B2 (en) * 2015-07-31 2019-10-15 Page Vault Inc. Method and system for capturing web content from a web server as a set of images
USD789983S1 (en) * 2015-08-12 2017-06-20 Samsung Electronics Co., Ltd. Display screen or portion thereof with animated graphical user interface
US11009939B2 (en) * 2015-09-10 2021-05-18 Verizon Media Inc. Methods and systems for generating and providing immersive 3D displays
CN106030523B (zh) * 2015-09-21 2019-03-29 上海欧拉网络技术有限公司 一种在手机桌面上实现3d动效交互的方法及装置
CN108028798B (zh) 2015-09-28 2022-09-09 微软技术许可有限责任公司 用于统一的消息传递平台的方法、装置和计算机设备
CN108027664B (zh) * 2015-09-28 2021-05-28 微软技术许可有限责任公司 统一的虚拟现实平台
FR3042620B1 (fr) 2015-10-16 2017-12-08 F4 Dispositif web interactif a affichage personnalisable
KR20170051950A (ko) * 2015-11-03 2017-05-12 삼성전자주식회사 전자 장치, 전자 장치의 디스플레이 제어 방법
CN105607946B (zh) * 2015-11-05 2019-04-05 努比亚技术有限公司 一种移动终端及其实现应用分类管理的方法
CN105381611A (zh) * 2015-11-19 2016-03-09 网易(杭州)网络有限公司 一种2d游戏场景分层实现立体表现的方法及装置
USD801384S1 (en) * 2015-12-24 2017-10-31 Samsung Electronics Co., Ltd. Display screen or portion thereof with transitional icon
GB201523166D0 (en) 2015-12-31 2016-02-17 Jones Maria F Direct integration system
USD788166S1 (en) * 2016-03-07 2017-05-30 Facebook, Inc. Display screen with animated graphical user interface
US10719193B2 (en) * 2016-04-20 2020-07-21 Microsoft Technology Licensing, Llc Augmenting search with three-dimensional representations
CN107360120B (zh) * 2016-05-10 2019-06-11 华为技术有限公司 虚拟网络功能的审计方法和装置
US10228836B2 (en) * 2016-05-23 2019-03-12 Unity IPR ApS System and method for generation of 3D virtual objects
US10637986B2 (en) 2016-06-10 2020-04-28 Apple Inc. Displaying and updating a set of application views
DK201670595A1 (en) 2016-06-11 2018-01-22 Apple Inc Configuring context-specific user interfaces
DK201770423A1 (en) 2016-06-11 2018-01-15 Apple Inc Activity and workout updates
US11816325B2 (en) 2016-06-12 2023-11-14 Apple Inc. Application shortcuts for carplay
US10416836B2 (en) * 2016-07-11 2019-09-17 The Boeing Company Viewpoint navigation control for three-dimensional visualization using two-dimensional layouts
JP7128450B2 (ja) * 2016-07-13 2022-08-31 トリヴァー,インコーポレイテッド オンライン環境において使用する三次元デジタルアセットを生成し表示する方法およびシステム
US11880954B2 (en) 2016-07-13 2024-01-23 Trivver, Inc. Methods and systems for generating digital smart objects for use in a three dimensional environment
US10769859B2 (en) 2016-07-13 2020-09-08 Trivver, Inc. Methods and systems for displaying digital smart objects in a three dimensional environment
US20180063205A1 (en) * 2016-08-30 2018-03-01 Augre Mixed Reality Technologies, Llc Mixed reality collaboration
US20180095618A1 (en) * 2016-10-04 2018-04-05 Facebook, Inc. Controls and Interfaces for User Interactions in Virtual Spaces
CN109863467B (zh) * 2016-10-21 2022-01-25 惠普发展公司,有限责任合伙企业 虚拟现实输入的系统、方法和存储介质
KR20180080629A (ko) 2017-01-04 2018-07-12 삼성전자주식회사 전자 장치 및 전자 장치의 어플리케이션 실행 히스토리 표시 방법
US10509794B2 (en) * 2017-04-28 2019-12-17 Splunk Inc. Dynamically-generated files for visualization sharing
US11431836B2 (en) 2017-05-02 2022-08-30 Apple Inc. Methods and interfaces for initiating media playback
US10992795B2 (en) 2017-05-16 2021-04-27 Apple Inc. Methods and interfaces for home media control
US10928980B2 (en) 2017-05-12 2021-02-23 Apple Inc. User interfaces for playing and managing audio items
CN111343060B (zh) 2017-05-16 2022-02-11 苹果公司 用于家庭媒体控制的方法和界面
US20220279063A1 (en) 2017-05-16 2022-09-01 Apple Inc. Methods and interfaces for home media control
USD936663S1 (en) 2017-06-04 2021-11-23 Apple Inc. Display screen or portion thereof with graphical user interface
US11126325B2 (en) * 2017-10-23 2021-09-21 Haworth, Inc. Virtual workspace including shared viewport markers in a collaboration system
US11934637B2 (en) 2017-10-23 2024-03-19 Haworth, Inc. Collaboration system including markers identifying multiple canvases in multiple shared virtual workspaces
USD857033S1 (en) 2017-11-07 2019-08-20 Apple Inc. Electronic device with graphical user interface
US10754523B2 (en) * 2017-11-27 2020-08-25 International Business Machines Corporation Resizing of images with respect to a single point of convergence or divergence during zooming operations in a user interface
USD877096S1 (en) * 2017-12-11 2020-03-03 Brita Gmbh Dispensing device panel
US11366571B2 (en) * 2018-05-04 2022-06-21 Dentma, LLC Visualization components including sliding bars
US11567628B2 (en) * 2018-07-05 2023-01-31 International Business Machines Corporation Cognitive composition of multi-dimensional icons
US10847136B2 (en) * 2018-09-06 2020-11-24 Nice Ltd. System and method for mapping a customer journey to a category
US10956914B2 (en) * 2018-09-06 2021-03-23 Nice Ltd. System and method for mapping a customer journey to a category
JP2022505469A (ja) 2018-10-21 2022-01-14 オラクル・インターナショナル・コーポレイション 仮想ダッシュボードにおける視覚化オブジェクト間のアニメーション
US20220057916A1 (en) * 2018-12-19 2022-02-24 Shanghai Yu Wa Information Technology Co. Ltd. Method and apparatus for organizing and invoking commands for a computing device
CN111367598B (zh) * 2018-12-26 2023-11-10 三六零科技集团有限公司 动作指令的处理方法、装置、电子设备及计算机可读存储介质
US11853533B1 (en) * 2019-01-31 2023-12-26 Splunk Inc. Data visualization workspace in an extended reality environment
USD926204S1 (en) * 2019-02-15 2021-07-27 Canva Pty Ltd Display screen or portion thereof with a graphical user interface
TWI711993B (zh) * 2019-04-24 2020-12-01 第一商業銀行股份有限公司 客製化暨圖形化操作介面銀行系統及其控制方法
US11385785B2 (en) 2019-05-01 2022-07-12 Google Llc Interface for multiple simultaneous interactive views
EP3756081A1 (en) 2019-05-01 2020-12-30 Google LLC Interface for multiple simultaneous interactive views
US11520469B2 (en) * 2019-05-01 2022-12-06 Google Llc Interface for multiple simultaneous interactive views
US11675476B2 (en) 2019-05-05 2023-06-13 Apple Inc. User interfaces for widgets
EP4231124A1 (en) 2019-05-31 2023-08-23 Apple Inc. User interfaces for audio media control
US10996917B2 (en) 2019-05-31 2021-05-04 Apple Inc. User interfaces for audio media control
CN110968232A (zh) * 2020-01-01 2020-04-07 梅炯 一种计算机操作系统的gui交互结构及操作方法
USD1009886S1 (en) * 2020-03-25 2024-01-02 Nasdaq, Inc. Display screen or portion thereof with animated graphical user interface
USD998624S1 (en) * 2020-03-25 2023-09-12 Nasdaq, Inc. Display screen or portion thereof with animated graphical user interface
US11750672B2 (en) 2020-05-07 2023-09-05 Haworth, Inc. Digital workspace sharing over one or more display clients in proximity of a main client
US11392291B2 (en) 2020-09-25 2022-07-19 Apple Inc. Methods and interfaces for media control with dynamic feedback
USD1021950S1 (en) * 2020-11-17 2024-04-09 Carrier Corporation Display screen or portion thereof with icon
US20220365631A1 (en) * 2021-05-17 2022-11-17 Google Llc Systems and methods for asynchronous sub-window interaction in application views
USD974383S1 (en) * 2021-05-19 2023-01-03 Snap Inc. Display screen or portion thereof with a graphical user interface
CN113867585B (zh) * 2021-09-24 2023-07-28 维沃移动通信有限公司 界面显示方法、装置、电子设备和存储介质
US20230127460A1 (en) * 2021-10-22 2023-04-27 Ebay Inc. Digital Content View Control System
CN116563495A (zh) * 2022-01-27 2023-08-08 腾讯科技(深圳)有限公司 一种数据处理方法、计算机设备以及可读存储介质
US11614619B1 (en) * 2022-04-11 2023-03-28 Voyetra Turtle Beach, Inc. Headset dynamic windowing
US11836205B2 (en) * 2022-04-20 2023-12-05 Meta Platforms Technologies, Llc Artificial reality browser configured to trigger an immersive experience
US11755180B1 (en) 2022-06-22 2023-09-12 Meta Platforms Technologies, Llc Browser enabled switching between virtual worlds in artificial reality

Family Cites Families (48)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05127809A (ja) 1991-04-19 1993-05-25 Sharp Corp 三次元空間座標入力装置
US5428735A (en) * 1992-12-28 1995-06-27 International Business Machines Corporation Method and apparatus for maintaining a record of set-creating data processing activities and associated data sets
US6262732B1 (en) * 1993-10-25 2001-07-17 Scansoft, Inc. Method and apparatus for managing and navigating within stacks of document pages
US6040833A (en) * 1993-12-10 2000-03-21 International Business Machines Corp. Method and system for display manipulation of multiple applications in a data processing system
US5689628A (en) * 1994-04-14 1997-11-18 Xerox Corporation Coupling a display object to a viewpoint in a navigable workspace
JP3517457B2 (ja) * 1994-09-08 2004-04-12 キヤノン株式会社 ウィンドウシステム及びその制御方法
US5621906A (en) * 1995-02-13 1997-04-15 The Trustees Of Columbia University In The City Of New York Perspective-based interface using an extended masthead
US5880733A (en) * 1996-04-30 1999-03-09 Microsoft Corporation Display system and method for displaying windows of an operating system to provide a three-dimensional workspace for a computer system
US6006227A (en) * 1996-06-28 1999-12-21 Yale University Document stream operating system
US6768999B2 (en) * 1996-06-28 2004-07-27 Mirror Worlds Technologies, Inc. Enterprise, stream-based, information management system
US5835094A (en) * 1996-12-31 1998-11-10 Compaq Computer Corporation Three-dimensional computer environment
JPH10283158A (ja) * 1997-02-04 1998-10-23 Fujitsu Ltd ウィンドウの立体表示装置及びその方法
EP0970416B1 (en) * 1997-03-28 2002-06-12 Sun Microsystems, Inc. Method and apparatus for configuring sliding panels
US6734884B1 (en) * 1997-04-04 2004-05-11 International Business Machines Corporation Viewer interactive three-dimensional objects and two-dimensional images in virtual three-dimensional workspace
US6121969A (en) * 1997-07-29 2000-09-19 The Regents Of The University Of California Visual navigation in perceptual databases
WO1999008178A1 (fr) * 1997-08-12 1999-02-18 Matsushita Electric Industrial Co., Ltd. Dispositif d'affichage a fenetres
US6597358B2 (en) * 1998-08-26 2003-07-22 Intel Corporation Method and apparatus for presenting two and three-dimensional computer applications within a 3D meta-visualization
US6414677B1 (en) * 1998-09-14 2002-07-02 Microsoft Corporation Methods, apparatus and data structures for providing a user interface, which exploits spatial memory in three-dimensions, to objects and which visually groups proximally located objects
WO2000060442A1 (en) * 1999-04-06 2000-10-12 Microsoft Corporation Method and apparatus for providing a three-dimensional task gallery computer interface
US7119819B1 (en) * 1999-04-06 2006-10-10 Microsoft Corporation Method and apparatus for supporting two-dimensional windows in a three-dimensional environment
US7685534B2 (en) * 2000-02-16 2010-03-23 Jlb Ventures Llc Method and apparatus for a three-dimensional web-navigator
US6499029B1 (en) * 2000-03-29 2002-12-24 Koninklijke Philips Electronics N.V. User interface providing automatic organization and filtering of search criteria
JP4325075B2 (ja) * 2000-04-21 2009-09-02 ソニー株式会社 データオブジェクト管理装置
US6879322B2 (en) * 2000-05-30 2005-04-12 Fujitsu Limited Three-dimensional object display system, three-dimensional object display method and recording medium recording a three-dimensional object display program
US7168051B2 (en) * 2000-10-10 2007-01-23 Addnclick, Inc. System and method to configure and provide a network-enabled three-dimensional computing environment
US6922815B2 (en) * 2000-11-21 2005-07-26 James A. Nolen, III Display method and apparatus for facilitating interaction with Web sites
US6915489B2 (en) * 2001-03-28 2005-07-05 Hewlett-Packard Development Company, L.P. Image browsing using cursor positioning
WO2002093352A1 (en) * 2001-05-11 2002-11-21 3Dna Corp. Method and system for generating a three-dimensional graphical user interface (3d gui) for computer systems and websites
US20030164827A1 (en) * 2001-05-18 2003-09-04 Asaf Gottesman System and method for displaying search results in a three-dimensional virtual environment
EP2309461A1 (en) * 2001-05-22 2011-04-13 Yoav Shefi Method and system for displaying visual content in a virtual three-dimensional space
US20030142136A1 (en) * 2001-11-26 2003-07-31 Carter Braxton Page Three dimensional graphical user interface
JP2003281187A (ja) * 2002-03-20 2003-10-03 Fujitsu Ltd 仮想三次元情報閲覧方法、コンピュータプログラム及び記録媒体
US7249327B2 (en) * 2002-03-22 2007-07-24 Fuji Xerox Co., Ltd. System and method for arranging, manipulating and displaying objects in a graphical user interface
US7269797B1 (en) * 2002-03-28 2007-09-11 Fabrizio Bertocci Mechanism to organize windows in a graphic application
US20040216056A1 (en) * 2003-04-22 2004-10-28 Computer Associates Think, Inc. System and method for supporting scrolling of contents in a display
EP2357623A1 (en) * 2003-04-25 2011-08-17 Apple Inc. Graphical user interface for browsing, searching and presenting media items
US20050030309A1 (en) * 2003-07-25 2005-02-10 David Gettman Information display
US7467356B2 (en) * 2003-07-25 2008-12-16 Three-B International Limited Graphical user interface for 3d virtual display browser using virtual display windows
US6990637B2 (en) * 2003-10-23 2006-01-24 Microsoft Corporation Graphical user interface for 3-dimensional view of a data collection based on an attribute of the data
JP4341408B2 (ja) * 2004-01-15 2009-10-07 パナソニック株式会社 画像表示方法及び装置
US7487463B2 (en) * 2004-02-17 2009-02-03 Sun Microsystems, Inc. Multiprocess input redirection in a 3D window system
US20060041846A1 (en) * 2004-08-19 2006-02-23 International Business Machines Corporation Method of window management for a windowing system
WO2006031741A2 (en) * 2004-09-10 2006-03-23 Topixa, Inc. User creating and rating of attachments for conducting a search directed by a hierarchy-free set of topics, and a user interface therefor
US8418075B2 (en) * 2004-11-16 2013-04-09 Open Text Inc. Spatially driven content presentation in a cellular environment
US8341541B2 (en) * 2005-01-18 2012-12-25 Microsoft Corporation System and method for visually browsing of open windows
US20060253791A1 (en) * 2005-05-03 2006-11-09 Kuiken David P Simplified interactive graphical user interfaces for sorting through a stack of overlapping windows on a display in order along the Z (depth) axis
US7599954B2 (en) * 2005-08-18 2009-10-06 Microsoft Corporation Customizing a file open dialog using a namespace extension to allow searching
US7673233B2 (en) * 2005-09-08 2010-03-02 Microsoft Corporation Browser tab management

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009093633A (ja) * 2007-10-11 2009-04-30 Internatl Business Mach Corp <Ibm> 複数の検索を実行するためのコンピュータ実装方法、データ処理システム及びコンピュータ・プログラム
JP2011507130A (ja) * 2007-12-18 2011-03-03 マイクロソフト コーポレーション ピラミッド状容量広告スペース
US8561015B2 (en) 2009-06-15 2013-10-15 Microsoft Corporation Source code semantic zoom and spatial layout
JP2013503406A (ja) * 2009-08-31 2013-01-31 マイクロソフト コーポレーション 視覚検索および三次元結果
JP2011114868A (ja) * 2009-11-23 2011-06-09 Samsung Electronics Co Ltd Gui提供方法及びこれを用いたディスプレイ装置と3d映像提供システム
US9307224B2 (en) 2009-11-23 2016-04-05 Samsung Electronics Co., Ltd. GUI providing method, and display apparatus and 3D image providing system using the same
JP2012060636A (ja) * 2010-09-08 2012-03-22 Nhn Corp 3次元コンテンツを提供する方法およびシステム
KR101139238B1 (ko) 2011-06-20 2012-05-14 유택상 아이디어 창출 지원 방법 및 시스템
WO2012177018A3 (en) * 2011-06-20 2013-04-04 Taek Sang Yoo Method and system for supporting creation of ideas
US10296170B2 (en) 2015-09-29 2019-05-21 Toshiba Client Solutions CO., LTD. Electronic apparatus and method for managing content
JP2019516182A (ja) * 2016-07-25 2019-06-13 バイドゥ オンライン ネットワーク テクノロジー (ベイジン) カンパニー リミテッド 検索結果用インタラクティブ方法及び装置
US11100180B2 (en) 2016-07-25 2021-08-24 Baidu Online Network Technology (Beijing) Co., Ltd. Interaction method and interaction device for search result

Also Published As

Publication number Publication date
US8881048B2 (en) 2014-11-04
EP1932141A2 (en) 2008-06-18
US7735018B2 (en) 2010-06-08
US20210357100A1 (en) 2021-11-18
US20150149965A1 (en) 2015-05-28
US20200089390A1 (en) 2020-03-19
US20210357101A1 (en) 2021-11-18
CN101300621A (zh) 2008-11-05
US9696868B2 (en) 2017-07-04
CA2621488A1 (en) 2007-03-22
WO2007033354A2 (en) 2007-03-22
US20210357099A1 (en) 2021-11-18
US20070070066A1 (en) 2007-03-29
US20110029907A1 (en) 2011-02-03
CN101300621B (zh) 2010-11-10
US20150128059A1 (en) 2015-05-07
EP1932141A4 (en) 2009-08-19
US20170336942A1 (en) 2017-11-23
WO2007033354A3 (en) 2007-11-01
US11112931B2 (en) 2021-09-07
US9304654B2 (en) 2016-04-05

Similar Documents

Publication Publication Date Title
US20210357101A1 (en) System and Method for Providing Three-Dimensional Graphical User Interface
JP4837919B2 (ja) ユーザインタフェースの同軸ナビゲーションのためのシステムおよび方法
US8533580B1 (en) System and method of navigating linked web resources
US8756510B2 (en) Method and system for displaying photos, videos, RSS and other media content in full-screen immersive view and grid-view using a browser feature
US6636246B1 (en) Three dimensional spatial user interface
Bederson et al. Zooming web browser
US20110169927A1 (en) Content Presentation in a Three Dimensional Environment
US20070162953A1 (en) Media package and a system and method for managing a media package
US20080040322A1 (en) Web presence using cards
US20100257468A1 (en) Method and system for an enhanced interactive visualization environment
EP1281115A2 (en) A three dimensional spatial user interface
JPWO2006028154A1 (ja) 情報管理システム、情報管理方法、情報管理プログラムおよびその記録媒体
JP2006107020A (ja) コンテンツ・マネジメント・システム及びコンテンツ・マネジメント方法、並びにコンピュータ・プログラム
Hung A hypervideo system generator
US20130156399A1 (en) Embedding content in rich media
US20130263025A1 (en) System and method for presenting content associated with a geobrowser
Deligiannidis et al. The London walkthrough in an immersive digital library environment
Wolf Three-dimensional information visualisation: The harmony information landscape
Mendoza et al. Implementation of a Touch Based Graphical User Interface for Semantic Information System

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090630

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110210

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110629