JP2020077365A - 画像表示システム、オペレーティングシステムおよび画像表示システムの制御方法 - Google Patents

画像表示システム、オペレーティングシステムおよび画像表示システムの制御方法 Download PDF

Info

Publication number
JP2020077365A
JP2020077365A JP2019151668A JP2019151668A JP2020077365A JP 2020077365 A JP2020077365 A JP 2020077365A JP 2019151668 A JP2019151668 A JP 2019151668A JP 2019151668 A JP2019151668 A JP 2019151668A JP 2020077365 A JP2020077365 A JP 2020077365A
Authority
JP
Japan
Prior art keywords
elastic layer
icons
image display
display system
icon
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019151668A
Other languages
English (en)
Inventor
憲彦 齋藤
Norihiko Saito
憲彦 齋藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Saito Sozo Lab Co Ltd
Original Assignee
Saito Sozo Lab Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Saito Sozo Lab Co Ltd filed Critical Saito Sozo Lab Co Ltd
Publication of JP2020077365A publication Critical patent/JP2020077365A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Position Input By Displaying (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)

Abstract

【課題】感覚的な操作が可能で、優れた操作性を有する画像表示システム、オペレーティングシステムおよび画像表示システムの制御方法を提供すること。【解決手段】画像表示システム1は、画像を表示する端末7と、端末7を操作する入力装置2と、を有する。また、入力装置2は、外力が入力される弾性層22と、弾性層22に配置され、弾性層22の変形に伴って変位するマーカーMと、を有する弾性入力部28と、マーカーMの変位に基づいて弾性層22の変形を検出する検出部23と、を備える。また、端末7に表示されるインターフェース70は、三次元的に配列された複数のアイコン71を有し、入力装置2からの入力により、複数のアイコン71が移動する。【選択図】図1

Description

本発明は、画像表示システム、オペレーティングシステムおよび画像表示システムの制御方法に関する。
例えば、パーソナルコンピューターへの入力は、特許文献1に示すような公知のマウス、キーボード等が使用される。
特表2004−306709号公報
しかしながら、マウス、キーボード等の既存の入力装置では、直感的で多彩な入力を行うことができない。
本発明の目的は、感覚的で多彩な操作が可能で、優れた操作性を有する画像表示システム、オペレーティングシステムおよび画像表示システムの制御方法を提供することにある。
このような目的は、下記の本発明により達成される。
(1) 画像を表示する端末と、
前記端末を操作する入力装置と、を有し、
前記入力装置は、
外力が入力される弾性層と、前記弾性層に配置され、前記弾性層の変形に伴って変位するマーカーと、を有する弾性入力部と、
前記マーカーの変位を検出する検出部と、を備えることを特徴とする画像表示システム。
(2) 前記端末に表示される前記画像としてのインターフェースは、三次元的に配列された複数のアイコンを有し、
前記入力装置からの入力により、前記複数のアイコンのうちの少なくとも1つが移動する上記(1)に記載の画像表示システム。
(3) 前記複数のアイコンの少なくとも一部は、前記インターフェースに仮想的に設定された仮想立体の表面に沿って配置され、前記仮想立体の表面に沿って移動する上記(2)に記載の画像表示システム。
(4) 前記仮想立体は、球形である上記(3)に記載の画像表示システム。
(5) 前記仮想立体は、少なくとも1つの前記アイコンが配置された第1層と、前記第1層の内側に設けられ、少なくとも1つの前記アイコンが配置された第2層と、を有する上記(2)から(4)のいずれかに記載の画像表示システム。
(6) 前記入力装置からの入力により、前記第2層に配置された前記アイコンが前記1層に移動する上記(5)に記載の画像表示システム。
(7) 前記仮想立体は、少なくとも1つの前記アイコンが配置された第1仮想立体と、少なくとも1つの前記アイコンが配置された第2仮想立体と、を有する上記(3)から(6)のいずれかに記載の画像表示システム。
(8) 前記第2仮想立体は、前記第1仮想立体を囲む環状である上記(7)に記載の画像表示システム。
(9) 前記弾性層を捩じることにより、その捩じり方向に沿って前記アイコンが移動する上記(3)から(8)のいずれかに記載の画像表示システム。
(10) 前記弾性層を押圧することにより、前記複数のアイコンのうちの少なくとも1つが選択され、選択された前記アイコンに基づくプログラムが実行される上記(3)から(9)のいずれかに記載の画像表示システム。
(11) 前記仮想立体の、前記弾性層の押圧個所に対応する部分に位置する前記アイコンが選択される上記(10)に記載の画像表示システム。
(12) 前記弾性層は、
使用者側に位置する前面部と、
前記前面部の反対側に位置する背面部と、を有し、
前記背面部を押圧することにより、複数の前記アイコンのうちの少なくとも1つが選択され、選択された前記アイコンが前記仮想立体の表面から離脱するように移動する上記(3)から(11)のいずれかに記載の画像表示システム。
(13) 前記仮想立体は、前記弾性層と同じ外形である上記(3)から(12)のいずれかに記載の画像表示システム。
(14) 画像を表示する端末に、三次元的に配列された複数のアイコンを有する前記画像としてのインターフェースを表示し、
入力装置からの入力に基づいて、前記複数のアイコンを三次元的に移動させることを特徴とするオペレーティングシステム。
(15) 画像を表示する端末と、
前記端末を操作する入力装置と、を有し、
前記入力装置は、
外力が入力される弾性層と、前記弾性層に配置され、前記弾性層の変形に伴って変位するマーカーと、を有する弾性入力部と、
前記マーカーの変位を検出する検出部と、を備える画像表示システムの制御方法であって、
前記端末に、三次元的に配列された複数のアイコンを有する前記画像としてのインターフェースを表示し、
前記入力装置からの入力に基づいて、前記複数のアイコンを三次元的に移動させることを特徴とする画像表示システムの制御方法。
本発明によれば、入力装置の弾性層を押したり、捩じったり、摘まんで引っ張ったりすることにより入力が行われる。そのため、人間が日常で行う動作によって入力が可能であり、また感覚的で多彩な操作が可能となる。そのため、優れた操作性を発揮することができる画像表示システム、オペレーティングシステムおよび画像表示システムの制御方法が得られる。
本発明の第1実施形態に係る画像表示システムの全体構成を示す図である。 図1に示す画像表示システムが有する入力装置の断面図である。 図2に示す入力装置の部分拡大断面図である。 図1に示すHMDに表示されるインターフェースを示す図である。 図4に示すインターフェースの変形例を示す図である。 インターフェースの操作方法を示す図である。 インターフェースの操作方法を示す図である。 インターフェースの操作方法を示す図である。 インターフェースの操作方法を示す図である。 インターフェースの操作方法を示す図である。 インターフェースの操作方法を示す図である。 インターフェースの操作方法を示す図である。 インターフェースの操作方法を示す図である。 インターフェースの操作方法を示す図である。 インターフェースの操作方法を示す図である。 インターフェースの操作方法を示す図である。 本発明の第2実施形態に係る画像表示システムが有する入力装置の部分拡大断面図である。 本発明の第3実施形態に係る画像表示システムが有するインターフェースを示す仮想断面図である。 本発明の第4実施形態に係る画像表示システムが有するインターフェースを示す図である。 ユーザーが入力装置を把持した状態を示す図である。 インターフェースの操作方法を示す図である。 インターフェースの操作方法を示す図である。 本発明の第5実施形態に係る画像表示システムが有するインターフェースを示す図である。 インターフェースの操作方法を示す図である。 インターフェースの操作方法を示す図である。 本発明の第6実施形態に係る画像表示システムが有するインターフェースを示す図である。 本発明の第7実施形態に係る画像表示システムが有するインターフェースを示す図である。 インターフェースの操作方法を示す図である。
以下、本発明の画像表示システムおよび画像表示システムの制御方法を添付図面に示す好適な実施形態に基づいて詳細に説明する。
<第1実施形態>
図1に、画像表示システム1を示す。画像表示システム1は、画像を表示可能な端末7と、端末7に情報を入力する入力装置2と、を有する。なお、端末7および入力装置2は、有線、無線等の各種通信手段によって接続されている。また、端末7は、所定のプログラムを実行する少なくとも1つのCPU81と、プログラムやデータを一時的に格納するメインメモリ82と、フラッシュメモリのような補助メモリ83と、を有するコンピュータ本体8と、コンピュータ本体8の出力装置としてのディスプレイ9と、を有する。また、ディスプレイ9は、ヘッドマウントディスプレイ90で構成されている。
ヘッドマウントディスプレイ90は、ユーザーUの頭部に装着して使用され、ユーザーUに画像を外界像と重畳した状態で視認させる装置である。すなわち、ヘッドマウントディスプレイ90は、拡張現実(AR)型のヘッドマウントディスプレイである。ヘッドマウントディスプレイ90は、ユーザーUの頭部に装着されるフレーム91と、フレーム91に支持された表示部92と、表示部92に表示する画像を形成する画像形成装置93と、を有する。画像形成装置93は、コンピュータ本体8から出力される出力信号に基づいた画像を表示部92に表示する。
フレーム91は、眼鏡フレームのような形状をなし、本来レンズである部位には表示部92が設けられている。表示部92は、例えば、ホログラム素子、ハーフミラー等で構成された画面921を有し、画面921に画像形成装置93が形成した画像を表示することにより、ユーザーには外界像と画像とが重なって見える。なお、画像形成装置93としては、特に限定されないが、例えば、有機ELパネル、液晶パネル等を用いた表示装置やレーザーを走査して画像を形成する光走査型の表示装置を用いることができる。また、画面921を省略し、ユーザーUの網膜にレーザー光を走査することで網膜に直接画像を形成する直描型のヘッドマウントディスプレイを用いてもよい。また、図1では、画面921が右眼側にしか設けられていないが、左目側にも設け、右眼用の画像と左目用の画像とを用いた三次元表示が可能となっていてもよい。
なお、本実施形態では、ディスプレイ9としてヘッドマウントディスプレイ90を用いているが、ディスプレイ9としては、画像を表示することができれば、特に限定されない。例えば、デスクトップ型のモニタ、スマートフォン、タブレット端末等の携帯端末装置に一体化されたモニタ等であってもよい。また、ヘッドマウントディスプレイ90として、仮想現実(VR)型のヘッドマウントディスプレイを用いてもよい。
図2に入力装置2の断面を示す。入力装置2は、球状の基体21と、基体21の外周に設けられた球状の弾性入力部28と、を有する。なお、説明の便宜上、図2において、弾性入力部の断面からハッチングを省略している。また、弾性入力部28は、外力が入力される弾性層22と、弾性層22に配置され、弾性層22の変形に伴って変位するマーカーMと、を有する。また、入力装置2は、マーカーMの変位に基づいて弾性層22の変形を検出する検出部23と、検出部23の検出結果から入力信号を生成する信号生成部24と、基体21内から弾性入力部28を照らす光源25と、入力装置2の姿勢を検出する姿勢検出部26と、を有する。そして、信号生成部24で生成された入力信号がコンピュータ本体8に送信され、コンピュータ本体8は、受けた入力信号に基づいて各種処理を行う。
基体21は、硬質な部材、具体的には指による押圧程度では実質的に変形しない程度の硬さを有する部材で構成されている。また、基体21は、光透過性を有している。本実施形態では、基体21は、樹脂材料で構成され、実質的に無色透明である。ただし、基体21の構成は、これに限定されず、指による押圧によって容易に変形するほど柔らかくてもよい。また、弾性層22が基体21に支持されなくても一定の形状を保つことができる程度に硬い場合等には、基体21を省略してもよい。
弾性層22は、弾性を有する入力部である。例えば、ユーザーUは、弾性層22を押したり、摘まんだり、捩じったり、引っ張ったりすることにより入力装置2への入力を行う。これらの各動作は、人間が日常、特に意識することなく行っている動作である。そのため、直感的、感覚的な入力が可能であり、優れた操作性を有する入力装置2となる。また、入力装置2によれば、弾性層22への入力の強さ、ベクトル、速度等をユーザーUが無段階で自由に決定することができる。しかも、入力途中で、そのベクトルや速度を自由に変化させることもできる。そのため、入力装置2によれば、より細かく多彩な入力が可能となる。
図2に示すように、弾性層22は、外力が入力される第1面としての外周面22’および外周面22’の反対側に位置する第2面としての内周面22”を有する。弾性層22は、基体21に支持され、基体21に倣った球状となっている。弾性層22を球状とすることにより、入力装置2を両手で包み込むように保持することができ、弾性層22に指を添え易くなり、弾性層22への入力をより自然に行うことができる。また、弾性層22を引っ張り易くもなるし、摘まみ易くもなるため、より繊細な入力を行うことができる。ただし、弾性層22の外形としては、特に限定されず、球状の他にも、例えば、半球状、正四面体状、正六面体状、正八面体状等の多面体状、平らなシート状等であってもよい。
弾性層22には、弾性層22の変形によって変位するマーカーMが配置されている。マーカーMは、検出部23で検出可能な検出対象である。マーカーMは、弾性層22の厚さ方向にずれて配置され、基体21からの距離が互いに異なる第1マーカーM1、第2マーカーM2および第3マーカーM3を有する。これら第1マーカーM1、第2マーカーM2および第3マーカーM3は、それぞれ、弾性層22の変形に伴って変位する。そのため、これら第1マーカーM1、第2マーカーM2および第3マーカーM3の変位に基づいて弾性層22の変形を検出でき、弾性層22の変形から弾性層22への入力を検出することができる。
なお、本実施形態では、第1マーカーM1、第2マーカーM2および第3マーカーM3は、それぞれ、ドット状すなわち点形状をなしているが、これに限定されず、線形状、面形状、立体形状等であってもよい。また、複数の第1マーカーM1は、互いに形状が同じであってもよいし、異なっていてもよい。第2、第3マーカーM2、M3についても同様である。
弾性層22は、基体21の表面に配置され、第1マーカーM1を有する第1弾性層221と、第1弾性層221の表面に配置され、第2マーカーM2を有する第2弾性層222と、第2弾性層222の表面に配置され、第3マーカーM3を有する第3弾性層223と、第3弾性層223の表面に配置された保護層224と、を有する。
第1弾性層221、第2弾性層222および第3弾性層223は、それぞれ、光透過性および弾性を有する。そして、第1弾性層221の表面に複数の第1マーカーM1が互いに離間して配置され、第2弾性層222の表面に複数の第2マーカーM2が互いに離間して配置され、第3弾性層223の表面に複数の第3マーカーM3が互いに離間して配置されている。なお、本実施形態では、第1〜第3弾性層221〜223は、それぞれ、実質的に無色透明である。ただし、第1〜第3弾性層221〜223は、光透過性を有していれば、その少なくとも1つが、例えば、有色透明であってもよい。
第1〜第3マーカーM1〜M3は、それぞれ、第1〜第3弾性層221〜223の表面に貼着されたものであってもよいし、第1〜第3弾性層221〜223の表面にインク等を用いて印刷されたものであってもよい。また、例えば、第1〜第3マーカーM1〜M3は、それぞれ、第1〜第3弾性層221〜223内に埋設されていてもよい。
第1〜第3マーカーM1〜M3は、形状および色彩の少なくとも一方が互いに異なっており、検出部23によって識別可能となっている。本実施形態では、第1〜第3マーカーM1〜M3は、互いに色彩が異なっており、例えば、第1マーカーM1が赤色、第2マーカーM2が緑色、第3マーカーM3が青色となっている。なお、第1〜第3マーカーM1〜M3の色彩ではなく形状を互いに異ならせる場合には、例えば、第1マーカーM1を円形、第2マーカーM2を三角形、第3マーカーM3を四角形とすることができる。もちろん、色彩および形状を共に異ならせてもよいし、色彩や形状を異ならせる以外の方法によって第1、第2、第3マーカーM1〜M3を検出部23で識別可能としてもよい。
また、第1〜第3マーカーM1〜M3は、自然状態において、検出部23のカメラ231から見て互いに重ならないように配置されていることが好ましい。すなわち、カメラ231によって撮像される画像上で、第2マーカーM2がその手前にある第1マーカーM1に隠れることなく、第3マーカーM3がその手前にある第1、第2マーカーM1、M2に隠れることがないように配置されていることが好ましい。これにより、カメラ231によって、より多くのマーカーMの変位を検出することができる。そのため、弾性層22への入力をより精度よく検出することができる。なお、前記「自然状態」とは、例えば、弾性層22に重力以外の外力が加わっていない状態を言う。
保護層224は、第3弾性層223の表面に配置された第3マーカーM3を保護する機能を有している。保護層224は、第1〜第3弾性層221〜223と同様に、光透過性および弾性を有している。
以上、弾性入力部28について説明したが、弾性入力部28の構成としては、これに限定されない。例えば、第1マーカーM1を有していれば、第2、第3マーカーM2、M3を省略してもよい。つまり、厚さ方向にずれて配置されたマーカーMが存在していなくてもよい。また、保護層224を省略し、第3マーカーM3が弾性層22の表面に露出していてもよい。
検出部23は、第1〜第3マーカーM1〜M3を変位に基づいて、弾性層22の変形を三次元的に検出する。このような検出部23の構成は、その機能を発揮することができれば、特に限定されないが、本実施形態では、ステレオ写真法を用いて弾性層22の変形を三次元的に検出する。検出部23は、撮像部としての複数のカメラ231を有する。複数のカメラ231は、弾性層22の方を向いて配置され、それぞれ、弾性層22を内周面22”側から撮像する。弾性層22の各部は、少なくとも2つのカメラ231で撮像できるようになっており、これにより、弾性層22の各部を三次元画像認識すなわちステレオ画像認識することができる。なお、前記「弾性層22の各部」とは、弾性層22の全域を意味する場合もあれば、弾性層22の選択された一部の領域を意味する場合もある。
また、図3に示すように、検出部23は、各カメラ231からの画像情報に基づいて弾性層22の三次元画像認識を行う処理部232を有する。処理部232は、例えば、所定のプログラムを実行する少なくとも1つのCPUと、プログラムやデータを一時的に格納するメインメモリと、フラッシュメモリのような補助メモリと、を有するコンピュータで構成されている。
処理部232は、弾性層22への入力に伴う第1〜第3マーカーM1〜M3の変位を三次元画像認識によって検出し、検出結果に基づいて、入力位置、入力方向、入力強度、入力速度、入力加速度等を含む入力情報を得る。以下、この入力情報を「接触入力情報」とも言う。特に、本実施形態では、第1〜第3マーカーM1〜M3が弾性層22の厚さ方向にずれて配置されている。そのため、検出部23は、弾性層22の内層、中間層、外層のそれぞれでの変形を検出することができ、弾性層22の変形をより詳細に検出することができる。
ここで、処理部232による入力情報の取得方法の一例について簡単に説明する。処理部232の記憶部には予め各カメラ231の3次元座量が記憶されている。そして、処理部232は、所定マーカーMの変位を検出するのに用いられる2台のカメラ231によって同時刻における画像を取得し、両画像中の所定マーカーMの2次元座標を取得する。次に、処理部232は、両画像中の所定マーカーMの2次元座標のずれと各カメラ231の3次元座標とに基づいて所定マーカーMの3次元座標を取得し、記憶する。処理部232は、この作業をフレーム毎に連続的に行う。そして、処理部232は、前回取得した所定マーカーMの3次元座標と、今回新たに取得した所定マーカーMの3次元座標とを比較することにより、その間に生じた所定マーカーMの変位を検出することができる。処理部232は、このような作業を全マーカーMについて行うことにより、入力情報を得ることができる。
以上、処理部232による入力情報の取得方法について説明したが、入力情報の取得方法は、これに限定されない。例えば、全マーカーMについて上述の作業を行うと処理量が膨大となってしまい、処理部232の性能等によっては処理が追いつかない場合が考えられる。また、用途によっては、大まかな入力情報が得られれば、それで足りる場合も考えられる。そのため、このような場合には、例えば、処理部232は、予め選択した一部のマーカーMについてのみ上述の作業を行うようにしてもよい。
また、処理部232は、例えば、自然状態における弾性層22の各部の画像を基準画像として記憶しておき、この基準画像と、上述のように得された画像とをリアルタイムに比較して第1〜第3マーカーM1〜M3の変位を特定することにより、上記の入力情報を得てもよい。信号生成部24は、検出部23が取得した接触入力情報を受信し、受信した接触入力情報に基づいて入力信号を生成する。なお、受信した接触入力情報に基づいて生成した入力信号を以下では「接触入力信号」とも言う。
ここで、前述したように、第1〜第3弾性層221〜223および保護層224は、無色透明である。そのため、各カメラ231は、弾性層22を介して弾性層22の外界を撮像することができる。したがって、各カメラ231を用いて、外界にある操作者の手の動きを捉えることができ、弾性層22に触れることのない入力や、第1〜第3マーカーM1〜M3が変位しない程度に軽く弾性層22に触れた状態での入力が可能となる。
具体的には、例えば、弾性層22の表面付近で手を動かしたり、弾性層22の表面をなでたりすると、この手の動きを処理部232がカメラ231からの画像に基づいて検出し、その動きに基づく入力情報を得る。なお、以下では、この入力情報を前述した接触入力情報と区別するために「非接触入力情報」とも言う。このようにして得られた非接触入力情報も、信号生成部24に送信され、信号生成部24は、受信し非接触入力情報に基づいて入力信号を生成する。なお、以下では、非接触入力情報から生成された入力信号を前述した接触入力信号と区別するために「非接触入力信号」とも言う。このような構成によれば、前述した接触型の入力に加えて、非接触型の入力が可能となり、入力装置2の操作性、操作の多彩性および利便性がさらに向上する。
なお、非接触型の入力は必須ではなく、できなくてもよい。この場合、保護層224は、光透過性を有する必要がないため、光透過性を有していなくてもよい。保護層224が光透過性を有しなければ、光源25の光が弾性層22の外部に漏れないため、例えば、光源25からの光量が大きい場合等に、ユーザーUが眩しく感じることがなくなる。
光源25は、基体21の内側から弾性層22を照らす。図2に示すように、光源25は、基体21の内部空間S内に配置された発光部251を有する。発光部251としては、特に限定されず、例えば、LEDを用いることができる。光源25は、例えば、外界からの光によって弾性層22を画像認識可能な程に十分に明るく保てる場合等には省略してもよい。また、内部空間Sに輝度センサーを配置して、この輝度センサーにより検知された内部空間Sの明るさに基づいて、発光部251の光量が制御されるようになっていてもよい。これにより、例えば、内部空間S内をほぼ一定の明るさに保つことができ、検出部23による弾性層22の画像認識をより安定して行うことができる。
姿勢検出部26は、入力装置2の姿勢、移動方向、移動速度を検出する装置である。このような姿勢検出部26は、慣性計測装置であり、例えば、互いに直交する軸をX軸、Y軸およびZ軸としたとき、X軸まわりの角速度、Y軸まわりの角速度およびZ軸まわりの角速度を検出する3軸ジャイロセンサーと、X軸方向の加速度、Y軸方向の加速度およびZ軸方向の加速度を検出する3軸加速度センサーと、を有する。ただし、姿勢検出部26の構成としては、これに限定されない。姿勢検出部26の検出信号は、信号生成部24に入力され、信号生成部24は、姿勢検出部26の検出信号に基づいて入力信号を生成する。なお、姿勢検出部26の検出信号に基づいて生成した入力信号を以下では「移動入力信号」とも言う。
以上、画像表示システム1の基本構成について説明した。次に、画像表示システム1の特徴の1つでもある画面921に表示される画像としてのインターフェース70について説明する。インターフェース70は、コンピュータ本体8にインストールされたオペレーティングシステム(OS)により提供され、ホーム画面とも呼ばれるグラフィックユーザーインターフェースである。このようなインターフェース70は、図4に示すように、三次元的、すなわち、ユーザーUが三次元的に見えるように配列された複数のアイコン71を有し、入力装置2からの入力により、複数のアイコン71が移動するように構成されている。このように、弾性入力部28を有し、直感的な操作が可能で多彩な入力信号を生成できる入力装置2を用いることにより、端末7の操作性がより向上する。以下、このようなインターフェース70について、詳しく説明する。
インターフェース70には複数のアイコン71が表示されている。各アイコン71には、異なるプログラムが設定されており、ユーザーUが入力装置2を用いて特定のアイコン71を選択することにより、選択されたアイコン71に対応するプログラムが実行される。なお、アイコン71は、少なくとも1つのプログラムが格納されたフォルダであってもよい。
複数のアイコン71は、例えば、画面中央に集合して三次元的に配列されている。具体的には、インターフェース70には弾性層22に見立てた球形の仮想立体Vが設定されており、この仮想立体Vの表面に沿って複数のアイコン71が配置されている。これにより、ユーザーUは、弾性層22の表面に複数のアイコン71が配置されている感覚で、端末7を操作することができる。そのため、直感的な操作が可能で、操作し易い画像表示システム1となる。また、複数のアイコン71を三次元的に配置することにより、インターフェース70のデザイン性が向上し、画像表示システム1への没入感を高めることができる。なお、仮想立体Vは、実際に設定されていてもよいし、設定されておらず、複数のアイコン71の配列により存在しているように見える場合でもよい。また、以下では、これら複数のアイコン71の集合体を「アイコン群72」とも言う。
また、仮想立体Vの球形とすることにより、アイコン群72がまとまって見え、アイコン群72のデザイン性が向上する。特に、仮想立体Vは、弾性層22と同じ外形となっている。つまり、仮想立体Vも弾性層22も共に球形である。このように、仮想立体Vと弾性層22とを同じ外形とすることにより、前述した「弾性層22の表面に複数のアイコン71が配置されている感覚」がより生じ易くなり、より操作し易い画像表示システム1となる。ただし、これに限定されず、例えば、仮想立体Vの外形は、図5に示すような立方体(正六面体)であってもよい。また、この他にも、仮想立体Vの外形は、四面体、立方体以外の六面体、八面体、十面体等であってもよい。また、仮想立体Vと弾性層22との外形が互いに異なっていてもよい。
また、複数のアイコン71は、入力装置2からの入力信号(非接触入力信号、接触入力信号、移動入力信号)に基づいて、仮想立体Vの表面に沿って移動する。複数のアイコン71が仮想立体Vの表面に沿って立体的に移動することにより、従来からあるような画面921内でアイコン71が平面的に移動する場合と比べて、アイコン71の移動が視覚的に面白いものとなる。以下、具体的な操作例をいくつか説明する。
(回転操作)
例えば、図6に示すように、入力装置2を回転させると、それに合わせてアイコン群72がその縦中心軸J1まわりに回転する。このとき、アイコン群72に含まれる複数のアイコン71の相対的位置は、維持される。このように、入力装置2の回転に対応してアイコン群72が回転することにより、例えば、仮想立体Vの背面側に隠れたアイコン71を前面側に移動させることができ、アイコン71の検索が容易となる。また、不要なアイコン71を仮想立体Vの背面側に隠すこともできる。なお、このような制御は、入力装置2を回転させることにより生成された移動入力信号に基づいて行われる。
(非変形操作)
弾性層22に軽く触れながら、弾性層22の表面をなでる(なぞる)ことで、そのなぞり方向に沿ってアイコン71が移動する。具体的には、例えば、図7に示すように、実質的に変形しない程度の力で弾性層22の表面に触れ、そのまま弾性層22の表面をなぞると、所定の列(ハッチングで示した列)のアイコン71のみが、なぞり方向に合わせて回転する。このような制御は、弾性層22に触れることにより生成された非接触入力信号に基づいて行われる。
(スライド操作)
弾性層22を押圧しながらスライドさせることで、その移動方向に沿ってアイコン71が移動する。このような制御は、弾性層22を押圧することにより生成された接触入力信号に基づいて行われる。
(捩じり操作)
弾性層22を捩じることにより、その捩じり方向に沿ってアイコン71が移動する。具体的には、例えば、図8に示すように、弾性層22の上側部分22aを下側部分22bに対して横方向に捩じると、それに合わせて仮想立体Vの上側部分Vaに位置する複数のアイコン71(ハッチングで示すアイコン71)が相対的位置関係を維持したまま、下側部分Vbに対して縦中心軸J1まわりに横方向に回転する。同様に、例えば、図9に示すように、弾性層22の左側部分22cを右側部分22dに対して縦方向に捩じると、それに合わせて仮想立体Vの左側部分Vcに位置する複数のアイコン71が相対的位置関係を維持したまま、右側部分Vdに対して横中心軸J2まわりに縦方向に回転する。
このように、弾性層22の捩じりに対応してアイコン71が移動することにより、ユーザーUは、より直感的な操作が可能となる。特に、立体パズル「ルービックキューブ(登録商標)」を操作しているような感覚でアイコン71を移動させることができるため、アイコン71の移動がより楽しいものとなる。また、より簡単に、複数のアイコン71の相対的位置関係を変更することができるため、ユーザー好みのアイコン71の配置とするのが容易である。また、入力装置2に姿勢検出部26が設けられておらず、移動入力信号を生成できない場合には、このような捩じり操作によって仮想立体Vの背面側に隠れたアイコン71についてもスムーズに検索することができる。また、不要なアイコン71を仮想立体Vの背面側に隠すこともできる。なお、このような制御は、弾性層22を捩じることにより生成された接触入力信号に基づいて行われる。
(第1押圧操作)
弾性層22を押圧することにより、複数のアイコン71のうちの少なくとも1つが選択され、選択されたアイコン71に基づくプログラムが実行される。具体的には、例えば、図10に示すように、弾性層22の一部を押圧すると、仮想立体Vの、弾性層22の押圧個所に対応する部分に位置するアイコン71(ハッチングで示すアイコン71)が選択され、選択されたアイコン71に対応したプログラムが実行される。このような操作によれば、簡単に、目的のアイコン71を選択することができ、インターフェース70の操作性が向上する。これとは異なって、図11に示すように、仮想立体Vの所定位置に固定された選択エリアEが設定されており、弾性層22の押圧個所によらず、選択エリアE内に位置するアイコン71が選択され、選択されたアイコン71に対応したプログラムが実行されるように構成されていてもよい。つまり、弾性層22の押圧位置と選択されるアイコン71の位置とが対応していなくてもよい。このような操作によれば、選択エリアEが決まっているため、より確実に目的のアイコン71を選択することができる。なお、このような制御は、弾性層22を押圧することにより生成された接触入力信号に基づいて行われる。
また、例えば、図12に示すように、弾性層22を押圧した状態を維持したまま、押圧個所をスライドさせることにより、押圧によって選択したアイコン71をドラッグすることができる。これにより、例えば、アイコン71の配列をユーザーUの好みに変更することができ、インターフェース70の使い勝手が向上する。なお、このような制御は、弾性層22を押圧することにより生成された接触入力信号に基づいて行われる。
ここで、アイコン群72の背面側に隠れたアイコン71は、視認できないため、アイコン群72の背面側に隠れたアイコン71を第1押圧操作によって選択するのは非常に困難である。そこで、第1押圧操作は、弾性層22の前面部22fすなわちユーザーU側に位置し、ユーザーUと対面している側のエリアでのみ有効で、反対側の背面部22gでは無効となっている。これにより、背面部22gへの第1押圧操作によって誤ったアイコン71が選択されてしまうことが防止され、画像表示システム1の操作性の悪化を抑制することができる。ただし、これに限定されず、背面部22gにおいても第1押圧操作が可能となっていてもよい。
なお、本実施形態では、ユーザーUが入力装置2を自由に把持できるため、弾性層22のどの部分が前面部22fおよび背面部22gとなるかは、入力装置2の向きによって変化する。入力装置2の向きは、姿勢検出部26によって検出可能であるため、この姿勢検出部26の検出結果に基づいて弾性層22のどの部分が前面部22fおよび背面部22gであるかを判断し、設定することができる。
なお、選択したアイコン71がフォルダの場合には、フォルダ内に格納されたプログラムのアイコン71が仮想立体Vの表面に沿って立体的に表示される。
(第2押圧操作)
前述したように、弾性層22は、ユーザーU側に位置する前面部22fと、前面部22fの反対側に位置する背面部22gと、を有する。第2押圧操作では、背面部22gを押圧することにより、複数のアイコン71のうちの少なくとも1つが選択され、選択された前記アイコンが仮想立体Vの表面から離脱するように移動する。
具体的には、例えば、図13に示すように、弾性層22の背面部22gを押圧すると、その反対側つまり仮想立体Vの中心を介して押圧個所と対向する部分に位置するアイコン71が仮想立体Vの表面から飛び出し、アイコン群72から離脱する。例えば、使用頻度の高いアイコン71をアイコン群72から離脱させておけば、アイコン群72の姿勢に影響を受けることなく、離脱させたアイコン71を常にインターフェース70に表示させておくことができる。そのため、その後のアイコン71の選択が容易となる。これとは異なって、図14に示すように、仮想立体Vの所定位置に固定された選択エリアEが設定されており、背面部22gの押圧個所によらず、選択エリアE内に位置するアイコン71が仮想立体Vの表面から飛び出し、アイコン群72から離脱する構成となっていてもよい。つまり、弾性層22の押圧位置と選択されるアイコン71の位置とが対応していなくてもよい。このような操作によれば、選択エリアEが決まっているため、より確実に目的のアイコン71をアイコン群72から離脱させることができる。なお、このような制御は、弾性層22を押圧することにより生成された接触入力信号に基づいて行われる。
(摘まみ操作)
弾性層22を摘まむことにより、複数のアイコン71のうちの少なくとも1つが選択され、選択された前記アイコンが仮想立体Vの表面から離脱するように移動する。具体的には、例えば、図15に示すように、弾性層22の一部を摘まむと、仮想立体Vの、弾性層22の摘まんだ個所に対応する部分に位置するアイコン71(ハッチングで示すアイコン71)が選択され、選択されたアイコン71が仮想立体Vの表面から飛び出して拡大表示され、摘まんだまま弾性層22をさらに引っ張るとアイコン群72から離脱する。例えば、使用頻度の高いアイコン71をアイコン群72から離脱させておけば、アイコン群72の姿勢に影響を受けることなく、離脱させたアイコン71を常にインターフェース70に表示させておくことができる。そのため、その後のアイコン71の選択が容易となる。さらに、摘まんだ状態でその部分をひねることにより、選択されたアイコン71が、インターフェース70の画面から消去されるようになっていてもよい。
(擦り操作)
弾性層22を擦ることにより、複数のアイコン71のうちの少なくとも1つが選択され、選択された前記アイコンが拡大される。具体的には、例えば、図16に示すように、弾性層22の一部を擦ると、仮想立体Vの、弾性層22の擦った個所に対応する部分に位置するアイコン71(ハッチングで示すアイコン71)が選択され、選択されたアイコン71が仮想立体Vの表面から飛び出して拡大される。このように、選択されたアイコン71を拡大することにより、アイコン71の確認が容易となる。なお、擦った部分が2つのアイコン71にまたがる場合は、それぞれのアイコン71を拡大して表示してもよい。
以上、代表的な操作例について説明したが、操作例は、これに限定されない。また、例えば、上述したように、第1押圧操作によって複数のアイコン71のうちの少なくとも1つが選択され、選択されたアイコン71に基づくプログラムが実行されるが、第1押圧操作によって選択されたアイコン71の処理方法としては、これに限定されない。すなわち、第1押圧操作によって選択されたアイコン71に対応するプログラムが実行されなくてもよく、例えば、アイコン群72から削除されてもよいし、拡大表示されてもよい。上述した第1押圧操作以外の各操作例についても同様である。
<第2実施形態>
図17に示すように、本実施形態の弾性入力部28は、弾性層22の変形によって変位せず、検出部23で検出可能な基準マーカーM4を有する。図17の構成では、基準マーカーM4は、第1弾性層221と基体21との間であって基体21の外周面に配置されている。ただし、基準マーカーM4の配置としては、これに限定されず、例えば、基体21の内周面に配置されていてもよい。
基準マーカーM4は、各カメラ231との相対的位置関係が一定であり、検出部23が第1、第2、第3マーカーM1、M2、M3の変位を検出する際の基準として機能する。このような構成によれば、例えば、検出部23は、基準マーカーM4に対する第1、第2、第3マーカーM1、M2、M3の変位を検出することで、より精度よく入力情報を取得することができる。なお、基準マーカーM4は、検出部23が第1、第2、第3マーカーM1、M2、M3のそれぞれと区別(識別)できるように、例えば、第1、第2、第3マーカーM1、M2、M3と形状および色彩の少なくとも一方が異なっていることが好ましい。
<第3実施形態>
本実施形態のインターフェース70では、図18に示すように、仮想立体Vが表層Vxと、表層Vxの内側に位置する中間層Vy(第2層)と、中間層Vyの内側に位置する内層Vz(第3層)と、を有する。表層Vx、中間層Vyおよび内層Vzは、互いに同心的に配置されている。なお、仮想立体Vが有する層の数は、特に限定されない。
また、表層Vx、中間層Vyおよび内層Vzには、それぞれ、その表面に沿って複数のアイコン71が配置されている。なお、中間層Vyに配置されたアイコン71および内層Vzに配置されたアイコン71は、その手前にある表層Vxに配置されたアイコン71によって、その一部または全部が隠れている。なお、例えば、表層Vxに配置された各アイコン71および中間層Vyに配置された各アイコン71が半透明であり、表層Vxに配置されたアイコン71の奥に中間層Vyに配置されたアイコン71や内層Vzに配置されたアイコン71が透けて見える構成となっていてもよい。
このように、複数のアイコン71を表層Vxと中間層Vyと内層Vzとに分けて配置することにより、より多くのアイコン71を配置することができる。また、インターフェース70のデザイン性が向上し、画像表示システム1への没入感を高めることができる。また、複数のアイコン71を使用頻度、種類等に応じて表層Vxと中間層Vyと内層Vzとに分けて配置することでアイコン71の整理が可能となり、より使い易いインターフェース70となる。なお、表層Vx、中間層Vyおよび内層Vzには、それぞれ、少なくとも1つのアイコン71が配置されていればよい。
このようなインターフェース70の操作方法としては、特に限定されない。例えば、弾性層22を所定の力で押圧すると、表層Vxに配置されていたアイコン71が内層Vzに移動し、内層Vzに配置されていたアイコン71が中間層Vyに移動し、中間層Vyに配置されていたアイコン71が表層Vxに移動する。さらには、弾性層22を押圧したまま維持したり、繰り返し押圧したりすると、このような移動が繰り返され、中間層Vyや内層Vzに配置されたアイコン71を自由に表層V21に移動させることができる。そのため、中間層Vyや内層Vzに配置されたアイコン71についても容易に確認することができる。このような構成によれば、中間層Vyや内層Vzにアイコン71を隠しておくことができ、アイコン71の整理が容易となる戸共に、多数のアイコン71が画面に表示され過ぎるのを抑制することができる。
また、例えば、弾性層22を第1の力(第1の変形量)で押圧すると、表層Vxに配置された複数のアイコン71の中から押圧位置に対応したアイコン71が選択され、同様に、弾性層22を第1の力よりも大きい第2の力(第1の変形量よりも大きい第2の変形量)で押圧すると、中間層Vyに配置された複数のアイコン71の中から押圧位置に対応したアイコン71が選択され、弾性層22を第2の力よりも大きい第3の力(第2の変形量よりも大きい第3の変形量)で押圧すると、内層Vzに配置された複数のアイコン71の中から押圧位置に対応したアイコン71が選択されるようになっていてよい。
また、この際、弾性層22を第1の力で押圧すれば、表層Vxに配置され、押圧位置に対応したアイコン71が表層Vxよりも手前側に飛び出して表示され、弾性層22を第2の力で押圧すれば、中間層Vyに配置され、押圧位置に対応したアイコン71が表層Vxよりも手前側に飛び出して表示され、弾性層22を第3の力で押圧すれば、内層Vzに配置され、押圧位置に対応したアイコン71が表層Vxよりも手前側に飛び出して表示されるようにするのが好ましい。これにより、アイコン71の検索および選択が容易となる。
<第4実施形態>
本実施形態のインターフェース70では、図19に示すように、仮想立体Vが2つ設定されている。具体的には、仮想立体Vは、第1仮想立体V1と、第1仮想立体V1の周囲に位置し、第1仮想立体V1を囲む環状の第2仮想立体V2と、を有する。特に、本実施形態では、第1仮想立体V1は、球形をなし、第2仮想立体V2は、円環状となっている。つまり、第1仮想立体V1および第2仮想立体V2が、土星のような形状となっている。ただし、第1、第2仮想立体V1、V2の形状は、特に限定されない。また、仮想立体Vは、第1、第2仮想立体V1、V2に加えて、第3仮想立体、第4仮想立体またはそれ以上の仮想立体を有していてもよい。
また、第1仮想立体V1には、その表面に沿って複数のアイコン71が配置され、第2仮想立体V2には、その表面に沿って複数のアイコン71が配置されている。このように、複数のアイコン71を第1仮想立体V1と第2仮想立体V2とに分けて配置することにより、より多くのアイコン71を配置することができる。また、インターフェース70のデザイン性が向上し、画像表示システム1への没入感を高めることができる。また、複数のアイコン71を使用頻度、種類等に応じて第1仮想立体V1と第2仮想立体V2とに分けて配置することでアイコン71の整理ができ、より使い易いインターフェース70となる。なお、第1仮想立体V1および第2仮想立体V2には、それぞれ、少なくとも1つのアイコン71が配置されていればよい。
また、本実施形態では、前述した第1実施形態と比べて入力装置2が大きく、図20に示すように、両手で把持するようになっている。なお、図20では、ユーザーUに見えているインターフェース70を仮想的に図示している。
このようなインターフェース70の操作方法としては、特に限定されない。例えば、図21に示すように、入力装置2を回転させると、それに合わせて、第1仮想立体V1に配置された複数のアイコン71が互いの相対的位置を維持しつつ第1仮想立体V1の表面に沿って回転移動すると共に、第2仮想立体V2に配置された複数のアイコン71が互いの相対的位置を維持しつつ第2仮想立体V2の表面に沿って回転移動する。このように、入力装置2の回転に対応して第1、第2仮想立体V1、V2に配置されたアイコン71が共に同じように回転することにより、例えば、第1、第2仮想立体V1、V2の背面側に隠れたアイコン71を前面側に移動させることができ、アイコン71の検索が容易となる。
また、例えば、図22に示すように、弾性層22を押圧しながらスライドさせると、そのスライド方向に沿って、第2仮想立体V2に配置された複数のアイコン71が互いの相対的位置を維持しつつ第2仮想立体V2の表面に沿って回転移動する。この際、第1仮想立体V1に配置されたアイコン71は、回転せずに静止している。これにより、第1仮想立体V1に配置されたアイコン71と第2仮想立体V2に配置されたアイコン71との相対的位置関係を変化させることができる。そのため、アイコン71を検索し易くなり、さらには、アイコン71の配置の自由度が増す。ただし、これとは逆に、第2仮想立体V2に配置されたアイコン71は、回転せずに静止し、第1仮想立体V1に配置された複数のアイコン71が互いの相対的位置を維持しつつ第1仮想立体V1の表面に沿って回転移動してもよい。
<第5実施形態>
本実施形態のインターフェース70では、図23に示すように、第2仮想立体V2が表層V21(第1層)と、表層V21の内側に位置する中間層V22(第2層)と、中間層V22の内側に位置する内層V23(第3層)と、を有する。表層V21、中間層V22および内層V23は、互いに同心的に、かつ、年輪状に配置されている。なお、第2仮想立体V2から内層V23を省略してもよいし、これらに加えて1つまたは2つ以上の層を追加してもよい。
また、表層V21、中間層V22および内層V23には、それぞれ、その表面に沿って複数のアイコン71が配置されている。なお、中間層V22に配置されたアイコン71および内層V23に配置されたアイコン71は、その手前にある表層V21に配置されたアイコン71によって、その一部または全部が隠れている。
このように、複数のアイコン71を表層V21と中間層V22と内層V23とに分けて配置することにより、より多くのアイコン71を配置することができる。また、インターフェース70のデザイン性が向上し、画像表示システム1への没入感を高めることができる。また、複数のアイコン71を使用頻度、種類等に応じて表層V21と中間層V22と内層V23とに分けて配置することでアイコン71の整理が可能となり、より使い易いインターフェース70となる。なお、表層V21、中間層V22および内層V23には、それぞれ、少なくとも1つのアイコン71が配置されていればよい。
このようなインターフェース70の操作方法としては、特に限定されない。例えば、前述の第4実施形態と同様に、入力装置2を回転させると、それに合わせて、第1仮想立体V1に配置された複数のアイコン71が互いの相対的位置を維持しつつ第1仮想立体V1の表面に沿って回転移動すると共に、第2仮想立体V2の各層V21、V22、V23に配置された複数のアイコン71が互いの相対的位置を維持しつつ各層V21、V22、V23の表面に沿って回転移動する。このように、入力装置2の回転に対応して第1、第2仮想立体V1、V2に配置されたアイコン71が共に回転することにより、例えば、第1、第2仮想立体V1、V2の背面側に隠れたアイコン71を前面側に移動させることができ、アイコン71の検索が容易となる。
また、例えば、図24に示すように、弾性層22を押圧しながらスライドさせると、そのスライド方向に沿って、第2仮想立体V2の表層V21に配置された複数のアイコン71が互いの相対的位置を維持しつつ第2仮想立体V2の表面に沿って回転移動する。この際、中間層V22および内層V23に配置されたアイコン71および第1仮想立体V1に配置されたアイコン71は、回転せずに静止している。これにより、表層V21に配置されたアイコン71と、中間層V22、内層V23および第1仮想立体V1に配置されたアイコン71との相対的位置関係を変化させることができる。そのため、アイコン71を探し易くなり、さらには、アイコン71の配置の自由度が増す。
また、例えば、弾性層22を所定の力で押圧すると、表層V21に配置されていたアイコン71が内層V23に移動し、内層V23に配置されていたアイコン71が中間層V22に移動し、中間層V22に配置されていたアイコン71が表層V21に移動する。さらには、弾性層22を押圧したまま維持したり、繰り返し押圧したりすると、このような移動が繰り返され、中間層V22や内層V23に配置されたアイコン71を自由に表層V21に移動させることができる。そのため、中間層V22や内層V23に配置されたアイコン71についても容易に確認することができる。このような構成によれば、中間層V22や内層V23にアイコン71を隠しておくことができ、アイコン71の整理が容易となる戸共に、多数のアイコン71が画面に表示され過ぎるのを抑制することができる。
また、例えば、図25に示すように、弾性層22を第1の力(第1の変形量)で押圧すると、表層V21に配置された複数のアイコン71の中から押圧位置に対応したアイコン71が選択され、同様に、弾性層22を第1の力よりも大きい第2の力(第1の変形量よりも大きい第2の変形量)で押圧すると、中間層V22に配置された複数のアイコン71の中から押圧位置に対応したアイコン71が選択され、弾性層22を第2の力よりも大きい第3の力(第2の変形量よりも大きい第3の変形量)で押圧すると、内層V23に配置された複数のアイコン71の中から押圧位置に対応したアイコン71が選択されるようになっていてよい。
また、弾性層22を第1の力(第1の変形量)で押圧しつつ横方向へスライドさせると、表層V21に配置された複数のアイコン71がそれに対応して表層V21に沿って移動し、同様に、弾性層22を第1の力よりも大きい第2の力(第1の変形量よりも大きい第2の変形量)で押圧しつつ横方向へスライドさせると中間層V22に配置された複数のアイコン71がそれに対応して中間層V22に沿って移動し、弾性層22を第2の力よりも大きい第3の力(第2の変形量よりも大きい第3の変形量)で押圧しつつ横方向へスライドさせると、内層V23に配置された複数のアイコン71がそれに対応して内層V23に沿って移動するようになっていてもよい。
また、この際、弾性層22を第1の力で押圧すれば、表層V21に配置され、押圧位置に対応したアイコン71が表層V21よりも手前側に飛び出して表示され、弾性層22を第2の力で押圧すれば、中間層V22に配置され、押圧位置に対応したアイコン71が表層V21よりも手前側に飛び出して表示され、弾性層22を第3の力で押圧すれば、内層V23に配置され、押圧位置に対応したアイコン71が表層V21よりも手前側に飛び出して表示されるようにするのが好ましい。これにより、アイコン71の検索および選択が容易となる。
<第6実施形態>
前述した第1実施形態のインターフェース70では、各アイコン71が平面的に表示されているのに対して、本実施形態のインターフェース70では、図26に示すように、各アイコン71が立体的に表示されている。また、仮想立体Vの外形が立方体であり、その各角部に1つのアイコン71が配置されている。各アイコン71を立体的に表示することにより、インターフェース70のデザイン性が向上し、画像表示システム1への没入感を高めることができる。なお、図示の構成では、各アイコン71の外形が立方体となっているが、これに限定されず、球体、四面体等であってもよい。また、仮想立体Vの外形としては、立方体に限定されず、例えば、四面体、立方体以外の六面体、八面体、十面体、十二面体等であってもよい。
<第7実施形態>
図27に示すように、本実施形態のインターフェース70では、立体的に表示された複数のアイコン71が3次元的に配列されている。図示の構成では、各アイコン71の外形が立方体となっており、これらのアイコン71が同じく立方体状に横方向、奥行き方向および高さ方向に整列して配置されている。このような構成では、例えば、図28に示すように、弾性層22を摘まむことにより、対応するアイコン71を摘まみ上げることができ、その奥に隠れているアイコン71を視認できるようになる。アイコン71を立体とすることにより、上述の操作において「アイコン71を摘まむ感覚」がより生じ易くなり、より操作し易いインターフェース70となる。
以上、本発明の画像表示システム、オペレーティングシステムおよび画像表示システムの制御方法について、図示の実施形態に基づいて説明したが、本発明はこれに限定されるものではなく、各部の構成は、同様の機能を有する任意の構成のものに置換することができる。また、本発明に、他の任意の構成物が付加されていてもよい。また、各実施形態を適宜組み合わせてもよい。
1 画像表示システム
2 入力装置
21 基体
22 弾性層
22’ 外周面
22” 内周面
22a 上側部分
22b 下側部分
22c 左側部分
22d 右側部分
22f 前面部
22g 背面部
221 第1弾性層
222 第2弾性層
223 第3弾性層
224 保護層
23 検出部
231 カメラ
232 処理部
24 信号生成部
25 光源
251 発光部
26 姿勢検出部
28 弾性入力部
7 端末
70 インターフェース
71 アイコン
72 アイコン群
8 コンピュータ本体
81 CPU
82 メインメモリ
83 補助メモリ
9 ディスプレイ
90 ヘッドマウントディスプレイ
91 フレーム
92 表示部
921 画面
93 画像形成装置
E 選択エリア
J1 縦中心軸
J2 横中心軸
M マーカー
M1 第1マーカー
M2 第2マーカー
M3 第3マーカー
M4 基準マーカー
S 内部空間
U ユーザー
V 仮想立体
Va 上側部分
Vb 下側部分
Vc 左側部分
Vd 右側部分
V1 第1仮想立体
V2 第2仮想立体
V21 表層
V22 中間層
V23 内層

Claims (15)

  1. 画像を表示する端末と、
    前記端末を操作する入力装置と、を有し、
    前記入力装置は、
    外力が入力される弾性層と、前記弾性層に配置され、前記弾性層の変形に伴って変位するマーカーと、を有する弾性入力部と、
    前記マーカーの変位を検出する検出部と、を備えることを特徴とする画像表示システム。
  2. 前記端末に表示される前記画像としてのインターフェースは、三次元的に配列された複数のアイコンを有し、
    前記入力装置からの入力により、前記複数のアイコンのうちの少なくとも1つが移動する請求項1に記載の画像表示システム。
  3. 前記複数のアイコンの少なくとも一部は、前記インターフェースに仮想的に設定された仮想立体の表面に沿って配置され、前記仮想立体の表面に沿って移動する請求項2に記載の画像表示システム。
  4. 前記仮想立体は、球形である請求項3に記載の画像表示システム。
  5. 前記仮想立体は、少なくとも1つの前記アイコンが配置された第1層と、前記第1層の内側に設けられ、少なくとも1つの前記アイコンが配置された第2層と、を有する請求項2から4のいずれか1項に記載の画像表示システム。
  6. 前記入力装置からの入力により、前記第2層に配置された前記アイコンが前記1層に移動する請求項5に記載の画像表示システム。
  7. 前記仮想立体は、少なくとも1つの前記アイコンが配置された第1仮想立体と、少なくとも1つの前記アイコンが配置された第2仮想立体と、を有する請求項3から6のいずれか1項に記載の画像表示システム。
  8. 前記第2仮想立体は、前記第1仮想立体を囲む環状である請求項7に記載の画像表示システム。
  9. 前記弾性層を捩じることにより、その捩じり方向に沿って前記アイコンが移動する請求項3から8のいずれか1項に記載の画像表示システム。
  10. 前記弾性層を押圧することにより、前記複数のアイコンのうちの少なくとも1つが選択され、選択された前記アイコンに基づくプログラムが実行される請求項3から9のいずれか1項に記載の画像表示システム。
  11. 前記仮想立体の、前記弾性層の押圧個所に対応する部分に位置する前記アイコンが選択される請求項10に記載の画像表示システム。
  12. 前記弾性層は、
    使用者側に位置する前面部と、
    前記前面部の反対側に位置する背面部と、を有し、
    前記背面部を押圧することにより、複数の前記アイコンのうちの少なくとも1つが選択され、選択された前記アイコンが前記仮想立体の表面から離脱するように移動する請求項3から11のいずれか1項に記載の画像表示システム。
  13. 前記仮想立体は、前記弾性層と同じ外形である請求項3から12のいずれか1項に記載の画像表示システム。
  14. 画像を表示する端末に、三次元的に配列された複数のアイコンを有する前記画像としてのインターフェースを表示し、
    入力装置からの入力に基づいて、前記複数のアイコンを三次元的に移動させることを特徴とするオペレーティングシステム。
  15. 画像を表示する端末と、
    前記端末を操作する入力装置と、を有し、
    前記入力装置は、
    外力が入力される弾性層と、前記弾性層に配置され、前記弾性層の変形に伴って変位するマーカーと、を有する弾性入力部と、
    前記マーカーの変位を検出する検出部と、を備える画像表示システムの制御方法であって、
    前記端末に、三次元的に配列された複数のアイコンを有する前記画像としてのインターフェースを表示し、
    前記入力装置からの入力に基づいて、前記複数のアイコンを三次元的に移動させることを特徴とする画像表示システムの制御方法。

JP2019151668A 2018-11-08 2019-08-22 画像表示システム、オペレーティングシステムおよび画像表示システムの制御方法 Pending JP2020077365A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018210196 2018-11-08
JP2018210196 2018-11-08

Publications (1)

Publication Number Publication Date
JP2020077365A true JP2020077365A (ja) 2020-05-21

Family

ID=70724193

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019151668A Pending JP2020077365A (ja) 2018-11-08 2019-08-22 画像表示システム、オペレーティングシステムおよび画像表示システムの制御方法

Country Status (1)

Country Link
JP (1) JP2020077365A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102421449B1 (ko) * 2021-04-06 2022-07-15 성균관대학교산학협력단 접촉 위치 추정 장치 및 방법

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11110106A (ja) * 1997-10-02 1999-04-23 Sharp Corp メニュー操作装置
US20010028369A1 (en) * 2000-03-17 2001-10-11 Vizible.Com Inc. Three dimensional spatial user interface
JP2013041487A (ja) * 2011-08-18 2013-02-28 Sony Corp 情報処理装置、情報処理システム、操作デバイス及び情報処理方法
JP2013105408A (ja) * 2011-11-16 2013-05-30 Namco Bandai Games Inc プログラム、情報記憶媒体、電子機器およびコンピュータシステム
JP2013206354A (ja) * 2012-03-29 2013-10-07 Aisin Aw Co Ltd 画像表示装置、画像表示方法及びコンピュータプログラム
WO2017169641A1 (ja) * 2016-03-29 2017-10-05 株式会社齋藤創造研究所 入力装置および画像表示システム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11110106A (ja) * 1997-10-02 1999-04-23 Sharp Corp メニュー操作装置
US20010028369A1 (en) * 2000-03-17 2001-10-11 Vizible.Com Inc. Three dimensional spatial user interface
JP2013041487A (ja) * 2011-08-18 2013-02-28 Sony Corp 情報処理装置、情報処理システム、操作デバイス及び情報処理方法
JP2013105408A (ja) * 2011-11-16 2013-05-30 Namco Bandai Games Inc プログラム、情報記憶媒体、電子機器およびコンピュータシステム
JP2013206354A (ja) * 2012-03-29 2013-10-07 Aisin Aw Co Ltd 画像表示装置、画像表示方法及びコンピュータプログラム
WO2017169641A1 (ja) * 2016-03-29 2017-10-05 株式会社齋藤創造研究所 入力装置および画像表示システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102421449B1 (ko) * 2021-04-06 2022-07-15 성균관대학교산학협력단 접촉 위치 추정 장치 및 방법

Similar Documents

Publication Publication Date Title
US11861070B2 (en) Hand gestures for animating and controlling virtual and graphical elements
US20220084279A1 (en) Methods for manipulating objects in an environment
JP2022540315A (ja) 人工現実環境において周辺デバイスを使用する仮想ユーザインターフェース
CN104272218B (zh) 基于联合数据的虚拟手
CN110753898B (zh) 沉浸式环境内与虚拟对象的基于悬停的用户交互
KR102411768B1 (ko) 헤드 마운트 디스플레이를 위한 3차원 사용자 인터페이스
KR20230124732A (ko) 가상 및 그래픽 엘리먼트들을 제어하기 위한 미세 손제스처들
CN114830066A (zh) 用于在三维环境中显示应用程序的设备、方法和图形用户界面
CN110476142A (zh) 虚拟对象用户界面显示
EP3438790B1 (en) Input device and image display system
CN116194868A (zh) 用于与三维环境进行交互的设备、方法和图形用户界面
JP2022535315A (ja) 自己触覚型仮想キーボードを有する人工現実システム
US10475251B2 (en) Method and apparatus for multiple mode interface
JP2022534639A (ja) 指マッピング自己触覚型入力方法を有する人工現実システム
US11907417B2 (en) Glance and reveal within a virtual environment
US11055926B2 (en) Method and apparatus for multiple mode interface
JP2018029907A (ja) 情報処理方法、当該情報処理方法をコンピュータに実行させるためのプログラム及びコンピュータ
US20170090716A1 (en) Computer program for operating object within virtual space about three axes
JP6140871B1 (ja) 情報処理方法及び当該情報処理方法をコンピュータに実行させるためのプログラム
JP2020077365A (ja) 画像表示システム、オペレーティングシステムおよび画像表示システムの制御方法
JP2018026105A (ja) 情報処理方法及び当該情報処理方法をコンピュータに実行させるためのプログラム
JP2018029969A (ja) 情報処理方法及び当該情報処理方法をコンピュータに実行させるためのプログラム
US20210263593A1 (en) Hand gesture input for wearable system
JP2018045338A (ja) 情報処理方法及び当該情報処理方法をコンピュータに実行させるためのプログラム
JP2018032130A (ja) 仮想空間における入力を支援するための方法および装置ならびに当該方法をコンピュータに実行させるプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220822

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230405

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230418

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230616

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230630

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20231222