JP4513620B2 - Information processing apparatus and data presentation method in information processing apparatus - Google Patents

Information processing apparatus and data presentation method in information processing apparatus Download PDF

Info

Publication number
JP4513620B2
JP4513620B2 JP2005083223A JP2005083223A JP4513620B2 JP 4513620 B2 JP4513620 B2 JP 4513620B2 JP 2005083223 A JP2005083223 A JP 2005083223A JP 2005083223 A JP2005083223 A JP 2005083223A JP 4513620 B2 JP4513620 B2 JP 4513620B2
Authority
JP
Japan
Prior art keywords
measurement data
presentation
presenting
information
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2005083223A
Other languages
Japanese (ja)
Other versions
JP2006268230A (en
Inventor
慎一郎 芹澤
伸 竹内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP2005083223A priority Critical patent/JP4513620B2/en
Publication of JP2006268230A publication Critical patent/JP2006268230A/en
Application granted granted Critical
Publication of JP4513620B2 publication Critical patent/JP4513620B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、情報処理装置、特に計測データの直感的な把握を容易にする呈示手法に関する。   The present invention relates to an information processing apparatus, and more particularly to a presentation method that facilitates intuitive grasping of measurement data.

従来、様々な計測実験から得られたデータを確認するために、計測データをグラフ、分布図、ベクトル図などを用いて表示することが一般的に行われている。そして、パラメータ設定値を変更することで被計測対象の環境を変化させ、計測データを別途収集する。このように、同一測定環境において計測条件を変更して収集した複数の計測データを、グラフ等を用いて並べて表示することで解析等を行っていた。   Conventionally, in order to confirm data obtained from various measurement experiments, measurement data is generally displayed using graphs, distribution diagrams, vector diagrams, and the like. Then, the measurement target environment is changed by changing the parameter setting value, and measurement data is collected separately. In this way, analysis or the like is performed by displaying a plurality of measurement data collected by changing measurement conditions in the same measurement environment side by side using a graph or the like.

また、被計測対象の環境を変化させなくても、1回のシミュレーションで複数の計測データが得られる場合もある。図6は、磁場解析により得られた計測データを可視化可能に表示したときの画面例を示した図であり、図6(a)は透磁率などの物性値に関する計測データを示した図、図6(b)は電位、温度などのようなポテンシャルに関するスカラデータを示したコンター図、図6(c)は磁束密度などのようなベクトルデータに関するベクトル図である。このように、例えば電磁場をシミュレーションする場合、電界と磁界とは同時に発生するのでその一シミュレーションにおける解析結果としてポテンシャルやベクトルデータなどの複数の計測データが同時に得られる。この場合も、同一測定環境における同一計測実験において収集した複数種類の計測データを、グラフ等を用いて並べて表示することで解析等を行っていた。   In addition, a plurality of measurement data may be obtained by one simulation without changing the environment of the measurement target. FIG. 6 is a diagram showing an example of a screen when measurement data obtained by magnetic field analysis is displayed so that it can be visualized. FIG. 6A is a diagram showing measurement data relating to physical property values such as permeability. 6 (b) is a contour diagram showing scalar data related to potential such as potential and temperature, and FIG. 6 (c) is a vector diagram related to vector data such as magnetic flux density. Thus, for example, when simulating an electromagnetic field, an electric field and a magnetic field are generated simultaneously, so that a plurality of measurement data such as potential and vector data can be obtained simultaneously as an analysis result in the one simulation. Also in this case, analysis or the like is performed by displaying a plurality of types of measurement data collected in the same measurement experiment in the same measurement environment side by side using a graph or the like.

ところで、近年では、データを視覚以外に、例えば可聴化するなどして聴覚により、あるいは触覚化、力覚化することで触力覚により呈示する技術が提案されている(例えば非特許文献1)。この結果、計測データあるいは計測データの変化の状態を直感的にユーザに把握させることが可能になる。また、本願特許出願人においても触力覚でユーザに情報を提示するインタフェースを提案している(例えば特許文献1)。   By the way, in recent years, a technique has been proposed in which data is presented by auditory sense, for example by making it audible, or by tactile sensation by tactile sensation or force sensation other than vision (for example, Non-Patent Document 1). . As a result, the user can intuitively grasp the measurement data or the change state of the measurement data. Further, the present patent applicant has also proposed an interface for presenting information to the user with a tactile sensation (for example, Patent Document 1).

特開2000−330688号公報JP 2000-330688 A [平成16年12月6日検索]、インターネット<http://www.sensable.com/languages/jp-hp.asp>[Search December 6, 2004], Internet <http://www.sensable.com/languages/jp-hp.asp>

しかしながら、例えば同一計測環境においてパラメータを変更しながら収集した複数の計測データをユーザに呈示するとき、従来においては、各計測データを可視化可能にそれぞれ別画面で表示していた。また、例えば、1回のシミュレーションで複数の計測データが得られた場合でも、図6に例示したように各計測データをそれぞれ別画面で表示していた。このため、計測データの差異を視覚のみで把握しなければならず、その差異を直感的に把握することは困難だった。   However, for example, when a plurality of measurement data collected while changing parameters in the same measurement environment is presented to the user, conventionally, each measurement data is displayed on a separate screen so that it can be visualized. Further, for example, even when a plurality of measurement data is obtained in one simulation, each measurement data is displayed on a separate screen as illustrated in FIG. For this reason, it is necessary to grasp the difference in measurement data only by visual observation, and it is difficult to intuitively grasp the difference.

仮に、同一画面上に計測データを重畳させて表示することで差異を把握させるようなことも考えられるが、図6(a)〜図6(c)など異なる表現による図を重畳表示させたり、図6(c)に示した磁束密度などのベクトルデータを表示させたりすると、かえって差異がわかりにくくなるため必ずしも効果的、汎用的ではない。   Although it is conceivable that the difference is grasped by displaying the measurement data superimposed on the same screen, diagrams with different expressions such as FIGS. 6A to 6C may be superimposed and displayed. When the vector data such as the magnetic flux density shown in FIG. 6C is displayed, the difference becomes difficult to understand.

また、視覚以外の感覚で情報を呈示する方法も提案されているが、従来では、あるデータを予め決められたいずれかの感覚にて呈示するに留まっている。   In addition, a method of presenting information with a sense other than vision has been proposed, but conventionally, data is presented with any one of predetermined senses.

本発明は、以上のような課題を解決するためになされたものであり、その目的は、データの直感的な理解をより向上させることのできる改良された情報処理装置を提供することにある。   The present invention has been made to solve the above-described problems, and an object of the present invention is to provide an improved information processing apparatus capable of further improving the intuitive understanding of data.

以上のような目的を達成するために、本発明に係る情報処理装置は、計測データを異なる感覚にて呈示する複数の呈示手段と、前記呈示手段の一つに該当し、計測データを可視化可能に呈示する表示手段と、画面表示した選択画面からのユーザ入力に従い、同一の計測環境から得られた複数の計測データそれぞれに対し互いに異なる感覚で呈示されるように各計測データを呈示するための前記呈示手段を対応付ける割付処理手段と、ユーザ操作に応じて移動する前記表示手段上のポインタの表示位置を検出する位置検出手段と、前記表示手段に対応付けられた計測データを前記表示手段に表示するための呈示情報に変換すると共に、前記表示手段以外の前記呈示手段から呈示するための計測データのうち前記位置検出手段による検出位置に対応した計測データを当該呈示手段から呈示するための呈示情報に変換する呈示情報生成手段と、前記呈示情報生成手段により生成された各呈示情報を、対応する前記呈示手段から出力する情報出力手段とを有し、同一の計測環境から得られた複数の計測データを、それぞれ対応する前記呈示手段から同時並行して呈示することを特徴とする。 In order to achieve the above object, an information processing apparatus according to the present invention corresponds to one of a plurality of presenting means for presenting measurement data with different sensations , and the measurement data can be visualized. display means for presenting to, in accordance with user input from the screen display the selection screen, against the plurality of measurement data obtained from the same measurement environment, for presenting the measurement data to be presented in a different sense from each other An assignment processing means for associating the presenting means, a position detecting means for detecting a display position of a pointer on the display means that moves in response to a user operation, and measurement data associated with the display means in the display means. It converts into the presentation information for display, and it is in the detection position by the position detection means among the measurement data for presentation from the presentation means other than the display means. Presentation information generating means for converting the corresponding measurement data into presentation information for presentation from the presenting means, and information output means for outputting each presentation information generated by the presentation information generating means from the corresponding presentation means, And a plurality of pieces of measurement data obtained from the same measurement environment are simultaneously presented from the corresponding presentation means.

また、前記呈示手段の一つは、計測データを触力覚にて呈示する触力覚呈示手段であることを特徴とする。   In addition, one of the presenting means is a tactile force sense presenting means for presenting measurement data with a tactile force sense.

また、前記呈示手段の一つは、計測データを聴覚にて呈示する音出力手段であることを特徴とする。   Further, one of the presenting means is a sound output means for presenting measurement data by hearing.

また、呈示対象となる複数の計測データは、それぞれ一シミュレーションテストから得られた異なる種類のデータであることを特徴とする。   The plurality of measurement data to be presented is different types of data obtained from one simulation test.

また、複数の計測データが蓄積された計測データ記憶手段を有し、前記割付処理手段は、前記計測データ記憶手段に蓄積された計測データの中からユーザにより選択された複数の計測データを呈示対象とすることを特徴とする。   In addition, the measurement data storage means in which a plurality of measurement data is accumulated, the allocation processing means presents a plurality of measurement data selected by the user from the measurement data accumulated in the measurement data storage means It is characterized by.

本発明に係る情報処理装置におけるデータ呈示方法は、計測データを異なる感覚にて呈示するための複数の呈示手段を有する情報処理装置において実施され、割付手段が、ユーザからの入力指示に従い同一の計測環境から得られた複数の計測データに対し、互いに異なる感覚で呈示されるように各計測データを呈示するための前記呈示手段を対応付ける割付ステップと、呈示情報生成手段が、選択された各計測データを、それぞれ対応する前記呈示手段から呈示するための呈示情報に変換するステップと、情報出力手段が、生成された各呈示情報を、対応する前記呈示手段から同時並行して出力する情報出力ステップとを含むことを特徴とする。

The data presenting method in the information processing apparatus according to the present invention is implemented in an information processing apparatus having a plurality of presenting means for presenting measurement data with different sensations , and the assigning means performs the same measurement according to an input instruction from the user. for a plurality of measurement data obtained from the environment, and the allocation step of associating said presentation means for presenting the measurement data to be presented in different sense from one another, is presented information generating means, each measurement data selected Are converted into presentation information for presentation from the corresponding presentation means, and an information output step for the information output means to simultaneously output each of the generated presentation information from the corresponding presentation means; It is characterized by including.

また、前記割付ステップは、同一の計測環境から得られた計測データの中から呈示する複数の計測データを選択することを特徴とする。   The assigning step selects a plurality of measurement data to be presented from measurement data obtained from the same measurement environment.

本発明によれば、複数の計測データを視覚のみならず他の感覚と併せて同時並行して呈示することができるので、計測データ、またその変化などを直感的に把握させることができる。   According to the present invention, since a plurality of measurement data can be presented simultaneously with other senses as well as vision, measurement data and changes thereof can be intuitively grasped.

以下、図面に基づいて、本発明の好適な実施の形態について説明する。   Hereinafter, preferred embodiments of the present invention will be described with reference to the drawings.

図1は、本発明に係る情報処理装置の一実施の形態を示した全体構成図である。本実施の形態では、計測実験により得られた計測データを視覚、聴覚及び触力覚により呈示する情報処理装置を示している。図1には、予め計測実験により得られた計測データを内部に保持した情報処理装置2の本体と共に、計測データを呈示するための呈示手段として、可視化可能に出力するためのディスプレイ4と、聴覚により呈示するためのスピーカ6と、触力覚により呈示するための触力覚呈示装置とが示されている。   FIG. 1 is an overall configuration diagram showing an embodiment of an information processing apparatus according to the present invention. In the present embodiment, an information processing apparatus that presents measurement data obtained by a measurement experiment with visual, auditory, and tactile sensations is shown. FIG. 1 shows, together with the main body of the information processing apparatus 2 that holds measurement data obtained in advance by a measurement experiment in advance, as a presentation means for presenting measurement data, a display 4 for visualizing output, and an auditory The speaker 6 for presenting by tactile force and the tactile force sense presentation device for presenting by tactile force sense are shown.

図2は、本実施の形態における情報処理装置の機能ブロック構成図である。図2において、触力覚呈示装置8は、図1に示したようにマウス10とマウス10の上面から突出した呈示部位12とで構成される。マウス10は、周知のごとく表示画面上のカーソル14を移動させるためにユーザに操作される操作手段である。呈示部位12は、表示された計測環境上におけるカーソル位置における計測データを、接触された指先を通じてユーザに触力覚で呈示する。マウス10及び呈示部位12は、それぞれ対応したインタフェース(IF)16,18を介して情報処理装置2に設けられた構成要素と情報の授受を行う。このうち、マウスインタフェース16は、ユーザによるマウス10の操作方向及び量を検出する操作検出部20を有している。   FIG. 2 is a functional block configuration diagram of the information processing apparatus according to the present embodiment. 2, the tactile force sense presentation device 8 includes a mouse 10 and a presentation portion 12 that protrudes from the upper surface of the mouse 10 as shown in FIG. The mouse 10 is an operation means operated by the user to move the cursor 14 on the display screen as is well known. The presentation part 12 presents the measurement data at the cursor position on the displayed measurement environment to the user through a touched fingertip with a tactile sensation. The mouse 10 and the presentation site 12 exchange information with the components provided in the information processing apparatus 2 via the corresponding interfaces (IF) 16 and 18, respectively. Among these, the mouse interface 16 has an operation detection unit 20 that detects the operation direction and amount of the mouse 10 by the user.

情報処理装置2は、CPU、メモリ、外部記憶装置等汎用的なコンピュータと同様の構成により実現され、このコンピュータのハードウェアと、コンピュータ上で動作するアプリケーションソフトウェアとの協調動作によって以下の各構成要素が実現される。   The information processing apparatus 2 is realized by a configuration similar to that of a general-purpose computer such as a CPU, a memory, and an external storage device, and the following constituent elements are obtained by cooperative operation of the hardware of the computer and application software running on the computer. Is realized.

本実施の形態における割付処理部22は、ディスプレイ4に後述する選択画面を表示して、その選択画面からのユーザ選択操作に従い、計測データ記憶部24に予め記憶されている複数の計測データと、その複数の計画データそれぞれを呈示するための呈示手段とを対応付ける。音情報生成部26は、「聴覚」による呈示と選択された計測データを音情報に変換し、スピーカに相当する音出力部6から音で出力する。画像情報生成部28は、「視覚」による呈示と選択された計測データを可視化可能な画像情報に変換する。画面制御部30は、画像情報生成部28により生成された画像情報に従い計測データをディスプレイに相当する表示部4に表示すると共に操作検出部20が検出した操作方向及び量を含むマウス操作情報に従い画面上におけるカーソル14の位置を検出し、移動させる。また、割付処理部22からの指示に従い表示した選択画面を介した入出力制御を行う。   The allocation processing unit 22 in the present embodiment displays a selection screen, which will be described later, on the display 4 and, according to a user selection operation from the selection screen, a plurality of measurement data stored in advance in the measurement data storage unit 24, The presenting means for presenting each of the plurality of plan data is associated. The sound information generation unit 26 converts the presentation by “auditory” and the selected measurement data into sound information, and outputs the sound information from the sound output unit 6 corresponding to a speaker. The image information generation unit 28 converts the presentation by “sight” and the selected measurement data into image information that can be visualized. The screen control unit 30 displays the measurement data on the display unit 4 corresponding to the display according to the image information generated by the image information generation unit 28, and displays the measurement data according to the mouse operation information including the operation direction and amount detected by the operation detection unit 20. The position of the cursor 14 on the upper side is detected and moved. Further, input / output control is performed via a selection screen displayed in accordance with an instruction from the assignment processing unit 22.

触力覚情報生成部32は、「触力覚」による呈示と選択された計測データを変換することによって触力覚情報を生成する。呈示部位インタフェース18は、触力覚情報生成部32により生成された触力覚情報に従い呈示部位12の駆動制御を行う駆動制御部34を有している。この駆動制御部34による駆動制御により、呈示部位12は、接触された指先を通じてカーソル14の位置における計測データを触力覚にてユーザに呈示することになる。なお、本実施の形態における触力覚呈示装置8は、本願特許出願人により前述の特許文献1に開示された情報受感装置を利用することができる。   The haptic information generating unit 32 generates haptic information by converting the presentation by the “haptic sensation” and the selected measurement data. The presentation site interface 18 includes a drive control unit 34 that performs drive control of the presentation site 12 in accordance with the haptic information generated by the haptic information generation unit 32. By the drive control by the drive control unit 34, the presentation site 12 presents the measurement data at the position of the cursor 14 to the user through the touched fingertip with a tactile force sense. Note that the tactile sensation presentation device 8 according to the present embodiment can use the information sensing device disclosed in the above-mentioned Patent Document 1 by the present patent applicant.

次に、本実施の形態における動作を図3に示したフローチャートを用いて説明する。本実施の形態では、1回のシミュレーションで同時に得られた複数の計測データを呈示する場合を例にして説明する。この計測データの組として透磁率、ポテンシャル及び磁束密度からなるデータセットを用いる。図6には、全ての計測データをそれぞれ可視化可能に画面表示したときの例が示されている。   Next, the operation in this embodiment will be described with reference to the flowchart shown in FIG. In the present embodiment, a case where a plurality of measurement data obtained simultaneously in one simulation is presented will be described as an example. As a set of measurement data, a data set including a magnetic permeability, a potential, and a magnetic flux density is used. FIG. 6 shows an example when all measurement data are displayed on the screen so that they can be visualized.

割付処理部22は、計測データ記憶部24に記録された計測データから呈示対象となる計測データの種類を特定する(ステップ110)。本実施の形態では、図6に例示したように透磁率、ポテンシャル及び磁束密度という種別が認識される。また、割付処理部22は、情報処理装置2が有する呈示手段、具体的にはディスプレイ4、スピーカ6及び触力覚呈示装置8を認識する必要があるが、この呈示手段の認識は、データとして装置内部に予め設定登録してもよいし、動的に認識するようにしてもよい。割付処理部22は、このように呈示対象の計測データと、呈示手段とを取得すると、図4に例示したような選択画面を生成し、ディスプレイ4に表示する(ステップ120)。   The allocation processing unit 22 specifies the type of measurement data to be presented from the measurement data recorded in the measurement data storage unit 24 (step 110). In the present embodiment, as illustrated in FIG. 6, the types of permeability, potential, and magnetic flux density are recognized. The allocation processing unit 22 needs to recognize the presenting means included in the information processing apparatus 2, specifically the display 4, the speaker 6, and the tactile sensation presentation apparatus 8. The recognition of the presenting means is performed as data. Settings may be registered in advance in the apparatus, or may be recognized dynamically. When the allocation processing unit 22 acquires the measurement data to be presented and the presentation means in this way, the assignment processing unit 22 generates a selection screen as illustrated in FIG. 4 and displays it on the display 4 (step 120).

図4において、選択画面の縦方向に呈示対象の計測データのデータ種別40を並べ、横方向に呈示手段種別42を並べて表示する。なお、本実施の形態では、呈示手段の種別の代わりに呈示手段による呈示方法、具体的には、呈示手段がディスプレイ4であれば「視覚」と、スピーカ6であれば「聴覚」と、触力覚呈示装置8であれば「触覚」及び「力覚」と、それぞれ表示するようにした。なお、「触覚」は、ザラザラ感などのテクスチャ情報により表現され、「力覚」は、作用する方向及びその量(ベクトル情報)により表現されるので、図4では別個に示したが、単一の触力覚呈示装置8で呈示するため「触力覚」と一緒にしてもよい。そして、計測データと呈示手段の各種別40,42を2次元表的に表示し、その交差する箇所にチェックボックス44を配置する。   In FIG. 4, the data type 40 of the measurement data to be presented is arranged in the vertical direction of the selection screen, and the presentation means type 42 is arranged and displayed in the horizontal direction. In this embodiment, instead of the type of the presenting means, the presenting method by the presenting means, specifically, “visual” if the presenting means is the display 4, “auditory” if the presenting means is the speaker 6, touch In the case of the force sense presentation device 8, “tactile sense” and “force sense” are displayed respectively. The “tactile sensation” is expressed by texture information such as a rough feeling, and the “force sensation” is expressed by an acting direction and its amount (vector information). The tactile force sense presenting device 8 may be used together with “tactile force sense”. Then, the measurement data and the various types of presentation means 40 and 42 are displayed in a two-dimensional table, and a check box 44 is arranged at the intersection.

割付処理部22が上記の選択画面を生成して、ディスプレイ4に表示すると、ユーザは、この選択画面から各計測データをどの呈示手段から呈示させたいかを、該当するチェックボックス44をチェックすることによって選択する。割付処理部22は、このユーザによる選択操作に従い、計測データと呈示手段との対応付けを行う(ステップ130)。そして、各情報生成部26,28,32は、割付処理部22により対応付けられた計測データをデータ変換し、それぞれ音情報、画像情報、触力覚情報を生成し、それぞれ対応する呈示手段から変換した情報を出力する(ステップ140,150)。すなわち、画像情報生成部28であれば、対応する計測データを画像情報に変換する。そして、画面制御部30は、生成された画像情報とカーソル14とを表示部4へ出力する。また、音情報生成部26であれば、対応する計測データを音情報に変換して音出力部6へ出力する。   When the allocation processing unit 22 generates the above selection screen and displays it on the display 4, the user checks the corresponding check box 44 from which presentation means each measurement data is to be presented from this selection screen. Select by. The allocation processing unit 22 associates the measurement data with the presenting means according to the selection operation by the user (step 130). And each information generation part 26,28,32 carries out the data conversion of the measurement data matched by the allocation process part 22, respectively produces | generates sound information, image information, and tactile-force information, respectively from corresponding presentation means The converted information is output (steps 140 and 150). That is, if it is the image information generation part 28, corresponding measurement data will be converted into image information. Then, the screen control unit 30 outputs the generated image information and the cursor 14 to the display unit 4. In the case of the sound information generation unit 26, the corresponding measurement data is converted into sound information and output to the sound output unit 6.

ただ、本実施の形態では、計測データ値の変化を音の変化により表現することになる。つまり、計測環境内においては、どの場所でも計測データ値が一定であるとは限らないため、この計測データ値に応じた音で出力する必要がある。そこで、本実施の形態では、表示された計測環境内においてカーソル14によって指し示された位置に対応する計測データを出力するようにしている。このため、音情報生成部26は、音情報への変換対象の計測データのうち画面表示された計測環境内のカーソル位置に対応した位置の計測データのみデータ変換すればよい。もちろん、呈示対象の計測データ全体をデータ変換してもよいが、処理速度の観点からするとカーソル位置に対応した位置のみ変換することが効率的である。そして、詳細は具体例をあげて後述するが、カーソル14の移動に伴い呈示対象の計測データ値も変化するため、これに応じて出力音を変化させる。なお、本実施の形態では、聴覚及び触力覚に共通した一つのカーソル14を用いるようにしたが、聴覚及び触力覚それぞれに対応させてカーソル14を生成するようにしてもよい。そうすれば、ある箇所は聴覚で、ある箇所は触力覚で、などのように計測環境内の異なる箇所の計測データを同時に呈示することができる。以上のようにして、音情報生成部26は、計測環境内のカーソル14によって指し示された位置の計測データを聴覚により呈示する。   However, in the present embodiment, changes in measurement data values are expressed by changes in sound. That is, in the measurement environment, the measurement data value is not always constant everywhere, so it is necessary to output the sound according to the measurement data value. Therefore, in the present embodiment, measurement data corresponding to the position indicated by the cursor 14 in the displayed measurement environment is output. Therefore, the sound information generation unit 26 only needs to convert the measurement data at a position corresponding to the cursor position in the measurement environment displayed on the screen among the measurement data to be converted into sound information. Of course, the entire measurement data to be presented may be converted, but from the viewpoint of processing speed, it is efficient to convert only the position corresponding to the cursor position. Although details will be described later with a specific example, since the measurement data value to be presented also changes as the cursor 14 moves, the output sound is changed accordingly. In the present embodiment, one cursor 14 common to auditory sense and tactile sensation is used. However, the cursor 14 may be generated in correspondence with auditory sense and tactile sense. By doing so, it is possible to simultaneously present measurement data of different locations in the measurement environment, such as a certain location being auditory, a certain location being haptic, and the like. As described above, the sound information generation unit 26 presents the measurement data at the position pointed to by the cursor 14 in the measurement environment by hearing.

更に、触力覚情報生成部32は、音情報生成部26と同様に計測環境におけるカーソル14により指し示された位置に対応する計測データを変換することによって触力覚情報を生成する。駆動制御部34は、触力覚情報生成部32により生成された触力覚情報に従い呈示部位12を駆動する。これにより、呈示部位12は、接触された指先を通じてカーソル14の位置における計測データを触力覚にてユーザに呈示することになる。   Furthermore, the haptic information generating unit 32 generates haptic information by converting measurement data corresponding to the position pointed to by the cursor 14 in the measurement environment, like the sound information generating unit 26. The drive control unit 34 drives the presentation site 12 according to the haptic information generated by the haptic information generation unit 32. Thereby, the presentation site | part 12 presents the measurement data in the position of the cursor 14 to a user with a tactile force sense through the contacted fingertip.

本実施の形態によれば、1回のシミュレーションにおいて収集した物性データ、スカラデータ、ベクトルデータに関する計測データをそれぞれ異なる呈示手段にて呈示することができるので、ユーザは、視覚、聴覚及び触力覚という異なる感覚にて複数の計測データの呈示を同時に受けることができる。ここで、ユーザが受ける感覚について具体例をあげて説明する。   According to the present embodiment, measurement data relating to physical property data, scalar data, and vector data collected in one simulation can be presented by different presentation means. It is possible to simultaneously receive a plurality of measurement data with different feelings. Here, a specific example is given and demonstrated about the feeling which a user receives.

例えば、図4に示した選択画面からユーザが透磁率に「視覚」を、ポテンシャルに「聴覚」を、磁束密度に「触覚」と「力覚」をそれぞれ選択したとする。このとき、画面制御部30は、図6(a)に示したように透磁率に関する計測データをディスプレイ4に表示する。なお、ここでは説明の便宜上、計測データを可視化した図6(b),(c)を用いて説明するが、実際には、ユーザはディスプレイ4に表示された図6(a)のみ目視でき、図6(b),(c)は目視できていない。   For example, it is assumed that the user selects “sight” as the magnetic permeability, “auditory” as the potential, and “tactile” and “force” as the magnetic flux density from the selection screen illustrated in FIG. At this time, the screen control unit 30 displays the measurement data regarding the magnetic permeability on the display 4 as shown in FIG. Here, for convenience of explanation, the measurement data will be described with reference to FIGS. 6 (b) and 6 (c). However, in actuality, the user can only see FIG. 6 (a) displayed on the display 4, 6B and 6C are not visible.

一方、音情報生成部26は、可視化可能に表示すると図6(b)に相当するポテンシャルデータのうちディスプレイ4に表示されたカーソルの位置に対応した部分のデータをデータ変換することによって、カーソル位置に対応する計測データを聴覚にて呈示する。同様に、触力覚情報生成部32は、可視化可能に表示すると図6(c)に相当する磁束密度データのうちディスプレイ4に表示されたカーソルの位置に対応した部分のデータをデータ変換することによって、カーソル位置に対応する計測データを触力覚にて呈示する。   On the other hand, the sound information generation unit 26 performs data conversion on data corresponding to the position of the cursor displayed on the display 4 in the potential data corresponding to FIG. The measurement data corresponding to is presented by hearing. Similarly, the haptic information generating unit 32 converts the data of the portion corresponding to the position of the cursor displayed on the display 4 in the magnetic flux density data corresponding to FIG. The measurement data corresponding to the cursor position is presented by the sense of touch.

図5は、図6と同じ図であり、図6にカーソルで指し示す位置A,Bと矢印とを追加した図である。位置A,Bは図5(a),(b),(c)共に同じ位置である。そして、矢印は、カーソルが指し示す位置が位置Aから位置Bに移動されたことを示している。図5(a)によると、同じ配色上、つまり同じ物性値の領域内をカーソルが移動されたことがわかる。これに対し、聴覚で呈示する図5(b)では、色の濃い領域から薄い領域へカーソルが移動されたことがわかる。つまり、音情報生成部26は、音出力部6から例えば位置Aでは低い音程の音を出力し、カーソルが位置Bに移動する際に色の濃度が変わる境目で高い音程の音に変更して出力する。位置Bでは高い音程での音出力を維持する。つまり、ユーザは、実際には図5(a)しか視覚により確認できていないが、カーソル移動の際に出力音の音程が変化することでポテンシャルのデータ値が変化していることが聴覚にて確認することができる。   FIG. 5 is the same diagram as FIG. 6 and is a diagram in which positions A and B indicated by the cursor and an arrow are added to FIG. The positions A and B are the same positions in FIGS. 5 (a), 5 (b), and 5 (c). The arrow indicates that the position pointed to by the cursor has been moved from position A to position B. FIG. 5A shows that the cursor has been moved in the same color scheme, that is, in the region having the same physical property value. On the other hand, in FIG. 5B presented auditorily, it can be seen that the cursor has been moved from the dark region to the thin region. That is, the sound information generation unit 26 outputs a low pitch sound at the position A, for example, from the sound output unit 6, and changes it to a high pitch sound at the boundary where the color density changes when the cursor moves to the position B. Output. At position B, the sound output at a high pitch is maintained. In other words, the user can actually confirm only visually in FIG. 5 (a), but the auditory sense that the potential data value is changed by changing the pitch of the output sound when the cursor is moved. Can be confirmed.

一方、触力覚で呈示する図5(c)では、ベクトルを表す矢印がやや右下からやや左上に向きかつ密度が相対的に低い位置Aから、矢印が右上から左下に向きかつ密度が相対的に高い位置Bへ、カーソルが移動されたことがわかる。つまり、触力覚情報生成部32は、位置Aでは、やや右下からやや左上に向きの流れを受けるような力覚を、位置Bへ移動するにつれ右方向から左方向への流れを受けるような力覚を、そして位置Bでは右上から左下に向きの流れを受けるような力覚を、それぞれ生成する。なお、この例では、触覚は一定の感覚で生成する。このようにして、触力覚情報生成部32は、磁束密度データを前述した触力覚にて呈示することになるが、ユーザは、実際には図5(a)しか視覚により確認できないが、カーソル移動の際に触力覚が変化することで磁束密度のデータ値が変化していることが触力覚にて確認することができる。   On the other hand, in FIG. 5 (c) presented by tactile sensation, the arrow representing the vector is slightly from the lower right to the upper left and the density is relatively low, and the arrow is from the upper right to the lower left and the density is relative. It can be seen that the cursor has been moved to a position B that is high. That is, at position A, the haptic information generating unit 32 receives a force sensation that receives a flow from the slightly lower right to the slightly upper left as it moves to the position B from the right to the left. A force sensation is generated, and at position B, a force sensation that receives a flow from the upper right to the lower left is generated. In this example, the tactile sensation is generated with a certain sense. In this way, the haptic information generating unit 32 presents the magnetic flux density data with the aforementioned haptic sensation, but the user can actually visually confirm only FIG. It can be confirmed by the haptic sense that the data value of the magnetic flux density is changed by changing the haptic sense when the cursor is moved.

また、例えば、図4に示した選択画面からユーザが透磁率に「触覚」と「力覚」を選択したとすると、触力覚情報生成部32は、色の変わり目に段差があるような力角を呈示できるようにし、そして色が異なる位置ではざらざら感やすべすべ感等異なる触覚を呈示できるようにする。また、例えば、図4に示した選択画面からユーザが磁束密度に「聴覚」を選択したとすると、音情報生成部26は、ステレオ効果で出力音に方向性を持たせ、また磁束密度の大小を出力音の大小で表現する。   For example, if the user selects “tactile sense” and “force sense” as the magnetic permeability from the selection screen shown in FIG. The corners can be presented, and different tactile sensations such as a rough feeling and a smooth feeling can be presented at positions where the colors are different. Further, for example, if the user selects “auditory” as the magnetic flux density from the selection screen shown in FIG. 4, the sound information generation unit 26 gives directionality to the output sound by the stereo effect, and the magnitude of the magnetic flux density is large or small. Is expressed by the magnitude of the output sound.

本実施の形態によれば、以上のようにして1回のシミュレーションにより得られた3種類の計測データを異なる感覚にて同時並行して呈示することができる。このように、聴覚や触力覚を同時並行して呈示することによって計測データの変化を直感的に把握することができる。また、例えば、物性値では変化がなくてもポテンシャルは変化しているという計測データ間の特性の相違等を把握しやすくなる。   According to the present embodiment, three types of measurement data obtained by one simulation as described above can be presented simultaneously in different senses. In this way, it is possible to intuitively grasp changes in measurement data by simultaneously presenting auditory sense and tactile sensation. Further, for example, it becomes easy to grasp a difference in characteristics between measurement data that the potential is changed even if there is no change in the physical property value.

なお、例えば触力覚を例にして説明すると、どの種類の計測データのどの値をどのような触覚及び力角にて呈示するかは、事前に定義しておく必要がある。例えば、どの値は、ざらざら感で呈示するなどである。また、仮に触力覚にて呈示できないような計測データであることが事前に把握できるときには、チェックボックス44の選択ができないように選択画面を生成する。   Note that, for example, a tactile force sense will be described as an example. It is necessary to define in advance which tactile force and force angle each value of which type of measurement data is presented. For example, which value is presented with a rough feel. In addition, when it is possible to grasp in advance that the measurement data cannot be presented by tactile sensation, a selection screen is generated so that the check box 44 cannot be selected.

ところで、上記説明では、1回のシミュレーションで複数の異なる種類の計測データが収集でき、それらを同時並行して呈示する場合を例にした。このため、計測データ記憶部24には、これらの3種類の計測データのみが蓄積されていることを前提とした。しかし、呈示対象の計測データの組は、これに限定されるものではない。例えば、前述した1回のシミュレーションで収集される3種類の計測データをデータセットと称することにすると、複数のデータセットを計測データ記憶部24に蓄積しておき、割付処理部22による選択画面上、若しくは選択画面生成の前段階でデータセットをユーザに選択させるようにして、図4における呈示対象の計測データのデータ種別40を決定するようにしてもよい。   By the way, in the above description, a case where a plurality of different types of measurement data can be collected in one simulation and presented in parallel is taken as an example. For this reason, it is assumed that only these three types of measurement data are stored in the measurement data storage unit 24. However, the set of measurement data to be presented is not limited to this. For example, if the three types of measurement data collected in one simulation described above are referred to as a data set, a plurality of data sets are accumulated in the measurement data storage unit 24 and are displayed on the selection screen by the allocation processing unit 22. Alternatively, the data type 40 of the measurement data to be presented in FIG. 4 may be determined by allowing the user to select a data set in the previous stage of selection screen generation.

また、磁場解析の方法としてパラメータ値を変更しながら複数のシミュレーションを連続して行い、パラメータ値の変更に伴うある特定の計測データの変化具合を確認したい場合がある。このような場合、どのデータセットに含まれるどの種類の計測データという、データセット及び計測データの種別をユーザ選択させるようにしてもよい。これにより、パラメータ1のときのポテンシャルは「視覚」で、パラメータ2のときのポテンシャルは「聴覚」で、などのように、ある特定の計測データを同時並行して呈示することで、その計測データ間の異同を容易に理解させることができる。なお、各データセットに設定したパラメータ値を計測データに付加して計測データ記憶部24に保存するようにしておけば、ユーザにデータセットを特定する情報の代わりにパラメータへの設定値を直接入力指定させることができる。   In addition, as a magnetic field analysis method, there are cases where a plurality of simulations are continuously performed while changing parameter values, and it is desired to confirm how certain measurement data changes due to the change of parameter values. In such a case, the user may be allowed to select the type of measurement data included in which data set, which type of measurement data. As a result, the potential at the time of parameter 1 is “visual”, the potential at the time of parameter 2 is “hearing”, and so on. Differences between them can be easily understood. If the parameter value set for each data set is added to the measurement data and saved in the measurement data storage unit 24, the setting value for the parameter is directly input to the user instead of the information for specifying the data set. Can be specified.

もちろん、直感的に計測データの内容及び計測データ間の異同を認識させるという効果を得るためには、呈示対象とする計測データ群が、同一計測環境上において1回のシミュレーションで得られる異なる種類の複数の計測データ、あるいは同一計測環境上において異なるパラメータ設定値によって得られる同じ種類の複数の計測データで構成されることが好ましい。   Of course, in order to obtain the effect of intuitively recognizing the contents of measurement data and the difference between measurement data, different types of measurement data groups to be presented can be obtained in one simulation in the same measurement environment. It is preferable to be configured by a plurality of measurement data or a plurality of measurement data of the same type obtained by different parameter setting values in the same measurement environment.

いずれにしても、本実施の形態によれば、複数の計測データを異なる呈示手段から同時並行して呈示することができ、また、呈示対象の計測データ毎に、呈示する手段を選択することができるので、計測データの直感的な理解を可能にすることができる。また、本実施の形態では、計測データに限定したが、同等の効果が得られるのであれば、他の種類のデータの呈示にも適用することは可能である。   In any case, according to the present embodiment, a plurality of measurement data can be presented simultaneously from different presentation means, and a means for presentation can be selected for each measurement data to be presented. This enables intuitive understanding of measurement data. In the present embodiment, the measurement data is limited. However, the present invention can be applied to the presentation of other types of data as long as the same effect can be obtained.

本発明に係る情報処理装置の一実施の形態を示した全体構成図である。1 is an overall configuration diagram showing an embodiment of an information processing apparatus according to the present invention. 本実施の形態における情報処理装置の機能ブロック構成図である。It is a functional block block diagram of the information processing apparatus in this Embodiment. 本実施の形態における計測データの呈示処理を示したフローチャートである。It is the flowchart which showed the presentation process of the measurement data in this Embodiment. 本実施の形態において生成、表示する選択画面の表示例を示した図である。It is the figure which showed the example of a display of the selection screen produced | generated and displayed in this Embodiment. 1回のシミュレーションにおいて得られた3種類の計測データを可視化可能にデータ変換し生成した画像情報の表示例を示した図であり、カーソルの移動位置を示した図である。It is the figure which showed the example of a display of the image information produced | generated by data-converting three types of measurement data obtained in one simulation, and the figure which showed the movement position of a cursor. 1回のシミュレーションにおいて得られた3種類の計測データを可視化可能にデータ変換し生成した画像情報の表示例を示した図である。It is the figure which showed the example of a display of the image information produced | generated by data-converting three types of measurement data obtained in one simulation so that visualization was possible.

符号の説明Explanation of symbols

2 情報処理装置、4 ディスプレイ,表示部、6 スピーカ,音出力部、8 触力覚呈示装置、10 マウス、12 呈示部位、14 カーソル、16 マウスインタフェース、18 呈示部位インタフェース、20 操作検出部、22 割付処理部、24 計測データ記憶部、26 音情報生成部、28 画像情報生成部、30 画面制御部、32 触力覚情報生成部、34 駆動制御部。   2 Information processing device, 4 display, display unit, 6 speaker, sound output unit, 8 tactile sensation presentation device, 10 mouse, 12 presentation site, 14 cursor, 16 mouse interface, 18 presentation site interface, 20 operation detection unit, 22 Assignment processing unit, 24 measurement data storage unit, 26 sound information generation unit, 28 image information generation unit, 30 screen control unit, 32 haptic information generation unit, 34 drive control unit.

Claims (7)

計測データを異なる感覚にて呈示する複数の呈示手段と、
前記呈示手段の一つに該当し、計測データを可視化可能に呈示する表示手段と、
画面表示した選択画面からのユーザ入力に従い、同一の計測環境から得られた複数の計測データそれぞれに対し互いに異なる感覚で呈示されるように各計測データを呈示するための前記呈示手段を対応付ける割付処理手段と、
ユーザ操作に応じて移動する前記表示手段上のポインタの表示位置を検出する位置検出手段と、
前記表示手段に対応付けられた計測データを前記表示手段に表示するための呈示情報に変換すると共に、前記表示手段以外の前記呈示手段から呈示するための計測データのうち前記位置検出手段による検出位置に対応した計測データを当該呈示手段から呈示するための呈示情報に変換する呈示情報生成手段と、
前記呈示情報生成手段により生成された各呈示情報を、対応する前記呈示手段から出力する情報出力手段と、
を有し、同一の計測環境から得られた複数の計測データを、それぞれ対応する前記呈示手段から同時並行して呈示することを特徴とする情報処理装置。
A plurality of presentation means for presenting measurement data with different sensations ;
Display means that corresponds to one of the presenting means and presents the measurement data so that it can be visualized;
Accordance with a user input from the screen display the selection screen, against the plurality of measurement data obtained from the same measurement environment, associates said presentation means for presenting the measurement data to be presented in different sense from each other allocations Processing means;
Position detection means for detecting the display position of the pointer on the display means that moves in response to a user operation;
The measurement data associated with the display means is converted into the presentation information for display on the display means, and the detection position by the position detection means among the measurement data for presentation from the presentation means other than the display means Presenting information generating means for converting the measurement data corresponding to the presenting information to be presented from the presenting means,
Information output means for outputting each presentation information generated by the presentation information generating means from the corresponding presentation means;
And a plurality of pieces of measurement data obtained from the same measurement environment are simultaneously presented in parallel from the corresponding presentation means.
請求項1記載の情報処理装置において、
前記呈示手段の一つは、計測データを触力覚にて呈示する触力覚呈示手段であることを特徴とする情報処理装置。
The information processing apparatus according to claim 1,
One of the presenting means is a tactile force sense presenting means for presenting measurement data with a tactile force sense.
請求項1記載の情報処理装置において、
前記呈示手段の一つは、計測データを聴覚にて呈示する音出力手段であることを特徴とする情報処理装置。
The information processing apparatus according to claim 1,
One of the presenting means is a sound output means for presenting measurement data by hearing.
請求項1記載の情報処理装置において、
呈示対象となる複数の計測データは、それぞれ一シミュレーションテストから得られた異なる種類のデータであることを特徴とする情報処理装置。
The information processing apparatus according to claim 1,
The information processing apparatus, wherein the plurality of measurement data to be presented are different types of data obtained from one simulation test.
請求項1記載の情報処理装置において、
複数の計測データが蓄積された計測データ記憶手段を有し、
前記割付処理手段は、前記計測データ記憶手段に蓄積された計測データの中からユーザにより選択された複数の計測データを呈示対象とすることを特徴とする情報処理装置。
The information processing apparatus according to claim 1,
Having a measurement data storage means in which a plurality of measurement data is accumulated;
The information processing apparatus according to claim 1, wherein the allocation processing unit uses a plurality of pieces of measurement data selected by a user from the measurement data stored in the measurement data storage unit.
計測データを異なる感覚にて呈示するための複数の呈示手段を有する情報処理装置において実施され、
割付手段が、ユーザからの入力指示に従い同一の計測環境から得られた複数の計測データに対し、互いに異なる感覚で呈示されるように各計測データを呈示するための前記呈示手段を対応付ける割付ステップと、
呈示情報生成手段が、選択された各計測データを、それぞれ対応する前記呈示手段から呈示するための呈示情報に変換するステップと、
情報出力手段が、生成された各呈示情報を、対応する前記呈示手段から同時並行して出力する情報出力ステップと、
を含むことを特徴とする情報処理装置におけるデータ呈示方法。
Implemented in an information processing apparatus having a plurality of presentation means for presenting measurement data with different sensations ,
Allocation means, for a plurality of measurement data obtained from the same measurement environment in accordance with the input instruction from the user, and allocating step of associating said presentation means for presenting the measurement data to be presented in a different sense from each other ,
A step in which the presentation information generating means converts each selected measurement data into presentation information for presentation from the corresponding presentation means;
An information output step in which the information output means outputs the generated presentation information simultaneously from the corresponding presentation means, and
A method for presenting data in an information processing apparatus, comprising:
請求項6記載の情報処理装置におけるデータ呈示方法において、
前記割付ステップは、同一の計測環境から得られた計測データの中から呈示する複数の計測データを選択することを特徴とする情報処理装置におけるデータ呈示方法。
In the data presentation method in the information processing apparatus according to claim 6,
The allocation step selects a plurality of measurement data to be presented from measurement data obtained from the same measurement environment.
JP2005083223A 2005-03-23 2005-03-23 Information processing apparatus and data presentation method in information processing apparatus Active JP4513620B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005083223A JP4513620B2 (en) 2005-03-23 2005-03-23 Information processing apparatus and data presentation method in information processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005083223A JP4513620B2 (en) 2005-03-23 2005-03-23 Information processing apparatus and data presentation method in information processing apparatus

Publications (2)

Publication Number Publication Date
JP2006268230A JP2006268230A (en) 2006-10-05
JP4513620B2 true JP4513620B2 (en) 2010-07-28

Family

ID=37204169

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005083223A Active JP4513620B2 (en) 2005-03-23 2005-03-23 Information processing apparatus and data presentation method in information processing apparatus

Country Status (1)

Country Link
JP (1) JP4513620B2 (en)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000171390A (en) * 1998-12-07 2000-06-23 Hitachi Ltd Light measuring method and device therefor
JP2001074508A (en) * 1999-08-31 2001-03-23 Toshiba Corp Environemnt monitoring device and method using tactile sense
JP2001101288A (en) * 1999-09-30 2001-04-13 Fuji Xerox Co Ltd Device for providing merchandise information
JP2001184317A (en) * 1999-12-24 2001-07-06 Casio Comput Co Ltd Wave motion graph display controller and storage medium
JP2003099177A (en) * 2001-09-21 2003-04-04 Fuji Xerox Co Ltd Method for preparing haptic information and method for presenting haptic information and its device
JP2004527844A (en) * 2001-04-12 2004-09-09 インターナショナル・ビジネス・マシーンズ・コーポレーション Active ALT Tags in HTML Documents to Improve Accessibility for Users with Hearing Impairment

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000171390A (en) * 1998-12-07 2000-06-23 Hitachi Ltd Light measuring method and device therefor
JP2001074508A (en) * 1999-08-31 2001-03-23 Toshiba Corp Environemnt monitoring device and method using tactile sense
JP2001101288A (en) * 1999-09-30 2001-04-13 Fuji Xerox Co Ltd Device for providing merchandise information
JP2001184317A (en) * 1999-12-24 2001-07-06 Casio Comput Co Ltd Wave motion graph display controller and storage medium
JP2004527844A (en) * 2001-04-12 2004-09-09 インターナショナル・ビジネス・マシーンズ・コーポレーション Active ALT Tags in HTML Documents to Improve Accessibility for Users with Hearing Impairment
JP2003099177A (en) * 2001-09-21 2003-04-04 Fuji Xerox Co Ltd Method for preparing haptic information and method for presenting haptic information and its device

Also Published As

Publication number Publication date
JP2006268230A (en) 2006-10-05

Similar Documents

Publication Publication Date Title
Bowman et al. New directions in 3d user interfaces
JP6840702B2 (en) Friction Modulation for 3D Relief in Tactile Devices
JP6074170B2 (en) Short range motion tracking system and method
KR101885740B1 (en) Systems and methods for providing features in a friction display
Freeman et al. Multimodal feedback in HCI: haptics, non-speech audio, and their applications
JP2013037675A5 (en)
Mahr et al. Determining human-centered parameters of ergonomic micro-gesture interaction for drivers using the theater approach
KR20160118859A (en) System for providing interative design service based ar
JP5992934B2 (en) 3D viewing method
Stannus et al. Gestural navigation in google earth
Pusch et al. Augmented reality for operator training on industrial workplaces–Comparing the Microsoft hololens vs. small and big screen tactile devices
JP6732078B2 (en) System, method and non-transitory computer readable medium for integrating haptic overlays in augmented reality
JP4513620B2 (en) Information processing apparatus and data presentation method in information processing apparatus
JP4769942B2 (en) 3D design support system and 3D design support method
KR20140078083A (en) Method of manufacturing cartoon contents for augemented reality and apparatus performing the same
CN104081333A (en) Remote display area including input lenses each depicting a region of a graphical user interface
Papetti Design and perceptual investigations of audio-tactile interactions
JP4907156B2 (en) Three-dimensional pointing method, three-dimensional pointing device, and three-dimensional pointing program
JP3970906B2 (en) Information processing apparatus, information processing program, computer-readable recording medium storing information processing program, and information processing method
JP4185019B2 (en) Display device with audio output
Freeman et al. Interaction techniques with novel multimodal feedback for addressing gesture-sensing systems
KR20110116487A (en) Method and apparatus for hand-gesture based user interaction technique for 3-dimensional user interface
Kim et al. HAPmini: 2D haptic feedback generation using single actuator device
KR102014453B1 (en) Method for simulation displaying 3D user interface
Thompson III Evaluation of a commodity VR interaction device for gestural object manipulation in a three dimensional work environment

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080221

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100330

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100420

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100503

R150 Certificate of patent or registration of utility model

Ref document number: 4513620

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130521

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140521

Year of fee payment: 4

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350