JP2009175777A - Information processing apparatus and method - Google Patents

Information processing apparatus and method Download PDF

Info

Publication number
JP2009175777A
JP2009175777A JP2008010525A JP2008010525A JP2009175777A JP 2009175777 A JP2009175777 A JP 2009175777A JP 2008010525 A JP2008010525 A JP 2008010525A JP 2008010525 A JP2008010525 A JP 2008010525A JP 2009175777 A JP2009175777 A JP 2009175777A
Authority
JP
Japan
Prior art keywords
stimulus
virtual object
virtual
change
intrusion amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008010525A
Other languages
Japanese (ja)
Other versions
JP5235424B2 (en
Inventor
Makoto Sato
佐藤  誠
Naoki Hashimoto
直己 橋本
Tetsutoshi Sonoda
哲理 園田
Atsushi Nogami
敦史 野上
Naoki Nishimura
直樹 西村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2008010525A priority Critical patent/JP5235424B2/en
Publication of JP2009175777A publication Critical patent/JP2009175777A/en
Application granted granted Critical
Publication of JP5235424B2 publication Critical patent/JP5235424B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To make a person who experiences a virtual space appropriately perceive intrusion of an intruding object to a virtual object. <P>SOLUTION: An information processing apparatus calculates a change in intrusion quantity of the intruding object to the virtual object in a predetermined time, and controls, based on the change in intrusion quantity in the predetermined time, stimulation generation of a stimulation generation means which gives stimulation to the person who experiences the virtual space. <P>COPYRIGHT: (C)2009,JPO&INPIT

Description

本発明は、仮想物体の触覚を、体験者に知覚させる技術に関するものである。   The present invention relates to a technique for allowing an experienced person to perceive a sense of touch of a virtual object.

バーチャルリアリティの分野では、仮想物体を視覚的に体験するだけでなく、仮想物体に触れたときの触覚を体験者に体験させる触覚提示装置が提案されている。触覚提示装置には、仮想物体に触れたときの反力や、仮想物体に触れたときの皮膚表面の感覚を体験するものがある。   In the field of virtual reality, not only a virtual object is visually experienced but also a tactile sensation presentation apparatus that allows an experiencer to experience a tactile sensation when touching the virtual object has been proposed. Some tactile sense presentation devices experience a reaction force when touching a virtual object and a sense of the skin surface when touching the virtual object.

特許文献1には、オペレータが操作する手先位置を示す仮想ポインタと、仮想ポインタが仮想物体内に侵入したときの反力をマニピュレータによる反力で体験者に提示する技術が開示されている。特許文献1における反力Fvは、手先位置と仮想物体の侵入量drから、以下のように与えられる。
Fv=Kdr+Bq
ここで、Kはばね定数、Bは減衰係数、qは手先位置の時間微分である。ばね定数Kによって侵入量drに応じた反力を発生させ、また減衰係数Bを用いることによって、仮想物体に仮想ポインタが当たった瞬間の反力の感覚をより自然なものとしている。
特開平08−234899
Patent Document 1 discloses a technique for presenting a virtual pointer indicating a hand position operated by an operator and a reaction force when the virtual pointer enters a virtual object to an experienced person using a reaction force by a manipulator. The reaction force Fv in Patent Document 1 is given as follows from the hand position and the intrusion amount dr of the virtual object.
Fv = Kdr + Bq
Here, K is a spring constant, B is a damping coefficient, and q is a time derivative of the hand position. By using the spring constant K to generate a reaction force corresponding to the intrusion amount dr and using the damping coefficient B, the sense of reaction force at the moment when the virtual pointer hits the virtual object is made more natural.
JP 08-234899

特許文献1に開示された技術により仮想物体内に侵入したときの反力を体験者に知覚させることが出来る。しかし、一方で、人が感じることが出来る刺激強度には上限があり、刺激強度が大きくなると弁別可能な刺激強度差も大きくなるため、体験者はわずかな刺激強度差を知覚することが出来なくなる。特許文献1に開示された技術では、仮想物体との侵入量が大きくなるに従い反力も大きくなるため、体験者が弁別可能な反力の差を提示することが困難になるという課題があった。   With the technique disclosed in Patent Literature 1, it is possible to make the experience person perceive the reaction force when entering the virtual object. However, on the other hand, there is an upper limit on the stimulation intensity that a person can feel, and as the stimulation intensity increases, the difference in stimulation intensity that can be discriminated also increases, so that the experiencer cannot perceive a slight difference in stimulation intensity. . In the technique disclosed in Patent Document 1, the reaction force increases as the amount of intrusion with the virtual object increases, and thus there is a problem that it is difficult for the experiencer to present a difference in reaction force that can be discriminated.

特に、仮想ポインタを仮想物体に侵入させてから、離脱方向に移動させる場合、仮想物体との反力が大きくなっていることが多い。よって、仮想ポインタを離脱方向に移動させる場合、体験者は、仮想ポインタの離脱方向の移動に応じた反力の減少を適切に知覚することが困難になる。   In particular, when the virtual pointer is moved into the virtual object and then moved in the separation direction, the reaction force with the virtual object often increases. Therefore, when the virtual pointer is moved in the leaving direction, it is difficult for the experience person to properly perceive the decrease in the reaction force according to the movement of the virtual pointer in the leaving direction.

上記課題を鑑み、本発明は、仮想空間の体験者に仮想物体への侵入を適切に知覚させることを目的とする。   In view of the above problems, an object of the present invention is to allow a virtual space experience person to appropriately perceive an intrusion into a virtual object.

本発明は、所定時間の間隔で、仮想空間内の仮想物体の位置と、当該仮想物体に侵入する侵入物体の位置とを取得する位置取得手段と、前記仮想物体と前記侵入物体との位置に基づき、前記所定時間内における前記仮想物体への前記侵入物体の侵入量の変化を算出する変化算出手段と、前記所定時間内における前記侵入量の変化に基づき、前記仮想空間を体験する体験者に刺激を与える刺激発生手段の刺激発生を制御する制御手段とを有することを特徴とする。   The present invention provides position acquisition means for acquiring a position of a virtual object in a virtual space and a position of an intruding object that enters the virtual object at predetermined time intervals, and a position between the virtual object and the intruding object. Based on the change calculation means for calculating the change of the intrusion amount of the intruding object into the virtual object within the predetermined time, and for the experience person who experiences the virtual space based on the change of the intrusion amount within the predetermined time. And a control means for controlling the generation of the stimulus of the stimulus generating means for applying the stimulus.

上記構成により、本発明によれば、仮想空間の体験者に仮想物体への侵入を適切に知覚させることが出来る。   With the configuration described above, according to the present invention, it is possible to appropriately allow an experienced person in the virtual space to perceive the intrusion into the virtual object.

(第一の実施形態)
図1は、本実施形態における仮想空間上の仮想物体の触覚を提示するための触覚提示装置の構成を示す図である。
(First embodiment)
FIG. 1 is a diagram illustrating a configuration of a haptic presentation device for presenting a haptic sense of a virtual object in a virtual space according to the present embodiment.

101は、本実施形態における仮想空間を体験する体験者である。   Reference numeral 101 denotes an experience person who experiences the virtual space in the present embodiment.

102は、体験者101に対して触覚を提示するために、刺激を発生する刺激発生装置である。図1に示すように、刺激発生装置102は、棒形状などの体験者が把持しやすい形状の把持部材である。棒形状のほかに、着脱が容易な手袋やバンド形状などでも良い。刺激発生装置102は、仮想物体内に侵入する侵入物体として機能する。刺激発生装置102は体験者101により把持され、刺激発生装置102の一部分が仮想空間上の仮想物体に侵入した場合、刺激発生装置102が刺激を発生させることにより、体験者101は仮想物体の触覚を体験することが出来る。   Reference numeral 102 denotes a stimulus generation device that generates a stimulus in order to present a tactile sensation to the experience person 101. As shown in FIG. 1, the stimulus generator 102 is a gripping member having a shape such as a bar shape that is easy for an experienced person to grip. In addition to the rod shape, it may be a glove or band shape that is easy to attach and detach. The stimulus generator 102 functions as an intruding object that enters the virtual object. When the stimulus generator 102 is gripped by the experience person 101 and a part of the stimulus generator 102 enters a virtual object in the virtual space, the stimulus generator 102 generates a stimulus, thereby causing the experience person 101 to feel the virtual object. Can experience.

103は、刺激発生装置102上に配置され、刺激の発生源である刺激発生部である。刺激発生部103を用いて体験者に提示可能な刺激は、様々なものがある。刺激の種類としては、例えば、機械的刺激、電気的刺激、温度刺激などがある。機械的刺激は、体験者101に接している物体の振動や、物理的物体が接触することにより与えられる。機器的刺激を発生させる場合、刺激発生部103に偏心モータを配置し、偏心モータを回転させることで、機械的刺激を発生させることが出来る。また、圧電素子や高分子アクチュエータなどで体験者101に接触したピンを動作させることで、機械的刺激を発生させることが出来る。また、空気圧力により体験者101の皮膚表面を圧迫することにより、機械的刺激を発生させることが出来る。また、ボイスコイルなどを用いても機械的刺激を体験者101に与えることが出来る。   Reference numeral 103 denotes a stimulus generator disposed on the stimulus generator 102 and serving as a stimulus source. There are various types of stimuli that can be presented to the experience person using the stimulus generator 103. Examples of types of stimulation include mechanical stimulation, electrical stimulation, and temperature stimulation. The mechanical stimulus is given by the vibration of an object in contact with the experience person 101 or the contact of a physical object. When generating an instrumental stimulus, a mechanical stimulus can be generated by disposing an eccentric motor in the stimulus generator 103 and rotating the eccentric motor. Further, a mechanical stimulus can be generated by operating a pin in contact with the experience person 101 with a piezoelectric element or a polymer actuator. Moreover, a mechanical stimulus can be generated by pressing the skin surface of the experience person 101 with air pressure. Further, even when a voice coil or the like is used, a mechanical stimulus can be given to the experience person 101.

電気的刺激を発生させる場合、体験者101に接触した微小電極アレイに電流を流すことにより、電気的刺激を発生させることが出来る。また、温度刺激を発生させる場合、体験者101に接触した熱電素子に熱を発生させることにより、温度刺激を発生させることが出来る。   In the case of generating an electrical stimulus, the electrical stimulus can be generated by passing a current through the microelectrode array in contact with the experience person 101. Moreover, when generating a temperature stimulus, it is possible to generate a temperature stimulus by generating heat in the thermoelectric element in contact with the experience person 101.

以上のように複数の刺激と刺激の発生方法があるが、触覚提示のためには、以下の点で機械的刺激が望ましい。(1)刺激発生部103の小型化が容易であり可搬性が高い。(2)刺激強度が強く体験者101が刺激を知覚しやすい。(3)体験者101と刺激発生部103とが接触している必要がなく、刺激発生部103の配置の自由度が高い。よって、本実施形態では、機械的刺激を発生させる偏心モータを刺激発生部103に配置している。   As described above, there are a plurality of stimuli and methods for generating the stimuli, but for the tactile presentation, mechanical stimuli are desirable in the following points. (1) The stimulus generator 103 can be easily downsized and has high portability. (2) The stimulus intensity is strong and the experience person 101 can easily perceive the stimulus. (3) There is no need for the experience person 101 and the stimulus generator 103 to be in contact with each other, and the degree of freedom of arrangement of the stimulus generator 103 is high. Therefore, in the present embodiment, an eccentric motor that generates a mechanical stimulus is arranged in the stimulus generator 103.

図2は、体験者101が刺激発生装置102を把持している状態を示す図である。図2に示すように、体験者101が刺激発生部103を握り込み、刺激発生部103が駆動して刺激を発生させることにより、体験者101は触覚を体験することが出来る。   FIG. 2 is a diagram illustrating a state where the experience person 101 is holding the stimulus generation device 102. As shown in FIG. 2, the experience person 101 grasps the stimulus generation unit 103 and the stimulus generation part 103 is driven to generate a stimulus, so that the experience person 101 can experience tactile sensation.

104は、刺激発生装置102上に配置されたマーカである。マーカ104は、刺激発生装置102の位置および姿勢を表すための部材であり、特徴的な色と形状であることが望ましい。刺激発生装置102を撮像した撮像画像からマーカ104を検出することによって、刺激発生装置102の位置および姿勢を算出することが可能である。また、マーカ104を再帰性反射部材で形成することにより、赤外線同軸照明でマーカ104を検出することも可能である。   Reference numeral 104 denotes a marker arranged on the stimulus generator 102. The marker 104 is a member for representing the position and posture of the stimulus generator 102, and preferably has a characteristic color and shape. The position and orientation of the stimulus generator 102 can be calculated by detecting the marker 104 from the captured image obtained by capturing the stimulus generator 102. Further, by forming the marker 104 with a retroreflective member, the marker 104 can be detected by infrared coaxial illumination.

105は、刺激発生装置102を撮像するための撮像装置である。撮像装置102で取得された撮像画像は、刺激発生装置102の位置および姿勢を算出するために用いられる。   Reference numeral 105 denotes an imaging device for imaging the stimulus generator 102. The captured image acquired by the imaging device 102 is used to calculate the position and orientation of the stimulus generation device 102.

従って、撮像装置102とマーカ104との位置関係は、常に撮像装置102がマーカ104を撮像可能な位置関係であることが望ましい。例えば、複数のマーカ104を配置するか、撮像装置105がマーカ104の移動に追従して移動することによって、マーカ104を常に撮像可能にすることが出来る。撮像装置105は、一般的な可視光を撮像することが出来るビデオカメラなどから構成されている。   Therefore, the positional relationship between the imaging device 102 and the marker 104 is preferably a positional relationship in which the imaging device 102 can always capture the marker 104. For example, the marker 104 can always be imaged by arranging a plurality of markers 104 or by moving the imaging device 105 following the movement of the markers 104. The imaging device 105 includes a video camera that can capture general visible light.

106は、体験者101に対して仮想空間画像を表示する映像表示装置である。映像表示装置106は、HMD(ヘッドマウントディスプレイ)などの体験者101が装着可能な表示装置から構成される。HMD以外でも、CRTディスプレイや液晶ディスプレイ、プロジェクタ投影などでも代用可能である。   Reference numeral 106 denotes a video display device that displays a virtual space image to the experience person 101. The video display device 106 is configured by a display device that can be worn by the experienced person 101 such as an HMD (head mounted display). In addition to the HMD, a CRT display, a liquid crystal display, a projector projection, or the like can be substituted.

107は、本実施形態における触覚提示装置の様々な処理および制御を行う情報処理装置である。情報処理装置107は、CPU(セントラルプロセッシングユニット)、RAM(ランダムアクセスメモリ)、HDD(ハードディスクドライブ)などの一般的なPC(パーソナルコンピュータ)の構成を有する。RAMおよびHDDに格納されたデータおよびプログラムを読み出し、CPUが実行することにより、本実施形態に必要な処理および制御が達成される。   Reference numeral 107 denotes an information processing apparatus that performs various processes and controls of the tactile sense presentation apparatus according to the present embodiment. The information processing apparatus 107 has a general PC (personal computer) configuration such as a CPU (Central Processing Unit), RAM (Random Access Memory), and HDD (Hard Disk Drive). Data and programs stored in the RAM and HDD are read out and executed by the CPU, thereby achieving processing and control necessary for this embodiment.

以下に情報処理装置107の機能構成について説明する。   The functional configuration of the information processing apparatus 107 will be described below.

108は、本実施形態で用いるデータやプログラムを格納する記録装置である。記録装置108に格納されているデータには、マーカ104の検出プログラム、画像処理プログラム、刺激発生装置102と仮想空間上の仮想物体との侵入判定プログラム、制御プログラムなどが含まれる。また、記憶装置108には、体験者101に映像表示装置106で仮想空間画像を表示するための仮想空間データも格納されている。   Reference numeral 108 denotes a recording device that stores data and programs used in the present embodiment. The data stored in the recording device 108 includes a marker 104 detection program, an image processing program, an intrusion determination program between the stimulus generator 102 and a virtual object in the virtual space, a control program, and the like. The storage device 108 also stores virtual space data for displaying the virtual space image on the video display device 106 for the experience person 101.

仮想空間データには、例えば、仮想空間上の仮想物体を表現するためのポリゴンの座標値データ、各ポリゴンの法線ベクトルや色データ、テクスチャデータ、仮想物体の位置姿勢データなどが含まれる。本実施形態では、仮想物体に侵入した場合に刺激発生装置102上の刺激を発生させる部分に仮想物体を表示する。よって、仮想空間データには、仮想物体に侵入した場合に刺激発生装置102上の刺激を発生させる部分を示す仮想物体である仮想エンドエフェクタの形状データなども含まれる。仮想エンドエフェクタが仮想空間画像に重畳されることにより、体験者101は、仮想物体に侵入した場合に刺激発生装置102上の刺激を発生する部分を視覚的に確認することが出来る。仮想エンドエフェクタの位置は刺激発生部103の位置と同じ位置でも良い。しかし、例えば、刺激発生装置102が図3に示すような鉛筆形状である場合、鉛筆形状の先端部を仮想エンドエフェクタの位置にすると、体験者は仮想エンドエフェクタの位置を把握しやすくなる。記録装置108は、以上のデータを格納するためにHDDなどの記憶媒体から構成される。   The virtual space data includes, for example, polygon coordinate value data for representing a virtual object in the virtual space, normal vectors and color data of each polygon, texture data, and position and orientation data of the virtual object. In the present embodiment, a virtual object is displayed on a portion that generates a stimulus on the stimulus generator 102 when the virtual object is entered. Therefore, the virtual space data includes shape data of a virtual end effector that is a virtual object indicating a portion that generates a stimulus on the stimulus generator 102 when the virtual object is invaded. By superimposing the virtual end effector on the virtual space image, the experience person 101 can visually confirm a part that generates a stimulus on the stimulus generator 102 when the virtual object enters the virtual object. The position of the virtual end effector may be the same position as the position of the stimulus generator 103. However, for example, when the stimulus generator 102 has a pencil shape as shown in FIG. 3, if the tip of the pencil shape is set to the position of the virtual end effector, the experience person can easily grasp the position of the virtual end effector. The recording device 108 is composed of a storage medium such as an HDD for storing the above data.

109は、撮像装置105で撮像した画像からマーカ104を検出する位置検出部である。マーカ104は、特徴的な色や形状であるので、一般的な画像処理により画像上のマーカ104の位置を検出することが可能である。そして、検出された撮像画像上のマーカ104の位置と、撮像装置105の位置および姿勢から、三角測量などを用いて三次元空間上のマーカ104の位置を検出することが出来る。位置検出部109は、マーカ104の検出プログラムが格納されたRAM、マーカ104の検出プログラムを実行するためのCPUなどから構成される。   Reference numeral 109 denotes a position detection unit that detects the marker 104 from the image captured by the imaging device 105. Since the marker 104 has a characteristic color and shape, the position of the marker 104 on the image can be detected by general image processing. The position of the marker 104 in the three-dimensional space can be detected from the detected position of the marker 104 on the captured image and the position and orientation of the imaging device 105 using triangulation or the like. The position detection unit 109 includes a RAM in which a detection program for the marker 104 is stored, a CPU for executing the detection program for the marker 104, and the like.

110は、映像表示装置106に仮想空間画像を出力する画像出力部である。画像出力部110は、映像表示装置106の位置および姿勢を取得し、取得した位置および姿勢に応じた仮想空間画像を記録装置108の仮想空間データから生成する。また、画像出力部110は、撮像装置105から刺激発生装置102の位置および姿勢を取得し、生成した仮想空間画像上の刺激発生装置102の位置に仮想エンドエフェクタの画像を重畳する。そして、重畳処理された仮想空間画像を映像表示装置106に出力する。以上の処理によって、映像表示装置106を装着している体験者101は、仮想空間を視覚的に体験することが出来る。画像出力部110は、仮想空間画像を生成するための画像処理プログラムが格納されたRAM、画像処理プログラムを実行するためのCPUなどから構成される。   Reference numeral 110 denotes an image output unit that outputs a virtual space image to the video display device 106. The image output unit 110 acquires the position and orientation of the video display device 106, and generates a virtual space image corresponding to the acquired position and orientation from the virtual space data of the recording device 108. Further, the image output unit 110 acquires the position and orientation of the stimulus generator 102 from the imaging device 105, and superimposes the virtual end effector image on the position of the stimulus generator 102 on the generated virtual space image. Then, the superimposed virtual space image is output to the video display device 106. Through the above processing, the experience person 101 wearing the video display device 106 can visually experience the virtual space. The image output unit 110 includes a RAM that stores an image processing program for generating a virtual space image, a CPU for executing the image processing program, and the like.

111は、刺激発生装置102と体験者101が体験している仮想空間上の仮想物体とへの侵入を判定する侵入判定部である。侵入判定部111は、まず、位置検出部109から刺激発生装置102の位置および姿勢を取得する刺激発生装置102の位置取得手段として機能する。そして、記録装置108から仮想空間上の仮想物体の位置、姿勢および形状を取得する仮想物体の位置取得手段として機能し、仮想物体と刺激発生装置102の仮想エンドエフェクタとの仮想空間上での侵入を判定する。侵入判定には様々な方法がある。例えば、仮想エンドエフェクタの代表点を設定し、代表点が仮想物体の内部に位置しているか否かを判定することにより、仮想エンドエフェクタの仮想物体への侵入を判定することが出来る。また、三次元コンピュータグラフィックスの分野では、他の様々な侵入判定方法も提案されており、いずれの方法を用いても良い。侵入判定部111は侵入量の変化を算出する変化算出手段としても機能するが、侵入量の変化については後述する。侵入判定部111は、侵入判定プログラムが格納されたRAM、侵入判定プログラムを実行するためのCPUなどから構成される。   Reference numeral 111 denotes an intrusion determination unit that determines intrusion into the stimulus generation apparatus 102 and the virtual object in the virtual space experienced by the experience person 101. First, the intrusion determination unit 111 functions as a position acquisition unit of the stimulus generation device 102 that acquires the position and orientation of the stimulus generation device 102 from the position detection unit 109. Then, the virtual object functions as virtual object position acquisition means for acquiring the position, posture and shape of the virtual object in the virtual space from the recording device 108, and the virtual object and the virtual end effector of the stimulus generator 102 enter the virtual space. Determine. There are various methods for intrusion determination. For example, it is possible to determine whether the virtual end effector has entered the virtual object by setting a representative point of the virtual end effector and determining whether the representative point is located inside the virtual object. Further, in the field of three-dimensional computer graphics, various other intrusion determination methods have been proposed, and any method may be used. The intrusion determination unit 111 also functions as a change calculating unit that calculates a change in the intrusion amount. The change in the intrusion amount will be described later. The intrusion determination unit 111 includes a RAM in which an intrusion determination program is stored, a CPU for executing the intrusion determination program, and the like.

112は、侵入判定部の判定結果に基づき、刺激発生部103の刺激発生を制御する制御部である。本実施形態における制御部112の詳細な処理は後述する。制御部112かからの制御信号は、電源114から電力の供給を受けるアンプ113で増幅され、刺激発生部103に送信される。制御部112は、制御プログラムが格納されたRAM、制御プログラムを実行するためのCPUなどから構成される。   Reference numeral 112 denotes a control unit that controls the generation of stimulation by the stimulation generation unit 103 based on the determination result of the intrusion determination unit. Detailed processing of the control unit 112 in this embodiment will be described later. A control signal from the control unit 112 is amplified by an amplifier 113 that is supplied with power from the power source 114 and transmitted to the stimulus generation unit 103. The control unit 112 includes a RAM that stores a control program, a CPU that executes the control program, and the like.

以上、位置検出109、画像出力部110、侵入判定部111、制御部112は、それぞれ別のCPUとRAMとを備えるものとして説明したが、一つまたは複数のCPUおよびRAMを共有することも可能である。また、情報処理装置107の処理の一部またはすべては、専用のハードウェアを用いて実現することも可能である。   The position detection 109, the image output unit 110, the intrusion determination unit 111, and the control unit 112 have been described as including separate CPUs and RAMs, respectively, but it is also possible to share one or more CPUs and RAMs. It is. Also, part or all of the processing of the information processing apparatus 107 can be realized using dedicated hardware.

以上が、本実施形態における触覚提示装置のシステム構成である。次に、本実施形態における触覚提示のための詳細な処理を説明する。   The above is the system configuration of the tactile presentation device in the present embodiment. Next, detailed processing for presenting a tactile sensation in the present embodiment will be described.

図4は、本実施形態における触覚提示のための詳細な処理を示す図である。   FIG. 4 is a diagram showing a detailed process for presenting a tactile sensation in the present embodiment.

(ステップ401)ステップ401では、制御部112が、本実施形態における触覚提示システムの処理を開始する。触覚提示システムの処理の開始は、図1では図示されていない開始スイッチを体験者が入力し、入力指示を受けて、制御部112が処理を開始してもよい。   (Step 401) In step 401, the control part 112 starts the process of the tactile sense presentation system in this embodiment. The process of the tactile sense presentation system may be started by the experience person inputting a start switch (not shown in FIG. 1) and receiving the input instruction, and the control unit 112 may start the process.

(ステップ402)ステップ402では、画像出力部110が、映像表示装置106に仮想空間の画像を表示させる。表示される仮想空間の画像は、前述したように記録装置108に格納されたデータおよび刺激発生装置102の位置および姿勢に基づき生成される。   (Step 402) In step 402, the image output unit 110 causes the video display device 106 to display an image of the virtual space. The virtual space image to be displayed is generated based on the data stored in the recording device 108 and the position and orientation of the stimulus generator 102 as described above.

(ステップ403)ステップ403では、侵入判定部111が、刺激発生装置102の仮想エンドエフェクタの仮想空間上の仮想物体への侵入を判定する。   (Step 403) In Step 403, the intrusion determination unit 111 determines whether the virtual end effector of the stimulus generation apparatus 102 has entered the virtual object in the virtual space.

図5は、刺激発生装置102の仮想エンドエフェクタに仮想物体が侵入している状態を示す図である。   FIG. 5 is a diagram illustrating a state in which a virtual object has entered the virtual end effector of the stimulus generation device 102.

501は、仮想空間上に表示されている仮想物体である。図5で示されるように、仮想エンドエフェクタが仮想物体501の内部に位置している。前述したように、仮想物体501と仮想エンドエフェクタ502との侵入判定の際には、仮想エンドエフェクタ502の代表点を設定し、代表点が仮想物体501の内部に位置しているか否かを判定する。本ステップで仮想エンドエフェクタ502が仮想物体501に侵入していると判定された場合には、ステップ404に処理を進める。逆に、仮想エンドエフェクタ502が仮想物体501に侵入していないと判定された場合には、ステップ407に処理を進める。   Reference numeral 501 denotes a virtual object displayed in the virtual space. As shown in FIG. 5, the virtual end effector is located inside the virtual object 501. As described above, when determining the intrusion between the virtual object 501 and the virtual end effector 502, the representative point of the virtual end effector 502 is set, and it is determined whether or not the representative point is located inside the virtual object 501. To do. If it is determined in this step that the virtual end effector 502 has entered the virtual object 501, the process proceeds to step 404. Conversely, if it is determined that the virtual end effector 502 has not entered the virtual object 501, the process proceeds to step 407.

(ステップ404)ステップ404では、侵入判定部111が、刺激発生装置102の仮想エンドエフェクタ502による仮想空間上の仮想物体501の侵入量の変化を判定する。尚、本ステップでは、侵入量の変化とは、侵入量の増加もしくは減少のみを表すものではなく、増加量および減少量の大小なども表す。   (Step 404) In step 404, the intrusion determination unit 111 determines a change in the intrusion amount of the virtual object 501 in the virtual space by the virtual end effector 502 of the stimulus generation apparatus 102. In this step, the change in the intrusion amount represents not only the increase or decrease in the intrusion amount but also the increase amount and the decrease amount.

図6は、侵入量の判定方法を示す図である。本実施形態では、侵入量を判定するために、まず、刺激発生装置102が仮想物体501に侵入した点を通り、仮想物体501の表面の傾きに平行な基準面601を設定する。そして、仮想エンドエフェクタ502から仮想物体上に設定された基準面601に垂直なベクトルを算出する。   FIG. 6 is a diagram illustrating a method of determining the intrusion amount. In the present embodiment, in order to determine the intrusion amount, first, a reference plane 601 that passes through the point where the stimulus generator 102 has entered the virtual object 501 and is parallel to the inclination of the surface of the virtual object 501 is set. Then, a vector perpendicular to the reference plane 601 set on the virtual object is calculated from the virtual end effector 502.

602は、算出された侵入量を示すベクトルである。本ステップでは、本ステップ前に算出された侵入量を示すベクトル602がある場合、本ステップで算出された侵入量を示すベクトル602から本ステップ前に算出された侵入量を示すベクトル602を減算し、差を算出する。算出された差があらかじめ設定された値よりも大きい場合、侵入量に変化があったものとして、ステップ405に処理を進める。また、算出された差があらかじめ設定された所定値よりも小さい場合、侵入量に変化はなかったものとして、ステップ408に処理を進める。尚、本ステップ前に算出された侵入量を示すベクトル602がない場合、侵入量に変化があったとみなし、ステップ405に処理を進める。尚、本ステップで算出された差に対してローパスフィルタを適用することにより、ノイズによる誤差を低減し、判断精度を向上させることが出来る。また、本ステップでは、繰り返し処理の際に参照するために、算出した侵入量を示すベクトル602をRAMなどの一時記憶媒体に記憶しておく。   Reference numeral 602 denotes a vector indicating the calculated intrusion amount. In this step, if there is a vector 602 indicating the intrusion amount calculated before this step, the vector 602 indicating the intrusion amount calculated before this step is subtracted from the vector 602 indicating the intrusion amount calculated in this step. Calculate the difference. If the calculated difference is larger than a preset value, it is assumed that there has been a change in the intrusion amount, and the process proceeds to step 405. If the calculated difference is smaller than a predetermined value set in advance, the process proceeds to step 408 on the assumption that the intrusion amount has not changed. If there is no vector 602 indicating the intrusion amount calculated before this step, it is considered that the intrusion amount has changed, and the process proceeds to step 405. Note that by applying a low-pass filter to the difference calculated in this step, errors due to noise can be reduced and determination accuracy can be improved. Further, in this step, a vector 602 indicating the calculated intrusion amount is stored in a temporary storage medium such as a RAM for reference during the repeated processing.

(ステップ405)ステップ405では、侵入判定部111が、侵入量が増加しているか否かを判定する。ステップ404で算出された差が正のベクトルである場合、侵入量が増加しているとみなせるため、ステップ406に処理を進める。尚、ステップ404前に算出された侵入量を示すベクトル602がなかった場合も、ステップ406に処理を進める。一方、ステップ404で算出された差が正のベクトルではない場合、ステップ406に処理を進める。   (Step 405) In step 405, the intrusion determination unit 111 determines whether or not the intrusion amount has increased. If the difference calculated in step 404 is a positive vector, it can be considered that the intrusion amount has increased, so the process proceeds to step 406. If there is no vector 602 indicating the intrusion amount calculated before step 404, the process proceeds to step 406. On the other hand, if the difference calculated in step 404 is not a positive vector, the process proceeds to step 406.

(ステップ406)ステップ406では、制御部112が、刺激発生装置102の刺激発生部103を制御する。本実施形態では、仮想エンドエフェクタ502の仮想物体501への侵入状態に応じて、刺激発生部103の制御を変化させる。本実施形態では、以下の4つのモードを設定している。
・モード1:仮想エンドエフェクタ502が仮想物体501に侵入していない。
・モード2:仮想エンドエフェクタ502が仮想物体501に侵入しているが、仮想物体501への侵入量は変化していない。
・モード3:仮想エンドエフェクタ502が仮想物体501に侵入しており、仮想物体501への侵入量は減少している。
・モード4:仮想エンドエフェクタ502が仮想物体501に侵入しており、仮想物体501への侵入量は増加している。
(Step 406) In Step 406, the control unit 112 controls the stimulus generation unit 103 of the stimulus generation apparatus 102. In the present embodiment, the control of the stimulus generator 103 is changed in accordance with the intrusion state of the virtual end effector 502 into the virtual object 501. In the present embodiment, the following four modes are set.
Mode 1: The virtual end effector 502 has not entered the virtual object 501.
Mode 2: The virtual end effector 502 has entered the virtual object 501, but the amount of entry into the virtual object 501 has not changed.
Mode 3: The virtual end effector 502 has entered the virtual object 501, and the amount of entry into the virtual object 501 has decreased.
Mode 4: The virtual end effector 502 has entered the virtual object 501, and the amount of entry into the virtual object 501 has increased.

本ステップでは、ステップ403で侵入がないと判定さているため、モード1に応じた刺激発生部103の制御を行う。本実施形態では、以上の4つのモードを設定したが、触覚提示装置の構成などに応じてモードを増やしてもよいし、減らしても良い。それぞれのモードに応じた刺激を発生させることで、体験者101にとって自然な触覚を提示することが出来る。モード1からモード4それぞれの詳細な制御については、後述する。モード1に応じた刺激発生部103の制御を行った後は、ステップ410に処理を進める。   In this step, since it is determined in step 403 that there is no intrusion, the stimulus generator 103 is controlled according to mode 1. In the present embodiment, the above four modes are set, but the mode may be increased or decreased depending on the configuration of the tactile sense presentation device. By generating a stimulus according to each mode, a natural tactile sensation can be presented to the experience person 101. Detailed control of each of mode 1 to mode 4 will be described later. After controlling the stimulus generator 103 according to mode 1, the process proceeds to step 410.

(ステップ407)ステップ407では、ステップ404で侵入量に変化がないと判定されているため、制御部112が、モード2に応じた刺激発生部102の制御を行う。モード2に応じた刺激発生部103の制御を行った後は、ステップ410に処理を進める。   (Step 407) In Step 407, since it is determined in Step 404 that there is no change in the intrusion amount, the control unit 112 controls the stimulus generation unit 102 according to mode 2. After the stimulus generator 103 is controlled in accordance with mode 2, the process proceeds to step 410.

(ステップ408)ステップ408では、ステップ404で侵入量が変化しており、かつステップ405で侵入量は増加していないと判定されているため、制御部112が、モード3に応じた刺激発生部102の制御を行う。モード3に応じた刺激発生部103の制御を行った後は、ステップ410に処理を進める。   (Step 408) In Step 408, since it is determined that the intrusion amount has changed in Step 404 and the intrusion amount has not increased in Step 405, the control unit 112 performs the stimulus generation unit corresponding to mode 3. 102 is controlled. After the stimulus generator 103 is controlled according to mode 3, the process proceeds to step 410.

(ステップ409)ステップ409では、ステップ404で侵入量が変化しており、かつステップ405で侵入量は増加していると判定されているため、制御部112が、モード4に応じた刺激発生部102の制御を行う。モード4に応じた刺激発生部103の制御を行った後は、ステップ410に処理を進める。   (Step 409) In step 409, since it is determined that the intrusion amount has changed in step 404 and the intrusion amount has increased in step 405, the control unit 112 performs the stimulus generation unit corresponding to mode 4. 102 is controlled. After the stimulus generator 103 is controlled according to mode 4, the process proceeds to step 410.

(ステップ410)ステップ410では、制御部112が、触覚提示システムの処理を停止するか否かを判定する。システムの処理の停止判定は、一定時間後に自動的に行っても良いし、体験者101による停止スイッチの入力を受けて、制御部112が行ってもよい。本ステップで触覚提示システムの処理を停止しないと判定された場合、ステップ402に処理を戻す。本ステップで触覚提示システムの処理を停止すると判定された場合、ステップ411に処理を進める。   (Step 410) In step 410, the control unit 112 determines whether or not to stop the processing of the tactile sense presentation system. The stop of the processing of the system may be automatically performed after a certain time, or may be performed by the control unit 112 in response to an input of a stop switch by the experience person 101. If it is determined in this step that the process of the tactile sense presentation system is not stopped, the process returns to step 402. If it is determined in this step that the process of the tactile sense presentation system is to be stopped, the process proceeds to step 411.

(ステップ411)ステップ411では、制御部112が、ステップ410で触覚提示システムの処理を停止する旨の判定がなされているため、触覚提示システムの処理を停止する。   (Step 411) In step 411, the control unit 112 determines that the processing of the tactile presentation system is to be stopped in step 410, and therefore stops the processing of the tactile presentation system.

以上のステップ402からステップ410までの処理を所定時間の間隔ごとに繰り返すことで、体験者101に仮想空間を視覚的に体験させ、かつ適切な触覚提示を行うことが出来る。所定時間の間隔は、システムに対する要求に応じて、適宜設定してよい。所定時間の間隔を短くすることによって、体験者101にストレスを感じさせないリアルタイムの制御を行うことが出来る。   By repeating the processing from step 402 to step 410 at intervals of a predetermined time, it is possible to cause the experience person 101 to visually experience the virtual space and to present an appropriate tactile sensation. The interval of the predetermined time may be appropriately set according to a request for the system. By shortening the predetermined time interval, it is possible to perform real-time control without causing the experience person 101 to feel stress.

次に、ステップ406で説明したモード1からモード4までの制御部112による刺激発生部103の制御処理の詳細について説明する。   Next, details of the control processing of the stimulus generation unit 103 by the control unit 112 from mode 1 to mode 4 described in step 406 will be described.

図7は、仮想物体501への仮想エンドエフェクタ502の侵入量と、時間との対応関係を示したグラフである。図7に示すように、侵入量は時間と共に変化しており、本実施形態ではそれぞれに対応するモードが適用される。   FIG. 7 is a graph showing the correspondence between the amount of penetration of the virtual end effector 502 into the virtual object 501 and time. As shown in FIG. 7, the intrusion amount changes with time, and in the present embodiment, a mode corresponding to each is applied.

図8は、図7の侵入量変化に対応した刺激発生部103の刺激強度の変化を示したグラフである。図8に示すように、0からt1までの間と、t2からt3までの間は、モード4に対応しており、刺激発生部103は最も強い刺激を発生させる。侵入量が増加している場合であるモード4の場合に最も刺激を強くすることによって、体験者101は、刺激発生装置102が仮想物体501により侵入していく感覚を体験することが出来る。   FIG. 8 is a graph showing a change in the stimulus intensity of the stimulus generator 103 corresponding to the change in the intrusion amount in FIG. As shown in FIG. 8, the period from 0 to t1 and the period from t2 to t3 correspond to mode 4, and the stimulus generator 103 generates the strongest stimulus. By making the stimulus strongest in the case of mode 4 where the intrusion amount is increasing, the experience person 101 can experience the sense that the stimulus generator 102 invades through the virtual object 501.

また、t1からt2までの間と、t3からt4までの間は、モード2に対応しており、刺激発生部103は、モード4の場合よりも弱い刺激を発生させる。モード4の場合よりも弱い刺激を発生することによって、体験者101は、刺激発生装置102が仮想物体501に侵入している状態の感覚を体験することが出来る。   Further, the period from t1 to t2 and the period from t3 to t4 correspond to mode 2, and the stimulus generator 103 generates a weaker stimulus than in the case of mode 4. By generating a stimulus that is weaker than that in mode 4, the experience person 101 can experience a sense that the stimulus generator 102 is invading the virtual object 501.

また、t4からt3までの間は、モード3に対応しており、刺激発生部103は、モード2よりも弱い刺激を発生させる。モード2の場合よりも弱い刺激を発生することによって、体験者101は、刺激発生装置102が仮想物体501から引き抜かれていく感覚を体験することが出来る。また、モード2とモード3との刺激強度の差は、モード2とモード4との刺激量の差よりも小さくすることにより、体験者101は自然な触覚を体験することが出来る。   Further, the period from t4 to t3 corresponds to mode 3, and the stimulus generator 103 generates a stimulus that is weaker than that in mode 2. By generating a stimulus that is weaker than that in mode 2, the experience person 101 can experience the feeling that the stimulus generator 102 is pulled out of the virtual object 501. Further, by making the difference in stimulus intensity between mode 2 and mode 3 smaller than the difference in stimulus amount between mode 2 and mode 4, the experience person 101 can experience a natural tactile sensation.

また、t5からt6までの間は、モード1に対応しており、刺激発生部103は刺激を発生させない。刺激を発生させないことにより、体験者101は、刺激発生装置102の仮想物体501への侵入を知覚しない。   Further, the period from t5 to t6 corresponds to mode 1, and the stimulus generator 103 does not generate a stimulus. By not generating the stimulus, the experience person 101 does not perceive the intrusion of the stimulus generator 102 into the virtual object 501.

以上のように、モードに応じて刺激発生装置102の刺激強度を変化させることによって、体験者101はより自然な触覚を体験することが出来る。   As described above, the experience person 101 can experience a more natural tactile sensation by changing the stimulus intensity of the stimulus generator 102 according to the mode.

また、刺激発生装置102の仮想物体501への侵入量の増加に伴い、刺激発生装置102の刺激強度を強くする場合、体験者101の知覚範囲もしくは刺激発生装置102の駆動限界を越えてしまうことが想定される。しかし、本実施形態によれば、図8に示すようにモードに応じて、刺激強度を変化させることにより、刺激発生装置102の駆動限界を有効活用しつつ、体験者101に自然な触覚を体験させることが出来る。   In addition, when the stimulus intensity of the stimulus generator 102 is increased as the amount of the stimulus generator 102 entering the virtual object 501 increases, the perceived range of the experience person 101 or the drive limit of the stimulus generator 102 may be exceeded. Is assumed. However, according to the present embodiment, as shown in FIG. 8, by changing the stimulus intensity according to the mode, the user 101 can experience a natural tactile sensation while effectively utilizing the drive limit of the stimulus generator 102. It can be made.

図8では、モードに応じて刺激発生装置102の刺激強度を変化させる場合を示したが、他の方法により、体験者101に適切な触覚を体験させることも可能である。   Although FIG. 8 shows a case where the stimulus intensity of the stimulus generator 102 is changed according to the mode, the experience person 101 can also experience an appropriate tactile sense by other methods.

図9は、モードに応じて刺激の発生頻度を変化させる場合を示した図である。図9に示すように、モード1の場合は、刺激の発生頻度は0であり、体験者101は、刺激発生装置102の仮想物体501への侵入を知覚しない。また、モード4の場合は刺激の発生頻度を低くすることにより、刺激発生装置102から刺激を受けたときの体験者の知覚が大きくなり、体験者101は、刺激発生装置102が仮想物体501により侵入していく感覚に近い体験をすることが出来る。   FIG. 9 is a diagram showing a case where the frequency of occurrence of stimulation is changed according to the mode. As shown in FIG. 9, in the case of mode 1, the occurrence frequency of the stimulus is 0, and the experience person 101 does not perceive the intrusion of the stimulus generation apparatus 102 into the virtual object 501. Further, in the case of mode 4, by reducing the frequency of occurrence of stimulation, the perception of the experience person when receiving a stimulus from the stimulus generation apparatus 102 is increased, and the experience person 101 uses the virtual object 501 for the stimulus generation apparatus 102. You can have an experience close to the sense of intrusion.

また、モード2はモード4よりも発生頻度が高く、モード3はモード2によりも発生頻度を高くすると、体験者101は自然な触覚を体験することが出来る。   Further, when the occurrence frequency of mode 2 is higher than that of mode 4 and the occurrence frequency of mode 3 is higher than that of mode 2, the experience person 101 can experience a natural tactile sensation.

また、本実施形態では、ステップ406で4つのモードについて説明したが、前述したように、より多くのモードを設定しても良い。例えば、侵入量が増加もしくは減少する方向、速度、侵入状態の変化などによって、更に詳細にモードを分類しても良い。詳細にモードを分類し、モードに応じた刺激を発生させることにより、体験者101は、より自然な触覚を体験することが出来る。   In the present embodiment, the four modes have been described in step 406. However, as described above, more modes may be set. For example, the modes may be further classified according to the direction in which the intrusion amount increases or decreases, the speed, the change in the intrusion state, and the like. By classifying the modes in detail and generating stimuli according to the modes, the experience person 101 can experience a more natural tactile sensation.

(第二の実施形態)
第一の実施形態では、仮想エンドエフェクタを点として扱った。本実施形態では、仮想エンドエフェクタを三次元の立体形状とする。仮想エンドエフェクタの形状は第一の実施形態と異なるが、触覚提示装置のシステム構成は図1と同様であり、処理および制御も図4とほぼ同様である。
(Second embodiment)
In the first embodiment, the virtual end effector is treated as a point. In this embodiment, the virtual end effector has a three-dimensional solid shape. Although the shape of the virtual end effector is different from that of the first embodiment, the system configuration of the tactile sense presentation device is the same as that in FIG. 1, and the processing and control are also substantially the same as those in FIG.

図10は、本実施形態における仮想エンドエフェクタの例を示す図である。図10に示すように、図10の仮想エンドエフェクタは人の手の形状をしており、画像出力部110により、体験者101の手に重畳される。仮想エンドエフェクタとしては、人の手の形状のほかには、例えば、ヒジや足または工具の形状を用いることも出来る。   FIG. 10 is a diagram illustrating an example of a virtual end effector in the present embodiment. As shown in FIG. 10, the virtual end effector of FIG. 10 has the shape of a human hand, and is superimposed on the hand of the experience person 101 by the image output unit 110. As the virtual end effector, in addition to the shape of a human hand, for example, the shape of an elbow, a foot, or a tool can be used.

図11は、本実施形態における仮想エンドエフェクタの第二の例を示す図である。図11では、仮想エンドエフェクタとして工具の形状を用いている。   FIG. 11 is a diagram illustrating a second example of the virtual end effector in the present embodiment. In FIG. 11, the shape of a tool is used as a virtual end effector.

図12は、本実施形態における仮想エンドエフェクタ502の仮想物体501への侵入を示す図である。図12に示すように、本実施形態の仮想エンドエフェクタ502は、三次元の立体形状であるため、侵入の判定を行うことが困難である。   FIG. 12 is a diagram illustrating intrusion of the virtual end effector 502 into the virtual object 501 in the present embodiment. As shown in FIG. 12, the virtual end effector 502 of the present embodiment has a three-dimensional solid shape, so it is difficult to determine intrusion.

よって、本実施形態では、仮想エンドエフェクタ502上の複数の代表点を配置しておき、仮想エンドエフェクタ502と仮想物体501との侵入を判定する際には、複数の代表点の内、最深部の点を算出する。最深部の点の算出の際には、例えば、あらかじめ仮想物体501の重心点を取得しておき、複数の代表点の内、重心点と最も距離が近い点を最深部の点とする。   Therefore, in the present embodiment, when a plurality of representative points on the virtual end effector 502 are arranged and intrusion between the virtual end effector 502 and the virtual object 501 is determined, the deepest portion of the plurality of representative points is determined. The point is calculated. When calculating the deepest point, for example, the barycentric point of the virtual object 501 is acquired in advance, and the point closest to the barycentric point among the plurality of representative points is set as the deepest point.

図13は、本実施形態における最深部の点を示す図である。図13では、1301は最深部の点を示している。最深部の点1301を、第一の実施形態における仮想エンドエフェクタ502の点として扱えば、第一の実施形態における図4と同様の処理を行うことが可能である。本実施形態のように、三次元の立体形状の仮想エンドエフェクタ502を用いることにより、体験者101はより自然な触覚を体験することが出来る。   FIG. 13 is a diagram showing the deepest point in the present embodiment. In FIG. 13, reference numeral 1301 denotes the deepest point. If the deepest point 1301 is handled as a point of the virtual end effector 502 in the first embodiment, the same processing as in FIG. 4 in the first embodiment can be performed. As in this embodiment, by using the virtual end effector 502 having a three-dimensional solid shape, the experience person 101 can experience a more natural tactile sensation.

図14は、基準面601の変化を示す図である。図4の処理では、侵入量を示すベクトル602の時間的変化に応じて、モードの切替えを行った。図14に示すように基準面601が時間とともに変化する場合でも、侵入量を示すベクトル602は変化する。   FIG. 14 is a diagram illustrating changes in the reference plane 601. In the process of FIG. 4, the mode is switched according to the temporal change of the vector 602 indicating the intrusion amount. As shown in FIG. 14, even when the reference plane 601 changes with time, the vector 602 indicating the intrusion amount changes.

(第三の実施形態)
第一の実施形態および第二の実施形態では、刺激発生部103が一つの場合について、説明した。本実施形態では、複数の刺激発生部103が配置される場合について、説明する。
(Third embodiment)
In the first embodiment and the second embodiment, the case where there is one stimulus generator 103 has been described. In the present embodiment, a case where a plurality of stimulus generators 103 are arranged will be described.

図15は、棒状の刺激発生装置102に複数の刺激発生部103が配置される場合を示す図である。図15に示すように複数の刺激発生部103を配置することにより、複雑な刺激を再現することが出来る。   FIG. 15 is a diagram illustrating a case where a plurality of stimulus generators 103 are arranged in the rod-like stimulus generator 102. By arranging a plurality of stimulus generators 103 as shown in FIG. 15, complex stimuli can be reproduced.

図16は、人の手の形状の刺激発生装置102に複数の刺激発生部103が配置される場合を示す図である。   FIG. 16 is a diagram illustrating a case where a plurality of stimulus generation units 103 are arranged in a stimulus generation device 102 in the shape of a human hand.

図17は、複数の刺激発生部103が配置された刺激発生装置102の仮想物体501への侵入を示す図である。図17に示すように、複数の刺激発生部103が配置されている場合、それぞれの刺激発生部103を適切に制御しないと、体験者101に不自然な触覚が与えることになってしまう。   FIG. 17 is a diagram illustrating the intrusion into the virtual object 501 of the stimulus generator 102 in which a plurality of stimulus generators 103 are arranged. As shown in FIG. 17, when a plurality of stimulus generators 103 are arranged, if the stimulus generators 103 are not appropriately controlled, an unnatural tactile sensation is given to the experience person 101.

図18は、本実施形態における触覚提示装置の第一の制御方法を示す図である。図18の制御方法は、第二の実施形態における制御方法と同様である。第二の実施形態と同様に最深部1301を設定し、最深部1301の位置に基づき、複数の刺激発生部103に対して同じ制御処理を行う。   FIG. 18 is a diagram showing a first control method of the tactile presentation device in the present embodiment. The control method in FIG. 18 is the same as the control method in the second embodiment. As in the second embodiment, the deepest portion 1301 is set, and the same control processing is performed on the plurality of stimulus generators 103 based on the position of the deepest portion 1301.

また、最深部1301の位置に基づき、複数の刺激発生部103を制御する方法としては、以下のような方法もある。まず、複数の刺激発生部103を、以下のA〜Bの三種類に分類する。A:最深部の点1301近傍に位置している刺激発生部103、B:仮想物体501の表面近傍に位置している刺激発生部103、C:A、Bのいずれにも該当しない刺激発生部103。そして、上記モード1〜モード4に応じて、A〜Bの三種類に分類された刺激発生部103をそれぞれ以下のように、制御する。
・モード1:すべての刺激発生部103は、刺激を発生させない。
・モード2:すべての刺激発生部103は、強度中の刺激を発生させる。
・モード3:AもしくはBに分類された刺激発生部103は、強度中の刺激を発生させる。Cに分類された刺激発生部103は、強度小の刺激を発生させる。
・モード4:Aに分類された刺激発生部103は、強度大の刺激を発生させる。BもしくはCに分類された刺激発生部103は、強度中の刺激を発生させる。
In addition, as a method for controlling the plurality of stimulus generators 103 based on the position of the deepest portion 1301, the following method is also available. First, the plurality of stimulus generators 103 are classified into the following three types A to B. A: Stimulus generator 103 located near the deepest point 1301, B: Stimulus generator 103 located near the surface of the virtual object 501, C: Stimulus generator not corresponding to any of A and B 103. And according to the said mode 1-mode 4, the irritation | stimulation generation | occurrence | production part 103 classified into three types of AB is controlled as follows, respectively.
Mode 1: All stimulus generators 103 do not generate a stimulus.
Mode 2: All stimulus generators 103 generate stimuli in intensity.
Mode 3: The stimulus generation unit 103 classified as A or B generates a stimulus in intensity. The stimulus generator 103 classified as C generates a stimulus with a low intensity.
Mode 4: The stimulus generator 103 classified as A generates a strong stimulus. The stimulus generator 103 classified as B or C generates a stimulus in intensity.

以上のように制御することにより、例えば、モード3において、最深部の点1301近傍および仮想物体501の表面近傍以外の刺激発生部103の刺激を小さくするため、体験者101により自然な離脱感覚を体験させることが出来る。   By controlling as described above, for example, in mode 3, in order to reduce the stimulation of the stimulus generation unit 103 other than the vicinity of the deepest point 1301 and the vicinity of the surface of the virtual object 501, the experience person 101 has a natural feeling of withdrawal. It can be experienced.

図19は、本実施形態における第二の制御方法を示す図である。図19の制御方法は、複数の刺激発生部103それぞれの位置を、第一の実施形態におけるエンドエフェクタ502の位置とみなし、複数の刺激発生部103それぞれを独立に制御する方法である。複数の刺激発生部103をそれぞれ独立に制御することによって、刺激発生装置102の仮想物体501への部分的な侵入も再現することができるため、体験者101により自然な触覚を提示することが出来る。   FIG. 19 is a diagram illustrating a second control method in the present embodiment. The control method in FIG. 19 is a method in which the positions of the plurality of stimulus generators 103 are regarded as the positions of the end effector 502 in the first embodiment, and the plurality of stimulus generators 103 are independently controlled. By controlling each of the plurality of stimulus generators 103 independently, partial intrusion of the stimulus generator 102 into the virtual object 501 can also be reproduced, so that a natural tactile sensation can be presented by the experience person 101. .

(第四の実施形態)
第一の実施形態によれば、刺激発生部103の仮想物体501への侵入量が増加している場合には、モード4を適用し、刺激発生部103は強い刺激を発生させていた。しかし、前述したように、侵入速度に応じてモード4を更に分類しても良い。
(Fourth embodiment)
According to the first embodiment, when the intrusion amount of the stimulus generator 103 into the virtual object 501 is increased, the mode 4 is applied, and the stimulus generator 103 generates a strong stimulus. However, as described above, mode 4 may be further classified according to the penetration speed.

図20は、図7における時間0から時間t1までの間を拡大し、時間の経過と侵入量dの変化との対応を示した図である。図20から分かるように、時間0から時間t01までおよび時間t02から時間t1までの間は、比較的侵入速度が大きくなっており、モード4.1を適用している。そして、時間t01から時間t02までの間は比較的侵入速度が小さくなっており、モード4.2を適用している。本実施形態におけるモード4の分類は、以下の通りである。
モード4.1:侵入速度が比較的大きく、刺激発生部103の刺激強度を時間とともに大きくする。
モード4.2:侵入速度が比較的小さく、刺激発生部103の刺激強度は変化しない。
FIG. 20 is a diagram showing the correspondence between the passage of time and the change in the intrusion amount d by enlarging the period from time 0 to time t1 in FIG. As can be seen from FIG. 20, the intrusion speed is relatively high from time 0 to time t01 and from time t02 to time t1, and mode 4.1 is applied. The intrusion speed is relatively small from time t01 to time t02, and mode 4.2 is applied. The classification of mode 4 in this embodiment is as follows.
Mode 4.1: The penetration speed is relatively high, and the stimulus intensity of the stimulus generator 103 is increased with time.
Mode 4.2: The penetration speed is relatively small, and the stimulus intensity of the stimulus generator 103 does not change.

図21は、上記モード4の分類に応じた時間経過と刺激強度Sとの対応を示す図である。図21から分かるように、モード4.1の場合、刺激強度が時間とともに増加しており、モード4.2の場合は、刺激強度は変化しない。このように、モードを更に分類することにより、より自然な触覚を体験者101に体験させることが出来る。また、モード4に限らず、モード1〜モード3を更に、侵入速度や、侵入量dに応じて分類してもよい。   FIG. 21 is a diagram showing the correspondence between the passage of time and the stimulation intensity S according to the classification of mode 4 described above. As can be seen from FIG. 21, in the case of mode 4.1, the stimulation intensity increases with time, and in the case of mode 4.2, the stimulation intensity does not change. In this way, by further classifying the modes, the experience person 101 can experience a more natural tactile sensation. Further, not only mode 4 but also modes 1 to 3 may be further classified according to intrusion speed and intrusion amount d.

第一の実施形態における仮想空間上の仮想物体の触覚を提示するための触覚提示装置の構成を示す図である。It is a figure which shows the structure of the tactile sense presentation apparatus for presenting the tactile sense of the virtual object in virtual space in 1st embodiment. 体験者が刺激発生装置を把持している状態を示す図である。It is a figure which shows the state in which the experience person is holding the stimulus generator. 鉛筆形状の刺激発生装置を示す図である。It is a figure which shows the pencil-shaped irritation | stimulation generator. 第一の実施形態における触覚提示装置のための詳細な処理を示す図である。It is a figure which shows the detailed process for the tactile sense presentation apparatus in 1st embodiment. 刺激発生装置の仮想エンドエフェクタが仮想物体へ侵入している状態を示す図である。It is a figure which shows the state which the virtual end effector of the stimulus generator has penetrate | invaded into the virtual object. 刺激発生装置の仮想エンドエフェクタの仮想物体への侵入量の判定方法を示す図である。It is a figure which shows the determination method of the penetration | invasion amount to the virtual object of the virtual end effector of a stimulus generator. 仮想物体への仮想エンドエフェクタの侵入量と時間との対応関係を示す図である。It is a figure which shows the correspondence of the amount of penetration | invasion of the virtual end effector to a virtual object, and time. 図7の侵入量変化に対応した刺激発生装置の刺激強度の変化を示す図である。It is a figure which shows the change of the stimulus intensity | strength of the stimulus generator corresponding to the intrusion amount change of FIG. 侵入量変化に基づくモードに応じて刺激の発生頻度を変化させる場合を示す図である。It is a figure which shows the case where the generation frequency of a stimulus is changed according to the mode based on intrusion amount change. 第二の実施形態における仮想エンドエフェクタを示す図である。It is a figure which shows the virtual end effector in 2nd embodiment. 第二の実施形態における仮想エンドエフェクタを示す図である。It is a figure which shows the virtual end effector in 2nd embodiment. 第二の実施形態における仮想エンドエフェクタの仮想物体への侵入を示す図である。It is a figure which shows the penetration | invasion to the virtual object of the virtual end effector in 2nd embodiment. 第二の実施形態における仮想エンドエフェクタの最深部の点を示す図である。It is a figure which shows the point of the deepest part of the virtual end effector in 2nd embodiment. 第二の実施形態における仮想エンドエフェクタ上の基準面の変化を示す図である。It is a figure which shows the change of the reference plane on the virtual end effector in 2nd embodiment. 第三の実施形態における棒状の刺激発生装置に複数の刺激発生部が配置された場合を示す図である。It is a figure which shows the case where a some stimulus generation part is arrange | positioned at the rod-shaped stimulus generator in 3rd embodiment. 人の手の形状の刺激発生装置に複数の刺激発生部が配置された場合を示す図である。It is a figure which shows the case where a some stimulus generation part is arrange | positioned at the stimulus generator of the shape of a human hand. 複数の刺激発生部が配置された刺激発生装置の仮想物体への侵入を示す図である。It is a figure which shows the penetration | invasion to the virtual object of the stimulus generator with which the some stimulus generation part is arrange | positioned. 第三の実施形態における触覚提示装置の第一の制御方法を示す図である。It is a figure which shows the 1st control method of the tactile sense presentation apparatus in 3rd embodiment. 第三の実施形態における触覚提示装置の第二の制御方法を示す図である。It is a figure which shows the 2nd control method of the tactile sense presentation apparatus in 3rd embodiment. 第四の実施形態における時間の経過と侵入量dの変化との対応を示した図である。It is the figure which showed the response | compatibility with progress of time and the change of the penetration | invasion amount d in 4th embodiment. 第四の実施形態における時間経過と刺激強度Sとの対応を示す図である。It is a figure which shows a response | compatibility with the time passage in the fourth embodiment, and the stimulus intensity S.

Claims (10)

所定時間の間隔で、仮想空間内の仮想物体の位置と、当該仮想物体に侵入する侵入物体の位置とを取得する位置取得手段と、
前記仮想物体と前記侵入物体との位置に基づき、前記所定時間内における前記仮想物体への前記侵入物体の侵入量の変化を算出する変化算出手段と、
前記所定時間内における前記侵入量の変化に基づき、前記仮想空間を体験する体験者に刺激を与える刺激発生手段の刺激発生を制御する制御手段とを有することを特徴とする情報処理装置。
Position acquisition means for acquiring the position of the virtual object in the virtual space and the position of the intruding object entering the virtual object at a predetermined time interval;
Change calculating means for calculating a change in the intrusion amount of the intruding object into the virtual object within the predetermined time based on the positions of the virtual object and the intruding object;
An information processing apparatus comprising: a control unit that controls generation of a stimulus by a stimulus generation unit that gives a stimulus to an experience person who experiences the virtual space based on a change in the intrusion amount within the predetermined time.
前記侵入物体は、前記体験者が把持する把持部材であり、
前記刺激発生手段は、前記把持部材を振動させることにより、前記当該体験者に前記仮想物体の触覚を提示することを特徴とする請求項1に記載の情報処理装置。
The intruding object is a gripping member gripped by the experience person,
The information processing apparatus according to claim 1, wherein the stimulus generation unit presents a tactile sensation of the virtual object to the experience person by vibrating the gripping member.
前記侵入量は、前記仮想物体に対する前記侵入物体の最深部の点と、前記仮想物体上に設定された基準面との位置の差であることを特徴とする請求項1に記載の情報処理装置。   The information processing apparatus according to claim 1, wherein the intrusion amount is a difference in position between a deepest point of the intruding object with respect to the virtual object and a reference plane set on the virtual object. . 前記刺激発生部手段は、前記体験者の体に配置され、
前記侵入物体は、前記体験者の体の一部であることを特徴とする請求項1に記載の情報処理装置。
The stimulus generating means is disposed on the body of the experience person,
The information processing apparatus according to claim 1, wherein the intruding object is a part of the body of the experience person.
前記制御手段は、少なくとも、前記侵入量が変化していない場合と、前記侵入量が増加している場合と、前記侵入量が減少している場合とで、前記刺激発生手段の刺激発生を変化させることを特徴とする請求項1に記載の情報処理装置。   The control means changes the stimulus generation of the stimulus generation means at least when the intrusion amount has not changed, when the intrusion amount has increased, and when the intrusion amount has decreased. The information processing apparatus according to claim 1, wherein: 前記制御手段は、前記侵入量の変化が所定値よりも小さい場合は、前記侵入量が変化していない場合とみなし、前記刺激発生手段の刺激発生を制御することを特徴とする請求項5に記載の情報処理装置。   6. The control unit according to claim 5, wherein when the change in the intrusion amount is smaller than a predetermined value, the control unit regards that the intrusion amount has not changed, and controls the stimulus generation of the stimulus generation unit. The information processing apparatus described. 前記刺激発生手段は、偏心モータを備え、モータを回転させることにより機械的刺激を発生させることを特徴とする請求項1に記載の情報処理装置。   The information processing apparatus according to claim 1, wherein the stimulus generation unit includes an eccentric motor, and generates a mechanical stimulus by rotating the motor. 前記刺激発生手段は、複数の刺激発生部から構成され、
前記制御手段は、前記複数の刺激発生部それぞれの位置における前記侵入量の変化に基づき、前記複数の刺激発生部それぞれの刺激発生を制御することを特徴とする請求項1に記載の情報処理装置。
The stimulus generator is composed of a plurality of stimulus generators,
The information processing apparatus according to claim 1, wherein the control unit controls the generation of each of the plurality of stimulus generation units based on a change in the intrusion amount at each position of the plurality of stimulus generation units. .
位置取得手段が、所定時間の間隔で、仮想空間内の仮想物体の位置と、当該仮想物体に侵入する侵入物体の位置とを取得する位置取得工程と、
変化算出手段が、前記仮想物体と前記侵入物体との位置に基づき、前記所定時間内における前記仮想物体への前記侵入物体の変化を算出する変化算出工程と、
制御手段が、前記所定時間内における前記侵入量の変化に基づき、前記仮想空間を体験する体験者に刺激を与える刺激発生手段の刺激発生を制御する制御工程とを有することを特徴とする情報処理方法。
A position acquisition step in which the position acquisition means acquires the position of the virtual object in the virtual space and the position of the intruding object entering the virtual object at a predetermined time interval;
A change calculating step for calculating a change of the intruding object to the virtual object within the predetermined time based on a position of the virtual object and the intruding object;
And a control step of controlling a stimulus generation of a stimulus generation unit that gives a stimulus to an experience person experiencing the virtual space based on a change in the intrusion amount within the predetermined time. Method.
コンピュータを、
所定時間の間隔で、仮想空間内の仮想物体の位置と、当該仮想物体に侵入する侵入物体の位置とを取得する位置取得手段と、
前記仮想物体と前記侵入物体との位置に基づき、前記所定時間内における前記仮想物体への前記侵入物体の侵入量の変化を算出する変化算出手段と、
前記所定時間内における前記侵入量の変化に基づき、前記仮想空間を体験する体験者に刺激を与える刺激発生手段の刺激発生を制御する制御手段として機能させるためのプログラム。
Computer
Position acquisition means for acquiring the position of the virtual object in the virtual space and the position of the intruding object entering the virtual object at a predetermined time interval;
Change calculating means for calculating a change in the intrusion amount of the intruding object into the virtual object within the predetermined time based on the positions of the virtual object and the intruding object;
A program for functioning as a control means for controlling a stimulus generation of a stimulus generating means for giving a stimulus to an experience person experiencing the virtual space based on a change in the intrusion amount within the predetermined time.
JP2008010525A 2008-01-21 2008-01-21 Information processing apparatus and method Active JP5235424B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008010525A JP5235424B2 (en) 2008-01-21 2008-01-21 Information processing apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008010525A JP5235424B2 (en) 2008-01-21 2008-01-21 Information processing apparatus and method

Publications (2)

Publication Number Publication Date
JP2009175777A true JP2009175777A (en) 2009-08-06
JP5235424B2 JP5235424B2 (en) 2013-07-10

Family

ID=41030840

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008010525A Active JP5235424B2 (en) 2008-01-21 2008-01-21 Information processing apparatus and method

Country Status (1)

Country Link
JP (1) JP5235424B2 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011238070A (en) * 2010-05-11 2011-11-24 Nippon Hoso Kyokai <Nhk> Virtual tactile sense of force presentation device and virtual tactile sense of force presentation program
JP2014002668A (en) * 2012-06-20 2014-01-09 Nippon Hoso Kyokai <Nhk> Force sense guidance controller, force sense guidance controlling method, and force sense guidance controlling program
WO2018011929A1 (en) * 2016-07-13 2018-01-18 富士通株式会社 Touch sensation providing device and simulation system
WO2019044111A1 (en) * 2017-08-31 2019-03-07 ソニー株式会社 Tactile presentation apparatus

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08234899A (en) * 1995-02-28 1996-09-13 Suzuki Motor Corp Virtual reality system
JPH1020914A (en) * 1996-07-08 1998-01-23 Kawasaki Heavy Ind Ltd Simulated working method/device
WO2002073385A1 (en) * 2001-03-08 2002-09-19 National Institute Of Advanced Industrial Science And Technology Method and unit for presenting inner force sense using gyro
JP2003099808A (en) * 2001-09-25 2003-04-04 Gtv:Kk Image processing apparatus, virtual operation apparatus, program for causing computer to achieve image processing function, and image processing system
JP2003271891A (en) * 2002-03-15 2003-09-26 Matsushita Electric Works Ltd System for virtually experiencing commodity
JP2005190465A (en) * 2003-11-20 2005-07-14 National Institute Of Advanced Industrial & Technology Tactile force information display system and method
JP2007331066A (en) * 2006-06-15 2007-12-27 Canon Inc Contact presenting device and method

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08234899A (en) * 1995-02-28 1996-09-13 Suzuki Motor Corp Virtual reality system
JPH1020914A (en) * 1996-07-08 1998-01-23 Kawasaki Heavy Ind Ltd Simulated working method/device
WO2002073385A1 (en) * 2001-03-08 2002-09-19 National Institute Of Advanced Industrial Science And Technology Method and unit for presenting inner force sense using gyro
JP2003099808A (en) * 2001-09-25 2003-04-04 Gtv:Kk Image processing apparatus, virtual operation apparatus, program for causing computer to achieve image processing function, and image processing system
JP2003271891A (en) * 2002-03-15 2003-09-26 Matsushita Electric Works Ltd System for virtually experiencing commodity
JP2005190465A (en) * 2003-11-20 2005-07-14 National Institute Of Advanced Industrial & Technology Tactile force information display system and method
JP2007331066A (en) * 2006-06-15 2007-12-27 Canon Inc Contact presenting device and method

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011238070A (en) * 2010-05-11 2011-11-24 Nippon Hoso Kyokai <Nhk> Virtual tactile sense of force presentation device and virtual tactile sense of force presentation program
JP2014002668A (en) * 2012-06-20 2014-01-09 Nippon Hoso Kyokai <Nhk> Force sense guidance controller, force sense guidance controlling method, and force sense guidance controlling program
WO2018011929A1 (en) * 2016-07-13 2018-01-18 富士通株式会社 Touch sensation providing device and simulation system
WO2019044111A1 (en) * 2017-08-31 2019-03-07 ソニー株式会社 Tactile presentation apparatus
CN111033446A (en) * 2017-08-31 2020-04-17 索尼公司 Tactile presentation device
JPWO2019044111A1 (en) * 2017-08-31 2020-10-15 ソニー株式会社 Tactile presentation device
US11229837B2 (en) 2017-08-31 2022-01-25 Sony Corporation Haptic presentation apparatus
US20220096925A1 (en) * 2017-08-31 2022-03-31 Sony Corporation Haptic presentation system and apparatus
JP7176521B2 (en) 2017-08-31 2022-11-22 ソニーグループ株式会社 Tactile presentation device
US11801440B2 (en) 2017-08-31 2023-10-31 Sony Corporation Haptic presentation system and apparatus

Also Published As

Publication number Publication date
JP5235424B2 (en) 2013-07-10

Similar Documents

Publication Publication Date Title
US8553049B2 (en) Information-processing apparatus and information-processing method
JP4921113B2 (en) Contact presentation apparatus and method
JP2009276996A (en) Information processing apparatus, and information processing method
US9884248B2 (en) Display control method for head-mounted display (HMD) and image generation device
JP4926799B2 (en) Information processing apparatus and information processing method
JP2019083033A (en) Method, system and device for navigating in virtual reality environment
KR101917101B1 (en) Vibrating apparatus, system and method for generating tactile stimulation
JP2017059062A (en) Information processing device, information processing method and program
JP6736298B2 (en) Information processing apparatus, information processing method, and program
JP2008123431A (en) Contact presenting device and method
JPWO2019059364A1 (en) Remote control manipulator system and control device
WO2008067487A2 (en) Controlling a displayed presentation, such as a sexually explicit presentation
JP2018092313A (en) Information processor, information processing method and program
US20170269691A1 (en) Haptic method and device to capture and render sliding friction
EP3489804A1 (en) Haptic accessory apparatus
EP3470960A1 (en) Haptic effects with multiple peripheral devices
JP5235424B2 (en) Information processing apparatus and method
JP2017142785A (en) Information processing device, information processing method and program
CN106326523B (en) Information processing apparatus, information processing method, and computer program
JP2009087161A (en) Image processor and image processing method
JPH0990867A (en) Tactile sensing presentation device
Chen et al. A novel miniature multi-mode haptic pen for image interaction on mobile terminal
WO2021029256A1 (en) Information processing device, information processing method, and program
US20200356174A1 (en) Haptic feedback device
JP2016218916A (en) Information processing device, information processing method, and program

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100201

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20100630

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101221

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120314

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120605

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120806

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130226

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130326

R151 Written notification of patent or utility model registration

Ref document number: 5235424

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160405

Year of fee payment: 3